home *** CD-ROM | disk | FTP | other *** search
/ Freelog Special Freeware 31 / FreelogHS31.iso / Texte / scribus / scribus-1.3.3.9-win32-install.exe / lib / test / decimaltestdata / compare.decTest < prev    next >
Text File  |  2004-08-23  |  29KB  |  718 lines
  1. ------------------------------------------------------------------------
  2. -- compare.decTest -- decimal comparison                              --
  3. -- Copyright (c) IBM Corporation, 1981, 2003.  All rights reserved.   --
  4. ------------------------------------------------------------------------
  5. -- Please see the document "General Decimal Arithmetic Testcases"     --
  6. -- at http://www2.hursley.ibm.com/decimal for the description of      --
  7. -- these testcases.                                                   --
  8. --                                                                    --
  9. -- These testcases are experimental ('beta' versions), and they       --
  10. -- may contain errors.  They are offered on an as-is basis.  In       --
  11. -- particular, achieving the same results as the tests here is not    --
  12. -- a guarantee that an implementation complies with any Standard      --
  13. -- or specification.  The tests are not exhaustive.                   --
  14. --                                                                    --
  15. -- Please send comments, suggestions, and corrections to the author:  --
  16. --   Mike Cowlishaw, IBM Fellow                                       --
  17. --   IBM UK, PO Box 31, Birmingham Road, Warwick CV34 5JL, UK         --
  18. --   mfc@uk.ibm.com                                                   --
  19. ------------------------------------------------------------------------
  20. version: 2.39
  21.  
  22. -- Note that we cannot assume add/subtract tests cover paths adequately,
  23. -- here, because the code might be quite different (comparison cannot
  24. -- overflow or underflow, so actual subtractions are not necesary).
  25.  
  26. extended: 1
  27.  
  28. precision:   9
  29. rounding:    half_up
  30. maxExponent: 999
  31. minexponent: -999
  32.  
  33. -- sanity checks
  34. comx001 compare  -2  -2  -> 0
  35. comx002 compare  -2  -1  -> -1
  36. comx003 compare  -2   0  -> -1
  37. comx004 compare  -2   1  -> -1
  38. comx005 compare  -2   2  -> -1
  39. comx006 compare  -1  -2  -> 1
  40. comx007 compare  -1  -1  -> 0
  41. comx008 compare  -1   0  -> -1
  42. comx009 compare  -1   1  -> -1
  43. comx010 compare  -1   2  -> -1
  44. comx011 compare   0  -2  -> 1
  45. comx012 compare   0  -1  -> 1
  46. comx013 compare   0   0  -> 0
  47. comx014 compare   0   1  -> -1
  48. comx015 compare   0   2  -> -1
  49. comx016 compare   1  -2  -> 1
  50. comx017 compare   1  -1  -> 1
  51. comx018 compare   1   0  -> 1
  52. comx019 compare   1   1  -> 0
  53. comx020 compare   1   2  -> -1
  54. comx021 compare   2  -2  -> 1
  55. comx022 compare   2  -1  -> 1
  56. comx023 compare   2   0  -> 1
  57. comx025 compare   2   1  -> 1
  58. comx026 compare   2   2  -> 0
  59.  
  60. comx031 compare  -20  -20  -> 0
  61. comx032 compare  -20  -10  -> -1
  62. comx033 compare  -20   00  -> -1
  63. comx034 compare  -20   10  -> -1
  64. comx035 compare  -20   20  -> -1
  65. comx036 compare  -10  -20  -> 1
  66. comx037 compare  -10  -10  -> 0
  67. comx038 compare  -10   00  -> -1
  68. comx039 compare  -10   10  -> -1
  69. comx040 compare  -10   20  -> -1
  70. comx041 compare   00  -20  -> 1
  71. comx042 compare   00  -10  -> 1
  72. comx043 compare   00   00  -> 0
  73. comx044 compare   00   10  -> -1
  74. comx045 compare   00   20  -> -1
  75. comx046 compare   10  -20  -> 1
  76. comx047 compare   10  -10  -> 1
  77. comx048 compare   10   00  -> 1
  78. comx049 compare   10   10  -> 0
  79. comx050 compare   10   20  -> -1
  80. comx051 compare   20  -20  -> 1
  81. comx052 compare   20  -10  -> 1
  82. comx053 compare   20   00  -> 1
  83. comx055 compare   20   10  -> 1
  84. comx056 compare   20   20  -> 0
  85.  
  86. comx061 compare  -2.0  -2.0  -> 0
  87. comx062 compare  -2.0  -1.0  -> -1
  88. comx063 compare  -2.0   0.0  -> -1
  89. comx064 compare  -2.0   1.0  -> -1
  90. comx065 compare  -2.0   2.0  -> -1
  91. comx066 compare  -1.0  -2.0  -> 1
  92. comx067 compare  -1.0  -1.0  -> 0
  93. comx068 compare  -1.0   0.0  -> -1
  94. comx069 compare  -1.0   1.0  -> -1
  95. comx070 compare  -1.0   2.0  -> -1
  96. comx071 compare   0.0  -2.0  -> 1
  97. comx072 compare   0.0  -1.0  -> 1
  98. comx073 compare   0.0   0.0  -> 0
  99. comx074 compare   0.0   1.0  -> -1
  100. comx075 compare   0.0   2.0  -> -1
  101. comx076 compare   1.0  -2.0  -> 1
  102. comx077 compare   1.0  -1.0  -> 1
  103. comx078 compare   1.0   0.0  -> 1
  104. comx079 compare   1.0   1.0  -> 0
  105. comx080 compare   1.0   2.0  -> -1
  106. comx081 compare   2.0  -2.0  -> 1
  107. comx082 compare   2.0  -1.0  -> 1
  108. comx083 compare   2.0   0.0  -> 1
  109. comx085 compare   2.0   1.0  -> 1
  110. comx086 compare   2.0   2.0  -> 0
  111.  
  112. -- now some cases which might overflow if subtract were used
  113. maxexponent: 999999999
  114. minexponent: -999999999
  115. comx090 compare  9.99999999E+999999999 9.99999999E+999999999  -> 0
  116. comx091 compare -9.99999999E+999999999 9.99999999E+999999999  -> -1
  117. comx092 compare  9.99999999E+999999999 -9.99999999E+999999999 -> 1
  118. comx093 compare -9.99999999E+999999999 -9.99999999E+999999999 -> 0
  119.  
  120. -- some differing length/exponent cases
  121. comx100 compare   7.0    7.0    -> 0
  122. comx101 compare   7.0    7      -> 0
  123. comx102 compare   7      7.0    -> 0
  124. comx103 compare   7E+0   7.0    -> 0
  125. comx104 compare   70E-1  7.0    -> 0
  126. comx105 compare   0.7E+1 7      -> 0
  127. comx106 compare   70E-1  7      -> 0
  128. comx107 compare   7.0    7E+0   -> 0
  129. comx108 compare   7.0    70E-1  -> 0
  130. comx109 compare   7      0.7E+1 -> 0
  131. comx110 compare   7      70E-1  -> 0
  132.  
  133. comx120 compare   8.0    7.0    -> 1
  134. comx121 compare   8.0    7      -> 1
  135. comx122 compare   8      7.0    -> 1
  136. comx123 compare   8E+0   7.0    -> 1
  137. comx124 compare   80E-1  7.0    -> 1
  138. comx125 compare   0.8E+1 7      -> 1
  139. comx126 compare   80E-1  7      -> 1
  140. comx127 compare   8.0    7E+0   -> 1
  141. comx128 compare   8.0    70E-1  -> 1
  142. comx129 compare   8      0.7E+1  -> 1
  143. comx130 compare   8      70E-1  -> 1
  144.  
  145. comx140 compare   8.0    9.0    -> -1
  146. comx141 compare   8.0    9      -> -1
  147. comx142 compare   8      9.0    -> -1
  148. comx143 compare   8E+0   9.0    -> -1
  149. comx144 compare   80E-1  9.0    -> -1
  150. comx145 compare   0.8E+1 9      -> -1
  151. comx146 compare   80E-1  9      -> -1
  152. comx147 compare   8.0    9E+0   -> -1
  153. comx148 compare   8.0    90E-1  -> -1
  154. comx149 compare   8      0.9E+1 -> -1
  155. comx150 compare   8      90E-1  -> -1
  156.  
  157. -- and again, with sign changes -+ ..
  158. comx200 compare  -7.0    7.0    -> -1
  159. comx201 compare  -7.0    7      -> -1
  160. comx202 compare  -7      7.0    -> -1
  161. comx203 compare  -7E+0   7.0    -> -1
  162. comx204 compare  -70E-1  7.0    -> -1
  163. comx205 compare  -0.7E+1 7      -> -1
  164. comx206 compare  -70E-1  7      -> -1
  165. comx207 compare  -7.0    7E+0   -> -1
  166. comx208 compare  -7.0    70E-1  -> -1
  167. comx209 compare  -7      0.7E+1 -> -1
  168. comx210 compare  -7      70E-1  -> -1
  169.  
  170. comx220 compare  -8.0    7.0    -> -1
  171. comx221 compare  -8.0    7      -> -1
  172. comx222 compare  -8      7.0    -> -1
  173. comx223 compare  -8E+0   7.0    -> -1
  174. comx224 compare  -80E-1  7.0    -> -1
  175. comx225 compare  -0.8E+1 7      -> -1
  176. comx226 compare  -80E-1  7      -> -1
  177. comx227 compare  -8.0    7E+0   -> -1
  178. comx228 compare  -8.0    70E-1  -> -1
  179. comx229 compare  -8      0.7E+1 -> -1
  180. comx230 compare  -8      70E-1  -> -1
  181.  
  182. comx240 compare  -8.0    9.0    -> -1
  183. comx241 compare  -8.0    9      -> -1
  184. comx242 compare  -8      9.0    -> -1
  185. comx243 compare  -8E+0   9.0    -> -1
  186. comx244 compare  -80E-1  9.0    -> -1
  187. comx245 compare  -0.8E+1 9      -> -1
  188. comx246 compare  -80E-1  9      -> -1
  189. comx247 compare  -8.0    9E+0   -> -1
  190. comx248 compare  -8.0    90E-1  -> -1
  191. comx249 compare  -8      0.9E+1 -> -1
  192. comx250 compare  -8      90E-1  -> -1
  193.  
  194. -- and again, with sign changes +- ..
  195. comx300 compare   7.0    -7.0    -> 1
  196. comx301 compare   7.0    -7      -> 1
  197. comx302 compare   7      -7.0    -> 1
  198. comx303 compare   7E+0   -7.0    -> 1
  199. comx304 compare   70E-1  -7.0    -> 1
  200. comx305 compare   .7E+1  -7      -> 1
  201. comx306 compare   70E-1  -7      -> 1
  202. comx307 compare   7.0    -7E+0   -> 1
  203. comx308 compare   7.0    -70E-1  -> 1
  204. comx309 compare   7      -.7E+1  -> 1
  205. comx310 compare   7      -70E-1  -> 1
  206.  
  207. comx320 compare   8.0    -7.0    -> 1
  208. comx321 compare   8.0    -7      -> 1
  209. comx322 compare   8      -7.0    -> 1
  210. comx323 compare   8E+0   -7.0    -> 1
  211. comx324 compare   80E-1  -7.0    -> 1
  212. comx325 compare   .8E+1  -7      -> 1
  213. comx326 compare   80E-1  -7      -> 1
  214. comx327 compare   8.0    -7E+0   -> 1
  215. comx328 compare   8.0    -70E-1  -> 1
  216. comx329 compare   8      -.7E+1  -> 1
  217. comx330 compare   8      -70E-1  -> 1
  218.  
  219. comx340 compare   8.0    -9.0    -> 1
  220. comx341 compare   8.0    -9      -> 1
  221. comx342 compare   8      -9.0    -> 1
  222. comx343 compare   8E+0   -9.0    -> 1
  223. comx344 compare   80E-1  -9.0    -> 1
  224. comx345 compare   .8E+1  -9      -> 1
  225. comx346 compare   80E-1  -9      -> 1
  226. comx347 compare   8.0    -9E+0   -> 1
  227. comx348 compare   8.0    -90E-1  -> 1
  228. comx349 compare   8      -.9E+1  -> 1
  229. comx350 compare   8      -90E-1  -> 1
  230.  
  231. -- and again, with sign changes -- ..
  232. comx400 compare   -7.0    -7.0    -> 0
  233. comx401 compare   -7.0    -7      -> 0
  234. comx402 compare   -7      -7.0    -> 0
  235. comx403 compare   -7E+0   -7.0    -> 0
  236. comx404 compare   -70E-1  -7.0    -> 0
  237. comx405 compare   -.7E+1  -7      -> 0
  238. comx406 compare   -70E-1  -7      -> 0
  239. comx407 compare   -7.0    -7E+0   -> 0
  240. comx408 compare   -7.0    -70E-1  -> 0
  241. comx409 compare   -7      -.7E+1  -> 0
  242. comx410 compare   -7      -70E-1  -> 0
  243.  
  244. comx420 compare   -8.0    -7.0    -> -1
  245. comx421 compare   -8.0    -7      -> -1
  246. comx422 compare   -8      -7.0    -> -1
  247. comx423 compare   -8E+0   -7.0    -> -1
  248. comx424 compare   -80E-1  -7.0    -> -1
  249. comx425 compare   -.8E+1  -7      -> -1
  250. comx426 compare   -80E-1  -7      -> -1
  251. comx427 compare   -8.0    -7E+0   -> -1
  252. comx428 compare   -8.0    -70E-1  -> -1
  253. comx429 compare   -8      -.7E+1  -> -1
  254. comx430 compare   -8      -70E-1  -> -1
  255.  
  256. comx440 compare   -8.0    -9.0    -> 1
  257. comx441 compare   -8.0    -9      -> 1
  258. comx442 compare   -8      -9.0    -> 1
  259. comx443 compare   -8E+0   -9.0    -> 1
  260. comx444 compare   -80E-1  -9.0    -> 1
  261. comx445 compare   -.8E+1  -9      -> 1
  262. comx446 compare   -80E-1  -9      -> 1
  263. comx447 compare   -8.0    -9E+0   -> 1
  264. comx448 compare   -8.0    -90E-1  -> 1
  265. comx449 compare   -8      -.9E+1  -> 1
  266. comx450 compare   -8      -90E-1  -> 1
  267.  
  268.  
  269. -- testcases that subtract to lots of zeros at boundaries [pgr]
  270. precision: 40
  271. comx470 compare 123.4560000000000000E789 123.456E789 -> 0
  272. comx471 compare 123.456000000000000E-89 123.456E-89 -> 0
  273. comx472 compare 123.45600000000000E789 123.456E789 -> 0
  274. comx473 compare 123.4560000000000E-89 123.456E-89 -> 0
  275. comx474 compare 123.456000000000E789 123.456E789 -> 0
  276. comx475 compare 123.45600000000E-89 123.456E-89 -> 0
  277. comx476 compare 123.4560000000E789 123.456E789 -> 0
  278. comx477 compare 123.456000000E-89 123.456E-89 -> 0
  279. comx478 compare 123.45600000E789 123.456E789 -> 0
  280. comx479 compare 123.4560000E-89 123.456E-89 -> 0
  281. comx480 compare 123.456000E789 123.456E789 -> 0
  282. comx481 compare 123.45600E-89 123.456E-89 -> 0
  283. comx482 compare 123.4560E789 123.456E789 -> 0
  284. comx483 compare 123.456E-89 123.456E-89 -> 0
  285. comx484 compare 123.456E-89 123.4560000000000000E-89 -> 0
  286. comx485 compare 123.456E789 123.456000000000000E789 -> 0
  287. comx486 compare 123.456E-89 123.45600000000000E-89 -> 0
  288. comx487 compare 123.456E789 123.4560000000000E789 -> 0
  289. comx488 compare 123.456E-89 123.456000000000E-89 -> 0
  290. comx489 compare 123.456E789 123.45600000000E789 -> 0
  291. comx490 compare 123.456E-89 123.4560000000E-89 -> 0
  292. comx491 compare 123.456E789 123.456000000E789 -> 0
  293. comx492 compare 123.456E-89 123.45600000E-89 -> 0
  294. comx493 compare 123.456E789 123.4560000E789 -> 0
  295. comx494 compare 123.456E-89 123.456000E-89 -> 0
  296. comx495 compare 123.456E789 123.45600E789 -> 0
  297. comx496 compare 123.456E-89 123.4560E-89 -> 0
  298. comx497 compare 123.456E789 123.456E789 -> 0
  299.  
  300. -- wide-ranging, around precision; signs equal
  301. precision: 9
  302. comx500 compare    1     1E-15    -> 1
  303. comx501 compare    1     1E-14    -> 1
  304. comx502 compare    1     1E-13    -> 1
  305. comx503 compare    1     1E-12    -> 1
  306. comx504 compare    1     1E-11    -> 1
  307. comx505 compare    1     1E-10    -> 1
  308. comx506 compare    1     1E-9     -> 1
  309. comx507 compare    1     1E-8     -> 1
  310. comx508 compare    1     1E-7     -> 1
  311. comx509 compare    1     1E-6     -> 1
  312. comx510 compare    1     1E-5     -> 1
  313. comx511 compare    1     1E-4     -> 1
  314. comx512 compare    1     1E-3     -> 1
  315. comx513 compare    1     1E-2     -> 1
  316. comx514 compare    1     1E-1     -> 1
  317. comx515 compare    1     1E-0     -> 0
  318. comx516 compare    1     1E+1     -> -1
  319. comx517 compare    1     1E+2     -> -1
  320. comx518 compare    1     1E+3     -> -1
  321. comx519 compare    1     1E+4     -> -1
  322. comx521 compare    1     1E+5     -> -1
  323. comx522 compare    1     1E+6     -> -1
  324. comx523 compare    1     1E+7     -> -1
  325. comx524 compare    1     1E+8     -> -1
  326. comx525 compare    1     1E+9     -> -1
  327. comx526 compare    1     1E+10    -> -1
  328. comx527 compare    1     1E+11    -> -1
  329. comx528 compare    1     1E+12    -> -1
  330. comx529 compare    1     1E+13    -> -1
  331. comx530 compare    1     1E+14    -> -1
  332. comx531 compare    1     1E+15    -> -1
  333. -- LR swap
  334. comx540 compare    1E-15  1       -> -1
  335. comx541 compare    1E-14  1       -> -1
  336. comx542 compare    1E-13  1       -> -1
  337. comx543 compare    1E-12  1       -> -1
  338. comx544 compare    1E-11  1       -> -1
  339. comx545 compare    1E-10  1       -> -1
  340. comx546 compare    1E-9   1       -> -1
  341. comx547 compare    1E-8   1       -> -1
  342. comx548 compare    1E-7   1       -> -1
  343. comx549 compare    1E-6   1       -> -1
  344. comx550 compare    1E-5   1       -> -1
  345. comx551 compare    1E-4   1       -> -1
  346. comx552 compare    1E-3   1       -> -1
  347. comx553 compare    1E-2   1       -> -1
  348. comx554 compare    1E-1   1       -> -1
  349. comx555 compare    1E-0   1       ->  0
  350. comx556 compare    1E+1   1       ->  1
  351. comx557 compare    1E+2   1       ->  1
  352. comx558 compare    1E+3   1       ->  1
  353. comx559 compare    1E+4   1       ->  1
  354. comx561 compare    1E+5   1       ->  1
  355. comx562 compare    1E+6   1       ->  1
  356. comx563 compare    1E+7   1       ->  1
  357. comx564 compare    1E+8   1       ->  1
  358. comx565 compare    1E+9   1       ->  1
  359. comx566 compare    1E+10  1       ->  1
  360. comx567 compare    1E+11  1       ->  1
  361. comx568 compare    1E+12  1       ->  1
  362. comx569 compare    1E+13  1       ->  1
  363. comx570 compare    1E+14  1       ->  1
  364. comx571 compare    1E+15  1       ->  1
  365. -- similar with an useful coefficient, one side only
  366. comx580 compare  0.000000987654321     1E-15    -> 1
  367. comx581 compare  0.000000987654321     1E-14    -> 1
  368. comx582 compare  0.000000987654321     1E-13    -> 1
  369. comx583 compare  0.000000987654321     1E-12    -> 1
  370. comx584 compare  0.000000987654321     1E-11    -> 1
  371. comx585 compare  0.000000987654321     1E-10    -> 1
  372. comx586 compare  0.000000987654321     1E-9     -> 1
  373. comx587 compare  0.000000987654321     1E-8     -> 1
  374. comx588 compare  0.000000987654321     1E-7     -> 1
  375. comx589 compare  0.000000987654321     1E-6     -> -1
  376. comx590 compare  0.000000987654321     1E-5     -> -1
  377. comx591 compare  0.000000987654321     1E-4     -> -1
  378. comx592 compare  0.000000987654321     1E-3     -> -1
  379. comx593 compare  0.000000987654321     1E-2     -> -1
  380. comx594 compare  0.000000987654321     1E-1     -> -1
  381. comx595 compare  0.000000987654321     1E-0     -> -1
  382. comx596 compare  0.000000987654321     1E+1     -> -1
  383. comx597 compare  0.000000987654321     1E+2     -> -1
  384. comx598 compare  0.000000987654321     1E+3     -> -1
  385. comx599 compare  0.000000987654321     1E+4     -> -1
  386.  
  387. -- check some unit-y traps
  388. precision: 20
  389. comx600 compare   12            12.2345 -> -1
  390. comx601 compare   12.0          12.2345 -> -1
  391. comx602 compare   12.00         12.2345 -> -1
  392. comx603 compare   12.000        12.2345 -> -1
  393. comx604 compare   12.0000       12.2345 -> -1
  394. comx605 compare   12.00000      12.2345 -> -1
  395. comx606 compare   12.000000     12.2345 -> -1
  396. comx607 compare   12.0000000    12.2345 -> -1
  397. comx608 compare   12.00000000   12.2345 -> -1
  398. comx609 compare   12.000000000  12.2345 -> -1
  399. comx610 compare   12.1234 12            ->  1
  400. comx611 compare   12.1234 12.0          ->  1
  401. comx612 compare   12.1234 12.00         ->  1
  402. comx613 compare   12.1234 12.000        ->  1
  403. comx614 compare   12.1234 12.0000       ->  1
  404. comx615 compare   12.1234 12.00000      ->  1
  405. comx616 compare   12.1234 12.000000     ->  1
  406. comx617 compare   12.1234 12.0000000    ->  1
  407. comx618 compare   12.1234 12.00000000   ->  1
  408. comx619 compare   12.1234 12.000000000  ->  1
  409. comx620 compare  -12           -12.2345 ->  1
  410. comx621 compare  -12.0         -12.2345 ->  1
  411. comx622 compare  -12.00        -12.2345 ->  1
  412. comx623 compare  -12.000       -12.2345 ->  1
  413. comx624 compare  -12.0000      -12.2345 ->  1
  414. comx625 compare  -12.00000     -12.2345 ->  1
  415. comx626 compare  -12.000000    -12.2345 ->  1
  416. comx627 compare  -12.0000000   -12.2345 ->  1
  417. comx628 compare  -12.00000000  -12.2345 ->  1
  418. comx629 compare  -12.000000000 -12.2345 ->  1
  419. comx630 compare  -12.1234 -12           -> -1
  420. comx631 compare  -12.1234 -12.0         -> -1
  421. comx632 compare  -12.1234 -12.00        -> -1
  422. comx633 compare  -12.1234 -12.000       -> -1
  423. comx634 compare  -12.1234 -12.0000      -> -1
  424. comx635 compare  -12.1234 -12.00000     -> -1
  425. comx636 compare  -12.1234 -12.000000    -> -1
  426. comx637 compare  -12.1234 -12.0000000   -> -1
  427. comx638 compare  -12.1234 -12.00000000  -> -1
  428. comx639 compare  -12.1234 -12.000000000 -> -1
  429. precision: 9
  430.  
  431. -- extended zeros
  432. comx640 compare   0     0   -> 0
  433. comx641 compare   0    -0   -> 0
  434. comx642 compare   0    -0.0 -> 0
  435. comx643 compare   0     0.0 -> 0
  436. comx644 compare  -0     0   -> 0
  437. comx645 compare  -0    -0   -> 0
  438. comx646 compare  -0    -0.0 -> 0
  439. comx647 compare  -0     0.0 -> 0
  440. comx648 compare   0.0   0   -> 0
  441. comx649 compare   0.0  -0   -> 0
  442. comx650 compare   0.0  -0.0 -> 0
  443. comx651 compare   0.0   0.0 -> 0
  444. comx652 compare  -0.0   0   -> 0
  445. comx653 compare  -0.0  -0   -> 0
  446. comx654 compare  -0.0  -0.0 -> 0
  447. comx655 compare  -0.0   0.0 -> 0
  448.  
  449. comx656 compare  -0E1   0.0 -> 0
  450. comx657 compare  -0E2   0.0 -> 0
  451. comx658 compare   0E1   0.0 -> 0
  452. comx659 compare   0E2   0.0 -> 0
  453. comx660 compare  -0E1   0   -> 0
  454. comx661 compare  -0E2   0   -> 0
  455. comx662 compare   0E1   0   -> 0
  456. comx663 compare   0E2   0   -> 0
  457. comx664 compare  -0E1  -0E1 -> 0
  458. comx665 compare  -0E2  -0E1 -> 0
  459. comx666 compare   0E1  -0E1 -> 0
  460. comx667 compare   0E2  -0E1 -> 0
  461. comx668 compare  -0E1  -0E2 -> 0
  462. comx669 compare  -0E2  -0E2 -> 0
  463. comx670 compare   0E1  -0E2 -> 0
  464. comx671 compare   0E2  -0E2 -> 0
  465. comx672 compare  -0E1   0E1 -> 0
  466. comx673 compare  -0E2   0E1 -> 0
  467. comx674 compare   0E1   0E1 -> 0
  468. comx675 compare   0E2   0E1 -> 0
  469. comx676 compare  -0E1   0E2 -> 0
  470. comx677 compare  -0E2   0E2 -> 0
  471. comx678 compare   0E1   0E2 -> 0
  472. comx679 compare   0E2   0E2 -> 0
  473.  
  474. -- trailing zeros; unit-y
  475. precision: 20
  476. comx680 compare   12    12           -> 0
  477. comx681 compare   12    12.0         -> 0
  478. comx682 compare   12    12.00        -> 0
  479. comx683 compare   12    12.000       -> 0
  480. comx684 compare   12    12.0000      -> 0
  481. comx685 compare   12    12.00000     -> 0
  482. comx686 compare   12    12.000000    -> 0
  483. comx687 compare   12    12.0000000   -> 0
  484. comx688 compare   12    12.00000000  -> 0
  485. comx689 compare   12    12.000000000 -> 0
  486. comx690 compare   12              12 -> 0
  487. comx691 compare   12.0            12 -> 0
  488. comx692 compare   12.00           12 -> 0
  489. comx693 compare   12.000          12 -> 0
  490. comx694 compare   12.0000         12 -> 0
  491. comx695 compare   12.00000        12 -> 0
  492. comx696 compare   12.000000       12 -> 0
  493. comx697 compare   12.0000000      12 -> 0
  494. comx698 compare   12.00000000     12 -> 0
  495. comx699 compare   12.000000000    12 -> 0
  496.  
  497. -- long operand checks
  498. maxexponent: 999
  499. minexponent: -999
  500. precision: 9
  501. comx701 compare 12345678000  1 ->  1
  502. comx702 compare 1 12345678000  -> -1
  503. comx703 compare 1234567800   1 ->  1
  504. comx704 compare 1 1234567800   -> -1
  505. comx705 compare 1234567890   1 ->  1
  506. comx706 compare 1 1234567890   -> -1
  507. comx707 compare 1234567891   1 ->  1
  508. comx708 compare 1 1234567891   -> -1
  509. comx709 compare 12345678901  1 ->  1
  510. comx710 compare 1 12345678901  -> -1
  511. comx711 compare 1234567896   1 ->  1
  512. comx712 compare 1 1234567896   -> -1
  513. comx713 compare -1234567891  1 -> -1
  514. comx714 compare 1 -1234567891  ->  1
  515. comx715 compare -12345678901 1 -> -1
  516. comx716 compare 1 -12345678901 ->  1
  517. comx717 compare -1234567896  1 -> -1
  518. comx718 compare 1 -1234567896  ->  1
  519.  
  520. precision: 15
  521. -- same with plenty of precision
  522. comx721 compare 12345678000 1 -> 1
  523. comx722 compare 1 12345678000 -> -1
  524. comx723 compare 1234567800  1 -> 1
  525. comx724 compare 1 1234567800  -> -1
  526. comx725 compare 1234567890  1 -> 1
  527. comx726 compare 1 1234567890  -> -1
  528. comx727 compare 1234567891  1 -> 1
  529. comx728 compare 1 1234567891  -> -1
  530. comx729 compare 12345678901 1 -> 1
  531. comx730 compare 1 12345678901 -> -1
  532. comx731 compare 1234567896  1 -> 1
  533. comx732 compare 1 1234567896  -> -1
  534.  
  535. -- residue cases
  536. precision: 5
  537. comx740 compare  1  0.9999999  -> 1
  538. comx741 compare  1  0.999999   -> 1
  539. comx742 compare  1  0.99999    -> 1
  540. comx743 compare  1  1.0000     -> 0
  541. comx744 compare  1  1.00001    -> -1
  542. comx745 compare  1  1.000001   -> -1
  543. comx746 compare  1  1.0000001  -> -1
  544. comx750 compare  0.9999999  1  -> -1
  545. comx751 compare  0.999999   1  -> -1
  546. comx752 compare  0.99999    1  -> -1
  547. comx753 compare  1.0000     1  -> 0
  548. comx754 compare  1.00001    1  -> 1
  549. comx755 compare  1.000001   1  -> 1
  550. comx756 compare  1.0000001  1  -> 1
  551.  
  552. -- a selection of longies
  553. comx760 compare -36852134.84194296250843579428931 -5830629.8347085025808756560357940 -> -1
  554. comx761 compare -36852134.84194296250843579428931 -36852134.84194296250843579428931  -> 0
  555. comx762 compare -36852134.94194296250843579428931 -36852134.84194296250843579428931  -> -1
  556. comx763 compare -36852134.84194296250843579428931 -36852134.94194296250843579428931  -> 1
  557. -- precisions above or below the difference should have no effect
  558. precision:   11
  559. comx764 compare -36852134.84194296250843579428931 -36852134.94194296250843579428931  -> 1
  560. precision:   10
  561. comx765 compare -36852134.84194296250843579428931 -36852134.94194296250843579428931  -> 1
  562. precision:    9
  563. comx766 compare -36852134.84194296250843579428931 -36852134.94194296250843579428931  -> 1
  564. precision:    8
  565. comx767 compare -36852134.84194296250843579428931 -36852134.94194296250843579428931  -> 1
  566. precision:    7
  567. comx768 compare -36852134.84194296250843579428931 -36852134.94194296250843579428931  -> 1
  568. precision:    6
  569. comx769 compare -36852134.84194296250843579428931 -36852134.94194296250843579428931  -> 1
  570. precision:    5
  571. comx770 compare -36852134.84194296250843579428931 -36852134.94194296250843579428931  -> 1
  572. precision:    4
  573. comx771 compare -36852134.84194296250843579428931 -36852134.94194296250843579428931  -> 1
  574. precision:    3
  575. comx772 compare -36852134.84194296250843579428931 -36852134.94194296250843579428931  -> 1
  576. precision:    2
  577. comx773 compare -36852134.84194296250843579428931 -36852134.94194296250843579428931  -> 1
  578. precision:    1
  579. comx774 compare -36852134.84194296250843579428931 -36852134.94194296250843579428931  -> 1
  580.  
  581. -- Specials
  582. precision:   9
  583. comx780 compare  Inf  -Inf   ->  1
  584. comx781 compare  Inf  -1000  ->  1
  585. comx782 compare  Inf  -1     ->  1
  586. comx783 compare  Inf  -0     ->  1
  587. comx784 compare  Inf   0     ->  1
  588. comx785 compare  Inf   1     ->  1
  589. comx786 compare  Inf   1000  ->  1
  590. comx787 compare  Inf   Inf   ->  0
  591. comx788 compare -1000  Inf   -> -1
  592. comx789 compare -Inf   Inf   -> -1
  593. comx790 compare -1     Inf   -> -1
  594. comx791 compare -0     Inf   -> -1
  595. comx792 compare  0     Inf   -> -1
  596. comx793 compare  1     Inf   -> -1
  597. comx794 compare  1000  Inf   -> -1
  598. comx795 compare  Inf   Inf   ->  0
  599.  
  600. comx800 compare -Inf  -Inf   ->  0
  601. comx801 compare -Inf  -1000  -> -1
  602. comx802 compare -Inf  -1     -> -1
  603. comx803 compare -Inf  -0     -> -1
  604. comx804 compare -Inf   0     -> -1
  605. comx805 compare -Inf   1     -> -1
  606. comx806 compare -Inf   1000  -> -1
  607. comx807 compare -Inf   Inf   -> -1
  608. comx808 compare -Inf  -Inf   ->  0
  609. comx809 compare -1000 -Inf   ->  1
  610. comx810 compare -1    -Inf   ->  1
  611. comx811 compare -0    -Inf   ->  1
  612. comx812 compare  0    -Inf   ->  1
  613. comx813 compare  1    -Inf   ->  1
  614. comx814 compare  1000 -Inf   ->  1
  615. comx815 compare  Inf  -Inf   ->  1
  616.  
  617. comx821 compare  NaN -Inf    ->  NaN
  618. comx822 compare  NaN -1000   ->  NaN
  619. comx823 compare  NaN -1      ->  NaN
  620. comx824 compare  NaN -0      ->  NaN
  621. comx825 compare  NaN  0      ->  NaN
  622. comx826 compare  NaN  1      ->  NaN
  623. comx827 compare  NaN  1000   ->  NaN
  624. comx828 compare  NaN  Inf    ->  NaN
  625. comx829 compare  NaN  NaN    ->  NaN
  626. comx830 compare -Inf  NaN    ->  NaN
  627. comx831 compare -1000 NaN    ->  NaN
  628. comx832 compare -1    NaN    ->  NaN
  629. comx833 compare -0    NaN    ->  NaN
  630. comx834 compare  0    NaN    ->  NaN
  631. comx835 compare  1    NaN    ->  NaN
  632. comx836 compare  1000 NaN    ->  NaN
  633. comx837 compare  Inf  NaN    ->  NaN
  634. comx838 compare -NaN -NaN    -> -NaN
  635. comx839 compare +NaN -NaN    ->  NaN
  636. comx840 compare -NaN +NaN    -> -NaN
  637.  
  638. comx841 compare  sNaN -Inf   ->  NaN  Invalid_operation
  639. comx842 compare  sNaN -1000  ->  NaN  Invalid_operation
  640. comx843 compare  sNaN -1     ->  NaN  Invalid_operation
  641. comx844 compare  sNaN -0     ->  NaN  Invalid_operation
  642. comx845 compare  sNaN  0     ->  NaN  Invalid_operation
  643. comx846 compare  sNaN  1     ->  NaN  Invalid_operation
  644. comx847 compare  sNaN  1000  ->  NaN  Invalid_operation
  645. comx848 compare  sNaN  NaN   ->  NaN  Invalid_operation
  646. comx849 compare  sNaN sNaN   ->  NaN  Invalid_operation
  647. comx850 compare  NaN  sNaN   ->  NaN  Invalid_operation
  648. comx851 compare -Inf  sNaN   ->  NaN  Invalid_operation
  649. comx852 compare -1000 sNaN   ->  NaN  Invalid_operation
  650. comx853 compare -1    sNaN   ->  NaN  Invalid_operation
  651. comx854 compare -0    sNaN   ->  NaN  Invalid_operation
  652. comx855 compare  0    sNaN   ->  NaN  Invalid_operation
  653. comx856 compare  1    sNaN   ->  NaN  Invalid_operation
  654. comx857 compare  1000 sNaN   ->  NaN  Invalid_operation
  655. comx858 compare  Inf  sNaN   ->  NaN  Invalid_operation
  656. comx859 compare  NaN  sNaN   ->  NaN  Invalid_operation
  657.  
  658. -- propagating NaNs
  659. comx860 compare  NaN9 -Inf   ->  NaN9
  660. comx861 compare  NaN8  999   ->  NaN8
  661. comx862 compare  NaN77 Inf   ->  NaN77
  662. comx863 compare -NaN67 NaN5  -> -NaN67
  663. comx864 compare -Inf  -NaN4  -> -NaN4
  664. comx865 compare -999  -NaN33 -> -NaN33
  665. comx866 compare  Inf   NaN2  ->  NaN2
  666. comx867 compare -NaN41 -NaN42 -> -NaN41
  667. comx868 compare +NaN41 -NaN42 ->  NaN41
  668. comx869 compare -NaN41 +NaN42 -> -NaN41
  669. comx870 compare +NaN41 +NaN42 ->  NaN41
  670.  
  671. comx871 compare -sNaN99 -Inf    -> -NaN99 Invalid_operation
  672. comx872 compare  sNaN98 -11     ->  NaN98 Invalid_operation
  673. comx873 compare  sNaN97  NaN    ->  NaN97 Invalid_operation
  674. comx874 compare  sNaN16 sNaN94  ->  NaN16 Invalid_operation
  675. comx875 compare  NaN85  sNaN83  ->  NaN83 Invalid_operation
  676. comx876 compare -Inf    sNaN92  ->  NaN92 Invalid_operation
  677. comx877 compare  088    sNaN81  ->  NaN81 Invalid_operation
  678. comx878 compare  Inf    sNaN90  ->  NaN90 Invalid_operation
  679. comx879 compare  NaN   -sNaN89  -> -NaN89 Invalid_operation
  680.  
  681. -- overflow and underflow tests .. subnormal results now allowed
  682. maxExponent: 999999999
  683. minexponent: -999999999
  684. comx880 compare +1.23456789012345E-0 9E+999999999 -> -1
  685. comx881 compare 9E+999999999 +1.23456789012345E-0 ->  1
  686. comx882 compare +0.100 9E-999999999               ->  1
  687. comx883 compare 9E-999999999 +0.100               -> -1
  688. comx885 compare -1.23456789012345E-0 9E+999999999 -> -1
  689. comx886 compare 9E+999999999 -1.23456789012345E-0 ->  1
  690. comx887 compare -0.100 9E-999999999               -> -1
  691. comx888 compare 9E-999999999 -0.100               ->  1
  692.  
  693. comx889 compare 1e-599999999 1e-400000001   -> -1
  694. comx890 compare 1e-599999999 1e-400000000   -> -1
  695. comx891 compare 1e-600000000 1e-400000000   -> -1
  696. comx892 compare 9e-999999998 0.01           -> -1
  697. comx893 compare 9e-999999998 0.1            -> -1
  698. comx894 compare 0.01 9e-999999998           ->  1
  699. comx895 compare 1e599999999 1e400000001     ->  1
  700. comx896 compare 1e599999999 1e400000000     ->  1
  701. comx897 compare 1e600000000 1e400000000     ->  1
  702. comx898 compare 9e999999998 100             ->  1
  703. comx899 compare 9e999999998 10              ->  1
  704. comx900 compare 100  9e999999998            -> -1
  705. -- signs
  706. comx901 compare  1e+777777777  1e+411111111 ->  1
  707. comx902 compare  1e+777777777 -1e+411111111 ->  1
  708. comx903 compare -1e+777777777  1e+411111111 -> -1
  709. comx904 compare -1e+777777777 -1e+411111111 -> -1
  710. comx905 compare  1e-777777777  1e-411111111 -> -1
  711. comx906 compare  1e-777777777 -1e-411111111 ->  1
  712. comx907 compare -1e-777777777  1e-411111111 -> -1
  713. comx908 compare -1e-777777777 -1e-411111111 ->  1
  714.  
  715. -- Null tests
  716. comx990 compare 10  # -> NaN Invalid_operation
  717. comx991 compare  # 10 -> NaN Invalid_operation
  718.