home *** CD-ROM | disk | FTP | other *** search
/ Freelog Special Freeware 31 / FreelogHS31.iso / Texte / scribus / scribus-1.3.3.9-win32-install.exe / lib / test / decimaltestdata / quantize.decTest < prev    next >
Text File  |  2004-08-23  |  39KB  |  781 lines

  1. ------------------------------------------------------------------------
  2. -- quantize.decTest -- decimal quantize operation                     --
  3. -- Copyright (c) IBM Corporation, 1981, 2004.  All rights reserved.   --
  4. ------------------------------------------------------------------------
  5. -- Please see the document "General Decimal Arithmetic Testcases"     --
  6. -- at http://www2.hursley.ibm.com/decimal for the description of      --
  7. -- these testcases.                                                   --
  8. --                                                                    --
  9. -- These testcases are experimental ('beta' versions), and they       --
  10. -- may contain errors.  They are offered on an as-is basis.  In       --
  11. -- particular, achieving the same results as the tests here is not    --
  12. -- a guarantee that an implementation complies with any Standard      --
  13. -- or specification.  The tests are not exhaustive.                   --
  14. --                                                                    --
  15. -- Please send comments, suggestions, and corrections to the author:  --
  16. --   Mike Cowlishaw, IBM Fellow                                       --
  17. --   IBM UK, PO Box 31, Birmingham Road, Warwick CV34 5JL, UK         --
  18. --   mfc@uk.ibm.com                                                   --
  19. ------------------------------------------------------------------------
  20. version: 2.39
  21.  
  22. -- Most of the tests here assume a "regular pattern", where the
  23. -- sign and coefficient are +1.
  24. -- 2004.03.15 Underflow for quantize is suppressed
  25.  
  26. extended:    1
  27. precision:   9
  28. rounding:    half_up
  29. maxExponent: 999
  30. minexponent: -999
  31.  
  32. -- sanity checks
  33. quax001 quantize 0       1e0   -> 0
  34. quax002 quantize 1       1e0   -> 1
  35. quax003 quantize 0.1    1e+2   -> 0E+2 Inexact Rounded
  36. quax005 quantize 0.1    1e+1   -> 0E+1 Inexact Rounded
  37. quax006 quantize 0.1     1e0   -> 0 Inexact Rounded
  38. quax007 quantize 0.1    1e-1   -> 0.1
  39. quax008 quantize 0.1    1e-2   -> 0.10
  40. quax009 quantize 0.1    1e-3   -> 0.100
  41. quax010 quantize 0.9    1e+2   -> 0E+2 Inexact Rounded
  42. quax011 quantize 0.9    1e+1   -> 0E+1 Inexact Rounded
  43. quax012 quantize 0.9    1e+0   -> 1 Inexact Rounded
  44. quax013 quantize 0.9    1e-1   -> 0.9
  45. quax014 quantize 0.9    1e-2   -> 0.90
  46. quax015 quantize 0.9    1e-3   -> 0.900
  47. -- negatives
  48. quax021 quantize -0      1e0   -> -0
  49. quax022 quantize -1      1e0   -> -1
  50. quax023 quantize -0.1   1e+2   -> -0E+2 Inexact Rounded
  51. quax025 quantize -0.1   1e+1   -> -0E+1 Inexact Rounded
  52. quax026 quantize -0.1    1e0   -> -0 Inexact Rounded
  53. quax027 quantize -0.1   1e-1   -> -0.1
  54. quax028 quantize -0.1   1e-2   -> -0.10
  55. quax029 quantize -0.1   1e-3   -> -0.100
  56. quax030 quantize -0.9   1e+2   -> -0E+2 Inexact Rounded
  57. quax031 quantize -0.9   1e+1   -> -0E+1 Inexact Rounded
  58. quax032 quantize -0.9   1e+0   -> -1 Inexact Rounded
  59. quax033 quantize -0.9   1e-1   -> -0.9
  60. quax034 quantize -0.9   1e-2   -> -0.90
  61. quax035 quantize -0.9   1e-3   -> -0.900
  62. quax036 quantize -0.5   1e+2   -> -0E+2 Inexact Rounded
  63. quax037 quantize -0.5   1e+1   -> -0E+1 Inexact Rounded
  64. quax038 quantize -0.5   1e+0   -> -1 Inexact Rounded
  65. quax039 quantize -0.5   1e-1   -> -0.5
  66. quax040 quantize -0.5   1e-2   -> -0.50
  67. quax041 quantize -0.5   1e-3   -> -0.500
  68. quax042 quantize -0.9   1e+2   -> -0E+2 Inexact Rounded
  69. quax043 quantize -0.9   1e+1   -> -0E+1 Inexact Rounded
  70. quax044 quantize -0.9   1e+0   -> -1 Inexact Rounded
  71. quax045 quantize -0.9   1e-1   -> -0.9
  72. quax046 quantize -0.9   1e-2   -> -0.90
  73. quax047 quantize -0.9   1e-3   -> -0.900
  74.  
  75. -- examples from Specification
  76. quax060 quantize 2.17   0.001  -> 2.170
  77. quax061 quantize 2.17   0.01   -> 2.17
  78. quax062 quantize 2.17   0.1    -> 2.2 Inexact Rounded
  79. quax063 quantize 2.17   1e+0   -> 2 Inexact Rounded
  80. quax064 quantize 2.17   1e+1   -> 0E+1 Inexact Rounded
  81. quax065 quantize -Inf    Inf   -> -Infinity
  82. quax066 quantize 2       Inf   -> NaN Invalid_operation
  83. quax067 quantize -0.1    1     -> -0 Inexact Rounded
  84. quax068 quantize -0      1e+5     -> -0E+5
  85. quax069 quantize +35236450.6 1e-2 -> NaN Invalid_operation
  86. quax070 quantize -35236450.6 1e-2 -> NaN Invalid_operation
  87. quax071 quantize 217    1e-1   -> 217.0
  88. quax072 quantize 217    1e+0   -> 217
  89. quax073 quantize 217    1e+1   -> 2.2E+2 Inexact Rounded
  90. quax074 quantize 217    1e+2   -> 2E+2 Inexact Rounded
  91.  
  92. -- general tests ..
  93. quax089 quantize 12     1e+4   -> 0E+4 Inexact Rounded
  94. quax090 quantize 12     1e+3   -> 0E+3 Inexact Rounded
  95. quax091 quantize 12     1e+2   -> 0E+2 Inexact Rounded
  96. quax092 quantize 12     1e+1   -> 1E+1 Inexact Rounded
  97. quax093 quantize 1.2345 1e-2   -> 1.23 Inexact Rounded
  98. quax094 quantize 1.2355 1e-2   -> 1.24 Inexact Rounded
  99. quax095 quantize 1.2345 1e-6   -> 1.234500
  100. quax096 quantize 9.9999 1e-2   -> 10.00 Inexact Rounded
  101. quax097 quantize 0.0001 1e-2   -> 0.00 Inexact Rounded
  102. quax098 quantize 0.001  1e-2   -> 0.00 Inexact Rounded
  103. quax099 quantize 0.009  1e-2   -> 0.01 Inexact Rounded
  104. quax100 quantize 92     1e+2   -> 1E+2 Inexact Rounded
  105.  
  106. quax101 quantize -1      1e0   ->  -1
  107. quax102 quantize -1     1e-1   ->  -1.0
  108. quax103 quantize -1     1e-2   ->  -1.00
  109. quax104 quantize  0      1e0   ->  0
  110. quax105 quantize  0     1e-1   ->  0.0
  111. quax106 quantize  0     1e-2   ->  0.00
  112. quax107 quantize  0.00   1e0   ->  0
  113. quax108 quantize  0     1e+1   ->  0E+1
  114. quax109 quantize  0     1e+2   ->  0E+2
  115. quax110 quantize +1      1e0   ->  1
  116. quax111 quantize +1     1e-1   ->  1.0
  117. quax112 quantize +1     1e-2   ->  1.00
  118.  
  119. quax120 quantize   1.04  1e-3 ->  1.040
  120. quax121 quantize   1.04  1e-2 ->  1.04
  121. quax122 quantize   1.04  1e-1 ->  1.0 Inexact Rounded
  122. quax123 quantize   1.04   1e0 ->  1 Inexact Rounded
  123. quax124 quantize   1.05  1e-3 ->  1.050
  124. quax125 quantize   1.05  1e-2 ->  1.05
  125. quax126 quantize   1.05  1e-1 ->  1.1 Inexact Rounded
  126. quax127 quantize   1.05   1e0 ->  1 Inexact Rounded
  127. quax128 quantize   1.05  1e-3 ->  1.050
  128. quax129 quantize   1.05  1e-2 ->  1.05
  129. quax130 quantize   1.05  1e-1 ->  1.1 Inexact Rounded
  130. quax131 quantize   1.05   1e0 ->  1 Inexact Rounded
  131. quax132 quantize   1.06  1e-3 ->  1.060
  132. quax133 quantize   1.06  1e-2 ->  1.06
  133. quax134 quantize   1.06  1e-1 ->  1.1 Inexact Rounded
  134. quax135 quantize   1.06   1e0 ->  1 Inexact Rounded
  135.  
  136. quax140 quantize   -10    1e-2  ->  -10.00
  137. quax141 quantize   +1     1e-2  ->  1.00
  138. quax142 quantize   +10    1e-2  ->  10.00
  139. quax143 quantize   1E+10  1e-2  ->  NaN Invalid_operation
  140. quax144 quantize   1E-10  1e-2  ->  0.00 Inexact Rounded
  141. quax145 quantize   1E-3   1e-2  ->  0.00 Inexact Rounded
  142. quax146 quantize   1E-2   1e-2  ->  0.01
  143. quax147 quantize   1E-1   1e-2  ->  0.10
  144. quax148 quantize   0E-10  1e-2  ->  0.00
  145.  
  146. quax150 quantize   1.0600 1e-5 ->  1.06000
  147. quax151 quantize   1.0600 1e-4 ->  1.0600
  148. quax152 quantize   1.0600 1e-3 ->  1.060 Rounded
  149. quax153 quantize   1.0600 1e-2 ->  1.06 Rounded
  150. quax154 quantize   1.0600 1e-1 ->  1.1 Inexact Rounded
  151. quax155 quantize   1.0600  1e0 ->  1 Inexact Rounded
  152.  
  153. -- base tests with non-1 coefficients
  154. quax161 quantize 0      -9e0   -> 0
  155. quax162 quantize 1      -7e0   -> 1
  156. quax163 quantize 0.1   -1e+2   -> 0E+2 Inexact Rounded
  157. quax165 quantize 0.1    0e+1   -> 0E+1 Inexact Rounded
  158. quax166 quantize 0.1     2e0   -> 0 Inexact Rounded
  159. quax167 quantize 0.1    3e-1   -> 0.1
  160. quax168 quantize 0.1   44e-2   -> 0.10
  161. quax169 quantize 0.1  555e-3   -> 0.100
  162. quax170 quantize 0.9 6666e+2   -> 0E+2 Inexact Rounded
  163. quax171 quantize 0.9 -777e+1   -> 0E+1 Inexact Rounded
  164. quax172 quantize 0.9  -88e+0   -> 1 Inexact Rounded
  165. quax173 quantize 0.9   -9e-1   -> 0.9
  166. quax174 quantize 0.9    0e-2   -> 0.90
  167. quax175 quantize 0.9  1.1e-3   -> 0.9000
  168. -- negatives
  169. quax181 quantize -0    1.1e0   -> -0.0
  170. quax182 quantize -1     -1e0   -> -1
  171. quax183 quantize -0.1  11e+2   -> -0E+2 Inexact Rounded
  172. quax185 quantize -0.1 111e+1   -> -0E+1 Inexact Rounded
  173. quax186 quantize -0.1   71e0   -> -0 Inexact Rounded
  174. quax187 quantize -0.1 -91e-1   -> -0.1
  175. quax188 quantize -0.1 -.1e-2   -> -0.100
  176. quax189 quantize -0.1  -1e-3   -> -0.100
  177. quax190 quantize -0.9   0e+2   -> -0E+2 Inexact Rounded
  178. quax191 quantize -0.9  -0e+1   -> -0E+1 Inexact Rounded
  179. quax192 quantize -0.9 -10e+0   -> -1 Inexact Rounded
  180. quax193 quantize -0.9 100e-1   -> -0.9
  181. quax194 quantize -0.9 999e-2   -> -0.90
  182.  
  183. -- +ve exponents ..
  184. quax201 quantize   -1   1e+0 ->  -1
  185. quax202 quantize   -1   1e+1 ->  -0E+1 Inexact Rounded
  186. quax203 quantize   -1   1e+2 ->  -0E+2 Inexact Rounded
  187. quax204 quantize    0   1e+0 ->  0
  188. quax205 quantize    0   1e+1 ->  0E+1
  189. quax206 quantize    0   1e+2 ->  0E+2
  190. quax207 quantize   +1   1e+0 ->  1
  191. quax208 quantize   +1   1e+1 ->  0E+1 Inexact Rounded
  192. quax209 quantize   +1   1e+2 ->  0E+2 Inexact Rounded
  193.  
  194. quax220 quantize   1.04 1e+3 ->  0E+3 Inexact Rounded
  195. quax221 quantize   1.04 1e+2 ->  0E+2 Inexact Rounded
  196. quax222 quantize   1.04 1e+1 ->  0E+1 Inexact Rounded
  197. quax223 quantize   1.04 1e+0 ->  1 Inexact Rounded
  198. quax224 quantize   1.05 1e+3 ->  0E+3 Inexact Rounded
  199. quax225 quantize   1.05 1e+2 ->  0E+2 Inexact Rounded
  200. quax226 quantize   1.05 1e+1 ->  0E+1 Inexact Rounded
  201. quax227 quantize   1.05 1e+0 ->  1 Inexact Rounded
  202. quax228 quantize   1.05 1e+3 ->  0E+3 Inexact Rounded
  203. quax229 quantize   1.05 1e+2 ->  0E+2 Inexact Rounded
  204. quax230 quantize   1.05 1e+1 ->  0E+1 Inexact Rounded
  205. quax231 quantize   1.05 1e+0 ->  1 Inexact Rounded
  206. quax232 quantize   1.06 1e+3 ->  0E+3 Inexact Rounded
  207. quax233 quantize   1.06 1e+2 ->  0E+2 Inexact Rounded
  208. quax234 quantize   1.06 1e+1 ->  0E+1 Inexact Rounded
  209. quax235 quantize   1.06 1e+0 ->  1 Inexact Rounded
  210.  
  211. quax240 quantize   -10   1e+1  ->  -1E+1 Rounded
  212. quax241 quantize   +1    1e+1  ->  0E+1 Inexact Rounded
  213. quax242 quantize   +10   1e+1  ->  1E+1 Rounded
  214. quax243 quantize   1E+1  1e+1  ->  1E+1          -- underneath this is E+1
  215. quax244 quantize   1E+2  1e+1  ->  1.0E+2        -- underneath this is E+1
  216. quax245 quantize   1E+3  1e+1  ->  1.00E+3       -- underneath this is E+1
  217. quax246 quantize   1E+4  1e+1  ->  1.000E+4      -- underneath this is E+1
  218. quax247 quantize   1E+5  1e+1  ->  1.0000E+5     -- underneath this is E+1
  219. quax248 quantize   1E+6  1e+1  ->  1.00000E+6    -- underneath this is E+1
  220. quax249 quantize   1E+7  1e+1  ->  1.000000E+7   -- underneath this is E+1
  221. quax250 quantize   1E+8  1e+1  ->  1.0000000E+8  -- underneath this is E+1
  222. quax251 quantize   1E+9  1e+1  ->  1.00000000E+9 -- underneath this is E+1
  223. -- next one tries to add 9 zeros
  224. quax252 quantize   1E+10 1e+1  ->  NaN Invalid_operation
  225. quax253 quantize   1E-10 1e+1  ->  0E+1 Inexact Rounded
  226. quax254 quantize   1E-2  1e+1  ->  0E+1 Inexact Rounded
  227. quax255 quantize   0E-10 1e+1  ->  0E+1
  228. quax256 quantize  -0E-10 1e+1  -> -0E+1
  229. quax257 quantize  -0E-1  1e+1  -> -0E+1
  230. quax258 quantize  -0     1e+1  -> -0E+1
  231. quax259 quantize  -0E+1  1e+1  -> -0E+1
  232.  
  233. quax260 quantize   -10   1e+2  ->  -0E+2 Inexact Rounded
  234. quax261 quantize   +1    1e+2  ->  0E+2 Inexact Rounded
  235. quax262 quantize   +10   1e+2  ->  0E+2 Inexact Rounded
  236. quax263 quantize   1E+1  1e+2  ->  0E+2 Inexact Rounded
  237. quax264 quantize   1E+2  1e+2  ->  1E+2
  238. quax265 quantize   1E+3  1e+2  ->  1.0E+3
  239. quax266 quantize   1E+4  1e+2  ->  1.00E+4
  240. quax267 quantize   1E+5  1e+2  ->  1.000E+5
  241. quax268 quantize   1E+6  1e+2  ->  1.0000E+6
  242. quax269 quantize   1E+7  1e+2  ->  1.00000E+7
  243. quax270 quantize   1E+8  1e+2  ->  1.000000E+8
  244. quax271 quantize   1E+9  1e+2  ->  1.0000000E+9
  245. quax272 quantize   1E+10 1e+2  ->  1.00000000E+10
  246. quax273 quantize   1E-10 1e+2  ->  0E+2 Inexact Rounded
  247. quax274 quantize   1E-2  1e+2  ->  0E+2 Inexact Rounded
  248. quax275 quantize   0E-10 1e+2  ->  0E+2
  249.  
  250. quax280 quantize   -10   1e+3  ->  -0E+3 Inexact Rounded
  251. quax281 quantize   +1    1e+3  ->  0E+3 Inexact Rounded
  252. quax282 quantize   +10   1e+3  ->  0E+3 Inexact Rounded
  253. quax283 quantize   1E+1  1e+3  ->  0E+3 Inexact Rounded
  254. quax284 quantize   1E+2  1e+3  ->  0E+3 Inexact Rounded
  255. quax285 quantize   1E+3  1e+3  ->  1E+3
  256. quax286 quantize   1E+4  1e+3  ->  1.0E+4
  257. quax287 quantize   1E+5  1e+3  ->  1.00E+5
  258. quax288 quantize   1E+6  1e+3  ->  1.000E+6
  259. quax289 quantize   1E+7  1e+3  ->  1.0000E+7
  260. quax290 quantize   1E+8  1e+3  ->  1.00000E+8
  261. quax291 quantize   1E+9  1e+3  ->  1.000000E+9
  262. quax292 quantize   1E+10 1e+3  ->  1.0000000E+10
  263. quax293 quantize   1E-10 1e+3  ->  0E+3 Inexact Rounded
  264. quax294 quantize   1E-2  1e+3  ->  0E+3 Inexact Rounded
  265. quax295 quantize   0E-10 1e+3  ->  0E+3
  266.  
  267. -- round up from below [sign wrong in JIT compiler once]
  268. quax300 quantize   0.0078 1e-5 ->  0.00780
  269. quax301 quantize   0.0078 1e-4 ->  0.0078
  270. quax302 quantize   0.0078 1e-3 ->  0.008 Inexact Rounded
  271. quax303 quantize   0.0078 1e-2 ->  0.01 Inexact Rounded
  272. quax304 quantize   0.0078 1e-1 ->  0.0 Inexact Rounded
  273. quax305 quantize   0.0078  1e0 ->  0 Inexact Rounded
  274. quax306 quantize   0.0078 1e+1 ->  0E+1 Inexact Rounded
  275. quax307 quantize   0.0078 1e+2 ->  0E+2 Inexact Rounded
  276.  
  277. quax310 quantize  -0.0078 1e-5 -> -0.00780
  278. quax311 quantize  -0.0078 1e-4 -> -0.0078
  279. quax312 quantize  -0.0078 1e-3 -> -0.008 Inexact Rounded
  280. quax313 quantize  -0.0078 1e-2 -> -0.01 Inexact Rounded
  281. quax314 quantize  -0.0078 1e-1 -> -0.0 Inexact Rounded
  282. quax315 quantize  -0.0078  1e0 -> -0 Inexact Rounded
  283. quax316 quantize  -0.0078 1e+1 -> -0E+1 Inexact Rounded
  284. quax317 quantize  -0.0078 1e+2 -> -0E+2 Inexact Rounded
  285.  
  286. quax320 quantize   0.078 1e-5 ->  0.07800
  287. quax321 quantize   0.078 1e-4 ->  0.0780
  288. quax322 quantize   0.078 1e-3 ->  0.078
  289. quax323 quantize   0.078 1e-2 ->  0.08 Inexact Rounded
  290. quax324 quantize   0.078 1e-1 ->  0.1 Inexact Rounded
  291. quax325 quantize   0.078  1e0 ->  0 Inexact Rounded
  292. quax326 quantize   0.078 1e+1 ->  0E+1 Inexact Rounded
  293. quax327 quantize   0.078 1e+2 ->  0E+2 Inexact Rounded
  294.  
  295. quax330 quantize  -0.078 1e-5 -> -0.07800
  296. quax331 quantize  -0.078 1e-4 -> -0.0780
  297. quax332 quantize  -0.078 1e-3 -> -0.078
  298. quax333 quantize  -0.078 1e-2 -> -0.08 Inexact Rounded
  299. quax334 quantize  -0.078 1e-1 -> -0.1 Inexact Rounded
  300. quax335 quantize  -0.078  1e0 -> -0 Inexact Rounded
  301. quax336 quantize  -0.078 1e+1 -> -0E+1 Inexact Rounded
  302. quax337 quantize  -0.078 1e+2 -> -0E+2 Inexact Rounded
  303.  
  304. quax340 quantize   0.78 1e-5 ->  0.78000
  305. quax341 quantize   0.78 1e-4 ->  0.7800
  306. quax342 quantize   0.78 1e-3 ->  0.780
  307. quax343 quantize   0.78 1e-2 ->  0.78
  308. quax344 quantize   0.78 1e-1 ->  0.8 Inexact Rounded
  309. quax345 quantize   0.78  1e0 ->  1 Inexact Rounded
  310. quax346 quantize   0.78 1e+1 ->  0E+1 Inexact Rounded
  311. quax347 quantize   0.78 1e+2 ->  0E+2 Inexact Rounded
  312.  
  313. quax350 quantize  -0.78 1e-5 -> -0.78000
  314. quax351 quantize  -0.78 1e-4 -> -0.7800
  315. quax352 quantize  -0.78 1e-3 -> -0.780
  316. quax353 quantize  -0.78 1e-2 -> -0.78
  317. quax354 quantize  -0.78 1e-1 -> -0.8 Inexact Rounded
  318. quax355 quantize  -0.78  1e0 -> -1 Inexact Rounded
  319. quax356 quantize  -0.78 1e+1 -> -0E+1 Inexact Rounded
  320. quax357 quantize  -0.78 1e+2 -> -0E+2 Inexact Rounded
  321.  
  322. quax360 quantize   7.8 1e-5 ->  7.80000
  323. quax361 quantize   7.8 1e-4 ->  7.8000
  324. quax362 quantize   7.8 1e-3 ->  7.800
  325. quax363 quantize   7.8 1e-2 ->  7.80
  326. quax364 quantize   7.8 1e-1 ->  7.8
  327. quax365 quantize   7.8  1e0 ->  8 Inexact Rounded
  328. quax366 quantize   7.8 1e+1 ->  1E+1 Inexact Rounded
  329. quax367 quantize   7.8 1e+2 ->  0E+2 Inexact Rounded
  330. quax368 quantize   7.8 1e+3 ->  0E+3 Inexact Rounded
  331.  
  332. quax370 quantize  -7.8 1e-5 -> -7.80000
  333. quax371 quantize  -7.8 1e-4 -> -7.8000
  334. quax372 quantize  -7.8 1e-3 -> -7.800
  335. quax373 quantize  -7.8 1e-2 -> -7.80
  336. quax374 quantize  -7.8 1e-1 -> -7.8
  337. quax375 quantize  -7.8  1e0 -> -8 Inexact Rounded
  338. quax376 quantize  -7.8 1e+1 -> -1E+1 Inexact Rounded
  339. quax377 quantize  -7.8 1e+2 -> -0E+2 Inexact Rounded
  340. quax378 quantize  -7.8 1e+3 -> -0E+3 Inexact Rounded
  341.  
  342. -- some individuals
  343. precision: 9
  344. quax380 quantize   352364.506 1e-2 -> 352364.51 Inexact Rounded
  345. quax381 quantize   3523645.06 1e-2 -> 3523645.06
  346. quax382 quantize   35236450.6 1e-2 -> NaN Invalid_operation
  347. quax383 quantize   352364506  1e-2 -> NaN Invalid_operation
  348. quax384 quantize  -352364.506 1e-2 -> -352364.51 Inexact Rounded
  349. quax385 quantize  -3523645.06 1e-2 -> -3523645.06
  350. quax386 quantize  -35236450.6 1e-2 -> NaN Invalid_operation
  351. quax387 quantize  -352364506  1e-2 -> NaN Invalid_operation
  352.  
  353. rounding: down
  354. quax389 quantize   35236450.6 1e-2 -> NaN Invalid_operation
  355. -- ? should that one instead have been:
  356. -- quax389 quantize   35236450.6 1e-2 -> NaN Invalid_operation
  357. rounding: half_up
  358.  
  359. -- and a few more from e-mail discussions
  360. precision: 7
  361. quax391 quantize  12.34567  1e-3 -> 12.346   Inexact Rounded
  362. quax392 quantize  123.4567  1e-3 -> 123.457  Inexact Rounded
  363. quax393 quantize  1234.567  1e-3 -> 1234.567
  364. quax394 quantize  12345.67  1e-3 -> NaN Invalid_operation
  365. quax395 quantize  123456.7  1e-3 -> NaN Invalid_operation
  366. quax396 quantize  1234567.  1e-3 -> NaN Invalid_operation
  367.  
  368. -- some 9999 round-up cases
  369. precision: 9
  370. quax400 quantize   9.999        1e-5  ->  9.99900
  371. quax401 quantize   9.999        1e-4  ->  9.9990
  372. quax402 quantize   9.999        1e-3  ->  9.999
  373. quax403 quantize   9.999        1e-2  -> 10.00     Inexact Rounded
  374. quax404 quantize   9.999        1e-1  -> 10.0      Inexact Rounded
  375. quax405 quantize   9.999         1e0  -> 10        Inexact Rounded
  376. quax406 quantize   9.999         1e1  -> 1E+1      Inexact Rounded
  377. quax407 quantize   9.999         1e2  -> 0E+2      Inexact Rounded
  378.  
  379. quax410 quantize   0.999        1e-5  ->  0.99900
  380. quax411 quantize   0.999        1e-4  ->  0.9990
  381. quax412 quantize   0.999        1e-3  ->  0.999
  382. quax413 quantize   0.999        1e-2  ->  1.00     Inexact Rounded
  383. quax414 quantize   0.999        1e-1  ->  1.0      Inexact Rounded
  384. quax415 quantize   0.999         1e0  ->  1        Inexact Rounded
  385. quax416 quantize   0.999         1e1  -> 0E+1      Inexact Rounded
  386.  
  387. quax420 quantize   0.0999       1e-5  ->  0.09990
  388. quax421 quantize   0.0999       1e-4  ->  0.0999
  389. quax422 quantize   0.0999       1e-3  ->  0.100    Inexact Rounded
  390. quax423 quantize   0.0999       1e-2  ->  0.10     Inexact Rounded
  391. quax424 quantize   0.0999       1e-1  ->  0.1      Inexact Rounded
  392. quax425 quantize   0.0999        1e0  ->  0        Inexact Rounded
  393. quax426 quantize   0.0999        1e1  -> 0E+1      Inexact Rounded
  394.  
  395. quax430 quantize   0.00999      1e-5  ->  0.00999
  396. quax431 quantize   0.00999      1e-4  ->  0.0100   Inexact Rounded
  397. quax432 quantize   0.00999      1e-3  ->  0.010    Inexact Rounded
  398. quax433 quantize   0.00999      1e-2  ->  0.01     Inexact Rounded
  399. quax434 quantize   0.00999      1e-1  ->  0.0      Inexact Rounded
  400. quax435 quantize   0.00999       1e0  ->  0        Inexact Rounded
  401. quax436 quantize   0.00999       1e1  -> 0E+1      Inexact Rounded
  402.  
  403. quax440 quantize   0.000999     1e-5  ->  0.00100  Inexact Rounded
  404. quax441 quantize   0.000999     1e-4  ->  0.0010   Inexact Rounded
  405. quax442 quantize   0.000999     1e-3  ->  0.001    Inexact Rounded
  406. quax443 quantize   0.000999     1e-2  ->  0.00     Inexact Rounded
  407. quax444 quantize   0.000999     1e-1  ->  0.0      Inexact Rounded
  408. quax445 quantize   0.000999      1e0  ->  0        Inexact Rounded
  409. quax446 quantize   0.000999      1e1  -> 0E+1      Inexact Rounded
  410.  
  411. precision: 8
  412. quax449 quantize   9.999E-15    1e-23 ->  NaN Invalid_operation
  413. quax450 quantize   9.999E-15    1e-22 ->  9.9990000E-15
  414. quax451 quantize   9.999E-15    1e-21 ->  9.999000E-15
  415. quax452 quantize   9.999E-15    1e-20 ->  9.99900E-15
  416. quax453 quantize   9.999E-15    1e-19 ->  9.9990E-15
  417. quax454 quantize   9.999E-15    1e-18 ->  9.999E-15
  418. quax455 quantize   9.999E-15    1e-17 ->  1.000E-14 Inexact Rounded
  419. quax456 quantize   9.999E-15    1e-16 ->  1.00E-14  Inexact Rounded
  420. quax457 quantize   9.999E-15    1e-15 ->  1.0E-14   Inexact Rounded
  421. quax458 quantize   9.999E-15    1e-14 ->  1E-14     Inexact Rounded
  422. quax459 quantize   9.999E-15    1e-13 ->  0E-13     Inexact Rounded
  423. quax460 quantize   9.999E-15    1e-12 ->  0E-12     Inexact Rounded
  424. quax461 quantize   9.999E-15    1e-11 ->  0E-11     Inexact Rounded
  425. quax462 quantize   9.999E-15    1e-10 ->  0E-10     Inexact Rounded
  426. quax463 quantize   9.999E-15     1e-9 ->  0E-9      Inexact Rounded
  427. quax464 quantize   9.999E-15     1e-8 ->  0E-8      Inexact Rounded
  428. quax465 quantize   9.999E-15     1e-7 ->  0E-7      Inexact Rounded
  429. quax466 quantize   9.999E-15     1e-6 ->  0.000000  Inexact Rounded
  430. quax467 quantize   9.999E-15     1e-5 ->  0.00000   Inexact Rounded
  431. quax468 quantize   9.999E-15     1e-4 ->  0.0000    Inexact Rounded
  432. quax469 quantize   9.999E-15     1e-3 ->  0.000     Inexact Rounded
  433. quax470 quantize   9.999E-15     1e-2 ->  0.00      Inexact Rounded
  434. quax471 quantize   9.999E-15     1e-1 ->  0.0       Inexact Rounded
  435. quax472 quantize   9.999E-15      1e0 ->  0         Inexact Rounded
  436. quax473 quantize   9.999E-15      1e1 ->  0E+1      Inexact Rounded
  437.  
  438. -- long operand checks [rhs checks removed]
  439. maxexponent: 999
  440. minexponent: -999
  441. precision: 9
  442. quax481 quantize 12345678000 1e+3 -> 1.2345678E+10 Rounded
  443. quax482 quantize 1234567800  1e+1 -> 1.23456780E+9 Rounded
  444. quax483 quantize 1234567890  1e+1 -> 1.23456789E+9 Rounded
  445. quax484 quantize 1234567891  1e+1 -> 1.23456789E+9 Inexact Rounded
  446. quax485 quantize 12345678901 1e+2 -> 1.23456789E+10 Inexact Rounded
  447. quax486 quantize 1234567896  1e+1 -> 1.23456790E+9 Inexact Rounded
  448. -- a potential double-round
  449. quax487 quantize 1234.987643 1e-4 -> 1234.9876 Inexact Rounded
  450. quax488 quantize 1234.987647 1e-4 -> 1234.9876 Inexact Rounded
  451.  
  452. precision: 15
  453. quax491 quantize 12345678000 1e+3 -> 1.2345678E+10 Rounded
  454. quax492 quantize 1234567800  1e+1 -> 1.23456780E+9 Rounded
  455. quax493 quantize 1234567890  1e+1 -> 1.23456789E+9 Rounded
  456. quax494 quantize 1234567891  1e+1 -> 1.23456789E+9 Inexact Rounded
  457. quax495 quantize 12345678901 1e+2 -> 1.23456789E+10 Inexact Rounded
  458. quax496 quantize 1234567896  1e+1 -> 1.23456790E+9 Inexact Rounded
  459. quax497 quantize 1234.987643 1e-4 -> 1234.9876 Inexact Rounded
  460. quax498 quantize 1234.987647 1e-4 -> 1234.9876 Inexact Rounded
  461.  
  462. -- Zeros
  463. quax500 quantize   0     1e1 ->  0E+1
  464. quax501 quantize   0     1e0 ->  0
  465. quax502 quantize   0    1e-1 ->  0.0
  466. quax503 quantize   0.0  1e-1 ->  0.0
  467. quax504 quantize   0.0   1e0 ->  0
  468. quax505 quantize   0.0  1e+1 ->  0E+1
  469. quax506 quantize   0E+1 1e-1 ->  0.0
  470. quax507 quantize   0E+1  1e0 ->  0
  471. quax508 quantize   0E+1 1e+1 ->  0E+1
  472. quax509 quantize  -0     1e1 -> -0E+1
  473. quax510 quantize  -0     1e0 -> -0
  474. quax511 quantize  -0    1e-1 -> -0.0
  475. quax512 quantize  -0.0  1e-1 -> -0.0
  476. quax513 quantize  -0.0   1e0 -> -0
  477. quax514 quantize  -0.0  1e+1 -> -0E+1
  478. quax515 quantize  -0E+1 1e-1 -> -0.0
  479. quax516 quantize  -0E+1  1e0 -> -0
  480. quax517 quantize  -0E+1 1e+1 -> -0E+1
  481.  
  482. -- Suspicious RHS values
  483. maxexponent: 999999999
  484. minexponent: -999999999
  485. precision: 15
  486. quax520 quantize   1.234    1e999999000 -> 0E+999999000 Inexact Rounded
  487. quax521 quantize 123.456    1e999999000 -> 0E+999999000 Inexact Rounded
  488. quax522 quantize   1.234    1e999999999 -> 0E+999999999 Inexact Rounded
  489. quax523 quantize 123.456    1e999999999 -> 0E+999999999 Inexact Rounded
  490. quax524 quantize 123.456   1e1000000000 -> NaN Invalid_operation
  491. quax525 quantize 123.456  1e12345678903 -> NaN Invalid_operation
  492. -- next four are "won't fit" overflows
  493. quax526 quantize   1.234   1e-999999000 -> NaN Invalid_operation
  494. quax527 quantize 123.456   1e-999999000 -> NaN Invalid_operation
  495. quax528 quantize   1.234   1e-999999999 -> NaN Invalid_operation
  496. quax529 quantize 123.456   1e-999999999 -> NaN Invalid_operation
  497. quax530 quantize 123.456  1e-1000000014 -> NaN Invalid_operation
  498. quax531 quantize 123.456 1e-12345678903 -> NaN Invalid_operation
  499.  
  500. maxexponent: 999
  501. minexponent: -999
  502. precision: 15
  503. quax532 quantize   1.234E+999    1e999 -> 1E+999    Inexact Rounded
  504. quax533 quantize   1.234E+998    1e999 -> 0E+999    Inexact Rounded
  505. quax534 quantize   1.234         1e999 -> 0E+999    Inexact Rounded
  506. quax535 quantize   1.234        1e1000 -> NaN Invalid_operation
  507. quax536 quantize   1.234        1e5000 -> NaN Invalid_operation
  508. quax537 quantize   0            1e-999 -> 0E-999
  509. -- next two are "won't fit" overflows
  510. quax538 quantize   1.234        1e-999 -> NaN Invalid_operation
  511. quax539 quantize   1.234       1e-1000 -> NaN Invalid_operation
  512. quax540 quantize   1.234       1e-5000 -> NaN Invalid_operation
  513. -- [more below]
  514.  
  515. -- check bounds (lhs maybe out of range for destination, etc.)
  516. precision:     7
  517. quax541 quantize   1E+999   1e+999 -> 1E+999
  518. quax542 quantize   1E+1000  1e+999 -> NaN Invalid_operation
  519. quax543 quantize   1E+999  1e+1000 -> NaN Invalid_operation
  520. quax544 quantize   1E-999   1e-999 -> 1E-999
  521. quax545 quantize   1E-1000  1e-999 -> 0E-999    Inexact Rounded
  522. quax546 quantize   1E-999  1e-1000 -> 1.0E-999
  523. quax547 quantize   1E-1005  1e-999 -> 0E-999    Inexact Rounded
  524. quax548 quantize   1E-1006  1e-999 -> 0E-999    Inexact Rounded
  525. quax549 quantize   1E-1007  1e-999 -> 0E-999    Inexact Rounded
  526. quax550 quantize   1E-998  1e-1005 -> NaN Invalid_operation  -- won't fit
  527. quax551 quantize   1E-999  1e-1005 -> 1.000000E-999
  528. quax552 quantize   1E-1000 1e-1005 -> 1.00000E-1000 Subnormal
  529. quax553 quantize   1E-999  1e-1006 -> NaN Invalid_operation
  530. quax554 quantize   1E-999  1e-1007 -> NaN Invalid_operation
  531. -- related subnormal rounding
  532. quax555 quantize   1.666666E-999  1e-1005 -> 1.666666E-999
  533. quax556 quantize   1.666666E-1000 1e-1005 -> 1.66667E-1000  Subnormal Inexact Rounded
  534. quax557 quantize   1.666666E-1001 1e-1005 -> 1.6667E-1001  Subnormal Inexact Rounded
  535. quax558 quantize   1.666666E-1002 1e-1005 -> 1.667E-1002  Subnormal Inexact Rounded
  536. quax559 quantize   1.666666E-1003 1e-1005 -> 1.67E-1003  Subnormal Inexact Rounded
  537. quax560 quantize   1.666666E-1004 1e-1005 -> 1.7E-1004  Subnormal Inexact Rounded
  538. quax561 quantize   1.666666E-1005 1e-1005 -> 2E-1005  Subnormal Inexact Rounded
  539. quax562 quantize   1.666666E-1006 1e-1005 -> 0E-1005   Inexact Rounded
  540. quax563 quantize   1.666666E-1007 1e-1005 -> 0E-1005   Inexact Rounded
  541.  
  542. -- Specials
  543. quax580 quantize  Inf    -Inf   ->  Infinity
  544. quax581 quantize  Inf  1e-1000  ->  NaN  Invalid_operation
  545. quax582 quantize  Inf  1e-1     ->  NaN  Invalid_operation
  546. quax583 quantize  Inf   1e0     ->  NaN  Invalid_operation
  547. quax584 quantize  Inf   1e1     ->  NaN  Invalid_operation
  548. quax585 quantize  Inf   1e1000  ->  NaN  Invalid_operation
  549. quax586 quantize  Inf     Inf   ->  Infinity
  550. quax587 quantize -1000    Inf   ->  NaN  Invalid_operation
  551. quax588 quantize -Inf     Inf   ->  -Infinity
  552. quax589 quantize -1       Inf   ->  NaN  Invalid_operation
  553. quax590 quantize  0       Inf   ->  NaN  Invalid_operation
  554. quax591 quantize  1       Inf   ->  NaN  Invalid_operation
  555. quax592 quantize  1000    Inf   ->  NaN  Invalid_operation
  556. quax593 quantize  Inf     Inf   ->  Infinity
  557. quax594 quantize  Inf  1e-0     ->  NaN  Invalid_operation
  558. quax595 quantize -0       Inf   ->  NaN  Invalid_operation
  559.  
  560. quax600 quantize -Inf    -Inf   ->  -Infinity
  561. quax601 quantize -Inf  1e-1000  ->  NaN  Invalid_operation
  562. quax602 quantize -Inf  1e-1     ->  NaN  Invalid_operation
  563. quax603 quantize -Inf   1e0     ->  NaN  Invalid_operation
  564. quax604 quantize -Inf   1e1     ->  NaN  Invalid_operation
  565. quax605 quantize -Inf   1e1000  ->  NaN  Invalid_operation
  566. quax606 quantize -Inf     Inf   ->  -Infinity
  567. quax607 quantize -1000    Inf   ->  NaN  Invalid_operation
  568. quax608 quantize -Inf    -Inf   ->  -Infinity
  569. quax609 quantize -1      -Inf   ->  NaN  Invalid_operation
  570. quax610 quantize  0      -Inf   ->  NaN  Invalid_operation
  571. quax611 quantize  1      -Inf   ->  NaN  Invalid_operation
  572. quax612 quantize  1000   -Inf   ->  NaN  Invalid_operation
  573. quax613 quantize  Inf    -Inf   ->  Infinity
  574. quax614 quantize -Inf  1e-0     ->  NaN  Invalid_operation
  575. quax615 quantize -0      -Inf   ->  NaN  Invalid_operation
  576.  
  577. quax621 quantize  NaN   -Inf    ->  NaN
  578. quax622 quantize  NaN 1e-1000   ->  NaN
  579. quax623 quantize  NaN 1e-1      ->  NaN
  580. quax624 quantize  NaN  1e0      ->  NaN
  581. quax625 quantize  NaN  1e1      ->  NaN
  582. quax626 quantize  NaN  1e1000   ->  NaN
  583. quax627 quantize  NaN    Inf    ->  NaN
  584. quax628 quantize  NaN    NaN    ->  NaN
  585. quax629 quantize -Inf    NaN    ->  NaN
  586. quax630 quantize -1000   NaN    ->  NaN
  587. quax631 quantize -1      NaN    ->  NaN
  588. quax632 quantize  0      NaN    ->  NaN
  589. quax633 quantize  1      NaN    ->  NaN
  590. quax634 quantize  1000   NaN    ->  NaN
  591. quax635 quantize  Inf    NaN    ->  NaN
  592. quax636 quantize  NaN 1e-0      ->  NaN
  593. quax637 quantize -0      NaN    ->  NaN
  594.  
  595. quax641 quantize  sNaN   -Inf   ->  NaN  Invalid_operation
  596. quax642 quantize  sNaN 1e-1000  ->  NaN  Invalid_operation
  597. quax643 quantize  sNaN 1e-1     ->  NaN  Invalid_operation
  598. quax644 quantize  sNaN  1e0     ->  NaN  Invalid_operation
  599. quax645 quantize  sNaN  1e1     ->  NaN  Invalid_operation
  600. quax646 quantize  sNaN  1e1000  ->  NaN  Invalid_operation
  601. quax647 quantize  sNaN    NaN   ->  NaN  Invalid_operation
  602. quax648 quantize  sNaN   sNaN   ->  NaN  Invalid_operation
  603. quax649 quantize  NaN    sNaN   ->  NaN  Invalid_operation
  604. quax650 quantize -Inf    sNaN   ->  NaN  Invalid_operation
  605. quax651 quantize -1000   sNaN   ->  NaN  Invalid_operation
  606. quax652 quantize -1      sNaN   ->  NaN  Invalid_operation
  607. quax653 quantize  0      sNaN   ->  NaN  Invalid_operation
  608. quax654 quantize  1      sNaN   ->  NaN  Invalid_operation
  609. quax655 quantize  1000   sNaN   ->  NaN  Invalid_operation
  610. quax656 quantize  Inf    sNaN   ->  NaN  Invalid_operation
  611. quax657 quantize  NaN    sNaN   ->  NaN  Invalid_operation
  612. quax658 quantize  sNaN 1e-0     ->  NaN  Invalid_operation
  613. quax659 quantize -0      sNaN   ->  NaN  Invalid_operation
  614.  
  615. -- propagating NaNs
  616. quax661 quantize  NaN9 -Inf   ->  NaN9
  617. quax662 quantize  NaN8  919   ->  NaN8
  618. quax663 quantize  NaN71 Inf   ->  NaN71
  619. quax664 quantize  NaN6  NaN5  ->  NaN6
  620. quax665 quantize -Inf   NaN4  ->  NaN4
  621. quax666 quantize -919   NaN31 ->  NaN31
  622. quax667 quantize  Inf   NaN2  ->  NaN2
  623.  
  624. quax671 quantize  sNaN99 -Inf    ->  NaN99 Invalid_operation
  625. quax672 quantize  sNaN98 -11     ->  NaN98 Invalid_operation
  626. quax673 quantize  sNaN97  NaN    ->  NaN97 Invalid_operation
  627. quax674 quantize  sNaN16 sNaN94  ->  NaN16 Invalid_operation
  628. quax675 quantize  NaN95  sNaN93  ->  NaN93 Invalid_operation
  629. quax676 quantize -Inf    sNaN92  ->  NaN92 Invalid_operation
  630. quax677 quantize  088    sNaN91  ->  NaN91 Invalid_operation
  631. quax678 quantize  Inf    sNaN90  ->  NaN90 Invalid_operation
  632. quax679 quantize  NaN    sNaN88  ->  NaN88 Invalid_operation
  633.  
  634. quax681 quantize -NaN9 -Inf   -> -NaN9
  635. quax682 quantize -NaN8  919   -> -NaN8
  636. quax683 quantize -NaN71 Inf   -> -NaN71
  637. quax684 quantize -NaN6 -NaN5  -> -NaN6
  638. quax685 quantize -Inf  -NaN4  -> -NaN4
  639. quax686 quantize -919  -NaN31 -> -NaN31
  640. quax687 quantize  Inf  -NaN2  -> -NaN2
  641.  
  642. quax691 quantize -sNaN99 -Inf    -> -NaN99 Invalid_operation
  643. quax692 quantize -sNaN98 -11     -> -NaN98 Invalid_operation
  644. quax693 quantize -sNaN97  NaN    -> -NaN97 Invalid_operation
  645. quax694 quantize -sNaN16 sNaN94  -> -NaN16 Invalid_operation
  646. quax695 quantize -NaN95 -sNaN93  -> -NaN93 Invalid_operation
  647. quax696 quantize -Inf   -sNaN92  -> -NaN92 Invalid_operation
  648. quax697 quantize  088   -sNaN91  -> -NaN91 Invalid_operation
  649. quax698 quantize  Inf   -sNaN90  -> -NaN90 Invalid_operation
  650. quax699 quantize  NaN   -sNaN88  -> -NaN88 Invalid_operation
  651.  
  652. -- subnormals and underflow
  653. precision: 4
  654. maxexponent: 999
  655. minexponent: -999
  656. quax710 quantize  1.00E-999    1e-999  ->   1E-999    Rounded
  657. quax711 quantize  0.1E-999    2e-1000  ->   1E-1000   Subnormal
  658. quax712 quantize  0.10E-999   3e-1000  ->   1E-1000   Subnormal Rounded
  659. quax713 quantize  0.100E-999  4e-1000  ->   1E-1000   Subnormal Rounded
  660. quax714 quantize  0.01E-999   5e-1001  ->   1E-1001   Subnormal
  661. -- next is rounded to Emin
  662. quax715 quantize  0.999E-999   1e-999  ->   1E-999    Inexact Rounded
  663. quax716 quantize  0.099E-999 10e-1000  ->   1E-1000   Inexact Rounded Subnormal
  664.  
  665. quax717 quantize  0.009E-999  1e-1001  ->   1E-1001   Inexact Rounded Subnormal
  666. quax718 quantize  0.001E-999  1e-1001  ->   0E-1001   Inexact Rounded
  667. quax719 quantize  0.0009E-999 1e-1001  ->   0E-1001   Inexact Rounded
  668. quax720 quantize  0.0001E-999 1e-1001  ->   0E-1001   Inexact Rounded
  669.  
  670. quax730 quantize -1.00E-999   1e-999  ->  -1E-999     Rounded
  671. quax731 quantize -0.1E-999    1e-999  ->  -0E-999     Rounded Inexact
  672. quax732 quantize -0.10E-999   1e-999  ->  -0E-999     Rounded Inexact
  673. quax733 quantize -0.100E-999  1e-999  ->  -0E-999     Rounded Inexact
  674. quax734 quantize -0.01E-999   1e-999  ->  -0E-999     Inexact Rounded
  675. -- next is rounded to Emin
  676. quax735 quantize -0.999E-999 90e-999  ->  -1E-999     Inexact Rounded
  677. quax736 quantize -0.099E-999 -1e-999  ->  -0E-999     Inexact Rounded
  678. quax737 quantize -0.009E-999 -1e-999  ->  -0E-999     Inexact Rounded
  679. quax738 quantize -0.001E-999 -0e-999  ->  -0E-999     Inexact Rounded
  680. quax739 quantize -0.0001E-999 0e-999  ->  -0E-999     Inexact Rounded
  681.  
  682. quax740 quantize -1.00E-999   1e-1000 ->  -1.0E-999   Rounded
  683. quax741 quantize -0.1E-999    1e-1000 ->  -1E-1000    Subnormal
  684. quax742 quantize -0.10E-999   1e-1000 ->  -1E-1000    Subnormal Rounded
  685. quax743 quantize -0.100E-999  1e-1000 ->  -1E-1000    Subnormal Rounded
  686. quax744 quantize -0.01E-999   1e-1000 ->  -0E-1000    Inexact Rounded
  687. -- next is rounded to Emin
  688. quax745 quantize -0.999E-999  1e-1000 ->  -1.0E-999   Inexact Rounded
  689. quax746 quantize -0.099E-999  1e-1000 ->  -1E-1000    Inexact Rounded Subnormal
  690. quax747 quantize -0.009E-999  1e-1000 ->  -0E-1000    Inexact Rounded
  691. quax748 quantize -0.001E-999  1e-1000 ->  -0E-1000    Inexact Rounded
  692. quax749 quantize -0.0001E-999 1e-1000 ->  -0E-1000    Inexact Rounded
  693.  
  694. quax750 quantize -1.00E-999   1e-1001 ->  -1.00E-999
  695. quax751 quantize -0.1E-999    1e-1001 ->  -1.0E-1000  Subnormal
  696. quax752 quantize -0.10E-999   1e-1001 ->  -1.0E-1000  Subnormal
  697. quax753 quantize -0.100E-999  1e-1001 ->  -1.0E-1000  Subnormal Rounded
  698. quax754 quantize -0.01E-999   1e-1001 ->  -1E-1001    Subnormal
  699. -- next is rounded to Emin
  700. quax755 quantize -0.999E-999  1e-1001 ->  -1.00E-999  Inexact Rounded
  701. quax756 quantize -0.099E-999  1e-1001 ->  -1.0E-1000  Inexact Rounded Subnormal
  702. quax757 quantize -0.009E-999  1e-1001 ->  -1E-1001    Inexact Rounded Subnormal
  703. quax758 quantize -0.001E-999  1e-1001 ->  -0E-1001    Inexact Rounded
  704. quax759 quantize -0.0001E-999 1e-1001 ->  -0E-1001    Inexact Rounded
  705.  
  706. quax760 quantize -1.00E-999   1e-1002 ->  -1.000E-999
  707. quax761 quantize -0.1E-999    1e-1002 ->  -1.00E-1000  Subnormal
  708. quax762 quantize -0.10E-999   1e-1002 ->  -1.00E-1000  Subnormal
  709. quax763 quantize -0.100E-999  1e-1002 ->  -1.00E-1000  Subnormal
  710. quax764 quantize -0.01E-999   1e-1002 ->  -1.0E-1001   Subnormal
  711. quax765 quantize -0.999E-999  1e-1002 ->  -9.99E-1000  Subnormal
  712. quax766 quantize -0.099E-999  1e-1002 ->  -9.9E-1001   Subnormal
  713. quax767 quantize -0.009E-999  1e-1002 ->  -9E-1002     Subnormal
  714. quax768 quantize -0.001E-999  1e-1002 ->  -1E-1002     Subnormal
  715. quax769 quantize -0.0001E-999 1e-1002 ->  -0E-1002     Inexact Rounded
  716.  
  717. -- rhs must be no less than Etiny
  718. quax770 quantize -1.00E-999   1e-1003 ->  NaN Invalid_operation
  719. quax771 quantize -0.1E-999    1e-1003 ->  NaN Invalid_operation
  720. quax772 quantize -0.10E-999   1e-1003 ->  NaN Invalid_operation
  721. quax773 quantize -0.100E-999  1e-1003 ->  NaN Invalid_operation
  722. quax774 quantize -0.01E-999   1e-1003 ->  NaN Invalid_operation
  723. quax775 quantize -0.999E-999  1e-1003 ->  NaN Invalid_operation
  724. quax776 quantize -0.099E-999  1e-1003 ->  NaN Invalid_operation
  725. quax777 quantize -0.009E-999  1e-1003 ->  NaN Invalid_operation
  726. quax778 quantize -0.001E-999  1e-1003 ->  NaN Invalid_operation
  727. quax779 quantize -0.0001E-999 1e-1003 ->  NaN Invalid_operation
  728. quax780 quantize -0.0001E-999 1e-1004 ->  NaN Invalid_operation
  729.  
  730. precision:   9
  731. maxExponent: 999999999
  732. minexponent: -999999999
  733.  
  734. -- some extremes derived from Rescale testcases
  735. quax801 quantize   0   1e1000000000 -> NaN Invalid_operation
  736. quax802 quantize   0  1e-1000000000 -> 0E-1000000000
  737. quax803 quantize   0   1e2000000000 -> NaN Invalid_operation
  738. quax804 quantize   0  1e-2000000000 -> NaN Invalid_operation
  739. quax805 quantize   0   1e3000000000 -> NaN Invalid_operation
  740. quax806 quantize   0  1e-3000000000 -> NaN Invalid_operation
  741. quax807 quantize   0   1e4000000000 -> NaN Invalid_operation
  742. quax808 quantize   0  1e-4000000000 -> NaN Invalid_operation
  743. quax809 quantize   0   1e5000000000 -> NaN Invalid_operation
  744. quax810 quantize   0  1e-5000000000 -> NaN Invalid_operation
  745. quax811 quantize   0   1e6000000000 -> NaN Invalid_operation
  746. quax812 quantize   0  1e-6000000000 -> NaN Invalid_operation
  747. quax813 quantize   0   1e7000000000 -> NaN Invalid_operation
  748. quax814 quantize   0  1e-7000000000 -> NaN Invalid_operation
  749. quax815 quantize   0   1e8000000000 -> NaN Invalid_operation
  750. quax816 quantize   0  1e-8000000000 -> NaN Invalid_operation
  751. quax817 quantize   0   1e9000000000 -> NaN Invalid_operation
  752. quax818 quantize   0  1e-9000000000 -> NaN Invalid_operation
  753. quax819 quantize   0   1e9999999999 -> NaN Invalid_operation
  754. quax820 quantize   0  1e-9999999999 -> NaN Invalid_operation
  755. quax821 quantize   0   1e10000000000 -> NaN Invalid_operation
  756. quax822 quantize   0  1e-10000000000 -> NaN Invalid_operation
  757.  
  758. quax843 quantize   0    1e999999999 -> 0E+999999999
  759. quax844 quantize   0   1e1000000000 -> NaN Invalid_operation
  760. quax845 quantize   0   1e-999999999 -> 0E-999999999
  761. quax846 quantize   0  1e-1000000000 -> 0E-1000000000
  762. quax847 quantize   0  1e-1000000001 -> 0E-1000000001
  763. quax848 quantize   0  1e-1000000002 -> 0E-1000000002
  764. quax849 quantize   0  1e-1000000003 -> 0E-1000000003
  765. quax850 quantize   0  1e-1000000004 -> 0E-1000000004
  766. quax851 quantize   0  1e-1000000005 -> 0E-1000000005
  767. quax852 quantize   0  1e-1000000006 -> 0E-1000000006
  768. quax853 quantize   0  1e-1000000007 -> 0E-1000000007
  769. quax854 quantize   0  1e-1000000008 -> NaN Invalid_operation
  770.  
  771. quax861 quantize   1  1e+2147483649 -> NaN Invalid_operation
  772. quax862 quantize   1  1e+2147483648 -> NaN Invalid_operation
  773. quax863 quantize   1  1e+2147483647 -> NaN Invalid_operation
  774. quax864 quantize   1  1e-2147483647 -> NaN Invalid_operation
  775. quax865 quantize   1  1e-2147483648 -> NaN Invalid_operation
  776. quax866 quantize   1  1e-2147483649 -> NaN Invalid_operation
  777.  
  778. -- Null tests
  779. quax900 quantize 10    # -> NaN Invalid_operation
  780. quax901 quantize  # 1e10 -> NaN Invalid_operation
  781.