home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #19 / NN_1992_19.iso / spool / comp / sys / next / programm / 5791 < prev    next >
Encoding:
Text File  |  1992-08-25  |  4.0 KB  |  117 lines
  1. Path: sparky!uunet!dtix!darwin.sura.net!zaphod.mps.ohio-state.edu!rpi!scott.skidmore.edu!psinntp!psinntp!juliet!news
  2. From: drew@fnbc.com (Drew Davidson)
  3. Newsgroups: comp.sys.next.programmer
  4. Subject: Re: fmod BUG fixed in 3.0?
  5. Message-ID: <1992Aug25.144605.19099@fnbc.com>
  6. Date: 25 Aug 92 14:46:05 GMT
  7. References: <strobel.714703207@dirac>
  8. Sender: news@fnbc.com
  9. Reply-To: drew@fnbc.com
  10. Distribution: na
  11. Organization: First National Bank Of Chicago, Chicago IL, USA
  12. Lines: 103
  13.  
  14. In article <strobel.714703207@dirac> strobel@dirac.phys.washington.edu (Nicolas  
  15. Strobel) writes:
  16. > 
  17. > Feeding negative numbers into the NeXT fmod() (running 2.1) produces  
  18. incorrect
  19. > numbers! Is this fixed under 3.0?  Here's my test program:
  20. > 
  21. > #include <stdio.h>
  22. > #include <math.h>
  23. > 
  24. > main()
  25. > {
  26. >     double value=1.3333333333333;    /* This value is what a larger 
  27. >                        program, in which I discovered the
  28. >                        bug, uses */
  29. >     double exes[21];
  30. >     int i;
  31. > 
  32. >     for(i=0;i<13;i++){
  33. >         exes[i]= (double)(i-6);
  34. >     }
  35. >     exes[13] = -4.5;
  36. >     exes[14] = 4.5;
  37. >     exes[15] = -1.333333333;
  38. >     exes[16] = 1.333333333;
  39. >     exes[17] = 0.5;
  40. >     exes[18] = -0.5;
  41. >     exes[19] = -201.0;
  42. >     exes[20] = 201.0;
  43. >     
  44. >     for(i=0;i<21;i++){
  45. >         y = fmod(exes[i],value);
  46. >         printf("%f %% 1.3333333333 = %f\n",exes[i],y);
  47. >     }
  48. > }
  49. > 
  50. > On my NeXT (2.1OS) I get incorrect results:
  51. > 
  52. > -6.000000 % 1.3333333333 = 2.000000  <- should be -0.666667
  53. > -5.000000 % 1.3333333333 = 1.666667  <- should be -1.000000
  54. > -4.000000 % 1.3333333333 = 0.000000
  55. > -3.000000 % 1.3333333333 = -0.333333
  56. > -2.000000 % 1.3333333333 = 2.000000  <- should be -0.666667
  57. > -1.000000 % 1.3333333333 = 1.666667  <- should be -1.000000
  58. > 0.000000 % 1.3333333333 = 0.000000
  59. > 1.000000 % 1.3333333333 = 1.000000
  60. > 2.000000 % 1.3333333333 = 0.666667
  61. > 3.000000 % 1.3333333333 = 0.333333
  62. > 4.000000 % 1.3333333333 = 0.000000
  63. > 5.000000 % 1.3333333333 = 1.000000
  64. > 6.000000 % 1.3333333333 = 0.666667
  65. > -4.500000 % 1.3333333333 = -0.500000
  66. > 4.500000 % 1.3333333333 = 0.500000
  67. > -1.333333 % 1.3333333333 = 1.333333   <- should have minus sign
  68. > 1.333333 % 1.3333333333 = 1.333333
  69. > 0.500000 % 1.3333333333 = 0.500000
  70. > -0.500000 % 1.3333333333 = -0.500000  <- actually correct!
  71. > -201.000000 % 1.3333333333 = 1.666667 <- should be -1.000000
  72. > 201.000000 % 1.3333333333 = 1.000000
  73. > 
  74. > The value I'm using in the fmod is 4/3 which may explain why the -4 and -3
  75. > lines are correct (?). If you have 
  76. > exes[i] = (double)(i-6)+ (0.27*((double)i/13.0));
  77. > inside the do loop (to get some non-integer numbers), you get wrong results
  78. > for the negative numbers. I've cross-checked my results against a sparc, a  
  79. mips
  80. > machine, a DEC machine running ultrix and an IBM-3090 running AIX. 
  81. > 
  82. > Nick
  83. > strobel@dirac.phys.washington.edu 
  84.  
  85. From 3.0PR2:
  86. mayberry> test
  87. -6.000000 % 1.3333333333 = -0.666667
  88. -5.000000 % 1.3333333333 = -1.000000
  89. -4.000000 % 1.3333333333 = 0.000000
  90. -3.000000 % 1.3333333333 = -0.333333
  91. -2.000000 % 1.3333333333 = -0.666667
  92. -1.000000 % 1.3333333333 = -1.000000
  93. 0.000000 % 1.3333333333 = 0.000000
  94. 1.000000 % 1.3333333333 = 1.000000
  95. 2.000000 % 1.3333333333 = 0.666667
  96. 3.000000 % 1.3333333333 = 0.333333
  97. 4.000000 % 1.3333333333 = 0.000000
  98. 5.000000 % 1.3333333333 = 1.000000
  99. 6.000000 % 1.3333333333 = 0.666667
  100. -4.500000 % 1.3333333333 = -0.500000
  101. 4.500000 % 1.3333333333 = 0.500000
  102. -1.333333 % 1.3333333333 = -1.333333
  103. 1.333333 % 1.3333333333 = 1.333333
  104. 0.500000 % 1.3333333333 = 0.500000
  105. -0.500000 % 1.3333333333 = -0.500000
  106. -201.000000 % 1.3333333333 = -1.000000
  107. 201.000000 % 1.3333333333 = 1.000000
  108.  
  109. So it looks like it is fixed!
  110. --
  111. +--------------------------------+-------------------------------------------+
  112. |        Drew  Davidson          | "When you're jacked up on 3 pots of       |
  113. |         Software Guy           | coffee it's easy to make a mistake."      |
  114. | First National Bank of Chicago |             - Krantz and Stanely,         |
  115. |     drew@fnbc.com  (NeXTmail)  |               "Programming the 68000"     |
  116. +--------------------------------+-------------------------------------------+
  117.