home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #20 / NN_1992_20.iso / spool / comp / os / os2 / programm / 4913 < prev    next >
Encoding:
Internet Message Format  |  1992-09-12  |  1.3 KB
  1. Path: sparky!uunet!zaphod.mps.ohio-state.edu!pacific.mps.ohio-state.edu!linac!att!cbnewsc!cbfsb!att-out!rutgers!cmcl2!SPUNKY.CS.NYU.EDU!figueroa
  2. From: figueroa@SPUNKY.CS.NYU.EDU (Samuel A. Figueroa)
  3. Newsgroups: comp.os.os2.programmer
  4. Subject: Re: 2.0 fails miserably in the PARANOIA program ( was: Division by 0 crashes OS2/2.0 )
  5. Message-ID: <9209121817.AA13759@SPUNKY.CS.NYU.EDU>
  6. Date: 12 Sep 92 18:17:33 GMT
  7. Sender: daemon@cmcl2.nyu.edu (Mr Background)
  8. Organization: New York University
  9. Lines: 14
  10.  
  11. According to a paper I have by W. Kahan (the main person behind both IEEE
  12. Standards for Floating-Point Arithmetic, as well as PARANOIA; this paper
  13. complains about the quality of Cray's floating-point arithmetic), the IIT
  14. math coprocessor doesn't round extended (80-bit) precision correctly,
  15. though due to a "fluke" in their design, this problem doesn't show up in
  16. double (64-bit) precision.  Does PARANOIA complain about this?  (I would
  17. not be surprised if it didn't, since few compilers provide direct access
  18. to extended precision, so PARANOIA might not be able to test this.  How-
  19. ever, I haven't looked at PARANOIA's source code, so I don't know if it
  20. somehow knows how to figure this out.)
  21. ------------
  22. Sam Figueroa (figueroa@cs.nyu.edu)
  23. This is not a .signature virus.
  24. Do NOT copy me into your .signature file!
  25.