home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #20 / NN_1992_20.iso / spool / comp / os / os2 / programm / 4932 < prev    next >
Encoding:
Text File  |  1992-09-13  |  1.8 KB  |  35 lines
  1. Newsgroups: comp.os.os2.programmer
  2. Path: sparky!uunet!wupost!gumby!destroyer!ubc-cs!unixg.ubc.ca!kakwa.ucs.ualberta.ca!acs.ucalgary.ca!bauwens
  3. From: bauwens@acs.ucalgary.ca (Luc Bauwens)
  4. Subject: Re: 2.0 fails miserably in the PARANOIA program ( was: Division by 0 crashes OS2/2.0 )
  5. Sender: news@acs.ucalgary.ca (USENET News System)
  6. Message-ID: <92Sep14.041514.28776@acs.ucalgary.ca>
  7. Date: Mon, 14 Sep 92 04:15:14 GMT
  8. References: <9209121817.AA13759@SPUNKY.CS.NYU.EDU>
  9. Nntp-Posting-Host: acs2.acs.ucalgary.ca
  10. Organization: The University of Calgary, Alberta
  11. Lines: 22
  12.  
  13. In article <9209121817.AA13759@SPUNKY.CS.NYU.EDU> figueroa@SPUNKY.CS.NYU.EDU (Samuel A. Figueroa) writes:
  14. >According to a paper I have by W. Kahan (the main person behind both IEEE
  15. >Standards for Floating-Point Arithmetic, as well as PARANOIA; this paper
  16. >complains about the quality of Cray's floating-point arithmetic), the IIT
  17. >math coprocessor doesn't round extended (80-bit) precision correctly,
  18. >though due to a "fluke" in their design, this problem doesn't show up in
  19. >double (64-bit) precision.  Does PARANOIA complain about this?  (I would
  20. >not be surprised if it didn't, since few compilers provide direct access
  21. >to extended precision, so PARANOIA might not be able to test this.  How-
  22. >ever, I haven't looked at PARANOIA's source code, so I don't know if it
  23. >somehow knows how to figure this out.)
  24.  
  25. It does not, and I don't see how it could in a Fortran program where
  26. the relevant variables are specified as double precision.  (Once the
  27. variable is moved out of the fpu, it gets truncated anyway.)
  28.  
  29. Furthermore, in what context could this be relevant if double precision
  30. is adequate?  (And if it were not, how could you ensure, in Fortran,
  31. that you are using the full 80 bits precision where you need it?)
  32.  
  33. Luc B
  34.  
  35.