home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #27 / NN_1992_27.iso / spool / comp / lang / idlpvwa / 532 < prev    next >
Encoding:
Text File  |  1992-11-23  |  1.2 KB  |  26 lines
  1. Path: sparky!uunet!zaphod.mps.ohio-state.edu!cs.utexas.edu!tamsun.tamu.edu!bowman.tamu.edu!user
  2. From: bowman@csrp.tamu.edu (Kenneth P. Bowman)
  3. Newsgroups: comp.lang.idl-pvwave
  4. Subject: Floating point system variables on RS6000
  5. Followup-To: comp.lang.idl-pvwave
  6. Date: 23 Nov 1992 22:19:03 GMT
  7. Organization: Texas A&M University
  8. Lines: 13
  9. Distribution: world
  10. Message-ID: <bowman-231192161255@bowman.tamu.edu>
  11. NNTP-Posting-Host: bowman.tamu.edu
  12.  
  13. Due to some underflow problems, I have noticed that the system variables
  14. !DTOR, !PI, and !RADDEG are floats.  Since all arithmetic on the RS6000 is
  15. done in double precision, is there any reason not to store these as double
  16. precision?  Aside from the improved precision, it would obviate the need
  17. for the (invisible) conversion fromâ•©float to double at the system level. 
  18. (I know there is a !DPI double precision system variable.)
  19.  
  20. ---------------------------------------------------------------------------
  21. Dr. Kenneth P. Bowman                          409-862-4060
  22. Climate System Research Program                409-862-4132 fax
  23. Department of Meteorology                      bowman@csrp.tamu.edu
  24. Texas A&M University
  25. College Station, TX   77843-3150
  26.