home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #18 / NN_1992_18.iso / spool / bit / listserv / sasl / 3676 next >
Encoding:
Text File  |  1992-08-12  |  1.3 KB  |  31 lines
  1. Comments: Gated by NETNEWS@AUVM.AMERICAN.EDU
  2. Path: sparky!uunet!paladin.american.edu!auvm!SWIRL.MONSANTO.COM!GIBES
  3. Message-ID: <9208121244.AA17893@tin.monsanto.com>
  4. Newsgroups: bit.listserv.sas-l
  5. Date:         Wed, 12 Aug 1992 07:44:54 -0500
  6. Reply-To:     Kernon Gibes <gibes@SWIRL.MONSANTO.COM>
  7. Sender:       "SAS(r) Discussion" <SAS-L@UGA.BITNET>
  8. From:         Kernon Gibes <gibes@SWIRL.MONSANTO.COM>
  9. Subject:      VMS Precision & LENGTH stmt SOLVED
  10. Comments: To: sas-l@tin.monsanto.com
  11. Comments: cc: GIBES@tin.monsanto.com
  12. Lines: 17
  13.  
  14.  CONTENT:   Thank You!
  15.  SUMMARY:   Numerics stored as floating point / truncation may only be
  16.             evident when exponent + mantissa can't handle it
  17.  REL/PLTF:  6.07 TS 301/ VMS
  18.  E-ADDR:    gibes@swirl.monsanto.com
  19.  NAME:      Kernon Gibes
  20.  DATE:        12 August 1992
  21.  
  22.  Thanks to J. Philip Miller and "KLASSEN@UVVM.uvic.ca" for their
  23.  responses on my  question regarding stored precision.  As I understand
  24.  their explanations, the problem with my test program was that I was
  25.  only looking at powers of 2 and since SAS stores numerics as floating
  26.  point, between the exponent and mantissa the allocated bytes were able
  27.  to handle the numbers.  If I had tried other numbers (like certain odd
  28.  numbers, etc.), I would have seen the truncation.
  29.  
  30.  Thanks again!
  31.