home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #20 / NN_1992_20.iso / spool / bit / listserv / sasl / 4172 < prev    next >
Encoding:
Text File  |  1992-09-12  |  1.5 KB  |  32 lines
  1. Comments: Gated by NETNEWS@AUVM.AMERICAN.EDU
  2. Newsgroups: bit.listserv.sas-l
  3. Path: sparky!uunet!paladin.american.edu!auvm!uvvm!klassen
  4. References:  <9209111646.AA17115@slc10.INS.CWRU.Edu>
  5. Message-ID: <92255.163248KLASSEN@UVVM>
  6. Date:         Fri, 11 Sep 1992 16:32:48 PDT
  7. Reply-To:     Melvin Klassen <KLASSEN@UVVM.BITNET>
  8. Sender:       "SAS(r) Discussion" <SAS-L@UGA.BITNET>
  9. Comments:     Warning -- original Sender: tag was NETNEWS@UVVM.UVIC.CA
  10. From:         Melvin Klassen <KLASSEN@UVVM.BITNET>
  11. Subject:      Re: Last (??) word on variable lengths
  12. Lines: 18
  13.  
  14. "Paul A. Thompson" <pat@PO.CWRU.EDU> writes:
  15. >I looked at the algorithm.  It was all written in single precision,
  16. >and these values were being used to minimize this complex function.
  17. >Essentially, this was the entire problem!
  18.  
  19. You didn't indicate how/where you obtained the FORTRAN code,
  20. but if the program was written for the Control Data Corporation CDC-6000
  21. series computer, "short-precision" floating-point used 60-bit words,
  22. and "long-precision" used 120-bit words.
  23.  
  24. In this case, single-precision would have been entirely adequate,
  25. especially when compared to the 64-bit words used for "long-precision"
  26. on IBM computers, where 3 of those 64 bits are likely to be zero,
  27. due to the hexadecimal-normalization performed by the IBM hardware.
  28.  
  29. So, take a look at the 'PRECISION= type-param-value' clause as part
  30. of the 'REAL' statement in the Fortran 90 standard.  Use it as a way of
  31. writing **portable** FORTRAN code.  A case of "programmer, know thy hardware".
  32.