home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #31 / NN_1992_31.iso / spool / comp / lang / rexx / 1447 < prev    next >
Encoding:
Text File  |  1993-01-03  |  1.2 KB  |  27 lines

  1. Newsgroups: comp.lang.rexx
  2. Path: sparky!uunet!munnari.oz.au!titan!rhea!aduncan
  3. From: aduncan@rhea.trl.OZ.AU (Allan Duncan)
  4. Subject: Re:      Re: Even/Odd rounding
  5. Message-ID: <1993Jan3.121308.25407@trl.oz.au>
  6. Sender: root@trl.oz.au (System PRIVILEGED Account)
  7. Organization: Telecom Research Labs, Melbourne, Australia
  8. References: <REXXLIST%92122913221518@UGA.CC.UGA.EDU>
  9. Date: Sun, 3 Jan 1993 12:13:08 GMT
  10. Lines: 15
  11.  
  12. From article <REXXLIST%92122913221518@UGA.CC.UGA.EDU>, by         Dave Gomberg <GOMBERG@UCSFVM.BITNET>:
  13. > Mike, I am still not sure I understand this arbitrary precision business.
  14. > You only need to detect the case of exactly .50000000000000000000..., since
  15. > that is the only place the even/odd result differs from the round .5 up
  16. > rule.  Or am I missing something?   (Probably)   Dave
  17.  
  18. I am coming in on this mid-discussion, so I might be missing some
  19. subtlety, anyway...
  20.  
  21. If you wanted 100.99 style precision, then the rounding is +/-.005 at the
  22. threshold, not .5 as you surmise.
  23. Allan Duncan        ACSnet     a.duncan@trl.oz
  24. (+613) 253 6708        Internet a.duncan@trl.oz.au
  25. Fax    253 6664        UUCP     {uunet,hplabs,ukc}!munnari!trl.oz.au!a.duncan
  26.     Telecom Research Labs, PO Box 249, Clayton, Victoria, 3168, Australia.
  27.