home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #30 / NN_1992_30.iso / spool / sci / math / 17232 < prev    next >
Encoding:
Internet Message Format  |  1992-12-21  |  1.2 KB

  1. Path: sparky!uunet!usc!usc!not-for-mail
  2. From: bruck@mtha.usc.edu (Ronald Bruck)
  3. Newsgroups: sci.math
  4. Subject: Re: Rounding Rules
  5. Date: 20 Dec 1992 08:06:55 -0800
  6. Organization: University of Southern California, Los Angeles, CA
  7. Lines: 25
  8. Message-ID: <1h25mvINN1gl@mtha.usc.edu>
  9. References: <1992Dec20.003018.14325@sol.ctr.columbia.edu>
  10. NNTP-Posting-Host: mtha.usc.edu
  11.  
  12. In article <1992Dec20.003018.14325@sol.ctr.columbia.edu> shaw@toadflax.UCDavis.EDU (Rob Shaw) writes:
  13. >
  14. >What is the rationale behind the following rounding rule?
  15. >
  16. >when dealing with 5's followed by all zero's, check the
  17. >next digit to the left. If it's even, round down; odd,
  18. >round up.
  19. >
  20. >For example both 1.13500 and 1.14500 are 1.14 to 3 places.
  21. >What is the advantage of having the interval closed at both
  22. >ends around even digits, and open at both ends around odds?
  23. >
  24.  
  25. The purpose is to make addition more accurate.  Assuming there
  26. is no systematic error, i.e. in half the cases the 5 is preceded
  27. by an even and in half the cases by an odd, then this rule will
  28. cancel the errors.  "Round to even" sounds as if it discriminates
  29. against odds, but if you add 10^9 terms following some other
  30. rule, your purported sum may be way off.
  31.  
  32. --Ron Bruck
  33. bruck@mtha.usc.edu preferred
  34.  
  35.  
  36.  
  37.