home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1993 #1 / NN_1993_1.iso / spool / sci / math / 17688 < prev    next >
Encoding:
Internet Message Format  |  1993-01-05  |  2.1 KB
  1. Path: sparky!uunet!pipex!bnr.co.uk!uknet!mcsun!Germany.EU.net!urmel.informatik.rwth-aachen.de!rama!dak
  2. From: dak@rama.informatik.rwth-aachen.de (David Kastrup)
  3. Newsgroups: sci.math
  4. Subject: Re: Rounding Rules
  5. Message-ID: <dak.726242739@rama>
  6. Date: 5 Jan 93 14:05:39 GMT
  7. References: <1992Dec20.003018.14325@sol.ctr.columbia.edu> <1992Dec23.140148.21009@hubcap.clemson.edu> <1993Jan4.142226.9639@iscsvax.uni.edu>
  8. Organization: Rechnerbetrieb Informatik - RWTH Aachen
  9. Lines: 31
  10. NNTP-Posting-Host: rama.informatik.rwth-aachen.de
  11.  
  12. kraai4712@iscsvax.uni.edu writes:
  13.  
  14. >In article <1992Dec23.140148.21009@hubcap.clemson.edu>, steve@hubcap.clemson.edu ("Steve" Stevenson) writes:
  15. >> In article <1992Dec20.003018.14325@sol.ctr.columbia.edu> shaw@toadflax.UCDavis.EDU (Rob Shaw) writes:
  16. >>>What is the rationale behind the following rounding rule?
  17. >>>
  18. >>>when dealing with 5's followed by all zero's, check the
  19. >>>next digit to the left. If it's even, round down; odd,
  20. >>>round up.
  21. >>>
  22. >>>For example both 1.13500 and 1.14500 are 1.14 to 3 places.
  23.  
  24. >My personal favorite rounding rule is to round anything that has {0,1,2,3,4} in
  25. >the "rounding place" "down" and anything that has {5,6,7,8,9} "up".  So as in
  26. >the previous example, 1.13500 would be rounded to 1.14 and 1.14500 would be
  27. >rounded to 1.15.
  28.  
  29. >To this my teachers always gasped that this method was biased, and no amount of
  30. >pursuasion using the above-mentioned sets could pursuade them.
  31.  
  32. >I have come to believe that the people who thought this was biased believed
  33. >that anything that had a zero digit in the place to be rounded couldn't be
  34. >rounded or didn't need to be rounded or some other mental block.
  35.  
  36. One problem with your rounding method is that rounding errors might add up.
  37. So, successive rounding of 1.44445 yields 1.4445, 1.445, 1.45, 1.5, 2.0.
  38. Rounding to nearest even will, when doing successive rounding, never
  39. have an error more than half of the then LSB. Also, there are SOME
  40. more properties of the real group that hold valid, making numerical
  41. computations slightly more reliable. See Knuth, Seminumerical Algorithms
  42. (Art of comp. progr., Vol 2) for reasons and rationalizations with proofs.
  43.