home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1993 #1 / NN_1993_1.iso / spool / sci / math / 17657 < prev    next >
Encoding:
Internet Message Format  |  1993-01-04  |  2.0 KB
  1. Path: sparky!uunet!usc!wupost!gumby!destroyer!news.iastate.edu!iscsvax.uni.edu!kraai4712
  2. From: kraai4712@iscsvax.uni.edu
  3. Newsgroups: sci.math
  4. Subject: Re: Rounding Rules
  5. Message-ID: <1993Jan4.142226.9639@iscsvax.uni.edu>
  6. Date: 4 Jan 93 14:22:26 -0600
  7. References: <1992Dec20.003018.14325@sol.ctr.columbia.edu> <1992Dec23.140148.21009@hubcap.clemson.edu>
  8. Organization: University of Northern Iowa
  9. Lines: 34
  10.  
  11. In article <1992Dec23.140148.21009@hubcap.clemson.edu>, steve@hubcap.clemson.edu ("Steve" Stevenson) writes:
  12. > In article <1992Dec20.003018.14325@sol.ctr.columbia.edu> shaw@toadflax.UCDavis.EDU (Rob Shaw) writes:
  13. >>What is the rationale behind the following rounding rule?
  14. >>
  15. >>when dealing with 5's followed by all zero's, check the
  16. >>next digit to the left. If it's even, round down; odd,
  17. >>round up.
  18. >>
  19. >>For example both 1.13500 and 1.14500 are 1.14 to 3 places.
  20. >>What is the advantage of having the interval closed at both
  21. >>ends around even digits, and open at both ends around odds?
  22. >>
  23. > 
  24. > The problem with many of the "rounding rules" is that they are biased.
  25. > In the IEEE round of rules, an attempt is made to make rounding as unbiased
  26. > as possible. Round to even is specified as the rule of choice, since it
  27. > avoids many of the problems of "round to infinity" or "round towards zero".
  28.  
  29. My personal favorite rounding rule is to round anything that has {0,1,2,3,4} in
  30. the "rounding place" "down" and anything that has {5,6,7,8,9} "up".  So as in
  31. the previous example, 1.13500 would be rounded to 1.14 and 1.14500 would be
  32. rounded to 1.15.
  33.  
  34. To this my teachers always gasped that this method was biased, and no amount of
  35. pursuasion using the above-mentioned sets could pursuade them.
  36.  
  37. I have come to believe that the people who thought this was biased believed
  38. that anything that had a zero digit in the place to be rounded couldn't be
  39. rounded or didn't need to be rounded or some other mental block.
  40.  
  41. Isn't it be less computationally intensive to round this way instead of looking
  42. at the _previous_ digit?
  43.  
  44. --jim
  45.