home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1993 #1 / NN_1993_1.iso / spool / sci / math / 17662 < prev    next >
Encoding:
Internet Message Format  |  1993-01-04  |  2.2 KB
  1. Path: sparky!uunet!gatech!rpi!usc!news.service.uci.edu!beckman.com!dn66!a_rubin
  2. Newsgroups: sci.math
  3. Subject: Re: Rounding Rules
  4. Message-ID: <a_rubin.726185517@dn66>
  5. From: a_rubin@dsg4.dse.beckman.com (Arthur Rubin)
  6. Date: 4 Jan 93 22:11:57 GMT
  7. References: <1992Dec20.003018.14325@sol.ctr.columbia.edu> <1992Dec23.140148.21009@hubcap.clemson.edu> <1993Jan4.142226.9639@iscsvax.uni.edu>
  8. Organization: Beckman Instruments, Inc.
  9. Nntp-Posting-Host: dn66.dse.beckman.com
  10. Lines: 35
  11.  
  12. In <1993Jan4.142226.9639@iscsvax.uni.edu> kraai4712@iscsvax.uni.edu writes:
  13.  
  14. >In article <1992Dec23.140148.21009@hubcap.clemson.edu>, steve@hubcap.clemson.edu ("Steve" Stevenson) writes:
  15. >> In article <1992Dec20.003018.14325@sol.ctr.columbia.edu> shaw@toadflax.UCDavis.EDU (Rob Shaw) writes:
  16. >>>What is the rationale behind the following rounding rule?
  17. >>>
  18. >>>when dealing with 5's followed by all zero's, check the
  19. >>>next digit to the left. If it's even, round down; odd,
  20. >>>round up.
  21. >>>
  22. >>>For example both 1.13500 and 1.14500 are 1.14 to 3 places.
  23. >>>What is the advantage of having the interval closed at both
  24. >>>ends around even digits, and open at both ends around odds?
  25. >>>
  26. >> 
  27. >> The problem with many of the "rounding rules" is that they are biased.
  28. >> In the IEEE round of rules, an attempt is made to make rounding as unbiased
  29. >> as possible. Round to even is specified as the rule of choice, since it
  30. >> avoids many of the problems of "round to infinity" or "round towards zero".
  31.  
  32. >My personal favorite rounding rule is to round anything that has {0,1,2,3,4} in
  33. >the "rounding place" "down" and anything that has {5,6,7,8,9} "up".  So as in
  34. >the previous example, 1.13500 would be rounded to 1.14 and 1.14500 would be
  35. >rounded to 1.15.
  36.  
  37. >To this my teachers always gasped that this method was biased, and no amount of
  38. >pursuasion using the above-mentioned sets could pursuade them.
  39.  
  40. Well, it IS biased.  Rounding n places is biased by +1/2 10^-n.
  41.  
  42. --
  43. Arthur L. Rubin: a_rubin@dsg4.dse.beckman.com (work) Beckman Instruments/Brea
  44. 216-5888@mcimail.com 70707.453@compuserve.com arthur@pnet01.cts.com (personal)
  45. My opinions are my own, and do not represent those of my employer.
  46. My interaction with our news system is unstable; please mail anything important.
  47.