home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #20 / NN_1992_20.iso / spool / comp / text / tex / 11247 < prev    next >
Encoding:
Internet Message Format  |  1992-09-15  |  1.2 KB
  1. Path: sparky!uunet!mcsun!uknet!pavo.csi.cam.ac.uk!camcus!cet1
  2. From: cet1@cus.cam.ac.uk (C.E. Thompson)
  3. Newsgroups: comp.text.tex
  4. Subject: Re: Any ideas on fixed point addition?
  5. Message-ID: <1992Sep15.221949.22190@infodev.cam.ac.uk>
  6. Date: 15 Sep 92 22:19:49 GMT
  7. References: <1992Sep14.220128.16318@Princeton.EDU> <15SEP199203465090@reg.triumf.ca> <1992Sep15.145606.21328@Princeton.EDU>
  8. Sender: news@infodev.cam.ac.uk (USENET news)
  9. Organization: U of Cambridge, England
  10. Lines: 25
  11. Nntp-Posting-Host: grus.cus.cam.ac.uk
  12.  
  13. In article <1992Sep15.145606.21328@Princeton.EDU>, tvz@zandtwerk.Princeton.EDU
  14. (Timothy Van Zandt) writes:
  15. |>
  16. |> occasional rounding errors. E.g., using the method given above,
  17. |> one gets:
  18. |> 
  19. |>   1 + 2 = 3.0
  20. |> 
  21. |>   1.05 + 2.05 = 3.1
  22. |> 
  23. |>   8.10 + 3.05 = 11.15001
  24. |> 
  25. |> 
  26. |> This last example, due to rounding errors inside TeX when converting
  27. |> between sp and pt, may vary from system to system.
  28.  
  29. It certainly shouldn't: TeX's (visible) arithemtic is portable and
  30. should give the same results in all implementations. (There are some
  31. potential exceptions, but they involve arithmetic overflow, which
  32. isn't involved here.)
  33.  
  34. Chris Thompson
  35. Cambridge University Computing Service
  36. JANET:    cet1@uk.ac.cam.phx
  37. Internet: cet1@phx.cam.ac.uk
  38.