home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1993 #1 / NN_1993_1.iso / spool / bit / listserv / statl / 2310 < prev    next >
Encoding:
Text File  |  1993-01-06  |  1.4 KB  |  29 lines

  1. Comments: Gated by NETNEWS@AUVM.AMERICAN.EDU
  2. Path: sparky!uunet!zaphod.mps.ohio-state.edu!darwin.sura.net!paladin.american.edu!auvm!UHUNIX.BITNET!DANIEL
  3. Message-ID: <CMM.0.88.726320822.daniel@uhunix.uhcc.Hawaii.Edu>
  4. Newsgroups: bit.listserv.stat-l
  5. Date:         Wed, 6 Jan 1993 01:47:02 HST
  6. Sender:       STATISTICAL CONSULTING <STAT-L@MCGILL1.BITNET>
  7. From:         Daniel Blaine <DANIEL@UHUNIX.BITNET>
  8. Subject:      Re: calculators and computers: precision
  9. In-Reply-To:  Your message of Wed, 6 Jan 1993 10:08:06 GMT
  10. Lines: 17
  11.  
  12. > Dave Arday is interested in comparing the precision of his
  13. > calculator and computer. Phil Miller mentioned 69! as the
  14. > biggest factorial that the PC will handle. This, by less than
  15. > a coincidence, is the limit of what my Sharp EL-506H and my Tandy
  16. > (submerged on the desk, no doubt, at the moment) will handle.
  17. > 69!/68! is correctly evaluated by them both as being 69. 70!
  18. > simply produces an error. But Fisher's exact test is a good case
  19. > in point: even with frequencies less than 69, the calculation
  20. > will overflow if you multiply out the top of the line and then
  21. > the bottom, before dividing. Anyone who has done this test by hand
  22. > will know that a little factor finding often reduces the calculation
  23. > to the very manageable.
  24.  
  25.         "Ditto" for the "CASIO fx-300A" (Scientific Calculator).
  26.  
  27. Daniel Blaine                           University of Hawaii at Manoa
  28. daniel@uhunix.uhcc.Hawaii.Edu                    daniel@uhunix.bitnet
  29.