home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1993 #1 / NN_1993_1.iso / spool / bit / listserv / statl / 2309 < prev    next >
Encoding:
Text File  |  1993-01-06  |  1.1 KB  |  25 lines
  1. Comments: Gated by NETNEWS@AUVM.AMERICAN.EDU
  2. Path: sparky!uunet!paladin.american.edu!auvm!IRLEARN.UCD.IE!RCONROY
  3. Message-ID: <STAT-L%93010605170684@VM1.MCGILL.CA>
  4. Newsgroups: bit.listserv.stat-l
  5. Date:         Wed, 6 Jan 1993 10:08:06 GMT
  6. Sender:       STATISTICAL CONSULTING <STAT-L@MCGILL1.BITNET>
  7. From:         Ronan M Conroy <RCONROY@IRLEARN.UCD.IE>
  8. Subject:      calculators and computers: precision
  9. Lines: 14
  10.  
  11. Dave Arday is interested in comparing the precision of his
  12. calculator and computer. Phil Miller mentioned 69! as the
  13. biggest factorial that the PC will handle. This, by less than
  14. a coincidence, is the limit of what my Sharp EL-506H and my Tandy
  15. (submerged on the desk, no doubt, at the moment) will handle.
  16. 69!/68! is correctly evaluated by them both as being 69. 70!
  17. simply produces an error. But Fisher's exact test is a good case
  18. in point: even with frequencies less than 69, the calculation
  19. will overflow if you multiply out the top of the line and then
  20. the bottom, before dividing. Anyone who has done this test by hand
  21. will know that a little factor finding often reduces the calculation
  22. to the very manageable.
  23.  
  24. ronan
  25.