home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1993 #1 / NN_1993_1.iso / spool / bit / listserv / statl / 2312 < prev    next >
Encoding:
Text File  |  1993-01-06  |  1.3 KB  |  29 lines
  1. Newsgroups: bit.listserv.stat-l
  2. Path: sparky!uunet!utcsri!torn!news.ccs.queensu.ca!mast.queensu.ca!dmurdoch
  3. From: dmurdoch@mast.queensu.ca (Duncan Murdoch)
  4. Subject: Re: calculators and computers: precision
  5. Message-ID: <dmurdoch.378.726333098@mast.queensu.ca>
  6. Lines: 17
  7. Sender: news@knot.ccs.queensu.ca (Netnews control)
  8. Organization: Queen's University
  9. References: <STAT-L%93010605170684@VM1.MCGILL.CA>
  10. Date: Wed, 6 Jan 1993 15:11:38 GMT
  11.  
  12. In article <STAT-L%93010605170684@VM1.MCGILL.CA> Ronan M Conroy <RCONROY@IRLEARN.UCD.IE> writes:
  13. >Phil Miller mentioned 69! as the
  14. >biggest factorial that the PC will handle. This, by less than
  15. >a coincidence, is the limit of what my Sharp EL-506H and my Tandy
  16. >(submerged on the desk, no doubt, at the moment) will handle.
  17. >69!/68! is correctly evaluated by them both as being 69. 
  18.  
  19. In fact "the biggest factorial a PC will handle" is not a well-defined 
  20. number.  PC's don't have a single floating point representation; each 
  21. representation has different limits.  If you have a numeric coprocessor, the 
  22. single, double and temp real types (4, 8 and 10 bytes resp.) are supported 
  23. by hardware; they can calculate factorials up to 34!, 170!, and 1754!.  
  24. However, there are lots of packages providing arithmetic up to much higher 
  25. limits in software.
  26.  
  27. Duncan Murdoch
  28. dmurdoch@mast.queensu.ca
  29.