home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1993 #1 / NN_1993_1.iso / spool / bit / listserv / statl / 2320 < prev    next >
Encoding:
Text File  |  1993-01-06  |  1.5 KB  |  33 lines
  1. Comments: Gated by NETNEWS@AUVM.AMERICAN.EDU
  2. Path: sparky!uunet!zaphod.mps.ohio-state.edu!howland.reston.ans.net!paladin.american.edu!auvm!TOWSONVX.BITNET!E7M2KAP
  3. X-Envelope-to: stat-l@mcgill1.BITNET
  4. X-VMS-To: IN%"stat-l@mcgill1"
  5. X-VMS-Cc: E7M2KAP
  6. MIME-version: 1.0
  7. Content-transfer-encoding: 7BIT
  8. Message-ID: <01GT7C7V576Q9YCTIV@TOE.TOWSON.EDU>
  9. Newsgroups: bit.listserv.stat-l
  10. Date:         Wed, 6 Jan 1993 15:43:33 -0500
  11. Sender:       STATISTICAL CONSULTING <STAT-L@MCGILL1.BITNET>
  12. From:         Howard Kaplon - Towson State University <E7M2KAP@TOWSONVX.BITNET>
  13. Subject:      Calculators and Computers: Precision
  14. Lines: 17
  15.  
  16. Most calculators roll over into scientific notation when the values become
  17. large.   In this mode, all of the calculators I have seen are limited to
  18. 99 as the largest exponent of 10  (i.e. E 99).  69! is approximately
  19. 1.7112 E 98  while 70! has an exponent of 10 that is 100; and this OVERFLOWS
  20. the exopnential memory section of the calculator.
  21.  
  22. for a desktop computer, although I have not tried yet, you should be able to
  23. get larger factorials by declaring the variables ad double precision.
  24.  
  25. Howard
  26.  
  27. -----------------------------------------------------------------------
  28. | Howard S. Kaplon                    |  Mathematics Department       |
  29. | BITNET:  Kaplon-H@TOWSONVX.BITNET   |  Towson State University      |
  30. | Internet:  Kaplon-H@TOE.TOWSON.EDU  |  Towson, Maryland  21209-7097 |
  31. | Phone:  (410) 830-3087              |  FAX: (410) 830-2604          |
  32. -----------------------------------------------------------------------
  33.