home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1993 #1 / NN_1993_1.iso / spool / bit / listserv / statl / 2342 < prev    next >
Encoding:
Internet Message Format  |  1993-01-09  |  1.2 KB
  1. Path: sparky!uunet!gatech!asuvax!asuacad!atg2g
  2. Organization: Arizona State University
  3. Date: Saturday, 9 Jan 1993 13:56:00 MST
  4. From: <ATG2G@ASUACAD.BITNET>
  5. Message-ID: <93009.135601ATG2G@ASUACAD.BITNET>
  6. Newsgroups: bit.listserv.stat-l
  7. Subject: Re: Roundoff of various formulae in spreadsheets
  8. References:  <9301081401.AA01015@cbis.ECE.Drexel.EDU>
  9. Lines: 20
  10.  
  11. As a matter of curiosity (since I don't deal in ppm scales) and to
  12. extend the "platform" question, I tried to replicate the STDEV results
  13. on an SE running Excel 4.0, no FPU.  I found discrepancies beginning
  14. roughly at the point that the interquartile range falls below
  15. one 10-millionth of the mean.  Apparently the precision has tightened
  16. up a bit (no pun intended, but there it is) vis-a-vis 3.0, but the
  17. formula is as before.
  18.  
  19. There is a LINEST function in 4.0 that returns multiple regression
  20. statistics very fast and very accurately for most data, but I was
  21. able to make it return an error value using data that other Excel 4.0
  22. functions (determinant, matrix mult, etc.) are able to handle.
  23.  
  24. Unrepentant, I continue to trust Excel, for statistical purposes,
  25. neither more nor less than anything else that comes shrink-wrapped.
  26.  
  27. (Flame deflectors on.)
  28.  
  29. Conrad Carlberg
  30.  
  31.