home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1993 #1 / NN_1993_1.iso / spool / bit / listserv / statl / 2311 < prev    next >
Encoding:
Text File  |  1993-01-06  |  1.5 KB  |  30 lines
  1. Comments: Gated by NETNEWS@AUVM.AMERICAN.EDU
  2. Path: sparky!uunet!wupost!zaphod.mps.ohio-state.edu!darwin.sura.net!paladin.american.edu!auvm!MAYO.EDU!WOLLAN
  3. Message-ID: <9301061416.AA13237@hsr>
  4. Newsgroups: bit.listserv.stat-l
  5. Date:         Wed, 6 Jan 1993 08:16:44 CST
  6. Sender:       STATISTICAL CONSULTING <STAT-L@MCGILL1.BITNET>
  7. From:         Peter Wollan <wollan@MAYO.EDU>
  8. Subject:      Re: Textbook formulas and computers
  9. Lines: 19
  10.  
  11. John Wendell asks if Maple's evalf of an exact expression is an improvement
  12. over the evil textbook computational formulas--
  13.  
  14.   Probably not;  it depends on how Maple goes about doing its evalf, and
  15. judging by the way numerical procedures have been tacked on to an otherwise
  16. wonderful package, it probably just sequentially evaluates the terms and
  17. combines them in order, which is disastrous.  For example, evaluating a
  18. polynomial, the highest-order term is likely to kill everything else.  Aside
  19. from that, which you probably can't do anything about, using evalf(",16)
  20. ought to be a little bit safer, and exactly the same speed, since it should
  21. be using 8-bite floating point arithmetic anyway.  But again, I don't know
  22. what Maple will do there.
  23.   The best numerical algorithm is going to be specific to the task (of course!).
  24. Weisberg's regression book has a good discussion of the sweep algorithm for
  25. regression (inversion of a positive semi-definite matrix)--it's a good place to
  26. start, to get an idea of what problems need to be addressed.  Chapter 1,
  27. I think.
  28.  
  29.         Peter Wollan
  30.