home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #18 / NN_1992_18.iso / spool / sci / math / symbolic / 2188 < prev    next >
Encoding:
Text File  |  1992-08-12  |  947 b   |  23 lines
  1. Newsgroups: sci.math.symbolic
  2. Path: sparky!uunet!gumby!wupost!uwm.edu!proclus.csd.uwm.edu!litow
  3. From: litow@csd4.csd.uwm.edu (bruce e litow)
  4. Subject: mantissa based precision
  5. Message-ID: <1992Aug12.151755.16946@uwm.edu>
  6. Originator: litow@proclus.csd.uwm.edu
  7. Keywords: mantissa, digits, modulo 1 
  8. Sender: news@uwm.edu (USENET News System)
  9. Organization: Computing Services Division, University of Wisconsin - Milwaukee
  10. Date: Wed, 12 Aug 1992 15:17:55 GMT
  11. Lines: 10
  12.  
  13. I often run experiments with a CA package where i am working with
  14. numbers modulo 1. The usual notion of floating precision is not what
  15. I want since digits to the left of the decimal point are irrelevant.
  16. So I have to write little procs to do what I want namely to mean
  17. by k digits precision that I retain k digits in the mantissa. Is there
  18. a feature that does this built into CA packages? I am especially
  19. interested in Maple, Macsyma or Axiom. Please email replies to me.
  20. Thanks.
  21.  
  22. ~
  23.