home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1993 #1 / NN_1993_1.iso / spool / bit / listserv / dbasel / 1412 < prev    next >
Encoding:
Internet Message Format  |  1993-01-06  |  1.1 KB
  1. Path: sparky!uunet!psgrain!hippo!shrike.und.ac.za!pc17.cc.und.ac.za!lotter
  2. From: lotter@cc.und.ac.za (Eddie Lotter)
  3. Newsgroups: bit.listserv.dbase-l
  4. Subject: Re: HELP ! HELP ! Clipper bug ??????!!
  5. Date: Wed, 6 Jan 1993 11:15:04 GMT
  6. Organization: University Of Natal (Durban)
  7. Lines: 16
  8. Message-ID: <lotter.135.726318904@cc.und.ac.za>
  9. References: <01GT5ZU1G02A9KM5XN@URC.TUE.NL> <1993Jan5.181101.17859@murdoch.acc.Virginia.EDU>
  10. NNTP-Posting-Host: pc17.cc.und.ac.za
  11.  
  12. jw2b@galen.med.Virginia.EDU (Sara J. Wagner) writes:
  13. >There is a known problem with floating point errors in Clipper -- I've
  14. >bumped into it before.  Tech Support suggested using val() and str()
  15. >to force the math to behave.  Try something like val(str(var3)) ==
  16. >(val(str(var1)) + val(str(var2))) and see if that helps.
  17.  
  18. This can still cause inaccuracies! Be even more explicit with Str()
  19. and specify the number of decimals. e.g.
  20.  
  21. ? str(var3,8,2) == ( str(var1+var2,8,2) )
  22.  
  23. Cheers
  24. Eddie                                              lotter@cc.und.ac.za
  25. ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
  26. Without forgiveness, no-one would have a social life.
  27. - Alfred Capus
  28.