home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #26 / NN_1992_26.iso / spool / comp / os / mswindo / programm / misc / 3315 < prev    next >
Encoding:
Text File  |  1992-11-09  |  1.7 KB  |  37 lines
  1. Newsgroups: comp.os.ms-windows.programmer.misc
  2. Path: sparky!uunet!zaphod.mps.ohio-state.edu!darwin.sura.net!jvnc.net!news.edu.tw!news!Uz.nthu.edu.tw!yfwu
  3. From: yfwu@Uz.nthu.edu.tw (EE U780935)
  4. Subject: Re: OVERFLOW ERROR with Double in VB
  5. Message-ID: <1992Nov6.011700.17728%yfwu@Uz.nthu.edu.tw>
  6. Organization: National Tsing Hua University (HsinChu)
  7. References: <9211042127.AA24137@top.magnus.acs.ohio-state.edu>
  8. Date: Fri, 6 Nov 1992 01:17:00 GMT
  9. Lines: 26
  10.  
  11. salter@magnus.acs.ohio-state.edu (John E Salter) writes:
  12. > What am doing wrong to cause the OVERFLOW ERROR.
  13. > If it is a VB problem, is there a work around?
  14. > I am trying to do logical ORing of bits in double numbers.
  15. > 
  16. >     Dim tbits As Double
  17. >     Dim sbits As Double
  18. >     Dim wbits As Double
  19. >     sbits = 0
  20. >     tbits = 2 ^ 36              'This statement is OK
  21. >     form1.Print sbits           'This is OK
  22. >     form1.Print tbits           'This is OK
  23. >     wbits = sbits Or tbits      'Produces OVERFLOW ERROR
  24. >     form1.Print sbits Or tbits  'Produces OVERFlOW ERROR
  25. > 
  26. I think this is *not* a bug in Visual Basic. Because the Double data format
  27. is Sign+Exp+Mantessa. If we OR two Double number, the result is useless and
  28. meaningless. So if you really want to perform 2 8-byte number OR/AND/Other
  29. boolean operation. Use Currency instead.
  30. --
  31. ===============================================================================
  32.  Yuh-Fuu Wu                                      National Tsing-Hua University
  33.  e-mail: yfwu@uz.nthu.edu.tw                     Dept. of Electric Engineering
  34.                                                  Hsin-Chu City, 300
  35.  Like MS Visual Basic most!                      Taiwan, ROC
  36. ===============================================================================
  37.