home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #19 / NN_1992_19.iso / spool / comp / lang / c / 12859 < prev    next >
Encoding:
Internet Message Format  |  1992-08-27  |  1.3 KB
  1. Path: sparky!uunet!usc!elroy.jpl.nasa.gov!ames!sun-barr!news2me.ebay.sun.com!jethro.Corp.Sun.COM!exodus.Eng.Sun.COM!positive.Eng.Sun.COM!linden
  2. From: linden@positive.Eng.Sun.COM (Peter van der Linden)
  3. Newsgroups: comp.lang.c
  4. Subject: Re: Convert COBOL COMP-3 to double?
  5. Date: 27 Aug 1992 16:46:45 GMT
  6. Organization: Sun Microsystems, Mt. View, Ca.
  7. Lines: 19
  8. Message-ID: <l9q1nlINN8f7@exodus.Eng.Sun.COM>
  9. References: <1992Aug26.151021.4445@afs.com>
  10. NNTP-Posting-Host: positive
  11.  
  12. From: jack@afs.com (Jack Brasch)
  13. > Could someone point me in the right direction or mail me a routine to  
  14. > convert COBOL COMP-3 types to a double.
  15.  
  16. The COMP-3 format is implementation defined, but in most implementations
  17. it is some form of binary-coded decimal (BCD) in which 2 digits are
  18. stored in each byte (1 per nibble).  There's some jiggery-pokery for the
  19. sign.
  20.  
  21. I would suggest converting it to an int or long first, then floating it,
  22. then adjusting for the implied decimal point.  COBOL can hold up to 18
  23. digits of precision in its fixed-point formats, so you may lose accuracy
  24. when you hold the number as a double.
  25.  
  26.     Peter
  27. --
  28. linden@eng.sun.com|| P. van der Linden and his uncustomary theories.
  29. Go Giants!! Don't || When solving a "panic" you must first ask yourself what you
  30. stop at Florida...|| were doing that could possibly frighten an operating system
  31.