home *** CD-ROM | disk | FTP | other *** search
/ The CDPD Public Domain Collection for CDTV 3 / CDPDIII.bin / pd / programming / gnuc / gen_library / rcs / crypt.c,v < prev    next >
Encoding:
Text File  |  1992-07-04  |  29.4 KB  |  1,001 lines
  1. head    1.1;
  2. access;
  3. symbols
  4.     version39-41:1.1;
  5. locks;
  6. comment    @ * @;
  7.  
  8.  
  9. 1.1
  10. date    92.06.08.18.31.20;    author mwild;    state Exp;
  11. branches;
  12. next    ;
  13.  
  14.  
  15. desc
  16. @initial checkin
  17. @
  18.  
  19.  
  20. 1.1
  21. log
  22. @Initial revision
  23. @
  24. text
  25. @/*
  26.  * Copyright (c) 1989 The Regents of the University of California.
  27.  * All rights reserved.
  28.  *
  29.  * This code is derived from software contributed to Berkeley by
  30.  * Tom Truscott.
  31.  *
  32.  * Redistribution and use in source and binary forms, with or without
  33.  * modification, are permitted provided that the following conditions
  34.  * are met:
  35.  * 1. Redistributions of source code must retain the above copyright
  36.  *    notice, this list of conditions and the following disclaimer.
  37.  * 2. Redistributions in binary form must reproduce the above copyright
  38.  *    notice, this list of conditions and the following disclaimer in the
  39.  *    documentation and/or other materials provided with the distribution.
  40.  * 3. All advertising materials mentioning features or use of this software
  41.  *    must display the following acknowledgement:
  42.  *    This product includes software developed by the University of
  43.  *    California, Berkeley and its contributors.
  44.  * 4. Neither the name of the University nor the names of its contributors
  45.  *    may be used to endorse or promote products derived from this software
  46.  *    without specific prior written permission.
  47.  *
  48.  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND
  49.  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  50.  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  51.  * ARE DISCLAIMED.  IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
  52.  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  53.  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  54.  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  55.  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  56.  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  57.  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  58.  * SUCH DAMAGE.
  59.  */
  60.  
  61. #if defined(LIBC_SCCS) && !defined(lint)
  62. static char sccsid[] = "@@(#)crypt.c    5.11 (Berkeley) 6/25/91";
  63. #endif /* LIBC_SCCS and not lint */
  64.  
  65. #define KERNEL
  66. #include "ixemul.h"
  67.  
  68. #include <unistd.h>
  69. #include <limits.h>
  70. #include <pwd.h>
  71.  
  72. /*
  73.  * UNIX password, and DES, encryption.
  74.  * By Tom Truscott, trt@@rti.rti.org,
  75.  * from algorithms by Robert W. Baldwin and James Gillogly.
  76.  *
  77.  * References:
  78.  * "Mathematical Cryptology for Computer Scientists and Mathematicians,"
  79.  * by Wayne Patterson, 1987, ISBN 0-8476-7438-X.
  80.  *
  81.  * "Password Security: A Case History," R. Morris and Ken Thompson,
  82.  * Communications of the ACM, vol. 22, pp. 594-597, Nov. 1979.
  83.  *
  84.  * "DES will be Totally Insecure within Ten Years," M.E. Hellman,
  85.  * IEEE Spectrum, vol. 16, pp. 32-39, July 1979.
  86.  */
  87.  
  88. /* =====  Configuration ==================== */
  89.  
  90. /*
  91.  * define "MUST_ALIGN" if your compiler cannot load/store
  92.  * long integers at arbitrary (e.g. odd) memory locations.
  93.  * (Either that or never pass unaligned addresses to des_cipher!)
  94.  */
  95. #if !defined(vax)
  96. #define    MUST_ALIGN
  97. #endif
  98.  
  99. #ifdef CHAR_BITS
  100. #if CHAR_BITS != 8
  101.     #error C_block structure assumes 8 bit characters
  102. #endif
  103. #endif
  104.  
  105. /*
  106.  * define "LONG_IS_32_BITS" only if sizeof(long)==4.
  107.  * This avoids use of bit fields (your compiler may be sloppy with them).
  108.  */
  109. #if !defined(cray)
  110. #define    LONG_IS_32_BITS
  111. #endif
  112.  
  113. /*
  114.  * define "B64" to be the declaration for a 64 bit integer.
  115.  * XXX this feature is currently unused, see "endian" comment below.
  116.  */
  117. #if defined(cray)
  118. #define    B64    long
  119. #endif
  120. #if defined(convex)
  121. #define    B64    long long
  122. #endif
  123.  
  124. /*
  125.  * define "LARGEDATA" to get faster permutations, by using about 72 kilobytes
  126.  * of lookup tables.  This speeds up des_setkey() and des_cipher(), but has
  127.  * little effect on crypt().
  128.  */
  129. #if defined(notdef)
  130. #define    LARGEDATA
  131. #endif
  132.  
  133. /* compile with "-DSTATIC=int" when profiling */
  134. #ifndef STATIC
  135. #define    STATIC    static
  136. #endif
  137. STATIC init_des(), init_perm(), permute();
  138. #ifdef DEBUG
  139. STATIC prtab();
  140. #endif
  141.  
  142. /* ==================================== */
  143.  
  144. /*
  145.  * Cipher-block representation (Bob Baldwin):
  146.  *
  147.  * DES operates on groups of 64 bits, numbered 1..64 (sigh).  One
  148.  * representation is to store one bit per byte in an array of bytes.  Bit N of
  149.  * the NBS spec is stored as the LSB of the Nth byte (index N-1) in the array.
  150.  * Another representation stores the 64 bits in 8 bytes, with bits 1..8 in the
  151.  * first byte, 9..16 in the second, and so on.  The DES spec apparently has
  152.  * bit 1 in the MSB of the first byte, but that is particularly noxious so we
  153.  * bit-reverse each byte so that bit 1 is the LSB of the first byte, bit 8 is
  154.  * the MSB of the first byte.  Specifically, the 64-bit input data and key are
  155.  * converted to LSB format, and the output 64-bit block is converted back into
  156.  * MSB format.
  157.  *
  158.  * DES operates internally on groups of 32 bits which are expanded to 48 bits
  159.  * by permutation E and shrunk back to 32 bits by the S boxes.  To speed up
  160.  * the computation, the expansion is applied only once, the expanded
  161.  * representation is maintained during the encryption, and a compression
  162.  * permutation is applied only at the end.  To speed up the S-box lookups,
  163.  * the 48 bits are maintained as eight 6 bit groups, one per byte, which
  164.  * directly feed the eight S-boxes.  Within each byte, the 6 bits are the
  165.  * most significant ones.  The low two bits of each byte are zero.  (Thus,
  166.  * bit 1 of the 48 bit E expansion is stored as the "4"-valued bit of the
  167.  * first byte in the eight byte representation, bit 2 of the 48 bit value is
  168.  * the "8"-valued bit, and so on.)  In fact, a combined "SPE"-box lookup is
  169.  * used, in which the output is the 64 bit result of an S-box lookup which
  170.  * has been permuted by P and expanded by E, and is ready for use in the next
  171.  * iteration.  Two 32-bit wide tables, SPE[0] and SPE[1], are used for this
  172.  * lookup.  Since each byte in the 48 bit path is a multiple of four, indexed
  173.  * lookup of SPE[0] and SPE[1] is simple and fast.  The key schedule and
  174.  * "salt" are also converted to this 8*(6+2) format.  The SPE table size is
  175.  * 8*64*8 = 4K bytes.
  176.  *
  177.  * To speed up bit-parallel operations (such as XOR), the 8 byte
  178.  * representation is "union"ed with 32 bit values "i0" and "i1", and, on
  179.  * machines which support it, a 64 bit value "b64".  This data structure,
  180.  * "C_block", has two problems.  First, alignment restrictions must be
  181.  * honored.  Second, the byte-order (e.g. little-endian or big-endian) of
  182.  * the architecture becomes visible.
  183.  *
  184.  * The byte-order problem is unfortunate, since on the one hand it is good
  185.  * to have a machine-independent C_block representation (bits 1..8 in the
  186.  * first byte, etc.), and on the other hand it is good for the LSB of the
  187.  * first byte to be the LSB of i0.  We cannot have both these things, so we
  188.  * currently use the "little-endian" representation and avoid any multi-byte
  189.  * operations that depend on byte order.  This largely precludes use of the
  190.  * 64-bit datatype since the relative order of i0 and i1 are unknown.  It
  191.  * also inhibits grouping the SPE table to look up 12 bits at a time.  (The
  192.  * 12 bits can be stored in a 16-bit field with 3 low-order zeroes and 1
  193.  * high-order zero, providing fast indexing into a 64-bit wide SPE.)  On the
  194.  * other hand, 64-bit datatypes are currently rare, and a 12-bit SPE lookup
  195.  * requires a 128 kilobyte table, so perhaps this is not a big loss.
  196.  *
  197.  * Permutation representation (Jim Gillogly):
  198.  *
  199.  * A transformation is defined by its effect on each of the 8 bytes of the
  200.  * 64-bit input.  For each byte we give a 64-bit output that has the bits in
  201.  * the input distributed appropriately.  The transformation is then the OR
  202.  * of the 8 sets of 64-bits.  This uses 8*256*8 = 16K bytes of storage for
  203.  * each transformation.  Unless LARGEDATA is defined, however, a more compact
  204.  * table is used which looks up 16 4-bit "chunks" rather than 8 8-bit chunks.
  205.  * The smaller table uses 16*16*8 = 2K bytes for each transformation.  This
  206.  * is slower but tolerable, particularly for password encryption in which
  207.  * the SPE transformation is iterated many times.  The small tables total 9K
  208.  * bytes, the large tables total 72K bytes.
  209.  *
  210.  * The transformations used are:
  211.  * IE3264: MSB->LSB conversion, initial permutation, and expansion.
  212.  *    This is done by collecting the 32 even-numbered bits and applying
  213.  *    a 32->64 bit transformation, and then collecting the 32 odd-numbered
  214.  *    bits and applying the same transformation.  Since there are only
  215.  *    32 input bits, the IE3264 transformation table is half the size of
  216.  *    the usual table.
  217.  * CF6464: Compression, final permutation, and LSB->MSB conversion.
  218.  *    This is done by two trivial 48->32 bit compressions to obtain
  219.  *    a 64-bit block (the bit numbering is given in the "CIFP" table)
  220.  *    followed by a 64->64 bit "cleanup" transformation.  (It would
  221.  *    be possible to group the bits in the 64-bit block so that 2
  222.  *    identical 32->32 bit transformations could be used instead,
  223.  *    saving a factor of 4 in space and possibly 2 in time, but
  224.  *    byte-ordering and other complications rear their ugly head.
  225.  *    Similar opportunities/problems arise in the key schedule
  226.  *    transforms.)
  227.  * PC1ROT: MSB->LSB, PC1 permutation, rotate, and PC2 permutation.
  228.  *    This admittedly baroque 64->64 bit transformation is used to
  229.  *    produce the first code (in 8*(6+2) format) of the key schedule.
  230.  * PC2ROT[0]: Inverse PC2 permutation, rotate, and PC2 permutation.
  231.  *    It would be possible to define 15 more transformations, each
  232.  *    with a different rotation, to generate the entire key schedule.
  233.  *    To save space, however, we instead permute each code into the
  234.  *    next by using a transformation that "undoes" the PC2 permutation,
  235.  *    rotates the code, and then applies PC2.  Unfortunately, PC2
  236.  *    transforms 56 bits into 48 bits, dropping 8 bits, so PC2 is not
  237.  *    invertible.  We get around that problem by using a modified PC2
  238.  *    which retains the 8 otherwise-lost bits in the unused low-order
  239.  *    bits of each byte.  The low-order bits are cleared when the
  240.  *    codes are stored into the key schedule.
  241.  * PC2ROT[1]: Same as PC2ROT[0], but with two rotations.
  242.  *    This is faster than applying PC2ROT[0] twice,
  243.  *
  244.  * The Bell Labs "salt" (Bob Baldwin):
  245.  *
  246.  * The salting is a simple permutation applied to the 48-bit result of E.
  247.  * Specifically, if bit i (1 <= i <= 24) of the salt is set then bits i and
  248.  * i+24 of the result are swapped.  The salt is thus a 24 bit number, with
  249.  * 16777216 possible values.  (The original salt was 12 bits and could not
  250.  * swap bits 13..24 with 36..48.)
  251.  *
  252.  * It is possible, but ugly, to warp the SPE table to account for the salt
  253.  * permutation.  Fortunately, the conditional bit swapping requires only
  254.  * about four machine instructions and can be done on-the-fly with about an
  255.  * 8% performance penalty.
  256.  */
  257.  
  258. typedef union {
  259.     unsigned char b[8];
  260.     struct {
  261. #if defined(LONG_IS_32_BITS)
  262.         /* long is often faster than a 32-bit bit field */
  263.         long    i0;
  264.         long    i1;
  265. #else
  266.         long    i0: 32;
  267.         long    i1: 32;
  268. #endif
  269.     } b32;
  270. #if defined(B64)
  271.     B64    b64;
  272. #endif
  273. } C_block;
  274.  
  275. /*
  276.  * Convert twenty-four-bit long in host-order
  277.  * to six bits (and 2 low-order zeroes) per char little-endian format.
  278.  */
  279. #define    TO_SIX_BIT(rslt, src) {                \
  280.         C_block cvt;                \
  281.         cvt.b[0] = src; src >>= 6;        \
  282.         cvt.b[1] = src; src >>= 6;        \
  283.         cvt.b[2] = src; src >>= 6;        \
  284.         cvt.b[3] = src;                \
  285.         rslt = (cvt.b32.i0 & 0x3f3f3f3fL) << 2;    \
  286.     }
  287.  
  288. /*
  289.  * These macros may someday permit efficient use of 64-bit integers.
  290.  */
  291. #define    ZERO(d,d0,d1)            d0 = 0, d1 = 0
  292. #define    LOAD(d,d0,d1,bl)        d0 = (bl).b32.i0, d1 = (bl).b32.i1
  293. #define    LOADREG(d,d0,d1,s,s0,s1)    d0 = s0, d1 = s1
  294. #define    OR(d,d0,d1,bl)            d0 |= (bl).b32.i0, d1 |= (bl).b32.i1
  295. #define    STORE(s,s0,s1,bl)        (bl).b32.i0 = s0, (bl).b32.i1 = s1
  296. #define    DCL_BLOCK(d,d0,d1)        long d0, d1
  297.  
  298. #if defined(LARGEDATA)
  299.     /* Waste memory like crazy.  Also, do permutations in line */
  300. #define    LGCHUNKBITS    3
  301. #define    CHUNKBITS    (1<<LGCHUNKBITS)
  302. #define    PERM6464(d,d0,d1,cpp,p)                \
  303.     LOAD(d,d0,d1,(p)[(0<<CHUNKBITS)+(cpp)[0]]);        \
  304.     OR (d,d0,d1,(p)[(1<<CHUNKBITS)+(cpp)[1]]);        \
  305.     OR (d,d0,d1,(p)[(2<<CHUNKBITS)+(cpp)[2]]);        \
  306.     OR (d,d0,d1,(p)[(3<<CHUNKBITS)+(cpp)[3]]);        \
  307.     OR (d,d0,d1,(p)[(4<<CHUNKBITS)+(cpp)[4]]);        \
  308.     OR (d,d0,d1,(p)[(5<<CHUNKBITS)+(cpp)[5]]);        \
  309.     OR (d,d0,d1,(p)[(6<<CHUNKBITS)+(cpp)[6]]);        \
  310.     OR (d,d0,d1,(p)[(7<<CHUNKBITS)+(cpp)[7]]);
  311. #define    PERM3264(d,d0,d1,cpp,p)                \
  312.     LOAD(d,d0,d1,(p)[(0<<CHUNKBITS)+(cpp)[0]]);        \
  313.     OR (d,d0,d1,(p)[(1<<CHUNKBITS)+(cpp)[1]]);        \
  314.     OR (d,d0,d1,(p)[(2<<CHUNKBITS)+(cpp)[2]]);        \
  315.     OR (d,d0,d1,(p)[(3<<CHUNKBITS)+(cpp)[3]]);
  316. #else
  317.     /* "small data" */
  318. #define    LGCHUNKBITS    2
  319. #define    CHUNKBITS    (1<<LGCHUNKBITS)
  320. #define    PERM6464(d,d0,d1,cpp,p)                \
  321.     { C_block tblk; permute(cpp,&tblk,p,8); LOAD (d,d0,d1,tblk); }
  322. #define    PERM3264(d,d0,d1,cpp,p)                \
  323.     { C_block tblk; permute(cpp,&tblk,p,4); LOAD (d,d0,d1,tblk); }
  324.  
  325. STATIC
  326. permute(cp, out, p, chars_in)
  327.     unsigned char *cp;
  328.     C_block *out;
  329.     register C_block *p;
  330.     int chars_in;
  331. {
  332.     register DCL_BLOCK(D,D0,D1);
  333.     register C_block *tp;
  334.     register int t;
  335.  
  336.     ZERO(D,D0,D1);
  337.     do {
  338.         t = *cp++;
  339.         tp = &p[t&0xf]; OR(D,D0,D1,*tp); p += (1<<CHUNKBITS);
  340.         tp = &p[t>>4];  OR(D,D0,D1,*tp); p += (1<<CHUNKBITS);
  341.     } while (--chars_in > 0);
  342.     STORE(D,D0,D1,*out);
  343. }
  344. #endif /* LARGEDATA */
  345.  
  346.  
  347. /* =====  (mostly) Standard DES Tables ==================== */
  348.  
  349. static const unsigned char IP[] = {        /* initial permutation */
  350.     58, 50, 42, 34, 26, 18, 10,  2,
  351.     60, 52, 44, 36, 28, 20, 12,  4,
  352.     62, 54, 46, 38, 30, 22, 14,  6,
  353.     64, 56, 48, 40, 32, 24, 16,  8,
  354.     57, 49, 41, 33, 25, 17,  9,  1,
  355.     59, 51, 43, 35, 27, 19, 11,  3,
  356.     61, 53, 45, 37, 29, 21, 13,  5,
  357.     63, 55, 47, 39, 31, 23, 15,  7,
  358. };
  359.  
  360. /* The final permutation is the inverse of IP - no table is necessary */
  361.  
  362. static const unsigned char ExpandTr[] = {    /* expansion operation */
  363.     32,  1,  2,  3,  4,  5,
  364.      4,  5,  6,  7,  8,  9,
  365.      8,  9, 10, 11, 12, 13,
  366.     12, 13, 14, 15, 16, 17,
  367.     16, 17, 18, 19, 20, 21,
  368.     20, 21, 22, 23, 24, 25,
  369.     24, 25, 26, 27, 28, 29,
  370.     28, 29, 30, 31, 32,  1,
  371. };
  372.  
  373. static const unsigned char PC1[] = {        /* permuted choice table 1 */
  374.     57, 49, 41, 33, 25, 17,  9,
  375.      1, 58, 50, 42, 34, 26, 18,
  376.     10,  2, 59, 51, 43, 35, 27,
  377.     19, 11,  3, 60, 52, 44, 36,
  378.  
  379.     63, 55, 47, 39, 31, 23, 15,
  380.      7, 62, 54, 46, 38, 30, 22,
  381.     14,  6, 61, 53, 45, 37, 29,
  382.     21, 13,  5, 28, 20, 12,  4,
  383. };
  384.  
  385. static const unsigned char Rotates[] = {    /* PC1 rotation schedule */
  386.     1, 1, 2, 2, 2, 2, 2, 2, 1, 2, 2, 2, 2, 2, 2, 1,
  387. };
  388.  
  389. /* note: each "row" of PC2 is left-padded with bits that make it invertible */
  390. static const unsigned char PC2[] = {        /* permuted choice table 2 */
  391.      9, 18,    14, 17, 11, 24,  1,  5,
  392.     22, 25,     3, 28, 15,  6, 21, 10,
  393.     35, 38,    23, 19, 12,  4, 26,  8,
  394.     43, 54,    16,  7, 27, 20, 13,  2,
  395.  
  396.      0,  0,    41, 52, 31, 37, 47, 55,
  397.      0,  0,    30, 40, 51, 45, 33, 48,
  398.      0,  0,    44, 49, 39, 56, 34, 53,
  399.      0,  0,    46, 42, 50, 36, 29, 32,
  400. };
  401.  
  402. static const unsigned char S[8][64] = {    /* 48->32 bit substitution tables */
  403.                     /* S[1]            */
  404.     14,  4, 13,  1,  2, 15, 11,  8,  3, 10,  6, 12,  5,  9,  0,  7,
  405.      0, 15,  7,  4, 14,  2, 13,  1, 10,  6, 12, 11,  9,  5,  3,  8,
  406.      4,  1, 14,  8, 13,  6,  2, 11, 15, 12,  9,  7,  3, 10,  5,  0,
  407.     15, 12,  8,  2,  4,  9,  1,  7,  5, 11,  3, 14, 10,  0,  6, 13,
  408.                     /* S[2]            */
  409.     15,  1,  8, 14,  6, 11,  3,  4,  9,  7,  2, 13, 12,  0,  5, 10,
  410.      3, 13,  4,  7, 15,  2,  8, 14, 12,  0,  1, 10,  6,  9, 11,  5,
  411.      0, 14,  7, 11, 10,  4, 13,  1,  5,  8, 12,  6,  9,  3,  2, 15,
  412.     13,  8, 10,  1,  3, 15,  4,  2, 11,  6,  7, 12,  0,  5, 14,  9,
  413.                     /* S[3]            */
  414.     10,  0,  9, 14,  6,  3, 15,  5,  1, 13, 12,  7, 11,  4,  2,  8,
  415.     13,  7,  0,  9,  3,  4,  6, 10,  2,  8,  5, 14, 12, 11, 15,  1,
  416.     13,  6,  4,  9,  8, 15,  3,  0, 11,  1,  2, 12,  5, 10, 14,  7,
  417.      1, 10, 13,  0,  6,  9,  8,  7,  4, 15, 14,  3, 11,  5,  2, 12,
  418.                     /* S[4]            */
  419.      7, 13, 14,  3,  0,  6,  9, 10,  1,  2,  8,  5, 11, 12,  4, 15,
  420.     13,  8, 11,  5,  6, 15,  0,  3,  4,  7,  2, 12,  1, 10, 14,  9,
  421.     10,  6,  9,  0, 12, 11,  7, 13, 15,  1,  3, 14,  5,  2,  8,  4,
  422.      3, 15,  0,  6, 10,  1, 13,  8,  9,  4,  5, 11, 12,  7,  2, 14,
  423.                     /* S[5]            */
  424.      2, 12,  4,  1,  7, 10, 11,  6,  8,  5,  3, 15, 13,  0, 14,  9,
  425.     14, 11,  2, 12,  4,  7, 13,  1,  5,  0, 15, 10,  3,  9,  8,  6,
  426.      4,  2,  1, 11, 10, 13,  7,  8, 15,  9, 12,  5,  6,  3,  0, 14,
  427.     11,  8, 12,  7,  1, 14,  2, 13,  6, 15,  0,  9, 10,  4,  5,  3,
  428.                     /* S[6]            */
  429.     12,  1, 10, 15,  9,  2,  6,  8,  0, 13,  3,  4, 14,  7,  5, 11,
  430.     10, 15,  4,  2,  7, 12,  9,  5,  6,  1, 13, 14,  0, 11,  3,  8,
  431.      9, 14, 15,  5,  2,  8, 12,  3,  7,  0,  4, 10,  1, 13, 11,  6,
  432.      4,  3,  2, 12,  9,  5, 15, 10, 11, 14,  1,  7,  6,  0,  8, 13,
  433.                     /* S[7]            */
  434.      4, 11,  2, 14, 15,  0,  8, 13,  3, 12,  9,  7,  5, 10,  6,  1,
  435.     13,  0, 11,  7,  4,  9,  1, 10, 14,  3,  5, 12,  2, 15,  8,  6,
  436.      1,  4, 11, 13, 12,  3,  7, 14, 10, 15,  6,  8,  0,  5,  9,  2,
  437.      6, 11, 13,  8,  1,  4, 10,  7,  9,  5,  0, 15, 14,  2,  3, 12,
  438.                     /* S[8]            */
  439.     13,  2,  8,  4,  6, 15, 11,  1, 10,  9,  3, 14,  5,  0, 12,  7,
  440.      1, 15, 13,  8, 10,  3,  7,  4, 12,  5,  6, 11,  0, 14,  9,  2,
  441.      7, 11,  4,  1,  9, 12, 14,  2,  0,  6, 10, 13, 15,  3,  5,  8,
  442.      2,  1, 14,  7,  4, 10,  8, 13, 15, 12,  9,  0,  3,  5,  6, 11,
  443. };
  444.  
  445. static const unsigned char P32Tr[] = {    /* 32-bit permutation function */
  446.     16,  7, 20, 21,
  447.     29, 12, 28, 17,
  448.      1, 15, 23, 26,
  449.      5, 18, 31, 10,
  450.      2,  8, 24, 14,
  451.     32, 27,  3,  9,
  452.     19, 13, 30,  6,
  453.     22, 11,  4, 25,
  454. };
  455.  
  456. static const unsigned char CIFP[] = {        /* compressed/interleaved permutation */
  457.      1,  2,  3,  4,   17, 18, 19, 20,
  458.      5,  6,  7,  8,   21, 22, 23, 24,
  459.      9, 10, 11, 12,   25, 26, 27, 28,
  460.     13, 14, 15, 16,   29, 30, 31, 32,
  461.  
  462.     33, 34, 35, 36,   49, 50, 51, 52,
  463.     37, 38, 39, 40,   53, 54, 55, 56,
  464.     41, 42, 43, 44,   57, 58, 59, 60,
  465.     45, 46, 47, 48,   61, 62, 63, 64,
  466. };
  467.  
  468. static const unsigned char itoa64[] =        /* 0..63 => ascii-64 */
  469.     "./0123456789ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz";
  470.  
  471.  
  472. /* =====  Tables that are initialized at run time  ==================== */
  473.  
  474.  
  475. static unsigned char a64toi[128];    /* ascii-64 => 0..63 */
  476.  
  477. /* Initial key schedule permutation */
  478. static C_block    PC1ROT[64/CHUNKBITS][1<<CHUNKBITS];
  479.  
  480. /* Subsequent key schedule rotation permutations */
  481. static C_block    PC2ROT[2][64/CHUNKBITS][1<<CHUNKBITS];
  482.  
  483. /* Initial permutation/expansion table */
  484. static C_block    IE3264[32/CHUNKBITS][1<<CHUNKBITS];
  485.  
  486. /* Table that combines the S, P, and E operations.  */
  487. static long SPE[2][8][64];
  488.  
  489. /* compressed/interleaved => final permutation table */
  490. static C_block    CF6464[64/CHUNKBITS][1<<CHUNKBITS];
  491.  
  492.  
  493. /* ==================================== */
  494.  
  495.  
  496. static C_block    constdatablock;            /* encryption constant */
  497. static char    cryptresult[1+4+4+11+1];    /* encrypted result */
  498.  
  499. /*
  500.  * Return a pointer to static data consisting of the "setting"
  501.  * followed by an encryption produced by the "key" and "setting".
  502.  */
  503. char *
  504. crypt(key, setting)
  505.     register const char *key;
  506.     register const char *setting;
  507. {
  508.     register char *encp;
  509.     register long i;
  510.     register int t;
  511.     long salt;
  512.     int num_iter, salt_size;
  513.     C_block keyblock, rsltblock;
  514.  
  515.     for (i = 0; i < 8; i++) {
  516.         if ((t = 2*(unsigned char)(*key)) != 0)
  517.             key++;
  518.         keyblock.b[i] = t;
  519.     }
  520.     if (des_setkey((char *)keyblock.b))    /* also initializes "a64toi" */
  521.         return (NULL);
  522.  
  523.     encp = &cryptresult[0];
  524.     switch (*setting) {
  525.     case _PASSWORD_EFMT1:
  526.         /*
  527.          * Involve the rest of the password 8 characters at a time.
  528.          */
  529.         while (*key) {
  530.             if (des_cipher((char *)&keyblock,
  531.                 (char *)&keyblock, 0L, 1))
  532.                 return (NULL);
  533.             for (i = 0; i < 8; i++) {
  534.                 if ((t = 2*(unsigned char)(*key)) != 0)
  535.                     key++;
  536.                 keyblock.b[i] ^= t;
  537.             }
  538.             if (des_setkey((char *)keyblock.b))
  539.                 return (NULL);
  540.         }
  541.  
  542.         *encp++ = *setting++;
  543.  
  544.         /* get iteration count */
  545.         num_iter = 0;
  546.         for (i = 4; --i >= 0; ) {
  547.             if ((t = (unsigned char)setting[i]) == '\0')
  548.                 t = '.';
  549.             encp[i] = t;
  550.             num_iter = (num_iter<<6) | a64toi[t];
  551.         }
  552.         setting += 4;
  553.         encp += 4;
  554.         salt_size = 4;
  555.         break;
  556.     default:
  557.         num_iter = 25;
  558.         salt_size = 2;
  559.     }
  560.  
  561.     salt = 0;
  562.     for (i = salt_size; --i >= 0; ) {
  563.         if ((t = (unsigned char)setting[i]) == '\0')
  564.             t = '.';
  565.         encp[i] = t;
  566.         salt = (salt<<6) | a64toi[t];
  567.     }
  568.     encp += salt_size;
  569.     if (des_cipher((char *)&constdatablock, (char *)&rsltblock,
  570.         salt, num_iter))
  571.         return (NULL);
  572.  
  573.     /*
  574.      * Encode the 64 cipher bits as 11 ascii characters.
  575.      */
  576.     i = ((long)((rsltblock.b[0]<<8) | rsltblock.b[1])<<8) | rsltblock.b[2];
  577.     encp[3] = itoa64[i&0x3f];    i >>= 6;
  578.     encp[2] = itoa64[i&0x3f];    i >>= 6;
  579.     encp[1] = itoa64[i&0x3f];    i >>= 6;
  580.     encp[0] = itoa64[i];        encp += 4;
  581.     i = ((long)((rsltblock.b[3]<<8) | rsltblock.b[4])<<8) | rsltblock.b[5];
  582.     encp[3] = itoa64[i&0x3f];    i >>= 6;
  583.     encp[2] = itoa64[i&0x3f];    i >>= 6;
  584.     encp[1] = itoa64[i&0x3f];    i >>= 6;
  585.     encp[0] = itoa64[i];        encp += 4;
  586.     i = ((long)((rsltblock.b[6])<<8) | rsltblock.b[7])<<2;
  587.     encp[2] = itoa64[i&0x3f];    i >>= 6;
  588.     encp[1] = itoa64[i&0x3f];    i >>= 6;
  589.     encp[0] = itoa64[i];
  590.  
  591.     encp[3] = 0;
  592.  
  593.     return (cryptresult);
  594. }
  595.  
  596.  
  597. /*
  598.  * The Key Schedule, filled in by des_setkey() or setkey().
  599.  */
  600. #define    KS_SIZE    16
  601. static C_block    KS[KS_SIZE];
  602.  
  603. /*
  604.  * Set up the key schedule from the key.
  605.  */
  606. des_setkey(key)
  607.     register const char *key;
  608. {
  609.     register DCL_BLOCK(K, K0, K1);
  610.     register C_block *ptabp;
  611.     register int i;
  612.     static int des_ready = 0;
  613.  
  614.     /* I don't know if this is enough to make the package reentrant, but
  615.      * at least it looks like ;-)) */
  616.     ix_lock_base ();
  617.  
  618.     if (!des_ready) {
  619.         init_des();
  620.         des_ready = 1;
  621.     }
  622.  
  623.     ix_unlock_base ();
  624.  
  625.     PERM6464(K,K0,K1,(unsigned char *)key,(C_block *)PC1ROT);
  626.     key = (char *)&KS[0];
  627.     STORE(K&~0x03030303L, K0&~0x03030303L, K1, *(C_block *)key);
  628.     for (i = 1; i < 16; i++) {
  629.         key += sizeof(C_block);
  630.         STORE(K,K0,K1,*(C_block *)key);
  631.         ptabp = (C_block *)PC2ROT[Rotates[i]-1];
  632.         PERM6464(K,K0,K1,(unsigned char *)key,ptabp);
  633.         STORE(K&~0x03030303L, K0&~0x03030303L, K1, *(C_block *)key);
  634.     }
  635.     return (0);
  636. }
  637.  
  638. /*
  639.  * Encrypt (or decrypt if num_iter < 0) the 8 chars at "in" with abs(num_iter)
  640.  * iterations of DES, using the the given 24-bit salt and the pre-computed key
  641.  * schedule, and store the resulting 8 chars at "out" (in == out is permitted).
  642.  *
  643.  * NOTE: the performance of this routine is critically dependent on your
  644.  * compiler and machine architecture.
  645.  */
  646. des_cipher(in, out, salt, num_iter)
  647.     const char *in;
  648.     char *out;
  649.     long salt;
  650.     int num_iter;
  651. {
  652.     /* variables that we want in registers, most important first */
  653. #if defined(pdp11)
  654.     register int j;
  655. #endif
  656.     register long L0, L1, R0, R1, k;
  657.     register C_block *kp;
  658.     register int ks_inc, loop_count;
  659.     C_block B;
  660.  
  661.     L0 = salt;
  662.     TO_SIX_BIT(salt, L0);    /* convert to 4*(6+2) format */
  663.  
  664. #if defined(vax) || defined(pdp11)
  665.     salt = ~salt;    /* "x &~ y" is faster than "x & y". */
  666. #define    SALT (~salt)
  667. #else
  668. #define    SALT salt
  669. #endif
  670.  
  671. #if defined(MUST_ALIGN)
  672.     B.b[0] = in[0]; B.b[1] = in[1]; B.b[2] = in[2]; B.b[3] = in[3];
  673.     B.b[4] = in[4]; B.b[5] = in[5]; B.b[6] = in[6]; B.b[7] = in[7];
  674.     LOAD(L,L0,L1,B);
  675. #else
  676.     LOAD(L,L0,L1,*(C_block *)in);
  677. #endif
  678.     LOADREG(R,R0,R1,L,L0,L1);
  679.     L0 &= 0x55555555L;
  680.     L1 &= 0x55555555L;
  681.     L0 = (L0 << 1) | L1;    /* L0 is the even-numbered input bits */
  682.     R0 &= 0xaaaaaaaaL;
  683.     R1 = (R1 >> 1) & 0x55555555L;
  684.     L1 = R0 | R1;        /* L1 is the odd-numbered input bits */
  685.     STORE(L,L0,L1,B);
  686.     PERM3264(L,L0,L1,B.b,  (C_block *)IE3264);    /* even bits */
  687.     PERM3264(R,R0,R1,B.b+4,(C_block *)IE3264);    /* odd bits */
  688.  
  689.     if (num_iter >= 0)
  690.     {        /* encryption */
  691.         kp = &KS[0];
  692.         ks_inc  = sizeof(*kp);
  693.     }
  694.     else
  695.     {        /* decryption */
  696.         num_iter = -num_iter;
  697.         kp = &KS[KS_SIZE-1];
  698.         ks_inc  = -sizeof(*kp);
  699.     }
  700.  
  701.     while (--num_iter >= 0) {
  702.         loop_count = 8;
  703.         do {
  704.  
  705. #define    SPTAB(t, i)    (*(long *)((unsigned char *)t + i*(sizeof(long)/4)))
  706. #if defined(gould)
  707.             /* use this if B.b[i] is evaluated just once ... */
  708. #define    DOXOR(x,y,i)    x^=SPTAB(SPE[0][i],B.b[i]); y^=SPTAB(SPE[1][i],B.b[i]);
  709. #else
  710. #if defined(pdp11)
  711.             /* use this if your "long" int indexing is slow */
  712. #define    DOXOR(x,y,i)    j=B.b[i]; x^=SPTAB(SPE[0][i],j); y^=SPTAB(SPE[1][i],j);
  713. #else
  714.             /* use this if "k" is allocated to a register ... */
  715. #define    DOXOR(x,y,i)    k=B.b[i]; x^=SPTAB(SPE[0][i],k); y^=SPTAB(SPE[1][i],k);
  716. #endif
  717. #endif
  718.  
  719. #define    CRUNCH(p0, p1, q0, q1)    \
  720.             k = (q0 ^ q1) & SALT;    \
  721.             B.b32.i0 = k ^ q0 ^ kp->b32.i0;        \
  722.             B.b32.i1 = k ^ q1 ^ kp->b32.i1;        \
  723.             kp = (C_block *)((char *)kp+ks_inc);    \
  724.                             \
  725.             DOXOR(p0, p1, 0);        \
  726.             DOXOR(p0, p1, 1);        \
  727.             DOXOR(p0, p1, 2);        \
  728.             DOXOR(p0, p1, 3);        \
  729.             DOXOR(p0, p1, 4);        \
  730.             DOXOR(p0, p1, 5);        \
  731.             DOXOR(p0, p1, 6);        \
  732.             DOXOR(p0, p1, 7);
  733.  
  734.             CRUNCH(L0, L1, R0, R1);
  735.             CRUNCH(R0, R1, L0, L1);
  736.         } while (--loop_count != 0);
  737.         kp = (C_block *)((char *)kp-(ks_inc*KS_SIZE));
  738.  
  739.  
  740.         /* swap L and R */
  741.         L0 ^= R0;  L1 ^= R1;
  742.         R0 ^= L0;  R1 ^= L1;
  743.         L0 ^= R0;  L1 ^= R1;
  744.     }
  745.  
  746.     /* store the encrypted (or decrypted) result */
  747.     L0 = ((L0 >> 3) & 0x0f0f0f0fL) | ((L1 << 1) & 0xf0f0f0f0L);
  748.     L1 = ((R0 >> 3) & 0x0f0f0f0fL) | ((R1 << 1) & 0xf0f0f0f0L);
  749.     STORE(L,L0,L1,B);
  750.     PERM6464(L,L0,L1,B.b, (C_block *)CF6464);
  751. #if defined(MUST_ALIGN)
  752.     STORE(L,L0,L1,B);
  753.     out[0] = B.b[0]; out[1] = B.b[1]; out[2] = B.b[2]; out[3] = B.b[3];
  754.     out[4] = B.b[4]; out[5] = B.b[5]; out[6] = B.b[6]; out[7] = B.b[7];
  755. #else
  756.     STORE(L,L0,L1,*(C_block *)out);
  757. #endif
  758.     return (0);
  759. }
  760.  
  761.  
  762. /*
  763.  * Initialize various tables.  This need only be done once.  It could even be
  764.  * done at compile time, if the compiler were capable of that sort of thing.
  765.  */
  766. STATIC
  767. init_des()
  768. {
  769.     register int i, j;
  770.     register long k;
  771.     register int tableno;
  772.     static unsigned char perm[64], tmp32[32];    /* "static" for speed */
  773.  
  774.     /*
  775.      * table that converts chars "./0-9A-Za-z"to integers 0-63.
  776.      */
  777.     for (i = 0; i < 64; i++)
  778.         a64toi[itoa64[i]] = i;
  779.  
  780.     /*
  781.      * PC1ROT - bit reverse, then PC1, then Rotate, then PC2.
  782.      */
  783.     for (i = 0; i < 64; i++)
  784.         perm[i] = 0;
  785.     for (i = 0; i < 64; i++) {
  786.         if ((k = PC2[i]) == 0)
  787.             continue;
  788.         k += Rotates[0]-1;
  789.         if ((k%28) < Rotates[0]) k -= 28;
  790.         k = PC1[k];
  791.         if (k > 0) {
  792.             k--;
  793.             k = (k|07) - (k&07);
  794.             k++;
  795.         }
  796.         perm[i] = k;
  797.     }
  798. #ifdef DEBUG
  799.     prtab("pc1tab", perm, 8);
  800. #endif
  801.     init_perm(PC1ROT, perm, 8, 8);
  802.  
  803.     /*
  804.      * PC2ROT - PC2 inverse, then Rotate (once or twice), then PC2.
  805.      */
  806.     for (j = 0; j < 2; j++) {
  807.         unsigned char pc2inv[64];
  808.         for (i = 0; i < 64; i++)
  809.             perm[i] = pc2inv[i] = 0;
  810.         for (i = 0; i < 64; i++) {
  811.             if ((k = PC2[i]) == 0)
  812.                 continue;
  813.             pc2inv[k-1] = i+1;
  814.         }
  815.         for (i = 0; i < 64; i++) {
  816.             if ((k = PC2[i]) == 0)
  817.                 continue;
  818.             k += j;
  819.             if ((k%28) <= j) k -= 28;
  820.             perm[i] = pc2inv[k];
  821.         }
  822. #ifdef DEBUG
  823.         prtab("pc2tab", perm, 8);
  824. #endif
  825.         init_perm(PC2ROT[j], perm, 8, 8);
  826.     }
  827.  
  828.     /*
  829.      * Bit reverse, then initial permutation, then expansion.
  830.      */
  831.     for (i = 0; i < 8; i++) {
  832.         for (j = 0; j < 8; j++) {
  833.             k = (j < 2)? 0: IP[ExpandTr[i*6+j-2]-1];
  834.             if (k > 32)
  835.                 k -= 32;
  836.             else if (k > 0)
  837.                 k--;
  838.             if (k > 0) {
  839.                 k--;
  840.                 k = (k|07) - (k&07);
  841.                 k++;
  842.             }
  843.             perm[i*8+j] = k;
  844.         }
  845.     }
  846. #ifdef DEBUG
  847.     prtab("ietab", perm, 8);
  848. #endif
  849.     init_perm(IE3264, perm, 4, 8);
  850.  
  851.     /*
  852.      * Compression, then final permutation, then bit reverse.
  853.      */
  854.     for (i = 0; i < 64; i++) {
  855.         k = IP[CIFP[i]-1];
  856.         if (k > 0) {
  857.             k--;
  858.             k = (k|07) - (k&07);
  859.             k++;
  860.         }
  861.         perm[k-1] = i+1;
  862.     }
  863. #ifdef DEBUG
  864.     prtab("cftab", perm, 8);
  865. #endif
  866.     init_perm(CF6464, perm, 8, 8);
  867.  
  868.     /*
  869.      * SPE table
  870.      */
  871.     for (i = 0; i < 48; i++)
  872.         perm[i] = P32Tr[ExpandTr[i]-1];
  873.     for (tableno = 0; tableno < 8; tableno++) {
  874.         for (j = 0; j < 64; j++)  {
  875.             k = (((j >> 0) &01) << 5)|
  876.                 (((j >> 1) &01) << 3)|
  877.                 (((j >> 2) &01) << 2)|
  878.                 (((j >> 3) &01) << 1)|
  879.                 (((j >> 4) &01) << 0)|
  880.                 (((j >> 5) &01) << 4);
  881.             k = S[tableno][k];
  882.             k = (((k >> 3)&01) << 0)|
  883.                 (((k >> 2)&01) << 1)|
  884.                 (((k >> 1)&01) << 2)|
  885.                 (((k >> 0)&01) << 3);
  886.             for (i = 0; i < 32; i++)
  887.                 tmp32[i] = 0;
  888.             for (i = 0; i < 4; i++)
  889.                 tmp32[4 * tableno + i] = (k >> i) & 01;
  890.             k = 0;
  891.             for (i = 24; --i >= 0; )
  892.                 k = (k<<1) | tmp32[perm[i]-1];
  893.             TO_SIX_BIT(SPE[0][tableno][j], k);
  894.             k = 0;
  895.             for (i = 24; --i >= 0; )
  896.                 k = (k<<1) | tmp32[perm[i+24]-1];
  897.             TO_SIX_BIT(SPE[1][tableno][j], k);
  898.         }
  899.     }
  900. }
  901.  
  902. /*
  903.  * Initialize "perm" to represent transformation "p", which rearranges
  904.  * (perhaps with expansion and/or contraction) one packed array of bits
  905.  * (of size "chars_in" characters) into another array (of size "chars_out"
  906.  * characters).
  907.  *
  908.  * "perm" must be all-zeroes on entry to this routine.
  909.  */
  910. STATIC
  911. init_perm(perm, p, chars_in, chars_out)
  912.     C_block perm[64/CHUNKBITS][1<<CHUNKBITS];
  913.     unsigned char p[64];
  914.     int chars_in, chars_out;
  915. {
  916.     register int i, j, k, l;
  917.  
  918.     for (k = 0; k < chars_out*8; k++) {    /* each output bit position */
  919.         l = p[k] - 1;        /* where this bit comes from */
  920.         if (l < 0)
  921.             continue;    /* output bit is always 0 */
  922.         i = l>>LGCHUNKBITS;    /* which chunk this bit comes from */
  923.         l = 1<<(l&(CHUNKBITS-1));    /* mask for this bit */
  924.         for (j = 0; j < (1<<CHUNKBITS); j++) {    /* each chunk value */
  925.             if ((j & l) != 0)
  926.                 perm[i][j].b[k>>3] |= 1<<(k&07);
  927.         }
  928.     }
  929. }
  930.  
  931. /*
  932.  * "setkey" routine (for backwards compatibility)
  933.  */
  934. setkey(key)
  935.     register const char *key;
  936. {
  937.     register int i, j, k;
  938.     C_block keyblock;
  939.  
  940.     for (i = 0; i < 8; i++) {
  941.         k = 0;
  942.         for (j = 0; j < 8; j++) {
  943.             k <<= 1;
  944.             k |= (unsigned char)*key++;
  945.         }
  946.         keyblock.b[i] = k;
  947.     }
  948.     return (des_setkey((char *)keyblock.b));
  949. }
  950.  
  951. /*
  952.  * "encrypt" routine (for backwards compatibility)
  953.  */
  954. encrypt(block, flag)
  955.     register char *block;
  956.     int flag;
  957. {
  958.     register int i, j, k;
  959.     C_block cblock;
  960.  
  961.     for (i = 0; i < 8; i++) {
  962.         k = 0;
  963.         for (j = 0; j < 8; j++) {
  964.             k <<= 1;
  965.             k |= (unsigned char)*block++;
  966.         }
  967.         cblock.b[i] = k;
  968.     }
  969.     if (des_cipher((char *)&cblock, (char *)&cblock, 0L, (flag ? -1: 1)))
  970.         return (1);
  971.     for (i = 7; i >= 0; i--) {
  972.         k = cblock.b[i];
  973.         for (j = 7; j >= 0; j--) {
  974.             *--block = k&01;
  975.             k >>= 1;
  976.         }
  977.     }
  978.     return (0);
  979. }
  980.  
  981. #ifdef DEBUG
  982. STATIC
  983. prtab(s, t, num_rows)
  984.     char *s;
  985.     unsigned char *t;
  986.     int num_rows;
  987. {
  988.     register int i, j;
  989.  
  990.     (void)printf("%s:\n", s);
  991.     for (i = 0; i < num_rows; i++) {
  992.         for (j = 0; j < 8; j++) {
  993.              (void)printf("%3d", t[i*8+j]);
  994.         }
  995.         (void)printf("\n");
  996.     }
  997.     (void)printf("\n");
  998. }
  999. #endif
  1000. @
  1001.