home *** CD-ROM | disk | FTP | other *** search
/ ftp.muug.mb.ca / 2014.06.ftp.muug.mb.ca.tar / ftp.muug.mb.ca / pub / openh323.tar.gz / openh323.tar / openh323 / src / g726 / g72x.c < prev    next >
C/C++ Source or Header  |  2002-11-19  |  15KB  |  583 lines
  1. /*
  2.  * This source code is a product of Sun Microsystems, Inc. and is provided
  3.  * for unrestricted use.  Users may copy or modify this source code without
  4.  * charge.
  5.  *
  6.  * SUN SOURCE CODE IS PROVIDED AS IS WITH NO WARRANTIES OF ANY KIND INCLUDING
  7.  * THE WARRANTIES OF DESIGN, MERCHANTIBILITY AND FITNESS FOR A PARTICULAR
  8.  * PURPOSE, OR ARISING FROM A COURSE OF DEALING, USAGE OR TRADE PRACTICE.
  9.  *
  10.  * Sun source code is provided with no support and without any obligation on
  11.  * the part of Sun Microsystems, Inc. to assist in its use, correction,
  12.  * modification or enhancement.
  13.  *
  14.  * SUN MICROSYSTEMS, INC. SHALL HAVE NO LIABILITY WITH RESPECT TO THE
  15.  * INFRINGEMENT OF COPYRIGHTS, TRADE SECRETS OR ANY PATENTS BY THIS SOFTWARE
  16.  * OR ANY PART THEREOF.
  17.  *
  18.  * In no event will Sun Microsystems, Inc. be liable for any lost revenue
  19.  * or profits or other special, indirect and consequential damages, even if
  20.  * Sun has been advised of the possibility of such damages.
  21.  *
  22.  * Sun Microsystems, Inc.
  23.  * 2550 Garcia Avenue
  24.  * Mountain View, California  94043
  25.  */
  26.  
  27. /*
  28.  * $Log: g72x.c,v $
  29.  * Revision 1.3  2002/11/20 04:29:13  robertj
  30.  * Included optimisations for G.711 and G.726 codecs, thanks Ted Szoczei
  31.  *
  32.  * Revision 1.1  2002/02/11 23:24:23  robertj
  33.  * Updated to openH323 v1.8.0
  34.  *
  35.  * Revision 1.2  2002/02/10 21:14:54  dereks
  36.  * Add cvs log history to head of the file.
  37.  * Ensure file is terminated by a newline.
  38.  *
  39.  *
  40.  *
  41.  * Common routines for G.721 and G.723 conversions.
  42.  */
  43.  
  44. #include "g72x.h"
  45. #include "private.h"
  46.  
  47. static int power2[15] = {1, 2, 4, 8, 0x10, 0x20, 0x40, 0x80,
  48.             0x100, 0x200, 0x400, 0x800, 0x1000, 0x2000, 0x4000};
  49.  
  50. /*
  51.  * quan()
  52.  *
  53.  * quantizes the input val against the table of size short integers.
  54.  * It returns i if table[i - 1] <= val < table[i].
  55.  *
  56.  * Using linear search for simple coding.
  57.  */
  58. static int
  59. quan(
  60.     int        val,
  61.     int *    table,
  62.     int        size)
  63. {
  64.     int        i;
  65.  
  66.     for (i = 0; i < size; i++)
  67.         if (val < *table++)
  68.             break;
  69.     return (i);
  70. }
  71.  
  72. /*
  73.  * fmult()
  74.  *
  75.  * returns the integer product of the 14-bit integer "an" and
  76.  * "floating point" representation (4-bit exponent, 6-bit mantessa) "srn".
  77.  */
  78. static int
  79. fmult(
  80.     int        an,
  81.     int        srn)
  82. {
  83.     int anmag;
  84.     int anexp;
  85.     int anmant;
  86.     int wanexp;
  87.     int wanmant;
  88.     int retval;
  89.  
  90.     anmag = (an > 0) ? an : ((-an) & 0x1FFF);
  91.     anexp = quan(anmag, power2, 15) - 6;
  92.     anmant = (anmag == 0) ? 32 :
  93.         (anexp >= 0) ? anmag >> anexp : anmag << -anexp;
  94.     wanexp = anexp + ((srn >> 6) & 0xF) - 13;
  95.  
  96.     wanmant = (anmant * (srn & 077) + 0x30) >> 4;
  97.     retval = (wanexp >= 0) ? ((wanmant << wanexp) & 0x7FFF) :
  98.         (wanmant >> -wanexp);
  99.  
  100.     return (((an ^ srn) < 0) ? -retval : retval);
  101. }
  102.  
  103. /*
  104.  * g72x_init_state()
  105.  *
  106.  * This routine initializes and/or resets the g72x_state structure
  107.  * pointed to by 'state_ptr'.
  108.  * All the initial state values are specified in the CCITT G.721 document.
  109.  */
  110. void
  111. g726_init_state(
  112.     g726_state *state_ptr)
  113. {
  114.     int        cnta;
  115.  
  116.     state_ptr->yl = 34816;
  117.     state_ptr->yu = 544;
  118.     state_ptr->dms = 0;
  119.     state_ptr->dml = 0;
  120.     state_ptr->ap = 0;
  121.     for (cnta = 0; cnta < 2; cnta++) {
  122.         state_ptr->a[cnta] = 0;
  123.         state_ptr->pk[cnta] = 0;
  124.         state_ptr->sr[cnta] = 32;
  125.     }
  126.     for (cnta = 0; cnta < 6; cnta++) {
  127.         state_ptr->b[cnta] = 0;
  128.         state_ptr->dq[cnta] = 32;
  129.     }
  130.     state_ptr->td = 0;
  131. }
  132.  
  133. /*
  134.  * predictor_zero()
  135.  *
  136.  * computes the estimated signal from 6-zero predictor.
  137.  *
  138.  */
  139. int
  140. predictor_zero(
  141.     g726_state *state_ptr)
  142. {
  143.     int        i;
  144.     int        sezi;
  145.  
  146.     sezi = fmult(state_ptr->b[0] >> 2, state_ptr->dq[0]);
  147.     for (i = 1; i < 6; i++)            /* ACCUM */
  148.         sezi += fmult(state_ptr->b[i] >> 2, state_ptr->dq[i]);
  149.     return (sezi);
  150. }
  151. /*
  152.  * predictor_pole()
  153.  *
  154.  * computes the estimated signal from 2-pole predictor.
  155.  *
  156.  */
  157. int
  158. predictor_pole(
  159.     g726_state *state_ptr)
  160. {
  161.     return (fmult(state_ptr->a[1] >> 2, state_ptr->sr[1]) +
  162.         fmult(state_ptr->a[0] >> 2, state_ptr->sr[0]));
  163. }
  164. /*
  165.  * step_size()
  166.  *
  167.  * computes the quantization step size of the adaptive quantizer.
  168.  *
  169.  */
  170. int
  171. step_size(
  172.     g726_state *state_ptr)
  173. {
  174.     int        y;
  175.     int        dif;
  176.     int        al;
  177.  
  178.     if (state_ptr->ap >= 256)
  179.         return (state_ptr->yu);
  180.     else {
  181.         y = state_ptr->yl >> 6;
  182.         dif = state_ptr->yu - y;
  183.         al = state_ptr->ap >> 2;
  184.         if (dif > 0)
  185.             y += (dif * al) >> 6;
  186.         else if (dif < 0)
  187.             y += (dif * al + 0x3F) >> 6;
  188.         return (y);
  189.     }
  190. }
  191.  
  192. /*
  193.  * quantize()
  194.  *
  195.  * Given a raw sample, 'd', of the difference signal and a
  196.  * quantization step size scale factor, 'y', this routine returns the
  197.  * ADPCM codeword to which that sample gets quantized.  The step
  198.  * size scale factor division operation is done in the log base 2 domain
  199.  * as a subtraction.
  200.  */
  201. int
  202. quantize(
  203.     int        d,    /* Raw difference signal sample */
  204.     int        y,    /* Step size multiplier */
  205.     int    *    table,    /* quantization table */
  206.     int        size)    /* table size of integers */
  207. {
  208.     int        dqm;    /* Magnitude of 'd' */
  209.     int        exp;    /* Integer part of base 2 log of 'd' */
  210.     int        mant;    /* Fractional part of base 2 log */
  211.     int        dl;    /* Log of magnitude of 'd' */
  212.     int        dln;    /* Step size scale factor normalized log */
  213.     int        i;
  214.  
  215.     /*
  216.      * LOG
  217.      *
  218.      * Compute base 2 log of 'd', and store in 'dl'.
  219.      */
  220.     dqm = abs(d);
  221.     exp = quan(dqm >> 1, power2, 15);
  222.     mant = ((dqm << 7) >> exp) & 0x7F;    /* Fractional portion. */
  223.     dl = (exp << 7) + mant;
  224.  
  225.     /*
  226.      * SUBTB
  227.      *
  228.      * "Divide" by step size multiplier.
  229.      */
  230.     dln = dl - (y >> 2);
  231.  
  232.     /*
  233.      * QUAN
  234.      *
  235.      * Obtain codword i for 'd'.
  236.      */
  237.     i = quan(dln, table, size);
  238.     if (d < 0)            /* take 1's complement of i */
  239.         return ((size << 1) + 1 - i);
  240.     else if (i == 0)        /* take 1's complement of 0 */
  241.         return ((size << 1) + 1); /* new in 1988 */
  242.     else
  243.         return (i);
  244. }
  245. /*
  246.  * reconstruct()
  247.  *
  248.  * Returns reconstructed difference signal 'dq' obtained from
  249.  * codeword 'i' and quantization step size scale factor 'y'.
  250.  * Multiplication is performed in log base 2 domain as addition.
  251.  */
  252. int
  253. reconstruct(
  254.     int        sign,    /* 0 for non-negative value */
  255.     int        dqln,    /* G.72x codeword */
  256.     int        y)        /* Step size multiplier */
  257. {
  258.     int        dql;    /* Log of 'dq' magnitude */
  259.     int        dex;    /* Integer part of log */
  260.     int        dqt;
  261.     int        dq;        /* Reconstructed difference signal sample */
  262.  
  263.     dql = dqln + (y >> 2);    /* ADDA */
  264.  
  265.     if (dql < 0) {
  266.         return ((sign) ? -0x8000 : 0);
  267.     } else {        /* ANTILOG */
  268.         dex = (dql >> 7) & 15;
  269.         dqt = 128 + (dql & 127);
  270.         dq = (short)((dqt << 7) >> (14 - dex));
  271.         return ((sign) ? (dq - 0x8000) : dq);
  272.     }
  273. }
  274.  
  275.  
  276. /*
  277.  * update()
  278.  *
  279.  * updates the state variables for each output code
  280.  */
  281. void
  282. update(
  283.     int        code_size,    /* distinguish 723_40 with others */
  284.     int        y,        /* quantizer step size */
  285.     int        wi,        /* scale factor multiplier */
  286.     int        fi,        /* for long/short term energies */
  287.     int        dq,        /* quantized prediction difference */
  288.     int        sr,        /* reconstructed signal */
  289.     int        dqsez,        /* difference from 2-pole predictor */
  290.     g726_state *state_ptr)    /* coder state pointer */
  291. {
  292.     int        cnt;
  293.     int        mag, exp;    /* Adaptive predictor, FLOAT A */
  294.     int        a2p;        /* LIMC */
  295.     int        a1ul;        /* UPA1 */
  296.     int        pks1;        /* UPA2 */
  297.     int        fa1;
  298.     int        tr;            /* tone/transition detector */
  299.     int        ylint, thr2, dqthr;
  300.     int      ylfrac, thr1;
  301.     int        pk0;
  302.  
  303.     pk0 = (dqsez < 0) ? 1 : 0;    /* needed in updating predictor poles */
  304.  
  305.     mag = dq & 0x7FFF;        /* prediction difference magnitude */
  306.     /* TRANS */
  307.     ylint = state_ptr->yl >> 15;    /* exponent part of yl */
  308.     ylfrac = (state_ptr->yl >> 10) & 0x1F;    /* fractional part of yl */
  309.     thr1 = (32 + ylfrac) << ylint;        /* threshold */
  310.     thr2 = (ylint > 9) ? 31 << 10 : thr1;    /* limit thr2 to 31 << 10 */
  311.     dqthr = (thr2 + (thr2 >> 1)) >> 1;    /* dqthr = 0.75 * thr2 */
  312.     if (state_ptr->td == 0)        /* signal supposed voice */
  313.         tr = 0;
  314.     else if (mag <= dqthr)        /* supposed data, but small mag */
  315.         tr = 0;            /* treated as voice */
  316.     else                /* signal is data (modem) */
  317.         tr = 1;
  318.  
  319.     /*
  320.      * Quantizer scale factor adaptation.
  321.      */
  322.  
  323.     /* FUNCTW & FILTD & DELAY */
  324.     /* update non-steady state step size multiplier */
  325.     state_ptr->yu = y + ((wi - y) >> 5);
  326.  
  327.     /* LIMB */
  328.     if (state_ptr->yu < 544)    /* 544 <= yu <= 5120 */
  329.         state_ptr->yu = 544;
  330.     else if (state_ptr->yu > 5120)
  331.         state_ptr->yu = 5120;
  332.  
  333.     /* FILTE & DELAY */
  334.     /* update steady state step size multiplier */
  335.     state_ptr->yl += state_ptr->yu + ((-state_ptr->yl) >> 6);
  336.  
  337.     /*
  338.      * Adaptive predictor coefficients.
  339.      */
  340.     if (tr == 1) {            /* reset a's and b's for modem signal */
  341.         state_ptr->a[0] = 0;
  342.         state_ptr->a[1] = 0;
  343.         state_ptr->b[0] = 0;
  344.         state_ptr->b[1] = 0;
  345.         state_ptr->b[2] = 0;
  346.         state_ptr->b[3] = 0;
  347.         state_ptr->b[4] = 0;
  348.         state_ptr->b[5] = 0;
  349.         a2p = 0 ;
  350.     } else {            /* update a's and b's */
  351.         pks1 = pk0 ^ state_ptr->pk[0];        /* UPA2 */
  352.  
  353.         /* update predictor pole a[1] */
  354.         a2p = state_ptr->a[1] - (state_ptr->a[1] >> 7);
  355.         if (dqsez != 0) {
  356.             fa1 = (pks1) ? state_ptr->a[0] : -state_ptr->a[0];
  357.             if (fa1 < -8191)    /* a2p = function of fa1 */
  358.                 a2p -= 0x100;
  359.             else if (fa1 > 8191)
  360.                 a2p += 0xFF;
  361.             else
  362.                 a2p += fa1 >> 5;
  363.  
  364.             if (pk0 ^ state_ptr->pk[1])
  365.                 /* LIMC */
  366.                 if (a2p <= -12160)
  367.                     a2p = -12288;
  368.                 else if (a2p >= 12416)
  369.                     a2p = 12288;
  370.                 else
  371.                     a2p -= 0x80;
  372.             else if (a2p <= -12416)
  373.                 a2p = -12288;
  374.             else if (a2p >= 12160)
  375.                 a2p = 12288;
  376.             else
  377.                 a2p += 0x80;
  378.         }
  379.  
  380.         /* TRIGB & DELAY */
  381.         state_ptr->a[1] = a2p;
  382.  
  383.         /* UPA1 */
  384.         /* update predictor pole a[0] */
  385.         state_ptr->a[0] -= state_ptr->a[0] >> 8;
  386.         if (dqsez != 0)
  387.             if (pks1 == 0)
  388.                 state_ptr->a[0] += 192;
  389.             else
  390.                 state_ptr->a[0] -= 192;
  391.  
  392.         /* LIMD */
  393.         a1ul = 15360 - a2p;
  394.         if (state_ptr->a[0] < -a1ul)
  395.             state_ptr->a[0] = -a1ul;
  396.         else if (state_ptr->a[0] > a1ul)
  397.             state_ptr->a[0] = a1ul;
  398.  
  399.         /* UPB : update predictor zeros b[6] */
  400.         for (cnt = 0; cnt < 6; cnt++) {
  401.             if (code_size == 5)        /* for 40Kbps G.723 */
  402.                 state_ptr->b[cnt] -= state_ptr->b[cnt] >> 9;
  403.             else            /* for G.721 and 24Kbps G.723 */
  404.                 state_ptr->b[cnt] -= state_ptr->b[cnt] >> 8;
  405.             if (dq & 0x7FFF) {            /* XOR */
  406.                 if ((dq ^ state_ptr->dq[cnt]) >= 0)
  407.                     state_ptr->b[cnt] += 128;
  408.                 else
  409.                     state_ptr->b[cnt] -= 128;
  410.             }
  411.         }
  412.     }
  413.  
  414.     for (cnt = 5; cnt > 0; cnt--)
  415.         state_ptr->dq[cnt] = state_ptr->dq[cnt-1];
  416.     /* FLOAT A : convert dq[0] to 4-bit exp, 6-bit mantissa f.p. */
  417.     if (mag == 0) {
  418.         state_ptr->dq[0] = (dq >= 0) ? 0x20 : 0xFC20;
  419.     } else {
  420.         exp = quan(mag, power2, 15);
  421.         state_ptr->dq[0] = (short)((dq >= 0) ?
  422.             (exp << 6) + ((mag << 6) >> exp) :
  423.             (exp << 6) + ((mag << 6) >> exp) - 0x400);
  424.     }
  425.  
  426.     state_ptr->sr[1] = state_ptr->sr[0];
  427.     /* FLOAT B : convert sr to 4-bit exp., 6-bit mantissa f.p. */
  428.     if (sr == 0) {
  429.         state_ptr->sr[0] = 0x20;
  430.     } else if (sr > 0) {
  431.         exp = quan(sr, power2, 15);
  432.         state_ptr->sr[0] = (exp << 6) + ((sr << 6) >> exp);
  433.     } else if (sr > -32768) {
  434.         mag = -sr;
  435.         exp = quan(mag, power2, 15);
  436.         state_ptr->sr[0] =  (exp << 6) + ((mag << 6) >> exp) - 0x400;
  437.     } else
  438.         state_ptr->sr[0] = 0xFC20;
  439.  
  440.     /* DELAY A */
  441.     state_ptr->pk[1] = state_ptr->pk[0];
  442.     state_ptr->pk[0] = pk0;
  443.  
  444.     /* TONE */
  445.     if (tr == 1)        /* this sample has been treated as data */
  446.         state_ptr->td = 0;    /* next one will be treated as voice */
  447.     else if (a2p < -11776)    /* small sample-to-sample correlation */
  448.         state_ptr->td = 1;    /* signal may be data */
  449.     else                /* signal is voice */
  450.         state_ptr->td = 0;
  451.  
  452.     /*
  453.      * Adaptation speed control.
  454.      */
  455.     state_ptr->dms += (fi - state_ptr->dms) >> 5;        /* FILTA */
  456.     state_ptr->dml += (((fi << 2) - state_ptr->dml) >> 7);    /* FILTB */
  457.  
  458.     if (tr == 1)
  459.         state_ptr->ap = 256;
  460.     else if (y < 1536)                    /* SUBTC */
  461.         state_ptr->ap += (0x200 - state_ptr->ap) >> 4;
  462.     else if (state_ptr->td == 1)
  463.         state_ptr->ap += (0x200 - state_ptr->ap) >> 4;
  464.     else if (abs((state_ptr->dms << 2) - state_ptr->dml) >=
  465.         (state_ptr->dml >> 3))
  466.         state_ptr->ap += (0x200 - state_ptr->ap) >> 4;
  467.     else
  468.         state_ptr->ap += (-state_ptr->ap) >> 4;
  469. }
  470.  
  471. /*
  472.  * tandem_adjust(sr, se, y, i, sign)
  473.  *
  474.  * At the end of ADPCM decoding, it simulates an encoder which may be receiving
  475.  * the output of this decoder as a tandem process. If the output of the
  476.  * simulated encoder differs from the input to this decoder, the decoder output
  477.  * is adjusted by one level of A-law or u-law codes.
  478.  *
  479.  * Input:
  480.  *    sr    decoder output linear PCM sample,
  481.  *    se    predictor estimate sample,
  482.  *    y    quantizer step size,
  483.  *    i    decoder input code,
  484.  *    sign    sign bit of code i
  485.  *
  486.  * Return:
  487.  *    adjusted A-law or u-law compressed sample.
  488.  */
  489. int
  490. tandem_adjust_alaw(
  491.     int        sr,    /* decoder output linear PCM sample */
  492.     int        se,    /* predictor estimate sample */
  493.     int        y,    /* quantizer step size */
  494.     int        i,    /* decoder input code */
  495.     int        sign,
  496.     int *    qtab)
  497. {
  498.     int        sp;    /* A-law compressed 8-bit code */
  499.     int        dx;    /* prediction error */
  500.     int        id;    /* quantized prediction error */
  501.     int        sd;    /* adjusted A-law decoded sample value */
  502.     int        im;    /* biased magnitude of i */
  503.     int        imx;    /* biased magnitude of id */
  504.  
  505.     if (sr <= -32768)
  506.         sr = -1;
  507.     sp = linear2alaw((sr >> 1) << 3);    /* short to A-law compression */
  508.     dx = (alaw2linear(sp) >> 2) - se;    /* 16-bit prediction error */
  509.     id = quantize(dx, y, qtab, sign - 1);
  510.  
  511.     if (id == i) {            /* no adjustment on sp */
  512.         return (sp);
  513.     } else {            /* sp adjustment needed */
  514.         /* ADPCM codes : 8, 9, ... F, 0, 1, ... , 6, 7 */
  515.         im = i ^ sign;        /* 2's complement to biased unsigned */
  516.         imx = id ^ sign;
  517.  
  518.         if (imx > im) {        /* sp adjusted to next lower value */
  519.             if (sp & 0x80) {
  520.                 sd = (sp == 0xD5) ? 0x55 :
  521.                     ((sp ^ 0x55) - 1) ^ 0x55;
  522.             } else {
  523.                 sd = (sp == 0x2A) ? 0x2A :
  524.                     ((sp ^ 0x55) + 1) ^ 0x55;
  525.             }
  526.         } else {        /* sp adjusted to next higher value */
  527.             if (sp & 0x80)
  528.                 sd = (sp == 0xAA) ? 0xAA :
  529.                     ((sp ^ 0x55) + 1) ^ 0x55;
  530.             else
  531.                 sd = (sp == 0x55) ? 0xD5 :
  532.                     ((sp ^ 0x55) - 1) ^ 0x55;
  533.         }
  534.         return (sd);
  535.     }
  536. }
  537.  
  538. int
  539. tandem_adjust_ulaw(
  540.     int        sr,    /* decoder output linear PCM sample */
  541.     int        se,    /* predictor estimate sample */
  542.     int        y,    /* quantizer step size */
  543.     int        i,    /* decoder input code */
  544.     int        sign,
  545.     int *    qtab)
  546. {
  547.     int        sp;    /* u-law compressed 8-bit code */
  548.     int        dx;    /* prediction error */
  549.     int        id;    /* quantized prediction error */
  550.     int        sd;    /* adjusted u-law decoded sample value */
  551.     int        im;    /* biased magnitude of i */
  552.     int        imx;    /* biased magnitude of id */
  553.  
  554.     if (sr <= -32768)
  555.         sr = 0;
  556.     sp = linear2ulaw(sr << 2);    /* short to u-law compression */
  557.     dx = (ulaw2linear(sp) >> 2) - se;    /* 16-bit prediction error */
  558.     id = quantize(dx, y, qtab, sign - 1);
  559.     if (id == i) {
  560.         return (sp);
  561.     } else {
  562.         /* ADPCM codes : 8, 9, ... F, 0, 1, ... , 6, 7 */
  563.         im = i ^ sign;        /* 2's complement to biased unsigned */
  564.         imx = id ^ sign;
  565.         if (imx > im) {        /* sp adjusted to next lower value */
  566.             if (sp & 0x80)
  567.                 sd = (sp == 0xFF) ? 0x7E : sp + 1;
  568.             else
  569.                 sd = (sp == 0) ? 0 : sp - 1;
  570.  
  571.         } else {        /* sp adjusted to next higher value */
  572.             if (sp & 0x80)
  573.                 sd = (sp == 0x80) ? 0x80 : sp - 1;
  574.             else
  575.                 sd = (sp == 0x7F) ? 0xFE : sp + 1;
  576.         }
  577.         return (sd);
  578.     }
  579. }
  580.  
  581. /* Allocate and Init. codec struct */
  582.  
  583.