home *** CD-ROM | disk | FTP | other *** search
/ InfoMagic Source Code 1993 July / THE_SOURCE_CODE_CD_ROM.iso / bsd_srcs / lib / libm / common_source / erf.c < prev    next >
Encoding:
C/C++ Source or Header  |  1992-12-16  |  12.7 KB  |  397 lines
  1. /*-
  2.  * Copyright (c) 1992 The Regents of the University of California.
  3.  * All rights reserved.
  4.  *
  5.  * Redistribution and use in source and binary forms, with or without
  6.  * modification, are permitted provided that the following conditions
  7.  * are met:
  8.  * 1. Redistributions of source code must retain the above copyright
  9.  *    notice, this list of conditions and the following disclaimer.
  10.  * 2. Redistributions in binary form must reproduce the above copyright
  11.  *    notice, this list of conditions and the following disclaimer in the
  12.  *    documentation and/or other materials provided with the distribution.
  13.  * 3. All advertising materials mentioning features or use of this software
  14.  *    must display the following acknowledgement:
  15.  *    This product includes software developed by the University of
  16.  *    California, Berkeley and its contributors.
  17.  * 4. Neither the name of the University nor the names of its contributors
  18.  *    may be used to endorse or promote products derived from this software
  19.  *    without specific prior written permission.
  20.  *
  21.  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND
  22.  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  23.  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  24.  * ARE DISCLAIMED.  IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
  25.  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  26.  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  27.  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  28.  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  29.  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  30.  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  31.  * SUCH DAMAGE.
  32.  */
  33.  
  34. #ifndef lint
  35. static char sccsid[] = "@(#)erf.c    5.7 (Berkeley) 12/16/92";
  36. #endif /* not lint */
  37.  
  38. /* Modified Nov 30, 1992 P. McILROY:
  39.  *    Replaced expansions for x >= 1.25 (error 1.7ulp vs ~6ulp)
  40.  * Replaced even+odd with direct calculation for x < .84375,
  41.  * to avoid destructive cancellation.
  42.  *
  43.  * Performance of erfc(x):
  44.  * In 300000 trials in the range [.83, .84375] the
  45.  * maximum observed error was 3.6ulp.
  46.  *
  47.  * In [.84735,1.25] the maximum observed error was <2.5ulp in
  48.  * 100000 runs in the range [1.2, 1.25].
  49.  *
  50.  * In [1.25,26] (Not including subnormal results)
  51.  * the error is < 1.7ulp.
  52.  */
  53.  
  54. /* double erf(double x)
  55.  * double erfc(double x)
  56.  *                 x
  57.  *              2      |\
  58.  *     erf(x)  =  ---------  | exp(-t*t)dt
  59.  *           sqrt(pi) \|
  60.  *                 0
  61.  *
  62.  *     erfc(x) =  1-erf(x)
  63.  *
  64.  * Method:
  65.  *      1. Reduce x to |x| by erf(-x) = -erf(x)
  66.  *    2. For x in [0, 0.84375]
  67.  *        erf(x)  = x + x*P(x^2)
  68.  *          erfc(x) = 1 - erf(x)           if x<=0.25
  69.  *                  = 0.5 + ((0.5-x)-x*P)  if x in [0.25,0.84375]
  70.  *       where
  71.  *            2         2      4          20  
  72.  *              P =  P(x ) = (p0 + p1 * x + p2 * x + ... + p10 * x  )
  73.  *        is an approximation to (erf(x)-x)/x with precision
  74.  *
  75.  *                         -56.45
  76.  *            | P - (erf(x)-x)/x | <= 2
  77.  *    
  78.  *
  79.  *       Remark. The formula is derived by noting
  80.  *          erf(x) = (2/sqrt(pi))*(x - x^3/3 + x^5/10 - x^7/42 + ....)
  81.  *       and that
  82.  *          2/sqrt(pi) = 1.128379167095512573896158903121545171688
  83.  *       is close to one. The interval is chosen because the fixed
  84.  *       point of erf(x) is near 0.6174 (i.e., erf(x)=x when x is
  85.  *       near 0.6174), and by some experiment, 0.84375 is chosen to
  86.  *        guarantee the error is less than one ulp for erf.
  87.  *
  88.  *      3. For x in [0.84375,1.25], let s = x - 1, and
  89.  *         c = 0.84506291151 rounded to single (24 bits)
  90.  *             erf(x)  = c  + P1(s)/Q1(s)
  91.  *             erfc(x) = (1-c)  - P1(s)/Q1(s)
  92.  *             |P1/Q1 - (erf(x)-c)| <= 2**-59.06
  93.  *       Remark: here we use the taylor series expansion at x=1.
  94.  *        erf(1+s) = erf(1) + s*Poly(s)
  95.  *             = 0.845.. + P1(s)/Q1(s)
  96.  *       That is, we use rational approximation to approximate
  97.  *            erf(1+s) - (c = (single)0.84506291151)
  98.  *       Note that |P1/Q1|< 0.078 for x in [0.84375,1.25]
  99.  *       where 
  100.  *        P1(s) = degree 6 poly in s
  101.  *        Q1(s) = degree 6 poly in s
  102.  *
  103.  *    4. For x in [1.25, 2]; [2, 4]
  104.  *             erf(x)  = 1.0 - tiny
  105.  *        erfc(x)    = (1/x)exp(-x*x-(.5*log(pi) -.5z + R(z)/S(z))
  106.  *
  107.  *    Where z = 1/(x*x), R is degree 9, and S is degree 3;
  108.  *    
  109.  *      5. For x in [4,28]
  110.  *             erf(x)  = 1.0 - tiny
  111.  *        erfc(x)    = (1/x)exp(-x*x-(.5*log(pi)+eps + zP(z))
  112.  *
  113.  *    Where P is degree 14 polynomial in 1/(x*x).
  114.  *
  115.  *      Notes:
  116.  *       Here 4 and 5 make use of the asymptotic series
  117.  *              exp(-x*x)
  118.  *        erfc(x) ~ ---------- * ( 1 + Poly(1/x^2) );
  119.  *              x*sqrt(pi)
  120.  *
  121.  *        where for z = 1/(x*x)
  122.  *        P(z) ~ z/2*(-1 + z*3/2*(1 + z*5/2*(-1 + z*7/2*(1 +...))))
  123.  *
  124.  *       Thus we use rational approximation to approximate
  125.  *              erfc*x*exp(x*x) ~ 1/sqrt(pi);
  126.  *
  127.  *        The error bound for the target function, G(z) for
  128.  *        the interval
  129.  *        [4, 28]:
  130.  *         |eps + 1/(z)P(z) - G(z)| < 2**(-56.61)
  131.  *        for [2, 4]:
  132.  *          |R(z)/S(z) - G(z)|     < 2**(-58.24)
  133.  *        for [1.25, 2]:
  134.  *        |R(z)/S(z) - G(z)|     < 2**(-58.12)
  135.  *
  136.  *      6. For inf > x >= 28
  137.  *             erf(x)  = 1 - tiny  (raise inexact)
  138.  *             erfc(x) = tiny*tiny (raise underflow)
  139.  *
  140.  *      7. Special cases:
  141.  *             erf(0)  = 0, erf(inf)  = 1, erf(-inf) = -1,
  142.  *             erfc(0) = 1, erfc(inf) = 0, erfc(-inf) = 2, 
  143.  *           erfc/erf(NaN) is NaN
  144.  */
  145.  
  146. #if defined(vax) || defined(tahoe)
  147. #define _IEEE    0
  148. #define TRUNC(x) (double) (float) (x)
  149. #else
  150. #define _IEEE    1
  151. #define TRUNC(x) *(((int *) &x) + 1) &= 0xf8000000
  152. #define infnan(x) 0.0
  153. #endif
  154.  
  155. #ifdef _IEEE_LIBM
  156. /*
  157.  * redefining "___function" to "function" in _IEEE_LIBM mode
  158.  */
  159. #include "ieee_libm.h"
  160. #endif
  161.  
  162. static double
  163. tiny        = 1e-300,
  164. half        = 0.5,
  165. one        = 1.0,
  166. two        = 2.0,
  167. c         = 8.45062911510467529297e-01, /* (float)0.84506291151 */
  168. /*
  169.  * Coefficients for approximation to erf in [0,0.84375]
  170.  */
  171. p0t8 = 1.02703333676410051049867154944018394163280,
  172. p0 =   1.283791670955125638123339436800229927041e-0001,
  173. p1 =  -3.761263890318340796574473028946097022260e-0001,
  174. p2 =   1.128379167093567004871858633779992337238e-0001,
  175. p3 =  -2.686617064084433642889526516177508374437e-0002,
  176. p4 =   5.223977576966219409445780927846432273191e-0003,
  177. p5 =  -8.548323822001639515038738961618255438422e-0004,
  178. p6 =   1.205520092530505090384383082516403772317e-0004,
  179. p7 =  -1.492214100762529635365672665955239554276e-0005,
  180. p8 =   1.640186161764254363152286358441771740838e-0006,
  181. p9 =  -1.571599331700515057841960987689515895479e-0007,
  182. p10=   1.073087585213621540635426191486561494058e-0008;
  183. /*
  184.  * Coefficients for approximation to erf in [0.84375,1.25] 
  185.  */
  186. static double
  187. pa0 =  -2.362118560752659485957248365514511540287e-0003,
  188. pa1 =   4.148561186837483359654781492060070469522e-0001,
  189. pa2 =  -3.722078760357013107593507594535478633044e-0001,
  190. pa3 =   3.183466199011617316853636418691420262160e-0001,
  191. pa4 =  -1.108946942823966771253985510891237782544e-0001,
  192. pa5 =   3.547830432561823343969797140537411825179e-0002,
  193. pa6 =  -2.166375594868790886906539848893221184820e-0003,
  194. qa1 =   1.064208804008442270765369280952419863524e-0001,
  195. qa2 =   5.403979177021710663441167681878575087235e-0001,
  196. qa3 =   7.182865441419627066207655332170665812023e-0002,
  197. qa4 =   1.261712198087616469108438860983447773726e-0001,
  198. qa5 =   1.363708391202905087876983523620537833157e-0002,
  199. qa6 =   1.198449984679910764099772682882189711364e-0002;
  200. /*
  201.  * log(sqrt(pi)) for large x expansions.
  202.  * The tail (lsqrtPI_lo) is included in the rational
  203.  * approximations.
  204. */
  205. static double
  206.    lsqrtPI_hi = .5723649429247000819387380943226;
  207. /*
  208.  * lsqrtPI_lo = .000000000000000005132975581353913;
  209.  *
  210.  * Coefficients for approximation to erfc in [2, 4]
  211. */
  212. static double
  213. rb0  =    -1.5306508387410807582e-010,    /* includes lsqrtPI_lo */
  214. rb1  =     2.15592846101742183841910806188e-008,
  215. rb2  =     6.24998557732436510470108714799e-001,
  216. rb3  =     8.24849222231141787631258921465e+000,
  217. rb4  =     2.63974967372233173534823436057e+001,
  218. rb5  =     9.86383092541570505318304640241e+000,
  219. rb6  =    -7.28024154841991322228977878694e+000,
  220. rb7  =     5.96303287280680116566600190708e+000,
  221. rb8  =    -4.40070358507372993983608466806e+000,
  222. rb9  =     2.39923700182518073731330332521e+000,
  223. rb10 =    -6.89257464785841156285073338950e-001,
  224. sb1  =     1.56641558965626774835300238919e+001,
  225. sb2  =     7.20522741000949622502957936376e+001,
  226. sb3  =     9.60121069770492994166488642804e+001;
  227. /*
  228.  * Coefficients for approximation to erfc in [1.25, 2]
  229. */
  230. static double
  231. rc0  =    -2.47925334685189288817e-007,    /* includes lsqrtPI_lo */
  232. rc1  =     1.28735722546372485255126993930e-005,
  233. rc2  =     6.24664954087883916855616917019e-001,
  234. rc3  =     4.69798884785807402408863708843e+000,
  235. rc4  =     7.61618295853929705430118701770e+000,
  236. rc5  =     9.15640208659364240872946538730e-001,
  237. rc6  =    -3.59753040425048631334448145935e-001,
  238. rc7  =     1.42862267989304403403849619281e-001,
  239. rc8  =    -4.74392758811439801958087514322e-002,
  240. rc9  =     1.09964787987580810135757047874e-002,
  241. rc10 =    -1.28856240494889325194638463046e-003,
  242. sc1  =     9.97395106984001955652274773456e+000,
  243. sc2  =     2.80952153365721279953959310660e+001,
  244. sc3  =     2.19826478142545234106819407316e+001;
  245. /*
  246.  * Coefficients for approximation to  erfc in [4,28]
  247.  */
  248. static double
  249. rd0  =    -2.1491361969012978677e-016,    /* includes lsqrtPI_lo */
  250. rd1  =    -4.99999999999640086151350330820e-001,
  251. rd2  =     6.24999999772906433825880867516e-001,
  252. rd3  =    -1.54166659428052432723177389562e+000,
  253. rd4  =     5.51561147405411844601985649206e+000,
  254. rd5  =    -2.55046307982949826964613748714e+001,
  255. rd6  =     1.43631424382843846387913799845e+002,
  256. rd7  =    -9.45789244999420134263345971704e+002,
  257. rd8  =     6.94834146607051206956384703517e+003,
  258. rd9  =    -5.27176414235983393155038356781e+004,
  259. rd10 =     3.68530281128672766499221324921e+005,
  260. rd11 =    -2.06466642800404317677021026611e+006,
  261. rd12 =     7.78293889471135381609201431274e+006,
  262. rd13 =    -1.42821001129434127360582351685e+007;
  263.  
  264. double erf(x)
  265.     double x;
  266. {
  267.     double R,S,P,Q,ax,s,y,z,r,fabs(),exp();
  268.     if(!finite(x)) {        /* erf(nan)=nan */
  269.         if (isnan(x))
  270.         return(x);
  271.         return (x > 0 ? one : -one); /* erf(+/-inf)= +/-1 */
  272.     }
  273.     if ((ax = x) < 0)
  274.         ax = - ax;
  275.     if (ax < .84375) {
  276.         if (ax < 3.7e-09) {
  277.         if (ax < 1.0e-308)
  278.             return 0.125*(8.0*x+p0t8*x);  /*avoid underflow */
  279.         return x + p0*x;
  280.         }
  281.         y = x*x;
  282.         r = y*(p1+y*(p2+y*(p3+y*(p4+y*(p5+
  283.             y*(p6+y*(p7+y*(p8+y*(p9+y*p10)))))))));
  284.         return x + x*(p0+r);
  285.     }
  286.     if (ax < 1.25) {        /* 0.84375 <= |x| < 1.25 */
  287.         s = fabs(x)-one;
  288.         P = pa0+s*(pa1+s*(pa2+s*(pa3+s*(pa4+s*(pa5+s*pa6)))));
  289.         Q = one+s*(qa1+s*(qa2+s*(qa3+s*(qa4+s*(qa5+s*qa6)))));
  290.         if (x>=0)
  291.         return (c + P/Q);
  292.         else
  293.         return (-c - P/Q);
  294.     }
  295.     if (ax >= 6.0) {        /* inf>|x|>=6 */
  296.         if (x >= 0.0)
  297.         return (one-tiny);
  298.         else
  299.         return (tiny-one);
  300.     }
  301.     /* 1.25 <= |x| < 6 */
  302.     z = -ax*ax;
  303.     s = -one/z;
  304.     if (ax < 2.0) {
  305.         R = rc0+s*(rc1+s*(rc2+s*(rc3+s*(rc4+s*(rc5+
  306.             s*(rc6+s*(rc7+s*(rc8+s*(rc9+s*rc10)))))))));
  307.         S = one+s*(sc1+s*(sc2+s*sc3));
  308.     } else {
  309.         R = rb0+s*(rb1+s*(rb2+s*(rb3+s*(rb4+s*(rb5+
  310.             s*(rb6+s*(rb7+s*(rb8+s*(rb9+s*rb10)))))))));
  311.         S = one+s*(sb1+s*(sb2+s*sb3));
  312.     }
  313.     y = (R/S -.5*s) - lsqrtPI_hi;
  314.     z += y;
  315.     z = exp(z)/ax;
  316.     if (x >= 0)
  317.         return (one-z);
  318.     else
  319.         return (z-one);
  320. }
  321.  
  322. double erfc(x) 
  323.     double x;
  324. {
  325.     double R,S,P,Q,s,ax,y,z,r,fabs(),exp__D();
  326.     if (!finite(x)) {
  327.         if (isnan(x))        /* erfc(NaN) = NaN */
  328.             return(x);
  329.         else if (x > 0)        /* erfc(+-inf)=0,2 */
  330.             return 0.0;
  331.         else
  332.             return 2.0;
  333.     }
  334.     if ((ax = x) < 0)
  335.         ax = -ax;
  336.     if (ax < .84375) {            /* |x|<0.84375 */
  337.         if (ax < 1.38777878078144568e-17)      /* |x|<2**-56 */
  338.         return one-x;
  339.         y = x*x;
  340.         r = y*(p1+y*(p2+y*(p3+y*(p4+y*(p5+
  341.             y*(p6+y*(p7+y*(p8+y*(p9+y*p10)))))))));
  342.         if (ax < .0625) {      /* |x|<2**-4 */
  343.         return (one-(x+x*(p0+r)));
  344.         } else {
  345.         r = x*(p0+r);
  346.         r += (x-half);
  347.             return (half - r);
  348.         }
  349.     }
  350.     if (ax < 1.25) {        /* 0.84375 <= |x| < 1.25 */
  351.         s = ax-one;
  352.         P = pa0+s*(pa1+s*(pa2+s*(pa3+s*(pa4+s*(pa5+s*pa6)))));
  353.         Q = one+s*(qa1+s*(qa2+s*(qa3+s*(qa4+s*(qa5+s*qa6)))));
  354.         if (x>=0) {
  355.             z  = one-c; return z - P/Q; 
  356.         } else {
  357.         z = c+P/Q; return one+z;
  358.         }
  359.     }
  360.     if (ax >= 28)    /* Out of range */
  361.          if (x>0)
  362.             return (tiny*tiny);
  363.         else
  364.             return (two-tiny);
  365.     z = ax;
  366.     TRUNC(z);
  367.     y = z - ax; y *= (ax+z);
  368.     z *= -z;            /* Here z + y = -x^2 */
  369.         s = one/(-z-y);        /* 1/(x*x) */
  370.     if (ax >= 4) {            /* 6 <= ax */
  371.         R = s*(rd1+s*(rd2+s*(rd3+s*(rd4+s*(rd5+
  372.             s*(rd6+s*(rd7+s*(rd8+s*(rd9+s*(rd10
  373.             +s*(rd11+s*(rd12+s*rd13))))))))))));
  374.         y += rd0;
  375.     } else if (ax >= 2) {
  376.         R = rb0+s*(rb1+s*(rb2+s*(rb3+s*(rb4+s*(rb5+
  377.             s*(rb6+s*(rb7+s*(rb8+s*(rb9+s*rb10)))))))));
  378.         S = one+s*(sb1+s*(sb2+s*sb3));
  379.         y += R/S;
  380.         R = -.5*s;
  381.     } else {
  382.         R = rc0+s*(rc1+s*(rc2+s*(rc3+s*(rc4+s*(rc5+
  383.             s*(rc6+s*(rc7+s*(rc8+s*(rc9+s*rc10)))))))));
  384.         S = one+s*(sc1+s*(sc2+s*sc3));
  385.         y += R/S;
  386.         R = -.5*s;
  387.     }
  388.     /* return exp(-x^2 - lsqrtPI_hi + R + y)/x;    */
  389.     s = ((R + y) - lsqrtPI_hi) + z;
  390.     y = (((z-s) - lsqrtPI_hi) + R) + y;
  391.     r = exp__D(s, y)/x;
  392.     if (x>0)
  393.         return r;
  394.     else
  395.         return two-r;
  396. }
  397.