math: fix tgamma to raise underflow for large negative values
[oweals/musl.git] / src / math / j0f.c
1 /* origin: FreeBSD /usr/src/lib/msun/src/e_j0f.c */
2 /*
3  * Conversion to float by Ian Lance Taylor, Cygnus Support, ian@cygnus.com.
4  */
5 /*
6  * ====================================================
7  * Copyright (C) 1993 by Sun Microsystems, Inc. All rights reserved.
8  *
9  * Developed at SunPro, a Sun Microsystems, Inc. business.
10  * Permission to use, copy, modify, and distribute this
11  * software is freely granted, provided that this notice
12  * is preserved.
13  * ====================================================
14  */
15
16 #include "libm.h"
17
18 static float pzerof(float), qzerof(float);
19
20 static const float
21 invsqrtpi = 5.6418961287e-01, /* 0x3f106ebb */
22 tpi       = 6.3661974669e-01; /* 0x3f22f983 */
23
24 static float common(uint32_t ix, float x, int y0)
25 {
26         float z,s,c,ss,cc;
27         /*
28          * j0(x) = 1/sqrt(pi) * (P(0,x)*cc - Q(0,x)*ss) / sqrt(x)
29          * y0(x) = 1/sqrt(pi) * (P(0,x)*ss + Q(0,x)*cc) / sqrt(x)
30          */
31         s = sinf(x);
32         c = cosf(x);
33         if (y0)
34                 c = -c;
35         cc = s+c;
36         if (ix < 0x7f000000) {
37                 ss = s-c;
38                 z = -cosf(2*x);
39                 if (s*c < 0)
40                         cc = z/ss;
41                 else
42                         ss = z/cc;
43                 if (ix < 0x58800000) {
44                         if (y0)
45                                 ss = -ss;
46                         cc = pzerof(x)*cc-qzerof(x)*ss;
47                 }
48         }
49         return invsqrtpi*cc/sqrtf(x);
50 }
51
52 /* R0/S0 on [0, 2.00] */
53 static const float
54 R02 =  1.5625000000e-02, /* 0x3c800000 */
55 R03 = -1.8997929874e-04, /* 0xb947352e */
56 R04 =  1.8295404516e-06, /* 0x35f58e88 */
57 R05 = -4.6183270541e-09, /* 0xb19eaf3c */
58 S01 =  1.5619102865e-02, /* 0x3c7fe744 */
59 S02 =  1.1692678527e-04, /* 0x38f53697 */
60 S03 =  5.1354652442e-07, /* 0x3509daa6 */
61 S04 =  1.1661400734e-09; /* 0x30a045e8 */
62
63 float j0f(float x)
64 {
65         float z,r,s;
66         uint32_t ix;
67
68         GET_FLOAT_WORD(ix, x);
69         ix &= 0x7fffffff;
70         if (ix >= 0x7f800000)
71                 return 1/(x*x);
72         x = fabsf(x);
73
74         if (ix >= 0x40000000) {  /* |x| >= 2 */
75                 /* large ulp error near zeros */
76                 return common(ix, x, 0);
77         }
78         if (ix >= 0x3a000000) {  /* |x| >= 2**-11 */
79                 /* up to 4ulp error near 2 */
80                 z = x*x;
81                 r = z*(R02+z*(R03+z*(R04+z*R05)));
82                 s = 1+z*(S01+z*(S02+z*(S03+z*S04)));
83                 return (1+x/2)*(1-x/2) + z*(r/s);
84         }
85         if (ix >= 0x21800000)  /* |x| >= 2**-60 */
86                 x = 0.25f*x*x;
87         return 1 - x;
88 }
89
90 static const float
91 u00  = -7.3804296553e-02, /* 0xbd9726b5 */
92 u01  =  1.7666645348e-01, /* 0x3e34e80d */
93 u02  = -1.3818567619e-02, /* 0xbc626746 */
94 u03  =  3.4745343146e-04, /* 0x39b62a69 */
95 u04  = -3.8140706238e-06, /* 0xb67ff53c */
96 u05  =  1.9559013964e-08, /* 0x32a802ba */
97 u06  = -3.9820518410e-11, /* 0xae2f21eb */
98 v01  =  1.2730483897e-02, /* 0x3c509385 */
99 v02  =  7.6006865129e-05, /* 0x389f65e0 */
100 v03  =  2.5915085189e-07, /* 0x348b216c */
101 v04  =  4.4111031494e-10; /* 0x2ff280c2 */
102
103 float y0f(float x)
104 {
105         float z,u,v;
106         uint32_t ix;
107
108         GET_FLOAT_WORD(ix, x);
109         if ((ix & 0x7fffffff) == 0)
110                 return -1/0.0f;
111         if (ix>>31)
112                 return 0/0.0f;
113         if (ix >= 0x7f800000)
114                 return 1/x;
115         if (ix >= 0x40000000) {  /* |x| >= 2.0 */
116                 /* large ulp error near zeros */
117                 return common(ix,x,1);
118         }
119         if (ix >= 0x39000000) {  /* x >= 2**-13 */
120                 /* large ulp error at x ~= 0.89 */
121                 z = x*x;
122                 u = u00+z*(u01+z*(u02+z*(u03+z*(u04+z*(u05+z*u06)))));
123                 v = 1+z*(v01+z*(v02+z*(v03+z*v04)));
124                 return u/v + tpi*(j0f(x)*logf(x));
125         }
126         return u00 + tpi*logf(x);
127 }
128
129 /* The asymptotic expansions of pzero is
130  *      1 - 9/128 s^2 + 11025/98304 s^4 - ...,  where s = 1/x.
131  * For x >= 2, We approximate pzero by
132  *      pzero(x) = 1 + (R/S)
133  * where  R = pR0 + pR1*s^2 + pR2*s^4 + ... + pR5*s^10
134  *        S = 1 + pS0*s^2 + ... + pS4*s^10
135  * and
136  *      | pzero(x)-1-R/S | <= 2  ** ( -60.26)
137  */
138 static const float pR8[6] = { /* for x in [inf, 8]=1/[0,0.125] */
139   0.0000000000e+00, /* 0x00000000 */
140  -7.0312500000e-02, /* 0xbd900000 */
141  -8.0816707611e+00, /* 0xc1014e86 */
142  -2.5706311035e+02, /* 0xc3808814 */
143  -2.4852163086e+03, /* 0xc51b5376 */
144  -5.2530439453e+03, /* 0xc5a4285a */
145 };
146 static const float pS8[5] = {
147   1.1653436279e+02, /* 0x42e91198 */
148   3.8337448730e+03, /* 0x456f9beb */
149   4.0597855469e+04, /* 0x471e95db */
150   1.1675296875e+05, /* 0x47e4087c */
151   4.7627726562e+04, /* 0x473a0bba */
152 };
153 static const float pR5[6] = { /* for x in [8,4.5454]=1/[0.125,0.22001] */
154  -1.1412546255e-11, /* 0xad48c58a */
155  -7.0312492549e-02, /* 0xbd8fffff */
156  -4.1596107483e+00, /* 0xc0851b88 */
157  -6.7674766541e+01, /* 0xc287597b */
158  -3.3123129272e+02, /* 0xc3a59d9b */
159  -3.4643338013e+02, /* 0xc3ad3779 */
160 };
161 static const float pS5[5] = {
162   6.0753936768e+01, /* 0x42730408 */
163   1.0512523193e+03, /* 0x44836813 */
164   5.9789707031e+03, /* 0x45bad7c4 */
165   9.6254453125e+03, /* 0x461665c8 */
166   2.4060581055e+03, /* 0x451660ee */
167 };
168
169 static const float pR3[6] = {/* for x in [4.547,2.8571]=1/[0.2199,0.35001] */
170  -2.5470459075e-09, /* 0xb12f081b */
171  -7.0311963558e-02, /* 0xbd8fffb8 */
172  -2.4090321064e+00, /* 0xc01a2d95 */
173  -2.1965976715e+01, /* 0xc1afba52 */
174  -5.8079170227e+01, /* 0xc2685112 */
175  -3.1447946548e+01, /* 0xc1fb9565 */
176 };
177 static const float pS3[5] = {
178   3.5856033325e+01, /* 0x420f6c94 */
179   3.6151397705e+02, /* 0x43b4c1ca */
180   1.1936077881e+03, /* 0x44953373 */
181   1.1279968262e+03, /* 0x448cffe6 */
182   1.7358093262e+02, /* 0x432d94b8 */
183 };
184
185 static const float pR2[6] = {/* for x in [2.8570,2]=1/[0.3499,0.5] */
186  -8.8753431271e-08, /* 0xb3be98b7 */
187  -7.0303097367e-02, /* 0xbd8ffb12 */
188  -1.4507384300e+00, /* 0xbfb9b1cc */
189  -7.6356959343e+00, /* 0xc0f4579f */
190  -1.1193166733e+01, /* 0xc1331736 */
191  -3.2336456776e+00, /* 0xc04ef40d */
192 };
193 static const float pS2[5] = {
194   2.2220300674e+01, /* 0x41b1c32d */
195   1.3620678711e+02, /* 0x430834f0 */
196   2.7047027588e+02, /* 0x43873c32 */
197   1.5387539673e+02, /* 0x4319e01a */
198   1.4657617569e+01, /* 0x416a859a */
199 };
200
201 static float pzerof(float x)
202 {
203         const float *p,*q;
204         float_t z,r,s;
205         uint32_t ix;
206
207         GET_FLOAT_WORD(ix, x);
208         ix &= 0x7fffffff;
209         if      (ix >= 0x41000000){p = pR8; q = pS8;}
210         else if (ix >= 0x40f71c58){p = pR5; q = pS5;}
211         else if (ix >= 0x4036db68){p = pR3; q = pS3;}
212         else /*ix >= 0x40000000*/ {p = pR2; q = pS2;}
213         z = 1.0f/(x*x);
214         r = p[0]+z*(p[1]+z*(p[2]+z*(p[3]+z*(p[4]+z*p[5]))));
215         s = 1.0f+z*(q[0]+z*(q[1]+z*(q[2]+z*(q[3]+z*q[4]))));
216         return 1.0f + r/s;
217 }
218
219
220 /* For x >= 8, the asymptotic expansions of qzero is
221  *      -1/8 s + 75/1024 s^3 - ..., where s = 1/x.
222  * We approximate pzero by
223  *      qzero(x) = s*(-1.25 + (R/S))
224  * where  R = qR0 + qR1*s^2 + qR2*s^4 + ... + qR5*s^10
225  *        S = 1 + qS0*s^2 + ... + qS5*s^12
226  * and
227  *      | qzero(x)/s +1.25-R/S | <= 2  ** ( -61.22)
228  */
229 static const float qR8[6] = { /* for x in [inf, 8]=1/[0,0.125] */
230   0.0000000000e+00, /* 0x00000000 */
231   7.3242187500e-02, /* 0x3d960000 */
232   1.1768206596e+01, /* 0x413c4a93 */
233   5.5767340088e+02, /* 0x440b6b19 */
234   8.8591972656e+03, /* 0x460a6cca */
235   3.7014625000e+04, /* 0x471096a0 */
236 };
237 static const float qS8[6] = {
238   1.6377603149e+02, /* 0x4323c6aa */
239   8.0983447266e+03, /* 0x45fd12c2 */
240   1.4253829688e+05, /* 0x480b3293 */
241   8.0330925000e+05, /* 0x49441ed4 */
242   8.4050156250e+05, /* 0x494d3359 */
243  -3.4389928125e+05, /* 0xc8a7eb69 */
244 };
245
246 static const float qR5[6] = { /* for x in [8,4.5454]=1/[0.125,0.22001] */
247   1.8408595828e-11, /* 0x2da1ec79 */
248   7.3242180049e-02, /* 0x3d95ffff */
249   5.8356351852e+00, /* 0x40babd86 */
250   1.3511157227e+02, /* 0x43071c90 */
251   1.0272437744e+03, /* 0x448067cd */
252   1.9899779053e+03, /* 0x44f8bf4b */
253 };
254 static const float qS5[6] = {
255   8.2776611328e+01, /* 0x42a58da0 */
256   2.0778142090e+03, /* 0x4501dd07 */
257   1.8847289062e+04, /* 0x46933e94 */
258   5.6751113281e+04, /* 0x475daf1d */
259   3.5976753906e+04, /* 0x470c88c1 */
260  -5.3543427734e+03, /* 0xc5a752be */
261 };
262
263 static const float qR3[6] = {/* for x in [4.547,2.8571]=1/[0.2199,0.35001] */
264   4.3774099900e-09, /* 0x3196681b */
265   7.3241114616e-02, /* 0x3d95ff70 */
266   3.3442313671e+00, /* 0x405607e3 */
267   4.2621845245e+01, /* 0x422a7cc5 */
268   1.7080809021e+02, /* 0x432acedf */
269   1.6673394775e+02, /* 0x4326bbe4 */
270 };
271 static const float qS3[6] = {
272   4.8758872986e+01, /* 0x42430916 */
273   7.0968920898e+02, /* 0x44316c1c */
274   3.7041481934e+03, /* 0x4567825f */
275   6.4604252930e+03, /* 0x45c9e367 */
276   2.5163337402e+03, /* 0x451d4557 */
277  -1.4924745178e+02, /* 0xc3153f59 */
278 };
279
280 static const float qR2[6] = {/* for x in [2.8570,2]=1/[0.3499,0.5] */
281   1.5044444979e-07, /* 0x342189db */
282   7.3223426938e-02, /* 0x3d95f62a */
283   1.9981917143e+00, /* 0x3fffc4bf */
284   1.4495602608e+01, /* 0x4167edfd */
285   3.1666231155e+01, /* 0x41fd5471 */
286   1.6252708435e+01, /* 0x4182058c */
287 };
288 static const float qS2[6] = {
289   3.0365585327e+01, /* 0x41f2ecb8 */
290   2.6934811401e+02, /* 0x4386ac8f */
291   8.4478375244e+02, /* 0x44533229 */
292   8.8293585205e+02, /* 0x445cbbe5 */
293   2.1266638184e+02, /* 0x4354aa98 */
294  -5.3109550476e+00, /* 0xc0a9f358 */
295 };
296
297 static float qzerof(float x)
298 {
299         const float *p,*q;
300         float_t s,r,z;
301         uint32_t ix;
302
303         GET_FLOAT_WORD(ix, x);
304         ix &= 0x7fffffff;
305         if      (ix >= 0x41000000){p = qR8; q = qS8;}
306         else if (ix >= 0x40f71c58){p = qR5; q = qS5;}
307         else if (ix >= 0x4036db68){p = qR3; q = qS3;}
308         else /*ix >= 0x40000000*/ {p = qR2; q = qS2;}
309         z = 1.0f/(x*x);
310         r = p[0]+z*(p[1]+z*(p[2]+z*(p[3]+z*(p[4]+z*p[5]))));
311         s = 1.0f+z*(q[0]+z*(q[1]+z*(q[2]+z*(q[3]+z*(q[4]+z*q[5])))));
312         return (-.125f + r/s)/x;
313 }