fix fmaf wrong result
authorSzabolcs Nagy <nsz@port70.net>
Sun, 1 Apr 2018 20:02:01 +0000 (20:02 +0000)
committerRich Felker <dalias@aerifal.cx>
Mon, 2 Apr 2018 22:57:41 +0000 (18:57 -0400)
commit282b1cd26649d69de038111f5876853df6ddc345
tree4287eb355348f3c47d0b2075ecc514c4f3361052
parent729fef0a9358e2f6f1cd8c75a1a0f7ee48b08c95
fix fmaf wrong result

if double precision r=x*y+z is not a half way case between two single
precision floats or it is an exact result then fmaf returns (float)r.

however the exactness check was wrong when |x*y| < |z| and could cause
incorrectly rounded result in nearest rounding mode when r is a half
way case.

fmaf(-0x1.26524ep-54, -0x1.cb7868p+11, 0x1.d10f5ep-29)
was incorrectly rounded up to 0x1.d117ap-29 instead of 0x1.d1179ep-29.
(exact result is 0x1.d1179efffffffecp-29, r is 0x1.d1179fp-29)
src/math/fmaf.c