fix incorrect sequence generation in *rand48 prng functions
authorRich Felker <dalias@aerifal.cx>
Mon, 22 Sep 2014 21:55:08 +0000 (17:55 -0400)
committerRich Felker <dalias@aerifal.cx>
Mon, 30 Mar 2015 05:15:44 +0000 (01:15 -0400)
commit9f93f6d119387f915b8a26f8ab800abee2482373
tree48b2738695548c53ff6d2f23cd06c077e75ae5db
parent0a7aca63c0fe68449086074e32dd55bfcb9efdc2
fix incorrect sequence generation in *rand48 prng functions

patch by Jens Gustedt. this fixes a bug reported by Nadav Har'El. the
underlying issue was that a left-shift by 16 bits after promotion of
unsigned short to int caused integer overflow. while some compilers
define this overflow case as "shifting into the sign bit", doing so
doesn't help; the sign bit then gets extended through the upper bits
in subsequent arithmetic as unsigned long long. this patch imposes a
promotion to unsigned prior to the shift, so that the result is
well-defined and matches the specified behavior.

(cherry picked from commit 05cef96d9e63a00b319f88343cf9869c8e612843)
src/prng/__rand48_step.c