Fix issues in ia32 RDRAND asm leading to reduced entropy
authorBryan Donlan <bdonlan@amazon.com>
Wed, 7 Mar 2018 21:01:06 +0000 (16:01 -0500)
committerRich Salz <rsalz@openssl.org>
Thu, 8 Mar 2018 15:27:49 +0000 (10:27 -0500)
commit082193ef2b25cf16ec51af9dc9f0ee890beb38b9
tree47569ec7a98b96948ca9c6c4fdc9f25def757efc
parent83918ad6fddf33acc43aadcc40f08be22ff39482
Fix issues in ia32 RDRAND asm leading to reduced entropy

This patch fixes two issues in the ia32 RDRAND assembly code that result in a
(possibly significant) loss of entropy.

The first, less significant, issue is that, by returning success as 0 from
OPENSSL_ia32_rdrand() and OPENSSL_ia32_rdseed(), a subtle bias was introduced.
Specifically, because the assembly routine copied the remaining number of
retries over the result when RDRAND/RDSEED returned 'successful but zero', a
bias towards values 1-8 (primarily 8) was introduced.

The second, more worrying issue was that, due to a mixup in registers, when a
buffer that was not size 0 or 1 mod 8 was passed to OPENSSL_ia32_rdrand_bytes
or OPENSSL_ia32_rdseed_bytes, the last (n mod 8) bytes were all the same value.
This issue impacts only the 64-bit variant of the assembly.

This change fixes both issues by first eliminating the only use of
OPENSSL_ia32_rdrand, replacing it with OPENSSL_ia32_rdrand_bytes, and fixes the
register mixup in OPENSSL_ia32_rdrand_bytes. It also adds a sanity test for
OPENSSL_ia32_rdrand_bytes and OPENSSL_ia32_rdseed_bytes to help catch problems
of this nature in the future.

Reviewed-by: Andy Polyakov <appro@openssl.org>
Reviewed-by: Rich Salz <rsalz@openssl.org>
(Merged from https://github.com/openssl/openssl/pull/5342)
crypto/engine/eng_rdrand.c
crypto/x86_64cpuid.pl
crypto/x86cpuid.pl
test/build.info
test/rdrand_sanitytest.c [new file with mode: 0644]
test/recipes/06-test-rdrand.t [new file with mode: 0644]