BN_to_montgomery expects its inputs to be in the interval 0 .. modulus-1,
authorBodo Möller <bodo@openssl.org>
Wed, 29 Nov 2000 18:08:24 +0000 (18:08 +0000)
committerBodo Möller <bodo@openssl.org>
Wed, 29 Nov 2000 18:08:24 +0000 (18:08 +0000)
commit14697d9d6d883bd1193c379900ee9102acd27c19
treebfaaedb4df068b92387c846286f8699002044bf6
parentc6a926d9e27af13da1108b821db5e508e4a19cbe
BN_to_montgomery expects its inputs to be in the interval 0 .. modulus-1,
so we have to reduce the random numbers used in test_mont.

Before this change, test_mont failed in [debug-]solaris-sparcv9-gcc
configurations ("Montgomery multiplication test failed!" because
the multiplication result obtained with Montgomery multiplication
differed from the result obtained by BN_mod_mul).
Substituing the old version of bn_gcd.c (BN_mod_inverse) did not avoid
the problem.

The strange thing is that it I did not observe any problems
when using debug-solaris-sparcv8-gcc and solaris-sparcv9-cc,
as well as when compiling OpenSSL 0.9.6 in the solaric-sparcv9-gcc
configuration on the same system.
crypto/bn/bntest.c