Fix a padding oracle in PKCS7_dataDecode and CMS_decrypt_set1_pkey
authorBernd Edlinger <bernd.edlinger@hotmail.de>
Sat, 31 Aug 2019 22:16:28 +0000 (00:16 +0200)
committerMatt Caswell <matt@openssl.org>
Tue, 10 Sep 2019 10:45:41 +0000 (11:45 +0100)
commite21f8cf78a125cd3c8c0d1a1a6c8bb0b901f893f
tree7655bd5d556ccdbd555e1ecdb2e3faead25b1f84
parent8bf7d77f33263c81b8e293347edc9a6e43f24d0e
Fix a padding oracle in PKCS7_dataDecode and CMS_decrypt_set1_pkey

An attack is simple, if the first CMS_recipientInfo is valid but the
second CMS_recipientInfo is chosen ciphertext. If the second
recipientInfo decodes to PKCS #1 v1.5 form plaintext, the correct
encryption key will be replaced by garbage, and the message cannot be
decoded, but if the RSA decryption fails, the correct encryption key is
used and the recipient will not notice the attack.

As a work around for this potential attack the length of the decrypted
key must be equal to the cipher default key length, in case the
certifiate is not given and all recipientInfo are tried out.

The old behaviour can be re-enabled in the CMS code by setting the
CMS_DEBUG_DECRYPT flag.

Reviewed-by: Matt Caswell <matt@openssl.org>
(Merged from https://github.com/openssl/openssl/pull/9777)

(cherry picked from commit 5840ed0cd1e6487d247efbc1a04136a41d7b3a37)
CHANGES
crypto/cms/cms_env.c
crypto/cms/cms_lcl.h
crypto/cms/cms_smime.c
crypto/pkcs7/pk7_doit.c