colibri_imx6: fix video stdout in default environment
[oweals/u-boot.git] / lib / rsa / rsa-verify.c
index 287fcc4d234de50d508db251d1307d2f41e88440..1d55b997e34cfd6864914308f9cb1b1525090cbc 100644 (file)
@@ -6,6 +6,8 @@
 #ifndef USE_HOSTCC
 #include <common.h>
 #include <fdtdec.h>
+#include <log.h>
+#include <malloc.h>
 #include <asm/types.h>
 #include <asm/byteorder.h>
 #include <linux/errno.h>
 #include "mkimage.h"
 #include <fdt_support.h>
 #endif
+#include <linux/kconfig.h>
 #include <u-boot/rsa-mod-exp.h>
 #include <u-boot/rsa.h>
 
+#ifndef __UBOOT__
+/*
+ * NOTE:
+ * Since host tools, like mkimage, make use of openssl library for
+ * RSA encryption, rsa_verify_with_pkey()/rsa_gen_key_prop() are
+ * of no use and should not be compiled in.
+ * So just turn off CONFIG_RSA_VERIFY_WITH_PKEY.
+ */
+
+#undef CONFIG_RSA_VERIFY_WITH_PKEY
+#endif
+
 /* Default public exponent for backward compatibility */
 #define RSA_DEFAULT_PUBEXP     65537
 
@@ -270,6 +285,7 @@ out:
 }
 #endif
 
+#if CONFIG_IS_ENABLED(FIT_SIGNATURE) || IS_ENABLED(CONFIG_RSA_VERIFY_WITH_PKEY)
 /**
  * rsa_verify_key() - Verify a signature against some data using RSA Key
  *
@@ -341,7 +357,52 @@ static int rsa_verify_key(struct image_sign_info *info,
 
        return 0;
 }
+#endif
+
+#ifdef CONFIG_RSA_VERIFY_WITH_PKEY
+/**
+ * rsa_verify_with_pkey() - Verify a signature against some data using
+ * only modulus and exponent as RSA key properties.
+ * @info:      Specifies key information
+ * @hash:      Pointer to the expected hash
+ * @sig:       Signature
+ * @sig_len:   Number of bytes in signature
+ *
+ * Parse a RSA public key blob in DER format pointed to in @info and fill
+ * a key_prop structure with properties of the key. Then verify a RSA PKCS1.5
+ * signature against an expected hash using the calculated properties.
+ *
+ * Return      0 if verified, -ve on error
+ */
+static int rsa_verify_with_pkey(struct image_sign_info *info,
+                               const void *hash, uint8_t *sig, uint sig_len)
+{
+       struct key_prop *prop;
+       int ret;
+
+       /* Public key is self-described to fill key_prop */
+       ret = rsa_gen_key_prop(info->key, info->keylen, &prop);
+       if (ret) {
+               debug("Generating necessary parameter for decoding failed\n");
+               return ret;
+       }
+
+       ret = rsa_verify_key(info, prop, sig, sig_len, hash,
+                            info->crypto->key_len);
+
+       rsa_free_key_prop(prop);
+
+       return ret;
+}
+#else
+static int rsa_verify_with_pkey(struct image_sign_info *info,
+                               const void *hash, uint8_t *sig, uint sig_len)
+{
+       return -EACCES;
+}
+#endif
 
+#if CONFIG_IS_ENABLED(FIT_SIGNATURE)
 /**
  * rsa_verify_with_keynode() - Verify a signature against some data using
  * information in node with prperties of RSA Key like modulus, exponent etc.
@@ -385,7 +446,7 @@ static int rsa_verify_with_keynode(struct image_sign_info *info,
 
        prop.rr = fdt_getprop(blob, node, "rsa,r-squared", NULL);
 
-       if (!prop.num_bits || !prop.modulus) {
+       if (!prop.num_bits || !prop.modulus || !prop.rr) {
                debug("%s: Missing RSA key info", __func__);
                return -EFAULT;
        }
@@ -395,18 +456,22 @@ static int rsa_verify_with_keynode(struct image_sign_info *info,
 
        return ret;
 }
+#else
+static int rsa_verify_with_keynode(struct image_sign_info *info,
+                                  const void *hash, uint8_t *sig,
+                                  uint sig_len, int node)
+{
+       return -EACCES;
+}
+#endif
 
 int rsa_verify(struct image_sign_info *info,
               const struct image_region region[], int region_count,
               uint8_t *sig, uint sig_len)
 {
-       const void *blob = info->fdt_blob;
        /* Reserve memory for maximum checksum-length */
        uint8_t hash[info->crypto->key_len];
-       int ndepth, noffset;
-       int sig_node, node;
-       char name[100];
-       int ret;
+       int ret = -EACCES;
 
        /*
         * Verify that the checksum-length does not exceed the
@@ -419,12 +484,6 @@ int rsa_verify(struct image_sign_info *info,
                return -EINVAL;
        }
 
-       sig_node = fdt_subnode_offset(blob, 0, FIT_SIG_NODENAME);
-       if (sig_node < 0) {
-               debug("%s: No signature node found\n", __func__);
-               return -ENOENT;
-       }
-
        /* Calculate checksum with checksum-algorithm */
        ret = info->checksum->calculate(info->checksum->name,
                                        region, region_count, hash);
@@ -433,30 +492,51 @@ int rsa_verify(struct image_sign_info *info,
                return -EINVAL;
        }
 
-       /* See if we must use a particular key */
-       if (info->required_keynode != -1) {
-               ret = rsa_verify_with_keynode(info, hash, sig, sig_len,
-                       info->required_keynode);
-               if (!ret)
-                       return ret;
-       }
+       if (IS_ENABLED(CONFIG_RSA_VERIFY_WITH_PKEY) && !info->fdt_blob) {
+               /* don't rely on fdt properties */
+               ret = rsa_verify_with_pkey(info, hash, sig, sig_len);
 
-       /* Look for a key that matches our hint */
-       snprintf(name, sizeof(name), "key-%s", info->keyname);
-       node = fdt_subnode_offset(blob, sig_node, name);
-       ret = rsa_verify_with_keynode(info, hash, sig, sig_len, node);
-       if (!ret)
                return ret;
+       }
+
+       if (CONFIG_IS_ENABLED(FIT_SIGNATURE)) {
+               const void *blob = info->fdt_blob;
+               int ndepth, noffset;
+               int sig_node, node;
+               char name[100];
+
+               sig_node = fdt_subnode_offset(blob, 0, FIT_SIG_NODENAME);
+               if (sig_node < 0) {
+                       debug("%s: No signature node found\n", __func__);
+                       return -ENOENT;
+               }
 
-       /* No luck, so try each of the keys in turn */
-       for (ndepth = 0, noffset = fdt_next_node(info->fit, sig_node, &ndepth);
-                       (noffset >= 0) && (ndepth > 0);
-                       noffset = fdt_next_node(info->fit, noffset, &ndepth)) {
-               if (ndepth == 1 && noffset != node) {
+               /* See if we must use a particular key */
+               if (info->required_keynode != -1) {
                        ret = rsa_verify_with_keynode(info, hash, sig, sig_len,
-                                                     noffset);
-                       if (!ret)
-                               break;
+                                                     info->required_keynode);
+                       return ret;
+               }
+
+               /* Look for a key that matches our hint */
+               snprintf(name, sizeof(name), "key-%s", info->keyname);
+               node = fdt_subnode_offset(blob, sig_node, name);
+               ret = rsa_verify_with_keynode(info, hash, sig, sig_len, node);
+               if (!ret)
+                       return ret;
+
+               /* No luck, so try each of the keys in turn */
+               for (ndepth = 0, noffset = fdt_next_node(info->fit, sig_node,
+                                                        &ndepth);
+                    (noffset >= 0) && (ndepth > 0);
+                    noffset = fdt_next_node(info->fit, noffset, &ndepth)) {
+                       if (ndepth == 1 && noffset != node) {
+                               ret = rsa_verify_with_keynode(info, hash,
+                                                             sig, sig_len,
+                                                             noffset);
+                               if (!ret)
+                                       break;
+                       }
                }
        }