clean up new code for NIST primes
[oweals/openssl.git] / crypto / ec / ec_cvt.c
1 /* crypto/ec/ec_cvt.c */
2 /*
3  * Originally written by Bodo Moeller for the OpenSSL project.
4  */
5 /* ====================================================================
6  * Copyright (c) 1998-2002 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer. 
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    openssl-core@openssl.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58 /* ====================================================================
59  * Copyright 2002 Sun Microsystems, Inc. ALL RIGHTS RESERVED.
60  *
61  * Portions of the attached software ("Contribution") are developed by 
62  * SUN MICROSYSTEMS, INC., and are contributed to the OpenSSL project.
63  *
64  * The Contribution is licensed pursuant to the OpenSSL open source
65  * license provided above.
66  *
67  * In addition, Sun covenants to all licensees who provide a reciprocal
68  * covenant with respect to their own patents if any, not to sue under
69  * current and future patent claims necessarily infringed by the making,
70  * using, practicing, selling, offering for sale and/or otherwise
71  * disposing of the Contribution as delivered hereunder 
72  * (or portions thereof), provided that such covenant shall not apply:
73  *  1) for code that a licensee deletes from the Contribution;
74  *  2) separates from the Contribution; or
75  *  3) for infringements caused by:
76  *       i) the modification of the Contribution or
77  *      ii) the combination of the Contribution with other software or
78  *          devices where such combination causes the infringement.
79  *
80  * The elliptic curve binary polynomial software is originally written by
81  * Sheueling Chang Shantz and Douglas Stebila of Sun Microsystems Laboratories.
82  *
83  */
84
85 #include <openssl/err.h>
86 #include "ec_lcl.h"
87
88
89 EC_GROUP *EC_GROUP_new_curve_GFp(const BIGNUM *p, const BIGNUM *a, const BIGNUM *b, BN_CTX *ctx)
90         {
91         const EC_METHOD *meth;
92         EC_GROUP *ret;
93
94         meth = EC_GFp_nist_method();
95         
96         ret = EC_GROUP_new(meth);
97         if (ret == NULL)
98                 return NULL;
99
100         if (!EC_GROUP_set_curve_GFp(ret, p, a, b, ctx))
101                 {
102                 unsigned long err;
103                   
104                 err = ERR_peek_last_error();
105
106                 if (!(ERR_GET_LIB(err) == ERR_LIB_EC &&
107                         ((ERR_GET_REASON(err) == EC_R_NOT_A_NIST_PRIME) ||
108                          (ERR_GET_REASON(err) == EC_R_NOT_A_SUPPORTED_NIST_PRIME))))
109                         {
110                         /* real error */
111                         
112                         EC_GROUP_clear_free(ret);
113                         return NULL;
114                         }
115                         
116                 
117                 /* not an actual error, we just cannot use EC_GFp_nist_method */
118
119                 ERR_clear_error();
120
121                 EC_GROUP_clear_free(ret);
122                 meth = EC_GFp_mont_method();
123
124                 ret = EC_GROUP_new(meth);
125                 if (ret == NULL)
126                         return NULL;
127
128                 if (!EC_GROUP_set_curve_GFp(ret, p, a, b, ctx))
129                         {
130                         EC_GROUP_clear_free(ret);
131                         return NULL;
132                         }
133                 }
134
135         return ret;
136         }
137
138
139 EC_GROUP *EC_GROUP_new_curve_GF2m(const BIGNUM *p, const BIGNUM *a, const BIGNUM *b, BN_CTX *ctx)
140         {
141         const EC_METHOD *meth;
142         EC_GROUP *ret;
143         
144         meth = EC_GF2m_simple_method();
145         
146         ret = EC_GROUP_new(meth);
147         if (ret == NULL)
148                 return NULL;
149
150         if (!EC_GROUP_set_curve_GF2m(ret, p, a, b, ctx))
151                 {
152                 EC_GROUP_clear_free(ret);
153                 return NULL;
154                 }
155
156         return ret;
157         }