Fix mem leak on error path
[oweals/openssl.git] / crypto / srp / srp_lib.c
1 /*
2  * Copyright 2011-2016 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #ifndef OPENSSL_NO_SRP
11 # include "internal/cryptlib.h"
12 # include <openssl/sha.h>
13 # include <openssl/srp.h>
14 # include <openssl/evp.h>
15 # include "internal/bn_srp.h"
16
17 static BIGNUM *srp_Calc_k(const BIGNUM *N, const BIGNUM *g)
18 {
19     /* k = SHA1(N | PAD(g)) -- tls-srp draft 8 */
20
21     unsigned char digest[SHA_DIGEST_LENGTH];
22     unsigned char *tmp = NULL;
23     EVP_MD_CTX *ctxt = NULL;
24     int longg;
25     int longN = BN_num_bytes(N);
26     BIGNUM *res = NULL;
27
28     if (BN_ucmp(g, N) >= 0)
29         return NULL;
30
31     ctxt = EVP_MD_CTX_new();
32     if (ctxt == NULL)
33         return NULL;
34     if ((tmp = OPENSSL_malloc(longN)) == NULL)
35         goto err;
36     BN_bn2bin(N, tmp);
37
38     if (!EVP_DigestInit_ex(ctxt, EVP_sha1(), NULL)
39         || !EVP_DigestUpdate(ctxt, tmp, longN))
40         goto err;
41
42     memset(tmp, 0, longN);
43     longg = BN_bn2bin(g, tmp);
44     /* use the zeros behind to pad on left */
45     if (!EVP_DigestUpdate(ctxt, tmp + longg, longN - longg)
46         || !EVP_DigestUpdate(ctxt, tmp, longg))
47         goto err;
48
49     if (!EVP_DigestFinal_ex(ctxt, digest, NULL))
50         goto err;
51     res = BN_bin2bn(digest, sizeof(digest), NULL);
52  err:
53     OPENSSL_free(tmp);
54     EVP_MD_CTX_free(ctxt);
55     return res;
56 }
57
58 BIGNUM *SRP_Calc_u(const BIGNUM *A, const BIGNUM *B, const BIGNUM *N)
59 {
60     /* k = SHA1(PAD(A) || PAD(B) ) -- tls-srp draft 8 */
61
62     BIGNUM *u = NULL;
63     unsigned char cu[SHA_DIGEST_LENGTH];
64     unsigned char *cAB = NULL;
65     EVP_MD_CTX *ctxt = NULL;
66     int longN;
67     if ((A == NULL) || (B == NULL) || (N == NULL))
68         return NULL;
69
70     if (BN_ucmp(A, N) >= 0 || BN_ucmp(B, N) >= 0)
71         return NULL;
72
73     longN = BN_num_bytes(N);
74
75     ctxt = EVP_MD_CTX_new();
76     if (ctxt == NULL)
77         return NULL;
78     if ((cAB = OPENSSL_malloc(2 * longN)) == NULL)
79         goto err;
80
81     memset(cAB, 0, longN);
82
83     if (!EVP_DigestInit_ex(ctxt, EVP_sha1(), NULL)
84         || !EVP_DigestUpdate(ctxt, cAB + BN_bn2bin(A, cAB + longN), longN)
85         || !EVP_DigestUpdate(ctxt, cAB + BN_bn2bin(B, cAB + longN), longN))
86         goto err;
87
88     if (!EVP_DigestFinal_ex(ctxt, cu, NULL))
89         goto err;
90
91     if ((u = BN_bin2bn(cu, sizeof(cu), NULL)) == NULL)
92         goto err;
93     if (BN_is_zero(u)) {
94         BN_free(u);
95         u = NULL;
96     }
97
98  err:
99     OPENSSL_free(cAB);
100     EVP_MD_CTX_free(ctxt);
101
102     return u;
103 }
104
105 BIGNUM *SRP_Calc_server_key(const BIGNUM *A, const BIGNUM *v, const BIGNUM *u,
106                             const BIGNUM *b, const BIGNUM *N)
107 {
108     BIGNUM *tmp = NULL, *S = NULL;
109     BN_CTX *bn_ctx;
110
111     if (u == NULL || A == NULL || v == NULL || b == NULL || N == NULL)
112         return NULL;
113
114     if ((bn_ctx = BN_CTX_new()) == NULL || (tmp = BN_new()) == NULL)
115         goto err;
116
117     /* S = (A*v**u) ** b */
118
119     if (!BN_mod_exp(tmp, v, u, N, bn_ctx))
120         goto err;
121     if (!BN_mod_mul(tmp, A, tmp, N, bn_ctx))
122         goto err;
123
124     S = BN_new();
125     if (S != NULL && !BN_mod_exp(S, tmp, b, N, bn_ctx)) {
126         BN_free(S);
127         S = NULL;
128     }
129  err:
130     BN_CTX_free(bn_ctx);
131     BN_clear_free(tmp);
132     return S;
133 }
134
135 BIGNUM *SRP_Calc_B(const BIGNUM *b, const BIGNUM *N, const BIGNUM *g,
136                    const BIGNUM *v)
137 {
138     BIGNUM *kv = NULL, *gb = NULL;
139     BIGNUM *B = NULL, *k = NULL;
140     BN_CTX *bn_ctx;
141
142     if (b == NULL || N == NULL || g == NULL || v == NULL ||
143         (bn_ctx = BN_CTX_new()) == NULL)
144         return NULL;
145
146     if ((kv = BN_new()) == NULL ||
147         (gb = BN_new()) == NULL || (B = BN_new()) == NULL)
148         goto err;
149
150     /* B = g**b + k*v */
151
152     if (!BN_mod_exp(gb, g, b, N, bn_ctx)
153         || (k = srp_Calc_k(N, g)) == NULL
154         || !BN_mod_mul(kv, v, k, N, bn_ctx)
155         || !BN_mod_add(B, gb, kv, N, bn_ctx)) {
156         BN_free(B);
157         B = NULL;
158     }
159  err:
160     BN_CTX_free(bn_ctx);
161     BN_clear_free(kv);
162     BN_clear_free(gb);
163     BN_free(k);
164     return B;
165 }
166
167 BIGNUM *SRP_Calc_x(const BIGNUM *s, const char *user, const char *pass)
168 {
169     unsigned char dig[SHA_DIGEST_LENGTH];
170     EVP_MD_CTX *ctxt;
171     unsigned char *cs = NULL;
172     BIGNUM *res = NULL;
173
174     if ((s == NULL) || (user == NULL) || (pass == NULL))
175         return NULL;
176
177     ctxt = EVP_MD_CTX_new();
178     if (ctxt == NULL)
179         return NULL;
180     if ((cs = OPENSSL_malloc(BN_num_bytes(s))) == NULL)
181         goto err;
182
183     if (!EVP_DigestInit_ex(ctxt, EVP_sha1(), NULL)
184         || !EVP_DigestUpdate(ctxt, user, strlen(user))
185         || !EVP_DigestUpdate(ctxt, ":", 1)
186         || !EVP_DigestUpdate(ctxt, pass, strlen(pass))
187         || !EVP_DigestFinal_ex(ctxt, dig, NULL)
188         || !EVP_DigestInit_ex(ctxt, EVP_sha1(), NULL))
189         goto err;
190     BN_bn2bin(s, cs);
191     if (!EVP_DigestUpdate(ctxt, cs, BN_num_bytes(s)))
192         goto err;
193
194     if (!EVP_DigestUpdate(ctxt, dig, sizeof(dig))
195         || !EVP_DigestFinal_ex(ctxt, dig, NULL))
196         goto err;
197
198     res = BN_bin2bn(dig, sizeof(dig), NULL);
199
200  err:
201     OPENSSL_free(cs);
202     EVP_MD_CTX_free(ctxt);
203     return res;
204 }
205
206 BIGNUM *SRP_Calc_A(const BIGNUM *a, const BIGNUM *N, const BIGNUM *g)
207 {
208     BN_CTX *bn_ctx;
209     BIGNUM *A = NULL;
210
211     if (a == NULL || N == NULL || g == NULL || (bn_ctx = BN_CTX_new()) == NULL)
212         return NULL;
213
214     if ((A = BN_new()) != NULL && !BN_mod_exp(A, g, a, N, bn_ctx)) {
215         BN_free(A);
216         A = NULL;
217     }
218     BN_CTX_free(bn_ctx);
219     return A;
220 }
221
222 BIGNUM *SRP_Calc_client_key(const BIGNUM *N, const BIGNUM *B, const BIGNUM *g,
223                             const BIGNUM *x, const BIGNUM *a, const BIGNUM *u)
224 {
225     BIGNUM *tmp = NULL, *tmp2 = NULL, *tmp3 = NULL, *k = NULL, *K = NULL;
226     BN_CTX *bn_ctx;
227
228     if (u == NULL || B == NULL || N == NULL || g == NULL || x == NULL
229         || a == NULL || (bn_ctx = BN_CTX_new()) == NULL)
230         return NULL;
231
232     if ((tmp = BN_new()) == NULL ||
233         (tmp2 = BN_new()) == NULL ||
234         (tmp3 = BN_new()) == NULL)
235         goto err;
236
237     if (!BN_mod_exp(tmp, g, x, N, bn_ctx))
238         goto err;
239     if ((k = srp_Calc_k(N, g)) == NULL)
240         goto err;
241     if (!BN_mod_mul(tmp2, tmp, k, N, bn_ctx))
242         goto err;
243     if (!BN_mod_sub(tmp, B, tmp2, N, bn_ctx))
244         goto err;
245     if (!BN_mul(tmp3, u, x, bn_ctx))
246         goto err;
247     if (!BN_add(tmp2, a, tmp3))
248         goto err;
249     K = BN_new();
250     if (K != NULL && !BN_mod_exp(K, tmp, tmp2, N, bn_ctx)) {
251         BN_free(K);
252         K = NULL;
253     }
254
255  err:
256     BN_CTX_free(bn_ctx);
257     BN_clear_free(tmp);
258     BN_clear_free(tmp2);
259     BN_clear_free(tmp3);
260     BN_free(k);
261     return K;
262 }
263
264 int SRP_Verify_B_mod_N(const BIGNUM *B, const BIGNUM *N)
265 {
266     BIGNUM *r;
267     BN_CTX *bn_ctx;
268     int ret = 0;
269
270     if (B == NULL || N == NULL || (bn_ctx = BN_CTX_new()) == NULL)
271         return 0;
272
273     if ((r = BN_new()) == NULL)
274         goto err;
275     /* Checks if B % N == 0 */
276     if (!BN_nnmod(r, B, N, bn_ctx))
277         goto err;
278     ret = !BN_is_zero(r);
279  err:
280     BN_CTX_free(bn_ctx);
281     BN_free(r);
282     return ret;
283 }
284
285 int SRP_Verify_A_mod_N(const BIGNUM *A, const BIGNUM *N)
286 {
287     /* Checks if A % N == 0 */
288     return SRP_Verify_B_mod_N(A, N);
289 }
290
291 static SRP_gN knowngN[] = {
292     {"8192", &bn_generator_19, &bn_group_8192},
293     {"6144", &bn_generator_5, &bn_group_6144},
294     {"4096", &bn_generator_5, &bn_group_4096},
295     {"3072", &bn_generator_5, &bn_group_3072},
296     {"2048", &bn_generator_2, &bn_group_2048},
297     {"1536", &bn_generator_2, &bn_group_1536},
298     {"1024", &bn_generator_2, &bn_group_1024},
299 };
300
301 # define KNOWN_GN_NUMBER sizeof(knowngN) / sizeof(SRP_gN)
302
303 /*
304  * Check if G and N are known parameters. The values have been generated
305  * from the ietf-tls-srp draft version 8
306  */
307 char *SRP_check_known_gN_param(const BIGNUM *g, const BIGNUM *N)
308 {
309     size_t i;
310     if ((g == NULL) || (N == NULL))
311         return 0;
312
313     for (i = 0; i < KNOWN_GN_NUMBER; i++) {
314         if (BN_cmp(knowngN[i].g, g) == 0 && BN_cmp(knowngN[i].N, N) == 0)
315             return knowngN[i].id;
316     }
317     return NULL;
318 }
319
320 SRP_gN *SRP_get_default_gN(const char *id)
321 {
322     size_t i;
323
324     if (id == NULL)
325         return knowngN;
326     for (i = 0; i < KNOWN_GN_NUMBER; i++) {
327         if (strcmp(knowngN[i].id, id) == 0)
328             return knowngN + i;
329     }
330     return NULL;
331 }
332 #endif