Check conversion return in ASN1_INTEGER_print_bio.
[oweals/openssl.git] / crypto / modes / ocb128.c
1 /*
2  * Copyright 2014-2016 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <string.h>
11 #include <openssl/crypto.h>
12 #include "modes_lcl.h"
13
14 #ifndef OPENSSL_NO_OCB
15
16 /*
17  * Calculate the number of binary trailing zero's in any given number
18  */
19 static u32 ocb_ntz(u64 n)
20 {
21     u32 cnt = 0;
22
23     /*
24      * We do a right-to-left simple sequential search. This is surprisingly
25      * efficient as the distribution of trailing zeros is not uniform,
26      * e.g. the number of possible inputs with no trailing zeros is equal to
27      * the number with 1 or more; the number with exactly 1 is equal to the
28      * number with 2 or more, etc. Checking the last two bits covers 75% of
29      * all numbers. Checking the last three covers 87.5%
30      */
31     while (!(n & 1)) {
32         n >>= 1;
33         cnt++;
34     }
35     return cnt;
36 }
37
38 /*
39  * Shift a block of 16 bytes left by shift bits
40  */
41 static void ocb_block_lshift(const unsigned char *in, size_t shift,
42                              unsigned char *out)
43 {
44     unsigned char shift_mask;
45     int i;
46     unsigned char mask[15];
47
48     shift_mask = 0xff;
49     shift_mask <<= (8 - shift);
50     for (i = 15; i >= 0; i--) {
51         if (i > 0) {
52             mask[i - 1] = in[i] & shift_mask;
53             mask[i - 1] >>= 8 - shift;
54         }
55         out[i] = in[i] << shift;
56
57         if (i != 15) {
58             out[i] ^= mask[i];
59         }
60     }
61 }
62
63 /*
64  * Perform a "double" operation as per OCB spec
65  */
66 static void ocb_double(OCB_BLOCK *in, OCB_BLOCK *out)
67 {
68     unsigned char mask;
69
70     /*
71      * Calculate the mask based on the most significant bit. There are more
72      * efficient ways to do this - but this way is constant time
73      */
74     mask = in->c[0] & 0x80;
75     mask >>= 7;
76     mask *= 135;
77
78     ocb_block_lshift(in->c, 1, out->c);
79
80     out->c[15] ^= mask;
81 }
82
83 /*
84  * Perform an xor on in1 and in2 - each of len bytes. Store result in out
85  */
86 static void ocb_block_xor(const unsigned char *in1,
87                           const unsigned char *in2, size_t len,
88                           unsigned char *out)
89 {
90     size_t i;
91     for (i = 0; i < len; i++) {
92         out[i] = in1[i] ^ in2[i];
93     }
94 }
95
96 /*
97  * Lookup L_index in our lookup table. If we haven't already got it we need to
98  * calculate it
99  */
100 static OCB_BLOCK *ocb_lookup_l(OCB128_CONTEXT *ctx, size_t idx)
101 {
102     size_t l_index = ctx->l_index;
103
104     if (idx <= l_index) {
105         return ctx->l + idx;
106     }
107
108     /* We don't have it - so calculate it */
109     if (idx >= ctx->max_l_index) {
110         void *tmp_ptr;
111         /*
112          * Each additional entry allows to process almost double as
113          * much data, so that in linear world the table will need to
114          * be expanded with smaller and smaller increments. Originally
115          * it was doubling in size, which was a waste. Growing it
116          * linearly is not formally optimal, but is simpler to implement.
117          * We grow table by minimally required 4*n that would accommodate
118          * the index.
119          */
120         ctx->max_l_index += (idx - ctx->max_l_index + 4) & ~3;
121         tmp_ptr =
122             OPENSSL_realloc(ctx->l, ctx->max_l_index * sizeof(OCB_BLOCK));
123         if (tmp_ptr == NULL) /* prevent ctx->l from being clobbered */
124             return NULL;
125         ctx->l = tmp_ptr;
126     }
127     while (l_index < idx) {
128         ocb_double(ctx->l + l_index, ctx->l + l_index + 1);
129         l_index++;
130     }
131     ctx->l_index = l_index;
132
133     return ctx->l + idx;
134 }
135
136 /*
137  * Create a new OCB128_CONTEXT
138  */
139 OCB128_CONTEXT *CRYPTO_ocb128_new(void *keyenc, void *keydec,
140                                   block128_f encrypt, block128_f decrypt,
141                                   ocb128_f stream)
142 {
143     OCB128_CONTEXT *octx;
144     int ret;
145
146     if ((octx = OPENSSL_malloc(sizeof(*octx))) != NULL) {
147         ret = CRYPTO_ocb128_init(octx, keyenc, keydec, encrypt, decrypt,
148                                  stream);
149         if (ret)
150             return octx;
151         OPENSSL_free(octx);
152     }
153
154     return NULL;
155 }
156
157 /*
158  * Initialise an existing OCB128_CONTEXT
159  */
160 int CRYPTO_ocb128_init(OCB128_CONTEXT *ctx, void *keyenc, void *keydec,
161                        block128_f encrypt, block128_f decrypt,
162                        ocb128_f stream)
163 {
164     memset(ctx, 0, sizeof(*ctx));
165     ctx->l_index = 0;
166     ctx->max_l_index = 5;
167     ctx->l = OPENSSL_malloc(ctx->max_l_index * 16);
168     if (ctx->l == NULL)
169         return 0;
170
171     /*
172      * We set both the encryption and decryption key schedules - decryption
173      * needs both. Don't really need decryption schedule if only doing
174      * encryption - but it simplifies things to take it anyway
175      */
176     ctx->encrypt = encrypt;
177     ctx->decrypt = decrypt;
178     ctx->stream = stream;
179     ctx->keyenc = keyenc;
180     ctx->keydec = keydec;
181
182     /* L_* = ENCIPHER(K, zeros(128)) */
183     ctx->encrypt(ctx->l_star.c, ctx->l_star.c, ctx->keyenc);
184
185     /* L_$ = double(L_*) */
186     ocb_double(&ctx->l_star, &ctx->l_dollar);
187
188     /* L_0 = double(L_$) */
189     ocb_double(&ctx->l_dollar, ctx->l);
190
191     /* L_{i} = double(L_{i-1}) */
192     ocb_double(ctx->l, ctx->l+1);
193     ocb_double(ctx->l+1, ctx->l+2);
194     ocb_double(ctx->l+2, ctx->l+3);
195     ocb_double(ctx->l+3, ctx->l+4);
196     ctx->l_index = 4;   /* enough to process up to 496 bytes */
197
198     return 1;
199 }
200
201 /*
202  * Copy an OCB128_CONTEXT object
203  */
204 int CRYPTO_ocb128_copy_ctx(OCB128_CONTEXT *dest, OCB128_CONTEXT *src,
205                            void *keyenc, void *keydec)
206 {
207     memcpy(dest, src, sizeof(OCB128_CONTEXT));
208     if (keyenc)
209         dest->keyenc = keyenc;
210     if (keydec)
211         dest->keydec = keydec;
212     if (src->l) {
213         dest->l = OPENSSL_malloc(src->max_l_index * 16);
214         if (dest->l == NULL)
215             return 0;
216         memcpy(dest->l, src->l, (src->l_index + 1) * 16);
217     }
218     return 1;
219 }
220
221 /*
222  * Set the IV to be used for this operation. Must be 1 - 15 bytes.
223  */
224 int CRYPTO_ocb128_setiv(OCB128_CONTEXT *ctx, const unsigned char *iv,
225                         size_t len, size_t taglen)
226 {
227     unsigned char ktop[16], tmp[16], mask;
228     unsigned char stretch[24], nonce[16];
229     size_t bottom, shift;
230
231     /*
232      * Spec says IV is 120 bits or fewer - it allows non byte aligned lengths.
233      * We don't support this at this stage
234      */
235     if ((len > 15) || (len < 1) || (taglen > 16) || (taglen < 1)) {
236         return -1;
237     }
238
239     /* Reset nonce-dependent variables */
240     memset(&ctx->sess, 0, sizeof(ctx->sess));
241
242     /* Nonce = num2str(TAGLEN mod 128,7) || zeros(120-bitlen(N)) || 1 || N */
243     nonce[0] = ((taglen * 8) % 128) << 1;
244     memset(nonce + 1, 0, 15);
245     memcpy(nonce + 16 - len, iv, len);
246     nonce[15 - len] |= 1;
247
248     /* Ktop = ENCIPHER(K, Nonce[1..122] || zeros(6)) */
249     memcpy(tmp, nonce, 16);
250     tmp[15] &= 0xc0;
251     ctx->encrypt(tmp, ktop, ctx->keyenc);
252
253     /* Stretch = Ktop || (Ktop[1..64] xor Ktop[9..72]) */
254     memcpy(stretch, ktop, 16);
255     ocb_block_xor(ktop, ktop + 1, 8, stretch + 16);
256
257     /* bottom = str2num(Nonce[123..128]) */
258     bottom = nonce[15] & 0x3f;
259
260     /* Offset_0 = Stretch[1+bottom..128+bottom] */
261     shift = bottom % 8;
262     ocb_block_lshift(stretch + (bottom / 8), shift, ctx->sess.offset.c);
263     mask = 0xff;
264     mask <<= 8 - shift;
265     ctx->sess.offset.c[15] |=
266         (*(stretch + (bottom / 8) + 16) & mask) >> (8 - shift);
267
268     return 1;
269 }
270
271 /*
272  * Provide any AAD. This can be called multiple times. Only the final time can
273  * have a partial block
274  */
275 int CRYPTO_ocb128_aad(OCB128_CONTEXT *ctx, const unsigned char *aad,
276                       size_t len)
277 {
278     u64 i, all_num_blocks;
279     size_t num_blocks, last_len;
280     OCB_BLOCK tmp;
281
282     /* Calculate the number of blocks of AAD provided now, and so far */
283     num_blocks = len / 16;
284     all_num_blocks = num_blocks + ctx->sess.blocks_hashed;
285
286     /* Loop through all full blocks of AAD */
287     for (i = ctx->sess.blocks_hashed + 1; i <= all_num_blocks; i++) {
288         OCB_BLOCK *lookup;
289
290         /* Offset_i = Offset_{i-1} xor L_{ntz(i)} */
291         lookup = ocb_lookup_l(ctx, ocb_ntz(i));
292         if (lookup == NULL)
293             return 0;
294         ocb_block16_xor(&ctx->sess.offset_aad, lookup, &ctx->sess.offset_aad);
295
296         memcpy(tmp.c, aad, 16);
297         aad += 16;
298
299         /* Sum_i = Sum_{i-1} xor ENCIPHER(K, A_i xor Offset_i) */
300         ocb_block16_xor(&ctx->sess.offset_aad, &tmp, &tmp);
301         ctx->encrypt(tmp.c, tmp.c, ctx->keyenc);
302         ocb_block16_xor(&tmp, &ctx->sess.sum, &ctx->sess.sum);
303     }
304
305     /*
306      * Check if we have any partial blocks left over. This is only valid in the
307      * last call to this function
308      */
309     last_len = len % 16;
310
311     if (last_len > 0) {
312         /* Offset_* = Offset_m xor L_* */
313         ocb_block16_xor(&ctx->sess.offset_aad, &ctx->l_star,
314                         &ctx->sess.offset_aad);
315
316         /* CipherInput = (A_* || 1 || zeros(127-bitlen(A_*))) xor Offset_* */
317         memset(tmp.c, 0, 16);
318         memcpy(tmp.c, aad, last_len);
319         tmp.c[last_len] = 0x80;
320         ocb_block16_xor(&ctx->sess.offset_aad, &tmp, &tmp);
321
322         /* Sum = Sum_m xor ENCIPHER(K, CipherInput) */
323         ctx->encrypt(tmp.c, tmp.c, ctx->keyenc);
324         ocb_block16_xor(&tmp, &ctx->sess.sum, &ctx->sess.sum);
325     }
326
327     ctx->sess.blocks_hashed = all_num_blocks;
328
329     return 1;
330 }
331
332 /*
333  * Provide any data to be encrypted. This can be called multiple times. Only
334  * the final time can have a partial block
335  */
336 int CRYPTO_ocb128_encrypt(OCB128_CONTEXT *ctx,
337                           const unsigned char *in, unsigned char *out,
338                           size_t len)
339 {
340     u64 i, all_num_blocks;
341     size_t num_blocks, last_len;
342
343     /*
344      * Calculate the number of blocks of data to be encrypted provided now, and
345      * so far
346      */
347     num_blocks = len / 16;
348     all_num_blocks = num_blocks + ctx->sess.blocks_processed;
349
350     if (num_blocks && all_num_blocks == (size_t)all_num_blocks
351         && ctx->stream != NULL) {
352         size_t max_idx = 0, top = (size_t)all_num_blocks;
353
354         /*
355          * See how many L_{i} entries we need to process data at hand
356          * and pre-compute missing entries in the table [if any]...
357          */
358         while (top >>= 1)
359             max_idx++;
360         if (ocb_lookup_l(ctx, max_idx) == NULL)
361             return 0;
362
363         ctx->stream(in, out, num_blocks, ctx->keyenc,
364                     (size_t)ctx->sess.blocks_processed + 1, ctx->sess.offset.c,
365                     (const unsigned char (*)[16])ctx->l, ctx->sess.checksum.c);
366     } else {
367         /* Loop through all full blocks to be encrypted */
368         for (i = ctx->sess.blocks_processed + 1; i <= all_num_blocks; i++) {
369             OCB_BLOCK *lookup;
370             OCB_BLOCK tmp;
371
372             /* Offset_i = Offset_{i-1} xor L_{ntz(i)} */
373             lookup = ocb_lookup_l(ctx, ocb_ntz(i));
374             if (lookup == NULL)
375                 return 0;
376             ocb_block16_xor(&ctx->sess.offset, lookup, &ctx->sess.offset);
377
378             memcpy(tmp.c, in, 16);
379             in += 16;
380
381             /* Checksum_i = Checksum_{i-1} xor P_i */
382             ocb_block16_xor(&tmp, &ctx->sess.checksum, &ctx->sess.checksum);
383
384             /* C_i = Offset_i xor ENCIPHER(K, P_i xor Offset_i) */
385             ocb_block16_xor(&ctx->sess.offset, &tmp, &tmp);
386             ctx->encrypt(tmp.c, tmp.c, ctx->keyenc);
387             ocb_block16_xor(&ctx->sess.offset, &tmp, &tmp);
388
389             memcpy(out, tmp.c, 16);
390             out += 16;
391         }
392     }
393
394     /*
395      * Check if we have any partial blocks left over. This is only valid in the
396      * last call to this function
397      */
398     last_len = len % 16;
399
400     if (last_len > 0) {
401         OCB_BLOCK pad;
402
403         /* Offset_* = Offset_m xor L_* */
404         ocb_block16_xor(&ctx->sess.offset, &ctx->l_star, &ctx->sess.offset);
405
406         /* Pad = ENCIPHER(K, Offset_*) */
407         ctx->encrypt(ctx->sess.offset.c, pad.c, ctx->keyenc);
408
409         /* C_* = P_* xor Pad[1..bitlen(P_*)] */
410         ocb_block_xor(in, pad.c, last_len, out);
411
412         /* Checksum_* = Checksum_m xor (P_* || 1 || zeros(127-bitlen(P_*))) */
413         memset(pad.c, 0, 16);           /* borrow pad */
414         memcpy(pad.c, in, last_len);
415         pad.c[last_len] = 0x80;
416         ocb_block16_xor(&pad, &ctx->sess.checksum, &ctx->sess.checksum);
417     }
418
419     ctx->sess.blocks_processed = all_num_blocks;
420
421     return 1;
422 }
423
424 /*
425  * Provide any data to be decrypted. This can be called multiple times. Only
426  * the final time can have a partial block
427  */
428 int CRYPTO_ocb128_decrypt(OCB128_CONTEXT *ctx,
429                           const unsigned char *in, unsigned char *out,
430                           size_t len)
431 {
432     u64 i, all_num_blocks;
433     size_t num_blocks, last_len;
434
435     /*
436      * Calculate the number of blocks of data to be decrypted provided now, and
437      * so far
438      */
439     num_blocks = len / 16;
440     all_num_blocks = num_blocks + ctx->sess.blocks_processed;
441
442     if (num_blocks && all_num_blocks == (size_t)all_num_blocks
443         && ctx->stream != NULL) {
444         size_t max_idx = 0, top = (size_t)all_num_blocks;
445
446         /*
447          * See how many L_{i} entries we need to process data at hand
448          * and pre-compute missing entries in the table [if any]...
449          */
450         while (top >>= 1)
451             max_idx++;
452         if (ocb_lookup_l(ctx, max_idx) == NULL)
453             return 0;
454
455         ctx->stream(in, out, num_blocks, ctx->keydec,
456                     (size_t)ctx->sess.blocks_processed + 1, ctx->sess.offset.c,
457                     (const unsigned char (*)[16])ctx->l, ctx->sess.checksum.c);
458     } else {
459         OCB_BLOCK tmp;
460
461         /* Loop through all full blocks to be decrypted */
462         for (i = ctx->sess.blocks_processed + 1; i <= all_num_blocks; i++) {
463
464             /* Offset_i = Offset_{i-1} xor L_{ntz(i)} */
465             OCB_BLOCK *lookup = ocb_lookup_l(ctx, ocb_ntz(i));
466             if (lookup == NULL)
467                 return 0;
468             ocb_block16_xor(&ctx->sess.offset, lookup, &ctx->sess.offset);
469
470             memcpy(tmp.c, in, 16);
471             in += 16;
472
473             /* P_i = Offset_i xor DECIPHER(K, C_i xor Offset_i) */
474             ocb_block16_xor(&ctx->sess.offset, &tmp, &tmp);
475             ctx->decrypt(tmp.c, tmp.c, ctx->keydec);
476             ocb_block16_xor(&ctx->sess.offset, &tmp, &tmp);
477
478             /* Checksum_i = Checksum_{i-1} xor P_i */
479             ocb_block16_xor(&tmp, &ctx->sess.checksum, &ctx->sess.checksum);
480
481             memcpy(out, tmp.c, 16);
482             out += 16;
483         }
484     }
485
486     /*
487      * Check if we have any partial blocks left over. This is only valid in the
488      * last call to this function
489      */
490     last_len = len % 16;
491
492     if (last_len > 0) {
493         OCB_BLOCK pad;
494
495         /* Offset_* = Offset_m xor L_* */
496         ocb_block16_xor(&ctx->sess.offset, &ctx->l_star, &ctx->sess.offset);
497
498         /* Pad = ENCIPHER(K, Offset_*) */
499         ctx->encrypt(ctx->sess.offset.c, pad.c, ctx->keyenc);
500
501         /* P_* = C_* xor Pad[1..bitlen(C_*)] */
502         ocb_block_xor(in, pad.c, last_len, out);
503
504         /* Checksum_* = Checksum_m xor (P_* || 1 || zeros(127-bitlen(P_*))) */
505         memset(pad.c, 0, 16);           /* borrow pad */
506         memcpy(pad.c, out, last_len);
507         pad.c[last_len] = 0x80;
508         ocb_block16_xor(&pad, &ctx->sess.checksum, &ctx->sess.checksum);
509     }
510
511     ctx->sess.blocks_processed = all_num_blocks;
512
513     return 1;
514 }
515
516 static int ocb_finish(OCB128_CONTEXT *ctx, unsigned char *tag, size_t len,
517                       int write)
518 {
519     OCB_BLOCK tmp;
520
521     if (len > 16 || len < 1) {
522         return -1;
523     }
524
525     /*
526      * Tag = ENCIPHER(K, Checksum_* xor Offset_* xor L_$) xor HASH(K,A)
527      */
528     ocb_block16_xor(&ctx->sess.checksum, &ctx->sess.offset, &tmp);
529     ocb_block16_xor(&ctx->l_dollar, &tmp, &tmp);
530     ctx->encrypt(tmp.c, tmp.c, ctx->keyenc);
531     ocb_block16_xor(&tmp, &ctx->sess.sum, &tmp);
532
533     if (write) {
534         memcpy(tag, &tmp, len);
535         return 1;
536     } else {
537         return CRYPTO_memcmp(&tmp, tag, len);
538     }
539 }
540
541 /*
542  * Calculate the tag and verify it against the supplied tag
543  */
544 int CRYPTO_ocb128_finish(OCB128_CONTEXT *ctx, const unsigned char *tag,
545                          size_t len)
546 {
547     return ocb_finish(ctx, (unsigned char*)tag, len, 0);
548 }
549
550 /*
551  * Retrieve the calculated tag
552  */
553 int CRYPTO_ocb128_tag(OCB128_CONTEXT *ctx, unsigned char *tag, size_t len)
554 {
555     return ocb_finish(ctx, tag, len, 1);
556 }
557
558 /*
559  * Release all resources
560  */
561 void CRYPTO_ocb128_cleanup(OCB128_CONTEXT *ctx)
562 {
563     if (ctx) {
564         OPENSSL_clear_free(ctx->l, ctx->max_l_index * 16);
565         OPENSSL_cleanse(ctx, sizeof(*ctx));
566     }
567 }
568
569 #endif                          /* OPENSSL_NO_OCB */