Add BIO_ADDR_clear to libeay.num
[oweals/openssl.git] / ssl / statem / statem_lib.c
1 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
2  * All rights reserved.
3  *
4  * This package is an SSL implementation written
5  * by Eric Young (eay@cryptsoft.com).
6  * The implementation was written so as to conform with Netscapes SSL.
7  *
8  * This library is free for commercial and non-commercial use as long as
9  * the following conditions are aheared to.  The following conditions
10  * apply to all code found in this distribution, be it the RC4, RSA,
11  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
12  * included with this distribution is covered by the same copyright terms
13  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
14  *
15  * Copyright remains Eric Young's, and as such any Copyright notices in
16  * the code are not to be removed.
17  * If this package is used in a product, Eric Young should be given attribution
18  * as the author of the parts of the library used.
19  * This can be in the form of a textual message at program startup or
20  * in documentation (online or textual) provided with the package.
21  *
22  * Redistribution and use in source and binary forms, with or without
23  * modification, are permitted provided that the following conditions
24  * are met:
25  * 1. Redistributions of source code must retain the copyright
26  *    notice, this list of conditions and the following disclaimer.
27  * 2. Redistributions in binary form must reproduce the above copyright
28  *    notice, this list of conditions and the following disclaimer in the
29  *    documentation and/or other materials provided with the distribution.
30  * 3. All advertising materials mentioning features or use of this software
31  *    must display the following acknowledgement:
32  *    "This product includes cryptographic software written by
33  *     Eric Young (eay@cryptsoft.com)"
34  *    The word 'cryptographic' can be left out if the rouines from the library
35  *    being used are not cryptographic related :-).
36  * 4. If you include any Windows specific code (or a derivative thereof) from
37  *    the apps directory (application code) you must include an acknowledgement:
38  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
39  *
40  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
41  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
42  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
43  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
44  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
45  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
46  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
48  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
49  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
50  * SUCH DAMAGE.
51  *
52  * The licence and distribution terms for any publically available version or
53  * derivative of this code cannot be changed.  i.e. this code cannot simply be
54  * copied and put under another distribution licence
55  * [including the GNU Public Licence.]
56  */
57 /* ====================================================================
58  * Copyright (c) 1998-2002 The OpenSSL Project.  All rights reserved.
59  *
60  * Redistribution and use in source and binary forms, with or without
61  * modification, are permitted provided that the following conditions
62  * are met:
63  *
64  * 1. Redistributions of source code must retain the above copyright
65  *    notice, this list of conditions and the following disclaimer.
66  *
67  * 2. Redistributions in binary form must reproduce the above copyright
68  *    notice, this list of conditions and the following disclaimer in
69  *    the documentation and/or other materials provided with the
70  *    distribution.
71  *
72  * 3. All advertising materials mentioning features or use of this
73  *    software must display the following acknowledgment:
74  *    "This product includes software developed by the OpenSSL Project
75  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
76  *
77  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
78  *    endorse or promote products derived from this software without
79  *    prior written permission. For written permission, please contact
80  *    openssl-core@openssl.org.
81  *
82  * 5. Products derived from this software may not be called "OpenSSL"
83  *    nor may "OpenSSL" appear in their names without prior written
84  *    permission of the OpenSSL Project.
85  *
86  * 6. Redistributions of any form whatsoever must retain the following
87  *    acknowledgment:
88  *    "This product includes software developed by the OpenSSL Project
89  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
90  *
91  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
92  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
93  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
94  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
95  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
96  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
97  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
98  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
99  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
100  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
101  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
102  * OF THE POSSIBILITY OF SUCH DAMAGE.
103  * ====================================================================
104  *
105  * This product includes cryptographic software written by Eric Young
106  * (eay@cryptsoft.com).  This product includes software written by Tim
107  * Hudson (tjh@cryptsoft.com).
108  *
109  */
110 /* ====================================================================
111  * Copyright 2002 Sun Microsystems, Inc. ALL RIGHTS RESERVED.
112  * ECC cipher suite support in OpenSSL originally developed by
113  * SUN MICROSYSTEMS, INC., and contributed to the OpenSSL project.
114  */
115
116 #include <limits.h>
117 #include <string.h>
118 #include <stdio.h>
119 #include "../ssl_locl.h"
120 #include "statem_locl.h"
121 #include <openssl/buffer.h>
122 #include <openssl/rand.h>
123 #include <openssl/objects.h>
124 #include <openssl/evp.h>
125 #include <openssl/x509.h>
126
127 /*
128  * send s->init_buf in records of type 'type' (SSL3_RT_HANDSHAKE or
129  * SSL3_RT_CHANGE_CIPHER_SPEC)
130  */
131 int ssl3_do_write(SSL *s, int type)
132 {
133     int ret;
134
135     ret = ssl3_write_bytes(s, type, &s->init_buf->data[s->init_off],
136                            s->init_num);
137     if (ret < 0)
138         return (-1);
139     if (type == SSL3_RT_HANDSHAKE)
140         /*
141          * should not be done for 'Hello Request's, but in that case we'll
142          * ignore the result anyway
143          */
144         ssl3_finish_mac(s, (unsigned char *)&s->init_buf->data[s->init_off],
145                         ret);
146
147     if (ret == s->init_num) {
148         if (s->msg_callback)
149             s->msg_callback(1, s->version, type, s->init_buf->data,
150                             (size_t)(s->init_off + s->init_num), s,
151                             s->msg_callback_arg);
152         return (1);
153     }
154     s->init_off += ret;
155     s->init_num -= ret;
156     return (0);
157 }
158
159 int tls_construct_finished(SSL *s, const char *sender, int slen)
160 {
161     unsigned char *p;
162     int i;
163     unsigned long l;
164
165     p = ssl_handshake_start(s);
166
167     i = s->method->ssl3_enc->final_finish_mac(s,
168                                               sender, slen,
169                                               s->s3->tmp.finish_md);
170     if (i <= 0)
171         return 0;
172     s->s3->tmp.finish_md_len = i;
173     memcpy(p, s->s3->tmp.finish_md, i);
174     l = i;
175
176     /*
177      * Copy the finished so we can use it for renegotiation checks
178      */
179     if (!s->server) {
180         OPENSSL_assert(i <= EVP_MAX_MD_SIZE);
181         memcpy(s->s3->previous_client_finished, s->s3->tmp.finish_md, i);
182         s->s3->previous_client_finished_len = i;
183     } else {
184         OPENSSL_assert(i <= EVP_MAX_MD_SIZE);
185         memcpy(s->s3->previous_server_finished, s->s3->tmp.finish_md, i);
186         s->s3->previous_server_finished_len = i;
187     }
188
189     if (!ssl_set_handshake_header(s, SSL3_MT_FINISHED, l)) {
190         SSLerr(SSL_F_TLS_CONSTRUCT_FINISHED, ERR_R_INTERNAL_ERROR);
191         return 0;
192     }
193
194     return 1;
195 }
196
197 #ifndef OPENSSL_NO_NEXTPROTONEG
198 /*
199  * ssl3_take_mac calculates the Finished MAC for the handshakes messages seen
200  * to far.
201  */
202 static void ssl3_take_mac(SSL *s)
203 {
204     const char *sender;
205     int slen;
206     /*
207      * If no new cipher setup return immediately: other functions will set
208      * the appropriate error.
209      */
210     if (s->s3->tmp.new_cipher == NULL)
211         return;
212     if (!s->server) {
213         sender = s->method->ssl3_enc->server_finished_label;
214         slen = s->method->ssl3_enc->server_finished_label_len;
215     } else {
216         sender = s->method->ssl3_enc->client_finished_label;
217         slen = s->method->ssl3_enc->client_finished_label_len;
218     }
219
220     s->s3->tmp.peer_finish_md_len = s->method->ssl3_enc->final_finish_mac(s,
221                                                                           sender,
222                                                                           slen,
223                                                                           s->s3->tmp.peer_finish_md);
224 }
225 #endif
226
227 MSG_PROCESS_RETURN tls_process_change_cipher_spec(SSL *s, PACKET *pkt)
228 {
229     int al;
230     long remain;
231
232     remain = PACKET_remaining(pkt);
233     /*
234      * 'Change Cipher Spec' is just a single byte, which should already have
235      * been consumed by ssl_get_message() so there should be no bytes left,
236      * unless we're using DTLS1_BAD_VER, which has an extra 2 bytes
237      */
238     if (SSL_IS_DTLS(s)) {
239         if ((s->version == DTLS1_BAD_VER
240                         && remain != DTLS1_CCS_HEADER_LENGTH + 1)
241                     || (s->version != DTLS1_BAD_VER
242                         && remain != DTLS1_CCS_HEADER_LENGTH - 1)) {
243                 al = SSL_AD_ILLEGAL_PARAMETER;
244                 SSLerr(SSL_F_TLS_PROCESS_CHANGE_CIPHER_SPEC,
245                        SSL_R_BAD_CHANGE_CIPHER_SPEC);
246                 goto f_err;
247         }
248     } else {
249         if (remain != 0) {
250             al = SSL_AD_ILLEGAL_PARAMETER;
251             SSLerr(SSL_F_TLS_PROCESS_CHANGE_CIPHER_SPEC,
252                    SSL_R_BAD_CHANGE_CIPHER_SPEC);
253             goto f_err;
254         }
255     }
256
257     /* Check we have a cipher to change to */
258     if (s->s3->tmp.new_cipher == NULL) {
259         al = SSL_AD_UNEXPECTED_MESSAGE;
260         SSLerr(SSL_F_TLS_PROCESS_CHANGE_CIPHER_SPEC, SSL_R_CCS_RECEIVED_EARLY);
261         goto f_err;
262     }
263
264     s->s3->change_cipher_spec = 1;
265     if (!ssl3_do_change_cipher_spec(s)) {
266         al = SSL_AD_INTERNAL_ERROR;
267         SSLerr(SSL_F_TLS_PROCESS_CHANGE_CIPHER_SPEC, ERR_R_INTERNAL_ERROR);
268         goto f_err;
269     }
270
271     if (SSL_IS_DTLS(s)) {
272         dtls1_reset_seq_numbers(s, SSL3_CC_READ);
273
274         if (s->version == DTLS1_BAD_VER)
275             s->d1->handshake_read_seq++;
276
277 #ifndef OPENSSL_NO_SCTP
278         /*
279          * Remember that a CCS has been received, so that an old key of
280          * SCTP-Auth can be deleted when a CCS is sent. Will be ignored if no
281          * SCTP is used
282          */
283         BIO_ctrl(SSL_get_wbio(s), BIO_CTRL_DGRAM_SCTP_AUTH_CCS_RCVD, 1, NULL);
284 #endif
285     }
286
287     return MSG_PROCESS_CONTINUE_READING;
288  f_err:
289     ssl3_send_alert(s, SSL3_AL_FATAL, al);
290     ossl_statem_set_error(s);
291     return MSG_PROCESS_ERROR;
292 }
293
294 MSG_PROCESS_RETURN tls_process_finished(SSL *s, PACKET *pkt)
295 {
296     int al, i;
297
298     /* If this occurs, we have missed a message */
299     if (!s->s3->change_cipher_spec) {
300         al = SSL_AD_UNEXPECTED_MESSAGE;
301         SSLerr(SSL_F_TLS_PROCESS_FINISHED, SSL_R_GOT_A_FIN_BEFORE_A_CCS);
302         goto f_err;
303     }
304     s->s3->change_cipher_spec = 0;
305
306     i = s->s3->tmp.peer_finish_md_len;
307
308     if ((unsigned long)i != PACKET_remaining(pkt)) {
309         al = SSL_AD_DECODE_ERROR;
310         SSLerr(SSL_F_TLS_PROCESS_FINISHED, SSL_R_BAD_DIGEST_LENGTH);
311         goto f_err;
312     }
313
314     if (CRYPTO_memcmp(PACKET_data(pkt), s->s3->tmp.peer_finish_md, i) != 0) {
315         al = SSL_AD_DECRYPT_ERROR;
316         SSLerr(SSL_F_TLS_PROCESS_FINISHED, SSL_R_DIGEST_CHECK_FAILED);
317         goto f_err;
318     }
319
320     /*
321      * Copy the finished so we can use it for renegotiation checks
322      */
323     if (s->server) {
324         OPENSSL_assert(i <= EVP_MAX_MD_SIZE);
325         memcpy(s->s3->previous_client_finished, s->s3->tmp.peer_finish_md, i);
326         s->s3->previous_client_finished_len = i;
327     } else {
328         OPENSSL_assert(i <= EVP_MAX_MD_SIZE);
329         memcpy(s->s3->previous_server_finished, s->s3->tmp.peer_finish_md, i);
330         s->s3->previous_server_finished_len = i;
331     }
332
333     return MSG_PROCESS_FINISHED_READING;
334  f_err:
335     ssl3_send_alert(s, SSL3_AL_FATAL, al);
336     ossl_statem_set_error(s);
337     return MSG_PROCESS_ERROR;
338 }
339
340 int tls_construct_change_cipher_spec(SSL *s)
341 {
342     unsigned char *p;
343
344     p = (unsigned char *)s->init_buf->data;
345     *p = SSL3_MT_CCS;
346     s->init_num = 1;
347     s->init_off = 0;
348
349     return 1;
350 }
351
352 unsigned long ssl3_output_cert_chain(SSL *s, CERT_PKEY *cpk)
353 {
354     unsigned char *p;
355     unsigned long l = 3 + SSL_HM_HEADER_LENGTH(s);
356
357     if (!ssl_add_cert_chain(s, cpk, &l))
358         return 0;
359
360     l -= 3 + SSL_HM_HEADER_LENGTH(s);
361     p = ssl_handshake_start(s);
362     l2n3(l, p);
363     l += 3;
364
365     if (!ssl_set_handshake_header(s, SSL3_MT_CERTIFICATE, l)) {
366         SSLerr(SSL_F_SSL3_OUTPUT_CERT_CHAIN, ERR_R_INTERNAL_ERROR);
367         return 0;
368     }
369     return l + SSL_HM_HEADER_LENGTH(s);
370 }
371
372 WORK_STATE tls_finish_handshake(SSL *s, WORK_STATE wst)
373 {
374     void (*cb) (const SSL *ssl, int type, int val) = NULL;
375
376 #ifndef OPENSSL_NO_SCTP
377     if (SSL_IS_DTLS(s) && BIO_dgram_is_sctp(SSL_get_wbio(s))) {
378         WORK_STATE ret;
379         ret = dtls_wait_for_dry(s);
380         if (ret != WORK_FINISHED_CONTINUE)
381             return ret;
382     }
383 #endif
384
385     /* clean a few things up */
386     ssl3_cleanup_key_block(s);
387
388     if (!SSL_IS_DTLS(s)) {
389         /*
390          * We don't do this in DTLS because we may still need the init_buf
391          * in case there are any unexpected retransmits
392          */
393         BUF_MEM_free(s->init_buf);
394         s->init_buf = NULL;
395     }
396
397     ssl_free_wbio_buffer(s);
398
399     s->init_num = 0;
400
401     if (!s->server || s->renegotiate == 2) {
402         /* skipped if we just sent a HelloRequest */
403         s->renegotiate = 0;
404         s->new_session = 0;
405
406         if (s->server) {
407             ssl_update_cache(s, SSL_SESS_CACHE_SERVER);
408
409             s->ctx->stats.sess_accept_good++;
410             s->handshake_func = ossl_statem_accept;
411         } else {
412             ssl_update_cache(s, SSL_SESS_CACHE_CLIENT);
413             if (s->hit)
414                 s->ctx->stats.sess_hit++;
415
416             s->handshake_func = ossl_statem_connect;
417             s->ctx->stats.sess_connect_good++;
418         }
419
420         if (s->info_callback != NULL)
421             cb = s->info_callback;
422         else if (s->ctx->info_callback != NULL)
423             cb = s->ctx->info_callback;
424
425         if (cb != NULL)
426             cb(s, SSL_CB_HANDSHAKE_DONE, 1);
427
428         if (SSL_IS_DTLS(s)) {
429             /* done with handshaking */
430             s->d1->handshake_read_seq = 0;
431             s->d1->handshake_write_seq = 0;
432             s->d1->next_handshake_write_seq = 0;
433         }
434     }
435
436     return WORK_FINISHED_STOP;
437 }
438
439 int tls_get_message_header(SSL *s, int *mt)
440 {
441     /* s->init_num < SSL3_HM_HEADER_LENGTH */
442     int skip_message, i, recvd_type, al;
443     unsigned char *p;
444     unsigned long l;
445
446     p = (unsigned char *)s->init_buf->data;
447
448     do {
449         while (s->init_num < SSL3_HM_HEADER_LENGTH) {
450             i = s->method->ssl_read_bytes(s, SSL3_RT_HANDSHAKE, &recvd_type,
451                 &p[s->init_num], SSL3_HM_HEADER_LENGTH - s->init_num, 0);
452             if (i <= 0) {
453                 s->rwstate = SSL_READING;
454                 return 0;
455             }
456             if (recvd_type == SSL3_RT_CHANGE_CIPHER_SPEC) {
457                 s->s3->tmp.message_type = *mt = SSL3_MT_CHANGE_CIPHER_SPEC;
458                 s->init_num = i - 1;
459                 s->s3->tmp.message_size = i;
460                 return 1;
461             } else if (recvd_type != SSL3_RT_HANDSHAKE) {
462                 al = SSL_AD_UNEXPECTED_MESSAGE;
463                 SSLerr(SSL_F_TLS_GET_MESSAGE_HEADER, SSL_R_CCS_RECEIVED_EARLY);
464                 goto f_err;
465             }
466             s->init_num += i;
467         }
468
469         skip_message = 0;
470         if (!s->server)
471             if (p[0] == SSL3_MT_HELLO_REQUEST)
472                 /*
473                  * The server may always send 'Hello Request' messages --
474                  * we are doing a handshake anyway now, so ignore them if
475                  * their format is correct. Does not count for 'Finished'
476                  * MAC.
477                  */
478                 if (p[1] == 0 && p[2] == 0 && p[3] == 0) {
479                     s->init_num = 0;
480                     skip_message = 1;
481
482                     if (s->msg_callback)
483                         s->msg_callback(0, s->version, SSL3_RT_HANDSHAKE,
484                                         p, SSL3_HM_HEADER_LENGTH, s,
485                                         s->msg_callback_arg);
486                 }
487     } while (skip_message);
488     /* s->init_num == SSL3_HM_HEADER_LENGTH */
489
490     *mt = *p;
491     s->s3->tmp.message_type = *(p++);
492
493     if(RECORD_LAYER_is_sslv2_record(&s->rlayer)) {
494         /*
495          * Only happens with SSLv3+ in an SSLv2 backward compatible
496          * ClientHello
497          */
498          /*
499           * Total message size is the remaining record bytes to read
500           * plus the SSL3_HM_HEADER_LENGTH bytes that we already read
501           */
502         l = RECORD_LAYER_get_rrec_length(&s->rlayer)
503             + SSL3_HM_HEADER_LENGTH;
504         if (l && !BUF_MEM_grow_clean(s->init_buf, (int)l)) {
505             SSLerr(SSL_F_TLS_GET_MESSAGE_HEADER, ERR_R_BUF_LIB);
506             goto err;
507         }
508         s->s3->tmp.message_size = l;
509
510         s->init_msg = s->init_buf->data;
511         s->init_num = SSL3_HM_HEADER_LENGTH;
512     } else {
513         n2l3(p, l);
514         /* BUF_MEM_grow takes an 'int' parameter */
515         if (l > (INT_MAX - SSL3_HM_HEADER_LENGTH)) {
516             al = SSL_AD_ILLEGAL_PARAMETER;
517             SSLerr(SSL_F_TLS_GET_MESSAGE_HEADER, SSL_R_EXCESSIVE_MESSAGE_SIZE);
518             goto f_err;
519         }
520         if (l && !BUF_MEM_grow_clean(s->init_buf,
521                                     (int)l + SSL3_HM_HEADER_LENGTH)) {
522             SSLerr(SSL_F_TLS_GET_MESSAGE_HEADER, ERR_R_BUF_LIB);
523             goto err;
524         }
525         s->s3->tmp.message_size = l;
526
527         s->init_msg = s->init_buf->data + SSL3_HM_HEADER_LENGTH;
528         s->init_num = 0;
529     }
530
531     return 1;
532  f_err:
533     ssl3_send_alert(s, SSL3_AL_FATAL, al);
534  err:
535     return 0;
536 }
537
538 int tls_get_message_body(SSL *s, unsigned long *len)
539 {
540     long n;
541     unsigned char *p;
542     int i;
543
544     if (s->s3->tmp.message_type == SSL3_MT_CHANGE_CIPHER_SPEC) {
545         /* We've already read everything in */
546         *len = (unsigned long)s->init_num;
547         return 1;
548     }
549
550     p = s->init_msg;
551     n = s->s3->tmp.message_size - s->init_num;
552     while (n > 0) {
553         i = s->method->ssl_read_bytes(s, SSL3_RT_HANDSHAKE, NULL,
554                                       &p[s->init_num], n, 0);
555         if (i <= 0) {
556             s->rwstate = SSL_READING;
557             *len = 0;
558             return 0;
559         }
560         s->init_num += i;
561         n -= i;
562     }
563
564 #ifndef OPENSSL_NO_NEXTPROTONEG
565     /*
566      * If receiving Finished, record MAC of prior handshake messages for
567      * Finished verification.
568      */
569     if (*s->init_buf->data == SSL3_MT_FINISHED)
570         ssl3_take_mac(s);
571 #endif
572
573     /* Feed this message into MAC computation. */
574     if(RECORD_LAYER_is_sslv2_record(&s->rlayer)) {
575         ssl3_finish_mac(s, (unsigned char *)s->init_buf->data, s->init_num);
576         if (s->msg_callback)
577             s->msg_callback(0, SSL2_VERSION, 0,  s->init_buf->data,
578                             (size_t)s->init_num, s, s->msg_callback_arg);
579     } else {
580         ssl3_finish_mac(s, (unsigned char *)s->init_buf->data,
581             s->init_num + SSL3_HM_HEADER_LENGTH);
582         if (s->msg_callback)
583             s->msg_callback(0, s->version, SSL3_RT_HANDSHAKE, s->init_buf->data,
584                             (size_t)s->init_num + SSL3_HM_HEADER_LENGTH, s,
585                             s->msg_callback_arg);
586     }
587
588     /*
589      * init_num should never be negative...should probably be declared
590      * unsigned
591      */
592     if (s->init_num < 0) {
593         SSLerr(SSL_F_TLS_GET_MESSAGE_BODY, ERR_R_INTERNAL_ERROR);
594         ssl3_send_alert(s, SSL3_AL_FATAL, SSL_AD_INTERNAL_ERROR);
595         *len = 0;
596         return 0;
597     }
598     *len = (unsigned long)s->init_num;
599     return 1;
600 }
601
602 int ssl_cert_type(X509 *x, EVP_PKEY *pkey)
603 {
604     EVP_PKEY *pk;
605     int ret = -1, i;
606
607     if (pkey == NULL)
608         pk = X509_get_pubkey(x);
609     else
610         pk = pkey;
611     if (pk == NULL)
612         goto err;
613
614     i = EVP_PKEY_id(pk);
615     if (i == EVP_PKEY_RSA) {
616         ret = SSL_PKEY_RSA_ENC;
617     } else if (i == EVP_PKEY_DSA) {
618         ret = SSL_PKEY_DSA_SIGN;
619     }
620 #ifndef OPENSSL_NO_EC
621     else if (i == EVP_PKEY_EC) {
622         ret = SSL_PKEY_ECC;
623     }
624 #endif
625 #ifndef OPENSSL_NO_GOST
626     else if (i == NID_id_GostR3410_2001) {
627         ret = SSL_PKEY_GOST01;
628     } else if (i == NID_id_GostR3410_2012_256) {
629         ret = SSL_PKEY_GOST12_256;
630     } else if (i == NID_id_GostR3410_2012_512) {
631         ret = SSL_PKEY_GOST12_512;
632     }
633 #endif
634
635  err:
636     if (!pkey)
637         EVP_PKEY_free(pk);
638     return (ret);
639 }
640
641 int ssl_verify_alarm_type(long type)
642 {
643     int al;
644
645     switch (type) {
646     case X509_V_ERR_UNABLE_TO_GET_ISSUER_CERT:
647     case X509_V_ERR_UNABLE_TO_GET_CRL:
648     case X509_V_ERR_UNABLE_TO_GET_CRL_ISSUER:
649         al = SSL_AD_UNKNOWN_CA;
650         break;
651     case X509_V_ERR_UNABLE_TO_DECRYPT_CERT_SIGNATURE:
652     case X509_V_ERR_UNABLE_TO_DECRYPT_CRL_SIGNATURE:
653     case X509_V_ERR_UNABLE_TO_DECODE_ISSUER_PUBLIC_KEY:
654     case X509_V_ERR_ERROR_IN_CERT_NOT_BEFORE_FIELD:
655     case X509_V_ERR_ERROR_IN_CERT_NOT_AFTER_FIELD:
656     case X509_V_ERR_ERROR_IN_CRL_LAST_UPDATE_FIELD:
657     case X509_V_ERR_ERROR_IN_CRL_NEXT_UPDATE_FIELD:
658     case X509_V_ERR_CERT_NOT_YET_VALID:
659     case X509_V_ERR_CRL_NOT_YET_VALID:
660     case X509_V_ERR_CERT_UNTRUSTED:
661     case X509_V_ERR_CERT_REJECTED:
662         al = SSL_AD_BAD_CERTIFICATE;
663         break;
664     case X509_V_ERR_CERT_SIGNATURE_FAILURE:
665     case X509_V_ERR_CRL_SIGNATURE_FAILURE:
666         al = SSL_AD_DECRYPT_ERROR;
667         break;
668     case X509_V_ERR_CERT_HAS_EXPIRED:
669     case X509_V_ERR_CRL_HAS_EXPIRED:
670         al = SSL_AD_CERTIFICATE_EXPIRED;
671         break;
672     case X509_V_ERR_CERT_REVOKED:
673         al = SSL_AD_CERTIFICATE_REVOKED;
674         break;
675     case X509_V_ERR_OUT_OF_MEM:
676         al = SSL_AD_INTERNAL_ERROR;
677         break;
678     case X509_V_ERR_DEPTH_ZERO_SELF_SIGNED_CERT:
679     case X509_V_ERR_SELF_SIGNED_CERT_IN_CHAIN:
680     case X509_V_ERR_UNABLE_TO_GET_ISSUER_CERT_LOCALLY:
681     case X509_V_ERR_UNABLE_TO_VERIFY_LEAF_SIGNATURE:
682     case X509_V_ERR_CERT_CHAIN_TOO_LONG:
683     case X509_V_ERR_PATH_LENGTH_EXCEEDED:
684     case X509_V_ERR_INVALID_CA:
685         al = SSL_AD_UNKNOWN_CA;
686         break;
687     case X509_V_ERR_APPLICATION_VERIFICATION:
688         al = SSL_AD_HANDSHAKE_FAILURE;
689         break;
690     case X509_V_ERR_INVALID_PURPOSE:
691         al = SSL_AD_UNSUPPORTED_CERTIFICATE;
692         break;
693     default:
694         al = SSL_AD_CERTIFICATE_UNKNOWN;
695         break;
696     }
697     return (al);
698 }
699
700 int ssl_allow_compression(SSL *s)
701 {
702     if (s->options & SSL_OP_NO_COMPRESSION)
703         return 0;
704     return ssl_security(s, SSL_SECOP_COMPRESSION, 0, 0, NULL);
705 }
706
707 static int version_cmp(SSL *s, int a, int b)
708 {
709     int dtls = SSL_IS_DTLS(s);
710
711     if (a == b)
712         return 0;
713     if (!dtls)
714         return a < b ? -1 : 1;
715     return DTLS_VERSION_LT(a, b) ? -1 : 1;
716 }
717
718 typedef struct {
719     int version;
720     const SSL_METHOD *(*cmeth)(void);
721     const SSL_METHOD *(*smeth)(void);
722 } version_info;
723
724 #if TLS_MAX_VERSION != TLS1_2_VERSION
725 # error Code needs update for TLS_method() support beyond TLS1_2_VERSION.
726 #endif
727
728 static const version_info tls_version_table[] = {
729 #ifndef OPENSSL_NO_TLS1_2
730     { TLS1_2_VERSION, TLSv1_2_client_method, TLSv1_2_server_method },
731 #else
732     { TLS1_2_VERSION, NULL, NULL },
733 #endif
734 #ifndef OPENSSL_NO_TLS1_1
735     { TLS1_1_VERSION, TLSv1_1_client_method, TLSv1_1_server_method },
736 #else
737     { TLS1_1_VERSION, NULL, NULL },
738 #endif
739 #ifndef OPENSSL_NO_TLS1
740     { TLS1_VERSION, TLSv1_client_method, TLSv1_server_method },
741 #else
742     { TLS1_VERSION, NULL, NULL },
743 #endif
744 #ifndef OPENSSL_NO_SSL3
745     { SSL3_VERSION, SSLv3_client_method, SSLv3_server_method },
746 #else
747     { SSL3_VERSION, NULL, NULL },
748 #endif
749     { 0, NULL, NULL },
750 };
751
752 #if DTLS_MAX_VERSION != DTLS1_2_VERSION
753 # error Code needs update for DTLS_method() support beyond DTLS1_2_VERSION.
754 #endif
755
756 static const version_info dtls_version_table[] = {
757 #ifndef OPENSSL_NO_DTLS1_2
758     { DTLS1_2_VERSION, DTLSv1_2_client_method, DTLSv1_2_server_method },
759 #else
760     { DTLS1_2_VERSION, NULL, NULL },
761 #endif
762 #ifndef OPENSSL_NO_DTLS1
763     { DTLS1_VERSION, DTLSv1_client_method, DTLSv1_server_method },
764 #else
765     { DTLS1_VERSION, NULL, NULL },
766 #endif
767     { 0, NULL, NULL },
768 };
769
770 /*
771  * ssl_method_error - Check whether an SSL_METHOD is enabled.
772  *
773  * @s: The SSL handle for the candidate method
774  * @method: the intended method.
775  *
776  * Returns 0 on success, or an SSL error reason on failure.
777  */
778 static int ssl_method_error(SSL *s, const SSL_METHOD *method)
779 {
780     int version = method->version;
781
782     if ((s->min_proto_version != 0 &&
783          version_cmp(s, version, s->min_proto_version) < 0) ||
784         ssl_security(s, SSL_SECOP_VERSION, 0, version, NULL) == 0)
785         return SSL_R_VERSION_TOO_LOW;
786
787     if (s->max_proto_version != 0 &&
788              version_cmp(s, version, s->max_proto_version) > 0)
789         return SSL_R_VERSION_TOO_HIGH;
790
791     if ((s->options & method->mask) != 0)
792         return SSL_R_UNSUPPORTED_PROTOCOL;
793     if ((method->flags & SSL_METHOD_NO_SUITEB) != 0 && tls1_suiteb(s))
794         return SSL_R_AT_LEAST_TLS_1_2_NEEDED_IN_SUITEB_MODE;
795     else if ((method->flags & SSL_METHOD_NO_FIPS) != 0 && FIPS_mode())
796         return SSL_R_AT_LEAST_TLS_1_0_NEEDED_IN_FIPS_MODE;
797
798     return 0;
799 }
800
801 /*
802  * ssl_check_version_downgrade - In response to RFC7507 SCSV version
803  * fallback indication from a client check whether we're using the highest
804  * supported protocol version.
805  *
806  * @s server SSL handle.
807  *
808  * Returns 1 when using the highest enabled version, 0 otherwise.
809  */
810 int ssl_check_version_downgrade(SSL *s)
811 {
812     const version_info *vent;
813     const version_info *table;
814
815     /*
816      * Check that the current protocol is the highest enabled version
817      * (according to s->ctx->method, as version negotiation may have changed
818      * s->method).
819      */
820     if (s->version == s->ctx->method->version)
821         return 1;
822
823     /*
824      * Apparently we're using a version-flexible SSL_METHOD (not at its
825      * highest protocol version).
826      */
827     if (s->ctx->method->version == TLS_method()->version)
828         table = tls_version_table;
829     else if (s->ctx->method->version == DTLS_method()->version)
830         table = dtls_version_table;
831     else {
832         /* Unexpected state; fail closed. */
833         return 0;
834     }
835
836     for (vent = table; vent->version != 0; ++vent) {
837         if (vent->smeth != NULL &&
838             ssl_method_error(s, vent->smeth()) == 0)
839             return s->version == vent->version;
840     }
841     return 0;
842 }
843
844 /*
845  * ssl_set_version_bound - set an upper or lower bound on the supported (D)TLS
846  * protocols, provided the initial (D)TLS method is version-flexible.  This
847  * function sanity-checks the proposed value and makes sure the method is
848  * version-flexible, then sets the limit if all is well.
849  *
850  * @method_version: The version of the current SSL_METHOD.
851  * @version: the intended limit.
852  * @bound: pointer to limit to be updated.
853  *
854  * Returns 1 on success, 0 on failure.
855  */
856 int ssl_set_version_bound(int method_version, int version, int *bound)
857 {
858     if (version == 0) {
859         *bound = version;
860         return 1;
861     }
862
863     /*-
864      * Restrict TLS methods to TLS protocol versions.
865      * Restrict DTLS methods to DTLS protocol versions.
866      * Note, DTLS version numbers are decreasing, use comparison macros.
867      *
868      * Note that for both lower-bounds we use explicit versions, not
869      * (D)TLS_MIN_VERSION.  This is because we don't want to break user
870      * configurations.  If the MIN (supported) version ever rises, the user's
871      * "floor" remains valid even if no longer available.  We don't expect the
872      * MAX ceiling to ever get lower, so making that variable makes sense.
873      */
874     switch (method_version) {
875     default:
876         /*
877          * XXX For fixed version methods, should we always fail and not set any
878          * bounds, always succeed and not set any bounds, or set the bounds and
879          * arrange to fail later if they are not met?  At present fixed-version
880          * methods are not subject to controls that disable individual protocol
881          * versions.
882          */
883         return 0;
884
885     case TLS_ANY_VERSION:
886         if (version < SSL3_VERSION || version > TLS_MAX_VERSION)
887             return 0;
888         break;
889
890     case DTLS_ANY_VERSION:
891         if (DTLS_VERSION_GT(version, DTLS_MAX_VERSION) ||
892             DTLS_VERSION_LT(version, DTLS1_VERSION))
893             return 0;
894         break;
895     }
896
897     *bound = version;
898     return 1;
899 }
900
901 /*
902  * ssl_choose_server_version - Choose server (D)TLS version.  Called when the
903  * client HELLO is received to select the final server protocol version and
904  * the version specific method.
905  *
906  * @s: server SSL handle.
907  *
908  * Returns 0 on success or an SSL error reason number on failure.
909  */
910 int ssl_choose_server_version(SSL *s)
911 {
912     /*-
913      * With version-flexible methods we have an initial state with:
914      *
915      *   s->method->version == (D)TLS_ANY_VERSION,
916      *   s->version == (D)TLS_MAX_VERSION.
917      *
918      * So we detect version-flexible methods via the method version, not the
919      * handle version.
920      */
921     int server_version = s->method->version;
922     int client_version = s->client_version;
923     const version_info *vent;
924     const version_info *table;
925     int disabled = 0;
926
927     switch (server_version) {
928     default:
929         if (version_cmp(s, client_version, s->version) < 0)
930             return SSL_R_WRONG_SSL_VERSION;
931         /*
932          * If this SSL handle is not from a version flexible method we don't
933          * (and never did) check min/max FIPS or Suite B constraints.  Hope
934          * that's OK.  It is up to the caller to not choose fixed protocol
935          * versions they don't want.  If not, then easy to fix, just return
936          * ssl_method_error(s, s->method)
937          */
938         return 0;
939     case TLS_ANY_VERSION:
940         table = tls_version_table;
941         break;
942     case DTLS_ANY_VERSION:
943         table = dtls_version_table;
944         break;
945     }
946
947     for (vent = table; vent->version != 0; ++vent) {
948         const SSL_METHOD *method;
949
950         if (vent->smeth == NULL ||
951             version_cmp(s, client_version, vent->version) < 0)
952             continue;
953         method = vent->smeth();
954         if (ssl_method_error(s, method) == 0) {
955             s->version = vent->version;
956             s->method = method;
957             return 0;
958         }
959         disabled = 1;
960     }
961     return disabled ? SSL_R_UNSUPPORTED_PROTOCOL : SSL_R_VERSION_TOO_LOW;
962 }
963
964 /*
965  * ssl_choose_client_version - Choose client (D)TLS version.  Called when the
966  * server HELLO is received to select the final client protocol version and
967  * the version specific method.
968  *
969  * @s: client SSL handle.
970  * @version: The proposed version from the server's HELLO.
971  *
972  * Returns 0 on success or an SSL error reason number on failure.
973  */
974 int ssl_choose_client_version(SSL *s, int version)
975 {
976     const version_info *vent;
977     const version_info *table;
978
979     switch (s->method->version) {
980     default:
981         if (version != s->version)
982             return SSL_R_WRONG_SSL_VERSION;
983         /*
984          * If this SSL handle is not from a version flexible method we don't
985          * (and never did) check min/max, FIPS or Suite B constraints.  Hope
986          * that's OK.  It is up to the caller to not choose fixed protocol
987          * versions they don't want.  If not, then easy to fix, just return
988          * ssl_method_error(s, s->method)
989          */
990         s->session->ssl_version = s->version;
991         return 0;
992     case TLS_ANY_VERSION:
993         table = tls_version_table;
994         break;
995     case DTLS_ANY_VERSION:
996         table = dtls_version_table;
997         break;
998     }
999
1000     for (vent = table; vent->version != 0; ++vent) {
1001         const SSL_METHOD *method;
1002         int err;
1003
1004         if (version != vent->version)
1005             continue;
1006         if (vent->cmeth == NULL)
1007             break;
1008         method = vent->cmeth();
1009         err = ssl_method_error(s, method);
1010         if (err != 0)
1011             return err;
1012         s->method = method;
1013         s->session->ssl_version = s->version = version;
1014         return 0;
1015     }
1016
1017     return SSL_R_UNSUPPORTED_PROTOCOL;
1018 }
1019
1020 /*-
1021  * ssl_set_client_hello_version - Work out what version we should be using for
1022  * the initial ClientHello if the version is initially (D)TLS_ANY_VERSION.  We
1023  * apply any explicit SSL_OP_NO_xxx options, the MinProtocol and MaxProtocol
1024  * configuration commands, any Suite B or FIPS_mode() constraints and any floor
1025  * imposed by the security level here, so we don't advertise the wrong protocol
1026  * version to only reject the outcome later.
1027  *
1028  * Computing the right floor matters.  If, e.g.,  TLS 1.0 and 1.2 are enabled,
1029  * TLS 1.1 is disabled, but the security level, Suite-B  and/or MinProtocol
1030  * only allow TLS 1.2, we want to advertise TLS1.2, *not* TLS1.
1031  *
1032  * @s: client SSL handle.
1033  *
1034  * Returns 0 on success or an SSL error reason number on failure.
1035  */
1036 int ssl_set_client_hello_version(SSL *s)
1037 {
1038     int version;
1039     int hole;
1040     const SSL_METHOD *single = NULL;
1041     const SSL_METHOD *method;
1042     const version_info *table;
1043     const version_info *vent;
1044
1045     switch (s->method->version) {
1046     default:
1047         /*
1048          * If this SSL handle is not from a version flexible method we don't
1049          * (and never did) check min/max FIPS or Suite B constraints.  Hope
1050          * that's OK.  It is up to the caller to not choose fixed protocol
1051          * versions they don't want.  If not, then easy to fix, just return
1052          * ssl_method_error(s, s->method)
1053          */
1054         s->client_version = s->version;
1055         return 0;
1056     case TLS_ANY_VERSION:
1057         table = tls_version_table;
1058         break;
1059     case DTLS_ANY_VERSION:
1060         table = dtls_version_table;
1061         break;
1062     }
1063
1064     /*
1065      * SSL_OP_NO_X disables all protocols above X *if* there are some protocols
1066      * below X enabled. This is required in order to maintain the "version
1067      * capability" vector contiguous. Any versions with a NULL client method
1068      * (protocol version client is disabled at compile-time) is also a "hole".
1069      *
1070      * Our initial state is hole == 1, version == 0.  That is, versions above
1071      * the first version in the method table are disabled (a "hole" above
1072      * the valid protocol entries) and we don't have a selected version yet.
1073      *
1074      * Whenever "hole == 1", and we hit an enabled method, its version becomes
1075      * the selected version, and the method becomes a candidate "single"
1076      * method.  We're no longer in a hole, so "hole" becomes 0.
1077      *
1078      * If "hole == 0" and we hit an enabled method, then "single" is cleared,
1079      * as we support a contiguous range of at least two methods.  If we hit
1080      * a disabled method, then hole becomes true again, but nothing else
1081      * changes yet, because all the remaining methods may be disabled too.
1082      * If we again hit an enabled method after the new hole, it becomes
1083      * selected, as we start from scratch.
1084      */
1085     version = 0;
1086     hole = 1;
1087     for (vent = table; vent->version != 0; ++vent) {
1088         /*
1089          * A table entry with a NULL client method is still a hole in the
1090          * "version capability" vector.
1091          */
1092         if (vent->cmeth == NULL) {
1093             hole = 1;
1094             continue;
1095         }
1096         method = vent->cmeth();
1097         if (ssl_method_error(s, method) != 0) {
1098             hole = 1;
1099         } else if (!hole) {
1100             single = NULL;
1101         } else {
1102             version = (single = method)->version;
1103             hole = 0;
1104         }
1105     }
1106
1107     /* Fail if everything is disabled */
1108     if (version == 0)
1109         return SSL_R_NO_PROTOCOLS_AVAILABLE;
1110
1111     if (single != NULL)
1112         s->method = single;
1113     s->client_version = s->version = version;
1114     return 0;
1115 }