ssl/s3_both.c

   1 /* ssl/s3_both.c */
   2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
   3  * All rights reserved.
   4  *
   5  * This package is an SSL implementation written
   6  * by Eric Young (eay@cryptsoft.com).
   7  * The implementation was written so as to conform with Netscapes SSL.
   8  *
   9  * This library is free for commercial and non-commercial use as long as
  10  * the following conditions are aheared to.  The following conditions
  11  * apply to all code found in this distribution, be it the RC4, RSA,
  12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
  13  * included with this distribution is covered by the same copyright terms
  14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
  15  *
  16  * Copyright remains Eric Young's, and as such any Copyright notices in
  17  * the code are not to be removed.
  18  * If this package is used in a product, Eric Young should be given attribution
  19  * as the author of the parts of the library used.
  20  * This can be in the form of a textual message at program startup or
  21  * in documentation (online or textual) provided with the package.
  22  *
  23  * Redistribution and use in source and binary forms, with or without
  24  * modification, are permitted provided that the following conditions
  25  * are met:
  26  * 1. Redistributions of source code must retain the copyright
  27  *    notice, this list of conditions and the following disclaimer.
  28  * 2. Redistributions in binary form must reproduce the above copyright
  29  *    notice, this list of conditions and the following disclaimer in the
  30  *    documentation and/or other materials provided with the distribution.
  31  * 3. All advertising materials mentioning features or use of this software
  32  *    must display the following acknowledgement:
  33  *    "This product includes cryptographic software written by
  34  *     Eric Young (eay@cryptsoft.com)"
  35  *    The word 'cryptographic' can be left out if the rouines from the library
  36  *    being used are not cryptographic related :-).
  37  * 4. If you include any Windows specific code (or a derivative thereof) from
  38  *    the apps directory (application code) you must include an acknowledgement:
  39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
  40  *
  41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
  42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  51  * SUCH DAMAGE.
  52  *
  53  * The licence and distribution terms for any publically available version or
  54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
  55  * copied and put under another distribution licence
  56  * [including the GNU Public Licence.]
  57  */
  58 /* ====================================================================
  59  * Copyright (c) 1998-2002 The OpenSSL Project.  All rights reserved.
  60  *
  61  * Redistribution and use in source and binary forms, with or without
  62  * modification, are permitted provided that the following conditions
  63  * are met:
  64  *
  65  * 1. Redistributions of source code must retain the above copyright
  66  *    notice, this list of conditions and the following disclaimer.
  67  *
  68  * 2. Redistributions in binary form must reproduce the above copyright
  69  *    notice, this list of conditions and the following disclaimer in
  70  *    the documentation and/or other materials provided with the
  71  *    distribution.
  72  *
  73  * 3. All advertising materials mentioning features or use of this
  74  *    software must display the following acknowledgment:
  75  *    "This product includes software developed by the OpenSSL Project
  76  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
  77  *
  78  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
  79  *    endorse or promote products derived from this software without
  80  *    prior written permission. For written permission, please contact
  81  *    openssl-core@openssl.org.
  82  *
  83  * 5. Products derived from this software may not be called "OpenSSL"
  84  *    nor may "OpenSSL" appear in their names without prior written
  85  *    permission of the OpenSSL Project.
  86  *
  87  * 6. Redistributions of any form whatsoever must retain the following
  88  *    acknowledgment:
  89  *    "This product includes software developed by the OpenSSL Project
  90  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
  91  *
  92  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
  93  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  94  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  95  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
  96  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  97  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  98  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
  99  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
 100  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
 101  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
 102  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
 103  * OF THE POSSIBILITY OF SUCH DAMAGE.
 104  * ====================================================================
 105  *
 106  * This product includes cryptographic software written by Eric Young
 107  * (eay@cryptsoft.com).  This product includes software written by Tim
 108  * Hudson (tjh@cryptsoft.com).
 109  *
 110  */
 111 /* ====================================================================
 112  * Copyright 2002 Sun Microsystems, Inc. ALL RIGHTS RESERVED.
 113  * ECC cipher suite support in OpenSSL originally developed by
 114  * SUN MICROSYSTEMS, INC., and contributed to the OpenSSL project.
 115  */
 116
 117 #include <limits.h>
 118 #include <string.h>
 119 #include <stdio.h>
 120 #include "ssl_locl.h"
 121 #include <openssl/buffer.h>
 122 #include <openssl/rand.h>
 123 #include <openssl/objects.h>
 124 #include <openssl/evp.h>
 125 #include <openssl/x509.h>
 126
 127 /*
 128  * send s->init_buf in records of type 'type' (SSL3_RT_HANDSHAKE or
 129  * SSL3_RT_CHANGE_CIPHER_SPEC)
 130  */
 131 int ssl3_do_write(SSL *s, int type)
 132 {
 133     int ret;
 134
 135     ret = ssl3_write_bytes(s, type, &s->init_buf->data[s->init_off],
 136                            s->init_num);
 137     if (ret < 0)
 138         return (-1);
 139     if (type == SSL3_RT_HANDSHAKE)
 140         /*
 141          * should not be done for 'Hello Request's, but in that case we'll
 142          * ignore the result anyway
 143          */
 144         ssl3_finish_mac(s, (unsigned char *)&s->init_buf->data[s->init_off],
 145                         ret);
 146
 147     if (ret == s->init_num) {
 148         if (s->msg_callback)
 149             s->msg_callback(1, s->version, type, s->init_buf->data,
 150                             (size_t)(s->init_off + s->init_num), s,
 151                             s->msg_callback_arg);
 152         return (1);
 153     }
 154     s->init_off += ret;
 155     s->init_num -= ret;
 156     return (0);
 157 }
 158
 159 int ssl3_send_finished(SSL *s, int a, int b, const char *sender, int slen)
 160 {
 161     unsigned char *p;
 162     int i;
 163     unsigned long l;
 164
 165     if (s->state == a) {
 166         p = ssl_handshake_start(s);
 167
 168         i = s->method->ssl3_enc->final_finish_mac(s,
 169                                                   sender, slen,
 170                                                   s->s3->tmp.finish_md);
 171         if (i <= 0)
 172             return 0;
 173         s->s3->tmp.finish_md_len = i;
 174         memcpy(p, s->s3->tmp.finish_md, i);
 175         l = i;
 176
 177         /*
 178          * Copy the finished so we can use it for renegotiation checks
 179          */
 180         if (s->type == SSL_ST_CONNECT) {
 181             OPENSSL_assert(i <= EVP_MAX_MD_SIZE);
 182             memcpy(s->s3->previous_client_finished, s->s3->tmp.finish_md, i);
 183             s->s3->previous_client_finished_len = i;
 184         } else {
 185             OPENSSL_assert(i <= EVP_MAX_MD_SIZE);
 186             memcpy(s->s3->previous_server_finished, s->s3->tmp.finish_md, i);
 187             s->s3->previous_server_finished_len = i;
 188         }
 189
 190         if (!ssl_set_handshake_header(s, SSL3_MT_FINISHED, l)) {
 191             SSLerr(SSL_F_SSL3_SEND_FINISHED, ERR_R_INTERNAL_ERROR);
 192             return -1;
 193         }
 194         s->state = b;
 195     }
 196
 197     /* SSL3_ST_SEND_xxxxxx_HELLO_B */
 198     return ssl_do_write(s);
 199 }
 200
 201 #ifndef OPENSSL_NO_NEXTPROTONEG
 202 /*
 203  * ssl3_take_mac calculates the Finished MAC for the handshakes messages seen
 204  * to far.
 205  */
 206 static void ssl3_take_mac(SSL *s)
 207 {
 208     const char *sender;
 209     int slen;
 210     /*
 211      * If no new cipher setup return immediately: other functions will set
 212      * the appropriate error.
 213      */
 214     if (s->s3->tmp.new_cipher == NULL)
 215         return;
 216     if (s->state & SSL_ST_CONNECT) {
 217         sender = s->method->ssl3_enc->server_finished_label;
 218         slen = s->method->ssl3_enc->server_finished_label_len;
 219     } else {
 220         sender = s->method->ssl3_enc->client_finished_label;
 221         slen = s->method->ssl3_enc->client_finished_label_len;
 222     }
 223
 224     s->s3->tmp.peer_finish_md_len = s->method->ssl3_enc->final_finish_mac(s,
 225                                                                           sender,
 226                                                                           slen,
 227                                                                           s->s3->tmp.peer_finish_md);
 228 }
 229 #endif
 230
 231 int ssl3_get_change_cipher_spec(SSL *s, int a, int b)
 232 {
 233     int ok, al;
 234     long n;
 235
 236     n = s->method->ssl_get_message(s, a, b, SSL3_MT_CHANGE_CIPHER_SPEC, 1, &ok);
 237
 238     if (!ok)
 239         return ((int)n);
 240
 241     /*
 242      * 'Change Cipher Spec' is just a single byte, which should already have
 243      * been consumed by ssl_get_message() so there should be no bytes left,
 244      * unless we're using DTLS1_BAD_VER, which has an extra 2 bytes
 245      */
 246     if (SSL_IS_DTLS(s)) {
 247         if ((s->version == DTLS1_BAD_VER && n != DTLS1_CCS_HEADER_LENGTH + 1)
 248                     || (s->version != DTLS1_BAD_VER
 249                         && n != DTLS1_CCS_HEADER_LENGTH - 1)) {
 250                 al = SSL_AD_ILLEGAL_PARAMETER;
 251                 SSLerr(SSL_F_SSL3_GET_CHANGE_CIPHER_SPEC, SSL_R_BAD_CHANGE_CIPHER_SPEC);
 252                 goto f_err;
 253         }
 254     } else {
 255         if (n != 0) {
 256             al = SSL_AD_ILLEGAL_PARAMETER;
 257             SSLerr(SSL_F_SSL3_GET_CHANGE_CIPHER_SPEC, SSL_R_BAD_CHANGE_CIPHER_SPEC);
 258             goto f_err;
 259         }
 260     }
 261
 262     /* Check we have a cipher to change to */
 263     if (s->s3->tmp.new_cipher == NULL) {
 264         al = SSL_AD_UNEXPECTED_MESSAGE;
 265         SSLerr(SSL_F_SSL3_GET_CHANGE_CIPHER_SPEC, SSL_R_CCS_RECEIVED_EARLY);
 266         goto f_err;
 267     }
 268
 269     s->s3->change_cipher_spec = 1;
 270     if (!ssl3_do_change_cipher_spec(s)) {
 271         al = SSL_AD_INTERNAL_ERROR;
 272         SSLerr(SSL_F_SSL3_GET_CHANGE_CIPHER_SPEC, ERR_R_INTERNAL_ERROR);
 273         goto f_err;
 274     }
 275
 276     if (SSL_IS_DTLS(s)) {
 277         dtls1_reset_seq_numbers(s, SSL3_CC_READ);
 278
 279         if (s->version == DTLS1_BAD_VER)
 280             s->d1->handshake_read_seq++;
 281
 282 #ifndef OPENSSL_NO_SCTP
 283         /*
 284          * Remember that a CCS has been received, so that an old key of
 285          * SCTP-Auth can be deleted when a CCS is sent. Will be ignored if no
 286          * SCTP is used
 287          */
 288         BIO_ctrl(SSL_get_wbio(s), BIO_CTRL_DGRAM_SCTP_AUTH_CCS_RCVD, 1, NULL);
 289 #endif
 290     }
 291
 292     return 1;
 293  f_err:
 294     ssl3_send_alert(s, SSL3_AL_FATAL, al);
 295     return 0;
 296 }
 297
 298
 299 int ssl3_get_finished(SSL *s, int a, int b)
 300 {
 301     int al, i, ok;
 302     long n;
 303     unsigned char *p;
 304
 305 #ifdef OPENSSL_NO_NEXTPROTONEG
 306     /*
 307      * the mac has already been generated when we received the change cipher
 308      * spec message and is in s->s3->tmp.peer_finish_md
 309      */
 310 #endif
 311
 312     /* 64 argument should actually be 36+4 :-) */
 313     n = s->method->ssl_get_message(s, a, b, SSL3_MT_FINISHED, 64, &ok);
 314
 315     if (!ok)
 316         return ((int)n);
 317
 318     /* If this occurs, we have missed a message */
 319     if (!s->s3->change_cipher_spec) {
 320         al = SSL_AD_UNEXPECTED_MESSAGE;
 321         SSLerr(SSL_F_SSL3_GET_FINISHED, SSL_R_GOT_A_FIN_BEFORE_A_CCS);
 322         goto f_err;
 323     }
 324     s->s3->change_cipher_spec = 0;
 325
 326     p = (unsigned char *)s->init_msg;
 327     i = s->s3->tmp.peer_finish_md_len;
 328
 329     if (i != n) {
 330         al = SSL_AD_DECODE_ERROR;
 331         SSLerr(SSL_F_SSL3_GET_FINISHED, SSL_R_BAD_DIGEST_LENGTH);
 332         goto f_err;
 333     }
 334
 335     if (CRYPTO_memcmp(p, s->s3->tmp.peer_finish_md, i) != 0) {
 336         al = SSL_AD_DECRYPT_ERROR;
 337         SSLerr(SSL_F_SSL3_GET_FINISHED, SSL_R_DIGEST_CHECK_FAILED);
 338         goto f_err;
 339     }
 340
 341     /*
 342      * Copy the finished so we can use it for renegotiation checks
 343      */
 344     if (s->type == SSL_ST_ACCEPT) {
 345         OPENSSL_assert(i <= EVP_MAX_MD_SIZE);
 346         memcpy(s->s3->previous_client_finished, s->s3->tmp.peer_finish_md, i);
 347         s->s3->previous_client_finished_len = i;
 348     } else {
 349         OPENSSL_assert(i <= EVP_MAX_MD_SIZE);
 350         memcpy(s->s3->previous_server_finished, s->s3->tmp.peer_finish_md, i);
 351         s->s3->previous_server_finished_len = i;
 352     }
 353
 354     return (1);
 355  f_err:
 356     ssl3_send_alert(s, SSL3_AL_FATAL, al);
 357     return (0);
 358 }
 359
 360 /*-
 361  * for these 2 messages, we need to
 362  * ssl->enc_read_ctx                    re-init
 363  * ssl->rlayer.read_sequence            zero
 364  * ssl->s3->read_mac_secret             re-init
 365  * ssl->session->read_sym_enc           assign
 366  * ssl->session->read_compression       assign
 367  * ssl->session->read_hash              assign
 368  */
 369 int ssl3_send_change_cipher_spec(SSL *s, int a, int b)
 370 {
 371     unsigned char *p;
 372
 373     if (s->state == a) {
 374         p = (unsigned char *)s->init_buf->data;
 375         *p = SSL3_MT_CCS;
 376         s->init_num = 1;
 377         s->init_off = 0;
 378
 379         s->state = b;
 380     }
 381
 382     /* SSL3_ST_CW_CHANGE_B */
 383     return (ssl3_do_write(s, SSL3_RT_CHANGE_CIPHER_SPEC));
 384 }
 385
 386 unsigned long ssl3_output_cert_chain(SSL *s, CERT_PKEY *cpk)
 387 {
 388     unsigned char *p;
 389     unsigned long l = 3 + SSL_HM_HEADER_LENGTH(s);
 390
 391     if (!ssl_add_cert_chain(s, cpk, &l))
 392         return 0;
 393
 394     l -= 3 + SSL_HM_HEADER_LENGTH(s);
 395     p = ssl_handshake_start(s);
 396     l2n3(l, p);
 397     l += 3;
 398
 399     if (!ssl_set_handshake_header(s, SSL3_MT_CERTIFICATE, l)) {
 400         SSLerr(SSL_F_SSL3_OUTPUT_CERT_CHAIN, ERR_R_INTERNAL_ERROR);
 401         return 0;
 402     }
 403     return l + SSL_HM_HEADER_LENGTH(s);
 404 }
 405
 406 /*
 407  * Obtain handshake message of message type 'mt' (any if mt == -1), maximum
 408  * acceptable body length 'max'. The first four bytes (msg_type and length)
 409  * are read in state 'st1', the body is read in state 'stn'.
 410  */
 411 long ssl3_get_message(SSL *s, int st1, int stn, int mt, long max, int *ok)
 412 {
 413     unsigned char *p;
 414     long n;
 415     int al, mtin;
 416
 417     if (s->s3->tmp.reuse_message) {
 418         s->s3->tmp.reuse_message = 0;
 419         if ((mt >= 0) && (s->s3->tmp.message_type != mt)) {
 420             al = SSL_AD_UNEXPECTED_MESSAGE;
 421             SSLerr(SSL_F_SSL3_GET_MESSAGE, SSL_R_UNEXPECTED_MESSAGE);
 422             goto f_err;
 423         }
 424         *ok = 1;
 425         s->state = stn;
 426         s->init_msg = s->init_buf->data + SSL3_HM_HEADER_LENGTH;
 427         s->init_num = (int)s->s3->tmp.message_size;
 428         return s->init_num;
 429     }
 430
 431     p = (unsigned char *)s->init_buf->data;
 432
 433     if (s->state == st1) {
 434         if (tls_get_message_header(s, &mtin) == 0) {
 435             /* Could be NBIO */
 436             *ok = 0;
 437             return -1;
 438         }
 439         s->state = stn;
 440         if (s->init_num == 0
 441                 && mtin == SSL3_MT_CHANGE_CIPHER_SPEC
 442                 && (mt < 0 || mt == SSL3_MT_CHANGE_CIPHER_SPEC)) {
 443             if (*p != SSL3_MT_CCS) {
 444                 al = SSL_AD_UNEXPECTED_MESSAGE;
 445                 SSLerr(SSL_F_SSL3_GET_MESSAGE,
 446                        SSL_R_UNEXPECTED_MESSAGE);
 447                 goto f_err;
 448             }
 449             s->init_msg = p + 1;
 450             s->s3->tmp.message_type = SSL3_MT_CHANGE_CIPHER_SPEC;
 451             s->s3->tmp.message_size = s->init_num;
 452             *ok = 1;
 453             if (s->msg_callback)
 454                 s->msg_callback(0, s->version,
 455                                 SSL3_RT_CHANGE_CIPHER_SPEC, p, 1, s,
 456                                 s->msg_callback_arg);
 457             return s->init_num;
 458         }
 459         if (s->s3->tmp.message_size > (unsigned long)max) {
 460             al = SSL_AD_ILLEGAL_PARAMETER;
 461             SSLerr(SSL_F_SSL3_GET_MESSAGE, SSL_R_EXCESSIVE_MESSAGE_SIZE);
 462             goto f_err;
 463         }
 464         if ((mt >= 0) && (mtin != mt)) {
 465             al = SSL_AD_UNEXPECTED_MESSAGE;
 466             SSLerr(SSL_F_SSL3_GET_MESSAGE, SSL_R_UNEXPECTED_MESSAGE);
 467             goto f_err;
 468         }
 469     }
 470
 471     /* next state (stn) */
 472     if (tls_get_message_body(s, (unsigned long *)&n) == 0) {
 473         *ok = 0;
 474         return n;
 475     }
 476
 477     *ok = 1;
 478     return n;
 479  f_err:
 480     ssl3_send_alert(s, SSL3_AL_FATAL, al);
 481     *ok = 0;
 482     return 0;
 483 }
 484
 485 int tls_get_message_header(SSL *s, int *mt)
 486 {
 487     /* s->init_num < SSL3_HM_HEADER_LENGTH */
 488     int skip_message, i, recvd_type, al;
 489     unsigned char *p;
 490     unsigned long l;
 491
 492     p = (unsigned char *)s->init_buf->data;
 493
 494     do {
 495         while (s->init_num < SSL3_HM_HEADER_LENGTH) {
 496             i = s->method->ssl_read_bytes(s, SSL3_RT_HANDSHAKE, &recvd_type,
 497                 &p[s->init_num], SSL3_HM_HEADER_LENGTH - s->init_num, 0);
 498             if (i <= 0) {
 499                 s->rwstate = SSL_READING;
 500                 return 0;
 501             }
 502             if (recvd_type == SSL3_RT_CHANGE_CIPHER_SPEC) {
 503                 s->s3->tmp.message_type = *mt = SSL3_MT_CHANGE_CIPHER_SPEC;
 504                 s->init_num = i - 1;
 505                 s->s3->tmp.message_size = i;
 506                 return 1;
 507             } else if (recvd_type != SSL3_RT_HANDSHAKE) {
 508                 al = SSL_AD_UNEXPECTED_MESSAGE;
 509                 SSLerr(SSL_F_TLS_GET_MESSAGE_HEADER, SSL_R_CCS_RECEIVED_EARLY);
 510                 goto f_err;
 511             }
 512             s->init_num += i;
 513         }
 514
 515         skip_message = 0;
 516         if (!s->server)
 517             if (p[0] == SSL3_MT_HELLO_REQUEST)
 518                 /*
 519                  * The server may always send 'Hello Request' messages --
 520                  * we are doing a handshake anyway now, so ignore them if
 521                  * their format is correct. Does not count for 'Finished'
 522                  * MAC.
 523                  */
 524                 if (p[1] == 0 && p[2] == 0 && p[3] == 0) {
 525                     s->init_num = 0;
 526                     skip_message = 1;
 527
 528                     if (s->msg_callback)
 529                         s->msg_callback(0, s->version, SSL3_RT_HANDSHAKE,
 530                                         p, SSL3_HM_HEADER_LENGTH, s,
 531                                         s->msg_callback_arg);
 532                 }
 533     } while (skip_message);
 534     /* s->init_num == SSL3_HM_HEADER_LENGTH */
 535
 536     *mt = *p;
 537     s->s3->tmp.message_type = *(p++);
 538
 539     if(RECORD_LAYER_is_sslv2_record(&s->rlayer)) {
 540         /*
 541          * Only happens with SSLv3+ in an SSLv2 backward compatible
 542          * ClientHello
 543          */
 544          /*
 545           * Total message size is the remaining record bytes to read
 546           * plus the SSL3_HM_HEADER_LENGTH bytes that we already read
 547           */
 548         l = RECORD_LAYER_get_rrec_length(&s->rlayer)
 549             + SSL3_HM_HEADER_LENGTH;
 550         if (l && !BUF_MEM_grow_clean(s->init_buf, (int)l)) {
 551             SSLerr(SSL_F_TLS_GET_MESSAGE_HEADER, ERR_R_BUF_LIB);
 552             goto err;
 553         }
 554         s->s3->tmp.message_size = l;
 555
 556         s->init_msg = s->init_buf->data;
 557         s->init_num = SSL3_HM_HEADER_LENGTH;
 558     } else {
 559         n2l3(p, l);
 560         /* BUF_MEM_grow takes an 'int' parameter */
 561         if (l > (INT_MAX - SSL3_HM_HEADER_LENGTH)) {
 562             al = SSL_AD_ILLEGAL_PARAMETER;
 563             SSLerr(SSL_F_TLS_GET_MESSAGE_HEADER, SSL_R_EXCESSIVE_MESSAGE_SIZE);
 564             goto f_err;
 565         }
 566         if (l && !BUF_MEM_grow_clean(s->init_buf,
 567                                     (int)l + SSL3_HM_HEADER_LENGTH)) {
 568             SSLerr(SSL_F_TLS_GET_MESSAGE_HEADER, ERR_R_BUF_LIB);
 569             goto err;
 570         }
 571         s->s3->tmp.message_size = l;
 572
 573         s->init_msg = s->init_buf->data + SSL3_HM_HEADER_LENGTH;
 574         s->init_num = 0;
 575     }
 576
 577     return 1;
 578  f_err:
 579     ssl3_send_alert(s, SSL3_AL_FATAL, al);
 580  err:
 581     return 0;
 582 }
 583
 584 int tls_get_message_body(SSL *s, unsigned long *len)
 585 {
 586     long n;
 587     unsigned char *p;
 588     int i;
 589
 590     if (s->s3->tmp.message_type == SSL3_MT_CHANGE_CIPHER_SPEC) {
 591         /* We've already read everything in */
 592         *len = (unsigned long)s->init_num;
 593         return 1;
 594     }
 595
 596     p = s->init_msg;
 597     n = s->s3->tmp.message_size - s->init_num;
 598     while (n > 0) {
 599         i = s->method->ssl_read_bytes(s, SSL3_RT_HANDSHAKE, NULL,
 600                                       &p[s->init_num], n, 0);
 601         if (i <= 0) {
 602             s->rwstate = SSL_READING;
 603             *len = 0;
 604             return 0;
 605         }
 606         s->init_num += i;
 607         n -= i;
 608     }
 609
 610 #ifndef OPENSSL_NO_NEXTPROTONEG
 611     /*
 612      * If receiving Finished, record MAC of prior handshake messages for
 613      * Finished verification.
 614      */
 615     if (*s->init_buf->data == SSL3_MT_FINISHED)
 616         ssl3_take_mac(s);
 617 #endif
 618
 619     /* Feed this message into MAC computation. */
 620     if(RECORD_LAYER_is_sslv2_record(&s->rlayer)) {
 621         ssl3_finish_mac(s, (unsigned char *)s->init_buf->data, s->init_num);
 622         if (s->msg_callback)
 623             s->msg_callback(0, SSL2_VERSION, 0,  s->init_buf->data,
 624                             (size_t)s->init_num, s, s->msg_callback_arg);
 625     } else {
 626         ssl3_finish_mac(s, (unsigned char *)s->init_buf->data,
 627             s->init_num + SSL3_HM_HEADER_LENGTH);
 628         if (s->msg_callback)
 629             s->msg_callback(0, s->version, SSL3_RT_HANDSHAKE, s->init_buf->data,
 630                             (size_t)s->init_num + SSL3_HM_HEADER_LENGTH, s,
 631                             s->msg_callback_arg);
 632     }
 633
 634     /*
 635      * init_num should never be negative...should probably be declared
 636      * unsigned
 637      */
 638     if (s->init_num < 0) {
 639         SSLerr(SSL_F_TLS_GET_MESSAGE_BODY, ERR_R_INTERNAL_ERROR);
 640         ssl3_send_alert(s, SSL3_AL_FATAL, SSL_AD_INTERNAL_ERROR);
 641         *len = 0;
 642         return 0;
 643     }
 644     *len = (unsigned long)s->init_num;
 645     return 1;
 646 }
 647
 648 int ssl_cert_type(X509 *x, EVP_PKEY *pkey)
 649 {
 650     EVP_PKEY *pk;
 651     int ret = -1, i;
 652
 653     if (pkey == NULL)
 654         pk = X509_get_pubkey(x);
 655     else
 656         pk = pkey;
 657     if (pk == NULL)
 658         goto err;
 659
 660     i = pk->type;
 661     if (i == EVP_PKEY_RSA) {
 662         ret = SSL_PKEY_RSA_ENC;
 663     } else if (i == EVP_PKEY_DSA) {
 664         ret = SSL_PKEY_DSA_SIGN;
 665     }
 666 #ifndef OPENSSL_NO_EC
 667     else if (i == EVP_PKEY_EC) {
 668         ret = SSL_PKEY_ECC;
 669     }
 670 #endif
 671     else if (i == NID_id_GostR3410_2001) {
 672         ret = SSL_PKEY_GOST01;
 673     } else if (x && (i == EVP_PKEY_DH || i == EVP_PKEY_DHX)) {
 674         /*
 675          * For DH two cases: DH certificate signed with RSA and DH
 676          * certificate signed with DSA.
 677          */
 678         i = X509_certificate_type(x, pk);
 679         if (i & EVP_PKS_RSA)
 680             ret = SSL_PKEY_DH_RSA;
 681         else if (i & EVP_PKS_DSA)
 682             ret = SSL_PKEY_DH_DSA;
 683     }
 684
 685  err:
 686     if (!pkey)
 687         EVP_PKEY_free(pk);
 688     return (ret);
 689 }
 690
 691 int ssl_verify_alarm_type(long type)
 692 {
 693     int al;
 694
 695     switch (type) {
 696     case X509_V_ERR_UNABLE_TO_GET_ISSUER_CERT:
 697     case X509_V_ERR_UNABLE_TO_GET_CRL:
 698     case X509_V_ERR_UNABLE_TO_GET_CRL_ISSUER:
 699         al = SSL_AD_UNKNOWN_CA;
 700         break;
 701     case X509_V_ERR_UNABLE_TO_DECRYPT_CERT_SIGNATURE:
 702     case X509_V_ERR_UNABLE_TO_DECRYPT_CRL_SIGNATURE:
 703     case X509_V_ERR_UNABLE_TO_DECODE_ISSUER_PUBLIC_KEY:
 704     case X509_V_ERR_ERROR_IN_CERT_NOT_BEFORE_FIELD:
 705     case X509_V_ERR_ERROR_IN_CERT_NOT_AFTER_FIELD:
 706     case X509_V_ERR_ERROR_IN_CRL_LAST_UPDATE_FIELD:
 707     case X509_V_ERR_ERROR_IN_CRL_NEXT_UPDATE_FIELD:
 708     case X509_V_ERR_CERT_NOT_YET_VALID:
 709     case X509_V_ERR_CRL_NOT_YET_VALID:
 710     case X509_V_ERR_CERT_UNTRUSTED:
 711     case X509_V_ERR_CERT_REJECTED:
 712         al = SSL_AD_BAD_CERTIFICATE;
 713         break;
 714     case X509_V_ERR_CERT_SIGNATURE_FAILURE:
 715     case X509_V_ERR_CRL_SIGNATURE_FAILURE:
 716         al = SSL_AD_DECRYPT_ERROR;
 717         break;
 718     case X509_V_ERR_CERT_HAS_EXPIRED:
 719     case X509_V_ERR_CRL_HAS_EXPIRED:
 720         al = SSL_AD_CERTIFICATE_EXPIRED;
 721         break;
 722     case X509_V_ERR_CERT_REVOKED:
 723         al = SSL_AD_CERTIFICATE_REVOKED;
 724         break;
 725     case X509_V_ERR_OUT_OF_MEM:
 726         al = SSL_AD_INTERNAL_ERROR;
 727         break;
 728     case X509_V_ERR_DEPTH_ZERO_SELF_SIGNED_CERT:
 729     case X509_V_ERR_SELF_SIGNED_CERT_IN_CHAIN:
 730     case X509_V_ERR_UNABLE_TO_GET_ISSUER_CERT_LOCALLY:
 731     case X509_V_ERR_UNABLE_TO_VERIFY_LEAF_SIGNATURE:
 732     case X509_V_ERR_CERT_CHAIN_TOO_LONG:
 733     case X509_V_ERR_PATH_LENGTH_EXCEEDED:
 734     case X509_V_ERR_INVALID_CA:
 735         al = SSL_AD_UNKNOWN_CA;
 736         break;
 737     case X509_V_ERR_APPLICATION_VERIFICATION:
 738         al = SSL_AD_HANDSHAKE_FAILURE;
 739         break;
 740     case X509_V_ERR_INVALID_PURPOSE:
 741         al = SSL_AD_UNSUPPORTED_CERTIFICATE;
 742         break;
 743     default:
 744         al = SSL_AD_CERTIFICATE_UNKNOWN;
 745         break;
 746     }
 747     return (al);
 748 }
 749
 750 int ssl_allow_compression(SSL *s)
 751 {
 752     if (s->options & SSL_OP_NO_COMPRESSION)
 753         return 0;
 754     return ssl_security(s, SSL_SECOP_COMPRESSION, 0, 0, NULL);
 755 }