ssl/s2_srvr.c

   1 /* ssl/s2_srvr.c */
   2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
   3  * All rights reserved.
   4  *
   5  * This package is an SSL implementation written
   6  * by Eric Young (eay@cryptsoft.com).
   7  * The implementation was written so as to conform with Netscapes SSL.
   8  *
   9  * This library is free for commercial and non-commercial use as long as
  10  * the following conditions are aheared to.  The following conditions
  11  * apply to all code found in this distribution, be it the RC4, RSA,
  12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
  13  * included with this distribution is covered by the same copyright terms
  14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
  15  *
  16  * Copyright remains Eric Young's, and as such any Copyright notices in
  17  * the code are not to be removed.
  18  * If this package is used in a product, Eric Young should be given attribution
  19  * as the author of the parts of the library used.
  20  * This can be in the form of a textual message at program startup or
  21  * in documentation (online or textual) provided with the package.
  22  *
  23  * Redistribution and use in source and binary forms, with or without
  24  * modification, are permitted provided that the following conditions
  25  * are met:
  26  * 1. Redistributions of source code must retain the copyright
  27  *    notice, this list of conditions and the following disclaimer.
  28  * 2. Redistributions in binary form must reproduce the above copyright
  29  *    notice, this list of conditions and the following disclaimer in the
  30  *    documentation and/or other materials provided with the distribution.
  31  * 3. All advertising materials mentioning features or use of this software
  32  *    must display the following acknowledgement:
  33  *    "This product includes cryptographic software written by
  34  *     Eric Young (eay@cryptsoft.com)"
  35  *    The word 'cryptographic' can be left out if the rouines from the library
  36  *    being used are not cryptographic related :-).
  37  * 4. If you include any Windows specific code (or a derivative thereof) from
  38  *    the apps directory (application code) you must include an acknowledgement:
  39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
  40  *
  41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
  42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  51  * SUCH DAMAGE.
  52  *
  53  * The licence and distribution terms for any publically available version or
  54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
  55  * copied and put under another distribution licence
  56  * [including the GNU Public Licence.]
  57  */
  58 /* ====================================================================
  59  * Copyright (c) 1998-2001 The OpenSSL Project.  All rights reserved.
  60  *
  61  * Redistribution and use in source and binary forms, with or without
  62  * modification, are permitted provided that the following conditions
  63  * are met:
  64  *
  65  * 1. Redistributions of source code must retain the above copyright
  66  *    notice, this list of conditions and the following disclaimer.
  67  *
  68  * 2. Redistributions in binary form must reproduce the above copyright
  69  *    notice, this list of conditions and the following disclaimer in
  70  *    the documentation and/or other materials provided with the
  71  *    distribution.
  72  *
  73  * 3. All advertising materials mentioning features or use of this
  74  *    software must display the following acknowledgment:
  75  *    "This product includes software developed by the OpenSSL Project
  76  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
  77  *
  78  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
  79  *    endorse or promote products derived from this software without
  80  *    prior written permission. For written permission, please contact
  81  *    openssl-core@openssl.org.
  82  *
  83  * 5. Products derived from this software may not be called "OpenSSL"
  84  *    nor may "OpenSSL" appear in their names without prior written
  85  *    permission of the OpenSSL Project.
  86  *
  87  * 6. Redistributions of any form whatsoever must retain the following
  88  *    acknowledgment:
  89  *    "This product includes software developed by the OpenSSL Project
  90  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
  91  *
  92  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
  93  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  94  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  95  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
  96  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  97  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  98  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
  99  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
 100  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
 101  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
 102  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
 103  * OF THE POSSIBILITY OF SUCH DAMAGE.
 104  * ====================================================================
 105  *
 106  * This product includes cryptographic software written by Eric Young
 107  * (eay@cryptsoft.com).  This product includes software written by Tim
 108  * Hudson (tjh@cryptsoft.com).
 109  *
 110  */
 111
 112 #include "ssl_locl.h"
 113 #ifndef OPENSSL_NO_SSL2
 114 # include <stdio.h>
 115 # include <openssl/bio.h>
 116 # include <openssl/rand.h>
 117 # include <openssl/objects.h>
 118 # include <openssl/evp.h>
 119
 120 static const SSL_METHOD *ssl2_get_server_method(int ver);
 121 static int get_client_master_key(SSL *s);
 122 static int get_client_hello(SSL *s);
 123 static int server_hello(SSL *s);
 124 static int get_client_finished(SSL *s);
 125 static int server_verify(SSL *s);
 126 static int server_finish(SSL *s);
 127 static int request_certificate(SSL *s);
 128 static int ssl_rsa_private_decrypt(CERT *c, int len, unsigned char *from,
 129                                    unsigned char *to, int padding);
 130 # define BREAK   break
 131
 132 static const SSL_METHOD *ssl2_get_server_method(int ver)
 133 {
 134     if (ver == SSL2_VERSION)
 135         return (SSLv2_server_method());
 136     else
 137         return (NULL);
 138 }
 139
 140 IMPLEMENT_ssl2_meth_func(SSLv2_server_method,
 141                          ssl2_accept,
 142                          ssl_undefined_function, ssl2_get_server_method)
 143
 144 int ssl2_accept(SSL *s)
 145 {
 146     unsigned long l = (unsigned long)time(NULL);
 147     BUF_MEM *buf = NULL;
 148     int ret = -1;
 149     long num1;
 150     void (*cb) (const SSL *ssl, int type, int val) = NULL;
 151     int new_state, state;
 152
 153     RAND_add(&l, sizeof(l), 0);
 154     ERR_clear_error();
 155     clear_sys_error();
 156
 157     if (s->info_callback != NULL)
 158         cb = s->info_callback;
 159     else if (s->ctx->info_callback != NULL)
 160         cb = s->ctx->info_callback;
 161
 162     /* init things to blank */
 163     s->in_handshake++;
 164     if (!SSL_in_init(s) || SSL_in_before(s))
 165         SSL_clear(s);
 166
 167     if (s->cert == NULL) {
 168         SSLerr(SSL_F_SSL2_ACCEPT, SSL_R_NO_CERTIFICATE_SET);
 169         return (-1);
 170     }
 171
 172     clear_sys_error();
 173     for (;;) {
 174         state = s->state;
 175
 176         switch (s->state) {
 177         case SSL_ST_BEFORE:
 178         case SSL_ST_ACCEPT:
 179         case SSL_ST_BEFORE | SSL_ST_ACCEPT:
 180         case SSL_ST_OK | SSL_ST_ACCEPT:
 181
 182             s->server = 1;
 183             if (cb != NULL)
 184                 cb(s, SSL_CB_HANDSHAKE_START, 1);
 185
 186             s->version = SSL2_VERSION;
 187             s->type = SSL_ST_ACCEPT;
 188
 189             if (s->init_buf == NULL) {
 190                 if ((buf = BUF_MEM_new()) == NULL) {
 191                     ret = -1;
 192                     goto end;
 193                 }
 194                 if (!BUF_MEM_grow
 195                     (buf, (int)SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER)) {
 196                     BUF_MEM_free(buf);
 197                     ret = -1;
 198                     goto end;
 199                 }
 200                 s->init_buf = buf;
 201             }
 202             s->init_num = 0;
 203             s->ctx->stats.sess_accept++;
 204             s->handshake_func = ssl2_accept;
 205             s->state = SSL2_ST_GET_CLIENT_HELLO_A;
 206             BREAK;
 207
 208         case SSL2_ST_GET_CLIENT_HELLO_A:
 209         case SSL2_ST_GET_CLIENT_HELLO_B:
 210         case SSL2_ST_GET_CLIENT_HELLO_C:
 211             s->shutdown = 0;
 212             ret = get_client_hello(s);
 213             if (ret <= 0)
 214                 goto end;
 215             s->init_num = 0;
 216             s->state = SSL2_ST_SEND_SERVER_HELLO_A;
 217             BREAK;
 218
 219         case SSL2_ST_SEND_SERVER_HELLO_A:
 220         case SSL2_ST_SEND_SERVER_HELLO_B:
 221             ret = server_hello(s);
 222             if (ret <= 0)
 223                 goto end;
 224             s->init_num = 0;
 225             if (!s->hit) {
 226                 s->state = SSL2_ST_GET_CLIENT_MASTER_KEY_A;
 227                 BREAK;
 228             } else {
 229                 s->state = SSL2_ST_SERVER_START_ENCRYPTION;
 230                 BREAK;
 231             }
 232         case SSL2_ST_GET_CLIENT_MASTER_KEY_A:
 233         case SSL2_ST_GET_CLIENT_MASTER_KEY_B:
 234             ret = get_client_master_key(s);
 235             if (ret <= 0)
 236                 goto end;
 237             s->init_num = 0;
 238             s->state = SSL2_ST_SERVER_START_ENCRYPTION;
 239             BREAK;
 240
 241         case SSL2_ST_SERVER_START_ENCRYPTION:
 242             /*
 243              * Ok we how have sent all the stuff needed to start encrypting,
 244              * the next packet back will be encrypted.
 245              */
 246             if (!ssl2_enc_init(s, 0)) {
 247                 ret = -1;
 248                 goto end;
 249             }
 250             s->s2->clear_text = 0;
 251             s->state = SSL2_ST_SEND_SERVER_VERIFY_A;
 252             BREAK;
 253
 254         case SSL2_ST_SEND_SERVER_VERIFY_A:
 255         case SSL2_ST_SEND_SERVER_VERIFY_B:
 256             ret = server_verify(s);
 257             if (ret <= 0)
 258                 goto end;
 259             s->init_num = 0;
 260             if (s->hit) {
 261                 /*
 262                  * If we are in here, we have been buffering the output, so
 263                  * we need to flush it and remove buffering from future
 264                  * traffic
 265                  */
 266                 s->state = SSL2_ST_SEND_SERVER_VERIFY_C;
 267                 BREAK;
 268             } else {
 269                 s->state = SSL2_ST_GET_CLIENT_FINISHED_A;
 270                 break;
 271             }
 272
 273         case SSL2_ST_SEND_SERVER_VERIFY_C:
 274             /* get the number of bytes to write */
 275             num1 = BIO_ctrl(s->wbio, BIO_CTRL_INFO, 0, NULL);
 276             if (num1 > 0) {
 277                 s->rwstate = SSL_WRITING;
 278                 num1 = BIO_flush(s->wbio);
 279                 if (num1 <= 0) {
 280                     ret = -1;
 281                     goto end;
 282                 }
 283                 s->rwstate = SSL_NOTHING;
 284             }
 285
 286             /* flushed and now remove buffering */
 287             s->wbio = BIO_pop(s->wbio);
 288
 289             s->state = SSL2_ST_GET_CLIENT_FINISHED_A;
 290             BREAK;
 291
 292         case SSL2_ST_GET_CLIENT_FINISHED_A:
 293         case SSL2_ST_GET_CLIENT_FINISHED_B:
 294             ret = get_client_finished(s);
 295             if (ret <= 0)
 296                 goto end;
 297             s->init_num = 0;
 298             s->state = SSL2_ST_SEND_REQUEST_CERTIFICATE_A;
 299             BREAK;
 300
 301         case SSL2_ST_SEND_REQUEST_CERTIFICATE_A:
 302         case SSL2_ST_SEND_REQUEST_CERTIFICATE_B:
 303         case SSL2_ST_SEND_REQUEST_CERTIFICATE_C:
 304         case SSL2_ST_SEND_REQUEST_CERTIFICATE_D:
 305             /*
 306              * don't do a 'request certificate' if we don't want to, or we
 307              * already have one, and we only want to do it once.
 308              */
 309             if (!(s->verify_mode & SSL_VERIFY_PEER) ||
 310                 ((s->session->peer != NULL) &&
 311                  (s->verify_mode & SSL_VERIFY_CLIENT_ONCE))) {
 312                 s->state = SSL2_ST_SEND_SERVER_FINISHED_A;
 313                 break;
 314             } else {
 315                 ret = request_certificate(s);
 316                 if (ret <= 0)
 317                     goto end;
 318                 s->init_num = 0;
 319                 s->state = SSL2_ST_SEND_SERVER_FINISHED_A;
 320             }
 321             BREAK;
 322
 323         case SSL2_ST_SEND_SERVER_FINISHED_A:
 324         case SSL2_ST_SEND_SERVER_FINISHED_B:
 325             ret = server_finish(s);
 326             if (ret <= 0)
 327                 goto end;
 328             s->init_num = 0;
 329             s->state = SSL_ST_OK;
 330             break;
 331
 332         case SSL_ST_OK:
 333             BUF_MEM_free(s->init_buf);
 334             ssl_free_wbio_buffer(s);
 335             s->init_buf = NULL;
 336             s->init_num = 0;
 337             /*      ERR_clear_error(); */
 338
 339             ssl_update_cache(s, SSL_SESS_CACHE_SERVER);
 340
 341             s->ctx->stats.sess_accept_good++;
 342             /* s->server=1; */
 343             ret = 1;
 344
 345             if (cb != NULL)
 346                 cb(s, SSL_CB_HANDSHAKE_DONE, 1);
 347
 348             goto end;
 349             /* BREAK; */
 350
 351         default:
 352             SSLerr(SSL_F_SSL2_ACCEPT, SSL_R_UNKNOWN_STATE);
 353             ret = -1;
 354             goto end;
 355             /* BREAK; */
 356         }
 357
 358         if ((cb != NULL) && (s->state != state)) {
 359             new_state = s->state;
 360             s->state = state;
 361             cb(s, SSL_CB_ACCEPT_LOOP, 1);
 362             s->state = new_state;
 363         }
 364     }
 365  end:
 366     s->in_handshake--;
 367     if (cb != NULL)
 368         cb(s, SSL_CB_ACCEPT_EXIT, ret);
 369     return (ret);
 370 }
 371
 372 static int get_client_master_key(SSL *s)
 373 {
 374     int is_export, i, n, keya, ek;
 375     unsigned long len;
 376     unsigned char *p;
 377     const SSL_CIPHER *cp;
 378     const EVP_CIPHER *c;
 379     const EVP_MD *md;
 380
 381     p = (unsigned char *)s->init_buf->data;
 382     if (s->state == SSL2_ST_GET_CLIENT_MASTER_KEY_A) {
 383         i = ssl2_read(s, (char *)&(p[s->init_num]), 10 - s->init_num);
 384
 385         if (i < (10 - s->init_num))
 386             return (ssl2_part_read(s, SSL_F_GET_CLIENT_MASTER_KEY, i));
 387         s->init_num = 10;
 388
 389         if (*(p++) != SSL2_MT_CLIENT_MASTER_KEY) {
 390             if (p[-1] != SSL2_MT_ERROR) {
 391                 ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 392                 SSLerr(SSL_F_GET_CLIENT_MASTER_KEY,
 393                        SSL_R_READ_WRONG_PACKET_TYPE);
 394             } else
 395                 SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_PEER_ERROR);
 396             return (-1);
 397         }
 398
 399         cp = ssl2_get_cipher_by_char(p);
 400         if (cp == NULL) {
 401             ssl2_return_error(s, SSL2_PE_NO_CIPHER);
 402             SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_NO_CIPHER_MATCH);
 403             return (-1);
 404         }
 405         s->session->cipher = cp;
 406
 407         p += 3;
 408         n2s(p, i);
 409         s->s2->tmp.clear = i;
 410         n2s(p, i);
 411         s->s2->tmp.enc = i;
 412         n2s(p, i);
 413         if (i > SSL_MAX_KEY_ARG_LENGTH) {
 414             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 415             SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_KEY_ARG_TOO_LONG);
 416             return -1;
 417         }
 418         s->session->key_arg_length = i;
 419         s->state = SSL2_ST_GET_CLIENT_MASTER_KEY_B;
 420     }
 421
 422     /* SSL2_ST_GET_CLIENT_MASTER_KEY_B */
 423     p = (unsigned char *)s->init_buf->data;
 424     if (s->init_buf->length < SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER) {
 425         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 426         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, ERR_R_INTERNAL_ERROR);
 427         return -1;
 428     }
 429     keya = s->session->key_arg_length;
 430     len =
 431         10 + (unsigned long)s->s2->tmp.clear + (unsigned long)s->s2->tmp.enc +
 432         (unsigned long)keya;
 433     if (len > SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER) {
 434         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 435         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_MESSAGE_TOO_LONG);
 436         return -1;
 437     }
 438     n = (int)len - s->init_num;
 439     i = ssl2_read(s, (char *)&(p[s->init_num]), n);
 440     if (i != n)
 441         return (ssl2_part_read(s, SSL_F_GET_CLIENT_MASTER_KEY, i));
 442     if (s->msg_callback) {
 443         /* CLIENT-MASTER-KEY */
 444         s->msg_callback(0, s->version, 0, p, (size_t)len, s,
 445                         s->msg_callback_arg);
 446     }
 447     p += 10;
 448
 449     memcpy(s->session->key_arg, &(p[s->s2->tmp.clear + s->s2->tmp.enc]),
 450            (unsigned int)keya);
 451
 452     if (s->cert->pkeys[SSL_PKEY_RSA_ENC].privatekey == NULL) {
 453         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 454         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_NO_PRIVATEKEY);
 455         return (-1);
 456     }
 457
 458     is_export = SSL_C_IS_EXPORT(s->session->cipher);
 459
 460     if (!ssl_cipher_get_evp(s->session, &c, &md, NULL, NULL, NULL)) {
 461         ssl2_return_error(s, SSL2_PE_NO_CIPHER);
 462         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY,
 463                SSL_R_PROBLEMS_MAPPING_CIPHER_FUNCTIONS);
 464         return (0);
 465     }
 466
 467     if (s->session->cipher->algorithm2 & SSL2_CF_8_BYTE_ENC) {
 468         is_export = 1;
 469         ek = 8;
 470     } else
 471         ek = 5;
 472
 473     /*
 474      * The format of the CLIENT-MASTER-KEY message is
 475      * 1 byte message type
 476      * 3 bytes cipher
 477      * 2-byte clear key length (stored in s->s2->tmp.clear)
 478      * 2-byte encrypted key length (stored in s->s2->tmp.enc)
 479      * 2-byte key args length (IV etc)
 480      * clear key
 481      * encrypted key
 482      * key args
 483      *
 484      * If the cipher is an export cipher, then the encrypted key bytes
 485      * are a fixed portion of the total key (5 or 8 bytes). The size of
 486      * this portion is in |ek|. If the cipher is not an export cipher,
 487      * then the entire key material is encrypted (i.e., clear key length
 488      * must be zero).
 489      */
 490     if ((!is_export && s->s2->tmp.clear != 0) ||
 491         (is_export && s->s2->tmp.clear + ek != EVP_CIPHER_key_length(c))) {
 492         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 493         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY,SSL_R_BAD_LENGTH);
 494         return -1;
 495     }
 496     /*
 497      * The encrypted blob must decrypt to the encrypted portion of the key.
 498      * Decryption can't be expanding, so if we don't have enough encrypted
 499      * bytes to fit the key in the buffer, stop now.
 500      */
 501     if ((is_export && s->s2->tmp.enc < ek) ||
 502         (!is_export && s->s2->tmp.enc < EVP_CIPHER_key_length(c))) {
 503         ssl2_return_error(s,SSL2_PE_UNDEFINED_ERROR);
 504         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY,SSL_R_LENGTH_TOO_SHORT);
 505         return -1;
 506     }
 507
 508     i = ssl_rsa_private_decrypt(s->cert, s->s2->tmp.enc,
 509                                 &(p[s->s2->tmp.clear]),
 510                                 &(p[s->s2->tmp.clear]),
 511                                 (s->s2->ssl2_rollback) ? RSA_SSLV23_PADDING :
 512                                 RSA_PKCS1_PADDING);
 513
 514     /* bad decrypt */
 515 # if 1
 516     /*
 517      * If a bad decrypt, continue with protocol but with a random master
 518      * secret (Bleichenbacher attack)
 519      */
 520     if ((i < 0) || ((!is_export && i != EVP_CIPHER_key_length(c))
 521                     || (is_export && i != ek))) {
 522         ERR_clear_error();
 523         if (is_export)
 524             i = ek;
 525         else
 526             i = EVP_CIPHER_key_length(c);
 527         if (RAND_pseudo_bytes(&p[s->s2->tmp.clear], i) <= 0)
 528             return 0;
 529     }
 530 # else
 531     if (i < 0) {
 532         error = 1;
 533         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_BAD_RSA_DECRYPT);
 534     }
 535     /* incorrect number of key bytes for non export cipher */
 536     else if ((!is_export && (i != EVP_CIPHER_key_length(c)))
 537              || (is_export && ((i != ek) || (s->s2->tmp.clear + i !=
 538                                              EVP_CIPHER_key_length(c))))) {
 539         error = 1;
 540         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_WRONG_NUMBER_OF_KEY_BITS);
 541     }
 542     if (error) {
 543         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 544         return (-1);
 545     }
 546 # endif
 547
 548     if (is_export)
 549         i = EVP_CIPHER_key_length(c);
 550
 551     if (i > SSL_MAX_MASTER_KEY_LENGTH) {
 552         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 553         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, ERR_R_INTERNAL_ERROR);
 554         return -1;
 555     }
 556     s->session->master_key_length = i;
 557     memcpy(s->session->master_key, p, (unsigned int)i);
 558     return (1);
 559 }
 560
 561 static int get_client_hello(SSL *s)
 562 {
 563     int i, n;
 564     unsigned long len;
 565     unsigned char *p;
 566     STACK_OF(SSL_CIPHER) *cs;   /* a stack of SSL_CIPHERS */
 567     STACK_OF(SSL_CIPHER) *cl;   /* the ones we want to use */
 568     STACK_OF(SSL_CIPHER) *prio, *allow;
 569     int z;
 570
 571     /*
 572      * This is a bit of a hack to check for the correct packet type the first
 573      * time round.
 574      */
 575     if (s->state == SSL2_ST_GET_CLIENT_HELLO_A) {
 576         s->first_packet = 1;
 577         s->state = SSL2_ST_GET_CLIENT_HELLO_B;
 578     }
 579
 580     p = (unsigned char *)s->init_buf->data;
 581     if (s->state == SSL2_ST_GET_CLIENT_HELLO_B) {
 582         i = ssl2_read(s, (char *)&(p[s->init_num]), 9 - s->init_num);
 583         if (i < (9 - s->init_num))
 584             return (ssl2_part_read(s, SSL_F_GET_CLIENT_HELLO, i));
 585         s->init_num = 9;
 586
 587         if (*(p++) != SSL2_MT_CLIENT_HELLO) {
 588             if (p[-1] != SSL2_MT_ERROR) {
 589                 ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 590                 SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_READ_WRONG_PACKET_TYPE);
 591             } else
 592                 SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_PEER_ERROR);
 593             return (-1);
 594         }
 595         n2s(p, i);
 596         if (i < s->version)
 597             s->version = i;
 598         n2s(p, i);
 599         s->s2->tmp.cipher_spec_length = i;
 600         n2s(p, i);
 601         s->s2->tmp.session_id_length = i;
 602         n2s(p, i);
 603         s->s2->challenge_length = i;
 604         if ((i < SSL2_MIN_CHALLENGE_LENGTH) ||
 605             (i > SSL2_MAX_CHALLENGE_LENGTH)) {
 606             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 607             SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_INVALID_CHALLENGE_LENGTH);
 608             return (-1);
 609         }
 610         s->state = SSL2_ST_GET_CLIENT_HELLO_C;
 611     }
 612
 613     /* SSL2_ST_GET_CLIENT_HELLO_C */
 614     p = (unsigned char *)s->init_buf->data;
 615     len =
 616         9 + (unsigned long)s->s2->tmp.cipher_spec_length +
 617         (unsigned long)s->s2->challenge_length +
 618         (unsigned long)s->s2->tmp.session_id_length;
 619     if (len > SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER) {
 620         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 621         SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_MESSAGE_TOO_LONG);
 622         return -1;
 623     }
 624     n = (int)len - s->init_num;
 625     i = ssl2_read(s, (char *)&(p[s->init_num]), n);
 626     if (i != n)
 627         return (ssl2_part_read(s, SSL_F_GET_CLIENT_HELLO, i));
 628     if (s->msg_callback) {
 629         /* CLIENT-HELLO */
 630         s->msg_callback(0, s->version, 0, p, (size_t)len, s,
 631                         s->msg_callback_arg);
 632     }
 633     p += 9;
 634
 635     /*
 636      * get session-id before cipher stuff so we can get out session structure
 637      * if it is cached
 638      */
 639     /* session-id */
 640     if ((s->s2->tmp.session_id_length != 0) &&
 641         (s->s2->tmp.session_id_length != SSL2_SSL_SESSION_ID_LENGTH)) {
 642         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 643         SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_BAD_SSL_SESSION_ID_LENGTH);
 644         return (-1);
 645     }
 646
 647     if (s->s2->tmp.session_id_length == 0) {
 648         if (!ssl_get_new_session(s, 1)) {
 649             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 650             return (-1);
 651         }
 652     } else {
 653         i = ssl_get_prev_session(s, &(p[s->s2->tmp.cipher_spec_length]),
 654                                  s->s2->tmp.session_id_length, NULL);
 655         if (i == 1) {           /* previous session */
 656             s->hit = 1;
 657         } else if (i == -1) {
 658             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 659             return (-1);
 660         } else {
 661             if (s->cert == NULL) {
 662                 ssl2_return_error(s, SSL2_PE_NO_CERTIFICATE);
 663                 SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_NO_CERTIFICATE_SET);
 664                 return (-1);
 665             }
 666
 667             if (!ssl_get_new_session(s, 1)) {
 668                 ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 669                 return (-1);
 670             }
 671         }
 672     }
 673
 674     if (!s->hit) {
 675         cs = ssl_bytes_to_cipher_list(s, p, s->s2->tmp.cipher_spec_length,
 676                                       &s->session->ciphers);
 677         if (cs == NULL)
 678             goto mem_err;
 679
 680         cl = SSL_get_ciphers(s);
 681
 682         if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) {
 683             prio = sk_SSL_CIPHER_dup(cl);
 684             if (prio == NULL)
 685                 goto mem_err;
 686             allow = cs;
 687         } else {
 688             prio = cs;
 689             allow = cl;
 690         }
 691         for (z = 0; z < sk_SSL_CIPHER_num(prio); z++) {
 692             if (sk_SSL_CIPHER_find(allow, sk_SSL_CIPHER_value(prio, z)) < 0) {
 693                 (void)sk_SSL_CIPHER_delete(prio, z);
 694                 z--;
 695             }
 696         }
 697         if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) {
 698             sk_SSL_CIPHER_free(s->session->ciphers);
 699             s->session->ciphers = prio;
 700         }
 701         /*
 702          * s->session->ciphers should now have a list of ciphers that are on
 703          * both the client and server. This list is ordered by the order the
 704          * client sent the ciphers or in the order of the server's preference
 705          * if SSL_OP_CIPHER_SERVER_PREFERENCE was set.
 706          */
 707     }
 708     p += s->s2->tmp.cipher_spec_length;
 709     /* done cipher selection */
 710
 711     /* session id extracted already */
 712     p += s->s2->tmp.session_id_length;
 713
 714     /* challenge */
 715     if (s->s2->challenge_length > sizeof s->s2->challenge) {
 716         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 717         SSLerr(SSL_F_GET_CLIENT_HELLO, ERR_R_INTERNAL_ERROR);
 718         return -1;
 719     }
 720     memcpy(s->s2->challenge, p, (unsigned int)s->s2->challenge_length);
 721     return (1);
 722  mem_err:
 723     SSLerr(SSL_F_GET_CLIENT_HELLO, ERR_R_MALLOC_FAILURE);
 724     return (0);
 725 }
 726
 727 static int server_hello(SSL *s)
 728 {
 729     unsigned char *p, *d;
 730     int n, hit;
 731
 732     p = (unsigned char *)s->init_buf->data;
 733     if (s->state == SSL2_ST_SEND_SERVER_HELLO_A) {
 734         d = p + 11;
 735         *(p++) = SSL2_MT_SERVER_HELLO; /* type */
 736         hit = s->hit;
 737         *(p++) = (unsigned char)hit;
 738 # if 1
 739         if (!hit) {
 740             if (s->session->sess_cert != NULL)
 741                 /*
 742                  * This can't really happen because get_client_hello has
 743                  * called ssl_get_new_session, which does not set sess_cert.
 744                  */
 745                 ssl_sess_cert_free(s->session->sess_cert);
 746             s->session->sess_cert = ssl_sess_cert_new();
 747             if (s->session->sess_cert == NULL) {
 748                 SSLerr(SSL_F_SERVER_HELLO, ERR_R_MALLOC_FAILURE);
 749                 return (-1);
 750             }
 751         }
 752         /*
 753          * If 'hit' is set, then s->sess_cert may be non-NULL or NULL,
 754          * depending on whether it survived in the internal cache or was
 755          * retrieved from an external cache. If it is NULL, we cannot put any
 756          * useful data in it anyway, so we don't touch it.
 757          */
 758
 759 # else                          /* That's what used to be done when cert_st
 760                                  * and sess_cert_st were * the same. */
 761         if (!hit) {             /* else add cert to session */
 762             CRYPTO_add(&s->cert->references, 1, CRYPTO_LOCK_SSL_CERT);
 763             if (s->session->sess_cert != NULL)
 764                 ssl_cert_free(s->session->sess_cert);
 765             s->session->sess_cert = s->cert;
 766         } else {                /* We have a session id-cache hit, if the *
 767                                  * session-id has no certificate listed
 768                                  * against * the 'cert' structure, grab the
 769                                  * 'old' one * listed against the SSL
 770                                  * connection */
 771             if (s->session->sess_cert == NULL) {
 772                 CRYPTO_add(&s->cert->references, 1, CRYPTO_LOCK_SSL_CERT);
 773                 s->session->sess_cert = s->cert;
 774             }
 775         }
 776 # endif
 777
 778         if (s->cert == NULL) {
 779             ssl2_return_error(s, SSL2_PE_NO_CERTIFICATE);
 780             SSLerr(SSL_F_SERVER_HELLO, SSL_R_NO_CERTIFICATE_SPECIFIED);
 781             return (-1);
 782         }
 783
 784         if (hit) {
 785             *(p++) = 0;         /* no certificate type */
 786             s2n(s->version, p); /* version */
 787             s2n(0, p);          /* cert len */
 788             s2n(0, p);          /* ciphers len */
 789         } else {
 790             /* EAY EAY */
 791             /* put certificate type */
 792             *(p++) = SSL2_CT_X509_CERTIFICATE;
 793             s2n(s->version, p); /* version */
 794             n = i2d_X509(s->cert->pkeys[SSL_PKEY_RSA_ENC].x509, NULL);
 795             s2n(n, p);          /* certificate length */
 796             i2d_X509(s->cert->pkeys[SSL_PKEY_RSA_ENC].x509, &d);
 797             n = 0;
 798
 799             /*
 800              * lets send out the ciphers we like in the prefered order
 801              */
 802             n = ssl_cipher_list_to_bytes(s, s->session->ciphers, d, 0);
 803             d += n;
 804             s2n(n, p);          /* add cipher length */
 805         }
 806
 807         /* make and send conn_id */
 808         s2n(SSL2_CONNECTION_ID_LENGTH, p); /* add conn_id length */
 809         s->s2->conn_id_length = SSL2_CONNECTION_ID_LENGTH;
 810         if (RAND_pseudo_bytes(s->s2->conn_id, (int)s->s2->conn_id_length) <=
 811             0)
 812             return -1;
 813         memcpy(d, s->s2->conn_id, SSL2_CONNECTION_ID_LENGTH);
 814         d += SSL2_CONNECTION_ID_LENGTH;
 815
 816         s->state = SSL2_ST_SEND_SERVER_HELLO_B;
 817         s->init_num = d - (unsigned char *)s->init_buf->data;
 818         s->init_off = 0;
 819     }
 820     /* SSL2_ST_SEND_SERVER_HELLO_B */
 821     /*
 822      * If we are using TCP/IP, the performance is bad if we do 2 writes
 823      * without a read between them.  This occurs when Session-id reuse is
 824      * used, so I will put in a buffering module
 825      */
 826     if (s->hit) {
 827         if (!ssl_init_wbio_buffer(s, 1))
 828             return (-1);
 829     }
 830
 831     return (ssl2_do_write(s));
 832 }
 833
 834 static int get_client_finished(SSL *s)
 835 {
 836     unsigned char *p;
 837     int i, n;
 838     unsigned long len;
 839
 840     p = (unsigned char *)s->init_buf->data;
 841     if (s->state == SSL2_ST_GET_CLIENT_FINISHED_A) {
 842         i = ssl2_read(s, (char *)&(p[s->init_num]), 1 - s->init_num);
 843         if (i < 1 - s->init_num)
 844             return (ssl2_part_read(s, SSL_F_GET_CLIENT_FINISHED, i));
 845         s->init_num += i;
 846
 847         if (*p != SSL2_MT_CLIENT_FINISHED) {
 848             if (*p != SSL2_MT_ERROR) {
 849                 ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 850                 SSLerr(SSL_F_GET_CLIENT_FINISHED,
 851                        SSL_R_READ_WRONG_PACKET_TYPE);
 852             } else {
 853                 SSLerr(SSL_F_GET_CLIENT_FINISHED, SSL_R_PEER_ERROR);
 854                 /* try to read the error message */
 855                 i = ssl2_read(s, (char *)&(p[s->init_num]), 3 - s->init_num);
 856                 return ssl2_part_read(s, SSL_F_GET_SERVER_VERIFY, i);
 857             }
 858             return (-1);
 859         }
 860         s->state = SSL2_ST_GET_CLIENT_FINISHED_B;
 861     }
 862
 863     /* SSL2_ST_GET_CLIENT_FINISHED_B */
 864     if (s->s2->conn_id_length > sizeof s->s2->conn_id) {
 865         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 866         SSLerr(SSL_F_GET_CLIENT_FINISHED, ERR_R_INTERNAL_ERROR);
 867         return -1;
 868     }
 869     len = 1 + (unsigned long)s->s2->conn_id_length;
 870     n = (int)len - s->init_num;
 871     i = ssl2_read(s, (char *)&(p[s->init_num]), n);
 872     if (i < n) {
 873         return (ssl2_part_read(s, SSL_F_GET_CLIENT_FINISHED, i));
 874     }
 875     if (s->msg_callback) {
 876         /* CLIENT-FINISHED */
 877         s->msg_callback(0, s->version, 0, p, len, s, s->msg_callback_arg);
 878     }
 879     p += 1;
 880     if (memcmp(p, s->s2->conn_id, s->s2->conn_id_length) != 0) {
 881         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
 882         SSLerr(SSL_F_GET_CLIENT_FINISHED, SSL_R_CONNECTION_ID_IS_DIFFERENT);
 883         return (-1);
 884     }
 885     return (1);
 886 }
 887
 888 static int server_verify(SSL *s)
 889 {
 890     unsigned char *p;
 891
 892     if (s->state == SSL2_ST_SEND_SERVER_VERIFY_A) {
 893         p = (unsigned char *)s->init_buf->data;
 894         *(p++) = SSL2_MT_SERVER_VERIFY;
 895         if (s->s2->challenge_length > sizeof s->s2->challenge) {
 896             SSLerr(SSL_F_SERVER_VERIFY, ERR_R_INTERNAL_ERROR);
 897             return -1;
 898         }
 899         memcpy(p, s->s2->challenge, (unsigned int)s->s2->challenge_length);
 900         /* p+=s->s2->challenge_length; */
 901
 902         s->state = SSL2_ST_SEND_SERVER_VERIFY_B;
 903         s->init_num = s->s2->challenge_length + 1;
 904         s->init_off = 0;
 905     }
 906     return (ssl2_do_write(s));
 907 }
 908
 909 static int server_finish(SSL *s)
 910 {
 911     unsigned char *p;
 912
 913     if (s->state == SSL2_ST_SEND_SERVER_FINISHED_A) {
 914         p = (unsigned char *)s->init_buf->data;
 915         *(p++) = SSL2_MT_SERVER_FINISHED;
 916
 917         if (s->session->session_id_length > sizeof s->session->session_id) {
 918             SSLerr(SSL_F_SERVER_FINISH, ERR_R_INTERNAL_ERROR);
 919             return -1;
 920         }
 921         memcpy(p, s->session->session_id,
 922                (unsigned int)s->session->session_id_length);
 923         /* p+=s->session->session_id_length; */
 924
 925         s->state = SSL2_ST_SEND_SERVER_FINISHED_B;
 926         s->init_num = s->session->session_id_length + 1;
 927         s->init_off = 0;
 928     }
 929
 930     /* SSL2_ST_SEND_SERVER_FINISHED_B */
 931     return (ssl2_do_write(s));
 932 }
 933
 934 /* send the request and check the response */
 935 static int request_certificate(SSL *s)
 936 {
 937     const unsigned char *cp;
 938     unsigned char *p, *p2, *buf2;
 939     unsigned char *ccd;
 940     int i, j, ctype, ret = -1;
 941     unsigned long len;
 942     X509 *x509 = NULL;
 943     STACK_OF(X509) *sk = NULL;
 944
 945     ccd = s->s2->tmp.ccl;
 946     if (s->state == SSL2_ST_SEND_REQUEST_CERTIFICATE_A) {
 947         p = (unsigned char *)s->init_buf->data;
 948         *(p++) = SSL2_MT_REQUEST_CERTIFICATE;
 949         *(p++) = SSL2_AT_MD5_WITH_RSA_ENCRYPTION;
 950         if (RAND_pseudo_bytes(ccd, SSL2_MIN_CERT_CHALLENGE_LENGTH) <= 0)
 951             return -1;
 952         memcpy(p, ccd, SSL2_MIN_CERT_CHALLENGE_LENGTH);
 953
 954         s->state = SSL2_ST_SEND_REQUEST_CERTIFICATE_B;
 955         s->init_num = SSL2_MIN_CERT_CHALLENGE_LENGTH + 2;
 956         s->init_off = 0;
 957     }
 958
 959     if (s->state == SSL2_ST_SEND_REQUEST_CERTIFICATE_B) {
 960         i = ssl2_do_write(s);
 961         if (i <= 0) {
 962             ret = i;
 963             goto end;
 964         }
 965
 966         s->init_num = 0;
 967         s->state = SSL2_ST_SEND_REQUEST_CERTIFICATE_C;
 968     }
 969
 970     if (s->state == SSL2_ST_SEND_REQUEST_CERTIFICATE_C) {
 971         p = (unsigned char *)s->init_buf->data;
 972         /* try to read 6 octets ... */
 973         i = ssl2_read(s, (char *)&(p[s->init_num]), 6 - s->init_num);
 974         /*
 975          * ... but don't call ssl2_part_read now if we got at least 3
 976          * (probably NO-CERTIFICATE-ERROR)
 977          */
 978         if (i < 3 - s->init_num) {
 979             ret = ssl2_part_read(s, SSL_F_REQUEST_CERTIFICATE, i);
 980             goto end;
 981         }
 982         s->init_num += i;
 983
 984         if ((s->init_num >= 3) && (p[0] == SSL2_MT_ERROR)) {
 985             n2s(p, i);
 986             if (i != SSL2_PE_NO_CERTIFICATE) {
 987                 /*
 988                  * not the error message we expected -- let ssl2_part_read
 989                  * handle it
 990                  */
 991                 s->init_num -= 3;
 992                 ret = ssl2_part_read(s, SSL_F_REQUEST_CERTIFICATE, 3);
 993                 goto end;
 994             }
 995
 996             if (s->msg_callback) {
 997                 /* ERROR */
 998                 s->msg_callback(0, s->version, 0, p, 3, s,
 999                                 s->msg_callback_arg);
1000             }
1001
1002             /*
1003              * this is the one place where we can recover from an SSL 2.0
1004              * error
1005              */
1006
1007             if (s->verify_mode & SSL_VERIFY_FAIL_IF_NO_PEER_CERT) {
1008                 ssl2_return_error(s, SSL2_PE_BAD_CERTIFICATE);
1009                 SSLerr(SSL_F_REQUEST_CERTIFICATE,
1010                        SSL_R_PEER_DID_NOT_RETURN_A_CERTIFICATE);
1011                 goto end;
1012             }
1013             ret = 1;
1014             goto end;
1015         }
1016         if ((*(p++) != SSL2_MT_CLIENT_CERTIFICATE) || (s->init_num < 6)) {
1017             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
1018             SSLerr(SSL_F_REQUEST_CERTIFICATE, SSL_R_SHORT_READ);
1019             goto end;
1020         }
1021         if (s->init_num != 6) {
1022             SSLerr(SSL_F_REQUEST_CERTIFICATE, ERR_R_INTERNAL_ERROR);
1023             goto end;
1024         }
1025
1026         /* ok we have a response */
1027         /* certificate type, there is only one right now. */
1028         ctype = *(p++);
1029         if (ctype != SSL2_AT_MD5_WITH_RSA_ENCRYPTION) {
1030             ssl2_return_error(s, SSL2_PE_UNSUPPORTED_CERTIFICATE_TYPE);
1031             SSLerr(SSL_F_REQUEST_CERTIFICATE, SSL_R_BAD_RESPONSE_ARGUMENT);
1032             goto end;
1033         }
1034         n2s(p, i);
1035         s->s2->tmp.clen = i;
1036         n2s(p, i);
1037         s->s2->tmp.rlen = i;
1038         s->state = SSL2_ST_SEND_REQUEST_CERTIFICATE_D;
1039     }
1040
1041     /* SSL2_ST_SEND_REQUEST_CERTIFICATE_D */
1042     p = (unsigned char *)s->init_buf->data;
1043     len = 6 + (unsigned long)s->s2->tmp.clen + (unsigned long)s->s2->tmp.rlen;
1044     if (len > SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER) {
1045         SSLerr(SSL_F_REQUEST_CERTIFICATE, SSL_R_MESSAGE_TOO_LONG);
1046         goto end;
1047     }
1048     j = (int)len - s->init_num;
1049     i = ssl2_read(s, (char *)&(p[s->init_num]), j);
1050     if (i < j) {
1051         ret = ssl2_part_read(s, SSL_F_REQUEST_CERTIFICATE, i);
1052         goto end;
1053     }
1054     if (s->msg_callback) {
1055         /* CLIENT-CERTIFICATE */
1056         s->msg_callback(0, s->version, 0, p, len, s, s->msg_callback_arg);
1057     }
1058     p += 6;
1059
1060     cp = p;
1061     x509 = (X509 *)d2i_X509(NULL, &cp, (long)s->s2->tmp.clen);
1062     if (x509 == NULL) {
1063         SSLerr(SSL_F_REQUEST_CERTIFICATE, ERR_R_X509_LIB);
1064         goto msg_end;
1065     }
1066
1067     if (((sk = sk_X509_new_null()) == NULL) || (!sk_X509_push(sk, x509))) {
1068         SSLerr(SSL_F_REQUEST_CERTIFICATE, ERR_R_MALLOC_FAILURE);
1069         goto msg_end;
1070     }
1071
1072     i = ssl_verify_cert_chain(s, sk);
1073
1074     if (i > 0) {                /* we like the packet, now check the chksum */
1075         EVP_MD_CTX ctx;
1076         EVP_PKEY *pkey = NULL;
1077
1078         EVP_MD_CTX_init(&ctx);
1079         if (!EVP_VerifyInit_ex(&ctx, s->ctx->rsa_md5, NULL)
1080             || !EVP_VerifyUpdate(&ctx, s->s2->key_material,
1081                                  s->s2->key_material_length)
1082             || !EVP_VerifyUpdate(&ctx, ccd, SSL2_MIN_CERT_CHALLENGE_LENGTH))
1083             goto msg_end;
1084
1085         i = i2d_X509(s->cert->pkeys[SSL_PKEY_RSA_ENC].x509, NULL);
1086         buf2 = OPENSSL_malloc((unsigned int)i);
1087         if (buf2 == NULL) {
1088             SSLerr(SSL_F_REQUEST_CERTIFICATE, ERR_R_MALLOC_FAILURE);
1089             goto msg_end;
1090         }
1091         p2 = buf2;
1092         i = i2d_X509(s->cert->pkeys[SSL_PKEY_RSA_ENC].x509, &p2);
1093         if (!EVP_VerifyUpdate(&ctx, buf2, (unsigned int)i)) {
1094             OPENSSL_free(buf2);
1095             goto msg_end;
1096         }
1097         OPENSSL_free(buf2);
1098
1099         pkey = X509_get_pubkey(x509);
1100         if (pkey == NULL)
1101             goto end;
1102         i = EVP_VerifyFinal(&ctx, cp, s->s2->tmp.rlen, pkey);
1103         EVP_PKEY_free(pkey);
1104         EVP_MD_CTX_cleanup(&ctx);
1105
1106         if (i > 0) {
1107             if (s->session->peer != NULL)
1108                 X509_free(s->session->peer);
1109             s->session->peer = x509;
1110             CRYPTO_add(&x509->references, 1, CRYPTO_LOCK_X509);
1111             s->session->verify_result = s->verify_result;
1112             ret = 1;
1113             goto end;
1114         } else {
1115             SSLerr(SSL_F_REQUEST_CERTIFICATE, SSL_R_BAD_CHECKSUM);
1116             goto msg_end;
1117         }
1118     } else {
1119  msg_end:
1120         ssl2_return_error(s, SSL2_PE_BAD_CERTIFICATE);
1121     }
1122  end:
1123     sk_X509_free(sk);
1124     X509_free(x509);
1125     return (ret);
1126 }
1127
1128 static int ssl_rsa_private_decrypt(CERT *c, int len, unsigned char *from,
1129                                    unsigned char *to, int padding)
1130 {
1131     RSA *rsa;
1132     int i;
1133
1134     if ((c == NULL) || (c->pkeys[SSL_PKEY_RSA_ENC].privatekey == NULL)) {
1135         SSLerr(SSL_F_SSL_RSA_PRIVATE_DECRYPT, SSL_R_NO_PRIVATEKEY);
1136         return (-1);
1137     }
1138     if (c->pkeys[SSL_PKEY_RSA_ENC].privatekey->type != EVP_PKEY_RSA) {
1139         SSLerr(SSL_F_SSL_RSA_PRIVATE_DECRYPT, SSL_R_PUBLIC_KEY_IS_NOT_RSA);
1140         return (-1);
1141     }
1142     rsa = c->pkeys[SSL_PKEY_RSA_ENC].privatekey->pkey.rsa;
1143
1144     /* we have the public key */
1145     i = RSA_private_decrypt(len, from, to, rsa, padding);
1146     if (i < 0)
1147         SSLerr(SSL_F_SSL_RSA_PRIVATE_DECRYPT, ERR_R_RSA_LIB);
1148     return (i);
1149 }
1150 #else                           /* !OPENSSL_NO_SSL2 */
1151
1152 # if PEDANTIC
1153 static void *dummy = &dummy;
1154 # endif
1155
1156 #endif