Make CryptoAPI engine look more like the others....
[oweals/openssl.git] / engines / e_capi.c
1 /* engines/e_capi.c */
2 /* Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL
3  * project.
4  */
5 /* ====================================================================
6  * Copyright (c) 2008 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer. 
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  */
53
54
55 #include <stdio.h>
56 #include <string.h>
57 #include <openssl/crypto.h>
58 #include <openssl/buffer.h>
59 #include <openssl/engine.h>
60 #include <openssl/rsa.h>
61 #include <openssl/bn.h>
62 #include <openssl/pem.h>
63
64 #ifdef OPENSSL_SYS_WIN32
65 #ifndef OPENSSL_NO_CAPIENG
66
67 #ifndef _WIN32_WINNT
68 #define _WIN32_WINNT 0x400
69 #endif
70
71 #include <windows.h>
72 #include <wincrypt.h>
73
74 #include "e_capi_err.h"
75 #include "e_capi_err.c"
76
77
78 static const char *engine_capi_id = "capi";
79 static const char *engine_capi_name = "CryptoAPI ENGINE";
80
81 typedef struct CAPI_CTX_st CAPI_CTX;
82 typedef struct CAPI_KEY_st CAPI_KEY;
83
84 static void capi_addlasterror(void);
85 static void capi_adderror(DWORD err);
86
87 static void CAPI_trace(CAPI_CTX *ctx, char *format, ...);
88
89 static int capi_list_providers(CAPI_CTX *ctx, BIO *out);
90 static int capi_list_containers(CAPI_CTX *ctx, BIO *out);
91 int capi_list_certs(CAPI_CTX *ctx, BIO *out, char *storename);
92 void capi_free_key(CAPI_KEY *key);
93
94 static PCCERT_CONTEXT capi_find_cert(CAPI_CTX *ctx, const char *id, HCERTSTORE hstore);
95
96 CAPI_KEY *capi_find_key(CAPI_CTX *ctx, const char *id);
97
98 static EVP_PKEY *capi_load_privkey(ENGINE *eng, const char *key_id,
99         UI_METHOD *ui_method, void *callback_data);
100 static int capi_rsa_sign(int dtype, const unsigned char *m, unsigned int m_len,
101              unsigned char *sigret, unsigned int *siglen, const RSA *rsa);
102 static int capi_rsa_priv_enc(int flen, const unsigned char *from,
103                 unsigned char *to, RSA *rsa, int padding);
104 static int capi_rsa_priv_dec(int flen, const unsigned char *from,
105                 unsigned char *to, RSA *rsa, int padding);
106 static int capi_rsa_free(RSA *rsa);
107
108 /* This structure contains CAPI ENGINE specific data:
109  * it contains various global options and affects how
110  * other functions behave.
111  */
112
113 #define CAPI_DBG_TRACE  2
114 #define CAPI_DBG_ERROR  1
115
116 struct CAPI_CTX_st {
117         int debug_level;
118         char *debug_file;
119         /* Parameters to use for container lookup */
120         DWORD keytype;
121         LPTSTR cspname;
122         DWORD csptype;
123         /* Certificate store name to use */
124         LPTSTR storename;
125
126 /* Lookup string meanings in load_private_key */
127 /* Substring of subject: uses "storename" */
128 #define CAPI_LU_SUBSTR          0
129 /* Friendly name: uses storename */
130 #define CAPI_LU_FNAME           1
131 /* Container name: uses cspname, keytype */
132 #define CAPI_LU_CONTNAME        2
133         int lookup_method;
134 /* Info to dump with dumpcerts option */
135 /* Issuer and serial name strings */
136 #define CAPI_DMP_SUMMARY        0x1
137 /* Friendly name */
138 #define CAPI_DMP_FNAME          0x2
139 /* Full X509_print dump */
140 #define CAPI_DMP_FULL           0x4
141 /* Dump PEM format certificate */
142 #define CAPI_DMP_PEM            0x8
143 /* Dump pseudo key (if possible) */
144 #define CAPI_DMP_PSKEY          0x10
145 /* Dump key info (if possible) */
146 #define CAPI_DMP_PKEYINFO       0x20
147
148         DWORD dump_flags;
149 };
150
151
152 static CAPI_CTX *capi_ctx_new();
153 static void capi_ctx_free(CAPI_CTX *ctx);
154 static int capi_ctx_set_provname(CAPI_CTX *ctx, LPSTR pname, DWORD type, int check);
155 static int capi_ctx_set_provname_idx(CAPI_CTX *ctx, int idx);
156
157 #define CAPI_CMD_LIST_CERTS                     ENGINE_CMD_BASE
158 #define CAPI_CMD_LOOKUP_CERT            (ENGINE_CMD_BASE + 1)
159 #define CAPI_CMD_DEBUG_LEVEL            (ENGINE_CMD_BASE + 2)
160 #define CAPI_CMD_DEBUG_FILE                     (ENGINE_CMD_BASE + 3)
161 #define CAPI_CMD_KEYTYPE                        (ENGINE_CMD_BASE + 4)
162 #define CAPI_CMD_LIST_CSPS                      (ENGINE_CMD_BASE + 5)
163 #define CAPI_CMD_SET_CSP_IDX            (ENGINE_CMD_BASE + 6)
164 #define CAPI_CMD_SET_CSP_NAME           (ENGINE_CMD_BASE + 7)
165 #define CAPI_CMD_SET_CSP_TYPE           (ENGINE_CMD_BASE + 8)
166 #define CAPI_CMD_LIST_CONTAINERS        (ENGINE_CMD_BASE + 9)
167 #define CAPI_CMD_LIST_OPTIONS           (ENGINE_CMD_BASE + 10)
168 #define CAPI_CMD_LOOKUP_METHOD          (ENGINE_CMD_BASE + 11)
169
170 static const ENGINE_CMD_DEFN capi_cmd_defns[] = {
171         {CAPI_CMD_LIST_CERTS,
172                 "list_certs",
173                 "List all certificates in store",
174                 ENGINE_CMD_FLAG_NO_INPUT},
175         {CAPI_CMD_LOOKUP_CERT,
176                 "lookup_cert",
177                 "Lookup and output certificates",
178                 ENGINE_CMD_FLAG_STRING},
179         {CAPI_CMD_DEBUG_LEVEL,
180                 "debug_level",
181                 "debug level (1=errors, 2=trace)",
182                 ENGINE_CMD_FLAG_NUMERIC},
183         {CAPI_CMD_DEBUG_FILE,
184                 "debug_file",
185                 "debugging filename)",
186                 ENGINE_CMD_FLAG_STRING},
187         {CAPI_CMD_KEYTYPE,
188                 "key_type",
189                 "Key type: 1=AT_KEYEXCHANGE (default), 2=AT_SIGNATURE",
190                 ENGINE_CMD_FLAG_NUMERIC},
191         {CAPI_CMD_LIST_CSPS,
192                 "list_csps",
193                 "List all CSPs",
194                 ENGINE_CMD_FLAG_NO_INPUT},
195         {CAPI_CMD_SET_CSP_IDX,
196                 "csp_idx",
197                 "Set CSP by index",
198                 ENGINE_CMD_FLAG_NUMERIC},
199         {CAPI_CMD_SET_CSP_NAME,
200                 "csp_name",
201                 "Set CSP name, (default CSP used if not specified)",
202                 ENGINE_CMD_FLAG_STRING},
203         {CAPI_CMD_SET_CSP_TYPE,
204                 "csp_type",
205                 "Set CSP type, (default RSA_PROV_FULL)",
206                 ENGINE_CMD_FLAG_NUMERIC},
207         {CAPI_CMD_LIST_CONTAINERS,
208                 "list_containers",
209                 "list container names",
210                 ENGINE_CMD_FLAG_NO_INPUT},
211         {CAPI_CMD_LIST_OPTIONS,
212                 "list_options",
213                 "Set list options (1=summary,2=friendly name, 4=full printout, 8=PEM output, 16=XXX, "
214                 "32=private key info)",
215                 ENGINE_CMD_FLAG_NUMERIC},
216         {CAPI_CMD_LOOKUP_METHOD,
217                 "lookup_method",
218                 "Set key lookup method (1=substring, 2=friendlyname, 3=container name)",
219                 ENGINE_CMD_FLAG_NUMERIC},
220
221         {0, NULL, NULL, 0}
222         };
223
224 static int capi_idx = -1;
225 static int rsa_capi_idx = -1;
226
227 static int capi_ctrl(ENGINE *e, int cmd, long i, void *p, void (*f)(void))
228 {
229         int ret = 1;
230         CAPI_CTX *ctx;
231         BIO *out;
232         if (capi_idx == -1)
233                 {
234                 CAPIerr(CAPI_F_CAPI_CTRL, CAPI_R_ENGINE_NOT_INITIALIZED);
235                 return 0;
236                 }
237         ctx = ENGINE_get_ex_data(e, capi_idx);
238         out = BIO_new_fp(stdout, BIO_NOCLOSE);
239         switch (cmd)
240                 {
241                 case CAPI_CMD_LIST_CSPS:
242                 ret = capi_list_providers(ctx, out);
243                 break;
244
245                 case CAPI_CMD_LIST_CERTS:
246                 ret = capi_list_certs(ctx, out, NULL);
247                 break;
248
249                 case CAPI_CMD_LOOKUP_CERT:
250                 ret = capi_list_certs(ctx, out, p);
251                 break;
252
253                 case CAPI_CMD_LIST_CONTAINERS:
254                 ret = capi_list_containers(ctx, out);
255                 break;
256
257                 case CAPI_CMD_DEBUG_LEVEL:
258                 ctx->debug_level = (int)i;
259                 CAPI_trace(ctx, "Setting debug level to %d\n", ctx->debug_level);
260                 break;
261
262                 case CAPI_CMD_DEBUG_FILE:
263                 ctx->debug_file = BUF_strdup(p);
264                 CAPI_trace(ctx, "Setting debug file to %s\n", ctx->debug_file);
265                 break;
266
267                 case CAPI_CMD_KEYTYPE:
268                 ctx->keytype = i;
269                 CAPI_trace(ctx, "Setting key type to %d\n", ctx->keytype);
270                 break;
271
272                 case CAPI_CMD_SET_CSP_IDX:
273                 ret = capi_ctx_set_provname_idx(ctx, i);
274                 break;
275
276                 case CAPI_CMD_LIST_OPTIONS:
277                 ctx->dump_flags = i;
278                 break;
279
280                 case CAPI_CMD_LOOKUP_METHOD:
281                 if (i < 1 || i > 3)
282                         {
283                         CAPIerr(CAPI_F_CAPI_CTRL, CAPI_R_INVALID_LOOKUP_METHOD);
284                         return 0;
285                         }
286                 ctx->lookup_method = i;
287                 break;
288
289                 case CAPI_CMD_SET_CSP_NAME:
290                 ret = capi_ctx_set_provname(ctx, p, ctx->csptype, 1);
291                 break;
292
293                 case CAPI_CMD_SET_CSP_TYPE:
294                 ctx->csptype = i;
295                 break;
296
297                 default:
298                 CAPIerr(CAPI_F_CAPI_CTRL, CAPI_R_UNKNOWN_COMMAND);
299                 ret = 0;
300         }
301
302         BIO_free(out);
303         return ret;
304
305 }
306
307 static RSA_METHOD capi_rsa_method =
308         {
309         "CryptoAPI RSA method",
310         0,                              /* pub_enc */
311         0,                              /* pub_dec */
312         capi_rsa_priv_enc,      /* priv_enc */
313         capi_rsa_priv_dec,      /* priv_dec */
314         0,                              /* rsa_mod_exp */
315         0,                              /* bn_mod_exp */
316         0,                              /* init */
317         capi_rsa_free,  /* finish */
318         RSA_FLAG_SIGN_VER, /* flags */
319         NULL,                   /* app_data */
320         capi_rsa_sign,  /* rsa_sign */
321         0                               /* rsa_verify */
322         };
323
324 static void capi_ex_free(void *obj, void *item, CRYPTO_EX_DATA *ad,
325         int ind,long argl, void *argp)
326         {
327 /*fprintf(stderr, "Called capi_ex_free obj=%lx, idx=%d, item=%lx\n", obj, ind, item);*/
328         capi_ctx_free(item);
329         }
330
331 static void capi_rsa_ex_free(void *obj, void *item, CRYPTO_EX_DATA *ad,
332         int ind,long argl, void *argp)
333         {
334 /*fprintf(stderr, "Called capi_rsa_free_key\n");*/
335
336         capi_free_key(item);
337         }
338
339 static int capi_init(ENGINE *e)
340         {
341         CAPI_CTX *ctx;
342         const RSA_METHOD *ossl_meth;
343         capi_idx = ENGINE_get_ex_new_index(0, NULL, NULL, NULL, /*capi_ex_free*/ 0);
344
345         ctx = capi_ctx_new();
346         if (!ctx || (capi_idx < 0))
347                 goto memerr;
348
349         ENGINE_set_ex_data(e, capi_idx, ctx);
350         /* Setup RSA_METHOD */
351         rsa_capi_idx = RSA_get_ex_new_index(0, NULL, NULL, NULL, /*capi_rsa_ex_free*/ 0);
352         ossl_meth = RSA_PKCS1_SSLeay();
353         capi_rsa_method.rsa_pub_enc = ossl_meth->rsa_pub_enc;
354         capi_rsa_method.rsa_pub_dec = ossl_meth->rsa_pub_dec;
355         capi_rsa_method.rsa_mod_exp = ossl_meth->rsa_mod_exp;
356         capi_rsa_method.bn_mod_exp = ossl_meth->bn_mod_exp;
357
358         return 1;
359
360         memerr:
361         CAPIerr(CAPI_F_CAPI_INIT, ERR_R_MALLOC_FAILURE);
362         return 0;
363
364         return 1;
365         }
366
367 static int capi_destroy(ENGINE *e)
368         {
369
370         ERR_unload_CAPI_strings();
371         return 1;
372         }
373
374 static int capi_finish(ENGINE *e)
375         {
376         CAPI_CTX *ctx;
377         ctx = ENGINE_get_ex_data(e, capi_idx);
378         capi_ctx_free(ctx);
379         ENGINE_set_ex_data(e, capi_idx, NULL);
380         return 1;
381         }
382
383
384 /* CryptoAPI key application data. This contains
385  * a handle to the private key container (for sign operations)
386  * and a handle to the key (for decrypt operations).
387  */
388
389 struct CAPI_KEY_st
390         {
391         HCRYPTPROV hprov;
392         HCRYPTKEY key;
393         };
394
395 static int bind_capi(ENGINE *e)
396         {
397         if (!ENGINE_set_id(e, engine_capi_id)
398                 || !ENGINE_set_name(e, engine_capi_name)
399                 || !ENGINE_set_init_function(e, capi_init)
400                 || !ENGINE_set_finish_function(e, capi_finish)
401                 || !ENGINE_set_destroy_function(e, capi_destroy)
402                 || !ENGINE_set_RSA(e, &capi_rsa_method)
403                 || !ENGINE_set_load_privkey_function(e, capi_load_privkey)
404                 || !ENGINE_set_cmd_defns(e, capi_cmd_defns)
405                 || !ENGINE_set_ctrl_function(e, capi_ctrl))
406                         return 0;
407         ERR_load_CAPI_strings();
408
409         return 1;
410
411         }
412
413 #ifndef OPENSSL_NO_DYNAMIC_ENGINE
414 static int bind_helper(ENGINE *e, const char *id)
415         {
416         if(id && (strcmp(id, engine_capi_id) != 0))
417                 return 0;
418         if(!bind_capi(e))
419                 return 0;
420         return 1;
421         }       
422 IMPLEMENT_DYNAMIC_CHECK_FN()
423 IMPLEMENT_DYNAMIC_BIND_FN(bind_helper)
424 #else
425 static ENGINE *engine_capi(void)
426         {
427         ENGINE *ret = ENGINE_new();
428         if(!ret)
429                 return NULL;
430         if(!bind_capi(ret))
431                 {
432                 ENGINE_free(ret);
433                 return NULL;
434                 }
435         return ret;
436         }
437
438 void ENGINE_load_capi(void)
439         {
440         /* Copied from eng_[openssl|dyn].c */
441         ENGINE *toadd = engine_capi();
442         if(!toadd) return;
443         ENGINE_add(toadd);
444         ENGINE_free(toadd);
445         ERR_clear_error();
446         }
447 #endif
448
449 static EVP_PKEY *capi_load_privkey(ENGINE *eng, const char *key_id,
450         UI_METHOD *ui_method, void *callback_data)
451         {
452         EVP_PKEY *ret = NULL;
453         CAPI_CTX *ctx;
454         CAPI_KEY *key;
455         unsigned char *pubkey = NULL;
456         DWORD len, i, rsa_modlen;
457         BLOBHEADER *bh;
458         RSAPUBKEY *rp;
459         unsigned char *rsa_modulus;
460         RSA *rkey = NULL;
461         ctx = ENGINE_get_ex_data(eng, capi_idx);
462
463         if (!ctx)
464                 {
465                 CAPIerr(CAPI_F_CAPI_LOAD_PRIVKEY, CAPI_R_CANT_FIND_CAPI_CONTEXT);
466                 return NULL;
467                 }
468
469         key = capi_find_key(ctx, key_id);
470
471         if (!key)
472                 return NULL;
473
474         len = 0;
475         if (!CryptExportKey(key->key, 0, PUBLICKEYBLOB, 0, NULL, &len))
476                 {
477                 CAPIerr(CAPI_F_CAPI_LOAD_PRIVKEY, CAPI_R_PUBKEY_EXPORT_LENGTH_ERROR);
478                 capi_addlasterror();
479                 return NULL;
480                 }
481
482         pubkey = OPENSSL_malloc(len);
483
484         if (!pubkey)
485                 goto memerr;
486
487         if (!CryptExportKey(key->key, 0, PUBLICKEYBLOB, 0, pubkey, &len))
488                 {
489                 CAPIerr(CAPI_F_CAPI_LOAD_PRIVKEY, CAPI_R_PUBKEY_EXPORT_ERROR);
490                 capi_addlasterror();
491                 goto err;
492                 }
493
494         bh = (BLOBHEADER *)pubkey;
495         rp = (RSAPUBKEY *)(bh + 1);
496         rsa_modulus = (unsigned char *)(rp + 1);
497         rkey = RSA_new_method(eng);
498         if (!rkey)
499                 goto memerr;
500
501         rkey->e = BN_new();
502         rkey->n = BN_new();
503
504         if (!rkey->e || !rkey->n)
505                 goto memerr;
506
507         if (!BN_set_word(rkey->e, rp->pubexp))
508                 goto memerr;
509
510         rsa_modlen = rp->bitlen / 8;
511
512         for(i = 0; i < rsa_modlen / 2; i++)
513                 {
514                 unsigned char c;
515                 c = rsa_modulus[i];
516                 rsa_modulus[i] = rsa_modulus[rsa_modlen - i - 1];
517                 rsa_modulus[rsa_modlen - i - 1] = c;
518                 }
519
520         if (!BN_bin2bn(rsa_modulus, rsa_modlen, rkey->n))
521                 goto memerr;
522
523         RSA_set_ex_data(rkey, rsa_capi_idx, key);
524
525         if (!(ret = EVP_PKEY_new()))
526                 goto memerr;
527
528         EVP_PKEY_assign_RSA(ret, rkey);
529
530         err:
531         if (pubkey)
532                 OPENSSL_free(pubkey);
533         if (!ret)
534                 {
535                 if (rkey)
536                         RSA_free(rkey);
537                 if (key)
538                         capi_free_key(key);
539                 }
540
541         return ret;
542
543 memerr:
544         CAPIerr(CAPI_F_CAPI_LOAD_PRIVKEY, ERR_R_MALLOC_FAILURE);
545         goto err;
546
547         }
548
549 /* CryptoAPI RSA operations */
550
551 int capi_rsa_priv_enc(int flen, const unsigned char *from,
552                 unsigned char *to, RSA *rsa, int padding)
553         {
554         CAPIerr(CAPI_F_CAPI_RSA_PRIV_ENC, CAPI_R_FUNCTION_NOT_SUPPORTED);
555         return -1;
556         }
557
558 int capi_rsa_sign(int dtype, const unsigned char *m, unsigned int m_len,
559              unsigned char *sigret, unsigned int *siglen, const RSA *rsa)
560         {
561         ALG_ID alg;
562         HCRYPTHASH hash;
563         DWORD slen;
564         unsigned int i;
565         int ret = -1;
566         CAPI_KEY *capi_key;
567         CAPI_CTX *ctx;
568
569         ctx = ENGINE_get_ex_data(rsa->engine, capi_idx);
570
571         CAPI_trace(ctx, "Called CAPI_rsa_sign()\n");
572
573         capi_key = RSA_get_ex_data(rsa, rsa_capi_idx);
574         if (!capi_key)
575                 {
576                 CAPIerr(CAPI_F_CAPI_RSA_SIGN, CAPI_R_CANT_GET_KEY);
577                 return -1;
578                 }
579 /* Convert the signature type to a CryptoAPI algorithm ID */
580         switch(dtype) {
581         case NID_sha1:
582                 alg = CALG_SHA1;
583                 break;
584
585         case NID_md5:
586                 alg = CALG_MD5;
587                 break;
588
589         case NID_md5_sha1:
590                 alg = CALG_SSL3_SHAMD5;
591                 break;
592         default:
593                 {
594                 char algstr[10];
595                 sprintf(algstr, "%lx", dtype);
596                 CAPIerr(CAPI_F_CAPI_RSA_SIGN, CAPI_R_UNSUPPORTED_ALGORITHM_NID);
597                 ERR_add_error_data(2, "NID=0x", algstr);
598                 return -1;
599                 }
600         }
601
602
603
604 /* Create the hash object */
605         if(!CryptCreateHash(capi_key->hprov, alg, 0, 0, &hash)) {
606                 CAPIerr(CAPI_F_CAPI_RSA_SIGN, CAPI_R_CANT_CREATE_HASH_OBJECT);
607                 capi_addlasterror();
608                 return -1;
609         }
610 /* Set the hash value to the value passed */
611
612         if(!CryptSetHashParam(hash, HP_HASHVAL, (unsigned char *)m, 0)) {
613                 CAPIerr(CAPI_F_CAPI_RSA_SIGN, CAPI_R_CANT_SET_HASH_VALUE);
614                 capi_addlasterror();
615                 goto err;
616         }
617
618
619 /* Finally sign it */
620         slen = RSA_size(rsa);
621         if(!CryptSignHash(hash, AT_KEYEXCHANGE, NULL, 0, sigret, &slen)) {
622                 CAPIerr(CAPI_F_CAPI_RSA_SIGN, CAPI_R_ERROR_SIGNING_HASH);
623                 capi_addlasterror();
624                 goto err;
625         } else {
626                 ret = 1;
627                 /* Inplace byte reversal of signature */
628                 for(i = 0; i < slen / 2; i++) {
629                         unsigned char c;
630                         c = sigret[i];
631                         sigret[i] = sigret[slen - i - 1];
632                         sigret[slen - i - 1] = c;
633                 }
634                 *siglen = slen;
635         }
636
637
638         /* Now cleanup */
639
640 err:
641         CryptDestroyHash(hash);
642
643         return ret;
644 }
645
646 int capi_rsa_priv_dec(int flen, const unsigned char *from,
647                 unsigned char *to, RSA *rsa, int padding)
648 {
649         int i;
650         unsigned char *tmpbuf;
651         CAPI_KEY *capi_key;
652         CAPI_CTX *ctx;
653         ctx = ENGINE_get_ex_data(rsa->engine, capi_idx);
654
655         CAPI_trace(ctx, "Called capi_rsa_priv_dec()\n");
656
657
658         capi_key = RSA_get_ex_data(rsa, rsa_capi_idx);
659         if (!capi_key)
660                 {
661                 CAPIerr(CAPI_F_CAPI_RSA_DECRYPT, CAPI_R_CANT_GET_KEY);
662                 return -1;
663                 }
664
665         if(padding != RSA_PKCS1_PADDING)
666                 {
667                 char errstr[10];
668                 sprintf(errstr, "%d", padding);
669                 CAPIerr(CAPI_F_CAPI_RSA_DECRYPT, CAPI_R_UNSUPPORTED_PADDING);
670                 ERR_add_error_data(2, "padding=", errstr);
671                 return -1;
672                 }
673
674         /* Create temp reverse order version of input */
675         if(!(tmpbuf = OPENSSL_malloc(flen)) ) 
676                 {
677                 CAPIerr(CAPI_F_CAPI_RSA_DECRYPT, ERR_R_MALLOC_FAILURE);
678                 return -1;
679                 }
680         for(i = 0; i < flen; i++) tmpbuf[flen - i - 1] = from[i];
681         
682         /* Finally decrypt it */
683         if(!CryptDecrypt(capi_key->key, 0, TRUE, 0, tmpbuf, &flen))
684                 {
685                 CAPIerr(CAPI_F_CAPI_RSA_DECRYPT, CAPI_R_DECRYPT_ERROR);
686                 capi_addlasterror();
687                 OPENSSL_free(tmpbuf);
688                 return -1;
689                 } 
690         else memcpy(to, tmpbuf, flen);
691
692         OPENSSL_free(tmpbuf);
693
694         return flen;
695 }
696
697 static int capi_rsa_free(RSA *rsa)
698         {
699         CAPI_KEY *capi_key;
700         capi_key = RSA_get_ex_data(rsa, rsa_capi_idx);
701         capi_free_key(capi_key);
702         RSA_set_ex_data(rsa, rsa_capi_idx, 0);
703         return 1;
704         }
705
706 static void capi_vtrace(CAPI_CTX *ctx, int level, char *format, va_list argptr)
707         {
708         BIO *out;
709
710         if (!ctx || (ctx->debug_level < level) || (!ctx->debug_file))
711                 return;
712         out = BIO_new_file(ctx->debug_file, "a+");
713         BIO_vprintf(out, format, argptr);
714         BIO_free(out);
715         }
716
717 static void CAPI_trace(CAPI_CTX *ctx, char *format, ...)
718         {
719         va_list args;
720         va_start(args, format);
721         capi_vtrace(ctx, CAPI_DBG_TRACE, format, args);
722         va_end(args);
723         }
724
725 static void capi_addlasterror(void)
726         {
727         capi_adderror(GetLastError());
728         }
729
730 static void capi_adderror(DWORD err)
731         {
732         char errstr[10];
733         sprintf(errstr, "%lX", err);
734         ERR_add_error_data(2, "Error code= 0x", errstr);
735         }
736
737 static char *wide_to_asc(LPWSTR wstr)
738         {
739         char *str;
740         if (!wstr)
741                 return NULL;
742         str = OPENSSL_malloc(wcslen(wstr) + 1);
743         if (!str)
744                 {
745                 CAPIerr(CAPI_F_WIDE_TO_ASC, ERR_R_MALLOC_FAILURE);
746                 return NULL;
747                 }
748         sprintf(str, "%S", wstr);
749         return str;
750         }
751
752 static int capi_get_provname(CAPI_CTX *ctx, LPSTR *pname, DWORD *ptype, DWORD idx)
753         {
754         LPSTR name;
755         DWORD len, err;
756         CAPI_trace(ctx, "capi_get_provname, index=%d\n", idx);
757         if (!CryptEnumProviders(idx, NULL, 0, ptype, NULL, &len))
758                 {
759                 err = GetLastError();
760                 if (err == ERROR_NO_MORE_ITEMS)
761                         return 2;
762                 CAPIerr(CAPI_F_CAPI_GET_PROVNAME, CAPI_R_CRYPTENUMPROVIDERS_ERROR);
763                 capi_adderror(err);
764                 return 0;
765                 }
766         name = OPENSSL_malloc(len);
767                 if (!CryptEnumProviders(idx, NULL, 0, ptype, name, &len))
768                 {
769                 err = GetLastError();
770                 if (err == ERROR_NO_MORE_ITEMS)
771                         return 2;
772                 CAPIerr(CAPI_F_CAPI_GET_PROVNAME, CAPI_R_CRYPTENUMPROVIDERS_ERROR);
773                 capi_adderror(err);
774                 return 0;
775                 }
776         *pname = name;
777         CAPI_trace(ctx, "capi_get_provname, returned name=%s, type=%d\n", name, *ptype);
778
779         return 1;
780         }
781
782 static int capi_list_providers(CAPI_CTX *ctx, BIO *out)
783         {
784         DWORD idx, ptype;
785         int ret;
786         LPTSTR provname = NULL;
787         CAPI_trace(ctx, "capi_list_providers\n");
788         BIO_printf(out, "Available CSPs:\n");
789         for(idx = 0; ; idx++)
790                 {
791                 ret = capi_get_provname(ctx, &provname, &ptype, idx);
792                 if (ret == 2)
793                         break;
794                 if (ret == 0)
795                         break;
796                 BIO_printf(out, "%d. %s, type %d\n", idx, provname, ptype);
797                 OPENSSL_free(provname);
798                 }
799         return 1;
800         }
801
802 static int capi_list_containers(CAPI_CTX *ctx, BIO *out)
803         {
804         int ret = 1;
805         HCRYPTPROV hprov;
806         DWORD err, idx, flags, buflen = 0, clen;
807         LPSTR cname;
808         CAPI_trace(ctx, "Listing containers CSP=%s, type = %d\n", ctx->cspname, ctx->csptype);
809         if (!CryptAcquireContext(&hprov, NULL, ctx->cspname, ctx->csptype, CRYPT_VERIFYCONTEXT))
810                 {
811                 CAPIerr(CAPI_F_CAPI_LIST_CONTAINERS, CAPI_R_CRYPTACQUIRECONTEXT_ERROR);
812                 capi_addlasterror();
813                 return 0;
814                 }
815         if (!CryptGetProvParam(hprov, PP_ENUMCONTAINERS, NULL, &buflen, CRYPT_FIRST))
816                 {
817                 CAPIerr(CAPI_F_CAPI_LIST_CONTAINERS, CAPI_R_ENUMCONTAINERS_ERROR);
818                 capi_addlasterror();
819                 return 0;
820                 }
821         CAPI_trace(ctx, "Got max container len %d\n", buflen);
822         if (buflen == 0)
823                 buflen = 1024;
824         cname = OPENSSL_malloc(buflen);
825         if (!cname)
826                 {
827                 CAPIerr(CAPI_F_CAPI_LIST_CONTAINERS, ERR_R_MALLOC_FAILURE);
828                 goto err;
829                 }
830
831         for (idx = 0;;idx++)
832                 {
833                         clen = buflen;
834                         cname[0] = 0;
835
836                         if (idx == 0)
837                                 flags = CRYPT_FIRST;
838                         else
839                                 flags = 0;
840                         if(!CryptGetProvParam(hprov, PP_ENUMCONTAINERS, cname, &clen, flags))
841                                 {
842                                 err = GetLastError();
843                                 if (err == ERROR_NO_MORE_ITEMS)
844                                         goto done;
845                                 CAPIerr(CAPI_F_CAPI_LIST_CONTAINERS, CAPI_R_ENUMCONTAINERS_ERROR);
846                                 capi_adderror(err);
847                                 goto err;
848                                 }
849                         CAPI_trace(ctx, "Container name %s, len=%d, index=%d, flags=%d\n", cname, clen, idx, flags);
850                         if (!cname[0] && (clen == buflen))
851                                 {
852                                 CAPI_trace(ctx, "Enumerate bug: using workaround\n");
853                                 goto done;
854                                 }
855                         BIO_printf(out, "%d. %s\n", idx, cname);
856                 }
857         err:
858
859         ret = 0;
860
861         done:
862         if (cname)
863                 OPENSSL_free(cname);
864         CryptReleaseContext(hprov, 0);
865
866         return ret;
867         }
868
869 CRYPT_KEY_PROV_INFO *capi_get_prov_info(CAPI_CTX *ctx, PCCERT_CONTEXT cert)
870         {
871         DWORD len;
872         CRYPT_KEY_PROV_INFO *pinfo;
873         
874         if(!CertGetCertificateContextProperty(cert, CERT_KEY_PROV_INFO_PROP_ID, NULL, &len))
875                 return NULL;
876         pinfo = OPENSSL_malloc(len);
877         if (!pinfo)
878                 {
879                 CAPIerr(CAPI_F_CAPI_GET_PROV_INFO, ERR_R_MALLOC_FAILURE);
880                 return NULL;
881                 }
882         if(!CertGetCertificateContextProperty(cert, CERT_KEY_PROV_INFO_PROP_ID, pinfo, &len))
883                 {
884                 CAPIerr(CAPI_F_CAPI_GET_PROV_INFO, CAPI_R_ERROR_GETTING_KEY_PROVIDER_INFO);
885                 capi_addlasterror();
886                 OPENSSL_free(pinfo);
887                 return NULL;
888                 }
889         return pinfo;
890         }
891
892 static void capi_dump_prov_info(CAPI_CTX *ctx, BIO *out, CRYPT_KEY_PROV_INFO *pinfo)
893         {
894         char *provname = NULL, *contname = NULL;
895         if (!pinfo)
896                 {
897                 BIO_printf(out, "  No Private Key\n");
898                 return;
899                 }
900         provname = wide_to_asc(pinfo->pwszProvName);
901         contname = wide_to_asc(pinfo->pwszContainerName);
902         if (!provname || !contname)
903                 goto err;
904
905         BIO_printf(out, "  Private Key Info:\n");
906         BIO_printf(out, "    Provider Name:  %s, Provider Type %d\n", provname, pinfo->dwProvType);
907         BIO_printf(out, "    Container Name: %s, Key Type %d\n", contname, pinfo->dwKeySpec);
908         err:
909         if (provname)
910                 OPENSSL_free(provname);
911         if (contname)
912                 OPENSSL_free(contname);
913         }
914
915 char * capi_cert_get_fname(CAPI_CTX *ctx, PCCERT_CONTEXT cert)
916         {
917         LPWSTR wfname;
918         DWORD dlen;
919
920         CAPI_trace(ctx, "capi_cert_get_fname\n");
921         if (!CertGetCertificateContextProperty(cert, CERT_FRIENDLY_NAME_PROP_ID, NULL, &dlen))
922                 return NULL;
923         wfname = OPENSSL_malloc(dlen);
924         if (CertGetCertificateContextProperty(cert, CERT_FRIENDLY_NAME_PROP_ID, wfname, &dlen))
925                 {
926                 char *fname = wide_to_asc(wfname);
927                 OPENSSL_free(wfname);
928                 return fname;
929                 }
930         CAPIerr(CAPI_F_CAPI_CERT_GET_FNAME, CAPI_R_ERROR_GETTING_FRIENDLY_NAME);
931         capi_addlasterror();
932
933         OPENSSL_free(wfname);
934         return NULL;
935         }
936
937
938 void capi_dump_cert(CAPI_CTX *ctx, BIO *out, PCCERT_CONTEXT cert)
939         {
940         X509 *x;
941         unsigned char *p;
942         unsigned long flags = ctx->dump_flags;
943         if (flags & CAPI_DMP_FNAME)
944                 {
945                 char *fname;
946                 fname = capi_cert_get_fname(ctx, cert);
947                 if (fname)
948                         {
949                         BIO_printf(out, "  Friendly Name \"%s\"\n", fname);
950                         OPENSSL_free(fname);
951                         }
952                 else
953                         BIO_printf(out, "  <No Friendly Name>\n");
954                 }
955
956         p = cert->pbCertEncoded;
957         x = d2i_X509(NULL, &p, cert->cbCertEncoded);
958         if (!x)
959                 BIO_printf(out, "  <Can't parse certificate>\n");
960         if (flags & CAPI_DMP_SUMMARY)
961                 {
962                 BIO_printf(out, "  Subject: ");
963                 X509_NAME_print_ex(out, X509_get_subject_name(x), 0, XN_FLAG_ONELINE);
964                 BIO_printf(out, "\n  Issuer: ");
965                 X509_NAME_print_ex(out, X509_get_issuer_name(x), 0, XN_FLAG_ONELINE);
966                 BIO_printf(out, "\n");
967                 }
968         if (flags & CAPI_DMP_FULL)
969                 X509_print_ex(out, x, XN_FLAG_ONELINE,0);
970
971         if (flags & CAPI_DMP_PKEYINFO)
972                 {
973                 CRYPT_KEY_PROV_INFO *pinfo;
974                 pinfo = capi_get_prov_info(ctx, cert);
975                 capi_dump_prov_info(ctx, out, pinfo);
976                 if (pinfo)
977                         OPENSSL_free(pinfo);
978                 }
979
980         if (flags & CAPI_DMP_PEM)
981                 PEM_write_bio_X509(out, x);
982         X509_free(x);
983         }
984
985 HCERTSTORE capi_open_store(CAPI_CTX *ctx, char *storename)
986         {
987         HCERTSTORE hstore;
988
989         if (!storename)
990                 storename = ctx->storename;
991         if (!storename)
992                 storename = "MY";
993         CAPI_trace(ctx, "Opening certificate store %s\n", storename);
994
995         hstore = CertOpenSystemStore(0, storename);
996         if (!hstore)
997                 {
998                 CAPIerr(CAPI_F_CAPI_OPEN_STORE, CAPI_R_ERROR_OPENING_STORE);
999                 capi_addlasterror();
1000                 }
1001         return hstore;
1002         }
1003
1004 int capi_list_certs(CAPI_CTX *ctx, BIO *out, char *id)
1005         {
1006         char *storename;
1007         int idx;
1008         int ret = 1;
1009         HCERTSTORE hstore;
1010         PCCERT_CONTEXT cert = NULL;
1011
1012         storename = ctx->storename;
1013         if (!storename)
1014                 storename = "MY";
1015         CAPI_trace(ctx, "Listing certs for store %s\n", storename);
1016
1017         hstore = capi_open_store(ctx, storename);
1018         if (!hstore)
1019                 return 0;
1020         if (id)
1021                 {
1022                 cert = capi_find_cert(ctx, id, hstore);
1023                 if (!cert)
1024                         {
1025                         ret = 0;
1026                         goto err;
1027                         }
1028                 capi_dump_cert(ctx, out, cert);
1029                 CertFreeCertificateContext(cert);
1030                 }
1031         else
1032                 {
1033                 for(idx = 0;;idx++)
1034                         {
1035                         LPWSTR fname = NULL;
1036                         cert = CertEnumCertificatesInStore(hstore, cert);
1037                         if (!cert)
1038                                 break;
1039                         BIO_printf(out, "Certificate %d\n", idx);
1040                         capi_dump_cert(ctx, out, cert);
1041                         }
1042                 }
1043         err:
1044         CertCloseStore(hstore, 0);
1045         return ret;
1046         }
1047
1048 static PCCERT_CONTEXT capi_find_cert(CAPI_CTX *ctx, const char *id, HCERTSTORE hstore)
1049         {
1050         PCCERT_CONTEXT cert = NULL;
1051         char *fname = NULL;
1052         int match;
1053         switch(ctx->lookup_method)
1054                 {
1055                 case CAPI_LU_SUBSTR:
1056                         return CertFindCertificateInStore(hstore, X509_ASN_ENCODING, 0, 
1057                                                                                         CERT_FIND_SUBJECT_STR_A, id, NULL);
1058                 case CAPI_LU_FNAME:
1059                         for(;;)
1060                                 {
1061                                 cert = CertEnumCertificatesInStore(hstore, cert);
1062                                 if (!cert)
1063                                         return NULL;
1064                                 fname = capi_cert_get_fname(ctx, cert);
1065                                 if (fname)
1066                                         {
1067                                         if (strcmp(fname, id))
1068                                                 match = 0;
1069                                         else
1070                                                 match = 1;
1071                                         OPENSSL_free(fname);
1072                                         if (match)
1073                                                 return cert;
1074                                         }
1075                                 }
1076                 default:
1077                         return NULL;
1078                 }
1079         }
1080
1081 static CAPI_KEY *capi_get_key(CAPI_CTX *ctx, const char *contname, char *provname, DWORD ptype, DWORD keyspec)
1082         {
1083         CAPI_KEY *key;
1084         key = OPENSSL_malloc(sizeof(CAPI_KEY));
1085         CAPI_trace(ctx, "capi_get_key, contname=%s, provname=%s, type=%d\n", 
1086                                                                                                                         contname, provname, ptype);
1087         if (!CryptAcquireContext(&key->hprov, contname, provname, ptype, 0))
1088                 {
1089                 CAPIerr(CAPI_F_CAPI_GET_KEY, CAPI_R_CRYPTACQUIRECONTEXT_ERROR);
1090                 capi_addlasterror();
1091                 goto err;
1092                 }
1093         if (!CryptGetUserKey(key->hprov, keyspec, &key->key))
1094                 {
1095                 CAPIerr(CAPI_F_CAPI_GET_KEY, CAPI_R_GETUSERKEY_ERROR);
1096                 capi_addlasterror();
1097                 CryptReleaseContext(key->hprov, 0);
1098                 goto err;
1099                 }
1100         return key;
1101
1102         err:
1103         OPENSSL_free(key);
1104         return NULL;
1105         }
1106
1107 static CAPI_KEY *capi_get_cert_key(CAPI_CTX *ctx, PCCERT_CONTEXT cert)
1108         {
1109         CAPI_KEY *key;
1110         CRYPT_KEY_PROV_INFO *pinfo = NULL;
1111         char *provname = NULL, *contname = NULL;
1112         pinfo = capi_get_prov_info(ctx, cert);
1113         if (!pinfo)
1114                 goto err;
1115         provname = wide_to_asc(pinfo->pwszProvName);
1116         contname = wide_to_asc(pinfo->pwszContainerName);
1117         if (!provname || !contname)
1118                 return 0;
1119
1120         key = capi_get_key(ctx, contname, provname, pinfo->dwProvType, pinfo->dwKeySpec);
1121
1122         err:
1123         if (pinfo)
1124                 OPENSSL_free(pinfo);
1125         if (provname)
1126                 OPENSSL_free(provname);
1127         if (contname)
1128                 OPENSSL_free(contname);
1129         return key;
1130         }
1131
1132 CAPI_KEY *capi_find_key(CAPI_CTX *ctx, const char *id)
1133         {
1134         PCCERT_CONTEXT cert;
1135         HCERTSTORE hstore;
1136         CAPI_KEY *key = NULL;
1137         switch (ctx->lookup_method)
1138                 {
1139                 case CAPI_LU_SUBSTR:
1140                 case CAPI_LU_FNAME:
1141                 hstore = capi_open_store(ctx, NULL);
1142                 if (!hstore)
1143                         return NULL;
1144                 cert = capi_find_cert(ctx, id, hstore);
1145                 if (cert)
1146                         {
1147                         key = capi_get_cert_key(ctx, cert);
1148                         CertFreeCertificateContext(cert);
1149                         }
1150                 CertCloseStore(hstore, 0);
1151                 break;
1152
1153                 case CAPI_LU_CONTNAME:
1154                 key = capi_get_key(ctx, id, ctx->cspname, ctx->csptype, ctx->keytype);
1155                 break;
1156                 }
1157
1158         return key;
1159         }
1160
1161 void capi_free_key(CAPI_KEY *key)
1162         {
1163         if (!key)
1164                 return;
1165         CryptDestroyKey(key->key);
1166         CryptReleaseContext(key->hprov, 0);
1167         OPENSSL_free(key);
1168         }
1169
1170
1171 /* Initialize a CAPI_CTX structure */
1172
1173 static CAPI_CTX *capi_ctx_new()
1174         {
1175         CAPI_CTX *ctx;
1176         ctx = OPENSSL_malloc(sizeof(CAPI_CTX));
1177         if (!ctx)
1178                 {
1179                 CAPIerr(CAPI_F_CAPI_CTX_NEW, ERR_R_MALLOC_FAILURE);
1180                 return NULL;
1181                 }
1182         ctx->cspname = NULL;
1183         ctx->csptype = PROV_RSA_FULL;
1184         ctx->dump_flags = CAPI_DMP_SUMMARY|CAPI_DMP_FNAME;
1185         ctx->keytype = AT_KEYEXCHANGE;
1186         ctx->storename = NULL;
1187         ctx->lookup_method = CAPI_LU_SUBSTR;
1188         ctx->debug_level = 0;
1189         ctx->debug_file = NULL;
1190         return ctx;
1191         }
1192
1193 static void capi_ctx_free(CAPI_CTX *ctx)
1194         {
1195         CAPI_trace(ctx, "Calling capi_ctx_free with %lx\n", ctx);
1196         if (!ctx)
1197                 return;
1198         if (ctx->cspname)
1199                 OPENSSL_free(ctx->cspname);
1200         if (ctx->debug_file)
1201                 OPENSSL_free(ctx->debug_file);
1202         if (ctx->storename)
1203                 OPENSSL_free(ctx->storename);
1204         OPENSSL_free(ctx);
1205         }
1206
1207 static int capi_ctx_set_provname(CAPI_CTX *ctx, LPSTR pname, DWORD type, int check)
1208         {
1209         CAPI_trace(ctx, "capi_ctx_set_provname, name=%s, type=%d\n", pname, type);
1210         if (check)
1211                 {
1212                 HCRYPTPROV hprov;
1213                 if (!CryptAcquireContext(&hprov, NULL, pname, type, CRYPT_VERIFYCONTEXT))
1214                         {
1215                         CAPIerr(CAPI_F_CAPI_CTX_SET_PROVNAME, CAPI_R_CRYPTACQUIRECONTEXT_ERROR);
1216                         capi_addlasterror();
1217                         return 0;
1218                         }
1219                 CryptReleaseContext(hprov, 0);
1220                 }
1221         ctx->cspname = BUF_strdup(pname);
1222         ctx->csptype = type;
1223         return 1;
1224         }
1225
1226 static int capi_ctx_set_provname_idx(CAPI_CTX *ctx, int idx)
1227         {
1228         LPSTR pname;
1229         DWORD type;
1230         if (capi_get_provname(ctx, &pname, &type, idx) != 1)
1231                 return 0;
1232         return capi_ctx_set_provname(ctx, pname, type, 0);
1233         }
1234
1235 #endif
1236 #endif