CryptoAPI ENGINE... initial version, not compiled in yet.
[oweals/openssl.git] / engines / e_capi.c
1 /* engines/e_capi.c */
2 /* Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL
3  * project.
4  */
5 /* ====================================================================
6  * Copyright (c) 2008 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer. 
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  */
53
54
55 #include <stdio.h>
56 #include <string.h>
57 #include <openssl/crypto.h>
58 #include <openssl/buffer.h>
59 #include <openssl/engine.h>
60 #include <openssl/rsa.h>
61 #include <openssl/bn.h>
62 #include <openssl/pem.h>
63
64 #ifdef OPENSSL_SYS_WIN32
65 #ifndef OPENSSL_NO_CAPIENG
66
67 #ifndef _WIN32_WINNT
68 #define _WIN32_WINNT 0x400
69 #endif
70
71 #include <windows.h>
72 #include <wincrypt.h>
73
74 #include "e_capi_err.h"
75 #include "e_capi_err.c"
76
77
78 static const char *engine_capi_id = "capi";
79 static const char *engine_capi_name = "CryptoAPI ENGINE";
80
81 typedef struct CAPI_CTX_st CAPI_CTX;
82 typedef struct CAPI_KEY_st CAPI_KEY;
83
84 static void capi_addlasterror(void);
85 static void capi_adderror(DWORD err);
86
87 static void CAPI_trace(CAPI_CTX *ctx, char *format, ...);
88
89 static int capi_list_providers(CAPI_CTX *ctx, BIO *out);
90 static int capi_list_containers(CAPI_CTX *ctx, BIO *out);
91 int capi_list_certs(CAPI_CTX *ctx, BIO *out, char *storename);
92 void capi_free_key(CAPI_KEY *key);
93
94 static PCCERT_CONTEXT capi_find_cert(CAPI_CTX *ctx, const char *id, HCERTSTORE hstore);
95
96 CAPI_KEY *capi_find_key(CAPI_CTX *ctx, const char *id);
97
98 static EVP_PKEY *capi_load_privkey(ENGINE *eng, const char *key_id,
99         UI_METHOD *ui_method, void *callback_data);
100 static int capi_rsa_sign(int dtype, const unsigned char *m, unsigned int m_len,
101              unsigned char *sigret, unsigned int *siglen, const RSA *rsa);
102 static int capi_rsa_priv_enc(int flen, const unsigned char *from,
103                 unsigned char *to, RSA *rsa, int padding);
104 static int capi_rsa_priv_dec(int flen, const unsigned char *from,
105                 unsigned char *to, RSA *rsa, int padding);
106 static int capi_rsa_free(RSA *rsa);
107
108 /* This structure contains CAPI ENGINE specific data:
109  * it contains various global options and affects how
110  * other functions behave.
111  */
112
113 #define CAPI_DBG_TRACE  2
114 #define CAPI_DBG_ERROR  1
115
116 struct CAPI_CTX_st {
117         int debug_level;
118         char *debug_file;
119         /* Parameters to use for container lookup */
120         DWORD keytype;
121         LPTSTR cspname;
122         DWORD csptype;
123         /* Certificate store name to use */
124         LPTSTR storename;
125
126 /* Lookup string meanings in load_private_key */
127 /* Substring of subject: uses "storename" */
128 #define CAPI_LU_SUBSTR          0
129 /* Friendly name: uses storename */
130 #define CAPI_LU_FNAME           1
131 /* Container name: uses cspname, keytype */
132 #define CAPI_LU_CONTNAME        2
133         int lookup_method;
134 /* Info to dump with dumpcerts option */
135 /* Issuer and serial name strings */
136 #define CAPI_DMP_SUMMARY        0x1
137 /* Friendly name */
138 #define CAPI_DMP_FNAME          0x2
139 /* Full X509_print dump */
140 #define CAPI_DMP_FULL           0x4
141 /* Dump PEM format certificate */
142 #define CAPI_DMP_PEM            0x8
143 /* Dump pseudo key (if possible) */
144 #define CAPI_DMP_PSKEY          0x10
145 /* Dump key info (if possible) */
146 #define CAPI_DMP_PKEYINFO       0x20
147
148         DWORD dump_flags;
149 };
150
151
152 static CAPI_CTX *capi_ctx_new();
153 static void capi_ctx_free(CAPI_CTX *ctx);
154 static int capi_ctx_set_provname(CAPI_CTX *ctx, LPSTR pname, DWORD type, int check);
155 static int capi_ctx_set_provname_idx(CAPI_CTX *ctx, int idx);
156
157 #define CAPI_CMD_LIST_CERTS                     ENGINE_CMD_BASE
158 #define CAPI_CMD_LOOKUP_CERT            (ENGINE_CMD_BASE + 1)
159 #define CAPI_CMD_DEBUG_LEVEL            (ENGINE_CMD_BASE + 2)
160 #define CAPI_CMD_DEBUG_FILE                     (ENGINE_CMD_BASE + 3)
161 #define CAPI_CMD_KEYTYPE                        (ENGINE_CMD_BASE + 4)
162 #define CAPI_CMD_LIST_CSPS                      (ENGINE_CMD_BASE + 5)
163 #define CAPI_CMD_SET_CSP_IDX            (ENGINE_CMD_BASE + 6)
164 #define CAPI_CMD_SET_CSP_NAME           (ENGINE_CMD_BASE + 7)
165 #define CAPI_CMD_SET_CSP_TYPE           (ENGINE_CMD_BASE + 8)
166 #define CAPI_CMD_LIST_CONTAINERS        (ENGINE_CMD_BASE + 9)
167 #define CAPI_CMD_LIST_OPTIONS           (ENGINE_CMD_BASE + 10)
168 #define CAPI_CMD_LOOKUP_METHOD          (ENGINE_CMD_BASE + 11)
169
170 static const ENGINE_CMD_DEFN capi_cmd_defns[] = {
171         {CAPI_CMD_LIST_CERTS,
172                 "list_certs",
173                 "List all certificates in store",
174                 ENGINE_CMD_FLAG_NO_INPUT},
175         {CAPI_CMD_LOOKUP_CERT,
176                 "lookup_cert",
177                 "Lookup and output certificates",
178                 ENGINE_CMD_FLAG_STRING},
179         {CAPI_CMD_DEBUG_LEVEL,
180                 "debug_level",
181                 "debug level (1=errors, 2=trace)",
182                 ENGINE_CMD_FLAG_NUMERIC},
183         {CAPI_CMD_DEBUG_FILE,
184                 "debug_file",
185                 "debugging filename)",
186                 ENGINE_CMD_FLAG_STRING},
187         {CAPI_CMD_KEYTYPE,
188                 "key_type",
189                 "Key type: 1=AT_KEYEXCHANGE (default), 2=AT_SIGNATURE",
190                 ENGINE_CMD_FLAG_NUMERIC},
191         {CAPI_CMD_LIST_CSPS,
192                 "list_csps",
193                 "List all CSPs",
194                 ENGINE_CMD_FLAG_NO_INPUT},
195         {CAPI_CMD_SET_CSP_IDX,
196                 "csp_idx",
197                 "Set CSP by index",
198                 ENGINE_CMD_FLAG_NUMERIC},
199         {CAPI_CMD_SET_CSP_NAME,
200                 "csp_name",
201                 "Set CSP name, (default CSP used if not specified)",
202                 ENGINE_CMD_FLAG_STRING},
203         {CAPI_CMD_SET_CSP_TYPE,
204                 "csp_type",
205                 "Set CSP type, (default RSA_PROV_FULL)",
206                 ENGINE_CMD_FLAG_NUMERIC},
207         {CAPI_CMD_LIST_CONTAINERS,
208                 "list_containers",
209                 "list container names",
210                 ENGINE_CMD_FLAG_NO_INPUT},
211         {CAPI_CMD_LIST_OPTIONS,
212                 "list_options",
213                 "Set list options (1=summary,2=friendly name, 4=full printout, 8=PEM output, 16=XXX, "
214                 "32=private key info)",
215                 ENGINE_CMD_FLAG_NUMERIC},
216         {CAPI_CMD_LOOKUP_METHOD,
217                 "lookup_method",
218                 "Set key lookup method (1=substring, 2=friendlyname, 3=container name)",
219                 ENGINE_CMD_FLAG_NUMERIC},
220
221         {0, NULL, NULL, 0}
222         };
223
224 static int capi_idx = -1;
225 static int rsa_capi_idx = -1;
226
227 static int capi_ctrl(ENGINE *e, int cmd, long i, void *p, void (*f)(void))
228 {
229         int ret = 1;
230         CAPI_CTX *ctx;
231         BIO *out;
232         if (capi_idx == -1)
233                 {
234                 CAPIerr(CAPI_F_CAPI_CTRL, CAPI_R_ENGINE_NOT_INITIALIZED);
235                 return 0;
236                 }
237         ctx = ENGINE_get_ex_data(e, capi_idx);
238         out = BIO_new_fp(stdout, BIO_NOCLOSE);
239         switch (cmd)
240                 {
241                 case CAPI_CMD_LIST_CSPS:
242                 ret = capi_list_providers(ctx, out);
243                 break;
244
245                 case CAPI_CMD_LIST_CERTS:
246                 ret = capi_list_certs(ctx, out, NULL);
247                 break;
248
249                 case CAPI_CMD_LOOKUP_CERT:
250                 ret = capi_list_certs(ctx, out, p);
251                 break;
252
253                 case CAPI_CMD_LIST_CONTAINERS:
254                 ret = capi_list_containers(ctx, out);
255                 break;
256
257                 case CAPI_CMD_DEBUG_LEVEL:
258                 ctx->debug_level = (int)i;
259                 CAPI_trace(ctx, "Setting debug level to %d\n", ctx->debug_level);
260                 break;
261
262                 case CAPI_CMD_DEBUG_FILE:
263                 ctx->debug_file = BUF_strdup(p);
264                 CAPI_trace(ctx, "Setting debug file to %s\n", ctx->debug_file);
265                 break;
266
267                 case CAPI_CMD_KEYTYPE:
268                 ctx->keytype = i;
269                 CAPI_trace(ctx, "Setting key type to %d\n", ctx->keytype);
270                 break;
271
272                 case CAPI_CMD_SET_CSP_IDX:
273                 ret = capi_ctx_set_provname_idx(ctx, i);
274                 break;
275
276                 case CAPI_CMD_LIST_OPTIONS:
277                 ctx->dump_flags = i;
278                 break;
279
280                 case CAPI_CMD_LOOKUP_METHOD:
281                 if (i < 1 || i > 3)
282                         {
283                         CAPIerr(CAPI_F_CAPI_CTRL, CAPI_R_INVALID_LOOKUP_METHOD);
284                         return 0;
285                         }
286                 ctx->lookup_method = i;
287                 break;
288
289                 case CAPI_CMD_SET_CSP_NAME:
290                 ret = capi_ctx_set_provname(ctx, p, ctx->csptype, 1);
291                 break;
292
293                 case CAPI_CMD_SET_CSP_TYPE:
294                 ctx->csptype = i;
295                 break;
296
297                 default:
298                 CAPIerr(CAPI_F_CAPI_CTRL, CAPI_R_UNKNOWN_COMMAND);
299                 ret = 0;
300         }
301
302         BIO_free(out);
303         return ret;
304
305 }
306
307 static RSA_METHOD capi_rsa_method =
308         {
309         "CryptoAPI RSA method",
310         0,                              /* pub_enc */
311         0,                              /* pub_dec */
312         capi_rsa_priv_enc,      /* priv_enc */
313         capi_rsa_priv_dec,      /* priv_dec */
314         0,                              /* rsa_mod_exp */
315         0,                              /* bn_mod_exp */
316         0,                              /* init */
317         capi_rsa_free,  /* finish */
318         RSA_FLAG_SIGN_VER, /* flags */
319         NULL,                   /* app_data */
320         capi_rsa_sign,  /* rsa_sign */
321         0                               /* rsa_verify */
322         };
323
324 static void capi_ex_free(void *obj, void *item, CRYPTO_EX_DATA *ad,
325         int ind,long argl, void *argp)
326         {
327 //fprintf(stderr, "Called capi_ex_free obj=%lx, idx=%d, item=%lx\n", obj, ind, item);
328         capi_ctx_free(item);
329         }
330
331 static void capi_rsa_ex_free(void *obj, void *item, CRYPTO_EX_DATA *ad,
332         int ind,long argl, void *argp)
333         {
334 //fprintf(stderr, "Called capi_rsa_free_key\n");
335
336         capi_free_key(item);
337         }
338
339 static int capi_init(ENGINE *e)
340         {
341         CAPI_CTX *ctx;
342         const RSA_METHOD *ossl_meth;
343         capi_idx = ENGINE_get_ex_new_index(0, NULL, NULL, NULL, /*capi_ex_free*/ 0);
344
345         ctx = capi_ctx_new();
346         if (!ctx || (capi_idx < 0))
347                 goto memerr;
348
349         ENGINE_set_ex_data(e, capi_idx, ctx);
350         /* Setup RSA_METHOD */
351         rsa_capi_idx = RSA_get_ex_new_index(0, NULL, NULL, NULL, /*capi_rsa_ex_free*/ 0);
352         ossl_meth = RSA_PKCS1_SSLeay();
353         capi_rsa_method.rsa_pub_enc = ossl_meth->rsa_pub_enc;
354         capi_rsa_method.rsa_pub_dec = ossl_meth->rsa_pub_dec;
355         capi_rsa_method.rsa_mod_exp = ossl_meth->rsa_mod_exp;
356         capi_rsa_method.bn_mod_exp = ossl_meth->bn_mod_exp;
357
358         return 1;
359
360         memerr:
361         CAPIerr(CAPI_F_CAPI_INIT, ERR_R_MALLOC_FAILURE);
362         return 0;
363
364         return 1;
365         }
366
367 static int capi_destroy(ENGINE *e)
368         {
369
370         ERR_unload_CAPI_strings();
371         return 1;
372         }
373
374 static int capi_finish(ENGINE *e)
375         {
376         CAPI_CTX *ctx;
377         ctx = ENGINE_get_ex_data(e, capi_idx);
378         capi_ctx_free(ctx);
379         ENGINE_set_ex_data(e, capi_idx, NULL);
380         return 1;
381         }
382
383
384 /* CryptoAPI key application data. This contains
385  * a handle to the private key container (for sign operations)
386  * and a handle to the key (for decrypt operations).
387  */
388
389 struct CAPI_KEY_st
390         {
391         HCRYPTPROV hprov;
392         HCRYPTKEY key;
393         };
394
395
396 static int capi_bind_fn(ENGINE *e, const char *id)
397         {
398         if (id && strcmp(id, engine_capi_id))
399                 return 0;
400         if (!ENGINE_set_id(e, engine_capi_id)
401                 || !ENGINE_set_name(e, engine_capi_name)
402                 || !ENGINE_set_init_function(e, capi_init)
403                 || !ENGINE_set_finish_function(e, capi_finish)
404                 || !ENGINE_set_destroy_function(e, capi_destroy)
405                 || !ENGINE_set_RSA(e, &capi_rsa_method)
406                 || !ENGINE_set_load_privkey_function(e, capi_load_privkey)
407                 || !ENGINE_set_cmd_defns(e, capi_cmd_defns)
408                 || !ENGINE_set_ctrl_function(e, capi_ctrl))
409                         return 0;
410         ERR_load_CAPI_strings();
411
412         return 1;
413
414         }
415
416
417 IMPLEMENT_DYNAMIC_CHECK_FN()
418 IMPLEMENT_DYNAMIC_BIND_FN(capi_bind_fn)
419
420 static EVP_PKEY *capi_load_privkey(ENGINE *eng, const char *key_id,
421         UI_METHOD *ui_method, void *callback_data)
422         {
423         EVP_PKEY *ret = NULL;
424         CAPI_CTX *ctx;
425         CAPI_KEY *key;
426         unsigned char *pubkey = NULL;
427         DWORD len, i, rsa_modlen;
428         BLOBHEADER *bh;
429         RSAPUBKEY *rp;
430         unsigned char *rsa_modulus;
431         RSA *rkey = NULL;
432         ctx = ENGINE_get_ex_data(eng, capi_idx);
433
434         if (!ctx)
435                 {
436                 CAPIerr(CAPI_F_CAPI_LOAD_PRIVKEY, CAPI_R_CANT_FIND_CAPI_CONTEXT);
437                 return NULL;
438                 }
439
440         key = capi_find_key(ctx, key_id);
441
442         if (!key)
443                 return NULL;
444
445         len = 0;
446         if (!CryptExportKey(key->key, 0, PUBLICKEYBLOB, 0, NULL, &len))
447                 {
448                 CAPIerr(CAPI_F_CAPI_LOAD_PRIVKEY, CAPI_R_PUBKEY_EXPORT_LENGTH_ERROR);
449                 capi_addlasterror();
450                 return NULL;
451                 }
452
453         pubkey = OPENSSL_malloc(len);
454
455         if (!pubkey)
456                 goto memerr;
457
458         if (!CryptExportKey(key->key, 0, PUBLICKEYBLOB, 0, pubkey, &len))
459                 {
460                 CAPIerr(CAPI_F_CAPI_LOAD_PRIVKEY, CAPI_R_PUBKEY_EXPORT_ERROR);
461                 capi_addlasterror();
462                 goto err;
463                 }
464
465         bh = (BLOBHEADER *)pubkey;
466         rp = (RSAPUBKEY *)(bh + 1);
467         rsa_modulus = (unsigned char *)(rp + 1);
468         rkey = RSA_new_method(eng);
469         if (!rkey)
470                 goto memerr;
471
472         rkey->e = BN_new();
473         rkey->n = BN_new();
474
475         if (!rkey->e || !rkey->n)
476                 goto memerr;
477
478         if (!BN_set_word(rkey->e, rp->pubexp))
479                 goto memerr;
480
481         rsa_modlen = rp->bitlen / 8;
482
483         for(i = 0; i < rsa_modlen / 2; i++)
484                 {
485                 unsigned char c;
486                 c = rsa_modulus[i];
487                 rsa_modulus[i] = rsa_modulus[rsa_modlen - i - 1];
488                 rsa_modulus[rsa_modlen - i - 1] = c;
489                 }
490
491         if (!BN_bin2bn(rsa_modulus, rsa_modlen, rkey->n))
492                 goto memerr;
493
494         RSA_set_ex_data(rkey, rsa_capi_idx, key);
495
496         if (!(ret = EVP_PKEY_new()))
497                 goto memerr;
498
499         EVP_PKEY_assign_RSA(ret, rkey);
500
501         err:
502         if (pubkey)
503                 OPENSSL_free(pubkey);
504         if (!ret)
505                 {
506                 if (rkey)
507                         RSA_free(rkey);
508                 if (key)
509                         capi_free_key(key);
510                 }
511
512         return ret;
513
514 memerr:
515         CAPIerr(CAPI_F_CAPI_LOAD_PRIVKEY, ERR_R_MALLOC_FAILURE);
516         goto err;
517
518         }
519
520 /* CryptoAPI RSA operations */
521
522 int capi_rsa_priv_enc(int flen, const unsigned char *from,
523                 unsigned char *to, RSA *rsa, int padding)
524         {
525         CAPIerr(CAPI_F_CAPI_RSA_PRIV_ENC, CAPI_R_FUNCTION_NOT_SUPPORTED);
526         return -1;
527         }
528
529 int capi_rsa_sign(int dtype, const unsigned char *m, unsigned int m_len,
530              unsigned char *sigret, unsigned int *siglen, const RSA *rsa)
531         {
532         ALG_ID alg;
533         HCRYPTHASH hash;
534         DWORD slen;
535         unsigned int i;
536         int ret = -1;
537         CAPI_KEY *capi_key;
538         CAPI_CTX *ctx;
539
540         ctx = ENGINE_get_ex_data(rsa->engine, capi_idx);
541
542         CAPI_trace(ctx, "Called CAPI_rsa_sign()\n");
543
544         capi_key = RSA_get_ex_data(rsa, rsa_capi_idx);
545         if (!capi_key)
546                 {
547                 CAPIerr(CAPI_F_CAPI_RSA_SIGN, CAPI_R_CANT_GET_KEY);
548                 return -1;
549                 }
550 /* Convert the signature type to a CryptoAPI algorithm ID */
551         switch(dtype) {
552         case NID_sha1:
553                 alg = CALG_SHA1;
554                 break;
555
556         case NID_md5:
557                 alg = CALG_MD5;
558                 break;
559
560         case NID_md5_sha1:
561                 alg = CALG_SSL3_SHAMD5;
562                 break;
563         default:
564                 {
565                 char algstr[10];
566                 sprintf(algstr, "%lx", dtype);
567                 CAPIerr(CAPI_F_CAPI_RSA_SIGN, CAPI_R_UNSUPPORTED_ALGORITHM_NID);
568                 ERR_add_error_data(2, "NID=0x", algstr);
569                 return -1;
570                 }
571         }
572
573
574
575 /* Create the hash object */
576         if(!CryptCreateHash(capi_key->hprov, alg, 0, 0, &hash)) {
577                 CAPIerr(CAPI_F_CAPI_RSA_SIGN, CAPI_R_CANT_CREATE_HASH_OBJECT);
578                 capi_addlasterror();
579                 return -1;
580         }
581 /* Set the hash value to the value passed */
582
583         if(!CryptSetHashParam(hash, HP_HASHVAL, (unsigned char *)m, 0)) {
584                 CAPIerr(CAPI_F_CAPI_RSA_SIGN, CAPI_R_CANT_SET_HASH_VALUE);
585                 capi_addlasterror();
586                 goto err;
587         }
588
589
590 /* Finally sign it */
591         slen = RSA_size(rsa);
592         if(!CryptSignHash(hash, AT_KEYEXCHANGE, NULL, 0, sigret, &slen)) {
593                 CAPIerr(CAPI_F_CAPI_RSA_SIGN, CAPI_R_ERROR_SIGNING_HASH);
594                 capi_addlasterror();
595                 goto err;
596         } else {
597                 ret = 1;
598                 /* Inplace byte reversal of signature */
599                 for(i = 0; i < slen / 2; i++) {
600                         unsigned char c;
601                         c = sigret[i];
602                         sigret[i] = sigret[slen - i - 1];
603                         sigret[slen - i - 1] = c;
604                 }
605                 *siglen = slen;
606         }
607
608
609         /* Now cleanup */
610
611 err:
612         CryptDestroyHash(hash);
613
614         return ret;
615 }
616
617 int capi_rsa_priv_dec(int flen, const unsigned char *from,
618                 unsigned char *to, RSA *rsa, int padding)
619 {
620         int i;
621         unsigned char *tmpbuf;
622         CAPI_KEY *capi_key;
623         CAPI_CTX *ctx;
624         ctx = ENGINE_get_ex_data(rsa->engine, capi_idx);
625
626         CAPI_trace(ctx, "Called capi_rsa_priv_dec()\n");
627
628
629         capi_key = RSA_get_ex_data(rsa, rsa_capi_idx);
630         if (!capi_key)
631                 {
632                 CAPIerr(CAPI_F_CAPI_RSA_DECRYPT, CAPI_R_CANT_GET_KEY);
633                 return -1;
634                 }
635
636         if(padding != RSA_PKCS1_PADDING)
637                 {
638                 char errstr[10];
639                 sprintf(errstr, "%d", padding);
640                 CAPIerr(CAPI_F_CAPI_RSA_DECRYPT, CAPI_R_UNSUPPORTED_PADDING);
641                 ERR_add_error_data(2, "padding=", errstr);
642                 return -1;
643                 }
644
645         /* Create temp reverse order version of input */
646         if(!(tmpbuf = OPENSSL_malloc(flen)) ) 
647                 {
648                 CAPIerr(CAPI_F_CAPI_RSA_DECRYPT, ERR_R_MALLOC_FAILURE);
649                 return -1;
650                 }
651         for(i = 0; i < flen; i++) tmpbuf[flen - i - 1] = from[i];
652         
653         /* Finally decrypt it */
654         if(!CryptDecrypt(capi_key->key, 0, TRUE, 0, tmpbuf, &flen))
655                 {
656                 CAPIerr(CAPI_F_CAPI_RSA_DECRYPT, CAPI_R_DECRYPT_ERROR);
657                 capi_addlasterror();
658                 OPENSSL_free(tmpbuf);
659                 return -1;
660                 } 
661         else memcpy(to, tmpbuf, flen);
662
663         OPENSSL_free(tmpbuf);
664
665         return flen;
666 }
667
668 static int capi_rsa_free(RSA *rsa)
669         {
670         CAPI_KEY *capi_key;
671         capi_key = RSA_get_ex_data(rsa, rsa_capi_idx);
672         capi_free_key(capi_key);
673         RSA_set_ex_data(rsa, rsa_capi_idx, 0);
674         return 1;
675         }
676
677 static void capi_vtrace(CAPI_CTX *ctx, int level, char *format, va_list argptr)
678         {
679         BIO *out;
680
681         if (!ctx || (ctx->debug_level < level) || (!ctx->debug_file))
682                 return;
683         out = BIO_new_file(ctx->debug_file, "a+");
684         BIO_vprintf(out, format, argptr);
685         BIO_free(out);
686         }
687
688 static void CAPI_trace(CAPI_CTX *ctx, char *format, ...)
689         {
690         va_list args;
691         va_start(args, format);
692         capi_vtrace(ctx, CAPI_DBG_TRACE, format, args);
693         va_end(args);
694         }
695
696 static void capi_addlasterror(void)
697         {
698         capi_adderror(GetLastError());
699         }
700
701 static void capi_adderror(DWORD err)
702         {
703         char errstr[10];
704         sprintf(errstr, "%lX", err);
705         ERR_add_error_data(2, "Error code= 0x", errstr);
706         }
707
708 static char *wide_to_asc(LPWSTR wstr)
709         {
710         char *str;
711         if (!wstr)
712                 return NULL;
713         str = OPENSSL_malloc(wcslen(wstr) + 1);
714         if (!str)
715                 {
716                 CAPIerr(CAPI_F_WIDE_TO_ASC, ERR_R_MALLOC_FAILURE);
717                 return NULL;
718                 }
719         sprintf(str, "%S", wstr);
720         return str;
721         }
722
723 static int capi_get_provname(CAPI_CTX *ctx, LPSTR *pname, DWORD *ptype, DWORD idx)
724         {
725         LPSTR name;
726         DWORD len, err;
727         CAPI_trace(ctx, "capi_get_provname, index=%d\n", idx);
728         if (!CryptEnumProviders(idx, NULL, 0, ptype, NULL, &len))
729                 {
730                 err = GetLastError();
731                 if (err == ERROR_NO_MORE_ITEMS)
732                         return 2;
733                 CAPIerr(CAPI_F_CAPI_GET_PROVNAME, CAPI_R_CRYPTENUMPROVIDERS_ERROR);
734                 capi_adderror(err);
735                 return 0;
736                 }
737         name = OPENSSL_malloc(len);
738                 if (!CryptEnumProviders(idx, NULL, 0, ptype, name, &len))
739                 {
740                 err = GetLastError();
741                 if (err == ERROR_NO_MORE_ITEMS)
742                         return 2;
743                 CAPIerr(CAPI_F_CAPI_GET_PROVNAME, CAPI_R_CRYPTENUMPROVIDERS_ERROR);
744                 capi_adderror(err);
745                 return 0;
746                 }
747         *pname = name;
748         CAPI_trace(ctx, "capi_get_provname, returned name=%s, type=%d\n", name, *ptype);
749
750         return 1;
751         }
752
753 static int capi_list_providers(CAPI_CTX *ctx, BIO *out)
754         {
755         DWORD idx, ptype;
756         int ret;
757         LPTSTR provname = NULL;
758         CAPI_trace(ctx, "capi_list_providers\n");
759         BIO_printf(out, "Available CSPs:\n");
760         for(idx = 0; ; idx++)
761                 {
762                 ret = capi_get_provname(ctx, &provname, &ptype, idx);
763                 if (ret == 2)
764                         break;
765                 if (ret == 0)
766                         break;
767                 BIO_printf(out, "%d. %s, type %d\n", idx, provname, ptype);
768                 OPENSSL_free(provname);
769                 }
770         return 1;
771         }
772
773 static int capi_list_containers(CAPI_CTX *ctx, BIO *out)
774         {
775         int ret = 1;
776         HCRYPTPROV hprov;
777         DWORD err, idx, flags, buflen = 0, clen;
778         LPSTR cname;
779         CAPI_trace(ctx, "Listing containers CSP=%s, type = %d\n", ctx->cspname, ctx->csptype);
780         if (!CryptAcquireContext(&hprov, NULL, ctx->cspname, ctx->csptype, CRYPT_VERIFYCONTEXT))
781                 {
782                 CAPIerr(CAPI_F_CAPI_LIST_CONTAINERS, CAPI_R_CRYPTACQUIRECONTEXT_ERROR);
783                 capi_addlasterror();
784                 return 0;
785                 }
786         if (!CryptGetProvParam(hprov, PP_ENUMCONTAINERS, NULL, &buflen, CRYPT_FIRST))
787                 {
788                 CAPIerr(CAPI_F_CAPI_LIST_CONTAINERS, CAPI_R_ENUMCONTAINERS_ERROR);
789                 capi_addlasterror();
790                 return 0;
791                 }
792         CAPI_trace(ctx, "Got max container len %d\n", buflen);
793         if (buflen == 0)
794                 buflen = 1024;
795         cname = OPENSSL_malloc(buflen);
796         if (!cname)
797                 {
798                 CAPIerr(CAPI_F_CAPI_LIST_CONTAINERS, ERR_R_MALLOC_FAILURE);
799                 goto err;
800                 }
801
802         for (idx = 0;;idx++)
803                 {
804                         clen = buflen;
805                         cname[0] = 0;
806
807                         if (idx == 0)
808                                 flags = CRYPT_FIRST;
809                         else
810                                 flags = 0;
811                         if(!CryptGetProvParam(hprov, PP_ENUMCONTAINERS, cname, &clen, flags))
812                                 {
813                                 err = GetLastError();
814                                 if (err == ERROR_NO_MORE_ITEMS)
815                                         goto done;
816                                 CAPIerr(CAPI_F_CAPI_LIST_CONTAINERS, CAPI_R_ENUMCONTAINERS_ERROR);
817                                 capi_adderror(err);
818                                 goto err;
819                                 }
820                         CAPI_trace(ctx, "Container name %s, len=%d, index=%d, flags=%d\n", cname, clen, idx, flags);
821                         if (!cname[0] && (clen == buflen))
822                                 {
823                                 CAPI_trace(ctx, "Enumerate bug: using workaround\n");
824                                 goto done;
825                                 }
826                         BIO_printf(out, "%d. %s\n", idx, cname);
827                 }
828         err:
829
830         ret = 0;
831
832         done:
833         if (cname)
834                 OPENSSL_free(cname);
835         CryptReleaseContext(hprov, 0);
836
837         return ret;
838         }
839
840 CRYPT_KEY_PROV_INFO *capi_get_prov_info(CAPI_CTX *ctx, PCCERT_CONTEXT cert)
841         {
842         DWORD len;
843         CRYPT_KEY_PROV_INFO *pinfo;
844         
845         if(!CertGetCertificateContextProperty(cert, CERT_KEY_PROV_INFO_PROP_ID, NULL, &len))
846                 return NULL;
847         pinfo = OPENSSL_malloc(len);
848         if (!pinfo)
849                 {
850                 CAPIerr(CAPI_F_CAPI_GET_PROV_INFO, ERR_R_MALLOC_FAILURE);
851                 return NULL;
852                 }
853         if(!CertGetCertificateContextProperty(cert, CERT_KEY_PROV_INFO_PROP_ID, pinfo, &len))
854                 {
855                 CAPIerr(CAPI_F_CAPI_GET_PROV_INFO, CAPI_R_ERROR_GETTING_KEY_PROVIDER_INFO);
856                 capi_addlasterror();
857                 OPENSSL_free(pinfo);
858                 return NULL;
859                 }
860         return pinfo;
861         }
862
863 static void capi_dump_prov_info(CAPI_CTX *ctx, BIO *out, CRYPT_KEY_PROV_INFO *pinfo)
864         {
865         char *provname = NULL, *contname = NULL;
866         if (!pinfo)
867                 {
868                 BIO_printf(out, "  No Private Key\n");
869                 return;
870                 }
871         provname = wide_to_asc(pinfo->pwszProvName);
872         contname = wide_to_asc(pinfo->pwszContainerName);
873         if (!provname || !contname)
874                 goto err;
875
876         BIO_printf(out, "  Private Key Info:\n");
877         BIO_printf(out, "    Provider Name:  %s, Provider Type %d\n", provname, pinfo->dwProvType);
878         BIO_printf(out, "    Container Name: %s, Key Type %d\n", contname, pinfo->dwKeySpec);
879         err:
880         if (provname)
881                 OPENSSL_free(provname);
882         if (contname)
883                 OPENSSL_free(contname);
884         }
885
886 char * capi_cert_get_fname(CAPI_CTX *ctx, PCCERT_CONTEXT cert)
887         {
888         LPWSTR wfname;
889         DWORD dlen;
890
891         CAPI_trace(ctx, "capi_cert_get_fname\n");
892         if (!CertGetCertificateContextProperty(cert, CERT_FRIENDLY_NAME_PROP_ID, NULL, &dlen))
893                 return NULL;
894         wfname = OPENSSL_malloc(dlen);
895         if (CertGetCertificateContextProperty(cert, CERT_FRIENDLY_NAME_PROP_ID, wfname, &dlen))
896                 {
897                 char *fname = wide_to_asc(wfname);
898                 OPENSSL_free(wfname);
899                 return fname;
900                 }
901         CAPIerr(CAPI_F_CAPI_CERT_GET_FNAME, CAPI_R_ERROR_GETTING_FRIENDLY_NAME);
902         capi_addlasterror();
903
904         OPENSSL_free(wfname);
905         return NULL;
906         }
907
908
909 void capi_dump_cert(CAPI_CTX *ctx, BIO *out, PCCERT_CONTEXT cert)
910         {
911         X509 *x;
912         unsigned char *p;
913         unsigned long flags = ctx->dump_flags;
914         if (flags & CAPI_DMP_FNAME)
915                 {
916                 char *fname;
917                 fname = capi_cert_get_fname(ctx, cert);
918                 if (fname)
919                         {
920                         BIO_printf(out, "  Friendly Name \"%s\"\n", fname);
921                         OPENSSL_free(fname);
922                         }
923                 else
924                         BIO_printf(out, "  <No Friendly Name>\n");
925                 }
926
927         p = cert->pbCertEncoded;
928         x = d2i_X509(NULL, &p, cert->cbCertEncoded);
929         if (!x)
930                 BIO_printf(out, "  <Can't parse certificate>\n");
931         if (flags & CAPI_DMP_SUMMARY)
932                 {
933                 BIO_printf(out, "  Subject: ");
934                 X509_NAME_print_ex(out, X509_get_subject_name(x), 0, XN_FLAG_ONELINE);
935                 BIO_printf(out, "\n  Issuer: ");
936                 X509_NAME_print_ex(out, X509_get_issuer_name(x), 0, XN_FLAG_ONELINE);
937                 BIO_printf(out, "\n");
938                 }
939         if (flags & CAPI_DMP_FULL)
940                 X509_print_ex(out, x, XN_FLAG_ONELINE,0);
941
942         if (flags & CAPI_DMP_PKEYINFO)
943                 {
944                 CRYPT_KEY_PROV_INFO *pinfo;
945                 pinfo = capi_get_prov_info(ctx, cert);
946                 capi_dump_prov_info(ctx, out, pinfo);
947                 if (pinfo)
948                         OPENSSL_free(pinfo);
949                 }
950
951         if (flags & CAPI_DMP_PEM)
952                 PEM_write_bio_X509(out, x);
953         X509_free(x);
954         }
955
956 HCERTSTORE capi_open_store(CAPI_CTX *ctx, char *storename)
957         {
958         HCERTSTORE hstore;
959
960         if (!storename)
961                 storename = ctx->storename;
962         if (!storename)
963                 storename = "MY";
964         CAPI_trace(ctx, "Opening certificate store %s\n", storename);
965
966         hstore = CertOpenSystemStore(0, storename);
967         if (!hstore)
968                 {
969                 CAPIerr(CAPI_F_CAPI_OPEN_STORE, CAPI_R_ERROR_OPENING_STORE);
970                 capi_addlasterror();
971                 }
972         return hstore;
973         }
974
975 int capi_list_certs(CAPI_CTX *ctx, BIO *out, char *id)
976         {
977         char *storename;
978         int idx;
979         int ret = 1;
980         HCERTSTORE hstore;
981         PCCERT_CONTEXT cert = NULL;
982
983         storename = ctx->storename;
984         if (!storename)
985                 storename = "MY";
986         CAPI_trace(ctx, "Listing certs for store %s\n", storename);
987
988         hstore = capi_open_store(ctx, storename);
989         if (!hstore)
990                 return 0;
991         if (id)
992                 {
993                 cert = capi_find_cert(ctx, id, hstore);
994                 if (!cert)
995                         {
996                         ret = 0;
997                         goto err;
998                         }
999                 capi_dump_cert(ctx, out, cert);
1000                 CertFreeCertificateContext(cert);
1001                 }
1002         else
1003                 {
1004                 for(idx = 0;;idx++)
1005                         {
1006                         LPWSTR fname = NULL;
1007                         cert = CertEnumCertificatesInStore(hstore, cert);
1008                         if (!cert)
1009                                 break;
1010                         BIO_printf(out, "Certificate %d\n", idx);
1011                         capi_dump_cert(ctx, out, cert);
1012                         }
1013                 }
1014         err:
1015         CertCloseStore(hstore, 0);
1016         return ret;
1017         }
1018
1019 static PCCERT_CONTEXT capi_find_cert(CAPI_CTX *ctx, const char *id, HCERTSTORE hstore)
1020         {
1021         PCCERT_CONTEXT cert = NULL;
1022         char *fname = NULL;
1023         int match;
1024         switch(ctx->lookup_method)
1025                 {
1026                 case CAPI_LU_SUBSTR:
1027                         return CertFindCertificateInStore(hstore, X509_ASN_ENCODING, 0, 
1028                                                                                         CERT_FIND_SUBJECT_STR_A, id, NULL);
1029                 case CAPI_LU_FNAME:
1030                         for(;;)
1031                                 {
1032                                 cert = CertEnumCertificatesInStore(hstore, cert);
1033                                 if (!cert)
1034                                         return NULL;
1035                                 fname = capi_cert_get_fname(ctx, cert);
1036                                 if (fname)
1037                                         {
1038                                         if (strcmp(fname, id))
1039                                                 match = 0;
1040                                         else
1041                                                 match = 1;
1042                                         OPENSSL_free(fname);
1043                                         if (match)
1044                                                 return cert;
1045                                         }
1046                                 }
1047                 default:
1048                         return NULL;
1049                 }
1050         }
1051
1052 static CAPI_KEY *capi_get_key(CAPI_CTX *ctx, const char *contname, char *provname, DWORD ptype, DWORD keyspec)
1053         {
1054         CAPI_KEY *key;
1055         key = OPENSSL_malloc(sizeof(CAPI_KEY));
1056         CAPI_trace(ctx, "capi_get_key, contname=%s, provname=%s, type=%d\n", 
1057                                                                                                                         contname, provname, ptype);
1058         if (!CryptAcquireContext(&key->hprov, contname, provname, ptype, 0))
1059                 {
1060                 CAPIerr(CAPI_F_CAPI_GET_KEY, CAPI_R_CRYPTACQUIRECONTEXT_ERROR);
1061                 capi_addlasterror();
1062                 goto err;
1063                 }
1064         if (!CryptGetUserKey(key->hprov, keyspec, &key->key))
1065                 {
1066                 CAPIerr(CAPI_F_CAPI_GET_KEY, CAPI_R_GETUSERKEY_ERROR);
1067                 capi_addlasterror();
1068                 CryptReleaseContext(key->hprov, 0);
1069                 goto err;
1070                 }
1071         return key;
1072
1073         err:
1074         OPENSSL_free(key);
1075         return NULL;
1076         }
1077
1078 static CAPI_KEY *capi_get_cert_key(CAPI_CTX *ctx, PCCERT_CONTEXT cert)
1079         {
1080         CAPI_KEY *key;
1081         CRYPT_KEY_PROV_INFO *pinfo = NULL;
1082         char *provname = NULL, *contname = NULL;
1083         pinfo = capi_get_prov_info(ctx, cert);
1084         if (!pinfo)
1085                 goto err;
1086         provname = wide_to_asc(pinfo->pwszProvName);
1087         contname = wide_to_asc(pinfo->pwszContainerName);
1088         if (!provname || !contname)
1089                 return 0;
1090
1091         key = capi_get_key(ctx, contname, provname, pinfo->dwProvType, pinfo->dwKeySpec);
1092
1093         err:
1094         if (pinfo)
1095                 OPENSSL_free(pinfo);
1096         if (provname)
1097                 OPENSSL_free(provname);
1098         if (contname)
1099                 OPENSSL_free(contname);
1100         return key;
1101         }
1102
1103 CAPI_KEY *capi_find_key(CAPI_CTX *ctx, const char *id)
1104         {
1105         PCCERT_CONTEXT cert;
1106         HCERTSTORE hstore;
1107         CAPI_KEY *key = NULL;
1108         switch (ctx->lookup_method)
1109                 {
1110                 case CAPI_LU_SUBSTR:
1111                 case CAPI_LU_FNAME:
1112                 hstore = capi_open_store(ctx, NULL);
1113                 if (!hstore)
1114                         return NULL;
1115                 cert = capi_find_cert(ctx, id, hstore);
1116                 if (cert)
1117                         {
1118                         key = capi_get_cert_key(ctx, cert);
1119                         CertFreeCertificateContext(cert);
1120                         }
1121                 CertCloseStore(hstore, 0);
1122                 break;
1123
1124                 case CAPI_LU_CONTNAME:
1125                 key = capi_get_key(ctx, id, ctx->cspname, ctx->csptype, ctx->keytype);
1126                 break;
1127                 }
1128
1129         return key;
1130         }
1131
1132 void capi_free_key(CAPI_KEY *key)
1133         {
1134         if (!key)
1135                 return;
1136         CryptDestroyKey(key->key);
1137         CryptReleaseContext(key->hprov, 0);
1138         OPENSSL_free(key);
1139         }
1140
1141
1142 /* Initialize a CAPI_CTX structure */
1143
1144 static CAPI_CTX *capi_ctx_new()
1145         {
1146         CAPI_CTX *ctx;
1147         ctx = OPENSSL_malloc(sizeof(CAPI_CTX));
1148         if (!ctx)
1149                 {
1150                 CAPIerr(CAPI_F_CAPI_CTX_NEW, ERR_R_MALLOC_FAILURE);
1151                 return NULL;
1152                 }
1153         ctx->cspname = NULL;
1154         ctx->csptype = PROV_RSA_FULL;
1155         ctx->dump_flags = CAPI_DMP_SUMMARY|CAPI_DMP_FNAME;
1156         ctx->keytype = AT_KEYEXCHANGE;
1157         ctx->storename = NULL;
1158         ctx->lookup_method = CAPI_LU_SUBSTR;
1159         ctx->debug_level = 0;
1160         ctx->debug_file = NULL;
1161         return ctx;
1162         }
1163
1164 static void capi_ctx_free(CAPI_CTX *ctx)
1165         {
1166         CAPI_trace(ctx, "Calling capi_ctx_free with %lx\n", ctx);
1167         if (!ctx)
1168                 return;
1169         if (ctx->cspname)
1170                 OPENSSL_free(ctx->cspname);
1171         if (ctx->debug_file)
1172                 OPENSSL_free(ctx->debug_file);
1173         if (ctx->storename)
1174                 OPENSSL_free(ctx->storename);
1175         OPENSSL_free(ctx);
1176         }
1177
1178 static int capi_ctx_set_provname(CAPI_CTX *ctx, LPSTR pname, DWORD type, int check)
1179         {
1180         CAPI_trace(ctx, "capi_ctx_set_provname, name=%s, type=%d\n", pname, type);
1181         if (check)
1182                 {
1183                 HCRYPTPROV hprov;
1184                 if (!CryptAcquireContext(&hprov, NULL, pname, type, CRYPT_VERIFYCONTEXT))
1185                         {
1186                         CAPIerr(CAPI_F_CAPI_CTX_SET_PROVNAME, CAPI_R_CRYPTACQUIRECONTEXT_ERROR);
1187                         capi_addlasterror();
1188                         return 0;
1189                         }
1190                 CryptReleaseContext(hprov, 0);
1191                 }
1192         ctx->cspname = BUF_strdup(pname);
1193         ctx->csptype = type;
1194         return 1;
1195         }
1196
1197 static int capi_ctx_set_provname_idx(CAPI_CTX *ctx, int idx)
1198         {
1199         LPSTR pname;
1200         DWORD type;
1201         if (capi_get_provname(ctx, &pname, &type, idx) != 1)
1202                 return 0;
1203         return capi_ctx_set_provname(ctx, pname, type, 0);
1204         }
1205
1206 #endif
1207 #endif