-fix site of origin refs
[oweals/gnunet.git] / src / gns / gnunet-gns-proxy.c
1 /*
2      This file is part of GNUnet.
3      (C) 2012 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 #include "platform.h"
22 #include <gnunet_util_lib.h>
23 #include <gnunet_gns_service.h>
24 #include <microhttpd.h>
25 #include <curl/curl.h>
26 #include <regex.h>
27 #include "gns_proxy_proto.h"
28 #include "gns.h"
29
30 /** SSL **/
31 #include <gnutls/gnutls.h>
32 #include <gnutls/x509.h>
33 #include <gnutls/abstract.h>
34 #include <gnutls/crypto.h>
35 #include <time.h>
36
37 #define GNUNET_GNS_PROXY_PORT 7777
38 #define MHD_MAX_CONNECTIONS 300
39
40 /* MHD/cURL defines */
41 #define BUF_WAIT_FOR_CURL 0
42 #define BUF_WAIT_FOR_MHD 1
43 #define HTML_HDR_CONTENT "Content-Type: text/html"
44
45 /* regexp */
46 //#define RE_DOTPLUS "<a href=\"http://(([A-Za-z]+[.])+)([+])"
47 #define RE_A_HREF  "href=\"https?://(([A-Za-z0-9]+[.])+)([+]|[a-z]+)"
48 #define RE_N_MATCHES 4
49
50 /* The usual suspects */
51 #define HTTP_PORT 80
52 #define HTTPS_PORT 443
53
54
55 /**
56  * A structure for CA cert/key
57  */
58 struct ProxyCA
59 {
60   /* The certificate */
61   gnutls_x509_crt_t cert;
62
63   /* The private key */
64   gnutls_x509_privkey_t key;
65 };
66
67
68 /**
69  * Structure for GNS certificates
70  */
71 struct ProxyGNSCertificate
72 {
73   /* The certificate as PEM */
74   char cert[10 * 1024];
75
76   /* The private key as PEM */
77   char key[10 * 1024];
78 };
79
80
81 /**
82  * A structure for socks requests
83  */
84 struct Socks5Request
85 {
86   /* The client socket */
87   struct GNUNET_NETWORK_Handle *sock;
88
89   /* The server socket */
90   struct GNUNET_NETWORK_Handle *remote_sock;
91   
92   /* The socks state */
93   int state;
94   
95   /* Client socket read task */
96   GNUNET_SCHEDULER_TaskIdentifier rtask;
97
98   /* Server socket read task */
99   GNUNET_SCHEDULER_TaskIdentifier fwdrtask;
100
101   /* Client socket write task */
102   GNUNET_SCHEDULER_TaskIdentifier wtask;
103
104   /* Server socket write task */
105   GNUNET_SCHEDULER_TaskIdentifier fwdwtask;
106
107   /* Read buffer */
108   char rbuf[2048];
109
110   /* Write buffer */
111   char wbuf[2048];
112
113   /* Length of data in read buffer */
114   unsigned int rbuf_len;
115
116   /* Length of data in write buffer */
117   unsigned int wbuf_len;
118
119   /* This handle is scheduled for cleanup? */
120   int cleanup;
121
122   /* Shall we close the client socket on cleanup? */
123   int cleanup_sock;
124 };
125
126 /**
127  * DLL for Network Handles
128  */
129 struct NetworkHandleList
130 {
131   /*DLL*/
132   struct NetworkHandleList *next;
133
134   /*DLL*/
135   struct NetworkHandleList *prev;
136
137   /* The handle */
138   struct GNUNET_NETWORK_Handle *h;
139 };
140
141 /**
142  * A structure for all running Httpds
143  */
144 struct MhdHttpList
145 {
146   /* DLL for httpds */
147   struct MhdHttpList *prev;
148
149   /* DLL for httpds */
150   struct MhdHttpList *next;
151
152   /* is this an ssl daemon? */
153   int is_ssl;
154
155   /* the domain name to server (only important for SSL) */
156   char domain[256];
157
158   /* The daemon handle */
159   struct MHD_Daemon *daemon;
160
161   /* Optional proxy certificate used */
162   struct ProxyGNSCertificate *proxy_cert;
163
164   /* The task ID */
165   GNUNET_SCHEDULER_TaskIdentifier httpd_task;
166
167   /* Handles associated with this daemon */
168   struct NetworkHandleList *socket_handles_head;
169   
170   /* Handles associated with this daemon */
171   struct NetworkHandleList *socket_handles_tail;
172 };
173
174 /**
175  * A structure for MHD<->cURL streams
176  */
177 struct ProxyCurlTask
178 {
179   /* DLL for tasks */
180   struct ProxyCurlTask *prev;
181
182   /* DLL for tasks */
183   struct ProxyCurlTask *next;
184
185   /* Handle to cURL */
186   CURL *curl;
187
188   /* Optional header replacements for curl (LEHO) */
189   struct curl_slist *headers;
190
191   /* Optional resolver replacements for curl (LEHO) */
192   struct curl_slist *resolver;
193
194   /* curl response code */
195   long curl_response_code;
196
197   /* The URL to fetch */
198   char url[2048];
199
200   /* The cURL write buffer / MHD read buffer */
201   char buffer[CURL_MAX_WRITE_SIZE];
202
203   /* The pointer to the data in the buffer */
204   char *buffer_ptr;
205
206   /* The buffer status (BUF_WAIT_FOR_CURL or BUF_WAIT_FOR_MHD) */
207   int buf_status;
208
209   /* Number of bytes in buffer */
210   unsigned int bytes_in_buffer;
211
212   /* Indicates wheather the download is in progress */
213   int download_in_progress;
214
215   /* Indicates wheather the download was successful */
216   int download_successful;
217
218   /* Indicates wheather the download failed */
219   int download_error;
220
221   /* Indicates wheather we need to parse HTML */
222   int parse_content;
223
224   /* Indicates wheather we are postprocessing the HTML right now */
225   int is_postprocessing;
226
227   /* Indicates wheather postprocessing has finished */
228   int pp_finished;
229
230   /* Task ID of the postprocessing task */
231   GNUNET_SCHEDULER_TaskIdentifier pp_task;
232
233   /* The postprocessing buffer TODO length? */
234   char pp_buf[256];
235
236   /* The authority of the corresponding host (site of origin) */
237   char authority[256];
238
239   /* The hostname (Host header field) */
240   char host[256];
241
242   /* The LEgacy HOstname (can be empty) */
243   char leho[256];
244
245   /* The associated daemon list entry */
246   struct MhdHttpList *mhd;
247
248   /* The associated response */
249   struct MHD_Response *response;
250
251   /* Cookies to set */
252   struct ProxySetCookieHeader *set_cookies_head;
253
254   /* Cookies to set */
255   struct ProxySetCookieHeader *set_cookies_tail;
256
257   /* connection status */
258   int ready_to_queue;
259   
260   /* are we done */
261   int fin;
262
263   /* connection */
264   struct MHD_Connection *connection;
265   
266 };
267
268 /**
269  * Struct for set-cookies
270  */
271 struct ProxySetCookieHeader
272 {
273   /* DLL */
274   struct ProxySetCookieHeader *next;
275
276   /* DLL */
277   struct ProxySetCookieHeader *prev;
278
279   /* the cookie */
280   char *cookie;
281 };
282
283 /* The port the proxy is running on (default 7777) */
284 static unsigned long port = GNUNET_GNS_PROXY_PORT;
285
286 /* The CA file (pem) to use for the proxy CA */
287 static char* cafile_opt;
288
289 /* The listen socket of the proxy */
290 static struct GNUNET_NETWORK_Handle *lsock;
291
292 /* The listen task ID */
293 GNUNET_SCHEDULER_TaskIdentifier ltask;
294
295 /* The cURL download task */
296 GNUNET_SCHEDULER_TaskIdentifier curl_download_task;
297
298 /* The non SSL httpd daemon handle */
299 static struct MHD_Daemon *httpd;
300
301 /* Number of current mhd connections */
302 static unsigned int total_mhd_connections;
303
304 /* The cURL multi handle */
305 static CURLM *curl_multi;
306
307 /* Handle to the GNS service */
308 static struct GNUNET_GNS_Handle *gns_handle;
309
310 /* DLL for ProxyCurlTasks */
311 static struct ProxyCurlTask *ctasks_head;
312
313 /* DLL for ProxyCurlTasks */
314 static struct ProxyCurlTask *ctasks_tail;
315
316 /* DLL for http daemons */
317 static struct MhdHttpList *mhd_httpd_head;
318
319 /* DLL for http daemons */
320 static struct MhdHttpList *mhd_httpd_tail;
321
322 /* Handle to the regex for dotplus (.+) replacement in HTML */
323 static regex_t re_dotplus;
324
325 /* The users local GNS zone hash */
326 static struct GNUNET_CRYPTO_ShortHashCode local_gns_zone;
327
328 /* The users local private zone */
329 static struct GNUNET_CRYPTO_ShortHashCode local_private_zone;
330
331 /* The users local shorten zone */
332 static struct GNUNET_CRYPTO_ShortHashCode local_shorten_zone;
333
334 /* The CA for SSL certificate generation */
335 static struct ProxyCA proxy_ca;
336
337 /* UNIX domain socket for mhd */
338 struct GNUNET_NETWORK_Handle *mhd_unix_socket;
339
340 /* Shorten zone private key */
341 struct GNUNET_CRYPTO_RsaPrivateKey *shorten_zonekey;
342
343 /**
344  * Checks if name is in tld
345  *
346  * @param name the name to check
347  * @param tld the TLD to check for
348  * @return GNUNET_YES or GNUNET_NO
349  */
350 int
351 is_tld(const char* name, const char* tld)
352 {
353   int offset = 0;
354
355   if (strlen(name) <= strlen(tld))
356   {
357     return GNUNET_NO;
358   }
359
360   offset = strlen(name)-strlen(tld);
361   if (strcmp (name+offset, tld) != 0)
362   {
363     GNUNET_log(GNUNET_ERROR_TYPE_DEBUG,
364                "%s is not in .%s TLD\n", name, tld);
365     return GNUNET_NO;
366   }
367
368   return GNUNET_YES;
369 }
370
371
372 /**
373  * Read HTTP request header field 'Host'
374  *
375  * @param cls buffer to write to
376  * @param kind value kind
377  * @param key field key
378  * @param value field value
379  * @return MHD_NO when Host found
380  */
381 static int
382 con_val_iter (void *cls,
383               enum MHD_ValueKind kind,
384               const char *key,
385               const char *value)
386 {
387   struct ProxyCurlTask *ctask = (struct ProxyCurlTask *) cls;
388   char* buf = ctask->host;
389   char* cstr;
390   const char* hdr_val;
391
392   if (0 == strcmp ("Host", key))
393   {
394     strcpy (buf, value);
395     return MHD_YES;
396   }
397
398   if (0 == strcmp ("Accept-Encoding", key))
399     hdr_val = "";
400   else
401     hdr_val = value;
402
403   cstr = GNUNET_malloc (strlen (key) + strlen (hdr_val) + 3);
404   GNUNET_snprintf (cstr, strlen (key) + strlen (hdr_val) + 3,
405                    "%s: %s", key, hdr_val);
406
407   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
408               "Client Header: %s\n", cstr);
409
410   ctask->headers = curl_slist_append (ctask->headers, cstr);
411   GNUNET_free (cstr);
412
413   return MHD_YES;
414 }
415
416
417 /**
418  * Check HTTP response header for mime
419  *
420  * @param buffer curl buffer
421  * @param size curl blocksize
422  * @param nmemb curl blocknumber
423  * @param cls handle
424  * @return size of read bytes
425  */
426 static size_t
427 curl_check_hdr (void *buffer, size_t size, size_t nmemb, void *cls)
428 {
429   size_t bytes = size * nmemb;
430   struct ProxyCurlTask *ctask = cls;
431   int html_mime_len = strlen (HTML_HDR_CONTENT);
432   int cookie_hdr_len = strlen (MHD_HTTP_HEADER_SET_COOKIE);
433   char hdr_mime[html_mime_len+1];
434   char hdr_generic[bytes+1];
435   char new_cookie_hdr[bytes+strlen (ctask->leho)+1];
436   char* ndup;
437   char* tok;
438   char* cookie_domain;
439   char* hdr_type;
440   char* hdr_val;
441   int delta_cdomain;
442   size_t offset = 0;
443   
444   if (html_mime_len <= bytes)
445   {
446     memcpy (hdr_mime, buffer, html_mime_len);
447     hdr_mime[html_mime_len] = '\0';
448
449     if (0 == strcmp (hdr_mime, HTML_HDR_CONTENT))
450     {
451       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
452                   "Got HTML HTTP response header\n");
453       ctask->parse_content = GNUNET_YES;
454     }
455   }
456
457   if (cookie_hdr_len > bytes)
458     return bytes;
459
460   memcpy (hdr_generic, buffer, bytes);
461   hdr_generic[bytes] = '\0';
462   /*remove crlf*/
463   if (hdr_generic[bytes-1] == '\n')
464     hdr_generic[bytes-1] = '\0';
465
466   if (hdr_generic[bytes-2] == '\r')
467     hdr_generic[bytes-2] = '\0';
468   
469   if (0 == memcmp (hdr_generic,
470                    MHD_HTTP_HEADER_SET_COOKIE,
471                    cookie_hdr_len))
472   {
473     ndup = GNUNET_strdup (hdr_generic+cookie_hdr_len+1);
474     memset (new_cookie_hdr, 0, sizeof (new_cookie_hdr));
475     tok = strtok (ndup, ";");
476
477     GNUNET_log (GNUNET_ERROR_TYPE_INFO,
478                 "Looking for cookie in : %s\n", hdr_generic);
479     
480     for (; tok != NULL; tok = strtok (NULL, ";"))
481     {
482       GNUNET_log (GNUNET_ERROR_TYPE_INFO,
483                   "Got Cookie token: %s\n", tok);
484       //memcpy (new_cookie_hdr+offset, tok, strlen (tok));
485       if (0 == memcmp (tok, " domain", strlen (" domain")))
486       {
487         cookie_domain = tok + strlen (" domain") + 1;
488
489         GNUNET_log (GNUNET_ERROR_TYPE_INFO,
490                     "Got Set-Cookie Domain: %s\n", cookie_domain);
491
492         if (strlen (cookie_domain) < strlen (ctask->leho))
493         {
494           delta_cdomain = strlen (ctask->leho) - strlen (cookie_domain);
495           if (0 == strcmp (cookie_domain, ctask->leho + (delta_cdomain)))
496           {
497             GNUNET_snprintf (new_cookie_hdr+offset,
498                              sizeof (new_cookie_hdr),
499                              " domain=%s", ctask->authority);
500             offset += strlen (" domain=") + strlen (ctask->authority);
501             new_cookie_hdr[offset] = ';';
502             offset++;
503             continue;
504           }
505         }
506         else if (strlen (cookie_domain) == strlen (ctask->leho))
507         {
508           if (0 == strcmp (cookie_domain, ctask->leho))
509           {
510             GNUNET_snprintf (new_cookie_hdr+offset,
511                              sizeof (new_cookie_hdr),
512                              " domain=%s", ctask->host);
513             offset += strlen (" domain=") + strlen (ctask->host);
514             new_cookie_hdr[offset] = ';';
515             offset++;
516             continue;
517           }
518         }
519         GNUNET_log (GNUNET_ERROR_TYPE_INFO,
520                     "Cookie domain invalid\n");
521
522         
523       }
524       memcpy (new_cookie_hdr+offset, tok, strlen (tok));
525       offset += strlen (tok);
526       new_cookie_hdr[offset] = ';';
527       offset++;
528     }
529     
530     //memcpy (new_cookie_hdr+offset, tok, strlen (tok));
531
532     GNUNET_free (ndup);
533
534     GNUNET_log (GNUNET_ERROR_TYPE_INFO,
535                 "Got Set-Cookie HTTP header %s\n", new_cookie_hdr);
536
537     //pch = GNUNET_malloc (sizeof (struct ProxySetCookieHeader));
538     //len = strlen (hdr_cookie) - cookie_hdr_len - 1;
539     //pch->cookie = GNUNET_malloc (len + 1);
540     //memset (pch->cookie, 0, len + 1);
541     //memcpy (pch->cookie, hdr_cookie+cookie_hdr_len+1, len);
542     //GNUNET_CONTAINER_DLL_insert (ctask->set_cookies_head,
543     //                             ctask->set_cookies_tail,
544     //                             pch);
545     //pch = ctask->set_cookies_head;
546     //while (pch != NULL)
547     //{
548     if (GNUNET_NO == MHD_add_response_header (ctask->response,
549                                               MHD_HTTP_HEADER_SET_COOKIE,
550                                               new_cookie_hdr))
551     {
552       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
553                   "MHD: Error adding set-cookie header field %s\n",
554                   hdr_generic+cookie_hdr_len+1);
555     }
556     return bytes;
557       //GNUNET_free (pch->cookie);
558       //GNUNET_CONTAINER_DLL_remove (ctask->set_cookies_head,
559       //                             ctask->set_cookies_tail,
560       //                             pch);
561       //GNUNET_free (pch);
562       //pch = ctask->set_cookies_head;
563     //}
564   }
565
566   ndup = GNUNET_strdup (hdr_generic);
567   hdr_type = strtok (ndup, ":");
568
569   if (hdr_type != NULL)
570   {
571     hdr_val = strtok (NULL, "");
572     if (hdr_val != NULL)
573     {
574       GNUNET_log (GNUNET_ERROR_TYPE_INFO,
575                   "Trying to set %s: %s\n",
576                   hdr_type,
577                   hdr_val+1);
578       if (GNUNET_NO == MHD_add_response_header (ctask->response,
579                                                 hdr_type,
580                                                 hdr_val+1))
581       {
582         GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
583                     "MHD: Error adding %s header field %s\n",
584                     hdr_type,
585                     hdr_val+1);
586       }
587     }
588   }
589   GNUNET_free (ndup);
590
591   return bytes;
592 }
593
594 /**
595  * schedule mhd
596  *
597  * @param hd a http daemon list entry
598  */
599 static void
600 run_httpd (struct MhdHttpList *hd);
601
602
603 /**
604  * schedule all mhds
605  *
606  */
607 static void
608 run_httpds (void);
609
610
611 /**
612  * Task that simply runs MHD main loop
613  *
614  * @param cls NULL
615  * @param tc task context
616  */
617 static void
618 run_mhd (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
619 {
620
621   struct MhdHttpList *hd = cls;
622
623   //for (hd=mhd_httpd_head; hd != NULL; hd = hd->next)
624     MHD_run (hd->daemon);
625 }
626
627
628 /**
629  * Process cURL download bits
630  *
631  * @param ptr buffer with data
632  * @param size size of a record
633  * @param nmemb number of records downloaded
634  * @param ctx context
635  * @return number of processed bytes
636  */
637 static size_t
638 callback_download (void *ptr, size_t size, size_t nmemb, void *ctx)
639 {
640   const char *cbuf = ptr;
641   size_t total;
642   struct ProxyCurlTask *ctask = ctx;
643
644   //MHD_run (httpd);
645   ctask->ready_to_queue = GNUNET_YES;
646   /*if (ctask->con_status == MHD_NO)
647   {
648     MHD_queue_response (ctask->connection,
649                         MHD_HTTP_OK,
650                        ctask->response);
651     ctask->con_status = MHD_YES;
652   }*/
653   total = size*nmemb;
654
655   if (total == 0)
656   {
657     return total;
658   }
659
660   if (total > sizeof (ctask->buffer))
661   {
662     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
663                 "CURL gave us too much data to handle (%d)!\n",
664                 total);
665     return 0;
666   }
667   
668   if (ctask->buf_status == BUF_WAIT_FOR_MHD)
669   {
670     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
671                 "CURL: Waiting for MHD (%s)\n", ctask->url);
672     return CURL_WRITEFUNC_PAUSE;
673   }
674
675
676   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
677               "CURL: Copying to MHD (%s, %d)\n", ctask->url, total);
678   memcpy (ctask->buffer, cbuf, total);
679   ctask->bytes_in_buffer = total;
680   ctask->buffer_ptr = ctask->buffer;
681
682   ctask->buf_status = BUF_WAIT_FOR_MHD;
683
684   //GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
685   //            "cURL chunk:\n%s\n", (char*)ctask->buffer);
686   //run_mhd (NULL, NULL);
687   GNUNET_SCHEDULER_add_now (&run_mhd, ctask->mhd);
688   return total;
689 }
690
691 /**
692  * Ask cURL for the select sets and schedule download
693  */
694 static void
695 curl_download_prepare ();
696
697 /**
698  * Callback to free content
699  *
700  * @param cls content to free
701  * @param tc task context
702  */
703 static void
704 mhd_content_free (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
705 {
706   struct ProxyCurlTask *ctask = cls;
707
708   if (NULL != ctask->headers)
709     curl_slist_free_all (ctask->headers);
710
711   if (NULL != ctask->headers)
712     curl_slist_free_all (ctask->resolver);
713
714   if (NULL != ctask->response)
715     MHD_destroy_response (ctask->response);
716
717   GNUNET_free (ctask);
718
719 }
720
721
722 /**
723  * Shorten result callback
724  *
725  * @param cls the proxycurltask
726  * @param short_name the shortened name (NULL on error)
727  */
728 static void
729 process_shorten (void* cls, const char* short_name)
730 {
731   struct ProxyCurlTask *ctask = cls;
732
733   char tmp[strlen(ctask->pp_buf)]; //TODO length
734
735   if (NULL == short_name)
736   {
737     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
738                 "MHD PP: Unable to shorten %s\n",
739                 ctask->pp_buf);
740     return;
741   }
742
743   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
744               "MHD PP: Shorten %s -> %s\n",
745               ctask->pp_buf,
746               short_name);
747   //this is evil.. what about https
748   sprintf (tmp, "href=\"http://%s", short_name);
749   strcpy (ctask->pp_buf, tmp);
750
751   ctask->pp_finished = GNUNET_YES;
752
753   GNUNET_SCHEDULER_add_now (&run_mhd, ctask->mhd);
754 }
755
756
757 /**
758  * Callback for MHD response
759  *
760  * @param cls closure
761  * @param pos in buffer
762  * @param buf buffer
763  * @param max space in buffer
764  * @return number of bytes written
765  */
766 static ssize_t
767 mhd_content_cb (void *cls,
768                 uint64_t pos,
769                 char* buf,
770                 size_t max)
771 {
772   struct ProxyCurlTask *ctask = cls;
773   ssize_t copied = 0;
774   size_t bytes_to_copy;
775   int nomatch;
776   char *hostptr;
777   regmatch_t m[RE_N_MATCHES];
778
779   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
780               "MHD: content cb %s\n", ctask->url);
781
782   if (ctask->download_successful &&
783       (ctask->buf_status == BUF_WAIT_FOR_CURL))
784   {
785     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
786                 "MHD: sending response for %s\n", ctask->url);
787     ctask->download_in_progress = GNUNET_NO;
788     GNUNET_SCHEDULER_add_now (&mhd_content_free, ctask);
789     GNUNET_SCHEDULER_add_now (&run_mhd, ctask->mhd);
790     total_mhd_connections--;
791     return MHD_CONTENT_READER_END_OF_STREAM;
792   }
793   
794   if (ctask->download_error &&
795       (ctask->buf_status == BUF_WAIT_FOR_CURL))
796   {
797     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
798                 "MHD: sending error response\n");
799     ctask->download_in_progress = GNUNET_NO;
800     GNUNET_SCHEDULER_add_now (&mhd_content_free, ctask);
801     GNUNET_SCHEDULER_add_now (&run_mhd, ctask->mhd);
802     total_mhd_connections--;
803     return MHD_CONTENT_READER_END_WITH_ERROR;
804   }
805
806   if ( ctask->buf_status == BUF_WAIT_FOR_CURL )
807     return 0;
808
809   bytes_to_copy = ctask->bytes_in_buffer;
810   
811   if (ctask->parse_content == GNUNET_YES)
812   {
813
814     GNUNET_log ( GNUNET_ERROR_TYPE_DEBUG,
815                  "MHD: We need to parse the HTML %s\n", ctask->buffer_ptr);
816
817     nomatch = regexec ( &re_dotplus,
818                         ctask->buffer_ptr, RE_N_MATCHES, m, 0);
819
820     if (nomatch)
821     {
822       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
823                   "MHD RE: No match\n");
824     }
825     else
826     {
827       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
828                   "MHD RE: Match\n");
829
830       GNUNET_assert (m[1].rm_so != -1);
831
832       hostptr = ctask->buffer_ptr+m[1].rm_so;
833
834       if (m[0].rm_so > 0)
835       {
836         bytes_to_copy = m[0].rm_so;
837         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
838                     "Copying %d bytes.\n", m[0].rm_so);
839
840
841       }
842       else
843       {
844         if (ctask->is_postprocessing == GNUNET_YES)
845         {
846           
847           /*Done?*/
848           if ( ctask->pp_finished == GNUNET_NO )
849           {
850             GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
851                         "MHD PP: Waiting for PP of %s\n", ctask->pp_buf);
852             return 0;
853           }
854           
855           ctask->is_postprocessing = GNUNET_NO;
856
857           ctask->bytes_in_buffer -= m[0].rm_eo;//(m[1].rm_eo-m[1].rm_so);
858           ctask->buffer_ptr += m[0].rm_eo;//(m[1].rm_eo-m[1].rm_so);
859           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
860                       "Skipping next %d bytes in buffer\n", m[0].rm_eo);
861
862           GNUNET_SCHEDULER_add_now (&run_mhd, ctask->mhd);
863
864           if ( strlen (ctask->pp_buf) <= max )
865           {
866             GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
867                         "Copying postprocessed %s.\n", ctask->pp_buf);
868             memcpy ( buf, ctask->pp_buf, strlen (ctask->pp_buf) );
869             GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
870                         "Done %s.\n", buf);
871             ctask->is_postprocessing = GNUNET_NO;
872             return strlen (ctask->pp_buf);
873           }
874           
875           return 0;
876         }
877
878         memset (ctask->pp_buf, 0, sizeof(ctask->pp_buf));
879         
880         /* If .+ extend with authority */
881         if (*(ctask->buffer_ptr+m[1].rm_eo) == '+')
882         {
883           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
884                       "Links is .+\n");
885            memcpy (ctask->pp_buf, hostptr, (m[1].rm_eo-m[1].rm_so));
886            strcpy ( ctask->pp_buf+strlen(ctask->pp_buf),
887                     ctask->authority);
888         }
889         /* If .zkey or .tld simply copy the name */
890         else
891         {
892           memcpy (ctask->pp_buf, hostptr, (m[3].rm_eo-m[1].rm_so));
893           if (is_tld (ctask->pp_buf, GNUNET_GNS_TLD_ZKEY) == GNUNET_NO)
894           {
895             if (0 == strcmp (ctask->pp_buf, ctask->leho))
896             {
897               GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
898                           "Replacing LEHO\n");
899               memcpy (ctask->pp_buf,
900                       ctask->buffer_ptr+m[0].rm_so,
901                       m[1].rm_so-m[0].rm_so);
902               strcpy (ctask->pp_buf+(m[1].rm_so-m[0].rm_so),
903                       ctask->host);
904               GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
905                           "New tag: %s\n", ctask->pp_buf);
906               ctask->is_postprocessing = GNUNET_YES;
907               ctask->pp_finished = GNUNET_YES;
908               return 0;
909             }
910             goto copy_data;
911           }
912           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
913                       "Link %s is zkey\n", ctask->pp_buf);
914         }
915
916         ctask->is_postprocessing = GNUNET_YES;
917         ctask->pp_finished = GNUNET_NO;
918         
919         GNUNET_GNS_shorten_zone (gns_handle,
920                                  ctask->pp_buf,
921                                  &local_private_zone,
922                                  &local_shorten_zone,
923                                  &local_gns_zone,
924                                  &process_shorten,
925                                  ctask);
926
927         return 0;
928       }
929     }
930   }
931 copy_data:
932   if ( bytes_to_copy > max )
933   {
934     GNUNET_log ( GNUNET_ERROR_TYPE_DEBUG,
935                  "MHD: buffer in response too small! (%s)\n",
936                  ctask->url);
937     memcpy ( buf, ctask->buffer_ptr, max);
938     ctask->bytes_in_buffer -= max;
939     ctask->buffer_ptr += max;
940     copied = max;
941   }
942   else
943   {
944     GNUNET_log ( GNUNET_ERROR_TYPE_DEBUG,
945                  "MHD: copying %d bytes to mhd response at offset %d\n",
946                  bytes_to_copy, pos);
947
948     memcpy ( buf, ctask->buffer_ptr, bytes_to_copy );
949     copied = bytes_to_copy;
950     if (bytes_to_copy < ctask->bytes_in_buffer)
951     {
952       ctask->bytes_in_buffer -= bytes_to_copy;
953       ctask->buffer_ptr += bytes_to_copy;
954     }
955     else
956     {
957       ctask->bytes_in_buffer = 0;
958       ctask->buf_status = BUF_WAIT_FOR_CURL;
959       ctask->buffer_ptr = ctask->buffer;
960       if (NULL != ctask->curl)
961         curl_easy_pause (ctask->curl, CURLPAUSE_CONT);
962       GNUNET_SCHEDULER_add_now (&run_mhd, ctask->mhd);
963     }
964   }
965
966   GNUNET_SCHEDULER_add_now (&run_mhd, ctask->mhd);
967
968   return copied;
969 }
970
971
972
973 /**
974  * Task that is run when we are ready to receive more data
975  * from curl
976  *
977  * @param cls closure
978  * @param tc task context
979  */
980 static void
981 curl_task_download (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc);
982
983 /**
984  * Ask cURL for the select sets and schedule download
985  */
986 static void
987 curl_download_prepare ()
988 {
989   CURLMcode mret;
990   fd_set rs;
991   fd_set ws;
992   fd_set es;
993   int max;
994   struct GNUNET_NETWORK_FDSet *grs;
995   struct GNUNET_NETWORK_FDSet *gws;
996   long to;
997   struct GNUNET_TIME_Relative rtime;
998
999   max = -1;
1000   FD_ZERO (&rs);
1001   FD_ZERO (&ws);
1002   FD_ZERO (&es);
1003   mret = curl_multi_fdset (curl_multi, &rs, &ws, &es, &max);
1004
1005   if (mret != CURLM_OK)
1006   {
1007     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1008                 "%s failed at %s:%d: `%s'\n",
1009                 "curl_multi_fdset", __FILE__, __LINE__,
1010                 curl_multi_strerror (mret));
1011     //TODO cleanup here?
1012     return;
1013   }
1014
1015   mret = curl_multi_timeout (curl_multi, &to);
1016   rtime = GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MILLISECONDS, to);
1017
1018   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1019               "cURL multi fds: max=%d timeout=%llu\n", max, to);
1020
1021   grs = GNUNET_NETWORK_fdset_create ();
1022   gws = GNUNET_NETWORK_fdset_create ();
1023   GNUNET_NETWORK_fdset_copy_native (grs, &rs, max + 1);
1024   GNUNET_NETWORK_fdset_copy_native (gws, &ws, max + 1);
1025   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1026               "Scheduling task cURL\n");
1027
1028   if (curl_download_task != GNUNET_SCHEDULER_NO_TASK)
1029     GNUNET_SCHEDULER_cancel (curl_download_task);
1030   
1031   curl_download_task =
1032     GNUNET_SCHEDULER_add_select (GNUNET_SCHEDULER_PRIORITY_DEFAULT,
1033                                  rtime,
1034                                  grs, gws,
1035                                  &curl_task_download, curl_multi);
1036   GNUNET_NETWORK_fdset_destroy (gws);
1037   GNUNET_NETWORK_fdset_destroy (grs);
1038
1039 }
1040
1041
1042 /**
1043  * Task that is run when we are ready to receive more data
1044  * from curl
1045  *
1046  * @param cls closure
1047  * @param tc task context
1048  */
1049 static void
1050 curl_task_download (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1051 {
1052   int running;
1053   int msgnum;
1054   struct CURLMsg *msg;
1055   CURLMcode mret;
1056   struct ProxyCurlTask *ctask;
1057   int num_ctasks;
1058   long resp_code;
1059
1060   struct ProxyCurlTask *clean_head = NULL;
1061   struct ProxyCurlTask *clean_tail = NULL;
1062
1063   curl_download_task = GNUNET_SCHEDULER_NO_TASK;
1064
1065   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1066   {
1067     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1068                 "Shutdown requested while trying to download\n");
1069     //TODO cleanup
1070     return;
1071   }
1072   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1073               "Ready to dl\n");
1074
1075   do
1076   {
1077     running = 0;
1078     num_ctasks = 0;
1079     
1080     mret = curl_multi_perform (curl_multi, &running);
1081
1082     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1083                 "Running curl tasks: %d\n", running);
1084
1085     ctask = ctasks_head;
1086     for (; ctask != NULL; ctask = ctask->next)
1087     {
1088       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1089                   "CTask: %s\n", ctask->url);
1090       num_ctasks++;
1091     }
1092
1093     if (num_ctasks != running)
1094     {
1095       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1096                   "%d ctasks, %d curl running\n", num_ctasks, running);
1097     }
1098     
1099     do
1100     {
1101       ctask = ctasks_head;
1102       msg = curl_multi_info_read (curl_multi, &msgnum);
1103       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1104                   "Messages left: %d\n", msgnum);
1105       
1106       if (msg == NULL)
1107         break;
1108       switch (msg->msg)
1109       {
1110        case CURLMSG_DONE:
1111          if ((msg->data.result != CURLE_OK) &&
1112              (msg->data.result != CURLE_GOT_NOTHING))
1113          {
1114            GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1115                        "Download curl failed");
1116             
1117            for (; ctask != NULL; ctask = ctask->next)
1118            {
1119              if (NULL == ctask->curl)
1120                continue;
1121
1122              if (memcmp (msg->easy_handle, ctask->curl, sizeof (CURL)) != 0)
1123                continue;
1124              
1125              GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1126                          "Download curl failed for task %s: %s.\n",
1127                          ctask->url,
1128                          curl_easy_strerror (msg->data.result));
1129              ctask->download_successful = GNUNET_NO;
1130              ctask->download_error = GNUNET_YES;
1131              if (CURLE_OK == curl_easy_getinfo (ctask->curl,
1132                                                 CURLINFO_RESPONSE_CODE,
1133                                                 &resp_code))
1134                ctask->curl_response_code = resp_code;
1135              ctask->ready_to_queue = MHD_YES;
1136              GNUNET_SCHEDULER_add_now (&run_mhd, ctask->mhd);
1137              
1138              GNUNET_CONTAINER_DLL_remove (ctasks_head, ctasks_tail,
1139                                           ctask);
1140              GNUNET_CONTAINER_DLL_insert (clean_head, clean_tail, ctask);
1141              break;
1142            }
1143            GNUNET_assert (ctask != NULL);
1144          }
1145          else
1146          {
1147            GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1148                        "cURL download completed.\n");
1149
1150            for (; ctask != NULL; ctask = ctask->next)
1151            {
1152              if (NULL == ctask->curl)
1153                continue;
1154
1155              if (memcmp (msg->easy_handle, ctask->curl, sizeof (CURL)) != 0)
1156                continue;
1157              
1158              GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1159                          "cURL task %s found.\n", ctask->url);
1160              if (CURLE_OK == curl_easy_getinfo (ctask->curl,
1161                                                 CURLINFO_RESPONSE_CODE,
1162                                                 &resp_code))
1163                ctask->curl_response_code = resp_code;
1164              ctask->ready_to_queue = MHD_YES;
1165              ctask->download_successful = GNUNET_YES;
1166
1167              GNUNET_SCHEDULER_add_now (&run_mhd, ctask->mhd);
1168              GNUNET_CONTAINER_DLL_remove (ctasks_head, ctasks_tail,
1169                                           ctask);
1170              GNUNET_CONTAINER_DLL_insert (clean_head, clean_tail, ctask);
1171
1172              break;
1173            }
1174            GNUNET_assert (ctask != NULL);
1175          }
1176          GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1177                      "curl end %s\n", curl_easy_strerror(msg->data.result));
1178          break;
1179        default:
1180          GNUNET_assert (0);
1181          break;
1182       }
1183     } while (msgnum > 0);
1184
1185     for (ctask=clean_head; ctask != NULL; ctask = ctask->next)
1186     {
1187       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1188                   "Removing cURL task %s.\n", ctask->url);
1189       curl_multi_remove_handle (curl_multi, ctask->curl);
1190       curl_easy_cleanup (ctask->curl);
1191       ctask->curl = NULL;
1192     }
1193     
1194     num_ctasks=0;
1195     for (ctask=ctasks_head; ctask != NULL; ctask = ctask->next)
1196     {
1197       num_ctasks++;
1198     }
1199     
1200     if (num_ctasks != running)
1201     {
1202       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1203                   "%d ctasks, %d curl running\n", num_ctasks, running);
1204     }
1205
1206     GNUNET_assert ( num_ctasks == running );
1207
1208     run_httpds ();
1209
1210   } while (mret == CURLM_CALL_MULTI_PERFORM);
1211   
1212   
1213   if (mret != CURLM_OK)
1214   {
1215     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "%s failed at %s:%d: `%s'\n",
1216                 "curl_multi_perform", __FILE__, __LINE__,
1217                 curl_multi_strerror (mret));
1218   }
1219   curl_download_prepare();
1220 }
1221
1222 /**
1223  * Process LEHO lookup
1224  *
1225  * @param cls the ctask
1226  * @param rd_count number of records returned
1227  * @param rd record data
1228  */
1229 static void
1230 process_leho_lookup (void *cls,
1231                      uint32_t rd_count,
1232                      const struct GNUNET_NAMESTORE_RecordData *rd)
1233 {
1234   struct ProxyCurlTask *ctask = cls;
1235   char hosthdr[262]; //256 + "Host: "
1236   int i;
1237   CURLcode ret;
1238   CURLMcode mret;
1239   struct hostent *phost;
1240   char *ssl_ip;
1241   char resolvename[512];
1242   char curlurl[512];
1243
1244   strcpy (ctask->leho, "");
1245
1246   if (rd_count == 0)
1247     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1248                 "No LEHO present!\n");
1249
1250   for (i=0; i<rd_count; i++)
1251   {
1252     if (rd[i].record_type != GNUNET_GNS_RECORD_LEHO)
1253       continue;
1254
1255     memcpy (ctask->leho, rd[i].data, rd[i].data_size);
1256
1257     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1258                 "Found LEHO %s for %s\n", ctask->leho, ctask->url);
1259   }
1260
1261   if (0 != strcmp (ctask->leho, ""))
1262   {
1263     sprintf (hosthdr, "%s%s", "Host: ", ctask->leho);
1264     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1265                 "New HTTP header value: %s\n", hosthdr);
1266     ctask->headers = curl_slist_append (ctask->headers, hosthdr);
1267     GNUNET_assert (NULL != ctask->headers);
1268     ret = curl_easy_setopt (ctask->curl, CURLOPT_HTTPHEADER, ctask->headers);
1269     if (CURLE_OK != ret)
1270     {
1271       GNUNET_log(GNUNET_ERROR_TYPE_WARNING, "%s failed at %s:%d: `%s'\n",
1272                            "curl_easy_setopt", __FILE__, __LINE__, curl_easy_strerror(ret));
1273     }
1274
1275   }
1276
1277   if (ctask->mhd->is_ssl)
1278   {
1279     phost = (struct hostent*)gethostbyname (ctask->host);
1280
1281     if (phost!=NULL)
1282     {
1283       ssl_ip = inet_ntoa(*((struct in_addr*)(phost->h_addr)));
1284       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1285                   "SSL target server: %s\n", ssl_ip);
1286       sprintf (resolvename, "%s:%d:%s", ctask->leho, HTTPS_PORT, ssl_ip);
1287       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1288                   "Curl resolve: %s\n", resolvename);
1289       ctask->resolver = curl_slist_append ( ctask->resolver, resolvename);
1290       curl_easy_setopt (ctask->curl, CURLOPT_RESOLVE, ctask->resolver);
1291       sprintf (curlurl, "https://%s%s", ctask->leho, ctask->url);
1292       curl_easy_setopt (ctask->curl, CURLOPT_URL, curlurl);
1293     }
1294     else
1295     {
1296       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1297                   "gethostbyname failed for %s!\n", ctask->host);
1298       ctask->download_successful = GNUNET_NO;
1299       ctask->download_error = GNUNET_YES;
1300       return;
1301     }
1302   }
1303
1304   if (CURLM_OK != (mret=curl_multi_add_handle (curl_multi, ctask->curl)))
1305   {
1306     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1307                 "%s failed at %s:%d: `%s'\n",
1308                 "curl_multi_add_handle", __FILE__, __LINE__,
1309                 curl_multi_strerror (mret));
1310     ctask->download_successful = GNUNET_NO;
1311     ctask->download_error = GNUNET_YES;
1312     return;
1313   }
1314   GNUNET_CONTAINER_DLL_insert (ctasks_head, ctasks_tail, ctask);
1315
1316   curl_download_prepare ();
1317
1318 }
1319
1320 /**
1321  * Initialize download and trigger curl
1322  *
1323  * @param cls the proxycurltask
1324  * @param auth_name the name of the authority (site of origin) of ctask->host
1325  *
1326  */
1327 static void
1328 process_get_authority (void *cls,
1329                        const char* auth_name)
1330 {
1331   struct ProxyCurlTask *ctask = cls;
1332
1333   if (NULL == auth_name)
1334   {
1335     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1336                 "Get authority failed!\n");
1337     strcpy (ctask->authority, "");
1338   }
1339   else
1340   {
1341     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1342                 "Get authority yielded %s\n", auth_name);
1343     strcpy (ctask->authority, auth_name);
1344   }
1345
1346   GNUNET_GNS_lookup_zone (gns_handle,
1347                           ctask->host,
1348                           &local_gns_zone,
1349                           GNUNET_GNS_RECORD_LEHO,
1350                           GNUNET_YES, //Only cached for performance
1351                           shorten_zonekey,
1352                           &process_leho_lookup,
1353                           ctask);
1354 }
1355
1356 /**
1357  * Task run whenever HTTP server operations are pending.
1358  *
1359  * @param cls unused
1360  * @param tc sched context
1361  */
1362 static void
1363 do_httpd (void *cls,
1364           const struct GNUNET_SCHEDULER_TaskContext *tc);
1365
1366 /**
1367  * Main MHD callback for handling requests.
1368  *
1369  * @param cls unused
1370  * @param con MHD connection handle
1371  * @param url the url in the request
1372  * @param meth the HTTP method used ("GET", "PUT", etc.)
1373  * @param ver the HTTP version string (i.e. "HTTP/1.1")
1374  * @param upload_data the data being uploaded (excluding HEADERS,
1375  *        for a POST that fits into memory and that is encoded
1376  *        with a supported encoding, the POST data will NOT be
1377  *        given in upload_data and is instead available as
1378  *        part of MHD_get_connection_values; very large POST
1379  *        data *will* be made available incrementally in
1380  *        upload_data)
1381  * @param upload_data_size set initially to the size of the
1382  *        upload_data provided; the method must update this
1383  *        value to the number of bytes NOT processed;
1384  * @param con_cls pointer to location where we store the 'struct Request'
1385  * @return MHD_YES if the connection was handled successfully,
1386  *         MHD_NO if the socket must be closed due to a serious
1387  *         error while handling the request
1388  */
1389 static int
1390 create_response (void *cls,
1391                  struct MHD_Connection *con,
1392                  const char *url,
1393                  const char *meth,
1394                  const char *ver,
1395                  const char *upload_data,
1396                  size_t *upload_data_size,
1397                  void **con_cls)
1398 {
1399   struct MhdHttpList* hd = cls;
1400   const char* page = "<html><head><title>gnoxy</title>"\
1401                       "</head><body>cURL fail</body></html>";
1402   
1403   char curlurl[512];
1404   int ret = MHD_YES;
1405
1406   struct ProxyCurlTask *ctask;
1407   
1408   //FIXME handle
1409   if (0 != strcmp (meth, "GET"))
1410     return MHD_NO;
1411
1412   if (0 != *upload_data_size)
1413     return MHD_NO;
1414
1415   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1416               "url %s\n", url);
1417
1418
1419   if (NULL == *con_cls)
1420   {
1421     ctask = GNUNET_malloc (sizeof (struct ProxyCurlTask));
1422     ctask->mhd = hd;
1423     *con_cls = ctask;
1424     
1425     if (curl_multi == NULL)
1426     curl_multi = curl_multi_init ();
1427
1428     ctask->curl = curl_easy_init();
1429   
1430     if ((ctask->curl == NULL) || (curl_multi == NULL))
1431     {
1432       ctask->response = MHD_create_response_from_buffer (strlen (page),
1433                                                 (void*)page,
1434                                                 MHD_RESPMEM_PERSISTENT);
1435       ret = MHD_queue_response (con,
1436                                 MHD_HTTP_OK,
1437                                 ctask->response);
1438       MHD_destroy_response (ctask->response);
1439       GNUNET_free (ctask);
1440       return ret;
1441     }
1442   
1443     ctask->prev = NULL;
1444     ctask->next = NULL;
1445     ctask->headers = NULL;
1446     ctask->resolver = NULL;
1447     ctask->buffer_ptr = NULL;
1448     ctask->download_in_progress = GNUNET_YES;
1449     ctask->download_successful = GNUNET_NO;
1450     ctask->buf_status = BUF_WAIT_FOR_CURL;
1451     ctask->bytes_in_buffer = 0;
1452     ctask->parse_content = GNUNET_NO;
1453     ctask->connection = con;
1454     ctask->ready_to_queue = MHD_NO;
1455     ctask->fin = GNUNET_NO;
1456     ctask->headers = NULL;
1457     ctask->curl_response_code = MHD_HTTP_OK;
1458
1459
1460     MHD_get_connection_values (con,
1461                                MHD_HEADER_KIND,
1462                                &con_val_iter, ctask);
1463
1464     curl_easy_setopt (ctask->curl, CURLOPT_HEADERFUNCTION, &curl_check_hdr);
1465     curl_easy_setopt (ctask->curl, CURLOPT_HEADERDATA, ctask);
1466     curl_easy_setopt (ctask->curl, CURLOPT_WRITEFUNCTION, &callback_download);
1467     curl_easy_setopt (ctask->curl, CURLOPT_WRITEDATA, ctask);
1468     curl_easy_setopt (ctask->curl, CURLOPT_FOLLOWLOCATION, 0);
1469     //curl_easy_setopt (ctask->curl, CURLOPT_MAXREDIRS, 4);
1470     /* no need to abort if the above failed */
1471     if (GNUNET_NO == ctask->mhd->is_ssl)
1472     {
1473       sprintf (curlurl, "http://%s%s", ctask->host, url);
1474       curl_easy_setopt (ctask->curl, CURLOPT_URL, curlurl);
1475       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1476                   "Adding new curl task for %s\n", curlurl);
1477     }
1478     strcpy (ctask->url, url);
1479   
1480     //curl_easy_setopt (ctask->curl, CURLOPT_URL, curlurl);
1481     curl_easy_setopt (ctask->curl, CURLOPT_FAILONERROR, 1);
1482     curl_easy_setopt (ctask->curl, CURLOPT_CONNECTTIMEOUT, 600L);
1483     curl_easy_setopt (ctask->curl, CURLOPT_TIMEOUT, 600L);
1484
1485     GNUNET_GNS_get_authority (gns_handle,
1486                               ctask->host,
1487                               &process_get_authority,
1488                               ctask);
1489
1490     ctask->response = MHD_create_response_from_callback (MHD_SIZE_UNKNOWN,
1491                                                   20,
1492                                                   &mhd_content_cb,
1493                                                   ctask,
1494                                                   NULL);
1495     
1496     ctask->ready_to_queue = GNUNET_NO;
1497     ctask->fin = GNUNET_NO;
1498     return MHD_YES;
1499   }
1500
1501   ctask = (struct ProxyCurlTask *) *con_cls;
1502
1503   if (ctask->fin == GNUNET_YES)
1504     return MHD_YES;
1505
1506   if (ctask->ready_to_queue == GNUNET_YES)
1507   {
1508     ctask->fin = GNUNET_YES;
1509
1510     ret = MHD_queue_response (con, ctask->curl_response_code, ctask->response);
1511     GNUNET_SCHEDULER_add_now (&run_mhd, ctask->mhd);
1512     return ret;
1513   }
1514
1515   
1516   
1517   
1518   //MHD_destroy_response (response);
1519
1520   //return ret;
1521   return MHD_YES;
1522 }
1523
1524
1525
1526 /**
1527  * run all httpd
1528  */
1529 static void
1530 run_httpds ()
1531 {
1532   struct MhdHttpList *hd;
1533
1534   for (hd=mhd_httpd_head; hd != NULL; hd = hd->next)
1535     run_httpd (hd);
1536
1537 }
1538
1539 /**
1540  * schedule mhd
1541  *
1542  * @param hd the daemon to run
1543  */
1544 static void
1545 run_httpd (struct MhdHttpList *hd)
1546 {
1547   fd_set rs;
1548   fd_set ws;
1549   fd_set es;
1550   struct GNUNET_NETWORK_FDSet *wrs;
1551   struct GNUNET_NETWORK_FDSet *wws;
1552   struct GNUNET_NETWORK_FDSet *wes;
1553   int max;
1554   int haveto;
1555   unsigned MHD_LONG_LONG timeout;
1556   struct GNUNET_TIME_Relative tv;
1557
1558   FD_ZERO (&rs);
1559   FD_ZERO (&ws);
1560   FD_ZERO (&es);
1561   wrs = GNUNET_NETWORK_fdset_create ();
1562   wes = GNUNET_NETWORK_fdset_create ();
1563   wws = GNUNET_NETWORK_fdset_create ();
1564   max = -1;
1565   GNUNET_assert (MHD_YES == MHD_get_fdset (hd->daemon, &rs, &ws, &es, &max));
1566   
1567   
1568   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1569               "MHD fds: max=%d\n", max);
1570   
1571   haveto = MHD_get_timeout (hd->daemon, &timeout);
1572
1573   if (haveto == MHD_YES)
1574     tv.rel_value = (uint64_t) timeout;
1575   else
1576     tv = GNUNET_TIME_UNIT_FOREVER_REL;
1577   GNUNET_NETWORK_fdset_copy_native (wrs, &rs, max + 1);
1578   GNUNET_NETWORK_fdset_copy_native (wws, &ws, max + 1);
1579   GNUNET_NETWORK_fdset_copy_native (wes, &es, max + 1);
1580   
1581   if (hd->httpd_task != GNUNET_SCHEDULER_NO_TASK)
1582     GNUNET_SCHEDULER_cancel (hd->httpd_task);
1583   hd->httpd_task =
1584     GNUNET_SCHEDULER_add_select (GNUNET_SCHEDULER_PRIORITY_HIGH,
1585                                  tv, wrs, wws,
1586                                  &do_httpd, hd);
1587   GNUNET_NETWORK_fdset_destroy (wrs);
1588   GNUNET_NETWORK_fdset_destroy (wws);
1589   GNUNET_NETWORK_fdset_destroy (wes);
1590 }
1591
1592
1593 /**
1594  * Task run whenever HTTP server operations are pending.
1595  *
1596  * @param cls unused
1597  * @param tc sched context
1598  */
1599 static void
1600 do_httpd (void *cls,
1601           const struct GNUNET_SCHEDULER_TaskContext *tc)
1602 {
1603   struct MhdHttpList *hd = cls;
1604   
1605   hd->httpd_task = GNUNET_SCHEDULER_NO_TASK;
1606   
1607   MHD_run (hd->daemon);
1608   run_httpd (hd);
1609 }
1610
1611
1612 /**
1613  * Read data from socket
1614  *
1615  * @param cls the closure
1616  * @param tc scheduler context
1617  */
1618 static void
1619 do_read (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc);
1620
1621 /**
1622  * Read from remote end
1623  *
1624  * @param cls closure
1625  * @param tc scheduler context
1626  */
1627 static void
1628 do_read_remote (void* cls, const struct GNUNET_SCHEDULER_TaskContext *tc);
1629
1630 /**
1631  * Write data to remote socket
1632  *
1633  * @param cls the closure
1634  * @param tc scheduler context
1635  */
1636 static void
1637 do_write_remote (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1638 {
1639   struct Socks5Request *s5r = cls;
1640   unsigned int len;
1641
1642   s5r->fwdwtask = GNUNET_SCHEDULER_NO_TASK;
1643
1644   if ((NULL != tc->read_ready) &&
1645       (GNUNET_NETWORK_fdset_isset (tc->write_ready, s5r->remote_sock)) &&
1646       ((len = GNUNET_NETWORK_socket_send (s5r->remote_sock, s5r->rbuf,
1647                                          s5r->rbuf_len)>0)))
1648   {
1649     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1650                 "Successfully sent %d bytes to remote socket\n",
1651                 len);
1652   }
1653   else
1654   {
1655     GNUNET_log_strerror (GNUNET_ERROR_TYPE_WARNING, "write remote");
1656     //Really!?!?!?
1657     if (s5r->rtask != GNUNET_SCHEDULER_NO_TASK)
1658       GNUNET_SCHEDULER_cancel (s5r->rtask);
1659     if (s5r->wtask != GNUNET_SCHEDULER_NO_TASK)
1660       GNUNET_SCHEDULER_cancel (s5r->wtask);
1661     if (s5r->fwdrtask != GNUNET_SCHEDULER_NO_TASK)
1662       GNUNET_SCHEDULER_cancel (s5r->fwdrtask);
1663     GNUNET_NETWORK_socket_close (s5r->remote_sock);
1664     GNUNET_NETWORK_socket_close (s5r->sock);
1665     GNUNET_free(s5r);
1666     return;
1667   }
1668
1669   s5r->rtask =
1670     GNUNET_SCHEDULER_add_read_net (GNUNET_TIME_UNIT_FOREVER_REL,
1671                                    s5r->sock,
1672                                    &do_read, s5r);
1673 }
1674
1675
1676 /**
1677  * Clean up s5r handles
1678  *
1679  * @param s5r the handle to destroy
1680  */
1681 static void
1682 cleanup_s5r (struct Socks5Request *s5r)
1683 {
1684   if (s5r->rtask != GNUNET_SCHEDULER_NO_TASK)
1685     GNUNET_SCHEDULER_cancel (s5r->rtask);
1686   if (s5r->fwdwtask != GNUNET_SCHEDULER_NO_TASK)
1687     GNUNET_SCHEDULER_cancel (s5r->fwdwtask);
1688   if (s5r->fwdrtask != GNUNET_SCHEDULER_NO_TASK)
1689     GNUNET_SCHEDULER_cancel (s5r->fwdrtask);
1690   
1691   if (NULL != s5r->remote_sock)
1692     GNUNET_NETWORK_socket_close (s5r->remote_sock);
1693   if ((NULL != s5r->sock) && (s5r->cleanup_sock == GNUNET_YES))
1694     GNUNET_NETWORK_socket_close (s5r->sock);
1695   
1696   GNUNET_free(s5r);
1697 }
1698
1699 /**
1700  * Write data to socket
1701  *
1702  * @param cls the closure
1703  * @param tc scheduler context
1704  */
1705 static void
1706 do_write (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1707 {
1708   struct Socks5Request *s5r = cls;
1709   unsigned int len;
1710
1711   s5r->wtask = GNUNET_SCHEDULER_NO_TASK;
1712
1713   if ((NULL != tc->read_ready) &&
1714       (GNUNET_NETWORK_fdset_isset (tc->write_ready, s5r->sock)) &&
1715       ((len = GNUNET_NETWORK_socket_send (s5r->sock, s5r->wbuf,
1716                                          s5r->wbuf_len)>0)))
1717   {
1718     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1719                 "Successfully sent %d bytes to socket\n",
1720                 len);
1721   }
1722   else
1723   {
1724     
1725     GNUNET_log_strerror (GNUNET_ERROR_TYPE_WARNING, "write");
1726     s5r->cleanup = GNUNET_YES;
1727     s5r->cleanup_sock = GNUNET_YES;
1728     cleanup_s5r (s5r);
1729     
1730     return;
1731   }
1732
1733   if (GNUNET_YES == s5r->cleanup)
1734   {
1735     cleanup_s5r (s5r);
1736     return;
1737   }
1738
1739   if ((s5r->state == SOCKS5_DATA_TRANSFER) &&
1740       (s5r->fwdrtask == GNUNET_SCHEDULER_NO_TASK))
1741     s5r->fwdrtask =
1742       GNUNET_SCHEDULER_add_read_net (GNUNET_TIME_UNIT_FOREVER_REL,
1743                                      s5r->remote_sock,
1744                                      &do_read_remote, s5r);
1745 }
1746
1747 /**
1748  * Read from remote end
1749  *
1750  * @param cls closure
1751  * @param tc scheduler context
1752  */
1753 static void
1754 do_read_remote (void* cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1755 {
1756   struct Socks5Request *s5r = cls;
1757   
1758   s5r->fwdrtask = GNUNET_SCHEDULER_NO_TASK;
1759
1760
1761   if ((NULL != tc->write_ready) &&
1762       (GNUNET_NETWORK_fdset_isset (tc->read_ready, s5r->remote_sock)) &&
1763       (s5r->wbuf_len = GNUNET_NETWORK_socket_recv (s5r->remote_sock, s5r->wbuf,
1764                                          sizeof (s5r->wbuf))))
1765   {
1766     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1767                 "Successfully read %d bytes from remote socket\n",
1768                 s5r->wbuf_len);
1769   }
1770   else
1771   {
1772     if (s5r->wbuf_len == 0)
1773       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1774                   "0 bytes received from remote... graceful shutdown!\n");
1775     if (s5r->fwdwtask != GNUNET_SCHEDULER_NO_TASK)
1776       GNUNET_SCHEDULER_cancel (s5r->fwdwtask);
1777     if (s5r->rtask != GNUNET_SCHEDULER_NO_TASK)
1778       GNUNET_SCHEDULER_cancel (s5r->rtask);
1779     
1780     GNUNET_NETWORK_socket_close (s5r->remote_sock);
1781     s5r->remote_sock = NULL;
1782     GNUNET_NETWORK_socket_close (s5r->sock);
1783     GNUNET_free(s5r);
1784
1785     return;
1786   }
1787   
1788   s5r->wtask = GNUNET_SCHEDULER_add_write_net (GNUNET_TIME_UNIT_FOREVER_REL,
1789                                                s5r->sock,
1790                                                &do_write, s5r);
1791   
1792 }
1793
1794
1795 /**
1796  * Adds a socket to MHD
1797  *
1798  * @param h the handle to the socket to add
1799  * @param daemon the daemon to add the fd to
1800  * @return whatever MHD_add_connection returns
1801  */
1802 static int
1803 add_handle_to_mhd (struct GNUNET_NETWORK_Handle *h, struct MHD_Daemon *daemon)
1804 {
1805   int fd;
1806   struct sockaddr *addr;
1807   socklen_t len;
1808
1809   fd = dup (GNUNET_NETWORK_get_fd (h));
1810   addr = GNUNET_NETWORK_get_addr (h);
1811   len = GNUNET_NETWORK_get_addrlen (h);
1812
1813   return MHD_add_connection (daemon, fd, addr, len);
1814 }
1815
1816 /**
1817  * Calculate size of file
1818  *
1819  * @param filename name of file
1820  * @return filesize or 0 on error
1821  */
1822 static long
1823 get_file_size (const char* filename)
1824 {
1825   FILE *fp;
1826
1827   fp = fopen (filename, "rb");
1828   if (fp)
1829   {
1830     long size;
1831
1832     if ((0 != fseek (fp, 0, SEEK_END)) || (-1 == (size = ftell (fp))))
1833       size = 0;
1834
1835     fclose (fp);
1836
1837     return size;
1838   }
1839   
1840   return 0;
1841 }
1842
1843 /**
1844  * Read file in filename
1845  *
1846  * @param filename file to read
1847  * @param size pointer where filesize is stored
1848  * @return data
1849  */
1850 static char*
1851 load_file (const char* filename, unsigned int* size)
1852 {
1853   FILE *fp;
1854   char *buffer;
1855
1856   *size = get_file_size (filename);
1857   if (*size == 0)
1858     return NULL;
1859
1860   fp = fopen (filename, "rb");
1861   if (!fp)
1862     return NULL;
1863
1864   buffer = GNUNET_malloc (*size);
1865   if (!buffer)
1866   {
1867     fclose (fp);
1868     return NULL;
1869   }
1870
1871   if (*size != fread (buffer, 1, *size, fp))
1872   {
1873     GNUNET_free (buffer);
1874     buffer = NULL;
1875   }
1876
1877   fclose (fp);
1878   return buffer;
1879 }
1880
1881 /**
1882  * Load PEM key from file
1883  *
1884  * @param key where to store the data
1885  * @param keyfile path to the PEM file
1886  */
1887 static void
1888 load_key_from_file (gnutls_x509_privkey_t key, char* keyfile)
1889 {
1890   gnutls_datum_t key_data;
1891   key_data.data = NULL;
1892   int ret;
1893
1894   key_data.data = (unsigned char*)load_file (keyfile, &key_data.size);
1895
1896   ret = gnutls_x509_privkey_import (key, &key_data,
1897                                     GNUTLS_X509_FMT_PEM);
1898   
1899   if (GNUTLS_E_SUCCESS != ret)
1900   {
1901     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1902                 "Unable to import private key %s(ret=%d)\n", key_data.data, ret);
1903     GNUNET_break (0);
1904   }
1905
1906   GNUNET_free (key_data.data);
1907 }
1908
1909 /**
1910  * Load cert from file
1911  *
1912  * @param crt struct to store data in
1913  * @param certfile path to pem file
1914  */
1915 static void
1916 load_cert_from_file (gnutls_x509_crt_t crt, char* certfile)
1917 {
1918   gnutls_datum_t cert_data;
1919   cert_data.data = NULL;
1920   int ret;
1921
1922   cert_data.data = (unsigned char*)load_file (certfile, &cert_data.size);
1923
1924   ret = gnutls_x509_crt_import (crt, &cert_data,
1925                                  GNUTLS_X509_FMT_PEM);
1926   if (GNUTLS_E_SUCCESS != ret)
1927   {
1928     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1929                 "Unable to import certificate %s(ret=%d)\n", certfile, ret);
1930     GNUNET_break (0);
1931   }
1932
1933   GNUNET_free (cert_data.data);
1934
1935 }
1936
1937
1938 /**
1939  * Generate new certificate for specific name
1940  *
1941  * @param name the subject name to generate a cert for
1942  * @return a struct holding the PEM data
1943  */
1944 static struct ProxyGNSCertificate *
1945 generate_gns_certificate (const char *name)
1946 {
1947
1948   int ret;
1949   unsigned int serial;
1950   size_t key_buf_size;
1951   size_t cert_buf_size;
1952   gnutls_x509_crt_t request;
1953   time_t etime;
1954   struct tm *tm_data;
1955
1956   ret = gnutls_x509_crt_init (&request);
1957
1958   if (GNUTLS_E_SUCCESS != ret)
1959   {
1960     GNUNET_break (0);
1961   }
1962
1963   ret = gnutls_x509_crt_set_key (request, proxy_ca.key);
1964
1965   if (GNUTLS_E_SUCCESS != ret)
1966   {
1967     GNUNET_break (0);
1968   }
1969
1970   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Generating cert\n");
1971
1972   struct ProxyGNSCertificate *pgc =
1973     GNUNET_malloc (sizeof (struct ProxyGNSCertificate));
1974
1975   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Adding DNs\n");
1976   
1977   gnutls_x509_crt_set_dn_by_oid (request, GNUTLS_OID_X520_COUNTRY_NAME,
1978                                  0, "DE", 2);
1979
1980   gnutls_x509_crt_set_dn_by_oid (request, GNUTLS_OID_X520_ORGANIZATION_NAME,
1981                                  0, "GNUnet", 6);
1982
1983   gnutls_x509_crt_set_dn_by_oid (request, GNUTLS_OID_X520_COMMON_NAME,
1984                                  0, name, strlen (name));
1985
1986   ret = gnutls_x509_crt_set_version (request, 3);
1987
1988   ret = gnutls_rnd (GNUTLS_RND_NONCE, &serial, sizeof (serial));
1989
1990   etime = time (NULL);
1991   tm_data = localtime (&etime);
1992   
1993
1994   ret = gnutls_x509_crt_set_serial (request,
1995                                     &serial,
1996                                     sizeof (serial));
1997
1998   ret = gnutls_x509_crt_set_activation_time (request,
1999                                              etime);
2000   tm_data->tm_year++;
2001   etime = mktime (tm_data);
2002
2003   if (-1 == etime)
2004   {
2005     GNUNET_break (0);
2006   }
2007
2008   ret = gnutls_x509_crt_set_expiration_time (request,
2009                                              etime);
2010   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Signing...\n");
2011
2012   ret = gnutls_x509_crt_sign (request, proxy_ca.cert, proxy_ca.key);
2013
2014   key_buf_size = sizeof (pgc->key);
2015   cert_buf_size = sizeof (pgc->cert);
2016
2017   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Exporting certificate...\n");
2018   
2019   gnutls_x509_crt_export (request, GNUTLS_X509_FMT_PEM,
2020                           pgc->cert, &cert_buf_size);
2021
2022   gnutls_x509_privkey_export (proxy_ca.key, GNUTLS_X509_FMT_PEM,
2023                           pgc->key, &key_buf_size);
2024
2025
2026   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Cleaning up\n");
2027   gnutls_x509_crt_deinit (request);
2028
2029   return pgc;
2030
2031 }
2032
2033
2034 /*
2035  * Accept policy for mhdaemons
2036  *
2037  * @param cls NULL
2038  * @param addr the sockaddr
2039  * @param addrlen the sockaddr length
2040  * @return MHD_NO if sockaddr is wrong or #conns too high
2041  */
2042 static int
2043 accept_cb (void* cls, const struct sockaddr *addr, socklen_t addrlen)
2044 {
2045   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2046               "In MHD accept policy cb\n");
2047
2048   if (addr != NULL)
2049   {
2050     if (addr->sa_family == AF_UNIX)
2051       return MHD_NO;
2052   }
2053
2054   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2055               "Connection accepted\n");
2056
2057   return MHD_YES;
2058 }
2059
2060
2061 /**
2062  * Adds a socket to an SSL MHD instance
2063  * It is important the the domain name is
2064  * correct. In most cases we need to start a new daemon
2065  *
2066  * @param h the handle to add to a daemon
2067  * @param domain the domain the ssl daemon has to serve
2068  * @return MHD_YES on success
2069  */
2070 static int
2071 add_handle_to_ssl_mhd (struct GNUNET_NETWORK_Handle *h, char* domain)
2072 {
2073   struct MhdHttpList *hd = NULL;
2074   struct ProxyGNSCertificate *pgc;
2075   struct NetworkHandleList *nh;
2076
2077   for (hd = mhd_httpd_head; hd != NULL; hd = hd->next)
2078   {
2079     if (0 == strcmp (hd->domain, domain))
2080       break;
2081   }
2082
2083   if (NULL == hd)
2084   {
2085     
2086     pgc = generate_gns_certificate (domain);
2087     
2088     hd = GNUNET_malloc (sizeof (struct MhdHttpList));
2089     hd->is_ssl = GNUNET_YES;
2090     strcpy (hd->domain, domain);
2091     hd->proxy_cert = pgc;
2092
2093     /* Start new MHD */
2094     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2095                 "No previous SSL instance found... starting new one for %s\n",
2096                 domain);
2097
2098     hd->daemon = MHD_start_daemon (MHD_USE_DEBUG | MHD_USE_SSL, 4444,
2099             &accept_cb, NULL,
2100             &create_response, hd,
2101             MHD_OPTION_LISTEN_SOCKET, GNUNET_NETWORK_get_fd (mhd_unix_socket),
2102             MHD_OPTION_CONNECTION_LIMIT, MHD_MAX_CONNECTIONS,
2103             MHD_OPTION_CONNECTION_TIMEOUT, (unsigned int) 16,
2104             MHD_OPTION_NOTIFY_COMPLETED,
2105             NULL, NULL,
2106             MHD_OPTION_HTTPS_MEM_KEY, pgc->key,
2107             MHD_OPTION_HTTPS_MEM_CERT, pgc->cert,
2108             MHD_OPTION_END);
2109
2110     GNUNET_assert (hd->daemon != NULL);
2111     hd->httpd_task = GNUNET_SCHEDULER_NO_TASK;
2112     
2113     GNUNET_CONTAINER_DLL_insert (mhd_httpd_head, mhd_httpd_tail, hd);
2114   }
2115
2116   nh = GNUNET_malloc (sizeof (struct NetworkHandleList));
2117   nh->h = h;
2118
2119   GNUNET_CONTAINER_DLL_insert (hd->socket_handles_head,
2120                                hd->socket_handles_tail,
2121                                nh);
2122   
2123   return add_handle_to_mhd (h, hd->daemon);
2124 }
2125
2126
2127
2128 /**
2129  * Read data from incoming connection
2130  *
2131  * @param cls the closure
2132  * @param tc the scheduler context
2133  */
2134 static void
2135 do_read (void* cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
2136 {
2137   struct Socks5Request *s5r = cls;
2138   struct socks5_client_hello *c_hello;
2139   struct socks5_server_hello *s_hello;
2140   struct socks5_client_request *c_req;
2141   struct socks5_server_response *s_resp;
2142
2143   int ret;
2144   char domain[256];
2145   uint8_t dom_len;
2146   uint16_t req_port;
2147   struct hostent *phost;
2148   uint32_t remote_ip;
2149   struct sockaddr_in remote_addr;
2150   struct in_addr *r_sin_addr;
2151
2152   struct NetworkHandleList *nh;
2153
2154   s5r->rtask = GNUNET_SCHEDULER_NO_TASK;
2155
2156   if ((NULL != tc->write_ready) &&
2157       (GNUNET_NETWORK_fdset_isset (tc->read_ready, s5r->sock)) &&
2158       (s5r->rbuf_len = GNUNET_NETWORK_socket_recv (s5r->sock, s5r->rbuf,
2159                                          sizeof (s5r->rbuf))))
2160   {
2161     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2162                 "Successfully read %d bytes from socket\n",
2163                 s5r->rbuf_len);
2164   }
2165   else
2166   {
2167     if (s5r->rbuf_len != 0)
2168       GNUNET_log_strerror (GNUNET_ERROR_TYPE_WARNING, "read");
2169     else
2170       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "client disco!\n");
2171
2172     if (s5r->fwdrtask != GNUNET_SCHEDULER_NO_TASK)
2173       GNUNET_SCHEDULER_cancel (s5r->fwdrtask);
2174     if (s5r->wtask != GNUNET_SCHEDULER_NO_TASK)
2175       GNUNET_SCHEDULER_cancel (s5r->wtask);
2176     if (s5r->fwdwtask != GNUNET_SCHEDULER_NO_TASK)
2177       GNUNET_SCHEDULER_cancel (s5r->fwdwtask);
2178     GNUNET_NETWORK_socket_close (s5r->remote_sock);
2179     GNUNET_NETWORK_socket_close (s5r->sock);
2180     GNUNET_free(s5r);
2181     return;
2182   }
2183
2184   if (s5r->state == SOCKS5_INIT)
2185   {
2186     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2187                 "SOCKS5 init\n");
2188     c_hello = (struct socks5_client_hello*)&s5r->rbuf;
2189
2190     GNUNET_assert (c_hello->version == SOCKS_VERSION_5);
2191
2192     s_hello = (struct socks5_server_hello*)&s5r->wbuf;
2193     s5r->wbuf_len = sizeof( struct socks5_server_hello );
2194
2195     s_hello->version = c_hello->version;
2196     s_hello->auth_method = SOCKS_AUTH_NONE;
2197
2198     /* Write response to client */
2199     s5r->wtask = GNUNET_SCHEDULER_add_write_net (GNUNET_TIME_UNIT_FOREVER_REL,
2200                                                 s5r->sock,
2201                                                 &do_write, s5r);
2202
2203     s5r->rtask = GNUNET_SCHEDULER_add_read_net (GNUNET_TIME_UNIT_FOREVER_REL,
2204                                                 s5r->sock,
2205                                                 &do_read, s5r);
2206
2207     s5r->state = SOCKS5_REQUEST;
2208     return;
2209   }
2210
2211   if (s5r->state == SOCKS5_REQUEST)
2212   {
2213     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2214                 "Processing SOCKS5 request\n");
2215     c_req = (struct socks5_client_request*)&s5r->rbuf;
2216     s_resp = (struct socks5_server_response*)&s5r->wbuf;
2217     //Only 10byte for ipv4 response!
2218     s5r->wbuf_len = 10;//sizeof (struct socks5_server_response);
2219
2220     GNUNET_assert (c_req->addr_type == 3);
2221
2222     dom_len = *((uint8_t*)(&(c_req->addr_type) + 1));
2223     memset(domain, 0, sizeof(domain));
2224     strncpy(domain, (char*)(&(c_req->addr_type) + 2), dom_len);
2225     req_port = *((uint16_t*)(&(c_req->addr_type) + 2 + dom_len));
2226
2227     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2228                 "Requested connection is %s:%d\n",
2229                 domain,
2230                 ntohs(req_port));
2231
2232     if (is_tld (domain, GNUNET_GNS_TLD) ||
2233         is_tld (domain, GNUNET_GNS_TLD_ZKEY))
2234     {
2235       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2236                   "Requested connection is gnunet tld\n",
2237                   domain);
2238       
2239       ret = MHD_NO;
2240       if (ntohs(req_port) == HTTPS_PORT)
2241       {
2242         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2243                     "Requested connection is HTTPS\n");
2244         ret = add_handle_to_ssl_mhd ( s5r->sock, domain );
2245       }
2246       else if (NULL != httpd)
2247       {
2248         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2249                     "Requested connection is HTTP\n");
2250         nh = GNUNET_malloc (sizeof (struct NetworkHandleList));
2251         nh->h = s5r->sock;
2252
2253         GNUNET_CONTAINER_DLL_insert (mhd_httpd_head->socket_handles_head,
2254                                mhd_httpd_head->socket_handles_tail,
2255                                nh);
2256
2257         ret = add_handle_to_mhd ( s5r->sock, httpd );
2258       }
2259
2260       if (ret != MHD_YES)
2261       {
2262         GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2263                     _("Failed to start HTTP server\n"));
2264         s_resp->version = 0x05;
2265         s_resp->reply = 0x01;
2266         s5r->cleanup = GNUNET_YES;
2267         s5r->cleanup_sock = GNUNET_YES;
2268         s5r->wtask = 
2269           GNUNET_SCHEDULER_add_write_net (GNUNET_TIME_UNIT_FOREVER_REL,
2270                                         s5r->sock,
2271                                         &do_write, s5r);
2272         return;
2273       }
2274       
2275       /* Signal success */
2276       s_resp->version = 0x05;
2277       s_resp->reply = 0x00;
2278       s_resp->reserved = 0x00;
2279       s_resp->addr_type = 0x01;
2280       
2281       s5r->cleanup = GNUNET_YES;
2282       s5r->cleanup_sock = GNUNET_NO;
2283       s5r->wtask =
2284         GNUNET_SCHEDULER_add_write_net (GNUNET_TIME_UNIT_FOREVER_REL,
2285                                         s5r->sock,
2286                                         &do_write, s5r);
2287       run_httpds ();
2288       return;
2289     }
2290     else
2291     {
2292       phost = (struct hostent*)gethostbyname (domain);
2293       if (phost == NULL)
2294       {
2295         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2296                     "Resolve %s error!\n", domain );
2297         s_resp->version = 0x05;
2298         s_resp->reply = 0x01;
2299         s5r->cleanup = GNUNET_YES;
2300         s5r->cleanup_sock = GNUNET_YES;
2301         s5r->wtask = 
2302           GNUNET_SCHEDULER_add_write_net (GNUNET_TIME_UNIT_FOREVER_REL,
2303                                           s5r->sock,
2304                                           &do_write, s5r);
2305         return;
2306       }
2307
2308       s5r->remote_sock = GNUNET_NETWORK_socket_create (AF_INET,
2309                                                        SOCK_STREAM,
2310                                                        0);
2311       r_sin_addr = (struct in_addr*)(phost->h_addr);
2312       remote_ip = r_sin_addr->s_addr;
2313       memset(&remote_addr, 0, sizeof(remote_addr));
2314       remote_addr.sin_family = AF_INET;
2315 #if HAVE_SOCKADDR_IN_SIN_LEN
2316       remote_addr.sin_len = sizeof (remote_addr);
2317 #endif
2318       remote_addr.sin_addr.s_addr = remote_ip;
2319       remote_addr.sin_port = req_port;
2320       
2321       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2322                   "target server: %s:%u\n", inet_ntoa(remote_addr.sin_addr),
2323                   ntohs(req_port));
2324
2325       if ((GNUNET_OK !=
2326           GNUNET_NETWORK_socket_connect ( s5r->remote_sock,
2327                                           (const struct sockaddr*)&remote_addr,
2328                                           sizeof (remote_addr)))
2329           && (errno != EINPROGRESS))
2330       {
2331         GNUNET_log_strerror (GNUNET_ERROR_TYPE_WARNING, "connect");
2332         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2333                     "socket request error...\n");
2334         s_resp->version = 0x05;
2335         s_resp->reply = 0x01;
2336         s5r->wtask =
2337           GNUNET_SCHEDULER_add_write_net (GNUNET_TIME_UNIT_FOREVER_REL,
2338                                           s5r->sock,
2339                                           &do_write, s5r);
2340         //TODO see above
2341         return;
2342       }
2343
2344       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2345                   "new remote connection\n");
2346
2347       s_resp->version = 0x05;
2348       s_resp->reply = 0x00;
2349       s_resp->reserved = 0x00;
2350       s_resp->addr_type = 0x01;
2351
2352       s5r->state = SOCKS5_DATA_TRANSFER;
2353
2354       s5r->wtask =
2355         GNUNET_SCHEDULER_add_write_net (GNUNET_TIME_UNIT_FOREVER_REL,
2356                                         s5r->sock,
2357                                         &do_write, s5r);
2358       s5r->rtask =
2359         GNUNET_SCHEDULER_add_read_net (GNUNET_TIME_UNIT_FOREVER_REL,
2360                                        s5r->sock,
2361                                        &do_read, s5r);
2362
2363     }
2364     return;
2365   }
2366
2367   if (s5r->state == SOCKS5_DATA_TRANSFER)
2368   {
2369     if ((s5r->remote_sock == NULL) || (s5r->rbuf_len == 0))
2370     {
2371       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2372                   "Closing connection to client\n");
2373       if (s5r->rtask != GNUNET_SCHEDULER_NO_TASK)
2374         GNUNET_SCHEDULER_cancel (s5r->rtask);
2375       if (s5r->fwdwtask != GNUNET_SCHEDULER_NO_TASK)
2376         GNUNET_SCHEDULER_cancel (s5r->fwdwtask);
2377       if (s5r->fwdrtask != GNUNET_SCHEDULER_NO_TASK)
2378         GNUNET_SCHEDULER_cancel (s5r->fwdrtask);
2379       if (s5r->fwdrtask != GNUNET_SCHEDULER_NO_TASK)
2380         GNUNET_SCHEDULER_cancel (s5r->fwdrtask);
2381       
2382       if (s5r->remote_sock != NULL)
2383         GNUNET_NETWORK_socket_close (s5r->remote_sock);
2384       GNUNET_NETWORK_socket_close (s5r->sock);
2385       GNUNET_free(s5r);
2386       return;
2387     }
2388
2389     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2390                 "forwarding %d bytes from client\n", s5r->rbuf_len);
2391
2392     s5r->fwdwtask =
2393       GNUNET_SCHEDULER_add_write_net (GNUNET_TIME_UNIT_FOREVER_REL,
2394                                       s5r->remote_sock,
2395                                       &do_write_remote, s5r);
2396
2397     if (s5r->fwdrtask == GNUNET_SCHEDULER_NO_TASK)
2398     {
2399       s5r->fwdrtask =
2400         GNUNET_SCHEDULER_add_read_net (GNUNET_TIME_UNIT_FOREVER_REL,
2401                                        s5r->remote_sock,
2402                                        &do_read_remote, s5r);
2403     }
2404
2405
2406   }
2407
2408   //GNUNET_CONTAINER_DLL_remove (s5conns.head, s5conns.tail, s5r);
2409
2410 }
2411
2412
2413 /**
2414  * Accept new incoming connections
2415  *
2416  * @param cls the closure
2417  * @param tc the scheduler context
2418  */
2419 static void
2420 do_accept (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
2421 {
2422   struct GNUNET_NETWORK_Handle *s;
2423   struct Socks5Request *s5r;
2424
2425   ltask = GNUNET_SCHEDULER_NO_TASK;
2426   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
2427     return;
2428
2429   ltask = GNUNET_SCHEDULER_add_read_net (GNUNET_TIME_UNIT_FOREVER_REL,
2430                                          lsock,
2431                                          &do_accept, NULL);
2432
2433   s = GNUNET_NETWORK_socket_accept (lsock, NULL, NULL);
2434
2435   if (NULL == s)
2436   {
2437     GNUNET_log_strerror (GNUNET_ERROR_TYPE_ERROR, "accept");
2438     return;
2439   }
2440
2441   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2442               "Got an inbound connection, waiting for data\n");
2443
2444   s5r = GNUNET_malloc (sizeof (struct Socks5Request));
2445   s5r->sock = s;
2446   s5r->state = SOCKS5_INIT;
2447   s5r->wtask = GNUNET_SCHEDULER_NO_TASK;
2448   s5r->fwdwtask = GNUNET_SCHEDULER_NO_TASK;
2449   s5r->fwdrtask = GNUNET_SCHEDULER_NO_TASK;
2450   s5r->rtask = GNUNET_SCHEDULER_add_read_net (GNUNET_TIME_UNIT_FOREVER_REL,
2451                                               s5r->sock,
2452                                               &do_read, s5r);
2453   //GNUNET_CONTAINER_DLL_insert (s5conns.head, s5conns.tail, s5r);
2454 }
2455
2456
2457 /**
2458  * Task run on shutdown
2459  *
2460  * @param cls closure
2461  * @param tc task context
2462  */
2463 static void
2464 do_shutdown (void *cls,
2465              const struct GNUNET_SCHEDULER_TaskContext *tc)
2466 {
2467
2468   struct MhdHttpList *hd;
2469   struct MhdHttpList *tmp_hd;
2470   struct NetworkHandleList *nh;
2471   struct NetworkHandleList *tmp_nh;
2472   struct ProxyCurlTask *ctask;
2473   struct ProxyCurlTask *ctask_tmp;
2474   
2475   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
2476               "Shutting down...\n");
2477
2478   gnutls_global_deinit ();
2479
2480   if (GNUNET_SCHEDULER_NO_TASK != curl_download_task)
2481   {
2482     GNUNET_SCHEDULER_cancel (curl_download_task);
2483     curl_download_task = GNUNET_SCHEDULER_NO_TASK;
2484   }
2485
2486   for (hd = mhd_httpd_head; hd != NULL; hd = tmp_hd)
2487   {
2488     tmp_hd = hd->next;
2489
2490     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2491                 "Stopping daemon\n");
2492
2493     if (GNUNET_SCHEDULER_NO_TASK != hd->httpd_task)
2494     {
2495       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2496                   "Stopping select task %d\n",
2497                   hd->httpd_task);
2498       GNUNET_SCHEDULER_cancel (hd->httpd_task);
2499       hd->httpd_task = GNUNET_SCHEDULER_NO_TASK;
2500     }
2501
2502     if (NULL != hd->daemon)
2503     {
2504       MHD_stop_daemon (hd->daemon);
2505       hd->daemon = NULL;
2506     }
2507
2508     for (nh = hd->socket_handles_head; nh != NULL; nh = tmp_nh)
2509     {
2510       tmp_nh = nh->next;
2511
2512       GNUNET_NETWORK_socket_close (nh->h);
2513
2514       GNUNET_free (nh);
2515     }
2516
2517     if (NULL != hd->proxy_cert)
2518     {
2519       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2520                   "Free certificate\n");
2521       GNUNET_free (hd->proxy_cert);
2522     }
2523
2524     GNUNET_free (hd);
2525   }
2526
2527   for (ctask=ctasks_head; ctask != NULL; ctask=ctask_tmp)
2528   {
2529     ctask_tmp = ctask->next;
2530
2531     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2532                 "Cleaning up cURL task\n");
2533
2534     if (ctask->curl != NULL)
2535       curl_easy_cleanup (ctask->curl);
2536     ctask->curl = NULL;
2537     if (NULL != ctask->headers)
2538       curl_slist_free_all (ctask->headers);
2539     if (NULL != ctask->resolver)
2540       curl_slist_free_all (ctask->resolver);
2541
2542     if (NULL != ctask->response)
2543       MHD_destroy_response (ctask->response);
2544
2545
2546     GNUNET_free (ctask);
2547   }
2548
2549   GNUNET_GNS_disconnect (gns_handle);
2550 }
2551
2552
2553 /**
2554  * Compiles a regex for us
2555  *
2556  * @param re ptr to re struct
2557  * @param rt the expression to compile
2558  * @return 0 on success
2559  */
2560 static int
2561 compile_regex (regex_t *re, const char* rt)
2562 {
2563   int status;
2564   char err[1024];
2565
2566   status = regcomp (re, rt, REG_EXTENDED|REG_NEWLINE);
2567   if (status)
2568   {
2569     regerror (status, re, err, 1024);
2570     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2571                 "Regex error compiling '%s': %s\n", rt, err);
2572     return 1;
2573   }
2574   return 0;
2575 }
2576
2577
2578 /**
2579  * Loads the users local zone key
2580  *
2581  * @return GNUNET_YES on success
2582  */
2583 static int
2584 load_local_zone_key (const struct GNUNET_CONFIGURATION_Handle *cfg)
2585 {
2586   char *keyfile;
2587   struct GNUNET_CRYPTO_RsaPrivateKey *key = NULL;
2588   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded pkey;
2589   struct GNUNET_CRYPTO_ShortHashCode *zone = NULL;
2590   struct GNUNET_CRYPTO_ShortHashAsciiEncoded zonename;
2591
2592   if (GNUNET_OK != GNUNET_CONFIGURATION_get_value_filename (cfg, "gns",
2593                                                             "ZONEKEY", &keyfile))
2594   {
2595     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2596                 "Unable to load zone key config value!\n");
2597     return GNUNET_NO;
2598   }
2599
2600   if (GNUNET_NO == GNUNET_DISK_file_test (keyfile))
2601   {
2602     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2603                 "Unable to load zone key %s!\n", keyfile);
2604     GNUNET_free(keyfile);
2605     return GNUNET_NO;
2606   }
2607
2608   key = GNUNET_CRYPTO_rsa_key_create_from_file (keyfile);
2609   GNUNET_CRYPTO_rsa_key_get_public (key, &pkey);
2610   GNUNET_CRYPTO_short_hash(&pkey,
2611                            sizeof(struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
2612                            &local_gns_zone);
2613   zone = &local_gns_zone;
2614   GNUNET_CRYPTO_short_hash_to_enc (zone, &zonename);
2615   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2616               "Using zone: %s!\n", &zonename);
2617   GNUNET_CRYPTO_rsa_key_free(key);
2618   GNUNET_free(keyfile);
2619   
2620   if (GNUNET_OK != GNUNET_CONFIGURATION_get_value_filename (cfg, "gns",
2621                                                    "PRIVATE_ZONEKEY", &keyfile))
2622   {
2623     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2624                 "Unable to load private zone key config value!\n");
2625     return GNUNET_NO;
2626   }
2627
2628   if (GNUNET_NO == GNUNET_DISK_file_test (keyfile))
2629   {
2630     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2631                 "Unable to load private zone key %s!\n", keyfile);
2632     GNUNET_free(keyfile);
2633     return GNUNET_NO;
2634   }
2635
2636   key = GNUNET_CRYPTO_rsa_key_create_from_file (keyfile);
2637   GNUNET_CRYPTO_rsa_key_get_public (key, &pkey);
2638   GNUNET_CRYPTO_short_hash(&pkey,
2639                            sizeof(struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
2640                            &local_private_zone);
2641   GNUNET_CRYPTO_short_hash_to_enc (zone, &zonename);
2642   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2643               "Using private zone: %s!\n", &zonename);
2644   GNUNET_CRYPTO_rsa_key_free(key);
2645   GNUNET_free(keyfile);
2646
2647   if (GNUNET_OK != GNUNET_CONFIGURATION_get_value_filename (cfg, "gns",
2648                                                    "SHORTEN_ZONEKEY", &keyfile))
2649   {
2650     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2651                 "Unable to load shorten zone key config value!\n");
2652     return GNUNET_NO;
2653   }
2654
2655   if (GNUNET_NO == GNUNET_DISK_file_test (keyfile))
2656   {
2657     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2658                 "Unable to load shorten zone key %s!\n", keyfile);
2659     GNUNET_free(keyfile);
2660     return GNUNET_NO;
2661   }
2662
2663   key = GNUNET_CRYPTO_rsa_key_create_from_file (keyfile);
2664   GNUNET_CRYPTO_rsa_key_get_public (key, &pkey);
2665   GNUNET_CRYPTO_short_hash(&pkey,
2666                            sizeof(struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
2667                            &local_shorten_zone);
2668   GNUNET_CRYPTO_short_hash_to_enc (zone, &zonename);
2669   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2670               "Using shorten zone: %s!\n", &zonename);
2671   GNUNET_CRYPTO_rsa_key_free(key);
2672   GNUNET_free(keyfile);
2673
2674   return GNUNET_YES;
2675 }
2676
2677 /**
2678  * Main function that will be run
2679  *
2680  * @param cls closure
2681  * @param args remaining command-line arguments
2682  * @param cfgfile name of the configuration file used (for saving, can be NULL!)
2683  * @param cfg configuration
2684  */
2685 static void
2686 run (void *cls, char *const *args, const char *cfgfile,
2687      const struct GNUNET_CONFIGURATION_Handle *cfg)
2688 {
2689   struct sockaddr_in sa;
2690   struct MhdHttpList *hd;
2691   struct sockaddr_un mhd_unix_sock_addr;
2692   size_t len;
2693   char* proxy_sockfile;
2694   char* cafile_cfg = NULL;
2695   char* cafile;
2696
2697   curl_multi = NULL;
2698
2699   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
2700               "Loading CA\n");
2701   
2702   cafile = cafile_opt;
2703
2704   if (NULL == cafile)
2705   {
2706     if (GNUNET_OK != GNUNET_CONFIGURATION_get_value_filename (cfg, "gns-proxy",
2707                                                           "PROXY_CACERT",
2708                                                           &cafile_cfg))
2709     {
2710       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2711                   "Unable to load proxy CA config value!\n");
2712       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2713                   "No proxy CA provided!\n");
2714       return;
2715     }
2716     cafile = cafile_cfg;
2717   }
2718   
2719   gnutls_global_init ();
2720
2721   gnutls_x509_crt_init (&proxy_ca.cert);
2722   gnutls_x509_privkey_init (&proxy_ca.key);
2723   
2724   load_cert_from_file (proxy_ca.cert, cafile);
2725   load_key_from_file (proxy_ca.key, cafile);
2726
2727   GNUNET_free_non_null (cafile_cfg);
2728   
2729   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2730               "Loading Template\n");
2731   
2732   compile_regex (&re_dotplus, (char*) RE_A_HREF);
2733
2734   gns_handle = GNUNET_GNS_connect (cfg);
2735
2736   if (GNUNET_NO == load_local_zone_key (cfg))
2737   {
2738     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2739                 "Unable to load zone!\n");
2740     return;
2741   }
2742
2743   if (NULL == gns_handle)
2744   {
2745     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2746                 "Unable to connect to GNS!\n");
2747     return;
2748   }
2749
2750   memset (&sa, 0, sizeof (sa));
2751   sa.sin_family = AF_INET;
2752   sa.sin_port = htons (port);
2753 #if HAVE_SOCKADDR_IN_SIN_LEN
2754   sa.sin_len = sizeof (sa);
2755 #endif
2756
2757   lsock = GNUNET_NETWORK_socket_create (AF_INET,
2758                                         SOCK_STREAM,
2759                                         0);
2760
2761   if ((NULL == lsock) ||
2762       (GNUNET_OK !=
2763        GNUNET_NETWORK_socket_bind (lsock, (const struct sockaddr *) &sa,
2764                                    sizeof (sa))))
2765   {
2766     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2767                 "Failed to create listen socket bound to `%s'",
2768                 GNUNET_a2s ((const struct sockaddr *) &sa, sizeof (sa)));
2769     if (NULL != lsock)
2770       GNUNET_NETWORK_socket_close (lsock);
2771     return;
2772   }
2773
2774   if (GNUNET_OK != GNUNET_NETWORK_socket_listen (lsock, 5))
2775   {
2776     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2777                 "Failed to listen on socket bound to `%s'",
2778                 GNUNET_a2s ((const struct sockaddr *) &sa, sizeof (sa)));
2779     return;
2780   }
2781
2782   ltask = GNUNET_SCHEDULER_add_read_net (GNUNET_TIME_UNIT_FOREVER_REL,
2783                                          lsock, &do_accept, NULL);
2784
2785   ctasks_head = NULL;
2786   ctasks_tail = NULL;
2787
2788   if (0 != curl_global_init (CURL_GLOBAL_WIN32))
2789   {
2790     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2791                 "cURL global init failed!\n");
2792     return;
2793   }
2794
2795   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2796               "Proxy listens on port %u\n",
2797               port);
2798
2799   mhd_httpd_head = NULL;
2800   mhd_httpd_tail = NULL;
2801   total_mhd_connections = 0;
2802
2803   if (GNUNET_OK != GNUNET_CONFIGURATION_get_value_filename (cfg, "gns-proxy",
2804                                                             "PROXY_UNIXPATH",
2805                                                             &proxy_sockfile))
2806   {
2807     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2808                 "Specify PROXY_UNIXPATH in gns-proxy config section!\n");
2809     return;
2810   }
2811   
2812   mhd_unix_socket = GNUNET_NETWORK_socket_create (AF_UNIX,
2813                                                 SOCK_STREAM,
2814                                                 0);
2815
2816   if (NULL == mhd_unix_socket)
2817   {
2818     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2819                 "Unable to create unix domain socket!\n");
2820     return;
2821   }
2822
2823   mhd_unix_sock_addr.sun_family = AF_UNIX;
2824   strcpy (mhd_unix_sock_addr.sun_path, proxy_sockfile);
2825
2826 #if LINUX
2827   mhd_unix_sock_addr.sun_path[0] = '\0';
2828 #endif
2829 #if HAVE_SOCKADDR_IN_SIN_LEN
2830   mhd_unix_sock_addr.sun_len = (u_char) sizeof (struct sockaddr_un);
2831 #endif
2832
2833   len = strlen (proxy_sockfile) + sizeof(AF_UNIX);
2834
2835   GNUNET_free (proxy_sockfile);
2836
2837   if (GNUNET_OK != GNUNET_NETWORK_socket_bind (mhd_unix_socket,
2838                                (struct sockaddr*)&mhd_unix_sock_addr,
2839                                len))
2840   {
2841     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2842                 "Unable to bind unix domain socket!\n");
2843     return;
2844   }
2845
2846   if (GNUNET_OK != GNUNET_NETWORK_socket_listen (mhd_unix_socket,
2847                                                  1))
2848   {
2849     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2850                 "Unable to listen on unix domain socket!\n");
2851     return;
2852   }
2853
2854   hd = GNUNET_malloc (sizeof (struct MhdHttpList));
2855   hd->is_ssl = GNUNET_NO;
2856   strcpy (hd->domain, "");
2857   httpd = MHD_start_daemon (MHD_USE_DEBUG, 4444, //Dummy port
2858             &accept_cb, NULL,
2859             &create_response, hd,
2860             MHD_OPTION_LISTEN_SOCKET, GNUNET_NETWORK_get_fd (mhd_unix_socket),
2861             MHD_OPTION_CONNECTION_LIMIT, MHD_MAX_CONNECTIONS,
2862             MHD_OPTION_CONNECTION_TIMEOUT, (unsigned int) 16,
2863             MHD_OPTION_NOTIFY_COMPLETED,
2864             NULL, NULL,
2865             MHD_OPTION_END);
2866
2867   GNUNET_assert (httpd != NULL);
2868   hd->daemon = httpd;
2869   hd->httpd_task = GNUNET_SCHEDULER_NO_TASK;
2870
2871   GNUNET_CONTAINER_DLL_insert (mhd_httpd_head, mhd_httpd_tail, hd);
2872
2873   run_httpds ();
2874
2875   GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_UNIT_FOREVER_REL,
2876                                 &do_shutdown, NULL);
2877
2878 }
2879
2880
2881 /**
2882  * The main function for gnunet-gns-proxy.
2883  *
2884  * @param argc number of arguments from the command line
2885  * @param argv command line arguments
2886  * @return 0 ok, 1 on error
2887  */
2888 int
2889 main (int argc, char *const *argv)
2890 {
2891   static const struct GNUNET_GETOPT_CommandLineOption options[] = {
2892     {'p', "port", NULL,
2893      gettext_noop ("listen on specified port"), 1,
2894      &GNUNET_GETOPT_set_string, &port},
2895     {'a', "authority", NULL,
2896       gettext_noop ("pem file to use as CA"), 1,
2897       &GNUNET_GETOPT_set_string, &cafile_opt},
2898     GNUNET_GETOPT_OPTION_END
2899   };
2900
2901   int ret;
2902
2903   if (GNUNET_OK != GNUNET_STRINGS_get_utf8_args (argc, argv, &argc, &argv))
2904     return 2;
2905
2906
2907   GNUNET_log_setup ("gnunet-gns-proxy", "WARNING", NULL);
2908   ret =
2909       (GNUNET_OK ==
2910        GNUNET_PROGRAM_run (argc, argv, "gnunet-gns-proxy",
2911                            _("GNUnet GNS proxy"),
2912                            options,
2913                            &run, NULL)) ? 0 : 1;
2914   GNUNET_free_non_null ((char*)argv);
2915
2916   return ret;
2917 }