-fix time assertion introduce in last patch
[oweals/gnunet.git] / src / dht / gnunet-service-xdht_clients.c
1 /*
2      This file is part of GNUnet.
3      (C) 2009, 2010, 2011 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file dht/gnunet-service-dht_clients.c
23  * @brief GNUnet DHT service's client management code
24  * @author Christian Grothoff
25  * @author Nathan Evans
26  */
27
28 #include "platform.h"
29 #include "gnunet_constants.h"
30 #include "gnunet_protocols.h"
31 #include "gnunet_statistics_service.h"
32 #include "gnunet-service-xdht.h"
33 #include "gnunet-service-xdht_clients.h"
34 #include "gnunet-service-xdht_datacache.h"
35 #include "gnunet-service-xdht_neighbours.h"
36 #include "dht.h"
37
38
39 /**
40  * Should routing details be logged to stderr (for debugging)?
41  */
42 #define LOG_TRAFFIC(kind,...) GNUNET_log_from (kind, "dht-traffic",__VA_ARGS__)
43
44 #define LOG(kind,...) GNUNET_log_from (kind, "dht-clients",__VA_ARGS__)
45
46 #if ENABLE_MALICIOUS
47 /**
48  * Should this peer act malicious?
49  */
50 extern unsigned int malicious;
51 #endif
52
53 /**
54  * Linked list of messages to send to clients.
55  */
56 struct PendingMessage
57 {
58   /**
59    * Pointer to next item in the list
60    */
61   struct PendingMessage *next;
62
63   /**
64    * Pointer to previous item in the list
65    */
66   struct PendingMessage *prev;
67
68   /**
69    * Actual message to be sent, allocated at the end of the struct:
70    * // msg = (cast) &pm[1];
71    * // memcpy (&pm[1], data, len);
72    */
73   const struct GNUNET_MessageHeader *msg;
74
75 };
76
77
78 /**
79  * Struct containing information about a client,
80  * handle to connect to it, and any pending messages
81  * that need to be sent to it.
82  */
83 struct ClientList
84 {
85   /**
86    * Linked list of active clients
87    */
88   struct ClientList *next;
89
90   /**
91    * Linked list of active clients
92    */
93   struct ClientList *prev;
94
95   /**
96    * The handle to this client
97    */
98   struct GNUNET_SERVER_Client *client_handle;
99
100   /**
101    * Handle to the current transmission request, NULL
102    * if none pending.
103    */
104   struct GNUNET_SERVER_TransmitHandle *transmit_handle;
105
106   /**
107    * Linked list of pending messages for this client
108    */
109   struct PendingMessage *pending_head;
110
111   /**
112    * Tail of linked list of pending messages for this client
113    */
114   struct PendingMessage *pending_tail;
115
116 };
117
118
119 /**
120  * Entry in the local forwarding map for a client's GET request.
121  */
122 struct ClientQueryRecord
123 {
124
125   /**
126    * The key this request was about
127    */
128   struct GNUNET_HashCode key;
129
130   /**
131    * Client responsible for the request.
132    */
133   struct ClientList *client;
134
135   /**
136    * Extended query (see gnunet_block_lib.h), allocated at the end of this struct.
137    */
138   const void *xquery;
139
140   /**
141    * Replies we have already seen for this request.
142    */
143   struct GNUNET_HashCode *seen_replies;
144
145   /**
146    * Pointer to this nodes heap location in the retry-heap (for fast removal)
147    */
148   struct GNUNET_CONTAINER_HeapNode *hnode;
149
150   /**
151    * What's the delay between re-try operations that we currently use for this
152    * request?
153    */
154   struct GNUNET_TIME_Relative retry_frequency;
155
156   /**
157    * What's the next time we should re-try this request?
158    */
159   struct GNUNET_TIME_Absolute retry_time;
160
161   /**
162    * The unique identifier of this request
163    */
164   uint64_t unique_id;
165
166   /**
167    * Number of bytes in xquery.
168    */
169   size_t xquery_size;
170
171   /**
172    * Number of entries in 'seen_replies'.
173    */
174   unsigned int seen_replies_count;
175
176   /**
177    * Desired replication level
178    */
179   uint32_t replication;
180
181   /**
182    * Any message options for this request
183    */
184   uint32_t msg_options;
185
186   /**
187    * The type for the data for the GET request.
188    */
189   enum GNUNET_BLOCK_Type type;
190
191 };
192
193
194 /**
195  * Struct containing paremeters of monitoring requests.
196  */
197 struct ClientMonitorRecord
198 {
199
200   /**
201    * Next element in DLL.
202    */
203   struct ClientMonitorRecord    *next;
204
205   /**
206    * Previous element in DLL.
207    */
208   struct ClientMonitorRecord    *prev;
209
210   /**
211    * Type of blocks that are of interest
212    */
213   enum GNUNET_BLOCK_Type        type;
214
215   /**
216    * Key of data of interest, NULL for all.
217    */
218   struct GNUNET_HashCode         *key;
219
220   /**
221    * Flag whether to notify about GET messages.
222    */
223   int16_t get;
224
225   /**
226    * Flag whether to notify about GET_REPONSE messages.
227    */
228   int16_t get_resp;
229
230   /**
231    * Flag whether to notify about PUT messages.
232    */
233   uint16_t put;
234
235   /**
236    * Client to notify of these requests.
237    */
238   struct ClientList             *client;
239 };
240
241
242 /**
243  * List of active clients.
244  */
245 static struct ClientList *client_head;
246
247 /**
248  * List of active clients.
249  */
250 static struct ClientList *client_tail;
251
252 /**
253  * List of active monitoring requests.
254  */
255 static struct ClientMonitorRecord *monitor_head;
256
257 /**
258  * List of active monitoring requests.
259  */
260 static struct ClientMonitorRecord *monitor_tail;
261
262 /**
263  * Hashmap for fast key based lookup, maps keys to `struct ClientQueryRecord` entries.
264  */
265 static struct GNUNET_CONTAINER_MultiHashMap *forward_map;
266
267 /**
268  * Heap with all of our client's request, sorted by retry time (earliest on top).
269  */
270 static struct GNUNET_CONTAINER_Heap *retry_heap;
271
272 /**
273  * Task that re-transmits requests (using retry_heap).
274  */
275 static GNUNET_SCHEDULER_TaskIdentifier retry_task;
276
277
278 /**
279  * Task run to check for messages that need to be sent to a client.
280  *
281  * @param client a ClientList, containing the client and any messages to be sent to it
282  */
283 static void
284 process_pending_messages (struct ClientList *client);
285
286
287 /**
288  * Callback called as a result of issuing a GNUNET_SERVER_notify_transmit_ready
289  * request.  A ClientList is passed as closure, take the head of the list
290  * and copy it into buf, which has the result of sending the message to the
291  * client.
292  *
293  * @param cls closure to this call
294  * @param size maximum number of bytes available to send
295  * @param buf where to copy the actual message to
296  *
297  * @return the number of bytes actually copied, 0 indicates failure
298  */
299 static size_t
300 send_reply_to_client (void *cls, size_t size, void *buf)
301 {
302   struct ClientList *client = cls;
303   char *cbuf = buf;
304   struct PendingMessage *reply;
305   size_t off;
306   size_t msize;
307
308   client->transmit_handle = NULL;
309   if (buf == NULL)
310   {
311     /* client disconnected */
312     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
313                 "Client %p disconnected, pending messages will be discarded\n",
314                 client->client_handle);
315     return 0;
316   }
317   off = 0;
318   while ((NULL != (reply = client->pending_head)) &&
319          (size >= off + (msize = ntohs (reply->msg->size))))
320   {
321     GNUNET_CONTAINER_DLL_remove (client->pending_head, client->pending_tail,
322                                  reply);
323     memcpy (&cbuf[off], reply->msg, msize);
324     GNUNET_free (reply);
325     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Transmitting %u bytes to client %p\n",
326                 msize, client->client_handle);
327     off += msize;
328   }
329   process_pending_messages (client);
330   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Transmitted %u/%u bytes to client %p\n",
331               (unsigned int) off, (unsigned int) size, client->client_handle);
332   return off;
333 }
334
335
336 /**
337  * Task run to check for messages that need to be sent to a client.
338  *
339  * @param client a ClientList, containing the client and any messages to be sent to it
340  */
341 static void
342 process_pending_messages (struct ClientList *client)
343 {
344   if ((client->pending_head == NULL) || (client->transmit_handle != NULL))
345   {
346     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
347                 "Not asking for transmission to %p now: %s\n",
348                 client->client_handle,
349                 client->pending_head ==
350                 NULL ? "no more messages" : "request already pending");
351     return;
352   }
353   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
354               "Asking for transmission of %u bytes to client %p\n",
355               ntohs (client->pending_head->msg->size), client->client_handle);
356   client->transmit_handle =
357       GNUNET_SERVER_notify_transmit_ready (client->client_handle,
358                                            ntohs (client->pending_head->
359                                                   msg->size),
360                                            GNUNET_TIME_UNIT_FOREVER_REL,
361                                            &send_reply_to_client, client);
362 }
363
364
365 /**
366  * Add a PendingMessage to the clients list of messages to be sent
367  *
368  * @param client the active client to send the message to
369  * @param pending_message the actual message to send
370  */
371 static void
372 add_pending_message (struct ClientList *client,
373                      struct PendingMessage *pending_message)
374 {
375   GNUNET_CONTAINER_DLL_insert_tail (client->pending_head, client->pending_tail,
376                                     pending_message);
377   process_pending_messages (client);
378 }
379
380
381 /**
382  * Closure for 'forward_reply'
383  */
384 struct ForwardReplyContext
385 {
386
387   /**
388    * Actual message to send to matching clients.
389    */
390   struct PendingMessage *pm;
391
392   /**
393    * Embedded payload.
394    */
395   const void *data;
396
397   /**
398    * Type of the data.
399    */
400   enum GNUNET_BLOCK_Type type;
401
402   /**
403    * Number of bytes in data.
404    */
405   size_t data_size;
406
407   /**
408    * Do we need to copy 'pm' because it was already used?
409    */
410   int do_copy;
411
412 };
413
414
415 /**
416  * Find a client if it exists, add it otherwise.
417  *
418  * @param client the server handle to the client
419  *
420  * @return the client if found, a new client otherwise
421  */
422 static struct ClientList *
423 find_active_client (struct GNUNET_SERVER_Client *client)
424 {
425   struct ClientList *pos = client_head;
426   struct ClientList *ret;
427
428   while (pos != NULL)
429   {
430     if (pos->client_handle == client)
431       return pos;
432     pos = pos->next;
433   }
434   ret = GNUNET_new (struct ClientList);
435   ret->client_handle = client;
436   GNUNET_CONTAINER_DLL_insert (client_head, client_tail, ret);
437   return ret;
438 }
439
440
441 /**
442  * Iterator over hash map entries that frees all entries
443  * associated with the given client.
444  *
445  * @param cls client to search for in source routes
446  * @param key current key code (ignored)
447  * @param value value in the hash map, a ClientQueryRecord
448  * @return #GNUNET_YES (we should continue to iterate)
449  */
450 static int
451 remove_client_records (void *cls, const struct GNUNET_HashCode * key, void *value)
452 {
453   struct ClientList *client = cls;
454   struct ClientQueryRecord *record = value;
455
456   if (record->client != client)
457     return GNUNET_YES;
458   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
459               "Removing client %p's record for key %s\n", client,
460               GNUNET_h2s (key));
461   GNUNET_assert (GNUNET_YES ==
462                  GNUNET_CONTAINER_multihashmap_remove (forward_map, key,
463                                                        record));
464   if (NULL != record->hnode)
465     GNUNET_CONTAINER_heap_remove_node (record->hnode);
466   GNUNET_array_grow (record->seen_replies, record->seen_replies_count, 0);
467   GNUNET_free (record);
468   return GNUNET_YES;
469 }
470
471
472 /**
473  * Iterator over hash map entries that send a given reply to
474  * each of the matching clients.  With some tricky recycling
475  * of the buffer.
476  *
477  * @param cls the 'struct ForwardReplyContext'
478  * @param key current key
479  * @param value value in the hash map, a ClientQueryRecord
480  * @return GNUNET_YES (we should continue to iterate),
481  *         if the result is mal-formed, GNUNET_NO
482  */
483 static int
484 forward_reply (void *cls, const struct GNUNET_HashCode * key, void *value)
485 {
486   struct ForwardReplyContext *frc = cls;
487   struct ClientQueryRecord *record = value;
488   struct PendingMessage *pm;
489   struct GNUNET_DHT_ClientResultMessage *reply;
490   enum GNUNET_BLOCK_EvaluationResult eval;
491   int do_free;
492   struct GNUNET_HashCode ch;
493   unsigned int i;
494
495   LOG_TRAFFIC (GNUNET_ERROR_TYPE_DEBUG,
496                "R5N CLIENT-RESULT %s\n",
497                GNUNET_h2s_full (key));
498   if ((record->type != GNUNET_BLOCK_TYPE_ANY) && (record->type != frc->type))
499   {
500     LOG (GNUNET_ERROR_TYPE_DEBUG,
501          "Record type missmatch, not passing request for key %s to local client\n",
502          GNUNET_h2s (key));
503     GNUNET_STATISTICS_update (GDS_stats,
504                               gettext_noop
505                               ("# Key match, type mismatches in REPLY to CLIENT"),
506                               1, GNUNET_NO);
507     return GNUNET_YES;          /* type mismatch */
508   }
509   GNUNET_CRYPTO_hash (frc->data, frc->data_size, &ch);
510   for (i = 0; i < record->seen_replies_count; i++)
511     if (0 == memcmp (&record->seen_replies[i], &ch, sizeof (struct GNUNET_HashCode)))
512     {
513       LOG (GNUNET_ERROR_TYPE_DEBUG,
514            "Duplicate reply, not passing request for key %s to local client\n",
515            GNUNET_h2s (key));
516       GNUNET_STATISTICS_update (GDS_stats,
517                                 gettext_noop
518                                 ("# Duplicate REPLIES to CLIENT request dropped"),
519                                 1, GNUNET_NO);
520       return GNUNET_YES;        /* duplicate */
521     }
522   eval =
523       GNUNET_BLOCK_evaluate (GDS_block_context, record->type, key, NULL, 0,
524                              record->xquery, record->xquery_size, frc->data,
525                              frc->data_size);
526   LOG (GNUNET_ERROR_TYPE_DEBUG,
527        "Evaluation result is %d for key %s for local client's query\n",
528        (int) eval, GNUNET_h2s (key));
529   switch (eval)
530   {
531   case GNUNET_BLOCK_EVALUATION_OK_LAST:
532     do_free = GNUNET_YES;
533     break;
534   case GNUNET_BLOCK_EVALUATION_OK_MORE:
535     GNUNET_array_append (record->seen_replies, record->seen_replies_count, ch);
536     do_free = GNUNET_NO;
537     break;
538   case GNUNET_BLOCK_EVALUATION_OK_DUPLICATE:
539     /* should be impossible to encounter here */
540     GNUNET_break (0);
541     return GNUNET_YES;
542   case GNUNET_BLOCK_EVALUATION_RESULT_INVALID:
543     GNUNET_break_op (0);
544     return GNUNET_NO;
545   case GNUNET_BLOCK_EVALUATION_REQUEST_VALID:
546     GNUNET_break (0);
547     return GNUNET_NO;
548   case GNUNET_BLOCK_EVALUATION_REQUEST_INVALID:
549     GNUNET_break (0);
550     return GNUNET_NO;
551   case GNUNET_BLOCK_EVALUATION_RESULT_IRRELEVANT:
552     return GNUNET_YES;
553   case GNUNET_BLOCK_EVALUATION_TYPE_NOT_SUPPORTED:
554     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
555                 _("Unsupported block type (%u) in request!\n"), record->type);
556     return GNUNET_NO;
557   default:
558     GNUNET_break (0);
559     return GNUNET_NO;
560   }
561   if (GNUNET_NO == frc->do_copy)
562   {
563     /* first time, we can use the original data */
564     pm = frc->pm;
565     frc->do_copy = GNUNET_YES;
566   }
567   else
568   {
569     /* two clients waiting for same reply, must copy for queueing */
570     pm = GNUNET_malloc (sizeof (struct PendingMessage) +
571                         ntohs (frc->pm->msg->size));
572     memcpy (pm, frc->pm,
573             sizeof (struct PendingMessage) + ntohs (frc->pm->msg->size));
574     pm->next = pm->prev = NULL;
575     pm->msg = (struct GNUNET_MessageHeader *) &pm[1];
576   }
577   GNUNET_STATISTICS_update (GDS_stats,
578                             gettext_noop ("# RESULTS queued for clients"), 1,
579                             GNUNET_NO);
580   reply = (struct GNUNET_DHT_ClientResultMessage *) &pm[1];
581   reply->unique_id = record->unique_id;
582   LOG (GNUNET_ERROR_TYPE_DEBUG,
583        "Queueing reply to query %s for client %p\n",
584        GNUNET_h2s (key),
585        record->client->client_handle);
586   add_pending_message (record->client, pm);
587   if (GNUNET_YES == do_free)
588     remove_client_records (record->client, key, record);
589   return GNUNET_YES;
590 }
591
592
593 /**
594  * Handle a reply we've received from another peer.  If the reply
595  * matches any of our pending queries, forward it to the respective
596  * client(s).
597  *
598  * @param expiration when will the reply expire
599  * @param key the query this reply is for
600  * @param get_path_length number of peers in @a get_path
601  * @param get_path path the reply took on get
602  * @param put_path_length number of peers in @a put_path
603  * @param put_path path the reply took on put
604  * @param type type of the reply
605  * @param data_size number of bytes in @a data
606  * @param data application payload data
607  */
608 void
609 GDS_CLIENTS_handle_reply (struct GNUNET_TIME_Absolute expiration,
610                           const struct GNUNET_HashCode *key,
611                           unsigned int get_path_length,
612                           const struct GNUNET_PeerIdentity *get_path,
613                           unsigned int put_path_length,
614                           const struct GNUNET_PeerIdentity *put_path,
615                           enum GNUNET_BLOCK_Type type, size_t data_size,
616                           const void *data)
617 {
618   struct ForwardReplyContext frc;
619   struct PendingMessage *pm;
620   struct GNUNET_DHT_ClientResultMessage *reply;
621   struct GNUNET_PeerIdentity *paths;
622   size_t msize;
623
624   LOG (GNUNET_ERROR_TYPE_DEBUG,
625        "reply for key %s\n",
626        GNUNET_h2s (key));
627
628   if (NULL == GNUNET_CONTAINER_multihashmap_get (forward_map, key))
629   {
630     GNUNET_STATISTICS_update (GDS_stats,
631                               gettext_noop
632                               ("# REPLIES ignored for CLIENTS (no match)"), 1,
633                               GNUNET_NO);
634     return;                     /* no matching request, fast exit! */
635   }
636   msize =
637       sizeof (struct GNUNET_DHT_ClientResultMessage) + data_size +
638       (get_path_length + put_path_length) * sizeof (struct GNUNET_PeerIdentity);
639   if (msize >= GNUNET_SERVER_MAX_MESSAGE_SIZE)
640   {
641     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
642                 _("Could not pass reply to client, message too big!\n"));
643     return;
644   }
645   pm = GNUNET_malloc (msize + sizeof (struct PendingMessage));
646   reply = (struct GNUNET_DHT_ClientResultMessage *) &pm[1];
647   pm->msg = &reply->header;
648   reply->header.size = htons ((uint16_t) msize);
649   reply->header.type = htons (GNUNET_MESSAGE_TYPE_DHT_CLIENT_RESULT);
650   reply->type = htonl (type);
651   reply->get_path_length = htonl (get_path_length);
652   reply->put_path_length = htonl (put_path_length);
653   reply->unique_id = 0;         /* filled in later */
654   reply->expiration = GNUNET_TIME_absolute_hton (expiration);
655   reply->key = *key;
656   paths = (struct GNUNET_PeerIdentity *) &reply[1];
657   memcpy (paths, put_path,
658           sizeof (struct GNUNET_PeerIdentity) * put_path_length);
659   memcpy (&paths[put_path_length], get_path,
660           sizeof (struct GNUNET_PeerIdentity) * get_path_length);
661   memcpy (&paths[get_path_length + put_path_length], data, data_size);
662   frc.do_copy = GNUNET_NO;
663   frc.pm = pm;
664   frc.data = data;
665   frc.data_size = data_size;
666   frc.type = type;
667   GNUNET_CONTAINER_multihashmap_get_multiple (forward_map, key, &forward_reply,
668                                               &frc);
669
670   if (GNUNET_NO == frc.do_copy)
671   {
672     /* did not match any of the requests, free! */
673     GNUNET_STATISTICS_update (GDS_stats,
674                               gettext_noop
675                               ("# REPLIES ignored for CLIENTS (no match)"), 1,
676                               GNUNET_NO);
677     GNUNET_free (pm);
678   }
679 }
680
681 /**
682  * Check if some client is monitoring GET messages and notify
683  * them in that case.
684  *
685  * @param options Options, for instance RecordRoute, DemultiplexEverywhere.
686  * @param type The type of data in the request.
687  * @param hop_count Hop count so far.
688  * @param path_length number of entries in path (or 0 if not recorded).
689  * @param path peers on the GET path (or NULL if not recorded).
690  * @param desired_replication_level Desired replication level.
691  * @param key Key of the requested data.
692  */
693 void
694 GDS_CLIENTS_process_get (uint32_t options,
695                          enum GNUNET_BLOCK_Type type,
696                          uint32_t hop_count,
697                          uint32_t desired_replication_level,
698                          unsigned int path_length,
699                          const struct GNUNET_PeerIdentity *path,
700                          const struct GNUNET_HashCode * key)
701 {
702   struct ClientMonitorRecord *m;
703   struct ClientList **cl;
704   unsigned int cl_size;
705
706   cl = NULL;
707   cl_size = 0;
708   for (m = monitor_head; NULL != m; m = m->next)
709   {
710     if ((GNUNET_BLOCK_TYPE_ANY == m->type || m->type == type) &&
711         (NULL == m->key ||
712          memcmp (key, m->key, sizeof(struct GNUNET_HashCode)) == 0))
713     {
714       struct PendingMessage *pm;
715       struct GNUNET_DHT_MonitorGetMessage *mmsg;
716       struct GNUNET_PeerIdentity *msg_path;
717       size_t msize;
718       unsigned int i;
719
720       /* Don't send duplicates */
721       for (i = 0; i < cl_size; i++)
722         if (cl[i] == m->client)
723           break;
724       if (i < cl_size)
725         continue;
726       GNUNET_array_append (cl, cl_size, m->client);
727
728       msize = path_length * sizeof (struct GNUNET_PeerIdentity);
729       msize += sizeof (struct GNUNET_DHT_MonitorGetMessage);
730       msize += sizeof (struct PendingMessage);
731       pm = GNUNET_malloc (msize);
732       mmsg = (struct GNUNET_DHT_MonitorGetMessage *) &pm[1];
733       pm->msg = &mmsg->header;
734       mmsg->header.size = htons (msize - sizeof (struct PendingMessage));
735       mmsg->header.type = htons (GNUNET_MESSAGE_TYPE_DHT_MONITOR_GET);
736       mmsg->options = htonl(options);
737       mmsg->type = htonl(type);
738       mmsg->hop_count = htonl(hop_count);
739       mmsg->desired_replication_level = htonl(desired_replication_level);
740       mmsg->get_path_length = htonl(path_length);
741       memcpy (&mmsg->key, key, sizeof (struct GNUNET_HashCode));
742       msg_path = (struct GNUNET_PeerIdentity *) &mmsg[1];
743       if (path_length > 0)
744         memcpy (msg_path, path,
745                 path_length * sizeof (struct GNUNET_PeerIdentity));
746       add_pending_message (m->client, pm);
747     }
748   }
749   GNUNET_free_non_null (cl);
750 }
751
752
753 /**
754  * Check if some client is monitoring PUT messages and notify
755  * them in that case.
756  *
757  * @param options Options, for instance RecordRoute, DemultiplexEverywhere.
758  * @param type The type of data in the request.
759  * @param hop_count Hop count so far.
760  * @param path_length number of entries in path (or 0 if not recorded).
761  * @param path peers on the PUT path (or NULL if not recorded).
762  * @param desired_replication_level Desired replication level.
763  * @param exp Expiration time of the data.
764  * @param key Key under which data is to be stored.
765  * @param data Pointer to the data carried.
766  * @param size Number of bytes in data.
767  */
768 void
769 GDS_CLIENTS_process_put (uint32_t options,
770                          enum GNUNET_BLOCK_Type type,
771                          uint32_t hop_count,
772                          uint32_t desired_replication_level,
773                          unsigned int path_length,
774                          const struct GNUNET_PeerIdentity *path,
775                          struct GNUNET_TIME_Absolute exp,
776                          const struct GNUNET_HashCode * key,
777                          const void *data,
778                          size_t size)
779 {
780   struct ClientMonitorRecord *m;
781   struct ClientList **cl;
782   unsigned int cl_size;
783
784   cl = NULL;
785   cl_size = 0;
786   for (m = monitor_head; NULL != m; m = m->next)
787   {
788     if ((GNUNET_BLOCK_TYPE_ANY == m->type || m->type == type) &&
789         (NULL == m->key ||
790          memcmp (key, m->key, sizeof(struct GNUNET_HashCode)) == 0))
791     {
792       struct PendingMessage *pm;
793       struct GNUNET_DHT_MonitorPutMessage *mmsg;
794       struct GNUNET_PeerIdentity *msg_path;
795       size_t msize;
796       unsigned int i;
797
798       /* Don't send duplicates */
799       for (i = 0; i < cl_size; i++)
800         if (cl[i] == m->client)
801           break;
802       if (i < cl_size)
803         continue;
804       GNUNET_array_append (cl, cl_size, m->client);
805
806       msize = size;
807       msize += path_length * sizeof (struct GNUNET_PeerIdentity);
808       msize += sizeof (struct GNUNET_DHT_MonitorPutMessage);
809       msize += sizeof (struct PendingMessage);
810       pm = GNUNET_malloc (msize);
811       mmsg = (struct GNUNET_DHT_MonitorPutMessage *) &pm[1];
812       pm->msg = (struct GNUNET_MessageHeader *) mmsg;
813       mmsg->header.size = htons (msize - sizeof (struct PendingMessage));
814       mmsg->header.type = htons (GNUNET_MESSAGE_TYPE_DHT_MONITOR_PUT);
815       mmsg->options = htonl(options);
816       mmsg->type = htonl(type);
817       mmsg->hop_count = htonl(hop_count);
818       mmsg->desired_replication_level = htonl(desired_replication_level);
819       mmsg->put_path_length = htonl(path_length);
820       msg_path = (struct GNUNET_PeerIdentity *) &mmsg[1];
821       if (path_length > 0)
822       {
823         memcpy (msg_path, path,
824                 path_length * sizeof (struct GNUNET_PeerIdentity));
825       }
826       mmsg->expiration_time = GNUNET_TIME_absolute_hton(exp);
827       memcpy (&mmsg->key, key, sizeof (struct GNUNET_HashCode));
828       if (size > 0)
829         memcpy (&msg_path[path_length], data, size);
830       add_pending_message (m->client, pm);
831     }
832   }
833   GNUNET_free_non_null (cl);
834 }
835
836
837 /**
838  * Route the given request via the DHT.  
839  */
840 static void
841 transmit_request (struct ClientQueryRecord *cqr)
842 {
843   GNUNET_STATISTICS_update (GDS_stats,
844                             gettext_noop
845                             ("# GET requests from clients injected"), 1,
846                             GNUNET_NO);
847   
848   LOG (GNUNET_ERROR_TYPE_DEBUG,
849        "Initiating GET for %s, replication %u, already have %u replies\n",
850        GNUNET_h2s (&cqr->key),
851        cqr->replication,
852        cqr->seen_replies_count);
853   GDS_NEIGHBOURS_send_get (&cqr->key, cqr->type, cqr->msg_options, 
854                            cqr->replication, NULL, NULL , NULL,
855                            0, 0, NULL);
856   
857   /* exponential back-off for retries.
858    * max GNUNET_TIME_STD_EXPONENTIAL_BACKOFF_THRESHOLD (15 min) */
859   cqr->retry_frequency = GNUNET_TIME_STD_BACKOFF (cqr->retry_frequency);
860   cqr->retry_time = GNUNET_TIME_relative_to_absolute (cqr->retry_frequency);
861 }
862
863
864 /**
865  * Task that looks at the 'retry_heap' and transmits all of the requests
866  * on the heap that are ready for transmission.  Then re-schedules
867  * itself (unless the heap is empty).
868  *
869  * @param cls unused
870  * @param tc scheduler context
871  */
872 static void
873 transmit_next_request_task (void *cls,
874                             const struct GNUNET_SCHEDULER_TaskContext *tc)
875 {
876   struct ClientQueryRecord *cqr;
877   struct GNUNET_TIME_Relative delay;
878
879   retry_task = GNUNET_SCHEDULER_NO_TASK;
880   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
881     return;
882   while (NULL != (cqr = GNUNET_CONTAINER_heap_remove_root (retry_heap)))
883   {
884     cqr->hnode = NULL;
885     delay = GNUNET_TIME_absolute_get_remaining (cqr->retry_time);
886     if (delay.rel_value_us > 0)
887     {
888       cqr->hnode =
889           GNUNET_CONTAINER_heap_insert (retry_heap, cqr,
890                                         cqr->retry_time.abs_value_us);
891       retry_task =
892           GNUNET_SCHEDULER_add_delayed (delay, &transmit_next_request_task,
893                                         NULL);
894       return;
895     }
896     transmit_request (cqr);
897     cqr->hnode =
898         GNUNET_CONTAINER_heap_insert (retry_heap, cqr,
899                                       cqr->retry_time.abs_value_us);
900   }
901 }
902
903
904 /**
905  * Handler for PUT messages.
906  *
907  * @param cls closure for the service
908  * @param client the client we received this message from
909  * @param message the actual message received
910  */
911 static void
912 handle_dht_local_put (void *cls, struct GNUNET_SERVER_Client *client,
913                       const struct GNUNET_MessageHeader *message)
914 {
915   const struct GNUNET_DHT_ClientPutMessage *put_msg;
916   struct PendingMessage *pm;
917   struct GNUNET_DHT_ClientPutConfirmationMessage *conf;
918   uint16_t size;
919
920   size = ntohs (message->size);
921   if (size < sizeof (struct GNUNET_DHT_ClientPutMessage))
922   {
923     GNUNET_break (0);
924     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
925     return;
926   }
927   GNUNET_STATISTICS_update (GDS_stats,
928                             gettext_noop
929                             ("# PUT requests received from clients"), 1,
930                             GNUNET_NO);
931   put_msg = (const struct GNUNET_DHT_ClientPutMessage *) message;
932   LOG_TRAFFIC (GNUNET_ERROR_TYPE_DEBUG, "X-VINE DHT CLIENT-PUT %s\n",
933                GNUNET_h2s_full (&put_msg->key));
934   /* give to local clients */
935   LOG (GNUNET_ERROR_TYPE_DEBUG,
936        "Handling local PUT of %u-bytes for query %s\n",
937        size - sizeof (struct GNUNET_DHT_ClientPutMessage),
938        GNUNET_h2s (&put_msg->key));
939   
940   GDS_CLIENTS_handle_reply (GNUNET_TIME_absolute_ntoh (put_msg->expiration),
941                             &put_msg->key, 0, NULL, 0, NULL,
942                             ntohl (put_msg->type),
943                             size - sizeof (struct GNUNET_DHT_ClientPutMessage),
944                             &put_msg[1]);
945   /* FIXME: Should we store locally? */
946   GDS_DATACACHE_handle_put (GNUNET_TIME_absolute_ntoh (put_msg->expiration),
947                             &put_msg->key, 0, NULL, ntohl (put_msg->type),
948                             size - sizeof (struct GNUNET_DHT_ClientPutMessage),
949                             &put_msg[1]);
950  
951   struct GNUNET_PeerIdentity my_identity =  GDS_NEIGHBOURS_get_my_id();
952   GDS_NEIGHBOURS_send_put (&put_msg->key, 
953                            ntohl (put_msg->type), ntohl (put_msg->options),
954                            ntohl (put_msg->desired_replication_level), NULL,
955                            NULL, NULL, 0, 0, NULL,
956                            GNUNET_TIME_absolute_ntoh (put_msg->expiration),
957                            &put_msg[1],
958                            size - sizeof (struct GNUNET_DHT_ClientPutMessage));
959   
960
961   GDS_CLIENTS_process_put (ntohl (put_msg->options),
962                            ntohl (put_msg->type),
963                            0,
964                            ntohl (put_msg->desired_replication_level),
965                            1,
966                            &my_identity,
967                            GNUNET_TIME_absolute_ntoh (put_msg->expiration),
968                            &put_msg->key,
969                            &put_msg[1],
970                            size - sizeof (struct GNUNET_DHT_ClientPutMessage));
971   
972   pm = GNUNET_malloc (sizeof (struct PendingMessage) +
973                       sizeof (struct GNUNET_DHT_ClientPutConfirmationMessage));
974   conf = (struct GNUNET_DHT_ClientPutConfirmationMessage *) &pm[1];
975   conf->header.size = htons (sizeof (struct GNUNET_DHT_ClientPutConfirmationMessage));
976   conf->header.type = htons (GNUNET_MESSAGE_TYPE_DHT_CLIENT_PUT_OK);
977   conf->reserved = htonl (0);
978   conf->unique_id = put_msg->unique_id;
979   pm->msg = &conf->header;
980   add_pending_message (find_active_client (client), pm);
981   GNUNET_SERVER_receive_done (client, GNUNET_OK);
982 }
983
984
985 /**
986  * Handler for DHT GET messages from the client.
987  *
988  * @param cls closure for the service
989  * @param client the client we received this message from
990  * @param message the actual message received
991  */
992 static void
993 handle_dht_local_get (void *cls, struct GNUNET_SERVER_Client *client,
994                       const struct GNUNET_MessageHeader *message)
995 {
996   const struct GNUNET_DHT_ClientGetMessage *get;
997   struct ClientQueryRecord *cqr;
998   size_t xquery_size;
999   const char *xquery;
1000   uint16_t size;
1001
1002   size = ntohs (message->size);
1003   if (size < sizeof (struct GNUNET_DHT_ClientGetMessage))
1004   {
1005     GNUNET_break (0);
1006     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
1007     return;
1008   }
1009   xquery_size = size - sizeof (struct GNUNET_DHT_ClientGetMessage);
1010   get = (const struct GNUNET_DHT_ClientGetMessage *) message;
1011   xquery = (const char *) &get[1];
1012   GNUNET_STATISTICS_update (GDS_stats,
1013                             gettext_noop
1014                             ("# GET requests received from clients"), 1,
1015                             GNUNET_NO);
1016   LOG (GNUNET_ERROR_TYPE_DEBUG,
1017        "Received GET request for %s from local client %p, xq: %.*s\n",
1018        GNUNET_h2s (&get->key), client, xquery_size, xquery);
1019
1020   LOG_TRAFFIC (GNUNET_ERROR_TYPE_DEBUG, "X-VINE CLIENT-GET %s\n",
1021                GNUNET_h2s_full (&get->key));
1022
1023
1024   cqr = GNUNET_malloc (sizeof (struct ClientQueryRecord) + xquery_size);
1025   cqr->key = get->key;
1026   cqr->client = find_active_client (client);
1027   cqr->xquery = (void *) &cqr[1];
1028   memcpy (&cqr[1], xquery, xquery_size);
1029   cqr->hnode = GNUNET_CONTAINER_heap_insert (retry_heap, cqr, 0);
1030   cqr->retry_frequency = GNUNET_TIME_UNIT_SECONDS;
1031   cqr->retry_time = GNUNET_TIME_absolute_get ();
1032   cqr->unique_id = get->unique_id;
1033   cqr->xquery_size = xquery_size;
1034   cqr->replication = ntohl (get->desired_replication_level);
1035   cqr->msg_options = ntohl (get->options);
1036   cqr->type = ntohl (get->type);
1037   // FIXME use cqr->key, set multihashmap create to GNUNET_YES
1038   GNUNET_CONTAINER_multihashmap_put (forward_map, &get->key, cqr,
1039                                      GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
1040   
1041   struct GNUNET_PeerIdentity my_identity;
1042   my_identity = GDS_NEIGHBOURS_get_my_id();
1043   GDS_CLIENTS_process_get (ntohl (get->options),
1044                            ntohl (get->type),
1045                            0,
1046                            ntohl (get->desired_replication_level),
1047                            1,
1048                            &my_identity,
1049                            &get->key);
1050   /* start remote requests */
1051   if (GNUNET_SCHEDULER_NO_TASK != retry_task)
1052     GNUNET_SCHEDULER_cancel (retry_task);
1053   retry_task = GNUNET_SCHEDULER_add_now (&transmit_next_request_task, NULL);
1054   GNUNET_SERVER_receive_done (client, GNUNET_OK);
1055 }
1056
1057
1058 /**
1059  * Closure for 'find_by_unique_id'.
1060  */
1061 struct FindByUniqueIdContext
1062 {
1063   /**
1064    * Where to store the result, if found.
1065    */
1066   struct ClientQueryRecord *cqr;
1067
1068   uint64_t unique_id;
1069 };
1070
1071
1072 /**
1073  * Function called for each existing DHT record for the given
1074  * query.  Checks if it matches the UID given in the closure
1075  * and if so returns the entry as a result.
1076  *
1077  * @param cls the search context
1078  * @param key query for the lookup (not used)
1079  * @param value the 'struct ClientQueryRecord'
1080  * @return GNUNET_YES to continue iteration (result not yet found)
1081  */
1082 static int
1083 find_by_unique_id (void *cls,
1084                    const struct GNUNET_HashCode *key,
1085                    void *value)
1086 {
1087   struct FindByUniqueIdContext *fui_ctx = cls;
1088   struct ClientQueryRecord *cqr = value;
1089
1090   if (cqr->unique_id != fui_ctx->unique_id)
1091     return GNUNET_YES;
1092   fui_ctx->cqr = cqr;
1093   return GNUNET_NO;
1094 }
1095
1096
1097 /**
1098  * Handler for "GET result seen" messages from the client.
1099  *
1100  * @param cls closure for the service
1101  * @param client the client we received this message from
1102  * @param message the actual message received
1103  */
1104 static void
1105 handle_dht_local_get_result_seen (void *cls, struct GNUNET_SERVER_Client *client,
1106                                   const struct GNUNET_MessageHeader *message)
1107 {
1108   const struct GNUNET_DHT_ClientGetResultSeenMessage *seen;
1109   uint16_t size;
1110   unsigned int hash_count;
1111   unsigned int old_count;
1112   const struct GNUNET_HashCode *hc;
1113   struct FindByUniqueIdContext fui_ctx;
1114   struct ClientQueryRecord *cqr;
1115
1116   size = ntohs (message->size);
1117   if (size < sizeof (struct GNUNET_DHT_ClientGetResultSeenMessage))
1118   {
1119     GNUNET_break (0);
1120     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
1121     return;
1122   }
1123   seen = (const struct GNUNET_DHT_ClientGetResultSeenMessage *) message;
1124   hash_count = (size - sizeof (struct GNUNET_DHT_ClientGetResultSeenMessage)) / sizeof (struct GNUNET_HashCode);
1125   if (size != sizeof (struct GNUNET_DHT_ClientGetResultSeenMessage) + hash_count * sizeof (struct GNUNET_HashCode))
1126   {
1127     GNUNET_break (0);
1128     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
1129     return;
1130   }
1131   hc = (const struct GNUNET_HashCode*) &seen[1];
1132   fui_ctx.unique_id = seen->unique_id;
1133   fui_ctx.cqr = NULL;
1134   GNUNET_CONTAINER_multihashmap_get_multiple (forward_map,
1135                                               &seen->key,
1136                                               &find_by_unique_id,
1137                                               &fui_ctx);
1138   if (NULL == (cqr = fui_ctx.cqr))
1139   {
1140     GNUNET_break (0);
1141     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
1142     return;
1143   }
1144   /* finally, update 'seen' list */
1145   old_count = cqr->seen_replies_count;
1146   GNUNET_array_grow (cqr->seen_replies,
1147                      cqr->seen_replies_count,
1148                      cqr->seen_replies_count + hash_count);
1149   memcpy (&cqr->seen_replies[old_count],
1150           hc,
1151           sizeof (struct GNUNET_HashCode) * hash_count);
1152 }
1153
1154
1155 /**
1156  * Closure for 'remove_by_unique_id'.
1157  */
1158 struct RemoveByUniqueIdContext
1159 {
1160   /**
1161    * Client that issued the removal request.
1162    */
1163   struct ClientList *client;
1164
1165   /**
1166    * Unique ID of the request.
1167    */
1168   uint64_t unique_id;
1169 };
1170
1171
1172 /**
1173  * Iterator over hash map entries that frees all entries
1174  * that match the given client and unique ID.
1175  *
1176  * @param cls unique ID and client to search for in source routes
1177  * @param key current key code
1178  * @param value value in the hash map, a ClientQueryRecord
1179  * @return GNUNET_YES (we should continue to iterate)
1180  */
1181 static int
1182 remove_by_unique_id (void *cls, const struct GNUNET_HashCode * key, void *value)
1183 {
1184   const struct RemoveByUniqueIdContext *ctx = cls;
1185   struct ClientQueryRecord *record = value;
1186
1187   if (record->unique_id != ctx->unique_id)
1188     return GNUNET_YES;
1189   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1190               "Removing client %p's record for key %s (by unique id)\n",
1191               ctx->client->client_handle, GNUNET_h2s (key));
1192   return remove_client_records (ctx->client, key, record);
1193 }
1194
1195
1196 /**
1197  * Handler for any generic DHT stop messages, calls the appropriate handler
1198  * depending on message type (if processed locally)
1199  *
1200  * @param cls closure for the service
1201  * @param client the client we received this message from
1202  * @param message the actual message received
1203  *
1204  */
1205 static void
1206 handle_dht_local_get_stop (void *cls, struct GNUNET_SERVER_Client *client,
1207                            const struct GNUNET_MessageHeader *message)
1208 {
1209   const struct GNUNET_DHT_ClientGetStopMessage *dht_stop_msg =
1210       (const struct GNUNET_DHT_ClientGetStopMessage *) message;
1211   struct RemoveByUniqueIdContext ctx;
1212
1213   GNUNET_STATISTICS_update (GDS_stats,
1214                             gettext_noop
1215                             ("# GET STOP requests received from clients"), 1,
1216                             GNUNET_NO);
1217   LOG (GNUNET_ERROR_TYPE_DEBUG,
1218        "Received GET STOP request for %s from local client %p\n",
1219        client, GNUNET_h2s (&dht_stop_msg->key));
1220   ctx.client = find_active_client (client);
1221   ctx.unique_id = dht_stop_msg->unique_id;
1222   GNUNET_CONTAINER_multihashmap_get_multiple (forward_map, &dht_stop_msg->key,
1223                                               &remove_by_unique_id, &ctx);
1224   GNUNET_SERVER_receive_done (client, GNUNET_OK);
1225 }
1226
1227
1228 /**
1229  * Handler for monitor start messages
1230  *
1231  * @param cls closure for the service
1232  * @param client the client we received this message from
1233  * @param message the actual message received
1234  *
1235  */
1236 static void
1237 handle_dht_local_monitor (void *cls, struct GNUNET_SERVER_Client *client,
1238                           const struct GNUNET_MessageHeader *message)
1239 {
1240   struct ClientMonitorRecord *r;
1241   const struct GNUNET_DHT_MonitorStartStopMessage *msg;
1242
1243   msg = (struct GNUNET_DHT_MonitorStartStopMessage *) message;
1244   r = GNUNET_new (struct ClientMonitorRecord);
1245
1246   r->client = find_active_client(client);
1247   r->type = ntohl(msg->type);
1248   r->get = ntohs(msg->get);
1249   r->get_resp = ntohs(msg->get_resp);
1250   r->put = ntohs(msg->put);
1251   if (0 == ntohs(msg->filter_key))
1252       r->key = NULL;
1253   else
1254   {
1255     r->key = GNUNET_new (struct GNUNET_HashCode);
1256     memcpy (r->key, &msg->key, sizeof (struct GNUNET_HashCode));
1257   }
1258   GNUNET_CONTAINER_DLL_insert (monitor_head, monitor_tail, r);
1259   GNUNET_SERVER_receive_done (client, GNUNET_OK);
1260 }
1261
1262
1263 /**
1264  * Handler for monitor stop messages
1265  *
1266  * @param cls closure for the service
1267  * @param client the client we received this message from
1268  * @param message the actual message received
1269  *
1270  */
1271 static void
1272 handle_dht_local_monitor_stop (void *cls, struct GNUNET_SERVER_Client *client,
1273                                const struct GNUNET_MessageHeader *message)
1274 {
1275   struct ClientMonitorRecord *r;
1276   const struct GNUNET_DHT_MonitorStartStopMessage *msg;
1277   int keys_match;
1278
1279   msg = (struct GNUNET_DHT_MonitorStartStopMessage *) message;
1280   r = monitor_head;
1281
1282   while (NULL != r)
1283   {
1284     if (NULL == r->key)
1285         keys_match = (0 == ntohs(msg->filter_key));
1286     else
1287     {
1288         keys_match = (0 != ntohs(msg->filter_key)
1289                       && !memcmp(r->key, &msg->key, sizeof(struct GNUNET_HashCode)));
1290     }
1291     if (find_active_client(client) == r->client
1292         && ntohl(msg->type) == r->type
1293         && r->get == msg->get
1294         && r->get_resp == msg->get_resp
1295         && r->put == msg->put
1296         && keys_match
1297         )
1298     {
1299         GNUNET_CONTAINER_DLL_remove (monitor_head, monitor_tail, r);
1300         GNUNET_free_non_null (r->key);
1301         GNUNET_free (r);
1302         GNUNET_SERVER_receive_done (client, GNUNET_OK);
1303         return; /* Delete only ONE entry */
1304     }
1305     r = r->next;
1306   }
1307
1308   GNUNET_SERVER_receive_done (client, GNUNET_OK);
1309 }
1310
1311
1312 #if ENABLE_MALICIOUS
1313 /**
1314  * Handler for monitor stop messages
1315  *
1316  * @param cls closure for the service
1317  * @param client the client we received this message from
1318  * @param message the actual message received
1319  *
1320  */
1321 static void
1322 handle_dht_act_malicious (void *cls, struct GNUNET_SERVER_Client *client,
1323                           const struct GNUNET_MessageHeader *message)
1324 {
1325   /* FIXME: parse message and set malicious */
1326   malicious = 1;
1327 }
1328 #endif
1329
1330
1331 /**
1332  * Functions with this signature are called whenever a client
1333  * is disconnected on the network level.
1334  *
1335  * @param cls closure (NULL for dht)
1336  * @param client identification of the client; NULL
1337  *        for the last call when the server is destroyed
1338  */
1339 static void
1340 handle_client_disconnect (void *cls,
1341                           struct GNUNET_SERVER_Client *client)
1342 {
1343   struct ClientList *pos;
1344   struct PendingMessage *reply;
1345   struct ClientMonitorRecord *monitor;
1346
1347   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1348               "Local client %p disconnects\n",
1349               client);
1350   pos = find_active_client (client);
1351   GNUNET_CONTAINER_DLL_remove (client_head, client_tail, pos);
1352   if (pos->transmit_handle != NULL)
1353     GNUNET_SERVER_notify_transmit_ready_cancel (pos->transmit_handle);
1354   while (NULL != (reply = pos->pending_head))
1355   {
1356     GNUNET_CONTAINER_DLL_remove (pos->pending_head, pos->pending_tail, reply);
1357     GNUNET_free (reply);
1358   }
1359   monitor = monitor_head;
1360   while (NULL != monitor)
1361   {
1362     if (monitor->client == pos)
1363     {
1364       struct ClientMonitorRecord *next;
1365
1366       GNUNET_free_non_null (monitor->key);
1367       next = monitor->next;
1368       GNUNET_CONTAINER_DLL_remove (monitor_head, monitor_tail, monitor);
1369       GNUNET_free (monitor);
1370       monitor = next;
1371     }
1372     else
1373       monitor = monitor->next;
1374   }
1375   GNUNET_CONTAINER_multihashmap_iterate (forward_map, &remove_client_records,
1376                                          pos);
1377   GNUNET_free (pos);
1378 }
1379
1380
1381
1382 /**
1383  * Initialize client subsystem.
1384  *
1385  * @param server the initialized server
1386  */
1387 void
1388 GDS_CLIENTS_init (struct GNUNET_SERVER_Handle *server)
1389 {
1390   static struct GNUNET_SERVER_MessageHandler plugin_handlers[] = {
1391     {&handle_dht_local_put, NULL,
1392      GNUNET_MESSAGE_TYPE_DHT_CLIENT_PUT, 0},
1393     {&handle_dht_local_get, NULL,
1394      GNUNET_MESSAGE_TYPE_DHT_CLIENT_GET, 0},
1395     {&handle_dht_local_get_stop, NULL,
1396      GNUNET_MESSAGE_TYPE_DHT_CLIENT_GET_STOP,
1397      sizeof (struct GNUNET_DHT_ClientGetStopMessage)},
1398     {&handle_dht_local_monitor, NULL,
1399      GNUNET_MESSAGE_TYPE_DHT_MONITOR_START,
1400      sizeof (struct GNUNET_DHT_MonitorStartStopMessage)},
1401     {&handle_dht_local_monitor_stop, NULL,
1402      GNUNET_MESSAGE_TYPE_DHT_MONITOR_STOP,
1403      sizeof (struct GNUNET_DHT_MonitorStartStopMessage)},
1404     {&handle_dht_local_get_result_seen, NULL,
1405      GNUNET_MESSAGE_TYPE_DHT_CLIENT_GET_RESULTS_KNOWN, 0},
1406     #if ENABLE_MALICIOUS
1407     {&handle_dht_act_malicious, NULL,
1408      GNUNET_MESSAGE_TYPE_DHT_ACT_MALICIOUS,
1409      sizeof (struct GNUNET_DHT_ActMaliciousMessage)},
1410     #endif
1411     {NULL, NULL, 0, 0}
1412   };
1413   forward_map = GNUNET_CONTAINER_multihashmap_create (1024, GNUNET_NO);
1414   retry_heap = GNUNET_CONTAINER_heap_create (GNUNET_CONTAINER_HEAP_ORDER_MIN);
1415   GNUNET_SERVER_add_handlers (server, plugin_handlers);
1416   GNUNET_SERVER_disconnect_notify (server, &handle_client_disconnect, NULL);
1417 }
1418
1419
1420 /**
1421  * Shutdown client subsystem.
1422  */
1423 void
1424 GDS_CLIENTS_done ()
1425 {
1426   GNUNET_assert (client_head == NULL);
1427   GNUNET_assert (client_tail == NULL);
1428   if (GNUNET_SCHEDULER_NO_TASK != retry_task)
1429   {
1430     GNUNET_SCHEDULER_cancel (retry_task);
1431     retry_task = GNUNET_SCHEDULER_NO_TASK;
1432   }
1433   if (NULL != retry_heap)
1434   {
1435     GNUNET_assert (0 == GNUNET_CONTAINER_heap_get_size (retry_heap));
1436     GNUNET_CONTAINER_heap_destroy (retry_heap);
1437     retry_heap = NULL;
1438   }
1439   if (NULL != forward_map)
1440   {
1441     GNUNET_assert (0 == GNUNET_CONTAINER_multihashmap_size (forward_map));
1442     GNUNET_CONTAINER_multihashmap_destroy (forward_map);
1443     forward_map = NULL;
1444   }
1445 }
1446
1447 /* end of gnunet-service-dht_clients.c */