renaming GNUNET_TIME_relative_get_forever and GNUNET_TIME_absolute_get_forever method...
[oweals/gnunet.git] / src / dv / gnunet-service-dv.c
1 /*
2      This file is part of GNUnet.
3      (C) 2009 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file dv/gnunet-service-dv.c
23  * @brief the distance vector service, primarily handles gossip of nearby
24  * peers and sending/receiving DV messages from core and decapsulating
25  * them
26  *
27  * @author Christian Grothoff
28  * @author Nathan Evans
29  *
30  */
31 #include "platform.h"
32 #include "gnunet_client_lib.h"
33 #include "gnunet_getopt_lib.h"
34 #include "gnunet_os_lib.h"
35 #include "gnunet_protocols.h"
36 #include "gnunet_service_lib.h"
37 #include "gnunet_core_service.h"
38 #include "gnunet_signal_lib.h"
39 #include "gnunet_util_lib.h"
40 #include "gnunet_hello_lib.h"
41 #include "gnunet_peerinfo_service.h"
42 #include "gnunet_crypto_lib.h"
43 #include "gnunet_statistics_service.h"
44 #include "dv.h"
45
46 /**
47  * For testing mostly, remember only the
48  * shortest path to a distant neighbor.
49  */
50 #define AT_MOST_ONE GNUNET_NO
51
52 #define USE_PEER_ID GNUNET_YES
53
54 /**
55  * How many outstanding messages (unknown sender) will we allow per peer?
56  */
57 #define MAX_OUTSTANDING_MESSAGES 5
58
59 /**
60  * How often do we check about sending out more peer information (if
61  * we are connected to no peers previously).
62  */
63 #define GNUNET_DV_DEFAULT_SEND_INTERVAL GNUNET_TIME_relative_multiply(GNUNET_TIME_UNIT_MILLISECONDS, 500000)
64
65 /**
66  * How long do we wait at most between sending out information?
67  */
68 #define GNUNET_DV_MAX_SEND_INTERVAL GNUNET_TIME_relative_multiply(GNUNET_TIME_UNIT_MILLISECONDS, 500000)
69
70 /**
71  * How long can we have not heard from a peer and
72  * still have it in our tables?
73  */
74 #define GNUNET_DV_PEER_EXPIRATION_TIME GNUNET_TIME_relative_multiply(GNUNET_TIME_UNIT_SECONDS, 1000))
75
76 /**
77  * Priority for gossip.
78  */
79 #define GNUNET_DV_DHT_GOSSIP_PRIORITY (GNUNET_EXTREME_PRIORITY / 10)
80
81 /**
82  * How often should we check if expiration time has elapsed for
83  * some peer?
84  */
85 #define GNUNET_DV_MAINTAIN_FREQUENCY GNUNET_TIME_relative_multiply(GNUNET_TIME_UNIT_SECONDS, 5))
86
87 /**
88  * How long to allow a message to be delayed?
89  */
90 #define DV_DELAY GNUNET_TIME_relative_multiply(GNUNET_TIME_UNIT_SECONDS, 5))
91
92 /**
93  * Priority to use for DV data messages.
94  */
95 #define DV_PRIORITY 0
96
97 /**
98  * The cost to a direct neighbor.  We used to use 0, but 1 makes more sense.
99  */
100 #define DIRECT_NEIGHBOR_COST 1
101
102 /**
103  * The default number of direct connections to store in DV (max)
104  */
105 #define DEFAULT_DIRECT_CONNECTIONS 50
106
107 /**
108  * The default size of direct + extended peers in DV (max)
109  */
110 #define DEFAULT_DV_SIZE 100
111
112 /**
113  * The default fisheye depth, from how many hops away will
114  * we keep peers?
115  */
116 #define DEFAULT_FISHEYE_DEPTH 4
117
118 /**
119  * Linked list of messages to send to clients.
120  */
121 struct PendingMessage
122 {
123   /**
124    * Pointer to next item in the list
125    */
126   struct PendingMessage *next;
127
128   /**
129    * Pointer to previous item in the list
130    */
131   struct PendingMessage *prev;
132
133   /**
134    * The PeerIdentity to send to
135    */
136   struct GNUNET_PeerIdentity recipient;
137
138   /**
139    * The result of message sending.
140    */
141   struct GNUNET_DV_SendResultMessage *send_result;
142
143   /**
144    * Message importance level.
145    */
146   unsigned int importance;
147
148   /**
149    * Size of message.
150    */
151   unsigned int msg_size;
152
153   /**
154    * How long to wait before sending message.
155    */
156   struct GNUNET_TIME_Relative timeout;
157
158   /**
159    * Actual message to be sent; // avoid allocation
160    */
161   const struct GNUNET_MessageHeader *msg;       // msg = (cast) &pm[1]; // memcpy (&pm[1], data, len);
162
163 };
164
165 struct FastGossipNeighborList
166 {
167   /**
168    * Next element of DLL
169    */
170   struct FastGossipNeighborList *next;
171
172   /**
173    * Prev element of DLL
174    */
175   struct FastGossipNeighborList *prev;
176
177   /**
178    * The neighbor to gossip about
179    */
180   struct DistantNeighbor *about;
181 };
182
183 /**
184  * Context created whenever a direct peer connects to us,
185  * used to gossip other peers to it.
186  */
187 struct NeighborSendContext
188 {
189   /**
190    * The peer we will gossip to.
191    */
192   struct DirectNeighbor *toNeighbor;
193
194   /**
195    * The task associated with this context.
196    */
197   GNUNET_SCHEDULER_TaskIdentifier task;
198
199   /**
200    * Head of DLL of peers to gossip about
201    * as fast as possible to this peer, for initial
202    * set up.
203    */
204   struct FastGossipNeighborList *fast_gossip_list_head;
205
206   /**
207    * Tail of DLL of peers to gossip about
208    * as fast as possible to this peer, for initial
209    * set up.
210    */
211   struct FastGossipNeighborList *fast_gossip_list_tail;
212
213 };
214
215
216 /**
217  * Struct to hold information for updating existing neighbors
218  */
219 struct NeighborUpdateInfo
220 {
221   /**
222    * Cost
223    */
224   unsigned int cost;
225
226   /**
227    * The existing neighbor
228    */
229   struct DistantNeighbor *neighbor;
230
231   /**
232    * The referrer of the possibly existing peer
233    */
234   struct DirectNeighbor *referrer;
235
236   /**
237    * The time we heard about this peer
238    */
239   struct GNUNET_TIME_Absolute now;
240
241   /**
242    * Peer id this peer uses to refer to neighbor.
243    */
244   unsigned int referrer_peer_id;
245
246 };
247
248 /**
249  * Struct to store a single message received with
250  * an unknown sender.
251  */
252 struct UnknownSenderMessage
253 {
254   /**
255    * Message sender (immediate)
256    */
257   struct GNUNET_PeerIdentity sender;
258
259   /**
260    * The actual message received
261    */
262   struct GNUNET_MessageHeader *message;
263
264   /**
265    * Latency of connection
266    */
267   struct GNUNET_TIME_Relative latency;
268
269   /**
270    * Distance to destination
271    */
272   uint32_t distance;
273
274   /**
275    * Unknown sender id
276    */
277   uint32_t sender_id;
278 };
279
280 /**
281  * Struct where actual neighbor information is stored,
282  * referenced by min_heap and max_heap.  Freeing dealt
283  * with when items removed from hashmap.
284  */
285 struct DirectNeighbor
286 {
287   /**
288    * Identity of neighbor.
289    */
290   struct GNUNET_PeerIdentity identity;
291
292   /**
293    * PublicKey of neighbor.
294    */
295   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded pkey;
296
297   /**
298    * Head of DLL of nodes that this direct neighbor referred to us.
299    */
300   struct DistantNeighbor *referee_head;
301
302   /**
303    * Tail of DLL of nodes that this direct neighbor referred to us.
304    */
305   struct DistantNeighbor *referee_tail;
306
307   /**
308    * The sending context for gossiping peers to this neighbor.
309    */
310   struct NeighborSendContext *send_context;
311
312   /**
313    * Is this one of the direct neighbors that we are "hiding"
314    * from DV?
315    */
316   int hidden;
317
318   /**
319    * Save messages immediately from this direct neighbor from a
320    * distan peer we don't know on the chance that it will be
321    * gossiped about and we can deliver the message.
322    */
323   struct UnknownSenderMessage pending_messages[MAX_OUTSTANDING_MESSAGES];
324 };
325
326
327 /**
328  * Struct where actual neighbor information is stored,
329  * referenced by min_heap and max_heap.  Freeing dealt
330  * with when items removed from hashmap.
331  */
332 struct DistantNeighbor
333 {
334   /**
335    * We keep distant neighbor's of the same referrer in a DLL.
336    */
337   struct DistantNeighbor *next;
338
339   /**
340    * We keep distant neighbor's of the same referrer in a DLL.
341    */
342   struct DistantNeighbor *prev;
343
344   /**
345    * Node in min heap
346    */
347   struct GNUNET_CONTAINER_HeapNode *min_loc;
348
349   /**
350    * Node in max heap
351    */
352   struct GNUNET_CONTAINER_HeapNode *max_loc;
353
354   /**
355    * Identity of referrer (next hop towards 'neighbor').
356    */
357   struct DirectNeighbor *referrer;
358
359   /**
360    * Identity of neighbor.
361    */
362   struct GNUNET_PeerIdentity identity;
363
364   /**
365    * PublicKey of neighbor.
366    */
367   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded *pkey;
368
369   /**
370    * Last time we received routing information from this peer
371    */
372   struct GNUNET_TIME_Absolute last_activity;
373
374   /**
375    * Last time we sent routing information about this peer
376    */
377   struct GNUNET_TIME_Absolute last_gossip;
378
379   /**
380    * Cost to neighbor, used for actual distance vector computations
381    */
382   unsigned int cost;
383
384   /**
385    * Random identifier *we* use for this peer, to be used as shortcut
386    * instead of sending full peer id for each message
387    */
388   unsigned int our_id;
389
390   /**
391    * Random identifier the *referrer* uses for this peer.
392    */
393   unsigned int referrer_id;
394
395   /**
396    * Is this one of the direct neighbors that we are "hiding"
397    * from DV?
398    */
399   int hidden;
400
401 };
402
403 struct PeerIteratorContext
404 {
405   /**
406    * The actual context, to be freed later.
407    */
408   struct GNUNET_PEERINFO_IteratorContext *ic;
409
410   /**
411    * The neighbor about which we are concerned.
412    */
413   struct DirectNeighbor *neighbor;
414
415   /**
416    * The distant neighbor entry for this direct neighbor.
417    */
418   struct DistantNeighbor *distant;
419
420 };
421
422 /**
423  * Context used for creating hello messages when
424  * gossips are received.
425  */
426 struct HelloContext
427 {
428   /**
429    * Identity of distant neighbor.
430    */
431   struct GNUNET_PeerIdentity distant_peer;
432
433   /**
434    * Identity of direct neighbor, via which we send this message.
435    */
436   const struct GNUNET_PeerIdentity *direct_peer;
437
438   /**
439    * How many addresses do we need to add (always starts at 1, then set to 0)
440    */
441   int addresses_to_add;
442
443 };
444
445 struct DV_SendContext
446 {
447   /**
448    * The distant peer (should always match)
449    */
450   struct GNUNET_PeerIdentity *distant_peer;
451
452   /**
453    * The direct peer, we need to verify the referrer of.
454    */
455   struct GNUNET_PeerIdentity *direct_peer;
456
457   /**
458    * The message to be sent
459    */
460   struct GNUNET_MessageHeader *message;
461
462   /**
463    * The pre-built send result message.  Simply needs to be queued
464    * and freed once send has been called!
465    */
466   struct GNUNET_DV_SendResultMessage *send_result;
467
468   /**
469    * The size of the message being sent, may be larger
470    * than message->header.size because it's multiple
471    * messages packed into one!
472    */
473   size_t message_size;
474
475   /**
476    * How important is this message?
477    */
478   unsigned int importance;
479
480   /**
481    * Timeout for this message
482    */
483   struct GNUNET_TIME_Relative timeout;
484
485   /**
486    * Unique ID for DV message
487    */
488   unsigned int uid;
489 };
490
491 struct FindDestinationContext
492 {
493   unsigned int tid;
494   struct DistantNeighbor *dest;
495 };
496
497 struct FindIDContext
498 {
499   unsigned int tid;
500   struct GNUNET_PeerIdentity *dest;
501   const struct GNUNET_PeerIdentity *via;
502 };
503
504 struct DisconnectContext
505 {
506   /**
507    * Distant neighbor to get pid from.
508    */
509   struct DistantNeighbor *distant;
510
511   /**
512    * Direct neighbor that disconnected.
513    */
514   struct DirectNeighbor *direct;
515 };
516
517 struct TokenizedMessageContext
518 {
519   /**
520    * Immediate sender of this message
521    */
522   const struct GNUNET_PeerIdentity *peer;
523
524   /**
525    * Distant sender of the message
526    */
527   struct DistantNeighbor *distant;
528
529   /**
530    * Uid for this set of messages
531    */
532   uint32_t uid;
533 };
534
535 /**
536  * Context for finding the least cost peer to send to.
537  * Transport selection can only go so far.
538  */
539 struct FindLeastCostContext
540 {
541   struct DistantNeighbor *target;
542   unsigned int least_cost;
543 };
544
545 /**
546  * Handle to the core service api.
547  */
548 static struct GNUNET_CORE_Handle *coreAPI;
549
550 /**
551  * Stream tokenizer to handle messages coming in from core.
552  */
553 static struct GNUNET_SERVER_MessageStreamTokenizer *coreMST;
554
555 /**
556  * The identity of our peer.
557  */
558 static struct GNUNET_PeerIdentity my_identity;
559
560 /**
561  * The configuration for this service.
562  */
563 static const struct GNUNET_CONFIGURATION_Handle *cfg;
564
565
566 /**
567  * The client, the DV plugin connected to us.  Hopefully
568  * this client will never change, although if the plugin dies
569  * and returns for some reason it may happen.
570  */
571 static struct GNUNET_SERVER_Client *client_handle;
572
573 /**
574  * Task to run when we shut down, cleaning up all our trash
575  */
576 static GNUNET_SCHEDULER_TaskIdentifier cleanup_task;
577
578 static size_t default_dv_priority = 0;
579
580 static char *my_short_id;
581
582 /**
583  * Transmit handle to the plugin.
584  */
585 static struct GNUNET_CONNECTION_TransmitHandle *plugin_transmit_handle;
586
587 /**
588  * Head of DLL for client messages
589  */
590 static struct PendingMessage *plugin_pending_head;
591
592 /**
593  * Tail of DLL for client messages
594  */
595 static struct PendingMessage *plugin_pending_tail;
596
597 /**
598  * Handle to the peerinfo service
599  */
600 static struct GNUNET_PEERINFO_Handle *peerinfo_handle;
601
602 /**
603  * Transmit handle to core service.
604  */
605 static struct GNUNET_CORE_TransmitHandle *core_transmit_handle;
606
607 /**
608  * Head of DLL for core messages
609  */
610 static struct PendingMessage *core_pending_head;
611
612 /**
613  * Tail of DLL for core messages
614  */
615 static struct PendingMessage *core_pending_tail;
616
617 /**
618  * Map of PeerIdentifiers to 'struct GNUNET_dv_neighbor*'s for all
619  * directly connected peers.
620  */
621 static struct GNUNET_CONTAINER_MultiHashMap *direct_neighbors;
622
623 /**
624  * Map of PeerIdentifiers to 'struct GNUNET_dv_neighbor*'s for
625  * peers connected via DV (extended neighborhood).  Does ALSO
626  * include any peers that are in 'direct_neighbors'; for those
627  * peers, the cost will be zero and the referrer all zeros.
628  */
629 static struct GNUNET_CONTAINER_MultiHashMap *extended_neighbors;
630
631 /**
632  * We use the min heap (min refers to cost) to prefer
633  * gossipping about peers with small costs.
634  */
635 static struct GNUNET_CONTAINER_Heap *neighbor_min_heap;
636
637 /**
638  * We use the max heap (max refers to cost) for general
639  * iterations over all peers and to remove the most costly
640  * connection if we have too many.
641  */
642 static struct GNUNET_CONTAINER_Heap *neighbor_max_heap;
643
644 /**
645  * Handle for the statistics service.
646  */
647 struct GNUNET_STATISTICS_Handle *stats;
648
649 /**
650  * How far out to keep peers we learn about.
651  */
652 static unsigned long long fisheye_depth;
653
654 /**
655  * How many peers to store at most.
656  */
657 static unsigned long long max_table_size;
658
659 /**
660  * We've been given a target ID based on the random numbers that
661  * we assigned to our DV-neighborhood.  Find the entry for the
662  * respective neighbor.
663  */
664 static int
665 find_destination (void *cls, struct GNUNET_CONTAINER_HeapNode *node,
666                   void *element, GNUNET_CONTAINER_HeapCostType cost)
667 {
668   struct FindDestinationContext *fdc = cls;
669   struct DistantNeighbor *dn = element;
670
671   if (fdc->tid != dn->our_id)
672     return GNUNET_YES;
673   fdc->dest = dn;
674   return GNUNET_NO;
675 }
676
677
678 /**
679  * We've been given a target ID based on the random numbers that
680  * we assigned to our DV-neighborhood.  Find the entry for the
681  * respective neighbor.
682  */
683 static int
684 find_specific_id (void *cls, const GNUNET_HashCode * key, void *value)
685 {
686   struct FindIDContext *fdc = cls;
687   struct DistantNeighbor *dn = value;
688
689   if (memcmp
690       (&dn->referrer->identity, fdc->via,
691        sizeof (struct GNUNET_PeerIdentity)) == 0)
692   {
693     fdc->tid = dn->referrer_id;
694     return GNUNET_NO;
695   }
696   return GNUNET_YES;
697 }
698
699 /**
700  * Find a distant peer whose referrer_id matches what we're
701  * looking for.  For looking up a peer we've gossipped about
702  * but is now disconnected.  Need to do this because we don't
703  * want to remove those that may be accessible via a different
704  * route.
705  */
706 static int
707 find_distant_peer (void *cls, const GNUNET_HashCode * key, void *value)
708 {
709   struct FindDestinationContext *fdc = cls;
710   struct DistantNeighbor *distant = value;
711
712   if (fdc->tid == distant->referrer_id)
713   {
714     fdc->dest = distant;
715     return GNUNET_NO;
716   }
717   return GNUNET_YES;
718 }
719
720 /**
721  * Function called to notify a client about the socket
722  * begin ready to queue more data.  "buf" will be
723  * NULL and "size" zero if the socket was closed for
724  * writing in the meantime.
725  *
726  * @param cls closure
727  * @param size number of bytes available in buf
728  * @param buf where the callee should write the message
729  * @return number of bytes written to buf
730  */
731 size_t
732 transmit_to_plugin (void *cls, size_t size, void *buf)
733 {
734   char *cbuf = buf;
735   struct PendingMessage *reply;
736   size_t off;
737   size_t msize;
738
739   if (buf == NULL)
740   {
741     /* client disconnected */
742 #if DEBUG_DV_MESSAGES
743     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
744                 "%s: %s buffer was NULL (client disconnect?)\n", my_short_id,
745                 "transmit_to_plugin");
746 #endif
747     return 0;
748   }
749   plugin_transmit_handle = NULL;
750   off = 0;
751   while ((NULL != (reply = plugin_pending_head)) &&
752          (size >= off + (msize = ntohs (reply->msg->size))))
753   {
754     GNUNET_CONTAINER_DLL_remove (plugin_pending_head, plugin_pending_tail,
755                                  reply);
756     memcpy (&cbuf[off], reply->msg, msize);
757     GNUNET_free (reply);
758     off += msize;
759   }
760
761   if (plugin_pending_head != NULL)
762     plugin_transmit_handle =
763         GNUNET_SERVER_notify_transmit_ready (client_handle,
764                                              ntohs (plugin_pending_head->msg->
765                                                     size),
766                                              GNUNET_TIME_UNIT_FOREVER_REL,
767                                              &transmit_to_plugin, NULL);
768
769   return off;
770 }
771
772 /**
773  * Send a message to the dv plugin.
774  *
775  * @param sender the direct sender of the message
776  * @param message the message to send to the plugin
777  *        (may be an encapsulated type)
778  * @param message_size the size of the message to be sent
779  * @param distant_neighbor the original sender of the message
780  * @param cost the cost to the original sender of the message
781  */
782 void
783 send_to_plugin (const struct GNUNET_PeerIdentity *sender,
784                 const struct GNUNET_MessageHeader *message, size_t message_size,
785                 struct GNUNET_PeerIdentity *distant_neighbor, size_t cost)
786 {
787   struct GNUNET_DV_MessageReceived *received_msg;
788   struct PendingMessage *pending_message;
789   char *sender_address;
790   size_t sender_address_len;
791   char *packed_msg_start;
792   int size;
793
794 #if DEBUG_DV
795   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
796               "send_to_plugin called with peer %s as sender\n",
797               GNUNET_i2s (distant_neighbor));
798 #endif
799
800   if (memcmp (sender, distant_neighbor, sizeof (struct GNUNET_PeerIdentity)) !=
801       0)
802   {
803     sender_address_len = sizeof (struct GNUNET_PeerIdentity) * 2;
804     sender_address = GNUNET_malloc (sender_address_len);
805     memcpy (sender_address, distant_neighbor,
806             sizeof (struct GNUNET_PeerIdentity));
807     memcpy (&sender_address[sizeof (struct GNUNET_PeerIdentity)], sender,
808             sizeof (struct GNUNET_PeerIdentity));
809   }
810   else
811   {
812     sender_address_len = sizeof (struct GNUNET_PeerIdentity);
813     sender_address = GNUNET_malloc (sender_address_len);
814     memcpy (sender_address, sender, sizeof (struct GNUNET_PeerIdentity));
815   }
816
817   size =
818       sizeof (struct GNUNET_DV_MessageReceived) + sender_address_len +
819       message_size;
820   received_msg = GNUNET_malloc (size);
821   received_msg->header.size = htons (size);
822   received_msg->header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_DV_RECEIVE);
823   received_msg->distance = htonl (cost);
824   received_msg->msg_len = htonl (message_size);
825   /* Set the sender in this message to be the original sender! */
826   memcpy (&received_msg->sender, distant_neighbor,
827           sizeof (struct GNUNET_PeerIdentity));
828   /* Copy the intermediate sender to the end of the message, this is how the transport identifies this peer */
829   memcpy (&received_msg[1], sender_address, sender_address_len);
830   GNUNET_free (sender_address);
831   /* Copy the actual message after the sender */
832   packed_msg_start = (char *) &received_msg[1];
833   packed_msg_start = &packed_msg_start[sender_address_len];
834   memcpy (packed_msg_start, message, message_size);
835   pending_message = GNUNET_malloc (sizeof (struct PendingMessage) + size);
836   pending_message->msg = (struct GNUNET_MessageHeader *) &pending_message[1];
837   memcpy (&pending_message[1], received_msg, size);
838   GNUNET_free (received_msg);
839
840   GNUNET_CONTAINER_DLL_insert_after (plugin_pending_head, plugin_pending_tail,
841                                      plugin_pending_tail, pending_message);
842
843   if (client_handle != NULL)
844   {
845     if (plugin_transmit_handle == NULL)
846     {
847       plugin_transmit_handle =
848           GNUNET_SERVER_notify_transmit_ready (client_handle, size,
849                                                GNUNET_TIME_UNIT_FOREVER_REL,
850                                                &transmit_to_plugin, NULL);
851     }
852   }
853   else
854   {
855     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
856                 "Failed to queue message for plugin, client_handle not yet set (how?)!\n");
857   }
858 }
859
860 /* Declare here so retry_core_send is aware of it */
861 size_t
862 core_transmit_notify (void *cls, size_t size, void *buf);
863
864 /**
865  *  Try to send another message from our core sending list
866  */
867 static void
868 try_core_send (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
869 {
870   struct PendingMessage *pending;
871
872   pending = core_pending_head;
873
874   if (core_transmit_handle != NULL)
875     return;                     /* Message send already in progress */
876
877   if ((pending != NULL) && (coreAPI != NULL))
878     core_transmit_handle =
879         GNUNET_CORE_notify_transmit_ready (coreAPI, GNUNET_YES,
880                                            pending->importance,
881                                            pending->timeout,
882                                            &pending->recipient,
883                                            pending->msg_size,
884                                            &core_transmit_notify, NULL);
885 }
886
887
888 /**
889  * Function called to notify a client about the socket
890  * being ready to queue more data.  "buf" will be
891  * NULL and "size" zero if the socket was closed for
892  * writing in the meantime.
893  *
894  * @param cls closure (NULL)
895  * @param size number of bytes available in buf
896  * @param buf where the callee should write the message
897  * @return number of bytes written to buf
898  */
899 size_t
900 core_transmit_notify (void *cls, size_t size, void *buf)
901 {
902   char *cbuf = buf;
903   struct PendingMessage *pending;
904   struct PendingMessage *client_reply;
905   size_t off;
906   size_t msize;
907
908   if (buf == NULL)
909   {
910     /* client disconnected */
911 #if DEBUG_DV
912     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "`%s': buffer was NULL\n", "DHT");
913 #endif
914     return 0;
915   }
916
917   core_transmit_handle = NULL;
918   off = 0;
919   pending = core_pending_head;
920   if ((pending != NULL) && (size >= (msize = ntohs (pending->msg->size))))
921   {
922 #if DEBUG_DV
923     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
924                 "`%s' : transmit_notify (core) called with size %d\n",
925                 "dv service", msize);
926 #endif
927     GNUNET_CONTAINER_DLL_remove (core_pending_head, core_pending_tail, pending);
928     if (pending->send_result != NULL)   /* Will only be non-null if a real client asked for this send */
929     {
930       client_reply =
931           GNUNET_malloc (sizeof (struct PendingMessage) +
932                          sizeof (struct GNUNET_DV_SendResultMessage));
933       client_reply->msg = (struct GNUNET_MessageHeader *) &client_reply[1];
934       memcpy (&client_reply[1], pending->send_result,
935               sizeof (struct GNUNET_DV_SendResultMessage));
936       GNUNET_free (pending->send_result);
937
938       GNUNET_CONTAINER_DLL_insert_after (plugin_pending_head,
939                                          plugin_pending_tail,
940                                          plugin_pending_tail, client_reply);
941       if (client_handle != NULL)
942       {
943         if (plugin_transmit_handle == NULL)
944         {
945           plugin_transmit_handle =
946               GNUNET_SERVER_notify_transmit_ready (client_handle,
947                                                    sizeof (struct
948                                                            GNUNET_DV_SendResultMessage),
949                                                    GNUNET_TIME_UNIT_FOREVER_REL,
950                                                    &transmit_to_plugin, NULL);
951         }
952         else
953         {
954           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
955                       "Failed to queue message for plugin, must be one in progress already!!\n");
956         }
957       }
958     }
959     memcpy (&cbuf[off], pending->msg, msize);
960     GNUNET_free (pending);
961     off += msize;
962   }
963   /*reply = core_pending_head; */
964
965   GNUNET_SCHEDULER_add_now (&try_core_send, NULL);
966   /*if (reply != NULL)
967    * core_transmit_handle = GNUNET_CORE_notify_transmit_ready(coreAPI, GNUNET_YES,  reply->importance, reply->timeout, &reply->recipient, reply->msg_size, &core_transmit_notify, NULL); */
968
969   return off;
970 }
971
972
973 /**
974  * Send a DV data message via DV.
975  *
976  * @param sender the original sender of the message
977  * @param recipient the next hop recipient, may be our direct peer, maybe not
978  * @param send_context the send context
979  */
980 static int
981 send_message_via (const struct GNUNET_PeerIdentity *sender,
982                   const struct GNUNET_PeerIdentity *recipient,
983                   struct DV_SendContext *send_context)
984 {
985   p2p_dv_MESSAGE_Data *toSend;
986   unsigned int msg_size;
987   unsigned int recipient_id;
988   unsigned int sender_id;
989   struct DistantNeighbor *source;
990   struct PendingMessage *pending_message;
991   struct FindIDContext find_context;
992
993 #if DEBUG_DV
994   char shortname[5];
995 #endif
996
997   msg_size = send_context->message_size + sizeof (p2p_dv_MESSAGE_Data);
998
999   find_context.dest = send_context->distant_peer;
1000   find_context.via = recipient;
1001   find_context.tid = 0;
1002   GNUNET_CONTAINER_multihashmap_get_multiple (extended_neighbors,
1003                                               &send_context->
1004                                               distant_peer->hashPubKey,
1005                                               &find_specific_id, &find_context);
1006
1007   if (find_context.tid == 0)
1008   {
1009     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1010                 "%s: find_specific_id failed to find peer!\n", my_short_id);
1011     /* target unknown to us, drop! */
1012     return GNUNET_SYSERR;
1013   }
1014   recipient_id = find_context.tid;
1015
1016   if (0 == (memcmp (&my_identity, sender, sizeof (struct GNUNET_PeerIdentity))))
1017   {
1018     sender_id = 0;
1019     source =
1020         GNUNET_CONTAINER_multihashmap_get (extended_neighbors,
1021                                            &sender->hashPubKey);
1022     if (source != NULL)
1023       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1024                   "%s: send_message_via found %s, myself in extended peer list???\n",
1025                   my_short_id, GNUNET_i2s (&source->identity));
1026   }
1027   else
1028   {
1029     source =
1030         GNUNET_CONTAINER_multihashmap_get (extended_neighbors,
1031                                            &sender->hashPubKey);
1032     if (source == NULL)
1033     {
1034       /* sender unknown to us, drop! */
1035       return GNUNET_SYSERR;
1036     }
1037     sender_id = source->our_id;
1038   }
1039
1040   pending_message = GNUNET_malloc (sizeof (struct PendingMessage) + msg_size);
1041   pending_message->msg = (struct GNUNET_MessageHeader *) &pending_message[1];
1042   pending_message->send_result = send_context->send_result;
1043   memcpy (&pending_message->recipient, recipient,
1044           sizeof (struct GNUNET_PeerIdentity));
1045   pending_message->msg_size = msg_size;
1046   pending_message->importance = send_context->importance;
1047   pending_message->timeout = send_context->timeout;
1048   toSend = (p2p_dv_MESSAGE_Data *) pending_message->msg;
1049   toSend->header.size = htons (msg_size);
1050   toSend->header.type = htons (GNUNET_MESSAGE_TYPE_DV_DATA);
1051   toSend->sender = htonl (sender_id);
1052   toSend->recipient = htonl (recipient_id);
1053 #if DEBUG_DV_MESSAGES
1054   toSend->uid = send_context->uid;      /* Still sent around in network byte order */
1055 #else
1056   toSend->uid = htonl (0);
1057 #endif
1058
1059   memcpy (&toSend[1], send_context->message, send_context->message_size);
1060
1061 #if DEBUG_DV
1062   memcpy (&shortname, GNUNET_i2s (send_context->distant_peer), 4);
1063   shortname[4] = '\0';
1064   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1065               "%s: Notifying core of send to destination `%s' via `%s' size %u\n",
1066               "DV", &shortname, GNUNET_i2s (recipient), msg_size);
1067 #endif
1068
1069   GNUNET_CONTAINER_DLL_insert_after (core_pending_head, core_pending_tail,
1070                                      core_pending_tail, pending_message);
1071
1072   GNUNET_SCHEDULER_add_now (try_core_send, NULL);
1073
1074   return GNUNET_YES;
1075 }
1076
1077 /**
1078  * Given a FindLeastCostContext, and a set
1079  * of peers that match the target, return the cheapest.
1080  *
1081  * @param cls closure, a struct FindLeastCostContext
1082  * @param key the key identifying the target peer
1083  * @param value the target peer
1084  *
1085  * @return GNUNET_YES to continue iteration, GNUNET_NO to stop
1086  */
1087 static int
1088 find_least_cost_peer (void *cls, const GNUNET_HashCode * key, void *value)
1089 {
1090   struct FindLeastCostContext *find_context = cls;
1091   struct DistantNeighbor *dn = value;
1092
1093   if (dn->cost < find_context->least_cost)
1094   {
1095     find_context->target = dn;
1096   }
1097   if (dn->cost == DIRECT_NEIGHBOR_COST)
1098     return GNUNET_NO;
1099   return GNUNET_YES;
1100 }
1101
1102 /**
1103  * Send a DV data message via DV.
1104  *
1105  * @param recipient the ultimate recipient of this message
1106  * @param sender the original sender of the message
1107  * @param specific_neighbor the specific neighbor to send this message via
1108  * @param message the packed message
1109  * @param message_size size of the message
1110  * @param importance what priority to send this message with
1111  * @param uid the unique identifier of this message (or 0 for none)
1112  * @param timeout how long to possibly delay sending this message
1113  */
1114 static int
1115 send_message (const struct GNUNET_PeerIdentity *recipient,
1116               const struct GNUNET_PeerIdentity *sender,
1117               const struct DistantNeighbor *specific_neighbor,
1118               const struct GNUNET_MessageHeader *message, size_t message_size,
1119               unsigned int importance, unsigned int uid,
1120               struct GNUNET_TIME_Relative timeout)
1121 {
1122   p2p_dv_MESSAGE_Data *toSend;
1123   unsigned int msg_size;
1124   unsigned int cost;
1125   unsigned int recipient_id;
1126   unsigned int sender_id;
1127   struct DistantNeighbor *target;
1128   struct DistantNeighbor *source;
1129   struct PendingMessage *pending_message;
1130   struct FindLeastCostContext find_least_ctx;
1131
1132 #if DEBUG_DV_PEER_NUMBERS
1133   struct GNUNET_CRYPTO_HashAsciiEncoded encPeerFrom;
1134   struct GNUNET_CRYPTO_HashAsciiEncoded encPeerTo;
1135   struct GNUNET_CRYPTO_HashAsciiEncoded encPeerVia;
1136 #endif
1137   msg_size = message_size + sizeof (p2p_dv_MESSAGE_Data);
1138
1139   find_least_ctx.least_cost = -1;
1140   find_least_ctx.target = NULL;
1141   /*
1142    * Need to find the least cost peer, lest the transport selection keep
1143    * picking the same DV route for the same destination which results
1144    * in messages looping forever.  Relatively cheap, we don't iterate
1145    * over all known peers, just those that apply.
1146    */
1147   GNUNET_CONTAINER_multihashmap_get_multiple (extended_neighbors,
1148                                               &recipient->hashPubKey,
1149                                               &find_least_cost_peer,
1150                                               &find_least_ctx);
1151   target = find_least_ctx.target;
1152
1153   if (target == NULL)
1154   {
1155     /* target unknown to us, drop! */
1156     return GNUNET_SYSERR;
1157   }
1158   recipient_id = target->referrer_id;
1159
1160   source =
1161       GNUNET_CONTAINER_multihashmap_get (extended_neighbors,
1162                                          &sender->hashPubKey);
1163   if (source == NULL)
1164   {
1165     if (0 !=
1166         (memcmp (&my_identity, sender, sizeof (struct GNUNET_PeerIdentity))))
1167     {
1168       /* sender unknown to us, drop! */
1169       return GNUNET_SYSERR;
1170     }
1171     sender_id = 0;              /* 0 == us */
1172   }
1173   else
1174   {
1175     /* find out the number that we use when we gossip about
1176      * the sender */
1177     sender_id = source->our_id;
1178   }
1179
1180 #if DEBUG_DV_PEER_NUMBERS
1181   GNUNET_CRYPTO_hash_to_enc (&source->identity.hashPubKey, &encPeerFrom);
1182   GNUNET_CRYPTO_hash_to_enc (&target->referrer->identity.hashPubKey,
1183                              &encPeerVia);
1184   encPeerFrom.encoding[4] = '\0';
1185   encPeerVia.encoding[4] = '\0';
1186 #endif
1187   if ((sender_id != 0) &&
1188       (0 ==
1189        memcmp (&source->identity, &target->referrer->identity,
1190                sizeof (struct GNUNET_PeerIdentity))))
1191   {
1192     return 0;
1193   }
1194
1195   cost = target->cost;
1196   pending_message = GNUNET_malloc (sizeof (struct PendingMessage) + msg_size);
1197   pending_message->msg = (struct GNUNET_MessageHeader *) &pending_message[1];
1198   pending_message->send_result = NULL;
1199   pending_message->importance = importance;
1200   pending_message->timeout = timeout;
1201   memcpy (&pending_message->recipient, &target->referrer->identity,
1202           sizeof (struct GNUNET_PeerIdentity));
1203   pending_message->msg_size = msg_size;
1204   toSend = (p2p_dv_MESSAGE_Data *) pending_message->msg;
1205   toSend->header.size = htons (msg_size);
1206   toSend->header.type = htons (GNUNET_MESSAGE_TYPE_DV_DATA);
1207   toSend->sender = htonl (sender_id);
1208   toSend->recipient = htonl (recipient_id);
1209 #if DEBUG_DV_MESSAGES
1210   toSend->uid = htonl (uid);
1211 #else
1212   toSend->uid = htonl (0);
1213 #endif
1214
1215 #if DEBUG_DV_PEER_NUMBERS
1216   GNUNET_CRYPTO_hash_to_enc (&target->identity.hashPubKey, &encPeerTo);
1217   encPeerTo.encoding[4] = '\0';
1218   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1219               "%s: Sending DATA message. Sender id %u, source %s, destination %s, via %s\n",
1220               GNUNET_i2s (&my_identity), sender_id, &encPeerFrom, &encPeerTo,
1221               &encPeerVia);
1222 #endif
1223   memcpy (&toSend[1], message, message_size);
1224   if ((source != NULL) && (source->pkey == NULL))       /* Test our hypothesis about message failures! */
1225   {
1226     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1227                 "%s: Sending message, but anticipate recipient will not know sender!!!\n\n\n",
1228                 my_short_id);
1229   }
1230   GNUNET_CONTAINER_DLL_insert_after (core_pending_head, core_pending_tail,
1231                                      core_pending_tail, pending_message);
1232 #if DEBUG_DV
1233   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1234               "%s: Notifying core of send size %d to destination `%s'\n",
1235               "DV SEND MESSAGE", msg_size, GNUNET_i2s (recipient));
1236 #endif
1237
1238   GNUNET_SCHEDULER_add_now (try_core_send, NULL);
1239   return (int) cost;
1240 }
1241
1242 #if USE_PEER_ID
1243 struct CheckPeerContext
1244 {
1245   /**
1246    * Peer we found
1247    */
1248   struct DistantNeighbor *peer;
1249
1250   /**
1251    * Sender id to search for
1252    */
1253   unsigned int sender_id;
1254 };
1255
1256 /**
1257  * Iterator over hash map entries.
1258  *
1259  * @param cls closure
1260  * @param key current key code
1261  * @param value value in the hash map
1262  * @return GNUNET_YES if we should continue to
1263  *         iterate,
1264  *         GNUNET_NO if not.
1265  */
1266 int
1267 checkPeerID (void *cls, const GNUNET_HashCode * key, void *value)
1268 {
1269   struct CheckPeerContext *ctx = cls;
1270   struct DistantNeighbor *distant = value;
1271
1272   if (memcmp (key, &ctx->sender_id, sizeof (unsigned int)) == 0)
1273   {
1274     ctx->peer = distant;
1275     return GNUNET_NO;
1276   }
1277   return GNUNET_YES;
1278
1279 }
1280 #endif
1281
1282
1283 /**
1284  * Handler for messages parsed out by the tokenizer from
1285  * DV DATA received for this peer.
1286  *
1287  * @param cls NULL
1288  * @param client the TokenizedMessageContext which contains message information
1289  * @param message the actual message
1290  */
1291 int
1292 tokenized_message_handler (void *cls, void *client,
1293                            const struct GNUNET_MessageHeader *message)
1294 {
1295   struct TokenizedMessageContext *ctx = client;
1296
1297   GNUNET_break_op (ntohs (message->type) != GNUNET_MESSAGE_TYPE_DV_GOSSIP);
1298   GNUNET_break_op (ntohs (message->type) != GNUNET_MESSAGE_TYPE_DV_DATA);
1299   if ((ntohs (message->type) != GNUNET_MESSAGE_TYPE_DV_GOSSIP) &&
1300       (ntohs (message->type) != GNUNET_MESSAGE_TYPE_DV_DATA))
1301   {
1302 #if DEBUG_DV_MESSAGES
1303     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1304                 "%s: Receives %s message for me, uid %u, size %d, type %d cost %u from %s!\n",
1305                 my_short_id, "DV DATA", ctx->uid, ntohs (message->size),
1306                 ntohs (message->type), ctx->distant->cost,
1307                 GNUNET_i2s (&ctx->distant->identity));
1308 #endif
1309     GNUNET_assert (memcmp
1310                    (ctx->peer, &ctx->distant->identity,
1311                     sizeof (struct GNUNET_PeerIdentity)) != 0);
1312     send_to_plugin (ctx->peer, message, ntohs (message->size),
1313                     &ctx->distant->identity, ctx->distant->cost);
1314   }
1315   return GNUNET_OK;
1316 }
1317
1318 #if DELAY_FORWARDS
1319 struct DelayedMessageContext
1320 {
1321   struct GNUNET_PeerIdentity dest;
1322   struct GNUNET_PeerIdentity sender;
1323   struct GNUNET_MessageHeader *message;
1324   size_t message_size;
1325   uint32_t uid;
1326 };
1327
1328 void
1329 send_message_delayed (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1330 {
1331   struct DelayedMessageContext *msg_ctx = cls;
1332
1333   if (msg_ctx != NULL)
1334   {
1335     send_message (&msg_ctx->dest, &msg_ctx->sender, NULL, msg_ctx->message,
1336                   msg_ctx->message_size, default_dv_priority, msg_ctx->uid,
1337                   GNUNET_TIME_UNIT_FOREVER_REL);
1338     GNUNET_free (msg_ctx->message);
1339     GNUNET_free (msg_ctx);
1340   }
1341 }
1342 #endif
1343
1344 /**
1345  * Get distance information from 'atsi'.
1346  *
1347  * @param atsi performance data
1348  * @param atsi_count number of entries in atsi
1349  * @return connected transport distance
1350  */
1351 static uint32_t
1352 get_atsi_distance (const struct GNUNET_ATS_Information *atsi,
1353                    unsigned int atsi_count)
1354 {
1355   unsigned int i;
1356
1357   for (i = 0; i < atsi_count; i++)
1358     if (ntohl (atsi[i].type) == GNUNET_ATS_QUALITY_NET_DISTANCE)
1359       return ntohl (atsi->value);
1360   /* FIXME: we do not have distance data? Assume direct neighbor. */
1361   return DIRECT_NEIGHBOR_COST;
1362 }
1363
1364 /**
1365  * Find latency information in 'atsi'.
1366  *
1367  * @param atsi performance data
1368  * @param atsi_count number of entries in atsi
1369  * @return connection latency
1370  */
1371 static struct GNUNET_TIME_Relative
1372 get_atsi_latency (const struct GNUNET_ATS_Information *atsi,
1373                   unsigned int atsi_count)
1374 {
1375   unsigned int i;
1376
1377   for (i = 0; i < atsi_count; i++)
1378     if (ntohl (atsi[i].type) == GNUNET_ATS_QUALITY_NET_DELAY)
1379       return GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MILLISECONDS,
1380                                             ntohl (atsi->value));
1381   GNUNET_break (0);
1382   /* how can we not have latency data? */
1383   return GNUNET_TIME_UNIT_SECONDS;
1384 }
1385
1386 /**
1387  * Core handler for dv data messages.  Whatever this message
1388  * contains all we really have to do is rip it out of its
1389  * DV layering and give it to our pal the DV plugin to report
1390  * in with.
1391  *
1392  * @param cls closure
1393  * @param peer peer which sent the message (immediate sender)
1394  * @param message the message
1395  * @param atsi transport ATS information (latency, distance, etc.)
1396  * @param atsi_count number of entries in atsi
1397  */
1398 static int
1399 handle_dv_data_message (void *cls, const struct GNUNET_PeerIdentity *peer,
1400                         const struct GNUNET_MessageHeader *message,
1401                         const struct GNUNET_ATS_Information *atsi,
1402                         unsigned int atsi_count)
1403 {
1404   const p2p_dv_MESSAGE_Data *incoming = (const p2p_dv_MESSAGE_Data *) message;
1405   const struct GNUNET_MessageHeader *packed_message;
1406   struct DirectNeighbor *dn;
1407   struct DistantNeighbor *pos;
1408   unsigned int sid;             /* Sender id */
1409   unsigned int tid;             /* Target id */
1410   struct GNUNET_PeerIdentity *original_sender;
1411   struct GNUNET_PeerIdentity *destination;
1412   struct FindDestinationContext fdc;
1413   struct TokenizedMessageContext tkm_ctx;
1414   int i;
1415   int found_pos;
1416
1417 #if DELAY_FORWARDS
1418   struct DelayedMessageContext *delayed_context;
1419 #endif
1420 #if USE_PEER_ID
1421   struct CheckPeerContext checkPeerCtx;
1422 #endif
1423 #if DEBUG_DV_MESSAGES
1424   char *sender_id;
1425 #endif
1426   int ret;
1427   size_t packed_message_size;
1428   char *cbuf;
1429   uint32_t distance;            /* Distance information */
1430   struct GNUNET_TIME_Relative latency;  /* Latency information */
1431
1432   packed_message_size =
1433       ntohs (incoming->header.size) - sizeof (p2p_dv_MESSAGE_Data);
1434 #if DEBUG_DV
1435   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1436               "%s: Receives DATA message from %s size %d, packed size %d!\n",
1437               my_short_id, GNUNET_i2s (peer), ntohs (incoming->header.size),
1438               packed_message_size);
1439 #endif
1440
1441   if (ntohs (incoming->header.size) <
1442       sizeof (p2p_dv_MESSAGE_Data) + sizeof (struct GNUNET_MessageHeader))
1443   {
1444 #if DEBUG_DV
1445     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1446                 "`%s': Message sizes don't add up, total size %u, expected at least %u!\n",
1447                 "dv service", ntohs (incoming->header.size),
1448                 sizeof (p2p_dv_MESSAGE_Data) +
1449                 sizeof (struct GNUNET_MessageHeader));
1450 #endif
1451     return GNUNET_SYSERR;
1452   }
1453
1454   /* Iterate over ATS_Information to get distance and latency */
1455   latency = get_atsi_latency (atsi, atsi_count);
1456   distance = get_atsi_distance (atsi, atsi_count);
1457   dn = GNUNET_CONTAINER_multihashmap_get (direct_neighbors, &peer->hashPubKey);
1458   if (dn == NULL)
1459     return GNUNET_OK;
1460
1461   sid = ntohl (incoming->sender);
1462 #if USE_PEER_ID
1463   if (sid != 0)
1464   {
1465     checkPeerCtx.sender_id = sid;
1466     checkPeerCtx.peer = NULL;
1467     GNUNET_CONTAINER_multihashmap_iterate (extended_neighbors, &checkPeerID,
1468                                            &checkPeerCtx);
1469     pos = checkPeerCtx.peer;
1470   }
1471   else
1472   {
1473     pos =
1474         GNUNET_CONTAINER_multihashmap_get (extended_neighbors,
1475                                            &peer->hashPubKey);
1476   }
1477 #else
1478   pos = dn->referee_head;
1479   while ((NULL != pos) && (pos->referrer_id != sid))
1480     pos = pos->next;
1481 #endif
1482
1483   if (pos == NULL)
1484   {
1485 #if DEBUG_DV_MESSAGES
1486     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1487                 "%s: unknown sender (%u), Message uid %u from %s!\n",
1488                 my_short_id, ntohl (incoming->sender), ntohl (incoming->uid),
1489                 GNUNET_i2s (&dn->identity));
1490     pos = dn->referee_head;
1491     while ((NULL != pos) && (pos->referrer_id != sid))
1492     {
1493       sender_id = GNUNET_strdup (GNUNET_i2s (&pos->identity));
1494       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "I know sender %u %s\n",
1495                   pos->referrer_id, sender_id);
1496       GNUNET_free (sender_id);
1497       pos = pos->next;
1498     }
1499 #endif
1500
1501     found_pos = -1;
1502     for (i = 0; i < MAX_OUTSTANDING_MESSAGES; i++)
1503     {
1504       if (dn->pending_messages[i].sender_id == 0)
1505       {
1506         found_pos = i;
1507         break;
1508       }
1509     }
1510
1511     if (found_pos == -1)
1512     {
1513       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1514                   "%s: Too many unknown senders (%u), ignoring message! Message uid %llu from %s!\n",
1515                   my_short_id, ntohl (incoming->sender), ntohl (incoming->uid),
1516                   GNUNET_i2s (&dn->identity));
1517     }
1518     else
1519     {
1520       dn->pending_messages[found_pos].message =
1521           GNUNET_malloc (ntohs (message->size));
1522       memcpy (dn->pending_messages[found_pos].message, message,
1523               ntohs (message->size));
1524       dn->pending_messages[found_pos].distance = distance;
1525       dn->pending_messages[found_pos].latency = latency;
1526       memcpy (&dn->pending_messages[found_pos].sender, peer,
1527               sizeof (struct GNUNET_PeerIdentity));
1528       dn->pending_messages[found_pos].sender_id = sid;
1529     }
1530     /* unknown sender */
1531     return GNUNET_OK;
1532   }
1533   original_sender = &pos->identity;
1534   tid = ntohl (incoming->recipient);
1535   if (tid == 0)
1536   {
1537     /* 0 == us */
1538     cbuf = (char *) &incoming[1];
1539
1540     tkm_ctx.peer = peer;
1541     tkm_ctx.distant = pos;
1542     tkm_ctx.uid = ntohl (incoming->uid);
1543     if (GNUNET_OK !=
1544         GNUNET_SERVER_mst_receive (coreMST, &tkm_ctx, cbuf, packed_message_size,
1545                                    GNUNET_NO, GNUNET_NO))
1546     {
1547       GNUNET_break_op (0);
1548       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1549                   "%s: %s Received corrupt data, discarding!", my_short_id,
1550                   "DV SERVICE");
1551     }
1552     return GNUNET_OK;
1553   }
1554   else
1555   {
1556     packed_message = (struct GNUNET_MessageHeader *) &incoming[1];
1557   }
1558
1559   /* FIXME: this is the *only* per-request operation we have in DV
1560    * that is O(n) in relation to the number of connected peers; a
1561    * hash-table lookup could easily solve this (minor performance
1562    * issue) */
1563   fdc.tid = tid;
1564   fdc.dest = NULL;
1565   GNUNET_CONTAINER_heap_iterate (neighbor_max_heap, &find_destination, &fdc);
1566
1567 #if DEBUG_DV
1568   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1569               "%s: Receives %s message for someone else!\n", "dv", "DV DATA");
1570 #endif
1571
1572   if (fdc.dest == NULL)
1573   {
1574 #if DEBUG_DV_MESSAGES
1575     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1576                 "%s: Receives %s message uid %u for someone we don't know (id %u)!\n",
1577                 my_short_id, "DV DATA", ntohl (incoming->uid), tid);
1578 #endif
1579     return GNUNET_OK;
1580   }
1581   destination = &fdc.dest->identity;
1582
1583   if (0 == memcmp (destination, peer, sizeof (struct GNUNET_PeerIdentity)))
1584   {
1585     /* FIXME: create stat: routing loop-discard! */
1586
1587 #if DEBUG_DV_MESSAGES
1588     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1589                 "%s: DROPPING MESSAGE uid %u type %d, routing loop! Message immediately from %s!\n",
1590                 my_short_id, ntohl (incoming->uid),
1591                 ntohs (packed_message->type), GNUNET_i2s (&dn->identity));
1592 #endif
1593     return GNUNET_OK;
1594   }
1595
1596   /* At this point we have a message, and we need to forward it on to the
1597    * next DV hop.
1598    */
1599 #if DEBUG_DV_MESSAGES
1600   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1601               "%s: FORWARD %s message for %s, uid %u, size %d type %d, cost %u!\n",
1602               my_short_id, "DV DATA", GNUNET_i2s (destination),
1603               ntohl (incoming->uid), ntohs (packed_message->size),
1604               ntohs (packed_message->type), pos->cost);
1605 #endif
1606
1607 #if DELAY_FORWARDS
1608   if (GNUNET_TIME_absolute_get_duration (pos->last_gossip).abs_value <
1609       GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_SECONDS, 2).abs_value)
1610   {
1611     delayed_context = GNUNET_malloc (sizeof (struct DelayedMessageContext));
1612     memcpy (&delayed_context->dest, destination,
1613             sizeof (struct GNUNET_PeerIdentity));
1614     memcpy (&delayed_context->sender, original_sender,
1615             sizeof (struct GNUNET_PeerIdentity));
1616     delayed_context->message = GNUNET_malloc (packed_message_size);
1617     memcpy (delayed_context->message, packed_message, packed_message_size);
1618     delayed_context->message_size = packed_message_size;
1619     delayed_context->uid = ntohl (incoming->uid);
1620     GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_relative_multiply
1621                                   (GNUNET_TIME_UNIT_MILLISECONDS, 2500),
1622                                   &send_message_delayed, delayed_context);
1623     return GNUNET_OK;
1624   }
1625   else
1626 #endif
1627   {
1628     ret =
1629         send_message (destination, original_sender, NULL, packed_message,
1630                       packed_message_size, default_dv_priority,
1631                       ntohl (incoming->uid),
1632                       GNUNET_TIME_UNIT_FOREVER_REL);
1633   }
1634   if (ret != GNUNET_SYSERR)
1635     return GNUNET_OK;
1636   else
1637   {
1638 #if DEBUG_MESSAGE_DROP
1639     char *direct_id = GNUNET_strdup (GNUNET_i2s (&dn->identity));
1640
1641     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1642                 "%s: DROPPING MESSAGE type %d, forwarding failed! Message immediately from %s!\n",
1643                 GNUNET_i2s (&my_identity),
1644                 ntohs (((struct GNUNET_MessageHeader *) &incoming[1])->type),
1645                 direct_id);
1646     GNUNET_free (direct_id);
1647 #endif
1648     return GNUNET_SYSERR;
1649   }
1650 }
1651
1652 #if DEBUG_DV
1653 /**
1654  * Iterator over hash map entries.
1655  *
1656  * @param cls closure (NULL)
1657  * @param key current key code
1658  * @param value value in the hash map (DistantNeighbor)
1659  * @return GNUNET_YES if we should continue to
1660  *         iterate,
1661  *         GNUNET_NO if not.
1662  */
1663 int
1664 print_neighbors (void *cls, const GNUNET_HashCode * key, void *abs_value)
1665 {
1666   struct DistantNeighbor *distant_neighbor = abs_value;
1667   char my_shortname[5];
1668   char referrer_shortname[5];
1669
1670   memcpy (&my_shortname, GNUNET_i2s (&my_identity), 4);
1671   my_shortname[4] = '\0';
1672   memcpy (&referrer_shortname,
1673           GNUNET_i2s (&distant_neighbor->referrer->identity), 4);
1674   referrer_shortname[4] = '\0';
1675
1676   GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1677               "`%s' %s: Peer `%s', distance %d, referrer `%s' pkey: %s\n",
1678               &my_shortname, "DV", GNUNET_i2s (&distant_neighbor->identity),
1679               distant_neighbor->cost, &referrer_shortname,
1680               distant_neighbor->pkey == NULL ? "no" : "yes");
1681   return GNUNET_YES;
1682 }
1683 #endif
1684
1685 /**
1686  *  Scheduled task which gossips about known direct peers to other connected
1687  *  peers.  Will run until called with reason shutdown.
1688  */
1689 static void
1690 neighbor_send_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1691 {
1692   struct NeighborSendContext *send_context = cls;
1693
1694 #if DEBUG_DV_GOSSIP_SEND
1695   char *encPeerAbout;
1696   char *encPeerTo;
1697 #endif
1698   struct DistantNeighbor *about;
1699   struct DirectNeighbor *to;
1700   struct FastGossipNeighborList *about_list;
1701
1702   p2p_dv_MESSAGE_NeighborInfo *message;
1703   struct PendingMessage *pending_message;
1704
1705   if ((tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN) != 0)
1706   {
1707 #if DEBUG_DV_GOSSIP
1708     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1709                 "%s: Called with reason shutdown, shutting down!\n",
1710                 GNUNET_i2s (&my_identity));
1711 #endif
1712     return;
1713   }
1714
1715   if (send_context->fast_gossip_list_head != NULL)
1716   {
1717     about_list = send_context->fast_gossip_list_head;
1718     about = about_list->about;
1719     GNUNET_CONTAINER_DLL_remove (send_context->fast_gossip_list_head,
1720                                  send_context->fast_gossip_list_tail,
1721                                  about_list);
1722     GNUNET_free (about_list);
1723   }
1724   else
1725   {
1726     /* FIXME: this may become a problem, because the heap walk has only one internal "walker".  This means
1727      * that if two neighbor_send_tasks are operating in lockstep (which is quite possible, given default
1728      * values for all connected peers) there may be a serious bias as to which peers get gossiped about!
1729      * Probably the *best* way to fix would be to have an opaque pointer to the walk position passed as
1730      * part of the walk_get_next call.  Then the heap would have to keep a list of walks, or reset the walk
1731      * whenever a modification has been detected.  Yuck either way.  Perhaps we could iterate over the heap
1732      * once to get a list of peers to gossip about and gossip them over time... But then if one goes away
1733      * in the mean time that becomes nasty.  For now we'll just assume that the walking is done
1734      * asynchronously enough to avoid major problems (-;
1735      *
1736      * NOTE: probably fixed once we decided send rate based on allowed bandwidth.
1737      */
1738     about = GNUNET_CONTAINER_heap_walk_get_next (neighbor_min_heap);
1739   }
1740   to = send_context->toNeighbor;
1741
1742   if ((about != NULL) && (to != about->referrer /* split horizon */ ) &&
1743 #if SUPPORT_HIDING
1744       (about->hidden == GNUNET_NO) &&
1745 #endif
1746       (to != NULL) &&
1747       (0 !=
1748        memcmp (&about->identity, &to->identity,
1749                sizeof (struct GNUNET_PeerIdentity))) && (about->pkey != NULL))
1750   {
1751 #if DEBUG_DV_GOSSIP_SEND
1752     encPeerAbout = GNUNET_strdup (GNUNET_i2s (&about->identity));
1753     encPeerTo = GNUNET_strdup (GNUNET_i2s (&to->identity));
1754     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1755                 "%s: Sending info about peer %s id %u to directly connected peer %s\n",
1756                 GNUNET_i2s (&my_identity), encPeerAbout, about->our_id,
1757                 encPeerTo);
1758     GNUNET_free (encPeerAbout);
1759     GNUNET_free (encPeerTo);
1760 #endif
1761     about->last_gossip = GNUNET_TIME_absolute_get ();
1762     pending_message =
1763         GNUNET_malloc (sizeof (struct PendingMessage) +
1764                        sizeof (p2p_dv_MESSAGE_NeighborInfo));
1765     pending_message->msg = (struct GNUNET_MessageHeader *) &pending_message[1];
1766     pending_message->importance = default_dv_priority;
1767     pending_message->timeout = GNUNET_TIME_UNIT_FOREVER_REL;
1768     memcpy (&pending_message->recipient, &to->identity,
1769             sizeof (struct GNUNET_PeerIdentity));
1770     pending_message->msg_size = sizeof (p2p_dv_MESSAGE_NeighborInfo);
1771     message = (p2p_dv_MESSAGE_NeighborInfo *) pending_message->msg;
1772     message->header.size = htons (sizeof (p2p_dv_MESSAGE_NeighborInfo));
1773     message->header.type = htons (GNUNET_MESSAGE_TYPE_DV_GOSSIP);
1774     message->cost = htonl (about->cost);
1775     message->neighbor_id = htonl (about->our_id);
1776
1777     memcpy (&message->pkey, about->pkey,
1778             sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded));
1779     memcpy (&message->neighbor, &about->identity,
1780             sizeof (struct GNUNET_PeerIdentity));
1781
1782     GNUNET_CONTAINER_DLL_insert_after (core_pending_head, core_pending_tail,
1783                                        core_pending_tail, pending_message);
1784
1785     GNUNET_SCHEDULER_add_now (try_core_send, NULL);
1786     /*if (core_transmit_handle == NULL)
1787      * core_transmit_handle = GNUNET_CORE_notify_transmit_ready(coreAPI, GNUNET_YES,  default_dv_priority, GNUNET_TIME_UNIT_FOREVER_REL, &to->identity, sizeof(p2p_dv_MESSAGE_NeighborInfo), &core_transmit_notify, NULL); */
1788
1789   }
1790
1791   if (send_context->fast_gossip_list_head != NULL)      /* If there are other peers in the fast list, schedule right away */
1792   {
1793 #if DEBUG_DV_PEER_NUMBERS
1794     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1795                 "DV SERVICE: still in fast send mode\n");
1796 #endif
1797     send_context->task =
1798         GNUNET_SCHEDULER_add_now (&neighbor_send_task, send_context);
1799   }
1800   else
1801   {
1802 #if DEBUG_DV_PEER_NUMBERS
1803     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1804                 "DV SERVICE: entering slow send mode\n");
1805 #endif
1806     send_context->task =
1807         GNUNET_SCHEDULER_add_delayed (GNUNET_DV_DEFAULT_SEND_INTERVAL,
1808                                       &neighbor_send_task, send_context);
1809   }
1810
1811   return;
1812 }
1813
1814
1815 /**
1816  * Handle START-message.  This is the first message sent to us
1817  * by the client (can only be one!).
1818  *
1819  * @param cls closure (always NULL)
1820  * @param client identification of the client
1821  * @param message the actual message
1822  */
1823 static void
1824 handle_start (void *cls, struct GNUNET_SERVER_Client *client,
1825               const struct GNUNET_MessageHeader *message)
1826 {
1827
1828 #if DEBUG_DV
1829   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Received `%s' request from client\n",
1830               "START");
1831 #endif
1832
1833   client_handle = client;
1834
1835   GNUNET_SERVER_client_keep (client_handle);
1836   GNUNET_SERVER_receive_done (client, GNUNET_OK);
1837 }
1838
1839 #if UNSIMPLER
1840 /**
1841  * Iterate over hash map entries for a distant neighbor,
1842  * if direct neighbor matches context call send message
1843  *
1844  * @param cls closure, a DV_SendContext
1845  * @param key current key code
1846  * @param value value in the hash map
1847  * @return GNUNET_YES if we should continue to
1848  *         iterate,
1849  *         GNUNET_NO if not.
1850  */
1851 int
1852 send_iterator (void *cls, const GNUNET_HashCode * key, void *abs_value)
1853 {
1854   struct DV_SendContext *send_context = cls;
1855   struct DistantNeighbor *distant_neighbor = abs_value;
1856
1857   if (memcmp (distant_neighbor->referrer, send_context->direct_peer, sizeof (struct GNUNET_PeerIdentity)) == 0) /* They match, send and free */
1858   {
1859     send_message_via (&my_identity, distant_neighbor, send_context);
1860     return GNUNET_NO;
1861   }
1862   return GNUNET_YES;
1863 }
1864 #endif
1865
1866 /**
1867  * Service server's handler for message send requests (which come
1868  * bubbling up to us through the DV plugin).
1869  *
1870  * @param cls closure
1871  * @param client identification of the client
1872  * @param message the actual message
1873  */
1874 void
1875 handle_dv_send_message (void *cls, struct GNUNET_SERVER_Client *client,
1876                         const struct GNUNET_MessageHeader *message)
1877 {
1878   struct GNUNET_DV_SendMessage *send_msg;
1879   struct GNUNET_DV_SendResultMessage *send_result_msg;
1880   struct PendingMessage *pending_message;
1881   size_t address_len;
1882   size_t message_size;
1883   struct GNUNET_PeerIdentity *destination;
1884   struct GNUNET_PeerIdentity *direct;
1885   struct GNUNET_MessageHeader *message_buf;
1886   char *temp_pos;
1887   int offset;
1888   static struct GNUNET_CRYPTO_HashAsciiEncoded dest_hash;
1889   struct DV_SendContext *send_context;
1890
1891 #if DEBUG_DV_MESSAGES
1892   char *cbuf;
1893   struct GNUNET_MessageHeader *packed_message;
1894 #endif
1895
1896   if (client_handle == NULL)
1897   {
1898     client_handle = client;
1899     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1900                 "%s: Setting initial client handle, never received `%s' message?\n",
1901                 "dv", "START");
1902   }
1903   else if (client_handle != client)
1904   {
1905     client_handle = client;
1906     /* What should we do in this case, assert fail or just log the warning? */
1907 #if DEBUG_DV
1908     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1909                 "%s: Setting client handle (was a different client!)!\n", "dv");
1910 #endif
1911   }
1912
1913   GNUNET_assert (ntohs (message->size) > sizeof (struct GNUNET_DV_SendMessage));
1914   send_msg = (struct GNUNET_DV_SendMessage *) message;
1915
1916   address_len = ntohl (send_msg->addrlen);
1917   GNUNET_assert (address_len == sizeof (struct GNUNET_PeerIdentity) * 2);
1918   message_size =
1919       ntohs (message->size) - sizeof (struct GNUNET_DV_SendMessage) -
1920       address_len;
1921   destination = GNUNET_malloc (sizeof (struct GNUNET_PeerIdentity));
1922   direct = GNUNET_malloc (sizeof (struct GNUNET_PeerIdentity));
1923   message_buf = GNUNET_malloc (message_size);
1924
1925   temp_pos = (char *) &send_msg[1];     /* Set pointer to end of message */
1926   offset = 0;                   /* Offset starts at zero */
1927
1928   memcpy (destination, &temp_pos[offset], sizeof (struct GNUNET_PeerIdentity));
1929   offset += sizeof (struct GNUNET_PeerIdentity);
1930
1931   memcpy (direct, &temp_pos[offset], sizeof (struct GNUNET_PeerIdentity));
1932   offset += sizeof (struct GNUNET_PeerIdentity);
1933
1934
1935   memcpy (message_buf, &temp_pos[offset], message_size);
1936   if (memcmp
1937       (&send_msg->target, destination,
1938        sizeof (struct GNUNET_PeerIdentity)) != 0)
1939   {
1940     GNUNET_CRYPTO_hash_to_enc (&destination->hashPubKey, &dest_hash);   /* GNUNET_i2s won't properly work, need to hash one ourselves */
1941     dest_hash.encoding[4] = '\0';
1942     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1943                 "%s: asked to send message to `%s', but address is for `%s'!",
1944                 "DV SERVICE", GNUNET_i2s (&send_msg->target),
1945                 (const char *) &dest_hash.encoding);
1946   }
1947
1948 #if DEBUG_DV_MESSAGES
1949   cbuf = (char *) message_buf;
1950   offset = 0;
1951   while (offset < message_size)
1952   {
1953     packed_message = (struct GNUNET_MessageHeader *) &cbuf[offset];
1954     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1955                 "%s: DV PLUGIN SEND uid %u type %d to %s\n", my_short_id,
1956                 ntohl (send_msg->uid), ntohs (packed_message->type),
1957                 GNUNET_i2s (destination));
1958     offset += ntohs (packed_message->size);
1959   }
1960   /*GNUNET_log(GNUNET_ERROR_TYPE_DEBUG, "%s: DV PLUGIN SEND uid %u type %d to %s\n", my_short_id, ntohl(send_msg->uid), ntohs(message_buf->type), GNUNET_i2s(destination)); */
1961 #endif
1962   GNUNET_CRYPTO_hash_to_enc (&destination->hashPubKey, &dest_hash);     /* GNUNET_i2s won't properly work, need to hash one ourselves */
1963   dest_hash.encoding[4] = '\0';
1964   send_context = GNUNET_malloc (sizeof (struct DV_SendContext));
1965
1966   send_result_msg = GNUNET_malloc (sizeof (struct GNUNET_DV_SendResultMessage));
1967   send_result_msg->header.size =
1968       htons (sizeof (struct GNUNET_DV_SendResultMessage));
1969   send_result_msg->header.type =
1970       htons (GNUNET_MESSAGE_TYPE_TRANSPORT_DV_SEND_RESULT);
1971   send_result_msg->uid = send_msg->uid; /* No need to ntohl->htonl this */
1972
1973   send_context->importance = ntohl (send_msg->priority);
1974   send_context->timeout = send_msg->timeout;
1975   send_context->direct_peer = direct;
1976   send_context->distant_peer = destination;
1977   send_context->message = message_buf;
1978   send_context->message_size = message_size;
1979   send_context->send_result = send_result_msg;
1980 #if DEBUG_DV_MESSAGES
1981   send_context->uid = send_msg->uid;
1982 #endif
1983
1984   if (send_message_via (&my_identity, direct, send_context) != GNUNET_YES)
1985   {
1986     send_result_msg->result = htons (1);
1987     pending_message =
1988         GNUNET_malloc (sizeof (struct PendingMessage) +
1989                        sizeof (struct GNUNET_DV_SendResultMessage));
1990     pending_message->msg = (struct GNUNET_MessageHeader *) &pending_message[1];
1991     memcpy (&pending_message[1], send_result_msg,
1992             sizeof (struct GNUNET_DV_SendResultMessage));
1993     GNUNET_free (send_result_msg);
1994
1995     GNUNET_CONTAINER_DLL_insert_after (plugin_pending_head, plugin_pending_tail,
1996                                        plugin_pending_tail, pending_message);
1997
1998     if (client_handle != NULL)
1999     {
2000       if (plugin_transmit_handle == NULL)
2001       {
2002         plugin_transmit_handle =
2003             GNUNET_SERVER_notify_transmit_ready (client_handle,
2004                                                  sizeof (struct
2005                                                          GNUNET_DV_SendResultMessage),
2006                                                  GNUNET_TIME_UNIT_FOREVER_REL,
2007                                                  &transmit_to_plugin, NULL);
2008       }
2009       else
2010       {
2011         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2012                     "Failed to queue message for plugin, must be one in progress already!!\n");
2013       }
2014     }
2015     GNUNET_CRYPTO_hash_to_enc (&destination->hashPubKey, &dest_hash);   /* GNUNET_i2s won't properly work, need to hash one ourselves */
2016     dest_hash.encoding[4] = '\0';
2017     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
2018                 "%s DV SEND failed to send message to destination `%s' via `%s'\n",
2019                 my_short_id, (const char *) &dest_hash.encoding,
2020                 GNUNET_i2s (direct));
2021   }
2022
2023   /* In bizarro world GNUNET_SYSERR indicates that we succeeded */
2024 #if UNSIMPLER
2025   if (GNUNET_SYSERR !=
2026       GNUNET_CONTAINER_multihashmap_get_multiple (extended_neighbors,
2027                                                   &destination->hashPubKey,
2028                                                   &send_iterator, send_context))
2029   {
2030     send_result_msg->result = htons (1);
2031     pending_message =
2032         GNUNET_malloc (sizeof (struct PendingMessage) +
2033                        sizeof (struct GNUNET_DV_SendResultMessage));
2034     pending_message->msg = (struct GNUNET_MessageHeader *) &pending_message[1];
2035     memcpy (&pending_message[1], send_result_msg,
2036             sizeof (struct GNUNET_DV_SendResultMessage));
2037     GNUNET_free (send_result_msg);
2038
2039     GNUNET_CONTAINER_DLL_insert_after (plugin_pending_head, plugin_pending_tail,
2040                                        plugin_pending_tail, pending_message);
2041
2042     if (client_handle != NULL)
2043     {
2044       if (plugin_transmit_handle == NULL)
2045       {
2046         plugin_transmit_handle =
2047             GNUNET_SERVER_notify_transmit_ready (client_handle,
2048                                                  sizeof (struct
2049                                                          GNUNET_DV_SendResultMessage),
2050                                                  GNUNET_TIME_UNIT_FOREVER_REL,
2051                                                  &transmit_to_plugin, NULL);
2052       }
2053       else
2054       {
2055         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2056                     "Failed to queue message for plugin, must be one in progress already!!\n");
2057       }
2058     }
2059     GNUNET_CRYPTO_hash_to_enc (&destination->hashPubKey, &dest_hash);   /* GNUNET_i2s won't properly work, need to hash one ourselves */
2060     dest_hash.encoding[4] = '\0';
2061     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
2062                 "%s DV SEND failed to send message to destination `%s' via `%s'\n",
2063                 my_short_id, (const char *) &dest_hash.encoding,
2064                 GNUNET_i2s (direct));
2065   }
2066 #endif
2067   GNUNET_free (message_buf);
2068   GNUNET_free (send_context);
2069   GNUNET_free (direct);
2070   GNUNET_free (destination);
2071
2072   GNUNET_SERVER_receive_done (client, GNUNET_OK);
2073 }
2074
2075 /** Forward declarations **/
2076 static int
2077 handle_dv_gossip_message (void *cls, const struct GNUNET_PeerIdentity *peer,
2078                           const struct GNUNET_MessageHeader *message,
2079                           const struct GNUNET_ATS_Information *atsi,
2080                           unsigned int atsi_count);
2081
2082 static int
2083 handle_dv_disconnect_message (void *cls, const struct GNUNET_PeerIdentity *peer,
2084                               const struct GNUNET_MessageHeader *message,
2085                               const struct GNUNET_ATS_Information *atsi,
2086                               unsigned int atsi_count);
2087 /** End forward declarations **/
2088
2089
2090 /**
2091  * List of handlers for the messages understood by this
2092  * service.
2093  *
2094  * Hmm... will we need to register some handlers with core and
2095  * some handlers with our server here?  Because core should be
2096  * getting the incoming DV messages (from whichever lower level
2097  * transport) and then our server should be getting messages
2098  * from the dv_plugin, right?
2099  */
2100 static struct GNUNET_CORE_MessageHandler core_handlers[] = {
2101   {&handle_dv_data_message, GNUNET_MESSAGE_TYPE_DV_DATA, 0},
2102   {&handle_dv_gossip_message, GNUNET_MESSAGE_TYPE_DV_GOSSIP, 0},
2103   {&handle_dv_disconnect_message, GNUNET_MESSAGE_TYPE_DV_DISCONNECT, 0},
2104   {NULL, 0, 0}
2105 };
2106
2107 static struct GNUNET_SERVER_MessageHandler plugin_handlers[] = {
2108   {&handle_dv_send_message, NULL, GNUNET_MESSAGE_TYPE_TRANSPORT_DV_SEND, 0},
2109   {&handle_start, NULL, GNUNET_MESSAGE_TYPE_DV_START, 0},
2110   {NULL, NULL, 0, 0}
2111 };
2112
2113 /**
2114  * Free a DistantNeighbor node, including removing it
2115  * from the referer's list.
2116  */
2117 static void
2118 distant_neighbor_free (struct DistantNeighbor *referee)
2119 {
2120   struct DirectNeighbor *referrer;
2121
2122   referrer = referee->referrer;
2123   if (referrer != NULL)
2124   {
2125     GNUNET_CONTAINER_DLL_remove (referrer->referee_head, referrer->referee_tail,
2126                                  referee);
2127   }
2128   GNUNET_CONTAINER_heap_remove_node (referee->max_loc);
2129   GNUNET_CONTAINER_heap_remove_node (referee->min_loc);
2130   GNUNET_CONTAINER_multihashmap_remove_all (extended_neighbors,
2131                                             &referee->identity.hashPubKey);
2132   GNUNET_free_non_null (referee->pkey);
2133   GNUNET_free (referee);
2134 }
2135
2136 /**
2137  * Free a DirectNeighbor node, including removing it
2138  * from the referer's list.
2139  */
2140 static void
2141 direct_neighbor_free (struct DirectNeighbor *direct)
2142 {
2143   struct NeighborSendContext *send_context;
2144   struct FastGossipNeighborList *about_list;
2145   struct FastGossipNeighborList *prev_about;
2146
2147   send_context = direct->send_context;
2148
2149   if (send_context->task != GNUNET_SCHEDULER_NO_TASK)
2150     GNUNET_SCHEDULER_cancel (send_context->task);
2151
2152   about_list = send_context->fast_gossip_list_head;
2153   while (about_list != NULL)
2154   {
2155     GNUNET_CONTAINER_DLL_remove (send_context->fast_gossip_list_head,
2156                                  send_context->fast_gossip_list_tail,
2157                                  about_list);
2158     prev_about = about_list;
2159     about_list = about_list->next;
2160     GNUNET_free (prev_about);
2161   }
2162   GNUNET_free (send_context);
2163   GNUNET_free (direct);
2164 }
2165
2166 /**
2167  * Multihashmap iterator for sending out disconnect messages
2168  * for a peer.
2169  *
2170  * @param cls the peer that was disconnected
2171  * @param key key value stored under
2172  * @param value the direct neighbor to send disconnect to
2173  *
2174  * @return GNUNET_YES to continue iteration, GNUNET_NO to stop
2175  */
2176 static int
2177 schedule_disconnect_messages (void *cls, const GNUNET_HashCode * key,
2178                               void *value)
2179 {
2180   struct DisconnectContext *disconnect_context = cls;
2181   struct DirectNeighbor *disconnected = disconnect_context->direct;
2182   struct DirectNeighbor *notify = value;
2183   struct PendingMessage *pending_message;
2184   p2p_dv_MESSAGE_Disconnect *disconnect_message;
2185
2186   if (memcmp
2187       (&notify->identity, &disconnected->identity,
2188        sizeof (struct GNUNET_PeerIdentity)) == 0)
2189     return GNUNET_YES;          /* Don't send disconnect message to peer that disconnected! */
2190
2191   pending_message =
2192       GNUNET_malloc (sizeof (struct PendingMessage) +
2193                      sizeof (p2p_dv_MESSAGE_Disconnect));
2194   pending_message->msg = (struct GNUNET_MessageHeader *) &pending_message[1];
2195   pending_message->importance = default_dv_priority;
2196   pending_message->timeout = GNUNET_TIME_UNIT_FOREVER_REL;
2197   memcpy (&pending_message->recipient, &notify->identity,
2198           sizeof (struct GNUNET_PeerIdentity));
2199   pending_message->msg_size = sizeof (p2p_dv_MESSAGE_Disconnect);
2200   disconnect_message = (p2p_dv_MESSAGE_Disconnect *) pending_message->msg;
2201   disconnect_message->header.size = htons (sizeof (p2p_dv_MESSAGE_Disconnect));
2202   disconnect_message->header.type = htons (GNUNET_MESSAGE_TYPE_DV_DISCONNECT);
2203   disconnect_message->peer_id = htonl (disconnect_context->distant->our_id);
2204
2205   GNUNET_CONTAINER_DLL_insert_after (core_pending_head, core_pending_tail,
2206                                      core_pending_tail, pending_message);
2207
2208   GNUNET_SCHEDULER_add_now (try_core_send, NULL);
2209   /*if (core_transmit_handle == NULL)
2210    * core_transmit_handle = GNUNET_CORE_notify_transmit_ready(coreAPI, GNUNET_YES, default_dv_priority, GNUNET_TIME_UNIT_FOREVER_REL, &notify->identity, sizeof(p2p_dv_MESSAGE_Disconnect), &core_transmit_notify, NULL); */
2211
2212   return GNUNET_YES;
2213 }
2214
2215 /**
2216  * Multihashmap iterator for freeing extended neighbors.
2217  *
2218  * @param cls NULL
2219  * @param key key value stored under
2220  * @param value the distant neighbor to be freed
2221  *
2222  * @return GNUNET_YES to continue iteration, GNUNET_NO to stop
2223  */
2224 static int
2225 free_extended_neighbors (void *cls, const GNUNET_HashCode * key, void *value)
2226 {
2227   struct DistantNeighbor *distant = value;
2228
2229   distant_neighbor_free (distant);
2230   return GNUNET_YES;
2231 }
2232
2233 /**
2234  * Multihashmap iterator for freeing direct neighbors.
2235  *
2236  * @param cls NULL
2237  * @param key key value stored under
2238  * @param value the direct neighbor to be freed
2239  *
2240  * @return GNUNET_YES to continue iteration, GNUNET_NO to stop
2241  */
2242 static int
2243 free_direct_neighbors (void *cls, const GNUNET_HashCode * key, void *value)
2244 {
2245   struct DirectNeighbor *direct = value;
2246
2247   direct_neighbor_free (direct);
2248   return GNUNET_YES;
2249 }
2250
2251
2252 /**
2253  * Task run during shutdown.
2254  *
2255  * @param cls unused
2256  * @param tc unused
2257  */
2258 static void
2259 shutdown_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
2260 {
2261 #if DEBUG_DV
2262   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "calling CORE_DISCONNECT\n");
2263   GNUNET_CONTAINER_multihashmap_iterate (extended_neighbors, &print_neighbors,
2264                                          NULL);
2265 #endif
2266   GNUNET_CONTAINER_multihashmap_iterate (extended_neighbors,
2267                                          &free_extended_neighbors, NULL);
2268   GNUNET_CONTAINER_multihashmap_destroy (extended_neighbors);
2269   GNUNET_CONTAINER_multihashmap_iterate (direct_neighbors,
2270                                          &free_direct_neighbors, NULL);
2271   GNUNET_CONTAINER_multihashmap_destroy (direct_neighbors);
2272
2273   GNUNET_CONTAINER_heap_destroy (neighbor_max_heap);
2274   GNUNET_CONTAINER_heap_destroy (neighbor_min_heap);
2275
2276   GNUNET_CORE_disconnect (coreAPI);
2277   coreAPI = NULL;
2278   GNUNET_PEERINFO_disconnect (peerinfo_handle);
2279   GNUNET_SERVER_mst_destroy (coreMST);
2280   GNUNET_free_non_null (my_short_id);
2281 #if DEBUG_DV
2282   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "CORE_DISCONNECT completed\n");
2283 #endif
2284 }
2285
2286 /**
2287  * To be called on core init/fail.
2288  */
2289 void
2290 core_init (void *cls, struct GNUNET_CORE_Handle *server,
2291            const struct GNUNET_PeerIdentity *identity)
2292 {
2293
2294   if (server == NULL)
2295   {
2296     GNUNET_SCHEDULER_cancel (cleanup_task);
2297     GNUNET_SCHEDULER_add_now (&shutdown_task, NULL);
2298     return;
2299   }
2300 #if DEBUG_DV
2301   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2302               "%s: Core connection initialized, I am peer: %s\n", "dv",
2303               GNUNET_i2s (identity));
2304 #endif
2305   memcpy (&my_identity, identity, sizeof (struct GNUNET_PeerIdentity));
2306   my_short_id = GNUNET_strdup (GNUNET_i2s (&my_identity));
2307   coreAPI = server;
2308 }
2309
2310
2311 #if PKEY_NO_NEIGHBOR_ON_ADD
2312 /**
2313  * Iterator over hash map entries.
2314  *
2315  * @param cls closure
2316  * @param key current key code
2317  * @param value value in the hash map
2318  * @return GNUNET_YES if we should continue to
2319  *         iterate,
2320  *         GNUNET_NO if not.
2321  */
2322 static int
2323 add_pkey_to_extended (void *cls, const GNUNET_HashCode * key, void *abs_value)
2324 {
2325   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded *pkey = cls;
2326   struct DistantNeighbor *distant_neighbor = abs_value;
2327
2328   if (distant_neighbor->pkey == NULL)
2329   {
2330     distant_neighbor->pkey =
2331         GNUNET_malloc (sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded));
2332     memcpy (distant_neighbor->pkey, pkey,
2333             sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded));
2334   }
2335
2336   return GNUNET_YES;
2337 }
2338 #endif
2339
2340 /**
2341  * Iterator over hash map entries.
2342  *
2343  * @param cls closure
2344  * @param key current key code
2345  * @param value value in the hash map
2346  * @return GNUNET_YES if we should continue to
2347  *         iterate,
2348  *         GNUNET_NO if not.
2349  */
2350 static int
2351 update_matching_neighbors (void *cls, const GNUNET_HashCode * key, void *value)
2352 {
2353   struct NeighborUpdateInfo *update_info = cls;
2354   struct DistantNeighbor *distant_neighbor = value;
2355
2356   if (update_info->referrer == distant_neighbor->referrer)      /* Direct neighbor matches, update it's info and return GNUNET_NO */
2357   {
2358     /* same referrer, cost change! */
2359     GNUNET_CONTAINER_heap_update_cost (neighbor_max_heap,
2360                                        update_info->neighbor->max_loc,
2361                                        update_info->cost);
2362     GNUNET_CONTAINER_heap_update_cost (neighbor_min_heap,
2363                                        update_info->neighbor->min_loc,
2364                                        update_info->cost);
2365     update_info->neighbor->last_activity = update_info->now;
2366     update_info->neighbor->cost = update_info->cost;
2367     update_info->neighbor->referrer_id = update_info->referrer_peer_id;
2368     return GNUNET_NO;
2369   }
2370
2371   return GNUNET_YES;
2372 }
2373
2374
2375 /**
2376  * Iterate over all current direct peers, add DISTANT newly connected
2377  * peer to the fast gossip list for that peer so we get DV routing
2378  * information out as fast as possible!
2379  *
2380  * @param cls the newly connected neighbor we will gossip about
2381  * @param key the hashcode of the peer
2382  * @param value the direct neighbor we should gossip to
2383  *
2384  * @return GNUNET_YES to continue iteration, GNUNET_NO otherwise
2385  */
2386 static int
2387 add_distant_all_direct_neighbors (void *cls, const GNUNET_HashCode * key,
2388                                   void *value)
2389 {
2390   struct DirectNeighbor *direct = (struct DirectNeighbor *) value;
2391   struct DistantNeighbor *distant = (struct DistantNeighbor *) cls;
2392   struct NeighborSendContext *send_context = direct->send_context;
2393   struct FastGossipNeighborList *gossip_entry;
2394
2395 #if DEBUG_DV
2396   char *encPeerAbout;
2397   char *encPeerTo;
2398 #endif
2399
2400   if (distant == NULL)
2401   {
2402     return GNUNET_YES;
2403   }
2404
2405   if (memcmp
2406       (&direct->identity, &distant->identity,
2407        sizeof (struct GNUNET_PeerIdentity)) == 0)
2408   {
2409     return GNUNET_YES;          /* Don't gossip to a peer about itself! */
2410   }
2411
2412 #if SUPPORT_HIDING
2413   if (distant->hidden == GNUNET_YES)
2414     return GNUNET_YES;          /* This peer should not be gossipped about (hidden) */
2415 #endif
2416   gossip_entry = GNUNET_malloc (sizeof (struct FastGossipNeighborList));
2417   gossip_entry->about = distant;
2418
2419   GNUNET_CONTAINER_DLL_insert_after (send_context->fast_gossip_list_head,
2420                                      send_context->fast_gossip_list_tail,
2421                                      send_context->fast_gossip_list_tail,
2422                                      gossip_entry);
2423 #if DEBUG_DV
2424   encPeerAbout = GNUNET_strdup (GNUNET_i2s (&distant->identity));
2425   encPeerTo = GNUNET_strdup (GNUNET_i2s (&direct->identity));
2426
2427   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2428               "%s: Fast send info about peer %s id %u for directly connected peer %s\n",
2429               GNUNET_i2s (&my_identity), encPeerAbout, distant->our_id,
2430               encPeerTo);
2431   GNUNET_free (encPeerAbout);
2432   GNUNET_free (encPeerTo);
2433 #endif
2434   /*if (send_context->task != GNUNET_SCHEDULER_NO_TASK)
2435    * GNUNET_SCHEDULER_cancel(send_context->task); */
2436
2437   send_context->task =
2438       GNUNET_SCHEDULER_add_now (&neighbor_send_task, send_context);
2439   return GNUNET_YES;
2440 }
2441
2442 /**
2443  * Callback for hello address creation.
2444  *
2445  * @param cls closure, a struct HelloContext
2446  * @param max maximum number of bytes that can be written to buf
2447  * @param buf where to write the address information
2448  *
2449  * @return number of bytes written, 0 to signal the
2450  *         end of the iteration.
2451  */
2452 static size_t
2453 generate_hello_address (void *cls, size_t max, void *buf)
2454 {
2455   struct HelloContext *hello_context = cls;
2456   struct GNUNET_HELLO_Address hello_address;
2457   char *addr_buffer;
2458   size_t offset;
2459   size_t size;
2460   size_t ret;
2461
2462   if (hello_context->addresses_to_add == 0)
2463     return 0;
2464
2465   /* Hello "address" will be concatenation of distant peer and direct peer identities */
2466   size = 2 * sizeof (struct GNUNET_PeerIdentity);
2467   GNUNET_assert (max >= size);
2468
2469   addr_buffer = GNUNET_malloc (size);
2470   offset = 0;
2471   /* Copy the distant peer identity to buffer */
2472   memcpy (addr_buffer, &hello_context->distant_peer,
2473           sizeof (struct GNUNET_PeerIdentity));
2474   offset += sizeof (struct GNUNET_PeerIdentity);
2475   /* Copy the direct peer identity to buffer */
2476   memcpy (&addr_buffer[offset], hello_context->direct_peer,
2477           sizeof (struct GNUNET_PeerIdentity));
2478   memset (&hello_address.peer, 0, sizeof (struct GNUNET_PeerIdentity));
2479   hello_address.address = addr_buffer;
2480   hello_address.transport_name = "dv";
2481   hello_address.address_length = size;
2482   ret =
2483       GNUNET_HELLO_add_address (&hello_address,
2484                                 GNUNET_TIME_relative_to_absolute
2485                                 (GNUNET_TIME_UNIT_HOURS), buf, max);
2486
2487   hello_context->addresses_to_add--;
2488
2489   GNUNET_free (addr_buffer);
2490   return ret;
2491 }
2492
2493
2494 /**
2495  * Handles when a peer is either added due to being newly connected
2496  * or having been gossiped about, also called when the cost for a neighbor
2497  * needs to be updated.
2498  *
2499  * @param peer identity of the peer whose info is being added/updated
2500  * @param pkey public key of the peer whose info is being added/updated
2501  * @param referrer_peer_id id to use when sending to 'peer'
2502  * @param referrer if this is a gossiped peer, who did we hear it from?
2503  * @param cost the cost of communicating with this peer via 'referrer'
2504  *
2505  * @return the added neighbor, the updated neighbor or NULL (neighbor
2506  *         not added)
2507  */
2508 static struct DistantNeighbor *
2509 addUpdateNeighbor (const struct GNUNET_PeerIdentity *peer,
2510                    struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded *pkey,
2511                    unsigned int referrer_peer_id,
2512                    struct DirectNeighbor *referrer, unsigned int cost)
2513 {
2514   struct DistantNeighbor *neighbor;
2515   struct DistantNeighbor *max;
2516   struct GNUNET_TIME_Absolute now;
2517   struct NeighborUpdateInfo *neighbor_update;
2518   struct HelloContext *hello_context;
2519   struct GNUNET_HELLO_Message *hello_msg;
2520   unsigned int our_id;
2521   char *addr1;
2522   char *addr2;
2523   int i;
2524
2525 #if DEBUG_DV_PEER_NUMBERS
2526   char *encAbout;
2527
2528   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "%s Received sender id (%u)!\n",
2529               "DV SERVICE", referrer_peer_id);
2530 #endif
2531
2532   now = GNUNET_TIME_absolute_get ();
2533   neighbor =
2534       GNUNET_CONTAINER_multihashmap_get (extended_neighbors, &peer->hashPubKey);
2535   neighbor_update = GNUNET_malloc (sizeof (struct NeighborUpdateInfo));
2536   neighbor_update->neighbor = neighbor;
2537   neighbor_update->cost = cost;
2538   neighbor_update->now = now;
2539   neighbor_update->referrer = referrer;
2540   neighbor_update->referrer_peer_id = referrer_peer_id;
2541
2542   if (neighbor != NULL)
2543   {
2544 #if USE_PEER_ID
2545     memcpy (&our_id, &neighbor->identity, sizeof (unsigned int));
2546 #else
2547     our_id = neighbor->our_id;
2548 #endif
2549   }
2550   else
2551   {
2552 #if USE_PEER_ID
2553     memcpy (&our_id, peer, sizeof (unsigned int));
2554 #else
2555     our_id =
2556         GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_STRONG,
2557                                   RAND_MAX - 1) + 1;
2558 #endif
2559   }
2560
2561   /* Either we do not know this peer, or we already do but via a different immediate peer */
2562   if ((neighbor == NULL) ||
2563       (GNUNET_CONTAINER_multihashmap_get_multiple
2564        (extended_neighbors, &peer->hashPubKey, &update_matching_neighbors,
2565         neighbor_update) != GNUNET_SYSERR))
2566   {
2567 #if AT_MOST_ONE
2568     if ((neighbor != NULL) && (cost < neighbor->cost))  /* New cost is less than old, remove old */
2569     {
2570       distant_neighbor_free (neighbor);
2571     }
2572     else if (neighbor != NULL)  /* Only allow one DV connection to each peer */
2573     {
2574       return NULL;
2575     }
2576 #endif
2577     /* new neighbor! */
2578     if (cost > fisheye_depth)
2579     {
2580       /* too costly */
2581       GNUNET_free (neighbor_update);
2582       return NULL;
2583     }
2584
2585 #if DEBUG_DV_PEER_NUMBERS
2586     encAbout = GNUNET_strdup (GNUNET_i2s (peer));
2587     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2588                 "%s: %s Chose NEW id (%u) for peer %s!\n",
2589                 GNUNET_i2s (&my_identity), "DV SERVICE", our_id, encAbout);
2590     GNUNET_free (encAbout);
2591 #endif
2592
2593     if (max_table_size <=
2594         GNUNET_CONTAINER_multihashmap_size (extended_neighbors))
2595     {
2596       /* remove most expensive entry */
2597       max = GNUNET_CONTAINER_heap_peek (neighbor_max_heap);
2598       GNUNET_assert (max != NULL);
2599       if (cost > max->cost)
2600       {
2601         /* new entry most expensive, don't create */
2602         GNUNET_free (neighbor_update);
2603         return NULL;
2604       }
2605       if (max->cost > 1)
2606       {
2607         /* only free if this is not a direct connection;
2608          * we could theoretically have more direct
2609          * connections than DV entries allowed total! */
2610         distant_neighbor_free (max);
2611       }
2612     }
2613
2614     neighbor = GNUNET_malloc (sizeof (struct DistantNeighbor));
2615     GNUNET_CONTAINER_DLL_insert (referrer->referee_head, referrer->referee_tail,
2616                                  neighbor);
2617     neighbor->max_loc =
2618         GNUNET_CONTAINER_heap_insert (neighbor_max_heap, neighbor, cost);
2619     neighbor->min_loc =
2620         GNUNET_CONTAINER_heap_insert (neighbor_min_heap, neighbor, cost);
2621     neighbor->referrer = referrer;
2622     memcpy (&neighbor->identity, peer, sizeof (struct GNUNET_PeerIdentity));
2623     if (pkey != NULL)           /* pkey will be null on direct neighbor addition */
2624     {
2625       neighbor->pkey =
2626           GNUNET_malloc (sizeof
2627                          (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded));
2628       memcpy (neighbor->pkey, pkey,
2629               sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded));
2630     }
2631     else
2632       neighbor->pkey = pkey;
2633
2634     neighbor->last_activity = now;
2635     neighbor->cost = cost;
2636     neighbor->referrer_id = referrer_peer_id;
2637     neighbor->our_id = our_id;
2638     neighbor->hidden =
2639         (cost ==
2640          DIRECT_NEIGHBOR_COST)
2641         ? (GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK, 4) ==
2642            0) : GNUNET_NO;
2643
2644     GNUNET_CONTAINER_multihashmap_put (extended_neighbors, &peer->hashPubKey,
2645                                        neighbor,
2646                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
2647     if (referrer_peer_id != 0)
2648     {
2649       for (i = 0; i < MAX_OUTSTANDING_MESSAGES; i++)
2650       {
2651         if (referrer->pending_messages[i].sender_id == referrer_peer_id)        /* We have a queued message from just learned about peer! */
2652         {
2653 #if DEBUG_DV_MESSAGES
2654           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2655                       "%s: learned about peer %llu from which we have a previous unknown message, processing!\n",
2656                       my_short_id, referrer_peer_id);
2657 #endif
2658           struct GNUNET_ATS_Information atsi[2];
2659
2660           atsi[0].type = htonl (GNUNET_ATS_QUALITY_NET_DISTANCE);
2661           atsi[0].value = htonl (referrer->pending_messages[i].distance);
2662           atsi[1].type = htonl (GNUNET_ATS_QUALITY_NET_DELAY);
2663           atsi[1].value =
2664               htonl ((uint32_t) referrer->pending_messages[i].
2665                      latency.rel_value);
2666           handle_dv_data_message (NULL, &referrer->pending_messages[i].sender,
2667                                   referrer->pending_messages[i].message, atsi,
2668                                   2);
2669           GNUNET_free (referrer->pending_messages[i].message);
2670           referrer->pending_messages[i].sender_id = 0;
2671         }
2672       }
2673     }
2674     if ((cost != DIRECT_NEIGHBOR_COST) && (neighbor->pkey != NULL))
2675     {
2676       /* Added neighbor, now send HELLO to transport */
2677       hello_context = GNUNET_malloc (sizeof (struct HelloContext));
2678       hello_context->direct_peer = &referrer->identity;
2679       memcpy (&hello_context->distant_peer, peer,
2680               sizeof (struct GNUNET_PeerIdentity));
2681       hello_context->addresses_to_add = 1;
2682       hello_msg =
2683           GNUNET_HELLO_create (pkey, &generate_hello_address, hello_context);
2684       GNUNET_assert (memcmp
2685                      (hello_context->direct_peer, &hello_context->distant_peer,
2686                       sizeof (struct GNUNET_PeerIdentity)) != 0);
2687       addr1 = GNUNET_strdup (GNUNET_i2s (hello_context->direct_peer));
2688       addr2 = GNUNET_strdup (GNUNET_i2s (&hello_context->distant_peer));
2689 #if DEBUG_DV
2690       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2691                   "%s: GIVING HELLO size %d for %s via %s to TRANSPORT\n",
2692                   my_short_id, GNUNET_HELLO_size (hello_msg), addr2, addr1);
2693 #endif
2694       GNUNET_free (addr1);
2695       GNUNET_free (addr2);
2696       send_to_plugin (hello_context->direct_peer,
2697                       GNUNET_HELLO_get_header (hello_msg),
2698                       GNUNET_HELLO_size (hello_msg),
2699                       &hello_context->distant_peer, cost);
2700       GNUNET_free (hello_context);
2701       GNUNET_free (hello_msg);
2702     }
2703
2704   }
2705   else
2706   {
2707 #if DEBUG_DV_GOSSIP
2708     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2709                 "%s: Already know peer %s distance %d, referrer id %d!\n", "dv",
2710                 GNUNET_i2s (peer), cost, referrer_peer_id);
2711 #endif
2712   }
2713 #if DEBUG_DV
2714   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "%s: Size of extended_neighbors is %d\n",
2715               "dv", GNUNET_CONTAINER_multihashmap_size (extended_neighbors));
2716 #endif
2717
2718   GNUNET_free (neighbor_update);
2719   return neighbor;
2720 }
2721
2722
2723 /**
2724  * Core handler for dv disconnect messages.  These will be used
2725  * by us to tell transport via the dv plugin that a peer can
2726  * no longer be contacted by us via a certain address.  We should
2727  * then propagate these messages on, given that the distance to
2728  * the peer indicates we would have gossiped about it to others.
2729  *
2730  * @param cls closure
2731  * @param peer peer which sent the message (immediate sender)
2732  * @param message the message
2733  * @param atsi performance data
2734  * @param atsi_count number of entries in atsi
2735  */
2736 static int
2737 handle_dv_disconnect_message (void *cls, const struct GNUNET_PeerIdentity *peer,
2738                               const struct GNUNET_MessageHeader *message,
2739                               const struct GNUNET_ATS_Information *atsi,
2740                               unsigned int atsi_count)
2741 {
2742   struct DirectNeighbor *referrer;
2743   struct DistantNeighbor *distant;
2744   p2p_dv_MESSAGE_Disconnect *enc_message =
2745       (p2p_dv_MESSAGE_Disconnect *) message;
2746
2747   if (ntohs (message->size) < sizeof (p2p_dv_MESSAGE_Disconnect))
2748   {
2749     return GNUNET_SYSERR;       /* invalid message */
2750   }
2751
2752   referrer =
2753       GNUNET_CONTAINER_multihashmap_get (direct_neighbors, &peer->hashPubKey);
2754   if (referrer == NULL)
2755     return GNUNET_OK;
2756
2757   distant = referrer->referee_head;
2758   while (distant != NULL)
2759   {
2760     if (distant->referrer_id == ntohl (enc_message->peer_id))
2761     {
2762       distant_neighbor_free (distant);
2763       distant = referrer->referee_head;
2764     }
2765     else
2766       distant = distant->next;
2767   }
2768
2769   return GNUNET_OK;
2770 }
2771
2772
2773 /**
2774  * Core handler for dv gossip messages.  These will be used
2775  * by us to create a HELLO message for the newly peer containing
2776  * which direct peer we can connect through, and what the cost
2777  * is.  This HELLO will then be scheduled for validation by the
2778  * transport service so that it can be used by all others.
2779  *
2780  * @param cls closure
2781  * @param peer peer which sent the message (immediate sender)
2782  * @param message the message
2783  * @param atsi performance data
2784  * @param atsi_count number of entries in atsi
2785  */
2786 static int
2787 handle_dv_gossip_message (void *cls, const struct GNUNET_PeerIdentity *peer,
2788                           const struct GNUNET_MessageHeader *message,
2789                           const struct GNUNET_ATS_Information *atsi,
2790                           unsigned int atsi_count)
2791 {
2792   struct DirectNeighbor *referrer;
2793   p2p_dv_MESSAGE_NeighborInfo *enc_message =
2794       (p2p_dv_MESSAGE_NeighborInfo *) message;
2795
2796   if (ntohs (message->size) < sizeof (p2p_dv_MESSAGE_NeighborInfo))
2797   {
2798     return GNUNET_SYSERR;       /* invalid message */
2799   }
2800
2801 #if DEBUG_DV_GOSSIP_RECEIPT
2802   char *encPeerAbout;
2803   char *encPeerFrom;
2804
2805   encPeerAbout = GNUNET_strdup (GNUNET_i2s (&enc_message->neighbor));
2806   encPeerFrom = GNUNET_strdup (GNUNET_i2s (peer));
2807   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2808               "%s: Received %s message from peer %s about peer %s id %u distance %d!\n",
2809               GNUNET_i2s (&my_identity), "DV GOSSIP", encPeerFrom, encPeerAbout,
2810               ntohl (enc_message->neighbor_id), ntohl (enc_message->cost) + 1);
2811   GNUNET_free (encPeerAbout);
2812   GNUNET_free (encPeerFrom);
2813 #endif
2814
2815   referrer =
2816       GNUNET_CONTAINER_multihashmap_get (direct_neighbors, &peer->hashPubKey);
2817   if (referrer == NULL)
2818     return GNUNET_OK;
2819
2820   addUpdateNeighbor (&enc_message->neighbor, &enc_message->pkey,
2821                      ntohl (enc_message->neighbor_id), referrer,
2822                      ntohl (enc_message->cost) + 1);
2823
2824   return GNUNET_OK;
2825 }
2826
2827
2828 /**
2829  * Iterate over all currently known peers, add them to the
2830  * fast gossip list for this peer so we get DV routing information
2831  * out as fast as possible!
2832  *
2833  * @param cls the direct neighbor we will gossip to
2834  * @param key the hashcode of the peer
2835  * @param value the distant neighbor we should add to the list
2836  *
2837  * @return GNUNET_YES to continue iteration, GNUNET_NO otherwise
2838  */
2839 static int
2840 add_all_extended_peers (void *cls, const GNUNET_HashCode * key, void *value)
2841 {
2842   struct NeighborSendContext *send_context = (struct NeighborSendContext *) cls;
2843   struct DistantNeighbor *distant = (struct DistantNeighbor *) value;
2844   struct FastGossipNeighborList *gossip_entry;
2845
2846   if (memcmp
2847       (&send_context->toNeighbor->identity, &distant->identity,
2848        sizeof (struct GNUNET_PeerIdentity)) == 0)
2849     return GNUNET_YES;          /* Don't gossip to a peer about itself! */
2850
2851 #if SUPPORT_HIDING
2852   if (distant->hidden == GNUNET_YES)
2853     return GNUNET_YES;          /* This peer should not be gossipped about (hidden) */
2854 #endif
2855   gossip_entry = GNUNET_malloc (sizeof (struct FastGossipNeighborList));
2856   gossip_entry->about = distant;
2857
2858   GNUNET_CONTAINER_DLL_insert_after (send_context->fast_gossip_list_head,
2859                                      send_context->fast_gossip_list_tail,
2860                                      send_context->fast_gossip_list_tail,
2861                                      gossip_entry);
2862
2863   return GNUNET_YES;
2864 }
2865
2866 #if INSANE_GOSSIP
2867 /**
2868  * Iterator over hash map entries.
2869  *
2870  * @param cls closure
2871  * @param key current key code
2872  * @param value value in the hash map
2873  * @return GNUNET_YES if we should continue to
2874  *         iterate,
2875  *         GNUNET_NO if not.
2876  */
2877 static int
2878 gossip_all_to_all_iterator (void *cls, const GNUNET_HashCode * key,
2879                             void *abs_value)
2880 {
2881   struct DirectNeighbor *direct = abs_value;
2882
2883   GNUNET_CONTAINER_multihashmap_iterate (extended_neighbors,
2884                                          &add_all_extended_peers,
2885                                          direct->send_context);
2886
2887   if (direct->send_context->task != GNUNET_SCHEDULER_NO_TASK)
2888     GNUNET_SCHEDULER_cancel (direct->send_context->task);
2889
2890   direct->send_context->task =
2891       GNUNET_SCHEDULER_add_now (&neighbor_send_task, direct->send_context);
2892   return GNUNET_YES;
2893 }
2894
2895 /**
2896  * Task run during shutdown.
2897  *
2898  * @param cls unused
2899  * @param tc unused
2900  */
2901 static void
2902 gossip_all_to_all (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
2903 {
2904   GNUNET_CONTAINER_multihashmap_iterate (direct_neighbors,
2905                                          &gossip_all_to_all_iterator, NULL);
2906
2907   GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_relative_multiply
2908                                 (GNUNET_TIME_UNIT_SECONDS, 5),
2909                                 &gossip_all_to_all, NULL);
2910
2911 }
2912 #endif
2913 /**
2914  * Iterate over all current direct peers, add newly connected peer
2915  * to the fast gossip list for that peer so we get DV routing
2916  * information out as fast as possible!
2917  *
2918  * @param cls the newly connected neighbor we will gossip about
2919  * @param key the hashcode of the peer
2920  * @param value the direct neighbor we should gossip to
2921  *
2922  * @return GNUNET_YES to continue iteration, GNUNET_NO otherwise
2923  */
2924 static int
2925 add_all_direct_neighbors (void *cls, const GNUNET_HashCode * key, void *value)
2926 {
2927   struct DirectNeighbor *direct = (struct DirectNeighbor *) value;
2928   struct DirectNeighbor *to = (struct DirectNeighbor *) cls;
2929   struct DistantNeighbor *distant;
2930   struct NeighborSendContext *send_context = direct->send_context;
2931   struct FastGossipNeighborList *gossip_entry;
2932   char *direct_id;
2933
2934
2935   distant =
2936       GNUNET_CONTAINER_multihashmap_get (extended_neighbors,
2937                                          &to->identity.hashPubKey);
2938   if (distant == NULL)
2939   {
2940     return GNUNET_YES;
2941   }
2942
2943   if (memcmp
2944       (&direct->identity, &to->identity,
2945        sizeof (struct GNUNET_PeerIdentity)) == 0)
2946   {
2947     return GNUNET_YES;          /* Don't gossip to a peer about itself! */
2948   }
2949
2950 #if SUPPORT_HIDING
2951   if (distant->hidden == GNUNET_YES)
2952     return GNUNET_YES;          /* This peer should not be gossipped about (hidden) */
2953 #endif
2954   direct_id = GNUNET_strdup (GNUNET_i2s (&direct->identity));
2955 #if DEBUG_DV_GOSSIP
2956   GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
2957               "%s: adding peer %s to fast send list for %s\n", my_short_id,
2958               GNUNET_i2s (&distant->identity), direct_id);
2959 #endif
2960   GNUNET_free (direct_id);
2961   gossip_entry = GNUNET_malloc (sizeof (struct FastGossipNeighborList));
2962   gossip_entry->about = distant;
2963
2964   GNUNET_CONTAINER_DLL_insert_after (send_context->fast_gossip_list_head,
2965                                      send_context->fast_gossip_list_tail,
2966                                      send_context->fast_gossip_list_tail,
2967                                      gossip_entry);
2968   if (send_context->task != GNUNET_SCHEDULER_NO_TASK)
2969     GNUNET_SCHEDULER_cancel (send_context->task);
2970
2971   send_context->task =
2972       GNUNET_SCHEDULER_add_now (&neighbor_send_task, send_context);
2973   //tc.reason = GNUNET_SCHEDULER_REASON_TIMEOUT;
2974   //neighbor_send_task(send_context, &tc);
2975   return GNUNET_YES;
2976 }
2977
2978 /**
2979  * Type of an iterator over the hosts.  Note that each
2980  * host will be called with each available protocol.
2981  *
2982  * @param cls closure
2983  * @param peer id of the peer, NULL for last call
2984  * @param hello hello message for the peer (can be NULL)
2985  * @param err_msg NULL if successful, otherwise contains error message
2986  */
2987 static void
2988 process_peerinfo (void *cls, const struct GNUNET_PeerIdentity *peer,
2989                   const struct GNUNET_HELLO_Message *hello, const char *err_msg)
2990 {
2991   struct PeerIteratorContext *peerinfo_iterator = cls;
2992   struct DirectNeighbor *neighbor = peerinfo_iterator->neighbor;
2993   struct DistantNeighbor *distant = peerinfo_iterator->distant;
2994
2995 #if DEBUG_DV_PEER_NUMBERS
2996   char *neighbor_pid;
2997 #endif
2998   int sent;
2999
3000   if (err_msg != NULL)
3001   {
3002     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3003                 _("Error in communication with PEERINFO service\n"));
3004     /* return; */
3005   }
3006   if (peer == NULL)
3007   {
3008     if (distant->pkey == NULL)
3009     {
3010 #if DEBUG_DV
3011       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
3012                   "Failed to get peerinfo information for this peer, retrying!\n");
3013 #endif
3014       peerinfo_iterator->ic =
3015           GNUNET_PEERINFO_iterate (peerinfo_handle,
3016                                    &peerinfo_iterator->neighbor->identity,
3017                                    GNUNET_TIME_relative_multiply
3018                                    (GNUNET_TIME_UNIT_SECONDS, 3),
3019                                    &process_peerinfo, peerinfo_iterator);
3020     }
3021     else
3022     {
3023       GNUNET_free (peerinfo_iterator);
3024     }
3025     return;
3026   }
3027
3028   if (memcmp
3029       (&neighbor->identity, peer, sizeof (struct GNUNET_PeerIdentity) != 0))
3030     return;
3031
3032   if ((hello != NULL) &&
3033       (GNUNET_HELLO_get_key (hello, &neighbor->pkey) == GNUNET_OK))
3034   {
3035     if (distant->pkey == NULL)
3036     {
3037       distant->pkey =
3038           GNUNET_malloc (sizeof
3039                          (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded));
3040       memcpy (distant->pkey, &neighbor->pkey,
3041               sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded));
3042     }
3043
3044     sent =
3045         GNUNET_CONTAINER_multihashmap_iterate (extended_neighbors,
3046                                                &add_all_extended_peers,
3047                                                neighbor->send_context);
3048     if (stats != NULL)
3049     {
3050       GNUNET_STATISTICS_update (stats,
3051                                 "# distant peers gossiped to direct neighbors",
3052                                 sent, GNUNET_NO);
3053     }
3054 #if DEBUG_DV_PEER_NUMBERS
3055     neighbor_pid = GNUNET_strdup (GNUNET_i2s (&neighbor->identity));
3056     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3057                 "%s: Gossipped %d extended peers to %s\n",
3058                 GNUNET_i2s (&my_identity), sent, neighbor_pid);
3059 #endif
3060     sent =
3061         GNUNET_CONTAINER_multihashmap_iterate (direct_neighbors,
3062                                                &add_all_direct_neighbors,
3063                                                neighbor);
3064     if (stats != NULL)
3065     {
3066       GNUNET_STATISTICS_update (stats,
3067                                 "# direct peers gossiped to direct neighbors",
3068                                 sent, GNUNET_NO);
3069     }
3070 #if DEBUG_DV_PEER_NUMBERS
3071     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3072                 "%s: Gossipped about %s to %d direct peers\n",
3073                 GNUNET_i2s (&my_identity), neighbor_pid, sent);
3074     GNUNET_free (neighbor_pid);
3075 #endif
3076     neighbor->send_context->task =
3077         GNUNET_SCHEDULER_add_now (&neighbor_send_task, neighbor->send_context);
3078   }
3079 }
3080
3081
3082 /**
3083  * Method called whenever a peer connects.
3084  *
3085  * @param cls closure
3086  * @param peer peer identity this notification is about
3087  * @param atsi performance data
3088  * @param atsi_count number of entries in atsi
3089  */
3090 static void
3091 handle_core_connect (void *cls, const struct GNUNET_PeerIdentity *peer,
3092                      const struct GNUNET_ATS_Information *atsi,
3093                      unsigned int atsi_count)
3094 {
3095   struct DirectNeighbor *neighbor;
3096   struct DistantNeighbor *about;
3097   struct PeerIteratorContext *peerinfo_iterator;
3098   int sent;
3099
3100   uint32_t distance;
3101
3102   /* Check for connect to self message */
3103   if (0 == memcmp (&my_identity, peer, sizeof (struct GNUNET_PeerIdentity)))
3104     return;
3105
3106   distance = get_atsi_distance (atsi, atsi_count);
3107   if ((distance == DIRECT_NEIGHBOR_COST) &&
3108       (GNUNET_CONTAINER_multihashmap_get (direct_neighbors, &peer->hashPubKey)
3109        == NULL))
3110   {
3111     peerinfo_iterator = GNUNET_malloc (sizeof (struct PeerIteratorContext));
3112     neighbor = GNUNET_malloc (sizeof (struct DirectNeighbor));
3113     neighbor->send_context =
3114         GNUNET_malloc (sizeof (struct NeighborSendContext));
3115     neighbor->send_context->toNeighbor = neighbor;
3116     memcpy (&neighbor->identity, peer, sizeof (struct GNUNET_PeerIdentity));
3117
3118     GNUNET_assert (GNUNET_SYSERR !=
3119                    GNUNET_CONTAINER_multihashmap_put (direct_neighbors,
3120                                                       &peer->hashPubKey,
3121                                                       neighbor,
3122                                                       GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
3123     about = addUpdateNeighbor (peer, NULL, 0, neighbor, DIRECT_NEIGHBOR_COST);
3124     peerinfo_iterator->distant = about;
3125     peerinfo_iterator->neighbor = neighbor;
3126     peerinfo_iterator->ic =
3127         GNUNET_PEERINFO_iterate (peerinfo_handle, peer,
3128                                  GNUNET_TIME_relative_multiply
3129                                  (GNUNET_TIME_UNIT_SECONDS, 3),
3130                                  &process_peerinfo, peerinfo_iterator);
3131
3132     if ((about != NULL) && (about->pkey == NULL))
3133     {
3134 #if DEBUG_DV
3135       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3136                   "Newly added peer %s has NULL pkey!\n", GNUNET_i2s (peer));
3137 #endif
3138     }
3139     else if (about != NULL)
3140     {
3141       GNUNET_free (peerinfo_iterator);
3142     }
3143   }
3144   else
3145   {
3146     about =
3147         GNUNET_CONTAINER_multihashmap_get (extended_neighbors,
3148                                            &peer->hashPubKey);
3149     if ((GNUNET_CONTAINER_multihashmap_get (direct_neighbors, &peer->hashPubKey)
3150          == NULL) && (about != NULL))
3151     {
3152       sent =
3153           GNUNET_CONTAINER_multihashmap_iterate (direct_neighbors,
3154                                                  &add_distant_all_direct_neighbors,
3155                                                  about);
3156       if (stats != NULL)
3157         GNUNET_STATISTICS_update (stats,
3158                                   "# direct peers gossiped to new direct neighbors",
3159                                   sent, GNUNET_NO);
3160     }
3161 #if DEBUG_DV
3162     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3163                 "%s: Distance (%d) greater than %d or already know about peer (%s), not re-adding!\n",
3164                 "dv", distance, DIRECT_NEIGHBOR_COST, GNUNET_i2s (peer));
3165 #endif
3166     return;
3167   }
3168 }
3169
3170 /**
3171  * Method called whenever a given peer disconnects.
3172  *
3173  * @param cls closure
3174  * @param peer peer identity this notification is about
3175  */
3176 void
3177 handle_core_disconnect (void *cls, const struct GNUNET_PeerIdentity *peer)
3178 {
3179   struct DirectNeighbor *neighbor;
3180   struct DistantNeighbor *referee;
3181   struct FindDestinationContext fdc;
3182   struct DisconnectContext disconnect_context;
3183   struct PendingMessage *pending_pos;
3184
3185 #if DEBUG_DV
3186   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3187               "%s: Receives core peer disconnect message!\n", "dv");
3188 #endif
3189
3190   /* Check for disconnect from self message */
3191   if (0 == memcmp (&my_identity, peer, sizeof (struct GNUNET_PeerIdentity)))
3192     return;
3193
3194   neighbor =
3195       GNUNET_CONTAINER_multihashmap_get (direct_neighbors, &peer->hashPubKey);
3196
3197   if (neighbor == NULL)
3198   {
3199     return;
3200   }
3201
3202   pending_pos = core_pending_head;
3203   while (NULL != pending_pos)
3204   {
3205     if (0 ==
3206         memcmp (&pending_pos->recipient, &neighbor->identity,
3207                 sizeof (struct GNUNET_PeerIdentity)))
3208     {
3209       GNUNET_CONTAINER_DLL_remove (core_pending_head, core_pending_tail,
3210                                    pending_pos);
3211       pending_pos = core_pending_head;
3212     }
3213     else
3214       pending_pos = pending_pos->next;
3215   }
3216
3217   while (NULL != (referee = neighbor->referee_head))
3218     distant_neighbor_free (referee);
3219
3220   fdc.dest = NULL;
3221   fdc.tid = 0;
3222
3223   GNUNET_CONTAINER_multihashmap_iterate (extended_neighbors, &find_distant_peer,
3224                                          &fdc);
3225
3226   if (fdc.dest != NULL)
3227   {
3228     disconnect_context.direct = neighbor;
3229     disconnect_context.distant = fdc.dest;
3230     GNUNET_CONTAINER_multihashmap_iterate (direct_neighbors,
3231                                            &schedule_disconnect_messages,
3232                                            &disconnect_context);
3233   }
3234
3235   GNUNET_assert (neighbor->referee_tail == NULL);
3236   if (GNUNET_NO ==
3237       GNUNET_CONTAINER_multihashmap_remove (direct_neighbors, &peer->hashPubKey,
3238                                             neighbor))
3239   {
3240     GNUNET_break (0);
3241   }
3242   if ((neighbor->send_context != NULL) &&
3243       (neighbor->send_context->task != GNUNET_SCHEDULER_NO_TASK))
3244     GNUNET_SCHEDULER_cancel (neighbor->send_context->task);
3245   GNUNET_free (neighbor);
3246 }
3247
3248
3249 /**
3250  * Process dv requests.
3251  *
3252  * @param cls closure
3253  * @param server the initialized server
3254  * @param c configuration to use
3255  */
3256 static void
3257 run (void *cls, struct GNUNET_SERVER_Handle *server,
3258      const struct GNUNET_CONFIGURATION_Handle *c)
3259 {
3260   unsigned long long max_hosts;
3261
3262   cfg = c;
3263
3264   /* FIXME: Read from config, or calculate, or something other than this! */
3265   max_hosts = DEFAULT_DIRECT_CONNECTIONS;
3266   max_table_size = DEFAULT_DV_SIZE;
3267   fisheye_depth = DEFAULT_FISHEYE_DEPTH;
3268
3269   if (GNUNET_CONFIGURATION_have_value (cfg, "dv", "max_direct_connections"))
3270     GNUNET_assert (GNUNET_OK ==
3271                    GNUNET_CONFIGURATION_get_value_number (cfg, "dv",
3272                                                           "max_direct_connections",
3273                                                           &max_hosts));
3274
3275   if (GNUNET_CONFIGURATION_have_value (cfg, "dv", "max_total_connections"))
3276     GNUNET_assert (GNUNET_OK ==
3277                    GNUNET_CONFIGURATION_get_value_number (cfg, "dv",
3278                                                           "max_total_connections",
3279                                                           &max_table_size));
3280
3281
3282   if (GNUNET_CONFIGURATION_have_value (cfg, "dv", "fisheye_depth"))
3283     GNUNET_assert (GNUNET_OK ==
3284                    GNUNET_CONFIGURATION_get_value_number (cfg, "dv",
3285                                                           "fisheye_depth",
3286                                                           &fisheye_depth));
3287
3288   neighbor_min_heap =
3289       GNUNET_CONTAINER_heap_create (GNUNET_CONTAINER_HEAP_ORDER_MIN);
3290   neighbor_max_heap =
3291       GNUNET_CONTAINER_heap_create (GNUNET_CONTAINER_HEAP_ORDER_MAX);
3292
3293   direct_neighbors = GNUNET_CONTAINER_multihashmap_create (max_hosts);
3294   extended_neighbors =
3295       GNUNET_CONTAINER_multihashmap_create (max_table_size * 3);
3296
3297   GNUNET_SERVER_add_handlers (server, plugin_handlers);
3298   coreAPI = GNUNET_CORE_connect (cfg, 1, NULL,  /* FIXME: anything we want to pass around? */
3299                                  &core_init, &handle_core_connect,
3300                                  &handle_core_disconnect, NULL, GNUNET_NO, NULL,
3301                                  GNUNET_NO, core_handlers);
3302
3303   if (coreAPI == NULL)
3304     return;
3305
3306   coreMST = GNUNET_SERVER_mst_create (&tokenized_message_handler, NULL);
3307
3308   peerinfo_handle = GNUNET_PEERINFO_connect (cfg);
3309
3310   if (peerinfo_handle == NULL)
3311   {
3312     GNUNET_CORE_disconnect (coreAPI);
3313     return;
3314   }
3315
3316   /* Scheduled the task to clean up when shutdown is called */
3317   cleanup_task =
3318       GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_UNIT_FOREVER_REL,
3319                                     &shutdown_task, NULL);
3320 }
3321
3322
3323 /**
3324  * The main function for the dv service.
3325  *
3326  * @param argc number of arguments from the command line
3327  * @param argv command line arguments
3328  * @return 0 ok, 1 on error
3329  */
3330 int
3331 main (int argc, char *const *argv)
3332 {
3333   return (GNUNET_OK ==
3334           GNUNET_SERVICE_run (argc, argv, "dv", GNUNET_SERVICE_OPTION_NONE,
3335                               &run, NULL)) ? 0 : 1;
3336 }