9c072e54b7b9788f4f34b2711fc7bd0cb079c43f
[oweals/gnunet.git] / src / cadet / gnunet-service-cadet_peer.c
1 /*
2      This file is part of GNUnet.
3      Copyright (C) 2013, 2015 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 51 Franklin Street, Fifth Floor,
18      Boston, MA 02110-1301, USA.
19 */
20 /**
21  * @file cadet/gnunet-service-cadet_peer.c
22  * @brief GNUnet CADET service connection handling
23  * @author Bartlomiej Polot
24  */
25 #include "platform.h"
26 #include "gnunet_util_lib.h"
27 #include "gnunet_signatures.h"
28 #include "gnunet_transport_service.h"
29 #include "gnunet_core_service.h"
30 #include "gnunet_statistics_service.h"
31 #include "cadet_protocol.h"
32 #include "gnunet-service-cadet_peer.h"
33 #include "gnunet-service-cadet_dht.h"
34 #include "gnunet-service-cadet_connection.h"
35 #include "gnunet-service-cadet_tunnel.h"
36 #include "cadet_path.h"
37
38 #define LOG(level, ...) GNUNET_log_from (level,"cadet-p2p",__VA_ARGS__)
39 #define LOG2(level, ...) GNUNET_log_from_nocheck(level,"cadet-p2p",__VA_ARGS__)
40
41
42 /******************************************************************************/
43 /********************************   STRUCTS  **********************************/
44 /******************************************************************************/
45
46 /**
47  * Struct containing info about a queued transmission to this peer
48  */
49 struct CadetPeerQueue
50 {
51   /**
52    * DLL next
53    */
54   struct CadetPeerQueue *next;
55
56   /**
57    * DLL previous
58    */
59   struct CadetPeerQueue *prev;
60
61   /**
62    * Peer this transmission is directed to.
63    */
64   struct CadetPeer *peer;
65
66   /**
67    * Connection this message belongs to.
68    */
69   struct CadetConnection *c;
70
71   /**
72    * Is FWD in c?
73    */
74   int fwd;
75
76   /**
77    * Pointer to info stucture used as cls.
78    */
79   void *cls;
80
81   /**
82    * Type of message
83    */
84   uint16_t type;
85
86   /**
87    * Type of message
88    */
89   uint16_t payload_type;
90
91   /**
92    * Type of message
93    */
94   uint32_t payload_id;
95
96   /**
97    * Size of the message
98    */
99   size_t size;
100
101   /**
102    * Set when this message starts waiting for CORE.
103    */
104   struct GNUNET_TIME_Absolute start_waiting;
105
106   /**
107    * Function to call on sending.
108    */
109   GCP_sent cont;
110
111   /**
112    * Closure for callback.
113    */
114   void *cont_cls;
115 };
116
117
118 /**
119  * Struct containing all information regarding a given peer
120  */
121 struct CadetPeer
122 {
123   /**
124    * ID of the peer
125    */
126   GNUNET_PEER_Id id;
127
128   /**
129    * Last time we heard from this peer
130    */
131   struct GNUNET_TIME_Absolute last_contact;
132
133   /**
134    * Paths to reach the peer, ordered by ascending hop count
135    */
136   struct CadetPeerPath *path_head;
137
138   /**
139    * Paths to reach the peer, ordered by ascending hop count
140    */
141   struct CadetPeerPath *path_tail;
142
143   /**
144    * Handle to stop the DHT search for paths to this peer
145    */
146   struct GCD_search_handle *search_h;
147
148   /**
149    * Handle to stop the DHT search for paths to this peer
150    */
151   struct GNUNET_SCHEDULER_Task *search_delayed;
152
153   /**
154    * Tunnel to this peer, if any.
155    */
156   struct CadetTunnel *tunnel;
157
158   /**
159    * Connections that go through this peer; indexed by tid.
160    */
161   struct GNUNET_CONTAINER_MultiHashMap *connections;
162
163   /**
164    * Handle for queued transmissions
165    */
166   struct GNUNET_CORE_TransmitHandle *core_transmit;
167
168   /**
169    * Timestamp
170    */
171   struct GNUNET_TIME_Absolute tmt_time;
172
173   /**
174    * Transmission queue to core DLL head
175    */
176   struct CadetPeerQueue *queue_head;
177
178   /**
179    * Transmission queue to core DLL tail
180    */
181   struct CadetPeerQueue *queue_tail;
182
183   /**
184    * How many messages are in the queue to this peer.
185    */
186   unsigned int queue_n;
187
188   /**
189    * Hello message.
190    */
191   struct GNUNET_HELLO_Message* hello;
192 };
193
194
195 /******************************************************************************/
196 /*******************************   GLOBALS  ***********************************/
197 /******************************************************************************/
198
199 /**
200  * Global handle to the statistics service.
201  */
202 extern struct GNUNET_STATISTICS_Handle *stats;
203
204 /**
205  * Local peer own ID (full value).
206  */
207 extern struct GNUNET_PeerIdentity my_full_id;
208
209 /**
210  * Local peer own ID (short)
211  */
212 extern GNUNET_PEER_Id myid;
213
214 /**
215  * Peers known, indexed by PeerIdentity, values of type `struct CadetPeer`.
216  */
217 static struct GNUNET_CONTAINER_MultiPeerMap *peers;
218
219 /**
220  * How many peers do we want to remember?
221  */
222 static unsigned long long max_peers;
223
224 /**
225  * Percentage of messages that will be dropped (for test purposes only).
226  */
227 static unsigned long long drop_percent;
228
229 /**
230  * Handle to communicate with core.
231  */
232 static struct GNUNET_CORE_Handle *core_handle;
233
234 /**
235  * Handle to try to start new connections.
236  */
237 static struct GNUNET_TRANSPORT_Handle *transport_handle;
238
239 /**
240  * Shutdown falg.
241  */
242 static int in_shutdown;
243
244
245 /******************************************************************************/
246 /*****************************     DEBUG      *********************************/
247 /******************************************************************************/
248
249 /**
250  * Log all kinds of info about the queueing status of a peer.
251  *
252  * @param p Peer whose queue to show.
253  * @param level Error level to use for logging.
254  */
255 static void
256 queue_debug (const struct CadetPeer *p, enum GNUNET_ErrorType level)
257 {
258   struct GNUNET_TIME_Relative core_wait_time;
259   struct CadetPeerQueue *q;
260   int do_log;
261
262   do_log = GNUNET_get_log_call_status (level & (~GNUNET_ERROR_TYPE_BULK),
263                                        "cadet-p2p",
264                                        __FILE__, __FUNCTION__, __LINE__);
265   if (0 == do_log)
266     return;
267
268   LOG2 (level, "QQQ Message queue towards %s\n", GCP_2s (p));
269   LOG2 (level, "QQQ  queue length: %u\n", p->queue_n);
270   LOG2 (level, "QQQ  core tmt rdy: %p\n", p->core_transmit);
271   if (NULL != p->core_transmit)
272   {
273     core_wait_time = GNUNET_TIME_absolute_get_duration (p->tmt_time);
274     LOG2 (level, "QQQ  core called %s ago\n",
275           GNUNET_STRINGS_relative_time_to_string (core_wait_time, GNUNET_NO));
276   }
277   for (q = p->queue_head; NULL != q; q = q->next)
278   {
279     LOG2 (level, "QQQ  - %s %s on %s\n",
280          GC_m2s (q->type), GC_f2s (q->fwd), GCC_2s (q->c));
281     LOG2 (level, "QQQ    payload %s, %u\n",
282          GC_m2s (q->payload_type), q->payload_id);
283     LOG2 (level, "QQQ    size: %u bytes\n", q->size);
284   }
285
286   LOG2 (level, "QQQ End queue towards %s\n", GCP_2s (p));
287 }
288
289
290 /**
291  * Log all kinds of info about a peer.
292  *
293  * @param peer Peer.
294  */
295 void
296 GCP_debug (const struct CadetPeer *p, enum GNUNET_ErrorType level)
297 {
298   struct CadetPeerPath *path;
299   unsigned int conns;
300   int do_log;
301
302   do_log = GNUNET_get_log_call_status (level & (~GNUNET_ERROR_TYPE_BULK),
303                                        "cadet-p2p",
304                                        __FILE__, __FUNCTION__, __LINE__);
305   if (0 == do_log)
306     return;
307
308   if (NULL == p)
309   {
310     LOG2 (level, "PPP DEBUG PEER NULL\n");
311     return;
312   }
313
314   LOG2 (level, "PPP DEBUG PEER %s\n", GCP_2s (p));
315   LOG2 (level, "PPP last contact %s\n",
316        GNUNET_STRINGS_absolute_time_to_string (p->last_contact));
317   for (path = p->path_head; NULL != path; path = path->next)
318   {
319     char *s;
320
321     s = path_2s (path);
322     LOG2 (level, "PPP path: %s\n", s);
323     GNUNET_free (s);
324   }
325
326   LOG2 (level, "PPP core transmit handle %p\n", p->core_transmit);
327   LOG2 (level, "PPP DHT GET handle %p\n", p->search_h);
328   conns = 0;
329   if (NULL != p->connections)
330     conns += GNUNET_CONTAINER_multihashmap_size (p->connections);
331   LOG2 (level, "PPP # connections over link to peer: %u\n", conns);
332   queue_debug (p, level);
333   LOG2 (level, "PPP DEBUG END\n");
334 }
335
336
337 /******************************************************************************/
338 /*****************************  CORE HELPERS  *********************************/
339 /******************************************************************************/
340
341
342 /**
343  * Iterator to notify all connections of a broken link. Mark connections
344  * to destroy after all traffic has been sent.
345  *
346  * @param cls Closure (peer disconnected).
347  * @param key Current key code (peer id).
348  * @param value Value in the hash map (connection).
349  *
350  * @return #GNUNET_YES to continue to iterate.
351  */
352 static int
353 notify_broken (void *cls,
354                const struct GNUNET_HashCode *key,
355                void *value)
356 {
357   struct CadetPeer *peer = cls;
358   struct CadetConnection *c = value;
359
360   LOG (GNUNET_ERROR_TYPE_DEBUG,
361        "Notifying %s due to %s\n",
362        GCC_2s (c),
363        GCP_2s (peer));
364   GCC_notify_broken (c,
365                      peer);
366   return GNUNET_YES;
367 }
368
369
370 /**
371  * Remove the direct path to the peer.
372  *
373  * @param peer Peer to remove the direct path from.
374  *
375  */
376 static struct CadetPeerPath *
377 pop_direct_path (struct CadetPeer *peer)
378 {
379   struct CadetPeerPath *iter;
380
381   for (iter = peer->path_head; NULL != iter; iter = iter->next)
382   {
383     if (2 >= iter->length)
384     {
385       GNUNET_CONTAINER_DLL_remove (peer->path_head, peer->path_tail, iter);
386       return iter;
387     }
388   }
389   return NULL;
390 }
391
392
393 /******************************************************************************/
394 /***************************** CORE CALLBACKS *********************************/
395 /******************************************************************************/
396
397
398 /**
399  * Method called whenever a given peer connects.
400  *
401  * @param cls closure
402  * @param peer peer identity this notification is about
403  */
404 static void
405 core_connect (void *cls,
406               const struct GNUNET_PeerIdentity *peer)
407 {
408   struct CadetPeer *mp;
409   struct CadetPeerPath *path;
410   char own_id[16];
411
412   GCC_check_connections ();
413   GNUNET_snprintf (own_id,
414                    sizeof (own_id),
415                    "%s",
416                    GNUNET_i2s (&my_full_id));
417   mp = GCP_get (peer, GNUNET_YES);
418   if (myid == mp->id)
419   {
420     LOG (GNUNET_ERROR_TYPE_INFO,
421          "CONNECTED %s (self)\n",
422          own_id);
423     path = path_new (1);
424   }
425   else
426   {
427     LOG (GNUNET_ERROR_TYPE_INFO,
428          "CONNECTED %s <= %s\n",
429          own_id,
430          GNUNET_i2s (peer));
431     path = path_new (2);
432     path->peers[1] = mp->id;
433     GNUNET_PEER_change_rc (mp->id, 1);
434   }
435   path->peers[0] = myid;
436   GNUNET_PEER_change_rc (myid, 1);
437   GCP_add_path (mp, path, GNUNET_YES);
438   GNUNET_STATISTICS_update (stats,
439                             "# peers",
440                             1,
441                             GNUNET_NO);
442   GNUNET_assert (NULL == mp->connections);
443   mp->connections = GNUNET_CONTAINER_multihashmap_create (16, GNUNET_NO);
444
445   if ( (NULL != GCP_get_tunnel (mp)) &&
446        (0 > GNUNET_CRYPTO_cmp_peer_identity (&my_full_id, peer)) )
447     GCP_connect (mp);
448   GCC_check_connections ();
449 }
450
451
452 /**
453  * Method called whenever a peer disconnects.
454  *
455  * @param cls closure
456  * @param peer peer identity this notification is about
457  */
458 static void
459 core_disconnect (void *cls,
460                  const struct GNUNET_PeerIdentity *peer)
461 {
462   struct CadetPeer *p;
463   struct CadetPeerPath *direct_path;
464   char own_id[16];
465
466   GCC_check_connections ();
467   strncpy (own_id, GNUNET_i2s (&my_full_id), 15);
468   p = GNUNET_CONTAINER_multipeermap_get (peers, peer);
469   if (NULL == p)
470   {
471     GNUNET_break (GNUNET_YES == in_shutdown);
472     return;
473   }
474   if (myid == p->id)
475     LOG (GNUNET_ERROR_TYPE_INFO,
476          "DISCONNECTED %s (self)\n",
477          own_id);
478   else
479     LOG (GNUNET_ERROR_TYPE_INFO,
480          "DISCONNECTED %s <= %s\n",
481          own_id, GNUNET_i2s (peer));
482   direct_path = pop_direct_path (p);
483   GNUNET_CONTAINER_multihashmap_iterate (p->connections,
484                                          &notify_broken,
485                                          p);
486   GNUNET_CONTAINER_multihashmap_destroy (p->connections);
487   p->connections = NULL;
488   if (NULL != p->core_transmit)
489   {
490     GNUNET_CORE_notify_transmit_ready_cancel (p->core_transmit);
491     p->core_transmit = NULL;
492     p->tmt_time.abs_value_us = 0;
493   }
494   GNUNET_STATISTICS_update (stats,
495                             "# peers",
496                             -1,
497                             GNUNET_NO);
498   path_destroy (direct_path);
499   GCC_check_connections ();
500 }
501
502
503 /**
504  * Functions to handle messages from core
505  */
506 static struct GNUNET_CORE_MessageHandler core_handlers[] = {
507   {&GCC_handle_create, GNUNET_MESSAGE_TYPE_CADET_CONNECTION_CREATE, 0},
508   {&GCC_handle_confirm, GNUNET_MESSAGE_TYPE_CADET_CONNECTION_ACK,
509     sizeof (struct GNUNET_CADET_ConnectionACK)},
510   {&GCC_handle_broken, GNUNET_MESSAGE_TYPE_CADET_CONNECTION_BROKEN,
511     sizeof (struct GNUNET_CADET_ConnectionBroken)},
512   {&GCC_handle_destroy, GNUNET_MESSAGE_TYPE_CADET_CONNECTION_DESTROY,
513     sizeof (struct GNUNET_CADET_ConnectionDestroy)},
514   {&GCC_handle_ack, GNUNET_MESSAGE_TYPE_CADET_ACK,
515     sizeof (struct GNUNET_CADET_ACK)},
516   {&GCC_handle_poll, GNUNET_MESSAGE_TYPE_CADET_POLL,
517     sizeof (struct GNUNET_CADET_Poll)},
518   {&GCC_handle_kx, GNUNET_MESSAGE_TYPE_CADET_KX, 0},
519   {&GCC_handle_encrypted, GNUNET_MESSAGE_TYPE_CADET_ENCRYPTED, 0},
520   {&GCC_handle_encrypted, GNUNET_MESSAGE_TYPE_CADET_AX, 0},
521   {NULL, 0, 0}
522 };
523
524
525 /**
526  * To be called on core init/fail.
527  *
528  * @param cls Closure (config)
529  * @param identity the public identity of this peer
530  */
531 static void
532 core_init (void *cls,
533            const struct GNUNET_PeerIdentity *identity)
534 {
535   const struct GNUNET_CONFIGURATION_Handle *c = cls;
536   static int i = 0;
537
538   LOG (GNUNET_ERROR_TYPE_DEBUG, "Core init\n");
539   if (0 != memcmp (identity, &my_full_id, sizeof (my_full_id)))
540   {
541     LOG (GNUNET_ERROR_TYPE_ERROR, _("Wrong CORE service\n"));
542     LOG (GNUNET_ERROR_TYPE_ERROR, " core id %s\n", GNUNET_i2s (identity));
543     LOG (GNUNET_ERROR_TYPE_ERROR, " my id %s\n", GNUNET_i2s (&my_full_id));
544     GNUNET_CORE_disconnect (core_handle);
545     core_handle = GNUNET_CORE_connect (c, /* Main configuration */
546                                        NULL,      /* Closure passed to CADET functions */
547                                        &core_init,        /* Call core_init once connected */
548                                        &core_connect,     /* Handle connects */
549                                        &core_disconnect,  /* remove peers on disconnects */
550                                        NULL,      /* Don't notify about all incoming messages */
551                                        GNUNET_NO, /* For header only in notification */
552                                        NULL,      /* Don't notify about all outbound messages */
553                                        GNUNET_NO, /* For header-only out notification */
554                                        core_handlers);    /* Register these handlers */
555     if (10 < i++)
556       GNUNET_assert (0);
557   }
558   GML_start ();
559 }
560
561
562 /**
563   * Core callback to write a pre-constructed data packet to core buffer
564   *
565   * @param cls Closure (CadetTransmissionDescriptor with data in "data" member).
566   * @param size Number of bytes available in buf.
567   * @param buf Where the to write the message.
568   *
569   * @return number of bytes written to buf
570   */
571 static size_t
572 send_core_data_raw (void *cls, size_t size, void *buf)
573 {
574   struct GNUNET_MessageHeader *msg = cls;
575   size_t total_size;
576
577   GNUNET_assert (NULL != msg);
578   total_size = ntohs (msg->size);
579
580   if (total_size > size)
581   {
582     GNUNET_break (0);
583     return 0;
584   }
585   memcpy (buf, msg, total_size);
586   GNUNET_free (cls);
587   return total_size;
588 }
589
590
591 /**
592  * Function to send a create connection message to a peer.
593  *
594  * @param c Connection to create.
595  * @param size number of bytes available in buf
596  * @param buf where the callee should write the message
597  * @return number of bytes written to buf
598  */
599 static size_t
600 send_core_connection_create (struct CadetConnection *c, size_t size, void *buf)
601 {
602   struct GNUNET_CADET_ConnectionCreate *msg;
603   struct GNUNET_PeerIdentity *peer_ptr;
604   const struct CadetPeerPath *p = GCC_get_path (c);
605   size_t size_needed;
606   int i;
607
608   if (NULL == p)
609     return 0;
610
611   LOG (GNUNET_ERROR_TYPE_DEBUG, "Sending CONNECTION CREATE...\n");
612   size_needed =
613       sizeof (struct GNUNET_CADET_ConnectionCreate) +
614       p->length * sizeof (struct GNUNET_PeerIdentity);
615
616   if (size < size_needed || NULL == buf)
617   {
618     GNUNET_break (0);
619     return 0;
620   }
621   msg = (struct GNUNET_CADET_ConnectionCreate *) buf;
622   msg->header.size = htons (size_needed);
623   msg->header.type = htons (GNUNET_MESSAGE_TYPE_CADET_CONNECTION_CREATE);
624   msg->cid = *GCC_get_id (c);
625
626   peer_ptr = (struct GNUNET_PeerIdentity *) &msg[1];
627   for (i = 0; i < p->length; i++)
628   {
629     GNUNET_PEER_resolve (p->peers[i], peer_ptr++);
630   }
631
632   LOG (GNUNET_ERROR_TYPE_DEBUG,
633        "CONNECTION CREATE (%u bytes long) sent!\n",
634        size_needed);
635   return size_needed;
636 }
637
638
639 /**
640  * Creates a path ack message in buf and frees all unused resources.
641  *
642  * @param c Connection to send an ACK on.
643  * @param size number of bytes available in buf
644  * @param buf where the callee should write the message
645  *
646  * @return number of bytes written to buf
647  */
648 static size_t
649 send_core_connection_ack (struct CadetConnection *c, size_t size, void *buf)
650 {
651   struct GNUNET_CADET_ConnectionACK *msg = buf;
652
653   LOG (GNUNET_ERROR_TYPE_DEBUG, "Sending CONNECTION ACK...\n");
654   if (sizeof (struct GNUNET_CADET_ConnectionACK) > size)
655   {
656     GNUNET_break (0);
657     return 0;
658   }
659   msg->header.size = htons (sizeof (struct GNUNET_CADET_ConnectionACK));
660   msg->header.type = htons (GNUNET_MESSAGE_TYPE_CADET_CONNECTION_ACK);
661   msg->cid = *GCC_get_id (c);
662
663   LOG (GNUNET_ERROR_TYPE_DEBUG, "CONNECTION ACK sent!\n");
664   return sizeof (struct GNUNET_CADET_ConnectionACK);
665 }
666
667
668 /******************************************************************************/
669 /********************************   STATIC  ***********************************/
670 /******************************************************************************/
671
672
673 /**
674  * Get priority for a queued message.
675  *
676  * @param q Queued message
677  *
678  * @return CORE priority to use.
679  */
680 static enum GNUNET_CORE_Priority
681 get_priority (struct CadetPeerQueue *q)
682 {
683   enum GNUNET_CORE_Priority low;
684   enum GNUNET_CORE_Priority high;
685
686   if (NULL == q)
687   {
688     GNUNET_break (0);
689     return GNUNET_CORE_PRIO_BACKGROUND;
690   }
691
692   /* Relayed traffic has lower priority, our own traffic has higher */
693   if (NULL == q->c || GNUNET_NO == GCC_is_origin (q->c, q->fwd))
694   {
695     low = GNUNET_CORE_PRIO_BEST_EFFORT;
696     high = GNUNET_CORE_PRIO_URGENT;
697   }
698   else
699   {
700     low = GNUNET_CORE_PRIO_URGENT;
701     high = GNUNET_CORE_PRIO_CRITICAL_CONTROL;
702   }
703
704   /* Bulky payload has lower priority, control traffic has higher. */
705   if (GNUNET_MESSAGE_TYPE_CADET_ENCRYPTED == q->type
706       || GNUNET_MESSAGE_TYPE_CADET_AX == q->type)
707     return low;
708   else
709     return high;
710 }
711
712
713 /**
714  * Destroy the peer_info and free any allocated resources linked to it
715  *
716  * @param peer The peer_info to destroy.
717  * @return #GNUNET_OK on success
718  */
719 static int
720 peer_destroy (struct CadetPeer *peer)
721 {
722   struct GNUNET_PeerIdentity id;
723   struct CadetPeerPath *p;
724   struct CadetPeerPath *nextp;
725
726   GNUNET_PEER_resolve (peer->id, &id);
727   GNUNET_PEER_change_rc (peer->id, -1);
728
729   LOG (GNUNET_ERROR_TYPE_INFO,
730        "destroying peer %s\n",
731        GNUNET_i2s (&id));
732
733   if (GNUNET_YES != GNUNET_CONTAINER_multipeermap_remove (peers, &id, peer))
734   {
735     GNUNET_break (0);
736     LOG (GNUNET_ERROR_TYPE_WARNING, " peer not in peermap!!\n");
737   }
738   GCP_stop_search (peer);
739   p = peer->path_head;
740   while (NULL != p)
741   {
742     nextp = p->next;
743     GNUNET_CONTAINER_DLL_remove (peer->path_head, peer->path_tail, p);
744     path_destroy (p);
745     p = nextp;
746   }
747   if (NULL != peer->tunnel)
748     GCT_destroy_empty (peer->tunnel);
749   if (NULL != peer->connections)
750   {
751     GNUNET_assert (0 == GNUNET_CONTAINER_multihashmap_size (peer->connections));
752     GNUNET_CONTAINER_multihashmap_destroy (peer->connections);
753   }
754   GNUNET_free_non_null (peer->hello);
755   GNUNET_free (peer);
756   return GNUNET_OK;
757 }
758
759
760 /**
761  * Iterator over peer hash map entries to destroy the peer during in_shutdown.
762  *
763  * @param cls closure
764  * @param key current key code
765  * @param value value in the hash map
766  * @return #GNUNET_YES if we should continue to iterate,
767  *         #GNUNET_NO if not.
768  */
769 static int
770 shutdown_peer (void *cls,
771                const struct GNUNET_PeerIdentity *key,
772                void *value)
773 {
774   struct CadetPeer *p = value;
775   struct CadetTunnel *t = p->tunnel;
776
777   if (NULL != t)
778     GCT_destroy (t);
779   p->tunnel = NULL;
780   peer_destroy (p);
781   return GNUNET_YES;
782 }
783
784
785
786 /**
787  * Check if peer is searching for a path (either active or delayed search).
788  *
789  * @param peer Peer to check
790  * @return #GNUNET_YES if there is a search active.
791  *         #GNUNET_NO otherwise.
792  */
793 static int
794 is_searching (const struct CadetPeer *peer)
795 {
796   return ( (NULL == peer->search_h) &&
797            (NULL == peer->search_delayed) ) ?
798     GNUNET_NO : GNUNET_YES;
799 }
800
801
802 /**
803  * @brief Start a search for a peer.
804  *
805  * @param cls Closure (Peer to search for).
806  * @param tc Task context.
807  */
808 static void
809 delayed_search (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
810 {
811   struct CadetPeer *peer = cls;
812
813   peer->search_delayed = NULL;
814   if (0 != (GNUNET_SCHEDULER_REASON_SHUTDOWN & tc->reason))
815     return;
816   GCC_check_connections ();
817   GCP_start_search (peer);
818   GCC_check_connections ();
819 }
820
821
822 /**
823  * Returns if peer is used (has a tunnel or is neighbor).
824  *
825  * @param peer Peer to check.
826  * @return #GNUNET_YES if peer is in use.
827  */
828 static int
829 peer_is_used (struct CadetPeer *peer)
830 {
831   struct CadetPeerPath *p;
832
833   if (NULL != peer->tunnel)
834     return GNUNET_YES;
835
836   for (p = peer->path_head; NULL != p; p = p->next)
837   {
838     if (p->length < 3)
839       return GNUNET_YES;
840   }
841     return GNUNET_NO;
842 }
843
844
845 /**
846  * Iterator over all the peers to get the oldest timestamp.
847  *
848  * @param cls Closure (unsued).
849  * @param key ID of the peer.
850  * @param value Peer_Info of the peer.
851  */
852 static int
853 peer_get_oldest (void *cls,
854                  const struct GNUNET_PeerIdentity *key,
855                  void *value)
856 {
857   struct CadetPeer *p = value;
858   struct GNUNET_TIME_Absolute *abs = cls;
859
860   /* Don't count active peers */
861   if (GNUNET_YES == peer_is_used (p))
862     return GNUNET_YES;
863
864   if (abs->abs_value_us < p->last_contact.abs_value_us)
865     abs->abs_value_us = p->last_contact.abs_value_us;
866
867   return GNUNET_YES;
868 }
869
870
871 /**
872  * Iterator over all the peers to remove the oldest entry.
873  *
874  * @param cls Closure (unsued).
875  * @param key ID of the peer.
876  * @param value Peer_Info of the peer.
877  */
878 static int
879 peer_timeout (void *cls,
880               const struct GNUNET_PeerIdentity *key,
881               void *value)
882 {
883   struct CadetPeer *p = value;
884   struct GNUNET_TIME_Absolute *abs = cls;
885
886   LOG (GNUNET_ERROR_TYPE_WARNING,
887        "peer %s timeout\n", GNUNET_i2s (key));
888
889   if (p->last_contact.abs_value_us == abs->abs_value_us &&
890       GNUNET_NO == peer_is_used (p))
891   {
892     peer_destroy (p);
893     return GNUNET_NO;
894   }
895     return GNUNET_YES;
896 }
897
898
899 /**
900  * Delete oldest unused peer.
901  */
902 static void
903 peer_delete_oldest (void)
904 {
905   struct GNUNET_TIME_Absolute abs;
906
907   abs = GNUNET_TIME_UNIT_FOREVER_ABS;
908
909   GNUNET_CONTAINER_multipeermap_iterate (peers,
910                                          &peer_get_oldest,
911                                          &abs);
912   GNUNET_CONTAINER_multipeermap_iterate (peers,
913                                          &peer_timeout,
914                                          &abs);
915 }
916
917
918 /**
919  * Choose the best (yet unused) path towards a peer,
920  * considering the tunnel properties.
921  *
922  * @param peer The destination peer.
923  * @return Best current known path towards the peer, if any.
924  */
925 static struct CadetPeerPath *
926 peer_get_best_path (const struct CadetPeer *peer)
927 {
928   struct CadetPeerPath *best_p;
929   struct CadetPeerPath *p;
930   unsigned int best_cost;
931   unsigned int cost;
932
933   best_cost = UINT_MAX;
934   best_p = NULL;
935   for (p = peer->path_head; NULL != p; p = p->next)
936   {
937     if (GNUNET_NO == path_is_valid (p))
938       continue; /* Don't use invalid paths. */
939     if (GNUNET_YES == GCT_is_path_used (peer->tunnel, p))
940       continue; /* If path is already in use, skip it. */
941
942     if ((cost = GCT_get_path_cost (peer->tunnel, p)) < best_cost)
943     {
944       best_cost = cost;
945       best_p = p;
946     }
947   }
948   return best_p;
949 }
950
951
952 /**
953  * Is this queue element sendable?
954  *
955  * - All management traffic is always sendable.
956  * - For payload traffic, check the connection flow control.
957  *
958  * @param q Queue element to inspect.
959  * @return #GNUNET_YES if it is sendable, #GNUNET_NO otherwise.
960  */
961 static int
962 queue_is_sendable (struct CadetPeerQueue *q)
963 {
964   /* Is PID-independent? */
965   switch (q->type)
966   {
967     case GNUNET_MESSAGE_TYPE_CADET_ACK:
968     case GNUNET_MESSAGE_TYPE_CADET_POLL:
969     case GNUNET_MESSAGE_TYPE_CADET_KX:
970     case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_CREATE:
971     case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_ACK:
972     case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_DESTROY:
973     case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_BROKEN:
974       return GNUNET_YES;
975
976     case GNUNET_MESSAGE_TYPE_CADET_ENCRYPTED:
977     case GNUNET_MESSAGE_TYPE_CADET_AX:
978       break;
979
980     default:
981       GNUNET_break (0);
982   }
983
984   return GCC_is_sendable (q->c, q->fwd);
985 }
986
987
988 /**
989  * Get first sendable message.
990  *
991  * @param peer The destination peer.
992  *
993  * @return First transmittable message, if any. Otherwise, NULL.
994  */
995 static struct CadetPeerQueue *
996 peer_get_first_message (const struct CadetPeer *peer)
997 {
998   struct CadetPeerQueue *q;
999
1000   for (q = peer->queue_head; NULL != q; q = q->next)
1001   {
1002     LOG (GNUNET_ERROR_TYPE_DEBUG, "Checking q:%p on c:%s\n", q, GCC_2s (q->c));
1003     if (queue_is_sendable (q))
1004       return q;
1005   }
1006
1007   return NULL;
1008 }
1009
1010
1011 /**
1012  * Function to process paths received for a new peer addition. The recorded
1013  * paths form the initial tunnel, which can be optimized later.
1014  * Called on each result obtained for the DHT search.
1015  *
1016  * @param cls closure
1017  * @param path
1018  */
1019 static void
1020 search_handler (void *cls, const struct CadetPeerPath *path)
1021 {
1022   struct CadetPeer *peer = cls;
1023   unsigned int connection_count;
1024
1025   GCC_check_connections ();
1026   GCP_add_path_to_all (path, GNUNET_NO);
1027
1028   /* Count connections */
1029   connection_count = GCT_count_connections (peer->tunnel);
1030
1031   /* If we already have our minimum (or more) connections, it's enough */
1032   if (CONNECTIONS_PER_TUNNEL <= connection_count)
1033   {
1034     GCC_check_connections ();
1035     return;
1036   }
1037
1038   if (CADET_TUNNEL_SEARCHING == GCT_get_cstate (peer->tunnel))
1039   {
1040     LOG (GNUNET_ERROR_TYPE_DEBUG, " ... connect!\n");
1041     GCP_connect (peer);
1042   }
1043   GCC_check_connections ();
1044 }
1045
1046
1047 /**
1048  * Adjust core requested size to accomodate an ACK.
1049  *
1050  * @param message_size Requested size.
1051  *
1052  * @return Size enough to fit @c message_size and an ACK.
1053  */
1054 static size_t
1055 get_core_size (size_t message_size)
1056 {
1057   return message_size + sizeof (struct GNUNET_CADET_ACK);
1058 }
1059
1060
1061 /**
1062  * Fill a core buffer with the appropriate data for the queued message.
1063  *
1064  * @param queue Queue element for the message.
1065  * @param buf Core buffer to fill.
1066  * @param size Size remaining in @c buf.
1067  * @param[out] pid In case its an encrypted payload, set payload.
1068  *
1069  * @return Bytes written to @c buf.
1070  */
1071 static size_t
1072 fill_buf (struct CadetPeerQueue *queue, void *buf, size_t size, uint32_t *pid)
1073 {
1074   struct CadetConnection *c = queue->c;
1075   size_t msg_size;
1076
1077   switch (queue->type)
1078   {
1079     case GNUNET_MESSAGE_TYPE_CADET_ENCRYPTED:
1080       *pid = GCC_get_pid (queue->c, queue->fwd);
1081       LOG (GNUNET_ERROR_TYPE_DEBUG, "  otr payload ID %u\n", *pid);
1082       msg_size = send_core_data_raw (queue->cls, size, buf);
1083       ((struct GNUNET_CADET_Encrypted *) buf)->pid = htonl (*pid);
1084       break;
1085     case GNUNET_MESSAGE_TYPE_CADET_AX:
1086       *pid = GCC_get_pid (queue->c, queue->fwd);
1087       LOG (GNUNET_ERROR_TYPE_DEBUG, "  ax payload ID %u\n", *pid);
1088       msg_size = send_core_data_raw (queue->cls, size, buf);
1089       ((struct GNUNET_CADET_AX *) buf)->pid = htonl (*pid);
1090       break;
1091     case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_DESTROY:
1092     case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_BROKEN:
1093     case GNUNET_MESSAGE_TYPE_CADET_KX:
1094     case GNUNET_MESSAGE_TYPE_CADET_ACK:
1095     case GNUNET_MESSAGE_TYPE_CADET_POLL:
1096       LOG (GNUNET_ERROR_TYPE_DEBUG, "  raw %s\n", GC_m2s (queue->type));
1097       msg_size = send_core_data_raw (queue->cls, size, buf);
1098       break;
1099     case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_CREATE:
1100       LOG (GNUNET_ERROR_TYPE_DEBUG, "  path create\n");
1101       if (GCC_is_origin (c, GNUNET_YES))
1102         msg_size = send_core_connection_create (c, size, buf);
1103       else
1104         msg_size = send_core_data_raw (queue->cls, size, buf);
1105       break;
1106     case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_ACK:
1107       LOG (GNUNET_ERROR_TYPE_DEBUG, "  path ack\n");
1108       if (GCC_is_origin (c, GNUNET_NO) ||
1109           GCC_is_origin (c, GNUNET_YES))
1110       {
1111         msg_size = send_core_connection_ack (c, size, buf);
1112       }
1113       else
1114       {
1115         msg_size = send_core_data_raw (queue->cls, size, buf);
1116       }
1117       break;
1118     case GNUNET_MESSAGE_TYPE_CADET_DATA:
1119     case GNUNET_MESSAGE_TYPE_CADET_CHANNEL_CREATE:
1120     case GNUNET_MESSAGE_TYPE_CADET_CHANNEL_DESTROY:
1121       /* This should be encapsulted */
1122       msg_size = 0;
1123       GNUNET_assert (0);
1124       break;
1125     default:
1126       GNUNET_break (0);
1127       LOG (GNUNET_ERROR_TYPE_WARNING, "  type unknown: %u\n", queue->type);
1128       msg_size = 0;
1129   }
1130
1131   GNUNET_assert (size >= msg_size);
1132
1133   return msg_size;
1134 }
1135
1136
1137 /**
1138  * Core callback to write a queued packet to core buffer
1139  *
1140  * @param cls Closure (peer info).
1141  * @param size Number of bytes available in buf.
1142  * @param buf Where the to write the message.
1143  *
1144  * @return number of bytes written to buf
1145  */
1146 static size_t
1147 queue_send (void *cls, size_t size, void *buf)
1148 {
1149   struct CadetPeer *peer = cls;
1150   struct CadetConnection *c;
1151   struct CadetPeerQueue *queue;
1152   struct GNUNET_TIME_Relative core_wait_time;
1153   const struct GNUNET_PeerIdentity *dst_id;
1154   size_t msg_size;
1155   size_t total_size;
1156   size_t rest;
1157   char *dst;
1158   uint32_t pid;
1159
1160   GCC_check_connections ();
1161   LOG (GNUNET_ERROR_TYPE_DEBUG, "\n");
1162   LOG (GNUNET_ERROR_TYPE_DEBUG, "\n");
1163   LOG (GNUNET_ERROR_TYPE_DEBUG, "Queue send towards %s (max %u)\n",
1164        GCP_2s (peer), size);
1165
1166   /* Sanity checking */
1167   if (NULL == buf || 0 == size)
1168   {
1169     LOG (GNUNET_ERROR_TYPE_DEBUG, "  not allowed/\n");
1170     if (GNUNET_NO == in_shutdown)
1171     {
1172       queue = peer_get_first_message (peer);
1173       dst_id = GNUNET_PEER_resolve2 (peer->id);
1174       peer->core_transmit =
1175           GNUNET_CORE_notify_transmit_ready (core_handle,
1176                                             GNUNET_NO, get_priority (queue),
1177                                             GNUNET_TIME_UNIT_FOREVER_REL,
1178                                             dst_id,
1179                                             get_core_size (queue->size),
1180                                             &queue_send,
1181                                             peer);
1182       peer->tmt_time = GNUNET_TIME_absolute_get ();
1183     }
1184     else
1185     {
1186       peer->core_transmit = NULL;
1187       peer->tmt_time.abs_value_us = 0;
1188     }
1189     GCC_check_connections ();
1190     return 0;
1191   }
1192
1193   /* Init */
1194   rest = size;
1195   total_size = 0;
1196   dst = (char *) buf;
1197   pid = 0;
1198   peer->core_transmit = NULL;
1199   queue = peer_get_first_message (peer);
1200   if (NULL == queue)
1201   {
1202     GNUNET_break (0); /* Core tmt_rdy should've been canceled */
1203     peer->tmt_time.abs_value_us = 0;
1204     return 0;
1205   }
1206   core_wait_time = GNUNET_TIME_absolute_get_duration (peer->tmt_time);
1207   if (core_wait_time.rel_value_us >= 1000000)
1208   {
1209     LOG (GNUNET_ERROR_TYPE_ERROR,
1210          " core wait time %s > 1 second for %u bytes\n",
1211          GNUNET_STRINGS_relative_time_to_string (core_wait_time, GNUNET_NO),
1212          queue->size);
1213   }
1214   else
1215   {
1216     LOG (GNUNET_ERROR_TYPE_DEBUG, " core wait time %s\n",
1217          GNUNET_STRINGS_relative_time_to_string (core_wait_time, GNUNET_NO));
1218   }
1219   peer->tmt_time.abs_value_us = 0;
1220
1221   /* Copy all possible messages to the core buffer */
1222   while (NULL != queue && rest >= queue->size)
1223   {
1224     c = queue->c;
1225
1226     LOG (GNUNET_ERROR_TYPE_DEBUG, "  on connection %s %s\n",
1227          GCC_2s (c), GC_f2s(queue->fwd));
1228     LOG (GNUNET_ERROR_TYPE_DEBUG, "  size %u ok (%u/%u)\n",
1229          queue->size, total_size, size);
1230
1231     msg_size = fill_buf (queue, (void *) dst, size, &pid);
1232
1233     if (0 < drop_percent &&
1234         GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK, 101) < drop_percent)
1235     {
1236       LOG (GNUNET_ERROR_TYPE_WARNING, "DD %s (%s %u) on connection %s %s\n",
1237            GC_m2s (queue->type), GC_m2s (queue->payload_type),
1238            queue->payload_id, GCC_2s (c), GC_f2s (queue->fwd));
1239       msg_size = 0;
1240     }
1241     else
1242     {
1243       LOG (GNUNET_ERROR_TYPE_INFO,
1244            "snd %s (%s %4u) on connection %s (%p) %s (size %u)\n",
1245            GC_m2s (queue->type), GC_m2s (queue->payload_type),
1246            queue->payload_id, GCC_2s (c), c, GC_f2s (queue->fwd), msg_size);
1247     }
1248     total_size += msg_size;
1249     rest -= msg_size;
1250     dst = &dst[msg_size];
1251     msg_size = 0;
1252
1253     /* Free queue, but cls was freed by send_core_* in fill_buf. */
1254     (void) GCP_queue_destroy (queue, GNUNET_NO, GNUNET_YES, pid);
1255
1256     /* Next! */
1257     queue = peer_get_first_message (peer);
1258   }
1259
1260   /* If more data in queue, send next */
1261   if (NULL != queue)
1262   {
1263     LOG (GNUNET_ERROR_TYPE_DEBUG, "  more data! (%u)\n", queue->size);
1264     if (NULL == peer->core_transmit)
1265     {
1266       dst_id = GNUNET_PEER_resolve2 (peer->id);
1267       peer->core_transmit =
1268           GNUNET_CORE_notify_transmit_ready (core_handle,
1269                                              GNUNET_NO, get_priority (queue),
1270                                              GNUNET_TIME_UNIT_FOREVER_REL,
1271                                              dst_id,
1272                                              get_core_size (queue->size),
1273                                              &queue_send,
1274                                              peer);
1275       peer->tmt_time = GNUNET_TIME_absolute_get ();
1276       queue->start_waiting = GNUNET_TIME_absolute_get ();
1277     }
1278     else
1279     {
1280       LOG (GNUNET_ERROR_TYPE_DEBUG, "*   tmt rdy called somewhere else\n");
1281     }
1282 //     GCC_start_poll (); FIXME needed?
1283   }
1284   else
1285   {
1286 //     GCC_stop_poll(); FIXME needed?
1287   }
1288
1289   LOG (GNUNET_ERROR_TYPE_DEBUG, "  return %d\n", total_size);
1290   queue_debug (peer, GNUNET_ERROR_TYPE_DEBUG);
1291   GCC_check_connections ();
1292   return total_size;
1293 }
1294
1295
1296 /******************************************************************************/
1297 /********************************    API    ***********************************/
1298 /******************************************************************************/
1299
1300
1301 /**
1302  * Free a transmission that was already queued with all resources
1303  * associated to the request.
1304  *
1305  * If connection was marked to be destroyed, and this was the last queued
1306  * message on it, the connection will be free'd as a result.
1307  *
1308  * @param queue Queue handler to cancel.
1309  * @param clear_cls Is it necessary to free associated cls?
1310  * @param sent Was it really sent? (Could have been canceled)
1311  * @param pid PID, if relevant (was sent and was a payload message).
1312  *
1313  * @return #GNUNET_YES if connection was destroyed as a result,
1314  *         #GNUNET_NO otherwise.
1315  */
1316 int
1317 GCP_queue_destroy (struct CadetPeerQueue *queue,
1318                    int clear_cls,
1319                    int sent,
1320                    uint32_t pid)
1321 {
1322   struct CadetPeer *peer;
1323   int connection_destroyed;
1324
1325   GCC_check_connections ();
1326   peer = queue->peer;
1327   LOG (GNUNET_ERROR_TYPE_DEBUG, "queue destroy %s\n", GC_m2s (queue->type));
1328   if (GNUNET_YES == clear_cls)
1329   {
1330     LOG (GNUNET_ERROR_TYPE_DEBUG, " free cls\n");
1331     switch (queue->type)
1332     {
1333       case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_DESTROY:
1334         LOG (GNUNET_ERROR_TYPE_INFO, "destroying a DESTROY message\n");
1335         /* fall through */
1336       case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_ACK:
1337       case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_CREATE:
1338       case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_BROKEN:
1339       case GNUNET_MESSAGE_TYPE_CADET_KX:
1340       case GNUNET_MESSAGE_TYPE_CADET_ENCRYPTED:
1341       case GNUNET_MESSAGE_TYPE_CADET_AX:
1342       case GNUNET_MESSAGE_TYPE_CADET_ACK:
1343       case GNUNET_MESSAGE_TYPE_CADET_POLL:
1344         GNUNET_free_non_null (queue->cls);
1345         break;
1346
1347       default:
1348         GNUNET_break (0);
1349         LOG (GNUNET_ERROR_TYPE_ERROR, " type %s unknown!\n",
1350              GC_m2s (queue->type));
1351     }
1352   }
1353   GNUNET_CONTAINER_DLL_remove (peer->queue_head, peer->queue_tail, queue);
1354
1355   if (queue->type != GNUNET_MESSAGE_TYPE_CADET_ACK &&
1356       queue->type != GNUNET_MESSAGE_TYPE_CADET_POLL)
1357   {
1358     peer->queue_n--;
1359   }
1360
1361   if (NULL != queue->cont)
1362   {
1363     struct GNUNET_TIME_Relative wait_time;
1364
1365     wait_time = GNUNET_TIME_absolute_get_duration (queue->start_waiting);
1366     LOG (GNUNET_ERROR_TYPE_DEBUG, " calling callback, time elapsed %s\n",
1367          GNUNET_STRINGS_relative_time_to_string (wait_time, GNUNET_NO));
1368     connection_destroyed = queue->cont (queue->cont_cls,
1369                                         queue->c, sent, queue->type, pid,
1370                                         queue->fwd, queue->size, wait_time);
1371   }
1372   else
1373   {
1374     connection_destroyed = GNUNET_NO;
1375   }
1376
1377   if (NULL == peer_get_first_message (peer) && NULL != peer->core_transmit)
1378   {
1379     GNUNET_CORE_notify_transmit_ready_cancel (peer->core_transmit);
1380     peer->core_transmit = NULL;
1381     peer->tmt_time.abs_value_us = 0;
1382   }
1383
1384   GNUNET_free (queue);
1385   GCC_check_connections ();
1386   return connection_destroyed;
1387 }
1388
1389
1390 /**
1391  * @brief Queue and pass message to core when possible.
1392  *
1393  * @param peer Peer towards which to queue the message.
1394  * @param cls Closure (@c type dependant). It will be used by queue_send to
1395  *            build the message to be sent if not already prebuilt.
1396  * @param type Type of the message, 0 for a raw message.
1397  * @param size Size of the message.
1398  * @param c Connection this message belongs to (can be NULL).
1399  * @param fwd Is this a message going root->dest? (FWD ACK are NOT FWD!)
1400  * @param cont Continuation to be called once CORE has taken the message.
1401  * @param cont_cls Closure for @c cont.
1402  *
1403  * @return Handle to cancel the message before it is sent. Once cont is called
1404  *         message has been sent and therefore the handle is no longer valid.
1405  */
1406 struct CadetPeerQueue *
1407 GCP_queue_add (struct CadetPeer *peer,
1408                void *cls,
1409                uint16_t type,
1410                uint16_t payload_type,
1411                uint32_t payload_id,
1412                size_t size,
1413                struct CadetConnection *c,
1414                int fwd,
1415                GCP_sent cont,
1416                void *cont_cls)
1417 {
1418   struct CadetPeerQueue *q;
1419   int priority;
1420   int call_core;
1421
1422   GCC_check_connections ();
1423   LOG (GNUNET_ERROR_TYPE_DEBUG,
1424        "que %s (%s %4u) on connection %s (%p) %s towards %s (size %u)\n",
1425        GC_m2s (type), GC_m2s (payload_type), payload_id,
1426        GCC_2s (c), c, GC_f2s (fwd), GCP_2s (peer), size);
1427
1428   if (NULL == peer->connections)
1429   {
1430     /* We are not connected to this peer, ignore request. */
1431     LOG (GNUNET_ERROR_TYPE_INFO, "%s not a neighbor\n", GCP_2s (peer));
1432     GNUNET_STATISTICS_update (stats, "# messages dropped due to wrong hop", 1,
1433                               GNUNET_NO);
1434     return NULL;
1435   }
1436
1437   priority = 0;
1438
1439   if (GNUNET_MESSAGE_TYPE_CADET_POLL == type ||
1440       GNUNET_MESSAGE_TYPE_CADET_ACK == type)
1441   {
1442     priority = 100;
1443   }
1444
1445   LOG (GNUNET_ERROR_TYPE_DEBUG, "priority %d\n", priority);
1446
1447   call_core = (NULL == c || type == GNUNET_MESSAGE_TYPE_CADET_KX) ?
1448                GNUNET_YES : GCC_is_sendable (c, fwd);
1449   q = GNUNET_new (struct CadetPeerQueue);
1450   q->cls = cls;
1451   q->type = type;
1452   q->payload_type = payload_type;
1453   q->payload_id = payload_id;
1454   q->size = size;
1455   q->peer = peer;
1456   q->c = c;
1457   q->fwd = fwd;
1458   q->cont = cont;
1459   q->cont_cls = cont_cls;
1460   if (100 > priority)
1461   {
1462     GNUNET_CONTAINER_DLL_insert_tail (peer->queue_head, peer->queue_tail, q);
1463     peer->queue_n++;
1464   }
1465   else
1466   {
1467     GNUNET_CONTAINER_DLL_insert (peer->queue_head, peer->queue_tail, q);
1468     call_core = GNUNET_YES;
1469   }
1470
1471   q->start_waiting = GNUNET_TIME_absolute_get ();
1472   if (NULL == peer->core_transmit && GNUNET_YES == call_core)
1473   {
1474     LOG (GNUNET_ERROR_TYPE_DEBUG,
1475          "calling core tmt rdy towards %s for %u bytes\n",
1476          GCP_2s (peer), size);
1477     peer->core_transmit =
1478         GNUNET_CORE_notify_transmit_ready (core_handle,
1479                                            GNUNET_NO, get_priority (q),
1480                                            GNUNET_TIME_UNIT_FOREVER_REL,
1481                                            GNUNET_PEER_resolve2 (peer->id),
1482                                            get_core_size (size),
1483                                            &queue_send, peer);
1484     peer->tmt_time = GNUNET_TIME_absolute_get ();
1485   }
1486   else if (GNUNET_NO == call_core)
1487   {
1488     LOG (GNUNET_ERROR_TYPE_DEBUG, "core tmt rdy towards %s not needed\n",
1489          GCP_2s (peer));
1490
1491   }
1492   else
1493   {
1494     struct GNUNET_TIME_Relative elapsed;
1495     elapsed = GNUNET_TIME_absolute_get_duration (peer->tmt_time);
1496     LOG (GNUNET_ERROR_TYPE_DEBUG, "core tmt rdy towards %s already called %s\n",
1497          GCP_2s (peer),
1498          GNUNET_STRINGS_relative_time_to_string (elapsed, GNUNET_NO));
1499
1500   }
1501   queue_debug (peer, GNUNET_ERROR_TYPE_DEBUG);
1502   GCC_check_connections ();
1503   return q;
1504 }
1505
1506
1507 /**
1508  * Cancel all queued messages to a peer that belong to a certain connection.
1509  *
1510  * @param peer Peer towards whom to cancel.
1511  * @param c Connection whose queued messages to cancel. Might be destroyed by
1512  *          the sent continuation call.
1513  */
1514 void
1515 GCP_queue_cancel (struct CadetPeer *peer,
1516                   struct CadetConnection *c)
1517 {
1518   struct CadetPeerQueue *q;
1519   struct CadetPeerQueue *next;
1520   struct CadetPeerQueue *prev;
1521   int connection_destroyed;
1522
1523   GCC_check_connections ();
1524   connection_destroyed = GNUNET_NO;
1525   for (q = peer->queue_head; NULL != q; q = next)
1526   {
1527     prev = q->prev;
1528     if (q->c == c)
1529     {
1530       LOG (GNUNET_ERROR_TYPE_DEBUG,
1531            "GMP queue cancel %s\n",
1532            GC_m2s (q->type));
1533       GNUNET_break (GNUNET_NO == connection_destroyed);
1534       if (GNUNET_MESSAGE_TYPE_CADET_CONNECTION_DESTROY == q->type)
1535       {
1536         q->c = NULL;
1537       }
1538       else
1539       {
1540         connection_destroyed = GCP_queue_destroy (q, GNUNET_YES, GNUNET_NO, 0);
1541       }
1542
1543       /* Get next from prev, q->next might be already freed:
1544        * queue destroy -> callback -> GCC_destroy -> cancel_queues -> here
1545        */
1546       if (NULL == prev)
1547         next = peer->queue_head;
1548       else
1549         next = prev->next;
1550     }
1551     else
1552     {
1553       next = q->next;
1554     }
1555   }
1556
1557   if ( (NULL == peer->queue_head) &&
1558        (NULL != peer->core_transmit) )
1559   {
1560     GNUNET_CORE_notify_transmit_ready_cancel (peer->core_transmit);
1561     peer->core_transmit = NULL;
1562     peer->tmt_time.abs_value_us = 0;
1563   }
1564   GCC_check_connections ();
1565 }
1566
1567
1568 /**
1569  * Get the first transmittable message for a connection.
1570  *
1571  * @param peer Neighboring peer.
1572  * @param c Connection.
1573  *
1574  * @return First transmittable message.
1575  */
1576 static struct CadetPeerQueue *
1577 connection_get_first_message (struct CadetPeer *peer, struct CadetConnection *c)
1578 {
1579   struct CadetPeerQueue *q;
1580
1581   for (q = peer->queue_head; NULL != q; q = q->next)
1582   {
1583     if (q->c != c)
1584       continue;
1585     if (queue_is_sendable (q))
1586     {
1587       LOG (GNUNET_ERROR_TYPE_DEBUG, "  sendable!!\n");
1588       return q;
1589     }
1590     LOG (GNUNET_ERROR_TYPE_DEBUG, "  not sendable\n");
1591   }
1592
1593   return NULL;
1594 }
1595
1596
1597 /**
1598  * Get the first message for a connection and unqueue it.
1599  *
1600  * Only tunnel (or higher) level messages are unqueued. Connection specific
1601  * messages are silently destroyed upon encounter.
1602  *
1603  * @param peer Neighboring peer.
1604  * @param c Connection.
1605  * @param destroyed[in/out] Was the connection destroyed (prev/as a result)?.
1606  *                          Can NOT be NULL.
1607  *
1608  * @return First message for this connection.
1609  */
1610 struct GNUNET_MessageHeader *
1611 GCP_connection_pop (struct CadetPeer *peer,
1612                     struct CadetConnection *c,
1613                     int *destroyed)
1614 {
1615   struct CadetPeerQueue *q;
1616   struct CadetPeerQueue *next;
1617   struct GNUNET_MessageHeader *msg;
1618   int dest;
1619
1620   GCC_check_connections ();
1621   GNUNET_assert (NULL != destroyed);
1622   LOG (GNUNET_ERROR_TYPE_DEBUG, "connection_pop on connection %p\n", c);
1623   for (q = peer->queue_head; NULL != q; q = next)
1624   {
1625     next = q->next;
1626     if (q->c != c)
1627       continue;
1628     LOG (GNUNET_ERROR_TYPE_DEBUG, " - queued: %s (%s %u), cont: %p\n",
1629          GC_m2s (q->type), GC_m2s (q->payload_type), q->payload_id,
1630          q->cont);
1631     switch (q->type)
1632     {
1633       case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_CREATE:
1634       case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_ACK:
1635       case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_DESTROY:
1636       case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_BROKEN:
1637       case GNUNET_MESSAGE_TYPE_CADET_ACK:
1638       case GNUNET_MESSAGE_TYPE_CADET_POLL:
1639         dest = GCP_queue_destroy (q, GNUNET_YES, GNUNET_NO, 0);
1640         if (GNUNET_YES == dest)
1641         {
1642           GNUNET_break (GNUNET_NO == *destroyed);
1643           *destroyed = GNUNET_YES;
1644         }
1645         continue;
1646
1647       case GNUNET_MESSAGE_TYPE_CADET_KX:
1648       case GNUNET_MESSAGE_TYPE_CADET_ENCRYPTED:
1649       case GNUNET_MESSAGE_TYPE_CADET_AX:
1650       case GNUNET_MESSAGE_TYPE_CADET_AX_KX:
1651         msg = (struct GNUNET_MessageHeader *) q->cls;
1652         dest = GCP_queue_destroy (q, GNUNET_NO, GNUNET_NO, 0);
1653         if (GNUNET_YES == dest)
1654         {
1655           GNUNET_break (GNUNET_NO == *destroyed);
1656           *destroyed = GNUNET_YES;
1657         }
1658         return msg;
1659
1660       default:
1661         GNUNET_break (0);
1662         LOG (GNUNET_ERROR_TYPE_DEBUG, "Unknown message %s\n", GC_m2s (q->type));
1663     }
1664   }
1665   GCC_check_connections ();
1666   return NULL;
1667 }
1668
1669
1670 /**
1671  * Unlock a possibly locked queue for a connection.
1672  *
1673  * If there is a message that can be sent on this connection, call core for it.
1674  * Otherwise (if core transmit is already called or there is no sendable
1675  * message) do nothing.
1676  *
1677  * @param peer Peer who keeps the queue.
1678  * @param c Connection whose messages to unlock.
1679  */
1680 void
1681 GCP_queue_unlock (struct CadetPeer *peer, struct CadetConnection *c)
1682 {
1683   struct CadetPeerQueue *q;
1684   size_t size;
1685
1686   GCC_check_connections ();
1687   if (NULL != peer->core_transmit)
1688   {
1689     LOG (GNUNET_ERROR_TYPE_DEBUG, "  already unlocked!\n");
1690     return; /* Already unlocked */
1691   }
1692
1693   q = connection_get_first_message (peer, c);
1694   if (NULL == q)
1695   {
1696     LOG (GNUNET_ERROR_TYPE_DEBUG, "  queue empty!\n");
1697     return; /* Nothing to transmit */
1698   }
1699
1700   size = q->size;
1701   peer->core_transmit =
1702       GNUNET_CORE_notify_transmit_ready (core_handle,
1703                                          GNUNET_NO, get_priority (q),
1704                                          GNUNET_TIME_UNIT_FOREVER_REL,
1705                                          GNUNET_PEER_resolve2 (peer->id),
1706                                          get_core_size (size),
1707                                          &queue_send,
1708                                          peer);
1709   peer->tmt_time = GNUNET_TIME_absolute_get ();
1710   GCC_check_connections ();
1711 }
1712
1713
1714 /**
1715  * Initialize the peer subsystem.
1716  *
1717  * @param c Configuration.
1718  */
1719 void
1720 GCP_init (const struct GNUNET_CONFIGURATION_Handle *c)
1721 {
1722   LOG (GNUNET_ERROR_TYPE_DEBUG,
1723        "GCP_init\n");
1724   in_shutdown = GNUNET_NO;
1725   peers = GNUNET_CONTAINER_multipeermap_create (128, GNUNET_NO);
1726   if (GNUNET_OK !=
1727       GNUNET_CONFIGURATION_get_value_number (c, "CADET", "MAX_PEERS",
1728                                              &max_peers))
1729   {
1730     GNUNET_log_config_invalid (GNUNET_ERROR_TYPE_WARNING,
1731                                "CADET", "MAX_PEERS", "USING DEFAULT");
1732     max_peers = 1000;
1733   }
1734
1735   if (GNUNET_OK !=
1736       GNUNET_CONFIGURATION_get_value_number (c, "CADET", "DROP_PERCENT",
1737                                              &drop_percent))
1738   {
1739     drop_percent = 0;
1740   }
1741   else
1742   {
1743     LOG (GNUNET_ERROR_TYPE_WARNING, "**************************************\n");
1744     LOG (GNUNET_ERROR_TYPE_WARNING, "Cadet is running with DROP enabled.\n");
1745     LOG (GNUNET_ERROR_TYPE_WARNING, "This is NOT a good idea!\n");
1746     LOG (GNUNET_ERROR_TYPE_WARNING, "Remove DROP_PERCENT from config file.\n");
1747     LOG (GNUNET_ERROR_TYPE_WARNING, "**************************************\n");
1748   }
1749
1750   core_handle = GNUNET_CORE_connect (c, /* Main configuration */
1751                                      NULL,      /* Closure passed to CADET functions */
1752                                      &core_init,        /* Call core_init once connected */
1753                                      &core_connect,     /* Handle connects */
1754                                      &core_disconnect,  /* remove peers on disconnects */
1755                                      NULL,      /* Don't notify about all incoming messages */
1756                                      GNUNET_NO, /* For header only in notification */
1757                                      NULL,      /* Don't notify about all outbound messages */
1758                                      GNUNET_NO, /* For header-only out notification */
1759                                      core_handlers);    /* Register these handlers */
1760   if (GNUNET_YES !=
1761       GNUNET_CONFIGURATION_get_value_yesno (c, "CADET", "DISABLE_TRY_CONNECT"))
1762   {
1763     transport_handle = GNUNET_TRANSPORT_connect (c, &my_full_id, NULL, /* cls */
1764                                                  /* Notify callbacks */
1765                                                  NULL, NULL, NULL);
1766   }
1767   else
1768   {
1769     LOG (GNUNET_ERROR_TYPE_WARNING, "**************************************\n");
1770     LOG (GNUNET_ERROR_TYPE_WARNING, "*  DISABLE TRYING CONNECT in config  *\n");
1771     LOG (GNUNET_ERROR_TYPE_WARNING, "*  Use this only for test purposes.  *\n");
1772     LOG (GNUNET_ERROR_TYPE_WARNING, "**************************************\n");
1773     transport_handle = NULL;
1774   }
1775
1776
1777
1778   if (NULL == core_handle)
1779   {
1780     GNUNET_break (0);
1781     GNUNET_SCHEDULER_shutdown ();
1782     return;
1783   }
1784
1785 }
1786
1787
1788 /**
1789  * Shut down the peer subsystem.
1790  */
1791 void
1792 GCP_shutdown (void)
1793 {
1794   in_shutdown = GNUNET_YES;
1795   GNUNET_CONTAINER_multipeermap_iterate (peers,
1796                                          &shutdown_peer,
1797                                          NULL);
1798   if (NULL != core_handle)
1799   {
1800     GNUNET_CORE_disconnect (core_handle);
1801     core_handle = NULL;
1802   }
1803   if (NULL != transport_handle)
1804   {
1805     GNUNET_TRANSPORT_disconnect (transport_handle);
1806     transport_handle = NULL;
1807   }
1808   GNUNET_PEER_change_rc (myid, -1);
1809   GNUNET_CONTAINER_multipeermap_destroy (peers);
1810   peers = NULL;
1811 }
1812
1813
1814 /**
1815  * Retrieve the CadetPeer stucture associated with the peer. Optionally create
1816  * one and insert it in the appropriate structures if the peer is not known yet.
1817  *
1818  * @param peer_id Full identity of the peer.
1819  * @param create #GNUNET_YES if a new peer should be created if unknown.
1820  *               #GNUNET_NO otherwise.
1821  *
1822  * @return Existing or newly created peer structure.
1823  *         NULL if unknown and not requested @a create
1824  */
1825 struct CadetPeer *
1826 GCP_get (const struct GNUNET_PeerIdentity *peer_id, int create)
1827 {
1828   struct CadetPeer *peer;
1829
1830   peer = GNUNET_CONTAINER_multipeermap_get (peers, peer_id);
1831   if (NULL == peer)
1832   {
1833     peer = GNUNET_new (struct CadetPeer);
1834     if (GNUNET_CONTAINER_multipeermap_size (peers) > max_peers)
1835     {
1836       peer_delete_oldest ();
1837     }
1838     GNUNET_assert (GNUNET_OK ==
1839                    GNUNET_CONTAINER_multipeermap_put (peers,
1840                                                       peer_id,
1841                                                       peer,
1842                                                       GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
1843     peer->id = GNUNET_PEER_intern (peer_id);
1844   }
1845   peer->last_contact = GNUNET_TIME_absolute_get ();
1846
1847   return peer;
1848 }
1849
1850
1851 /**
1852  * Retrieve the CadetPeer stucture associated with the peer. Optionally create
1853  * one and insert it in the appropriate structures if the peer is not known yet.
1854  *
1855  * @param peer Short identity of the peer.
1856  * @param create #GNUNET_YES if a new peer should be created if unknown.
1857  *               #GNUNET_NO otherwise.
1858  *
1859  * @return Existing or newly created peer structure.
1860  *         NULL if unknown and not requested @a create
1861  */
1862 struct CadetPeer *
1863 GCP_get_short (const GNUNET_PEER_Id peer, int create)
1864 {
1865   return GCP_get (GNUNET_PEER_resolve2 (peer), create);
1866 }
1867
1868
1869 /**
1870  * Try to connect to a peer on transport level.
1871  *
1872  * @param cls Closure (peer).
1873  * @param tc TaskContext.
1874  */
1875 static void
1876 try_connect (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1877 {
1878   struct CadetPeer *peer = cls;
1879
1880   if (0 != (GNUNET_SCHEDULER_REASON_SHUTDOWN & tc->reason))
1881     return;
1882
1883   GNUNET_TRANSPORT_try_connect (transport_handle,
1884                                 GNUNET_PEER_resolve2 (peer->id), NULL, NULL);
1885 }
1886
1887
1888 /**
1889  * Try to establish a new connection to this peer (in its tunnel).
1890  * If the peer doesn't have any path to it yet, try to get one.
1891  * If the peer already has some path, send a CREATE CONNECTION towards it.
1892  *
1893  * @param peer Peer to connect to.
1894  */
1895 void
1896 GCP_connect (struct CadetPeer *peer)
1897 {
1898   struct CadetTunnel *t;
1899   struct CadetPeerPath *p;
1900   struct CadetConnection *c;
1901   int rerun_search;
1902
1903   GCC_check_connections ();
1904   LOG (GNUNET_ERROR_TYPE_DEBUG, "peer_connect towards %s\n", GCP_2s (peer));
1905
1906   /* If we have a current hello, try to connect using it. */
1907   GCP_try_connect (peer);
1908
1909   t = peer->tunnel;
1910   c = NULL;
1911   rerun_search = GNUNET_NO;
1912
1913   if (NULL != peer->path_head)
1914   {
1915     LOG (GNUNET_ERROR_TYPE_DEBUG, "  some path exists\n");
1916     p = peer_get_best_path (peer);
1917     if (NULL != p)
1918     {
1919       char *s;
1920
1921       s = path_2s (p);
1922       LOG (GNUNET_ERROR_TYPE_DEBUG, "  path to use: %s\n", s);
1923       GNUNET_free (s);
1924
1925       c = GCT_use_path (t, p);
1926       if (NULL == c)
1927       {
1928         /* This case can happen when the path includes a first hop that is
1929          * not yet known to be connected.
1930          *
1931          * This happens quite often during testing when running cadet
1932          * under valgrind: core connect notifications come very late
1933          * and the DHT result has already come and created a valid
1934          * path.  In this case, the peer->connections_{pred,succ}
1935          * hashmaps will be NULL and tunnel_use_path will not be able
1936          * to create a connection from that path.
1937          *
1938          * Re-running the DHT GET should give core time to callback.
1939          *
1940          * GCT_use_path -> GCC_new -> register_neighbors takes care of
1941          * updating statistics about this issue.
1942          */
1943         rerun_search = GNUNET_YES;
1944       }
1945       else
1946       {
1947         GCC_send_create (c);
1948         return;
1949       }
1950     }
1951     else
1952     {
1953       LOG (GNUNET_ERROR_TYPE_DEBUG, "  but is NULL, all paths are in use\n");
1954     }
1955   }
1956
1957   if (GNUNET_YES == rerun_search)
1958   {
1959     struct GNUNET_TIME_Relative delay;
1960
1961     GCP_stop_search (peer);
1962     delay = GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MILLISECONDS, 100);
1963     peer->search_delayed = GNUNET_SCHEDULER_add_delayed (delay,
1964                                                          &delayed_search,
1965                                                          peer);
1966     GCC_check_connections ();
1967     return;
1968   }
1969
1970   if (GNUNET_NO == is_searching (peer))
1971     GCP_start_search (peer);
1972   GCC_check_connections ();
1973 }
1974
1975
1976 /**
1977  * Chech whether there is a direct (core level)  connection to peer.
1978  *
1979  * @param peer Peer to check.
1980  *
1981  * @return #GNUNET_YES if there is a direct connection.
1982  */
1983 int
1984 GCP_is_neighbor (const struct CadetPeer *peer)
1985 {
1986   struct CadetPeerPath *path;
1987
1988   if (NULL == peer->connections)
1989     return GNUNET_NO;
1990
1991   for (path = peer->path_head; NULL != path; path = path->next)
1992   {
1993     if (3 > path->length)
1994       return GNUNET_YES;
1995   }
1996
1997   /* Is not a neighbor but connections is not NULL, probably disconnecting */
1998   return GNUNET_NO;
1999 }
2000
2001
2002 /**
2003  * Create and initialize a new tunnel towards a peer, in case it has none.
2004  * In case the peer already has a tunnel, nothing is done.
2005  *
2006  * Does not generate any traffic, just creates the local data structures.
2007  *
2008  * @param peer Peer towards which to create the tunnel.
2009  */
2010 void
2011 GCP_add_tunnel (struct CadetPeer *peer)
2012 {
2013   GCC_check_connections ();
2014   if (NULL != peer->tunnel)
2015     return;
2016   peer->tunnel = GCT_new (peer);
2017   GCC_check_connections ();
2018 }
2019
2020
2021 /**
2022  * Add a connection to a neighboring peer.
2023  *
2024  * Store that the peer is the first hop of the connection in one
2025  * direction and that on peer disconnect the connection must be
2026  * notified and destroyed, for it will no longer be valid.
2027  *
2028  * @param peer Peer to add connection to.
2029  * @param c Connection to add.
2030  * @param pred #GNUNET_YES if we are predecessor, #GNUNET_NO if we are successor
2031  */
2032 void
2033 GCP_add_connection (struct CadetPeer *peer,
2034                     struct CadetConnection *c,
2035                     int pred)
2036 {
2037   LOG (GNUNET_ERROR_TYPE_DEBUG,
2038        "adding connection %s\n",
2039        GCC_2s (c));
2040   LOG (GNUNET_ERROR_TYPE_DEBUG,
2041        "to peer %s\n",
2042        GCP_2s (peer));
2043   GNUNET_assert (NULL != peer->connections);
2044   GNUNET_assert (GNUNET_OK ==
2045                  GNUNET_CONTAINER_multihashmap_put (peer->connections,
2046                                                     GCC_get_h (c),
2047                                                     c,
2048                                                     GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
2049   LOG (GNUNET_ERROR_TYPE_DEBUG,
2050        "Peer %s has now %u connections.\n",
2051        GCP_2s (peer),
2052        GNUNET_CONTAINER_multihashmap_size (peer->connections));
2053 }
2054
2055
2056 /**
2057  * Add the path to the peer and update the path used to reach it in case this
2058  * is the shortest.
2059  *
2060  * @param peer Destination peer to add the path to.
2061  * @param path New path to add. Last peer must be the peer in arg 1.
2062  *             Path will be either used of freed if already known.
2063  * @param trusted Do we trust that this path is real?
2064  *
2065  * @return path if path was taken, pointer to existing duplicate if exists
2066  *         NULL on error.
2067  */
2068 struct CadetPeerPath *
2069 GCP_add_path (struct CadetPeer *peer,
2070               struct CadetPeerPath *path,
2071               int trusted)
2072 {
2073   struct CadetPeerPath *aux;
2074   unsigned int l;
2075   unsigned int l2;
2076
2077   GCC_check_connections ();
2078   LOG (GNUNET_ERROR_TYPE_DEBUG,
2079        "adding path [%u] to peer %s\n",
2080        path->length, GCP_2s (peer));
2081
2082   if (NULL == peer || NULL == path
2083       || path->peers[path->length - 1] != peer->id)
2084   {
2085     GNUNET_break (0);
2086     path_destroy (path);
2087     return NULL;
2088   }
2089
2090   for (l = 1; l < path->length; l++)
2091   {
2092     if (path->peers[l] == myid)
2093     {
2094       LOG (GNUNET_ERROR_TYPE_DEBUG, " shortening path by %u\n", l);
2095       for (l2 = 0; l2 < path->length - l; l2++)
2096       {
2097         path->peers[l2] = path->peers[l + l2];
2098       }
2099       path->length -= l;
2100       l = 1;
2101       path->peers = GNUNET_realloc (path->peers,
2102                                     path->length * sizeof (GNUNET_PEER_Id));
2103     }
2104   }
2105
2106   LOG (GNUNET_ERROR_TYPE_DEBUG, " final length: %u\n", path->length);
2107
2108   if (2 >= path->length && GNUNET_NO == trusted)
2109   {
2110     /* Only allow CORE to tell us about direct paths */
2111     path_destroy (path);
2112     return NULL;
2113   }
2114
2115   l = path_get_length (path);
2116   if (0 == l)
2117   {
2118     path_destroy (path);
2119     return NULL;
2120   }
2121
2122   GNUNET_assert (peer->id == path->peers[path->length - 1]);
2123   for (aux = peer->path_head; aux != NULL; aux = aux->next)
2124   {
2125     l2 = path_get_length (aux);
2126     if (l2 > l)
2127     {
2128       LOG (GNUNET_ERROR_TYPE_DEBUG, "  added\n");
2129       GNUNET_CONTAINER_DLL_insert_before (peer->path_head,
2130                                           peer->path_tail, aux, path);
2131       goto finish;
2132     }
2133     else
2134     {
2135       if (l2 == l && memcmp (path->peers, aux->peers, l) == 0)
2136       {
2137         LOG (GNUNET_ERROR_TYPE_DEBUG, "  already known\n");
2138         path_destroy (path);
2139         return aux;
2140       }
2141     }
2142   }
2143   GNUNET_CONTAINER_DLL_insert_tail (peer->path_head, peer->path_tail,
2144                                     path);
2145   LOG (GNUNET_ERROR_TYPE_DEBUG, "  added last\n");
2146
2147 finish:
2148   if (NULL != peer->tunnel
2149       && CONNECTIONS_PER_TUNNEL < GCT_count_connections (peer->tunnel))
2150   {
2151     GCP_connect (peer);
2152   }
2153   GCC_check_connections ();
2154   return path;
2155 }
2156
2157
2158 /**
2159  * Add the path to the origin peer and update the path used to reach it in case
2160  * this is the shortest.
2161  * The path is given in peer_info -> destination, therefore we turn the path
2162  * upside down first.
2163  *
2164  * @param peer Peer to add the path to, being the origin of the path.
2165  * @param path New path to add after being inversed.
2166  *             Path will be either used or freed.
2167  * @param trusted Do we trust that this path is real?
2168  *
2169  * @return path if path was taken, pointer to existing duplicate if exists
2170  *         NULL on error.
2171  */
2172 struct CadetPeerPath *
2173 GCP_add_path_to_origin (struct CadetPeer *peer,
2174                         struct CadetPeerPath *path,
2175                         int trusted)
2176 {
2177   if (NULL == path)
2178     return NULL;
2179   path_invert (path);
2180   return GCP_add_path (peer, path, trusted);
2181 }
2182
2183
2184 /**
2185  * Adds a path to the info of all the peers in the path
2186  *
2187  * @param p Path to process.
2188  * @param confirmed Whether we know if the path works or not.
2189  */
2190 void
2191 GCP_add_path_to_all (const struct CadetPeerPath *p, int confirmed)
2192 {
2193   unsigned int i;
2194
2195   /* TODO: invert and add */
2196   GCC_check_connections ();
2197   for (i = 0; i < p->length && p->peers[i] != myid; i++) /* skip'em */ ;
2198   for (i++; i < p->length; i++)
2199   {
2200     struct CadetPeer *aux;
2201     struct CadetPeerPath *copy;
2202
2203     aux = GCP_get_short (p->peers[i], GNUNET_YES);
2204     copy = path_duplicate (p);
2205     copy->length = i + 1;
2206     GCP_add_path (aux, copy, p->length < 3 ? GNUNET_NO : confirmed);
2207   }
2208   GCC_check_connections ();
2209 }
2210
2211
2212 /**
2213  * Remove any path to the peer that has the extact same peers as the one given.
2214  *
2215  * @param peer Peer to remove the path from.
2216  * @param path Path to remove. Is always destroyed .
2217  */
2218 void
2219 GCP_remove_path (struct CadetPeer *peer, struct CadetPeerPath *path)
2220 {
2221   struct CadetPeerPath *iter;
2222   struct CadetPeerPath *next;
2223
2224   GCC_check_connections ();
2225   GNUNET_assert (myid == path->peers[0]);
2226   GNUNET_assert (peer->id == path->peers[path->length - 1]);
2227
2228   LOG (GNUNET_ERROR_TYPE_INFO,
2229        "Removing path %p (%u) from %s\n",
2230        path,
2231        path->length,
2232        GCP_2s (peer));
2233
2234   for (iter = peer->path_head; NULL != iter; iter = next)
2235   {
2236     next = iter->next;
2237     if (0 == path_cmp (path, iter))
2238     {
2239       GNUNET_CONTAINER_DLL_remove (peer->path_head, peer->path_tail, iter);
2240       if (iter != path)
2241         path_destroy (iter);
2242     }
2243   }
2244   path_destroy (path);
2245   GCC_check_connections ();
2246 }
2247
2248
2249 /**
2250  * Check that we are aware of a connection from a neighboring peer.
2251  *
2252  * @param peer Peer to the connection is with
2253  * @param c Connection that should be in the map with this peer.
2254  */
2255 void
2256 GCP_check_connection (const struct CadetPeer *peer,
2257                       const struct CadetConnection *c)
2258 {
2259   GNUNET_assert (NULL != peer);
2260   GNUNET_assert (NULL != peer->connections);
2261     return;
2262   GNUNET_assert (GNUNET_YES ==
2263                  GNUNET_CONTAINER_multihashmap_contains_value (peer->connections,
2264                                                                GCC_get_h (c),
2265                                                                c));
2266 }
2267
2268
2269 /**
2270  * Remove a connection from a neighboring peer.
2271  *
2272  * @param peer Peer to remove connection from.
2273  * @param c Connection to remove.
2274  */
2275 void
2276 GCP_remove_connection (struct CadetPeer *peer,
2277                        const struct CadetConnection *c)
2278 {
2279   LOG (GNUNET_ERROR_TYPE_DEBUG,
2280        "Removing connection %s\n",
2281        GCC_2s (c));
2282   LOG (GNUNET_ERROR_TYPE_DEBUG,
2283        "from peer %s\n",
2284        GCP_2s (peer));
2285   if ( (NULL == peer) ||
2286        (NULL == peer->connections) )
2287     return;
2288   GNUNET_assert (GNUNET_YES ==
2289                  GNUNET_CONTAINER_multihashmap_remove (peer->connections,
2290                                                        GCC_get_h (c),
2291                                                        c));
2292   LOG (GNUNET_ERROR_TYPE_DEBUG,
2293        "Peer %s remains with %u connections.\n",
2294        GCP_2s (peer),
2295        GNUNET_CONTAINER_multihashmap_size (peer->connections));
2296 }
2297
2298
2299 /**
2300  * Start the DHT search for new paths towards the peer: we don't have
2301  * enough good connections.
2302  *
2303  * @param peer Destination peer.
2304  */
2305 void
2306 GCP_start_search (struct CadetPeer *peer)
2307 {
2308   const struct GNUNET_PeerIdentity *id;
2309   struct CadetTunnel *t = peer->tunnel;
2310
2311   GCC_check_connections ();
2312  if (NULL != peer->search_h)
2313   {
2314     GNUNET_break (0);
2315     return;
2316   }
2317
2318   if (NULL != peer->search_delayed)
2319     GCP_stop_search (peer);
2320
2321   id = GNUNET_PEER_resolve2 (peer->id);
2322   peer->search_h = GCD_search (id, &search_handler, peer);
2323
2324   if (NULL == t)
2325   {
2326     /* Why would we search for a peer with no tunnel towards it? */
2327     GNUNET_break (0);
2328     return;
2329   }
2330
2331   if (CADET_TUNNEL_NEW == GCT_get_cstate (t)
2332       || 0 == GCT_count_any_connections (t))
2333   {
2334     GCT_change_cstate (t, CADET_TUNNEL_SEARCHING);
2335   }
2336   GCC_check_connections ();
2337 }
2338
2339
2340 /**
2341  * Stop the DHT search for new paths towards the peer: we already have
2342  * enough good connections.
2343  *
2344  * @param peer Destination peer.
2345  */
2346 void
2347 GCP_stop_search (struct CadetPeer *peer)
2348 {
2349   GCC_check_connections ();
2350   if (NULL != peer->search_h)
2351   {
2352     GCD_search_stop (peer->search_h);
2353     peer->search_h = NULL;
2354   }
2355   if (NULL != peer->search_delayed)
2356   {
2357     GNUNET_SCHEDULER_cancel (peer->search_delayed);
2358     peer->search_delayed = NULL;
2359   }
2360   GCC_check_connections ();
2361 }
2362
2363
2364 /**
2365  * Get the Full ID of a peer.
2366  *
2367  * @param peer Peer to get from.
2368  *
2369  * @return Full ID of peer.
2370  */
2371 const struct GNUNET_PeerIdentity *
2372 GCP_get_id (const struct CadetPeer *peer)
2373 {
2374   return GNUNET_PEER_resolve2 (peer->id);
2375 }
2376
2377
2378 /**
2379  * Get the Short ID of a peer.
2380  *
2381  * @param peer Peer to get from.
2382  *
2383  * @return Short ID of peer.
2384  */
2385 GNUNET_PEER_Id
2386 GCP_get_short_id (const struct CadetPeer *peer)
2387 {
2388   return peer->id;
2389 }
2390
2391
2392 /**
2393  * Set tunnel.
2394  *
2395  * If tunnel is NULL and there was a search active, stop it, as it's useless.
2396  *
2397  * @param peer Peer.
2398  * @param t Tunnel.
2399  */
2400 void
2401 GCP_set_tunnel (struct CadetPeer *peer, struct CadetTunnel *t)
2402 {
2403   peer->tunnel = t;
2404   if (NULL == t && GNUNET_YES == is_searching (peer))
2405   {
2406     GCP_stop_search (peer);
2407   }
2408 }
2409
2410
2411 /**
2412  * Get the tunnel towards a peer.
2413  *
2414  * @param peer Peer to get from.
2415  *
2416  * @return Tunnel towards peer.
2417  */
2418 struct CadetTunnel *
2419 GCP_get_tunnel (const struct CadetPeer *peer)
2420 {
2421   if (NULL == peer)
2422     return NULL;
2423   return peer->tunnel;
2424 }
2425
2426
2427 /**
2428  * Set the hello message.
2429  *
2430  * @param peer Peer whose message to set.
2431  * @param hello Hello message.
2432  */
2433 void
2434 GCP_set_hello (struct CadetPeer *peer, const struct GNUNET_HELLO_Message *hello)
2435 {
2436   struct GNUNET_HELLO_Message *old;
2437   size_t size;
2438
2439   GCC_check_connections ();
2440  LOG (GNUNET_ERROR_TYPE_DEBUG, "set hello for %s\n", GCP_2s (peer));
2441   if (NULL == hello)
2442     return;
2443
2444   old = GCP_get_hello (peer);
2445   if (NULL == old)
2446   {
2447     size = GNUNET_HELLO_size (hello);
2448     peer->hello = GNUNET_malloc (size);
2449     memcpy (peer->hello, hello, size);
2450   }
2451   else
2452   {
2453     peer->hello = GNUNET_HELLO_merge (old, hello);
2454     GNUNET_free (old);
2455   }
2456   GCC_check_connections ();
2457 }
2458
2459
2460 /**
2461  * Get the hello message.
2462  *
2463  * @param peer Peer whose message to get.
2464  *
2465  * @return Hello message.
2466  */
2467 struct GNUNET_HELLO_Message *
2468 GCP_get_hello (struct CadetPeer *peer)
2469 {
2470   struct GNUNET_TIME_Absolute expiration;
2471   struct GNUNET_TIME_Relative remaining;
2472
2473   if (NULL == peer->hello)
2474     return NULL;
2475
2476   expiration = GNUNET_HELLO_get_last_expiration (peer->hello);
2477   remaining = GNUNET_TIME_absolute_get_remaining (expiration);
2478   if (0 == remaining.rel_value_us)
2479   {
2480     LOG (GNUNET_ERROR_TYPE_DEBUG, " get - hello expired on %s\n",
2481          GNUNET_STRINGS_absolute_time_to_string (expiration));
2482     GNUNET_free (peer->hello);
2483     peer->hello = NULL;
2484   }
2485   return peer->hello;
2486 }
2487
2488
2489 /**
2490  * Try to connect to a peer on TRANSPORT level.
2491  *
2492  * @param peer Peer to whom to connect.
2493  */
2494 void
2495 GCP_try_connect (struct CadetPeer *peer)
2496 {
2497   struct GNUNET_HELLO_Message *hello;
2498   struct GNUNET_MessageHeader *mh;
2499
2500   if (NULL == transport_handle)
2501     return;
2502   GCC_check_connections ();
2503   hello = GCP_get_hello (peer);
2504   if (NULL == hello)
2505     return;
2506
2507   mh = GNUNET_HELLO_get_header (hello);
2508   GNUNET_TRANSPORT_offer_hello (transport_handle,
2509                                 mh,
2510                                 &try_connect,
2511                                 peer);
2512   GCC_check_connections ();
2513 }
2514
2515
2516 /**
2517  * Notify a peer that a link between two other peers is broken. If any path
2518  * used that link, eliminate it.
2519  *
2520  * @param peer Peer affected by the change.
2521  * @param peer1 Peer whose link is broken.
2522  * @param peer2 Peer whose link is broken.
2523  */
2524 void
2525 GCP_notify_broken_link (struct CadetPeer *peer,
2526                         struct GNUNET_PeerIdentity *peer1,
2527                         struct GNUNET_PeerIdentity *peer2)
2528 {
2529   struct CadetPeerPath *iter;
2530   struct CadetPeerPath *next;
2531   unsigned int i;
2532   GNUNET_PEER_Id p1;
2533   GNUNET_PEER_Id p2;
2534
2535   GCC_check_connections ();
2536   p1 = GNUNET_PEER_search (peer1);
2537   p2 = GNUNET_PEER_search (peer2);
2538
2539   LOG (GNUNET_ERROR_TYPE_DEBUG, "Link %u-%u broken\n", p1, p2);
2540   if (0 == p1 || 0 == p2)
2541   {
2542     /* We don't even know them */
2543     return;
2544   }
2545
2546   for (iter = peer->path_head; NULL != iter; iter = next)
2547   {
2548     next = iter->next;
2549     for (i = 0; i < iter->length - 1; i++)
2550     {
2551       if ((iter->peers[i] == p1 && iter->peers[i + 1] == p2)
2552           || (iter->peers[i] == p2 && iter->peers[i + 1] == p1))
2553       {
2554         char *s;
2555
2556         s = path_2s (iter);
2557         LOG (GNUNET_ERROR_TYPE_DEBUG, " - invalidating %s\n", s);
2558         GNUNET_free (s);
2559
2560         path_invalidate (iter);
2561       }
2562     }
2563   }
2564   GCC_check_connections ();
2565 }
2566
2567
2568 /**
2569  * Count the number of known paths toward the peer.
2570  *
2571  * @param peer Peer to get path info.
2572  *
2573  * @return Number of known paths.
2574  */
2575 unsigned int
2576 GCP_count_paths (const struct CadetPeer *peer)
2577 {
2578   struct CadetPeerPath *iter;
2579   unsigned int i;
2580
2581   for (iter = peer->path_head, i = 0; NULL != iter; iter = iter->next)
2582     i++;
2583
2584   return i;
2585 }
2586
2587
2588 /**
2589  * Iterate over the paths to a peer.
2590  *
2591  * @param peer Peer to get path info.
2592  * @param callback Function to call for every path.
2593  * @param cls Closure for @a callback.
2594  *
2595  * @return Number of iterated paths.
2596  */
2597 unsigned int
2598 GCP_iterate_paths (struct CadetPeer *peer,
2599                    GCP_path_iterator callback,
2600                    void *cls)
2601 {
2602   struct CadetPeerPath *iter;
2603   unsigned int i;
2604
2605   for (iter = peer->path_head, i = 0; NULL != iter; iter = iter->next)
2606   {
2607     i++;
2608     if (GNUNET_YES != callback (cls, peer, iter))
2609       break;
2610   }
2611
2612   return i;
2613 }
2614
2615
2616 /**
2617  * Iterate all known peers.
2618  *
2619  * @param iter Iterator.
2620  * @param cls Closure for @c iter.
2621  */
2622 void
2623 GCP_iterate_all (GNUNET_CONTAINER_PeerMapIterator iter,
2624                  void *cls)
2625 {
2626   GCC_check_connections ();
2627   GNUNET_CONTAINER_multipeermap_iterate (peers,
2628                                          iter,
2629                                          cls);
2630   GCC_check_connections ();
2631 }
2632
2633
2634 /**
2635  * Get the static string for a peer ID.
2636  *
2637  * @param peer Peer.
2638  *
2639  * @return Static string for it's ID.
2640  */
2641 const char *
2642 GCP_2s (const struct CadetPeer *peer)
2643 {
2644   if (NULL == peer)
2645     return "(NULL)";
2646   return GNUNET_i2s (GNUNET_PEER_resolve2 (peer->id));
2647 }
2648
2649
2650 /* end of gnunet-service-cadet_peer.c */