- doxygen
[oweals/gnunet.git] / src / mesh / gnunet-service-mesh-new.c
1 /*
2      This file is part of GNUnet.
3      (C) 2001-2013 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file mesh/gnunet-service-mesh.c
23  * @brief GNUnet MESH service
24  * @author Bartlomiej Polot
25  *
26  * STRUCTURE:
27  * - DATA STRUCTURES
28  * - GLOBAL VARIABLES
29  * - GENERAL HELPERS
30  * - PERIODIC FUNCTIONS
31  * - MESH NETWORK HANDLER HELPERS
32  * - MESH NETWORK HANDLES
33  * - MESH LOCAL HANDLER HELPERS
34  * - MESH LOCAL HANDLES
35  * - MAIN FUNCTIONS (main & run)
36  *
37  * TODO:
38  * - error reporting (CREATE/CHANGE/ADD/DEL?) -- new message!
39  * - partial disconnect reporting -- same as error reporting?
40  * - add ping message
41  * - relay corking down to core
42  * - set ttl relative to tree depth
43  * - Add data ACK count in path ACK
44  * - Make common GNUNET_MESH_Data header for unicast, to_orig, multicast
45  * TODO END
46  */
47
48 #include "platform.h"
49 #include "mesh2.h"
50 #include "mesh2_protocol.h"
51 #include "mesh_tunnel_tree.h"
52 #include "block_mesh.h"
53 #include "gnunet_dht_service.h"
54 #include "gnunet_statistics_service.h"
55
56 #define MESH_BLOOM_SIZE         128
57
58 #define MESH_DEBUG_DHT          GNUNET_NO
59 #define MESH_DEBUG_CONNECTION   GNUNET_NO
60 #define MESH_DEBUG_TIMING       __LINUX__ && GNUNET_NO
61
62 #define MESH_MAX_POLL_TIME      GNUNET_TIME_relative_multiply (\
63                                   GNUNET_TIME_UNIT_MINUTES,\
64                                   10)
65
66 #if MESH_DEBUG_CONNECTION
67 #define DEBUG_CONN(...) GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, __VA_ARGS__)
68 #else
69 #define DEBUG_CONN(...)
70 #endif
71
72 #if MESH_DEBUG_DHT
73 #define DEBUG_DHT(...) GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, __VA_ARGS__)
74 #else
75 #define DEBUG_DHT(...)
76 #endif
77
78 #if MESH_DEBUG_TIMING
79 #include <time.h>
80 double __sum;
81 uint64_t __count;
82 struct timespec __mesh_start;
83 struct timespec __mesh_end;
84 #define INTERVAL_START clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &(__mesh_start))
85 #define INTERVAL_END \
86 do {\
87   clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &(__mesh_end));\
88   double __diff = __mesh_end.tv_nsec - __mesh_start.tv_nsec;\
89   if (__diff < 0) __diff += 1000000000;\
90   __sum += __diff;\
91   __count++;\
92 } while (0)
93 #define INTERVAL_SHOW \
94 if (0 < __count)\
95   GNUNET_log (GNUNET_ERROR_TYPE_INFO, "AVG process time: %f ns\n", __sum/__count)
96 #else
97 #define INTERVAL_START
98 #define INTERVAL_END
99 #define INTERVAL_SHOW
100 #endif
101
102 /******************************************************************************/
103 /************************      DATA STRUCTURES     ****************************/
104 /******************************************************************************/
105
106 /** FWD declaration */
107 struct MeshPeerInfo;
108 struct MeshClient;
109
110
111 /**
112  * Struct containing info about a queued transmission to this peer
113  */
114 struct MeshPeerQueue
115 {
116     /**
117       * DLL next
118       */
119   struct MeshPeerQueue *next;
120
121     /**
122       * DLL previous
123       */
124   struct MeshPeerQueue *prev;
125
126     /**
127      * Peer this transmission is directed to.
128      */
129   struct MeshPeerInfo *peer;
130
131     /**
132      * Tunnel this message belongs to.
133      */
134   struct MeshTunnel *tunnel;
135
136     /**
137      * Pointer to info stucture used as cls.
138      */
139   void *cls;
140
141     /**
142      * Type of message
143      */
144   uint16_t type;
145
146     /**
147      * Size of the message
148      */
149   size_t size;
150 };
151
152
153 /**
154  * Struct containing all info possibly needed to build a package when called
155  * back by core.
156  */
157 struct MeshTransmissionDescriptor
158 {
159     /** ID of the tunnel this packet travels in */
160   struct MESH_TunnelID *origin;
161
162     /** Who was this message being sent to */
163   struct MeshPeerInfo *peer;
164
165     /** Ultimate destination of the packet */
166   GNUNET_PEER_Id destination;
167
168   /** Tunnel it belongs to. */
169   struct MeshTunnel *t;
170   
171   /** Size of the data. */
172   size_t data_len;
173   
174   /** Data itself */
175   void *data;
176 };
177
178
179 /**
180  * Struct containing all information regarding a given peer
181  */
182 struct MeshPeerInfo
183 {
184     /**
185      * ID of the peer
186      */
187   GNUNET_PEER_Id id;
188
189     /**
190      * Last time we heard from this peer
191      */
192   struct GNUNET_TIME_Absolute last_contact;
193
194     /**
195      * Number of attempts to reconnect so far
196      */
197   int n_reconnect_attempts;
198
199     /**
200      * Paths to reach the peer, ordered by ascending hop count
201      */
202   struct MeshPeerPath *path_head;
203
204     /**
205      * Paths to reach the peer, ordered by ascending hop count
206      */
207   struct MeshPeerPath *path_tail;
208
209     /**
210      * Handle to stop the DHT search for a path to this peer
211      */
212   struct GNUNET_DHT_GetHandle *dhtget;
213
214     /**
215      * Array of tunnels this peer is the target of.
216      * Most probably a small amount, therefore not a hashmap.
217      * When the path to the peer changes, notify these tunnels to let them
218      * re-adjust their path trees.
219      */
220   struct MeshTunnel **tunnels;
221
222     /**
223      * Number of tunnels this peers participates in
224      */
225   unsigned int ntunnels;
226
227    /**
228     * Transmission queue to core DLL head
229     */
230   struct MeshPeerQueue *queue_head;
231
232    /**
233     * Transmission queue to core DLL tail
234     */
235    struct MeshPeerQueue *queue_tail;
236
237    /**
238     * How many messages are in the queue to this peer.
239     */
240    unsigned int queue_n;
241
242    /**
243     * Handle to for queued transmissions
244     */
245   struct GNUNET_CORE_TransmitHandle *core_transmit;
246 };
247
248
249 /**
250  * Struct to encapsulate all the Flow Control information to a peer in the
251  * context of a tunnel: Same peer in different tunnels will have independent
252  * flow control structures, allowing to choke/free tunnels according to its
253  * own criteria.
254  */
255 struct MeshFlowControl
256 {
257   /**
258    * ID of the last packet sent towards the peer.
259    */
260   uint32_t last_pid_sent;
261
262   /**
263    * ID of the last packet received from the peer.
264    */
265   uint32_t last_pid_recv;
266
267   /**
268    * Last ACK sent to the peer (peer can't send more than this PID).
269    */
270   uint32_t last_ack_sent;
271
272   /**
273    * Last ACK sent towards the origin (for traffic towards leaf node).
274    */
275   uint32_t last_ack_recv;
276
277   /**
278    * How many messages are in the queue towards this peer.
279    */
280   uint32_t queue_n;
281
282   /**
283    * Task to poll the peer in case of a lost ACK causes stall.
284    */
285   GNUNET_SCHEDULER_TaskIdentifier poll_task;
286
287   /**
288    * How frequently to poll for ACKs.
289    */
290   struct GNUNET_TIME_Relative poll_time;
291
292   /**
293    * On which tunnel to poll.
294    * Using an explicit poll_ctx would not help memory wise,
295    * since the allocated context would have to be stored in the
296    * fc struct in order to free it upon cancelling poll_task.
297    */
298   struct MeshTunnel *t;
299 };
300
301
302 /**
303  * Globally unique tunnel identification (owner + number)
304  * DO NOT USE OVER THE NETWORK
305  */
306 struct MESH_TunnelID
307 {
308     /**
309      * Node that owns the tunnel
310      */
311   GNUNET_PEER_Id oid;
312
313     /**
314      * Tunnel number to differentiate all the tunnels owned by the node oid
315      * ( tid < GNUNET_MESH_LOCAL_TUNNEL_ID_CLI )
316      */
317   MESH_TunnelNumber tid;
318 };
319
320
321 /**
322  * Struct containing all information regarding a tunnel
323  * For an intermediate node the improtant info used will be:
324  * - id        Tunnel unique identification
325  * - paths[0]  To know where to send it next
326  * - metainfo: ready, speeds, accounting
327  */
328 struct MeshTunnel
329 {
330     /**
331      * Tunnel ID
332      */
333   struct MESH_TunnelID id;
334
335     /**
336      * Local tunnel number ( >= GNUNET_MESH_LOCAL_TUNNEL_ID_CLI or 0 )
337      */
338   MESH_TunnelNumber local_tid;
339
340     /**
341      * Local tunnel number for local destination clients (incoming number)
342      * ( >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV or 0). All clients share the same
343      * number.
344      */
345   MESH_TunnelNumber local_tid_dest;
346
347     /**
348      * Is the tunnel bufferless (minimum latency)?
349      */
350   int nobuffer;
351
352     /**
353      * Force sending ACK? Flag to allow duplicate ACK on POLL.
354      */
355   int force_ack;
356
357     /**
358      * How many messages do we accept in the forward queue.
359      */
360   unsigned int queue_max;
361
362     /**
363      * Last time the tunnel was used
364      */
365   struct GNUNET_TIME_Absolute timestamp;
366
367     /**
368      * Destination of the tunnel.
369      */
370   GNUNET_PEER_Id dest;
371
372     /**
373      * Next hop in the tunnel. If 0, @c client must be set.
374      */
375   GNUNET_PEER_Id next_hop;
376
377     /**
378      * Previous hop in the tunnel. If 0, @c owner must be set.
379      */
380   GNUNET_PEER_Id prev_hop;
381
382     /**
383      * Flow control information about @c next_hop or @c client.
384      */
385   struct MeshFlowControl next_fc;
386
387   /**
388    * Flow control information about @c prev_hop or @c owner.
389    */
390   struct MeshFlowControl prev_fc;
391
392     /**
393      * Client owner of the tunnel, if any
394      */
395   struct MeshClient *owner;
396
397     /**
398      * Client destination of the tunnel, if any.
399      */
400   struct MeshClient *client;
401
402     /**
403      * Task to keep the used paths alive at the owner,
404      * time tunnel out on all the other peers.
405      */
406   GNUNET_SCHEDULER_TaskIdentifier maintenance_task;
407
408     /**
409      * Path being used for the tunnel.
410      */
411   struct MeshPeerPath *path;
412
413     /**
414      * Flag to signal the destruction of the tunnel.
415      * If this is set GNUNET_YES the tunnel will be destroyed
416      * when the queue is empty.
417      */
418   int destroy;
419
420     /**
421      * Total messages pending for this tunnels, payload or not.
422      */
423   unsigned int pending_messages;
424 };
425
426
427 /**
428  * Struct containing information about a client of the service
429  * 
430  * TODO: add a list of 'waiting' types
431  */
432 struct MeshClient
433 {
434     /**
435      * Linked list next
436      */
437   struct MeshClient *next;
438
439     /**
440      * Linked list prev
441      */
442   struct MeshClient *prev;
443
444     /**
445      * Tunnels that belong to this client, indexed by local id
446      */
447   struct GNUNET_CONTAINER_MultiHashMap *own_tunnels;
448
449    /**
450      * Tunnels this client has accepted, indexed by incoming local id
451      */
452   struct GNUNET_CONTAINER_MultiHashMap *incoming_tunnels;
453
454     /**
455      * Handle to communicate with the client
456      */
457   struct GNUNET_SERVER_Client *handle;
458
459     /**
460      * Messages that this client has declared interest in.
461      * Indexed by a GMC_hash32 (type), contains *Client.
462      */
463   struct GNUNET_CONTAINER_MultiHashMap *types;
464
465     /**
466      * Whether the client is active or shutting down (don't send confirmations
467      * to a client that is shutting down.
468      */
469   int shutting_down;
470
471     /**
472      * ID of the client, mainly for debug messages
473      */
474   unsigned int id;
475
476 };
477
478
479 /******************************************************************************/
480 /************************      DEBUG FUNCTIONS     ****************************/
481 /******************************************************************************/
482
483 #if MESH_DEBUG
484 /**
485  * GNUNET_SCHEDULER_Task for printing a message after some operation is done
486  * @param cls string to print
487  * @param success  GNUNET_OK if the PUT was transmitted,
488  *                GNUNET_NO on timeout,
489  *                GNUNET_SYSERR on disconnect from service
490  *                after the PUT message was transmitted
491  *                (so we don't know if it was received or not)
492  */
493
494 #if 0
495 static void
496 mesh_debug (void *cls, int success)
497 {
498   char *s = cls;
499
500   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "%s (%d)\n", s, success);
501 }
502 #endif
503
504 unsigned int debug_fwd_ack;
505 unsigned int debug_bck_ack;
506
507 #endif
508
509 /******************************************************************************/
510 /***********************      GLOBAL VARIABLES     ****************************/
511 /******************************************************************************/
512
513 /************************** Configuration parameters **************************/
514
515 /**
516  * How often to send tunnel keepalives. Tunnels timeout after 4 missed.
517  */
518 static struct GNUNET_TIME_Relative refresh_path_time;
519
520 /**
521  * How often to PUT own ID in the DHT.
522  */
523 static struct GNUNET_TIME_Relative id_announce_time;
524
525 /**
526  * Maximum time allowed to connect to a peer found by string.
527  */
528 static struct GNUNET_TIME_Relative connect_timeout;
529
530 /**
531  * Default TTL for payload packets.
532  */
533 static unsigned long long default_ttl;
534
535 /**
536  * DHT replication level, see DHT API: GNUNET_DHT_get_start, GNUNET_DHT_put.
537  */
538 static unsigned long long dht_replication_level;
539
540 /**
541  * How many tunnels are we willing to maintain.
542  * Local tunnels are always allowed, even if there are more tunnels than max.
543  */
544 static unsigned long long max_tunnels;
545
546 /**
547  * How many messages *in total* are we willing to queue, divided by number of 
548  * tunnels to get tunnel queue size.
549  */
550 static unsigned long long max_msgs_queue;
551
552 /**
553  * How many peers do we want to remember?
554  */
555 static unsigned long long max_peers;
556
557
558 /*************************** Static global variables **************************/
559
560 /**
561  * Hostkey generation context
562  */
563 static struct GNUNET_CRYPTO_EccKeyGenerationContext *keygen;
564
565 /**
566  * DLL with all the clients, head.
567  */
568 static struct MeshClient *clients_head;
569
570 /**
571  * DLL with all the clients, tail.
572  */
573 static struct MeshClient *clients_tail;
574
575 /**
576  * Tunnels known, indexed by MESH_TunnelID (MeshTunnel).
577  */
578 static struct GNUNET_CONTAINER_MultiHashMap *tunnels;
579
580 /**
581  * Number of tunnels known.
582  */
583 static unsigned long long n_tunnels;
584
585 /**
586  * Tunnels incoming, indexed by MESH_TunnelNumber
587  * (which is greater than GNUNET_MESH_LOCAL_TUNNEL_ID_SERV).
588  */
589 static struct GNUNET_CONTAINER_MultiHashMap *incoming_tunnels;
590
591 /**
592  * Peers known, indexed by PeerIdentity (MeshPeerInfo).
593  */
594 static struct GNUNET_CONTAINER_MultiHashMap *peers;
595
596 /*
597  * Handle to communicate with transport
598  */
599 // static struct GNUNET_TRANSPORT_Handle *transport_handle;
600
601 /**
602  * Handle to communicate with core.
603  */
604 static struct GNUNET_CORE_Handle *core_handle;
605
606 /**
607  * Handle to use DHT.
608  */
609 static struct GNUNET_DHT_Handle *dht_handle;
610
611 /**
612  * Handle to server.
613  */
614 static struct GNUNET_SERVER_Handle *server_handle;
615
616 /**
617  * Handle to the statistics service.
618  */
619 static struct GNUNET_STATISTICS_Handle *stats;
620
621 /**
622  * Notification context, to send messages to local clients.
623  */
624 static struct GNUNET_SERVER_NotificationContext *nc;
625
626 /**
627  * Local peer own ID (memory efficient handle).
628  */
629 static GNUNET_PEER_Id myid;
630
631 /**
632  * Local peer own ID (full value).
633  */
634 static struct GNUNET_PeerIdentity my_full_id;
635
636 /**
637  * Own private key.
638  */
639 static struct GNUNET_CRYPTO_EccPrivateKey *my_private_key;
640
641 /**
642  * Own public key.
643  */
644 static struct GNUNET_CRYPTO_EccPublicKeyBinaryEncoded my_public_key;
645
646 /**
647  * Tunnel ID for the next created tunnel (global tunnel number).
648  */
649 static MESH_TunnelNumber next_tid;
650
651 /**
652  * Tunnel ID for the next incoming tunnel (local tunnel number).
653  */
654 static MESH_TunnelNumber next_local_tid;
655
656 /**
657  * All message types clients of this peer are interested in.
658  */
659 static struct GNUNET_CONTAINER_MultiHashMap *types;
660
661 /**
662  * Task to periodically announce itself in the network.
663  */
664 GNUNET_SCHEDULER_TaskIdentifier announce_id_task;
665
666 /**
667  * Next ID to assign to a client.
668  */
669 unsigned int next_client_id;
670
671
672 /******************************************************************************/
673 /***********************         DECLARATIONS        **************************/
674 /******************************************************************************/
675
676 /**
677  * Function to process paths received for a new peer addition. The recorded
678  * paths form the initial tunnel, which can be optimized later.
679  * Called on each result obtained for the DHT search.
680  *
681  * @param cls closure
682  * @param exp when will this value expire
683  * @param key key of the result
684  * @param type type of the result
685  * @param size number of bytes in data
686  * @param data pointer to the result data
687  */
688 static void
689 dht_get_id_handler (void *cls, struct GNUNET_TIME_Absolute exp,
690                     const struct GNUNET_HashCode * key,
691                     const struct GNUNET_PeerIdentity *get_path,
692                     unsigned int get_path_length,
693                     const struct GNUNET_PeerIdentity *put_path,
694                     unsigned int put_path_length, enum GNUNET_BLOCK_Type type,
695                     size_t size, const void *data);
696
697
698 /**
699  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
700  * and insert it in the appropiate structures if the peer is not known yet.
701  *
702  * @param peer Full identity of the peer.
703  *
704  * @return Existing or newly created peer info.
705  */
706 static struct MeshPeerInfo *
707 peer_get (const struct GNUNET_PeerIdentity *peer);
708
709
710 /**
711  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
712  * and insert it in the appropiate structures if the peer is not known yet.
713  *
714  * @param peer Short identity of the peer.
715  *
716  * @return Existing or newly created peer info.
717  */
718 static struct MeshPeerInfo *
719 peer_get_short (const GNUNET_PEER_Id peer);
720
721
722 /**
723  * Build a PeerPath from the paths returned from the DHT, reversing the paths
724  * to obtain a local peer -> destination path and interning the peer ids.
725  *
726  * @return Newly allocated and created path
727  */
728 static struct MeshPeerPath *
729 path_build_from_dht (const struct GNUNET_PeerIdentity *get_path,
730                      unsigned int get_path_length,
731                      const struct GNUNET_PeerIdentity *put_path,
732                      unsigned int put_path_length);
733
734
735 /**
736  * Adds a path to the peer_infos of all the peers in the path
737  *
738  * @param p Path to process.
739  * @param confirmed Whether we know if the path works or not.
740  */
741 static void
742 path_add_to_peers (struct MeshPeerPath *p, int confirmed);
743
744
745
746 /**
747  * Search for a tunnel by global ID using full PeerIdentities.
748  *
749  * @param oid owner of the tunnel.
750  * @param tid global tunnel number.
751  *
752  * @return tunnel handler, NULL if doesn't exist.
753  */
754 static struct MeshTunnel *
755 tunnel_get (const struct GNUNET_PeerIdentity *oid, MESH_TunnelNumber tid);
756
757
758 /**
759  * Notify a tunnel that a connection has broken that affects at least
760  * some of its peers.
761  *
762  * @param t Tunnel affected.
763  * @param p1 Peer that got disconnected from p2.
764  * @param p2 Peer that got disconnected from p1.
765  *
766  * @return Short ID of the peer disconnected (either p1 or p2).
767  *         0 if the tunnel remained unaffected.
768  */
769 static GNUNET_PEER_Id
770 tunnel_notify_connection_broken (struct MeshTunnel *t, GNUNET_PEER_Id p1,
771                                  GNUNET_PEER_Id p2);
772
773
774 /**
775  * Use the given path for the tunnel.
776  * 
777  * @param t Tunnel to update.
778  * @param p Path to use.
779  */
780 static void
781 tunnel_use_path (struct MeshTunnel *t, struct MeshPeerPath *p);
782
783 /**
784  * @brief Queue and pass message to core when possible.
785  * 
786  * If type is payload (UNICAST, TO_ORIGIN, MULTICAST) checks for queue status
787  * and accounts for it. In case the queue is full, the message is dropped and
788  * a break issued.
789  * 
790  * Otherwise, message is treated as internal and allowed to go regardless of 
791  * queue status.
792  *
793  * @param cls Closure (@c type dependant). It will be used by queue_send to
794  *            build the message to be sent if not already prebuilt.
795  * @param type Type of the message, 0 for a raw message.
796  * @param size Size of the message.
797  * @param dst Neighbor to send message to.
798  * @param t Tunnel this message belongs to.
799  */
800 static void
801 queue_add (void *cls, uint16_t type, size_t size,
802            struct MeshPeerInfo *dst, struct MeshTunnel *t);
803
804
805 /**
806  * Free a transmission that was already queued with all resources
807  * associated to the request.
808  *
809  * @param queue Queue handler to cancel.
810  * @param clear_cls Is it necessary to free associated cls?
811  */
812 static void
813 queue_destroy (struct MeshPeerQueue *queue, int clear_cls);
814
815
816 /**
817  * @brief Get the next transmittable message from the queue.
818  *
819  * This will be the head, except in the case of being a data packet
820  * not allowed by the destination peer.
821  *
822  * @param peer Destination peer.
823  *
824  * @return The next viable MeshPeerQueue element to send to that peer.
825  *         NULL when there are no transmittable messages.
826  */
827 struct MeshPeerQueue *
828 queue_get_next (const struct MeshPeerInfo *peer);
829
830
831 /**
832  * Core callback to write a queued packet to core buffer
833  *
834  * @param cls Closure (peer info).
835  * @param size Number of bytes available in buf.
836  * @param buf Where the to write the message.
837  *
838  * @return number of bytes written to buf
839  */
840 static size_t
841 queue_send (void *cls, size_t size, void *buf);
842
843
844 /******************************************************************************/
845 /************************    PERIODIC FUNCTIONS    ****************************/
846 /******************************************************************************/
847
848 /**
849  * Periodically announce self id in the DHT
850  *
851  * @param cls closure
852  * @param tc task context
853  */
854 static void
855 announce_id (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
856 {
857   struct PBlock block;
858
859   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
860   {
861     announce_id_task = GNUNET_SCHEDULER_NO_TASK;
862     return;
863   }
864   /* TODO
865    * - Set data expiration in function of X
866    * - Adapt X to churn
867    */
868   DEBUG_DHT ("DHT_put for ID %s started.\n", GNUNET_i2s (&my_full_id));
869
870   block.id = my_full_id;
871   block.type = htonl (0);
872   GNUNET_DHT_put (dht_handle,   /* DHT handle */
873                   &my_full_id.hashPubKey,       /* Key to use */
874                   dht_replication_level,     /* Replication level */
875                   GNUNET_DHT_RO_RECORD_ROUTE | GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,    /* DHT options */
876                   GNUNET_BLOCK_TYPE_MESH_PEER,       /* Block type */
877                   sizeof (block),  /* Size of the data */
878                   (const char *) &block, /* Data itself */
879                   GNUNET_TIME_UNIT_FOREVER_ABS,  /* Data expiration */
880                   GNUNET_TIME_UNIT_FOREVER_REL, /* Retry time */
881                   NULL,         /* Continuation */
882                   NULL);        /* Continuation closure */
883   announce_id_task =
884       GNUNET_SCHEDULER_add_delayed (id_announce_time, &announce_id, cls);
885 }
886
887
888 /******************************************************************************/
889 /******************      GENERAL HELPER FUNCTIONS      ************************/
890 /******************************************************************************/
891
892
893 /**
894  * Check if client has registered with the service and has not disconnected
895  *
896  * @param client the client to check
897  *
898  * @return non-NULL if client exists in the global DLL
899  */
900 static struct MeshClient *
901 client_get (struct GNUNET_SERVER_Client *client)
902 {
903   struct MeshClient *c;
904
905   c = clients_head;
906   while (NULL != c)
907   {
908     if (c->handle == client)
909       return c;
910     c = c->next;
911   }
912   return NULL;
913 }
914
915
916 /**
917  * Deletes a tunnel from a client (either owner or destination). To be used on
918  * tunnel destroy.
919  *
920  * @param c Client whose tunnel to delete.
921  * @param t Tunnel which should be deleted.
922  */
923 static void
924 client_delete_tunnel (struct MeshClient *c, struct MeshTunnel *t)
925 {
926   struct GNUNET_HashCode hash;
927
928   if (c == t->owner)
929   {
930     GMC_hash32 (t->local_tid, &hash);
931     GNUNET_assert (GNUNET_YES ==
932                    GNUNET_CONTAINER_multihashmap_remove (c->own_tunnels,
933                                                          &hash,
934                                                          t));
935   }
936   else if (c == t->client)
937   {
938     GMC_hash32 (t->local_tid_dest, &hash);
939     GNUNET_assert (GNUNET_YES ==
940                    GNUNET_CONTAINER_multihashmap_remove (c->incoming_tunnels,
941                                                          &hash,
942                                                          t));
943   }
944   else
945   {
946     GNUNET_break (0);
947   }
948 }
949
950
951 /**
952  * Notify all clients (not depending on registration status) that the incoming
953  * tunnel is no longer valid.
954  *
955  * @param t Tunnel that was destroyed.
956  */
957 static void
958 send_client_tunnel_destroy (struct MeshTunnel *t)
959 {
960   struct GNUNET_MESH_TunnelMessage msg;
961
962   if (NULL == t->client)
963     return;
964   msg.header.size = htons (sizeof (msg));
965   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_DESTROY);
966   msg.tunnel_id = htonl (t->local_tid_dest);
967   GNUNET_SERVER_notification_context_unicast (nc, t->client->handle,
968                                               &msg.header, GNUNET_NO);
969 }
970
971
972 /**
973  * Iterator over all the peers to remove the oldest not-used entry.
974  *
975  * @param cls Closure (unsued).
976  * @param key ID of the peer.
977  * @param value Peer_Info of the peer.
978  *
979  * FIXME implement
980  */
981 static int
982 peer_info_timeout (void *cls,
983                    const struct GNUNET_HashCode *key,
984                    void *value)
985 {
986   return GNUNET_YES;
987 }
988
989 /**
990  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
991  * and insert it in the appropiate structures if the peer is not known yet.
992  *
993  * @param peer Full identity of the peer.
994  *
995  * @return Existing or newly created peer info.
996  */
997 static struct MeshPeerInfo *
998 peer_get (const struct GNUNET_PeerIdentity *peer)
999 {
1000   struct MeshPeerInfo *peer_info;
1001
1002   peer_info = GNUNET_CONTAINER_multihashmap_get (peers, &peer->hashPubKey);
1003   if (NULL == peer_info)
1004   {
1005     peer_info =
1006         (struct MeshPeerInfo *) GNUNET_malloc (sizeof (struct MeshPeerInfo));
1007     if (GNUNET_CONTAINER_multihashmap_size (peers) > max_peers)
1008     {
1009       GNUNET_CONTAINER_multihashmap_iterate (peers,
1010                                              &peer_info_timeout,
1011                                              NULL);
1012     }
1013     GNUNET_CONTAINER_multihashmap_put (peers, &peer->hashPubKey, peer_info,
1014                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
1015     peer_info->id = GNUNET_PEER_intern (peer);
1016   }
1017   peer_info->last_contact = GNUNET_TIME_absolute_get();
1018
1019   return peer_info;
1020 }
1021
1022
1023 /**
1024  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
1025  * and insert it in the appropiate structures if the peer is not known yet.
1026  *
1027  * @param peer Short identity of the peer.
1028  *
1029  * @return Existing or newly created peer info.
1030  */
1031 static struct MeshPeerInfo *
1032 peer_get_short (const GNUNET_PEER_Id peer)
1033 {
1034   struct GNUNET_PeerIdentity id;
1035
1036   GNUNET_PEER_resolve (peer, &id);
1037   return peer_get (&id);
1038 }
1039
1040
1041 /**
1042  * Choose the best path towards a peer considering the tunnel properties.
1043  * 
1044  * @param peer The destination peer.
1045  * @param t The tunnel the path is for.
1046  *
1047  * @return Best current known path towards the peer, if any.
1048  */
1049 static struct MeshPeerPath *
1050 peer_get_best_path (const struct MeshPeerInfo *peer, const struct MeshTunnel *t)
1051 {
1052   struct MeshPeerPath *best_p;
1053   struct MeshPeerPath *p;
1054   unsigned int best_cost;
1055   unsigned int cost;
1056
1057   best_p = p = peer->path_head;
1058   best_cost = cost = p->length;
1059   while (NULL != p)
1060   {
1061     if ((cost = p->length) < best_cost)
1062     {
1063       best_cost = cost;
1064       best_p = p;
1065     }
1066         p = p->next;
1067   }
1068   return best_p;
1069 }
1070
1071
1072 /**
1073  * Remove the tunnel from the list of tunnels to which a peer is target.
1074  *
1075  * @param peer PeerInfo of the peer.
1076  * @param t Tunnel to remove.
1077  */
1078 static void
1079 peer_remove_tunnel (struct MeshPeerInfo *peer, struct MeshTunnel *t)
1080 {
1081   unsigned int i;
1082
1083   for (i = 0; i < peer->ntunnels; i++)
1084   {
1085     if (0 ==
1086         memcmp (&peer->tunnels[i]->id, &t->id, sizeof (struct MESH_TunnelID)))
1087     {
1088       peer->ntunnels--;
1089       peer->tunnels[i] = peer->tunnels[peer->ntunnels];
1090       peer->tunnels = 
1091         GNUNET_realloc (peer->tunnels, 
1092                         peer->ntunnels * sizeof(struct MeshTunnel *));
1093       return;
1094     }
1095   }
1096 }
1097
1098
1099 /**
1100   * Core callback to write a pre-constructed data packet to core buffer
1101   *
1102   * @param cls Closure (MeshTransmissionDescriptor with data in "data" member).
1103   * @param size Number of bytes available in buf.
1104   * @param buf Where the to write the message.
1105   *
1106   * @return number of bytes written to buf
1107   */
1108 static size_t
1109 send_core_data_raw (void *cls, size_t size, void *buf)
1110 {
1111   struct MeshTransmissionDescriptor *info = cls;
1112   struct GNUNET_MessageHeader *msg;
1113   size_t total_size;
1114
1115   GNUNET_assert (NULL != info);
1116   msg = (struct GNUNET_MessageHeader *) info->data;
1117   total_size = ntohs (msg->size);
1118
1119   if (total_size > size)
1120   {
1121     GNUNET_break (0);
1122     return 0;
1123   }
1124   memcpy (buf, msg, total_size);
1125   GNUNET_free (info->data);
1126   GNUNET_free (info);
1127   return total_size;
1128 }
1129
1130
1131 /**
1132  * Sends an already built message to a peer, properly registrating
1133  * all used resources.
1134  *
1135  * @param message Message to send. Function makes a copy of it.
1136  * @param peer Short ID of the neighbor whom to send the message.
1137  * @param t Tunnel on which this message is transmitted.
1138  */
1139 static void
1140 send_prebuilt_message (const struct GNUNET_MessageHeader *message,
1141                        GNUNET_PEER_Id peer,
1142                        struct MeshTunnel *t)
1143 {
1144   struct MeshTransmissionDescriptor *info;
1145   struct GNUNET_PeerIdentity id;
1146   struct MeshPeerInfo *neighbor;
1147   struct MeshPeerPath *p;
1148   size_t size;
1149   uint16_t type;
1150
1151 //   GNUNET_TRANSPORT_try_connect(); FIXME use?
1152
1153   if (0 == peer)
1154     return;
1155
1156   size = ntohs (message->size);
1157   info = GNUNET_malloc (sizeof (struct MeshTransmissionDescriptor));
1158   info->data = GNUNET_malloc (size);
1159   memcpy (info->data, message, size);
1160   type = ntohs(message->type);
1161   switch (type)
1162   {
1163     struct GNUNET_MESH_Unicast *m;
1164     struct GNUNET_MESH_ToOrigin *to;
1165
1166     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
1167       m = (struct GNUNET_MESH_Unicast *) info->data;
1168       m->ttl = htonl (ntohl (m->ttl) - 1);
1169       break;
1170     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
1171       to = (struct GNUNET_MESH_ToOrigin *) info->data;
1172       t->prev_fc.last_pid_sent++; /* FIXME per hop? */
1173       to->pid = htonl (t->prev_fc.last_pid_sent);
1174   }
1175   info->data_len = size;
1176   GNUNET_PEER_resolve (peer, &id);
1177   neighbor = peer_get (&id);
1178   for (p = neighbor->path_head; NULL != p; p = p->next)
1179   {
1180     if (2 >= p->length)
1181     {
1182       break;
1183     }
1184   }
1185   if (NULL == p)
1186   {
1187 #if MESH_DEBUG
1188     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1189                 "  %s IS NOT DIRECTLY CONNECTED\n",
1190                 GNUNET_i2s(&id));
1191     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1192                 "  PATHS TO %s:\n",
1193                 GNUNET_i2s(&id));
1194     for (p = neighbor->path_head; NULL != p; p = p->next)
1195     {
1196       struct GNUNET_PeerIdentity debug_id;
1197       unsigned int i;
1198
1199       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1200                   "    path with %u hops through:\n",
1201                   p->length);
1202       for (i = 0; i < p->length; i++)
1203       {
1204         GNUNET_PEER_resolve(p->peers[i], &debug_id);
1205         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1206                     "      hop %u: %s\n",
1207                     i, GNUNET_i2s(&debug_id));
1208       }
1209     }
1210 #endif
1211     GNUNET_break (0); // FIXME sometimes fails (testing disconnect?)
1212     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1213                     " no direct connection to %s\n",
1214                     GNUNET_i2s (&id));
1215     GNUNET_free (info->data);
1216     GNUNET_free (info);
1217     return;
1218   }
1219   info->peer = neighbor;
1220   if (GNUNET_MESSAGE_TYPE_MESH_PATH_ACK == type)
1221     type = 0;
1222   queue_add (info,
1223              type,
1224              size,
1225              neighbor,
1226              t);
1227 }
1228
1229
1230 /**
1231  * Sends a CREATE PATH message for a path to a peer, properly registrating
1232  * all used resources.
1233  *
1234  * @param peer PeerInfo of the final peer for whom this path is being created.
1235  * @param p Path itself.
1236  * @param t Tunnel for which the path is created.
1237  */
1238 static void
1239 send_create_path (struct MeshPeerInfo *peer, struct MeshPeerPath *p,
1240                   struct MeshTunnel *t)
1241 {
1242   struct MeshPeerInfo *neighbor;
1243
1244   if (NULL == p)
1245   {
1246     GNUNET_break (0);
1247     return;
1248   }
1249
1250   neighbor = peer_get_short (t->next_hop);
1251   queue_add (t,
1252              GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE,
1253              sizeof (struct GNUNET_MESH_ManipulatePath) +
1254                 (p->length * sizeof (struct GNUNET_PeerIdentity)),
1255              neighbor,
1256              t);
1257 }
1258
1259
1260 /**
1261  * Sends a PATH ACK message in reponse to a received PATH_CREATE directed to us.
1262  *
1263  * @param t Tunnel which to confirm.
1264  */
1265 static void
1266 send_path_ack (struct MeshTunnel *t) 
1267 {
1268   struct MeshTransmissionDescriptor *info;
1269   struct GNUNET_PeerIdentity id;
1270
1271   GNUNET_PEER_resolve (t->prev_hop, &id);
1272   info = GNUNET_malloc (sizeof (struct MeshTransmissionDescriptor));
1273   info->origin = &t->id;
1274   info->peer = GNUNET_CONTAINER_multihashmap_get (peers, &id.hashPubKey);
1275   GNUNET_assert (NULL != info->peer);
1276
1277   queue_add (info,
1278              GNUNET_MESSAGE_TYPE_MESH_PATH_ACK,
1279              sizeof (struct GNUNET_MESH_PathACK),
1280              info->peer,
1281              t);
1282 }
1283
1284
1285 /**
1286  * Try to establish a new connection to this peer in the fiven tunnel.
1287  * If the peer doesn't have any path to it yet, try to get one.
1288  * If the peer already has some path, send a CREATE PATH towards it.
1289  *
1290  * @param peer PeerInfo of the peer.
1291  * @param t Tunnel for which to create the path, if possible.
1292  */
1293 static void
1294 peer_connect (struct MeshPeerInfo *peer, struct MeshTunnel *t)
1295 {
1296   struct MeshPeerPath *p;
1297
1298   if (NULL != peer->path_head)
1299   {
1300     p = peer_get_best_path (peer, t);
1301     tunnel_use_path (t, p);
1302     send_create_path (peer, p, t);
1303   }
1304   else if (NULL == peer->dhtget)
1305   {
1306     struct GNUNET_PeerIdentity id;
1307
1308     GNUNET_PEER_resolve (peer->id, &id);
1309     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1310                 "  Starting DHT GET for peer %s\n", GNUNET_i2s (&id));
1311     peer->dhtget = GNUNET_DHT_get_start (dht_handle,    /* handle */
1312                                          GNUNET_BLOCK_TYPE_MESH_PEER, /* type */
1313                                          &id.hashPubKey,     /* key to search */
1314                                          dht_replication_level, /* replication level */
1315                                          GNUNET_DHT_RO_RECORD_ROUTE |
1316                                          GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,
1317                                          NULL,       /* xquery */
1318                                          0,     /* xquery bits */
1319                                          &dht_get_id_handler, peer);
1320   }
1321   /* Otherwise, there is no path but the DHT get is already started. */
1322 }
1323
1324
1325 /**
1326  * Destroy the peer_info and free any allocated resources linked to it
1327  *
1328  * @param pi The peer_info to destroy.
1329  *
1330  * @return GNUNET_OK on success
1331  */
1332 static int
1333 peer_info_destroy (struct MeshPeerInfo *pi)
1334 {
1335   struct GNUNET_PeerIdentity id;
1336   struct MeshPeerPath *p;
1337   struct MeshPeerPath *nextp;
1338
1339   GNUNET_PEER_resolve (pi->id, &id);
1340   GNUNET_PEER_change_rc (pi->id, -1);
1341
1342   if (GNUNET_YES !=
1343       GNUNET_CONTAINER_multihashmap_remove (peers, &id.hashPubKey, pi))
1344   {
1345     GNUNET_break (0);
1346     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1347                 "removing peer %s, not in hashmap\n", GNUNET_i2s (&id));
1348   }
1349   if (NULL != pi->dhtget)
1350   {
1351     GNUNET_DHT_get_stop (pi->dhtget);
1352   }
1353   p = pi->path_head;
1354   while (NULL != p)
1355   {
1356     nextp = p->next;
1357     GNUNET_CONTAINER_DLL_remove (pi->path_head, pi->path_tail, p);
1358     path_destroy (p);
1359     p = nextp;
1360   }
1361   GNUNET_free (pi);
1362   return GNUNET_OK;
1363 }
1364
1365
1366 /**
1367  * Remove all paths that rely on a direct connection between p1 and p2
1368  * from the peer itself and notify all tunnels about it.
1369  *
1370  * @param peer PeerInfo of affected peer.
1371  * @param p1 GNUNET_PEER_Id of one peer.
1372  * @param p2 GNUNET_PEER_Id of another peer that was connected to the first and
1373  *           no longer is.
1374  *
1375  * TODO: optimize (see below)
1376  */
1377 static void
1378 peer_remove_path (struct MeshPeerInfo *peer, GNUNET_PEER_Id p1,
1379                        GNUNET_PEER_Id p2)
1380 {
1381   struct MeshPeerPath *p;
1382   struct MeshPeerPath *next;
1383   struct MeshPeerInfo *peer_d;
1384   GNUNET_PEER_Id d;
1385   unsigned int destroyed;
1386   unsigned int i;
1387
1388   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "peer_info_remove_path\n");
1389   destroyed = 0;
1390   for (p = peer->path_head; NULL != p; p = next)
1391   {
1392     next = p->next;
1393     for (i = 0; i < (p->length - 1); i++)
1394     {
1395       if ((p->peers[i] == p1 && p->peers[i + 1] == p2) ||
1396           (p->peers[i] == p2 && p->peers[i + 1] == p1))
1397       {
1398         GNUNET_CONTAINER_DLL_remove (peer->path_head, peer->path_tail, p);
1399         path_destroy (p);
1400         destroyed++;
1401         break;
1402       }
1403     }
1404   }
1405   if (0 == destroyed)
1406     return;
1407
1408   for (i = 0; i < peer->ntunnels; i++)
1409   {
1410     d = tunnel_notify_connection_broken (peer->tunnels[i], p1, p2);
1411     if (0 == d)
1412       continue;
1413
1414     peer_d = peer_get_short (d);
1415     next = peer_get_best_path (peer_d, peer->tunnels[i]);
1416     tunnel_use_path (peer->tunnels[i], next);
1417     peer_connect (peer_d, peer->tunnels[i]);
1418   }
1419   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "peer_info_remove_path END\n");
1420 }
1421
1422
1423 /**
1424  * Add the path to the peer and update the path used to reach it in case this
1425  * is the shortest.
1426  *
1427  * @param peer_info Destination peer to add the path to.
1428  * @param path New path to add. Last peer must be the peer in arg 1.
1429  *             Path will be either used of freed if already known.
1430  * @param trusted Do we trust that this path is real?
1431  */
1432 void
1433 peer_info_add_path (struct MeshPeerInfo *peer_info, struct MeshPeerPath *path,
1434                     int trusted)
1435 {
1436   struct MeshPeerPath *aux;
1437   unsigned int l;
1438   unsigned int l2;
1439
1440   if ((NULL == peer_info) || (NULL == path))
1441   {
1442     GNUNET_break (0);
1443     path_destroy (path);
1444     return;
1445   }
1446   if (path->peers[path->length - 1] != peer_info->id)
1447   {
1448     GNUNET_break (0);
1449     path_destroy (path);
1450     return;
1451   }
1452   if (path->length <= 2 && GNUNET_NO == trusted)
1453   {
1454     /* Only allow CORE to tell us about direct paths */
1455     path_destroy (path);
1456     return;
1457   }
1458   GNUNET_assert (peer_info->id == path->peers[path->length - 1]);
1459   for (l = 1; l < path->length; l++)
1460   {
1461     if (path->peers[l] == myid)
1462     {
1463       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shortening path by %u\n", l);
1464       for (l2 = 0; l2 < path->length - l; l2++)
1465       {
1466         path->peers[l2] = path->peers[l + l2];
1467       }
1468       path->length -= l;
1469       l = 1;
1470       path->peers =
1471           GNUNET_realloc (path->peers, path->length * sizeof (GNUNET_PEER_Id));
1472     }
1473   }
1474 #if MESH_DEBUG
1475   {
1476     struct GNUNET_PeerIdentity id;
1477
1478     GNUNET_PEER_resolve (peer_info->id, &id);
1479     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "adding path [%u] to peer %s\n",
1480                 path->length, GNUNET_i2s (&id));
1481   }
1482 #endif
1483   l = path_get_length (path);
1484   if (0 == l)
1485   {
1486     GNUNET_free (path);
1487     return;
1488   }
1489
1490   GNUNET_assert (peer_info->id == path->peers[path->length - 1]);
1491   for (aux = peer_info->path_head; aux != NULL; aux = aux->next)
1492   {
1493     l2 = path_get_length (aux);
1494     if (l2 > l)
1495     {
1496       GNUNET_CONTAINER_DLL_insert_before (peer_info->path_head,
1497                                           peer_info->path_tail, aux, path);
1498       return;
1499     }
1500     else
1501     {
1502       if (l2 == l && memcmp (path->peers, aux->peers, l) == 0)
1503       {
1504         path_destroy (path);
1505         return;
1506       }
1507     }
1508   }
1509   GNUNET_CONTAINER_DLL_insert_tail (peer_info->path_head, peer_info->path_tail,
1510                                     path);
1511   return;
1512 }
1513
1514
1515 /**
1516  * Add the path to the origin peer and update the path used to reach it in case
1517  * this is the shortest.
1518  * The path is given in peer_info -> destination, therefore we turn the path
1519  * upside down first.
1520  *
1521  * @param peer_info Peer to add the path to, being the origin of the path.
1522  * @param path New path to add after being inversed.
1523  * @param trusted Do we trust that this path is real?
1524  */
1525 static void
1526 peer_info_add_path_to_origin (struct MeshPeerInfo *peer_info,
1527                               struct MeshPeerPath *path, int trusted)
1528 {
1529   path_invert (path);
1530   peer_info_add_path (peer_info, path, trusted);
1531 }
1532
1533
1534 /**
1535  * Function called if the connection to the peer has been stalled for a while,
1536  * possibly due to a missed ACK. Poll the peer about its ACK status.
1537  *
1538  * @param cls Closure (poll ctx).
1539  * @param tc TaskContext.
1540  */
1541 static void
1542 tunnel_poll (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1543 {
1544   struct MeshFlowControl *fc = cls;
1545   struct GNUNET_MESH_Poll msg;
1546   struct MeshTunnel *t = fc->t;
1547   GNUNET_PEER_Id peer;
1548
1549   fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
1550   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1551   {
1552     return;
1553   }
1554
1555   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_POLL);
1556   msg.header.size = htons (sizeof (msg));
1557   msg.tid = htonl (t->id.tid);
1558   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
1559   msg.last_ack = htonl (fc->last_ack_recv);
1560
1561   if (fc == &t->prev_fc)
1562   {
1563     peer = t->prev_hop;
1564   }
1565   else
1566   {
1567     peer = t->next_hop;
1568   }
1569   send_prebuilt_message (&msg.header, peer, t);
1570   fc->poll_time = GNUNET_TIME_STD_BACKOFF (fc->poll_time);
1571   fc->poll_task = GNUNET_SCHEDULER_add_delayed (fc->poll_time,
1572                                                 &tunnel_poll, fc);
1573 }
1574
1575
1576 /**
1577  * Build a PeerPath from the paths returned from the DHT, reversing the paths
1578  * to obtain a local peer -> destination path and interning the peer ids.
1579  *
1580  * @return Newly allocated and created path
1581  */
1582 static struct MeshPeerPath *
1583 path_build_from_dht (const struct GNUNET_PeerIdentity *get_path,
1584                      unsigned int get_path_length,
1585                      const struct GNUNET_PeerIdentity *put_path,
1586                      unsigned int put_path_length)
1587 {
1588   struct MeshPeerPath *p;
1589   GNUNET_PEER_Id id;
1590   int i;
1591
1592   p = path_new (1);
1593   p->peers[0] = myid;
1594   GNUNET_PEER_change_rc (myid, 1);
1595   i = get_path_length;
1596   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   GET has %d hops.\n", i);
1597   for (i--; i >= 0; i--)
1598   {
1599     id = GNUNET_PEER_intern (&get_path[i]);
1600     if (p->length > 0 && id == p->peers[p->length - 1])
1601     {
1602       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Optimizing 1 hop out.\n");
1603       GNUNET_PEER_change_rc (id, -1);
1604     }
1605     else
1606     {
1607       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Adding from GET: %s.\n",
1608                   GNUNET_i2s (&get_path[i]));
1609       p->length++;
1610       p->peers = GNUNET_realloc (p->peers, sizeof (GNUNET_PEER_Id) * p->length);
1611       p->peers[p->length - 1] = id;
1612     }
1613   }
1614   i = put_path_length;
1615   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   PUT has %d hops.\n", i);
1616   for (i--; i >= 0; i--)
1617   {
1618     id = GNUNET_PEER_intern (&put_path[i]);
1619     if (id == myid)
1620     {
1621       /* PUT path went through us, so discard the path up until now and start
1622        * from here to get a much shorter (and loop-free) path.
1623        */
1624       path_destroy (p);
1625       p = path_new (0);
1626     }
1627     if (p->length > 0 && id == p->peers[p->length - 1])
1628     {
1629       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Optimizing 1 hop out.\n");
1630       GNUNET_PEER_change_rc (id, -1);
1631     }
1632     else
1633     {
1634       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Adding from PUT: %s.\n",
1635                   GNUNET_i2s (&put_path[i]));
1636       p->length++;
1637       p->peers = GNUNET_realloc (p->peers, sizeof (GNUNET_PEER_Id) * p->length);
1638       p->peers[p->length - 1] = id;
1639     }
1640   }
1641 #if MESH_DEBUG
1642   if (get_path_length > 0)
1643     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (first of GET: %s)\n",
1644                 GNUNET_i2s (&get_path[0]));
1645   if (put_path_length > 0)
1646     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (first of PUT: %s)\n",
1647                 GNUNET_i2s (&put_path[0]));
1648   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   In total: %d hops\n",
1649               p->length);
1650   for (i = 0; i < p->length; i++)
1651   {
1652     struct GNUNET_PeerIdentity peer_id;
1653
1654     GNUNET_PEER_resolve (p->peers[i], &peer_id);
1655     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "       %u: %s\n", p->peers[i],
1656                 GNUNET_i2s (&peer_id));
1657   }
1658 #endif
1659   return p;
1660 }
1661
1662
1663 /**
1664  * Adds a path to the peer_infos of all the peers in the path
1665  *
1666  * @param p Path to process.
1667  * @param confirmed Whether we know if the path works or not.
1668  */
1669 static void
1670 path_add_to_peers (struct MeshPeerPath *p, int confirmed)
1671 {
1672   unsigned int i;
1673
1674   /* TODO: invert and add */
1675   for (i = 0; i < p->length && p->peers[i] != myid; i++) /* skip'em */ ;
1676   for (i++; i < p->length; i++)
1677   {
1678     struct MeshPeerInfo *aux;
1679     struct MeshPeerPath *copy;
1680
1681     aux = peer_get_short (p->peers[i]);
1682     copy = path_duplicate (p);
1683     copy->length = i + 1;
1684     peer_info_add_path (aux, copy, GNUNET_NO);
1685   }
1686 }
1687
1688
1689 /**
1690  * Send keepalive packets for a peer
1691  *
1692  * @param cls Closure (tunnel for which to send the keepalive).
1693  * @param tc Notification context.
1694  */
1695 static void
1696 path_refresh (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc);
1697
1698
1699 /**
1700  * Search for a tunnel among the incoming tunnels
1701  *
1702  * @param tid the local id of the tunnel
1703  *
1704  * @return tunnel handler, NULL if doesn't exist
1705  */
1706 static struct MeshTunnel *
1707 tunnel_get_incoming (MESH_TunnelNumber tid)
1708 {
1709   struct GNUNET_HashCode hash;
1710
1711   GNUNET_assert (tid >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV);
1712   GMC_hash32 (tid, &hash);
1713   return GNUNET_CONTAINER_multihashmap_get (incoming_tunnels, &hash);
1714 }
1715
1716
1717 /**
1718  * Search for a tunnel among the tunnels for a client
1719  *
1720  * @param c the client whose tunnels to search in
1721  * @param tid the local id of the tunnel
1722  *
1723  * @return tunnel handler, NULL if doesn't exist
1724  */
1725 static struct MeshTunnel *
1726 tunnel_get_by_local_id (struct MeshClient *c, MESH_TunnelNumber tid)
1727 {
1728   if (tid >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
1729   {
1730     return tunnel_get_incoming (tid);
1731   }
1732   else
1733   {
1734     struct GNUNET_HashCode hash;
1735
1736     GMC_hash32 (tid, &hash);
1737     return GNUNET_CONTAINER_multihashmap_get (c->own_tunnels, &hash);
1738   }
1739 }
1740
1741
1742 /**
1743  * Search for a tunnel by global ID using PEER_ID
1744  *
1745  * @param pi owner of the tunnel
1746  * @param tid global tunnel number
1747  *
1748  * @return tunnel handler, NULL if doesn't exist
1749  */
1750 static struct MeshTunnel *
1751 tunnel_get_by_pi (GNUNET_PEER_Id pi, MESH_TunnelNumber tid)
1752 {
1753   struct MESH_TunnelID id;
1754   struct GNUNET_HashCode hash;
1755
1756   id.oid = pi;
1757   id.tid = tid;
1758
1759   GNUNET_CRYPTO_hash (&id, sizeof (struct MESH_TunnelID), &hash);
1760   return GNUNET_CONTAINER_multihashmap_get (tunnels, &hash);
1761 }
1762
1763
1764 /**
1765  * Search for a tunnel by global ID using full PeerIdentities
1766  *
1767  * @param oid owner of the tunnel
1768  * @param tid global tunnel number
1769  *
1770  * @return tunnel handler, NULL if doesn't exist
1771  */
1772 static struct MeshTunnel *
1773 tunnel_get (const struct GNUNET_PeerIdentity *oid, MESH_TunnelNumber tid)
1774 {
1775   return tunnel_get_by_pi (GNUNET_PEER_search (oid), tid);
1776 }
1777
1778
1779 /**
1780  * Add a client to a tunnel, initializing all needed data structures.
1781  * 
1782  * FIXME: make static after implementing port numbers
1783  * 
1784  * @param t Tunnel to which add the client.
1785  * @param c Client which to add to the tunnel.
1786  */
1787 void
1788 tunnel_add_client (struct MeshTunnel *t, struct MeshClient *c)
1789 {
1790   if (NULL != t->client)
1791   {
1792     GNUNET_break(0);
1793     return;
1794   }
1795   if (0 != t->next_hop)
1796   {
1797     GNUNET_break(0);
1798     return;
1799   }
1800   t->client = c;
1801 }
1802
1803
1804 static void
1805 tunnel_use_path (struct MeshTunnel *t, struct MeshPeerPath *p)
1806 {
1807   unsigned int i;
1808
1809   for (i = 0; i < p->length; i++)
1810   {
1811     if (p->peers[i] == myid)
1812       break;
1813   }
1814   if (i > p->length - 1)
1815   {
1816     GNUNET_break (0);
1817     return;
1818   }
1819
1820   if (i < p->length - 1)
1821     t->next_hop = p->peers[i + 1];
1822   else
1823     t->next_hop = 0;
1824   if (0 < i)
1825     t->prev_hop = p->peers[i - 1];
1826   else
1827     t->prev_hop = 0;
1828
1829   if (NULL != t->path)
1830     path_destroy (t->path);
1831   t->path = path_duplicate (p);
1832   if (GNUNET_SCHEDULER_NO_TASK == t->maintenance_task)
1833     t->maintenance_task =
1834         GNUNET_SCHEDULER_add_delayed (refresh_path_time, &path_refresh, t);
1835 }
1836
1837
1838 /**
1839  * Notifies a tunnel that a connection has broken that affects at least
1840  * some of its peers. Sends a notification towards the root of the tree.
1841  * In case the peer is the owner of the tree, notifies the client that owns
1842  * the tunnel and tries to reconnect.
1843  *
1844  * @param t Tunnel affected.
1845  * @param p1 Peer that got disconnected from p2.
1846  * @param p2 Peer that got disconnected from p1.
1847  *
1848  * @return Short ID of the peer disconnected (either p1 or p2).
1849  *         0 if the tunnel remained unaffected.
1850  */
1851 static GNUNET_PEER_Id
1852 tunnel_notify_connection_broken (struct MeshTunnel *t, GNUNET_PEER_Id p1,
1853                                  GNUNET_PEER_Id p2)
1854 {
1855 //   if (myid != p1 && myid != p2) FIXME
1856 //   {
1857 //     return;
1858 //   }
1859 // 
1860 //   if (tree_get_predecessor (t->tree) != 0)
1861 //   {
1862 //     /* We are the peer still connected, notify owner of the disconnection. */
1863 //     struct GNUNET_MESH_PathBroken msg;
1864 //     struct GNUNET_PeerIdentity neighbor;
1865 // 
1866 //     msg.header.size = htons (sizeof (msg));
1867 //     msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN);
1868 //     GNUNET_PEER_resolve (t->id.oid, &msg.oid);
1869 //     msg.tid = htonl (t->id.tid);
1870 //     msg.peer1 = my_full_id;
1871 //     GNUNET_PEER_resolve (pid, &msg.peer2);
1872 //     GNUNET_PEER_resolve (tree_get_predecessor (t->tree), &neighbor);
1873 //     send_prebuilt_message (&msg.header, &neighbor, t);
1874 //   }
1875   return 0;
1876 }
1877
1878
1879 /**
1880  * Build a local ACK message and send it to a local client.
1881  * 
1882  * @param t Tunnel on which to send the ACK.
1883  * @param c Client to whom send the ACK.
1884  * @param ack Value of the ACK.
1885  */
1886 static void
1887 send_local_ack (struct MeshTunnel *t, struct MeshClient *c, uint32_t ack)
1888 {
1889   struct GNUNET_MESH_LocalAck msg;
1890
1891   msg.header.size = htons (sizeof (msg));
1892   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK);
1893   msg.tunnel_id = htonl (t->owner == c ? t->local_tid : t->local_tid_dest);
1894   msg.max_pid = htonl (ack); 
1895   GNUNET_SERVER_notification_context_unicast(nc,
1896                                               c->handle,
1897                                               &msg.header,
1898                                               GNUNET_NO);
1899 }
1900
1901 /**
1902  * Build an ACK message and queue it to send to the given peer.
1903  * 
1904  * @param t Tunnel on which to send the ACK.
1905  * @param peer Peer to whom send the ACK.
1906  * @param ack Value of the ACK.
1907  */
1908 static void
1909 send_ack (struct MeshTunnel *t, GNUNET_PEER_Id peer,  uint32_t ack)
1910 {
1911   struct GNUNET_MESH_ACK msg;
1912
1913   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
1914   msg.header.size = htons (sizeof (msg));
1915   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_ACK);
1916   msg.pid = htonl (ack);
1917   msg.tid = htonl (t->id.tid);
1918
1919   send_prebuilt_message (&msg.header, peer, t);
1920 }
1921
1922
1923 /**
1924  * Send an ACK informing the predecessor about the available buffer space.
1925  * In case there is no predecessor, inform the owning client.
1926  * If buffering is off, send only on behalf of children or self if endpoint.
1927  * If buffering is on, send when sent to children and buffer space is free.
1928  * Note that although the name is fwd_ack, the FWD mean forward *traffic*,
1929  * the ACK itself goes "back" (towards root).
1930  * 
1931  * @param t Tunnel on which to send the ACK.
1932  * @param type Type of message that triggered the ACK transmission.
1933  */
1934 static void
1935 tunnel_send_fwd_ack (struct MeshTunnel *t, uint16_t type)
1936 {
1937   uint32_t ack;
1938
1939   /* Is it after unicast retransmission? */
1940   switch (type)
1941   {
1942     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
1943       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1944                   "ACK due to FWD DATA retransmission\n");
1945       if (GNUNET_YES == t->nobuffer)
1946       {
1947         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending ACK, nobuffer\n");
1948         return;
1949       }
1950       break;
1951     case GNUNET_MESSAGE_TYPE_MESH_ACK:
1952     case GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK:
1953       break;
1954     case GNUNET_MESSAGE_TYPE_MESH_POLL:
1955       t->force_ack = GNUNET_YES;
1956       break;
1957     default:
1958       GNUNET_break (0);
1959   }
1960
1961   /* Check if we need to transmit the ACK */
1962   if (t->queue_max > t->next_fc.queue_n * 4 &&
1963       GMC_is_pid_bigger(t->prev_fc.last_ack_sent, t->prev_fc.last_pid_recv) &&
1964       GNUNET_NO == t->force_ack)
1965   {
1966     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending ACK, buffer free\n");
1967     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1968                 "  t->qmax: %u, t->qn: %u\n",
1969                 t->queue_max, t->next_fc.queue_n);
1970     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1971                 "  t->pid: %u, t->ack: %u\n",
1972                 t->prev_fc.last_pid_recv, t->prev_fc.last_ack_sent);
1973     return;
1974   }
1975
1976   /* Ok, ACK might be necessary, what PID to ACK? */
1977   ack = t->prev_fc.last_pid_recv + t->queue_max - t->next_fc.queue_n;
1978   if (ack == t->prev_fc.last_ack_sent && GNUNET_NO == t->force_ack)
1979   {
1980     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending FWD ACK, not needed\n");
1981     return;
1982   }
1983
1984   t->prev_fc.last_ack_sent = ack;
1985   if (0 != t->prev_hop)
1986     send_ack (t, t->prev_hop, ack);
1987   else if (NULL != t->owner)
1988     send_local_ack (t, t->owner, ack);
1989   else
1990     GNUNET_break (0);
1991   debug_fwd_ack++;
1992   t->force_ack = GNUNET_NO;
1993 }
1994
1995
1996 /**
1997  * Send an ACK informing the children node/client about the available
1998  * buffer space.
1999  * If buffering is off, send only on behalf of root (can be self).
2000  * If buffering is on, send when sent to predecessor and buffer space is free.
2001  * Note that although the name is bck_ack, the BCK mean backwards *traffic*,
2002  * the ACK itself goes "forward" (towards children/clients).
2003  * 
2004  * @param t Tunnel on which to send the ACK.
2005  * @param type Type of message that triggered the ACK transmission.
2006  */
2007 static void
2008 tunnel_send_bck_ack (struct MeshTunnel *t, uint16_t type)
2009 {
2010   uint32_t ack;
2011   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2012               "Sending BCK ACK on tunnel %u [%u] due to %s\n",
2013               t->id.oid, t->id.tid, GNUNET_MESH_DEBUG_M2S(type));
2014   /* Is it after data to_origin retransmission? */
2015   switch (type)
2016   {
2017     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2018       if (GNUNET_YES == t->nobuffer)
2019       {
2020         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2021                     "    Not sending ACK, nobuffer + traffic\n");
2022         return;
2023       }
2024       break;
2025     case GNUNET_MESSAGE_TYPE_MESH_ACK:
2026     case GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK:
2027       break;
2028     case GNUNET_MESSAGE_TYPE_MESH_POLL:
2029       t->force_ack = GNUNET_YES;
2030       break;
2031     default:
2032       GNUNET_break (0);
2033   }
2034
2035   ack = t->next_fc.last_pid_recv + t->queue_max - t->prev_fc.queue_n;
2036
2037   if (t->next_fc.last_ack_sent == ack && GNUNET_NO == t->force_ack)
2038   {
2039     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2040                 "    Not sending ACK, not needed\n");
2041     return;
2042   }
2043   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2044               "    Sending BCK ACK %u (last sent: %u)\n",
2045               ack, t->next_fc.last_ack_sent);
2046   t->next_fc.last_ack_sent = ack;
2047
2048   if (0 != t->next_hop)
2049     send_ack (t, t->next_hop, ack);
2050   else if (NULL != t->client)
2051     send_local_ack (t, t->client, ack);
2052   else
2053     GNUNET_break (0);
2054   t->force_ack = GNUNET_NO;
2055 }
2056
2057
2058 /**
2059  * @brief Re-initiate traffic to this peer if necessary.
2060  *
2061  * Check if there is traffic queued towards this peer
2062  * and the core transmit handle is NULL (traffic was stalled).
2063  * If so, call core tmt rdy.
2064  *
2065  * @param peer_id Short ID of peer to which initiate traffic.
2066  */
2067 static void
2068 peer_unlock_queue(GNUNET_PEER_Id peer_id)
2069 {
2070   struct MeshPeerInfo *peer;
2071   struct GNUNET_PeerIdentity id;
2072   struct MeshPeerQueue *q;
2073   size_t size;
2074
2075   peer = peer_get_short (peer_id);
2076   if (NULL != peer->core_transmit)
2077     return;
2078
2079   q = queue_get_next (peer);
2080   if (NULL == q)
2081   {
2082     /* Might br multicast traffic already sent to this particular peer but
2083      * not to other children in this tunnel.
2084      * This way t->queue_n would be > 0 but the queue of this particular peer
2085      * would be empty.
2086      */
2087     return;
2088   }
2089   size = q->size;
2090   GNUNET_PEER_resolve (peer->id, &id);
2091   peer->core_transmit =
2092         GNUNET_CORE_notify_transmit_ready(core_handle,
2093                                           0,
2094                                           0,
2095                                           GNUNET_TIME_UNIT_FOREVER_REL,
2096                                           &id,
2097                                           size,
2098                                           &queue_send,
2099                                           peer);
2100         return;
2101 }
2102
2103
2104 /**
2105  * Send a message to all peers in this tunnel that the tunnel is no longer
2106  * valid.
2107  *
2108  * @param t The tunnel whose peers to notify.
2109  */
2110 static void
2111 tunnel_send_destroy (struct MeshTunnel *t)
2112 {
2113   struct GNUNET_MESH_TunnelDestroy msg;
2114   struct GNUNET_PeerIdentity id;
2115
2116   msg.header.size = htons (sizeof (msg));
2117   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY);
2118   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
2119   msg.tid = htonl (t->id.tid);
2120   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2121               "  sending tunnel destroy for tunnel: %s [%X]\n",
2122               GNUNET_i2s (&msg.oid), t->id.tid);
2123
2124   if (0 != t->next_hop)
2125   {
2126     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  child: %u\n", t->next_hop);
2127     GNUNET_PEER_resolve (t->next_hop, &id);
2128     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2129                 "  sending forward to %s\n",
2130                 GNUNET_i2s (&id));
2131     send_prebuilt_message (&msg.header, t->next_hop, t);
2132   }
2133   if (0 != t->prev_hop)
2134   {
2135     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  parent: %u\n", t->prev_hop);
2136     GNUNET_PEER_resolve (t->prev_hop, &id);
2137     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2138                 "  sending back to %s\n",
2139                 GNUNET_i2s (&id));
2140     send_prebuilt_message (&msg.header, t->prev_hop, t);
2141   }
2142 }
2143
2144
2145 /**
2146  * Cancel all transmissions towards a neighbor that belongs to a certain tunnel.
2147  *
2148  * @param t Tunnel which to cancel.
2149  * @param neighbor Short ID of the neighbor to whom cancel the transmissions.
2150  */
2151 static void
2152 peer_cancel_queues (GNUNET_PEER_Id neighbor, struct MeshTunnel *t)
2153 {
2154   struct MeshPeerInfo *peer_info;
2155   struct MeshPeerQueue *pq;
2156   struct MeshPeerQueue *next;
2157
2158   peer_info = peer_get_short (neighbor);
2159   for (pq = peer_info->queue_head; NULL != pq; pq = next)
2160   {
2161     next = pq->next;
2162     if (pq->tunnel == t)
2163     {
2164       if (GNUNET_MESSAGE_TYPE_MESH_UNICAST == pq->type ||
2165           GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == pq->type)
2166       {
2167         // Should have been removed on destroy children
2168         GNUNET_break (0);
2169       }
2170       queue_destroy (pq, GNUNET_YES);
2171     }
2172   }
2173   if (NULL == peer_info->queue_head && NULL != peer_info->core_transmit)
2174   {
2175     GNUNET_CORE_notify_transmit_ready_cancel(peer_info->core_transmit);
2176     peer_info->core_transmit = NULL;
2177   }
2178 }
2179
2180
2181 /**
2182  * Destroy the tunnel and free any allocated resources linked to it.
2183  *
2184  * @param t the tunnel to destroy
2185  *
2186  * @return GNUNET_OK on success
2187  */
2188 static int
2189 tunnel_destroy (struct MeshTunnel *t)
2190 {
2191   struct MeshClient *c;
2192   struct GNUNET_HashCode hash;
2193   int r;
2194
2195   if (NULL == t)
2196     return GNUNET_OK;
2197
2198   r = GNUNET_OK;
2199   c = t->owner;
2200 #if MESH_DEBUG
2201   {
2202     struct GNUNET_PeerIdentity id;
2203
2204     GNUNET_PEER_resolve (t->id.oid, &id);
2205     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "destroying tunnel %s [%x]\n",
2206                 GNUNET_i2s (&id), t->id.tid);
2207     if (NULL != c)
2208       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
2209   }
2210 #endif
2211
2212   GNUNET_CRYPTO_hash (&t->id, sizeof (struct MESH_TunnelID), &hash);
2213   if (GNUNET_YES != GNUNET_CONTAINER_multihashmap_remove (tunnels, &hash, t))
2214   {
2215     GNUNET_break (0);
2216     r = GNUNET_SYSERR;
2217   }
2218
2219   if (NULL != c)
2220   {
2221     GMC_hash32 (t->local_tid, &hash);
2222     if (GNUNET_YES !=
2223         GNUNET_CONTAINER_multihashmap_remove (c->own_tunnels, &hash, t))
2224     {
2225       GNUNET_break (0);
2226       r = GNUNET_SYSERR;
2227     }
2228   }
2229
2230   if (NULL != t->client)
2231   {
2232     GMC_hash32 (t->local_tid_dest, &hash);
2233     if (GNUNET_YES !=
2234           GNUNET_CONTAINER_multihashmap_remove (c->incoming_tunnels, &hash, t))
2235     {
2236       GNUNET_break (0);
2237       r = GNUNET_SYSERR;
2238     }
2239   }
2240   if (GNUNET_YES != 
2241       GNUNET_CONTAINER_multihashmap_remove (incoming_tunnels, &hash, t))
2242   {
2243     GNUNET_break (0);
2244     r = GNUNET_SYSERR;
2245   }
2246
2247   peer_cancel_queues (t->next_hop, t);
2248   peer_cancel_queues (t->prev_hop, t);
2249
2250   if (GNUNET_SCHEDULER_NO_TASK != t->maintenance_task)
2251     GNUNET_SCHEDULER_cancel (t->maintenance_task);
2252
2253   n_tunnels--;
2254   GNUNET_STATISTICS_update (stats, "# tunnels", -1, GNUNET_NO);
2255   GNUNET_free (t);
2256   return r;
2257 }
2258
2259 #define TUNNEL_DESTROY_EMPTY_TIME GNUNET_TIME_UNIT_MILLISECONDS
2260
2261 /**
2262  * Tunnel is empty: destroy it.
2263  * 
2264  * @param t Tunnel to destroy. 
2265  */
2266 static void
2267 tunnel_destroy_empty (struct MeshTunnel *t)
2268 {
2269   #if MESH_DEBUG
2270   {
2271     struct GNUNET_PeerIdentity id;
2272
2273     GNUNET_PEER_resolve (t->id.oid, &id);
2274     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2275                 "executing destruction of empty tunnel %s [%X]\n",
2276                 GNUNET_i2s (&id), t->id.tid);
2277   }
2278   #endif
2279
2280   tunnel_send_destroy (t);
2281   if (0 == t->pending_messages)
2282     tunnel_destroy (t);
2283   else
2284     t->destroy = GNUNET_YES;
2285 }
2286
2287 /**
2288  * Initialize a Flow Control structure to the initial state.
2289  * 
2290  * @param fc Flow Control structure to initialize.
2291  */
2292 static void
2293 fc_init (struct MeshFlowControl *fc)
2294 {
2295   fc->last_pid_sent = (uint32_t) -1; /* Next (expected) = 0 */
2296   fc->last_pid_recv = (uint32_t) -1;
2297   fc->last_ack_sent = INITIAL_WINDOW_SIZE - 1;
2298   fc->last_ack_recv = INITIAL_WINDOW_SIZE - 1;
2299   fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
2300   fc->poll_time = GNUNET_TIME_UNIT_SECONDS;
2301   fc->queue_n = 0;
2302 }
2303
2304 /**
2305  * Create a new tunnel
2306  * 
2307  * @param owner Who is the owner of the tunnel (short ID).
2308  * @param tid Tunnel Number of the tunnel.
2309  * @param client Clients that owns the tunnel, NULL for foreign tunnels.
2310  * @param local Tunnel Number for the tunnel, for the client point of view.
2311  * 
2312  * @return A new initialized tunnel. NULL on error.
2313  */
2314 static struct MeshTunnel *
2315 tunnel_new (GNUNET_PEER_Id owner,
2316             MESH_TunnelNumber tid,
2317             struct MeshClient *client,
2318             MESH_TunnelNumber local)
2319 {
2320   struct MeshTunnel *t;
2321   struct GNUNET_HashCode hash;
2322
2323   if (n_tunnels >= max_tunnels && NULL == client)
2324     return NULL;
2325
2326   t = GNUNET_malloc (sizeof (struct MeshTunnel));
2327   t->id.oid = owner;
2328   t->id.tid = tid;
2329   t->queue_max = (max_msgs_queue / max_tunnels) + 1;
2330   t->owner = client;
2331   fc_init (&t->next_fc);
2332   fc_init (&t->prev_fc);
2333   t->local_tid = local;
2334   n_tunnels++;
2335   GNUNET_STATISTICS_update (stats, "# tunnels", 1, GNUNET_NO);
2336
2337   GNUNET_CRYPTO_hash (&t->id, sizeof (struct MESH_TunnelID), &hash);
2338   if (GNUNET_OK !=
2339       GNUNET_CONTAINER_multihashmap_put (tunnels, &hash, t,
2340                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
2341   {
2342     GNUNET_break (0);
2343     tunnel_destroy (t);
2344     if (NULL != client)
2345     {
2346       GNUNET_break (0);
2347       GNUNET_SERVER_receive_done (client->handle, GNUNET_SYSERR);
2348     }
2349     return NULL;
2350   }
2351
2352   if (NULL != client)
2353   {
2354     GMC_hash32 (t->local_tid, &hash);
2355     if (GNUNET_OK !=
2356         GNUNET_CONTAINER_multihashmap_put (client->own_tunnels, &hash, t,
2357                                           GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
2358     {
2359       tunnel_destroy (t);
2360       GNUNET_break (0);
2361       GNUNET_SERVER_receive_done (client->handle, GNUNET_SYSERR);
2362       return NULL;
2363     }
2364   }
2365
2366   return t;
2367 }
2368
2369
2370
2371 /**
2372  * tunnel_destroy_iterator: iterator for deleting each tunnel that belongs to a
2373  * client when the client disconnects. If the client is not the owner, the
2374  * owner will get notified if no more clients are in the tunnel and the client
2375  * get removed from the tunnel's list.
2376  *
2377  * @param cls closure (client that is disconnecting)
2378  * @param key the hash of the local tunnel id (used to access the hashmap)
2379  * @param value the value stored at the key (tunnel to destroy)
2380  *
2381  * @return GNUNET_OK, keep iterating.
2382  */
2383 static int
2384 tunnel_destroy_iterator (void *cls,
2385                          const struct GNUNET_HashCode * key,
2386                          void *value)
2387 {
2388   struct MeshTunnel *t = value;
2389   struct MeshClient *c = cls;
2390
2391   send_client_tunnel_destroy (t);
2392   if (c != t->owner)
2393   {
2394     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Client %u is destination.\n", c->id);
2395     client_delete_tunnel (c, t);
2396     tunnel_destroy_empty (t);
2397     return GNUNET_OK;
2398   }
2399   tunnel_send_destroy (t);
2400   t->owner = NULL;
2401   t->destroy = GNUNET_YES;
2402
2403   return GNUNET_OK;
2404 }
2405
2406
2407 /**
2408  * Timeout function, destroys tunnel if called
2409  *
2410  * @param cls Closure (tunnel to destroy).
2411  * @param tc TaskContext
2412  */
2413 static void
2414 tunnel_timeout (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
2415 {
2416   struct MeshTunnel *t = cls;
2417   struct GNUNET_PeerIdentity id;
2418
2419   t->maintenance_task = GNUNET_SCHEDULER_NO_TASK;
2420   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
2421     return;
2422   GNUNET_PEER_resolve(t->id.oid, &id);
2423   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
2424               "Tunnel %s [%X] timed out. Destroying.\n",
2425               GNUNET_i2s(&id), t->id.tid);
2426   send_client_tunnel_destroy (t);
2427   tunnel_destroy (t);
2428 }
2429
2430
2431 /**
2432  * Resets the tunnel timeout. Starts it if no timeout was running.
2433  *
2434  * @param t Tunnel whose timeout to reset.
2435  *
2436  * TODO use heap to improve efficiency of scheduler.
2437  */
2438 static void
2439 tunnel_reset_timeout (struct MeshTunnel *t)
2440 {
2441   if (NULL != t->owner || 0 != t->local_tid || 0 == t->prev_hop)
2442     return;
2443   if (GNUNET_SCHEDULER_NO_TASK != t->maintenance_task)
2444     GNUNET_SCHEDULER_cancel (t->maintenance_task);
2445   t->maintenance_task =
2446       GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_relative_multiply
2447                                     (refresh_path_time, 4), &tunnel_timeout, t);
2448 }
2449
2450
2451 /******************************************************************************/
2452 /****************      MESH NETWORK HANDLER HELPERS     ***********************/
2453 /******************************************************************************/
2454
2455 /**
2456  * Function to send a create path packet to a peer.
2457  *
2458  * @param cls closure
2459  * @param size number of bytes available in buf
2460  * @param buf where the callee should write the message
2461  * @return number of bytes written to buf
2462  */
2463 static size_t
2464 send_core_path_create (void *cls, size_t size, void *buf)
2465 {
2466   struct MeshTunnel *t = cls;
2467   struct GNUNET_MESH_ManipulatePath *msg;
2468   struct GNUNET_PeerIdentity *peer_ptr;
2469   struct MeshPeerPath *p = t->path;
2470   size_t size_needed;
2471   uint32_t opt;
2472   int i;
2473
2474   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "CREATE PATH sending...\n");
2475   size_needed =
2476       sizeof (struct GNUNET_MESH_ManipulatePath) +
2477       p->length * sizeof (struct GNUNET_PeerIdentity);
2478
2479   if (size < size_needed || NULL == buf)
2480   {
2481     GNUNET_break (0);
2482     return 0;
2483   }
2484   msg = (struct GNUNET_MESH_ManipulatePath *) buf;
2485   msg->header.size = htons (size_needed);
2486   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE);
2487   msg->tid = ntohl (t->id.tid);
2488
2489   opt = 0;
2490   if (GNUNET_YES == t->nobuffer)
2491     opt |= MESH_TUNNEL_OPT_NOBUFFER;
2492   msg->opt = htonl(opt);
2493   msg->reserved = 0;
2494
2495   peer_ptr = (struct GNUNET_PeerIdentity *) &msg[1];
2496   for (i = 0; i < p->length; i++)
2497   {
2498     GNUNET_PEER_resolve (p->peers[i], peer_ptr++);
2499   }
2500
2501   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2502               "CREATE PATH (%u bytes long) sent!\n", size_needed);
2503   return size_needed;
2504 }
2505
2506
2507 /**
2508  * Creates a path ack message in buf and frees all unused resources.
2509  *
2510  * @param cls closure (MeshTransmissionDescriptor)
2511  * @param size number of bytes available in buf
2512  * @param buf where the callee should write the message
2513  * @return number of bytes written to buf
2514  */
2515 static size_t
2516 send_core_path_ack (void *cls, size_t size, void *buf)
2517 {
2518   struct MeshTransmissionDescriptor *info = cls;
2519   struct GNUNET_MESH_PathACK *msg = buf;
2520
2521   GNUNET_assert (NULL != info);
2522   if (sizeof (struct GNUNET_MESH_PathACK) > size)
2523   {
2524     GNUNET_break (0);
2525     return 0;
2526   }
2527   msg->header.size = htons (sizeof (struct GNUNET_MESH_PathACK));
2528   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_ACK);
2529   GNUNET_PEER_resolve (info->origin->oid, &msg->oid);
2530   msg->tid = htonl (info->origin->tid);
2531   msg->peer_id = my_full_id;
2532
2533   GNUNET_free (info);
2534   /* TODO add signature */
2535
2536   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "PATH ACK sent!\n");
2537   return sizeof (struct GNUNET_MESH_PathACK);
2538 }
2539
2540
2541 /**
2542  * Free a transmission that was already queued with all resources
2543  * associated to the request.
2544  *
2545  * @param queue Queue handler to cancel.
2546  * @param clear_cls Is it necessary to free associated cls?
2547  */
2548 static void
2549 queue_destroy (struct MeshPeerQueue *queue, int clear_cls)
2550 {
2551   struct MeshTransmissionDescriptor *dd;
2552 //   unsigned int max;
2553
2554   if (GNUNET_YES == clear_cls)
2555   {
2556     switch (queue->type)
2557     {
2558       case GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY:
2559         GNUNET_log (GNUNET_ERROR_TYPE_INFO, "   cancelling TUNNEL_DESTROY\n");
2560         GNUNET_break (GNUNET_YES == queue->tunnel->destroy);
2561         /* fall through */
2562       case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2563       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2564       case GNUNET_MESSAGE_TYPE_MESH_ACK:
2565       case GNUNET_MESSAGE_TYPE_MESH_POLL:
2566       case GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE:
2567         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2568                     "   prebuilt message\n");
2569         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2570                     "   type %s\n",
2571                     GNUNET_MESH_DEBUG_M2S(queue->type));
2572         dd = queue->cls;
2573         GNUNET_free (dd->data);
2574         break;
2575       case GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE:
2576         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   type create path\n");
2577         break;
2578       default:
2579         GNUNET_break (0);
2580         GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2581                     "   type %s unknown!\n",
2582                     GNUNET_MESH_DEBUG_M2S(queue->type));
2583     }
2584     GNUNET_free_non_null (queue->cls);
2585   }
2586   GNUNET_CONTAINER_DLL_remove (queue->peer->queue_head,
2587                                queue->peer->queue_tail,
2588                                queue);
2589
2590   /* Delete from child_fc in the appropiate tunnel */
2591 //   max = queue->tunnel->fwd_queue_max;
2592 //   GNUNET_PEER_resolve (queue->peer->id, &id);
2593 //   if (NULL != cinfo)
2594 //   { FIXME
2595 //     for (i = 0; i < cinfo->send_buffer_n; i++)
2596 //     {
2597 //       i2 = (cinfo->send_buffer_start + i) % max;
2598 //       if (cinfo->send_buffer[i2] == queue)
2599 //       {
2600 //         /* Found corresponding entry in the send_buffer. Move all others back. */
2601 //         unsigned int j;
2602 // 
2603 // 
2604 //         for (j = i, j2 = 0, j3 = 0; j < cinfo->send_buffer_n - 1; j++)
2605 //         {
2606 //           j2 = (cinfo->send_buffer_start + j) % max;
2607 //           j3 = (cinfo->send_buffer_start + j + 1) % max;
2608 //           cinfo->send_buffer[j2] = cinfo->send_buffer[j3];
2609 //         }
2610 // 
2611 //         cinfo->send_buffer[j3] = NULL;
2612 //         cinfo->send_buffer_n--;
2613 //       }
2614 //     }
2615 //   }
2616
2617   GNUNET_free (queue);
2618 }
2619
2620
2621 /**
2622  * @brief Get the next transmittable message from the queue.
2623  *
2624  * This will be the head, except in the case of being a data packet
2625  * not allowed by the destination peer.
2626  *
2627  * @param peer Destination peer.
2628  *
2629  * @return The next viable MeshPeerQueue element to send to that peer.
2630  *         NULL when there are no transmittable messages.
2631  */
2632 struct MeshPeerQueue *
2633 queue_get_next (const struct MeshPeerInfo *peer)
2634 {
2635   struct MeshPeerQueue *q;
2636  
2637   struct MeshTransmissionDescriptor *info;
2638 //   struct GNUNET_MESH_Unicast *ucast;
2639 //   struct GNUNET_MESH_ToOrigin *to_orig;
2640   struct GNUNET_PeerIdentity id;
2641 //   uint32_t pid;
2642 //   uint32_t ack; FIXME
2643
2644   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   selecting message\n");
2645   for (q = peer->queue_head; NULL != q; q = q->next)
2646   {
2647 //     t = q->tunnel;
2648     info = q->cls;
2649     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2650                 "*********     %s\n",
2651                 GNUNET_MESH_DEBUG_M2S(q->type));
2652     switch (q->type)
2653     {
2654       case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2655 //         ucast = (struct GNUNET_MESH_Unicast *) info->mesh_data->data;
2656 //         pid = ntohl (ucast->pid);
2657         GNUNET_PEER_resolve (info->peer->id, &id);
2658 //         ack = cinfo->fwd_ack;
2659         break;
2660       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2661 //         to_orig = (struct GNUNET_MESH_ToOrigin *) info->mesh_data->data;
2662 //         pid = ntohl (to_orig->pid);
2663 //         ack = t->bck_ack;
2664         break;
2665       default:
2666         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2667                     "*********   OK!\n");
2668         return q;
2669     }
2670 //     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2671 //                 "*********     ACK: %u, PID: %u\n",
2672 //                 ack, pid);
2673 //     if (GNUNET_NO == GMC_is_pid_bigger(pid, ack))
2674 //     {
2675 //       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2676 //                   "*********   OK!\n");
2677 //       return q;
2678 //     }
2679 //     else
2680 //     {
2681 //       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2682 //                   "*********     NEXT!\n");
2683 //     }
2684   }
2685   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2686                 "*********   nothing found\n");
2687   return NULL;
2688 }
2689
2690
2691 static size_t
2692 queue_send (void *cls, size_t size, void *buf)
2693 {
2694     struct MeshPeerInfo *peer = cls;
2695     struct GNUNET_MessageHeader *msg;
2696     struct MeshPeerQueue *queue;
2697     struct MeshTunnel *t;
2698     struct GNUNET_PeerIdentity dst_id;
2699     struct MeshFlowControl *fc;
2700     size_t data_size;
2701
2702     peer->core_transmit = NULL;
2703
2704     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "********* Queue send\n");
2705     queue = queue_get_next (peer);
2706
2707     /* Queue has no internal mesh traffic nor sendable payload */
2708     if (NULL == queue)
2709     {
2710       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   not ready, return\n");
2711       if (NULL == peer->queue_head)
2712         GNUNET_break (0); /* Core tmt_rdy should've been canceled */
2713       return 0;
2714     }
2715     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   not empty\n");
2716
2717     GNUNET_PEER_resolve (peer->id, &dst_id);
2718     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2719                 "*********   towards %s\n",
2720                 GNUNET_i2s(&dst_id));
2721     /* Check if buffer size is enough for the message */
2722     if (queue->size > size)
2723     {
2724         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2725                     "*********   not enough room, reissue\n");
2726         peer->core_transmit =
2727             GNUNET_CORE_notify_transmit_ready (core_handle,
2728                                                0,
2729                                                0,
2730                                                GNUNET_TIME_UNIT_FOREVER_REL,
2731                                                &dst_id,
2732                                                queue->size,
2733                                                &queue_send,
2734                                                peer);
2735         return 0;
2736     }
2737     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   size ok\n");
2738
2739     t = queue->tunnel;
2740     GNUNET_assert (0 < t->pending_messages);
2741     t->pending_messages--;
2742     if (GNUNET_MESSAGE_TYPE_MESH_UNICAST == queue->type)
2743     {
2744       t->next_fc.queue_n--;
2745       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2746                   "*********   unicast: t->q (%u/%u)\n",
2747                   t->next_fc.queue_n, t->queue_max);
2748     }
2749     else if (GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == queue->type)
2750     {
2751       t->prev_fc.queue_n--;
2752       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2753                   "*********   to orig: t->q (%u/%u)\n",
2754                   t->prev_fc.queue_n, t->queue_max);
2755     }
2756
2757     /* Fill buf */
2758     switch (queue->type)
2759     {
2760       case 0:
2761       case GNUNET_MESSAGE_TYPE_MESH_ACK:
2762       case GNUNET_MESSAGE_TYPE_MESH_POLL:
2763       case GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN:
2764       case GNUNET_MESSAGE_TYPE_MESH_PATH_DESTROY:
2765       case GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY:
2766       case GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE:
2767         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2768                     "*********   raw: %s\n",
2769                     GNUNET_MESH_DEBUG_M2S (queue->type));
2770         /* Fall through */
2771       case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2772       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2773         data_size = send_core_data_raw (queue->cls, size, buf);
2774         msg = (struct GNUNET_MessageHeader *) buf;
2775         switch (ntohs (msg->type)) // Type of preconstructed message
2776         {
2777           case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2778             tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_UNICAST);
2779             break;
2780           case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2781             tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN);
2782             break;
2783           default:
2784               break;
2785         }
2786         break;
2787       case GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE:
2788         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   path create\n");
2789         data_size = send_core_path_create (queue->cls, size, buf);
2790         break;
2791       case GNUNET_MESSAGE_TYPE_MESH_PATH_ACK:
2792         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   path ack\n");
2793         data_size = send_core_path_ack (queue->cls, size, buf);
2794         break;
2795       default:
2796         GNUNET_break (0);
2797         GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
2798                     "*********   type unknown: %u\n",
2799                     queue->type);
2800         data_size = 0;
2801     }
2802     switch (queue->type)
2803     {
2804       case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2805       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2806 //         if (cinfo->send_buffer[cinfo->send_buffer_start] != queue)
2807 //         { FIXME
2808 //           GNUNET_break (0);
2809 //           GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2810 //                       "at pos %u (%p) != %p\n",
2811 //                       cinfo->send_buffer_start,
2812 //                       cinfo->send_buffer[cinfo->send_buffer_start],
2813 //                       queue);
2814 //         }
2815 //         if (cinfo->send_buffer_n > 0)
2816 //         {
2817 //           cinfo->send_buffer[cinfo->send_buffer_start] = NULL;
2818 //           cinfo->send_buffer_n--;
2819 //           cinfo->send_buffer_start++;
2820 //           cinfo->send_buffer_start %= t->fwd_queue_max;
2821 //         }
2822 //         else
2823 //         {
2824 //           GNUNET_break (0);
2825 //         }
2826         break;
2827       default:
2828         break;
2829     }
2830
2831     /* Free queue, but cls was freed by send_core_* */
2832     queue_destroy (queue, GNUNET_NO);
2833
2834     if (GNUNET_YES == t->destroy && 0 == t->pending_messages)
2835     {
2836       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********  destroying tunnel!\n");
2837       tunnel_destroy (t);
2838     }
2839
2840     /* If more data in queue, send next */
2841     queue = queue_get_next (peer);
2842     if (NULL != queue)
2843     {
2844         struct GNUNET_PeerIdentity id;
2845
2846         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   more data!\n");
2847         GNUNET_PEER_resolve (peer->id, &id);
2848         peer->core_transmit =
2849             GNUNET_CORE_notify_transmit_ready(core_handle,
2850                                               0,
2851                                               0,
2852                                               GNUNET_TIME_UNIT_FOREVER_REL,
2853                                               &id,
2854                                               queue->size,
2855                                               &queue_send,
2856                                               peer);
2857     }
2858     else
2859     {
2860       if (NULL != peer->queue_head)
2861       {
2862         GNUNET_log (GNUNET_ERROR_TYPE_INFO,
2863                     "*********   %s stalled\n",
2864                     GNUNET_i2s(&my_full_id));
2865         if (peer->id == t->next_hop)
2866           fc = &t->next_fc;
2867         else
2868           fc = &t->prev_fc;
2869         if (GNUNET_SCHEDULER_NO_TASK == fc->poll_task)
2870         {
2871           fc->t = t;
2872           fc->poll_task = GNUNET_SCHEDULER_add_delayed (fc->poll_time,
2873                                                         &tunnel_poll, fc);
2874         }
2875       }
2876     }
2877     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   return %d\n", data_size);
2878     return data_size;
2879 }
2880
2881
2882 /**
2883  * @brief Queue and pass message to core when possible.
2884  * 
2885  * If type is payload (UNICAST, TO_ORIGIN) checks for queue status and
2886  * accounts for it. In case the queue is full, the message is dropped and
2887  * a break issued.
2888  * 
2889  * Otherwise, message is treated as internal and allowed to go regardless of 
2890  * queue status.
2891  *
2892  * @param cls Closure (@c type dependant). It will be used by queue_send to
2893  *            build the message to be sent if not already prebuilt.
2894  * @param type Type of the message, 0 for a raw message.
2895  * @param size Size of the message.
2896  * @param dst Neighbor to send message to.
2897  * @param t Tunnel this message belongs to.
2898  */
2899 static void
2900 queue_add (void *cls, uint16_t type, size_t size,
2901            struct MeshPeerInfo *dst, struct MeshTunnel *t)
2902 {
2903   struct MeshPeerQueue *queue;
2904   struct GNUNET_PeerIdentity id;
2905   unsigned int *n;
2906
2907   n = NULL;
2908   if (GNUNET_MESSAGE_TYPE_MESH_UNICAST == type)
2909   {
2910     n = &t->next_fc.queue_n;
2911   }
2912   else if (GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == type)
2913   {
2914     n = &t->prev_fc.queue_n;
2915   }
2916   if (NULL != n)
2917   {
2918     if (*n >= t->queue_max)
2919     {
2920       GNUNET_break(0);
2921       GNUNET_STATISTICS_update(stats,
2922                                "# messages dropped (buffer full)",
2923                                1, GNUNET_NO);
2924       return; // Drop message
2925     }
2926     (*n)++;
2927   }
2928   queue = GNUNET_malloc (sizeof (struct MeshPeerQueue));
2929   queue->cls = cls;
2930   queue->type = type;
2931   queue->size = size;
2932   queue->peer = dst;
2933   queue->tunnel = t;
2934   GNUNET_CONTAINER_DLL_insert_tail (dst->queue_head, dst->queue_tail, queue);
2935   if (NULL == dst->core_transmit)
2936   {
2937     GNUNET_PEER_resolve (dst->id, &id);
2938     dst->core_transmit =
2939         GNUNET_CORE_notify_transmit_ready (core_handle,
2940                                            0,
2941                                            0,
2942                                            GNUNET_TIME_UNIT_FOREVER_REL,
2943                                            &id,
2944                                            size,
2945                                            &queue_send,
2946                                            dst);
2947   }
2948   t->pending_messages++;
2949 }
2950
2951
2952 /******************************************************************************/
2953 /********************      MESH NETWORK HANDLERS     **************************/
2954 /******************************************************************************/
2955
2956
2957 /**
2958  * Core handler for path creation
2959  *
2960  * @param cls closure
2961  * @param message message
2962  * @param peer peer identity this notification is about
2963  *
2964  * @return GNUNET_OK to keep the connection open,
2965  *         GNUNET_SYSERR to close it (signal serious error)
2966  */
2967 static int
2968 handle_mesh_path_create (void *cls, const struct GNUNET_PeerIdentity *peer,
2969                          const struct GNUNET_MessageHeader *message)
2970 {
2971   unsigned int own_pos;
2972   uint16_t size;
2973   uint16_t i;
2974   MESH_TunnelNumber tid;
2975   struct GNUNET_MESH_ManipulatePath *msg;
2976   struct GNUNET_PeerIdentity *pi;
2977   struct GNUNET_HashCode hash;
2978   struct MeshPeerPath *path;
2979   struct MeshPeerInfo *dest_peer_info;
2980   struct MeshPeerInfo *orig_peer_info;
2981   struct MeshTunnel *t;
2982
2983   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2984               "Received a path create msg [%s]\n",
2985               GNUNET_i2s (&my_full_id));
2986   size = ntohs (message->size);
2987   if (size < sizeof (struct GNUNET_MESH_ManipulatePath))
2988   {
2989     GNUNET_break_op (0);
2990     return GNUNET_OK;
2991   }
2992
2993   size -= sizeof (struct GNUNET_MESH_ManipulatePath);
2994   if (size % sizeof (struct GNUNET_PeerIdentity))
2995   {
2996     GNUNET_break_op (0);
2997     return GNUNET_OK;
2998   }
2999   size /= sizeof (struct GNUNET_PeerIdentity);
3000   if (size < 2)
3001   {
3002     GNUNET_break_op (0);
3003     return GNUNET_OK;
3004   }
3005   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    path has %u hops.\n", size);
3006   msg = (struct GNUNET_MESH_ManipulatePath *) message;
3007
3008   tid = ntohl (msg->tid);
3009   pi = (struct GNUNET_PeerIdentity *) &msg[1];
3010   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3011               "    path is for tunnel %s [%X].\n", GNUNET_i2s (pi), tid);
3012   t = tunnel_get (pi, tid);
3013   if (NULL == t) // FIXME only for INCOMING tunnels?
3014   {
3015     uint32_t opt;
3016
3017     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Creating tunnel\n");
3018     t = tunnel_new (GNUNET_PEER_intern (pi), tid, NULL, 0);
3019     if (NULL == t)
3020     {
3021       // FIXME notify failure
3022       return GNUNET_OK;
3023     }
3024     opt = ntohl (msg->opt);
3025     if (0 != (opt & MESH_TUNNEL_OPT_NOBUFFER))
3026     {
3027       t->nobuffer = GNUNET_YES;
3028       t->prev_fc.last_ack_sent = t->prev_fc.last_pid_recv + 1;
3029     }
3030     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  nobuffer:%d\n", t->nobuffer);
3031
3032     if (GNUNET_YES == t->nobuffer)
3033     {
3034       t->queue_max = 1;
3035     }
3036
3037     // FIXME only assign a local tid if a local client is interested (on demand)
3038     while (NULL != tunnel_get_incoming (next_local_tid))
3039       next_local_tid = (next_local_tid + 1) | GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
3040     t->local_tid_dest = next_local_tid++;
3041     next_local_tid = next_local_tid | GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
3042     // FIXME end
3043
3044     tunnel_reset_timeout (t);
3045     GMC_hash32 (t->local_tid_dest, &hash);
3046     if (GNUNET_OK !=
3047         GNUNET_CONTAINER_multihashmap_put (incoming_tunnels, &hash, t,
3048                                            GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST))
3049     {
3050       tunnel_destroy (t);
3051       GNUNET_break (0);
3052       return GNUNET_OK;
3053     }
3054   }
3055   dest_peer_info =
3056       GNUNET_CONTAINER_multihashmap_get (peers, &pi[size - 1].hashPubKey);
3057   if (NULL == dest_peer_info)
3058   {
3059     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3060                 "  Creating PeerInfo for destination.\n");
3061     dest_peer_info = GNUNET_malloc (sizeof (struct MeshPeerInfo));
3062     dest_peer_info->id = GNUNET_PEER_intern (&pi[size - 1]);
3063     GNUNET_CONTAINER_multihashmap_put (peers, &pi[size - 1].hashPubKey,
3064                                        dest_peer_info,
3065                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY);
3066   }
3067   orig_peer_info = GNUNET_CONTAINER_multihashmap_get (peers, &pi->hashPubKey);
3068   if (NULL == orig_peer_info)
3069   {
3070     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3071                 "  Creating PeerInfo for origin.\n");
3072     orig_peer_info = GNUNET_malloc (sizeof (struct MeshPeerInfo));
3073     orig_peer_info->id = GNUNET_PEER_intern (pi);
3074     GNUNET_CONTAINER_multihashmap_put (peers, &pi->hashPubKey, orig_peer_info,
3075                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY);
3076   }
3077   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Creating path...\n");
3078   path = path_new (size);
3079   own_pos = 0;
3080   for (i = 0; i < size; i++)
3081   {
3082     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ... adding %s\n",
3083                 GNUNET_i2s (&pi[i]));
3084     path->peers[i] = GNUNET_PEER_intern (&pi[i]);
3085     if (path->peers[i] == myid)
3086       own_pos = i;
3087   }
3088   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Own position: %u\n", own_pos);
3089   if (own_pos == 0)
3090   {
3091     /* cannot be self, must be 'not found' */
3092     /* create path: self not found in path through self */
3093     GNUNET_break_op (0);
3094     path_destroy (path);
3095     tunnel_destroy (t);
3096     return GNUNET_OK;
3097   }
3098   path_add_to_peers (path, GNUNET_NO);
3099   t->prev_hop = path->peers[own_pos - 1];
3100   GNUNET_PEER_change_rc (t->prev_hop, 1);
3101   if (own_pos == size - 1)
3102   {
3103     /* It is for us! Send ack. */
3104     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  It's for us!\n");
3105     peer_info_add_path_to_origin (orig_peer_info, path, GNUNET_NO);
3106     t->dest = myid;
3107     send_path_ack (t);
3108   }
3109   else
3110   {
3111     struct MeshPeerPath *path2;
3112
3113     t->next_hop = path->peers[own_pos + 1];
3114     GNUNET_PEER_change_rc(t->next_hop, 1);
3115
3116     /* It's for somebody else! Retransmit. */
3117     path2 = path_duplicate (path);
3118     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Retransmitting.\n");
3119     peer_info_add_path (dest_peer_info, path2, GNUNET_NO);
3120     path2 = path_duplicate (path);
3121     peer_info_add_path_to_origin (orig_peer_info, path2, GNUNET_NO);
3122     send_create_path (dest_peer_info, path, t);
3123   }
3124   return GNUNET_OK;
3125 }
3126
3127
3128 /**
3129  * Core handler for path destruction
3130  *
3131  * @param cls closure
3132  * @param message message
3133  * @param peer peer identity this notification is about
3134  *
3135  * @return GNUNET_OK to keep the connection open,
3136  *         GNUNET_SYSERR to close it (signal serious error)
3137  */
3138 static int
3139 handle_mesh_path_destroy (void *cls, const struct GNUNET_PeerIdentity *peer,
3140                           const struct GNUNET_MessageHeader *message)
3141 {
3142   struct GNUNET_MESH_ManipulatePath *msg;
3143   struct GNUNET_PeerIdentity *pi;
3144   struct MeshPeerPath *path;
3145   struct MeshTunnel *t;
3146   unsigned int own_pos;
3147   unsigned int i;
3148   size_t size;
3149
3150   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3151               "Received a PATH DESTROY msg from %s\n", GNUNET_i2s (peer));
3152   size = ntohs (message->size);
3153   if (size < sizeof (struct GNUNET_MESH_ManipulatePath))
3154   {
3155     GNUNET_break_op (0);
3156     return GNUNET_OK;
3157   }
3158
3159   size -= sizeof (struct GNUNET_MESH_ManipulatePath);
3160   if (size % sizeof (struct GNUNET_PeerIdentity))
3161   {
3162     GNUNET_break_op (0);
3163     return GNUNET_OK;
3164   }
3165   size /= sizeof (struct GNUNET_PeerIdentity);
3166   if (size < 2)
3167   {
3168     GNUNET_break_op (0);
3169     return GNUNET_OK;
3170   }
3171   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    path has %u hops.\n", size);
3172
3173   msg = (struct GNUNET_MESH_ManipulatePath *) message;
3174   pi = (struct GNUNET_PeerIdentity *) &msg[1];
3175   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3176               "    path is for tunnel %s [%X].\n", GNUNET_i2s (pi),
3177               msg->tid);
3178   t = tunnel_get (pi, ntohl (msg->tid));
3179   if (NULL == t)
3180   {
3181     /* TODO notify back: we don't know this tunnel */
3182     GNUNET_break_op (0);
3183     return GNUNET_OK;
3184   }
3185   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Creating path...\n");
3186   path = path_new (size);
3187   own_pos = 0;
3188   for (i = 0; i < size; i++)
3189   {
3190     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ... adding %s\n",
3191                 GNUNET_i2s (&pi[i]));
3192     path->peers[i] = GNUNET_PEER_intern (&pi[i]);
3193     if (path->peers[i] == myid)
3194       own_pos = i;
3195   }
3196   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Own position: %u\n", own_pos);
3197   if (own_pos < path->length - 1)
3198     send_prebuilt_message (message, path->peers[own_pos + 1], t);
3199   else
3200     send_client_tunnel_destroy (t);
3201
3202 //   tunnel_delete_peer (t, path->peers[path->length - 1]); FIXME
3203   path_destroy (path);
3204   return GNUNET_OK;
3205 }
3206
3207
3208 /**
3209  * Core handler for notifications of broken paths
3210  *
3211  * @param cls closure
3212  * @param message message
3213  * @param peer peer identity this notification is about
3214  *
3215  * @return GNUNET_OK to keep the connection open,
3216  *         GNUNET_SYSERR to close it (signal serious error)
3217  */
3218 static int
3219 handle_mesh_path_broken (void *cls, const struct GNUNET_PeerIdentity *peer,
3220                          const struct GNUNET_MessageHeader *message)
3221 {
3222   struct GNUNET_MESH_PathBroken *msg;
3223   struct MeshTunnel *t;
3224
3225   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3226               "Received a PATH BROKEN msg from %s\n", GNUNET_i2s (peer));
3227   msg = (struct GNUNET_MESH_PathBroken *) message;
3228   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  regarding %s\n",
3229               GNUNET_i2s (&msg->peer1));
3230   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  regarding %s\n",
3231               GNUNET_i2s (&msg->peer2));
3232   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3233   if (NULL == t)
3234   {
3235     GNUNET_break_op (0);
3236     return GNUNET_OK;
3237   }
3238   tunnel_notify_connection_broken (t, GNUNET_PEER_search (&msg->peer1),
3239                                    GNUNET_PEER_search (&msg->peer2));
3240   return GNUNET_OK;
3241
3242 }
3243
3244
3245 /**
3246  * Core handler for tunnel destruction
3247  *
3248  * @param cls closure
3249  * @param message message
3250  * @param peer peer identity this notification is about
3251  *
3252  * @return GNUNET_OK to keep the connection open,
3253  *         GNUNET_SYSERR to close it (signal serious error)
3254  */
3255 static int
3256 handle_mesh_tunnel_destroy (void *cls, const struct GNUNET_PeerIdentity *peer,
3257                             const struct GNUNET_MessageHeader *message)
3258 {
3259   struct GNUNET_MESH_TunnelDestroy *msg;
3260   struct MeshTunnel *t;
3261
3262   msg = (struct GNUNET_MESH_TunnelDestroy *) message;
3263   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3264               "Got a TUNNEL DESTROY packet from %s\n",
3265               GNUNET_i2s (peer));
3266   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3267               "  for tunnel %s [%u]\n",
3268               GNUNET_i2s (&msg->oid), ntohl (msg->tid));
3269   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3270   /* Check signature */
3271   if (NULL == t)
3272   {
3273     /* Probably already got the message from another path,
3274      * destroyed the tunnel and retransmitted to children.
3275      * Safe to ignore.
3276      */
3277     GNUNET_STATISTICS_update (stats, "# control on unknown tunnel",
3278                               1, GNUNET_NO);
3279     return GNUNET_OK;
3280   }
3281   // TODO check owner's signature
3282   if (t->local_tid_dest >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
3283   {
3284     /* Tunnel was incoming, notify clients */
3285     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "INCOMING TUNNEL %X %X\n",
3286                 t->local_tid, t->local_tid_dest);
3287     send_client_tunnel_destroy (t);
3288   }
3289   tunnel_send_destroy (t);
3290   t->destroy = GNUNET_YES;
3291   // TODO: add timeout to destroy the tunnel anyway
3292   return GNUNET_OK;
3293 }
3294
3295
3296 /**
3297  * Core handler for mesh network traffic going from the origin to a peer
3298  *
3299  * @param cls closure
3300  * @param peer peer identity this notification is about
3301  * @param message message
3302  * @return GNUNET_OK to keep the connection open,
3303  *         GNUNET_SYSERR to close it (signal serious error)
3304  */
3305 static int
3306 handle_mesh_data_unicast (void *cls, const struct GNUNET_PeerIdentity *peer,
3307                           const struct GNUNET_MessageHeader *message)
3308 {
3309   struct GNUNET_MESH_Unicast *msg;
3310   struct MeshTunnel *t;
3311   uint32_t pid;
3312   uint32_t ttl;
3313   size_t size;
3314
3315   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a unicast packet from %s\n",
3316               GNUNET_i2s (peer));
3317   /* Check size */
3318   size = ntohs (message->size);
3319   if (size <
3320       sizeof (struct GNUNET_MESH_Unicast) +
3321       sizeof (struct GNUNET_MessageHeader))
3322   {
3323     GNUNET_break (0);
3324     return GNUNET_OK;
3325   }
3326   msg = (struct GNUNET_MESH_Unicast *) message;
3327   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " of type %s\n",
3328               GNUNET_MESH_DEBUG_M2S (ntohs (msg[1].header.type)));
3329   /* Check tunnel */
3330   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3331   if (NULL == t)
3332   {
3333     /* TODO notify back: we don't know this tunnel */
3334     GNUNET_STATISTICS_update (stats, "# data on unknown tunnel", 1, GNUNET_NO);
3335     GNUNET_break_op (0);
3336     return GNUNET_OK;
3337   }
3338   pid = ntohl (msg->pid);
3339   if (t->prev_fc.last_pid_recv == pid)
3340   {
3341     GNUNET_STATISTICS_update (stats, "# duplicate PID drops", 1, GNUNET_NO);
3342     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
3343                 " Already seen pid %u, DROPPING!\n", pid);
3344     return GNUNET_OK;
3345   }
3346   else
3347   {
3348     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3349                 " pid %u not seen yet, forwarding\n", pid);
3350   }
3351
3352   t->prev_fc.last_pid_recv = pid;
3353
3354   if (GMC_is_pid_bigger (pid, t->prev_fc.last_ack_sent))
3355   {
3356     GNUNET_STATISTICS_update (stats, "# unsolicited unicast", 1, GNUNET_NO);
3357     GNUNET_break_op (0);
3358     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3359                 "Received PID %u, ACK %u\n",
3360                 pid, t->prev_fc.last_ack_sent);
3361     return GNUNET_OK;
3362   }
3363
3364   tunnel_reset_timeout (t);
3365   if (t->dest == myid)
3366   {
3367     if (NULL == t->client)
3368     {
3369       GNUNET_break (0);
3370       return GNUNET_OK;
3371     }
3372     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3373                 "  it's for us! sending to clients...\n");
3374     GNUNET_STATISTICS_update (stats, "# unicast received", 1, GNUNET_NO);
3375     GNUNET_SERVER_notification_context_unicast (nc, t->client->handle,
3376                                                 message, GNUNET_NO);
3377     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_UNICAST);
3378     return GNUNET_OK;
3379   }
3380   if (0 == t->next_hop)
3381   {
3382     GNUNET_break (0);
3383     return GNUNET_OK;
3384   }
3385   ttl = ntohl (msg->ttl);
3386   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   ttl: %u\n", ttl);
3387   if (ttl == 0)
3388   {
3389     GNUNET_STATISTICS_update (stats, "# TTL drops", 1, GNUNET_NO);
3390     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, " TTL is 0, DROPPING!\n");
3391     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
3392     return GNUNET_OK;
3393   }
3394   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3395               "  not for us, retransmitting...\n");
3396
3397   if (GNUNET_YES == t->nobuffer &&
3398       GNUNET_YES == GMC_is_pid_bigger (pid, t->next_fc.last_ack_recv))
3399   {
3400     GNUNET_STATISTICS_update (stats, "# unsolicited unicast", 1, GNUNET_NO);
3401     GNUNET_log (GNUNET_ERROR_TYPE_INFO, "  %u > %u\n",
3402                 pid, t->next_fc.last_ack_recv);
3403     GNUNET_break_op (0);
3404     return GNUNET_OK;
3405   }
3406   send_prebuilt_message (message, t->next_hop, t);
3407   GNUNET_STATISTICS_update (stats, "# unicast forwarded", 1, GNUNET_NO);
3408   return GNUNET_OK;
3409 }
3410
3411
3412 /**
3413  * Core handler for mesh network traffic toward the owner of a tunnel
3414  *
3415  * @param cls closure
3416  * @param message message
3417  * @param peer peer identity this notification is about
3418  *
3419  * @return GNUNET_OK to keep the connection open,
3420  *         GNUNET_SYSERR to close it (signal serious error)
3421  */
3422 static int
3423 handle_mesh_data_to_orig (void *cls, const struct GNUNET_PeerIdentity *peer,
3424                           const struct GNUNET_MessageHeader *message)
3425 {
3426   struct GNUNET_MESH_ToOrigin *msg;
3427   struct MeshPeerInfo *peer_info;
3428   struct MeshTunnel *t;
3429   size_t size;
3430   uint32_t pid;
3431
3432   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a ToOrigin packet from %s\n",
3433               GNUNET_i2s (peer));
3434   size = ntohs (message->size);
3435   if (size < sizeof (struct GNUNET_MESH_ToOrigin) +     /* Payload must be */
3436       sizeof (struct GNUNET_MessageHeader))     /* at least a header */
3437   {
3438     GNUNET_break_op (0);
3439     return GNUNET_OK;
3440   }
3441   msg = (struct GNUNET_MESH_ToOrigin *) message;
3442   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " of type %s\n",
3443               GNUNET_MESH_DEBUG_M2S (ntohs (msg[1].header.type)));
3444   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3445   pid = ntohl (msg->pid);
3446
3447   if (NULL == t)
3448   {
3449     /* TODO notify that we dont know this tunnel (whom)? */
3450     GNUNET_STATISTICS_update (stats, "# data on unknown tunnel", 1, GNUNET_NO);
3451     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3452                 "Received to_origin with PID %u on unknown tunnel %s [%u]\n",
3453                 pid, GNUNET_i2s (&msg->oid), ntohl (msg->tid));
3454     return GNUNET_OK;
3455   }
3456
3457
3458   if (t->next_fc.last_pid_recv == pid)
3459   {
3460     /* already seen this packet, drop */
3461     GNUNET_STATISTICS_update (stats, "# duplicate PID drops BCK", 1, GNUNET_NO);
3462     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3463                 " Already seen pid %u, DROPPING!\n", pid);
3464     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
3465     return GNUNET_OK;
3466   }
3467
3468   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3469               " pid %u not seen yet, forwarding\n", pid);
3470   t->next_fc.last_pid_recv = pid;
3471
3472   if (NULL != t->owner)
3473   {
3474     char cbuf[size];
3475     struct GNUNET_MESH_ToOrigin *copy;
3476
3477     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3478                 "  it's for us! sending to clients...\n");
3479     /* TODO signature verification */
3480     memcpy (cbuf, message, size);
3481     copy = (struct GNUNET_MESH_ToOrigin *) cbuf;
3482     copy->tid = htonl (t->local_tid);
3483     GNUNET_STATISTICS_update (stats, "# to origin received", 1, GNUNET_NO);
3484     GNUNET_SERVER_notification_context_unicast (nc, t->owner->handle,
3485                                                 &copy->header, GNUNET_NO);
3486     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN);
3487     return GNUNET_OK;
3488   }
3489   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3490               "  not for us, retransmitting...\n");
3491
3492   peer_info = peer_get (&msg->oid);
3493   if (NULL == peer_info)
3494   {
3495     /* unknown origin of tunnel */
3496     GNUNET_break (0);
3497     return GNUNET_OK;
3498   }
3499   if (0 == t->prev_hop) /* No owner AND no prev hop */
3500   {
3501     if (GNUNET_YES == t->destroy)
3502     {
3503       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3504                   "to orig received on a dying tunnel %s [%X]\n",
3505                   GNUNET_i2s (&msg->oid), ntohl(msg->tid));
3506       return GNUNET_OK;
3507     }
3508     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, 
3509                 "unknown to origin at %s\n",
3510                 GNUNET_i2s (&my_full_id));
3511     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, 
3512                 "from peer %s\n",
3513                 GNUNET_i2s (peer));
3514     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, 
3515                 "for tunnel %s [%X]\n",
3516                 GNUNET_i2s (&msg->oid), ntohl(msg->tid));
3517     return GNUNET_OK;
3518   }
3519   send_prebuilt_message (message, t->prev_hop, t);
3520   GNUNET_STATISTICS_update (stats, "# to origin forwarded", 1, GNUNET_NO);
3521
3522   return GNUNET_OK;
3523 }
3524
3525
3526 /**
3527  * Core handler for mesh network traffic point-to-point acks.
3528  *
3529  * @param cls closure
3530  * @param message message
3531  * @param peer peer identity this notification is about
3532  *
3533  * @return GNUNET_OK to keep the connection open,
3534  *         GNUNET_SYSERR to close it (signal serious error)
3535  */
3536 static int
3537 handle_mesh_ack (void *cls, const struct GNUNET_PeerIdentity *peer,
3538                  const struct GNUNET_MessageHeader *message)
3539 {
3540   struct GNUNET_MESH_ACK *msg;
3541   struct MeshTunnel *t;
3542   uint32_t ack;
3543
3544   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got an ACK packet from %s!\n",
3545               GNUNET_i2s (peer));
3546   msg = (struct GNUNET_MESH_ACK *) message;
3547
3548   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3549
3550   if (NULL == t)
3551   {
3552     /* TODO notify that we dont know this tunnel (whom)? */
3553     GNUNET_STATISTICS_update (stats, "# ack on unknown tunnel", 1, GNUNET_NO);
3554     return GNUNET_OK;
3555   }
3556   ack = ntohl (msg->pid);
3557   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ACK %u\n", ack);
3558
3559   /* Is this a forward or backward ACK? */
3560   if (t->prev_hop != GNUNET_PEER_search (peer))
3561   {
3562     debug_bck_ack++;
3563     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  FWD ACK\n");
3564     if (GNUNET_SCHEDULER_NO_TASK != t->next_fc.poll_task &&
3565         GMC_is_pid_bigger (ack, t->next_fc.last_ack_recv))
3566     {
3567       GNUNET_SCHEDULER_cancel (t->next_fc.poll_task);
3568       t->next_fc.poll_task = GNUNET_SCHEDULER_NO_TASK;
3569       t->next_fc.poll_time = GNUNET_TIME_UNIT_SECONDS;
3570     }
3571     t->next_fc.last_ack_recv = ack;
3572     peer_unlock_queue (t->next_hop);
3573     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
3574   }
3575   else
3576   {
3577     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  BCK ACK\n");
3578     if (GNUNET_SCHEDULER_NO_TASK != t->prev_fc.poll_task &&
3579         GMC_is_pid_bigger (ack, t->prev_fc.last_ack_recv))
3580     {
3581       GNUNET_SCHEDULER_cancel (t->prev_fc.poll_task);
3582       t->prev_fc.poll_task = GNUNET_SCHEDULER_NO_TASK;
3583       t->prev_fc.poll_time = GNUNET_TIME_UNIT_SECONDS;
3584     }
3585     t->prev_fc.last_ack_recv = ack;
3586     peer_unlock_queue (t->prev_hop);
3587     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
3588   }
3589   return GNUNET_OK;
3590 }
3591
3592
3593 /**
3594  * Core handler for mesh network traffic point-to-point ack polls.
3595  *
3596  * @param cls closure
3597  * @param message message
3598  * @param peer peer identity this notification is about
3599  *
3600  * @return GNUNET_OK to keep the connection open,
3601  *         GNUNET_SYSERR to close it (signal serious error)
3602  */
3603 static int
3604 handle_mesh_poll (void *cls, const struct GNUNET_PeerIdentity *peer,
3605                   const struct GNUNET_MessageHeader *message)
3606 {
3607   struct GNUNET_MESH_Poll *msg;
3608   struct MeshTunnel *t;
3609
3610   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got an POLL packet from %s!\n",
3611               GNUNET_i2s (peer));
3612
3613   msg = (struct GNUNET_MESH_Poll *) message;
3614
3615   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3616
3617   if (NULL == t)
3618   {
3619     /* TODO notify that we dont know this tunnel (whom)? */
3620     GNUNET_STATISTICS_update (stats, "# poll on unknown tunnel", 1, GNUNET_NO);
3621     GNUNET_break_op (0);
3622     return GNUNET_OK;
3623   }
3624
3625   /* Is this a forward or backward ACK? */
3626   if (t->prev_hop != GNUNET_PEER_search(peer))
3627   {
3628     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  from FWD\n");
3629     /* FIXME cinfo->bck_ack = cinfo->fwd_pid; // mark as ready to send */
3630     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_POLL);
3631   }
3632   else
3633   {
3634     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  from BCK\n");
3635     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_POLL);
3636   }
3637
3638   return GNUNET_OK;
3639 }
3640
3641 /**
3642  * Core handler for path ACKs
3643  *
3644  * @param cls closure
3645  * @param message message
3646  * @param peer peer identity this notification is about
3647  *
3648  * @return GNUNET_OK to keep the connection open,
3649  *         GNUNET_SYSERR to close it (signal serious error)
3650  */
3651 static int
3652 handle_mesh_path_ack (void *cls, const struct GNUNET_PeerIdentity *peer,
3653                       const struct GNUNET_MessageHeader *message)
3654 {
3655   struct GNUNET_MESH_PathACK *msg;
3656   struct MeshPeerInfo *peer_info;
3657   struct MeshPeerPath *p;
3658   struct MeshTunnel *t;
3659
3660   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Received a path ACK msg [%s]\n",
3661               GNUNET_i2s (&my_full_id));
3662   msg = (struct GNUNET_MESH_PathACK *) message;
3663   t = tunnel_get (&msg->oid, ntohl(msg->tid));
3664   if (NULL == t)
3665   {
3666     /* TODO notify that we don't know the tunnel */
3667     GNUNET_STATISTICS_update (stats, "# control on unknown tunnel", 1, GNUNET_NO);
3668     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  don't know the tunnel %s [%X]!\n",
3669                 GNUNET_i2s (&msg->oid), ntohl(msg->tid));
3670     return GNUNET_OK;
3671   }
3672   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %s [%X]\n",
3673               GNUNET_i2s (&msg->oid), ntohl(msg->tid));
3674
3675   peer_info = peer_get (&msg->peer_id);
3676   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by peer %s\n",
3677               GNUNET_i2s (&msg->peer_id));
3678   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  via peer %s\n",
3679               GNUNET_i2s (peer));
3680
3681   /* Add path to peers? */
3682   p = t->path;
3683   if (NULL != p)
3684   {
3685     path_add_to_peers (p, GNUNET_YES);
3686   }
3687   else
3688   {
3689     GNUNET_break (0);
3690   }
3691
3692   /* Message for us? */
3693   if (0 == memcmp (&msg->oid, &my_full_id, sizeof (struct GNUNET_PeerIdentity)))
3694   {
3695     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  It's for us!\n");
3696     if (NULL == t->owner)
3697     {
3698       GNUNET_break_op (0);
3699       return GNUNET_OK;
3700     }
3701     if (NULL != peer_info->dhtget)
3702     {
3703       GNUNET_DHT_get_stop (peer_info->dhtget);
3704       peer_info->dhtget = NULL;
3705     }
3706     return GNUNET_OK;
3707   }
3708
3709   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3710               "  not for us, retransmitting...\n");
3711   peer_info = peer_get (&msg->oid);
3712   send_prebuilt_message (message, t->prev_hop, t);
3713   return GNUNET_OK;
3714 }
3715
3716
3717 /**
3718  * Core handler for mesh keepalives.
3719  *
3720  * @param cls closure
3721  * @param message message
3722  * @param peer peer identity this notification is about
3723  * @return GNUNET_OK to keep the connection open,
3724  *         GNUNET_SYSERR to close it (signal serious error)
3725  *
3726  * TODO: Check who we got this from, to validate route.
3727  */
3728 static int
3729 handle_mesh_keepalive (void *cls, const struct GNUNET_PeerIdentity *peer,
3730                        const struct GNUNET_MessageHeader *message)
3731 {
3732   struct GNUNET_MESH_TunnelKeepAlive *msg;
3733   struct MeshTunnel *t;
3734
3735   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a keepalive packet from %s\n",
3736               GNUNET_i2s (peer));
3737
3738   msg = (struct GNUNET_MESH_TunnelKeepAlive *) message;
3739   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3740
3741   if (NULL == t)
3742   {
3743     /* TODO notify that we dont know that tunnel */
3744     GNUNET_STATISTICS_update (stats, "# keepalive on unknown tunnel", 1,
3745                               GNUNET_NO);
3746     return GNUNET_OK;
3747   }
3748
3749   tunnel_reset_timeout (t);
3750
3751   GNUNET_STATISTICS_update (stats, "# keepalives forwarded", 1, GNUNET_NO);
3752   send_prebuilt_message (message, t->next_hop, t);
3753   return GNUNET_OK;
3754   }
3755
3756
3757
3758 /**
3759  * Functions to handle messages from core
3760  */
3761 static struct GNUNET_CORE_MessageHandler core_handlers[] = {
3762   {&handle_mesh_path_create, GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE, 0},
3763   {&handle_mesh_path_destroy, GNUNET_MESSAGE_TYPE_MESH_PATH_DESTROY, 0},
3764   {&handle_mesh_path_broken, GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN,
3765    sizeof (struct GNUNET_MESH_PathBroken)},
3766   {&handle_mesh_tunnel_destroy, GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY,
3767    sizeof (struct GNUNET_MESH_TunnelDestroy)},
3768   {&handle_mesh_data_unicast, GNUNET_MESSAGE_TYPE_MESH_UNICAST, 0},
3769   {&handle_mesh_keepalive, GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE,
3770     sizeof (struct GNUNET_MESH_TunnelKeepAlive)},
3771   {&handle_mesh_data_to_orig, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN, 0},
3772   {&handle_mesh_ack, GNUNET_MESSAGE_TYPE_MESH_ACK,
3773     sizeof (struct GNUNET_MESH_ACK)},
3774   {&handle_mesh_poll, GNUNET_MESSAGE_TYPE_MESH_POLL,
3775     sizeof (struct GNUNET_MESH_Poll)},
3776   {&handle_mesh_path_ack, GNUNET_MESSAGE_TYPE_MESH_PATH_ACK,
3777    sizeof (struct GNUNET_MESH_PathACK)},
3778   {NULL, 0, 0}
3779 };
3780
3781
3782
3783 /******************************************************************************/
3784 /****************       MESH LOCAL HANDLER HELPERS      ***********************/
3785 /******************************************************************************/
3786
3787
3788 #if LATER
3789 /**
3790  * notify_client_connection_failure: notify a client that the connection to the
3791  * requested remote peer is not possible (for instance, no route found)
3792  * Function called when the socket is ready to queue more data. "buf" will be
3793  * NULL and "size" zero if the socket was closed for writing in the meantime.
3794  *
3795  * @param cls closure
3796  * @param size number of bytes available in buf
3797  * @param buf where the callee should write the message
3798  * @return number of bytes written to buf
3799  */
3800 static size_t
3801 notify_client_connection_failure (void *cls, size_t size, void *buf)
3802 {
3803   int size_needed;
3804   struct MeshPeerInfo *peer_info;
3805   struct GNUNET_MESH_PeerControl *msg;
3806   struct GNUNET_PeerIdentity id;
3807
3808   if (0 == size && NULL == buf)
3809   {
3810     // TODO retry? cancel?
3811     return 0;
3812   }
3813
3814   size_needed = sizeof (struct GNUNET_MESH_PeerControl);
3815   peer_info = (struct MeshPeerInfo *) cls;
3816   msg = (struct GNUNET_MESH_PeerControl *) buf;
3817   msg->header.size = htons (sizeof (struct GNUNET_MESH_PeerControl));
3818   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_PEER_DISCONNECTED);
3819 //     msg->tunnel_id = htonl(peer_info->t->tid);
3820   GNUNET_PEER_resolve (peer_info->id, &id);
3821   memcpy (&msg->peer, &id, sizeof (struct GNUNET_PeerIdentity));
3822
3823   return size_needed;
3824 }
3825 #endif
3826
3827
3828 /**
3829  * Send keepalive packets for a tunnel.
3830  *
3831  * @param cls Closure (tunnel for which to send the keepalive).
3832  * @param tc Notification context.
3833  */
3834 static void
3835 path_refresh (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
3836 {
3837   struct MeshTunnel *t = cls;
3838   struct GNUNET_MESH_TunnelKeepAlive *msg;
3839   size_t size = sizeof (struct GNUNET_MESH_TunnelKeepAlive);
3840   char cbuf[size];
3841
3842   t->maintenance_task = GNUNET_SCHEDULER_NO_TASK;
3843   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN) ||
3844       NULL == t->owner || 0 == t->local_tid || 0 != t->prev_hop)
3845   {
3846     return;
3847   }
3848
3849   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3850               "sending keepalive for tunnel %d\n", t->id.tid);
3851
3852   msg = (struct GNUNET_MESH_TunnelKeepAlive *) cbuf;
3853   msg->header.size = htons (size);
3854   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE);
3855   msg->oid = my_full_id;
3856   msg->tid = htonl (t->id.tid);
3857   send_prebuilt_message (&msg->header, t->next_hop, t);
3858
3859   t->maintenance_task =
3860       GNUNET_SCHEDULER_add_delayed (refresh_path_time, &path_refresh, t);
3861 }
3862
3863
3864 /**
3865  * Function to process paths received for a new peer addition. The recorded
3866  * paths form the initial tunnel, which can be optimized later.
3867  * Called on each result obtained for the DHT search.
3868  *
3869  * @param cls closure
3870  * @param exp when will this value expire
3871  * @param key key of the result
3872  * @param get_path path of the get request
3873  * @param get_path_length lenght of get_path
3874  * @param put_path path of the put request
3875  * @param put_path_length length of the put_path
3876  * @param type type of the result
3877  * @param size number of bytes in data
3878  * @param data pointer to the result data
3879  *
3880  * TODO: re-issue the request after certain time? cancel after X results?
3881  */
3882 static void
3883 dht_get_id_handler (void *cls, struct GNUNET_TIME_Absolute exp,
3884                     const struct GNUNET_HashCode * key,
3885                     const struct GNUNET_PeerIdentity *get_path,
3886                     unsigned int get_path_length,
3887                     const struct GNUNET_PeerIdentity *put_path,
3888                     unsigned int put_path_length, enum GNUNET_BLOCK_Type type,
3889                     size_t size, const void *data)
3890 {
3891   struct MeshPeerInfo *peer = cls;
3892   struct MeshPeerPath *p;
3893   struct GNUNET_PeerIdentity pi;
3894   int i;
3895
3896   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got results from DHT!\n");
3897   GNUNET_PEER_resolve (peer->id, &pi);
3898   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  for %s\n", GNUNET_i2s (&pi));
3899
3900   p = path_build_from_dht (get_path, get_path_length,
3901                            put_path, put_path_length);
3902   path_add_to_peers (p, GNUNET_NO);
3903   path_destroy (p);
3904   for (i = 0; i < peer->ntunnels; i++)
3905   {
3906     peer_connect (peer, peer->tunnels[i]); // FIXME add if
3907   }
3908
3909   return;
3910 }
3911
3912
3913 /******************************************************************************/
3914 /*********************       MESH LOCAL HANDLES      **************************/
3915 /******************************************************************************/
3916
3917
3918 /**
3919  * Handler for client disconnection
3920  *
3921  * @param cls closure
3922  * @param client identification of the client; NULL
3923  *        for the last call when the server is destroyed
3924  */
3925 static void
3926 handle_local_client_disconnect (void *cls, struct GNUNET_SERVER_Client *client)
3927 {
3928   struct MeshClient *c;
3929   struct MeshClient *next;
3930
3931   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "client disconnected\n");
3932   if (client == NULL)
3933   {
3934     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (SERVER DOWN)\n");
3935     return;
3936   }
3937
3938   c = clients_head;
3939   while (NULL != c)
3940   {
3941     if (c->handle != client)
3942     {
3943       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   ... searching\n");
3944       c = c->next;
3945       continue;
3946     }
3947     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "matching client found (%u)\n",
3948                 c->id);
3949     GNUNET_SERVER_client_drop (c->handle);
3950     c->shutting_down = GNUNET_YES;
3951     GNUNET_CONTAINER_multihashmap_iterate (c->own_tunnels,
3952                                            &tunnel_destroy_iterator, c);
3953     GNUNET_CONTAINER_multihashmap_iterate (c->incoming_tunnels,
3954                                            &tunnel_destroy_iterator, c);
3955     GNUNET_CONTAINER_multihashmap_destroy (c->own_tunnels);
3956     GNUNET_CONTAINER_multihashmap_destroy (c->incoming_tunnels);
3957
3958     if (NULL != c->types)
3959       GNUNET_CONTAINER_multihashmap_destroy (c->types);
3960     next = c->next;
3961     GNUNET_CONTAINER_DLL_remove (clients_head, clients_tail, c);
3962     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  CLIENT FREE at %p\n", c);
3963     GNUNET_free (c);
3964     GNUNET_STATISTICS_update (stats, "# clients", -1, GNUNET_NO);
3965     c = next;
3966   }
3967   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "done!\n");
3968   return;
3969 }
3970
3971
3972 /**
3973  * Handler for new clients
3974  *
3975  * @param cls closure
3976  * @param client identification of the client
3977  * @param message the actual message, which includes messages the client wants
3978  */
3979 static void
3980 handle_local_new_client (void *cls, struct GNUNET_SERVER_Client *client,
3981                          const struct GNUNET_MessageHeader *message)
3982 {
3983   struct GNUNET_MESH_ClientConnect *cc_msg;
3984   struct MeshClient *c;
3985   unsigned int size;
3986   uint16_t ntypes;
3987   uint16_t *t;
3988   uint16_t i;
3989
3990   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new client connected\n");
3991
3992   /* Check data sanity */
3993   size = ntohs (message->size) - sizeof (struct GNUNET_MESH_ClientConnect);
3994   cc_msg = (struct GNUNET_MESH_ClientConnect *) message;
3995   ntypes = ntohs (cc_msg->types);
3996   if (size != ntypes * sizeof (uint16_t))
3997   {
3998     GNUNET_break (0);
3999     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4000     return;
4001   }
4002
4003   /* Create new client structure */
4004   c = GNUNET_malloc (sizeof (struct MeshClient));
4005   c->id = next_client_id++; // overflow not important: just for debug
4006   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  CLIENT NEW %u\n", c->id);
4007   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  client has %u types\n", ntypes);
4008   c->handle = client;
4009   GNUNET_SERVER_client_keep (client);
4010   if (ntypes > 0)
4011   {
4012     uint16_t u16;
4013     struct GNUNET_HashCode hc;
4014
4015     t = (uint16_t *) &cc_msg[1];
4016     c->types = GNUNET_CONTAINER_multihashmap_create (ntypes, GNUNET_NO);
4017     for (i = 0; i < ntypes; i++)
4018     {
4019       u16 = ntohs (t[i]);
4020       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    msg type: %u\n", u16);
4021       GMC_hash32 ((uint32_t) u16, &hc);
4022
4023       /* store in clients hashmap */
4024       GNUNET_CONTAINER_multihashmap_put (c->types, &hc, c,
4025                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
4026       /* store in global hashmap */
4027       GNUNET_CONTAINER_multihashmap_put (types, &hc, c,
4028                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
4029     }
4030   }
4031
4032   GNUNET_CONTAINER_DLL_insert (clients_head, clients_tail, c);
4033   c->own_tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
4034   c->incoming_tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
4035   GNUNET_SERVER_notification_context_add (nc, client);
4036   GNUNET_STATISTICS_update (stats, "# clients", 1, GNUNET_NO);
4037
4038   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4039   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new client processed\n");
4040 }
4041
4042
4043 /**
4044  * Handler for requests of new tunnels
4045  *
4046  * @param cls Closure.
4047  * @param client Identification of the client.
4048  * @param message The actual message.
4049  */
4050 static void
4051 handle_local_tunnel_create (void *cls, struct GNUNET_SERVER_Client *client,
4052                             const struct GNUNET_MessageHeader *message)
4053 {
4054   struct GNUNET_MESH_TunnelMessage *t_msg;
4055   struct MeshPeerInfo *peer_info;
4056   struct MeshTunnel *t;
4057   struct MeshClient *c;
4058   MESH_TunnelNumber tid;
4059
4060   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new tunnel requested\n");
4061
4062   /* Sanity check for client registration */
4063   if (NULL == (c = client_get (client)))
4064   {
4065     GNUNET_break (0);
4066     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4067     return;
4068   }
4069   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4070
4071   /* Message sanity check */
4072   if (sizeof (struct GNUNET_MESH_TunnelMessage) != ntohs (message->size))
4073   {
4074     GNUNET_break (0);
4075     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4076     return;
4077   }
4078
4079   t_msg = (struct GNUNET_MESH_TunnelMessage *) message;
4080   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  towards %s\n",
4081               GNUNET_i2s (&t_msg->peer));
4082   /* Sanity check for tunnel numbering */
4083   tid = ntohl (t_msg->tunnel_id);
4084   if (0 == (tid & GNUNET_MESH_LOCAL_TUNNEL_ID_CLI))
4085   {
4086     GNUNET_break (0);
4087     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4088     return;
4089   }
4090   /* Sanity check for duplicate tunnel IDs */
4091   if (NULL != tunnel_get_by_local_id (c, tid))
4092   {
4093     GNUNET_break (0);
4094     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4095     return;
4096   }
4097
4098   while (NULL != tunnel_get_by_pi (myid, next_tid))
4099     next_tid = (next_tid + 1) & ~GNUNET_MESH_LOCAL_TUNNEL_ID_CLI;
4100   t = tunnel_new (myid, next_tid, c, tid);
4101   next_tid = (next_tid + 1) & ~GNUNET_MESH_LOCAL_TUNNEL_ID_CLI;
4102   if (NULL == t)
4103   {
4104     GNUNET_break (0);
4105     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4106     return;
4107   }
4108   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "CREATED TUNNEL %s [%x] (%x)\n",
4109               GNUNET_i2s (&my_full_id), t->id.tid, t->local_tid);
4110
4111   peer_info = peer_get (&t_msg->peer);
4112   GNUNET_array_append (peer_info->tunnels, peer_info->ntunnels, t);
4113   peer_connect (peer_info, t);
4114   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4115   return;
4116 }
4117
4118
4119 /**
4120  * Handler for requests of deleting tunnels
4121  *
4122  * @param cls closure
4123  * @param client identification of the client
4124  * @param message the actual message
4125  */
4126 static void
4127 handle_local_tunnel_destroy (void *cls, struct GNUNET_SERVER_Client *client,
4128                              const struct GNUNET_MessageHeader *message)
4129 {
4130   struct GNUNET_MESH_TunnelMessage *tunnel_msg;
4131   struct MeshClient *c;
4132   struct MeshTunnel *t;
4133   MESH_TunnelNumber tid;
4134
4135   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4136               "Got a DESTROY TUNNEL from client!\n");
4137
4138   /* Sanity check for client registration */
4139   if (NULL == (c = client_get (client)))
4140   {
4141     GNUNET_break (0);
4142     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4143     return;
4144   }
4145   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4146
4147   /* Message sanity check */
4148   if (sizeof (struct GNUNET_MESH_TunnelMessage) != ntohs (message->size))
4149   {
4150     GNUNET_break (0);
4151     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4152     return;
4153   }
4154
4155   tunnel_msg = (struct GNUNET_MESH_TunnelMessage *) message;
4156
4157   /* Retrieve tunnel */
4158   tid = ntohl (tunnel_msg->tunnel_id);
4159   t = tunnel_get_by_local_id(c, tid);
4160   if (NULL == t)
4161   {
4162     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "  tunnel %X not found\n", tid);
4163     GNUNET_break (0);
4164     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4165     return;
4166   }
4167   if (c == t->client)
4168   {
4169     tunnel_destroy_empty (t);
4170     GNUNET_SERVER_receive_done (client, GNUNET_OK);
4171     return;
4172   }
4173   send_client_tunnel_destroy (t);
4174   client_delete_tunnel (c, t);
4175
4176   /* Don't try to ACK the client about the tunnel_destroy multicast packet */
4177   t->owner = NULL;
4178   tunnel_send_destroy (t);
4179   peer_remove_tunnel (peer_get_short(t->dest), t);
4180   t->destroy = GNUNET_YES;
4181   /* The tunnel will be destroyed when the last message is transmitted. */
4182   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4183   return;
4184 }
4185
4186
4187 /**
4188  * Handler for requests of seeting tunnel's buffering policy.
4189  *
4190  * @param cls Closure (unused).
4191  * @param client Identification of the client.
4192  * @param message The actual message.
4193  */
4194 static void
4195 handle_local_tunnel_buffer (void *cls, struct GNUNET_SERVER_Client *client,
4196                             const struct GNUNET_MessageHeader *message)
4197 {
4198   struct GNUNET_MESH_TunnelMessage *tunnel_msg;
4199   struct MeshClient *c;
4200   struct MeshTunnel *t;
4201   MESH_TunnelNumber tid;
4202
4203   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4204               "Got a BUFFER request from client!\n");
4205
4206   /* Sanity check for client registration */
4207   if (NULL == (c = client_get (client)))
4208   {
4209     GNUNET_break (0);
4210     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4211     return;
4212   }
4213   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4214
4215   tunnel_msg = (struct GNUNET_MESH_TunnelMessage *) message;
4216
4217   /* Retrieve tunnel */
4218   tid = ntohl (tunnel_msg->tunnel_id);
4219   t = tunnel_get_by_local_id(c, tid);
4220   if (NULL == t)
4221   {
4222     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "  tunnel %X not found\n", tid);
4223     GNUNET_break (0);
4224     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4225     return;
4226   }
4227
4228   switch (ntohs(message->type))
4229   {
4230       case GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_BUFFER:
4231           t->nobuffer = GNUNET_NO;
4232           break;
4233       case GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_NOBUFFER:
4234           t->nobuffer = GNUNET_YES;
4235           break;
4236       default:
4237           GNUNET_break (0);
4238   }
4239
4240   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4241 }
4242
4243
4244 /**
4245  * Handler for client traffic directed to one peer
4246  *
4247  * @param cls closure
4248  * @param client identification of the client
4249  * @param message the actual message
4250  */
4251 static void
4252 handle_local_unicast (void *cls, struct GNUNET_SERVER_Client *client,
4253                       const struct GNUNET_MessageHeader *message)
4254 {
4255   struct MeshClient *c;
4256   struct MeshTunnel *t;
4257   struct GNUNET_MESH_Unicast *data_msg;
4258   MESH_TunnelNumber tid;
4259   size_t size;
4260
4261   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4262               "Got a unicast request from a client!\n");
4263
4264   /* Sanity check for client registration */
4265   if (NULL == (c = client_get (client)))
4266   {
4267     GNUNET_break (0);
4268     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4269     return;
4270   }
4271   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4272
4273   data_msg = (struct GNUNET_MESH_Unicast *) message;
4274
4275   /* Sanity check for message size */
4276   size = ntohs (message->size);
4277   if (sizeof (struct GNUNET_MESH_Unicast) +
4278       sizeof (struct GNUNET_MessageHeader) > size)
4279   {
4280     GNUNET_break (0);
4281     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4282     return;
4283   }
4284
4285   /* Tunnel exists? */
4286   tid = ntohl (data_msg->tid);
4287   t = tunnel_get_by_local_id (c, tid);
4288   if (NULL == t)
4289   {
4290     GNUNET_break (0);
4291     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4292     return;
4293   }
4294
4295   /*  Is it a local tunnel? Then, does client own the tunnel? */
4296   if (t->owner->handle != client)
4297   {
4298     GNUNET_break (0);
4299     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4300     return;
4301   }
4302
4303   /* PID should be as expected: client<->service communication */
4304   if (ntohl (data_msg->pid) != t->prev_fc.last_pid_recv + 1)
4305   {
4306     GNUNET_break (0);
4307     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4308               "Unicast PID, expected %u, got %u\n",
4309               t->prev_fc.last_pid_recv + 1, ntohl (data_msg->pid));
4310     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4311     return;
4312   }
4313
4314   /* Ok, everything is correct, send the message
4315    * (pretend we got it from a mesh peer)
4316    */
4317   {
4318     /* Work around const limitation */
4319     char buf[ntohs (message->size)] GNUNET_ALIGN;
4320     struct GNUNET_MESH_Unicast *copy;
4321
4322     copy = (struct GNUNET_MESH_Unicast *) buf;
4323     memcpy (buf, data_msg, size);
4324     copy->oid = my_full_id;
4325     copy->tid = htonl (t->id.tid);
4326     copy->ttl = htonl (default_ttl);
4327     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4328                 "  calling generic handler...\n");
4329     handle_mesh_data_unicast (NULL, &my_full_id, &copy->header);
4330   }
4331   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "receive done OK\n");
4332   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4333
4334   return;
4335 }
4336
4337
4338 /**
4339  * Handler for client traffic directed to the origin
4340  *
4341  * @param cls closure
4342  * @param client identification of the client
4343  * @param message the actual message
4344  */
4345 static void
4346 handle_local_to_origin (void *cls, struct GNUNET_SERVER_Client *client,
4347                         const struct GNUNET_MessageHeader *message)
4348 {
4349   struct GNUNET_MESH_ToOrigin *data_msg;
4350   struct MeshFlowControl *fc;
4351   struct MeshClient *c;
4352   struct MeshTunnel *t;
4353   MESH_TunnelNumber tid;
4354   size_t size;
4355
4356   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4357               "Got a ToOrigin request from a client!\n");
4358   /* Sanity check for client registration */
4359   if (NULL == (c = client_get (client)))
4360   {
4361     GNUNET_break (0);
4362     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4363     return;
4364   }
4365   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4366
4367   data_msg = (struct GNUNET_MESH_ToOrigin *) message;
4368
4369   /* Sanity check for message size */
4370   size = ntohs (message->size);
4371   if (sizeof (struct GNUNET_MESH_ToOrigin) +
4372       sizeof (struct GNUNET_MessageHeader) > size)
4373   {
4374     GNUNET_break (0);
4375     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4376     return;
4377   }
4378
4379   /* Tunnel exists? */
4380   tid = ntohl (data_msg->tid);
4381   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %X\n", tid);
4382   if (tid < GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
4383   {
4384     GNUNET_break (0);
4385     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4386     return;
4387   }
4388   t = tunnel_get_by_local_id (c, tid);
4389   if (NULL == t)
4390   {
4391     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "Tunnel %X unknown.\n", tid);
4392     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "  for client %u.\n", c->id);
4393     GNUNET_break (0);
4394     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4395     return;
4396   }
4397
4398   /*  It should be sent by someone who has this as incoming tunnel. */
4399   if (t->client != c)
4400   {
4401     GNUNET_break (0);
4402     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4403     return;
4404   }
4405
4406   /* PID should be as expected */
4407   fc = &t->next_fc;
4408   if (ntohl (data_msg->pid) != fc->last_pid_recv + 1)
4409   {
4410     GNUNET_break (0);
4411     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4412                 "To Origin PID, expected %u, got %u\n",
4413                 fc->last_pid_recv + 1,
4414                 ntohl (data_msg->pid));
4415     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4416     return;
4417   }
4418   fc->last_pid_recv++;
4419
4420   /* Ok, everything is correct, send the message
4421    * (pretend we got it from a mesh peer)
4422    */
4423   {
4424     char buf[ntohs (message->size)] GNUNET_ALIGN;
4425     struct GNUNET_MESH_ToOrigin *copy;
4426
4427     /* Work around 'const' limitation */
4428     memcpy (buf, data_msg, size);
4429     copy = (struct GNUNET_MESH_ToOrigin *) buf;
4430     GNUNET_PEER_resolve (t->id.oid, &copy->oid);
4431     copy->tid = htonl (t->id.tid);
4432     copy->ttl = htonl (default_ttl);
4433     copy->pid = htonl (t->prev_fc.last_pid_sent + 1);
4434
4435     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4436                 "  calling generic handler...\n");
4437     handle_mesh_data_to_orig (NULL, &my_full_id, &copy->header);
4438   }
4439   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4440
4441   return;
4442 }
4443
4444
4445 /**
4446  * Handler for client's ACKs for payload traffic.
4447  *
4448  * @param cls Closure (unused).
4449  * @param client Identification of the client.
4450  * @param message The actual message.
4451  */
4452 static void
4453 handle_local_ack (void *cls, struct GNUNET_SERVER_Client *client,
4454                   const struct GNUNET_MessageHeader *message)
4455 {
4456   struct GNUNET_MESH_LocalAck *msg;
4457   struct MeshTunnel *t;
4458   struct MeshClient *c;
4459   MESH_TunnelNumber tid;
4460   uint32_t ack;
4461
4462   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got a local ACK\n");
4463   /* Sanity check for client registration */
4464   if (NULL == (c = client_get (client)))
4465   {
4466     GNUNET_break (0);
4467     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4468     return;
4469   }
4470   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4471
4472   msg = (struct GNUNET_MESH_LocalAck *) message;
4473
4474   /* Tunnel exists? */
4475   tid = ntohl (msg->tunnel_id);
4476   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %X\n", tid);
4477   t = tunnel_get_by_local_id (c, tid);
4478   if (NULL == t)
4479   {
4480     GNUNET_break (0);
4481     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "Tunnel %X unknown.\n", tid);
4482     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "  for client %u.\n", c->id);
4483     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4484     return;
4485   }
4486
4487   ack = ntohl (msg->max_pid);
4488   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ack %u\n", ack);
4489
4490   /* Does client own tunnel? I.E: Is this an ACK for BCK traffic? */
4491   if (t->owner == c)
4492   {
4493     /* The client owns the tunnel, ACK is for data to_origin, send BCK ACK. */
4494     t->prev_fc.last_ack_recv = ack;
4495     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK);
4496   }
4497   else
4498   {
4499     /* The client doesn't own the tunnel, this ACK is for FWD traffic. */
4500     t->next_fc.last_ack_recv = ack;
4501     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK);
4502   }
4503
4504   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4505
4506   return;
4507 }
4508
4509
4510
4511 /**
4512  * Iterator over all tunnels to send a monitoring client info about each tunnel.
4513  *
4514  * @param cls Closure (client handle).
4515  * @param key Key (hashed tunnel ID, unused).
4516  * @param value Tunnel info.
4517  *
4518  * @return GNUNET_YES, to keep iterating.
4519  */
4520 static int
4521 monitor_all_tunnels_iterator (void *cls,
4522                               const struct GNUNET_HashCode * key,
4523                               void *value)
4524 {
4525   struct GNUNET_SERVER_Client *client = cls;
4526   struct MeshTunnel *t = value;
4527   struct GNUNET_MESH_LocalMonitor *msg;
4528
4529   msg = GNUNET_malloc (sizeof(struct GNUNET_MESH_LocalMonitor));
4530   GNUNET_PEER_resolve(t->id.oid, &msg->owner);
4531   msg->tunnel_id = htonl (t->id.tid);
4532   msg->header.size = htons (sizeof (struct GNUNET_MESH_LocalMonitor));
4533   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNELS);
4534   GNUNET_PEER_resolve (t->dest, &msg->destination);
4535
4536   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4537               "*  sending info about tunnel %s [%u]\n",
4538               GNUNET_i2s (&msg->owner), t->id.tid);
4539
4540   GNUNET_SERVER_notification_context_unicast (nc, client,
4541                                               &msg->header, GNUNET_NO);
4542   return GNUNET_YES;
4543 }
4544
4545
4546 /**
4547  * Handler for client's MONITOR request.
4548  *
4549  * @param cls Closure (unused).
4550  * @param client Identification of the client.
4551  * @param message The actual message.
4552  */
4553 static void
4554 handle_local_get_tunnels (void *cls, struct GNUNET_SERVER_Client *client,
4555                           const struct GNUNET_MessageHeader *message)
4556 {
4557   struct MeshClient *c;
4558
4559   /* Sanity check for client registration */
4560   if (NULL == (c = client_get (client)))
4561   {
4562     GNUNET_break (0);
4563     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4564     return;
4565   }
4566
4567   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4568               "Received get tunnels request from client %u\n",
4569               c->id);
4570   GNUNET_CONTAINER_multihashmap_iterate (tunnels,
4571                                          monitor_all_tunnels_iterator,
4572                                          client);
4573   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4574               "Get tunnels request from client %u completed\n",
4575               c->id);
4576   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4577 }
4578
4579
4580 /**
4581  * Handler for client's MONITOR_TUNNEL request.
4582  *
4583  * @param cls Closure (unused).
4584  * @param client Identification of the client.
4585  * @param message The actual message.
4586  */
4587 static void
4588 handle_local_show_tunnel (void *cls, struct GNUNET_SERVER_Client *client,
4589                           const struct GNUNET_MessageHeader *message)
4590 {
4591   const struct GNUNET_MESH_LocalMonitor *msg;
4592   struct GNUNET_MESH_LocalMonitor *resp;
4593   struct MeshClient *c;
4594   struct MeshTunnel *t;
4595
4596   /* Sanity check for client registration */
4597   if (NULL == (c = client_get (client)))
4598   {
4599     GNUNET_break (0);
4600     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4601     return;
4602   }
4603
4604   msg = (struct GNUNET_MESH_LocalMonitor *) message;
4605   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4606               "Received tunnel info request from client %u for tunnel %s[%X]\n",
4607               c->id,
4608               &msg->owner,
4609               ntohl (msg->tunnel_id));
4610   t = tunnel_get (&msg->owner, ntohl (msg->tunnel_id));
4611   if (NULL == t)
4612   {
4613     /* We don't know the tunnel FIXME */
4614     struct GNUNET_MESH_LocalMonitor warn;
4615
4616     warn = *msg;
4617     GNUNET_SERVER_notification_context_unicast (nc, client,
4618                                                 &warn.header,
4619                                                 GNUNET_NO);
4620     GNUNET_SERVER_receive_done (client, GNUNET_OK);
4621     return;
4622   }
4623
4624   /* Initialize context */
4625   resp = GNUNET_malloc (sizeof (struct GNUNET_MESH_LocalMonitor));
4626   *resp = *msg;
4627   GNUNET_PEER_resolve (t->dest, &resp->destination);
4628   resp->header.size = htons (sizeof (struct GNUNET_MESH_LocalMonitor));
4629   GNUNET_SERVER_notification_context_unicast (nc, c->handle,
4630                                               &resp->header, GNUNET_NO);
4631   GNUNET_free (resp);
4632
4633   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4634               "Monitor tunnel request from client %u completed\n",
4635               c->id);
4636   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4637 }
4638
4639
4640 /**
4641  * Functions to handle messages from clients
4642  */
4643 static struct GNUNET_SERVER_MessageHandler client_handlers[] = {
4644   {&handle_local_new_client, NULL,
4645    GNUNET_MESSAGE_TYPE_MESH_LOCAL_CONNECT, 0},
4646   {&handle_local_tunnel_create, NULL,
4647    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_CREATE,
4648    sizeof (struct GNUNET_MESH_TunnelMessage)},
4649   {&handle_local_tunnel_destroy, NULL,
4650    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_DESTROY,
4651    sizeof (struct GNUNET_MESH_TunnelMessage)},
4652   {&handle_local_tunnel_buffer, NULL,
4653    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_BUFFER,
4654    sizeof (struct GNUNET_MESH_TunnelMessage)},
4655   {&handle_local_tunnel_buffer, NULL,
4656    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_NOBUFFER,
4657    sizeof (struct GNUNET_MESH_TunnelMessage)},
4658   {&handle_local_unicast, NULL,
4659    GNUNET_MESSAGE_TYPE_MESH_UNICAST, 0},
4660   {&handle_local_to_origin, NULL,
4661    GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN, 0},
4662   {&handle_local_ack, NULL,
4663    GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK,
4664    sizeof (struct GNUNET_MESH_LocalAck)},
4665   {&handle_local_get_tunnels, NULL,
4666    GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNELS,
4667    sizeof (struct GNUNET_MessageHeader)},
4668   {&handle_local_show_tunnel, NULL,
4669    GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNEL,
4670      sizeof (struct GNUNET_MESH_LocalMonitor)},
4671   {NULL, NULL, 0, 0}
4672 };
4673
4674
4675 /**
4676  * To be called on core init/fail.
4677  *
4678  * @param cls service closure
4679  * @param server handle to the server for this service
4680  * @param identity the public identity of this peer
4681  */
4682 static void
4683 core_init (void *cls, struct GNUNET_CORE_Handle *server,
4684            const struct GNUNET_PeerIdentity *identity)
4685 {
4686   static int i = 0;
4687   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Core init\n");
4688   core_handle = server;
4689   if (0 != memcmp (identity, &my_full_id, sizeof (my_full_id)) ||
4690       NULL == server)
4691   {
4692     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, _("Wrong CORE service\n"));
4693     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4694                 " core id %s\n",
4695                 GNUNET_i2s (identity));
4696     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4697                 " my id %s\n",
4698                 GNUNET_i2s (&my_full_id));
4699     GNUNET_SCHEDULER_shutdown (); // Try gracefully
4700     if (10 < i++)
4701       GNUNET_abort(); // Try harder
4702   }
4703   return;
4704 }
4705
4706
4707 /**
4708  * Method called whenever a given peer connects.
4709  *
4710  * @param cls closure
4711  * @param peer peer identity this notification is about
4712  */
4713 static void
4714 core_connect (void *cls, const struct GNUNET_PeerIdentity *peer)
4715 {
4716   struct MeshPeerInfo *peer_info;
4717   struct MeshPeerPath *path;
4718
4719   DEBUG_CONN ("Peer connected\n");
4720   DEBUG_CONN ("     %s\n", GNUNET_i2s (&my_full_id));
4721   peer_info = peer_get (peer);
4722   if (myid == peer_info->id)
4723   {
4724     DEBUG_CONN ("     (self)\n");
4725     return;
4726   }
4727   else
4728   {
4729     DEBUG_CONN ("     %s\n", GNUNET_i2s (peer));
4730   }
4731   path = path_new (2);
4732   path->peers[0] = myid;
4733   path->peers[1] = peer_info->id;
4734   GNUNET_PEER_change_rc (myid, 1);
4735   GNUNET_PEER_change_rc (peer_info->id, 1);
4736   peer_info_add_path (peer_info, path, GNUNET_YES);
4737   GNUNET_STATISTICS_update (stats, "# peers", 1, GNUNET_NO);
4738   return;
4739 }
4740
4741
4742 /**
4743  * Method called whenever a peer disconnects.
4744  *
4745  * @param cls closure
4746  * @param peer peer identity this notification is about
4747  */
4748 static void
4749 core_disconnect (void *cls, const struct GNUNET_PeerIdentity *peer)
4750 {
4751   struct MeshPeerInfo *pi;
4752   struct MeshPeerQueue *q;
4753   struct MeshPeerQueue *n;
4754
4755   DEBUG_CONN ("Peer disconnected\n");
4756   pi = GNUNET_CONTAINER_multihashmap_get (peers, &peer->hashPubKey);
4757   if (NULL == pi)
4758   {
4759     GNUNET_break (0);
4760     return;
4761   }
4762   q = pi->queue_head;
4763   while (NULL != q)
4764   {
4765       n = q->next;
4766       /* TODO try to reroute this traffic instead */
4767       queue_destroy(q, GNUNET_YES);
4768       q = n;
4769   }
4770   if (NULL != pi->core_transmit)
4771   {
4772     GNUNET_CORE_notify_transmit_ready_cancel(pi->core_transmit);
4773     pi->core_transmit = NULL;
4774   }
4775     peer_remove_path (pi, pi->id, myid);
4776   if (myid == pi->id)
4777   {
4778     DEBUG_CONN ("     (self)\n");
4779   }
4780   GNUNET_STATISTICS_update (stats, "# peers", -1, GNUNET_NO);
4781   return;
4782 }
4783
4784
4785 /******************************************************************************/
4786 /************************      MAIN FUNCTIONS      ****************************/
4787 /******************************************************************************/
4788
4789 /**
4790  * Iterator over tunnel hash map entries to destroy the tunnel during shutdown.
4791  *
4792  * @param cls closure
4793  * @param key current key code
4794  * @param value value in the hash map
4795  * @return GNUNET_YES if we should continue to iterate,
4796  *         GNUNET_NO if not.
4797  */
4798 static int
4799 shutdown_tunnel (void *cls, const struct GNUNET_HashCode * key, void *value)
4800 {
4801   struct MeshTunnel *t = value;
4802
4803   tunnel_destroy (t);
4804   return GNUNET_YES;
4805 }
4806
4807 /**
4808  * Iterator over peer hash map entries to destroy the tunnel during shutdown.
4809  *
4810  * @param cls closure
4811  * @param key current key code
4812  * @param value value in the hash map
4813  * @return GNUNET_YES if we should continue to iterate,
4814  *         GNUNET_NO if not.
4815  */
4816 static int
4817 shutdown_peer (void *cls, const struct GNUNET_HashCode * key, void *value)
4818 {
4819   struct MeshPeerInfo *p = value;
4820   struct MeshPeerQueue *q;
4821   struct MeshPeerQueue *n;
4822
4823   q = p->queue_head;
4824   while (NULL != q)
4825   {
4826       n = q->next;
4827       if (q->peer == p)
4828       {
4829         queue_destroy(q, GNUNET_YES);
4830       }
4831       q = n;
4832   }
4833   peer_info_destroy (p);
4834   return GNUNET_YES;
4835 }
4836
4837
4838 /**
4839  * Task run during shutdown.
4840  *
4841  * @param cls unused
4842  * @param tc unused
4843  */
4844 static void
4845 shutdown_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
4846 {
4847   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shutting down\n");
4848
4849   if (core_handle != NULL)
4850   {
4851     GNUNET_CORE_disconnect (core_handle);
4852     core_handle = NULL;
4853   }
4854   if (NULL != keygen)
4855   {
4856     GNUNET_CRYPTO_ecc_key_create_stop (keygen);
4857     keygen = NULL;
4858   }
4859   GNUNET_CONTAINER_multihashmap_iterate (tunnels, &shutdown_tunnel, NULL);
4860   GNUNET_CONTAINER_multihashmap_iterate (peers, &shutdown_peer, NULL);
4861   if (dht_handle != NULL)
4862   {
4863     GNUNET_DHT_disconnect (dht_handle);
4864     dht_handle = NULL;
4865   }
4866   if (nc != NULL)
4867   {
4868     GNUNET_SERVER_notification_context_destroy (nc);
4869     nc = NULL;
4870   }
4871   if (GNUNET_SCHEDULER_NO_TASK != announce_id_task)
4872   {
4873     GNUNET_SCHEDULER_cancel (announce_id_task);
4874     announce_id_task = GNUNET_SCHEDULER_NO_TASK;
4875   }
4876   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shut down\n");
4877 }
4878
4879
4880 /**
4881  * Callback for hostkey read/generation.
4882  *
4883  * @param cls Closure (Configuration handle).
4884  * @param pk The ECC private key.
4885  * @param emsg Error message, if any.
4886  */
4887 static void
4888 key_generation_cb (void *cls,
4889                    struct GNUNET_CRYPTO_EccPrivateKey *pk,
4890                    const char *emsg)
4891 {
4892   const struct GNUNET_CONFIGURATION_Handle *c = cls;
4893   struct MeshPeerInfo *peer;
4894   struct MeshPeerPath *p;
4895
4896   keygen = NULL;  
4897   if (NULL == pk)
4898   {
4899     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4900                 _("Mesh service could not access hostkey: %s. Exiting.\n"),
4901                 emsg);
4902     GNUNET_SCHEDULER_shutdown ();
4903     return;
4904   }
4905   my_private_key = pk;
4906   GNUNET_CRYPTO_ecc_key_get_public (my_private_key, &my_public_key);
4907   GNUNET_CRYPTO_hash (&my_public_key, sizeof (my_public_key),
4908                       &my_full_id.hashPubKey);
4909   myid = GNUNET_PEER_intern (&my_full_id);
4910   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4911               "Mesh for peer [%s] starting\n",
4912               GNUNET_i2s(&my_full_id));
4913
4914   core_handle = GNUNET_CORE_connect (c, /* Main configuration */
4915                                      NULL,      /* Closure passed to MESH functions */
4916                                      &core_init,        /* Call core_init once connected */
4917                                      &core_connect,     /* Handle connects */
4918                                      &core_disconnect,  /* remove peers on disconnects */
4919                                      NULL,      /* Don't notify about all incoming messages */
4920                                      GNUNET_NO, /* For header only in notification */
4921                                      NULL,      /* Don't notify about all outbound messages */
4922                                      GNUNET_NO, /* For header-only out notification */
4923                                      core_handlers);    /* Register these handlers */
4924   
4925   if (core_handle == NULL)
4926   {
4927     GNUNET_break (0);
4928     GNUNET_SCHEDULER_shutdown ();
4929     return;
4930   }
4931
4932   next_tid = 0;
4933   next_local_tid = GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
4934
4935
4936   GNUNET_SERVER_add_handlers (server_handle, client_handlers);
4937   nc = GNUNET_SERVER_notification_context_create (server_handle, 1);
4938   GNUNET_SERVER_disconnect_notify (server_handle,
4939                                    &handle_local_client_disconnect, NULL);
4940
4941
4942   clients_head = NULL;
4943   clients_tail = NULL;
4944   next_client_id = 0;
4945
4946   announce_id_task = GNUNET_SCHEDULER_add_now (&announce_id, cls);
4947
4948   /* Create a peer_info for the local peer */
4949   peer = peer_get (&my_full_id);
4950   p = path_new (1);
4951   p->peers[0] = myid;
4952   GNUNET_PEER_change_rc (myid, 1);
4953   peer_info_add_path (peer, p, GNUNET_YES);
4954   GNUNET_SERVER_resume (server_handle);
4955   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Mesh service running\n");
4956 }
4957
4958
4959 /**
4960  * Process mesh requests.
4961  *
4962  * @param cls closure
4963  * @param server the initialized server
4964  * @param c configuration to use
4965  */
4966 static void
4967 run (void *cls, struct GNUNET_SERVER_Handle *server,
4968      const struct GNUNET_CONFIGURATION_Handle *c)
4969 {
4970   char *keyfile;
4971
4972   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "starting to run\n");
4973   server_handle = server;
4974
4975   if (GNUNET_OK !=
4976       GNUNET_CONFIGURATION_get_value_filename (c, "PEER", "PRIVATE_KEY",
4977                                                &keyfile))
4978   {
4979     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4980                 _
4981                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
4982                 "mesh", "peer/privatekey");
4983     GNUNET_SCHEDULER_shutdown ();
4984     return;
4985   }
4986
4987   if (GNUNET_OK !=
4988       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "REFRESH_PATH_TIME",
4989                                            &refresh_path_time))
4990   {
4991     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4992                 _
4993                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
4994                 "mesh", "refresh path time");
4995     GNUNET_SCHEDULER_shutdown ();
4996     return;
4997   }
4998
4999   if (GNUNET_OK !=
5000       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "ID_ANNOUNCE_TIME",
5001                                            &id_announce_time))
5002   {
5003     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5004                 _
5005                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
5006                 "mesh", "id announce time");
5007     GNUNET_SCHEDULER_shutdown ();
5008     return;
5009   }
5010
5011   if (GNUNET_OK !=
5012       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "CONNECT_TIMEOUT",
5013                                            &connect_timeout))
5014   {
5015     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5016                 _
5017                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
5018                 "mesh", "connect timeout");
5019     GNUNET_SCHEDULER_shutdown ();
5020     return;
5021   }
5022
5023   if (GNUNET_OK !=
5024       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_MSGS_QUEUE",
5025                                              &max_msgs_queue))
5026   {
5027     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5028                 _
5029                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
5030                 "mesh", "max msgs queue");
5031     GNUNET_SCHEDULER_shutdown ();
5032     return;
5033   }
5034
5035   if (GNUNET_OK !=
5036       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_TUNNELS",
5037                                              &max_tunnels))
5038   {
5039     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5040                 _
5041                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
5042                 "mesh", "max tunnels");
5043     GNUNET_SCHEDULER_shutdown ();
5044     return;
5045   }
5046
5047   if (GNUNET_OK !=
5048       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "DEFAULT_TTL",
5049                                              &default_ttl))
5050   {
5051     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
5052                 _
5053                 ("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
5054                 "mesh", "default ttl", 64);
5055     default_ttl = 64;
5056   }
5057
5058   if (GNUNET_OK !=
5059       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_PEERS",
5060                                              &max_peers))
5061   {
5062     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
5063                 _("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
5064                 "mesh", "max peers", 1000);
5065     max_peers = 1000;
5066   }
5067
5068   if (GNUNET_OK !=
5069       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "DHT_REPLICATION_LEVEL",
5070                                              &dht_replication_level))
5071   {
5072     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
5073                 _
5074                 ("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
5075                 "mesh", "dht replication level", 3);
5076     dht_replication_level = 3;
5077   }
5078
5079   tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
5080   incoming_tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
5081   peers = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
5082   types = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
5083
5084   dht_handle = GNUNET_DHT_connect (c, 64);
5085   if (NULL == dht_handle)
5086   {
5087     GNUNET_break (0);
5088   }
5089   stats = GNUNET_STATISTICS_create ("mesh", c);
5090
5091   GNUNET_SERVER_suspend (server_handle);
5092   /* Scheduled the task to clean up when shutdown is called */
5093   GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_UNIT_FOREVER_REL, &shutdown_task,
5094                                 NULL);
5095   keygen = GNUNET_CRYPTO_ecc_key_create_start (keyfile,
5096                                                &key_generation_cb,
5097                                                (void *) c);
5098   GNUNET_free (keyfile);
5099 }
5100
5101
5102 /**
5103  * The main function for the mesh service.
5104  *
5105  * @param argc number of arguments from the command line
5106  * @param argv command line arguments
5107  * @return 0 ok, 1 on error
5108  */
5109 int
5110 main (int argc, char *const *argv)
5111 {
5112   int ret;
5113   int r;
5114
5115   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "main()\n");
5116   r = GNUNET_SERVICE_run (argc, argv, "mesh", GNUNET_SERVICE_OPTION_NONE, &run,
5117                           NULL);
5118   ret = (GNUNET_OK == r) ? 0 : 1;
5119   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "main() END\n");
5120
5121   INTERVAL_SHOW;
5122
5123   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5124               "Mesh for peer [%s] FWD ACKs %u, BCK ACKs %u\n",
5125               GNUNET_i2s(&my_full_id), debug_fwd_ack, debug_bck_ack);
5126
5127   return ret;
5128 }