a16a1187d1e93ac0d69d9a3d4b9141a07f5c3c72
[oweals/gnunet.git] / src / mesh / gnunet-service-mesh.c
1 /*
2      This file is part of GNUnet.
3      (C) 2001-2013 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file mesh/gnunet-service-mesh.c
23  * @brief GNUnet MESH service
24  * @author Bartlomiej Polot
25  *
26  *  FIXME in progress:
27  * - when sending in-order buffered data, wait for client ACKs
28  *
29  * TODO:
30  * - relay corking down to core
31  * - set ttl relative to path length
32  * - add signatures
33  * - add encryption
34  * TODO END
35  */
36
37 #include "platform.h"
38 #include "mesh.h"
39 #include "mesh_protocol.h"
40 #include "mesh_path.h"
41 #include "block_mesh.h"
42 #include "gnunet_dht_service.h"
43 #include "gnunet_statistics_service.h"
44
45 #define MESH_BLOOM_SIZE         128
46
47 #define MESH_DEBUG_DHT          GNUNET_NO
48 #define MESH_DEBUG_CONNECTION   GNUNET_NO
49 #define MESH_DEBUG_TIMING       __LINUX__ && GNUNET_NO
50
51 #define MESH_MAX_POLL_TIME      GNUNET_TIME_relative_multiply (\
52                                   GNUNET_TIME_UNIT_MINUTES,\
53                                   10)
54 #define MESH_RETRANSMIT_TIME    GNUNET_TIME_UNIT_SECONDS
55 #define MESH_RETRANSMIT_MARGIN  4
56
57 #if MESH_DEBUG_CONNECTION
58 #define DEBUG_CONN(...) GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, __VA_ARGS__)
59 #else
60 #define DEBUG_CONN(...)
61 #endif
62
63 #if MESH_DEBUG_DHT
64 #define DEBUG_DHT(...) GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, __VA_ARGS__)
65 #else
66 #define DEBUG_DHT(...)
67 #endif
68
69 #if MESH_DEBUG_TIMING
70 #include <time.h>
71 double __sum;
72 uint64_t __count;
73 struct timespec __mesh_start;
74 struct timespec __mesh_end;
75 #define INTERVAL_START clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &(__mesh_start))
76 #define INTERVAL_END \
77 do {\
78   clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &(__mesh_end));\
79   double __diff = __mesh_end.tv_nsec - __mesh_start.tv_nsec;\
80   if (__diff < 0) __diff += 1000000000;\
81   __sum += __diff;\
82   __count++;\
83 } while (0)
84 #define INTERVAL_SHOW \
85 if (0 < __count)\
86   GNUNET_log (GNUNET_ERROR_TYPE_INFO, "AVG process time: %f ns\n", __sum/__count)
87 #else
88 #define INTERVAL_START
89 #define INTERVAL_END
90 #define INTERVAL_SHOW
91 #endif
92
93 /******************************************************************************/
94 /************************      DATA STRUCTURES     ****************************/
95 /******************************************************************************/
96
97 /** FWD declaration */
98 struct MeshPeerInfo;
99 struct MeshClient;
100
101
102 /**
103  * Struct containing info about a queued transmission to this peer
104  */
105 struct MeshPeerQueue
106 {
107     /**
108       * DLL next
109       */
110   struct MeshPeerQueue *next;
111
112     /**
113       * DLL previous
114       */
115   struct MeshPeerQueue *prev;
116
117     /**
118      * Peer this transmission is directed to.
119      */
120   struct MeshPeerInfo *peer;
121
122     /**
123      * Tunnel this message belongs to.
124      */
125   struct MeshTunnel *tunnel;
126
127     /**
128      * Pointer to info stucture used as cls.
129      */
130   void *cls;
131
132     /**
133      * Type of message
134      */
135   uint16_t type;
136
137     /**
138      * Size of the message
139      */
140   size_t size;
141 };
142
143
144 /**
145  * Struct containing all information regarding a given peer
146  */
147 struct MeshPeerInfo
148 {
149     /**
150      * ID of the peer
151      */
152   GNUNET_PEER_Id id;
153
154     /**
155      * Last time we heard from this peer
156      */
157   struct GNUNET_TIME_Absolute last_contact;
158
159     /**
160      * Number of attempts to reconnect so far
161      */
162   int n_reconnect_attempts;
163
164     /**
165      * Paths to reach the peer, ordered by ascending hop count
166      */
167   struct MeshPeerPath *path_head;
168
169     /**
170      * Paths to reach the peer, ordered by ascending hop count
171      */
172   struct MeshPeerPath *path_tail;
173
174     /**
175      * Handle to stop the DHT search for a path to this peer
176      */
177   struct GNUNET_DHT_GetHandle *dhtget;
178
179     /**
180      * Array of tunnels this peer is the target of.
181      * Most probably a small amount, therefore not a hashmap.
182      * When the path to the peer changes, notify these tunnels to let them
183      * re-adjust their path trees.
184      */
185   struct MeshTunnel **tunnels;
186
187     /**
188      * Number of tunnels this peers participates in
189      */
190   unsigned int ntunnels;
191
192    /**
193     * Transmission queue to core DLL head
194     */
195   struct MeshPeerQueue *queue_head;
196
197    /**
198     * Transmission queue to core DLL tail
199     */
200    struct MeshPeerQueue *queue_tail;
201
202    /**
203     * How many messages are in the queue to this peer.
204     */
205    unsigned int queue_n;
206
207    /**
208     * Handle for queued transmissions
209     */
210   struct GNUNET_CORE_TransmitHandle *core_transmit;
211 };
212
213
214 /**
215  * Struct to encapsulate all the Flow Control information to a peer in the
216  * context of a tunnel: Same peer in different tunnels will have independent
217  * flow control structures, allowing to choke/free tunnels according to its
218  * own criteria.
219  */
220 struct MeshFlowControl
221 {
222   /**
223    * ID of the last packet sent towards the peer.
224    */
225   uint32_t last_pid_sent;
226
227   /**
228    * ID of the last packet received from the peer.
229    */
230   uint32_t last_pid_recv;
231
232   /**
233    * Last ACK sent to the peer (peer can't send more than this PID).
234    */
235   uint32_t last_ack_sent;
236
237   /**
238    * Last ACK sent towards the origin (for traffic towards leaf node).
239    */
240   uint32_t last_ack_recv;
241
242   /**
243    * How many payload messages are in the queue towards this peer.
244    */
245   uint32_t queue_n;
246
247   /**
248    * Task to poll the peer in case of a lost ACK causes stall.
249    */
250   GNUNET_SCHEDULER_TaskIdentifier poll_task;
251
252   /**
253    * How frequently to poll for ACKs.
254    */
255   struct GNUNET_TIME_Relative poll_time;
256
257   /**
258    * On which tunnel to poll.
259    * Using an explicit poll_ctx would not help memory wise,
260    * since the allocated context would have to be stored in the
261    * fc struct in order to free it upon cancelling poll_task.
262    */
263   struct MeshTunnel *t;
264 };
265
266
267 /**
268  * Globally unique tunnel identification (owner + number)
269  * DO NOT USE OVER THE NETWORK
270  */
271 struct MESH_TunnelID
272 {
273     /**
274      * Node that owns the tunnel
275      */
276   GNUNET_PEER_Id oid;
277
278     /**
279      * Tunnel number to differentiate all the tunnels owned by the node oid
280      * ( tid < GNUNET_MESH_LOCAL_TUNNEL_ID_CLI )
281      */
282   MESH_TunnelNumber tid;
283 };
284
285
286 /**
287  * Data needed for reliable tunnel endpoint retransmission management.
288  */
289 struct MeshTunnelReliability;
290
291
292 /**
293  * Info needed to retry a message in case it gets lost.
294  */
295 struct MeshReliableMessage
296 {
297     /**
298      * Double linked list, FIFO style
299      */
300   struct MeshReliableMessage    *next;
301   struct MeshReliableMessage    *prev;
302
303     /**
304      * Tunnel Reliability queue this message is in.
305      */
306   struct MeshTunnelReliability  *rel;
307
308     /**
309      * ID of the message (ACK needed to free)
310      */
311   uint32_t                      mid;
312
313     /**
314      * When was this message issued (to calculate ACK delay)
315      */
316   struct GNUNET_TIME_Absolute   timestamp;
317
318   /* struct GNUNET_MESH_Data with payload */
319 };
320
321
322 struct MeshTunnelReliability
323 {
324     /**
325      * Tunnel this is about.
326      */
327   struct MeshTunnel *t;
328
329     /**
330      * DLL of messages sent and not yet ACK'd.
331      */
332   struct MeshReliableMessage        *head_sent;
333   struct MeshReliableMessage        *tail_sent;
334
335     /**
336      * Messages pending
337      */
338   unsigned int                      n_sent;
339
340     /**
341      * Next MID to use.
342      */
343   uint32_t                          mid_sent;
344
345     /**
346      * DLL of messages received out of order.
347      */
348   struct MeshReliableMessage        *head_recv;
349   struct MeshReliableMessage        *tail_recv;
350
351     /**
352      * Next MID expected.
353      */
354   uint32_t                          mid_recv;
355
356     /**
357      * Task to resend/poll in case no ACK is received.
358      */
359   GNUNET_SCHEDULER_TaskIdentifier   retry_task;
360
361     /**
362      * Counter for exponential backoff.
363      */
364   struct GNUNET_TIME_Relative       retry_timer;
365
366     /**
367      * How long does it usually take to get an ACK.
368      */
369   struct GNUNET_TIME_Relative       expected_delay;
370 };
371
372
373 /**
374  * Struct containing all information regarding a tunnel
375  * For an intermediate node the improtant info used will be:
376  * - id        Tunnel unique identification
377  * - paths[0]  To know where to send it next
378  * - metainfo: ready, speeds, accounting
379  */
380 struct MeshTunnel
381 {
382     /**
383      * Tunnel ID
384      */
385   struct MESH_TunnelID id;
386
387     /**
388      * Port of the tunnel.
389      */
390   uint32_t port;
391
392     /**
393      * State of the tunnel.
394      */
395   enum MeshTunnelState state;
396
397     /**
398      * Local tunnel number ( >= GNUNET_MESH_LOCAL_TUNNEL_ID_CLI or 0 )
399      */
400   MESH_TunnelNumber local_tid;
401
402     /**
403      * Local tunnel number for local destination clients (incoming number)
404      * ( >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV or 0). All clients share the same
405      * number.
406      */
407   MESH_TunnelNumber local_tid_dest;
408
409     /**
410      * Is the tunnel bufferless (minimum latency)?
411      */
412   int nobuffer;
413
414     /**
415      * Is the tunnel reliable?
416      */
417   int reliable;
418
419     /**
420      * Force sending ACK? Flag to allow duplicate ACK on POLL.
421      */
422   int force_ack;
423
424     /**
425      * How many messages do we accept in the forward queue.
426      */
427   unsigned int queue_max;
428
429     /**
430      * Last time the tunnel was used
431      */
432   struct GNUNET_TIME_Absolute timestamp;
433
434     /**
435      * Destination of the tunnel.
436      */
437   GNUNET_PEER_Id dest;
438
439     /**
440      * Next hop in the tunnel. If 0, @c client must be set.
441      */
442   GNUNET_PEER_Id next_hop;
443
444     /**
445      * Previous hop in the tunnel. If 0, @c owner must be set.
446      */
447   GNUNET_PEER_Id prev_hop;
448
449     /**
450      * Flow control information about @c next_hop or @c client.
451      */
452   struct MeshFlowControl next_fc;
453
454   /**
455    * Flow control information about @c prev_hop or @c owner.
456    */
457   struct MeshFlowControl prev_fc;
458
459     /**
460      * Client owner of the tunnel, if any
461      */
462   struct MeshClient *owner;
463
464     /**
465      * Client destination of the tunnel, if any.
466      */
467   struct MeshClient *client;
468
469     /**
470      * Task to keep the used paths alive at the owner,
471      * time tunnel out on all the other peers.
472      */
473   GNUNET_SCHEDULER_TaskIdentifier fwd_maintenance_task;
474
475   /**
476      * Task to keep the used paths alive at the destination,
477      * time tunnel out on all the other peers.
478      */
479   GNUNET_SCHEDULER_TaskIdentifier bck_maintenance_task;
480
481     /**
482      * Path being used for the tunnel.
483      */
484   struct MeshPeerPath *path;
485
486     /**
487      * Flag to signal the destruction of the tunnel.
488      * If this is set GNUNET_YES the tunnel will be destroyed
489      * when the queue is empty.
490      */
491   int destroy;
492
493     /**
494      * Total messages pending for this tunnels, payload or not.
495      */
496   unsigned int pending_messages;
497
498     /**
499      * Reliability data.
500      * Only present (non-NULL) at the owner of a tunnel.
501      */
502   struct MeshTunnelReliability *fwd_rel;
503
504     /**
505      * Reliability data.
506      * Only present (non-NULL) at the destination of a tunnel.
507      */
508   struct MeshTunnelReliability *bck_rel;
509 };
510
511
512 /**
513  * Struct containing information about a client of the service
514  * 
515  * TODO: add a list of 'waiting' ports
516  */
517 struct MeshClient
518 {
519     /**
520      * Linked list next
521      */
522   struct MeshClient *next;
523
524     /**
525      * Linked list prev
526      */
527   struct MeshClient *prev;
528
529     /**
530      * Tunnels that belong to this client, indexed by local id
531      */
532   struct GNUNET_CONTAINER_MultiHashMap32 *own_tunnels;
533
534    /**
535      * Tunnels this client has accepted, indexed by incoming local id
536      */
537   struct GNUNET_CONTAINER_MultiHashMap32 *incoming_tunnels;
538
539     /**
540      * Handle to communicate with the client
541      */
542   struct GNUNET_SERVER_Client *handle;
543
544     /**
545      * Ports that this client has declared interest in.
546      * Indexed by port, contains *Client.
547      */
548   struct GNUNET_CONTAINER_MultiHashMap32 *ports;
549
550     /**
551      * Whether the client is active or shutting down (don't send confirmations
552      * to a client that is shutting down.
553      */
554   int shutting_down;
555
556     /**
557      * ID of the client, mainly for debug messages
558      */
559   unsigned int id;
560
561 };
562
563
564 /******************************************************************************/
565 /************************      DEBUG FUNCTIONS     ****************************/
566 /******************************************************************************/
567
568 #if MESH_DEBUG
569 /**
570  * GNUNET_SCHEDULER_Task for printing a message after some operation is done
571  * @param cls string to print
572  * @param success  GNUNET_OK if the PUT was transmitted,
573  *                GNUNET_NO on timeout,
574  *                GNUNET_SYSERR on disconnect from service
575  *                after the PUT message was transmitted
576  *                (so we don't know if it was received or not)
577  */
578
579 #if 0
580 static void
581 mesh_debug (void *cls, int success)
582 {
583   char *s = cls;
584
585   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "%s (%d)\n", s, success);
586 }
587 #endif
588
589 #endif
590
591 /******************************************************************************/
592 /***********************      GLOBAL VARIABLES     ****************************/
593 /******************************************************************************/
594
595 /************************** Configuration parameters **************************/
596
597 /**
598  * How often to send tunnel keepalives. Tunnels timeout after 4 missed.
599  */
600 static struct GNUNET_TIME_Relative refresh_path_time;
601
602 /**
603  * How often to PUT own ID in the DHT.
604  */
605 static struct GNUNET_TIME_Relative id_announce_time;
606
607 /**
608  * Maximum time allowed to connect to a peer found by string.
609  */
610 static struct GNUNET_TIME_Relative connect_timeout;
611
612 /**
613  * Default TTL for payload packets.
614  */
615 static unsigned long long default_ttl;
616
617 /**
618  * DHT replication level, see DHT API: GNUNET_DHT_get_start, GNUNET_DHT_put.
619  */
620 static unsigned long long dht_replication_level;
621
622 /**
623  * How many tunnels are we willing to maintain.
624  * Local tunnels are always allowed, even if there are more tunnels than max.
625  */
626 static unsigned long long max_tunnels;
627
628 /**
629  * How many messages *in total* are we willing to queue, divided by number of 
630  * tunnels to get tunnel queue size.
631  */
632 static unsigned long long max_msgs_queue;
633
634 /**
635  * How many peers do we want to remember?
636  */
637 static unsigned long long max_peers;
638
639 /**
640  * Percentage of messages that will be dropped (for test purposes only).
641  */
642 static unsigned long long drop_percent;
643
644 /*************************** Static global variables **************************/
645
646 /**
647  * DLL with all the clients, head.
648  */
649 static struct MeshClient *clients_head;
650
651 /**
652  * DLL with all the clients, tail.
653  */
654 static struct MeshClient *clients_tail;
655
656 /**
657  * Tunnels known, indexed by MESH_TunnelID (MeshTunnel).
658  */
659 static struct GNUNET_CONTAINER_MultiHashMap *tunnels;
660
661 /**
662  * Number of tunnels known.
663  */
664 static unsigned long long n_tunnels;
665
666 /**
667  * Tunnels incoming, indexed by MESH_TunnelNumber
668  * (which is greater than GNUNET_MESH_LOCAL_TUNNEL_ID_SERV).
669  */
670 static struct GNUNET_CONTAINER_MultiHashMap32 *incoming_tunnels;
671
672 /**
673  * Peers known, indexed by PeerIdentity (MeshPeerInfo).
674  */
675 static struct GNUNET_CONTAINER_MultiHashMap *peers;
676
677 /*
678  * Handle to communicate with transport
679  */
680 // static struct GNUNET_TRANSPORT_Handle *transport_handle;
681
682 /**
683  * Handle to communicate with core.
684  */
685 static struct GNUNET_CORE_Handle *core_handle;
686
687 /**
688  * Handle to use DHT.
689  */
690 static struct GNUNET_DHT_Handle *dht_handle;
691
692 /**
693  * Handle to server.
694  */
695 static struct GNUNET_SERVER_Handle *server_handle;
696
697 /**
698  * Handle to the statistics service.
699  */
700 static struct GNUNET_STATISTICS_Handle *stats;
701
702 /**
703  * Notification context, to send messages to local clients.
704  */
705 static struct GNUNET_SERVER_NotificationContext *nc;
706
707 /**
708  * Local peer own ID (memory efficient handle).
709  */
710 static GNUNET_PEER_Id myid;
711
712 /**
713  * Local peer own ID (full value).
714  */
715 static struct GNUNET_PeerIdentity my_full_id;
716
717 /**
718  * Own private key.
719  */
720 static struct GNUNET_CRYPTO_EccPrivateKey *my_private_key;
721
722 /**
723  * Own public key.
724  */
725 static struct GNUNET_CRYPTO_EccPublicKeyBinaryEncoded my_public_key;
726
727 /**
728  * Tunnel ID for the next created tunnel (global tunnel number).
729  */
730 static MESH_TunnelNumber next_tid;
731
732 /**
733  * Tunnel ID for the next incoming tunnel (local tunnel number).
734  */
735 static MESH_TunnelNumber next_local_tid;
736
737 /**
738  * All ports clients of this peer have opened.
739  */
740 static struct GNUNET_CONTAINER_MultiHashMap32 *ports;
741
742 /**
743  * Task to periodically announce itself in the network.
744  */
745 GNUNET_SCHEDULER_TaskIdentifier announce_id_task;
746
747 /**
748  * Next ID to assign to a client.
749  */
750 unsigned int next_client_id;
751
752
753 /******************************************************************************/
754 /***********************         DECLARATIONS        **************************/
755 /******************************************************************************/
756
757 /**
758  * Function to process paths received for a new peer addition. The recorded
759  * paths form the initial tunnel, which can be optimized later.
760  * Called on each result obtained for the DHT search.
761  *
762  * @param cls closure
763  * @param exp when will this value expire
764  * @param key key of the result
765  * @param type type of the result
766  * @param size number of bytes in data
767  * @param data pointer to the result data
768  */
769 static void
770 dht_get_id_handler (void *cls, struct GNUNET_TIME_Absolute exp,
771                     const struct GNUNET_HashCode * key,
772                     const struct GNUNET_PeerIdentity *get_path,
773                     unsigned int get_path_length,
774                     const struct GNUNET_PeerIdentity *put_path,
775                     unsigned int put_path_length, enum GNUNET_BLOCK_Type type,
776                     size_t size, const void *data);
777
778
779 /**
780  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
781  * and insert it in the appropriate structures if the peer is not known yet.
782  *
783  * @param peer Full identity of the peer.
784  *
785  * @return Existing or newly created peer info.
786  */
787 static struct MeshPeerInfo *
788 peer_get (const struct GNUNET_PeerIdentity *peer);
789
790
791 /**
792  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
793  * and insert it in the appropriate structures if the peer is not known yet.
794  *
795  * @param peer Short identity of the peer.
796  *
797  * @return Existing or newly created peer info.
798  */
799 static struct MeshPeerInfo *
800 peer_get_short (const GNUNET_PEER_Id peer);
801
802
803 /**
804  * Build a PeerPath from the paths returned from the DHT, reversing the paths
805  * to obtain a local peer -> destination path and interning the peer ids.
806  *
807  * @return Newly allocated and created path
808  */
809 static struct MeshPeerPath *
810 path_build_from_dht (const struct GNUNET_PeerIdentity *get_path,
811                      unsigned int get_path_length,
812                      const struct GNUNET_PeerIdentity *put_path,
813                      unsigned int put_path_length);
814
815
816 /**
817  * Adds a path to the peer_infos of all the peers in the path
818  *
819  * @param p Path to process.
820  * @param confirmed Whether we know if the path works or not.
821  */
822 static void
823 path_add_to_peers (struct MeshPeerPath *p, int confirmed);
824
825
826
827 /**
828  * Search for a tunnel by global ID using full PeerIdentities.
829  *
830  * @param oid owner of the tunnel.
831  * @param tid global tunnel number.
832  *
833  * @return tunnel handler, NULL if doesn't exist.
834  */
835 static struct MeshTunnel *
836 tunnel_get (const struct GNUNET_PeerIdentity *oid, MESH_TunnelNumber tid);
837
838
839 /**
840  * Change the tunnel state.
841  *
842  * @param t Tunnel whose ttate to change.
843  * @param state New state.
844  */
845 static void
846 tunnel_change_state (struct MeshTunnel *t, enum MeshTunnelState state);
847
848
849 /**
850  * Notify a tunnel that a connection has broken that affects at least
851  * some of its peers.
852  *
853  * @param t Tunnel affected.
854  * @param p1 Peer that got disconnected from p2.
855  * @param p2 Peer that got disconnected from p1.
856  *
857  * @return Short ID of the peer disconnected (either p1 or p2).
858  *         0 if the tunnel remained unaffected.
859  */
860 static GNUNET_PEER_Id
861 tunnel_notify_connection_broken (struct MeshTunnel *t, GNUNET_PEER_Id p1,
862                                  GNUNET_PEER_Id p2);
863
864
865 /**
866  * Send FWD keepalive packets for a tunnel.
867  *
868  * @param cls Closure (tunnel for which to send the keepalive).
869  * @param tc Notification context.
870  */
871 static void
872 tunnel_fwd_keepalive (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc);
873
874 /**
875  * Send BCK keepalive packets for a tunnel.
876  *
877  * @param cls Closure (tunnel for which to send the keepalive).
878  * @param tc Notification context.
879  */
880 static void
881 tunnel_bck_keepalive (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc);
882
883 /**
884  * @brief Use the given path for the tunnel.
885  * Update the next and prev hops (and RCs).
886  * (Re)start the path refresh in case the tunnel is locally owned.
887  * 
888  * @param t Tunnel to update.
889  * @param p Path to use.
890  */
891 static void
892 tunnel_use_path (struct MeshTunnel *t, struct MeshPeerPath *p);
893
894 /**
895  * Tunnel is empty: destroy it.
896  * 
897  * Notifies all participants (peers, cleints) about the destruction.
898  * 
899  * @param t Tunnel to destroy. 
900  */
901 static void
902 tunnel_destroy_empty (struct MeshTunnel *t);
903
904 /**
905  * @brief Queue and pass message to core when possible.
906  * 
907  * If type is payload (UNICAST, TO_ORIGIN, MULTICAST) checks for queue status
908  * and accounts for it. In case the queue is full, the message is dropped and
909  * a break issued.
910  * 
911  * Otherwise, message is treated as internal and allowed to go regardless of 
912  * queue status.
913  *
914  * @param cls Closure (@c type dependant). It will be used by queue_send to
915  *            build the message to be sent if not already prebuilt.
916  * @param type Type of the message, 0 for a raw message.
917  * @param size Size of the message.
918  * @param dst Neighbor to send message to.
919  * @param t Tunnel this message belongs to.
920  */
921 static void
922 queue_add (void *cls, uint16_t type, size_t size,
923            struct MeshPeerInfo *dst, struct MeshTunnel *t);
924
925
926 /**
927  * Free a transmission that was already queued with all resources
928  * associated to the request.
929  *
930  * @param queue Queue handler to cancel.
931  * @param clear_cls Is it necessary to free associated cls?
932  */
933 static void
934 queue_destroy (struct MeshPeerQueue *queue, int clear_cls);
935
936
937 /**
938  * @brief Get the next transmittable message from the queue.
939  *
940  * This will be the head, except in the case of being a data packet
941  * not allowed by the destination peer.
942  *
943  * @param peer Destination peer.
944  *
945  * @return The next viable MeshPeerQueue element to send to that peer.
946  *         NULL when there are no transmittable messages.
947  */
948 struct MeshPeerQueue *
949 queue_get_next (const struct MeshPeerInfo *peer);
950
951
952 /**
953  * Core callback to write a queued packet to core buffer
954  *
955  * @param cls Closure (peer info).
956  * @param size Number of bytes available in buf.
957  * @param buf Where the to write the message.
958  *
959  * @return number of bytes written to buf
960  */
961 static size_t
962 queue_send (void *cls, size_t size, void *buf);
963
964
965 /**
966  * Dummy function to separate declarations from definitions in function list.
967  */
968 void
969 __mesh_divider______________________________________________________________();
970
971
972 static const char *
973 GNUNET_MESH_DEBUG_S2S (enum MeshTunnelState s)
974 {
975   static char buf[128];
976
977   switch (s)
978   {
979     /**
980      * Uninitialized status, should never appear in operation.
981      */
982     case MESH_TUNNEL_NEW: return "MESH_TUNNEL_NEW";
983
984     /**
985      * Path to the peer not known yet
986      */
987     case MESH_TUNNEL_SEARCHING: return "MESH_TUNNEL_SEARCHING";
988
989     /**
990      * Request sent, not yet answered.
991      */
992     case MESH_TUNNEL_WAITING: return "MESH_TUNNEL_WAITING";
993
994     /**
995      * Peer connected and ready to accept data
996      */
997     case MESH_TUNNEL_READY: return "MESH_TUNNEL_READY";
998
999     /**
1000      * Peer connected previosly but not responding
1001      */
1002     case MESH_TUNNEL_RECONNECTING: return "MESH_TUNNEL_RECONNECTING";
1003
1004     default:
1005       sprintf (buf, "%u (UNKNOWN STATE)", s);
1006       return buf;
1007   }
1008 }
1009
1010
1011 /******************************************************************************/
1012 /************************    PERIODIC FUNCTIONS    ****************************/
1013 /******************************************************************************/
1014
1015 /**
1016  * Periodically announce self id in the DHT
1017  *
1018  * @param cls closure
1019  * @param tc task context
1020  */
1021 static void
1022 announce_id (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1023 {
1024   struct PBlock block;
1025
1026   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1027   {
1028     announce_id_task = GNUNET_SCHEDULER_NO_TASK;
1029     return;
1030   }
1031   /* TODO
1032    * - Set data expiration in function of X
1033    * - Adapt X to churn
1034    */
1035   DEBUG_DHT ("DHT_put for ID %s started.\n", GNUNET_i2s (&my_full_id));
1036
1037   block.id = my_full_id;
1038   GNUNET_DHT_put (dht_handle,   /* DHT handle */
1039                   &my_full_id.hashPubKey,       /* Key to use */
1040                   dht_replication_level,     /* Replication level */
1041                   GNUNET_DHT_RO_RECORD_ROUTE | GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,    /* DHT options */
1042                   GNUNET_BLOCK_TYPE_MESH_PEER,       /* Block type */
1043                   sizeof (block),  /* Size of the data */
1044                   (const char *) &block, /* Data itself */
1045                   GNUNET_TIME_UNIT_FOREVER_ABS,  /* Data expiration */
1046                   GNUNET_TIME_UNIT_FOREVER_REL, /* Retry time */
1047                   NULL,         /* Continuation */
1048                   NULL);        /* Continuation closure */
1049   announce_id_task =
1050       GNUNET_SCHEDULER_add_delayed (id_announce_time, &announce_id, cls);
1051 }
1052
1053
1054 /******************************************************************************/
1055 /******************      GENERAL HELPER FUNCTIONS      ************************/
1056 /******************************************************************************/
1057
1058
1059 /**
1060  * Check if client has registered with the service and has not disconnected
1061  *
1062  * @param client the client to check
1063  *
1064  * @return non-NULL if client exists in the global DLL
1065  */
1066 static struct MeshClient *
1067 client_get (struct GNUNET_SERVER_Client *client)
1068 {
1069   return GNUNET_SERVER_client_get_user_context (client, struct MeshClient);
1070 }
1071
1072
1073 /**
1074  * Deletes a tunnel from a client (either owner or destination). To be used on
1075  * tunnel destroy.
1076  *
1077  * @param c Client whose tunnel to delete.
1078  * @param t Tunnel which should be deleted.
1079  */
1080 static void
1081 client_delete_tunnel (struct MeshClient *c, struct MeshTunnel *t)
1082 {
1083   if (c == t->owner)
1084   {
1085     GNUNET_assert (GNUNET_YES ==
1086                    GNUNET_CONTAINER_multihashmap32_remove (c->own_tunnels,
1087                                                            t->local_tid,
1088                                                            t));
1089   }
1090   if (c == t->client)
1091   {
1092     GNUNET_assert (GNUNET_YES ==
1093                    GNUNET_CONTAINER_multihashmap32_remove (c->incoming_tunnels,
1094                                                            t->local_tid_dest,
1095                                                            t));
1096   }
1097 }
1098
1099
1100 /**
1101  * Notify the appropriate client that a new incoming tunnel was created.
1102  *
1103  * @param t Tunnel that was created.
1104  */
1105 static void
1106 send_local_tunnel_create (struct MeshTunnel *t)
1107 {
1108   struct GNUNET_MESH_TunnelMessage msg;
1109
1110   if (NULL == t->client)
1111     return;
1112   msg.header.size = htons (sizeof (msg));
1113   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_CREATE);
1114   msg.tunnel_id = htonl (t->local_tid_dest);
1115   msg.port = htonl (t->port);
1116   msg.opt = 0;
1117   msg.opt |= GNUNET_YES == t->reliable ? GNUNET_MESH_OPTION_RELIABLE : 0;
1118   msg.opt |= GNUNET_YES == t->nobuffer ? GNUNET_MESH_OPTION_NOBUFFER : 0;
1119   msg.opt = htonl (msg.opt);
1120   GNUNET_PEER_resolve (t->id.oid, &msg.peer);
1121   GNUNET_SERVER_notification_context_unicast (nc, t->client->handle,
1122                                               &msg.header, GNUNET_NO);
1123 }
1124
1125
1126 /**
1127  * Notify a client that the incoming tunnel is no longer valid.
1128  *
1129  * @param t Tunnel that is destroyed.
1130  * @param fwd Forward notification (owner->dest)?
1131  */
1132 static void
1133 send_local_tunnel_destroy (struct MeshTunnel *t, int fwd)
1134 {
1135   struct GNUNET_MESH_TunnelMessage msg;
1136   struct MeshClient *c;
1137
1138   c = fwd ? t->client : t->owner;
1139   if (NULL == c)
1140   {
1141     GNUNET_break (0);
1142     return;
1143   }
1144   msg.header.size = htons (sizeof (msg));
1145   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_DESTROY);
1146   msg.tunnel_id = htonl (fwd ? t->local_tid_dest : t->local_tid);
1147   msg.port = htonl (0);
1148   memset (&msg.peer, 0, sizeof (msg.peer));
1149   msg.opt = htonl (0);
1150   GNUNET_SERVER_notification_context_unicast (nc, c->handle,
1151                                               &msg.header, GNUNET_NO);
1152 }
1153
1154
1155 /**
1156  * Build a local ACK message and send it to a local client.
1157  * 
1158  * @param t Tunnel on which to send the ACK.
1159  * @param c Client to whom send the ACK.
1160  * @param is_fwd Set to GNUNET_YES for FWD ACK (dest->owner)
1161  */
1162 static void
1163 send_local_ack (struct MeshTunnel *t,
1164                 struct MeshClient *c,
1165                 int is_fwd)
1166 {
1167   struct GNUNET_MESH_LocalAck msg;
1168
1169   msg.header.size = htons (sizeof (msg));
1170   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK);
1171   msg.tunnel_id = htonl (is_fwd ? t->local_tid : t->local_tid_dest);
1172   GNUNET_SERVER_notification_context_unicast (nc,
1173                                               c->handle,
1174                                               &msg.header,
1175                                               GNUNET_NO);
1176 }
1177
1178
1179
1180 /**
1181  * Sends an already built message to a peer, properly registrating
1182  * all used resources.
1183  *
1184  * @param message Message to send. Function makes a copy of it.
1185  * @param peer Short ID of the neighbor whom to send the message.
1186  * @param t Tunnel on which this message is transmitted.
1187  */
1188 static void
1189 send_prebuilt_message (const struct GNUNET_MessageHeader *message,
1190                        GNUNET_PEER_Id peer,
1191                        struct MeshTunnel *t)
1192 {
1193   struct GNUNET_PeerIdentity id;
1194   struct MeshPeerInfo *neighbor;
1195   struct MeshPeerPath *p;
1196   void *data;
1197   size_t size;
1198   uint16_t type;
1199
1200 //   GNUNET_TRANSPORT_try_connect(); FIXME use?
1201
1202   if (0 == peer)
1203     return;
1204
1205   size = ntohs (message->size);
1206   data = GNUNET_malloc (size);
1207   memcpy (data, message, size);
1208   type = ntohs(message->type);
1209   if (GNUNET_MESSAGE_TYPE_MESH_UNICAST == type ||
1210       GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == type)
1211   {
1212     struct GNUNET_MESH_Data *u;
1213
1214     u = (struct GNUNET_MESH_Data *) data;
1215     u->ttl = htonl (ntohl (u->ttl) - 1);
1216   }
1217   GNUNET_PEER_resolve (peer, &id);
1218   neighbor = peer_get (&id);
1219   for (p = neighbor->path_head; NULL != p; p = p->next)
1220   {
1221     if (2 >= p->length)
1222     {
1223       break;
1224     }
1225   }
1226   if (NULL == p)
1227   {
1228 #if MESH_DEBUG
1229     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1230                 "  %s IS NOT DIRECTLY CONNECTED\n",
1231                 GNUNET_i2s(&id));
1232     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1233                 "  PATHS TO %s:\n",
1234                 GNUNET_i2s(&id));
1235     for (p = neighbor->path_head; NULL != p; p = p->next)
1236     {
1237       struct GNUNET_PeerIdentity debug_id;
1238       unsigned int i;
1239
1240       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1241                   "    path with %u hops through:\n",
1242                   p->length);
1243       for (i = 0; i < p->length; i++)
1244       {
1245         GNUNET_PEER_resolve(p->peers[i], &debug_id);
1246         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1247                     "      hop %u: %s\n",
1248                     i, GNUNET_i2s(&debug_id));
1249       }
1250     }
1251 #endif
1252     GNUNET_break (0);
1253     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1254                     " no direct connection to %s\n",
1255                     GNUNET_i2s (&id));
1256     GNUNET_free (data);
1257     return;
1258   }
1259   if (GNUNET_MESSAGE_TYPE_MESH_PATH_ACK == type)
1260     type = 0;
1261   queue_add (data,
1262              type,
1263              size,
1264              neighbor,
1265              t);
1266 }
1267
1268
1269 /**
1270  * Sends a CREATE PATH message for a path to a peer, properly registrating
1271  * all used resources.
1272  *
1273  * @param t Tunnel for which the path is created.
1274  */
1275 static void
1276 send_path_create (struct MeshTunnel *t)
1277 {
1278   struct MeshPeerInfo *neighbor;
1279
1280   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Send create path\n");
1281   neighbor = peer_get_short (t->next_hop);
1282   queue_add (t,
1283              GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE,
1284              sizeof (struct GNUNET_MESH_CreateTunnel) +
1285                 (t->path->length * sizeof (struct GNUNET_PeerIdentity)),
1286              neighbor,
1287              t);
1288   tunnel_change_state (t, MESH_TUNNEL_WAITING);
1289 }
1290
1291
1292 /**
1293  * Sends a PATH ACK message in reponse to a received PATH_CREATE directed to us.
1294  *
1295  * @param t Tunnel which to confirm.
1296  */
1297 static void
1298 send_path_ack (struct MeshTunnel *t) 
1299 {
1300   struct MeshPeerInfo *neighbor;
1301
1302   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Send path ack\n");
1303   neighbor = peer_get_short (t->prev_hop);
1304   queue_add (t,
1305              GNUNET_MESSAGE_TYPE_MESH_PATH_ACK,
1306              sizeof (struct GNUNET_MESH_PathACK),
1307              neighbor,
1308              t);
1309   tunnel_change_state (t, MESH_TUNNEL_WAITING);
1310 }
1311
1312
1313 /**
1314  * Build an ACK message and queue it to send to the given peer.
1315  * 
1316  * @param t Tunnel on which to send the ACK.
1317  * @param peer Peer to whom send the ACK.
1318  * @param ack Value of the ACK.
1319  */
1320 static void
1321 send_ack (struct MeshTunnel *t, GNUNET_PEER_Id peer,  uint32_t ack)
1322 {
1323   struct GNUNET_MESH_ACK msg;
1324
1325   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
1326   msg.header.size = htons (sizeof (msg));
1327   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_ACK);
1328   msg.pid = htonl (ack);
1329   msg.tid = htonl (t->id.tid);
1330
1331   send_prebuilt_message (&msg.header, peer, t);
1332 }
1333
1334
1335 /**
1336   * Core callback to write a pre-constructed data packet to core buffer
1337   *
1338   * @param cls Closure (MeshTransmissionDescriptor with data in "data" member).
1339   * @param size Number of bytes available in buf.
1340   * @param buf Where the to write the message.
1341   *
1342   * @return number of bytes written to buf
1343   */
1344 static size_t
1345 send_core_data_raw (void *cls, size_t size, void *buf)
1346 {
1347   struct GNUNET_MessageHeader *msg = cls;
1348   size_t total_size;
1349
1350   GNUNET_assert (NULL != msg);
1351   total_size = ntohs (msg->size);
1352
1353   if (total_size > size)
1354   {
1355     GNUNET_break (0);
1356     return 0;
1357   }
1358   memcpy (buf, msg, total_size);
1359   GNUNET_free (cls);
1360   return total_size;
1361 }
1362
1363
1364 /**
1365  * Function to send a create path packet to a peer.
1366  *
1367  * @param cls closure
1368  * @param size number of bytes available in buf
1369  * @param buf where the callee should write the message
1370  * @return number of bytes written to buf
1371  */
1372 static size_t
1373 send_core_path_create (void *cls, size_t size, void *buf)
1374 {
1375   struct MeshTunnel *t = cls;
1376   struct GNUNET_MESH_CreateTunnel *msg;
1377   struct GNUNET_PeerIdentity *peer_ptr;
1378   struct MeshPeerPath *p = t->path;
1379   size_t size_needed;
1380   uint32_t opt;
1381   int i;
1382
1383   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "CREATE PATH sending...\n");
1384   size_needed =
1385       sizeof (struct GNUNET_MESH_CreateTunnel) +
1386       p->length * sizeof (struct GNUNET_PeerIdentity);
1387
1388   if (size < size_needed || NULL == buf)
1389   {
1390     GNUNET_break (0);
1391     return 0;
1392   }
1393   msg = (struct GNUNET_MESH_CreateTunnel *) buf;
1394   msg->header.size = htons (size_needed);
1395   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE);
1396   msg->tid = ntohl (t->id.tid);
1397
1398   opt = 0;
1399   if (GNUNET_YES == t->nobuffer)
1400     opt |= GNUNET_MESH_OPTION_NOBUFFER;
1401   if (GNUNET_YES == t->reliable)
1402     opt |= GNUNET_MESH_OPTION_RELIABLE;
1403   msg->opt = htonl (opt);
1404   msg->port = htonl (t->port);
1405
1406   peer_ptr = (struct GNUNET_PeerIdentity *) &msg[1];
1407   for (i = 0; i < p->length; i++)
1408   {
1409     GNUNET_PEER_resolve (p->peers[i], peer_ptr++);
1410   }
1411
1412   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1413               "CREATE PATH (%u bytes long) sent!\n", size_needed);
1414   return size_needed;
1415 }
1416
1417
1418 /**
1419  * Creates a path ack message in buf and frees all unused resources.
1420  *
1421  * @param cls closure (MeshTransmissionDescriptor)
1422  * @param size number of bytes available in buf
1423  * @param buf where the callee should write the message
1424  * @return number of bytes written to buf
1425  */
1426 static size_t
1427 send_core_path_ack (void *cls, size_t size, void *buf)
1428 {
1429   struct MeshTunnel *t = cls;
1430   struct GNUNET_MESH_PathACK *msg = buf;
1431
1432   GNUNET_assert (NULL != t);
1433   if (sizeof (struct GNUNET_MESH_PathACK) > size)
1434   {
1435     GNUNET_break (0);
1436     return 0;
1437   }
1438   t->prev_fc.last_ack_sent = t->nobuffer ? 0 : t->queue_max - 1;
1439   msg->header.size = htons (sizeof (struct GNUNET_MESH_PathACK));
1440   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_ACK);
1441   GNUNET_PEER_resolve (t->id.oid, &msg->oid);
1442   msg->tid = htonl (t->id.tid);
1443   msg->peer_id = my_full_id;
1444   msg->ack = htonl (t->prev_fc.last_ack_sent);
1445
1446   /* TODO add signature */
1447
1448   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "PATH ACK sent!\n");
1449   return sizeof (struct GNUNET_MESH_PathACK);
1450 }
1451
1452
1453 /**
1454  * Iterator over all the peers to remove the oldest not-used entry.
1455  *
1456  * @param cls Closure (unsued).
1457  * @param key ID of the peer.
1458  * @param value Peer_Info of the peer.
1459  *
1460  * FIXME implement
1461  */
1462 static int
1463 peer_info_timeout (void *cls,
1464                    const struct GNUNET_HashCode *key,
1465                    void *value)
1466 {
1467   return GNUNET_YES;
1468 }
1469
1470 /**
1471  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
1472  * and insert it in the appropriate structures if the peer is not known yet.
1473  *
1474  * @param peer Full identity of the peer.
1475  *
1476  * @return Existing or newly created peer info.
1477  */
1478 static struct MeshPeerInfo *
1479 peer_get (const struct GNUNET_PeerIdentity *peer)
1480 {
1481   struct MeshPeerInfo *peer_info;
1482
1483   peer_info = GNUNET_CONTAINER_multihashmap_get (peers, &peer->hashPubKey);
1484   if (NULL == peer_info)
1485   {
1486     peer_info =
1487         (struct MeshPeerInfo *) GNUNET_malloc (sizeof (struct MeshPeerInfo));
1488     if (GNUNET_CONTAINER_multihashmap_size (peers) > max_peers)
1489     {
1490       GNUNET_CONTAINER_multihashmap_iterate (peers,
1491                                              &peer_info_timeout,
1492                                              NULL);
1493     }
1494     GNUNET_CONTAINER_multihashmap_put (peers, &peer->hashPubKey, peer_info,
1495                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
1496     peer_info->id = GNUNET_PEER_intern (peer);
1497   }
1498   peer_info->last_contact = GNUNET_TIME_absolute_get();
1499
1500   return peer_info;
1501 }
1502
1503
1504 /**
1505  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
1506  * and insert it in the appropriate structures if the peer is not known yet.
1507  *
1508  * @param peer Short identity of the peer.
1509  *
1510  * @return Existing or newly created peer info.
1511  */
1512 static struct MeshPeerInfo *
1513 peer_get_short (const GNUNET_PEER_Id peer)
1514 {
1515   struct GNUNET_PeerIdentity id;
1516
1517   GNUNET_PEER_resolve (peer, &id);
1518   return peer_get (&id);
1519 }
1520
1521
1522 /**
1523  * Select which PID to POLL for, to compensate for lost messages.
1524  *
1525  * @param pi Peer we want to poll.
1526  * @param t Tunnel about which we want to poll.
1527  * 
1528  * @return PID to use, either last sent or first_in_queue - 1
1529  */
1530 static uint32_t
1531 peer_get_first_payload_pid (struct MeshPeerInfo *pi, struct MeshTunnel *t)
1532 {
1533   struct MeshPeerQueue *q;
1534   uint16_t type;
1535
1536   type = pi->id == t->next_hop ? GNUNET_MESSAGE_TYPE_MESH_UNICAST :
1537                                  GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN;
1538
1539   for (q = pi->queue_head; NULL != q; q = q->next)
1540   {
1541     if (q->type == type && q->tunnel == t)
1542     {
1543       struct GNUNET_MESH_Data *msg = q->cls;
1544
1545       /* Pretend that the last one sent was the previous to this */
1546       return ntohl (msg->pid) - 1;
1547     }
1548   }
1549
1550   /* No data in queue, use last sent */
1551   {
1552     struct MeshFlowControl *fc;
1553
1554     fc = pi->id == t->next_hop ? &t->next_fc : &t->prev_fc;
1555     return fc->last_pid_sent;
1556   }
1557 }
1558
1559
1560 /**
1561  * Choose the best path towards a peer considering the tunnel properties.
1562  * 
1563  * @param peer The destination peer.
1564  * @param t The tunnel the path is for.
1565  *
1566  * @return Best current known path towards the peer, if any.
1567  */
1568 static struct MeshPeerPath *
1569 peer_get_best_path (const struct MeshPeerInfo *peer, const struct MeshTunnel *t)
1570 {
1571   struct MeshPeerPath *best_p;
1572   struct MeshPeerPath *p;
1573   unsigned int best_cost;
1574   unsigned int cost;
1575
1576   best_p = p = peer->path_head;
1577   best_cost = cost = p->length;
1578   while (NULL != p)
1579   {
1580     if ((cost = p->length) < best_cost)
1581     {
1582       best_cost = cost;
1583       best_p = p;
1584     }
1585         p = p->next;
1586   }
1587   return best_p;
1588 }
1589
1590
1591 /**
1592  * Try to establish a new connection to this peer in the given tunnel.
1593  * If the peer doesn't have any path to it yet, try to get one.
1594  * If the peer already has some path, send a CREATE PATH towards it.
1595  *
1596  * @param peer PeerInfo of the peer.
1597  * @param t Tunnel for which to create the path, if possible.
1598  */
1599 static void
1600 peer_connect (struct MeshPeerInfo *peer, struct MeshTunnel *t)
1601 {
1602   struct MeshPeerPath *p;
1603
1604   if (NULL != peer->path_head)
1605   {
1606     p = peer_get_best_path (peer, t);
1607     tunnel_use_path (t, p);
1608     send_path_create (t);
1609   }
1610   else if (NULL == peer->dhtget)
1611   {
1612     struct GNUNET_PeerIdentity id;
1613
1614     GNUNET_PEER_resolve (peer->id, &id);
1615     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1616                 "  Starting DHT GET for peer %s\n", GNUNET_i2s (&id));
1617     peer->dhtget = GNUNET_DHT_get_start (dht_handle,    /* handle */
1618                                          GNUNET_BLOCK_TYPE_MESH_PEER, /* type */
1619                                          &id.hashPubKey,     /* key to search */
1620                                          dht_replication_level, /* replication level */
1621                                          GNUNET_DHT_RO_RECORD_ROUTE |
1622                                          GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,
1623                                          NULL,       /* xquery */
1624                                          0,     /* xquery bits */
1625                                          &dht_get_id_handler, peer);
1626     tunnel_change_state (t, MESH_TUNNEL_SEARCHING);
1627   }
1628   else
1629   {
1630     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1631                 "There is no path but the DHT GET is already started.\n");
1632   }
1633 }
1634
1635
1636 /**
1637  * @brief Re-initiate traffic to this peer if necessary.
1638  *
1639  * Check if there is traffic queued towards this peer
1640  * and the core transmit handle is NULL (traffic was stalled).
1641  * If so, call core tmt rdy.
1642  *
1643  * @param peer_id Short ID of peer to which initiate traffic.
1644  */
1645 static void
1646 peer_unlock_queue (GNUNET_PEER_Id peer_id)
1647 {
1648   struct MeshPeerInfo *peer;
1649   struct MeshPeerQueue *q;
1650   size_t size;
1651
1652   peer = peer_get_short (peer_id);
1653   if (NULL != peer->core_transmit)
1654     return;
1655
1656   q = queue_get_next (peer);
1657   if (NULL == q)
1658     return;
1659
1660   size = q->size;
1661   peer->core_transmit =
1662       GNUNET_CORE_notify_transmit_ready (core_handle,
1663                                          GNUNET_NO,
1664                                          0,
1665                                          GNUNET_TIME_UNIT_FOREVER_REL,
1666                                          GNUNET_PEER_resolve2 (peer->id),
1667                                          size,
1668                                          &queue_send,
1669                                          peer);
1670 }
1671
1672
1673 /**
1674  * Cancel all transmissions towards a neighbor that belong to a certain tunnel.
1675  *
1676  * @param t Tunnel which to cancel.
1677  * @param neighbor Short ID of the neighbor to whom cancel the transmissions.
1678  */
1679 static void
1680 peer_cancel_queues (GNUNET_PEER_Id neighbor, struct MeshTunnel *t)
1681 {
1682   struct MeshPeerInfo *peer_info;
1683   struct MeshPeerQueue *pq;
1684   struct MeshPeerQueue *next;
1685
1686   if (0 == neighbor)
1687     return; /* Was local peer, 0'ed in tunnel_destroy_iterator */
1688   peer_info = peer_get_short (neighbor);
1689   for (pq = peer_info->queue_head; NULL != pq; pq = next)
1690   {
1691     next = pq->next;
1692     if (pq->tunnel == t)
1693     {
1694       if (GNUNET_MESSAGE_TYPE_MESH_UNICAST == pq->type ||
1695           GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == pq->type)
1696       {
1697         /* Should have been removed on destroy children */
1698         GNUNET_break (0);
1699       }
1700       queue_destroy (pq, GNUNET_YES);
1701     }
1702   }
1703   if (NULL == peer_info->queue_head && NULL != peer_info->core_transmit)
1704   {
1705     GNUNET_CORE_notify_transmit_ready_cancel(peer_info->core_transmit);
1706     peer_info->core_transmit = NULL;
1707   }
1708 }
1709
1710
1711 /**
1712  * Destroy the peer_info and free any allocated resources linked to it
1713  *
1714  * @param pi The peer_info to destroy.
1715  *
1716  * @return GNUNET_OK on success
1717  */
1718 static int
1719 peer_info_destroy (struct MeshPeerInfo *pi)
1720 {
1721   struct GNUNET_PeerIdentity id;
1722   struct MeshPeerPath *p;
1723   struct MeshPeerPath *nextp;
1724   unsigned int i;
1725
1726   GNUNET_PEER_resolve (pi->id, &id);
1727   GNUNET_PEER_change_rc (pi->id, -1);
1728
1729   if (GNUNET_YES !=
1730       GNUNET_CONTAINER_multihashmap_remove (peers, &id.hashPubKey, pi))
1731   {
1732     GNUNET_break (0);
1733     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1734                 "removing peer %s, not in hashmap\n", GNUNET_i2s (&id));
1735   }
1736   if (NULL != pi->dhtget)
1737   {
1738     GNUNET_DHT_get_stop (pi->dhtget);
1739   }
1740   p = pi->path_head;
1741   while (NULL != p)
1742   {
1743     nextp = p->next;
1744     GNUNET_CONTAINER_DLL_remove (pi->path_head, pi->path_tail, p);
1745     path_destroy (p);
1746     p = nextp;
1747   }
1748   for (i = 0; i < pi->ntunnels; i++)
1749     tunnel_destroy_empty (pi->tunnels[i]);
1750   GNUNET_array_grow (pi->tunnels, pi->ntunnels, 0);
1751   GNUNET_free (pi);
1752   return GNUNET_OK;
1753 }
1754
1755
1756 /**
1757  * Remove all paths that rely on a direct connection between p1 and p2
1758  * from the peer itself and notify all tunnels about it.
1759  *
1760  * @param peer PeerInfo of affected peer.
1761  * @param p1 GNUNET_PEER_Id of one peer.
1762  * @param p2 GNUNET_PEER_Id of another peer that was connected to the first and
1763  *           no longer is.
1764  *
1765  * TODO: optimize (see below)
1766  */
1767 static void
1768 peer_info_remove_path (struct MeshPeerInfo *peer, GNUNET_PEER_Id p1,
1769                        GNUNET_PEER_Id p2)
1770 {
1771   struct MeshPeerPath *p;
1772   struct MeshPeerPath *next;
1773   struct MeshPeerInfo *peer_d;
1774   GNUNET_PEER_Id d;
1775   unsigned int destroyed;
1776   unsigned int i;
1777
1778   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "peer_info_remove_path\n");
1779   destroyed = 0;
1780   for (p = peer->path_head; NULL != p; p = next)
1781   {
1782     next = p->next;
1783     for (i = 0; i < (p->length - 1); i++)
1784     {
1785       if ((p->peers[i] == p1 && p->peers[i + 1] == p2) ||
1786           (p->peers[i] == p2 && p->peers[i + 1] == p1))
1787       {
1788         GNUNET_CONTAINER_DLL_remove (peer->path_head, peer->path_tail, p);
1789         path_destroy (p);
1790         destroyed++;
1791         break;
1792       }
1793     }
1794   }
1795   if (0 == destroyed)
1796     return;
1797
1798   for (i = 0; i < peer->ntunnels; i++)
1799   {
1800     d = tunnel_notify_connection_broken (peer->tunnels[i], p1, p2);
1801     if (0 == d)
1802       continue;
1803
1804     peer_d = peer_get_short (d);
1805     next = peer_get_best_path (peer_d, peer->tunnels[i]);
1806     tunnel_use_path (peer->tunnels[i], next);
1807     peer_connect (peer_d, peer->tunnels[i]);
1808   }
1809   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "peer_info_remove_path END\n");
1810 }
1811
1812
1813 /**
1814  * Add the path to the peer and update the path used to reach it in case this
1815  * is the shortest.
1816  *
1817  * @param peer_info Destination peer to add the path to.
1818  * @param path New path to add. Last peer must be the peer in arg 1.
1819  *             Path will be either used of freed if already known.
1820  * @param trusted Do we trust that this path is real?
1821  */
1822 void
1823 peer_info_add_path (struct MeshPeerInfo *peer_info, struct MeshPeerPath *path,
1824                     int trusted)
1825 {
1826   struct MeshPeerPath *aux;
1827   unsigned int l;
1828   unsigned int l2;
1829
1830   if ((NULL == peer_info) || (NULL == path))
1831   {
1832     GNUNET_break (0);
1833     path_destroy (path);
1834     return;
1835   }
1836   if (path->peers[path->length - 1] != peer_info->id)
1837   {
1838     GNUNET_break (0);
1839     path_destroy (path);
1840     return;
1841   }
1842   if (2 >= path->length && GNUNET_NO == trusted)
1843   {
1844     /* Only allow CORE to tell us about direct paths */
1845     path_destroy (path);
1846     return;
1847   }
1848   for (l = 1; l < path->length; l++)
1849   {
1850     if (path->peers[l] == myid)
1851     {
1852       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shortening path by %u\n", l);
1853       for (l2 = 0; l2 < path->length - l; l2++)
1854       {
1855         path->peers[l2] = path->peers[l + l2];
1856       }
1857       path->length -= l;
1858       l = 1;
1859       path->peers =
1860           GNUNET_realloc (path->peers, path->length * sizeof (GNUNET_PEER_Id));
1861     }
1862   }
1863 #if MESH_DEBUG
1864   {
1865     struct GNUNET_PeerIdentity id;
1866
1867     GNUNET_PEER_resolve (peer_info->id, &id);
1868     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "adding path [%u] to peer %s\n",
1869                 path->length, GNUNET_i2s (&id));
1870   }
1871 #endif
1872   l = path_get_length (path);
1873   if (0 == l)
1874   {
1875     path_destroy (path);
1876     return;
1877   }
1878
1879   GNUNET_assert (peer_info->id == path->peers[path->length - 1]);
1880   for (aux = peer_info->path_head; aux != NULL; aux = aux->next)
1881   {
1882     l2 = path_get_length (aux);
1883     if (l2 > l)
1884     {
1885       GNUNET_CONTAINER_DLL_insert_before (peer_info->path_head,
1886                                           peer_info->path_tail, aux, path);
1887       return;
1888     }
1889     else
1890     {
1891       if (l2 == l && memcmp (path->peers, aux->peers, l) == 0)
1892       {
1893         path_destroy (path);
1894         return;
1895       }
1896     }
1897   }
1898   GNUNET_CONTAINER_DLL_insert_tail (peer_info->path_head, peer_info->path_tail,
1899                                     path);
1900   return;
1901 }
1902
1903
1904 /**
1905  * Add the path to the origin peer and update the path used to reach it in case
1906  * this is the shortest.
1907  * The path is given in peer_info -> destination, therefore we turn the path
1908  * upside down first.
1909  *
1910  * @param peer_info Peer to add the path to, being the origin of the path.
1911  * @param path New path to add after being inversed.
1912  *             Path will be either used or freed.
1913  * @param trusted Do we trust that this path is real?
1914  */
1915 static void
1916 peer_info_add_path_to_origin (struct MeshPeerInfo *peer_info,
1917                               struct MeshPeerPath *path, int trusted)
1918 {
1919   path_invert (path);
1920   peer_info_add_path (peer_info, path, trusted);
1921 }
1922
1923
1924 /**
1925  * Add a tunnel to the list of tunnels a peer participates in.
1926  * Update the tunnel's destination.
1927  * 
1928  * @param p Peer to add to.
1929  * @param t Tunnel to add.
1930  */
1931 static void
1932 peer_info_add_tunnel (struct MeshPeerInfo *p, struct MeshTunnel *t)
1933 {
1934   if (0 != t->dest)
1935   {
1936     GNUNET_break (t->dest == p->id);
1937     return;
1938   }
1939   t->dest = p->id;
1940   GNUNET_PEER_change_rc (t->dest, 1);
1941   GNUNET_array_append (p->tunnels, p->ntunnels, t);
1942 }
1943
1944
1945 /**
1946  * Remove a tunnel from the list of tunnels a peer participates in.
1947  * Free the tunnel's destination.
1948  * 
1949  * @param p Peer to clean.
1950  * @param t Tunnel to remove.
1951  */
1952 static void
1953 peer_info_remove_tunnel (struct MeshPeerInfo *p, struct MeshTunnel *t)
1954 {
1955   unsigned int i;
1956
1957   if (t->dest == p->id)
1958   {
1959       GNUNET_PEER_change_rc (t->dest, -1);
1960       t->dest = 0;
1961   }
1962   for (i = 0; i < p->ntunnels; i++)
1963   {
1964     if (p->tunnels[i] == t)
1965     {
1966       p->tunnels[i] = p->tunnels[p->ntunnels - 1];
1967       GNUNET_array_grow (p->tunnels, p->ntunnels, p->ntunnels - 1);
1968       return;
1969     }
1970   }
1971 }
1972
1973
1974 /**
1975  * Function called if the connection to the peer has been stalled for a while,
1976  * possibly due to a missed ACK. Poll the peer about its ACK status.
1977  *
1978  * @param cls Closure (poll ctx).
1979  * @param tc TaskContext.
1980  */
1981 static void
1982 tunnel_poll (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1983 {
1984   struct MeshFlowControl *fc = cls;
1985   struct GNUNET_MESH_Poll msg;
1986   struct MeshTunnel *t = fc->t;
1987   GNUNET_PEER_Id peer;
1988
1989   fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
1990   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1991   {
1992     return;
1993   }
1994
1995   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " *** Polling!\n");
1996
1997   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
1998
1999   if (fc == &t->prev_fc)
2000   {
2001     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " *** prev peer!\n");
2002     peer = t->prev_hop;
2003   }
2004   else if (fc == &t->next_fc)
2005   {
2006     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " *** next peer!\n");
2007     peer = t->next_hop;
2008   }
2009   else
2010   {
2011     GNUNET_break (0);
2012     return;
2013   }
2014   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_POLL);
2015   msg.header.size = htons (sizeof (msg));
2016   msg.tid = htonl (t->id.tid);
2017   msg.pid = htonl (peer_get_first_payload_pid (peer_get_short (peer), t));
2018   send_prebuilt_message (&msg.header, peer, t);
2019   fc->poll_time = GNUNET_TIME_STD_BACKOFF (fc->poll_time);
2020   fc->poll_task = GNUNET_SCHEDULER_add_delayed (fc->poll_time,
2021                                                 &tunnel_poll, fc);
2022 }
2023
2024
2025 /**
2026  * Build a PeerPath from the paths returned from the DHT, reversing the paths
2027  * to obtain a local peer -> destination path and interning the peer ids.
2028  *
2029  * @return Newly allocated and created path
2030  */
2031 static struct MeshPeerPath *
2032 path_build_from_dht (const struct GNUNET_PeerIdentity *get_path,
2033                      unsigned int get_path_length,
2034                      const struct GNUNET_PeerIdentity *put_path,
2035                      unsigned int put_path_length)
2036 {
2037   struct MeshPeerPath *p;
2038   GNUNET_PEER_Id id;
2039   int i;
2040
2041   p = path_new (1);
2042   p->peers[0] = myid;
2043   GNUNET_PEER_change_rc (myid, 1);
2044   i = get_path_length;
2045   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   GET has %d hops.\n", i);
2046   for (i--; i >= 0; i--)
2047   {
2048     id = GNUNET_PEER_intern (&get_path[i]);
2049     if (p->length > 0 && id == p->peers[p->length - 1])
2050     {
2051       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Optimizing 1 hop out.\n");
2052       GNUNET_PEER_change_rc (id, -1);
2053     }
2054     else
2055     {
2056       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Adding from GET: %s.\n",
2057                   GNUNET_i2s (&get_path[i]));
2058       p->length++;
2059       p->peers = GNUNET_realloc (p->peers, sizeof (GNUNET_PEER_Id) * p->length);
2060       p->peers[p->length - 1] = id;
2061     }
2062   }
2063   i = put_path_length;
2064   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   PUT has %d hops.\n", i);
2065   for (i--; i >= 0; i--)
2066   {
2067     id = GNUNET_PEER_intern (&put_path[i]);
2068     if (id == myid)
2069     {
2070       /* PUT path went through us, so discard the path up until now and start
2071        * from here to get a much shorter (and loop-free) path.
2072        */
2073       path_destroy (p);
2074       p = path_new (0);
2075     }
2076     if (p->length > 0 && id == p->peers[p->length - 1])
2077     {
2078       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Optimizing 1 hop out.\n");
2079       GNUNET_PEER_change_rc (id, -1);
2080     }
2081     else
2082     {
2083       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Adding from PUT: %s.\n",
2084                   GNUNET_i2s (&put_path[i]));
2085       p->length++;
2086       p->peers = GNUNET_realloc (p->peers, sizeof (GNUNET_PEER_Id) * p->length);
2087       p->peers[p->length - 1] = id;
2088     }
2089   }
2090 #if MESH_DEBUG
2091   if (get_path_length > 0)
2092     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (first of GET: %s)\n",
2093                 GNUNET_i2s (&get_path[0]));
2094   if (put_path_length > 0)
2095     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (first of PUT: %s)\n",
2096                 GNUNET_i2s (&put_path[0]));
2097   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   In total: %d hops\n",
2098               p->length);
2099   for (i = 0; i < p->length; i++)
2100   {
2101     struct GNUNET_PeerIdentity peer_id;
2102
2103     GNUNET_PEER_resolve (p->peers[i], &peer_id);
2104     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "       %u: %s\n", p->peers[i],
2105                 GNUNET_i2s (&peer_id));
2106   }
2107 #endif
2108   return p;
2109 }
2110
2111
2112 /**
2113  * Adds a path to the peer_infos of all the peers in the path
2114  *
2115  * @param p Path to process.
2116  * @param confirmed Whether we know if the path works or not.
2117  */
2118 static void
2119 path_add_to_peers (struct MeshPeerPath *p, int confirmed)
2120 {
2121   unsigned int i;
2122
2123   /* TODO: invert and add */
2124   for (i = 0; i < p->length && p->peers[i] != myid; i++) /* skip'em */ ;
2125   for (i++; i < p->length; i++)
2126   {
2127     struct MeshPeerInfo *aux;
2128     struct MeshPeerPath *copy;
2129
2130     aux = peer_get_short (p->peers[i]);
2131     copy = path_duplicate (p);
2132     copy->length = i + 1;
2133     peer_info_add_path (aux, copy, p->length < 3 ? GNUNET_NO : confirmed);
2134   }
2135 }
2136
2137
2138 /**
2139  * Search for a tunnel among the incoming tunnels
2140  *
2141  * @param tid the local id of the tunnel
2142  *
2143  * @return tunnel handler, NULL if doesn't exist
2144  */
2145 static struct MeshTunnel *
2146 tunnel_get_incoming (MESH_TunnelNumber tid)
2147 {
2148   GNUNET_assert (tid >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV);
2149   return GNUNET_CONTAINER_multihashmap32_get (incoming_tunnels, tid);
2150 }
2151
2152
2153 /**
2154  * Search for a tunnel among the tunnels for a client
2155  *
2156  * @param c the client whose tunnels to search in
2157  * @param tid the local id of the tunnel
2158  *
2159  * @return tunnel handler, NULL if doesn't exist
2160  */
2161 static struct MeshTunnel *
2162 tunnel_get_by_local_id (struct MeshClient *c, MESH_TunnelNumber tid)
2163 {
2164   if (0 == (tid & GNUNET_MESH_LOCAL_TUNNEL_ID_CLI))
2165   {
2166     GNUNET_break_op (0);
2167     return NULL;
2168   }
2169   if (tid >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
2170   {
2171     return tunnel_get_incoming (tid);
2172   }
2173   else
2174   {
2175     return GNUNET_CONTAINER_multihashmap32_get (c->own_tunnels, tid);
2176   }
2177 }
2178
2179
2180 /**
2181  * Search for a tunnel by global ID using PEER_ID
2182  *
2183  * @param pi owner of the tunnel
2184  * @param tid global tunnel number
2185  *
2186  * @return tunnel handler, NULL if doesn't exist
2187  */
2188 static struct MeshTunnel *
2189 tunnel_get_by_pi (GNUNET_PEER_Id pi, MESH_TunnelNumber tid)
2190 {
2191   struct MESH_TunnelID id;
2192   struct GNUNET_HashCode hash;
2193
2194   id.oid = pi;
2195   id.tid = tid;
2196
2197   GNUNET_CRYPTO_hash (&id, sizeof (struct MESH_TunnelID), &hash);
2198   return GNUNET_CONTAINER_multihashmap_get (tunnels, &hash);
2199 }
2200
2201
2202 /**
2203  * Search for a tunnel by global ID using full PeerIdentities
2204  *
2205  * @param oid owner of the tunnel
2206  * @param tid global tunnel number
2207  *
2208  * @return tunnel handler, NULL if doesn't exist
2209  */
2210 static struct MeshTunnel *
2211 tunnel_get (const struct GNUNET_PeerIdentity *oid, MESH_TunnelNumber tid)
2212 {
2213   return tunnel_get_by_pi (GNUNET_PEER_search (oid), tid);
2214 }
2215
2216
2217 /**
2218  * Change the tunnel state.
2219  *
2220  * @param t Tunnel whose ttate to change.
2221  * @param state New state.
2222  */
2223 static void
2224 tunnel_change_state (struct MeshTunnel *t, enum MeshTunnelState state)
2225 {
2226   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2227               "Tunnel %s[%X] state was %s\n",
2228               GNUNET_i2s (GNUNET_PEER_resolve2 (t->id.oid)), t->id.tid,
2229               GNUNET_MESH_DEBUG_S2S (t->state));
2230   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2231               "Tunnel %s[%X] state is now %s\n",
2232               GNUNET_i2s (GNUNET_PEER_resolve2 (t->id.oid)), t->id.tid,
2233               GNUNET_MESH_DEBUG_S2S (state));
2234   t->state = state;
2235 }
2236
2237
2238
2239 /**
2240  * Add a client to a tunnel, initializing all needed data structures.
2241  * 
2242  * @param t Tunnel to which add the client.
2243  * @param c Client which to add to the tunnel.
2244  */
2245 static void
2246 tunnel_add_client (struct MeshTunnel *t, struct MeshClient *c)
2247 {
2248   if (NULL != t->client)
2249   {
2250     GNUNET_break(0);
2251     return;
2252   }
2253   if (GNUNET_OK !=
2254       GNUNET_CONTAINER_multihashmap32_put (c->incoming_tunnels,
2255                                            t->local_tid_dest, t,
2256                                            GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST))
2257   {
2258     GNUNET_break (0);
2259     return;
2260   }
2261   if (GNUNET_OK !=
2262       GNUNET_CONTAINER_multihashmap32_put (incoming_tunnels,
2263                                            t->local_tid_dest, t,
2264                                            GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST))
2265   {
2266     GNUNET_break (0);
2267     return;
2268   }
2269   t->client = c;
2270 }
2271
2272
2273 static void
2274 tunnel_use_path (struct MeshTunnel *t, struct MeshPeerPath *p)
2275 {
2276   unsigned int own_pos;
2277
2278   for (own_pos = 0; own_pos < p->length; own_pos++)
2279   {
2280     if (p->peers[own_pos] == myid)
2281       break;
2282   }
2283   if (own_pos > p->length - 1)
2284   {
2285     GNUNET_break (0);
2286     return;
2287   }
2288
2289   if (own_pos < p->length - 1)
2290     t->next_hop = p->peers[own_pos + 1];
2291   else
2292     t->next_hop = p->peers[own_pos];
2293   GNUNET_PEER_change_rc (t->next_hop, 1);
2294   if (0 < own_pos)
2295     t->prev_hop = p->peers[own_pos - 1];
2296   else
2297     t->prev_hop = p->peers[0];
2298   GNUNET_PEER_change_rc (t->prev_hop, 1);
2299
2300   if (NULL != t->path)
2301     path_destroy (t->path);
2302   t->path = path_duplicate (p);
2303   if (0 == own_pos)
2304   {
2305     if (GNUNET_SCHEDULER_NO_TASK != t->fwd_maintenance_task)
2306       GNUNET_SCHEDULER_cancel (t->fwd_maintenance_task);
2307     t->fwd_maintenance_task =
2308         GNUNET_SCHEDULER_add_delayed (refresh_path_time,
2309                                       &tunnel_fwd_keepalive, t);
2310   }
2311 }
2312
2313
2314 /**
2315  * Notifies a tunnel that a connection has broken that affects at least
2316  * some of its peers. Sends a notification towards the root of the tree.
2317  * In case the peer is the owner of the tree, notifies the client that owns
2318  * the tunnel and tries to reconnect.
2319  *
2320  * @param t Tunnel affected.
2321  * @param p1 Peer that got disconnected from p2.
2322  * @param p2 Peer that got disconnected from p1.
2323  *
2324  * @return Short ID of the peer disconnected (either p1 or p2).
2325  *         0 if the tunnel remained unaffected.
2326  */
2327 static GNUNET_PEER_Id
2328 tunnel_notify_connection_broken (struct MeshTunnel *t, GNUNET_PEER_Id p1,
2329                                  GNUNET_PEER_Id p2)
2330 {
2331 //   if (myid != p1 && myid != p2) FIXME
2332 //   {
2333 //     return;
2334 //   }
2335 // 
2336 //   if (tree_get_predecessor (t->tree) != 0)
2337 //   {
2338 //     /* We are the peer still connected, notify owner of the disconnection. */
2339 //     struct GNUNET_MESH_PathBroken msg;
2340 //     struct GNUNET_PeerIdentity neighbor;
2341 // 
2342 //     msg.header.size = htons (sizeof (msg));
2343 //     msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN);
2344 //     GNUNET_PEER_resolve (t->id.oid, &msg.oid);
2345 //     msg.tid = htonl (t->id.tid);
2346 //     msg.peer1 = my_full_id;
2347 //     GNUNET_PEER_resolve (pid, &msg.peer2);
2348 //     GNUNET_PEER_resolve (tree_get_predecessor (t->tree), &neighbor);
2349 //     send_prebuilt_message (&msg.header, &neighbor, t);
2350 //   }
2351   return 0;
2352 }
2353
2354
2355 /**
2356  * Send an end-to-end FWD ACK message for the most recent in-sequence payload.
2357  * 
2358  * @param t Tunnel this is about.
2359  * @param fwd Is for FWD traffic? (ACK dest->owner)
2360  */
2361 static void
2362 tunnel_send_data_ack (struct MeshTunnel *t, int fwd)
2363 {
2364   struct GNUNET_MESH_DataACK msg;
2365   struct MeshTunnelReliability *rel;
2366   struct MeshReliableMessage *copy;
2367   GNUNET_PEER_Id hop;
2368   uint64_t mask;
2369   unsigned int delta;
2370
2371   rel = fwd ? t->bck_rel  : t->fwd_rel;
2372   hop = fwd ? t->prev_hop : t->next_hop;
2373   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2374               "send_data_ack for %u\n",
2375               rel->mid_recv - 1);
2376
2377   if (GNUNET_NO == t->reliable)
2378   {
2379     GNUNET_break_op (0);
2380     return;
2381   }
2382   msg.header.type = htons (fwd ? GNUNET_MESSAGE_TYPE_MESH_UNICAST_ACK :
2383                                  GNUNET_MESSAGE_TYPE_MESH_TO_ORIG_ACK);
2384   msg.header.size = htons (sizeof (msg));
2385   msg.tid = htonl (t->id.tid);
2386   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
2387   msg.mid = htonl (rel->mid_recv - 1);
2388   msg.futures = 0;
2389   for (copy = rel->head_recv; NULL != copy; copy = copy->next)
2390   {
2391     delta = copy->mid - rel->mid_recv;
2392     if (63 < delta)
2393       break;
2394     mask = 0x1LL << delta;
2395     msg.futures |= mask;
2396     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2397                 " setting bit for %u (delta %u) (%llX) -> %llX\n",
2398                 copy->mid, delta, mask, msg.futures);
2399   }
2400   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " final futures %llX\n", msg.futures);
2401
2402   send_prebuilt_message (&msg.header, hop, t);
2403   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "send_data_ack END\n");
2404 }
2405
2406
2407 /**
2408  * Send an ACK informing the predecessor about the available buffer space.
2409  * In case there is no predecessor, inform the owning client.
2410  * If buffering is off, send only on behalf of children or self if endpoint.
2411  * If buffering is on, send when sent to children and buffer space is free.
2412  * Note that although the name is fwd_ack, the FWD mean forward *traffic*,
2413  * the ACK itself goes "back" (towards root).
2414  * 
2415  * @param t Tunnel on which to send the ACK.
2416  * @param type Type of message that triggered the ACK transmission.
2417  * @param fwd Is this FWD ACK? (Going dest->owner)
2418  */
2419 static void
2420 tunnel_send_ack (struct MeshTunnel *t, uint16_t type, int fwd)
2421 {
2422   struct MeshTunnelReliability *rel;
2423   struct MeshFlowControl *next_fc;
2424   struct MeshFlowControl *prev_fc;
2425   struct MeshClient *c;
2426   struct MeshClient *o;
2427   GNUNET_PEER_Id hop;
2428   uint32_t delta_mid;
2429   uint32_t ack;
2430   int delta;
2431
2432   rel     = fwd ? t->fwd_rel  : t->bck_rel;
2433   c       = fwd ? t->client   : t->owner;
2434   o       = fwd ? t->owner    : t->client;
2435   next_fc = fwd ? &t->next_fc : &t->prev_fc;
2436   prev_fc = fwd ? &t->prev_fc : &t->next_fc;
2437   hop     = fwd ? t->prev_hop : t->next_hop;
2438
2439   switch (type)
2440   {
2441     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2442     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2443       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2444                   "ACK due to %s\n",
2445                   GNUNET_MESH_DEBUG_M2S (type));
2446       if (GNUNET_YES == t->nobuffer)
2447       {
2448         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending ACK, nobuffer\n");
2449         return;
2450       }
2451       if (GNUNET_YES == t->reliable && NULL != c)
2452         tunnel_send_data_ack (t, fwd);
2453       break;
2454     case GNUNET_MESSAGE_TYPE_MESH_UNICAST_ACK:
2455     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIG_ACK:
2456     case GNUNET_MESSAGE_TYPE_MESH_ACK:
2457     case GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK:
2458       break;
2459     case GNUNET_MESSAGE_TYPE_MESH_POLL:
2460     case GNUNET_MESSAGE_TYPE_MESH_PATH_ACK:
2461       t->force_ack = GNUNET_YES;
2462       break;
2463     default:
2464       GNUNET_break (0);
2465   }
2466
2467   /* Check if we need to transmit the ACK */
2468   if (NULL == o &&
2469       prev_fc->last_ack_sent - prev_fc->last_pid_recv > 3 &&
2470       GNUNET_NO == t->force_ack)
2471   {
2472     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending ACK, buffer free\n");
2473     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2474                 "  last pid recv: %u, last ack sent: %u\n",
2475                 prev_fc->last_pid_recv, prev_fc->last_ack_sent);
2476     return;
2477   }
2478
2479   /* Ok, ACK might be necessary, what PID to ACK? */
2480   delta = t->queue_max - next_fc->queue_n;
2481   if (NULL != o && GNUNET_YES == t->reliable && NULL != rel->head_sent)
2482     delta_mid = rel->mid_sent - rel->head_sent->mid;
2483   else
2484     delta_mid = 0;
2485   if (0 > delta || (GNUNET_YES == t->reliable && 
2486                     NULL != o &&
2487                     (10 < rel->n_sent || 64 <= delta_mid)))
2488     delta = 0;
2489   if (NULL != o && delta > 1)
2490     delta = 1;
2491   ack = prev_fc->last_pid_recv + delta;
2492   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " ACK %u\n", ack);
2493   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2494               " last pid %u, last ack %u, qmax %u, q %u\n",
2495               prev_fc->last_pid_recv, prev_fc->last_ack_sent,
2496               t->queue_max, next_fc->queue_n);
2497   if (ack == prev_fc->last_ack_sent && GNUNET_NO == t->force_ack)
2498   {
2499     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending FWD ACK, not needed\n");
2500     return;
2501   }
2502
2503   prev_fc->last_ack_sent = ack;
2504   if (NULL != o)
2505     send_local_ack (t, o, fwd);
2506   else if (0 != hop)
2507     send_ack (t, hop, ack);
2508   else
2509     GNUNET_break (GNUNET_YES == t->destroy);
2510   t->force_ack = GNUNET_NO;
2511 }
2512
2513
2514 /**
2515  * Modify the mesh message TID from global to local and send to client.
2516  * 
2517  * @param t Tunnel on which to send the message.
2518  * @param msg Message to modify and send.
2519  * @param c Client to send to.
2520  * @param tid Tunnel ID to use (c can be both owner and client).
2521  */
2522 static void
2523 tunnel_send_client_to_tid (struct MeshTunnel *t,
2524                            const struct GNUNET_MESH_Data *msg,
2525                            struct MeshClient *c, MESH_TunnelNumber tid)
2526 {
2527   struct GNUNET_MESH_LocalData *copy;
2528   uint16_t size = ntohs (msg->header.size) - sizeof (struct GNUNET_MESH_Data);
2529   char cbuf[size + sizeof (struct GNUNET_MESH_LocalData)];
2530
2531   if (size < sizeof (struct GNUNET_MessageHeader))
2532   {
2533     GNUNET_break_op (0);
2534     return;
2535   }
2536   if (NULL == c)
2537   {
2538     GNUNET_break (0);
2539     return;
2540   }
2541   copy = (struct GNUNET_MESH_LocalData *) cbuf;
2542   memcpy (&copy[1], &msg[1], size);
2543   copy->header.size = htons (sizeof (struct GNUNET_MESH_LocalData) + size);
2544   copy->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_DATA);
2545   copy->tid = htonl (tid);
2546   GNUNET_SERVER_notification_context_unicast (nc, c->handle,
2547                                               &copy->header, GNUNET_NO);
2548 }
2549
2550 /**
2551  * Modify the unicast message TID from global to local and send to client.
2552  * 
2553  * @param t Tunnel on which to send the message.
2554  * @param msg Message to modify and send.
2555  * @param fwd Forward?
2556  */
2557 static void
2558 tunnel_send_client_data (struct MeshTunnel *t,
2559                          const struct GNUNET_MESH_Data *msg,
2560                          int fwd)
2561 {
2562   if (fwd)
2563     tunnel_send_client_to_tid (t, msg, t->client, t->local_tid_dest);
2564   else
2565     tunnel_send_client_to_tid (t, msg, t->owner, t->local_tid);
2566 }
2567
2568
2569 /**
2570  * Send up to 64 buffered messages to the client for in order delivery.
2571  * 
2572  * @param t Tunnel on which to empty the message buffer.
2573  * @param c Client to send to.
2574  * @param rel Reliability structure to corresponding peer.
2575  *            If rel == t->bck_rel, this is FWD data.
2576  */
2577 static void
2578 tunnel_send_client_buffered_data (struct MeshTunnel *t, struct MeshClient *c,
2579                                   struct MeshTunnelReliability *rel)
2580 {
2581   ;
2582   struct MeshReliableMessage *copy;
2583   struct MeshReliableMessage *next;
2584
2585   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "send_buffered_data\n");
2586   for (copy = rel->head_recv; NULL != copy; copy = next)
2587   {
2588     next = copy->next;
2589     if (copy->mid == rel->mid_recv)
2590     {
2591       struct GNUNET_MESH_Data *msg = (struct GNUNET_MESH_Data *) &copy[1];
2592
2593       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2594                   " have %u! now expecting %u\n",
2595                   copy->mid, rel->mid_recv + 1);
2596       tunnel_send_client_data (t, msg, (rel == t->bck_rel));
2597       rel->mid_recv++;
2598       GNUNET_CONTAINER_DLL_remove (rel->head_recv, rel->tail_recv, copy);
2599       GNUNET_free (copy);
2600     }
2601     else
2602     {
2603       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2604                   " don't have %u, next is %u\n",
2605                   rel->mid_recv,
2606                   copy->mid);
2607       return;
2608     }
2609   }
2610   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "send_buffered_data END\n");
2611 }
2612
2613
2614 /**
2615  * We have received a message out of order, buffer it until we receive
2616  * the missing one and we can feed the rest to the client.
2617  * 
2618  * @param t Tunnel to add to.
2619  * @param msg Message to buffer.
2620  * @param rel Reliability data to the corresponding direction.
2621  */
2622 static void
2623 tunnel_add_buffered_data (struct MeshTunnel *t,
2624                            const struct GNUNET_MESH_Data *msg,
2625                           struct MeshTunnelReliability *rel)
2626 {
2627   struct MeshReliableMessage *copy;
2628   struct MeshReliableMessage *prev;
2629   uint32_t mid;
2630   uint16_t size;
2631
2632   size = ntohs (msg->header.size);
2633   mid = ntohl (msg->mid);
2634   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "add_buffered_data %u\n", mid);
2635
2636   copy = GNUNET_malloc (sizeof (*copy) + size);
2637   copy->mid = mid;
2638   copy->rel = rel;
2639   memcpy (&copy[1], msg, size);
2640
2641   // FIXME do something better than O(n), although n < 64...
2642   // FIXME start from the end (most messages are the latest ones)
2643   for (prev = rel->head_recv; NULL != prev; prev = prev->next)
2644   {
2645     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " prev %u\n", prev->mid);
2646     if (GMC_is_pid_bigger (prev->mid, mid))
2647     {
2648       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " bingo!\n");
2649       GNUNET_CONTAINER_DLL_insert_before (rel->head_recv, rel->tail_recv,
2650                                           prev, copy);
2651       return;
2652     }
2653   }
2654   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " insert at tail!\n");
2655   GNUNET_CONTAINER_DLL_insert_tail (rel->head_recv, rel->tail_recv, copy);
2656   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "add_buffered_data END\n");
2657 }
2658
2659
2660 /**
2661  * Destroy a reliable message after it has been acknowledged, either by
2662  * direct mid ACK or bitfield. Updates the appropriate data structures and
2663  * timers and frees all memory.
2664  * 
2665  * @param copy Message that is no longer needed: remote peer got it.
2666  */
2667 static void
2668 tunnel_free_reliable_message (struct MeshReliableMessage *copy)
2669 {
2670   struct MeshTunnelReliability *rel;
2671   struct GNUNET_TIME_Relative time;
2672
2673   rel = copy->rel;
2674   time = GNUNET_TIME_absolute_get_duration (copy->timestamp);
2675   rel->expected_delay.rel_value *= 7;
2676   rel->expected_delay.rel_value += time.rel_value;
2677   rel->expected_delay.rel_value /= 8;
2678   rel->n_sent--;
2679   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!! Freeing %u\n", copy->mid);
2680   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    n_sent %u\n", rel->n_sent);
2681   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!!  took %s\n",
2682               GNUNET_STRINGS_relative_time_to_string (time, GNUNET_NO));
2683   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!!  new expected delay %s\n",
2684               GNUNET_STRINGS_relative_time_to_string (rel->expected_delay,
2685                                                       GNUNET_NO));
2686   rel->retry_timer = rel->expected_delay;
2687   GNUNET_CONTAINER_DLL_remove (rel->head_sent, rel->tail_sent, copy);
2688   GNUNET_free (copy);
2689 }
2690
2691
2692 /**
2693  * Mark future messages as ACK'd.
2694  *
2695  * @param t Tunnel whose sent buffer to clean.
2696  * @param msg DataACK message with a bitfield of future ACK'd messages.
2697  * @param rel Reliability data.
2698  */
2699 static void
2700 tunnel_free_sent_reliable (struct MeshTunnel *t,
2701                            const struct GNUNET_MESH_DataACK *msg,
2702                            struct MeshTunnelReliability *rel)
2703 {
2704   struct MeshReliableMessage *copy;
2705   struct MeshReliableMessage *next;
2706   uint64_t bitfield;
2707   uint64_t mask;
2708   uint32_t mid;
2709   uint32_t target;
2710   unsigned int i;
2711
2712   bitfield = msg->futures;
2713   mid = ntohl (msg->mid);
2714   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2715               "free_sent_reliable %u %llX\n",
2716               mid, bitfield);
2717   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2718               " rel %p, head %p\n",
2719               rel, rel->head_sent);
2720   for (i = 0, copy = rel->head_sent;
2721        i < 64 && NULL != copy && 0 != bitfield;
2722        i++)
2723   {
2724     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2725                 " trying bit %u (mid %u)\n",
2726                 i, mid + i + 1);
2727     mask = 0x1LL << i;
2728     if (0 == (bitfield & mask))
2729      continue;
2730
2731     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " set!\n");
2732     /* Bit was set, clear the bit from the bitfield */
2733     bitfield &= ~mask;
2734
2735     /* The i-th bit was set. Do we have that copy? */
2736     /* Skip copies with mid < target */
2737     target = mid + i + 1;
2738     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " target %u\n", target);
2739     while (NULL != copy && GMC_is_pid_bigger (target, copy->mid))
2740      copy = copy->next;
2741
2742     /* Did we run out of copies? (previously freed, it's ok) */
2743     if (NULL == copy)
2744     {
2745      GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "run out of copies...\n");
2746      return;
2747     }
2748
2749     /* Did we overshoot the target? (previously freed, it's ok) */
2750     if (GMC_is_pid_bigger (copy->mid, target))
2751     {
2752      GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " next copy %u\n", copy->mid);
2753      continue;
2754     }
2755
2756     /* Now copy->mid == target, free it */
2757     next = copy->next;
2758     tunnel_free_reliable_message (copy);
2759     copy = next;
2760   }
2761   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "free_sent_reliable END\n");
2762 }
2763
2764
2765 /**
2766  * We haven't received an ACK after a certain time: restransmit the message.
2767  *
2768  * @param cls Closure (MeshReliableMessage with the message to restransmit)
2769  * @param tc TaskContext.
2770  */
2771 static void
2772 tunnel_retransmit_message (void *cls,
2773                            const struct GNUNET_SCHEDULER_TaskContext *tc)
2774 {
2775   struct MeshTunnelReliability *rel = cls;
2776   struct MeshReliableMessage *copy;
2777   struct MeshFlowControl *fc;
2778   struct MeshPeerQueue *q;
2779   struct MeshPeerInfo *pi;
2780   struct MeshTunnel *t;
2781   struct GNUNET_MESH_Data *payload;
2782   GNUNET_PEER_Id hop;
2783
2784   rel->retry_task = GNUNET_SCHEDULER_NO_TASK;
2785   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
2786     return;
2787
2788   t = rel->t;
2789   copy = rel->head_sent;
2790   if (NULL == copy)
2791   {
2792     GNUNET_break (0);
2793     return;
2794   }
2795
2796   /* Search the message to be retransmitted in the outgoing queue */
2797   payload = (struct GNUNET_MESH_Data *) &copy[1];
2798   hop = rel == t->fwd_rel ? t->next_hop : t->prev_hop;
2799   fc  = rel == t->fwd_rel ? &t->prev_fc : &t->next_fc;
2800   pi  = peer_get_short (hop);
2801   for (q = pi->queue_head; NULL != q; q = q->next)
2802   {
2803     if (ntohs (payload->header.type) == q->type)
2804     {
2805       struct GNUNET_MESH_Data *queued_data = q->cls;
2806
2807       if (queued_data->mid == payload->mid)
2808         break;
2809     }
2810   }
2811
2812   /* Message not found in the queue */
2813   if (NULL == q)
2814   {
2815     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!! RETRANSMIT %u\n", copy->mid);
2816
2817     fc->last_ack_sent++;
2818     fc->last_pid_recv++;
2819     payload->pid = htonl (fc->last_pid_recv);
2820     send_prebuilt_message (&payload->header, hop, t);
2821     GNUNET_STATISTICS_update (stats, "# data retransmitted", 1, GNUNET_NO);
2822   }
2823   else
2824   {
2825     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!! STILL IN QUEUE %u\n", copy->mid);
2826   }
2827
2828   rel->retry_timer = GNUNET_TIME_STD_BACKOFF (rel->retry_timer);
2829   rel->retry_task = GNUNET_SCHEDULER_add_delayed (rel->retry_timer,
2830                                                   &tunnel_retransmit_message,
2831                                                   cls);
2832 }
2833
2834
2835 /**
2836  * Send keepalive packets for a tunnel.
2837  *
2838  * @param t Tunnel to keep alive..
2839  * @param fwd Is this a FWD keepalive? (owner -> dest).
2840  */
2841 static void
2842 tunnel_keepalive (struct MeshTunnel *t, int fwd)
2843 {
2844   struct GNUNET_MESH_TunnelKeepAlive *msg;
2845   size_t size = sizeof (struct GNUNET_MESH_TunnelKeepAlive);
2846   char cbuf[size];
2847   GNUNET_PEER_Id hop;
2848   uint16_t type;
2849
2850   type = fwd ? GNUNET_MESSAGE_TYPE_MESH_FWD_KEEPALIVE :
2851                GNUNET_MESSAGE_TYPE_MESH_BCK_KEEPALIVE;
2852   hop  = fwd ? t->next_hop : t->prev_hop;
2853
2854   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2855               "sending %s keepalive for tunnel %d\n",
2856               fwd ? "FWD" : "BCK", t->id.tid);
2857
2858   msg = (struct GNUNET_MESH_TunnelKeepAlive *) cbuf;
2859   msg->header.size = htons (size);
2860   msg->header.type = htons (type);
2861   msg->oid = *(GNUNET_PEER_resolve2 (t->id.oid));
2862   msg->tid = htonl (t->id.tid);
2863   send_prebuilt_message (&msg->header, hop, t);
2864 }
2865
2866
2867 /**
2868  * Send keepalive packets for a tunnel.
2869  *
2870  * @param cls Closure (tunnel for which to send the keepalive).
2871  * @param tc Notification context.
2872  */
2873 static void
2874 tunnel_recreate (struct MeshTunnel *t, int fwd)
2875 {
2876   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2877               "sending path recreate for tunnel %s[%X]\n",
2878               GNUNET_i2s (GNUNET_PEER_resolve2 (t->id.oid)), t->id.tid);
2879   if (fwd)
2880     send_path_create (t);
2881   else
2882     send_path_ack (t);
2883 }
2884
2885
2886 /**
2887  * Generic tunnel timer management.
2888  * Depending on the role of the peer in the tunnel will send the
2889  * appropriate message (build or keepalive)
2890  *
2891  * @param t Tunnel to maintain.
2892  * @param fw Is FWD?
2893  */
2894 static void
2895 tunnel_maintain (struct MeshTunnel *t, int fwd)
2896 {
2897   switch (t->state)
2898   {
2899     case MESH_TUNNEL_NEW:
2900       GNUNET_break (0);
2901     case MESH_TUNNEL_SEARCHING:
2902       /* TODO DHT GET with RO_BART */
2903       break;
2904     case MESH_TUNNEL_WAITING:
2905       tunnel_recreate (t, fwd);
2906       break;
2907     case MESH_TUNNEL_READY:
2908       tunnel_keepalive (t, fwd);
2909       break;
2910     default:
2911       break;
2912   }
2913 }
2914
2915
2916 static void
2917 tunnel_fwd_keepalive (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
2918 {
2919   struct MeshTunnel *t = cls;
2920
2921   t->fwd_maintenance_task = GNUNET_SCHEDULER_NO_TASK;
2922   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN) ||
2923       NULL == t->owner)
2924     return;
2925
2926   tunnel_maintain (t, GNUNET_YES);
2927   t->fwd_maintenance_task = GNUNET_SCHEDULER_add_delayed (refresh_path_time,
2928                                                           &tunnel_fwd_keepalive,
2929                                                           t);
2930 }
2931
2932
2933 static void
2934 tunnel_bck_keepalive (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
2935 {
2936   struct MeshTunnel *t = cls;
2937
2938   t->bck_maintenance_task = GNUNET_SCHEDULER_NO_TASK;
2939   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN) ||
2940       NULL == t->client)
2941     return;
2942
2943   tunnel_keepalive (t, GNUNET_NO);
2944   t->bck_maintenance_task = GNUNET_SCHEDULER_add_delayed (refresh_path_time,
2945                                                           &tunnel_bck_keepalive,
2946                                                           t);
2947 }
2948
2949
2950 /**
2951  * Send a message to all peers and clients in this tunnel that the tunnel
2952  * is no longer valid. If some peer or client should not receive the message,
2953  * should be zero'ed out before calling this function.
2954  *
2955  * @param t The tunnel whose peers and clients to notify.
2956  */
2957 static void
2958 tunnel_send_destroy (struct MeshTunnel *t)
2959 {
2960   struct GNUNET_MESH_TunnelDestroy msg;
2961   struct GNUNET_PeerIdentity id;
2962
2963   msg.header.size = htons (sizeof (msg));
2964   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY);
2965   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
2966   msg.tid = htonl (t->id.tid);
2967   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2968               "  sending tunnel destroy for tunnel: %s [%X]\n",
2969               GNUNET_i2s (&msg.oid), t->id.tid);
2970
2971   if (NULL == t->client && 0 != t->next_hop)
2972   {
2973     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  child: %u\n", t->next_hop);
2974     GNUNET_PEER_resolve (t->next_hop, &id);
2975     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2976                 "  sending forward to %s\n",
2977                 GNUNET_i2s (&id));
2978     send_prebuilt_message (&msg.header, t->next_hop, t);
2979   }
2980   if (NULL == t->owner && 0 != t->prev_hop)
2981   {
2982     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  parent: %u\n", t->prev_hop);
2983     GNUNET_PEER_resolve (t->prev_hop, &id);
2984     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2985                 "  sending back to %s\n",
2986                 GNUNET_i2s (&id));
2987     send_prebuilt_message (&msg.header, t->prev_hop, t);
2988   }
2989   if (NULL != t->owner)
2990   {
2991     send_local_tunnel_destroy (t, GNUNET_NO);
2992   }
2993   if (NULL != t->client)
2994   {
2995     send_local_tunnel_destroy (t, GNUNET_YES);
2996   }
2997 }
2998
2999
3000 /**
3001  * Destroy the tunnel.
3002  * 
3003  * This function does not generate any warning traffic to clients or peers.
3004  * 
3005  * Tasks:
3006  * Remove the tunnel from peer_info's and clients' hashmaps.
3007  * Cancel messages belonging to this tunnel queued to neighbors.
3008  * Free any allocated resources linked to the tunnel.
3009  *
3010  * @param t the tunnel to destroy
3011  *
3012  * @return GNUNET_OK on success
3013  */
3014 static int
3015 tunnel_destroy (struct MeshTunnel *t)
3016 {
3017   struct MeshClient *c;
3018   struct GNUNET_HashCode hash;
3019   int r;
3020
3021   if (NULL == t)
3022     return GNUNET_OK;
3023
3024   r = GNUNET_OK;
3025   c = t->owner;
3026 #if MESH_DEBUG
3027   {
3028     struct GNUNET_PeerIdentity id;
3029
3030     GNUNET_PEER_resolve (t->id.oid, &id);
3031     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "destroying tunnel %s [%x]\n",
3032                 GNUNET_i2s (&id), t->id.tid);
3033     if (NULL != c)
3034       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
3035   }
3036 #endif
3037
3038   GNUNET_CRYPTO_hash (&t->id, sizeof (struct MESH_TunnelID), &hash);
3039   if (GNUNET_YES != GNUNET_CONTAINER_multihashmap_remove (tunnels, &hash, t))
3040   {
3041     GNUNET_break (0);
3042     r = GNUNET_SYSERR;
3043   }
3044
3045   if (NULL != c)
3046   {
3047     if (GNUNET_YES !=
3048       GNUNET_CONTAINER_multihashmap32_remove (c->own_tunnels, t->local_tid, t))
3049     {
3050       GNUNET_break (0);
3051       r = GNUNET_SYSERR;
3052     }
3053   }
3054
3055   if (NULL != t->client)
3056   {
3057     c = t->client;
3058     if (GNUNET_YES !=
3059         GNUNET_CONTAINER_multihashmap32_remove (c->incoming_tunnels,
3060                                                 t->local_tid_dest, t))
3061     {
3062       GNUNET_break (0);
3063       r = GNUNET_SYSERR;
3064     }
3065     if (GNUNET_YES != 
3066         GNUNET_CONTAINER_multihashmap32_remove (incoming_tunnels,
3067                                                 t->local_tid_dest, t))
3068     {
3069       GNUNET_break (0);
3070       r = GNUNET_SYSERR;
3071     }
3072   }
3073
3074   if (0 != t->prev_hop)
3075   {
3076     peer_cancel_queues (t->prev_hop, t);
3077     GNUNET_PEER_change_rc (t->prev_hop, -1);
3078   }
3079   if (0 != t->next_hop)
3080   {
3081     peer_cancel_queues (t->next_hop, t);
3082     GNUNET_PEER_change_rc (t->next_hop, -1);
3083   }
3084   if (GNUNET_SCHEDULER_NO_TASK != t->next_fc.poll_task)
3085   {
3086     GNUNET_SCHEDULER_cancel (t->next_fc.poll_task);
3087     t->next_fc.poll_task = GNUNET_SCHEDULER_NO_TASK;
3088   }
3089   if (GNUNET_SCHEDULER_NO_TASK != t->prev_fc.poll_task)
3090   {
3091     GNUNET_SCHEDULER_cancel (t->prev_fc.poll_task);
3092     t->prev_fc.poll_task = GNUNET_SCHEDULER_NO_TASK;
3093   }
3094   if (0 != t->dest) {
3095       peer_info_remove_tunnel (peer_get_short (t->dest), t);
3096   }
3097
3098   if (GNUNET_SCHEDULER_NO_TASK != t->fwd_maintenance_task)
3099     GNUNET_SCHEDULER_cancel (t->fwd_maintenance_task);
3100   if (GNUNET_SCHEDULER_NO_TASK != t->bck_maintenance_task)
3101     GNUNET_SCHEDULER_cancel (t->bck_maintenance_task);
3102
3103   n_tunnels--;
3104   GNUNET_STATISTICS_update (stats, "# tunnels", -1, GNUNET_NO);
3105   path_destroy (t->path);
3106   GNUNET_free (t);
3107   return r;
3108 }
3109
3110 /**
3111  * Tunnel is empty: destroy it.
3112  * 
3113  * Notifies all participants (peers, cleints) about the destruction.
3114  * 
3115  * @param t Tunnel to destroy. 
3116  */
3117 static void
3118 tunnel_destroy_empty (struct MeshTunnel *t)
3119 {
3120   #if MESH_DEBUG
3121   {
3122     struct GNUNET_PeerIdentity id;
3123
3124     GNUNET_PEER_resolve (t->id.oid, &id);
3125     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3126                 "executing destruction of empty tunnel %s [%X]\n",
3127                 GNUNET_i2s (&id), t->id.tid);
3128   }
3129   #endif
3130
3131   if (GNUNET_NO == t->destroy)
3132     tunnel_send_destroy (t);
3133   if (0 == t->pending_messages)
3134     tunnel_destroy (t);
3135   else
3136     t->destroy = GNUNET_YES;
3137 }
3138
3139 /**
3140  * Initialize a Flow Control structure to the initial state.
3141  * 
3142  * @param fc Flow Control structure to initialize.
3143  */
3144 static void
3145 fc_init (struct MeshFlowControl *fc)
3146 {
3147   fc->last_pid_sent = (uint32_t) -1; /* Next (expected) = 0 */
3148   fc->last_pid_recv = (uint32_t) -1;
3149   fc->last_ack_sent = (uint32_t) -1; /* No traffic allowed yet */
3150   fc->last_ack_recv = (uint32_t) -1;
3151   fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
3152   fc->poll_time = GNUNET_TIME_UNIT_SECONDS;
3153   fc->queue_n = 0;
3154 }
3155
3156 /**
3157  * Create a new tunnel
3158  * 
3159  * @param owner Who is the owner of the tunnel (short ID).
3160  * @param tid Tunnel Number of the tunnel.
3161  * @param client Clients that owns the tunnel, NULL for foreign tunnels.
3162  * @param local Tunnel Number for the tunnel, for the client point of view.
3163  * 
3164  * @return A new initialized tunnel. NULL on error.
3165  */
3166 static struct MeshTunnel *
3167 tunnel_new (GNUNET_PEER_Id owner,
3168             MESH_TunnelNumber tid,
3169             struct MeshClient *client,
3170             MESH_TunnelNumber local)
3171 {
3172   struct MeshTunnel *t;
3173   struct GNUNET_HashCode hash;
3174
3175   if (n_tunnels >= max_tunnels && NULL == client)
3176     return NULL;
3177
3178   t = GNUNET_malloc (sizeof (struct MeshTunnel));
3179   t->id.oid = owner;
3180   t->id.tid = tid;
3181   t->queue_max = (max_msgs_queue / max_tunnels) + 1;
3182   t->owner = client;
3183   fc_init (&t->next_fc);
3184   fc_init (&t->prev_fc);
3185   t->next_fc.t = t;
3186   t->prev_fc.t = t;
3187   t->local_tid = local;
3188   n_tunnels++;
3189   GNUNET_STATISTICS_update (stats, "# tunnels", 1, GNUNET_NO);
3190
3191   GNUNET_CRYPTO_hash (&t->id, sizeof (struct MESH_TunnelID), &hash);
3192   if (GNUNET_OK !=
3193       GNUNET_CONTAINER_multihashmap_put (tunnels, &hash, t,
3194                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
3195   {
3196     GNUNET_break (0);
3197     tunnel_destroy (t);
3198     if (NULL != client)
3199     {
3200       GNUNET_break (0);
3201       GNUNET_SERVER_receive_done (client->handle, GNUNET_SYSERR);
3202     }
3203     return NULL;
3204   }
3205
3206   if (NULL != client)
3207   {
3208     if (GNUNET_OK !=
3209         GNUNET_CONTAINER_multihashmap32_put (client->own_tunnels,
3210                                              t->local_tid, t,
3211                                              GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
3212     {
3213       tunnel_destroy (t);
3214       GNUNET_break (0);
3215       GNUNET_SERVER_receive_done (client->handle, GNUNET_SYSERR);
3216       return NULL;
3217     }
3218   }
3219
3220   return t;
3221 }
3222
3223
3224 /**
3225  * Set options in a tunnel, extracted from a bit flag field
3226  * 
3227  * @param t Tunnel to set options to.
3228  * @param options Bit array in host byte order.
3229  */
3230 static void
3231 tunnel_set_options (struct MeshTunnel *t, uint32_t options)
3232 {
3233   t->nobuffer = (options & GNUNET_MESH_OPTION_NOBUFFER) != 0 ?
3234                  GNUNET_YES : GNUNET_NO;
3235   t->reliable = (options & GNUNET_MESH_OPTION_RELIABLE) != 0 ?
3236                  GNUNET_YES : GNUNET_NO;
3237 }
3238
3239
3240 /**
3241  * Iterator for deleting each tunnel whose client endpoint disconnected.
3242  *
3243  * @param cls Closure (client that has disconnected).
3244  * @param key The local tunnel id (used to access the hashmap).
3245  * @param value The value stored at the key (tunnel to destroy).
3246  *
3247  * @return GNUNET_OK, keep iterating.
3248  */
3249 static int
3250 tunnel_destroy_iterator (void *cls,
3251                          uint32_t key,
3252                          void *value)
3253 {
3254   struct MeshTunnel *t = value;
3255   struct MeshClient *c = cls;
3256
3257   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3258               " Tunnel %X / %X destroy, due to client %u shutdown.\n",
3259               t->local_tid, t->local_tid_dest, c->id);
3260   client_delete_tunnel (c, t);
3261   if (c == t->client)
3262   {
3263     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " Client %u is destination.\n", c->id);
3264     t->client = NULL;
3265     if (0 != t->next_hop) { /* destroy could come before a path is used */
3266         GNUNET_PEER_change_rc (t->next_hop, -1);
3267         t->next_hop = 0;
3268     }
3269   }
3270   if (c == t->owner)
3271   {
3272     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " Client %u is owner.\n", c->id);
3273     t->owner = NULL;
3274     if (0 != t->prev_hop) { /* destroy could come before a path is used */
3275         GNUNET_PEER_change_rc (t->prev_hop, -1);
3276         t->prev_hop = 0;
3277     }
3278   }
3279
3280   tunnel_destroy_empty (t);
3281
3282   return GNUNET_OK;
3283 }
3284
3285 /**
3286  * Timeout function due to lack of keepalive/traffic from the owner.
3287  * Destroys tunnel if called.
3288  *
3289  * @param cls Closure (tunnel to destroy).
3290  * @param tc TaskContext
3291  */
3292 static void
3293 tunnel_fwd_timeout (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
3294 {
3295   struct MeshTunnel *t = cls;
3296
3297   t->fwd_maintenance_task = GNUNET_SCHEDULER_NO_TASK;
3298   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
3299     return;
3300   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3301               "Tunnel %s [%X] FWD timed out. Destroying.\n",
3302               GNUNET_i2s(GNUNET_PEER_resolve2 (t->id.oid)), t->id.tid);
3303   if (NULL != t->client)
3304     send_local_tunnel_destroy (t, GNUNET_YES);
3305   tunnel_destroy (t); /* Do not notify other */
3306 }
3307
3308
3309 /**
3310  * Timeout function due to lack of keepalive/traffic from the destination.
3311  * Destroys tunnel if called.
3312  *
3313  * @param cls Closure (tunnel to destroy).
3314  * @param tc TaskContext
3315  */
3316 static void
3317 tunnel_bck_timeout (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
3318 {
3319   struct MeshTunnel *t = cls;
3320
3321   t->bck_maintenance_task = GNUNET_SCHEDULER_NO_TASK;
3322   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
3323     return;
3324   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3325               "Tunnel %s [%X] BCK timed out. Destroying.\n",
3326               GNUNET_i2s(GNUNET_PEER_resolve2 (t->id.oid)), t->id.tid);
3327   if (NULL != t->owner)
3328     send_local_tunnel_destroy (t, GNUNET_NO);
3329   tunnel_destroy (t); /* Do not notify other */
3330 }
3331
3332
3333 /**
3334  * Resets the tunnel timeout task, some other message has done the task's job.
3335  * - For the first peer on the direction this means to send
3336  *   a keepalive or a path confirmation message (either create or ACK).
3337  * - For all other peers, this means to destroy the tunnel,
3338  *   due to lack of activity.
3339  * Starts the tiemout if no timeout was running (tunnel just created).
3340  *
3341  * @param t Tunnel whose timeout to reset.
3342  * @param fwd Is this forward?
3343  *
3344  * TODO use heap to improve efficiency of scheduler.
3345  */
3346 static void
3347 tunnel_reset_timeout (struct MeshTunnel *t, int fwd)
3348 {
3349   GNUNET_SCHEDULER_TaskIdentifier *ti;
3350   GNUNET_SCHEDULER_Task f;
3351   struct MeshClient *c;
3352
3353   ti = fwd ? &t->fwd_maintenance_task : &t->bck_maintenance_task;
3354   c  = fwd ? t->owner                 : t->client;
3355
3356   if (GNUNET_SCHEDULER_NO_TASK != *ti)
3357     GNUNET_SCHEDULER_cancel (*ti);
3358
3359   if (NULL != c)
3360   {
3361     f  = fwd ? &tunnel_fwd_keepalive : &tunnel_bck_keepalive;
3362     *ti = GNUNET_SCHEDULER_add_delayed (refresh_path_time, f, t);
3363   }
3364   else
3365   {
3366     f  = fwd ? &tunnel_fwd_timeout : &tunnel_bck_timeout;
3367     *ti = GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_relative_multiply
3368                                             (refresh_path_time, 4),
3369                                         f, t);
3370   }
3371 }
3372
3373
3374 /******************************************************************************/
3375 /****************      MESH NETWORK HANDLER HELPERS     ***********************/
3376 /******************************************************************************/
3377
3378 /**
3379  * Free a transmission that was already queued with all resources
3380  * associated to the request.
3381  *
3382  * @param queue Queue handler to cancel.
3383  * @param clear_cls Is it necessary to free associated cls?
3384  */
3385 static void
3386 queue_destroy (struct MeshPeerQueue *queue, int clear_cls)
3387 {
3388   struct MeshFlowControl *fc;
3389
3390   if (GNUNET_YES == clear_cls)
3391   {
3392     switch (queue->type)
3393     {
3394       case GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY:
3395         GNUNET_log (GNUNET_ERROR_TYPE_INFO, "   cancelling TUNNEL_DESTROY\n");
3396         GNUNET_break (GNUNET_YES == queue->tunnel->destroy);
3397         /* fall through */
3398       case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
3399       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
3400       case GNUNET_MESSAGE_TYPE_MESH_ACK:
3401       case GNUNET_MESSAGE_TYPE_MESH_UNICAST_ACK:
3402       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIG_ACK:
3403       case GNUNET_MESSAGE_TYPE_MESH_POLL:
3404       case GNUNET_MESSAGE_TYPE_MESH_FWD_KEEPALIVE:
3405       case GNUNET_MESSAGE_TYPE_MESH_BCK_KEEPALIVE:
3406         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3407                     "   prebuilt message\n");
3408         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3409                     "   type %s\n",
3410                     GNUNET_MESH_DEBUG_M2S (queue->type));
3411         break;
3412       case GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE:
3413         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   type create path\n");
3414         break;
3415       default:
3416         GNUNET_break (0);
3417         GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
3418                     "   type %s unknown!\n",
3419                     GNUNET_MESH_DEBUG_M2S (queue->type));
3420     }
3421     GNUNET_free_non_null (queue->cls);
3422   }
3423   GNUNET_CONTAINER_DLL_remove (queue->peer->queue_head,
3424                                queue->peer->queue_tail,
3425                                queue);
3426
3427   /* Delete from appropriate fc in the tunnel */
3428   if (GNUNET_MESSAGE_TYPE_MESH_UNICAST == queue->type ||
3429       GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == queue->type )
3430   {
3431     if (queue->peer->id == queue->tunnel->prev_hop)
3432       fc = &queue->tunnel->prev_fc;
3433     else if (queue->peer->id == queue->tunnel->next_hop)
3434       fc = &queue->tunnel->next_fc;
3435     else
3436     {
3437       GNUNET_break (0);
3438       GNUNET_free (queue);
3439       return;
3440     }
3441     fc->queue_n--;
3442   }
3443   GNUNET_free (queue);
3444 }
3445
3446
3447 /**
3448  * @brief Get the next transmittable message from the queue.
3449  *
3450  * This will be the head, except in the case of being a data packet
3451  * not allowed by the destination peer.
3452  *
3453  * @param peer Destination peer.
3454  *
3455  * @return The next viable MeshPeerQueue element to send to that peer.
3456  *         NULL when there are no transmittable messages.
3457  */
3458 struct MeshPeerQueue *
3459 queue_get_next (const struct MeshPeerInfo *peer)
3460 {
3461   struct MeshPeerQueue *q;
3462
3463   struct GNUNET_MESH_Data *dmsg;
3464   struct MeshTunnel* t;
3465   uint32_t pid;
3466   uint32_t ack;
3467
3468   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   selecting message\n");
3469   for (q = peer->queue_head; NULL != q; q = q->next)
3470   {
3471     t = q->tunnel;
3472     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3473                 "*     %s\n",
3474                 GNUNET_MESH_DEBUG_M2S (q->type));
3475     dmsg = (struct GNUNET_MESH_Data *) q->cls;
3476     pid = ntohl (dmsg->pid);
3477     switch (q->type)
3478     {
3479       case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
3480         ack = t->next_fc.last_ack_recv;
3481         break;
3482       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
3483         ack = t->prev_fc.last_ack_recv;
3484         break;
3485       default:
3486         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3487                     "*   OK!\n");
3488         return q;
3489     }
3490     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3491                 "*     ACK: %u, PID: %u, MID: %u\n",
3492                 ack, pid, ntohl (dmsg->mid));
3493     if (GNUNET_NO == GMC_is_pid_bigger (pid, ack))
3494     {
3495       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3496                   "*   OK!\n");
3497       return q;
3498     }
3499     else
3500     {
3501       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3502                   "*     NEXT!\n");
3503     }
3504   }
3505   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3506                 "*   nothing found\n");
3507   return NULL;
3508 }
3509
3510
3511 static size_t
3512 queue_send (void *cls, size_t size, void *buf)
3513 {
3514   struct MeshPeerInfo *peer = cls;
3515   struct GNUNET_MessageHeader *msg;
3516   struct MeshPeerQueue *queue;
3517   struct MeshTunnel *t;
3518   struct GNUNET_PeerIdentity dst_id;
3519   struct MeshFlowControl *fc;
3520   size_t data_size;
3521   uint32_t pid;
3522   uint16_t type;
3523
3524   peer->core_transmit = NULL;
3525
3526   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "* Queue send\n");
3527   queue = queue_get_next (peer);
3528
3529   /* Queue has no internal mesh traffic nor sendable payload */
3530   if (NULL == queue)
3531   {
3532     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   not ready, return\n");
3533     if (NULL == peer->queue_head)
3534       GNUNET_break (0); /* Core tmt_rdy should've been canceled */
3535     return 0;
3536   }
3537   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   not empty\n");
3538
3539   GNUNET_PEER_resolve (peer->id, &dst_id);
3540   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3541               "*   towards %s\n",
3542               GNUNET_i2s (&dst_id));
3543   /* Check if buffer size is enough for the message */
3544   if (queue->size > size)
3545   {
3546       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3547                   "*   not enough room, reissue\n");
3548       peer->core_transmit =
3549           GNUNET_CORE_notify_transmit_ready (core_handle,
3550                                              GNUNET_NO,
3551                                              0,
3552                                              GNUNET_TIME_UNIT_FOREVER_REL,
3553                                              &dst_id,
3554                                              queue->size,
3555                                              &queue_send,
3556                                              peer);
3557       return 0;
3558   }
3559   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   size ok\n");
3560
3561   t = queue->tunnel;
3562   GNUNET_assert (0 < t->pending_messages);
3563   t->pending_messages--;
3564   type = 0;
3565
3566   /* Fill buf */
3567   switch (queue->type)
3568   {
3569     case 0:
3570     case GNUNET_MESSAGE_TYPE_MESH_ACK:
3571     case GNUNET_MESSAGE_TYPE_MESH_UNICAST_ACK:
3572     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIG_ACK:
3573     case GNUNET_MESSAGE_TYPE_MESH_POLL:
3574     case GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN:
3575     case GNUNET_MESSAGE_TYPE_MESH_PATH_DESTROY:
3576     case GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY:
3577     case GNUNET_MESSAGE_TYPE_MESH_FWD_KEEPALIVE:
3578     case GNUNET_MESSAGE_TYPE_MESH_BCK_KEEPALIVE:
3579       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3580                   "*   raw: %s\n",
3581                   GNUNET_MESH_DEBUG_M2S (queue->type));
3582       /* Fall through */
3583     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
3584     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
3585       data_size = send_core_data_raw (queue->cls, size, buf);
3586       msg = (struct GNUNET_MessageHeader *) buf;
3587       type = ntohs (msg->type);
3588       break;
3589     case GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE:
3590       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   path create\n");
3591       data_size = send_core_path_create (queue->cls, size, buf);
3592       break;
3593     case GNUNET_MESSAGE_TYPE_MESH_PATH_ACK:
3594       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   path ack\n");
3595       data_size = send_core_path_ack (queue->cls, size, buf);
3596       break;
3597     default:
3598       GNUNET_break (0);
3599       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
3600                   "*   type unknown: %u\n",
3601                   queue->type);
3602       data_size = 0;
3603   }
3604
3605   if (0 < drop_percent &&
3606       GNUNET_CRYPTO_random_u32(GNUNET_CRYPTO_QUALITY_WEAK, 101) < drop_percent)
3607   {
3608     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
3609                 "Dropping message of type %s\n",
3610                 GNUNET_MESH_DEBUG_M2S(queue->type));
3611     data_size = 0;
3612   }
3613   /* Free queue, but cls was freed by send_core_* */
3614   queue_destroy (queue, GNUNET_NO);
3615
3616   /* Send ACK if needed, after accounting for sent ID in fc->queue_n */
3617   pid = ((struct GNUNET_MESH_Data *) buf)->pid;
3618   pid = ntohl (pid);
3619   switch (type)
3620   {
3621     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
3622       t->next_fc.last_pid_sent = pid;
3623       tunnel_send_ack (t, GNUNET_MESSAGE_TYPE_MESH_UNICAST, GNUNET_YES);
3624       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3625                   "!!! FWD  %u\n",
3626                   ntohl ( ((struct GNUNET_MESH_Data *) buf)->mid ) );
3627       break;
3628     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
3629       t->prev_fc.last_pid_sent = pid;
3630       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3631                   "!!! BCK  %u\n",
3632                   ntohl ( ((struct GNUNET_MESH_Data *) buf)->mid ) );
3633       tunnel_send_ack (t, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN, GNUNET_NO);
3634       break;
3635     default:
3636       break;
3637   }
3638
3639   /* If more data in queue, send next */
3640   queue = queue_get_next (peer);
3641   if (NULL != queue)
3642   {
3643       struct GNUNET_PeerIdentity id;
3644
3645       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   more data!\n");
3646       GNUNET_PEER_resolve (peer->id, &id);
3647       peer->core_transmit =
3648           GNUNET_CORE_notify_transmit_ready(core_handle,
3649                                             0,
3650                                             0,
3651                                             GNUNET_TIME_UNIT_FOREVER_REL,
3652                                             &id,
3653                                             queue->size,
3654                                             &queue_send,
3655                                             peer);
3656   }
3657   if (peer->id == t->next_hop)
3658     fc = &t->next_fc;
3659   else if (peer->id == t->prev_hop)
3660     fc = &t->prev_fc;
3661   else
3662   {
3663     GNUNET_break (0);
3664     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "id: %u, next: %u, prev: %u\n",
3665                 peer->id, t->next_hop, t->prev_hop);
3666     return data_size;
3667   }
3668   if (NULL != peer->queue_head)
3669   {
3670     if (GNUNET_SCHEDULER_NO_TASK == fc->poll_task && fc->queue_n > 0)
3671     {
3672       GNUNET_log (GNUNET_ERROR_TYPE_INFO,
3673                   "*   %s starting poll timeout\n",
3674                   GNUNET_i2s (&my_full_id));
3675       fc->poll_task = GNUNET_SCHEDULER_add_delayed (fc->poll_time,
3676                                                     &tunnel_poll, fc);
3677     }
3678   }
3679   else
3680   {
3681     if (GNUNET_SCHEDULER_NO_TASK != fc->poll_task)
3682     {
3683       GNUNET_SCHEDULER_cancel (fc->poll_task);
3684       fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
3685     }
3686   }
3687   if (GNUNET_YES == t->destroy && 0 == t->pending_messages)
3688   {
3689     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*  destroying tunnel!\n");
3690     tunnel_destroy (t);
3691   }
3692   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*  Return %d\n", data_size);
3693   return data_size;
3694 }
3695
3696
3697 /**
3698  * @brief Queue and pass message to core when possible.
3699  * 
3700  * If type is payload (UNICAST, TO_ORIGIN) checks for queue status and
3701  * accounts for it. In case the queue is full, the message is dropped and
3702  * a break issued.
3703  * 
3704  * Otherwise, message is treated as internal and allowed to go regardless of 
3705  * queue status.
3706  *
3707  * @param cls Closure (@c type dependant). It will be used by queue_send to
3708  *            build the message to be sent if not already prebuilt.
3709  * @param type Type of the message, 0 for a raw message.
3710  * @param size Size of the message.
3711  * @param dst Neighbor to send message to.
3712  * @param t Tunnel this message belongs to.
3713  */
3714 static void
3715 queue_add (void *cls, uint16_t type, size_t size,
3716            struct MeshPeerInfo *dst, struct MeshTunnel *t)
3717 {
3718   struct MeshPeerQueue *queue;
3719   struct GNUNET_PeerIdentity id;
3720   struct MeshFlowControl *fc;
3721   int priority;
3722
3723   fc = NULL;
3724   priority = GNUNET_NO;
3725   if (GNUNET_MESSAGE_TYPE_MESH_UNICAST == type)
3726   {
3727     fc = &t->next_fc;
3728   }
3729   else if (GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == type)
3730   {
3731     fc = &t->prev_fc;
3732   }
3733   if (NULL != fc)
3734   {
3735     if (fc->queue_n >= t->queue_max)
3736     {
3737       /* If this isn't a retransmission, drop the message */
3738       if (GNUNET_NO == t->reliable ||
3739           (NULL == t->owner && GNUNET_MESSAGE_TYPE_MESH_UNICAST == type) ||
3740           (NULL == t->client && GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == type))
3741       {
3742         GNUNET_STATISTICS_update (stats, "# messages dropped (buffer full)",
3743                                   1, GNUNET_NO);
3744         GNUNET_break (0);
3745         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3746                     "queue full: %u/%u\n",
3747                     fc->queue_n, t->queue_max);
3748         return; /* Drop this message */
3749       }
3750       priority = GNUNET_YES;
3751     }
3752     fc->queue_n++;
3753     if (GMC_is_pid_bigger(fc->last_pid_sent + 1, fc->last_ack_recv) &&
3754         GNUNET_SCHEDULER_NO_TASK == fc->poll_task)
3755       fc->poll_task = GNUNET_SCHEDULER_add_delayed (fc->poll_time,
3756                                                     &tunnel_poll,
3757                                                     fc);
3758   }
3759   queue = GNUNET_malloc (sizeof (struct MeshPeerQueue));
3760   queue->cls = cls;
3761   queue->type = type;
3762   queue->size = size;
3763   queue->peer = dst;
3764   queue->tunnel = t;
3765   if (GNUNET_YES == priority)
3766   {
3767     struct GNUNET_MESH_Data *d;
3768     uint32_t prev;
3769     uint32_t next;
3770
3771     GNUNET_CONTAINER_DLL_insert (dst->queue_head, dst->queue_tail, queue);
3772     d = (struct GNUNET_MESH_Data *) queue->cls;
3773     prev = d->pid;
3774     for (queue = dst->queue_tail; NULL != queue; queue = queue->prev)
3775     {
3776       if (queue->type != type)
3777         continue;
3778       d = (struct GNUNET_MESH_Data *) queue->cls;
3779       next = d->pid;
3780       d->pid = prev;
3781       prev = next;
3782     }
3783   }
3784   else
3785     GNUNET_CONTAINER_DLL_insert_tail (dst->queue_head, dst->queue_tail, queue);
3786   
3787   if (NULL == dst->core_transmit)
3788   {
3789     GNUNET_PEER_resolve (dst->id, &id);
3790     dst->core_transmit =
3791         GNUNET_CORE_notify_transmit_ready (core_handle,
3792                                            0,
3793                                            0,
3794                                            GNUNET_TIME_UNIT_FOREVER_REL,
3795                                            &id,
3796                                            size,
3797                                            &queue_send,
3798                                            dst);
3799   }
3800   t->pending_messages++;
3801 }
3802
3803
3804 /******************************************************************************/
3805 /********************      MESH NETWORK HANDLERS     **************************/
3806 /******************************************************************************/
3807
3808
3809 /**
3810  * Core handler for path creation
3811  *
3812  * @param cls closure
3813  * @param message message
3814  * @param peer peer identity this notification is about
3815  *
3816  * @return GNUNET_OK to keep the connection open,
3817  *         GNUNET_SYSERR to close it (signal serious error)
3818  */
3819 static int
3820 handle_mesh_path_create (void *cls, const struct GNUNET_PeerIdentity *peer,
3821                          const struct GNUNET_MessageHeader *message)
3822 {
3823   unsigned int own_pos;
3824   uint16_t size;
3825   uint16_t i;
3826   MESH_TunnelNumber tid;
3827   struct GNUNET_MESH_CreateTunnel *msg;
3828   struct GNUNET_PeerIdentity *pi;
3829   struct MeshPeerPath *path;
3830   struct MeshPeerInfo *dest_peer_info;
3831   struct MeshPeerInfo *orig_peer_info;
3832   struct MeshTunnel *t;
3833
3834   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3835               "Received a path create msg [%s]\n",
3836               GNUNET_i2s (&my_full_id));
3837   size = ntohs (message->size);
3838   if (size < sizeof (struct GNUNET_MESH_CreateTunnel))
3839   {
3840     GNUNET_break_op (0);
3841     return GNUNET_OK;
3842   }
3843
3844   size -= sizeof (struct GNUNET_MESH_CreateTunnel);
3845   if (size % sizeof (struct GNUNET_PeerIdentity))
3846   {
3847     GNUNET_break_op (0);
3848     return GNUNET_OK;
3849   }
3850   size /= sizeof (struct GNUNET_PeerIdentity);
3851   if (size < 1)
3852   {
3853     GNUNET_break_op (0);
3854     return GNUNET_OK;
3855   }
3856   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    path has %u hops.\n", size);
3857   msg = (struct GNUNET_MESH_CreateTunnel *) message;
3858
3859   tid = ntohl (msg->tid);
3860   pi = (struct GNUNET_PeerIdentity *) &msg[1];
3861   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3862               "    path is for tunnel %s[%X].\n", GNUNET_i2s (pi), tid);
3863   t = tunnel_get (pi, tid);
3864   if (NULL == t) /* might be a local tunnel */
3865   {
3866     uint32_t opt;
3867
3868     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Creating tunnel\n");
3869     t = tunnel_new (GNUNET_PEER_intern (pi), tid, NULL, 0);
3870     if (NULL == t)
3871     {
3872       GNUNET_break (0);
3873       return GNUNET_OK;
3874     }
3875     t->port = ntohl (msg->port);
3876     opt = ntohl (msg->opt);
3877     if (0 != (opt & GNUNET_MESH_OPTION_NOBUFFER))
3878     {
3879       t->nobuffer = GNUNET_YES;
3880       t->queue_max = 1;
3881     }
3882     if (0 != (opt & GNUNET_MESH_OPTION_RELIABLE))
3883     {
3884       t->reliable = GNUNET_YES;
3885     }
3886     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  nobuffer:%d\n", t->nobuffer);
3887   }
3888   tunnel_reset_timeout (t, GNUNET_YES);
3889   tunnel_change_state (t,  MESH_TUNNEL_WAITING);
3890   dest_peer_info =
3891       GNUNET_CONTAINER_multihashmap_get (peers, &pi[size - 1].hashPubKey);
3892   if (NULL == dest_peer_info)
3893   {
3894     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3895                 "  Creating PeerInfo for destination.\n");
3896     dest_peer_info = GNUNET_malloc (sizeof (struct MeshPeerInfo));
3897     dest_peer_info->id = GNUNET_PEER_intern (&pi[size - 1]);
3898     GNUNET_CONTAINER_multihashmap_put (peers, &pi[size - 1].hashPubKey,
3899                                        dest_peer_info,
3900                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY);
3901   }
3902   orig_peer_info = GNUNET_CONTAINER_multihashmap_get (peers, &pi->hashPubKey);
3903   if (NULL == orig_peer_info)
3904   {
3905     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3906                 "  Creating PeerInfo for origin.\n");
3907     orig_peer_info = GNUNET_malloc (sizeof (struct MeshPeerInfo));
3908     orig_peer_info->id = GNUNET_PEER_intern (pi);
3909     GNUNET_CONTAINER_multihashmap_put (peers, &pi->hashPubKey, orig_peer_info,
3910                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY);
3911   }
3912   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Creating path...\n");
3913   path = path_new (size);
3914   own_pos = 0;
3915   for (i = 0; i < size; i++)
3916   {
3917     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ... adding %s\n",
3918                 GNUNET_i2s (&pi[i]));
3919     path->peers[i] = GNUNET_PEER_intern (&pi[i]);
3920     if (path->peers[i] == myid)
3921       own_pos = i;
3922   }
3923   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Own position: %u\n", own_pos);
3924   if (own_pos == 0 && path->peers[own_pos] != myid)
3925   {
3926     /* create path: self not found in path through self */
3927     GNUNET_break_op (0);
3928     path_destroy (path);
3929     tunnel_destroy (t);
3930     return GNUNET_OK;
3931   }
3932   path_add_to_peers (path, GNUNET_NO);
3933   tunnel_use_path (t, path);
3934
3935   peer_info_add_tunnel (dest_peer_info, t);
3936
3937   if (own_pos == size - 1)
3938   {
3939     struct MeshClient *c;
3940
3941     /* Find target client */
3942     c = GNUNET_CONTAINER_multihashmap32_get (ports, t->port);
3943     if (NULL == c)
3944     {
3945       /* TODO send reject */
3946       return GNUNET_OK;
3947     }
3948
3949     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  It's for us!\n");
3950     peer_info_add_path_to_origin (orig_peer_info, path, GNUNET_YES);
3951
3952     /* Assign local tid */
3953     while (NULL != tunnel_get_incoming (next_local_tid))
3954       next_local_tid = (next_local_tid + 1) | GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
3955     t->local_tid_dest = next_local_tid++;
3956     next_local_tid = next_local_tid | GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
3957
3958     if (GNUNET_YES == t->reliable)
3959     {
3960       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!! Reliable\n");
3961       t->bck_rel = GNUNET_malloc (sizeof (struct MeshTunnelReliability));
3962       t->bck_rel->t = t;
3963       t->bck_rel->expected_delay = MESH_RETRANSMIT_TIME;
3964     }
3965
3966     tunnel_add_client (t, c);
3967     send_local_tunnel_create (t);
3968     send_path_ack (t);
3969      /* Eliminate tunnel when origin dies */
3970     tunnel_reset_timeout (t, GNUNET_YES);
3971     /* Keep tunnel alive in direction dest->owner*/
3972     tunnel_reset_timeout (t, GNUNET_NO); 
3973   }
3974   else
3975   {
3976     struct MeshPeerPath *path2;
3977
3978     t->next_hop = path->peers[own_pos + 1];
3979     GNUNET_PEER_change_rc(t->next_hop, 1);
3980
3981     /* It's for somebody else! Retransmit. */
3982     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Retransmitting.\n");
3983     path2 = path_duplicate (path);
3984     peer_info_add_path (dest_peer_info, path2, GNUNET_NO);
3985     peer_info_add_path_to_origin (orig_peer_info, path, GNUNET_NO);
3986     send_path_create (t);
3987   }
3988   return GNUNET_OK;
3989 }
3990
3991
3992
3993 /**
3994  * Core handler for path ACKs
3995  *
3996  * @param cls closure
3997  * @param message message
3998  * @param peer peer identity this notification is about
3999  *
4000  * @return GNUNET_OK to keep the connection open,
4001  *         GNUNET_SYSERR to close it (signal serious error)
4002  */
4003 static int
4004 handle_mesh_path_ack (void *cls, const struct GNUNET_PeerIdentity *peer,
4005                       const struct GNUNET_MessageHeader *message)
4006 {
4007   struct GNUNET_MESH_PathACK *msg;
4008   struct MeshPeerInfo *peer_info;
4009   struct MeshPeerPath *p;
4010   struct MeshTunnel *t;
4011
4012   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Received a path ACK msg [%s]\n",
4013               GNUNET_i2s (&my_full_id));
4014   msg = (struct GNUNET_MESH_PathACK *) message;
4015   t = tunnel_get (&msg->oid, ntohl(msg->tid));
4016   if (NULL == t)
4017   {
4018     /* TODO notify that we don't know the tunnel */
4019     GNUNET_STATISTICS_update (stats, "# control on unknown tunnel", 1, GNUNET_NO);
4020     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  don't know the tunnel %s [%X]!\n",
4021                 GNUNET_i2s (&msg->oid), ntohl(msg->tid));
4022     return GNUNET_OK;
4023   }
4024   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %s [%X]\n",
4025               GNUNET_i2s (&msg->oid), ntohl(msg->tid));
4026
4027   peer_info = peer_get (&msg->peer_id);
4028   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by peer %s\n",
4029               GNUNET_i2s (&msg->peer_id));
4030   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  via peer %s\n",
4031               GNUNET_i2s (peer));
4032
4033   /* Add path to peers? */
4034   p = t->path;
4035   if (NULL != p)
4036   {
4037     path_add_to_peers (p, GNUNET_YES);
4038   }
4039   else
4040   {
4041     GNUNET_break (0);
4042   }
4043   tunnel_change_state (t, MESH_TUNNEL_READY);
4044   tunnel_reset_timeout (t, GNUNET_NO);
4045   t->next_fc.last_ack_recv = (NULL == t->client) ? ntohl (msg->ack) : 0;
4046   t->prev_fc.last_ack_sent = ntohl (msg->ack);
4047
4048   /* Message for us? */
4049   if (0 == memcmp (&msg->oid, &my_full_id, sizeof (struct GNUNET_PeerIdentity)))
4050   {
4051     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  It's for us!\n");
4052     if (NULL == t->owner)
4053     {
4054       GNUNET_break_op (0);
4055       return GNUNET_OK;
4056     }
4057     if (NULL != peer_info->dhtget)
4058     {
4059       GNUNET_DHT_get_stop (peer_info->dhtget);
4060       peer_info->dhtget = NULL;
4061     }
4062     tunnel_send_ack (t, GNUNET_MESSAGE_TYPE_MESH_PATH_ACK, GNUNET_YES);
4063     tunnel_send_ack (t, GNUNET_MESSAGE_TYPE_MESH_PATH_ACK, GNUNET_NO);
4064     return GNUNET_OK;
4065   }
4066
4067   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4068               "  not for us, retransmitting...\n");
4069   send_prebuilt_message (message, t->prev_hop, t);
4070   return GNUNET_OK;
4071 }
4072
4073
4074 /**
4075  * Core handler for notifications of broken paths
4076  *
4077  * @param cls closure
4078  * @param message message
4079  * @param peer peer identity this notification is about
4080  *
4081  * @return GNUNET_OK to keep the connection open,
4082  *         GNUNET_SYSERR to close it (signal serious error)
4083  */
4084 static int
4085 handle_mesh_path_broken (void *cls, const struct GNUNET_PeerIdentity *peer,
4086                          const struct GNUNET_MessageHeader *message)
4087 {
4088   struct GNUNET_MESH_PathBroken *msg;
4089   struct MeshTunnel *t;
4090
4091   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4092               "Received a PATH BROKEN msg from %s\n", GNUNET_i2s (peer));
4093   msg = (struct GNUNET_MESH_PathBroken *) message;
4094   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  regarding %s\n",
4095               GNUNET_i2s (&msg->peer1));
4096   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  regarding %s\n",
4097               GNUNET_i2s (&msg->peer2));
4098   t = tunnel_get (&msg->oid, ntohl (msg->tid));
4099   if (NULL == t)
4100   {
4101     GNUNET_break_op (0);
4102     return GNUNET_OK;
4103   }
4104   tunnel_notify_connection_broken (t, GNUNET_PEER_search (&msg->peer1),
4105                                    GNUNET_PEER_search (&msg->peer2));
4106   return GNUNET_OK;
4107
4108 }
4109
4110
4111 /**
4112  * Core handler for tunnel destruction
4113  *
4114  * @param cls closure
4115  * @param message message
4116  * @param peer peer identity this notification is about
4117  *
4118  * @return GNUNET_OK to keep the connection open,
4119  *         GNUNET_SYSERR to close it (signal serious error)
4120  */
4121 static int
4122 handle_mesh_tunnel_destroy (void *cls, const struct GNUNET_PeerIdentity *peer,
4123                             const struct GNUNET_MessageHeader *message)
4124 {
4125   struct GNUNET_MESH_TunnelDestroy *msg;
4126   struct MeshTunnel *t;
4127
4128   msg = (struct GNUNET_MESH_TunnelDestroy *) message;
4129   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4130               "Got a TUNNEL DESTROY packet from %s\n",
4131               GNUNET_i2s (peer));
4132   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4133               "  for tunnel %s [%u]\n",
4134               GNUNET_i2s (&msg->oid), ntohl (msg->tid));
4135   t = tunnel_get (&msg->oid, ntohl (msg->tid));
4136   if (NULL == t)
4137   {
4138     /* Probably already got the message from another path,
4139      * destroyed the tunnel and retransmitted to children.
4140      * Safe to ignore.
4141      */
4142     GNUNET_STATISTICS_update (stats, "# control on unknown tunnel",
4143                               1, GNUNET_NO);
4144     return GNUNET_OK;
4145   }
4146   if (t->local_tid_dest >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
4147   {
4148     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "INCOMING TUNNEL %X %X\n",
4149                 t->local_tid, t->local_tid_dest);
4150   }
4151   if (GNUNET_PEER_search (peer) == t->prev_hop)
4152   {
4153     // TODO check owner's signature
4154     // TODO add owner's signatue to tunnel for retransmission
4155     peer_cancel_queues (t->prev_hop, t);
4156     GNUNET_PEER_change_rc (t->prev_hop, -1);
4157     t->prev_hop = 0;
4158   }
4159   else if (GNUNET_PEER_search (peer) == t->next_hop)
4160   {
4161     // TODO check dest's signature
4162     // TODO add dest's signatue to tunnel for retransmission
4163     peer_cancel_queues (t->next_hop, t);
4164     GNUNET_PEER_change_rc (t->next_hop, -1);
4165     t->next_hop = 0;
4166   }
4167   else
4168   {
4169     GNUNET_break_op (0);
4170     // TODO check both owner AND destination's signature to see which matches
4171     // TODO restransmit in appropriate direction
4172     return GNUNET_OK;
4173   }
4174   tunnel_destroy_empty (t);
4175
4176   // TODO: add timeout to destroy the tunnel anyway
4177   return GNUNET_OK;
4178 }
4179
4180
4181 /**
4182  * Generic handler for mesh network payload traffic.
4183  *
4184  * @param peer Peer identity this notification is about.
4185  * @param message Data message.
4186  * @param fwd Is this FWD traffic? GNUNET_YES : GNUNET_NO;
4187  *
4188  * @return GNUNET_OK to keep the connection open,
4189  *         GNUNET_SYSERR to close it (signal serious error)
4190  */
4191 static int
4192 handle_mesh_data (const struct GNUNET_PeerIdentity *peer,
4193                   const struct GNUNET_MessageHeader *message,
4194                   int fwd)
4195 {
4196   struct GNUNET_MESH_Data *msg;
4197   struct MeshFlowControl *fc;
4198   struct MeshTunnelReliability *rel;
4199   struct MeshTunnel *t;
4200   struct MeshClient *c;
4201   GNUNET_PEER_Id hop;
4202   uint32_t pid;
4203   uint32_t ttl;
4204   uint16_t type;
4205   size_t size;
4206
4207   /* Check size */
4208   size = ntohs (message->size);
4209   if (size <
4210       sizeof (struct GNUNET_MESH_Data) +
4211       sizeof (struct GNUNET_MessageHeader))
4212   {
4213     GNUNET_break (0);
4214     return GNUNET_OK;
4215   }
4216   type =ntohs (message->type);
4217   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a %s message from %s\n",
4218               GNUNET_MESH_DEBUG_M2S (type), GNUNET_i2s (peer));
4219   msg = (struct GNUNET_MESH_Data *) message;
4220   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " payload of type %s\n",
4221               GNUNET_MESH_DEBUG_M2S (ntohs (msg[1].header.type)));
4222   /* Check tunnel */
4223   t = tunnel_get (&msg->oid, ntohl (msg->tid));
4224   if (NULL == t)
4225   {
4226     /* TODO notify back: we don't know this tunnel */
4227     GNUNET_STATISTICS_update (stats, "# data on unknown tunnel", 1, GNUNET_NO);
4228     GNUNET_break_op (0);
4229     return GNUNET_OK;
4230   }
4231
4232   /*  Initialize FWD/BCK data */
4233   pid = ntohl (msg->pid);
4234   fc =  fwd ? &t->prev_fc : &t->next_fc;
4235   c =   fwd ? t->client   : t->owner;
4236   rel = fwd ? t->bck_rel  : t->fwd_rel;
4237   hop = fwd ? t->next_hop : t->prev_hop;
4238   if (GMC_is_pid_bigger (pid, fc->last_ack_sent))
4239   {
4240     GNUNET_STATISTICS_update (stats, "# unsolicited data", 1, GNUNET_NO);
4241     GNUNET_break_op (0);
4242     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4243                 "Received PID %u, (prev %u), ACK %u\n",
4244                 pid, fc->last_pid_recv, fc->last_ack_sent);
4245     return GNUNET_OK;
4246   }
4247   if (NULL != c)
4248     tunnel_change_state (t, MESH_TUNNEL_READY);
4249   tunnel_reset_timeout (t, fwd);
4250   if (NULL != c)
4251   {
4252     /* TODO signature verification */
4253     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  it's for us! sending to client\n");
4254     GNUNET_STATISTICS_update (stats, "# data received", 1, GNUNET_NO);
4255     if (GMC_is_pid_bigger (pid, fc->last_pid_recv))
4256     {
4257       uint32_t mid;
4258
4259       mid = ntohl (msg->mid);
4260       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4261                   " pid %u (mid %u) not seen yet\n", pid, mid);
4262       fc->last_pid_recv = pid;
4263
4264       if (GNUNET_NO == t->reliable ||
4265           ( !GMC_is_pid_bigger (rel->mid_recv, mid) &&
4266             GMC_is_pid_bigger (rel->mid_recv + 64, mid) ) )
4267       {
4268         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4269                     "!!! RECV %u\n", ntohl (msg->mid));
4270         if (GNUNET_YES == t->reliable)
4271         {
4272           /* Is this the exact next expected messasge? */
4273           if (mid == rel->mid_recv)
4274           {
4275             GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "as expected\n");
4276             rel->mid_recv++;
4277             tunnel_send_client_data (t, msg, fwd);
4278             tunnel_send_client_buffered_data (t, c, rel);
4279           }
4280           else
4281           {
4282             GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "save for later\n");
4283             tunnel_add_buffered_data (t, msg, rel);
4284           }
4285         }
4286         else /* Tunnel unreliable, send to clients directly */
4287         {
4288           tunnel_send_client_data (t, msg, fwd);
4289         }
4290       }
4291       else
4292       {
4293         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4294                     " MID %u not expected (%u - %u), dropping!\n",
4295                     ntohl (msg->mid), rel->mid_recv, rel->mid_recv + 64);
4296       }
4297     }
4298     else
4299     {
4300 //       GNUNET_STATISTICS_update (stats, "# duplicate PID", 1, GNUNET_NO);
4301       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4302                   " Pid %u not expected (%u+), dropping!\n",
4303                   pid, fc->last_pid_recv + 1);
4304     }
4305     tunnel_send_ack (t, type, fwd);
4306     return GNUNET_OK;
4307   }
4308   fc->last_pid_recv = pid;
4309   if (0 == hop)
4310   {
4311     GNUNET_STATISTICS_update (stats, "# data on dying tunnel", 1, GNUNET_NO);
4312     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "data on dying tunnel %s[%X]\n",
4313                 GNUNET_PEER_resolve2 (t->id.oid), ntohl (msg->tid));
4314     return GNUNET_OK; /* Next hop has destoyed the tunnel, drop */
4315   }
4316   ttl = ntohl (msg->ttl);
4317   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   ttl: %u\n", ttl);
4318   if (ttl == 0)
4319   {
4320     GNUNET_STATISTICS_update (stats, "# TTL drops", 1, GNUNET_NO);
4321     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, " TTL is 0, DROPPING!\n");
4322     tunnel_send_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK, fwd);
4323     return GNUNET_OK;
4324   }
4325
4326   if (myid != hop)
4327   {
4328     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  not for us, retransmitting...\n");
4329     send_prebuilt_message (message, hop, t);
4330     GNUNET_STATISTICS_update (stats, "# unicast forwarded", 1, GNUNET_NO);
4331   }
4332   return GNUNET_OK;
4333 }
4334
4335
4336 /**
4337  * Core handler for mesh network traffic going from the origin to a peer
4338  *
4339  * @param cls Closure (unused).
4340  * @param message Message received.
4341  * @param peer Peer who sent the message.
4342  *
4343  * @return GNUNET_OK to keep the connection open,
4344  *         GNUNET_SYSERR to close it (signal serious error)
4345  */
4346 static int
4347 handle_mesh_unicast (void *cls, const struct GNUNET_PeerIdentity *peer,
4348                      const struct GNUNET_MessageHeader *message)
4349 {
4350   return handle_mesh_data (peer, message, GNUNET_YES);
4351 }
4352
4353 /**
4354  * Core handler for mesh network traffic towards the owner of a tunnel.
4355  *
4356  * @param cls Closure (unused).
4357  * @param message Message received.
4358  * @param peer Peer who sent the message.
4359  *
4360  * @return GNUNET_OK to keep the connection open,
4361  *         GNUNET_SYSERR to close it (signal serious error)
4362  */
4363 static int
4364 handle_mesh_to_orig (void *cls, const struct GNUNET_PeerIdentity *peer,
4365                      const struct GNUNET_MessageHeader *message)
4366 {
4367   return handle_mesh_data (peer, message, GNUNET_NO);
4368 }
4369
4370
4371 /**
4372  * Core handler for mesh network traffic end-to-end ACKs.
4373  *
4374  * @param cls Closure.
4375  * @param message Message.
4376  * @param peer Peer identity this notification is about.
4377  *
4378  * @return GNUNET_OK to keep the connection open,
4379  *         GNUNET_SYSERR to close it (signal serious error)
4380  */
4381 static int
4382 handle_mesh_data_ack (void *cls, const struct GNUNET_PeerIdentity *peer,
4383                       const struct GNUNET_MessageHeader *message)
4384 {
4385   struct GNUNET_MESH_DataACK *msg;
4386   struct MeshTunnelReliability *rel;
4387   struct MeshReliableMessage *copy;
4388   struct MeshReliableMessage *next;
4389   struct MeshTunnel *t;
4390   GNUNET_PEER_Id id;
4391   uint32_t ack;
4392   uint16_t type;
4393   int work;
4394
4395   type = ntohs (message->type);
4396   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got a %s message from %s!\n",
4397               GNUNET_MESH_DEBUG_M2S (type), GNUNET_i2s (peer));
4398   msg = (struct GNUNET_MESH_DataACK *) message;
4399
4400   t = tunnel_get (&msg->oid, ntohl (msg->tid));
4401   if (NULL == t)
4402   {
4403     /* TODO notify that we dont know this tunnel (whom)? */
4404     GNUNET_STATISTICS_update (stats, "# ack on unknown tunnel", 1, GNUNET_NO);
4405     return GNUNET_OK;
4406   }
4407   ack = ntohl (msg->mid);
4408   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ACK %u\n", ack);
4409
4410   /* Is this a forward or backward ACK? */
4411   id = GNUNET_PEER_search (peer);
4412   if (t->next_hop == id && GNUNET_MESSAGE_TYPE_MESH_UNICAST_ACK == type)
4413   {
4414     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  FWD ACK\n");
4415     if (NULL == t->owner)
4416     {
4417       send_prebuilt_message (message, t->prev_hop, t);
4418       return GNUNET_OK;
4419     }
4420     rel = t->fwd_rel;
4421   }
4422   else if (t->prev_hop == id && GNUNET_MESSAGE_TYPE_MESH_TO_ORIG_ACK == type)
4423   {
4424     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  BCK ACK\n");
4425     if (NULL == t->client)
4426     {
4427       send_prebuilt_message (message, t->next_hop, t);
4428       return GNUNET_OK;
4429     }
4430     rel = t->bck_rel;
4431   }
4432   else
4433   {
4434     GNUNET_break_op (0);
4435     return GNUNET_OK;
4436   }
4437
4438   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!! ACK %u\n", ack);
4439   for (work = GNUNET_NO, copy = rel->head_sent; copy != NULL; copy = next)
4440   {
4441    if (GMC_is_pid_bigger (copy->mid, ack))
4442     {
4443       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!!  head %u, out!\n", copy->mid);
4444       tunnel_free_sent_reliable (t, msg, rel);
4445       break;
4446     }
4447     work = GNUNET_YES;
4448     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!!  id %u\n", copy->mid);
4449     next = copy->next;
4450     tunnel_free_reliable_message (copy);
4451   }
4452   /* Once buffers have been free'd, send ACK */
4453   tunnel_send_ack (t, type, GNUNET_MESSAGE_TYPE_MESH_UNICAST_ACK == type);
4454
4455   /* If some message was free'd, update the retransmission delay*/
4456   if (GNUNET_YES == work)
4457   {
4458     if (GNUNET_SCHEDULER_NO_TASK != rel->retry_task)
4459     {
4460       GNUNET_SCHEDULER_cancel (rel->retry_task);
4461       if (NULL == rel->head_sent)
4462       {
4463         rel->retry_task = GNUNET_SCHEDULER_NO_TASK;
4464       }
4465       else
4466       {
4467         struct GNUNET_TIME_Absolute new_target;
4468         struct GNUNET_TIME_Relative delay;
4469
4470         delay = GNUNET_TIME_relative_multiply (rel->retry_timer,
4471                                                MESH_RETRANSMIT_MARGIN);
4472         new_target = GNUNET_TIME_absolute_add (rel->head_sent->timestamp,
4473                                                delay);
4474         delay = GNUNET_TIME_absolute_get_remaining (new_target);
4475         rel->retry_task =
4476             GNUNET_SCHEDULER_add_delayed (delay,
4477                                           &tunnel_retransmit_message,
4478                                           rel);
4479       }
4480     }
4481     else
4482       GNUNET_break (0);
4483   }
4484   return GNUNET_OK;
4485 }
4486
4487 /**
4488  * Core handler for mesh network traffic point-to-point acks.
4489  *
4490  * @param cls closure
4491  * @param message message
4492  * @param peer peer identity this notification is about
4493  *
4494  * @return GNUNET_OK to keep the connection open,
4495  *         GNUNET_SYSERR to close it (signal serious error)
4496  */
4497 static int
4498 handle_mesh_ack (void *cls, const struct GNUNET_PeerIdentity *peer,
4499                  const struct GNUNET_MessageHeader *message)
4500 {
4501   struct GNUNET_MESH_ACK *msg;
4502   struct MeshTunnel *t;
4503   struct MeshFlowControl *fc;
4504   GNUNET_PEER_Id id;
4505   uint32_t ack;
4506
4507   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got an ACK packet from %s!\n",
4508               GNUNET_i2s (peer));
4509   msg = (struct GNUNET_MESH_ACK *) message;
4510
4511   t = tunnel_get (&msg->oid, ntohl (msg->tid));
4512
4513   if (NULL == t)
4514   {
4515     /* TODO notify that we dont know this tunnel (whom)? */
4516     GNUNET_STATISTICS_update (stats, "# ack on unknown tunnel", 1, GNUNET_NO);
4517     return GNUNET_OK;
4518   }
4519   ack = ntohl (msg->pid);
4520   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ACK %u\n", ack);
4521
4522   /* Is this a forward or backward ACK? */
4523   id = GNUNET_PEER_search (peer);
4524   if (t->next_hop == id)
4525   {
4526     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  FWD ACK\n");
4527     fc = &t->next_fc;
4528   }
4529   else if (t->prev_hop == id)
4530   {
4531     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  BCK ACK\n");
4532     fc = &t->prev_fc;
4533   }
4534   else
4535   {
4536     GNUNET_break_op (0);
4537     return GNUNET_OK;
4538   }
4539
4540   if (GNUNET_SCHEDULER_NO_TASK != fc->poll_task &&
4541       GMC_is_pid_bigger (ack, fc->last_ack_recv))
4542   {
4543     GNUNET_SCHEDULER_cancel (fc->poll_task);
4544     fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
4545     fc->poll_time = GNUNET_TIME_UNIT_SECONDS;
4546   }
4547
4548   fc->last_ack_recv = ack;
4549   peer_unlock_queue (id);
4550   tunnel_change_state (t, MESH_TUNNEL_READY);
4551
4552   tunnel_send_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK, t->next_hop == id);
4553
4554   return GNUNET_OK;
4555 }
4556
4557
4558 /**
4559  * Core handler for mesh network traffic point-to-point ack polls.
4560  *
4561  * @param cls closure
4562  * @param message message
4563  * @param peer peer identity this notification is about
4564  *
4565  * @return GNUNET_OK to keep the connection open,
4566  *         GNUNET_SYSERR to close it (signal serious error)
4567  */
4568 static int
4569 handle_mesh_poll (void *cls, const struct GNUNET_PeerIdentity *peer,
4570                   const struct GNUNET_MessageHeader *message)
4571 {
4572   struct GNUNET_MESH_Poll *msg;
4573   struct MeshTunnel *t;
4574   struct MeshFlowControl *fc;
4575   GNUNET_PEER_Id id;
4576   uint32_t pid;
4577   uint32_t old;
4578
4579   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got an POLL packet from %s!\n",
4580               GNUNET_i2s (peer));
4581
4582   msg = (struct GNUNET_MESH_Poll *) message;
4583
4584   t = tunnel_get (&msg->oid, ntohl (msg->tid));
4585
4586   if (NULL == t)
4587   {
4588     /* TODO notify that we dont know this tunnel (whom)? */
4589     GNUNET_STATISTICS_update (stats, "# poll on unknown tunnel", 1, GNUNET_NO);
4590     GNUNET_break_op (0);
4591     return GNUNET_OK;
4592   }
4593
4594   /* Is this a forward or backward ACK? */
4595   id = GNUNET_PEER_search (peer);
4596   pid = ntohl (msg->pid);
4597   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  PID %u\n", pid);
4598   if (t->next_hop == id)
4599   {
4600     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  from FWD\n");
4601     fc = &t->next_fc;
4602     old = fc->last_pid_recv;
4603   }
4604   else if (t->prev_hop == id)
4605   {
4606     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  from BCK\n");
4607     fc = &t->prev_fc;
4608     old = fc->last_pid_recv;
4609   }
4610   else
4611   {
4612     GNUNET_break (0);
4613     return GNUNET_OK;
4614   }
4615
4616   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  was %u\n", fc->last_pid_recv);
4617   fc->last_pid_recv = pid;
4618   tunnel_send_ack (t, GNUNET_MESSAGE_TYPE_MESH_POLL, t->prev_hop == id);
4619
4620   if (GNUNET_YES == t->reliable)
4621     fc->last_pid_recv = old;
4622
4623   return GNUNET_OK;
4624 }
4625
4626
4627 /**
4628  * Core handler for mesh keepalives.
4629  *
4630  * @param cls closure
4631  * @param message message
4632  * @param peer peer identity this notification is about
4633  * @return GNUNET_OK to keep the connection open,
4634  *         GNUNET_SYSERR to close it (signal serious error)
4635  *
4636  * TODO: Check who we got this from, to validate route.
4637  */
4638 static int
4639 handle_mesh_keepalive (void *cls, const struct GNUNET_PeerIdentity *peer,
4640                        const struct GNUNET_MessageHeader *message)
4641 {
4642   struct GNUNET_MESH_TunnelKeepAlive *msg;
4643   struct MeshTunnel *t;
4644   struct MeshClient *c;
4645   GNUNET_PEER_Id hop;
4646   int fwd;
4647
4648   msg = (struct GNUNET_MESH_TunnelKeepAlive *) message;
4649   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a keepalive packet from %s\n",
4650               GNUNET_i2s (peer));
4651
4652   t = tunnel_get (&msg->oid, ntohl (msg->tid));
4653   if (NULL == t)
4654   {
4655     /* TODO notify that we dont know that tunnel */
4656     GNUNET_STATISTICS_update (stats, "# keepalive on unknown tunnel", 1,
4657                               GNUNET_NO);
4658     return GNUNET_OK;
4659   }
4660
4661   fwd = GNUNET_MESSAGE_TYPE_MESH_FWD_KEEPALIVE == ntohs (message->type) ? 
4662         GNUNET_YES : GNUNET_NO;
4663   c   = fwd ? t->client   : t->owner;
4664   hop = fwd ? t->next_hop : t->prev_hop;
4665
4666   if (NULL != c)
4667     tunnel_change_state (t, MESH_TUNNEL_READY);
4668   tunnel_reset_timeout (t, fwd);
4669   if (NULL != c || 0 == hop || myid == hop)
4670     return GNUNET_OK;
4671
4672   GNUNET_STATISTICS_update (stats, "# keepalives forwarded", 1, GNUNET_NO);
4673   send_prebuilt_message (message, hop, t);
4674   return GNUNET_OK;
4675   }
4676
4677
4678
4679 /**
4680  * Functions to handle messages from core
4681  */
4682 static struct GNUNET_CORE_MessageHandler core_handlers[] = {
4683   {&handle_mesh_path_create, GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE, 0},
4684   {&handle_mesh_path_broken, GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN,
4685    sizeof (struct GNUNET_MESH_PathBroken)},
4686   {&handle_mesh_tunnel_destroy, GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY,
4687    sizeof (struct GNUNET_MESH_TunnelDestroy)},
4688   {&handle_mesh_unicast, GNUNET_MESSAGE_TYPE_MESH_UNICAST, 0},
4689   {&handle_mesh_to_orig, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN, 0},
4690   {&handle_mesh_data_ack, GNUNET_MESSAGE_TYPE_MESH_UNICAST_ACK,
4691     sizeof (struct GNUNET_MESH_DataACK)},
4692   {&handle_mesh_data_ack, GNUNET_MESSAGE_TYPE_MESH_TO_ORIG_ACK,
4693     sizeof (struct GNUNET_MESH_DataACK)},
4694   {&handle_mesh_keepalive, GNUNET_MESSAGE_TYPE_MESH_FWD_KEEPALIVE,
4695     sizeof (struct GNUNET_MESH_TunnelKeepAlive)},
4696   {&handle_mesh_keepalive, GNUNET_MESSAGE_TYPE_MESH_BCK_KEEPALIVE,
4697     sizeof (struct GNUNET_MESH_TunnelKeepAlive)},
4698   {&handle_mesh_ack, GNUNET_MESSAGE_TYPE_MESH_ACK,
4699     sizeof (struct GNUNET_MESH_ACK)},
4700   {&handle_mesh_poll, GNUNET_MESSAGE_TYPE_MESH_POLL,
4701     sizeof (struct GNUNET_MESH_Poll)},
4702   {&handle_mesh_path_ack, GNUNET_MESSAGE_TYPE_MESH_PATH_ACK,
4703    sizeof (struct GNUNET_MESH_PathACK)},
4704   {NULL, 0, 0}
4705 };
4706
4707
4708 /**
4709  * Function to process paths received for a new peer addition. The recorded
4710  * paths form the initial tunnel, which can be optimized later.
4711  * Called on each result obtained for the DHT search.
4712  *
4713  * @param cls closure
4714  * @param exp when will this value expire
4715  * @param key key of the result
4716  * @param get_path path of the get request
4717  * @param get_path_length lenght of get_path
4718  * @param put_path path of the put request
4719  * @param put_path_length length of the put_path
4720  * @param type type of the result
4721  * @param size number of bytes in data
4722  * @param data pointer to the result data
4723  */
4724 static void
4725 dht_get_id_handler (void *cls, struct GNUNET_TIME_Absolute exp,
4726                     const struct GNUNET_HashCode * key,
4727                     const struct GNUNET_PeerIdentity *get_path,
4728                     unsigned int get_path_length,
4729                     const struct GNUNET_PeerIdentity *put_path,
4730                     unsigned int put_path_length, enum GNUNET_BLOCK_Type type,
4731                     size_t size, const void *data)
4732 {
4733   struct MeshPeerInfo *peer = cls;
4734   struct MeshPeerPath *p;
4735   struct GNUNET_PeerIdentity pi;
4736   int i;
4737
4738   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got results from DHT!\n");
4739   GNUNET_PEER_resolve (peer->id, &pi);
4740   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  for %s\n", GNUNET_i2s (&pi));
4741
4742   p = path_build_from_dht (get_path, get_path_length,
4743                            put_path, put_path_length);
4744   path_add_to_peers (p, GNUNET_NO);
4745   path_destroy (p);
4746   for (i = 0; i < peer->ntunnels; i++)
4747   {
4748     struct GNUNET_PeerIdentity id;
4749
4750     GNUNET_PEER_resolve (peer->tunnels[i]->id.oid, &id);
4751     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " ... tunnel %s:%X (%X / %X)\n",
4752                 GNUNET_i2s (&id), peer->tunnels[i]->id.tid,
4753                 peer->tunnels[i]->local_tid, 
4754                 peer->tunnels[i]->local_tid_dest);
4755     if (peer->tunnels[i]->state == MESH_TUNNEL_SEARCHING)
4756     {
4757       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " ... connect!\n");
4758       peer_connect (peer, peer->tunnels[i]);
4759     }
4760   }
4761
4762   return;
4763 }
4764
4765
4766 /******************************************************************************/
4767 /*********************       MESH LOCAL HANDLES      **************************/
4768 /******************************************************************************/
4769
4770
4771 /**
4772  * Handler for client connection.
4773  *
4774  * @param cls Closure (unused).
4775  * @param client Client handler.
4776  */
4777 static void
4778 handle_local_client_connect (void *cls, struct GNUNET_SERVER_Client *client)
4779 {
4780   struct MeshClient *c;
4781
4782   if (NULL == client)
4783     return;
4784   c = GNUNET_malloc (sizeof (struct MeshClient));
4785   c->handle = client;
4786   GNUNET_SERVER_client_keep (client);
4787   GNUNET_SERVER_client_set_user_context (client, c);
4788   GNUNET_CONTAINER_DLL_insert (clients_head, clients_tail, c);
4789 }
4790
4791
4792 /**
4793  * Handler for client disconnection
4794  *
4795  * @param cls closure
4796  * @param client identification of the client; NULL
4797  *        for the last call when the server is destroyed
4798  */
4799 static void
4800 handle_local_client_disconnect (void *cls, struct GNUNET_SERVER_Client *client)
4801 {
4802   struct MeshClient *c;
4803   struct MeshClient *next;
4804
4805   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "client disconnected: %p\n", client);
4806   if (client == NULL)
4807   {
4808     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (SERVER DOWN)\n");
4809     return;
4810   }
4811
4812   c = client_get (client);
4813   if (NULL != c)
4814   {
4815     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "matching client found (%u)\n",
4816                 c->id);
4817     GNUNET_SERVER_client_drop (c->handle);
4818     c->shutting_down = GNUNET_YES;
4819     if (NULL != c->own_tunnels)
4820     {
4821       GNUNET_CONTAINER_multihashmap32_iterate (c->own_tunnels,
4822                                                &tunnel_destroy_iterator, c);
4823       GNUNET_CONTAINER_multihashmap32_destroy (c->own_tunnels);
4824     }
4825
4826     if (NULL != c->incoming_tunnels)
4827     {
4828       GNUNET_CONTAINER_multihashmap32_iterate (c->incoming_tunnels,
4829                                              &tunnel_destroy_iterator, c);
4830       GNUNET_CONTAINER_multihashmap32_destroy (c->incoming_tunnels);
4831     }
4832
4833     if (NULL != c->ports)
4834       GNUNET_CONTAINER_multihashmap32_destroy (c->ports);
4835     next = c->next;
4836     GNUNET_CONTAINER_DLL_remove (clients_head, clients_tail, c);
4837     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  CLIENT FREE at %p\n", c);
4838     GNUNET_free (c);
4839     GNUNET_STATISTICS_update (stats, "# clients", -1, GNUNET_NO);
4840     c = next;
4841   }
4842   else
4843   {
4844     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, " context NULL!\n");
4845   }
4846   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "done!\n");
4847   return;
4848 }
4849
4850
4851 /**
4852  * Handler for new clients
4853  *
4854  * @param cls closure
4855  * @param client identification of the client
4856  * @param message the actual message, which includes messages the client wants
4857  */
4858 static void
4859 handle_local_new_client (void *cls, struct GNUNET_SERVER_Client *client,
4860                          const struct GNUNET_MessageHeader *message)
4861 {
4862   struct GNUNET_MESH_ClientConnect *cc_msg;
4863   struct MeshClient *c;
4864   unsigned int size;
4865   uint32_t *p;
4866   unsigned int i;
4867
4868   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new client connected %p\n", client);
4869
4870   /* Check data sanity */
4871   size = ntohs (message->size) - sizeof (struct GNUNET_MESH_ClientConnect);
4872   cc_msg = (struct GNUNET_MESH_ClientConnect *) message;
4873   if (0 != (size % sizeof (uint32_t)))
4874   {
4875     GNUNET_break (0);
4876     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4877     return;
4878   }
4879   size /= sizeof (uint32_t);
4880
4881   /* Initialize new client structure */
4882   c = GNUNET_SERVER_client_get_user_context (client, struct MeshClient);
4883   c->id = next_client_id++; /* overflow not important: just for debug */
4884   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  client id %u\n", c->id);
4885   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  client has %u ports\n", size);
4886   if (size > 0)
4887   {
4888     uint32_t u32;
4889
4890     p = (uint32_t *) &cc_msg[1];
4891     c->ports = GNUNET_CONTAINER_multihashmap32_create (size);
4892     for (i = 0; i < size; i++)
4893     {
4894       u32 = ntohl (p[i]);
4895       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    port: %u\n", u32);
4896
4897       /* store in client's hashmap */
4898       GNUNET_CONTAINER_multihashmap32_put (c->ports, u32, c,
4899                                            GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
4900       /* store in global hashmap */
4901       /* FIXME only allow one client to have the port open,
4902        *       have a backup hashmap with waiting clients */
4903       GNUNET_CONTAINER_multihashmap32_put (ports, u32, c,
4904                                            GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
4905     }
4906   }
4907
4908   c->own_tunnels = GNUNET_CONTAINER_multihashmap32_create (32);
4909   c->incoming_tunnels = GNUNET_CONTAINER_multihashmap32_create (32);
4910   GNUNET_SERVER_notification_context_add (nc, client);
4911   GNUNET_STATISTICS_update (stats, "# clients", 1, GNUNET_NO);
4912
4913   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4914   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new client processed\n");
4915 }
4916
4917
4918 /**
4919  * Handler for requests of new tunnels
4920  *
4921  * @param cls Closure.
4922  * @param client Identification of the client.
4923  * @param message The actual message.
4924  */
4925 static void
4926 handle_local_tunnel_create (void *cls, struct GNUNET_SERVER_Client *client,
4927                             const struct GNUNET_MessageHeader *message)
4928 {
4929   struct GNUNET_MESH_TunnelMessage *t_msg;
4930   struct MeshPeerInfo *peer_info;
4931   struct MeshTunnel *t;
4932   struct MeshClient *c;
4933   MESH_TunnelNumber tid;
4934
4935   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new tunnel requested\n");
4936
4937   /* Sanity check for client registration */
4938   if (NULL == (c = client_get (client)))
4939   {
4940     GNUNET_break (0);
4941     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4942     return;
4943   }
4944   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4945
4946   /* Message size sanity check */
4947   if (sizeof (struct GNUNET_MESH_TunnelMessage) != ntohs (message->size))
4948   {
4949     GNUNET_break (0);
4950     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4951     return;
4952   }
4953
4954   t_msg = (struct GNUNET_MESH_TunnelMessage *) message;
4955   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  towards %s\n",
4956               GNUNET_i2s (&t_msg->peer));
4957   tid = ntohl (t_msg->tunnel_id);
4958   /* Sanity check for duplicate tunnel IDs */
4959   if (NULL != tunnel_get_by_local_id (c, tid))
4960   {
4961     GNUNET_break (0);
4962     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4963     return;
4964   }
4965
4966   /* Create tunnel */
4967   while (NULL != tunnel_get_by_pi (myid, next_tid))
4968     next_tid = (next_tid + 1) & ~GNUNET_MESH_LOCAL_TUNNEL_ID_CLI;
4969   t = tunnel_new (myid, next_tid, c, tid);
4970   next_tid = (next_tid + 1) & ~GNUNET_MESH_LOCAL_TUNNEL_ID_CLI;
4971   if (NULL == t)
4972   {
4973     GNUNET_break (0);
4974     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4975     return;
4976   }
4977   t->port = ntohl (t_msg->port);
4978   tunnel_set_options (t, ntohl (t_msg->opt));
4979   if (GNUNET_YES == t->reliable)
4980   {
4981     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!! Reliable\n");
4982     t->fwd_rel = GNUNET_malloc (sizeof (struct MeshTunnelReliability));
4983     t->fwd_rel->t = t;
4984     t->fwd_rel->expected_delay = MESH_RETRANSMIT_TIME;
4985   }
4986
4987   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "CREATED TUNNEL %s[%x]:%u (%x)\n",
4988               GNUNET_i2s (&my_full_id), t->id.tid, t->port, t->local_tid);
4989
4990   peer_info = peer_get (&t_msg->peer);
4991   peer_info_add_tunnel (peer_info, t);
4992   peer_connect (peer_info, t);
4993   tunnel_reset_timeout (t, GNUNET_YES);
4994   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4995   return;
4996 }
4997
4998
4999 /**
5000  * Handler for requests of deleting tunnels
5001  *
5002  * @param cls closure
5003  * @param client identification of the client
5004  * @param message the actual message
5005  */
5006 static void
5007 handle_local_tunnel_destroy (void *cls, struct GNUNET_SERVER_Client *client,
5008                              const struct GNUNET_MessageHeader *message)
5009 {
5010   struct GNUNET_MESH_TunnelMessage *tunnel_msg;
5011   struct MeshClient *c;
5012   struct MeshTunnel *t;
5013   MESH_TunnelNumber tid;
5014
5015   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5016               "Got a DESTROY TUNNEL from client!\n");
5017
5018   /* Sanity check for client registration */
5019   if (NULL == (c = client_get (client)))
5020   {
5021     GNUNET_break (0);
5022     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5023     return;
5024   }
5025   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
5026
5027   /* Message sanity check */
5028   if (sizeof (struct GNUNET_MESH_TunnelMessage) != ntohs (message->size))
5029   {
5030     GNUNET_break (0);
5031     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5032     return;
5033   }
5034
5035   tunnel_msg = (struct GNUNET_MESH_TunnelMessage *) message;
5036
5037   /* Retrieve tunnel */
5038   tid = ntohl (tunnel_msg->tunnel_id);
5039   t = tunnel_get_by_local_id (c, tid);
5040   if (NULL == t)
5041   {
5042     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "  tunnel %X not found\n", tid);
5043     GNUNET_break (0);
5044     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5045     return;
5046   }
5047
5048   /* Cleanup after the tunnel */
5049   client_delete_tunnel (c, t);
5050   if (c == t->client && GNUNET_MESH_LOCAL_TUNNEL_ID_SERV >= tid)
5051   {
5052     t->client = NULL;
5053   }
5054   else if (c == t->owner && GNUNET_MESH_LOCAL_TUNNEL_ID_SERV < tid)
5055   {
5056     peer_info_remove_tunnel (peer_get_short (t->dest), t);
5057     t->owner = NULL;
5058   }
5059   else 
5060   {
5061     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5062                 "  tunnel %X client %p (%p, %p)\n",
5063                 tid, c, t->owner, t->client);
5064     GNUNET_break (0);
5065   }
5066
5067   /* The tunnel will be destroyed when the last message is transmitted. */
5068   tunnel_destroy_empty (t);
5069
5070   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5071   return;
5072 }
5073
5074
5075 /**
5076  * Handler for client traffic
5077  *
5078  * @param cls closure
5079  * @param client identification of the client
5080  * @param message the actual message
5081  */
5082 static void
5083 handle_local_data (void *cls, struct GNUNET_SERVER_Client *client,
5084                    const struct GNUNET_MessageHeader *message)
5085 {
5086   struct GNUNET_MESH_LocalData *data_msg;
5087   struct MeshClient *c;
5088   struct MeshTunnel *t;
5089   struct MeshFlowControl *fc;
5090   MESH_TunnelNumber tid;
5091   size_t size;
5092
5093   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5094               "Got data from a client!\n");
5095
5096   /* Sanity check for client registration */
5097   if (NULL == (c = client_get (client)))
5098   {
5099     GNUNET_break (0);
5100     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5101     return;
5102   }
5103   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
5104
5105   data_msg = (struct GNUNET_MESH_LocalData *) message;
5106
5107   /* Sanity check for message size */
5108   size = ntohs (message->size) - sizeof (struct GNUNET_MESH_LocalData);
5109   if (size < sizeof (struct GNUNET_MessageHeader))
5110   {
5111     GNUNET_break (0);
5112     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5113     return;
5114   }
5115
5116   /* Tunnel exists? */
5117   tid = ntohl (data_msg->tid);
5118   t = tunnel_get_by_local_id (c, tid);
5119   if (NULL == t)
5120   {
5121     GNUNET_break (0);
5122     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5123     return;
5124   }
5125
5126   /* Is the client in the tunnel? */
5127   if ( !( (tid < GNUNET_MESH_LOCAL_TUNNEL_ID_SERV &&
5128            t->owner &&
5129            t->owner->handle == client)
5130          ||
5131           (tid >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV &&
5132            t->client && 
5133            t->client->handle == client) ) )
5134   {
5135     GNUNET_break (0);
5136     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5137     return;
5138   }
5139
5140   /* Ok, everything is correct, send the message
5141    * (pretend we got it from a mesh peer)
5142    */
5143   {
5144     struct GNUNET_MESH_Data *payload;
5145     char cbuf[sizeof(struct GNUNET_MESH_Data) + size];
5146
5147     fc = tid < GNUNET_MESH_LOCAL_TUNNEL_ID_SERV ? &t->prev_fc : &t->next_fc;
5148     if (GNUNET_YES == t->reliable)
5149     {
5150       struct MeshTunnelReliability *rel;
5151       struct MeshReliableMessage *copy;
5152
5153       rel = (tid < GNUNET_MESH_LOCAL_TUNNEL_ID_SERV) ? t->fwd_rel : t->bck_rel;
5154       copy = GNUNET_malloc (sizeof (struct MeshReliableMessage)
5155                             + sizeof(struct GNUNET_MESH_Data)
5156                             + size);
5157       copy->mid = rel->mid_sent++;
5158       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!! DATA %u\n", copy->mid);
5159       copy->timestamp = GNUNET_TIME_absolute_get ();
5160       copy->rel = rel;
5161       rel->n_sent++;
5162       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " n_sent %u\n", rel->n_sent);
5163       GNUNET_CONTAINER_DLL_insert_tail (rel->head_sent, rel->tail_sent, copy);
5164       if (GNUNET_SCHEDULER_NO_TASK == rel->retry_task)
5165       {
5166         rel->retry_timer =
5167             GNUNET_TIME_relative_multiply (rel->expected_delay,
5168                                            MESH_RETRANSMIT_MARGIN);
5169         rel->retry_task =
5170             GNUNET_SCHEDULER_add_delayed (rel->retry_timer,
5171                                           &tunnel_retransmit_message,
5172                                           rel);
5173       }
5174       payload = (struct GNUNET_MESH_Data *) &copy[1];
5175       payload->mid = htonl (copy->mid);
5176     }
5177     else
5178     {
5179       payload = (struct GNUNET_MESH_Data *) cbuf;
5180       payload->mid = htonl (fc->last_pid_recv + 1);
5181     }
5182     memcpy (&payload[1], &data_msg[1], size);
5183     payload->header.size = htons (sizeof (struct GNUNET_MESH_Data) + size);
5184     payload->header.type = htons (tid < GNUNET_MESH_LOCAL_TUNNEL_ID_SERV ?
5185                                   GNUNET_MESSAGE_TYPE_MESH_UNICAST :
5186                                   GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN);
5187     GNUNET_PEER_resolve(t->id.oid, &payload->oid);;
5188     payload->tid = htonl (t->id.tid);
5189     payload->ttl = htonl (default_ttl);
5190     payload->pid = htonl (fc->last_pid_recv + 1);
5191     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5192                 "  calling generic handler...\n");
5193     if (tid < GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
5194       handle_mesh_unicast (NULL, &my_full_id, &payload->header);
5195     else
5196       handle_mesh_to_orig (NULL, &my_full_id, &payload->header);
5197   }
5198   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "receive done OK\n");
5199   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5200
5201   return;
5202 }
5203
5204
5205 /**
5206  * Handler for client's ACKs for payload traffic.
5207  *
5208  * @param cls Closure (unused).
5209  * @param client Identification of the client.
5210  * @param message The actual message.
5211  */
5212 static void
5213 handle_local_ack (void *cls, struct GNUNET_SERVER_Client *client,
5214                   const struct GNUNET_MessageHeader *message)
5215 {
5216   struct GNUNET_MESH_LocalAck *msg;
5217   struct MeshTunnel *t;
5218   struct MeshClient *c;
5219   MESH_TunnelNumber tid;
5220
5221   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got a local ACK\n");
5222   /* Sanity check for client registration */
5223   if (NULL == (c = client_get (client)))
5224   {
5225     GNUNET_break (0);
5226     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5227     return;
5228   }
5229   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
5230
5231   msg = (struct GNUNET_MESH_LocalAck *) message;
5232
5233   /* Tunnel exists? */
5234   tid = ntohl (msg->tunnel_id);
5235   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %X\n", tid);
5236   t = tunnel_get_by_local_id (c, tid);
5237   if (NULL == t)
5238   {
5239     GNUNET_break (0);
5240     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "Tunnel %X unknown.\n", tid);
5241     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "  for client %u.\n", c->id);
5242     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5243     return;
5244   }
5245
5246   /* Does client own tunnel? I.E: Is this an ACK for BCK traffic? */
5247   if (tid < GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
5248   {
5249     /* The client owns the tunnel, ACK is for data to_origin, send BCK ACK. */
5250     t->prev_fc.last_ack_recv++;
5251     tunnel_send_ack (t, GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK, GNUNET_NO);
5252   }
5253   else
5254   {
5255     /* The client doesn't own the tunnel, this ACK is for FWD traffic. */
5256     t->next_fc.last_ack_recv++;
5257     tunnel_send_ack (t, GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK, GNUNET_YES);
5258   }
5259
5260   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5261
5262   return;
5263 }
5264
5265
5266
5267 /**
5268  * Iterator over all tunnels to send a monitoring client info about each tunnel.
5269  *
5270  * @param cls Closure (client handle).
5271  * @param key Key (hashed tunnel ID, unused).
5272  * @param value Tunnel info.
5273  *
5274  * @return GNUNET_YES, to keep iterating.
5275  */
5276 static int
5277 monitor_all_tunnels_iterator (void *cls,
5278                               const struct GNUNET_HashCode * key,
5279                               void *value)
5280 {
5281   struct GNUNET_SERVER_Client *client = cls;
5282   struct MeshTunnel *t = value;
5283   struct GNUNET_MESH_LocalMonitor *msg;
5284
5285   msg = GNUNET_malloc (sizeof(struct GNUNET_MESH_LocalMonitor));
5286   GNUNET_PEER_resolve(t->id.oid, &msg->owner);
5287   msg->tunnel_id = htonl (t->id.tid);
5288   msg->header.size = htons (sizeof (struct GNUNET_MESH_LocalMonitor));
5289   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNELS);
5290   GNUNET_PEER_resolve (t->dest, &msg->destination);
5291
5292   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5293               "*  sending info about tunnel %s [%u]\n",
5294               GNUNET_i2s (&msg->owner), t->id.tid);
5295
5296   GNUNET_SERVER_notification_context_unicast (nc, client,
5297                                               &msg->header, GNUNET_NO);
5298   return GNUNET_YES;
5299 }
5300
5301
5302 /**
5303  * Handler for client's MONITOR request.
5304  *
5305  * @param cls Closure (unused).
5306  * @param client Identification of the client.
5307  * @param message The actual message.
5308  */
5309 static void
5310 handle_local_get_tunnels (void *cls, struct GNUNET_SERVER_Client *client,
5311                           const struct GNUNET_MessageHeader *message)
5312 {
5313   struct MeshClient *c;
5314
5315   /* Sanity check for client registration */
5316   if (NULL == (c = client_get (client)))
5317   {
5318     GNUNET_break (0);
5319     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5320     return;
5321   }
5322
5323   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5324               "Received get tunnels request from client %u\n",
5325               c->id);
5326   GNUNET_CONTAINER_multihashmap_iterate (tunnels,
5327                                          monitor_all_tunnels_iterator,
5328                                          client);
5329   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5330               "Get tunnels request from client %u completed\n",
5331               c->id);
5332   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5333 }
5334
5335
5336 /**
5337  * Handler for client's MONITOR_TUNNEL request.
5338  *
5339  * @param cls Closure (unused).
5340  * @param client Identification of the client.
5341  * @param message The actual message.
5342  */
5343 static void
5344 handle_local_show_tunnel (void *cls, struct GNUNET_SERVER_Client *client,
5345                           const struct GNUNET_MessageHeader *message)
5346 {
5347   const struct GNUNET_MESH_LocalMonitor *msg;
5348   struct GNUNET_MESH_LocalMonitor *resp;
5349   struct MeshClient *c;
5350   struct MeshTunnel *t;
5351
5352   /* Sanity check for client registration */
5353   if (NULL == (c = client_get (client)))
5354   {
5355     GNUNET_break (0);
5356     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5357     return;
5358   }
5359
5360   msg = (struct GNUNET_MESH_LocalMonitor *) message;
5361   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5362               "Received tunnel info request from client %u for tunnel %s[%X]\n",
5363               c->id,
5364               &msg->owner,
5365               ntohl (msg->tunnel_id));
5366   t = tunnel_get (&msg->owner, ntohl (msg->tunnel_id));
5367   if (NULL == t)
5368   {
5369     /* We don't know the tunnel FIXME */
5370     struct GNUNET_MESH_LocalMonitor warn;
5371
5372     warn = *msg;
5373     GNUNET_SERVER_notification_context_unicast (nc, client,
5374                                                 &warn.header,
5375                                                 GNUNET_NO);
5376     GNUNET_SERVER_receive_done (client, GNUNET_OK);
5377     return;
5378   }
5379
5380   /* Initialize context */
5381   resp = GNUNET_malloc (sizeof (struct GNUNET_MESH_LocalMonitor));
5382   *resp = *msg;
5383   GNUNET_PEER_resolve (t->dest, &resp->destination);
5384   resp->header.size = htons (sizeof (struct GNUNET_MESH_LocalMonitor));
5385   GNUNET_SERVER_notification_context_unicast (nc, c->handle,
5386                                               &resp->header, GNUNET_NO);
5387   GNUNET_free (resp);
5388
5389   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5390               "Monitor tunnel request from client %u completed\n",
5391               c->id);
5392   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5393 }
5394
5395
5396 /**
5397  * Functions to handle messages from clients
5398  */
5399 static struct GNUNET_SERVER_MessageHandler client_handlers[] = {
5400   {&handle_local_new_client, NULL,
5401    GNUNET_MESSAGE_TYPE_MESH_LOCAL_CONNECT, 0},
5402   {&handle_local_tunnel_create, NULL,
5403    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_CREATE,
5404    sizeof (struct GNUNET_MESH_TunnelMessage)},
5405   {&handle_local_tunnel_destroy, NULL,
5406    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_DESTROY,
5407    sizeof (struct GNUNET_MESH_TunnelMessage)},
5408   {&handle_local_data, NULL,
5409    GNUNET_MESSAGE_TYPE_MESH_LOCAL_DATA, 0},
5410   {&handle_local_ack, NULL,
5411    GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK,
5412    sizeof (struct GNUNET_MESH_LocalAck)},
5413   {&handle_local_get_tunnels, NULL,
5414    GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNELS,
5415    sizeof (struct GNUNET_MessageHeader)},
5416   {&handle_local_show_tunnel, NULL,
5417    GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNEL,
5418      sizeof (struct GNUNET_MESH_LocalMonitor)},
5419   {NULL, NULL, 0, 0}
5420 };
5421
5422
5423 /**
5424  * Method called whenever a given peer connects.
5425  *
5426  * @param cls closure
5427  * @param peer peer identity this notification is about
5428  */
5429 static void
5430 core_connect (void *cls, const struct GNUNET_PeerIdentity *peer)
5431 {
5432   struct MeshPeerInfo *peer_info;
5433   struct MeshPeerPath *path;
5434
5435   DEBUG_CONN ("Peer connected\n");
5436   DEBUG_CONN ("     %s\n", GNUNET_i2s (&my_full_id));
5437   peer_info = peer_get (peer);
5438   if (myid == peer_info->id)
5439   {
5440     DEBUG_CONN ("     (self)\n");
5441     path = path_new (1);
5442   }
5443   else
5444   {
5445     DEBUG_CONN ("     %s\n", GNUNET_i2s (peer));
5446     path = path_new (2);
5447     path->peers[1] = peer_info->id;
5448     GNUNET_PEER_change_rc (peer_info->id, 1);
5449     GNUNET_STATISTICS_update (stats, "# peers", 1, GNUNET_NO);
5450   }
5451   path->peers[0] = myid;
5452   GNUNET_PEER_change_rc (myid, 1);
5453   peer_info_add_path (peer_info, path, GNUNET_YES);
5454   return;
5455 }
5456
5457
5458 /**
5459  * Method called whenever a peer disconnects.
5460  *
5461  * @param cls closure
5462  * @param peer peer identity this notification is about
5463  */
5464 static void
5465 core_disconnect (void *cls, const struct GNUNET_PeerIdentity *peer)
5466 {
5467   struct MeshPeerInfo *pi;
5468   struct MeshPeerQueue *q;
5469   struct MeshPeerQueue *n;
5470
5471   DEBUG_CONN ("Peer disconnected\n");
5472   pi = GNUNET_CONTAINER_multihashmap_get (peers, &peer->hashPubKey);
5473   if (NULL == pi)
5474   {
5475     GNUNET_break (0);
5476     return;
5477   }
5478   q = pi->queue_head;
5479   while (NULL != q)
5480   {
5481       n = q->next;
5482       /* TODO try to reroute this traffic instead */
5483       queue_destroy(q, GNUNET_YES);
5484       q = n;
5485   }
5486   if (NULL != pi->core_transmit)
5487   {
5488     GNUNET_CORE_notify_transmit_ready_cancel(pi->core_transmit);
5489     pi->core_transmit = NULL;
5490   }
5491     peer_info_remove_path (pi, pi->id, myid);
5492   if (myid == pi->id)
5493   {
5494     DEBUG_CONN ("     (self)\n");
5495   }
5496   GNUNET_STATISTICS_update (stats, "# peers", -1, GNUNET_NO);
5497   return;
5498 }
5499
5500
5501 /**
5502  * Install server (service) handlers and start listening to clients.
5503  */
5504 static void
5505 server_init (void)
5506 {
5507   GNUNET_SERVER_add_handlers (server_handle, client_handlers);
5508   GNUNET_SERVER_connect_notify (server_handle,
5509                                 &handle_local_client_connect, NULL);
5510   GNUNET_SERVER_disconnect_notify (server_handle,
5511                                    &handle_local_client_disconnect, NULL);
5512   nc = GNUNET_SERVER_notification_context_create (server_handle, 1);
5513
5514   clients_head = NULL;
5515   clients_tail = NULL;
5516   next_client_id = 0;
5517   GNUNET_SERVER_resume (server_handle);
5518 }
5519
5520
5521 /**
5522  * To be called on core init/fail.
5523  *
5524  * @param cls Closure (config)
5525  * @param server handle to the server for this service
5526  * @param identity the public identity of this peer
5527  */
5528 static void
5529 core_init (void *cls, struct GNUNET_CORE_Handle *server,
5530            const struct GNUNET_PeerIdentity *identity)
5531 {
5532   const struct GNUNET_CONFIGURATION_Handle *c = cls;
5533   static int i = 0;
5534
5535   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Core init\n");
5536   GNUNET_break (core_handle == server);
5537   if (0 != memcmp (identity, &my_full_id, sizeof (my_full_id)) ||
5538     NULL == server)
5539   {
5540     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, _("Wrong CORE service\n"));
5541     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5542                 " core id %s\n",
5543                 GNUNET_i2s (identity));
5544     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5545                 " my id %s\n",
5546                 GNUNET_i2s (&my_full_id));
5547     GNUNET_CORE_disconnect (core_handle);
5548     core_handle = GNUNET_CORE_connect (c, /* Main configuration */
5549                                        NULL,      /* Closure passed to MESH functions */
5550                                        &core_init,        /* Call core_init once connected */
5551                                        &core_connect,     /* Handle connects */
5552                                        &core_disconnect,  /* remove peers on disconnects */
5553                                        NULL,      /* Don't notify about all incoming messages */
5554                                        GNUNET_NO, /* For header only in notification */
5555                                        NULL,      /* Don't notify about all outbound messages */
5556                                        GNUNET_NO, /* For header-only out notification */
5557                                        core_handlers);    /* Register these handlers */
5558     if (10 < i++)
5559       GNUNET_abort();
5560   }
5561   server_init ();
5562   return;
5563 }
5564
5565
5566 /******************************************************************************/
5567 /************************      MAIN FUNCTIONS      ****************************/
5568 /******************************************************************************/
5569
5570 /**
5571  * Iterator over tunnel hash map entries to destroy the tunnel during shutdown.
5572  *
5573  * @param cls closure
5574  * @param key current key code
5575  * @param value value in the hash map
5576  * @return GNUNET_YES if we should continue to iterate,
5577  *         GNUNET_NO if not.
5578  */
5579 static int
5580 shutdown_tunnel (void *cls, const struct GNUNET_HashCode * key, void *value)
5581 {
5582   struct MeshTunnel *t = value;
5583
5584   tunnel_destroy (t);
5585   return GNUNET_YES;
5586 }
5587
5588 /**
5589  * Iterator over peer hash map entries to destroy the tunnel during shutdown.
5590  *
5591  * @param cls closure
5592  * @param key current key code
5593  * @param value value in the hash map
5594  * @return GNUNET_YES if we should continue to iterate,
5595  *         GNUNET_NO if not.
5596  */
5597 static int
5598 shutdown_peer (void *cls, const struct GNUNET_HashCode * key, void *value)
5599 {
5600   struct MeshPeerInfo *p = value;
5601   struct MeshPeerQueue *q;
5602   struct MeshPeerQueue *n;
5603
5604   q = p->queue_head;
5605   while (NULL != q)
5606   {
5607       n = q->next;
5608       if (q->peer == p)
5609       {
5610         queue_destroy(q, GNUNET_YES);
5611       }
5612       q = n;
5613   }
5614   peer_info_destroy (p);
5615   return GNUNET_YES;
5616 }
5617
5618
5619 /**
5620  * Task run during shutdown.
5621  *
5622  * @param cls unused
5623  * @param tc unused
5624  */
5625 static void
5626 shutdown_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
5627 {
5628   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shutting down\n");
5629
5630   if (core_handle != NULL)
5631   {
5632     GNUNET_CORE_disconnect (core_handle);
5633     core_handle = NULL;
5634   }
5635   GNUNET_CONTAINER_multihashmap_iterate (tunnels, &shutdown_tunnel, NULL);
5636   GNUNET_CONTAINER_multihashmap_iterate (peers, &shutdown_peer, NULL);
5637   if (dht_handle != NULL)
5638   {
5639     GNUNET_DHT_disconnect (dht_handle);
5640     dht_handle = NULL;
5641   }
5642   if (nc != NULL)
5643   {
5644     GNUNET_SERVER_notification_context_destroy (nc);
5645     nc = NULL;
5646   }
5647   if (GNUNET_SCHEDULER_NO_TASK != announce_id_task)
5648   {
5649     GNUNET_SCHEDULER_cancel (announce_id_task);
5650     announce_id_task = GNUNET_SCHEDULER_NO_TASK;
5651   }
5652   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shut down\n");
5653 }
5654
5655
5656 /**
5657  * Process mesh requests.
5658  *
5659  * @param cls closure
5660  * @param server the initialized server
5661  * @param c configuration to use
5662  */
5663 static void
5664 run (void *cls, struct GNUNET_SERVER_Handle *server,
5665      const struct GNUNET_CONFIGURATION_Handle *c)
5666 {
5667   char *keyfile;
5668   struct GNUNET_CRYPTO_EccPrivateKey *pk;
5669
5670   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "starting to run\n");
5671   server_handle = server;
5672   GNUNET_SERVER_suspend (server_handle);
5673
5674   if (GNUNET_OK !=
5675       GNUNET_CONFIGURATION_get_value_filename (c, "PEER", "PRIVATE_KEY",
5676                                                &keyfile))
5677   {
5678     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5679                 _
5680                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
5681                 "mesh", "peer/privatekey");
5682     GNUNET_SCHEDULER_shutdown ();
5683     return;
5684   }
5685
5686   if (GNUNET_OK !=
5687       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "REFRESH_PATH_TIME",
5688                                            &refresh_path_time))
5689   {
5690     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5691                 _
5692                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
5693                 "mesh", "refresh path time");
5694     GNUNET_SCHEDULER_shutdown ();
5695     return;
5696   }
5697
5698   if (GNUNET_OK !=
5699       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "ID_ANNOUNCE_TIME",
5700                                            &id_announce_time))
5701   {
5702     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5703                 _
5704                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
5705                 "mesh", "id announce time");
5706     GNUNET_SCHEDULER_shutdown ();
5707     return;
5708   }
5709
5710   if (GNUNET_OK !=
5711       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "CONNECT_TIMEOUT",
5712                                            &connect_timeout))
5713   {
5714     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5715                 _
5716                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
5717                 "mesh", "connect timeout");
5718     GNUNET_SCHEDULER_shutdown ();
5719     return;
5720   }
5721
5722   if (GNUNET_OK !=
5723       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_MSGS_QUEUE",
5724                                              &max_msgs_queue))
5725   {
5726     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5727                 _
5728                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
5729                 "mesh", "max msgs queue");
5730     GNUNET_SCHEDULER_shutdown ();
5731     return;
5732   }
5733
5734   if (GNUNET_OK !=
5735       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_TUNNELS",
5736                                              &max_tunnels))
5737   {
5738     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5739                 _
5740                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
5741                 "mesh", "max tunnels");
5742     GNUNET_SCHEDULER_shutdown ();
5743     return;
5744   }
5745
5746   if (GNUNET_OK !=
5747       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "DEFAULT_TTL",
5748                                              &default_ttl))
5749   {
5750     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
5751                 _
5752                 ("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
5753                 "mesh", "default ttl", 64);
5754     default_ttl = 64;
5755   }
5756
5757   if (GNUNET_OK !=
5758       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_PEERS",
5759                                              &max_peers))
5760   {
5761     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
5762                 _("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
5763                 "mesh", "max peers", 1000);
5764     max_peers = 1000;
5765   }
5766
5767   if (GNUNET_OK !=
5768       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "DROP_PERCENT",
5769                                              &drop_percent))
5770   {
5771     drop_percent = 0;
5772   }
5773   else
5774   {
5775     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
5776                 "Mesh is running with drop mode enabled. "
5777                 "This is NOT a good idea! "
5778                 "Remove the DROP_PERCENT option from your configuration.\n");
5779   }
5780
5781   if (GNUNET_OK !=
5782       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "DHT_REPLICATION_LEVEL",
5783                                              &dht_replication_level))
5784   {
5785     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
5786                 _
5787                 ("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
5788                 "mesh", "dht replication level", 3);
5789     dht_replication_level = 3;
5790   }
5791
5792   tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
5793   incoming_tunnels = GNUNET_CONTAINER_multihashmap32_create (32);
5794   peers = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
5795   ports = GNUNET_CONTAINER_multihashmap32_create (32);
5796
5797   dht_handle = GNUNET_DHT_connect (c, 64);
5798   if (NULL == dht_handle)
5799   {
5800     GNUNET_break (0);
5801   }
5802   stats = GNUNET_STATISTICS_create ("mesh", c);
5803
5804   /* Scheduled the task to clean up when shutdown is called */
5805   GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_UNIT_FOREVER_REL, &shutdown_task,
5806                                 NULL);
5807   pk = GNUNET_CRYPTO_ecc_key_create_from_file (keyfile);
5808   GNUNET_free (keyfile);
5809   GNUNET_assert (NULL != pk);
5810   my_private_key = pk;
5811   GNUNET_CRYPTO_ecc_key_get_public (my_private_key, &my_public_key);
5812   GNUNET_CRYPTO_hash (&my_public_key, sizeof (my_public_key),
5813                       &my_full_id.hashPubKey);
5814   myid = GNUNET_PEER_intern (&my_full_id);
5815   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5816               "Mesh for peer [%s] starting\n",
5817               GNUNET_i2s(&my_full_id));
5818
5819   core_handle = GNUNET_CORE_connect (c, /* Main configuration */
5820                                      NULL,      /* Closure passed to MESH functions */
5821                                      &core_init,        /* Call core_init once connected */
5822                                      &core_connect,     /* Handle connects */
5823                                      &core_disconnect,  /* remove peers on disconnects */
5824                                      NULL,      /* Don't notify about all incoming messages */
5825                                      GNUNET_NO, /* For header only in notification */
5826                                      NULL,      /* Don't notify about all outbound messages */
5827                                      GNUNET_NO, /* For header-only out notification */
5828                                      core_handlers);    /* Register these handlers */
5829   if (NULL == core_handle)
5830   {
5831     GNUNET_break (0);
5832     GNUNET_SCHEDULER_shutdown ();
5833     return;
5834   }
5835   next_tid = 0;
5836   next_local_tid = GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
5837   announce_id_task = GNUNET_SCHEDULER_add_now (&announce_id, cls);
5838   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Mesh service running\n");
5839 }
5840
5841
5842 /**
5843  * The main function for the mesh service.
5844  *
5845  * @param argc number of arguments from the command line
5846  * @param argv command line arguments
5847  * @return 0 ok, 1 on error
5848  */
5849 int
5850 main (int argc, char *const *argv)
5851 {
5852   int ret;
5853   int r;
5854
5855   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "main()\n");
5856   r = GNUNET_SERVICE_run (argc, argv, "mesh", GNUNET_SERVICE_OPTION_NONE, &run,
5857                           NULL);
5858   ret = (GNUNET_OK == r) ? 0 : 1;
5859   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "main() END\n");
5860
5861   INTERVAL_SHOW;
5862
5863   return ret;
5864 }