- connection ack
[oweals/gnunet.git] / src / mesh / gnunet-service-mesh-enc.c
1 /*
2      This file is part of GNUnet.
3      (C) 2001-2013 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file mesh/gnunet-service-mesh-enc.c
23  * @brief GNUnet MESH service with encryption
24  * @author Bartlomiej Polot
25  *
26  *  FIXME in progress:
27  * - when sending in-order buffered data, wait for client ACKs
28  * - add signatures
29  * - add encryption
30  *
31  * TODO:
32  * - relay corking down to core
33  * - set ttl relative to path length
34  * TODO END
35  * 
36  * Dictionary:
37  * - peer: other mesh instance. If there is direct connection it's a neighbor.
38  * - tunnel: encrypted connection to a peer, neighbor or not.
39  * - channel: connection between two clients, on the same or different peers.
40  *            have properties like reliability.
41  * - path: series of directly connected peer from one peer to another.
42  * - connection: path which is being used in a tunnel.
43  */
44
45 #include "platform.h"
46 #include "gnunet_crypto_lib.h"
47 #include "mesh_enc.h"
48 #include "mesh_protocol_enc.h"
49 #include "mesh_path.h"
50 #include "block_mesh.h"
51 #include "gnunet_dht_service.h"
52 #include "gnunet_statistics_service.h"
53
54 #define MESH_BLOOM_SIZE         128
55
56 #define MESH_DEBUG_DHT          GNUNET_NO
57 #define MESH_DEBUG_CONNECTION   GNUNET_NO
58 #define MESH_DEBUG_TIMING       __LINUX__ && GNUNET_NO
59
60 #define MESH_MAX_POLL_TIME      GNUNET_TIME_relative_multiply (\
61                                   GNUNET_TIME_UNIT_MINUTES,\
62                                   10)
63 #define MESH_RETRANSMIT_TIME    GNUNET_TIME_UNIT_SECONDS
64 #define MESH_RETRANSMIT_MARGIN  4
65
66 #if MESH_DEBUG_CONNECTION
67 #define DEBUG_CONN(...) GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, __VA_ARGS__)
68 #else
69 #define DEBUG_CONN(...)
70 #endif
71
72 #if MESH_DEBUG_DHT
73 #define DEBUG_DHT(...) GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, __VA_ARGS__)
74 #else
75 #define DEBUG_DHT(...)
76 #endif
77
78 #if MESH_DEBUG_TIMING
79 #include <time.h>
80 double __sum;
81 uint64_t __count;
82 struct timespec __mesh_start;
83 struct timespec __mesh_end;
84 #define INTERVAL_START clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &(__mesh_start))
85 #define INTERVAL_END \
86 do {\
87   clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &(__mesh_end));\
88   double __diff = __mesh_end.tv_nsec - __mesh_start.tv_nsec;\
89   if (__diff < 0) __diff += 1000000000;\
90   __sum += __diff;\
91   __count++;\
92 } while (0)
93 #define INTERVAL_SHOW \
94 if (0 < __count)\
95   GNUNET_log (GNUNET_ERROR_TYPE_INFO, "AVG process time: %f ns\n", __sum/__count)
96 #else
97 #define INTERVAL_START
98 #define INTERVAL_END
99 #define INTERVAL_SHOW
100 #endif
101
102 /**
103  * All the states a tunnel can be in.
104  */
105 enum MeshTunnelState
106 {
107     /**
108      * Uninitialized status, should never appear in operation.
109      */
110   MESH_TUNNEL_NEW,
111
112     /**
113      * Path to the peer not known yet
114      */
115   MESH_TUNNEL_SEARCHING,
116
117     /**
118      * Request sent, not yet answered.
119      */
120   MESH_TUNNEL_WAITING,
121
122     /**
123      * Peer connected and ready to accept data
124      */
125   MESH_TUNNEL_READY,
126
127     /**
128      * Peer connected previosly but not responding
129      */
130   MESH_TUNNEL_RECONNECTING
131 };
132
133
134 /**
135  * All the states a connection can be in.
136  */
137 enum MeshConnectionState
138 {
139   /**
140    * Uninitialized status, should never appear in operation.
141    */
142   MESH_CONNECTION_NEW,
143
144   /**
145    * Connection created, waiting for ACK.
146    */
147   MESH_CONNECTION_SENT,
148
149   /**
150    * Connection confirmed, ready to carry traffic..
151    */
152   MESH_CONNECTION_READY,
153 };
154
155
156 /******************************************************************************/
157 /************************      DATA STRUCTURES     ****************************/
158 /******************************************************************************/
159
160 /** FWD declaration */
161 struct MeshClient;
162 struct MeshPeer;
163 struct MeshTunnel2;
164 struct MeshConnection;
165 struct MeshChannel;
166 struct MeshChannelReliability;
167
168
169 /**
170  * Struct containing info about a queued transmission to this peer
171  */
172 struct MeshPeerQueue
173 {
174     /**
175       * DLL next
176       */
177   struct MeshPeerQueue *next;
178
179     /**
180       * DLL previous
181       */
182   struct MeshPeerQueue *prev;
183
184     /**
185      * Peer this transmission is directed to.
186      */
187   struct MeshPeer *peer;
188
189     /**
190      * Connection this message belongs to.
191      */
192   struct MeshConnection *c;
193
194     /**
195      * Channel this message belongs to, if known.
196      */
197   struct MeshChannel *ch;
198
199     /**
200      * Pointer to info stucture used as cls.
201      */
202   void *cls;
203
204     /**
205      * Type of message
206      */
207   uint16_t type;
208
209     /**
210      * Size of the message
211      */
212   size_t size;
213 };
214
215
216 /**
217  * Struct to encapsulate all the Flow Control information to a peer to which
218  * we are directly connected (on a core level).
219  */
220 struct MeshFlowControl
221 {
222   /**
223    * Peer
224    */
225   struct MeshPeer *peer;
226
227   /**
228    * Transmission queue to core DLL head
229    */
230   struct MeshPeerQueue *queue_head;
231
232   /**
233    * Transmission queue to core DLL tail
234    */
235   struct MeshPeerQueue *queue_tail;
236
237   /**
238    * How many messages are in the queue to this peer.
239    */
240   unsigned int queue_n;
241
242   /**
243    * How many messages do we accept in the queue.
244    */
245   unsigned int queue_max;
246
247   /**
248    * Handle for queued transmissions
249    */
250   struct GNUNET_CORE_TransmitHandle *core_transmit;
251
252   /**
253    * ID of the last packet sent towards the peer.
254    */
255   uint32_t last_pid_sent;
256
257   /**
258    * ID of the last packet received from the peer.
259    */
260   uint32_t last_pid_recv;
261
262   /**
263    * Last ACK sent to the peer (peer can't send more than this PID).
264    */
265   uint32_t last_ack_sent;
266
267   /**
268    * Last ACK sent towards the origin (for traffic towards leaf node).
269    */
270   uint32_t last_ack_recv;
271
272   /**
273    * Task to poll the peer in case of a lost ACK causes stall.
274    */
275   GNUNET_SCHEDULER_TaskIdentifier poll_task;
276
277   /**
278    * How frequently to poll for ACKs.
279    */
280   struct GNUNET_TIME_Relative poll_time;
281 };
282
283
284 /**
285  * Struct containing all information regarding a given peer
286  */
287 struct MeshPeer
288 {
289     /**
290      * ID of the peer
291      */
292   GNUNET_PEER_Id id;
293
294     /**
295      * Last time we heard from this peer
296      */
297   struct GNUNET_TIME_Absolute last_contact;
298
299     /**
300      * Number of attempts to reconnect so far
301      */
302   int n_reconnect_attempts;
303
304     /**
305      * Paths to reach the peer, ordered by ascending hop count
306      */
307   struct MeshPeerPath *path_head;
308
309     /**
310      * Paths to reach the peer, ordered by ascending hop count
311      */
312   struct MeshPeerPath *path_tail;
313
314     /**
315      * Handle to stop the DHT search for paths to this peer
316      */
317   struct GNUNET_DHT_GetHandle *dhtget;
318
319     /**
320      * Tunnel to this peer, if any.
321      */
322   struct MeshTunnel2 *tunnel;
323
324     /**
325      * Flow control information for direct traffic.
326      */
327   struct MeshFlowControl *fc;
328
329 };
330
331
332 /**
333  * Info needed to retry a message in case it gets lost.
334  */
335 struct MeshReliableMessage
336 {
337     /**
338      * Double linked list, FIFO style
339      */
340   struct MeshReliableMessage    *next;
341   struct MeshReliableMessage    *prev;
342
343     /**
344      * Tunnel Reliability queue this message is in.
345      */
346   struct MeshChannelReliability  *rel;
347
348     /**
349      * ID of the message (ACK needed to free)
350      */
351   uint32_t                      mid;
352
353     /**
354      * When was this message issued (to calculate ACK delay)
355      */
356   struct GNUNET_TIME_Absolute   timestamp;
357
358   /* struct GNUNET_MESH_Data with payload */
359 };
360
361
362 struct MeshChannelReliability
363 {
364     /**
365      * Channel this is about.
366      */
367   struct MeshChannel *ch;
368
369     /**
370      * DLL of messages sent and not yet ACK'd.
371      */
372   struct MeshReliableMessage        *head_sent;
373   struct MeshReliableMessage        *tail_sent;
374
375     /**
376      * Messages pending
377      */
378   unsigned int                      n_sent;
379
380     /**
381      * Next MID to use.
382      */
383   uint32_t                          mid_sent;
384
385     /**
386      * DLL of messages received out of order.
387      */
388   struct MeshReliableMessage        *head_recv;
389   struct MeshReliableMessage        *tail_recv;
390
391     /**
392      * Next MID expected.
393      */
394   uint32_t                          mid_recv;
395
396     /**
397      * Task to resend/poll in case no ACK is received.
398      */
399   GNUNET_SCHEDULER_TaskIdentifier   retry_task;
400
401     /**
402      * Counter for exponential backoff.
403      */
404   struct GNUNET_TIME_Relative       retry_timer;
405
406     /**
407      * How long does it usually take to get an ACK.
408      */
409   struct GNUNET_TIME_Relative       expected_delay;
410 };
411
412
413 /**
414  * Struct containing all information regarding a channel to a remote client.
415  */
416 struct MeshChannel
417 {
418     /**
419      * Tunnel this channel is in.
420      */
421   struct MeshTunnel2 *t;
422
423     /**
424      * Double linked list.
425      */
426   struct MeshChannel    *next;
427   struct MeshChannel    *prev;
428
429     /**
430      * Destination port of the channel.
431      */
432   uint32_t port;
433
434     /**
435      * Local tunnel number ( >= GNUNET_MESH_LOCAL_CHANNEL_ID_CLI or 0 )
436      */
437   MESH_ChannelNumber id;
438
439     /**
440      * Local tunnel number for local destination clients (incoming number)
441      * ( >= GNUNET_MESH_LOCAL_CHANNEL_ID_SERV or 0). All clients share the same
442      * number.
443      */
444   MESH_ChannelNumber id_dest;
445
446     /**
447      * Is the tunnel bufferless (minimum latency)?
448      */
449   int nobuffer;
450
451     /**
452      * Is the tunnel reliable?
453      */
454   int reliable;
455
456     /**
457      * Last time the channel was used
458      */
459   struct GNUNET_TIME_Absolute timestamp;
460
461     /**
462      * Client owner of the tunnel, if any
463      */
464   struct MeshClient *owner;
465
466     /**
467      * Client destination of the tunnel, if any.
468      */
469   struct MeshClient *client;
470
471     /**
472      * Flag to signal the destruction of the channel.
473      * If this is set GNUNET_YES the channel will be destroyed
474      * when the queue is empty.
475      */
476   int destroy;
477
478     /**
479      * Total messages pending for this channel, payload or not.
480      */
481   unsigned int pending_messages;
482
483     /**
484      * Reliability data.
485      * Only present (non-NULL) at the owner of a tunnel.
486      */
487   struct MeshChannelReliability *fwd_rel;
488
489     /**
490      * Reliability data.
491      * Only present (non-NULL) at the destination of a tunnel.
492      */
493   struct MeshChannelReliability *bck_rel;
494 };
495
496
497 struct MeshConnection
498 {
499   /**
500    * DLL
501    */
502   struct MeshConnection *next;
503   struct MeshConnection *prev;
504
505   /**
506    * Tunnel this connection is part of.
507    */
508   struct MeshTunnel2 *t;
509
510   /**
511    * Connection number.
512    */
513   uint32_t id;
514
515   /**
516    * State of the connection.
517    */
518   enum MeshConnectionState state;
519
520   /**
521    * Path being used for the tunnel.
522    */
523   struct MeshPeerPath *path;
524
525   /**
526    * Position of the local peer in the path.
527    */
528   unsigned int own_pos;
529
530   /**
531    * Task to keep the used paths alive at the owner,
532    * time tunnel out on all the other peers.
533    */
534   GNUNET_SCHEDULER_TaskIdentifier fwd_maintenance_task;
535
536   /**
537    * Task to keep the used paths alive at the destination,
538    * time tunnel out on all the other peers.
539    */
540   GNUNET_SCHEDULER_TaskIdentifier bck_maintenance_task;
541
542   /**
543    * Pending message count.
544    */
545   int pending_messages;
546
547   /**
548    * Destroy flag: if true, destroy on last message.
549    */
550   int destroy;
551 };
552
553
554 /**
555  * Struct containing all information regarding a tunnel to a peer.
556  */
557 struct MeshTunnel2
558 {
559     /**
560      * Endpoint of the tunnel.
561      */
562   struct MeshPeer *peer;
563
564     /**
565      * ID of the tunnel.
566      */
567   struct GNUNET_HashCode id;
568
569     /**
570      * State of the tunnel.
571      */
572   enum MeshTunnelState state;
573
574   /**
575    * Local peer ephemeral private key
576    */
577   struct GNUNET_CRYPTO_EccPrivateKey *my_eph_key;
578
579   /**
580    * Local peer ephemeral public key
581    */
582   struct GNUNET_CRYPTO_EccPublicKeyBinaryEncoded *my_eph;
583
584   /**
585    * Remote peer's public key.
586    */
587   struct GNUNET_CRYPTO_EccPublicKeyBinaryEncoded *peers_eph;
588
589   /**
590    * Encryption ("our") key.
591    */
592   struct GNUNET_CRYPTO_AesSessionKey e_key;
593
594   /**
595    * Decryption ("their") key.
596    */
597   struct GNUNET_CRYPTO_AesSessionKey d_key;
598
599   /**
600    * Paths that are actively used to reach the destination peer.
601    */
602   struct MeshConnection *connection_head;
603   struct MeshConnection *connection_tail;
604
605   /**
606    * Next connection number.
607    */
608   uint32_t next_cid;
609
610   /**
611    * Channels inside this tunnel.
612    */
613   struct MeshChannel *channel_head;
614   struct MeshChannel *channel_tail;
615
616   /**
617    * Channel ID for the next created tunnel.
618    */
619   MESH_ChannelNumber next_chid;
620
621   /**
622    * Channel ID for the next incoming tunnel.
623    */
624   MESH_ChannelNumber next_local_chid;
625
626   /**
627    * Pending message count.
628    */
629   int pending_messages;
630
631   /**
632    * Destroy flag: if true, destroy on last message.
633    */
634   int destroy;
635 };
636
637
638
639 /**
640  * Struct containing information about a client of the service
641  * 
642  * TODO: add a list of 'waiting' ports
643  */
644 struct MeshClient
645 {
646     /**
647      * Linked list next
648      */
649   struct MeshClient *next;
650
651     /**
652      * Linked list prev
653      */
654   struct MeshClient *prev;
655
656     /**
657      * Tunnels that belong to this client, indexed by local id
658      */
659   struct GNUNET_CONTAINER_MultiHashMap32 *own_channels;
660
661    /**
662      * Tunnels this client has accepted, indexed by incoming local id
663      */
664   struct GNUNET_CONTAINER_MultiHashMap32 *incoming_channels;
665
666     /**
667      * Handle to communicate with the client
668      */
669   struct GNUNET_SERVER_Client *handle;
670
671     /**
672      * Ports that this client has declared interest in.
673      * Indexed by port, contains *Client.
674      */
675   struct GNUNET_CONTAINER_MultiHashMap32 *ports;
676
677     /**
678      * Whether the client is active or shutting down (don't send confirmations
679      * to a client that is shutting down.
680      */
681   int shutting_down;
682
683     /**
684      * ID of the client, mainly for debug messages
685      */
686   unsigned int id;
687 };
688
689
690 /******************************************************************************/
691 /************************      DEBUG FUNCTIONS     ****************************/
692 /******************************************************************************/
693
694 #if MESH_DEBUG
695 /**
696  * GNUNET_SCHEDULER_Task for printing a message after some operation is done
697  * @param cls string to print
698  * @param success  GNUNET_OK if the PUT was transmitted,
699  *                GNUNET_NO on timeout,
700  *                GNUNET_SYSERR on disconnect from service
701  *                after the PUT message was transmitted
702  *                (so we don't know if it was received or not)
703  */
704
705 #if 0
706 static void
707 mesh_debug (void *cls, int success)
708 {
709   char *s = cls;
710
711   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "%s (%d)\n", s, success);
712 }
713 #endif
714
715 #endif
716
717 /******************************************************************************/
718 /***********************      GLOBAL VARIABLES     ****************************/
719 /******************************************************************************/
720
721 /************************** Configuration parameters **************************/
722
723 /**
724  * How often to send path keepalives. Paths timeout after 4 missed.
725  */
726 static struct GNUNET_TIME_Relative refresh_connection_time;
727
728 /**
729  * How often to PUT own ID in the DHT.
730  */
731 static struct GNUNET_TIME_Relative id_announce_time;
732
733 /**
734  * Maximum time allowed to connect to a peer found by string.
735  */
736 static struct GNUNET_TIME_Relative connect_timeout;
737
738 /**
739  * Default TTL for payload packets.
740  */
741 static unsigned long long default_ttl;
742
743 /**
744  * DHT replication level, see DHT API: GNUNET_DHT_get_start, GNUNET_DHT_put.
745  */
746 static unsigned long long dht_replication_level;
747
748 /**
749  * How many tunnels are we willing to maintain.
750  * Local tunnels are always allowed, even if there are more tunnels than max.
751  */
752 static unsigned long long max_tunnels;
753
754 /**
755  * How many messages *in total* are we willing to queue, divided by number of 
756  * tunnels to get tunnel queue size.
757  */
758 static unsigned long long max_msgs_queue;
759
760 /**
761  * How many peers do we want to remember?
762  */
763 static unsigned long long max_peers;
764
765 /**
766  * Percentage of messages that will be dropped (for test purposes only).
767  */
768 static unsigned long long drop_percent;
769
770 /*************************** Static global variables **************************/
771
772 /**
773  * DLL with all the clients, head.
774  */
775 static struct MeshClient *clients_head;
776
777 /**
778  * DLL with all the clients, tail.
779  */
780 static struct MeshClient *clients_tail;
781
782 /**
783  * Tunnels known, indexed by MESH_TunnelID (MeshTunnel).
784  */
785 static struct GNUNET_CONTAINER_MultiHashMap *tunnels;
786
787 /**
788  * Peers known, indexed by PeerIdentity (MeshPeer).
789  */
790 static struct GNUNET_CONTAINER_MultiHashMap *peers;
791
792 /**
793  * Handle to communicate with core.
794  */
795 static struct GNUNET_CORE_Handle *core_handle;
796
797 /**
798  * Handle to use DHT.
799  */
800 static struct GNUNET_DHT_Handle *dht_handle;
801
802 /**
803  * Handle to server lib.
804  */
805 static struct GNUNET_SERVER_Handle *server_handle;
806
807 /**
808  * Handle to the statistics service.
809  */
810 static struct GNUNET_STATISTICS_Handle *stats;
811
812 /**
813  * Notification context, to send messages to local clients.
814  */
815 static struct GNUNET_SERVER_NotificationContext *nc;
816
817 /**
818  * Local peer own ID (memory efficient handle).
819  */
820 static GNUNET_PEER_Id myid;
821
822 /**
823  * Local peer own ID (full value).
824  */
825 static struct GNUNET_PeerIdentity my_full_id;
826
827 /**
828  * Own private key.
829  */
830 static struct GNUNET_CRYPTO_EccPrivateKey *my_private_key;
831
832 /**
833  * Own public key.
834  */
835 static struct GNUNET_CRYPTO_EccPublicKeyBinaryEncoded my_public_key;
836
837 /**
838  * All ports clients of this peer have opened.
839  */
840 static struct GNUNET_CONTAINER_MultiHashMap32 *ports;
841
842 /**
843  * Task to periodically announce itself in the network.
844  */
845 GNUNET_SCHEDULER_TaskIdentifier announce_id_task;
846
847 /**
848  * Next ID to assign to a client.
849  */
850 unsigned int next_client_id;
851
852
853 /******************************************************************************/
854 /***********************         DECLARATIONS        **************************/
855 /******************************************************************************/
856
857 /**
858  * Function to process paths received for a new peer addition. The recorded
859  * paths form the initial tunnel, which can be optimized later.
860  * Called on each result obtained for the DHT search.
861  *
862  * @param cls closure
863  * @param exp when will this value expire
864  * @param key key of the result
865  * @param type type of the result
866  * @param size number of bytes in data
867  * @param data pointer to the result data
868  */
869 static void
870 dht_get_id_handler (void *cls, struct GNUNET_TIME_Absolute exp,
871                     const struct GNUNET_HashCode * key,
872                     const struct GNUNET_PeerIdentity *get_path,
873                     unsigned int get_path_length,
874                     const struct GNUNET_PeerIdentity *put_path,
875                     unsigned int put_path_length, enum GNUNET_BLOCK_Type type,
876                     size_t size, const void *data);
877
878
879 /**
880  * Retrieve the MeshPeer stucture associated with the peer, create one
881  * and insert it in the appropriate structures if the peer is not known yet.
882  *
883  * @param peer Full identity of the peer.
884  *
885  * @return Existing or newly created peer info.
886  */
887 static struct MeshPeer *
888 peer_get (const struct GNUNET_PeerIdentity *peer);
889
890
891 /**
892  * Retrieve the MeshPeer stucture associated with the peer, create one
893  * and insert it in the appropriate structures if the peer is not known yet.
894  *
895  * @param peer Short identity of the peer.
896  *
897  * @return Existing or newly created peer info.
898  */
899 static struct MeshPeer *
900 peer_get_short (const GNUNET_PEER_Id peer);
901
902
903 /**
904  * Build a PeerPath from the paths returned from the DHT, reversing the paths
905  * to obtain a local peer -> destination path and interning the peer ids.
906  *
907  * @return Newly allocated and created path
908  */
909 static struct MeshPeerPath *
910 path_build_from_dht (const struct GNUNET_PeerIdentity *get_path,
911                      unsigned int get_path_length,
912                      const struct GNUNET_PeerIdentity *put_path,
913                      unsigned int put_path_length);
914
915
916 /**
917  * Adds a path to the data structs of all the peers in the path
918  *
919  * @param p Path to process.
920  * @param confirmed Whether we know if the path works or not.
921  */
922 static void
923 path_add_to_peers (struct MeshPeerPath *p, int confirmed);
924
925
926 /**
927  * Search for a channel by global ID using full PeerIdentities.
928  *
929  * @param oid owner of the tunnel.
930  * @param tid global tunnel number.
931  *
932  * @return tunnel handler, NULL if doesn't exist.
933  */
934 static struct MeshChannel *
935 channel_get (const struct GNUNET_PeerIdentity *oid, MESH_ChannelNumber tid);
936
937
938 /**
939  * Change the tunnel state.
940  *
941  * @param t Tunnel whose state to change.
942  * @param state New state.
943  */
944 static void
945 tunnel_change_state (struct MeshTunnel2 *t, enum MeshTunnelState state);
946
947
948 /**
949  * Notify a tunnel that a connection has broken that affects at least
950  * some of its peers.
951  *
952  * @param t Tunnel affected.
953  * @param p1 Peer that got disconnected from p2.
954  * @param p2 Peer that got disconnected from p1.
955  *
956  * @return Short ID of the peer disconnected (either p1 or p2).
957  *         0 if the tunnel remained unaffected.
958  */
959 static GNUNET_PEER_Id
960 tunnel_notify_connection_broken (struct MeshTunnel2 *t,
961                                  GNUNET_PEER_Id p1, GNUNET_PEER_Id p2);
962
963 /**
964  * @brief Use the given path for the tunnel.
965  * Update the next and prev hops (and RCs).
966  * (Re)start the path refresh in case the tunnel is locally owned.
967  * 
968  * @param t Tunnel to update.
969  * @param p Path to use.
970  *
971  * @return Connection created.
972  */
973 static struct MeshConnection *
974 tunnel_use_path (struct MeshTunnel2 *t, struct MeshPeerPath *p);
975
976 /**
977  * Tunnel is empty: destroy it.
978  * 
979  * Notifies all participants (peers, cleints) about the destruction.
980  * 
981  * @param t Tunnel to destroy. 
982  */
983 static void
984 tunnel_destroy_empty (struct MeshTunnel2 *t);
985
986 /**
987  * Destroy the tunnel.
988  *
989  * This function does not generate any warning traffic to clients or peers.
990  *
991  * Tasks:
992  * Cancel messages belonging to this tunnel queued to neighbors.
993  * Free any allocated resources linked to the tunnel.
994  *
995  * @param t The tunnel to destroy.
996  */
997 static void
998 tunnel_destroy (struct MeshTunnel2 *t);
999
1000 /**
1001  * Send FWD keepalive packets for a connection.
1002  *
1003  * @param cls Closure (connection for which to send the keepalive).
1004  * @param tc Notification context.
1005  */
1006 static void
1007 connection_fwd_keepalive (void *cls,
1008                           const struct GNUNET_SCHEDULER_TaskContext *tc);
1009
1010 /**
1011  * Send BCK keepalive packets for a connection.
1012  *
1013  * @param cls Closure (connection for which to send the keepalive).
1014  * @param tc Notification context.
1015  */
1016 static void
1017 connection_bck_keepalive (void *cls,
1018                           const struct GNUNET_SCHEDULER_TaskContext *tc);
1019
1020
1021 /**
1022  * Change the tunnel state.
1023  *
1024  * @param c Connection whose state to change.
1025  * @param state New state.
1026  */
1027 static void
1028 connection_change_state (struct MeshConnection* c,
1029                          enum MeshConnectionState state);
1030
1031
1032
1033 /**
1034  * @brief Queue and pass message to core when possible.
1035  *
1036  * @param cls Closure (@c type dependant). It will be used by queue_send to
1037  *            build the message to be sent if not already prebuilt.
1038  * @param type Type of the message, 0 for a raw message.
1039  * @param size Size of the message.
1040  * @param dst Neighbor to send message to.
1041  * @param c Connection this message belongs to, if any.
1042  * @param ch Channel this message belongs to, if applicable (otherwise NULL).
1043  */
1044 static void
1045 queue_add (void *cls, uint16_t type, size_t size,
1046            struct MeshPeer *dst,
1047            struct MeshConnection *c,
1048            struct MeshChannel *ch);
1049
1050
1051 /**
1052  * Free a transmission that was already queued with all resources
1053  * associated to the request.
1054  *
1055  * @param queue Queue handler to cancel.
1056  * @param clear_cls Is it necessary to free associated cls?
1057  */
1058 static void
1059 queue_destroy (struct MeshPeerQueue *queue, int clear_cls);
1060
1061
1062 /**
1063  * @brief Get the next transmittable message from the queue.
1064  *
1065  * This will be the head, except in the case of being a data packet
1066  * not allowed by the destination peer.
1067  *
1068  * @param peer Destination peer.
1069  *
1070  * @return The next viable MeshPeerQueue element to send to that peer.
1071  *         NULL when there are no transmittable messages.
1072  */
1073 struct MeshPeerQueue *
1074 queue_get_next (const struct MeshPeer *peer);
1075
1076
1077 /**
1078  * Core callback to write a queued packet to core buffer
1079  *
1080  * @param cls Closure (peer info).
1081  * @param size Number of bytes available in buf.
1082  * @param buf Where the to write the message.
1083  *
1084  * @return number of bytes written to buf
1085  */
1086 static size_t
1087 queue_send (void *cls, size_t size, void *buf);
1088
1089
1090 /**
1091  * Dummy function to separate declarations from definitions in function list.
1092  */
1093 void
1094 __mesh_divider______________________________________________________________();
1095
1096
1097 /**
1098  * Get string description for tunnel state.
1099  *
1100  * @param s Tunnel state.
1101  *
1102  * @return String representation. 
1103  */
1104 static const char *
1105 GNUNET_MESH_DEBUG_TS2S (enum MeshTunnelState s)
1106 {
1107   static char buf[128];
1108
1109   switch (s)
1110   {
1111     case MESH_TUNNEL_NEW:
1112       return "MESH_TUNNEL_NEW";
1113     case MESH_TUNNEL_SEARCHING:
1114       return "MESH_TUNNEL_SEARCHING";
1115     case MESH_TUNNEL_WAITING:
1116       return "MESH_TUNNEL_WAITING";
1117     case MESH_TUNNEL_READY:
1118       return "MESH_TUNNEL_READY";
1119     case MESH_TUNNEL_RECONNECTING:
1120       return "MESH_TUNNEL_RECONNECTING";
1121
1122     default:
1123       sprintf (buf, "%u (UNKNOWN STATE)", s);
1124       return buf;
1125   }
1126 }
1127
1128
1129 /**
1130  * Get string description for tunnel state.
1131  *
1132  * @param s Tunnel state.
1133  *
1134  * @return String representation. 
1135  */
1136 static const char *
1137 GNUNET_MESH_DEBUG_CS2S (enum MeshTunnelState s)
1138 {
1139   switch (s) 
1140   {
1141     case MESH_CONNECTION_NEW:
1142       return "MESH_CONNECTION_NEW";
1143     case MESH_CONNECTION_SENT:
1144       return "MESH_CONNECTION_SENT";
1145     case MESH_CONNECTION_READY:
1146       return "MESH_CONNECTION_READY";
1147     default:
1148       return "MESH_CONNECTION_STATE_ERROR";
1149   }
1150 }
1151
1152
1153
1154 /******************************************************************************/
1155 /************************    PERIODIC FUNCTIONS    ****************************/
1156 /******************************************************************************/
1157
1158 /**
1159  * Periodically announce self id in the DHT
1160  *
1161  * @param cls closure
1162  * @param tc task context
1163  */
1164 static void
1165 announce_id (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1166 {
1167   struct PBlock block;
1168
1169   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1170   {
1171     announce_id_task = GNUNET_SCHEDULER_NO_TASK;
1172     return;
1173   }
1174   /* TODO
1175    * - Set data expiration in function of X
1176    * - Adapt X to churn
1177    */
1178   DEBUG_DHT ("DHT_put for ID %s started.\n", GNUNET_i2s (&my_full_id));
1179
1180   block.id = my_full_id;
1181   GNUNET_DHT_put (dht_handle,   /* DHT handle */
1182                   &my_full_id.hashPubKey,       /* Key to use */
1183                   dht_replication_level,     /* Replication level */
1184                   GNUNET_DHT_RO_RECORD_ROUTE | GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,    /* DHT options */
1185                   GNUNET_BLOCK_TYPE_MESH_PEER,       /* Block type */
1186                   sizeof (block),  /* Size of the data */
1187                   (const char *) &block, /* Data itself */
1188                   GNUNET_TIME_UNIT_FOREVER_ABS,  /* Data expiration */
1189                   GNUNET_TIME_UNIT_FOREVER_REL, /* Retry time */
1190                   NULL,         /* Continuation */
1191                   NULL);        /* Continuation closure */
1192   announce_id_task =
1193       GNUNET_SCHEDULER_add_delayed (id_announce_time, &announce_id, cls);
1194 }
1195
1196
1197 /******************************************************************************/
1198 /******************      GENERAL HELPER FUNCTIONS      ************************/
1199 /******************************************************************************/
1200
1201
1202 /**
1203  * Get the previous hop in a connection
1204  *
1205  * @param c Connection.
1206  *
1207  * @return Previous peer in the connection.
1208  */
1209 static struct MeshPeer *
1210 connection_get_prev_hop (struct MeshConnection *c)
1211 {
1212   GNUNET_PEER_Id id;
1213
1214   if (0 == c->own_pos || c->path->length < 2)
1215     id = c->path->peers[0];
1216   else
1217     id = c->path->peers[c->own_pos - 1];
1218
1219   return peer_get_short (id);
1220 }
1221
1222
1223 /**
1224  * Get the next hop in a connection
1225  *
1226  * @param c Connection.
1227  *
1228  * @return Next peer in the connection. 
1229  */
1230 static struct MeshPeer *
1231 connection_get_next_hop (struct MeshConnection *c)
1232 {
1233   GNUNET_PEER_Id id;
1234
1235   if ((c->path->length - 1) == c->own_pos || c->path->length < 2)
1236     id = c->path->peers[c->path->length - 1];
1237   else
1238     id = c->path->peers[c->own_pos + 1];
1239
1240   return peer_get_short (id);
1241 }
1242
1243
1244 /**
1245  * Check if client has registered with the service and has not disconnected
1246  *
1247  * @param client the client to check
1248  *
1249  * @return non-NULL if client exists in the global DLL
1250  */
1251 static struct MeshClient *
1252 client_get (struct GNUNET_SERVER_Client *client)
1253 {
1254   return GNUNET_SERVER_client_get_user_context (client, struct MeshClient);
1255 }
1256
1257
1258 /**
1259  * Deletes a tunnel from a client (either owner or destination). To be used on
1260  * tunnel destroy.
1261  *
1262  * @param c Client whose tunnel to delete.
1263  * @param ch Channel which should be deleted.
1264  */
1265 static void
1266 client_delete_channel (struct MeshClient *c, struct MeshChannel *ch)
1267 {
1268   int res;
1269
1270   if (c == ch->owner)
1271   {
1272     res = GNUNET_CONTAINER_multihashmap32_remove (c->own_channels,
1273                                                   ch->id, ch);
1274     if (GNUNET_YES != res)
1275       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "client_delete_channel owner KO\n");
1276   }
1277   if (c == ch->client)
1278   {
1279     res = GNUNET_CONTAINER_multihashmap32_remove (c->incoming_channels,
1280                                                   ch->id_dest, ch);
1281     if (GNUNET_YES != res)
1282       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "client_delete_tunnel client KO\n");
1283   }
1284 }
1285
1286
1287 /**
1288  * Notify the appropriate client that a new incoming channel was created.
1289  *
1290  * @param ch Channel that was created.
1291  */
1292 static void
1293 send_local_channel_create (struct MeshChannel *ch)
1294 {
1295   struct GNUNET_MESH_ChannelMessage msg;
1296   struct MeshTunnel2 *t = ch->t;
1297
1298   if (NULL == ch->client)
1299     return;
1300   msg.header.size = htons (sizeof (msg));
1301   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_CREATE);
1302   msg.channel_id = htonl (ch->id_dest);
1303   msg.port = htonl (ch->port);
1304   msg.opt = 0;
1305   msg.opt |= GNUNET_YES == ch->reliable ? GNUNET_MESH_OPTION_RELIABLE : 0;
1306   msg.opt |= GNUNET_YES == ch->nobuffer ? GNUNET_MESH_OPTION_NOBUFFER : 0;
1307   msg.opt = htonl (msg.opt);
1308   GNUNET_PEER_resolve (t->peer->id, &msg.peer);
1309   GNUNET_SERVER_notification_context_unicast (nc, ch->client->handle,
1310                                               &msg.header, GNUNET_NO);
1311 }
1312
1313
1314 /**
1315  * Notify a client that the incoming tunnel is no longer valid.
1316  *
1317  * @param ch Channel that is destroyed.
1318  * @param fwd Forward notification (owner->dest)?
1319  */
1320 static void
1321 send_local_channel_destroy (struct MeshChannel *ch, int fwd)
1322 {
1323   struct GNUNET_MESH_ChannelMessage msg;
1324   struct MeshClient *c;
1325
1326   c = fwd ? ch->client : ch->owner;
1327   if (NULL == c)
1328   {
1329     GNUNET_break (0);
1330     return;
1331   }
1332   msg.header.size = htons (sizeof (msg));
1333   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_DESTROY);
1334   msg.channel_id = htonl (fwd ? ch->id_dest : ch->id);
1335   msg.port = htonl (0);
1336   memset (&msg.peer, 0, sizeof (msg.peer));
1337   msg.opt = htonl (0);
1338   GNUNET_SERVER_notification_context_unicast (nc, c->handle,
1339                                               &msg.header, GNUNET_NO);
1340 }
1341
1342
1343 /**
1344  * Build a local ACK message and send it to a local client.
1345  * 
1346  * @param ch Channel on which to send the ACK.
1347  * @param c Client to whom send the ACK.
1348  * @param is_fwd Set to GNUNET_YES for FWD ACK (dest->owner)
1349  */
1350 static void
1351 send_local_ack (struct MeshChannel *ch,
1352                 struct MeshClient *c,
1353                 int is_fwd)
1354 {
1355   struct GNUNET_MESH_LocalAck msg;
1356
1357   msg.header.size = htons (sizeof (msg));
1358   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK);
1359   msg.channel_id = htonl (is_fwd ? ch->id : ch->id_dest);
1360   GNUNET_SERVER_notification_context_unicast (nc,
1361                                               c->handle,
1362                                               &msg.header,
1363                                               GNUNET_NO);
1364 }
1365
1366
1367 /**
1368  * Count established (ready) connections of a tunnel.
1369  *
1370  * @param t Tunnel on which to send the message.
1371  *
1372  * @return Number of connections.
1373  */
1374 static unsigned int
1375 tunnel_count_connections (struct MeshTunnel2 *t)
1376 {
1377   struct MeshConnection *c;
1378   unsigned int i;
1379
1380   for (c = t->connection_head, i = 0; NULL != c; c = c->next, i++);
1381
1382   return i;
1383 }
1384
1385
1386 /**
1387  * Pick a connection on which send the next data message.
1388  *
1389  * @param t Tunnel on which to send the message.
1390  * @param fwd Is this a fwd message?
1391  *
1392  * @return The connection on which to send the next message.
1393  */
1394 static struct MeshConnection *
1395 tunnel_get_connection (struct MeshTunnel2 *t, int fwd)
1396 {
1397   struct MeshConnection *c;
1398   struct MeshConnection *best;
1399   struct MeshPeer *peer;
1400   unsigned int lowest_q;
1401
1402
1403   peer = NULL;
1404   best = NULL;
1405   lowest_q = UINT_MAX;
1406   for (c = t->connection_head; NULL != c; c = c->next)
1407   {
1408     if (MESH_CONNECTION_READY == c->state)
1409     {
1410       peer = fwd ? connection_get_next_hop (c) : connection_get_prev_hop (c);
1411       if (NULL == peer->fc)
1412       {
1413         GNUNET_break (0);
1414         continue;
1415       }
1416       if (peer->fc->queue_n < lowest_q)
1417       {
1418         best = c;
1419         lowest_q = peer->fc->queue_n;
1420       }
1421     }
1422   }
1423   return best;
1424 }
1425
1426
1427 /**
1428  * FIXME FIXME FIXME FIXME FIXME FIXME FIXME FIXME FIXME FIXME FIXME 
1429  * Encrypt data with the tunnel key.
1430  *
1431  * @param t Tunnel whose key to use.
1432  * @param dst Destination for the encrypted data.
1433  * @param src Source of the plaintext.
1434  * @param size Size of the plaintext.
1435  * @param iv Initialization Vector to use.
1436  * @param fwd Is this a fwd message?
1437  */
1438 static void
1439 tunnel_encrypt (struct MeshTunnel2 *t,
1440                 void *dst, const void *src,
1441                 size_t size, uint64_t iv, int fwd)
1442 {
1443   memcpy (dst, src, size);
1444 }
1445
1446
1447 /**
1448  * FIXME FIXME FIXME FIXME FIXME FIXME FIXME FIXME FIXME FIXME FIXME 
1449  * Decrypt data with the tunnel key.
1450  *
1451  * @param t Tunnel whose key to use.
1452  * @param dst Destination for the plaintext.
1453  * @param src Source of the encrypted data.
1454  * @param size Size of the encrypted data.
1455  * @param iv Initialization Vector to use.
1456  * @param fwd Is this a fwd message?
1457  */
1458 static void
1459 tunnel_decrypt (struct MeshTunnel2 *t,
1460                 void *dst, const void *src,
1461                 size_t size, uint64_t iv, int fwd)
1462 {
1463   memcpy (dst, src, size);
1464 }
1465
1466
1467 /**
1468  * Sends an already built message on a connection, properly registering
1469  * all used resources.
1470  *
1471  * @param message Message to send. Function makes a copy of it.
1472  *                If message is not hop-by-hop, decrements TTL of copy.
1473  * @param c Connection on which this message is transmitted.
1474  * @param ch Channel on which this message is transmitted, or NULL.
1475  * @param fwd Is this a fwd message?
1476  */
1477 static void
1478 send_prebuilt_message_connection (const struct GNUNET_MessageHeader *message,
1479                                   struct MeshConnection *c,
1480                                   struct MeshChannel *ch,
1481                                   int fwd)
1482 {
1483   struct MeshPeer *neighbor;
1484   void *data;
1485   size_t size;
1486   uint16_t type;
1487
1488   neighbor = fwd ? connection_get_next_hop (c) : connection_get_prev_hop (c);
1489   if (NULL == neighbor)
1490   {
1491     GNUNET_break (0);
1492     return;
1493   }
1494
1495   size = ntohs (message->size);
1496   data = GNUNET_malloc (size);
1497   memcpy (data, message, size);
1498   type = ntohs(message->type);
1499
1500   if (GNUNET_MESSAGE_TYPE_MESH_FWD == type ||
1501       GNUNET_MESSAGE_TYPE_MESH_BCK == type)
1502   {
1503     struct GNUNET_MESH_Encrypted *msg;
1504     uint32_t ttl;
1505
1506     msg = (struct GNUNET_MESH_Encrypted *) data;
1507     ttl = ntohl (msg->ttl);
1508     if (0 == ttl)
1509     {
1510       GNUNET_break_op (0);
1511       return;
1512     }
1513     msg->ttl = htonl (ttl - 1);
1514   }
1515
1516   queue_add (data,
1517              type,
1518              size,
1519              neighbor,
1520              c,
1521              ch);
1522 }
1523
1524
1525 /**
1526  * Sends an already built message on a tunnel, choosing the best connection.
1527  *
1528  * @param message Message to send. Function modifies it.
1529  * @param t Tunnel on which this message is transmitted.
1530  * @param ch Channel on which this message is transmitted.
1531  * @param fwd Is this a fwd message?
1532  */
1533 static void
1534 send_prebuilt_message_tunnel (struct GNUNET_MESH_Encrypted *msg,
1535                               struct MeshTunnel2 *t,
1536                               struct MeshChannel *ch,
1537                               int fwd)
1538 {
1539   struct MeshConnection *c;
1540   uint16_t type;
1541
1542   c = tunnel_get_connection (t, fwd);
1543   if (NULL == c)
1544   {
1545     GNUNET_break (0);
1546     return;
1547   }
1548   type = ntohs (msg->header.size);
1549   switch (type)
1550   {
1551     case GNUNET_MESSAGE_TYPE_MESH_FWD:
1552     case GNUNET_MESSAGE_TYPE_MESH_BCK:
1553       msg->cid = htonl (c->id);
1554       msg->tid = t->id;
1555       msg->ttl = default_ttl;
1556       break;
1557     default:
1558       GNUNET_break (0);
1559   }
1560
1561   send_prebuilt_message_connection (&msg->header, c, ch, fwd);
1562 }
1563
1564
1565 /**
1566  * Sends an already built message on a channel, properly registering
1567  * all used resources and encrypting the message with the tunnel's key.
1568  *
1569  * @param message Message to send. Function makes a copy of it.
1570  * @param ch Channel on which this message is transmitted.
1571  * @param fwd Is this a fwd message?
1572  */
1573 static void
1574 send_prebuilt_message_channel (const struct GNUNET_MessageHeader *message,
1575                                struct MeshChannel *ch,
1576                                int fwd)
1577 {
1578   struct GNUNET_MESH_Encrypted *msg;
1579   size_t size = ntohs (message->size);
1580   char *cbuf[size + sizeof (struct GNUNET_MESH_Encrypted)];
1581   uint16_t type;
1582   uint64_t iv;
1583
1584   type = fwd ? GNUNET_MESSAGE_TYPE_MESH_FWD : GNUNET_MESSAGE_TYPE_MESH_BCK;
1585   iv = GNUNET_CRYPTO_random_u64 (GNUNET_CRYPTO_QUALITY_WEAK, UINT64_MAX);
1586
1587   msg = (struct GNUNET_MESH_Encrypted *) cbuf;
1588   msg->header.type = htons (type);
1589   msg->header.size = htons (size);
1590   msg->iv = GNUNET_htonll (iv);
1591   tunnel_encrypt (ch->t, &msg[1], message, size, iv, fwd);
1592
1593   send_prebuilt_message_tunnel (msg, ch->t, ch, fwd);
1594 }
1595
1596
1597 /**
1598  * Sends an already built message directly to a peer.
1599  * Message does must not belong to a connection or channel.
1600  *
1601  * @param message Message to send. Function makes a copy of it.
1602  * @param peer Tunnel on which this message is transmitted.
1603  */
1604 static void
1605 send_prebuilt_message_peer (const struct GNUNET_MessageHeader *message,
1606                             struct MeshPeer *peer)
1607 {
1608   void *data;
1609   size_t size;
1610   uint16_t type;
1611
1612   if (NULL == peer)
1613   {
1614     GNUNET_break (0);
1615     return;
1616   }
1617
1618   size = ntohs (message->size);
1619   data = GNUNET_malloc (size);
1620   memcpy (data, message, size);
1621   type = ntohs(message->type);
1622
1623   queue_add (data,
1624              type,
1625              size,
1626              peer,
1627              NULL,
1628              NULL);
1629 }
1630
1631
1632 /**
1633  * Sends a CREATE CONNECTION message for a path to a peer.
1634  * Changes the connection and tunnel states if necessary.
1635  *
1636  * @param connection Connection to create.
1637  */
1638 static void
1639 send_connection_create (struct MeshConnection *connection)
1640 {
1641   struct MeshPeer *neighbor;
1642   struct MeshTunnel2 *t;
1643
1644   t = connection->t;
1645   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Send connection create\n");
1646   neighbor = connection_get_next_hop (connection);
1647   queue_add (connection,
1648              GNUNET_MESSAGE_TYPE_MESH_CONNECTION_CREATE,
1649              sizeof (struct GNUNET_MESH_ConnectionCreate) +
1650                 (connection->path->length *
1651                  sizeof (struct GNUNET_PeerIdentity)),
1652              neighbor,
1653              connection,
1654              NULL);
1655   if (MESH_TUNNEL_SEARCHING == t->state)
1656     tunnel_change_state (t, MESH_TUNNEL_WAITING);
1657   if (MESH_CONNECTION_NEW == connection->state)
1658     connection_change_state (connection, MESH_CONNECTION_SENT);
1659 }
1660
1661
1662 /**
1663  * Sends a CONNECTION ACK message in reponse to a received CONNECTION_CREATE
1664  * directed to us.
1665  *
1666  * @param connection Connection to confirm.
1667  */
1668 static void
1669 send_connection_ack (struct MeshConnection *connection) 
1670 {
1671   struct MeshPeer *neighbor;
1672   struct MeshTunnel2 *t;
1673
1674   t = connection->t;
1675   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Send connection ack\n");
1676   neighbor = connection_get_prev_hop (connection);
1677   queue_add (connection,
1678              GNUNET_MESSAGE_TYPE_MESH_CONNECTION_ACK,
1679              sizeof (struct GNUNET_MESH_ConnectionACK),
1680              neighbor,
1681              connection,
1682              NULL);
1683   if (MESH_TUNNEL_NEW == t->state)
1684     tunnel_change_state (t, MESH_TUNNEL_WAITING);
1685 }
1686
1687
1688 /**
1689  * Build an ACK message and queue it to send to the given peer.
1690  * 
1691  * @param peer Peer to whom send the ACK.
1692  * @param ack Value of the ACK.
1693  */
1694 static void
1695 send_ack (struct MeshPeer *peer, uint32_t ack)
1696 {
1697   struct GNUNET_MESH_ACK msg;
1698
1699   msg.header.size = htons (sizeof (msg));
1700   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_ACK);
1701   msg.ack = htonl (ack);
1702
1703   send_prebuilt_message_peer (&msg.header, peer);
1704 }
1705
1706
1707 /**
1708   * Core callback to write a pre-constructed data packet to core buffer
1709   *
1710   * @param cls Closure (MeshTransmissionDescriptor with data in "data" member).
1711   * @param size Number of bytes available in buf.
1712   * @param buf Where the to write the message.
1713   *
1714   * @return number of bytes written to buf
1715   */
1716 static size_t
1717 send_core_data_raw (void *cls, size_t size, void *buf)
1718 {
1719   struct GNUNET_MessageHeader *msg = cls;
1720   size_t total_size;
1721
1722   GNUNET_assert (NULL != msg);
1723   total_size = ntohs (msg->size);
1724
1725   if (total_size > size)
1726   {
1727     GNUNET_break (0);
1728     return 0;
1729   }
1730   memcpy (buf, msg, total_size);
1731   GNUNET_free (cls);
1732   return total_size;
1733 }
1734
1735
1736 /**
1737  * Function to send a create path packet to a peer.
1738  *
1739  * @param cls closure
1740  * @param size number of bytes available in buf
1741  * @param buf where the callee should write the message
1742  * @return number of bytes written to buf
1743  */
1744 static size_t
1745 send_core_connection_create (void *cls, size_t size, void *buf)
1746 {
1747   struct MeshConnection *c = cls;
1748   struct GNUNET_MESH_ConnectionCreate *msg;
1749   struct GNUNET_PeerIdentity *peer_ptr;
1750   struct MeshPeerPath *p = c->path;
1751   size_t size_needed;
1752   int i;
1753
1754   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Sending CONNECTION CREATE...\n");
1755   size_needed =
1756       sizeof (struct GNUNET_MESH_ConnectionCreate) +
1757       p->length * sizeof (struct GNUNET_PeerIdentity);
1758
1759   if (size < size_needed || NULL == buf)
1760   {
1761     GNUNET_break (0);
1762     return 0;
1763   }
1764   msg = (struct GNUNET_MESH_ConnectionCreate *) buf;
1765   msg->header.size = htons (size_needed);
1766   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_CONNECTION_CREATE);
1767   msg->cid = htonl (c->id);
1768
1769   peer_ptr = (struct GNUNET_PeerIdentity *) &msg[1];
1770   for (i = 0; i < p->length; i++)
1771   {
1772     GNUNET_PEER_resolve (p->peers[i], peer_ptr++);
1773   }
1774
1775   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1776               "CONNECTION CREATE (%u bytes long) sent!\n", size_needed);
1777   return size_needed;
1778 }
1779
1780
1781 /**
1782  * Creates a path ack message in buf and frees all unused resources.
1783  *
1784  * @param cls closure (MeshTransmissionDescriptor)
1785  * @param size number of bytes available in buf
1786  * @param buf where the callee should write the message
1787  * @return number of bytes written to buf
1788  */
1789 static size_t
1790 send_core_connection_ack (void *cls, size_t size, void *buf)
1791 {
1792   struct GNUNET_MESH_ConnectionACK *msg = buf;
1793   struct MeshConnection *c = cls;
1794   struct MeshTunnel2 *t = c->t;
1795
1796   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Sending CONNECTION ACK...\n");
1797   GNUNET_assert (NULL != t);
1798   if (sizeof (struct GNUNET_MESH_ConnectionACK) > size)
1799   {
1800     GNUNET_break (0);
1801     return 0;
1802   }
1803   msg->header.size = htons (sizeof (struct GNUNET_MESH_ConnectionACK));
1804   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_CONNECTION_ACK);
1805   GNUNET_CRYPTO_hash_xor (&GNUNET_PEER_resolve2 (t->peer->id)->hashPubKey,
1806                           &my_full_id.hashPubKey,
1807                           &msg->tid);
1808   msg->cid = htonl (c->id);
1809
1810   /* TODO add signature */
1811
1812   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "CONNECTION ACK sent!\n");
1813   return sizeof (struct GNUNET_MESH_ConnectionACK);
1814 }
1815
1816
1817 /**
1818  * Iterator over all the peers to remove the oldest not-used entry.
1819  *
1820  * @param cls Closure (unsued).
1821  * @param key ID of the peer.
1822  * @param value Peer_Info of the peer.
1823  *
1824  * FIXME implement
1825  */
1826 static int
1827 peer_timeout (void *cls,
1828               const struct GNUNET_HashCode *key,
1829               void *value)
1830 {
1831   return GNUNET_YES;
1832 }
1833
1834
1835 /**
1836  * Retrieve the MeshPeer stucture associated with the peer, create one
1837  * and insert it in the appropriate structures if the peer is not known yet.
1838  *
1839  * @param peer Full identity of the peer.
1840  *
1841  * @return Existing or newly created peer info.
1842  */
1843 static struct MeshPeer *
1844 peer_get (const struct GNUNET_PeerIdentity *peer_id)
1845 {
1846   struct MeshPeer *peer;
1847
1848   peer = GNUNET_CONTAINER_multihashmap_get (peers, &peer_id->hashPubKey);
1849   if (NULL == peer)
1850   {
1851     peer = GNUNET_new (struct MeshPeer);
1852     if (GNUNET_CONTAINER_multihashmap_size (peers) > max_peers)
1853     {
1854       GNUNET_CONTAINER_multihashmap_iterate (peers,
1855                                              &peer_timeout,
1856                                              NULL);
1857     }
1858     GNUNET_CONTAINER_multihashmap_put (peers, &peer_id->hashPubKey, peer,
1859                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
1860     peer->id = GNUNET_PEER_intern (peer_id);
1861   }
1862   peer->last_contact = GNUNET_TIME_absolute_get();
1863
1864   return peer;
1865 }
1866
1867
1868 /**
1869  * Retrieve the MeshPeer stucture associated with the peer, create one
1870  * and insert it in the appropriate structures if the peer is not known yet.
1871  *
1872  * @param peer Short identity of the peer.
1873  *
1874  * @return Existing or newly created peer info.
1875  */
1876 static struct MeshPeer *
1877 peer_get_short (const GNUNET_PEER_Id peer)
1878 {
1879   return peer_get (GNUNET_PEER_resolve2 (peer));
1880 }
1881
1882
1883 /**
1884  * Get a cost of a path for a peer considering existing tunnel connections.
1885  *
1886  * @param peer Peer towards which the path is considered.
1887  * @param path Candidate path.
1888  *
1889  * @return Cost of the path (path length + number of overlapping nodes)
1890  */
1891 static unsigned int
1892 peer_get_path_cost (const struct MeshPeer *peer,
1893                     const struct MeshPeerPath *path)
1894 {
1895   struct MeshConnection *c;
1896   unsigned int overlap;
1897   unsigned int i;
1898   unsigned int j;
1899
1900   if (NULL == path)
1901     return 0;
1902
1903   overlap = 0;
1904   GNUNET_assert (NULL != peer->tunnel);
1905
1906   for (i = 0; i < path->length; i++)
1907   {
1908     for (c = peer->tunnel->connection_head; NULL != c; c = c->next)
1909     {
1910       for (j = 0; j < c->path->length; j++)
1911       {
1912         if (path->peers[i] == c->path->peers[j])
1913         {
1914           overlap++;
1915           break;
1916         }
1917       }
1918     }
1919   }
1920   return (path->length + overlap) * (path->score * -1);
1921 }
1922
1923
1924 /**
1925  * Choose the best path towards a peer considering the tunnel properties.
1926  *
1927  * @param peer The destination peer.
1928  *
1929  * @return Best current known path towards the peer, if any.
1930  */
1931 static struct MeshPeerPath *
1932 peer_get_best_path (const struct MeshPeer *peer)
1933 {
1934   struct MeshPeerPath *best_p;
1935   struct MeshPeerPath *p;
1936   struct MeshConnection *c;
1937   unsigned int best_cost;
1938   unsigned int cost;
1939
1940   best_cost = UINT_MAX;
1941   best_p = NULL;
1942   for (p = peer->path_head; NULL != p; p = p->next)
1943   {
1944     for (c = peer->tunnel->connection_head; NULL != c; c = c->next)
1945       if (c->path == p)
1946         break;
1947     if (NULL != p)
1948       continue; /* If path is in use in a connection, skip it. */
1949
1950     if ((cost = peer_get_path_cost (peer, p)) < best_cost)
1951     {
1952       best_cost = cost;
1953       best_p = p;
1954     }
1955   }
1956   return best_p;
1957 }
1958
1959
1960 /**
1961  * Try to establish a new connection to this peer in the given tunnel.
1962  * If the peer doesn't have any path to it yet, try to get one.
1963  * If the peer already has some path, send a CREATE CONNECTION towards it.
1964  *
1965  * @param peer PeerInfo of the peer.
1966  */
1967 static void
1968 peer_connect (struct MeshPeer *peer)
1969 {
1970   struct MeshTunnel2 *t;
1971   struct MeshPeerPath *p;
1972   struct MeshConnection *c;
1973
1974   t = peer->tunnel;
1975   if (NULL != peer->path_head)
1976   {
1977     p = peer_get_best_path (peer);
1978     if (NULL != p)
1979     {
1980       c = tunnel_use_path (t, p);
1981       send_connection_create (c);
1982     }
1983   }
1984   else if (NULL == peer->dhtget)
1985   {
1986     const struct GNUNET_PeerIdentity *id;
1987
1988     id = GNUNET_PEER_resolve2 (peer->id);
1989     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1990                 "  Starting DHT GET for peer %s\n", GNUNET_i2s (id));
1991     peer->dhtget = GNUNET_DHT_get_start (dht_handle,    /* handle */
1992                                          GNUNET_BLOCK_TYPE_MESH_PEER, /* type */
1993                                          &id->hashPubKey,     /* key to search */
1994                                          dht_replication_level, /* replication level */
1995                                          GNUNET_DHT_RO_RECORD_ROUTE |
1996                                          GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,
1997                                          NULL,       /* xquery */
1998                                          0,     /* xquery bits */
1999                                          &dht_get_id_handler, peer);
2000     if (MESH_TUNNEL_NEW == t->state)
2001       tunnel_change_state (t, MESH_TUNNEL_SEARCHING);
2002   }
2003   else
2004   {
2005     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2006                 "There is no path but the DHT GET is already started.\n");
2007   }
2008 }
2009
2010
2011 /**
2012  * @brief Re-initiate traffic to this peer if necessary.
2013  *
2014  * Check if there is traffic queued towards this peer
2015  * and the core transmit handle is NULL (traffic was stalled).
2016  * If so, call core tmt rdy.
2017  *
2018  * @param peer_id Short ID of peer to which initiate traffic.
2019  */
2020 static void
2021 peer_unlock_queue (GNUNET_PEER_Id peer_id)
2022 {
2023   struct MeshPeer *peer;
2024   struct MeshPeerQueue *q;
2025   size_t size;
2026
2027   peer = peer_get_short (peer_id);
2028   if (NULL != peer->fc->core_transmit)
2029     return; /* Already unlocked */
2030
2031   q = queue_get_next (peer);
2032   if (NULL == q)
2033     return; /* Nothing to transmit */
2034
2035   size = q->size;
2036   peer->fc->core_transmit =
2037       GNUNET_CORE_notify_transmit_ready (core_handle,
2038                                          GNUNET_NO,
2039                                          0,
2040                                          GNUNET_TIME_UNIT_FOREVER_REL,
2041                                          GNUNET_PEER_resolve2 (peer->id),
2042                                          size,
2043                                          &queue_send,
2044                                          peer);
2045 }
2046
2047
2048 /**
2049  * Cancel all transmissions towards a neighbor that belong to
2050  * a certain connection.
2051  *
2052  * @param peer Neighbor to whom cancel the transmissions.
2053  * @param c Connection which to cancel.
2054  */
2055 static void
2056 peer_cancel_queues (struct MeshPeer *peer, struct MeshConnection *c)
2057 {
2058   struct MeshPeerQueue *q;
2059   struct MeshPeerQueue *next;
2060   struct MeshFlowControl *fc;
2061
2062   if (NULL == peer || NULL == peer->fc)
2063   {
2064     GNUNET_break (0);
2065     return;
2066   }
2067   fc = peer->fc;
2068   for (q = fc->queue_head; NULL != q; q = next)
2069   {
2070     next = q->next;
2071     if (q->c == c)
2072     {
2073       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2074                   "peer_cancel_queue %s\n",
2075                   GNUNET_MESH_DEBUG_M2S (q->type));
2076       queue_destroy (q, GNUNET_YES);
2077     }
2078   }
2079   if (NULL == fc->queue_head)
2080   {
2081     if (NULL != fc->core_transmit)
2082     {
2083       GNUNET_CORE_notify_transmit_ready_cancel (fc->core_transmit);
2084       fc->core_transmit = NULL;
2085     }
2086     if (GNUNET_SCHEDULER_NO_TASK != fc->poll_task)
2087     {
2088       GNUNET_SCHEDULER_cancel (fc->poll_task);
2089       fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
2090     }
2091   }
2092 }
2093
2094
2095 /**
2096  * Destroy the peer_info and free any allocated resources linked to it
2097  *
2098  * @param peer The peer_info to destroy.
2099  *
2100  * @return GNUNET_OK on success
2101  */
2102 static int
2103 peer_destroy (struct MeshPeer *peer)
2104 {
2105   struct GNUNET_PeerIdentity id;
2106   struct MeshPeerPath *p;
2107   struct MeshPeerPath *nextp;
2108
2109   GNUNET_PEER_resolve (peer->id, &id);
2110   GNUNET_PEER_change_rc (peer->id, -1);
2111
2112   if (GNUNET_YES !=
2113       GNUNET_CONTAINER_multihashmap_remove (peers, &id.hashPubKey, peer))
2114   {
2115     GNUNET_break (0);
2116     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
2117                 "removing peer %s, not in hashmap\n", GNUNET_i2s (&id));
2118   }
2119   if (NULL != peer->dhtget)
2120   {
2121     GNUNET_DHT_get_stop (peer->dhtget);
2122   }
2123   p = peer->path_head;
2124   while (NULL != p)
2125   {
2126     nextp = p->next;
2127     GNUNET_CONTAINER_DLL_remove (peer->path_head, peer->path_tail, p);
2128     path_destroy (p);
2129     p = nextp;
2130   }
2131   tunnel_destroy_empty (peer->tunnel);
2132   GNUNET_free (peer);
2133   return GNUNET_OK;
2134 }
2135
2136
2137 /**
2138  * Remove all paths that rely on a direct connection between p1 and p2
2139  * from the peer itself and notify all tunnels about it.
2140  *
2141  * @param peer PeerInfo of affected peer.
2142  * @param p1 GNUNET_PEER_Id of one peer.
2143  * @param p2 GNUNET_PEER_Id of another peer that was connected to the first and
2144  *           no longer is.
2145  *
2146  * TODO: optimize (see below)
2147  */
2148 static void
2149 peer_remove_path (struct MeshPeer *peer, GNUNET_PEER_Id p1,
2150                   GNUNET_PEER_Id p2)
2151 {
2152   struct MeshPeerPath *p;
2153   struct MeshPeerPath *next;
2154   struct MeshPeer *peer_d;
2155   GNUNET_PEER_Id d;
2156   unsigned int destroyed;
2157   unsigned int i;
2158
2159   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "peer_info_remove_path\n");
2160   destroyed = 0;
2161   for (p = peer->path_head; NULL != p; p = next)
2162   {
2163     next = p->next;
2164     for (i = 0; i < (p->length - 1); i++)
2165     {
2166       if ((p->peers[i] == p1 && p->peers[i + 1] == p2) ||
2167           (p->peers[i] == p2 && p->peers[i + 1] == p1))
2168       {
2169         GNUNET_CONTAINER_DLL_remove (peer->path_head, peer->path_tail, p);
2170         path_destroy (p);
2171         destroyed++;
2172         break;
2173       }
2174     }
2175   }
2176   if (0 == destroyed)
2177     return;
2178
2179
2180   d = tunnel_notify_connection_broken (peer->tunnel, p1, p2);
2181
2182   peer_d = peer_get_short (d); // FIXME
2183   next = peer_get_best_path (peer_d);
2184   tunnel_use_path (peer->tunnel, next);
2185   peer_connect (peer_d);
2186
2187   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "peer_info_remove_path END\n");
2188 }
2189
2190
2191 /**
2192  * Add the path to the peer and update the path used to reach it in case this
2193  * is the shortest.
2194  *
2195  * @param peer_info Destination peer to add the path to.
2196  * @param path New path to add. Last peer must be the peer in arg 1.
2197  *             Path will be either used of freed if already known.
2198  * @param trusted Do we trust that this path is real?
2199  */
2200 void
2201 peer_add_path (struct MeshPeer *peer_info, struct MeshPeerPath *path,
2202                     int trusted)
2203 {
2204   struct MeshPeerPath *aux;
2205   unsigned int l;
2206   unsigned int l2;
2207
2208   if ((NULL == peer_info) || (NULL == path))
2209   {
2210     GNUNET_break (0);
2211     path_destroy (path);
2212     return;
2213   }
2214   if (path->peers[path->length - 1] != peer_info->id)
2215   {
2216     GNUNET_break (0);
2217     path_destroy (path);
2218     return;
2219   }
2220   if (2 >= path->length && GNUNET_NO == trusted)
2221   {
2222     /* Only allow CORE to tell us about direct paths */
2223     path_destroy (path);
2224     return;
2225   }
2226   for (l = 1; l < path->length; l++)
2227   {
2228     if (path->peers[l] == myid)
2229     {
2230       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shortening path by %u\n", l);
2231       for (l2 = 0; l2 < path->length - l; l2++)
2232       {
2233         path->peers[l2] = path->peers[l + l2];
2234       }
2235       path->length -= l;
2236       l = 1;
2237       path->peers =
2238           GNUNET_realloc (path->peers, path->length * sizeof (GNUNET_PEER_Id));
2239     }
2240   }
2241 #if MESH_DEBUG
2242   {
2243     struct GNUNET_PeerIdentity id;
2244
2245     GNUNET_PEER_resolve (peer_info->id, &id);
2246     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "adding path [%u] to peer %s\n",
2247                 path->length, GNUNET_i2s (&id));
2248   }
2249 #endif
2250   l = path_get_length (path);
2251   if (0 == l)
2252   {
2253     path_destroy (path);
2254     return;
2255   }
2256
2257   GNUNET_assert (peer_info->id == path->peers[path->length - 1]);
2258   for (aux = peer_info->path_head; aux != NULL; aux = aux->next)
2259   {
2260     l2 = path_get_length (aux);
2261     if (l2 > l)
2262     {
2263       GNUNET_CONTAINER_DLL_insert_before (peer_info->path_head,
2264                                           peer_info->path_tail, aux, path);
2265       return;
2266     }
2267     else
2268     {
2269       if (l2 == l && memcmp (path->peers, aux->peers, l) == 0)
2270       {
2271         path_destroy (path);
2272         return;
2273       }
2274     }
2275   }
2276   GNUNET_CONTAINER_DLL_insert_tail (peer_info->path_head, peer_info->path_tail,
2277                                     path);
2278   return;
2279 }
2280
2281
2282 /**
2283  * Add the path to the origin peer and update the path used to reach it in case
2284  * this is the shortest.
2285  * The path is given in peer_info -> destination, therefore we turn the path
2286  * upside down first.
2287  *
2288  * @param peer_info Peer to add the path to, being the origin of the path.
2289  * @param path New path to add after being inversed.
2290  *             Path will be either used or freed.
2291  * @param trusted Do we trust that this path is real?
2292  */
2293 static void
2294 peer_add_path_to_origin (struct MeshPeer *peer_info,
2295                          struct MeshPeerPath *path, int trusted)
2296 {
2297   path_invert (path);
2298   peer_add_path (peer_info, path, trusted);
2299 }
2300
2301
2302
2303 /**
2304  * Function called if the connection to the peer has been stalled for a while,
2305  * possibly due to a missed ACK. Poll the peer about its ACK status.
2306  *
2307  * @param cls Closure (poll ctx).
2308  * @param tc TaskContext.
2309  */
2310 static void
2311 peer_poll (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
2312 {
2313   struct MeshFlowControl *fc = cls;
2314   struct GNUNET_MESH_Poll msg;
2315   struct MeshPeer *peer;
2316
2317   fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
2318   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
2319   {
2320     return;
2321   }
2322
2323   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " *** Polling!\n");
2324   peer = fc->peer;
2325
2326   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " *** peer: %s!\n", 
2327                 GNUNET_i2s (GNUNET_PEER_resolve2 (peer->id)));
2328
2329   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_POLL);
2330   msg.header.size = htons (sizeof (msg));
2331   msg.pid = htonl (fc->last_pid_sent);
2332   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " *** pid (%u)!\n", fc->last_pid_sent);
2333   send_prebuilt_message_peer (&msg.header, peer);
2334   fc->poll_time = GNUNET_TIME_STD_BACKOFF (fc->poll_time);
2335   fc->poll_task = GNUNET_SCHEDULER_add_delayed (fc->poll_time,
2336                                                 &peer_poll, fc);
2337 }
2338
2339
2340 /**
2341  * Build a PeerPath from the paths returned from the DHT, reversing the paths
2342  * to obtain a local peer -> destination path and interning the peer ids.
2343  *
2344  * @return Newly allocated and created path
2345  */
2346 static struct MeshPeerPath *
2347 path_build_from_dht (const struct GNUNET_PeerIdentity *get_path,
2348                      unsigned int get_path_length,
2349                      const struct GNUNET_PeerIdentity *put_path,
2350                      unsigned int put_path_length)
2351 {
2352   struct MeshPeerPath *p;
2353   GNUNET_PEER_Id id;
2354   int i;
2355
2356   p = path_new (1);
2357   p->peers[0] = myid;
2358   GNUNET_PEER_change_rc (myid, 1);
2359   i = get_path_length;
2360   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   GET has %d hops.\n", i);
2361   for (i--; i >= 0; i--)
2362   {
2363     id = GNUNET_PEER_intern (&get_path[i]);
2364     if (p->length > 0 && id == p->peers[p->length - 1])
2365     {
2366       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Optimizing 1 hop out.\n");
2367       GNUNET_PEER_change_rc (id, -1);
2368     }
2369     else
2370     {
2371       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Adding from GET: %s.\n",
2372                   GNUNET_i2s (&get_path[i]));
2373       p->length++;
2374       p->peers = GNUNET_realloc (p->peers, sizeof (GNUNET_PEER_Id) * p->length);
2375       p->peers[p->length - 1] = id;
2376     }
2377   }
2378   i = put_path_length;
2379   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   PUT has %d hops.\n", i);
2380   for (i--; i >= 0; i--)
2381   {
2382     id = GNUNET_PEER_intern (&put_path[i]);
2383     if (id == myid)
2384     {
2385       /* PUT path went through us, so discard the path up until now and start
2386        * from here to get a much shorter (and loop-free) path.
2387        */
2388       path_destroy (p);
2389       p = path_new (0);
2390     }
2391     if (p->length > 0 && id == p->peers[p->length - 1])
2392     {
2393       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Optimizing 1 hop out.\n");
2394       GNUNET_PEER_change_rc (id, -1);
2395     }
2396     else
2397     {
2398       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Adding from PUT: %s.\n",
2399                   GNUNET_i2s (&put_path[i]));
2400       p->length++;
2401       p->peers = GNUNET_realloc (p->peers, sizeof (GNUNET_PEER_Id) * p->length);
2402       p->peers[p->length - 1] = id;
2403     }
2404   }
2405 #if MESH_DEBUG
2406   if (get_path_length > 0)
2407     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (first of GET: %s)\n",
2408                 GNUNET_i2s (&get_path[0]));
2409   if (put_path_length > 0)
2410     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (first of PUT: %s)\n",
2411                 GNUNET_i2s (&put_path[0]));
2412   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   In total: %d hops\n",
2413               p->length);
2414   for (i = 0; i < p->length; i++)
2415   {
2416     struct GNUNET_PeerIdentity peer_id;
2417
2418     GNUNET_PEER_resolve (p->peers[i], &peer_id);
2419     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "       %u: %s\n", p->peers[i],
2420                 GNUNET_i2s (&peer_id));
2421   }
2422 #endif
2423   return p;
2424 }
2425
2426
2427 /**
2428  * Adds a path to the peer_infos of all the peers in the path
2429  *
2430  * @param p Path to process.
2431  * @param confirmed Whether we know if the path works or not.
2432  */
2433 static void
2434 path_add_to_peers (struct MeshPeerPath *p, int confirmed)
2435 {
2436   unsigned int i;
2437
2438   /* TODO: invert and add */
2439   for (i = 0; i < p->length && p->peers[i] != myid; i++) /* skip'em */ ;
2440   for (i++; i < p->length; i++)
2441   {
2442     struct MeshPeer *aux;
2443     struct MeshPeerPath *copy;
2444
2445     aux = peer_get_short (p->peers[i]);
2446     copy = path_duplicate (p);
2447     copy->length = i + 1;
2448     peer_add_path (aux, copy, p->length < 3 ? GNUNET_NO : confirmed);
2449   }
2450 }
2451
2452
2453 /**
2454  * Search for a channel among the channels for a client
2455  *
2456  * @param c the client whose channels to search in
2457  * @param chid the local id of the channel
2458  *
2459  * @return channel handler, NULL if doesn't exist
2460  */
2461 static struct MeshChannel *
2462 channel_get_by_local_id (struct MeshClient *c, MESH_ChannelNumber chid)
2463 {
2464   if (0 == (chid & GNUNET_MESH_LOCAL_CHANNEL_ID_CLI))
2465   {
2466     GNUNET_break_op (0);
2467     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "CHID %X not a local chid\n", chid);
2468     return NULL;
2469   }
2470   if (chid >= GNUNET_MESH_LOCAL_CHANNEL_ID_SERV)
2471     return GNUNET_CONTAINER_multihashmap32_get (c->incoming_channels, chid);
2472   return GNUNET_CONTAINER_multihashmap32_get (c->own_channels, chid);
2473 }
2474
2475
2476 /**
2477  * Search for a tunnel by global ID using PEER_ID
2478  *
2479  * @param pi owner of the tunnel
2480  * @param tid global tunnel number
2481  *
2482  * @return tunnel handler, NULL if doesn't exist
2483  */
2484 static struct MeshChannel *
2485 channel_get_by_pi (GNUNET_PEER_Id pi, MESH_ChannelNumber tid)
2486 {
2487 //   struct GNUNET_HashCode hash;
2488
2489 //   return GNUNET_CONTAINER_multihashmap_get (tunnels, &hash); FIXME
2490   return NULL;
2491 }
2492
2493
2494 /**
2495  * Search for a tunnel by global ID using full PeerIdentities
2496  *
2497  * @param oid owner of the tunnel
2498  * @param tid global tunnel number
2499  *
2500  * @return tunnel handler, NULL if doesn't exist
2501  */
2502 static struct MeshChannel *
2503 channel_get (const struct GNUNET_PeerIdentity *oid, MESH_ChannelNumber tid)
2504 {
2505   return channel_get_by_pi (GNUNET_PEER_search (oid), tid);
2506 }
2507
2508
2509 /**
2510  * Change the tunnel state.
2511  *
2512  * @param t Tunnel whose state to change.
2513  * @param state New state.
2514  */
2515 static void
2516 tunnel_change_state (struct MeshTunnel2* t, enum MeshTunnelState state)
2517 {
2518   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2519               "Tunnel %s state was %s\n",
2520               GNUNET_i2s (GNUNET_PEER_resolve2 (t->peer->id)),
2521               GNUNET_MESH_DEBUG_TS2S (t->state));
2522   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2523               "Tunnel %s state is now %s\n",
2524               GNUNET_i2s (GNUNET_PEER_resolve2 (t->peer->id)),
2525               GNUNET_MESH_DEBUG_TS2S (state));
2526   t->state = state;
2527 }
2528
2529
2530 static void
2531 connection_change_state (struct MeshConnection* c,
2532                          enum MeshConnectionState state)
2533 {
2534   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2535               "Connection %s[%X] state was %s\n",
2536               GNUNET_i2s (GNUNET_PEER_resolve2 (c->t->peer->id)), c->id,
2537               GNUNET_MESH_DEBUG_CS2S (c->state));
2538   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2539               "Connection %s[%X] state is now %s\n",
2540               GNUNET_i2s (GNUNET_PEER_resolve2 (c->t->peer->id)), c->id,
2541               GNUNET_MESH_DEBUG_CS2S (state));
2542   c->state = state;
2543 }
2544
2545
2546 /**
2547  * Add a client to a channel, initializing all needed data structures.
2548  * 
2549  * @param ch Channel to which add the client.
2550  * @param c Client which to add to the channel.
2551  */
2552 static void
2553 channel_add_client (struct MeshChannel *ch, struct MeshClient *c)
2554 {
2555   if (NULL != ch->client)
2556   {
2557     GNUNET_break(0);
2558     return;
2559   }
2560   if (GNUNET_OK !=
2561       GNUNET_CONTAINER_multihashmap32_put (c->incoming_channels,
2562                                            ch->id_dest, ch,
2563                                            GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST))
2564   {
2565     GNUNET_break (0);
2566     return;
2567   }
2568   ch->client = c;
2569 }
2570
2571
2572 static struct MeshConnection *
2573 tunnel_use_path (struct MeshTunnel2 *t, struct MeshPeerPath *p)
2574 {
2575   struct MeshConnection *c;
2576   unsigned int own_pos;
2577
2578   c = GNUNET_new (struct MeshConnection);
2579   for (own_pos = 0; own_pos < p->length; own_pos++)
2580   {
2581     if (p->peers[own_pos] == myid)
2582       break;
2583   }
2584   if (own_pos > p->length - 1)
2585   {
2586     GNUNET_break (0);
2587     return NULL;
2588   }
2589   c->own_pos = own_pos;
2590   c->path = p;
2591   c->id = t->next_cid++;
2592   c->t = t;
2593   GNUNET_CONTAINER_DLL_insert_tail (t->connection_head, t->connection_tail, c);
2594
2595   if (0 == own_pos)
2596   {
2597     c->fwd_maintenance_task =
2598         GNUNET_SCHEDULER_add_delayed (refresh_connection_time,
2599                                       &connection_fwd_keepalive, c);
2600   }
2601   return c;
2602 }
2603
2604
2605 /**
2606  * Notifies a tunnel that a connection has broken that affects at least
2607  * some of its peers. Sends a notification towards the root of the tree.
2608  * In case the peer is the owner of the tree, notifies the client that owns
2609  * the tunnel and tries to reconnect.
2610  *
2611  * @param t Tunnel affected.
2612  * @param p1 Peer that got disconnected from p2.
2613  * @param p2 Peer that got disconnected from p1.
2614  *
2615  * @return Short ID of the peer disconnected (either p1 or p2).
2616  *         0 if the tunnel remained unaffected.
2617  */
2618 static GNUNET_PEER_Id
2619 tunnel_notify_connection_broken (struct MeshTunnel2* t,
2620                                  GNUNET_PEER_Id p1, GNUNET_PEER_Id p2)
2621 {
2622 //   if (myid != p1 && myid != p2) FIXME
2623 //   {
2624 //     return;
2625 //   }
2626 // 
2627 //   if (tree_get_predecessor (t->tree) != 0)
2628 //   {
2629 //     /* We are the peer still connected, notify owner of the disconnection. */
2630 //     struct GNUNET_MESH_PathBroken msg;
2631 //     struct GNUNET_PeerIdentity neighbor;
2632 // 
2633 //     msg.header.size = htons (sizeof (msg));
2634 //     msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN);
2635 //     GNUNET_PEER_resolve (t->id.oid, &msg.oid);
2636 //     msg.tid = htonl (t->id.tid);
2637 //     msg.peer1 = my_full_id;
2638 //     GNUNET_PEER_resolve (pid, &msg.peer2);
2639 //     GNUNET_PEER_resolve (tree_get_predecessor (t->tree), &neighbor);
2640 //     send_prebuilt_message (&msg.header, &neighbor, t);
2641 //   }
2642   return 0;
2643 }
2644
2645
2646 /**
2647  * Send an end-to-end FWD ACK message for the most recent in-sequence payload.
2648  * 
2649  * @param ch Channel this is about.
2650  * @param fwd Is for FWD traffic? (ACK dest->owner)
2651  */
2652 static void
2653 channel_send_data_ack (struct MeshChannel *ch, int fwd)
2654 {
2655   struct GNUNET_MESH_DataACK msg;
2656   struct MeshChannelReliability *rel;
2657   struct MeshReliableMessage *copy;
2658   uint64_t mask;
2659   unsigned int delta;
2660
2661   if (GNUNET_NO == ch->reliable)
2662   {
2663     GNUNET_break (0);
2664     return;
2665   }
2666   rel = fwd ? ch->bck_rel  : ch->fwd_rel;
2667   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2668               "send_data_ack for %u\n",
2669               rel->mid_recv - 1);
2670
2671   msg.header.type = htons (fwd ? GNUNET_MESSAGE_TYPE_MESH_UNICAST_ACK :
2672                                  GNUNET_MESSAGE_TYPE_MESH_TO_ORIG_ACK);
2673   msg.header.size = htons (sizeof (msg));
2674   msg.chid = htonl (ch->id);
2675   msg.mid = htonl (rel->mid_recv - 1);
2676   msg.futures = 0;
2677   for (copy = rel->head_recv; NULL != copy; copy = copy->next)
2678   {
2679     delta = copy->mid - rel->mid_recv;
2680     if (63 < delta)
2681       break;
2682     mask = 0x1LL << delta;
2683     msg.futures |= mask;
2684     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2685                 " setting bit for %u (delta %u) (%llX) -> %llX\n",
2686                 copy->mid, delta, mask, msg.futures);
2687   }
2688   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " final futures %llX\n", msg.futures);
2689
2690   send_prebuilt_message_channel (&msg.header, ch, fwd);
2691   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "send_data_ack END\n");
2692 }
2693
2694
2695 /**
2696  * Send an ACK informing the predecessor about the available buffer space.
2697  *
2698  * Note that although the name is fwd_ack, the FWD mean forward *traffic*,
2699  * the ACK itself goes "back" (towards root).
2700  *
2701  * @param c Connection on which to send the ACK.
2702  * @param fwd Is this FWD ACK? (Going dest->owner)
2703  */
2704 static void
2705 connection_send_ack (struct MeshConnection *c, int fwd)
2706 {
2707   struct MeshFlowControl *next_fc;
2708   struct MeshFlowControl *prev_fc;
2709   struct MeshPeer *next;
2710   struct MeshPeer *prev;
2711   uint32_t ack;
2712   int delta;
2713
2714   next    = fwd ? connection_get_next_hop (c) : connection_get_prev_hop (c);
2715   prev    = fwd ? connection_get_prev_hop (c) : connection_get_next_hop (c);
2716   next_fc = next->fc;
2717   prev_fc = prev->fc;
2718
2719   /* Check if we need to transmit the ACK */
2720   if (prev_fc->last_ack_sent - prev_fc->last_pid_recv > 3)
2721   {
2722     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending ACK, buffer > 3\n");
2723     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2724                 "  last pid recv: %u, last ack sent: %u\n",
2725                 prev_fc->last_pid_recv, prev_fc->last_ack_sent);
2726     return;
2727   }
2728
2729   /* Ok, ACK might be necessary, what PID to ACK? */
2730   delta = next_fc->queue_max - next_fc->queue_n;
2731   ack = prev_fc->last_pid_recv + delta;
2732   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " ACK %u\n", ack);
2733   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2734               " last pid %u, last ack %u, qmax %u, q %u\n",
2735               prev_fc->last_pid_recv, prev_fc->last_ack_sent,
2736               next_fc->queue_max, next_fc->queue_n);
2737   if (ack == prev_fc->last_ack_sent)
2738   {
2739     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending FWD ACK, not needed\n");
2740     return;
2741   }
2742
2743   prev_fc->last_ack_sent = ack;
2744   send_ack (prev, ack);
2745 }
2746
2747
2748 /**
2749  * Send an ACK informing the client about available buffer space.
2750  *
2751  * Note that although the name is fwd_ack, the FWD mean forward *traffic*,
2752  * the ACK itself goes "back" (towards root).
2753  * 
2754  * @param ch Channel on which to send the ACK, NULL if unknown.
2755  * @param fwd Is this FWD ACK? (Going dest->owner)
2756  */
2757 // static void
2758 // channel_send_ack (struct MeshChannel *ch, uint16_t type, int fwd)
2759 // {
2760 //   struct MeshChannelReliability *rel;
2761 //   struct MeshFlowControl *next_fc;
2762 //   struct MeshFlowControl *prev_fc;
2763 //   struct MeshClient *c;
2764 //   struct MeshClient *o;
2765 //   GNUNET_PEER_Id hop;
2766 //   uint32_t delta_mid;
2767 //   uint32_t ack;
2768 //   int delta;
2769 // 
2770 //   rel     = fwd ? ch->fwd_rel : ch->bck_rel;
2771 //   c       = fwd ? ch->client  : ch->owner;
2772 //   o       = fwd ? ch->owner   : ch->client;
2773 //   hop     = fwd ? connection_get_prev_hop (cn) : connection_get_next_hop (cn);
2774 //   next_fc = fwd ? &t->next_fc : &t->prev_fc;
2775 //   prev_fc = fwd ? &t->prev_fc : &t->next_fc;
2776 // 
2777 //   switch (type)
2778 //   {
2779 //     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2780 //     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2781 //       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2782 //                   "ACK due to %s\n",
2783 //                   GNUNET_MESH_DEBUG_M2S (type));
2784 //       if (GNUNET_YES == t->nobuffer && (GNUNET_NO == t->reliable || NULL == c))
2785 //       {
2786 //         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending ACK, nobuffer\n");
2787 //         return;
2788 //       }
2789 //       if (GNUNET_YES == t->reliable && NULL != c)
2790 //         tunnel_send_data_ack (t, fwd);
2791 //       break;
2792 //     case GNUNET_MESSAGE_TYPE_MESH_UNICAST_ACK:
2793 //     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIG_ACK:
2794 //     case GNUNET_MESSAGE_TYPE_MESH_ACK:
2795 //     case GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK:
2796 //       break;
2797 //     case GNUNET_MESSAGE_TYPE_MESH_POLL:
2798 //     case GNUNET_MESSAGE_TYPE_MESH_CONNECTION_ACK:
2799 //       t->force_ack = GNUNET_YES;
2800 //       break;
2801 //     default:
2802 //       GNUNET_break (0);
2803 //   }
2804 // 
2805 //   /* Check if we need to transmit the ACK */
2806 //   if (NULL == o &&
2807 //       prev_fc->last_ack_sent - prev_fc->last_pid_recv > 3 &&
2808 //       GNUNET_NO == t->force_ack)
2809 //   {
2810 //     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending ACK, buffer free\n");
2811 //     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2812 //                 "  last pid recv: %u, last ack sent: %u\n",
2813 //                 prev_fc->last_pid_recv, prev_fc->last_ack_sent);
2814 //     return;
2815 //   }
2816 // 
2817 //   /* Ok, ACK might be necessary, what PID to ACK? */
2818 //   delta = t->queue_max - next_fc->queue_n;
2819 //   if (NULL != o && GNUNET_YES == t->reliable && NULL != rel->head_sent)
2820 //     delta_mid = rel->mid_sent - rel->head_sent->mid;
2821 //   else
2822 //     delta_mid = 0;
2823 //   if (0 > delta || (GNUNET_YES == t->reliable && 
2824 //                     NULL != o &&
2825 //                     (10 < rel->n_sent || 64 <= delta_mid)))
2826 //     delta = 0;
2827 //   if (NULL != o && delta > 1)
2828 //     delta = 1;
2829 //   ack = prev_fc->last_pid_recv + delta;
2830 //   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " ACK %u\n", ack);
2831 //   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2832 //               " last pid %u, last ack %u, qmax %u, q %u\n",
2833 //               prev_fc->last_pid_recv, prev_fc->last_ack_sent,
2834 //               t->queue_max, next_fc->queue_n);
2835 //   if (ack == prev_fc->last_ack_sent && GNUNET_NO == t->force_ack)
2836 //   {
2837 //     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending FWD ACK, not needed\n");
2838 //     return;
2839 //   }
2840 // 
2841 //   prev_fc->last_ack_sent = ack;
2842 //   if (NULL != o)
2843 //     send_local_ack (t, o, fwd);
2844 //   else if (0 != hop)
2845 //     send_ack (t, hop, ack);
2846 //   else
2847 //     GNUNET_break (GNUNET_YES == t->destroy);
2848 //   t->force_ack = GNUNET_NO;
2849 // }
2850
2851
2852 /**
2853  * Modify the mesh message TID from global to local and send to client.
2854  * 
2855  * @param ch Channel on which to send the message.
2856  * @param msg Message to modify and send.
2857  * @param c Client to send to.
2858  * @param tid Tunnel ID to use (c can be both owner and client).
2859  */
2860 static void
2861 channel_send_client_to_tid (struct MeshChannel *ch,
2862                              const struct GNUNET_MESH_Data *msg,
2863                              struct MeshClient *c, MESH_ChannelNumber id)
2864 {
2865   struct GNUNET_MESH_LocalData *copy;
2866   uint16_t size = ntohs (msg->header.size) - sizeof (struct GNUNET_MESH_Data);
2867   char cbuf[size + sizeof (struct GNUNET_MESH_LocalData)];
2868
2869   if (size < sizeof (struct GNUNET_MessageHeader))
2870   {
2871     GNUNET_break_op (0);
2872     return;
2873   }
2874   if (NULL == c)
2875   {
2876     GNUNET_break (0);
2877     return;
2878   }
2879   copy = (struct GNUNET_MESH_LocalData *) cbuf;
2880   memcpy (&copy[1], &msg[1], size);
2881   copy->header.size = htons (sizeof (struct GNUNET_MESH_LocalData) + size);
2882   copy->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_DATA);
2883   copy->id = htonl (id);
2884   GNUNET_SERVER_notification_context_unicast (nc, c->handle,
2885                                               &copy->header, GNUNET_NO);
2886 }
2887
2888 /**
2889  * Modify the data message ID from global to local and send to client.
2890  * 
2891  * @param ch Channel on which to send the message.
2892  * @param msg Message to modify and send.
2893  * @param fwd Forward?
2894  */
2895 static void
2896 channel_send_client_data (struct MeshChannel *ch,
2897                           const struct GNUNET_MESH_Data *msg,
2898                           int fwd)
2899 {
2900   if (fwd)
2901     channel_send_client_to_tid (ch, msg, ch->client, ch->id_dest);
2902   else
2903     channel_send_client_to_tid (ch, msg, ch->owner, ch->id);
2904 }
2905
2906
2907 /**
2908  * Send up to 64 buffered messages to the client for in order delivery.
2909  *
2910  * @param ch Channel on which to empty the message buffer.
2911  * @param c Client to send to.
2912  * @param rel Reliability structure to corresponding peer.
2913  *            If rel == bck_rel, this is FWD data.
2914  */
2915 static void
2916 channel_send_client_buffered_data (struct MeshChannel *ch,
2917                                    struct MeshClient *c,
2918                                    struct MeshChannelReliability *rel)
2919 {
2920   struct MeshReliableMessage *copy;
2921   struct MeshReliableMessage *next;
2922
2923   if (GNUNET_NO == ch->reliable)
2924   {
2925     GNUNET_break (0);
2926     return;
2927   }
2928
2929   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "send_buffered_data\n");
2930   for (copy = rel->head_recv; NULL != copy; copy = next)
2931   {
2932     next = copy->next;
2933     if (copy->mid == rel->mid_recv)
2934     {
2935       struct GNUNET_MESH_Data *msg = (struct GNUNET_MESH_Data *) &copy[1];
2936
2937       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2938                   " have %u! now expecting %u\n",
2939                   copy->mid, rel->mid_recv + 1);
2940       channel_send_client_data (ch, msg, (rel == ch->bck_rel));
2941       rel->mid_recv++;
2942       GNUNET_CONTAINER_DLL_remove (rel->head_recv, rel->tail_recv, copy);
2943       GNUNET_free (copy);
2944     }
2945     else
2946     {
2947       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2948                   " don't have %u, next is %u\n",
2949                   rel->mid_recv,
2950                   copy->mid);
2951       return;
2952     }
2953   }
2954   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "send_buffered_data END\n");
2955 }
2956
2957
2958 /**
2959  * We have received a message out of order, buffer it until we receive
2960  * the missing one and we can feed the rest to the client.
2961  *
2962  * @param msg Message to buffer.
2963  * @param rel Reliability data to the corresponding direction.
2964  */
2965 static void
2966 channel_rel_add_buffered_data (const struct GNUNET_MESH_Data *msg,
2967                                struct MeshChannelReliability *rel)
2968 {
2969   struct MeshReliableMessage *copy;
2970   struct MeshReliableMessage *prev;
2971   uint32_t mid;
2972   uint16_t size;
2973
2974   size = ntohs (msg->header.size);
2975   mid = ntohl (msg->mid);
2976   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "add_buffered_data %u\n", mid);
2977
2978   copy = GNUNET_malloc (sizeof (*copy) + size);
2979   copy->mid = mid;
2980   copy->rel = rel;
2981   memcpy (&copy[1], msg, size);
2982
2983   // FIXME do something better than O(n), although n < 64...
2984   // FIXME start from the end (most messages are the latest ones)
2985   for (prev = rel->head_recv; NULL != prev; prev = prev->next)
2986   {
2987     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " prev %u\n", prev->mid);
2988     if (GMC_is_pid_bigger (prev->mid, mid))
2989     {
2990       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " bingo!\n");
2991       GNUNET_CONTAINER_DLL_insert_before (rel->head_recv, rel->tail_recv,
2992                                           prev, copy);
2993       return;
2994     }
2995   }
2996   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " insert at tail!\n");
2997   GNUNET_CONTAINER_DLL_insert_tail (rel->head_recv, rel->tail_recv, copy);
2998   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "add_buffered_data END\n");
2999 }
3000
3001
3002 /**
3003  * Destroy a reliable message after it has been acknowledged, either by
3004  * direct mid ACK or bitfield. Updates the appropriate data structures and
3005  * timers and frees all memory.
3006  * 
3007  * @param copy Message that is no longer needed: remote peer got it.
3008  */
3009 static void
3010 rel_message_free (struct MeshReliableMessage *copy)
3011 {
3012   struct MeshChannelReliability *rel;
3013   struct GNUNET_TIME_Relative time;
3014
3015   rel = copy->rel;
3016   time = GNUNET_TIME_absolute_get_duration (copy->timestamp);
3017   rel->expected_delay.rel_value *= 7;
3018   rel->expected_delay.rel_value += time.rel_value;
3019   rel->expected_delay.rel_value /= 8;
3020   rel->n_sent--;
3021   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!! Freeing %u\n", copy->mid);
3022   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    n_sent %u\n", rel->n_sent);
3023   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!!  took %s\n",
3024               GNUNET_STRINGS_relative_time_to_string (time, GNUNET_NO));
3025   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!!  new expected delay %s\n",
3026               GNUNET_STRINGS_relative_time_to_string (rel->expected_delay,
3027                                                       GNUNET_NO));
3028   rel->retry_timer = rel->expected_delay;
3029   GNUNET_CONTAINER_DLL_remove (rel->head_sent, rel->tail_sent, copy);
3030   GNUNET_free (copy);
3031 }
3032
3033
3034 /**
3035  * Destroy all reliable messages queued for a channel,
3036  * during a channel destruction.
3037  * Frees the reliability structure itself.
3038  *
3039  * @param rel Reliability data for a channel.
3040  */
3041 static void
3042 channel_rel_free_all (struct MeshChannelReliability *rel)
3043 {
3044   struct MeshReliableMessage *copy;
3045   struct MeshReliableMessage *next;
3046
3047   if (NULL == rel)
3048     return;
3049
3050   for (copy = rel->head_recv; NULL != copy; copy = next)
3051   {
3052     next = copy->next;
3053     GNUNET_CONTAINER_DLL_remove (rel->head_recv, rel->tail_recv, copy);
3054     GNUNET_free (copy);
3055   }
3056   for (copy = rel->head_sent; NULL != copy; copy = next)
3057   {
3058     next = copy->next;
3059     GNUNET_CONTAINER_DLL_remove (rel->head_sent, rel->tail_sent, copy);
3060     GNUNET_free (copy);
3061   }
3062   if (GNUNET_SCHEDULER_NO_TASK != rel->retry_task)
3063     GNUNET_SCHEDULER_cancel (rel->retry_task);
3064   GNUNET_free (rel);
3065 }
3066
3067
3068 /**
3069  * Mark future messages as ACK'd.
3070  *
3071  * @param rel Reliability data.
3072  * @param msg DataACK message with a bitfield of future ACK'd messages.
3073  */
3074 static void
3075 channel_rel_free_sent (struct MeshChannelReliability *rel,
3076                        const struct GNUNET_MESH_DataACK *msg)
3077 {
3078   struct MeshReliableMessage *copy;
3079   struct MeshReliableMessage *next;
3080   uint64_t bitfield;
3081   uint64_t mask;
3082   uint32_t mid;
3083   uint32_t target;
3084   unsigned int i;
3085
3086   bitfield = msg->futures;
3087   mid = ntohl (msg->mid);
3088   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3089               "free_sent_reliable %u %llX\n",
3090               mid, bitfield);
3091   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3092               " rel %p, head %p\n",
3093               rel, rel->head_sent);
3094   for (i = 0, copy = rel->head_sent;
3095        i < 64 && NULL != copy && 0 != bitfield;
3096        i++)
3097   {
3098     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3099                 " trying bit %u (mid %u)\n",
3100                 i, mid + i + 1);
3101     mask = 0x1LL << i;
3102     if (0 == (bitfield & mask))
3103      continue;
3104
3105     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " set!\n");
3106     /* Bit was set, clear the bit from the bitfield */
3107     bitfield &= ~mask;
3108
3109     /* The i-th bit was set. Do we have that copy? */
3110     /* Skip copies with mid < target */
3111     target = mid + i + 1;
3112     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " target %u\n", target);
3113     while (NULL != copy && GMC_is_pid_bigger (target, copy->mid))
3114      copy = copy->next;
3115
3116     /* Did we run out of copies? (previously freed, it's ok) */
3117     if (NULL == copy)
3118     {
3119      GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "run out of copies...\n");
3120      return;
3121     }
3122
3123     /* Did we overshoot the target? (previously freed, it's ok) */
3124     if (GMC_is_pid_bigger (copy->mid, target))
3125     {
3126      GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " next copy %u\n", copy->mid);
3127      continue;
3128     }
3129
3130     /* Now copy->mid == target, free it */
3131     next = copy->next;
3132     rel_message_free (copy);
3133     copy = next;
3134   }
3135   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "free_sent_reliable END\n");
3136 }
3137
3138
3139 /**
3140  * We haven't received an ACK after a certain time: restransmit the message.
3141  *
3142  * @param cls Closure (MeshReliableMessage with the message to restransmit)
3143  * @param tc TaskContext.
3144  */
3145 static void
3146 channel_retransmit_message (void *cls,
3147                             const struct GNUNET_SCHEDULER_TaskContext *tc)
3148 {
3149   struct MeshChannelReliability *rel = cls;
3150   struct MeshReliableMessage *copy;
3151   struct MeshPeerQueue *q;
3152   struct MeshPeer *pi;
3153   struct MeshChannel *ch;
3154   struct MeshConnection *c;
3155   struct GNUNET_MESH_Data *payload;
3156   int fwd;
3157
3158   rel->retry_task = GNUNET_SCHEDULER_NO_TASK;
3159   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
3160     return;
3161
3162   ch = rel->ch;
3163   copy = rel->head_sent;
3164   if (NULL == copy)
3165   {
3166     GNUNET_break (0);
3167     return;
3168   }
3169
3170   /* Search the message to be retransmitted in the outgoing queue.
3171    * Check only the queue for the connection that is going to be used,
3172    * if the message is stuck in some other connection's queue we shouldn't
3173    * act upon it:
3174    * - cancelling it and sending the new one doesn't guarantee it's delivery,
3175    *   the old connection could be temporary stalled or the queue happened to
3176    *   be long at time of insertion.
3177    * - not sending the new one could cause terrible delays the old connection
3178    *   is stalled.
3179    */
3180   payload = (struct GNUNET_MESH_Data *) &copy[1];
3181   fwd = (rel == ch->fwd_rel);
3182   c = tunnel_get_connection(ch->t, fwd);
3183   pi = connection_get_next_hop (c);
3184   for (q = pi->fc->queue_head; NULL != q; q = q->next)
3185   {
3186     if (ntohs (payload->header.type) == q->type && ch == q->ch)
3187     {
3188       struct GNUNET_MESH_Data *queued_data = q->cls;
3189
3190       if (queued_data->mid == payload->mid)
3191         break;
3192     }
3193   }
3194
3195   /* Message not found in the queue that we are going to use. */
3196   if (NULL == q)
3197   {
3198     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!! RETRANSMIT %u\n", copy->mid);
3199
3200     send_prebuilt_message_channel (&payload->header, ch, ch->fwd_rel == rel);
3201     GNUNET_STATISTICS_update (stats, "# data retransmitted", 1, GNUNET_NO);
3202   }
3203   else
3204   {
3205     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!! ALREADY IN QUEUE %u\n", copy->mid);
3206   }
3207
3208   rel->retry_timer = GNUNET_TIME_STD_BACKOFF (rel->retry_timer);
3209   rel->retry_task = GNUNET_SCHEDULER_add_delayed (rel->retry_timer,
3210                                                   &channel_retransmit_message,
3211                                                   cls);
3212 }
3213
3214
3215 /**
3216  * Send keepalive packets for a connection.
3217  *
3218  * @param c Connection to keep alive..
3219  * @param fwd Is this a FWD keepalive? (owner -> dest).
3220  */
3221 static void
3222 connection_keepalive (struct MeshConnection *c, int fwd)
3223 {
3224   struct GNUNET_MESH_ConnectionKeepAlive *msg;
3225   size_t size = sizeof (struct GNUNET_MESH_ConnectionKeepAlive);
3226   char cbuf[size];
3227   uint16_t type;
3228
3229   type = fwd ? GNUNET_MESSAGE_TYPE_MESH_FWD_KEEPALIVE :
3230                GNUNET_MESSAGE_TYPE_MESH_BCK_KEEPALIVE;
3231
3232   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3233               "sending %s keepalive for connection %s[%d]\n",
3234               fwd ? "FWD" : "BCK",
3235               GNUNET_i2s (GNUNET_PEER_resolve2 (c->t->peer->id)),
3236               c->id);
3237
3238   msg = (struct GNUNET_MESH_ConnectionKeepAlive *) cbuf;
3239   msg->header.size = htons (size);
3240   msg->header.type = htons (type);
3241   msg->cid = htonl (c->id);
3242   msg->tid = c->t->id;
3243
3244   send_prebuilt_message_connection (&msg->header, c, NULL, fwd);
3245 }
3246
3247
3248 /**
3249  * Send CONNECTION_{CREATE/ACK} packets for a connection.
3250  *
3251  * @param c Connection for which to send the message.
3252  * @param fwd If GNUNET_YES, send CREATE, otherwise send ACK.
3253  */
3254 static void
3255 connection_recreate (struct MeshConnection *c, int fwd)
3256 {
3257   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "sending connection recreate\n");
3258   if (fwd)
3259     send_connection_create (c);
3260   else
3261     send_connection_ack (c);
3262 }
3263
3264
3265 /**
3266  * Generic connection timer management.
3267  * Depending on the role of the peer in the connection will send the
3268  * appropriate message (build or keepalive)
3269  *
3270  * @param c Conncetion to maintain.
3271  * @param fwd Is FWD?
3272  */
3273 static void
3274 connection_maintain (struct MeshConnection *c, int fwd)
3275 {
3276   if (MESH_TUNNEL_SEARCHING == c->t->state)
3277   {
3278     /* TODO DHT GET with RO_BART */
3279     return;
3280   }
3281   switch (c->state)
3282   {
3283     case MESH_CONNECTION_NEW:
3284       GNUNET_break (0);
3285     case MESH_CONNECTION_SENT:
3286       connection_recreate (c, fwd);
3287       break;
3288     case MESH_CONNECTION_READY:
3289       connection_keepalive (c, fwd);
3290       break;
3291     default:
3292       break;
3293   }
3294 }
3295
3296
3297 static void
3298 connection_fwd_keepalive (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
3299 {
3300   struct MeshConnection *c = cls;
3301
3302   c->fwd_maintenance_task = GNUNET_SCHEDULER_NO_TASK;
3303   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
3304     return;
3305
3306   connection_keepalive (c, GNUNET_YES);
3307   c->fwd_maintenance_task = GNUNET_SCHEDULER_add_delayed (refresh_connection_time,
3308                                                           &connection_fwd_keepalive,
3309                                                           c);
3310 }
3311
3312
3313 static void
3314 connection_bck_keepalive (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
3315 {
3316   struct MeshConnection *c = cls;
3317
3318   c->bck_maintenance_task = GNUNET_SCHEDULER_NO_TASK;
3319   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
3320     return;
3321
3322   connection_keepalive (c, GNUNET_NO);
3323   c->bck_maintenance_task = GNUNET_SCHEDULER_add_delayed (refresh_connection_time,
3324                                                           &connection_bck_keepalive,
3325                                                           c);
3326 }
3327
3328
3329 /**
3330  * Send a message to all peers in this connection that the connection
3331  * is no longer valid.
3332  *
3333  * If some peer should not receive the message, it should be zero'ed out
3334  * before calling this function.
3335  *
3336  * @param c The connection whose peers to notify.
3337  */
3338 static void
3339 connection_send_destroy (struct MeshConnection *c)
3340 {
3341   struct GNUNET_MESH_ConnectionDestroy msg;
3342
3343   msg.header.size = htons (sizeof (msg));
3344   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY);;
3345   msg.cid = htonl (c->id);
3346   msg.tid = c->t->id;
3347   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3348               "  sending tunnel destroy for connection %s[%X]\n",
3349               GNUNET_i2s (GNUNET_PEER_resolve2 (c->t->peer->id)),
3350               c->id);
3351
3352   send_prebuilt_message_connection (&msg.header, c, NULL, GNUNET_YES);
3353   send_prebuilt_message_connection (&msg.header, c, NULL, GNUNET_NO);
3354 }
3355
3356
3357 /**
3358  * Send a message to all clients (local and remote) of this channel
3359  * notifying that the channel is no longer valid.
3360  *
3361  * If some peer or client should not receive the message,
3362  * should be zero'ed out before calling this function.
3363  *
3364  * @param ch The channel whose clients to notify.
3365  */
3366 static void
3367 channel_send_destroy (struct MeshChannel *ch)
3368 {
3369   struct GNUNET_MESH_ChannelDestroy msg;
3370
3371   msg.header.size = htons (sizeof (msg));
3372   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_CHANNEL_DESTROY);
3373   msg.chid = htonl (ch->id);
3374   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3375               "  sending tunnel destroy for channel %s:%X\n",
3376               GNUNET_i2s (GNUNET_PEER_resolve2 (ch->t->peer->id)),
3377               ch->id);
3378
3379   if (NULL != ch->owner)
3380     send_local_channel_destroy (ch, GNUNET_NO);
3381   else
3382     send_prebuilt_message_channel (&msg.header, ch, GNUNET_NO);
3383
3384   if (NULL != ch->client)
3385     send_local_channel_destroy (ch, GNUNET_YES);
3386   else
3387     send_prebuilt_message_channel (&msg.header, ch, GNUNET_YES);
3388 }
3389
3390
3391 /**
3392  * Create a tunnel.
3393  *
3394  * @param tid Tunnel ID.
3395  */
3396 static struct MeshTunnel2 *
3397 tunnel_new (struct GNUNET_HashCode *tid)
3398 {
3399   struct MeshTunnel2 *t;
3400
3401   t = GNUNET_new (struct MeshTunnel2);
3402   t->id = *tid;
3403   t->next_chid = GNUNET_MESH_LOCAL_CHANNEL_ID_SERV;
3404   if (GNUNET_OK !=
3405       GNUNET_CONTAINER_multihashmap_put (tunnels, tid, t,
3406                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST))
3407   {
3408     GNUNET_break (0);
3409     tunnel_destroy (t);
3410     return NULL;
3411   }
3412
3413   return t;
3414 }
3415
3416
3417 /**
3418  * Find a tunnel.
3419  *
3420  * @param tid Tunnel ID.
3421  */
3422 static struct MeshTunnel2 *
3423 tunnel_get (struct GNUNET_HashCode *tid)
3424 {
3425   return GNUNET_CONTAINER_multihashmap_get (tunnels, tid);
3426 }
3427
3428
3429 /**
3430  * Add a connection to a tunnel.
3431  *
3432  * @param t Tunnel.
3433  * @param c Connection.
3434  */
3435 static void
3436 tunnel_add_connection (struct MeshTunnel2 *t, struct MeshConnection *c)
3437 {
3438   c->t = t;
3439   GNUNET_CONTAINER_DLL_insert_tail (t->connection_head, t->connection_tail, c);
3440 }
3441
3442
3443 /**
3444  * Create a connection.
3445  *
3446  * @param tid Tunnel ID.
3447  * @param cid Connection ID.
3448  */
3449 static struct MeshConnection *
3450 connection_new (struct GNUNET_HashCode *tid, uint32_t cid)
3451 {
3452   struct MeshConnection *c;
3453   struct MeshTunnel2 *t;
3454
3455   t = tunnel_get (tid);
3456   if (NULL == t)
3457   {
3458     t = tunnel_new (tid);
3459     if (NULL == t)
3460     {
3461       GNUNET_break (0);
3462       return NULL;
3463     }
3464   }
3465
3466   c = GNUNET_new (struct MeshConnection);
3467   c->id = cid;
3468   tunnel_add_connection (t, c);
3469
3470   return c;
3471 }
3472
3473
3474 /**
3475  * Find a connection.
3476  *
3477  * @param tid Tunnel ID.
3478  * @param cid Connection ID.
3479  */
3480 static struct MeshConnection *
3481 connection_get (struct GNUNET_HashCode *tid, uint32_t cid)
3482 {
3483   struct MeshConnection *c;
3484   struct MeshTunnel2 *t;
3485
3486   t = tunnel_get (tid);
3487   for (c = t->connection_head; NULL != c; c = c->next)
3488     if (c->id == cid)
3489       return c;
3490
3491   return NULL;
3492 }
3493
3494
3495 /**
3496  * Connection is no longer needed: destroy it and remove from tunnel.
3497  *
3498  * @param c Connection to destroy.
3499  */
3500 static void
3501 connection_destroy (struct MeshConnection *c)
3502 {
3503   struct MeshPeer *peer;
3504
3505   if (NULL == c)
3506     return;
3507
3508   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "destroying connection %s[%X]\n",
3509               GNUNET_i2s (GNUNET_PEER_resolve2 (c->t->peer->id)),
3510               c->id);
3511
3512   peer = connection_get_next_hop (c);
3513   if (NULL != peer)
3514     peer_cancel_queues (peer, c);
3515   peer = connection_get_prev_hop (c);
3516   if (NULL != peer)
3517     peer_cancel_queues (peer, c);
3518
3519   if (GNUNET_SCHEDULER_NO_TASK != c->fwd_maintenance_task)
3520     GNUNET_SCHEDULER_cancel (c->fwd_maintenance_task);
3521   if (GNUNET_SCHEDULER_NO_TASK != c->bck_maintenance_task)
3522     GNUNET_SCHEDULER_cancel (c->bck_maintenance_task);
3523
3524   GNUNET_CONTAINER_DLL_remove (c->t->connection_head, c->t->connection_tail, c);
3525
3526   GNUNET_STATISTICS_update (stats, "# connections", -1, GNUNET_NO);
3527   GNUNET_free (c);
3528 }
3529
3530
3531 static void
3532 tunnel_destroy (struct MeshTunnel2 *t)
3533 {
3534   struct MeshConnection *c;
3535   struct MeshConnection *next;
3536
3537   if (NULL == t)
3538     return;
3539
3540   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "destroying tunnel %s\n",
3541               GNUNET_i2s (GNUNET_PEER_resolve2 (c->t->peer->id)));
3542
3543   if (GNUNET_YES != GNUNET_CONTAINER_multihashmap_remove (tunnels, &t->id, t))
3544     GNUNET_break (0);
3545
3546   for (c = t->connection_head; NULL != c; c = next)
3547   {
3548     next = c->next;
3549     connection_destroy (c);
3550   }
3551
3552   GNUNET_STATISTICS_update (stats, "# tunnels", -1, GNUNET_NO);
3553
3554   GNUNET_free (t);
3555 }
3556
3557
3558 /**
3559  * Tunnel is empty: destroy it.
3560  *
3561  * Notifies all connections about the destruction.
3562  *
3563  * @param t Tunnel to destroy. 
3564  */
3565 static void
3566 tunnel_destroy_empty (struct MeshTunnel2 *t)
3567 {
3568   struct MeshConnection *c;
3569
3570   for (c = t->connection_head; NULL != c; c = c->next)
3571   {
3572     if (GNUNET_NO == c->destroy)
3573       connection_send_destroy (c);
3574   }
3575
3576   if (0 == t->pending_messages)
3577     tunnel_destroy (t);
3578   else
3579     t->destroy = GNUNET_YES;
3580 }
3581
3582
3583 /**
3584  * Destroy tunnel if empty (no more channels).
3585  *
3586  * @param t Tunnel to destroy if empty.
3587  */
3588 static void
3589 tunnel_destroy_if_empty (struct MeshTunnel2 *t)
3590 {
3591   if (NULL != t->channel_head)
3592     return;
3593
3594   tunnel_destroy_empty (t);
3595 }
3596
3597
3598 /**
3599  * Initialize a Flow Control structure to the initial state.
3600  * 
3601  * @param fc Flow Control structure to initialize.
3602  */
3603 static void
3604 fc_init (struct MeshFlowControl *fc)
3605 {
3606   fc->last_pid_sent = (uint32_t) -1; /* Next (expected) = 0 */
3607   fc->last_pid_recv = (uint32_t) -1;
3608   fc->last_ack_sent = (uint32_t) -1; /* No traffic allowed yet */
3609   fc->last_ack_recv = (uint32_t) -1;
3610   fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
3611   fc->poll_time = GNUNET_TIME_UNIT_SECONDS;
3612   fc->queue_n = 0;
3613 }
3614
3615
3616 /**
3617  * Destroy a channel and free all resources.
3618  * 
3619  * @param ch Channel to destroy.
3620  */
3621 static void
3622 channel_destroy (struct MeshChannel *ch)
3623 {
3624   struct MeshClient *c;
3625
3626   if (NULL == ch)
3627     return;
3628
3629   c = ch->owner;
3630   if (NULL != c)
3631   {
3632     if (GNUNET_YES != GNUNET_CONTAINER_multihashmap32_remove (c->own_channels,
3633                                                               c->id, ch))
3634     {
3635       GNUNET_break (0);
3636     }
3637   }
3638
3639   c = ch->client;
3640   if (NULL != c)
3641   {
3642     if (GNUNET_YES !=
3643         GNUNET_CONTAINER_multihashmap32_remove (c->incoming_channels,
3644                                                 ch->id_dest, ch))
3645     {
3646       GNUNET_break (0);
3647     }
3648   }
3649
3650   if (GNUNET_YES == ch->reliable)
3651   {
3652     channel_rel_free_all (ch->fwd_rel);
3653     channel_rel_free_all (ch->bck_rel);
3654   }
3655
3656   GNUNET_CONTAINER_DLL_remove (ch->t->channel_head, ch->t->channel_tail, ch);
3657   GNUNET_STATISTICS_update (stats, "# channels", -1, GNUNET_NO);
3658
3659   GNUNET_free (ch);
3660 }
3661
3662 /**
3663  * Create a new channel.
3664  * 
3665  * @param owner Clients that owns the channel, NULL for foreign channels.
3666  * @param id Channel Number for the channel, for the owner point of view.
3667  * 
3668  * @return A new initialized channel. NULL on error.
3669  */
3670 static struct MeshChannel *
3671 channel_new (struct MeshClient *owner,
3672              MESH_ChannelNumber id)
3673 {
3674   struct MeshChannel *ch;
3675
3676   if (NULL == owner)
3677     return NULL;
3678
3679   ch = GNUNET_new (struct MeshChannel);
3680   ch->owner = owner;
3681   ch->id = id;
3682
3683   GNUNET_STATISTICS_update (stats, "# channels", 1, GNUNET_NO);
3684
3685   if (GNUNET_OK !=
3686       GNUNET_CONTAINER_multihashmap32_put (owner->own_channels, id, ch,
3687                                            GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
3688   {
3689     GNUNET_break (0);
3690     channel_destroy (ch);
3691     GNUNET_SERVER_receive_done (owner->handle, GNUNET_SYSERR);
3692     return NULL;
3693   }
3694
3695   return ch;
3696 }
3697
3698
3699 /**
3700  * Set options in a channel, extracted from a bit flag field
3701  * 
3702  * @param ch Channel to set options to.
3703  * @param options Bit array in host byte order.
3704  */
3705 static void
3706 channel_set_options (struct MeshChannel *ch, uint32_t options)
3707 {
3708   ch->nobuffer = (options & GNUNET_MESH_OPTION_NOBUFFER) != 0 ?
3709                  GNUNET_YES : GNUNET_NO;
3710   ch->reliable = (options & GNUNET_MESH_OPTION_RELIABLE) != 0 ?
3711                  GNUNET_YES : GNUNET_NO;
3712 }
3713
3714
3715 /**
3716  * Iterator for deleting each channel whose client endpoint disconnected.
3717  *
3718  * @param cls Closure (client that has disconnected).
3719  * @param key The local channel id (used to access the hashmap).
3720  * @param value The value stored at the key (channel to destroy).
3721  *
3722  * @return GNUNET_OK, keep iterating.
3723  */
3724 static int
3725 channel_destroy_iterator (void *cls,
3726                           uint32_t key,
3727                           void *value)
3728 {
3729   struct MeshChannel *ch = value;
3730   struct MeshClient *c = cls;
3731   struct MeshTunnel2 *t;
3732
3733   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3734               " Channel %X / %X destroy, due to client %u shutdown.\n",
3735               ch->id, ch->id_dest, c->id);
3736
3737   if (c == ch->client)
3738   {
3739     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " Client %u is destination.\n", c->id);
3740     ch->client = NULL;
3741   }
3742   if (c == ch->owner)
3743   {
3744     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " Client %u is owner.\n", c->id);
3745     ch->owner = NULL;
3746   }
3747
3748   t = ch->t;
3749   channel_send_destroy (ch);
3750   channel_destroy (ch);
3751   tunnel_destroy_if_empty (t);
3752
3753   return GNUNET_OK;
3754 }
3755
3756
3757 /**
3758  * Remove client's ports from the global hashmap on disconnect.
3759  *
3760  * @param cls Closure (unused).
3761  * @param key Port.
3762  * @param value Client structure.
3763  *
3764  * @return GNUNET_OK, keep iterating.
3765  */
3766 static int
3767 client_release_ports (void *cls,
3768                       uint32_t key,
3769                       void *value)
3770 {
3771   int res;
3772
3773   res = GNUNET_CONTAINER_multihashmap32_remove (ports, key, value);
3774   if (GNUNET_YES != res)
3775   {
3776     GNUNET_break (0);
3777     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
3778                 "Port %u by client %p was not registered.\n",
3779                 key, value);
3780   }
3781   return GNUNET_OK;
3782 }
3783
3784
3785 /**
3786  * Timeout function due to lack of keepalive/traffic from the owner.
3787  * Destroys connection if called.
3788  *
3789  * @param cls Closure (connection to destroy).
3790  * @param tc TaskContext.
3791  */
3792 static void
3793 connection_fwd_timeout (void *cls,
3794                         const struct GNUNET_SCHEDULER_TaskContext *tc)
3795 {
3796   struct MeshConnection *c = cls;
3797
3798   c->fwd_maintenance_task = GNUNET_SCHEDULER_NO_TASK;
3799   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
3800     return;
3801   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3802               "Connection %s[%X] FWD timed out. Destroying.\n",
3803               GNUNET_i2s(GNUNET_PEER_resolve2 (c->t->peer->id)),
3804               c->id);
3805
3806   if (NULL != c->t->channel_head) /* If local, leave TODO review */
3807     return;
3808
3809   connection_destroy (c);
3810 }
3811
3812
3813 /**
3814  * Timeout function due to lack of keepalive/traffic from the destination.
3815  * Destroys connection if called.
3816  *
3817  * @param cls Closure (connection to destroy).
3818  * @param tc TaskContext
3819  */
3820 static void
3821 connection_bck_timeout (void *cls,
3822                         const struct GNUNET_SCHEDULER_TaskContext *tc)
3823 {
3824   struct MeshConnection *c = cls;
3825
3826   c->bck_maintenance_task = GNUNET_SCHEDULER_NO_TASK;
3827   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
3828     return;
3829
3830   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3831               "Connection %s[%X] FWD timed out. Destroying.\n",
3832               GNUNET_i2s(GNUNET_PEER_resolve2 (c->t->peer->id)),
3833               c->id);
3834
3835   if (NULL != c->t->channel_head) /* If local, leave TODO review */
3836     return;
3837
3838   connection_destroy (c);
3839 }
3840
3841
3842 /**
3843  * Resets the connection timeout task, some other message has done the
3844  * task's job.
3845  * - For the first peer on the direction this means to send
3846  *   a keepalive or a path confirmation message (either create or ACK).
3847  * - For all other peers, this means to destroy the connection,
3848  *   due to lack of activity.
3849  * Starts the tiemout if no timeout was running (connection just created).
3850  *
3851  * @param c Connection whose timeout to reset.
3852  * @param fwd Is this forward?
3853  *
3854  * TODO use heap to improve efficiency of scheduler.
3855  */
3856 static void
3857 connection_reset_timeout (struct MeshConnection *c, int fwd)
3858 {
3859   GNUNET_SCHEDULER_TaskIdentifier *ti;
3860   GNUNET_SCHEDULER_Task f;
3861
3862   ti = fwd ? &c->fwd_maintenance_task : &c->bck_maintenance_task;
3863
3864   if (GNUNET_SCHEDULER_NO_TASK != *ti)
3865     GNUNET_SCHEDULER_cancel (*ti);
3866
3867   if (NULL != c->t->channel_head) /* Endpoint */
3868   {
3869     f  = fwd ? &connection_fwd_keepalive : &connection_bck_keepalive;
3870     *ti = GNUNET_SCHEDULER_add_delayed (refresh_connection_time, f, c);
3871   }
3872   else /* Relay */
3873   {
3874     struct GNUNET_TIME_Relative delay;
3875
3876     delay = GNUNET_TIME_relative_multiply (refresh_connection_time, 4);
3877     f  = fwd ? &connection_fwd_timeout : &connection_bck_timeout;
3878     *ti = GNUNET_SCHEDULER_add_delayed (delay, f, c);
3879   }
3880 }
3881
3882
3883 /******************************************************************************/
3884 /****************      MESH NETWORK HANDLER HELPERS     ***********************/
3885 /******************************************************************************/
3886
3887 /**
3888  * Free a transmission that was already queued with all resources
3889  * associated to the request.
3890  *
3891  * @param queue Queue handler to cancel.
3892  * @param clear_cls Is it necessary to free associated cls?
3893  */
3894 static void
3895 queue_destroy (struct MeshPeerQueue *queue, int clear_cls)
3896 {
3897   struct MeshFlowControl *fc;
3898
3899   fc = queue->peer->fc;
3900   if (GNUNET_YES == clear_cls)
3901   {
3902     switch (queue->type)
3903     {
3904       case GNUNET_MESSAGE_TYPE_MESH_CONNECTION_DESTROY:
3905         GNUNET_log (GNUNET_ERROR_TYPE_INFO, "destroying CONNECTION_DESTROY\n");
3906         GNUNET_break (GNUNET_YES == queue->c->destroy);
3907         /* fall through */
3908       case GNUNET_MESSAGE_TYPE_MESH_FWD:
3909       case GNUNET_MESSAGE_TYPE_MESH_BCK:
3910       case GNUNET_MESSAGE_TYPE_MESH_ACK:
3911       case GNUNET_MESSAGE_TYPE_MESH_POLL:
3912       case GNUNET_MESSAGE_TYPE_MESH_CONNECTION_ACK:
3913         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   prebuilt message\n");
3914         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   type %s\n",
3915                     GNUNET_MESH_DEBUG_M2S (queue->type));
3916         break;
3917
3918       case GNUNET_MESSAGE_TYPE_MESH_CONNECTION_CREATE:
3919         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   type create path\n");
3920         break;
3921
3922       default:
3923         GNUNET_break (0);
3924         GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "   type %s unknown!\n",
3925                     GNUNET_MESH_DEBUG_M2S (queue->type));
3926     }
3927     GNUNET_free_non_null (queue->cls);
3928   }
3929   GNUNET_CONTAINER_DLL_remove (fc->queue_head, fc->queue_tail, queue);
3930
3931   fc->queue_n--;
3932
3933   GNUNET_free (queue);
3934 }
3935
3936 static size_t
3937 queue_send (void *cls, size_t size, void *buf)
3938 {
3939   struct MeshPeer *peer = cls;
3940   const struct GNUNET_PeerIdentity *dst_id;
3941   struct GNUNET_MessageHeader *msg;
3942   struct MeshPeerQueue *queue;
3943   struct MeshTunnel2 *t;
3944   struct MeshFlowControl *fc;
3945   struct MeshConnection *c;
3946   size_t data_size;
3947   uint32_t pid;
3948   uint16_t type;
3949   int fwd;
3950
3951   fc = peer->fc;
3952   if (NULL == fc)
3953   {
3954     GNUNET_break (0);
3955     return 0;
3956   }
3957   fc->core_transmit = NULL;
3958
3959   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "* Queue send\n");
3960
3961   if (NULL == buf || 0 == size)
3962   {
3963     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "* Buffer size 0.\n");
3964     return 0;
3965   }
3966   queue = fc->queue_head;
3967
3968   /* Queue has no traffic */
3969   if (NULL == queue)
3970   {
3971     GNUNET_break (0); /* Core tmt_rdy should've been canceled */
3972     return 0;
3973   }
3974
3975   dst_id = GNUNET_PEER_resolve2 (peer->id);
3976   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   towards %s\n", GNUNET_i2s (dst_id));
3977   /* Check if buffer size is enough for the message */
3978   if (queue->size > size)
3979   {
3980       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   not enough room, reissue\n");
3981       fc->core_transmit =
3982           GNUNET_CORE_notify_transmit_ready (core_handle,
3983                                              GNUNET_NO,
3984                                              0,
3985                                              GNUNET_TIME_UNIT_FOREVER_REL,
3986                                              dst_id,
3987                                              queue->size,
3988                                              &queue_send,
3989                                              peer);
3990       return 0;
3991   }
3992   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   size ok\n");
3993
3994   c = queue->c;
3995   t = (NULL != c) ? c->t : NULL;
3996   type = 0;
3997
3998   /* Fill buf */
3999   switch (queue->type)
4000   {
4001     case GNUNET_MESSAGE_TYPE_MESH_CONNECTION_DESTROY:
4002     case GNUNET_MESSAGE_TYPE_MESH_CONNECTION_BROKEN:
4003     case GNUNET_MESSAGE_TYPE_MESH_FWD:
4004     case GNUNET_MESSAGE_TYPE_MESH_BCK:
4005     case GNUNET_MESSAGE_TYPE_MESH_ACK:
4006     case GNUNET_MESSAGE_TYPE_MESH_POLL:
4007       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4008                   "*   raw: %s\n",
4009                   GNUNET_MESH_DEBUG_M2S (queue->type));
4010       /* Fall through */
4011     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
4012     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
4013       data_size = send_core_data_raw (queue->cls, size, buf);
4014       msg = (struct GNUNET_MessageHeader *) buf;
4015       type = ntohs (msg->type);
4016       break;
4017     case GNUNET_MESSAGE_TYPE_MESH_CONNECTION_CREATE:
4018       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   path create\n");
4019       if (NULL != c->t->channel_head)
4020         data_size = send_core_connection_create (queue->cls, size, buf);
4021       else
4022         data_size = send_core_data_raw (queue->cls, size, buf);
4023       break;
4024     case GNUNET_MESSAGE_TYPE_MESH_CONNECTION_ACK:
4025       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   path ack\n");
4026       if (NULL != c->t->channel_head)
4027         data_size = send_core_connection_ack (queue->cls, size, buf);
4028       else
4029         data_size = send_core_data_raw (queue->cls, size, buf);
4030       break;
4031     default:
4032       GNUNET_break (0);
4033       GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "*   type unknown: %u\n",
4034                   queue->type);
4035       data_size = 0;
4036   }
4037
4038   fc->queue_n--;
4039
4040   if (0 < drop_percent &&
4041       GNUNET_CRYPTO_random_u32(GNUNET_CRYPTO_QUALITY_WEAK, 101) < drop_percent)
4042   {
4043     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4044                 "Dropping message of type %s\n",
4045                 GNUNET_MESH_DEBUG_M2S (queue->type));
4046     data_size = 0;
4047   }
4048   /* Free queue, but cls was freed by send_core_* */
4049   queue_destroy (queue, GNUNET_NO);
4050
4051   /* Send ACK if needed, after accounting for sent ID in fc->queue_n */
4052   fwd = GNUNET_NO;
4053   switch (type)
4054   {
4055     case GNUNET_MESSAGE_TYPE_MESH_FWD:
4056       fwd = GNUNET_YES;
4057       /* fall through */
4058     case GNUNET_MESSAGE_TYPE_MESH_BCK:
4059       pid = ntohl ( ((struct GNUNET_MESH_Encrypted *) buf)->pid );
4060       fc->last_pid_sent = pid;
4061       connection_send_ack (c, fwd);
4062       break;
4063     default:
4064       break;
4065   }
4066
4067   /* If more data in queue, send next */
4068   queue = fc->queue_head;
4069   if (NULL != queue)
4070   {
4071     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   more data!\n");
4072     if (NULL == fc->core_transmit) {
4073       peer->fc->core_transmit =
4074           GNUNET_CORE_notify_transmit_ready(core_handle,
4075                                             0,
4076                                             0,
4077                                             GNUNET_TIME_UNIT_FOREVER_REL,
4078                                             dst_id,
4079                                             queue->size,
4080                                             &queue_send,
4081                                             peer);
4082     }
4083     else
4084     {
4085       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4086                   "*   tmt rdy called somewhere else\n");
4087     }
4088     if (GNUNET_SCHEDULER_NO_TASK == fc->poll_task)
4089     {
4090       GNUNET_log (GNUNET_ERROR_TYPE_INFO, "*   %s starting poll timeout\n");
4091       fc->poll_task =
4092           GNUNET_SCHEDULER_add_delayed (fc->poll_time, &peer_poll, fc);
4093     }
4094   }
4095   else
4096   {
4097     if (GNUNET_SCHEDULER_NO_TASK != fc->poll_task)
4098     {
4099       GNUNET_SCHEDULER_cancel (fc->poll_task);
4100       fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
4101     }
4102   }
4103   if (NULL != c)
4104   {
4105     c->pending_messages--;
4106     if (GNUNET_YES == c->destroy && 0 == c->pending_messages)
4107     {
4108       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*  destroying connection!\n");
4109       connection_destroy (c);
4110     }
4111   }
4112
4113   if (NULL != t)
4114   {
4115     t->pending_messages--;
4116     if (GNUNET_YES == t->destroy && 0 == t->pending_messages)
4117     {
4118       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*  destroying tunnel!\n");
4119       tunnel_destroy (t);
4120     }
4121   }
4122   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*  Return %d\n", data_size);
4123   return data_size;
4124 }
4125
4126
4127 static void
4128 queue_add (void *cls, uint16_t type, size_t size,
4129            struct MeshPeer *dst,
4130            struct MeshConnection *c,
4131            struct MeshChannel *ch)
4132 {
4133   struct MeshPeerQueue *queue;
4134   struct MeshFlowControl *fc;
4135   int priority;
4136
4137   fc = dst->fc;
4138   if (NULL == fc)
4139   {
4140     GNUNET_break (0);
4141     return;
4142   }
4143
4144   priority = 0;
4145
4146   if (GNUNET_MESSAGE_TYPE_MESH_POLL == type ||
4147       GNUNET_MESSAGE_TYPE_MESH_ACK == type)
4148     priority = 100;
4149
4150   if (NULL != ch &&
4151       ( (NULL != ch->owner && GNUNET_MESSAGE_TYPE_MESH_FWD == type) ||
4152         (NULL != ch->client && GNUNET_MESSAGE_TYPE_MESH_BCK == type) ))
4153     priority = 50;
4154
4155   if (fc->queue_n >= fc->queue_max && 0 == priority)
4156   {
4157     GNUNET_STATISTICS_update (stats, "# messages dropped (buffer full)",
4158                               1, GNUNET_NO);
4159     GNUNET_break (0);
4160     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4161                 "queue full: %u/%u\n",
4162                 fc->queue_n, fc->queue_max);
4163     return; /* Drop this message */
4164   }
4165
4166   fc->queue_n++;
4167   if (GMC_is_pid_bigger(fc->last_pid_sent + 1, fc->last_ack_recv) &&
4168       GNUNET_SCHEDULER_NO_TASK == fc->poll_task)
4169     fc->poll_task = GNUNET_SCHEDULER_add_delayed (fc->poll_time,
4170                                                   &peer_poll,
4171                                                   dst);
4172   queue = GNUNET_malloc (sizeof (struct MeshPeerQueue));
4173   queue->cls = cls;
4174   queue->type = type;
4175   queue->size = size;
4176   queue->peer = dst;
4177   queue->c = c;
4178   queue->ch = ch;
4179   if (100 <= priority)
4180     GNUNET_CONTAINER_DLL_insert (fc->queue_head, fc->queue_tail, queue);
4181   else
4182     GNUNET_CONTAINER_DLL_insert_tail (fc->queue_head, fc->queue_tail, queue);
4183
4184   if (NULL == fc->core_transmit)
4185   {
4186     fc->core_transmit =
4187         GNUNET_CORE_notify_transmit_ready (core_handle,
4188                                            0,
4189                                            0,
4190                                            GNUNET_TIME_UNIT_FOREVER_REL,
4191                                            GNUNET_PEER_resolve2 (dst->id),
4192                                            size,
4193                                            &queue_send,
4194                                            dst);
4195   }
4196   c->pending_messages++;
4197   c->t->pending_messages++;
4198 }
4199
4200
4201 /******************************************************************************/
4202 /********************      MESH NETWORK HANDLERS     **************************/
4203 /******************************************************************************/
4204
4205
4206 /**
4207  * Core handler for connection creation.
4208  *
4209  * @param cls Closure (unused).
4210  * @param peer Sender (neighbor).
4211  * @param message Message.
4212  *
4213  * @return GNUNET_OK to keep the connection open,
4214  *         GNUNET_SYSERR to close it (signal serious error)
4215  */
4216 static int
4217 handle_mesh_connection_create (void *cls,
4218                                const struct GNUNET_PeerIdentity *peer,
4219                                const struct GNUNET_MessageHeader *message)
4220 {
4221   struct GNUNET_MESH_ConnectionCreate *msg;
4222   struct GNUNET_PeerIdentity *id;
4223   struct GNUNET_HashCode *tid;
4224   struct MeshPeerPath *path;
4225   struct MeshPeer *dest_peer;
4226   struct MeshPeer *orig_peer;
4227   struct MeshConnection *c;
4228   unsigned int own_pos;
4229   uint32_t cid;
4230   uint16_t size;
4231   uint16_t i;
4232
4233   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Received a connection create msg\n");
4234
4235   /* Check size */
4236   size = ntohs (message->size);
4237   if (size < sizeof (struct GNUNET_MESH_ConnectionCreate))
4238   {
4239     GNUNET_break_op (0);
4240     return GNUNET_OK;
4241   }
4242
4243   /* Calculate hops */
4244   size -= sizeof (struct GNUNET_MESH_ConnectionCreate);
4245   if (size % sizeof (struct GNUNET_PeerIdentity))
4246   {
4247     GNUNET_break_op (0);
4248     return GNUNET_OK;
4249   }
4250   size /= sizeof (struct GNUNET_PeerIdentity);
4251   if (1 > size)
4252   {
4253     GNUNET_break_op (0);
4254     return GNUNET_OK;
4255   }
4256   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    path has %u hops.\n", size);
4257
4258   /* Get parameters */
4259   msg = (struct GNUNET_MESH_ConnectionCreate *) message;
4260   cid = ntohl (msg->cid);
4261   tid = &msg->tid;
4262   id = (struct GNUNET_PeerIdentity *) &msg[1];
4263   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4264               "    connection %s[%X] (%s).\n",
4265               GNUNET_h2s (tid), cid, GNUNET_i2s (id));
4266
4267   /* Create connection */
4268   c = connection_get (tid, cid);
4269   if (NULL == c)
4270   {
4271     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Creating connection\n");
4272     c = connection_new (tid, cid);
4273     if (NULL == c)
4274       return GNUNET_OK;
4275   }
4276   connection_reset_timeout (c, GNUNET_YES);
4277   tunnel_change_state (c->t,  MESH_TUNNEL_WAITING);
4278
4279   /* Remember peers */
4280   dest_peer = peer_get (&id[size - 1]);
4281   orig_peer = peer_get (&id[0]);
4282
4283   /* Create path */
4284   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Creating path...\n");
4285   path = path_new (size);
4286   own_pos = 0;
4287   for (i = 0; i < size; i++)
4288   {
4289     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ... adding %s\n",
4290                 GNUNET_i2s (&id[i]));
4291     path->peers[i] = GNUNET_PEER_intern (&id[i]);
4292     if (path->peers[i] == myid)
4293       own_pos = i;
4294   }
4295   if (own_pos == 0 && path->peers[own_pos] != myid)
4296   {
4297     /* create path: self not found in path through self */
4298     GNUNET_break_op (0);
4299     path_destroy (path);
4300     connection_destroy (c);
4301     return GNUNET_OK;
4302   }
4303   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Own position: %u\n", own_pos);
4304   path_add_to_peers (path, GNUNET_NO);
4305   c->path = path;
4306   c->own_pos = own_pos;
4307
4308   /* Is it a connection to us? */
4309   if (own_pos == size - 1)
4310   {
4311     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  It's for us!\n");
4312     peer_add_path_to_origin (orig_peer, path, GNUNET_YES);
4313
4314     send_connection_ack (c);
4315
4316     /* Keep tunnel alive in direction dest->owner*/
4317     connection_reset_timeout (c, GNUNET_NO); 
4318   }
4319   else
4320   {
4321     /* It's for somebody else! Retransmit. */
4322     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Retransmitting.\n");
4323     peer_add_path (dest_peer, path_duplicate (path), GNUNET_NO);
4324     peer_add_path_to_origin (orig_peer, path, GNUNET_NO);
4325     send_prebuilt_message_connection (message, c, NULL, GNUNET_YES);
4326   }
4327   return GNUNET_OK;
4328 }
4329
4330
4331 /**
4332  * Core handler for path ACKs
4333  *
4334  * @param cls closure
4335  * @param message message
4336  * @param peer peer identity this notification is about
4337  *
4338  * @return GNUNET_OK to keep the connection open,
4339  *         GNUNET_SYSERR to close it (signal serious error)
4340  */
4341 static int
4342 handle_mesh_connection_ack (void *cls, const struct GNUNET_PeerIdentity *peer,
4343                             const struct GNUNET_MessageHeader *message)
4344 {
4345   struct GNUNET_MESH_ConnectionACK *msg;
4346   struct MeshPeerPath *p;
4347   struct MeshConnection *c;
4348   uint32_t cid;
4349
4350   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Received a connection ACK msg\n");
4351   msg = (struct GNUNET_MESH_ConnectionACK *) message;
4352   cid = ntohl(msg->cid);
4353   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on connection %s[%X]\n",
4354               GNUNET_h2s (&msg->tid), cid);
4355   c = connection_get (&msg->tid, cid);
4356   if (NULL == c)
4357   {
4358     GNUNET_STATISTICS_update (stats, "# control on unknown connection",
4359                               1, GNUNET_NO);
4360     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  don't know the connection!\n");
4361     return GNUNET_OK;
4362   }
4363
4364   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  via peer %s\n",
4365               GNUNET_i2s (peer));
4366
4367   /* Add path to peers? */
4368   p = c->path;
4369   if (NULL != p)
4370   {
4371     path_add_to_peers (p, GNUNET_YES);
4372   }
4373   else
4374   {
4375     GNUNET_break (0);
4376   }
4377   connection_change_state (c, MESH_CONNECTION_READY);
4378   connection_reset_timeout (c, GNUNET_NO);
4379
4380   /* Message for us? */
4381   if (NULL != c->t->channel_head)
4382   {
4383     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  It's for us!\n");
4384     if (3 <= tunnel_count_connections(c->t) && NULL != c->t->peer->dhtget)
4385     {
4386       GNUNET_DHT_get_stop (c->t->peer->dhtget);
4387       c->t->peer->dhtget = NULL;
4388     }
4389     connection_send_ack (c, GNUNET_NO); /* FIXME */
4390     return GNUNET_OK;
4391   }
4392
4393   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  not for us, retransmitting...\n");
4394   send_prebuilt_message_connection (message, c, NULL, GNUNET_NO);
4395   return GNUNET_OK;
4396 }
4397
4398
4399 /**
4400  * Core handler for notifications of broken paths
4401  *
4402  * @param cls closure
4403  * @param message message
4404  * @param peer peer identity this notification is about
4405  *
4406  * @return GNUNET_OK to keep the connection open,
4407  *         GNUNET_SYSERR to close it (signal serious error)
4408  */
4409 static int
4410 handle_mesh_path_broken (void *cls, const struct GNUNET_PeerIdentity *peer,
4411                          const struct GNUNET_MessageHeader *message)
4412 {
4413   struct GNUNET_MESH_PathBroken *msg;
4414   struct MeshTunnel *t;
4415
4416   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4417               "Received a PATH BROKEN msg from %s\n", GNUNET_i2s (peer));
4418   msg = (struct GNUNET_MESH_PathBroken *) message;
4419   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  regarding %s\n",
4420               GNUNET_i2s (&msg->peer1));
4421   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  regarding %s\n",
4422               GNUNET_i2s (&msg->peer2));
4423   t = channel_get (&msg->oid, ntohl (msg->tid));
4424   if (NULL == t)
4425   {
4426     GNUNET_break_op (0);
4427     return GNUNET_OK;
4428   }
4429   tunnel_notify_connection_broken (t, GNUNET_PEER_search (&msg->peer1),
4430                                    GNUNET_PEER_search (&msg->peer2));
4431   return GNUNET_OK;
4432
4433 }
4434
4435
4436 /**
4437  * Core handler for tunnel destruction
4438  *
4439  * @param cls closure
4440  * @param message message
4441  * @param peer peer identity this notification is about
4442  *
4443  * @return GNUNET_OK to keep the connection open,
4444  *         GNUNET_SYSERR to close it (signal serious error)
4445  */
4446 static int
4447 handle_mesh_tunnel_destroy (void *cls, const struct GNUNET_PeerIdentity *peer,
4448                             const struct GNUNET_MessageHeader *message)
4449 {
4450   struct GNUNET_MESH_TunnelDestroy *msg;
4451   struct MeshTunnel *t;
4452
4453   msg = (struct GNUNET_MESH_TunnelDestroy *) message;
4454   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4455               "Got a TUNNEL DESTROY packet from %s\n",
4456               GNUNET_i2s (peer));
4457   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4458               "  for tunnel %s [%u]\n",
4459               GNUNET_i2s (&msg->oid), ntohl (msg->tid));
4460   t = channel_get (&msg->oid, ntohl (msg->tid));
4461   if (NULL == t)
4462   {
4463     /* Probably already got the message from another path,
4464      * destroyed the tunnel and retransmitted to children.
4465      * Safe to ignore.
4466      */
4467     GNUNET_STATISTICS_update (stats, "# control on unknown tunnel",
4468                               1, GNUNET_NO);
4469     return GNUNET_OK;
4470   }
4471   if (t->local_tid_dest >= GNUNET_MESH_LOCAL_CHANNEL_ID_SERV)
4472   {
4473     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "INCOMING TUNNEL %X %X\n",
4474                 t->local_tid, t->local_tid_dest);
4475   }
4476   if (GNUNET_PEER_search (peer) == t->prev_hop)
4477   {
4478     // TODO check owner's signature
4479     // TODO add owner's signatue to tunnel for retransmission
4480     peer_cancel_queues (t->prev_hop, t);
4481     GNUNET_PEER_change_rc (t->prev_hop, -1);
4482     t->prev_hop = 0;
4483   }
4484   else if (GNUNET_PEER_search (peer) == t->next_hop)
4485   {
4486     // TODO check dest's signature
4487     // TODO add dest's signatue to tunnel for retransmission
4488     peer_cancel_queues (t->next_hop, t);
4489     GNUNET_PEER_change_rc (t->next_hop, -1);
4490     t->next_hop = 0;
4491   }
4492   else
4493   {
4494     GNUNET_break_op (0);
4495     // TODO check both owner AND destination's signature to see which matches
4496     // TODO restransmit in appropriate direction
4497     return GNUNET_OK;
4498   }
4499   tunnel_destroy_empty (t);
4500
4501   // TODO: add timeout to destroy the tunnel anyway
4502   return GNUNET_OK;
4503 }
4504
4505
4506 /**
4507  * Generic handler for mesh network payload traffic.
4508  *
4509  * @param peer Peer identity this notification is about.
4510  * @param message Data message.
4511  * @param fwd Is this FWD traffic? GNUNET_YES : GNUNET_NO;
4512  *
4513  * @return GNUNET_OK to keep the connection open,
4514  *         GNUNET_SYSERR to close it (signal serious error)
4515  */
4516 static int
4517 handle_mesh_data (const struct GNUNET_PeerIdentity *peer,
4518                   const struct GNUNET_MessageHeader *message,
4519                   int fwd)
4520 {
4521   struct GNUNET_MESH_Data *msg;
4522   struct MeshFlowControl *fc;
4523   struct MeshChannelReliability *rel;
4524   struct MeshTunnel *t;
4525   struct MeshClient *c;
4526   GNUNET_PEER_Id hop;
4527   uint32_t pid;
4528   uint32_t ttl;
4529   uint16_t type;
4530   size_t size;
4531
4532   /* Check size */
4533   size = ntohs (message->size);
4534   if (size <
4535       sizeof (struct GNUNET_MESH_Data) +
4536       sizeof (struct GNUNET_MessageHeader))
4537   {
4538     GNUNET_break (0);
4539     return GNUNET_OK;
4540   }
4541   type =ntohs (message->type);
4542   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a %s message from %s\n",
4543               GNUNET_MESH_DEBUG_M2S (type), GNUNET_i2s (peer));
4544   msg = (struct GNUNET_MESH_Data *) message;
4545   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " payload of type %s\n",
4546               GNUNET_MESH_DEBUG_M2S (ntohs (msg[1].header.type)));
4547   /* Check tunnel */
4548   t = channel_get (&msg->oid, ntohl (msg->tid));
4549   if (NULL == t)
4550   {
4551     /* TODO notify back: we don't know this tunnel */
4552     GNUNET_STATISTICS_update (stats, "# data on unknown tunnel", 1, GNUNET_NO);
4553     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "WARNING tunnel unknown\n");
4554     return GNUNET_OK;
4555   }
4556
4557   /*  Initialize FWD/BCK data */
4558   pid = ntohl (msg->pid);
4559   fc =  fwd ? &t->prev_fc : &t->next_fc;
4560   c =   fwd ? t->client   : t->owner;
4561   rel = fwd ? t->bck_rel  : t->fwd_rel;
4562   hop = fwd ? t->next_hop : t->prev_hop;
4563   if (GMC_is_pid_bigger (pid, fc->last_ack_sent))
4564   {
4565     GNUNET_STATISTICS_update (stats, "# unsolicited data", 1, GNUNET_NO);
4566     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4567                 "WARNING Received PID %u, (prev %u), ACK %u\n",
4568                 pid, fc->last_pid_recv, fc->last_ack_sent);
4569     return GNUNET_OK;
4570   }
4571   if (NULL != c)
4572     tunnel_change_state (t, MESH_TUNNEL_READY);
4573   tunnel_reset_timeout (t, fwd);
4574   if (NULL != c)
4575   {
4576     /* TODO signature verification */
4577     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  it's for us! sending to client\n");
4578     GNUNET_STATISTICS_update (stats, "# data received", 1, GNUNET_NO);
4579     if (GMC_is_pid_bigger (pid, fc->last_pid_recv))
4580     {
4581       uint32_t mid;
4582
4583       mid = ntohl (msg->mid);
4584       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4585                   " pid %u (mid %u) not seen yet\n", pid, mid);
4586       fc->last_pid_recv = pid;
4587
4588       if (GNUNET_NO == t->reliable ||
4589           ( !GMC_is_pid_bigger (rel->mid_recv, mid) &&
4590             GMC_is_pid_bigger (rel->mid_recv + 64, mid) ) )
4591       {
4592         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4593                     "!!! RECV %u\n", ntohl (msg->mid));
4594         if (GNUNET_YES == t->reliable)
4595         {
4596           /* Is this the exact next expected messasge? */
4597           if (mid == rel->mid_recv)
4598           {
4599             GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "as expected\n");
4600             rel->mid_recv++;
4601             tunnel_send_client_data (t, msg, fwd);
4602             tunnel_send_client_buffered_data (t, c, rel);
4603           }
4604           else
4605           {
4606             GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "save for later\n");
4607             tunnel_add_buffered_data (t, msg, rel);
4608           }
4609         }
4610         else /* Tunnel unreliable, send to clients directly */
4611         {
4612           tunnel_send_client_data (t, msg, fwd);
4613         }
4614       }
4615       else
4616       {
4617         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4618                     " MID %u not expected (%u - %u), dropping!\n",
4619                     ntohl (msg->mid), rel->mid_recv, rel->mid_recv + 64);
4620       }
4621     }
4622     else
4623     {
4624 //       GNUNET_STATISTICS_update (stats, "# duplicate PID", 1, GNUNET_NO);
4625       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4626                   " Pid %u not expected (%u+), dropping!\n",
4627                   pid, fc->last_pid_recv + 1);
4628     }
4629     tunnel_send_ack (t, type, fwd);
4630     return GNUNET_OK;
4631   }
4632   fc->last_pid_recv = pid;
4633   if (0 == hop)
4634   {
4635     GNUNET_STATISTICS_update (stats, "# data on dying tunnel", 1, GNUNET_NO);
4636     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "data on dying tunnel %s[%X]\n",
4637                 GNUNET_PEER_resolve2 (t->id.oid), ntohl (msg->tid));
4638     return GNUNET_OK; /* Next hop has destoyed the tunnel, drop */
4639   }
4640   ttl = ntohl (msg->ttl);
4641   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   ttl: %u\n", ttl);
4642   if (ttl == 0)
4643   {
4644     GNUNET_STATISTICS_update (stats, "# TTL drops", 1, GNUNET_NO);
4645     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, " TTL is 0, DROPPING!\n");
4646     tunnel_send_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK, fwd);
4647     return GNUNET_OK;
4648   }
4649
4650   if (myid != hop)
4651   {
4652     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  not for us, retransmitting...\n");
4653     send_prebuilt_message (message, hop, t);
4654     GNUNET_STATISTICS_update (stats, "# unicast forwarded", 1, GNUNET_NO);
4655   }
4656   return GNUNET_OK;
4657 }
4658
4659
4660 /**
4661  * Core handler for mesh network traffic going from the origin to a peer
4662  *
4663  * @param cls Closure (unused).
4664  * @param message Message received.
4665  * @param peer Peer who sent the message.
4666  *
4667  * @return GNUNET_OK to keep the connection open,
4668  *         GNUNET_SYSERR to close it (signal serious error)
4669  */
4670 static int
4671 handle_mesh_unicast (void *cls, const struct GNUNET_PeerIdentity *peer,
4672                      const struct GNUNET_MessageHeader *message)
4673 {
4674   return handle_mesh_data (peer, message, GNUNET_YES);
4675 }
4676
4677 /**
4678  * Core handler for mesh network traffic towards the owner of a tunnel.
4679  *
4680  * @param cls Closure (unused).
4681  * @param message Message received.
4682  * @param peer Peer who sent the message.
4683  *
4684  * @return GNUNET_OK to keep the connection open,
4685  *         GNUNET_SYSERR to close it (signal serious error)
4686  */
4687 static int
4688 handle_mesh_to_orig (void *cls, const struct GNUNET_PeerIdentity *peer,
4689                      const struct GNUNET_MessageHeader *message)
4690 {
4691   return handle_mesh_data (peer, message, GNUNET_NO);
4692 }
4693
4694
4695 /**
4696  * Core handler for mesh network traffic end-to-end ACKs.
4697  *
4698  * @param cls Closure.
4699  * @param message Message.
4700  * @param peer Peer identity this notification is about.
4701  *
4702  * @return GNUNET_OK to keep the connection open,
4703  *         GNUNET_SYSERR to close it (signal serious error)
4704  */
4705 static int
4706 handle_mesh_data_ack (void *cls, const struct GNUNET_PeerIdentity *peer,
4707                       const struct GNUNET_MessageHeader *message)
4708 {
4709   struct GNUNET_MESH_DataACK *msg;
4710   struct MeshChannelReliability *rel;
4711   struct MeshReliableMessage *copy;
4712   struct MeshReliableMessage *next;
4713   struct MeshTunnel *t;
4714   GNUNET_PEER_Id id;
4715   uint32_t ack;
4716   uint16_t type;
4717   int work;
4718
4719   type = ntohs (message->type);
4720   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got a %s message from %s!\n",
4721               GNUNET_MESH_DEBUG_M2S (type), GNUNET_i2s (peer));
4722   msg = (struct GNUNET_MESH_DataACK *) message;
4723
4724   t = channel_get (&msg->oid, ntohl (msg->tid));
4725   if (NULL == t)
4726   {
4727     /* TODO notify that we dont know this tunnel (whom)? */
4728     GNUNET_STATISTICS_update (stats, "# ack on unknown tunnel", 1, GNUNET_NO);
4729     return GNUNET_OK;
4730   }
4731   ack = ntohl (msg->mid);
4732   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ACK %u\n", ack);
4733
4734   /* Is this a forward or backward ACK? */
4735   id = GNUNET_PEER_search (peer);
4736   if (t->next_hop == id && GNUNET_MESSAGE_TYPE_MESH_UNICAST_ACK == type)
4737   {
4738     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  FWD ACK\n");
4739     if (NULL == t->owner)
4740     {
4741       send_prebuilt_message (message, t->prev_hop, t);
4742       return GNUNET_OK;
4743     }
4744     rel = t->fwd_rel;
4745   }
4746   else if (t->prev_hop == id && GNUNET_MESSAGE_TYPE_MESH_TO_ORIG_ACK == type)
4747   {
4748     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  BCK ACK\n");
4749     if (NULL == t->client)
4750     {
4751       send_prebuilt_message (message, t->next_hop, t);
4752       return GNUNET_OK;
4753     }
4754     rel = t->bck_rel;
4755   }
4756   else
4757   {
4758     GNUNET_break_op (0);
4759     return GNUNET_OK;
4760   }
4761
4762   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!! ACK %u\n", ack);
4763   for (work = GNUNET_NO, copy = rel->head_sent; copy != NULL; copy = next)
4764   {
4765    if (GMC_is_pid_bigger (copy->mid, ack))
4766     {
4767       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!!  head %u, out!\n", copy->mid);
4768       tunnel_free_sent_reliable (t, msg, rel);
4769       break;
4770     }
4771     work = GNUNET_YES;
4772     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!!  id %u\n", copy->mid);
4773     next = copy->next;
4774     tunnel_free_reliable_message (copy);
4775   }
4776   /* Once buffers have been free'd, send ACK */
4777   tunnel_send_ack (t, type, GNUNET_MESSAGE_TYPE_MESH_UNICAST_ACK == type);
4778
4779   /* If some message was free'd, update the retransmission delay*/
4780   if (GNUNET_YES == work)
4781   {
4782     if (GNUNET_SCHEDULER_NO_TASK != rel->retry_task)
4783     {
4784       GNUNET_SCHEDULER_cancel (rel->retry_task);
4785       if (NULL == rel->head_sent)
4786       {
4787         rel->retry_task = GNUNET_SCHEDULER_NO_TASK;
4788       }
4789       else
4790       {
4791         struct GNUNET_TIME_Absolute new_target;
4792         struct GNUNET_TIME_Relative delay;
4793
4794         delay = GNUNET_TIME_relative_multiply (rel->retry_timer,
4795                                                MESH_RETRANSMIT_MARGIN);
4796         new_target = GNUNET_TIME_absolute_add (rel->head_sent->timestamp,
4797                                                delay);
4798         delay = GNUNET_TIME_absolute_get_remaining (new_target);
4799         rel->retry_task =
4800             GNUNET_SCHEDULER_add_delayed (delay,
4801                                           &tunnel_retransmit_message,
4802                                           rel);
4803       }
4804     }
4805     else
4806       GNUNET_break (0);
4807   }
4808   return GNUNET_OK;
4809 }
4810
4811 /**
4812  * Core handler for mesh network traffic point-to-point acks.
4813  *
4814  * @param cls closure
4815  * @param message message
4816  * @param peer peer identity this notification is about
4817  *
4818  * @return GNUNET_OK to keep the connection open,
4819  *         GNUNET_SYSERR to close it (signal serious error)
4820  */
4821 static int
4822 handle_mesh_ack (void *cls, const struct GNUNET_PeerIdentity *peer,
4823                  const struct GNUNET_MessageHeader *message)
4824 {
4825   struct GNUNET_MESH_ACK *msg;
4826   struct MeshTunnel *t;
4827   struct MeshFlowControl *fc;
4828   GNUNET_PEER_Id id;
4829   uint32_t ack;
4830
4831   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got an ACK packet from %s!\n",
4832               GNUNET_i2s (peer));
4833   msg = (struct GNUNET_MESH_ACK *) message;
4834
4835   t = channel_get (&msg->oid, ntohl (msg->tid));
4836
4837   if (NULL == t)
4838   {
4839     /* TODO notify that we dont know this tunnel (whom)? */
4840     GNUNET_STATISTICS_update (stats, "# ack on unknown tunnel", 1, GNUNET_NO);
4841     return GNUNET_OK;
4842   }
4843   ack = ntohl (msg->pid);
4844   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ACK %u\n", ack);
4845
4846   /* Is this a forward or backward ACK? */
4847   id = GNUNET_PEER_search (peer);
4848   if (t->next_hop == id)
4849   {
4850     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  FWD ACK\n");
4851     fc = &t->next_fc;
4852   }
4853   else if (t->prev_hop == id)
4854   {
4855     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  BCK ACK\n");
4856     fc = &t->prev_fc;
4857   }
4858   else
4859   {
4860     GNUNET_break_op (0);
4861     return GNUNET_OK;
4862   }
4863
4864   if (GNUNET_SCHEDULER_NO_TASK != fc->poll_task &&
4865       GMC_is_pid_bigger (ack, fc->last_ack_recv))
4866   {
4867     GNUNET_SCHEDULER_cancel (fc->poll_task);
4868     fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
4869     fc->poll_time = GNUNET_TIME_UNIT_SECONDS;
4870   }
4871
4872   fc->last_ack_recv = ack;
4873   peer_unlock_queue (id);
4874   tunnel_change_state (t, MESH_TUNNEL_READY);
4875
4876   tunnel_send_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK, t->next_hop == id);
4877
4878   return GNUNET_OK;
4879 }
4880
4881
4882 /**
4883  * Core handler for mesh network traffic point-to-point ack polls.
4884  *
4885  * @param cls closure
4886  * @param message message
4887  * @param peer peer identity this notification is about
4888  *
4889  * @return GNUNET_OK to keep the connection open,
4890  *         GNUNET_SYSERR to close it (signal serious error)
4891  */
4892 static int
4893 handle_mesh_poll (void *cls, const struct GNUNET_PeerIdentity *peer,
4894                   const struct GNUNET_MessageHeader *message)
4895 {
4896   struct GNUNET_MESH_Poll *msg;
4897   struct MeshTunnel *t;
4898   struct MeshFlowControl *fc;
4899   GNUNET_PEER_Id id;
4900   uint32_t pid;
4901   uint32_t old;
4902
4903   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got a POLL packet from %s!\n",
4904               GNUNET_i2s (peer));
4905
4906   msg = (struct GNUNET_MESH_Poll *) message;
4907
4908   t = channel_get (&msg->oid, ntohl (msg->tid));
4909
4910   if (NULL == t)
4911   {
4912     /* TODO notify that we dont know this tunnel (whom)? */
4913     GNUNET_STATISTICS_update (stats, "# poll on unknown tunnel", 1, GNUNET_NO);
4914     GNUNET_break_op (0);
4915     return GNUNET_OK;
4916   }
4917
4918   /* Is this a forward or backward ACK? */
4919   id = GNUNET_PEER_search (peer);
4920   pid = ntohl (msg->pid);
4921   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  PID %u\n", pid);
4922   if (t->next_hop == id)
4923   {
4924     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  from FWD\n");
4925     fc = &t->next_fc;
4926     old = fc->last_pid_recv;
4927   }
4928   else if (t->prev_hop == id)
4929   {
4930     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  from BCK\n");
4931     fc = &t->prev_fc;
4932     old = fc->last_pid_recv;
4933   }
4934   else
4935   {
4936     GNUNET_break (0);
4937     return GNUNET_OK;
4938   }
4939
4940   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  was %u\n", fc->last_pid_recv);
4941   fc->last_pid_recv = pid;
4942   tunnel_send_ack (t, GNUNET_MESSAGE_TYPE_MESH_POLL, t->prev_hop == id);
4943
4944   if (GNUNET_YES == t->reliable)
4945     fc->last_pid_recv = old;
4946
4947   return GNUNET_OK;
4948 }
4949
4950
4951 /**
4952  * Core handler for mesh keepalives.
4953  *
4954  * @param cls closure
4955  * @param message message
4956  * @param peer peer identity this notification is about
4957  * @return GNUNET_OK to keep the connection open,
4958  *         GNUNET_SYSERR to close it (signal serious error)
4959  *
4960  * TODO: Check who we got this from, to validate route.
4961  */
4962 static int
4963 handle_mesh_keepalive (void *cls, const struct GNUNET_PeerIdentity *peer,
4964                        const struct GNUNET_MessageHeader *message)
4965 {
4966   struct GNUNET_MESH_TunnelKeepAlive *msg;
4967   struct MeshTunnel *t;
4968   struct MeshClient *c;
4969   GNUNET_PEER_Id hop;
4970   int fwd;
4971
4972   msg = (struct GNUNET_MESH_TunnelKeepAlive *) message;
4973   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a keepalive packet from %s\n",
4974               GNUNET_i2s (peer));
4975
4976   t = channel_get (&msg->oid, ntohl (msg->tid));
4977   if (NULL == t)
4978   {
4979     /* TODO notify that we dont know that tunnel */
4980     GNUNET_STATISTICS_update (stats, "# keepalive on unknown tunnel", 1,
4981                               GNUNET_NO);
4982     return GNUNET_OK;
4983   }
4984
4985   fwd = GNUNET_MESSAGE_TYPE_MESH_FWD_KEEPALIVE == ntohs (message->type) ? 
4986         GNUNET_YES : GNUNET_NO;
4987   c   = fwd ? t->client   : t->owner;
4988   hop = fwd ? t->next_hop : t->prev_hop;
4989
4990   if (NULL != c)
4991     tunnel_change_state (t, MESH_TUNNEL_READY);
4992   tunnel_reset_timeout (t, fwd);
4993   if (NULL != c || 0 == hop || myid == hop)
4994     return GNUNET_OK;
4995
4996   GNUNET_STATISTICS_update (stats, "# keepalives forwarded", 1, GNUNET_NO);
4997   send_prebuilt_message (message, hop, t);
4998   return GNUNET_OK;
4999   }
5000
5001
5002
5003 /**
5004  * Functions to handle messages from core
5005  */
5006 static struct GNUNET_CORE_MessageHandler core_handlers[] = {
5007   {&handle_mesh_connection_create, GNUNET_MESSAGE_TYPE_MESH_CONNECTION_CREATE,
5008     0},
5009   {&handle_mesh_connection_ack, GNUNET_MESSAGE_TYPE_MESH_CONNECTION_ACK,
5010     sizeof (struct GNUNET_MESH_ConnectionACK)},
5011   {&handle_mesh_path_broken, GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN,
5012    sizeof (struct GNUNET_MESH_PathBroken)},
5013   {&handle_mesh_tunnel_destroy, GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY,
5014    sizeof (struct GNUNET_MESH_TunnelDestroy)},
5015   {&handle_mesh_unicast, GNUNET_MESSAGE_TYPE_MESH_UNICAST, 0},
5016   {&handle_mesh_to_orig, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN, 0},
5017   {&handle_mesh_data_ack, GNUNET_MESSAGE_TYPE_MESH_UNICAST_ACK,
5018     sizeof (struct GNUNET_MESH_DataACK)},
5019   {&handle_mesh_data_ack, GNUNET_MESSAGE_TYPE_MESH_TO_ORIG_ACK,
5020     sizeof (struct GNUNET_MESH_DataACK)},
5021   {&handle_mesh_keepalive, GNUNET_MESSAGE_TYPE_MESH_FWD_KEEPALIVE,
5022     sizeof (struct GNUNET_MESH_TunnelKeepAlive)},
5023   {&handle_mesh_keepalive, GNUNET_MESSAGE_TYPE_MESH_BCK_KEEPALIVE,
5024     sizeof (struct GNUNET_MESH_TunnelKeepAlive)},
5025   {&handle_mesh_ack, GNUNET_MESSAGE_TYPE_MESH_ACK,
5026     sizeof (struct GNUNET_MESH_ACK)},
5027   {&handle_mesh_poll, GNUNET_MESSAGE_TYPE_MESH_POLL,
5028     sizeof (struct GNUNET_MESH_Poll)},
5029   {NULL, 0, 0}
5030 };
5031
5032
5033 /**
5034  * Function to process paths received for a new peer addition. The recorded
5035  * paths form the initial tunnel, which can be optimized later.
5036  * Called on each result obtained for the DHT search.
5037  *
5038  * @param cls closure
5039  * @param exp when will this value expire
5040  * @param key key of the result
5041  * @param get_path path of the get request
5042  * @param get_path_length lenght of get_path
5043  * @param put_path path of the put request
5044  * @param put_path_length length of the put_path
5045  * @param type type of the result
5046  * @param size number of bytes in data
5047  * @param data pointer to the result data
5048  */
5049 static void
5050 dht_get_id_handler (void *cls, struct GNUNET_TIME_Absolute exp,
5051                     const struct GNUNET_HashCode * key,
5052                     const struct GNUNET_PeerIdentity *get_path,
5053                     unsigned int get_path_length,
5054                     const struct GNUNET_PeerIdentity *put_path,
5055                     unsigned int put_path_length, enum GNUNET_BLOCK_Type type,
5056                     size_t size, const void *data)
5057 {
5058   struct MeshPeer *peer = cls;
5059   struct MeshPeerPath *p;
5060   struct MeshConnection *c;
5061   struct GNUNET_PeerIdentity pi;
5062   int i;
5063
5064   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got results from DHT!\n");
5065   GNUNET_PEER_resolve (peer->id, &pi);
5066   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  for %s\n", GNUNET_i2s (&pi));
5067
5068   p = path_build_from_dht (get_path, get_path_length,
5069                            put_path, put_path_length);
5070   path_add_to_peers (p, GNUNET_NO);
5071   path_destroy (p);
5072
5073   /* Count connections */
5074   for (c = peer->tunnel->connection_head, i = 0; NULL != c; c = c->next, i++);
5075
5076   /* If we already have 3 (or more (?!)) connections, it's enough */
5077   if (3 <= i)
5078     return;
5079
5080   if (peer->tunnel->state == MESH_TUNNEL_SEARCHING)
5081   {
5082     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " ... connect!\n");
5083     peer_connect (peer);
5084   }
5085   return;
5086 }
5087
5088
5089 /******************************************************************************/
5090 /*********************       MESH LOCAL HANDLES      **************************/
5091 /******************************************************************************/
5092
5093
5094 /**
5095  * Handler for client connection.
5096  *
5097  * @param cls Closure (unused).
5098  * @param client Client handler.
5099  */
5100 static void
5101 handle_local_client_connect (void *cls, struct GNUNET_SERVER_Client *client)
5102 {
5103   struct MeshClient *c;
5104
5105   if (NULL == client)
5106     return;
5107   c = GNUNET_malloc (sizeof (struct MeshClient));
5108   c->handle = client;
5109   GNUNET_SERVER_client_keep (client);
5110   GNUNET_SERVER_client_set_user_context (client, c);
5111   GNUNET_CONTAINER_DLL_insert (clients_head, clients_tail, c);
5112 }
5113
5114
5115 /**
5116  * Handler for client disconnection
5117  *
5118  * @param cls closure
5119  * @param client identification of the client; NULL
5120  *        for the last call when the server is destroyed
5121  */
5122 static void
5123 handle_local_client_disconnect (void *cls, struct GNUNET_SERVER_Client *client)
5124 {
5125   struct MeshClient *c;
5126   struct MeshClient *next;
5127
5128   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "client disconnected: %p\n", client);
5129   if (client == NULL)
5130   {
5131     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (SERVER DOWN)\n");
5132     return;
5133   }
5134
5135   c = client_get (client);
5136   if (NULL != c)
5137   {
5138     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "matching client found (%u, %p)\n",
5139                 c->id, c);
5140     GNUNET_SERVER_client_drop (c->handle);
5141     c->shutting_down = GNUNET_YES;
5142     if (NULL != c->own_tunnels)
5143     {
5144       GNUNET_CONTAINER_multihashmap32_iterate (c->own_tunnels,
5145                                                &tunnel_destroy_iterator, c);
5146       GNUNET_CONTAINER_multihashmap32_destroy (c->own_tunnels);
5147     }
5148
5149     if (NULL != c->incoming_tunnels)
5150     {
5151       GNUNET_CONTAINER_multihashmap32_iterate (c->incoming_tunnels,
5152                                                &tunnel_destroy_iterator, c);
5153       GNUNET_CONTAINER_multihashmap32_destroy (c->incoming_tunnels);
5154     }
5155
5156     if (NULL != c->ports)
5157     {
5158       GNUNET_CONTAINER_multihashmap32_iterate (c->ports,
5159                                                &client_release_ports, c);
5160       GNUNET_CONTAINER_multihashmap32_destroy (c->ports);
5161     }
5162     next = c->next;
5163     GNUNET_CONTAINER_DLL_remove (clients_head, clients_tail, c);
5164     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  client free (%p)\n", c);
5165     GNUNET_free (c);
5166     GNUNET_STATISTICS_update (stats, "# clients", -1, GNUNET_NO);
5167     c = next;
5168   }
5169   else
5170   {
5171     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, " context NULL!\n");
5172   }
5173   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "done!\n");
5174   return;
5175 }
5176
5177
5178 /**
5179  * Handler for new clients
5180  *
5181  * @param cls closure
5182  * @param client identification of the client
5183  * @param message the actual message, which includes messages the client wants
5184  */
5185 static void
5186 handle_local_new_client (void *cls, struct GNUNET_SERVER_Client *client,
5187                          const struct GNUNET_MessageHeader *message)
5188 {
5189   struct GNUNET_MESH_ClientConnect *cc_msg;
5190   struct MeshClient *c;
5191   unsigned int size;
5192   uint32_t *p;
5193   unsigned int i;
5194
5195   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new client connected %p\n", client);
5196
5197   /* Check data sanity */
5198   size = ntohs (message->size) - sizeof (struct GNUNET_MESH_ClientConnect);
5199   cc_msg = (struct GNUNET_MESH_ClientConnect *) message;
5200   if (0 != (size % sizeof (uint32_t)))
5201   {
5202     GNUNET_break (0);
5203     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5204     return;
5205   }
5206   size /= sizeof (uint32_t);
5207
5208   /* Initialize new client structure */
5209   c = GNUNET_SERVER_client_get_user_context (client, struct MeshClient);
5210   c->id = next_client_id++; /* overflow not important: just for debug */
5211   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  client id %u\n", c->id);
5212   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  client has %u ports\n", size);
5213   if (size > 0)
5214   {
5215     uint32_t u32;
5216
5217     p = (uint32_t *) &cc_msg[1];
5218     c->ports = GNUNET_CONTAINER_multihashmap32_create (size);
5219     for (i = 0; i < size; i++)
5220     {
5221       u32 = ntohl (p[i]);
5222       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    port: %u\n", u32);
5223
5224       /* store in client's hashmap */
5225       GNUNET_CONTAINER_multihashmap32_put (c->ports, u32, c,
5226                                            GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
5227       /* store in global hashmap */
5228       /* FIXME only allow one client to have the port open,
5229        *       have a backup hashmap with waiting clients */
5230       GNUNET_CONTAINER_multihashmap32_put (ports, u32, c,
5231                                            GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
5232     }
5233   }
5234
5235   c->own_channels = GNUNET_CONTAINER_multihashmap32_create (32);
5236   c->incoming_channels = GNUNET_CONTAINER_multihashmap32_create (32);
5237   GNUNET_SERVER_notification_context_add (nc, client);
5238   GNUNET_STATISTICS_update (stats, "# clients", 1, GNUNET_NO);
5239
5240   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5241   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new client processed\n");
5242 }
5243
5244
5245 /**
5246  * Handler for requests of new tunnels
5247  *
5248  * @param cls Closure.
5249  * @param client Identification of the client.
5250  * @param message The actual message.
5251  */
5252 static void
5253 handle_local_channel_create (void *cls, struct GNUNET_SERVER_Client *client,
5254                             const struct GNUNET_MessageHeader *message)
5255 {
5256   struct GNUNET_MESH_ChannelMessage *msg;
5257   struct MeshPeer *peer;
5258   struct MeshTunnel2 *t;
5259   struct MeshChannel *ch;
5260   struct MeshClient *c;
5261   MESH_ChannelNumber chid;
5262
5263   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new channel requested\n");
5264
5265   /* Sanity check for client registration */
5266   if (NULL == (c = client_get (client)))
5267   {
5268     GNUNET_break (0);
5269     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5270     return;
5271   }
5272   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
5273
5274   /* Message size sanity check */
5275   if (sizeof (struct GNUNET_MESH_ChannelMessage) != ntohs (message->size))
5276   {
5277     GNUNET_break (0);
5278     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5279     return;
5280   }
5281
5282   msg = (struct GNUNET_MESH_ChannelMessage *) message;
5283   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  towards %s:%u\n",
5284               GNUNET_i2s (&msg->peer), ntohl (msg->port));
5285   chid = ntohl (msg->channel_id);
5286
5287   /* Sanity check for duplicate tunnel IDs */
5288   if (NULL != channel_get_by_local_id (c, chid))
5289   {
5290     GNUNET_break (0);
5291     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5292     return;
5293   }
5294
5295   peer = peer_get (&msg->peer);
5296   if (NULL == peer->tunnel)
5297     peer->tunnel = tunnel_new ();
5298   t = peer->tunnel;
5299
5300   /* Create channel */
5301   while (NULL != channel_get_by_pi (myid, next_tid))
5302     next_tid = (next_tid + 1) & ~GNUNET_MESH_LOCAL_CHANNEL_ID_CLI;
5303   t = tunnel_new (myid, next_tid, c, chid);
5304   next_tid = (next_tid + 1) & ~GNUNET_MESH_LOCAL_CHANNEL_ID_CLI;
5305   if (NULL == t)
5306   {
5307     GNUNET_break (0);
5308     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5309     return;
5310   }
5311   t->port = ntohl (msg->port);
5312   tunnel_set_options (t, ntohl (msg->opt));
5313   if (GNUNET_YES == t->reliable)
5314   {
5315     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!! Reliable\n");
5316     t->fwd_rel = GNUNET_malloc (sizeof (struct MeshChannelReliability));
5317     t->fwd_rel->t = t;
5318     t->fwd_rel->expected_delay = MESH_RETRANSMIT_TIME;
5319   }
5320
5321   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "CREATED TUNNEL %s[%x]:%u (%x)\n",
5322               GNUNET_i2s (&my_full_id), t->id.tid, t->port, t->local_tid);
5323
5324   peer_info = peer_get (&msg->peer);
5325   peer_add_tunnel (peer_info, t);
5326   peer_connect (peer_info, t);
5327   tunnel_reset_timeout (t, GNUNET_YES);
5328   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5329   return;
5330 }
5331
5332
5333 /**
5334  * Handler for requests of deleting tunnels
5335  *
5336  * @param cls closure
5337  * @param client identification of the client
5338  * @param message the actual message
5339  */
5340 static void
5341 handle_local_channel_destroy (void *cls, struct GNUNET_SERVER_Client *client,
5342                              const struct GNUNET_MessageHeader *message)
5343 {
5344   struct GNUNET_MESH_ChannelMessage *tunnel_msg;
5345   struct MeshClient *c;
5346   struct MeshTunnel *t;
5347   MESH_ChannelNumber tid;
5348
5349   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5350               "Got a DESTROY TUNNEL from client!\n");
5351
5352   /* Sanity check for client registration */
5353   if (NULL == (c = client_get (client)))
5354   {
5355     GNUNET_break (0);
5356     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5357     return;
5358   }
5359   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
5360
5361   /* Message sanity check */
5362   if (sizeof (struct GNUNET_MESH_ChannelMessage) != ntohs (message->size))
5363   {
5364     GNUNET_break (0);
5365     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5366     return;
5367   }
5368
5369   tunnel_msg = (struct GNUNET_MESH_ChannelMessage *) message;
5370
5371   /* Retrieve tunnel */
5372   tid = ntohl (tunnel_msg->channel_id);
5373   t = channel_get_by_local_id (c, tid);
5374   if (NULL == t)
5375   {
5376     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "  tunnel %X not found\n", tid);
5377     GNUNET_break (0);
5378     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5379     return;
5380   }
5381
5382   /* Cleanup after the tunnel */
5383   client_delete_tunnel (c, t);
5384   if (c == t->client && GNUNET_MESH_LOCAL_CHANNEL_ID_SERV <= tid)
5385   {
5386     t->client = NULL;
5387   }
5388   else if (c == t->owner && GNUNET_MESH_LOCAL_CHANNEL_ID_SERV > tid)
5389   {
5390     peer_remove_tunnel (peer_get_short (t->dest), t);
5391     t->owner = NULL;
5392   }
5393   else 
5394   {
5395     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5396                 "  tunnel %X client %p (%p, %p)\n",
5397                 tid, c, t->owner, t->client);
5398     GNUNET_break (0);
5399   }
5400
5401   /* The tunnel will be destroyed when the last message is transmitted. */
5402   tunnel_destroy_empty (t);
5403
5404   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5405   return;
5406 }
5407
5408
5409 /**
5410  * Handler for client traffic
5411  *
5412  * @param cls closure
5413  * @param client identification of the client
5414  * @param message the actual message
5415  */
5416 static void
5417 handle_local_data (void *cls, struct GNUNET_SERVER_Client *client,
5418                    const struct GNUNET_MessageHeader *message)
5419 {
5420   struct GNUNET_MESH_LocalData *data_msg;
5421   struct MeshClient *c;
5422   struct MeshTunnel *t;
5423   struct MeshFlowControl *fc;
5424   MESH_ChannelNumber tid;
5425   size_t size;
5426
5427   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5428               "Got data from a client!\n");
5429
5430   /* Sanity check for client registration */
5431   if (NULL == (c = client_get (client)))
5432   {
5433     GNUNET_break (0);
5434     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5435     return;
5436   }
5437   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
5438
5439   data_msg = (struct GNUNET_MESH_LocalData *) message;
5440
5441   /* Sanity check for message size */
5442   size = ntohs (message->size) - sizeof (struct GNUNET_MESH_LocalData);
5443   if (size < sizeof (struct GNUNET_MessageHeader))
5444   {
5445     GNUNET_break (0);
5446     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5447     return;
5448   }
5449
5450   /* Tunnel exists? */
5451   tid = ntohl (data_msg->tid);
5452   t = channel_get_by_local_id (c, tid);
5453   if (NULL == t)
5454   {
5455     GNUNET_break (0);
5456     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5457     return;
5458   }
5459
5460   /* Is the client in the tunnel? */
5461   if ( !( (tid < GNUNET_MESH_LOCAL_CHANNEL_ID_SERV &&
5462            t->owner &&
5463            t->owner->handle == client)
5464          ||
5465           (tid >= GNUNET_MESH_LOCAL_CHANNEL_ID_SERV &&
5466            t->client && 
5467            t->client->handle == client) ) )
5468   {
5469     GNUNET_break (0);
5470     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5471     return;
5472   }
5473
5474   /* Ok, everything is correct, send the message
5475    * (pretend we got it from a mesh peer)
5476    */
5477   {
5478     struct GNUNET_MESH_Data *payload;
5479     char cbuf[sizeof(struct GNUNET_MESH_Data) + size];
5480
5481     fc = tid < GNUNET_MESH_LOCAL_CHANNEL_ID_SERV ? &t->prev_fc : &t->next_fc;
5482     if (GNUNET_YES == t->reliable)
5483     {
5484       struct MeshChannelReliability *rel;
5485       struct MeshReliableMessage *copy;
5486
5487       rel = (tid < GNUNET_MESH_LOCAL_CHANNEL_ID_SERV) ? t->fwd_rel : t->bck_rel;
5488       copy = GNUNET_malloc (sizeof (struct MeshReliableMessage)
5489                             + sizeof(struct GNUNET_MESH_Data)
5490                             + size);
5491       copy->mid = rel->mid_sent++;
5492       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "!!! DATA %u\n", copy->mid);
5493       copy->timestamp = GNUNET_TIME_absolute_get ();
5494       copy->rel = rel;
5495       rel->n_sent++;
5496       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " n_sent %u\n", rel->n_sent);
5497       GNUNET_CONTAINER_DLL_insert_tail (rel->head_sent, rel->tail_sent, copy);
5498       if (GNUNET_SCHEDULER_NO_TASK == rel->retry_task)
5499       {
5500         rel->retry_timer =
5501             GNUNET_TIME_relative_multiply (rel->expected_delay,
5502                                            MESH_RETRANSMIT_MARGIN);
5503         rel->retry_task =
5504             GNUNET_SCHEDULER_add_delayed (rel->retry_timer,
5505                                           &tunnel_retransmit_message,
5506                                           rel);
5507       }
5508       payload = (struct GNUNET_MESH_Data *) &copy[1];
5509       payload->mid = htonl (copy->mid);
5510     }
5511     else
5512     {
5513       payload = (struct GNUNET_MESH_Data *) cbuf;
5514       payload->mid = htonl (fc->last_pid_recv + 1);
5515     }
5516     memcpy (&payload[1], &data_msg[1], size);
5517     payload->header.size = htons (sizeof (struct GNUNET_MESH_Data) + size);
5518     payload->header.type = htons (tid < GNUNET_MESH_LOCAL_CHANNEL_ID_SERV ?
5519                                   GNUNET_MESSAGE_TYPE_MESH_UNICAST :
5520                                   GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN);
5521     GNUNET_PEER_resolve(t->id.oid, &payload->oid);;
5522     payload->tid = htonl (t->id.tid);
5523     payload->ttl = htonl (default_ttl);
5524     payload->pid = htonl (fc->last_pid_recv + 1);
5525     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5526                 "  calling generic handler...\n");
5527     if (tid < GNUNET_MESH_LOCAL_CHANNEL_ID_SERV)
5528       handle_mesh_unicast (NULL, &my_full_id, &payload->header);
5529     else
5530       handle_mesh_to_orig (NULL, &my_full_id, &payload->header);
5531   }
5532   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "receive done OK\n");
5533   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5534
5535   return;
5536 }
5537
5538
5539 /**
5540  * Handler for client's ACKs for payload traffic.
5541  *
5542  * @param cls Closure (unused).
5543  * @param client Identification of the client.
5544  * @param message The actual message.
5545  */
5546 static void
5547 handle_local_ack (void *cls, struct GNUNET_SERVER_Client *client,
5548                   const struct GNUNET_MessageHeader *message)
5549 {
5550   struct GNUNET_MESH_LocalAck *msg;
5551   struct MeshTunnel *t;
5552   struct MeshClient *c;
5553   MESH_ChannelNumber tid;
5554
5555   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got a local ACK\n");
5556   /* Sanity check for client registration */
5557   if (NULL == (c = client_get (client)))
5558   {
5559     GNUNET_break (0);
5560     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5561     return;
5562   }
5563   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
5564
5565   msg = (struct GNUNET_MESH_LocalAck *) message;
5566
5567   /* Tunnel exists? */
5568   tid = ntohl (msg->channel_id);
5569   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %X\n", tid);
5570   t = channel_get_by_local_id (c, tid);
5571   if (NULL == t)
5572   {
5573     GNUNET_break (0);
5574     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "Tunnel %X unknown.\n", tid);
5575     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "  for client %u.\n", c->id);
5576     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5577     return;
5578   }
5579
5580   /* Does client own tunnel? I.E: Is this an ACK for BCK traffic? */
5581   if (tid < GNUNET_MESH_LOCAL_CHANNEL_ID_SERV)
5582   {
5583     /* The client owns the tunnel, ACK is for data to_origin, send BCK ACK. */
5584     t->prev_fc.last_ack_recv++;
5585     tunnel_send_ack (t, GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK, GNUNET_NO);
5586   }
5587   else
5588   {
5589     /* The client doesn't own the tunnel, this ACK is for FWD traffic. */
5590     t->next_fc.last_ack_recv++;
5591     tunnel_send_ack (t, GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK, GNUNET_YES);
5592   }
5593
5594   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5595
5596   return;
5597 }
5598
5599
5600
5601 /**
5602  * Iterator over all tunnels to send a monitoring client info about each tunnel.
5603  *
5604  * @param cls Closure (client handle).
5605  * @param key Key (hashed tunnel ID, unused).
5606  * @param value Tunnel info.
5607  *
5608  * @return GNUNET_YES, to keep iterating.
5609  */
5610 static int
5611 monitor_all_tunnels_iterator (void *cls,
5612                               const struct GNUNET_HashCode * key,
5613                               void *value)
5614 {
5615   struct GNUNET_SERVER_Client *client = cls;
5616   struct MeshChannel *ch = value;
5617   struct GNUNET_MESH_LocalMonitor *msg;
5618
5619   msg = GNUNET_malloc (sizeof(struct GNUNET_MESH_LocalMonitor));
5620   msg->channel_id = htonl (ch->id);
5621   msg->header.size = htons (sizeof (struct GNUNET_MESH_LocalMonitor));
5622   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNELS);
5623
5624   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5625               "*  sending info about tunnel %s\n",
5626               GNUNET_i2s (&msg->owner));
5627
5628   GNUNET_SERVER_notification_context_unicast (nc, client,
5629                                               &msg->header, GNUNET_NO);
5630   return GNUNET_YES;
5631 }
5632
5633
5634 /**
5635  * Handler for client's MONITOR request.
5636  *
5637  * @param cls Closure (unused).
5638  * @param client Identification of the client.
5639  * @param message The actual message.
5640  */
5641 static void
5642 handle_local_get_tunnels (void *cls, struct GNUNET_SERVER_Client *client,
5643                           const struct GNUNET_MessageHeader *message)
5644 {
5645   struct MeshClient *c;
5646
5647   /* Sanity check for client registration */
5648   if (NULL == (c = client_get (client)))
5649   {
5650     GNUNET_break (0);
5651     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5652     return;
5653   }
5654
5655   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5656               "Received get tunnels request from client %u\n",
5657               c->id);
5658   GNUNET_CONTAINER_multihashmap_iterate (tunnels,
5659                                          monitor_all_tunnels_iterator,
5660                                          client);
5661   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5662               "Get tunnels request from client %u completed\n",
5663               c->id);
5664   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5665 }
5666
5667
5668 /**
5669  * Handler for client's MONITOR_TUNNEL request.
5670  *
5671  * @param cls Closure (unused).
5672  * @param client Identification of the client.
5673  * @param message The actual message.
5674  */
5675 static void
5676 handle_local_show_tunnel (void *cls, struct GNUNET_SERVER_Client *client,
5677                           const struct GNUNET_MessageHeader *message)
5678 {
5679   const struct GNUNET_MESH_LocalMonitor *msg;
5680   struct GNUNET_MESH_LocalMonitor *resp;
5681   struct MeshClient *c;
5682   struct MeshChannel *ch;
5683
5684   /* Sanity check for client registration */
5685   if (NULL == (c = client_get (client)))
5686   {
5687     GNUNET_break (0);
5688     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5689     return;
5690   }
5691
5692   msg = (struct GNUNET_MESH_LocalMonitor *) message;
5693   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5694               "Received tunnel info request from client %u for tunnel %s[%X]\n",
5695               c->id,
5696               &msg->owner,
5697               ntohl (msg->channel_id));
5698   ch = channel_get (&msg->owner, ntohl (msg->channel_id));
5699   if (NULL == ch)
5700   {
5701     /* We don't know the tunnel */
5702     struct GNUNET_MESH_LocalMonitor warn;
5703
5704     warn = *msg;
5705     GNUNET_SERVER_notification_context_unicast (nc, client,
5706                                                 &warn.header,
5707                                                 GNUNET_NO);
5708     GNUNET_SERVER_receive_done (client, GNUNET_OK);
5709     return;
5710   }
5711
5712   /* Initialize context */
5713   resp = GNUNET_malloc (sizeof (struct GNUNET_MESH_LocalMonitor));
5714   *resp = *msg;
5715   resp->header.size = htons (sizeof (struct GNUNET_MESH_LocalMonitor));
5716   GNUNET_SERVER_notification_context_unicast (nc, c->handle,
5717                                               &resp->header, GNUNET_NO);
5718   GNUNET_free (resp);
5719
5720   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5721               "Monitor tunnel request from client %u completed\n",
5722               c->id);
5723   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5724 }
5725
5726
5727 /**
5728  * Functions to handle messages from clients
5729  */
5730 static struct GNUNET_SERVER_MessageHandler client_handlers[] = {
5731   {&handle_local_new_client, NULL,
5732    GNUNET_MESSAGE_TYPE_MESH_LOCAL_CONNECT, 0},
5733   {&handle_local_channel_create, NULL,
5734    GNUNET_MESSAGE_TYPE_MESH_CHANNEL_CREATE,
5735    sizeof (struct GNUNET_MESH_ChannelMessage)},
5736   {&handle_local_channel_destroy, NULL,
5737    GNUNET_MESSAGE_TYPE_MESH_CHANNEL_DESTROY,
5738    sizeof (struct GNUNET_MESH_ChannelMessage)},
5739   {&handle_local_data, NULL,
5740    GNUNET_MESSAGE_TYPE_MESH_LOCAL_DATA, 0},
5741   {&handle_local_ack, NULL,
5742    GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK,
5743    sizeof (struct GNUNET_MESH_LocalAck)},
5744   {&handle_local_get_tunnels, NULL,
5745    GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNELS,
5746    sizeof (struct GNUNET_MessageHeader)},
5747   {&handle_local_show_tunnel, NULL,
5748    GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNEL,
5749      sizeof (struct GNUNET_MESH_LocalMonitor)},
5750   {NULL, NULL, 0, 0}
5751 };
5752
5753
5754 /**
5755  * Method called whenever a given peer connects.
5756  *
5757  * @param cls closure
5758  * @param peer peer identity this notification is about
5759  */
5760 static void
5761 core_connect (void *cls, const struct GNUNET_PeerIdentity *peer)
5762 {
5763   struct MeshPeer *peer_info;
5764   struct MeshPeerPath *path;
5765
5766   DEBUG_CONN ("Peer connected\n");
5767   DEBUG_CONN ("     %s\n", GNUNET_i2s (&my_full_id));
5768   peer_info = peer_get (peer);
5769   if (myid == peer_info->id)
5770   {
5771     DEBUG_CONN ("     (self)\n");
5772     path = path_new (1);
5773   }
5774   else
5775   {
5776     DEBUG_CONN ("     %s\n", GNUNET_i2s (peer));
5777     path = path_new (2);
5778     path->peers[1] = peer_info->id;
5779     GNUNET_PEER_change_rc (peer_info->id, 1);
5780     GNUNET_STATISTICS_update (stats, "# peers", 1, GNUNET_NO);
5781   }
5782   path->peers[0] = myid;
5783   GNUNET_PEER_change_rc (myid, 1);
5784   peer_add_path (peer_info, path, GNUNET_YES);
5785   if (NULL == peer_info->fc)
5786   {
5787     peer_info->fc = GNUNET_new (struct MeshFlowControl);
5788     fc_init (peer_info->fc);
5789     peer_info->fc->peer = peer_info;
5790   }
5791   return;
5792 }
5793
5794
5795 /**
5796  * Method called whenever a peer disconnects.
5797  *
5798  * @param cls closure
5799  * @param peer peer identity this notification is about
5800  */
5801 static void
5802 core_disconnect (void *cls, const struct GNUNET_PeerIdentity *peer)
5803 {
5804   struct MeshPeer *pi;
5805   struct MeshPeerQueue *q;
5806   struct MeshPeerQueue *n;
5807   struct MeshFlowControl *fc;
5808
5809   DEBUG_CONN ("Peer disconnected\n");
5810   pi = GNUNET_CONTAINER_multihashmap_get (peers, &peer->hashPubKey);
5811   if (NULL == pi)
5812   {
5813     GNUNET_break (0);
5814     return;
5815   }
5816   fc = pi->fc;
5817   if (NULL != fc)
5818   {
5819     GNUNET_break (0);
5820     return;
5821   }
5822   pi->fc = NULL;
5823
5824   q = fc->queue_head;
5825   while (NULL != q)
5826   {
5827       n = q->next;
5828       queue_destroy (q, GNUNET_YES);
5829       q = n;
5830   }
5831   if (NULL != fc->core_transmit)
5832     GNUNET_CORE_notify_transmit_ready_cancel (fc->core_transmit);
5833   if (GNUNET_SCHEDULER_NO_TASK != fc->poll_task)
5834     GNUNET_SCHEDULER_cancel (fc->poll_task);
5835
5836   peer_remove_path (pi, pi->id, myid);
5837   if (myid == pi->id)
5838   {
5839     DEBUG_CONN ("     (self)\n");
5840   }
5841   GNUNET_STATISTICS_update (stats, "# peers", -1, GNUNET_NO);
5842   GNUNET_free (fc);
5843
5844   return;
5845 }
5846
5847
5848 /**
5849  * Install server (service) handlers and start listening to clients.
5850  */
5851 static void
5852 server_init (void)
5853 {
5854   GNUNET_SERVER_add_handlers (server_handle, client_handlers);
5855   GNUNET_SERVER_connect_notify (server_handle,
5856                                 &handle_local_client_connect, NULL);
5857   GNUNET_SERVER_disconnect_notify (server_handle,
5858                                    &handle_local_client_disconnect, NULL);
5859   nc = GNUNET_SERVER_notification_context_create (server_handle, 1);
5860
5861   clients_head = NULL;
5862   clients_tail = NULL;
5863   next_client_id = 0;
5864   GNUNET_SERVER_resume (server_handle);
5865 }
5866
5867
5868 /**
5869  * To be called on core init/fail.
5870  *
5871  * @param cls Closure (config)
5872  * @param server handle to the server for this service
5873  * @param identity the public identity of this peer
5874  */
5875 static void
5876 core_init (void *cls, struct GNUNET_CORE_Handle *server,
5877            const struct GNUNET_PeerIdentity *identity)
5878 {
5879   const struct GNUNET_CONFIGURATION_Handle *c = cls;
5880   static int i = 0;
5881
5882   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Core init\n");
5883   GNUNET_break (core_handle == server);
5884   if (0 != memcmp (identity, &my_full_id, sizeof (my_full_id)) ||
5885     NULL == server)
5886   {
5887     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, _("Wrong CORE service\n"));
5888     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5889                 " core id %s\n",
5890                 GNUNET_i2s (identity));
5891     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5892                 " my id %s\n",
5893                 GNUNET_i2s (&my_full_id));
5894     GNUNET_CORE_disconnect (core_handle);
5895     core_handle = GNUNET_CORE_connect (c, /* Main configuration */
5896                                        NULL,      /* Closure passed to MESH functions */
5897                                        &core_init,        /* Call core_init once connected */
5898                                        &core_connect,     /* Handle connects */
5899                                        &core_disconnect,  /* remove peers on disconnects */
5900                                        NULL,      /* Don't notify about all incoming messages */
5901                                        GNUNET_NO, /* For header only in notification */
5902                                        NULL,      /* Don't notify about all outbound messages */
5903                                        GNUNET_NO, /* For header-only out notification */
5904                                        core_handlers);    /* Register these handlers */
5905     if (10 < i++)
5906       GNUNET_abort();
5907   }
5908   server_init ();
5909   return;
5910 }
5911
5912
5913 /******************************************************************************/
5914 /************************      MAIN FUNCTIONS      ****************************/
5915 /******************************************************************************/
5916
5917 /**
5918  * Iterator over tunnel hash map entries to destroy the tunnel during shutdown.
5919  *
5920  * @param cls closure
5921  * @param key current key code
5922  * @param value value in the hash map
5923  * @return GNUNET_YES if we should continue to iterate,
5924  *         GNUNET_NO if not.
5925  */
5926 static int
5927 shutdown_tunnel (void *cls, const struct GNUNET_HashCode * key, void *value)
5928 {
5929   struct MeshTunnel2 *t = value;
5930
5931   tunnel_destroy (t);
5932   return GNUNET_YES;
5933 }
5934
5935 /**
5936  * Iterator over peer hash map entries to destroy the tunnel during shutdown.
5937  *
5938  * @param cls closure
5939  * @param key current key code
5940  * @param value value in the hash map
5941  * @return GNUNET_YES if we should continue to iterate,
5942  *         GNUNET_NO if not.
5943  */
5944 static int
5945 shutdown_peer (void *cls, const struct GNUNET_HashCode * key, void *value)
5946 {
5947   struct MeshPeer *p = value;
5948   struct MeshPeerQueue *q;
5949   struct MeshPeerQueue *n;
5950
5951   q = p->fc->queue_head;
5952   while (NULL != q)
5953   {
5954       n = q->next;
5955       if (q->peer == p)
5956       {
5957         queue_destroy(q, GNUNET_YES);
5958       }
5959       q = n;
5960   }
5961   peer_destroy (p);
5962   return GNUNET_YES;
5963 }
5964
5965
5966 /**
5967  * Task run during shutdown.
5968  *
5969  * @param cls unused
5970  * @param tc unused
5971  */
5972 static void
5973 shutdown_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
5974 {
5975   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shutting down\n");
5976
5977   if (core_handle != NULL)
5978   {
5979     GNUNET_CORE_disconnect (core_handle);
5980     core_handle = NULL;
5981   }
5982   GNUNET_CONTAINER_multihashmap_iterate (tunnels, &shutdown_tunnel, NULL);
5983   GNUNET_CONTAINER_multihashmap_iterate (peers, &shutdown_peer, NULL);
5984   if (dht_handle != NULL)
5985   {
5986     GNUNET_DHT_disconnect (dht_handle);
5987     dht_handle = NULL;
5988   }
5989   if (nc != NULL)
5990   {
5991     GNUNET_SERVER_notification_context_destroy (nc);
5992     nc = NULL;
5993   }
5994   if (GNUNET_SCHEDULER_NO_TASK != announce_id_task)
5995   {
5996     GNUNET_SCHEDULER_cancel (announce_id_task);
5997     announce_id_task = GNUNET_SCHEDULER_NO_TASK;
5998   }
5999   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shut down\n");
6000 }
6001
6002
6003 /**
6004  * Process mesh requests.
6005  *
6006  * @param cls closure
6007  * @param server the initialized server
6008  * @param c configuration to use
6009  */
6010 static void
6011 run (void *cls, struct GNUNET_SERVER_Handle *server,
6012      const struct GNUNET_CONFIGURATION_Handle *c)
6013 {
6014   char *keyfile;
6015   struct GNUNET_CRYPTO_EccPrivateKey *pk;
6016
6017   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "starting to run\n");
6018   server_handle = server;
6019   GNUNET_SERVER_suspend (server_handle);
6020
6021   if (GNUNET_OK !=
6022       GNUNET_CONFIGURATION_get_value_filename (c, "PEER", "PRIVATE_KEY",
6023                                                &keyfile))
6024   {
6025     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
6026                 _
6027                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
6028                 "mesh", "peer/privatekey");
6029     GNUNET_SCHEDULER_shutdown ();
6030     return;
6031   }
6032
6033   if (GNUNET_OK !=
6034       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "REFRESH_CONNECTION_TIME",
6035                                            &refresh_connection_time))
6036   {
6037     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
6038                 _
6039                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
6040                 "mesh", "refresh path time");
6041     GNUNET_SCHEDULER_shutdown ();
6042     return;
6043   }
6044
6045   if (GNUNET_OK !=
6046       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "ID_ANNOUNCE_TIME",
6047                                            &id_announce_time))
6048   {
6049     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
6050                 _
6051                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
6052                 "mesh", "id announce time");
6053     GNUNET_SCHEDULER_shutdown ();
6054     return;
6055   }
6056
6057   if (GNUNET_OK !=
6058       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "CONNECT_TIMEOUT",
6059                                            &connect_timeout))
6060   {
6061     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
6062                 _
6063                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
6064                 "mesh", "connect timeout");
6065     GNUNET_SCHEDULER_shutdown ();
6066     return;
6067   }
6068
6069   if (GNUNET_OK !=
6070       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_MSGS_QUEUE",
6071                                              &max_msgs_queue))
6072   {
6073     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
6074                 _
6075                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
6076                 "mesh", "max msgs queue");
6077     GNUNET_SCHEDULER_shutdown ();
6078     return;
6079   }
6080
6081   if (GNUNET_OK !=
6082       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_TUNNELS",
6083                                              &max_tunnels))
6084   {
6085     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
6086                 _
6087                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
6088                 "mesh", "max tunnels");
6089     GNUNET_SCHEDULER_shutdown ();
6090     return;
6091   }
6092
6093   if (GNUNET_OK !=
6094       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "DEFAULT_TTL",
6095                                              &default_ttl))
6096   {
6097     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
6098                 _
6099                 ("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
6100                 "mesh", "default ttl", 64);
6101     default_ttl = 64;
6102   }
6103
6104   if (GNUNET_OK !=
6105       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_PEERS",
6106                                              &max_peers))
6107   {
6108     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
6109                 _("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
6110                 "mesh", "max peers", 1000);
6111     max_peers = 1000;
6112   }
6113
6114   if (GNUNET_OK !=
6115       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "DROP_PERCENT",
6116                                              &drop_percent))
6117   {
6118     drop_percent = 0;
6119   }
6120   else
6121   {
6122     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
6123                 "Mesh is running with drop mode enabled. "
6124                 "This is NOT a good idea! "
6125                 "Remove the DROP_PERCENT option from your configuration.\n");
6126   }
6127
6128   if (GNUNET_OK !=
6129       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "DHT_REPLICATION_LEVEL",
6130                                              &dht_replication_level))
6131   {
6132     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
6133                 _
6134                 ("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
6135                 "mesh", "dht replication level", 3);
6136     dht_replication_level = 3;
6137   }
6138
6139   tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
6140   peers = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
6141   ports = GNUNET_CONTAINER_multihashmap32_create (32);
6142
6143   dht_handle = GNUNET_DHT_connect (c, 64);
6144   if (NULL == dht_handle)
6145   {
6146     GNUNET_break (0);
6147   }
6148   stats = GNUNET_STATISTICS_create ("mesh", c);
6149
6150   /* Scheduled the task to clean up when shutdown is called */
6151   GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_UNIT_FOREVER_REL, &shutdown_task,
6152                                 NULL);
6153   pk = GNUNET_CRYPTO_ecc_key_create_from_file (keyfile);
6154   GNUNET_free (keyfile);
6155   GNUNET_assert (NULL != pk);
6156   my_private_key = pk;
6157   GNUNET_CRYPTO_ecc_key_get_public (my_private_key, &my_public_key);
6158   GNUNET_CRYPTO_hash (&my_public_key, sizeof (my_public_key),
6159                       &my_full_id.hashPubKey);
6160   myid = GNUNET_PEER_intern (&my_full_id);
6161   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
6162               "Mesh for peer [%s] starting\n",
6163               GNUNET_i2s(&my_full_id));
6164
6165   core_handle = GNUNET_CORE_connect (c, /* Main configuration */
6166                                      NULL,      /* Closure passed to MESH functions */
6167                                      &core_init,        /* Call core_init once connected */
6168                                      &core_connect,     /* Handle connects */
6169                                      &core_disconnect,  /* remove peers on disconnects */
6170                                      NULL,      /* Don't notify about all incoming messages */
6171                                      GNUNET_NO, /* For header only in notification */
6172                                      NULL,      /* Don't notify about all outbound messages */
6173                                      GNUNET_NO, /* For header-only out notification */
6174                                      core_handlers);    /* Register these handlers */
6175   if (NULL == core_handle)
6176   {
6177     GNUNET_break (0);
6178     GNUNET_SCHEDULER_shutdown ();
6179     return;
6180   }
6181   announce_id_task = GNUNET_SCHEDULER_add_now (&announce_id, cls);
6182   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Mesh service running\n");
6183 }
6184
6185
6186 /**
6187  * The main function for the mesh service.
6188  *
6189  * @param argc number of arguments from the command line
6190  * @param argv command line arguments
6191  * @return 0 ok, 1 on error
6192  */
6193 int
6194 main (int argc, char *const *argv)
6195 {
6196   int ret;
6197   int r;
6198
6199   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "main()\n");
6200   r = GNUNET_SERVICE_run (argc, argv, "mesh", GNUNET_SERVICE_OPTION_NONE, &run,
6201                           NULL);
6202   ret = (GNUNET_OK == r) ? 0 : 1;
6203   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "main() END\n");
6204
6205   INTERVAL_SHOW;
6206
6207   return ret;
6208 }