- fix memleak
[oweals/gnunet.git] / src / mesh / gnunet-service-mesh-new.c
1 /*
2      This file is part of GNUnet.
3      (C) 2001-2013 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file mesh/gnunet-service-mesh-new.c
23  * @brief GNUnet MESH service
24  * @author Bartlomiej Polot
25  *
26  * TODO:
27  * - relay corking down to core
28  * - set ttl relative to path length
29  * - add signatures
30  * - add encryption
31  * - keep queues until receiving ACK
32  * TODO END
33  */
34
35 #include "platform.h"
36 #include "mesh2.h"
37 #include "mesh2_protocol.h"
38 #include "mesh_path.h"
39 #include "block_mesh.h"
40 #include "gnunet_dht_service.h"
41 #include "gnunet_statistics_service.h"
42
43 #define MESH_BLOOM_SIZE         128
44
45 #define MESH_DEBUG_DHT          GNUNET_NO
46 #define MESH_DEBUG_CONNECTION   GNUNET_NO
47 #define MESH_DEBUG_TIMING       __LINUX__ && GNUNET_NO
48
49 #define MESH_MAX_POLL_TIME      GNUNET_TIME_relative_multiply (\
50                                   GNUNET_TIME_UNIT_MINUTES,\
51                                   10)
52
53 #if MESH_DEBUG_CONNECTION
54 #define DEBUG_CONN(...) GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, __VA_ARGS__)
55 #else
56 #define DEBUG_CONN(...)
57 #endif
58
59 #if MESH_DEBUG_DHT
60 #define DEBUG_DHT(...) GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, __VA_ARGS__)
61 #else
62 #define DEBUG_DHT(...)
63 #endif
64
65 #if MESH_DEBUG_TIMING
66 #include <time.h>
67 double __sum;
68 uint64_t __count;
69 struct timespec __mesh_start;
70 struct timespec __mesh_end;
71 #define INTERVAL_START clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &(__mesh_start))
72 #define INTERVAL_END \
73 do {\
74   clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &(__mesh_end));\
75   double __diff = __mesh_end.tv_nsec - __mesh_start.tv_nsec;\
76   if (__diff < 0) __diff += 1000000000;\
77   __sum += __diff;\
78   __count++;\
79 } while (0)
80 #define INTERVAL_SHOW \
81 if (0 < __count)\
82   GNUNET_log (GNUNET_ERROR_TYPE_INFO, "AVG process time: %f ns\n", __sum/__count)
83 #else
84 #define INTERVAL_START
85 #define INTERVAL_END
86 #define INTERVAL_SHOW
87 #endif
88
89 /******************************************************************************/
90 /************************      DATA STRUCTURES     ****************************/
91 /******************************************************************************/
92
93 /** FWD declaration */
94 struct MeshPeerInfo;
95 struct MeshClient;
96
97
98 /**
99  * Struct containing info about a queued transmission to this peer
100  */
101 struct MeshPeerQueue
102 {
103     /**
104       * DLL next
105       */
106   struct MeshPeerQueue *next;
107
108     /**
109       * DLL previous
110       */
111   struct MeshPeerQueue *prev;
112
113     /**
114      * Peer this transmission is directed to.
115      */
116   struct MeshPeerInfo *peer;
117
118     /**
119      * Tunnel this message belongs to.
120      */
121   struct MeshTunnel *tunnel;
122
123     /**
124      * Pointer to info stucture used as cls.
125      */
126   void *cls;
127
128     /**
129      * Type of message
130      */
131   uint16_t type;
132
133     /**
134      * Size of the message
135      */
136   size_t size;
137 };
138
139
140 /**
141  * Struct containing all information regarding a given peer
142  */
143 struct MeshPeerInfo
144 {
145     /**
146      * ID of the peer
147      */
148   GNUNET_PEER_Id id;
149
150     /**
151      * Last time we heard from this peer
152      */
153   struct GNUNET_TIME_Absolute last_contact;
154
155     /**
156      * Number of attempts to reconnect so far
157      */
158   int n_reconnect_attempts;
159
160     /**
161      * Paths to reach the peer, ordered by ascending hop count
162      */
163   struct MeshPeerPath *path_head;
164
165     /**
166      * Paths to reach the peer, ordered by ascending hop count
167      */
168   struct MeshPeerPath *path_tail;
169
170     /**
171      * Handle to stop the DHT search for a path to this peer
172      */
173   struct GNUNET_DHT_GetHandle *dhtget;
174
175     /**
176      * Array of tunnels this peer is the target of.
177      * Most probably a small amount, therefore not a hashmap.
178      * When the path to the peer changes, notify these tunnels to let them
179      * re-adjust their path trees.
180      */
181   struct MeshTunnel **tunnels;
182
183     /**
184      * Number of tunnels this peers participates in
185      */
186   unsigned int ntunnels;
187
188    /**
189     * Transmission queue to core DLL head
190     */
191   struct MeshPeerQueue *queue_head;
192
193    /**
194     * Transmission queue to core DLL tail
195     */
196    struct MeshPeerQueue *queue_tail;
197
198    /**
199     * How many messages are in the queue to this peer.
200     */
201    unsigned int queue_n;
202
203    /**
204     * Handle for queued transmissions
205     */
206   struct GNUNET_CORE_TransmitHandle *core_transmit;
207 };
208
209
210 /**
211  * Struct to encapsulate all the Flow Control information to a peer in the
212  * context of a tunnel: Same peer in different tunnels will have independent
213  * flow control structures, allowing to choke/free tunnels according to its
214  * own criteria.
215  */
216 struct MeshFlowControl
217 {
218   /**
219    * ID of the last packet sent towards the peer.
220    */
221   uint32_t last_pid_sent;
222
223   /**
224    * ID of the last packet received from the peer.
225    */
226   uint32_t last_pid_recv;
227
228   /**
229    * Last ACK sent to the peer (peer can't send more than this PID).
230    */
231   uint32_t last_ack_sent;
232
233   /**
234    * Last ACK sent towards the origin (for traffic towards leaf node).
235    */
236   uint32_t last_ack_recv;
237
238   /**
239    * How many messages are in the queue towards this peer.
240    */
241   uint32_t queue_n;
242
243   /**
244    * Task to poll the peer in case of a lost ACK causes stall.
245    */
246   GNUNET_SCHEDULER_TaskIdentifier poll_task;
247
248   /**
249    * How frequently to poll for ACKs.
250    */
251   struct GNUNET_TIME_Relative poll_time;
252
253   /**
254    * On which tunnel to poll.
255    * Using an explicit poll_ctx would not help memory wise,
256    * since the allocated context would have to be stored in the
257    * fc struct in order to free it upon cancelling poll_task.
258    */
259   struct MeshTunnel *t;
260 };
261
262
263 /**
264  * Globally unique tunnel identification (owner + number)
265  * DO NOT USE OVER THE NETWORK
266  */
267 struct MESH_TunnelID
268 {
269     /**
270      * Node that owns the tunnel
271      */
272   GNUNET_PEER_Id oid;
273
274     /**
275      * Tunnel number to differentiate all the tunnels owned by the node oid
276      * ( tid < GNUNET_MESH_LOCAL_TUNNEL_ID_CLI )
277      */
278   MESH_TunnelNumber tid;
279 };
280
281
282 /**
283  * Struct containing all information regarding a tunnel
284  * For an intermediate node the improtant info used will be:
285  * - id        Tunnel unique identification
286  * - paths[0]  To know where to send it next
287  * - metainfo: ready, speeds, accounting
288  */
289 struct MeshTunnel
290 {
291     /**
292      * Tunnel ID
293      */
294   struct MESH_TunnelID id;
295
296     /**
297      * Port of the tunnel.
298      */
299   uint32_t port;
300
301     /**
302      * State of the tunnel.
303      */
304   enum MeshTunnelState state;
305
306     /**
307      * Local tunnel number ( >= GNUNET_MESH_LOCAL_TUNNEL_ID_CLI or 0 )
308      */
309   MESH_TunnelNumber local_tid;
310
311     /**
312      * Local tunnel number for local destination clients (incoming number)
313      * ( >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV or 0). All clients share the same
314      * number.
315      */
316   MESH_TunnelNumber local_tid_dest;
317
318     /**
319      * Is the tunnel bufferless (minimum latency)?
320      */
321   int nobuffer;
322
323     /**
324      * Force sending ACK? Flag to allow duplicate ACK on POLL.
325      */
326   int force_ack;
327
328     /**
329      * How many messages do we accept in the forward queue.
330      */
331   unsigned int queue_max;
332
333     /**
334      * Last time the tunnel was used
335      */
336   struct GNUNET_TIME_Absolute timestamp;
337
338     /**
339      * Destination of the tunnel.
340      */
341   GNUNET_PEER_Id dest;
342
343     /**
344      * Next hop in the tunnel. If 0, @c client must be set.
345      */
346   GNUNET_PEER_Id next_hop;
347
348     /**
349      * Previous hop in the tunnel. If 0, @c owner must be set.
350      */
351   GNUNET_PEER_Id prev_hop;
352
353     /**
354      * Flow control information about @c next_hop or @c client.
355      */
356   struct MeshFlowControl next_fc;
357
358   /**
359    * Flow control information about @c prev_hop or @c owner.
360    */
361   struct MeshFlowControl prev_fc;
362
363     /**
364      * Client owner of the tunnel, if any
365      */
366   struct MeshClient *owner;
367
368     /**
369      * Client destination of the tunnel, if any.
370      */
371   struct MeshClient *client;
372
373     /**
374      * Task to keep the used paths alive at the owner,
375      * time tunnel out on all the other peers.
376      */
377   GNUNET_SCHEDULER_TaskIdentifier maintenance_task;
378
379     /**
380      * Path being used for the tunnel.
381      */
382   struct MeshPeerPath *path;
383
384     /**
385      * Flag to signal the destruction of the tunnel.
386      * If this is set GNUNET_YES the tunnel will be destroyed
387      * when the queue is empty.
388      */
389   int destroy;
390
391     /**
392      * Total messages pending for this tunnels, payload or not.
393      */
394   unsigned int pending_messages;
395 };
396
397
398 /**
399  * Struct containing information about a client of the service
400  * 
401  * TODO: add a list of 'waiting' ports
402  */
403 struct MeshClient
404 {
405     /**
406      * Linked list next
407      */
408   struct MeshClient *next;
409
410     /**
411      * Linked list prev
412      */
413   struct MeshClient *prev;
414
415     /**
416      * Tunnels that belong to this client, indexed by local id
417      */
418   struct GNUNET_CONTAINER_MultiHashMap *own_tunnels;
419
420    /**
421      * Tunnels this client has accepted, indexed by incoming local id
422      */
423   struct GNUNET_CONTAINER_MultiHashMap *incoming_tunnels;
424
425     /**
426      * Handle to communicate with the client
427      */
428   struct GNUNET_SERVER_Client *handle;
429
430     /**
431      * Ports that this client has declared interest in.
432      * Indexed by a GMC_hash32 (type), contains *Client.
433      */
434   struct GNUNET_CONTAINER_MultiHashMap *ports;
435
436     /**
437      * Whether the client is active or shutting down (don't send confirmations
438      * to a client that is shutting down.
439      */
440   int shutting_down;
441
442     /**
443      * ID of the client, mainly for debug messages
444      */
445   unsigned int id;
446
447 };
448
449
450 /******************************************************************************/
451 /************************      DEBUG FUNCTIONS     ****************************/
452 /******************************************************************************/
453
454 #if MESH_DEBUG
455 /**
456  * GNUNET_SCHEDULER_Task for printing a message after some operation is done
457  * @param cls string to print
458  * @param success  GNUNET_OK if the PUT was transmitted,
459  *                GNUNET_NO on timeout,
460  *                GNUNET_SYSERR on disconnect from service
461  *                after the PUT message was transmitted
462  *                (so we don't know if it was received or not)
463  */
464
465 #if 0
466 static void
467 mesh_debug (void *cls, int success)
468 {
469   char *s = cls;
470
471   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "%s (%d)\n", s, success);
472 }
473 #endif
474
475 /* FIXME */
476 unsigned int debug_fwd_ack;
477 unsigned int debug_bck_ack;
478
479 #endif
480
481 /******************************************************************************/
482 /***********************      GLOBAL VARIABLES     ****************************/
483 /******************************************************************************/
484
485 /************************** Configuration parameters **************************/
486
487 /**
488  * How often to send tunnel keepalives. Tunnels timeout after 4 missed.
489  */
490 static struct GNUNET_TIME_Relative refresh_path_time;
491
492 /**
493  * How often to PUT own ID in the DHT.
494  */
495 static struct GNUNET_TIME_Relative id_announce_time;
496
497 /**
498  * Maximum time allowed to connect to a peer found by string.
499  */
500 static struct GNUNET_TIME_Relative connect_timeout;
501
502 /**
503  * Default TTL for payload packets.
504  */
505 static unsigned long long default_ttl;
506
507 /**
508  * DHT replication level, see DHT API: GNUNET_DHT_get_start, GNUNET_DHT_put.
509  */
510 static unsigned long long dht_replication_level;
511
512 /**
513  * How many tunnels are we willing to maintain.
514  * Local tunnels are always allowed, even if there are more tunnels than max.
515  */
516 static unsigned long long max_tunnels;
517
518 /**
519  * How many messages *in total* are we willing to queue, divided by number of 
520  * tunnels to get tunnel queue size.
521  */
522 static unsigned long long max_msgs_queue;
523
524 /**
525  * How many peers do we want to remember?
526  */
527 static unsigned long long max_peers;
528
529
530 /*************************** Static global variables **************************/
531
532 /**
533  * Hostkey generation context
534  */
535 static struct GNUNET_CRYPTO_EccKeyGenerationContext *keygen;
536
537 /**
538  * DLL with all the clients, head.
539  */
540 static struct MeshClient *clients_head;
541
542 /**
543  * DLL with all the clients, tail.
544  */
545 static struct MeshClient *clients_tail;
546
547 /**
548  * Tunnels known, indexed by MESH_TunnelID (MeshTunnel).
549  */
550 static struct GNUNET_CONTAINER_MultiHashMap *tunnels;
551
552 /**
553  * Number of tunnels known.
554  */
555 static unsigned long long n_tunnels;
556
557 /**
558  * Tunnels incoming, indexed by MESH_TunnelNumber
559  * (which is greater than GNUNET_MESH_LOCAL_TUNNEL_ID_SERV).
560  */
561 static struct GNUNET_CONTAINER_MultiHashMap *incoming_tunnels;
562
563 /**
564  * Peers known, indexed by PeerIdentity (MeshPeerInfo).
565  */
566 static struct GNUNET_CONTAINER_MultiHashMap *peers;
567
568 /*
569  * Handle to communicate with transport
570  */
571 // static struct GNUNET_TRANSPORT_Handle *transport_handle;
572
573 /**
574  * Handle to communicate with core.
575  */
576 static struct GNUNET_CORE_Handle *core_handle;
577
578 /**
579  * Handle to use DHT.
580  */
581 static struct GNUNET_DHT_Handle *dht_handle;
582
583 /**
584  * Handle to server.
585  */
586 static struct GNUNET_SERVER_Handle *server_handle;
587
588 /**
589  * Handle to the statistics service.
590  */
591 static struct GNUNET_STATISTICS_Handle *stats;
592
593 /**
594  * Notification context, to send messages to local clients.
595  */
596 static struct GNUNET_SERVER_NotificationContext *nc;
597
598 /**
599  * Local peer own ID (memory efficient handle).
600  */
601 static GNUNET_PEER_Id myid;
602
603 /**
604  * Local peer own ID (full value).
605  */
606 static struct GNUNET_PeerIdentity my_full_id;
607
608 /**
609  * Own private key.
610  */
611 static struct GNUNET_CRYPTO_EccPrivateKey *my_private_key;
612
613 /**
614  * Own public key.
615  */
616 static struct GNUNET_CRYPTO_EccPublicKeyBinaryEncoded my_public_key;
617
618 /**
619  * Tunnel ID for the next created tunnel (global tunnel number).
620  */
621 static MESH_TunnelNumber next_tid;
622
623 /**
624  * Tunnel ID for the next incoming tunnel (local tunnel number).
625  */
626 static MESH_TunnelNumber next_local_tid;
627
628 /**
629  * All ports clients of this peer have opened.
630  */
631 static struct GNUNET_CONTAINER_MultiHashMap *ports;
632
633 /**
634  * Task to periodically announce itself in the network.
635  */
636 GNUNET_SCHEDULER_TaskIdentifier announce_id_task;
637
638 /**
639  * Next ID to assign to a client.
640  */
641 unsigned int next_client_id;
642
643
644 /******************************************************************************/
645 /***********************         DECLARATIONS        **************************/
646 /******************************************************************************/
647
648 /**
649  * Function to process paths received for a new peer addition. The recorded
650  * paths form the initial tunnel, which can be optimized later.
651  * Called on each result obtained for the DHT search.
652  *
653  * @param cls closure
654  * @param exp when will this value expire
655  * @param key key of the result
656  * @param type type of the result
657  * @param size number of bytes in data
658  * @param data pointer to the result data
659  */
660 static void
661 dht_get_id_handler (void *cls, struct GNUNET_TIME_Absolute exp,
662                     const struct GNUNET_HashCode * key,
663                     const struct GNUNET_PeerIdentity *get_path,
664                     unsigned int get_path_length,
665                     const struct GNUNET_PeerIdentity *put_path,
666                     unsigned int put_path_length, enum GNUNET_BLOCK_Type type,
667                     size_t size, const void *data);
668
669
670 /**
671  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
672  * and insert it in the appropiate structures if the peer is not known yet.
673  *
674  * @param peer Full identity of the peer.
675  *
676  * @return Existing or newly created peer info.
677  */
678 static struct MeshPeerInfo *
679 peer_get (const struct GNUNET_PeerIdentity *peer);
680
681
682 /**
683  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
684  * and insert it in the appropiate structures if the peer is not known yet.
685  *
686  * @param peer Short identity of the peer.
687  *
688  * @return Existing or newly created peer info.
689  */
690 static struct MeshPeerInfo *
691 peer_get_short (const GNUNET_PEER_Id peer);
692
693
694 /**
695  * Build a PeerPath from the paths returned from the DHT, reversing the paths
696  * to obtain a local peer -> destination path and interning the peer ids.
697  *
698  * @return Newly allocated and created path
699  */
700 static struct MeshPeerPath *
701 path_build_from_dht (const struct GNUNET_PeerIdentity *get_path,
702                      unsigned int get_path_length,
703                      const struct GNUNET_PeerIdentity *put_path,
704                      unsigned int put_path_length);
705
706
707 /**
708  * Adds a path to the peer_infos of all the peers in the path
709  *
710  * @param p Path to process.
711  * @param confirmed Whether we know if the path works or not.
712  */
713 static void
714 path_add_to_peers (struct MeshPeerPath *p, int confirmed);
715
716
717
718 /**
719  * Search for a tunnel by global ID using full PeerIdentities.
720  *
721  * @param oid owner of the tunnel.
722  * @param tid global tunnel number.
723  *
724  * @return tunnel handler, NULL if doesn't exist.
725  */
726 static struct MeshTunnel *
727 tunnel_get (const struct GNUNET_PeerIdentity *oid, MESH_TunnelNumber tid);
728
729
730 /**
731  * Notify a tunnel that a connection has broken that affects at least
732  * some of its peers.
733  *
734  * @param t Tunnel affected.
735  * @param p1 Peer that got disconnected from p2.
736  * @param p2 Peer that got disconnected from p1.
737  *
738  * @return Short ID of the peer disconnected (either p1 or p2).
739  *         0 if the tunnel remained unaffected.
740  */
741 static GNUNET_PEER_Id
742 tunnel_notify_connection_broken (struct MeshTunnel *t, GNUNET_PEER_Id p1,
743                                  GNUNET_PEER_Id p2);
744
745
746 /**
747  * @brief Use the given path for the tunnel.
748  * Update the next and prev hops (and RCs).
749  * (Re)start the path refresh in case the tunnel is locally owned.
750  * 
751  * @param t Tunnel to update.
752  * @param p Path to use.
753  */
754 static void
755 tunnel_use_path (struct MeshTunnel *t, struct MeshPeerPath *p);
756
757 /**
758  * @brief Queue and pass message to core when possible.
759  * 
760  * If type is payload (UNICAST, TO_ORIGIN, MULTICAST) checks for queue status
761  * and accounts for it. In case the queue is full, the message is dropped and
762  * a break issued.
763  * 
764  * Otherwise, message is treated as internal and allowed to go regardless of 
765  * queue status.
766  *
767  * @param cls Closure (@c type dependant). It will be used by queue_send to
768  *            build the message to be sent if not already prebuilt.
769  * @param type Type of the message, 0 for a raw message.
770  * @param size Size of the message.
771  * @param dst Neighbor to send message to.
772  * @param t Tunnel this message belongs to.
773  */
774 static void
775 queue_add (void *cls, uint16_t type, size_t size,
776            struct MeshPeerInfo *dst, struct MeshTunnel *t);
777
778
779 /**
780  * Free a transmission that was already queued with all resources
781  * associated to the request.
782  *
783  * @param queue Queue handler to cancel.
784  * @param clear_cls Is it necessary to free associated cls?
785  */
786 static void
787 queue_destroy (struct MeshPeerQueue *queue, int clear_cls);
788
789
790 /**
791  * @brief Get the next transmittable message from the queue.
792  *
793  * This will be the head, except in the case of being a data packet
794  * not allowed by the destination peer.
795  *
796  * @param peer Destination peer.
797  *
798  * @return The next viable MeshPeerQueue element to send to that peer.
799  *         NULL when there are no transmittable messages.
800  */
801 struct MeshPeerQueue *
802 queue_get_next (const struct MeshPeerInfo *peer);
803
804
805 /**
806  * Core callback to write a queued packet to core buffer
807  *
808  * @param cls Closure (peer info).
809  * @param size Number of bytes available in buf.
810  * @param buf Where the to write the message.
811  *
812  * @return number of bytes written to buf
813  */
814 static size_t
815 queue_send (void *cls, size_t size, void *buf);
816
817
818 /******************************************************************************/
819 /************************    PERIODIC FUNCTIONS    ****************************/
820 /******************************************************************************/
821
822 /**
823  * Periodically announce self id in the DHT
824  *
825  * @param cls closure
826  * @param tc task context
827  */
828 static void
829 announce_id (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
830 {
831   struct PBlock block;
832
833   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
834   {
835     announce_id_task = GNUNET_SCHEDULER_NO_TASK;
836     return;
837   }
838   /* TODO
839    * - Set data expiration in function of X
840    * - Adapt X to churn
841    */
842   DEBUG_DHT ("DHT_put for ID %s started.\n", GNUNET_i2s (&my_full_id));
843
844   block.id = my_full_id;
845   block.type = htonl (0);
846   GNUNET_DHT_put (dht_handle,   /* DHT handle */
847                   &my_full_id.hashPubKey,       /* Key to use */
848                   dht_replication_level,     /* Replication level */
849                   GNUNET_DHT_RO_RECORD_ROUTE | GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,    /* DHT options */
850                   GNUNET_BLOCK_TYPE_MESH_PEER,       /* Block type */
851                   sizeof (block),  /* Size of the data */
852                   (const char *) &block, /* Data itself */
853                   GNUNET_TIME_UNIT_FOREVER_ABS,  /* Data expiration */
854                   GNUNET_TIME_UNIT_FOREVER_REL, /* Retry time */
855                   NULL,         /* Continuation */
856                   NULL);        /* Continuation closure */
857   announce_id_task =
858       GNUNET_SCHEDULER_add_delayed (id_announce_time, &announce_id, cls);
859 }
860
861
862 /******************************************************************************/
863 /******************      GENERAL HELPER FUNCTIONS      ************************/
864 /******************************************************************************/
865
866
867 /**
868  * Check if client has registered with the service and has not disconnected
869  *
870  * @param client the client to check
871  *
872  * @return non-NULL if client exists in the global DLL
873  */
874 static struct MeshClient *
875 client_get (struct GNUNET_SERVER_Client *client)
876 {
877   struct MeshClient *c;
878
879   c = clients_head;
880   while (NULL != c)
881   {
882     if (c->handle == client)
883       return c;
884     c = c->next;
885   }
886   return NULL;
887 }
888
889
890 /**
891  * Deletes a tunnel from a client (either owner or destination). To be used on
892  * tunnel destroy.
893  *
894  * @param c Client whose tunnel to delete.
895  * @param t Tunnel which should be deleted.
896  */
897 static void
898 client_delete_tunnel (struct MeshClient *c, struct MeshTunnel *t)
899 {
900   struct GNUNET_HashCode hash;
901
902   if (c == t->owner)
903   {
904     GMC_hash32 (t->local_tid, &hash);
905     GNUNET_assert (GNUNET_YES ==
906                    GNUNET_CONTAINER_multihashmap_remove (c->own_tunnels,
907                                                          &hash,
908                                                          t));
909   }
910   else if (c == t->client)
911   {
912     GMC_hash32 (t->local_tid_dest, &hash);
913     GNUNET_assert (GNUNET_YES ==
914                    GNUNET_CONTAINER_multihashmap_remove (c->incoming_tunnels,
915                                                          &hash,
916                                                          t));
917   }
918   else
919   {
920     GNUNET_break (0);
921   }
922 }
923
924 /**
925  * Notify the appropiate client that a new incoming tunnel was created.
926  *
927  * @param t Tunnel that was created.
928  */
929 static void
930 send_client_tunnel_create (struct MeshTunnel *t)
931 {
932   struct GNUNET_MESH_TunnelMessage msg;
933
934   if (NULL == t->client)
935     return;
936   msg.header.size = htons (sizeof (msg));
937   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_CREATE);
938   msg.tunnel_id = htonl (t->local_tid_dest);
939   msg.port = htonl (t->port);
940   GNUNET_SERVER_notification_context_unicast (nc, t->client->handle,
941                                               &msg.header, GNUNET_NO);
942 }
943
944
945 /**
946  * Notify dest client that the incoming tunnel is no longer valid.
947  *
948  * @param t Tunnel that was destroyed.
949  */
950 static void
951 send_client_tunnel_destroy (struct MeshTunnel *t)
952 {
953   struct GNUNET_MESH_TunnelMessage msg;
954
955   if (NULL == t->client)
956     return;
957   msg.header.size = htons (sizeof (msg));
958   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_DESTROY);
959   msg.tunnel_id = htonl (t->local_tid_dest);
960   GNUNET_SERVER_notification_context_unicast (nc, t->client->handle,
961                                               &msg.header, GNUNET_NO);
962 }
963
964
965 /**
966  * Iterator over all the peers to remove the oldest not-used entry.
967  *
968  * @param cls Closure (unsued).
969  * @param key ID of the peer.
970  * @param value Peer_Info of the peer.
971  *
972  * FIXME implement
973  */
974 static int
975 peer_info_timeout (void *cls,
976                    const struct GNUNET_HashCode *key,
977                    void *value)
978 {
979   return GNUNET_YES;
980 }
981
982 /**
983  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
984  * and insert it in the appropiate structures if the peer is not known yet.
985  *
986  * @param peer Full identity of the peer.
987  *
988  * @return Existing or newly created peer info.
989  */
990 static struct MeshPeerInfo *
991 peer_get (const struct GNUNET_PeerIdentity *peer)
992 {
993   struct MeshPeerInfo *peer_info;
994
995   peer_info = GNUNET_CONTAINER_multihashmap_get (peers, &peer->hashPubKey);
996   if (NULL == peer_info)
997   {
998     peer_info =
999         (struct MeshPeerInfo *) GNUNET_malloc (sizeof (struct MeshPeerInfo));
1000     if (GNUNET_CONTAINER_multihashmap_size (peers) > max_peers)
1001     {
1002       GNUNET_CONTAINER_multihashmap_iterate (peers,
1003                                              &peer_info_timeout,
1004                                              NULL);
1005     }
1006     GNUNET_CONTAINER_multihashmap_put (peers, &peer->hashPubKey, peer_info,
1007                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
1008     peer_info->id = GNUNET_PEER_intern (peer);
1009   }
1010   peer_info->last_contact = GNUNET_TIME_absolute_get();
1011
1012   return peer_info;
1013 }
1014
1015
1016 /**
1017  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
1018  * and insert it in the appropiate structures if the peer is not known yet.
1019  *
1020  * @param peer Short identity of the peer.
1021  *
1022  * @return Existing or newly created peer info.
1023  */
1024 static struct MeshPeerInfo *
1025 peer_get_short (const GNUNET_PEER_Id peer)
1026 {
1027   struct GNUNET_PeerIdentity id;
1028
1029   GNUNET_PEER_resolve (peer, &id);
1030   return peer_get (&id);
1031 }
1032
1033
1034 /**
1035  * Choose the best path towards a peer considering the tunnel properties.
1036  * 
1037  * @param peer The destination peer.
1038  * @param t The tunnel the path is for.
1039  *
1040  * @return Best current known path towards the peer, if any.
1041  */
1042 static struct MeshPeerPath *
1043 peer_get_best_path (const struct MeshPeerInfo *peer, const struct MeshTunnel *t)
1044 {
1045   struct MeshPeerPath *best_p;
1046   struct MeshPeerPath *p;
1047   unsigned int best_cost;
1048   unsigned int cost;
1049
1050   best_p = p = peer->path_head;
1051   best_cost = cost = p->length;
1052   while (NULL != p)
1053   {
1054     if ((cost = p->length) < best_cost)
1055     {
1056       best_cost = cost;
1057       best_p = p;
1058     }
1059         p = p->next;
1060   }
1061   return best_p;
1062 }
1063
1064
1065 /**
1066  * Remove the tunnel from the list of tunnels to which a peer is target.
1067  *
1068  * @param peer PeerInfo of the peer.
1069  * @param t Tunnel to remove.
1070  */
1071 static void
1072 peer_remove_tunnel (struct MeshPeerInfo *peer, struct MeshTunnel *t)
1073 {
1074   unsigned int i;
1075
1076   for (i = 0; i < peer->ntunnels; i++)
1077   {
1078     if (0 ==
1079         memcmp (&peer->tunnels[i]->id, &t->id, sizeof (struct MESH_TunnelID)))
1080     {
1081       peer->ntunnels--;
1082       peer->tunnels[i] = peer->tunnels[peer->ntunnels];
1083       peer->tunnels = 
1084         GNUNET_realloc (peer->tunnels, 
1085                         peer->ntunnels * sizeof(struct MeshTunnel *));
1086       return;
1087     }
1088   }
1089 }
1090
1091
1092 /**
1093   * Core callback to write a pre-constructed data packet to core buffer
1094   *
1095   * @param cls Closure (MeshTransmissionDescriptor with data in "data" member).
1096   * @param size Number of bytes available in buf.
1097   * @param buf Where the to write the message.
1098   *
1099   * @return number of bytes written to buf
1100   */
1101 static size_t
1102 send_core_data_raw (void *cls, size_t size, void *buf)
1103 {
1104   struct GNUNET_MessageHeader *msg = cls;
1105   size_t total_size;
1106
1107   GNUNET_assert (NULL != msg);
1108   total_size = ntohs (msg->size);
1109
1110   if (total_size > size)
1111   {
1112     GNUNET_break (0);
1113     return 0;
1114   }
1115   memcpy (buf, msg, total_size);
1116   GNUNET_free (cls);
1117   return total_size;
1118 }
1119
1120
1121 /**
1122  * Sends an already built message to a peer, properly registrating
1123  * all used resources.
1124  *
1125  * @param message Message to send. Function makes a copy of it.
1126  * @param peer Short ID of the neighbor whom to send the message.
1127  * @param t Tunnel on which this message is transmitted.
1128  */
1129 static void
1130 send_prebuilt_message (const struct GNUNET_MessageHeader *message,
1131                        GNUNET_PEER_Id peer,
1132                        struct MeshTunnel *t)
1133 {
1134   struct GNUNET_PeerIdentity id;
1135   struct MeshPeerInfo *neighbor;
1136   struct MeshPeerPath *p;
1137   void *data;
1138   size_t size;
1139   uint16_t type;
1140
1141 //   GNUNET_TRANSPORT_try_connect(); FIXME use?
1142
1143   if (0 == peer)
1144     return;
1145
1146   size = ntohs (message->size);
1147   data = GNUNET_malloc (size);
1148   memcpy (data, message, size);
1149   type = ntohs(message->type);
1150   switch (type)
1151   {
1152     struct GNUNET_MESH_Unicast *u;
1153
1154     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
1155       u = (struct GNUNET_MESH_Unicast *) data;
1156       u->ttl = htonl (ntohl (u->ttl) - 1);
1157       break;
1158   }
1159   GNUNET_PEER_resolve (peer, &id);
1160   neighbor = peer_get (&id);
1161   for (p = neighbor->path_head; NULL != p; p = p->next)
1162   {
1163     if (2 >= p->length)
1164     {
1165       break;
1166     }
1167   }
1168   if (NULL == p)
1169   {
1170 #if MESH_DEBUG
1171     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1172                 "  %s IS NOT DIRECTLY CONNECTED\n",
1173                 GNUNET_i2s(&id));
1174     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1175                 "  PATHS TO %s:\n",
1176                 GNUNET_i2s(&id));
1177     for (p = neighbor->path_head; NULL != p; p = p->next)
1178     {
1179       struct GNUNET_PeerIdentity debug_id;
1180       unsigned int i;
1181
1182       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1183                   "    path with %u hops through:\n",
1184                   p->length);
1185       for (i = 0; i < p->length; i++)
1186       {
1187         GNUNET_PEER_resolve(p->peers[i], &debug_id);
1188         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1189                     "      hop %u: %s\n",
1190                     i, GNUNET_i2s(&debug_id));
1191       }
1192     }
1193 #endif
1194     GNUNET_break (0); // FIXME sometimes fails (testing disconnect?)
1195     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1196                     " no direct connection to %s\n",
1197                     GNUNET_i2s (&id));
1198     GNUNET_free (data);
1199     return;
1200   }
1201   if (GNUNET_MESSAGE_TYPE_MESH_PATH_ACK == type)
1202     type = 0;
1203   queue_add (data,
1204              type,
1205              size,
1206              neighbor,
1207              t);
1208 }
1209
1210
1211 /**
1212  * Sends a CREATE PATH message for a path to a peer, properly registrating
1213  * all used resources.
1214  *
1215  * @param t Tunnel for which the path is created.
1216  */
1217 static void
1218 send_create_path (struct MeshTunnel *t)
1219 {
1220   struct MeshPeerInfo *neighbor;
1221
1222   neighbor = peer_get_short (t->next_hop);
1223   queue_add (t,
1224              GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE,
1225              sizeof (struct GNUNET_MESH_CreateTunnel) +
1226                 (t->path->length * sizeof (struct GNUNET_PeerIdentity)),
1227              neighbor,
1228              t);
1229   t->state = MESH_TUNNEL_WAITING;
1230 }
1231
1232
1233 /**
1234  * Sends a PATH ACK message in reponse to a received PATH_CREATE directed to us.
1235  *
1236  * @param t Tunnel which to confirm.
1237  */
1238 static void
1239 send_path_ack (struct MeshTunnel *t) 
1240 {
1241   struct MeshPeerInfo *peer;
1242
1243   peer = peer_get_short (t->prev_hop);
1244
1245   queue_add (t,
1246              GNUNET_MESSAGE_TYPE_MESH_PATH_ACK,
1247              sizeof (struct GNUNET_MESH_PathACK),
1248              peer,
1249              t);
1250 }
1251
1252
1253 /**
1254  * Try to establish a new connection to this peer in the given tunnel.
1255  * If the peer doesn't have any path to it yet, try to get one.
1256  * If the peer already has some path, send a CREATE PATH towards it.
1257  *
1258  * @param peer PeerInfo of the peer.
1259  * @param t Tunnel for which to create the path, if possible.
1260  */
1261 static void
1262 peer_connect (struct MeshPeerInfo *peer, struct MeshTunnel *t)
1263 {
1264   struct MeshPeerPath *p;
1265
1266   if (NULL != peer->path_head)
1267   {
1268     p = peer_get_best_path (peer, t);
1269     tunnel_use_path (t, p);
1270     send_create_path (t);
1271   }
1272   else if (NULL == peer->dhtget)
1273   {
1274     struct GNUNET_PeerIdentity id;
1275
1276     GNUNET_PEER_resolve (peer->id, &id);
1277     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1278                 "  Starting DHT GET for peer %s\n", GNUNET_i2s (&id));
1279     peer->dhtget = GNUNET_DHT_get_start (dht_handle,    /* handle */
1280                                          GNUNET_BLOCK_TYPE_MESH_PEER, /* type */
1281                                          &id.hashPubKey,     /* key to search */
1282                                          dht_replication_level, /* replication level */
1283                                          GNUNET_DHT_RO_RECORD_ROUTE |
1284                                          GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,
1285                                          NULL,       /* xquery */
1286                                          0,     /* xquery bits */
1287                                          &dht_get_id_handler, peer);
1288     t->state = MESH_TUNNEL_SEARCHING;
1289   }
1290   /* Otherwise, there is no path but the DHT get is already started. */
1291 }
1292
1293
1294 /**
1295  * Destroy the peer_info and free any allocated resources linked to it
1296  *
1297  * @param pi The peer_info to destroy.
1298  *
1299  * @return GNUNET_OK on success
1300  */
1301 static int
1302 peer_info_destroy (struct MeshPeerInfo *pi)
1303 {
1304   struct GNUNET_PeerIdentity id;
1305   struct MeshPeerPath *p;
1306   struct MeshPeerPath *nextp;
1307
1308   GNUNET_PEER_resolve (pi->id, &id);
1309   GNUNET_PEER_change_rc (pi->id, -1);
1310
1311   if (GNUNET_YES !=
1312       GNUNET_CONTAINER_multihashmap_remove (peers, &id.hashPubKey, pi))
1313   {
1314     GNUNET_break (0);
1315     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1316                 "removing peer %s, not in hashmap\n", GNUNET_i2s (&id));
1317   }
1318   if (NULL != pi->dhtget)
1319   {
1320     GNUNET_DHT_get_stop (pi->dhtget);
1321   }
1322   p = pi->path_head;
1323   while (NULL != p)
1324   {
1325     nextp = p->next;
1326     GNUNET_CONTAINER_DLL_remove (pi->path_head, pi->path_tail, p);
1327     path_destroy (p);
1328     p = nextp;
1329   }
1330   GNUNET_free (pi);
1331   return GNUNET_OK;
1332 }
1333
1334
1335 /**
1336  * Remove all paths that rely on a direct connection between p1 and p2
1337  * from the peer itself and notify all tunnels about it.
1338  *
1339  * @param peer PeerInfo of affected peer.
1340  * @param p1 GNUNET_PEER_Id of one peer.
1341  * @param p2 GNUNET_PEER_Id of another peer that was connected to the first and
1342  *           no longer is.
1343  *
1344  * TODO: optimize (see below)
1345  */
1346 static void
1347 peer_remove_path (struct MeshPeerInfo *peer, GNUNET_PEER_Id p1,
1348                        GNUNET_PEER_Id p2)
1349 {
1350   struct MeshPeerPath *p;
1351   struct MeshPeerPath *next;
1352   struct MeshPeerInfo *peer_d;
1353   GNUNET_PEER_Id d;
1354   unsigned int destroyed;
1355   unsigned int i;
1356
1357   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "peer_info_remove_path\n");
1358   destroyed = 0;
1359   for (p = peer->path_head; NULL != p; p = next)
1360   {
1361     next = p->next;
1362     for (i = 0; i < (p->length - 1); i++)
1363     {
1364       if ((p->peers[i] == p1 && p->peers[i + 1] == p2) ||
1365           (p->peers[i] == p2 && p->peers[i + 1] == p1))
1366       {
1367         GNUNET_CONTAINER_DLL_remove (peer->path_head, peer->path_tail, p);
1368         path_destroy (p);
1369         destroyed++;
1370         break;
1371       }
1372     }
1373   }
1374   if (0 == destroyed)
1375     return;
1376
1377   for (i = 0; i < peer->ntunnels; i++)
1378   {
1379     d = tunnel_notify_connection_broken (peer->tunnels[i], p1, p2);
1380     if (0 == d)
1381       continue;
1382
1383     peer_d = peer_get_short (d);
1384     next = peer_get_best_path (peer_d, peer->tunnels[i]);
1385     tunnel_use_path (peer->tunnels[i], next);
1386     peer_connect (peer_d, peer->tunnels[i]);
1387   }
1388   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "peer_info_remove_path END\n");
1389 }
1390
1391
1392 /**
1393  * Add the path to the peer and update the path used to reach it in case this
1394  * is the shortest.
1395  *
1396  * @param peer_info Destination peer to add the path to.
1397  * @param path New path to add. Last peer must be the peer in arg 1.
1398  *             Path will be either used of freed if already known.
1399  * @param trusted Do we trust that this path is real?
1400  */
1401 void
1402 peer_info_add_path (struct MeshPeerInfo *peer_info, struct MeshPeerPath *path,
1403                     int trusted)
1404 {
1405   struct MeshPeerPath *aux;
1406   unsigned int l;
1407   unsigned int l2;
1408
1409   if ((NULL == peer_info) || (NULL == path))
1410   {
1411     GNUNET_break (0);
1412     path_destroy (path);
1413     return;
1414   }
1415   if (path->peers[path->length - 1] != peer_info->id)
1416   {
1417     GNUNET_break (0);
1418     path_destroy (path);
1419     return;
1420   }
1421   if (path->length <= 2 && GNUNET_NO == trusted)
1422   {
1423     /* Only allow CORE to tell us about direct paths */
1424     path_destroy (path);
1425     return;
1426   }
1427   for (l = 1; l < path->length; l++)
1428   {
1429     if (path->peers[l] == myid)
1430     {
1431       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shortening path by %u\n", l);
1432       for (l2 = 0; l2 < path->length - l; l2++)
1433       {
1434         path->peers[l2] = path->peers[l + l2];
1435       }
1436       path->length -= l;
1437       l = 1;
1438       path->peers =
1439           GNUNET_realloc (path->peers, path->length * sizeof (GNUNET_PEER_Id));
1440     }
1441   }
1442 #if MESH_DEBUG
1443   {
1444     struct GNUNET_PeerIdentity id;
1445
1446     GNUNET_PEER_resolve (peer_info->id, &id);
1447     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "adding path [%u] to peer %s\n",
1448                 path->length, GNUNET_i2s (&id));
1449   }
1450 #endif
1451   l = path_get_length (path);
1452   if (0 == l)
1453   {
1454     GNUNET_free (path);
1455     return;
1456   }
1457
1458   GNUNET_assert (peer_info->id == path->peers[path->length - 1]);
1459   for (aux = peer_info->path_head; aux != NULL; aux = aux->next)
1460   {
1461     l2 = path_get_length (aux);
1462     if (l2 > l)
1463     {
1464       GNUNET_CONTAINER_DLL_insert_before (peer_info->path_head,
1465                                           peer_info->path_tail, aux, path);
1466       return;
1467     }
1468     else
1469     {
1470       if (l2 == l && memcmp (path->peers, aux->peers, l) == 0)
1471       {
1472         path_destroy (path);
1473         return;
1474       }
1475     }
1476   }
1477   GNUNET_CONTAINER_DLL_insert_tail (peer_info->path_head, peer_info->path_tail,
1478                                     path);
1479   return;
1480 }
1481
1482
1483 /**
1484  * Add the path to the origin peer and update the path used to reach it in case
1485  * this is the shortest.
1486  * The path is given in peer_info -> destination, therefore we turn the path
1487  * upside down first.
1488  *
1489  * @param peer_info Peer to add the path to, being the origin of the path.
1490  * @param path New path to add after being inversed.
1491  *             Path will be either used or freed.
1492  * @param trusted Do we trust that this path is real?
1493  */
1494 static void
1495 peer_info_add_path_to_origin (struct MeshPeerInfo *peer_info,
1496                               struct MeshPeerPath *path, int trusted)
1497 {
1498   path_invert (path);
1499   peer_info_add_path (peer_info, path, trusted);
1500 }
1501
1502
1503
1504 /**
1505  * Remove a tunnel from the list of tunnels a peer participates in.
1506  * 
1507  * @param p Peer to clean.
1508  * @param t Tunnel to remove.
1509  */
1510 static void
1511 peer_info_remove_tunnel (struct MeshPeerInfo *p, struct MeshTunnel *t)
1512 {
1513   unsigned int i;
1514
1515   for (i = 0; i < p->ntunnels; i++)
1516   {
1517     if (p->tunnels[i] == t)
1518     {
1519       p->tunnels[i] = p->tunnels[p->ntunnels - 1];
1520       GNUNET_array_grow (p->tunnels, p->ntunnels, p->ntunnels - 1);
1521       return;
1522     }
1523   }
1524 }
1525
1526
1527 /**
1528  * Function called if the connection to the peer has been stalled for a while,
1529  * possibly due to a missed ACK. Poll the peer about its ACK status.
1530  *
1531  * @param cls Closure (poll ctx).
1532  * @param tc TaskContext.
1533  */
1534 static void
1535 tunnel_poll (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1536 {
1537   struct MeshFlowControl *fc = cls;
1538   struct GNUNET_MESH_Poll msg;
1539   struct MeshTunnel *t = fc->t;
1540   GNUNET_PEER_Id peer;
1541
1542   fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
1543   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1544   {
1545     return;
1546   }
1547
1548   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_POLL);
1549   msg.header.size = htons (sizeof (msg));
1550   msg.tid = htonl (t->id.tid);
1551   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
1552
1553   if (fc == &t->prev_fc)
1554   {
1555     peer = t->prev_hop;
1556   }
1557   else if (fc == &t->next_fc)
1558   {
1559     peer = t->next_hop;
1560   }
1561   else
1562   {
1563     GNUNET_break (0);
1564     return;
1565   }
1566   send_prebuilt_message (&msg.header, peer, t);
1567   fc->poll_time = GNUNET_TIME_STD_BACKOFF (fc->poll_time);
1568   fc->poll_task = GNUNET_SCHEDULER_add_delayed (fc->poll_time,
1569                                                 &tunnel_poll, fc);
1570 }
1571
1572
1573 /**
1574  * Build a PeerPath from the paths returned from the DHT, reversing the paths
1575  * to obtain a local peer -> destination path and interning the peer ids.
1576  *
1577  * @return Newly allocated and created path
1578  */
1579 static struct MeshPeerPath *
1580 path_build_from_dht (const struct GNUNET_PeerIdentity *get_path,
1581                      unsigned int get_path_length,
1582                      const struct GNUNET_PeerIdentity *put_path,
1583                      unsigned int put_path_length)
1584 {
1585   struct MeshPeerPath *p;
1586   GNUNET_PEER_Id id;
1587   int i;
1588
1589   p = path_new (1);
1590   p->peers[0] = myid;
1591   GNUNET_PEER_change_rc (myid, 1);
1592   i = get_path_length;
1593   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   GET has %d hops.\n", i);
1594   for (i--; i >= 0; i--)
1595   {
1596     id = GNUNET_PEER_intern (&get_path[i]);
1597     if (p->length > 0 && id == p->peers[p->length - 1])
1598     {
1599       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Optimizing 1 hop out.\n");
1600       GNUNET_PEER_change_rc (id, -1);
1601     }
1602     else
1603     {
1604       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Adding from GET: %s.\n",
1605                   GNUNET_i2s (&get_path[i]));
1606       p->length++;
1607       p->peers = GNUNET_realloc (p->peers, sizeof (GNUNET_PEER_Id) * p->length);
1608       p->peers[p->length - 1] = id;
1609     }
1610   }
1611   i = put_path_length;
1612   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   PUT has %d hops.\n", i);
1613   for (i--; i >= 0; i--)
1614   {
1615     id = GNUNET_PEER_intern (&put_path[i]);
1616     if (id == myid)
1617     {
1618       /* PUT path went through us, so discard the path up until now and start
1619        * from here to get a much shorter (and loop-free) path.
1620        */
1621       path_destroy (p);
1622       p = path_new (0);
1623     }
1624     if (p->length > 0 && id == p->peers[p->length - 1])
1625     {
1626       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Optimizing 1 hop out.\n");
1627       GNUNET_PEER_change_rc (id, -1);
1628     }
1629     else
1630     {
1631       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Adding from PUT: %s.\n",
1632                   GNUNET_i2s (&put_path[i]));
1633       p->length++;
1634       p->peers = GNUNET_realloc (p->peers, sizeof (GNUNET_PEER_Id) * p->length);
1635       p->peers[p->length - 1] = id;
1636     }
1637   }
1638 #if MESH_DEBUG
1639   if (get_path_length > 0)
1640     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (first of GET: %s)\n",
1641                 GNUNET_i2s (&get_path[0]));
1642   if (put_path_length > 0)
1643     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (first of PUT: %s)\n",
1644                 GNUNET_i2s (&put_path[0]));
1645   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   In total: %d hops\n",
1646               p->length);
1647   for (i = 0; i < p->length; i++)
1648   {
1649     struct GNUNET_PeerIdentity peer_id;
1650
1651     GNUNET_PEER_resolve (p->peers[i], &peer_id);
1652     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "       %u: %s\n", p->peers[i],
1653                 GNUNET_i2s (&peer_id));
1654   }
1655 #endif
1656   return p;
1657 }
1658
1659
1660 /**
1661  * Adds a path to the peer_infos of all the peers in the path
1662  *
1663  * @param p Path to process.
1664  * @param confirmed Whether we know if the path works or not.
1665  */
1666 static void
1667 path_add_to_peers (struct MeshPeerPath *p, int confirmed)
1668 {
1669   unsigned int i;
1670
1671   /* TODO: invert and add */
1672   for (i = 0; i < p->length && p->peers[i] != myid; i++) /* skip'em */ ;
1673   for (i++; i < p->length; i++)
1674   {
1675     struct MeshPeerInfo *aux;
1676     struct MeshPeerPath *copy;
1677
1678     aux = peer_get_short (p->peers[i]);
1679     copy = path_duplicate (p);
1680     copy->length = i + 1;
1681     peer_info_add_path (aux, copy, p->length < 3 ? GNUNET_NO : confirmed);
1682   }
1683 }
1684
1685
1686 /**
1687  * Send keepalive packets for a peer
1688  *
1689  * @param cls Closure (tunnel for which to send the keepalive).
1690  * @param tc Notification context.
1691  */
1692 static void
1693 path_refresh (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc);
1694
1695
1696 /**
1697  * Search for a tunnel among the incoming tunnels
1698  *
1699  * @param tid the local id of the tunnel
1700  *
1701  * @return tunnel handler, NULL if doesn't exist
1702  */
1703 static struct MeshTunnel *
1704 tunnel_get_incoming (MESH_TunnelNumber tid)
1705 {
1706   struct GNUNET_HashCode hash;
1707
1708   GNUNET_assert (tid >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV);
1709   GMC_hash32 (tid, &hash);
1710   return GNUNET_CONTAINER_multihashmap_get (incoming_tunnels, &hash);
1711 }
1712
1713
1714 /**
1715  * Search for a tunnel among the tunnels for a client
1716  *
1717  * @param c the client whose tunnels to search in
1718  * @param tid the local id of the tunnel
1719  *
1720  * @return tunnel handler, NULL if doesn't exist
1721  */
1722 static struct MeshTunnel *
1723 tunnel_get_by_local_id (struct MeshClient *c, MESH_TunnelNumber tid)
1724 {
1725   if (tid >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
1726   {
1727     return tunnel_get_incoming (tid);
1728   }
1729   else
1730   {
1731     struct GNUNET_HashCode hash;
1732
1733     GMC_hash32 (tid, &hash);
1734     return GNUNET_CONTAINER_multihashmap_get (c->own_tunnels, &hash);
1735   }
1736 }
1737
1738
1739 /**
1740  * Search for a tunnel by global ID using PEER_ID
1741  *
1742  * @param pi owner of the tunnel
1743  * @param tid global tunnel number
1744  *
1745  * @return tunnel handler, NULL if doesn't exist
1746  */
1747 static struct MeshTunnel *
1748 tunnel_get_by_pi (GNUNET_PEER_Id pi, MESH_TunnelNumber tid)
1749 {
1750   struct MESH_TunnelID id;
1751   struct GNUNET_HashCode hash;
1752
1753   id.oid = pi;
1754   id.tid = tid;
1755
1756   GNUNET_CRYPTO_hash (&id, sizeof (struct MESH_TunnelID), &hash);
1757   return GNUNET_CONTAINER_multihashmap_get (tunnels, &hash);
1758 }
1759
1760
1761 /**
1762  * Search for a tunnel by global ID using full PeerIdentities
1763  *
1764  * @param oid owner of the tunnel
1765  * @param tid global tunnel number
1766  *
1767  * @return tunnel handler, NULL if doesn't exist
1768  */
1769 static struct MeshTunnel *
1770 tunnel_get (const struct GNUNET_PeerIdentity *oid, MESH_TunnelNumber tid)
1771 {
1772   return tunnel_get_by_pi (GNUNET_PEER_search (oid), tid);
1773 }
1774
1775
1776 /**
1777  * Add a client to a tunnel, initializing all needed data structures.
1778  * 
1779  * @param t Tunnel to which add the client.
1780  * @param c Client which to add to the tunnel.
1781  */
1782 static void
1783 tunnel_add_client (struct MeshTunnel *t, struct MeshClient *c)
1784 {
1785   struct GNUNET_HashCode hash;
1786
1787   if (NULL != t->client)
1788   {
1789     GNUNET_break(0);
1790     return;
1791   }
1792   if (0 != t->next_hop)
1793   {
1794     GNUNET_break(0);
1795     return;
1796   }
1797   GMC_hash32 (t->local_tid_dest, &hash);
1798   if (GNUNET_OK !=
1799       GNUNET_CONTAINER_multihashmap_put (c->incoming_tunnels, &hash, t,
1800                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST))
1801   {
1802     GNUNET_break (0);
1803     return;
1804   }
1805   if (GNUNET_OK !=
1806       GNUNET_CONTAINER_multihashmap_put (incoming_tunnels, &hash, t,
1807                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST))
1808   {
1809     GNUNET_break (0);
1810     return;
1811   }
1812   t->client = c;
1813 }
1814
1815
1816 static void
1817 tunnel_use_path (struct MeshTunnel *t, struct MeshPeerPath *p)
1818 {
1819   unsigned int own_pos;
1820
1821   for (own_pos = 0; own_pos < p->length; own_pos++)
1822   {
1823     if (p->peers[own_pos] == myid)
1824       break;
1825   }
1826   if (own_pos > p->length - 1)
1827   {
1828     GNUNET_break (0);
1829     return;
1830   }
1831
1832   if (own_pos < p->length - 1)
1833     t->next_hop = p->peers[own_pos + 1];
1834   else
1835     t->next_hop = p->peers[own_pos];
1836   GNUNET_PEER_change_rc (t->next_hop, 1);
1837   if (0 < own_pos)
1838     t->prev_hop = p->peers[own_pos - 1];
1839   else
1840     t->prev_hop = p->peers[0];
1841   GNUNET_PEER_change_rc (t->prev_hop, 1);
1842
1843   if (NULL != t->path)
1844     path_destroy (t->path);
1845   t->path = path_duplicate (p);
1846   if (0 == own_pos)
1847   {
1848     if (GNUNET_SCHEDULER_NO_TASK != t->maintenance_task)
1849       GNUNET_SCHEDULER_cancel (t->maintenance_task);
1850     t->maintenance_task = GNUNET_SCHEDULER_add_delayed (refresh_path_time,
1851                                                         &path_refresh, t);
1852   }
1853 }
1854
1855
1856 /**
1857  * Notifies a tunnel that a connection has broken that affects at least
1858  * some of its peers. Sends a notification towards the root of the tree.
1859  * In case the peer is the owner of the tree, notifies the client that owns
1860  * the tunnel and tries to reconnect.
1861  *
1862  * @param t Tunnel affected.
1863  * @param p1 Peer that got disconnected from p2.
1864  * @param p2 Peer that got disconnected from p1.
1865  *
1866  * @return Short ID of the peer disconnected (either p1 or p2).
1867  *         0 if the tunnel remained unaffected.
1868  */
1869 static GNUNET_PEER_Id
1870 tunnel_notify_connection_broken (struct MeshTunnel *t, GNUNET_PEER_Id p1,
1871                                  GNUNET_PEER_Id p2)
1872 {
1873 //   if (myid != p1 && myid != p2) FIXME
1874 //   {
1875 //     return;
1876 //   }
1877 // 
1878 //   if (tree_get_predecessor (t->tree) != 0)
1879 //   {
1880 //     /* We are the peer still connected, notify owner of the disconnection. */
1881 //     struct GNUNET_MESH_PathBroken msg;
1882 //     struct GNUNET_PeerIdentity neighbor;
1883 // 
1884 //     msg.header.size = htons (sizeof (msg));
1885 //     msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN);
1886 //     GNUNET_PEER_resolve (t->id.oid, &msg.oid);
1887 //     msg.tid = htonl (t->id.tid);
1888 //     msg.peer1 = my_full_id;
1889 //     GNUNET_PEER_resolve (pid, &msg.peer2);
1890 //     GNUNET_PEER_resolve (tree_get_predecessor (t->tree), &neighbor);
1891 //     send_prebuilt_message (&msg.header, &neighbor, t);
1892 //   }
1893   return 0;
1894 }
1895
1896
1897 /**
1898  * Build a local ACK message and send it to a local client.
1899  * 
1900  * @param t Tunnel on which to send the ACK.
1901  * @param c Client to whom send the ACK.
1902  * @param ack Value of the ACK.
1903  */
1904 static void
1905 send_local_ack (struct MeshTunnel *t, struct MeshClient *c, uint32_t ack)
1906 {
1907   struct GNUNET_MESH_LocalAck msg;
1908
1909   msg.header.size = htons (sizeof (msg));
1910   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK);
1911   msg.tunnel_id = htonl (t->owner == c ? t->local_tid : t->local_tid_dest);
1912   msg.max_pid = htonl (ack); 
1913   GNUNET_SERVER_notification_context_unicast(nc,
1914                                               c->handle,
1915                                               &msg.header,
1916                                               GNUNET_NO);
1917 }
1918
1919 /**
1920  * Build an ACK message and queue it to send to the given peer.
1921  * 
1922  * @param t Tunnel on which to send the ACK.
1923  * @param peer Peer to whom send the ACK.
1924  * @param ack Value of the ACK.
1925  */
1926 static void
1927 send_ack (struct MeshTunnel *t, GNUNET_PEER_Id peer,  uint32_t ack)
1928 {
1929   struct GNUNET_MESH_ACK msg;
1930
1931   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
1932   msg.header.size = htons (sizeof (msg));
1933   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_ACK);
1934   msg.pid = htonl (ack);
1935   msg.tid = htonl (t->id.tid);
1936
1937   send_prebuilt_message (&msg.header, peer, t);
1938 }
1939
1940
1941 /**
1942  * Send an ACK informing the predecessor about the available buffer space.
1943  * In case there is no predecessor, inform the owning client.
1944  * If buffering is off, send only on behalf of children or self if endpoint.
1945  * If buffering is on, send when sent to children and buffer space is free.
1946  * Note that although the name is fwd_ack, the FWD mean forward *traffic*,
1947  * the ACK itself goes "back" (towards root).
1948  * 
1949  * @param t Tunnel on which to send the ACK.
1950  * @param type Type of message that triggered the ACK transmission.
1951  */
1952 static void
1953 tunnel_send_fwd_ack (struct MeshTunnel *t, uint16_t type)
1954 {
1955   uint32_t ack;
1956
1957   /* Is it after unicast retransmission? */
1958   switch (type)
1959   {
1960     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
1961       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1962                   "ACK due to FWD DATA retransmission\n");
1963       if (GNUNET_YES == t->nobuffer)
1964       {
1965         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending ACK, nobuffer\n");
1966         return;
1967       }
1968       break;
1969     case GNUNET_MESSAGE_TYPE_MESH_ACK:
1970     case GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK:
1971       break;
1972     case GNUNET_MESSAGE_TYPE_MESH_POLL:
1973       t->force_ack = GNUNET_YES;
1974       break;
1975     default:
1976       GNUNET_break (0);
1977   }
1978
1979   /* Check if we need to transmit the ACK */
1980   if (t->queue_max > t->next_fc.queue_n * 4 &&
1981       GMC_is_pid_bigger(t->prev_fc.last_ack_sent, t->prev_fc.last_pid_recv) &&
1982       GNUNET_NO == t->force_ack)
1983   {
1984     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending ACK, buffer free\n");
1985     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1986                 "  t->qmax: %u, t->qn: %u\n",
1987                 t->queue_max, t->next_fc.queue_n);
1988     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1989                 "  t->pid: %u, t->ack: %u\n",
1990                 t->prev_fc.last_pid_recv, t->prev_fc.last_ack_sent);
1991     return;
1992   }
1993
1994   /* Ok, ACK might be necessary, what PID to ACK? */
1995   ack = t->prev_fc.last_pid_recv + t->queue_max - t->next_fc.queue_n;
1996   if (ack == t->prev_fc.last_ack_sent && GNUNET_NO == t->force_ack)
1997   {
1998     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending FWD ACK, not needed\n");
1999     return;
2000   }
2001
2002   t->prev_fc.last_ack_sent = ack;
2003   if (NULL != t->owner)
2004     send_local_ack (t, t->owner, ack);
2005   else if (0 != t->prev_hop)
2006     send_ack (t, t->prev_hop, ack);
2007   else
2008     GNUNET_break (0);
2009   debug_fwd_ack++;
2010   t->force_ack = GNUNET_NO;
2011 }
2012
2013
2014 /**
2015  * Send an ACK informing the children node/client about the available
2016  * buffer space.
2017  * If buffering is off, send only on behalf of root (can be self).
2018  * If buffering is on, send when sent to predecessor and buffer space is free.
2019  * Note that although the name is bck_ack, the BCK mean backwards *traffic*,
2020  * the ACK itself goes "forward" (towards children/clients).
2021  * 
2022  * @param t Tunnel on which to send the ACK.
2023  * @param type Type of message that triggered the ACK transmission.
2024  */
2025 static void
2026 tunnel_send_bck_ack (struct MeshTunnel *t, uint16_t type)
2027 {
2028   uint32_t ack;
2029   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2030               "Sending BCK ACK on tunnel %u [%u] due to %s\n",
2031               t->id.oid, t->id.tid, GNUNET_MESH_DEBUG_M2S(type));
2032   /* Is it after data to_origin retransmission? */
2033   switch (type)
2034   {
2035     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2036       if (GNUNET_YES == t->nobuffer)
2037       {
2038         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2039                     "    Not sending ACK, nobuffer + traffic\n");
2040         return;
2041       }
2042       break;
2043     case GNUNET_MESSAGE_TYPE_MESH_ACK:
2044     case GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK:
2045       break;
2046     case GNUNET_MESSAGE_TYPE_MESH_PATH_ACK:
2047     case GNUNET_MESSAGE_TYPE_MESH_POLL:
2048       t->force_ack = GNUNET_YES;
2049       break;
2050     default:
2051       GNUNET_break (0);
2052   }
2053
2054   /* TODO: Check if we need to transmit the ACK (as in fwd) */
2055
2056   ack = t->next_fc.last_pid_recv + t->queue_max - t->prev_fc.queue_n;
2057
2058   if (t->next_fc.last_ack_sent == ack && GNUNET_NO == t->force_ack)
2059   {
2060     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2061                 "    Not sending ACK, not needed\n");
2062     return;
2063   }
2064   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2065               "    Sending BCK ACK %u (last sent: %u)\n",
2066               ack, t->next_fc.last_ack_sent);
2067   t->next_fc.last_ack_sent = ack;
2068
2069   if (NULL != t->client)
2070     send_local_ack (t, t->client, ack);
2071   else if (0 != t->next_hop)
2072     send_ack (t, t->next_hop, ack);
2073   else
2074     GNUNET_break (0);
2075   t->force_ack = GNUNET_NO;
2076 }
2077
2078
2079 /**
2080  * @brief Re-initiate traffic to this peer if necessary.
2081  *
2082  * Check if there is traffic queued towards this peer
2083  * and the core transmit handle is NULL (traffic was stalled).
2084  * If so, call core tmt rdy.
2085  *
2086  * @param peer_id Short ID of peer to which initiate traffic.
2087  */
2088 static void
2089 peer_unlock_queue(GNUNET_PEER_Id peer_id)
2090 {
2091   struct MeshPeerInfo *peer;
2092   struct GNUNET_PeerIdentity id;
2093   struct MeshPeerQueue *q;
2094   size_t size;
2095
2096   peer = peer_get_short (peer_id);
2097   if (NULL != peer->core_transmit)
2098     return;
2099
2100   q = queue_get_next (peer);
2101   if (NULL == q)
2102   {
2103     /* Might br multicast traffic already sent to this particular peer but
2104      * not to other children in this tunnel.
2105      * This way t->queue_n would be > 0 but the queue of this particular peer
2106      * would be empty.
2107      */
2108     return;
2109   }
2110   size = q->size;
2111   GNUNET_PEER_resolve (peer->id, &id);
2112   peer->core_transmit =
2113         GNUNET_CORE_notify_transmit_ready(core_handle,
2114                                           0,
2115                                           0,
2116                                           GNUNET_TIME_UNIT_FOREVER_REL,
2117                                           &id,
2118                                           size,
2119                                           &queue_send,
2120                                           peer);
2121         return;
2122 }
2123
2124
2125 /**
2126  * Send a message to all peers in this tunnel that the tunnel is no longer
2127  * valid.
2128  *
2129  * @param t The tunnel whose peers to notify.
2130  */
2131 static void
2132 tunnel_send_destroy (struct MeshTunnel *t)
2133 {
2134   struct GNUNET_MESH_TunnelDestroy msg;
2135   struct GNUNET_PeerIdentity id;
2136
2137   msg.header.size = htons (sizeof (msg));
2138   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY);
2139   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
2140   msg.tid = htonl (t->id.tid);
2141   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2142               "  sending tunnel destroy for tunnel: %s [%X]\n",
2143               GNUNET_i2s (&msg.oid), t->id.tid);
2144
2145   if (NULL == t->client && 0 != t->next_hop)
2146   {
2147     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  child: %u\n", t->next_hop);
2148     GNUNET_PEER_resolve (t->next_hop, &id);
2149     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2150                 "  sending forward to %s\n",
2151                 GNUNET_i2s (&id));
2152     send_prebuilt_message (&msg.header, t->next_hop, t);
2153   }
2154   if (NULL == t->owner && 0 != t->prev_hop)
2155   {
2156     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  parent: %u\n", t->prev_hop);
2157     GNUNET_PEER_resolve (t->prev_hop, &id);
2158     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2159                 "  sending back to %s\n",
2160                 GNUNET_i2s (&id));
2161     send_prebuilt_message (&msg.header, t->prev_hop, t);
2162   }
2163 }
2164
2165
2166 /**
2167  * Cancel all transmissions towards a neighbor that belongs to a certain tunnel.
2168  *
2169  * @param t Tunnel which to cancel.
2170  * @param neighbor Short ID of the neighbor to whom cancel the transmissions.
2171  */
2172 static void
2173 peer_cancel_queues (GNUNET_PEER_Id neighbor, struct MeshTunnel *t)
2174 {
2175   struct MeshPeerInfo *peer_info;
2176   struct MeshPeerQueue *pq;
2177   struct MeshPeerQueue *next;
2178
2179   peer_info = peer_get_short (neighbor);
2180   for (pq = peer_info->queue_head; NULL != pq; pq = next)
2181   {
2182     next = pq->next;
2183     if (pq->tunnel == t)
2184     {
2185       if (GNUNET_MESSAGE_TYPE_MESH_UNICAST == pq->type ||
2186           GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == pq->type)
2187       {
2188         /* Should have been removed on destroy children */
2189         GNUNET_break (0);
2190       }
2191       queue_destroy (pq, GNUNET_YES);
2192     }
2193   }
2194   if (NULL == peer_info->queue_head && NULL != peer_info->core_transmit)
2195   {
2196     GNUNET_CORE_notify_transmit_ready_cancel(peer_info->core_transmit);
2197     peer_info->core_transmit = NULL;
2198   }
2199 }
2200
2201
2202 /**
2203  * Destroy the tunnel and free any allocated resources linked to it.
2204  *
2205  * @param t the tunnel to destroy
2206  *
2207  * @return GNUNET_OK on success
2208  */
2209 static int
2210 tunnel_destroy (struct MeshTunnel *t)
2211 {
2212   struct MeshClient *c;
2213   struct GNUNET_HashCode hash;
2214   int r;
2215
2216   if (NULL == t)
2217     return GNUNET_OK;
2218
2219   r = GNUNET_OK;
2220   c = t->owner;
2221 #if MESH_DEBUG
2222   {
2223     struct GNUNET_PeerIdentity id;
2224
2225     GNUNET_PEER_resolve (t->id.oid, &id);
2226     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "destroying tunnel %s [%x]\n",
2227                 GNUNET_i2s (&id), t->id.tid);
2228     if (NULL != c)
2229       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
2230   }
2231 #endif
2232
2233   GNUNET_CRYPTO_hash (&t->id, sizeof (struct MESH_TunnelID), &hash);
2234   if (GNUNET_YES != GNUNET_CONTAINER_multihashmap_remove (tunnels, &hash, t))
2235   {
2236     GNUNET_break (0);
2237     r = GNUNET_SYSERR;
2238   }
2239
2240   if (NULL != c)
2241   {
2242     GMC_hash32 (t->local_tid, &hash);
2243     if (GNUNET_YES !=
2244         GNUNET_CONTAINER_multihashmap_remove (c->own_tunnels, &hash, t))
2245     {
2246       GNUNET_break (0);
2247       r = GNUNET_SYSERR;
2248     }
2249   }
2250
2251   if (NULL != t->client)
2252   {
2253     c = t->client;
2254     GMC_hash32 (t->local_tid_dest, &hash);
2255     if (GNUNET_YES !=
2256           GNUNET_CONTAINER_multihashmap_remove (c->incoming_tunnels, &hash, t))
2257     {
2258       GNUNET_break (0);
2259       r = GNUNET_SYSERR;
2260     }
2261     if (GNUNET_YES != 
2262       GNUNET_CONTAINER_multihashmap_remove (incoming_tunnels, &hash, t))
2263     {
2264       GNUNET_break (0);
2265       r = GNUNET_SYSERR;
2266     }
2267   }
2268
2269   peer_cancel_queues (t->next_hop, t);
2270   peer_cancel_queues (t->prev_hop, t);
2271   GNUNET_PEER_change_rc(t->next_hop, -1);
2272   GNUNET_PEER_change_rc(t->prev_hop, -1);
2273
2274   if (GNUNET_SCHEDULER_NO_TASK != t->maintenance_task)
2275     GNUNET_SCHEDULER_cancel (t->maintenance_task);
2276
2277   n_tunnels--;
2278   GNUNET_STATISTICS_update (stats, "# tunnels", -1, GNUNET_NO);
2279   path_destroy (t->path);
2280   GNUNET_free (t);
2281   return r;
2282 }
2283
2284 /**
2285  * Tunnel is empty: destroy it.
2286  * 
2287  * @param t Tunnel to destroy. 
2288  */
2289 static void
2290 tunnel_destroy_empty (struct MeshTunnel *t)
2291 {
2292   #if MESH_DEBUG
2293   {
2294     struct GNUNET_PeerIdentity id;
2295
2296     GNUNET_PEER_resolve (t->id.oid, &id);
2297     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2298                 "executing destruction of empty tunnel %s [%X]\n",
2299                 GNUNET_i2s (&id), t->id.tid);
2300   }
2301   #endif
2302
2303   if (GNUNET_NO == t->destroy)
2304     tunnel_send_destroy (t);
2305   if (0 == t->pending_messages)
2306     tunnel_destroy (t);
2307   else
2308     t->destroy = GNUNET_YES;
2309 }
2310
2311 /**
2312  * Initialize a Flow Control structure to the initial state.
2313  * 
2314  * @param fc Flow Control structure to initialize.
2315  */
2316 static void
2317 fc_init (struct MeshFlowControl *fc)
2318 {
2319   fc->last_pid_sent = (uint32_t) -1; /* Next (expected) = 0 */
2320   fc->last_pid_recv = (uint32_t) -1;
2321   fc->last_ack_sent = (uint32_t) -1; /* No traffic allowed yet */
2322   fc->last_ack_recv = (uint32_t) -1;
2323   fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
2324   fc->poll_time = GNUNET_TIME_UNIT_SECONDS;
2325   fc->queue_n = 0;
2326 }
2327
2328 /**
2329  * Create a new tunnel
2330  * 
2331  * @param owner Who is the owner of the tunnel (short ID).
2332  * @param tid Tunnel Number of the tunnel.
2333  * @param client Clients that owns the tunnel, NULL for foreign tunnels.
2334  * @param local Tunnel Number for the tunnel, for the client point of view.
2335  * 
2336  * @return A new initialized tunnel. NULL on error.
2337  */
2338 static struct MeshTunnel *
2339 tunnel_new (GNUNET_PEER_Id owner,
2340             MESH_TunnelNumber tid,
2341             struct MeshClient *client,
2342             MESH_TunnelNumber local)
2343 {
2344   struct MeshTunnel *t;
2345   struct GNUNET_HashCode hash;
2346
2347   if (n_tunnels >= max_tunnels && NULL == client)
2348     return NULL;
2349
2350   t = GNUNET_malloc (sizeof (struct MeshTunnel));
2351   t->id.oid = owner;
2352   t->id.tid = tid;
2353   t->queue_max = (max_msgs_queue / max_tunnels) + 1;
2354   t->owner = client;
2355   fc_init (&t->next_fc);
2356   fc_init (&t->prev_fc);
2357   t->local_tid = local;
2358   n_tunnels++;
2359   GNUNET_STATISTICS_update (stats, "# tunnels", 1, GNUNET_NO);
2360
2361   GNUNET_CRYPTO_hash (&t->id, sizeof (struct MESH_TunnelID), &hash);
2362   if (GNUNET_OK !=
2363       GNUNET_CONTAINER_multihashmap_put (tunnels, &hash, t,
2364                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
2365   {
2366     GNUNET_break (0);
2367     tunnel_destroy (t);
2368     if (NULL != client)
2369     {
2370       GNUNET_break (0);
2371       GNUNET_SERVER_receive_done (client->handle, GNUNET_SYSERR);
2372     }
2373     return NULL;
2374   }
2375
2376   if (NULL != client)
2377   {
2378     GMC_hash32 (t->local_tid, &hash);
2379     if (GNUNET_OK !=
2380         GNUNET_CONTAINER_multihashmap_put (client->own_tunnels, &hash, t,
2381                                           GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
2382     {
2383       tunnel_destroy (t);
2384       GNUNET_break (0);
2385       GNUNET_SERVER_receive_done (client->handle, GNUNET_SYSERR);
2386       return NULL;
2387     }
2388   }
2389
2390   return t;
2391 }
2392
2393
2394
2395 /**
2396  * tunnel_destroy_iterator: iterator for deleting each tunnel that belongs to a
2397  * client when the client disconnects. If the client is not the owner, the
2398  * owner will get notified if no more clients are in the tunnel and the client
2399  * get removed from the tunnel's list.
2400  *
2401  * @param cls closure (client that is disconnecting)
2402  * @param key the hash of the local tunnel id (used to access the hashmap)
2403  * @param value the value stored at the key (tunnel to destroy)
2404  *
2405  * @return GNUNET_OK, keep iterating.
2406  */
2407 static int
2408 tunnel_destroy_iterator (void *cls,
2409                          const struct GNUNET_HashCode * key,
2410                          void *value)
2411 {
2412   struct MeshTunnel *t = value;
2413   struct MeshClient *c = cls;
2414
2415   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2416               " Tunnel %X / %X destroy, due to client %u shutdown.\n",
2417               t->local_tid, t->local_tid_dest, c->id);
2418   if (GNUNET_NO == c->shutting_down)
2419     send_client_tunnel_destroy (t);
2420   client_delete_tunnel (c, t);
2421   if (c == t->client)
2422   {
2423     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " Client %u is destination.\n", c->id);
2424     t->client = NULL;
2425     t->next_hop = 0;
2426   }
2427   else if (c == t->owner)
2428   {
2429     struct MeshPeerInfo *p;
2430     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " Client %u is owner.\n", c->id);
2431     t->owner = NULL;
2432     t->prev_hop = 0;
2433     p = peer_get_short(t->dest);
2434     peer_info_remove_tunnel (p, t);
2435   }
2436   else
2437   {
2438     GNUNET_break (0);
2439   }
2440   tunnel_destroy_empty (t);
2441
2442   return GNUNET_OK;
2443 }
2444
2445
2446 /**
2447  * Timeout function, destroys tunnel if called
2448  *
2449  * @param cls Closure (tunnel to destroy).
2450  * @param tc TaskContext
2451  */
2452 static void
2453 tunnel_timeout (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
2454 {
2455   struct MeshTunnel *t = cls;
2456   struct GNUNET_PeerIdentity id;
2457
2458   t->maintenance_task = GNUNET_SCHEDULER_NO_TASK;
2459   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
2460     return;
2461   GNUNET_PEER_resolve(t->id.oid, &id);
2462   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
2463               "Tunnel %s [%X] timed out. Destroying.\n",
2464               GNUNET_i2s(&id), t->id.tid);
2465   send_client_tunnel_destroy (t);
2466   tunnel_destroy (t);
2467 }
2468
2469
2470 /**
2471  * Resets the tunnel timeout. Starts it if no timeout was running.
2472  *
2473  * @param t Tunnel whose timeout to reset.
2474  *
2475  * TODO use heap to improve efficiency of scheduler.
2476  */
2477 static void
2478 tunnel_reset_timeout (struct MeshTunnel *t)
2479 {
2480   if (NULL != t->owner || 0 != t->local_tid || 0 == t->prev_hop)
2481     return;
2482   if (GNUNET_SCHEDULER_NO_TASK != t->maintenance_task)
2483     GNUNET_SCHEDULER_cancel (t->maintenance_task);
2484   t->maintenance_task =
2485       GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_relative_multiply
2486                                     (refresh_path_time, 4), &tunnel_timeout, t);
2487 }
2488
2489
2490 /******************************************************************************/
2491 /****************      MESH NETWORK HANDLER HELPERS     ***********************/
2492 /******************************************************************************/
2493
2494 /**
2495  * Function to send a create path packet to a peer.
2496  *
2497  * @param cls closure
2498  * @param size number of bytes available in buf
2499  * @param buf where the callee should write the message
2500  * @return number of bytes written to buf
2501  */
2502 static size_t
2503 send_core_path_create (void *cls, size_t size, void *buf)
2504 {
2505   struct MeshTunnel *t = cls;
2506   struct GNUNET_MESH_CreateTunnel *msg;
2507   struct GNUNET_PeerIdentity *peer_ptr;
2508   struct MeshPeerPath *p = t->path;
2509   size_t size_needed;
2510   uint32_t opt;
2511   int i;
2512
2513   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "CREATE PATH sending...\n");
2514   size_needed =
2515       sizeof (struct GNUNET_MESH_CreateTunnel) +
2516       p->length * sizeof (struct GNUNET_PeerIdentity);
2517
2518   if (size < size_needed || NULL == buf)
2519   {
2520     GNUNET_break (0);
2521     return 0;
2522   }
2523   msg = (struct GNUNET_MESH_CreateTunnel *) buf;
2524   msg->header.size = htons (size_needed);
2525   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE);
2526   msg->tid = ntohl (t->id.tid);
2527
2528   opt = 0;
2529   if (GNUNET_YES == t->nobuffer)
2530     opt |= MESH_TUNNEL_OPT_NOBUFFER;
2531   msg->opt = htonl (opt);
2532   msg->port = htonl (t->port);
2533
2534   peer_ptr = (struct GNUNET_PeerIdentity *) &msg[1];
2535   for (i = 0; i < p->length; i++)
2536   {
2537     GNUNET_PEER_resolve (p->peers[i], peer_ptr++);
2538   }
2539
2540   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2541               "CREATE PATH (%u bytes long) sent!\n", size_needed);
2542   return size_needed;
2543 }
2544
2545
2546 /**
2547  * Creates a path ack message in buf and frees all unused resources.
2548  *
2549  * @param cls closure (MeshTransmissionDescriptor)
2550  * @param size number of bytes available in buf
2551  * @param buf where the callee should write the message
2552  * @return number of bytes written to buf
2553  */
2554 static size_t
2555 send_core_path_ack (void *cls, size_t size, void *buf)
2556 {
2557   struct MeshTunnel *t = cls;
2558   struct GNUNET_MESH_PathACK *msg = buf;
2559
2560   GNUNET_assert (NULL != t);
2561   if (sizeof (struct GNUNET_MESH_PathACK) > size)
2562   {
2563     GNUNET_break (0);
2564     return 0;
2565   }
2566   t->prev_fc.last_ack_sent = t->nobuffer ? 0 : t->queue_max - 1;
2567   msg->header.size = htons (sizeof (struct GNUNET_MESH_PathACK));
2568   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_ACK);
2569   GNUNET_PEER_resolve (t->id.oid, &msg->oid);
2570   msg->tid = htonl (t->id.tid);
2571   msg->peer_id = my_full_id;
2572   msg->ack = htonl (t->prev_fc.last_ack_sent);
2573
2574   /* TODO add signature */
2575
2576   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "PATH ACK sent!\n");
2577   return sizeof (struct GNUNET_MESH_PathACK);
2578 }
2579
2580
2581 /**
2582  * Free a transmission that was already queued with all resources
2583  * associated to the request.
2584  *
2585  * @param queue Queue handler to cancel.
2586  * @param clear_cls Is it necessary to free associated cls?
2587  */
2588 static void
2589 queue_destroy (struct MeshPeerQueue *queue, int clear_cls)
2590 {
2591   struct MeshFlowControl *fc;
2592
2593   if (GNUNET_YES == clear_cls)
2594   {
2595     switch (queue->type)
2596     {
2597       case GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY:
2598         GNUNET_log (GNUNET_ERROR_TYPE_INFO, "   cancelling TUNNEL_DESTROY\n");
2599         GNUNET_break (GNUNET_YES == queue->tunnel->destroy);
2600         /* fall through */
2601       case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2602       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2603       case GNUNET_MESSAGE_TYPE_MESH_ACK:
2604       case GNUNET_MESSAGE_TYPE_MESH_POLL:
2605       case GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE:
2606         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2607                     "   prebuilt message\n");
2608         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2609                     "   type %s\n",
2610                     GNUNET_MESH_DEBUG_M2S (queue->type));
2611         break;
2612       case GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE:
2613         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   type create path\n");
2614         break;
2615       default:
2616         GNUNET_break (0);
2617         GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2618                     "   type %s unknown!\n",
2619                     GNUNET_MESH_DEBUG_M2S (queue->type));
2620     }
2621     GNUNET_free_non_null (queue->cls);
2622   }
2623   GNUNET_CONTAINER_DLL_remove (queue->peer->queue_head,
2624                                queue->peer->queue_tail,
2625                                queue);
2626
2627   /* Delete from appropiate fc in the tunnel */
2628   if (queue->peer->id == queue->tunnel->next_hop)
2629     fc = &queue->tunnel->next_fc;
2630   else if (queue->peer->id == queue->tunnel->next_hop)
2631     fc = &queue->tunnel->next_fc;
2632   else
2633   {
2634     GNUNET_break (0);
2635     return;
2636   }
2637   fc->queue_n--;
2638   GNUNET_free (queue);
2639 }
2640
2641
2642 /**
2643  * @brief Get the next transmittable message from the queue.
2644  *
2645  * This will be the head, except in the case of being a data packet
2646  * not allowed by the destination peer.
2647  *
2648  * @param peer Destination peer.
2649  *
2650  * @return The next viable MeshPeerQueue element to send to that peer.
2651  *         NULL when there are no transmittable messages.
2652  */
2653 struct MeshPeerQueue *
2654 queue_get_next (const struct MeshPeerInfo *peer)
2655 {
2656   struct MeshPeerQueue *q;
2657  
2658   struct GNUNET_MESH_Unicast *ucast;
2659   struct GNUNET_MESH_ToOrigin *to_orig;
2660   struct MeshTunnel* t;
2661   uint32_t pid;
2662   uint32_t ack;
2663
2664   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   selecting message\n");
2665   for (q = peer->queue_head; NULL != q; q = q->next)
2666   {
2667     t = q->tunnel;
2668     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2669                 "*     %s\n",
2670                 GNUNET_MESH_DEBUG_M2S(q->type));
2671     switch (q->type)
2672     {
2673       case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2674         ucast = (struct GNUNET_MESH_Unicast *) q->cls;
2675         pid = ntohl (ucast->pid);
2676         ack = t->next_fc.last_ack_recv;
2677         break;
2678       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2679         to_orig = (struct GNUNET_MESH_ToOrigin *) q->cls;
2680         pid = ntohl (to_orig->pid);
2681         ack = t->prev_fc.last_ack_recv;
2682         break;
2683       default:
2684         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2685                     "*   OK!\n");
2686         return q;
2687     }
2688     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2689                 "*     ACK: %u, PID: %u\n",
2690                 ack, pid);
2691     if (GNUNET_NO == GMC_is_pid_bigger (pid, ack))
2692     {
2693       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2694                   "*   OK!\n");
2695       return q;
2696     }
2697     else
2698     {
2699       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2700                   "*     NEXT!\n");
2701     }
2702   }
2703   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2704                 "*   nothing found\n");
2705   return NULL;
2706 }
2707
2708
2709 static size_t
2710 queue_send (void *cls, size_t size, void *buf)
2711 {
2712   struct MeshPeerInfo *peer = cls;
2713   struct GNUNET_MessageHeader *msg;
2714   struct MeshPeerQueue *queue;
2715   struct MeshTunnel *t;
2716   struct GNUNET_PeerIdentity dst_id;
2717   struct MeshFlowControl *fc;
2718   size_t data_size;
2719   uint16_t type;
2720
2721   peer->core_transmit = NULL;
2722
2723   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "* Queue send\n");
2724   queue = queue_get_next (peer);
2725
2726   /* Queue has no internal mesh traffic nor sendable payload */
2727   if (NULL == queue)
2728   {
2729     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   not ready, return\n");
2730     if (NULL == peer->queue_head)
2731       GNUNET_break (0); /* Core tmt_rdy should've been canceled */
2732     return 0;
2733   }
2734   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   not empty\n");
2735
2736   GNUNET_PEER_resolve (peer->id, &dst_id);
2737   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2738               "*   towards %s\n",
2739               GNUNET_i2s (&dst_id));
2740   /* Check if buffer size is enough for the message */
2741   if (queue->size > size)
2742   {
2743       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2744                   "*   not enough room, reissue\n");
2745       peer->core_transmit =
2746           GNUNET_CORE_notify_transmit_ready (core_handle,
2747                                              GNUNET_NO,
2748                                              0,
2749                                              GNUNET_TIME_UNIT_FOREVER_REL,
2750                                              &dst_id,
2751                                              queue->size,
2752                                              &queue_send,
2753                                              peer);
2754       return 0;
2755   }
2756   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   size ok\n");
2757
2758   t = queue->tunnel;
2759   GNUNET_assert (0 < t->pending_messages);
2760   t->pending_messages--;
2761   type = 0;
2762
2763   /* Fill buf */
2764   switch (queue->type)
2765   {
2766     case 0:
2767     case GNUNET_MESSAGE_TYPE_MESH_ACK:
2768     case GNUNET_MESSAGE_TYPE_MESH_POLL:
2769     case GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN:
2770     case GNUNET_MESSAGE_TYPE_MESH_PATH_DESTROY:
2771     case GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY:
2772     case GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE:
2773       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2774                   "*   raw: %s\n",
2775                   GNUNET_MESH_DEBUG_M2S (queue->type));
2776       /* Fall through */
2777     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2778     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2779       data_size = send_core_data_raw (queue->cls, size, buf);
2780       msg = (struct GNUNET_MessageHeader *) buf;
2781       type = ntohs (msg->type);
2782       break;
2783     case GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE:
2784       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   path create\n");
2785       data_size = send_core_path_create (queue->cls, size, buf);
2786       break;
2787     case GNUNET_MESSAGE_TYPE_MESH_PATH_ACK:
2788       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   path ack\n");
2789       data_size = send_core_path_ack (queue->cls, size, buf);
2790       break;
2791     default:
2792       GNUNET_break (0);
2793       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
2794                   "*   type unknown: %u\n",
2795                   queue->type);
2796       data_size = 0;
2797   }
2798
2799   /* Free queue, but cls was freed by send_core_* */
2800   queue_destroy (queue, GNUNET_NO);
2801
2802   /* Send ACK if needed, after accounting for sent ID in fc->queue_n */
2803   switch (type)
2804   {
2805     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2806       t->next_fc.last_pid_sent = ((struct GNUNET_MESH_Unicast *) buf)->pid;
2807       tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_UNICAST);
2808       break;
2809     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2810       t->prev_fc.last_pid_sent = ((struct GNUNET_MESH_ToOrigin *) buf)->pid;
2811       tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN);
2812       break;
2813     default:
2814       break;
2815   }
2816
2817   if (GNUNET_YES == t->destroy && 0 == t->pending_messages)
2818   {
2819     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*  destroying tunnel!\n");
2820     tunnel_destroy (t);
2821   }
2822
2823   /* If more data in queue, send next */
2824   queue = queue_get_next (peer);
2825   if (NULL != queue)
2826   {
2827       struct GNUNET_PeerIdentity id;
2828
2829       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   more data!\n");
2830       GNUNET_PEER_resolve (peer->id, &id);
2831       peer->core_transmit =
2832           GNUNET_CORE_notify_transmit_ready(core_handle,
2833                                             0,
2834                                             0,
2835                                             GNUNET_TIME_UNIT_FOREVER_REL,
2836                                             &id,
2837                                             queue->size,
2838                                             &queue_send,
2839                                             peer);
2840   }
2841   else if (NULL != peer->queue_head)
2842   {
2843     GNUNET_log (GNUNET_ERROR_TYPE_INFO,
2844                 "*   %s stalled\n",
2845                 GNUNET_i2s (&my_full_id));
2846     if (peer->id == t->next_hop)
2847       fc = &t->next_fc;
2848     else if (peer->id == t->prev_hop)
2849       fc = &t->prev_fc;
2850     else
2851     {
2852       GNUNET_break (0);
2853       fc = NULL;
2854     }
2855     if (NULL != fc && GNUNET_SCHEDULER_NO_TASK == fc->poll_task)
2856     {
2857       fc->t = t;
2858       fc->poll_task = GNUNET_SCHEDULER_add_delayed (fc->poll_time,
2859                                                     &tunnel_poll, fc);
2860     }
2861   }
2862   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*  Return %d\n", data_size);
2863   return data_size;
2864 }
2865
2866
2867 /**
2868  * @brief Queue and pass message to core when possible.
2869  * 
2870  * If type is payload (UNICAST, TO_ORIGIN) checks for queue status and
2871  * accounts for it. In case the queue is full, the message is dropped and
2872  * a break issued.
2873  * 
2874  * Otherwise, message is treated as internal and allowed to go regardless of 
2875  * queue status.
2876  *
2877  * @param cls Closure (@c type dependant). It will be used by queue_send to
2878  *            build the message to be sent if not already prebuilt.
2879  * @param type Type of the message, 0 for a raw message.
2880  * @param size Size of the message.
2881  * @param dst Neighbor to send message to.
2882  * @param t Tunnel this message belongs to.
2883  */
2884 static void
2885 queue_add (void *cls, uint16_t type, size_t size,
2886            struct MeshPeerInfo *dst, struct MeshTunnel *t)
2887 {
2888   struct MeshPeerQueue *queue;
2889   struct GNUNET_PeerIdentity id;
2890   unsigned int *n;
2891
2892   n = NULL;
2893   if (GNUNET_MESSAGE_TYPE_MESH_UNICAST == type)
2894   {
2895     n = &t->next_fc.queue_n;
2896   }
2897   else if (GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == type)
2898   {
2899     n = &t->prev_fc.queue_n;
2900   }
2901   if (NULL != n)
2902   {
2903     if (*n >= t->queue_max)
2904     {
2905       GNUNET_break(0);
2906       GNUNET_STATISTICS_update(stats,
2907                                "# messages dropped (buffer full)",
2908                                1, GNUNET_NO);
2909       return; /* Drop message */
2910     }
2911     (*n)++;
2912   }
2913   queue = GNUNET_malloc (sizeof (struct MeshPeerQueue));
2914   queue->cls = cls;
2915   queue->type = type;
2916   queue->size = size;
2917   queue->peer = dst;
2918   queue->tunnel = t;
2919   GNUNET_CONTAINER_DLL_insert_tail (dst->queue_head, dst->queue_tail, queue);
2920   if (NULL == dst->core_transmit)
2921   {
2922     GNUNET_PEER_resolve (dst->id, &id);
2923     dst->core_transmit =
2924         GNUNET_CORE_notify_transmit_ready (core_handle,
2925                                            0,
2926                                            0,
2927                                            GNUNET_TIME_UNIT_FOREVER_REL,
2928                                            &id,
2929                                            size,
2930                                            &queue_send,
2931                                            dst);
2932   }
2933   t->pending_messages++;
2934 }
2935
2936
2937 /******************************************************************************/
2938 /********************      MESH NETWORK HANDLERS     **************************/
2939 /******************************************************************************/
2940
2941
2942 /**
2943  * Core handler for path creation
2944  *
2945  * @param cls closure
2946  * @param message message
2947  * @param peer peer identity this notification is about
2948  *
2949  * @return GNUNET_OK to keep the connection open,
2950  *         GNUNET_SYSERR to close it (signal serious error)
2951  */
2952 static int
2953 handle_mesh_path_create (void *cls, const struct GNUNET_PeerIdentity *peer,
2954                          const struct GNUNET_MessageHeader *message)
2955 {
2956   unsigned int own_pos;
2957   uint16_t size;
2958   uint16_t i;
2959   MESH_TunnelNumber tid;
2960   struct GNUNET_MESH_CreateTunnel *msg;
2961   struct GNUNET_PeerIdentity *pi;
2962   struct MeshPeerPath *path;
2963   struct MeshPeerInfo *dest_peer_info;
2964   struct MeshPeerInfo *orig_peer_info;
2965   struct MeshTunnel *t;
2966
2967   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2968               "Received a path create msg [%s]\n",
2969               GNUNET_i2s (&my_full_id));
2970   size = ntohs (message->size);
2971   if (size < sizeof (struct GNUNET_MESH_CreateTunnel))
2972   {
2973     GNUNET_break_op (0);
2974     return GNUNET_OK;
2975   }
2976
2977   size -= sizeof (struct GNUNET_MESH_CreateTunnel);
2978   if (size % sizeof (struct GNUNET_PeerIdentity))
2979   {
2980     GNUNET_break_op (0);
2981     return GNUNET_OK;
2982   }
2983   size /= sizeof (struct GNUNET_PeerIdentity);
2984   if (size < 1)
2985   {
2986     GNUNET_break_op (0);
2987     return GNUNET_OK;
2988   }
2989   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    path has %u hops.\n", size);
2990   msg = (struct GNUNET_MESH_CreateTunnel *) message;
2991
2992   tid = ntohl (msg->tid);
2993   pi = (struct GNUNET_PeerIdentity *) &msg[1];
2994   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2995               "    path is for tunnel %s[%X].\n", GNUNET_i2s (pi), tid);
2996   t = tunnel_get (pi, tid);
2997   if (NULL == t) /* might be a local tunnel */
2998   {
2999     uint32_t opt;
3000
3001     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Creating tunnel\n");
3002     t = tunnel_new (GNUNET_PEER_intern (pi), tid, NULL, 0);
3003     if (NULL == t)
3004     {
3005       GNUNET_break (0);
3006       return GNUNET_OK;
3007     }
3008     t->port = ntohl (msg->port);
3009     opt = ntohl (msg->opt);
3010     if (0 != (opt & MESH_TUNNEL_OPT_NOBUFFER))
3011     {
3012       t->nobuffer = GNUNET_YES;
3013       t->prev_fc.last_ack_sent = t->prev_fc.last_pid_recv + 1;
3014       t->next_fc.last_ack_sent = t->next_fc.last_pid_recv + 1;
3015       t->queue_max = 1;
3016     }
3017     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  nobuffer:%d\n", t->nobuffer);
3018
3019     tunnel_reset_timeout (t);
3020   }
3021   t->state = MESH_TUNNEL_WAITING;
3022   dest_peer_info =
3023       GNUNET_CONTAINER_multihashmap_get (peers, &pi[size - 1].hashPubKey);
3024   if (NULL == dest_peer_info)
3025   {
3026     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3027                 "  Creating PeerInfo for destination.\n");
3028     dest_peer_info = GNUNET_malloc (sizeof (struct MeshPeerInfo));
3029     dest_peer_info->id = GNUNET_PEER_intern (&pi[size - 1]);
3030     GNUNET_CONTAINER_multihashmap_put (peers, &pi[size - 1].hashPubKey,
3031                                        dest_peer_info,
3032                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY);
3033   }
3034   orig_peer_info = GNUNET_CONTAINER_multihashmap_get (peers, &pi->hashPubKey);
3035   if (NULL == orig_peer_info)
3036   {
3037     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3038                 "  Creating PeerInfo for origin.\n");
3039     orig_peer_info = GNUNET_malloc (sizeof (struct MeshPeerInfo));
3040     orig_peer_info->id = GNUNET_PEER_intern (pi);
3041     GNUNET_CONTAINER_multihashmap_put (peers, &pi->hashPubKey, orig_peer_info,
3042                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY);
3043   }
3044   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Creating path...\n");
3045   path = path_new (size);
3046   own_pos = 0;
3047   for (i = 0; i < size; i++)
3048   {
3049     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ... adding %s\n",
3050                 GNUNET_i2s (&pi[i]));
3051     path->peers[i] = GNUNET_PEER_intern (&pi[i]);
3052     if (path->peers[i] == myid)
3053       own_pos = i;
3054   }
3055   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Own position: %u\n", own_pos);
3056   if (own_pos == 0 && path->peers[own_pos] != myid)
3057   {
3058     /* create path: self not found in path through self */
3059     GNUNET_break_op (0);
3060     path_destroy (path);
3061     tunnel_destroy (t);
3062     return GNUNET_OK;
3063   }
3064   path_add_to_peers (path, GNUNET_NO);
3065   tunnel_use_path (t, path);
3066
3067   if (own_pos == size - 1)
3068   {
3069     struct MeshClient *c;
3070     struct GNUNET_HashCode hc;
3071
3072     /* Find target client */
3073     GMC_hash32 (t->port, &hc);
3074     c = GNUNET_CONTAINER_multihashmap_get (ports, &hc);
3075     if (NULL == c)
3076     {
3077       /* TODO send reject */
3078       return GNUNET_OK;
3079     }
3080
3081     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  It's for us!\n");
3082     peer_info_add_path_to_origin (orig_peer_info, path, GNUNET_YES);
3083     t->dest = myid;
3084
3085     /* Assign local tid */
3086     while (NULL != tunnel_get_incoming (next_local_tid))
3087       next_local_tid = (next_local_tid + 1) | GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
3088     t->local_tid_dest = next_local_tid++;
3089     next_local_tid = next_local_tid | GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
3090
3091     tunnel_add_client (t, c);
3092     send_client_tunnel_create (t);
3093     send_path_ack (t);
3094   }
3095   else
3096   {
3097     struct MeshPeerPath *path2;
3098
3099     t->next_hop = path->peers[own_pos + 1];
3100     GNUNET_PEER_change_rc(t->next_hop, 1);
3101
3102     /* It's for somebody else! Retransmit. */
3103     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Retransmitting.\n");
3104     path2 = path_duplicate (path);
3105     peer_info_add_path (dest_peer_info, path2, GNUNET_NO);
3106     peer_info_add_path_to_origin (orig_peer_info, path, GNUNET_NO);
3107     send_create_path (t);
3108   }
3109   return GNUNET_OK;
3110 }
3111
3112
3113
3114 /**
3115  * Core handler for path ACKs
3116  *
3117  * @param cls closure
3118  * @param message message
3119  * @param peer peer identity this notification is about
3120  *
3121  * @return GNUNET_OK to keep the connection open,
3122  *         GNUNET_SYSERR to close it (signal serious error)
3123  */
3124 static int
3125 handle_mesh_path_ack (void *cls, const struct GNUNET_PeerIdentity *peer,
3126                       const struct GNUNET_MessageHeader *message)
3127 {
3128   struct GNUNET_MESH_PathACK *msg;
3129   struct MeshPeerInfo *peer_info;
3130   struct MeshPeerPath *p;
3131   struct MeshTunnel *t;
3132
3133   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Received a path ACK msg [%s]\n",
3134               GNUNET_i2s (&my_full_id));
3135   msg = (struct GNUNET_MESH_PathACK *) message;
3136   t = tunnel_get (&msg->oid, ntohl(msg->tid));
3137   if (NULL == t)
3138   {
3139     /* TODO notify that we don't know the tunnel */
3140     GNUNET_STATISTICS_update (stats, "# control on unknown tunnel", 1, GNUNET_NO);
3141     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  don't know the tunnel %s [%X]!\n",
3142                 GNUNET_i2s (&msg->oid), ntohl(msg->tid));
3143     return GNUNET_OK;
3144   }
3145   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %s [%X]\n",
3146               GNUNET_i2s (&msg->oid), ntohl(msg->tid));
3147
3148   peer_info = peer_get (&msg->peer_id);
3149   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by peer %s\n",
3150               GNUNET_i2s (&msg->peer_id));
3151   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  via peer %s\n",
3152               GNUNET_i2s (peer));
3153
3154   /* Add path to peers? */
3155   p = t->path;
3156   if (NULL != p)
3157   {
3158     path_add_to_peers (p, GNUNET_YES);
3159   }
3160   else
3161   {
3162     GNUNET_break (0);
3163   }
3164   t->state = MESH_TUNNEL_READY;
3165   t->next_fc.last_ack_recv = ntohl (msg->ack);
3166   t->prev_fc.last_ack_sent = ntohl (msg->ack);
3167
3168   /* Message for us? */
3169   if (0 == memcmp (&msg->oid, &my_full_id, sizeof (struct GNUNET_PeerIdentity)))
3170   {
3171     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  It's for us!\n");
3172     if (NULL == t->owner)
3173     {
3174       GNUNET_break_op (0);
3175       return GNUNET_OK;
3176     }
3177     if (NULL != peer_info->dhtget)
3178     {
3179       GNUNET_DHT_get_stop (peer_info->dhtget);
3180       peer_info->dhtget = NULL;
3181     }
3182     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_PATH_ACK);
3183     return GNUNET_OK;
3184   }
3185
3186   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3187               "  not for us, retransmitting...\n");
3188   peer_info = peer_get (&msg->oid);
3189   send_prebuilt_message (message, t->prev_hop, t);
3190   return GNUNET_OK;
3191 }
3192
3193
3194 /**
3195  * Core handler for notifications of broken paths
3196  *
3197  * @param cls closure
3198  * @param message message
3199  * @param peer peer identity this notification is about
3200  *
3201  * @return GNUNET_OK to keep the connection open,
3202  *         GNUNET_SYSERR to close it (signal serious error)
3203  */
3204 static int
3205 handle_mesh_path_broken (void *cls, const struct GNUNET_PeerIdentity *peer,
3206                          const struct GNUNET_MessageHeader *message)
3207 {
3208   struct GNUNET_MESH_PathBroken *msg;
3209   struct MeshTunnel *t;
3210
3211   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3212               "Received a PATH BROKEN msg from %s\n", GNUNET_i2s (peer));
3213   msg = (struct GNUNET_MESH_PathBroken *) message;
3214   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  regarding %s\n",
3215               GNUNET_i2s (&msg->peer1));
3216   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  regarding %s\n",
3217               GNUNET_i2s (&msg->peer2));
3218   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3219   if (NULL == t)
3220   {
3221     GNUNET_break_op (0);
3222     return GNUNET_OK;
3223   }
3224   tunnel_notify_connection_broken (t, GNUNET_PEER_search (&msg->peer1),
3225                                    GNUNET_PEER_search (&msg->peer2));
3226   return GNUNET_OK;
3227
3228 }
3229
3230
3231 /**
3232  * Core handler for tunnel destruction
3233  *
3234  * @param cls closure
3235  * @param message message
3236  * @param peer peer identity this notification is about
3237  *
3238  * @return GNUNET_OK to keep the connection open,
3239  *         GNUNET_SYSERR to close it (signal serious error)
3240  */
3241 static int
3242 handle_mesh_tunnel_destroy (void *cls, const struct GNUNET_PeerIdentity *peer,
3243                             const struct GNUNET_MessageHeader *message)
3244 {
3245   struct GNUNET_MESH_TunnelDestroy *msg;
3246   struct MeshTunnel *t;
3247
3248   msg = (struct GNUNET_MESH_TunnelDestroy *) message;
3249   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3250               "Got a TUNNEL DESTROY packet from %s\n",
3251               GNUNET_i2s (peer));
3252   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3253               "  for tunnel %s [%u]\n",
3254               GNUNET_i2s (&msg->oid), ntohl (msg->tid));
3255   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3256   if (NULL == t)
3257   {
3258     /* Probably already got the message from another path,
3259      * destroyed the tunnel and retransmitted to children.
3260      * Safe to ignore.
3261      */
3262     GNUNET_STATISTICS_update (stats, "# control on unknown tunnel",
3263                               1, GNUNET_NO);
3264     return GNUNET_OK;
3265   }
3266   // TODO check owner's signature
3267   if (t->local_tid_dest >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
3268   {
3269     /* Tunnel was incoming, notify clients */
3270     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "INCOMING TUNNEL %X %X\n",
3271                 t->local_tid, t->local_tid_dest);
3272     send_client_tunnel_destroy (t);
3273   }
3274   tunnel_send_destroy (t);
3275   t->destroy = GNUNET_YES;
3276   // TODO: add timeout to destroy the tunnel anyway
3277   return GNUNET_OK;
3278 }
3279
3280
3281 /**
3282  * Core handler for mesh network traffic going from the origin to a peer
3283  *
3284  * @param cls closure
3285  * @param peer peer identity this notification is about
3286  * @param message message
3287  * @return GNUNET_OK to keep the connection open,
3288  *         GNUNET_SYSERR to close it (signal serious error)
3289  */
3290 static int
3291 handle_mesh_unicast (void *cls, const struct GNUNET_PeerIdentity *peer,
3292                           const struct GNUNET_MessageHeader *message)
3293 {
3294   struct GNUNET_MESH_Unicast *msg;
3295   struct MeshTunnel *t;
3296   uint32_t pid;
3297   uint32_t ttl;
3298   size_t size;
3299
3300   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a unicast packet from %s\n",
3301               GNUNET_i2s (peer));
3302   /* Check size */
3303   size = ntohs (message->size);
3304   if (size <
3305       sizeof (struct GNUNET_MESH_Unicast) +
3306       sizeof (struct GNUNET_MessageHeader))
3307   {
3308     GNUNET_break (0);
3309     return GNUNET_OK;
3310   }
3311   msg = (struct GNUNET_MESH_Unicast *) message;
3312   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " of type %s\n",
3313               GNUNET_MESH_DEBUG_M2S (ntohs (msg[1].header.type)));
3314   /* Check tunnel */
3315   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3316   if (NULL == t)
3317   {
3318     /* TODO notify back: we don't know this tunnel */
3319     GNUNET_STATISTICS_update (stats, "# data on unknown tunnel", 1, GNUNET_NO);
3320     GNUNET_break_op (0);
3321     return GNUNET_OK;
3322   }
3323   pid = ntohl (msg->pid);
3324   if (t->prev_fc.last_pid_recv == pid)
3325   {
3326     GNUNET_STATISTICS_update (stats, "# duplicate PID drops", 1, GNUNET_NO);
3327     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
3328                 " Already seen pid %u, DROPPING!\n", pid);
3329     return GNUNET_OK;
3330   }
3331   else
3332   {
3333     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3334                 " pid %u not seen yet, forwarding\n", pid);
3335   }
3336
3337   if (GMC_is_pid_bigger (pid, t->prev_fc.last_ack_sent))
3338   {
3339     GNUNET_STATISTICS_update (stats, "# unsolicited unicast", 1, GNUNET_NO);
3340     GNUNET_break_op (0);
3341     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3342                 "Received PID %u, ACK %u\n",
3343                 pid, t->prev_fc.last_ack_sent);
3344     tunnel_send_fwd_ack(t, GNUNET_MESSAGE_TYPE_MESH_POLL);
3345     return GNUNET_OK;
3346   }
3347   t->prev_fc.last_pid_recv = pid;
3348
3349   tunnel_reset_timeout (t);
3350   if (t->dest == myid)
3351   {
3352     if (NULL == t->client)
3353     {
3354       GNUNET_break (0);
3355       return GNUNET_OK;
3356     }
3357     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3358                 "  it's for us! sending to clients...\n");
3359     GNUNET_STATISTICS_update (stats, "# unicast received", 1, GNUNET_NO);
3360     GNUNET_SERVER_notification_context_unicast (nc, t->client->handle,
3361                                                 message, GNUNET_NO);
3362     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_UNICAST);
3363     return GNUNET_OK;
3364   }
3365   if (0 == t->next_hop)
3366   {
3367     GNUNET_break (0);
3368     return GNUNET_OK;
3369   }
3370   ttl = ntohl (msg->ttl);
3371   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   ttl: %u\n", ttl);
3372   if (ttl == 0)
3373   {
3374     GNUNET_STATISTICS_update (stats, "# TTL drops", 1, GNUNET_NO);
3375     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, " TTL is 0, DROPPING!\n");
3376     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
3377     return GNUNET_OK;
3378   }
3379   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3380               "  not for us, retransmitting...\n");
3381
3382   send_prebuilt_message (message, t->next_hop, t);
3383   GNUNET_STATISTICS_update (stats, "# unicast forwarded", 1, GNUNET_NO);
3384   return GNUNET_OK;
3385 }
3386
3387
3388 /**
3389  * Core handler for mesh network traffic toward the owner of a tunnel
3390  *
3391  * @param cls closure
3392  * @param message message
3393  * @param peer peer identity this notification is about
3394  *
3395  * @return GNUNET_OK to keep the connection open,
3396  *         GNUNET_SYSERR to close it (signal serious error)
3397  */
3398 static int
3399 handle_mesh_to_orig (void *cls, const struct GNUNET_PeerIdentity *peer,
3400                           const struct GNUNET_MessageHeader *message)
3401 {
3402   struct GNUNET_MESH_ToOrigin *msg;
3403   struct MeshTunnel *t;
3404   size_t size;
3405   uint32_t pid;
3406
3407   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a ToOrigin packet from %s\n",
3408               GNUNET_i2s (peer));
3409   size = ntohs (message->size);
3410   if (size < sizeof (struct GNUNET_MESH_ToOrigin) +     /* Payload must be */
3411       sizeof (struct GNUNET_MessageHeader))     /* at least a header */
3412   {
3413     GNUNET_break_op (0);
3414     return GNUNET_OK;
3415   }
3416   msg = (struct GNUNET_MESH_ToOrigin *) message;
3417   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " of type %s\n",
3418               GNUNET_MESH_DEBUG_M2S (ntohs (msg[1].header.type)));
3419   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3420   pid = ntohl (msg->pid);
3421
3422   if (NULL == t)
3423   {
3424     /* TODO notify that we dont know this tunnel (whom)? */
3425     GNUNET_STATISTICS_update (stats, "# data on unknown tunnel", 1, GNUNET_NO);
3426     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3427                 "Received to_origin with PID %u on unknown tunnel %s [%u]\n",
3428                 pid, GNUNET_i2s (&msg->oid), ntohl (msg->tid));
3429     return GNUNET_OK;
3430   }
3431
3432   if (t->next_fc.last_pid_recv == pid)
3433   {
3434     /* already seen this packet, drop */
3435     GNUNET_STATISTICS_update (stats, "# duplicate PID drops BCK", 1, GNUNET_NO);
3436     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3437                 " Already seen pid %u, DROPPING!\n", pid);
3438     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
3439     return GNUNET_OK;
3440   }
3441
3442   if (GMC_is_pid_bigger (pid, t->next_fc.last_ack_sent))
3443   {
3444     GNUNET_STATISTICS_update (stats, "# unsolicited to_orig", 1, GNUNET_NO);
3445     GNUNET_break_op (0);
3446     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3447                 "Received PID %u, ACK %u\n",
3448                 pid, t->next_fc.last_ack_sent);
3449     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_POLL);
3450     return GNUNET_OK;
3451   }
3452   t->next_fc.last_pid_recv = pid;
3453   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3454               " pid %u not seen yet, forwarding\n", pid);
3455
3456   if (NULL != t->owner)
3457   {
3458     char cbuf[size];
3459     struct GNUNET_MESH_ToOrigin *copy;
3460
3461     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3462                 "  it's for us! sending to clients...\n");
3463     /* TODO signature verification */
3464     memcpy (cbuf, message, size);
3465     copy = (struct GNUNET_MESH_ToOrigin *) cbuf;
3466     copy->tid = htonl (t->local_tid);
3467     GNUNET_STATISTICS_update (stats, "# to origin received", 1, GNUNET_NO);
3468     GNUNET_SERVER_notification_context_unicast (nc, t->owner->handle,
3469                                                 &copy->header, GNUNET_NO);
3470     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN);
3471     return GNUNET_OK;
3472   }
3473   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3474               "  not for us, retransmitting...\n");
3475
3476   if (0 == t->prev_hop) /* No owner AND no prev hop */
3477   {
3478     if (GNUNET_YES == t->destroy)
3479     {
3480       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3481                   "to orig received on a dying tunnel %s [%X]\n",
3482                   GNUNET_i2s (&msg->oid), ntohl(msg->tid));
3483       return GNUNET_OK;
3484     }
3485     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, 
3486                 "unknown to origin at %s\n",
3487                 GNUNET_i2s (&my_full_id));
3488     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, 
3489                 "from peer %s\n",
3490                 GNUNET_i2s (peer));
3491     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, 
3492                 "on tunnel %s [%X]\n",
3493                 GNUNET_i2s (&msg->oid), ntohl(msg->tid));
3494     return GNUNET_OK;
3495   }
3496   send_prebuilt_message (message, t->prev_hop, t);
3497   GNUNET_STATISTICS_update (stats, "# to origin forwarded", 1, GNUNET_NO);
3498
3499   return GNUNET_OK;
3500 }
3501
3502
3503 /**
3504  * Core handler for mesh network traffic point-to-point acks.
3505  *
3506  * @param cls closure
3507  * @param message message
3508  * @param peer peer identity this notification is about
3509  *
3510  * @return GNUNET_OK to keep the connection open,
3511  *         GNUNET_SYSERR to close it (signal serious error)
3512  */
3513 static int
3514 handle_mesh_ack (void *cls, const struct GNUNET_PeerIdentity *peer,
3515                  const struct GNUNET_MessageHeader *message)
3516 {
3517   struct GNUNET_MESH_ACK *msg;
3518   struct MeshTunnel *t;
3519   GNUNET_PEER_Id id;
3520   uint32_t ack;
3521
3522   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got an ACK packet from %s!\n",
3523               GNUNET_i2s (peer));
3524   msg = (struct GNUNET_MESH_ACK *) message;
3525
3526   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3527
3528   if (NULL == t)
3529   {
3530     /* TODO notify that we dont know this tunnel (whom)? */
3531     GNUNET_STATISTICS_update (stats, "# ack on unknown tunnel", 1, GNUNET_NO);
3532     return GNUNET_OK;
3533   }
3534   ack = ntohl (msg->pid);
3535   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ACK %u\n", ack);
3536
3537   /* Is this a forward or backward ACK? */
3538   id = GNUNET_PEER_search (peer);
3539   if (t->next_hop == id)
3540   {
3541     debug_fwd_ack++;
3542     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  FWD ACK\n");
3543     if (GNUNET_SCHEDULER_NO_TASK != t->next_fc.poll_task &&
3544         GMC_is_pid_bigger (ack, t->next_fc.last_ack_recv))
3545     {
3546       GNUNET_SCHEDULER_cancel (t->next_fc.poll_task);
3547       t->next_fc.poll_task = GNUNET_SCHEDULER_NO_TASK;
3548       t->next_fc.poll_time = GNUNET_TIME_UNIT_SECONDS;
3549     }
3550     t->next_fc.last_ack_recv = ack;
3551     peer_unlock_queue (t->next_hop);
3552     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
3553   }
3554   else if (t->prev_hop == id)
3555   {
3556     debug_bck_ack++;
3557     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  BCK ACK\n");
3558     if (GNUNET_SCHEDULER_NO_TASK != t->prev_fc.poll_task &&
3559         GMC_is_pid_bigger (ack, t->prev_fc.last_ack_recv))
3560     {
3561       GNUNET_SCHEDULER_cancel (t->prev_fc.poll_task);
3562       t->prev_fc.poll_task = GNUNET_SCHEDULER_NO_TASK;
3563       t->prev_fc.poll_time = GNUNET_TIME_UNIT_SECONDS;
3564     }
3565     t->prev_fc.last_ack_recv = ack;
3566     peer_unlock_queue (t->prev_hop);
3567     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
3568   }
3569   else
3570     GNUNET_break_op (0);
3571   return GNUNET_OK;
3572 }
3573
3574
3575 /**
3576  * Core handler for mesh network traffic point-to-point ack polls.
3577  *
3578  * @param cls closure
3579  * @param message message
3580  * @param peer peer identity this notification is about
3581  *
3582  * @return GNUNET_OK to keep the connection open,
3583  *         GNUNET_SYSERR to close it (signal serious error)
3584  */
3585 static int
3586 handle_mesh_poll (void *cls, const struct GNUNET_PeerIdentity *peer,
3587                   const struct GNUNET_MessageHeader *message)
3588 {
3589   struct GNUNET_MESH_Poll *msg;
3590   struct MeshTunnel *t;
3591   GNUNET_PEER_Id id;
3592
3593   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got an POLL packet from %s!\n",
3594               GNUNET_i2s (peer));
3595
3596   msg = (struct GNUNET_MESH_Poll *) message;
3597
3598   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3599
3600   if (NULL == t)
3601   {
3602     /* TODO notify that we dont know this tunnel (whom)? */
3603     GNUNET_STATISTICS_update (stats, "# poll on unknown tunnel", 1, GNUNET_NO);
3604     GNUNET_break_op (0);
3605     return GNUNET_OK;
3606   }
3607
3608   /* Is this a forward or backward ACK? */
3609   id = GNUNET_PEER_search(peer);
3610   if (t->next_hop == id)
3611   {
3612     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  from FWD\n");
3613     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_POLL);
3614   }
3615   else if (t->prev_hop == id)
3616   {
3617     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  from BCK\n");
3618     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_POLL);
3619   }
3620   else
3621     GNUNET_break (0);
3622
3623   return GNUNET_OK;
3624 }
3625
3626
3627 /**
3628  * Core handler for mesh keepalives.
3629  *
3630  * @param cls closure
3631  * @param message message
3632  * @param peer peer identity this notification is about
3633  * @return GNUNET_OK to keep the connection open,
3634  *         GNUNET_SYSERR to close it (signal serious error)
3635  *
3636  * TODO: Check who we got this from, to validate route.
3637  */
3638 static int
3639 handle_mesh_keepalive (void *cls, const struct GNUNET_PeerIdentity *peer,
3640                        const struct GNUNET_MessageHeader *message)
3641 {
3642   struct GNUNET_MESH_TunnelKeepAlive *msg;
3643   struct MeshTunnel *t;
3644
3645   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a keepalive packet from %s\n",
3646               GNUNET_i2s (peer));
3647
3648   msg = (struct GNUNET_MESH_TunnelKeepAlive *) message;
3649   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3650
3651   if (NULL == t)
3652   {
3653     /* TODO notify that we dont know that tunnel */
3654     GNUNET_STATISTICS_update (stats, "# keepalive on unknown tunnel", 1,
3655                               GNUNET_NO);
3656     return GNUNET_OK;
3657   }
3658
3659   tunnel_reset_timeout (t);
3660
3661   GNUNET_STATISTICS_update (stats, "# keepalives forwarded", 1, GNUNET_NO);
3662   send_prebuilt_message (message, t->next_hop, t);
3663   return GNUNET_OK;
3664   }
3665
3666
3667
3668 /**
3669  * Functions to handle messages from core
3670  */
3671 static struct GNUNET_CORE_MessageHandler core_handlers[] = {
3672   {&handle_mesh_path_create, GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE, 0},
3673   {&handle_mesh_path_broken, GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN,
3674    sizeof (struct GNUNET_MESH_PathBroken)},
3675   {&handle_mesh_tunnel_destroy, GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY,
3676    sizeof (struct GNUNET_MESH_TunnelDestroy)},
3677   {&handle_mesh_unicast, GNUNET_MESSAGE_TYPE_MESH_UNICAST, 0},
3678   {&handle_mesh_keepalive, GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE,
3679     sizeof (struct GNUNET_MESH_TunnelKeepAlive)},
3680   {&handle_mesh_to_orig, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN, 0},
3681   {&handle_mesh_ack, GNUNET_MESSAGE_TYPE_MESH_ACK,
3682     sizeof (struct GNUNET_MESH_ACK)},
3683   {&handle_mesh_poll, GNUNET_MESSAGE_TYPE_MESH_POLL,
3684     sizeof (struct GNUNET_MESH_Poll)},
3685   {&handle_mesh_path_ack, GNUNET_MESSAGE_TYPE_MESH_PATH_ACK,
3686    sizeof (struct GNUNET_MESH_PathACK)},
3687   {NULL, 0, 0}
3688 };
3689
3690
3691
3692 /******************************************************************************/
3693 /****************       MESH LOCAL HANDLER HELPERS      ***********************/
3694 /******************************************************************************/
3695
3696
3697 #if LATER
3698 /**
3699  * notify_client_connection_failure: notify a client that the connection to the
3700  * requested remote peer is not possible (for instance, no route found)
3701  * Function called when the socket is ready to queue more data. "buf" will be
3702  * NULL and "size" zero if the socket was closed for writing in the meantime.
3703  *
3704  * @param cls closure
3705  * @param size number of bytes available in buf
3706  * @param buf where the callee should write the message
3707  * @return number of bytes written to buf
3708  */
3709 static size_t
3710 notify_client_connection_failure (void *cls, size_t size, void *buf)
3711 {
3712   int size_needed;
3713   struct MeshPeerInfo *peer_info;
3714   struct GNUNET_MESH_PeerControl *msg;
3715   struct GNUNET_PeerIdentity id;
3716
3717   if (0 == size && NULL == buf)
3718   {
3719     // TODO retry? cancel?
3720     return 0;
3721   }
3722
3723   size_needed = sizeof (struct GNUNET_MESH_PeerControl);
3724   peer_info = (struct MeshPeerInfo *) cls;
3725   msg = (struct GNUNET_MESH_PeerControl *) buf;
3726   msg->header.size = htons (sizeof (struct GNUNET_MESH_PeerControl));
3727   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_PEER_DISCONNECTED);
3728 //     msg->tunnel_id = htonl(peer_info->t->tid);
3729   GNUNET_PEER_resolve (peer_info->id, &id);
3730   memcpy (&msg->peer, &id, sizeof (struct GNUNET_PeerIdentity));
3731
3732   return size_needed;
3733 }
3734 #endif
3735
3736
3737 /**
3738  * Send keepalive packets for a tunnel.
3739  *
3740  * @param cls Closure (tunnel for which to send the keepalive).
3741  * @param tc Notification context.
3742  */
3743 static void
3744 path_refresh (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
3745 {
3746   struct MeshTunnel *t = cls;
3747   struct GNUNET_MESH_TunnelKeepAlive *msg;
3748   size_t size = sizeof (struct GNUNET_MESH_TunnelKeepAlive);
3749   char cbuf[size];
3750
3751   t->maintenance_task = GNUNET_SCHEDULER_NO_TASK;
3752   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN) ||
3753       NULL == t->owner || 0 == t->local_tid || 0 != t->prev_hop)
3754   {
3755     return;
3756   }
3757
3758   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3759               "sending keepalive for tunnel %d\n", t->id.tid);
3760
3761   msg = (struct GNUNET_MESH_TunnelKeepAlive *) cbuf;
3762   msg->header.size = htons (size);
3763   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE);
3764   msg->oid = my_full_id;
3765   msg->tid = htonl (t->id.tid);
3766   send_prebuilt_message (&msg->header, t->next_hop, t);
3767
3768   t->maintenance_task =
3769       GNUNET_SCHEDULER_add_delayed (refresh_path_time, &path_refresh, t);
3770 }
3771
3772
3773 /**
3774  * Function to process paths received for a new peer addition. The recorded
3775  * paths form the initial tunnel, which can be optimized later.
3776  * Called on each result obtained for the DHT search.
3777  *
3778  * @param cls closure
3779  * @param exp when will this value expire
3780  * @param key key of the result
3781  * @param get_path path of the get request
3782  * @param get_path_length lenght of get_path
3783  * @param put_path path of the put request
3784  * @param put_path_length length of the put_path
3785  * @param type type of the result
3786  * @param size number of bytes in data
3787  * @param data pointer to the result data
3788  */
3789 static void
3790 dht_get_id_handler (void *cls, struct GNUNET_TIME_Absolute exp,
3791                     const struct GNUNET_HashCode * key,
3792                     const struct GNUNET_PeerIdentity *get_path,
3793                     unsigned int get_path_length,
3794                     const struct GNUNET_PeerIdentity *put_path,
3795                     unsigned int put_path_length, enum GNUNET_BLOCK_Type type,
3796                     size_t size, const void *data)
3797 {
3798   struct MeshPeerInfo *peer = cls;
3799   struct MeshPeerPath *p;
3800   struct GNUNET_PeerIdentity pi;
3801   int i;
3802
3803   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got results from DHT!\n");
3804   GNUNET_PEER_resolve (peer->id, &pi);
3805   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  for %s\n", GNUNET_i2s (&pi));
3806
3807   p = path_build_from_dht (get_path, get_path_length,
3808                            put_path, put_path_length);
3809   path_add_to_peers (p, GNUNET_NO);
3810   path_destroy (p);
3811   for (i = 0; i < peer->ntunnels; i++)
3812   {
3813     if (peer->tunnels[i]->state == MESH_TUNNEL_SEARCHING)
3814       peer_connect (peer, peer->tunnels[i]);
3815   }
3816
3817   return;
3818 }
3819
3820
3821 /******************************************************************************/
3822 /*********************       MESH LOCAL HANDLES      **************************/
3823 /******************************************************************************/
3824
3825
3826 /**
3827  * Handler for client disconnection
3828  *
3829  * @param cls closure
3830  * @param client identification of the client; NULL
3831  *        for the last call when the server is destroyed
3832  */
3833 static void
3834 handle_local_client_disconnect (void *cls, struct GNUNET_SERVER_Client *client)
3835 {
3836   struct MeshClient *c;
3837   struct MeshClient *next;
3838
3839   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "client disconnected\n");
3840   if (client == NULL)
3841   {
3842     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (SERVER DOWN)\n");
3843     return;
3844   }
3845
3846   c = clients_head;
3847   while (NULL != c)
3848   {
3849     if (c->handle != client)
3850     {
3851       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   ... searching\n");
3852       c = c->next;
3853       continue;
3854     }
3855     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "matching client found (%u)\n",
3856                 c->id);
3857     GNUNET_SERVER_client_drop (c->handle);
3858     c->shutting_down = GNUNET_YES;
3859     GNUNET_CONTAINER_multihashmap_iterate (c->own_tunnels,
3860                                            &tunnel_destroy_iterator, c);
3861     GNUNET_CONTAINER_multihashmap_iterate (c->incoming_tunnels,
3862                                            &tunnel_destroy_iterator, c);
3863     GNUNET_CONTAINER_multihashmap_destroy (c->own_tunnels);
3864     GNUNET_CONTAINER_multihashmap_destroy (c->incoming_tunnels);
3865
3866     if (NULL != c->ports)
3867       GNUNET_CONTAINER_multihashmap_destroy (c->ports);
3868     next = c->next;
3869     GNUNET_CONTAINER_DLL_remove (clients_head, clients_tail, c);
3870     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  CLIENT FREE at %p\n", c);
3871     GNUNET_free (c);
3872     GNUNET_STATISTICS_update (stats, "# clients", -1, GNUNET_NO);
3873     c = next;
3874   }
3875   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "done!\n");
3876   return;
3877 }
3878
3879
3880 /**
3881  * Handler for new clients
3882  *
3883  * @param cls closure
3884  * @param client identification of the client
3885  * @param message the actual message, which includes messages the client wants
3886  */
3887 static void
3888 handle_local_new_client (void *cls, struct GNUNET_SERVER_Client *client,
3889                          const struct GNUNET_MessageHeader *message)
3890 {
3891   struct GNUNET_MESH_ClientConnect *cc_msg;
3892   struct MeshClient *c;
3893   unsigned int size;
3894   uint32_t *p;
3895   unsigned int i;
3896
3897   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new client connected\n");
3898
3899   /* Check data sanity */
3900   size = ntohs (message->size) - sizeof (struct GNUNET_MESH_ClientConnect);
3901   cc_msg = (struct GNUNET_MESH_ClientConnect *) message;
3902   if (0 != (size % sizeof (uint32_t)))
3903   {
3904     GNUNET_break (0);
3905     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
3906     return;
3907   }
3908   size /= sizeof (uint32_t);
3909
3910   /* Create new client structure */
3911   c = GNUNET_malloc (sizeof (struct MeshClient));
3912   c->id = next_client_id++; /* overflow not important: just for debug */
3913   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  client id %u\n", c->id);
3914   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  client has %u ports\n", size);
3915   c->handle = client;
3916   GNUNET_SERVER_client_keep (client);
3917   if (size > 0)
3918   {
3919     uint32_t u32;
3920     struct GNUNET_HashCode hc;
3921
3922     p = (uint32_t *) &cc_msg[1];
3923     c->ports = GNUNET_CONTAINER_multihashmap_create (size, GNUNET_NO);
3924     for (i = 0; i < size; i++)
3925     {
3926       u32 = ntohl (p[i]);
3927       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    port: %u\n", u32);
3928       GMC_hash32 (u32, &hc);
3929
3930       /* store in client's hashmap */
3931       GNUNET_CONTAINER_multihashmap_put (c->ports, &hc, c,
3932                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
3933       /* store in global hashmap */
3934       /* FIXME only allow one client to have the port open,
3935        *       have a backup hashmap with waiting clients */
3936       GNUNET_CONTAINER_multihashmap_put (ports, &hc, c,
3937                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
3938     }
3939   }
3940
3941   GNUNET_CONTAINER_DLL_insert (clients_head, clients_tail, c);
3942   c->own_tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
3943   c->incoming_tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
3944   GNUNET_SERVER_notification_context_add (nc, client);
3945   GNUNET_STATISTICS_update (stats, "# clients", 1, GNUNET_NO);
3946
3947   GNUNET_SERVER_receive_done (client, GNUNET_OK);
3948   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new client processed\n");
3949 }
3950
3951
3952 /**
3953  * Handler for requests of new tunnels
3954  *
3955  * @param cls Closure.
3956  * @param client Identification of the client.
3957  * @param message The actual message.
3958  */
3959 static void
3960 handle_local_tunnel_create (void *cls, struct GNUNET_SERVER_Client *client,
3961                             const struct GNUNET_MessageHeader *message)
3962 {
3963   struct GNUNET_MESH_TunnelMessage *t_msg;
3964   struct MeshPeerInfo *peer_info;
3965   struct MeshTunnel *t;
3966   struct MeshClient *c;
3967   MESH_TunnelNumber tid;
3968
3969   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new tunnel requested\n");
3970
3971   /* Sanity check for client registration */
3972   if (NULL == (c = client_get (client)))
3973   {
3974     GNUNET_break (0);
3975     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
3976     return;
3977   }
3978   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
3979
3980   /* Message sanity check */
3981   if (sizeof (struct GNUNET_MESH_TunnelMessage) != ntohs (message->size))
3982   {
3983     GNUNET_break (0);
3984     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
3985     return;
3986   }
3987
3988   t_msg = (struct GNUNET_MESH_TunnelMessage *) message;
3989   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  towards %s\n",
3990               GNUNET_i2s (&t_msg->peer));
3991   /* Sanity check for tunnel numbering */
3992   tid = ntohl (t_msg->tunnel_id);
3993   if (0 == (tid & GNUNET_MESH_LOCAL_TUNNEL_ID_CLI))
3994   {
3995     GNUNET_break (0);
3996     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
3997     return;
3998   }
3999   /* Sanity check for duplicate tunnel IDs */
4000   if (NULL != tunnel_get_by_local_id (c, tid))
4001   {
4002     GNUNET_break (0);
4003     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4004     return;
4005   }
4006
4007   while (NULL != tunnel_get_by_pi (myid, next_tid))
4008     next_tid = (next_tid + 1) & ~GNUNET_MESH_LOCAL_TUNNEL_ID_CLI;
4009   t = tunnel_new (myid, next_tid, c, tid);
4010   next_tid = (next_tid + 1) & ~GNUNET_MESH_LOCAL_TUNNEL_ID_CLI;
4011   if (NULL == t)
4012   {
4013     GNUNET_break (0);
4014     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4015     return;
4016   }
4017   t->port = ntohl (t_msg->port);
4018   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "CREATED TUNNEL %s[%x]:%u (%x)\n",
4019               GNUNET_i2s (&my_full_id), t->id.tid, t->port, t->local_tid);
4020
4021   peer_info = peer_get (&t_msg->peer);
4022   GNUNET_array_append (peer_info->tunnels, peer_info->ntunnels, t);
4023   peer_connect (peer_info, t);
4024   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4025   return;
4026 }
4027
4028
4029 /**
4030  * Handler for requests of deleting tunnels
4031  *
4032  * @param cls closure
4033  * @param client identification of the client
4034  * @param message the actual message
4035  */
4036 static void
4037 handle_local_tunnel_destroy (void *cls, struct GNUNET_SERVER_Client *client,
4038                              const struct GNUNET_MessageHeader *message)
4039 {
4040   struct GNUNET_MESH_TunnelMessage *tunnel_msg;
4041   struct MeshClient *c;
4042   struct MeshTunnel *t;
4043   MESH_TunnelNumber tid;
4044
4045   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4046               "Got a DESTROY TUNNEL from client!\n");
4047
4048   /* Sanity check for client registration */
4049   if (NULL == (c = client_get (client)))
4050   {
4051     GNUNET_break (0);
4052     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4053     return;
4054   }
4055   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4056
4057   /* Message sanity check */
4058   if (sizeof (struct GNUNET_MESH_TunnelMessage) != ntohs (message->size))
4059   {
4060     GNUNET_break (0);
4061     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4062     return;
4063   }
4064
4065   tunnel_msg = (struct GNUNET_MESH_TunnelMessage *) message;
4066
4067   /* Retrieve tunnel */
4068   tid = ntohl (tunnel_msg->tunnel_id);
4069   t = tunnel_get_by_local_id(c, tid);
4070   if (NULL == t)
4071   {
4072     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "  tunnel %X not found\n", tid);
4073     GNUNET_break (0);
4074     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4075     return;
4076   }
4077   if (c == t->client)
4078   {
4079     tunnel_destroy_empty (t);
4080     GNUNET_SERVER_receive_done (client, GNUNET_OK);
4081     return;
4082   }
4083   send_client_tunnel_destroy (t);
4084   client_delete_tunnel (c, t);
4085
4086   /* Don't try to ACK the client about the tunnel_destroy multicast packet */
4087   t->owner = NULL;
4088   tunnel_send_destroy (t);
4089   peer_remove_tunnel (peer_get_short(t->dest), t);
4090   t->destroy = GNUNET_YES;
4091   /* The tunnel will be destroyed when the last message is transmitted. */
4092   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4093   return;
4094 }
4095
4096
4097 /**
4098  * Handler for requests of seeting tunnel's buffering policy.
4099  *
4100  * @param cls Closure (unused).
4101  * @param client Identification of the client.
4102  * @param message The actual message.
4103  */
4104 static void
4105 handle_local_tunnel_buffer (void *cls, struct GNUNET_SERVER_Client *client,
4106                             const struct GNUNET_MessageHeader *message)
4107 {
4108   struct GNUNET_MESH_TunnelMessage *tunnel_msg;
4109   struct MeshClient *c;
4110   struct MeshTunnel *t;
4111   MESH_TunnelNumber tid;
4112
4113   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4114               "Got a BUFFER request from client!\n");
4115
4116   /* Sanity check for client registration */
4117   if (NULL == (c = client_get (client)))
4118   {
4119     GNUNET_break (0);
4120     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4121     return;
4122   }
4123   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4124
4125   tunnel_msg = (struct GNUNET_MESH_TunnelMessage *) message;
4126
4127   /* Retrieve tunnel */
4128   tid = ntohl (tunnel_msg->tunnel_id);
4129   t = tunnel_get_by_local_id(c, tid);
4130   if (NULL == t)
4131   {
4132     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "  tunnel %X not found\n", tid);
4133     GNUNET_break (0);
4134     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4135     return;
4136   }
4137
4138   switch (ntohs(message->type))
4139   {
4140       case GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_BUFFER:
4141           t->nobuffer = GNUNET_NO;
4142           break;
4143       case GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_NOBUFFER:
4144           t->nobuffer = GNUNET_YES;
4145           break;
4146       default:
4147           GNUNET_break (0);
4148   }
4149
4150   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4151 }
4152
4153
4154 /**
4155  * Handler for client traffic directed to one peer
4156  *
4157  * @param cls closure
4158  * @param client identification of the client
4159  * @param message the actual message
4160  */
4161 static void
4162 handle_local_unicast (void *cls, struct GNUNET_SERVER_Client *client,
4163                       const struct GNUNET_MessageHeader *message)
4164 {
4165   struct MeshClient *c;
4166   struct MeshTunnel *t;
4167   struct GNUNET_MESH_Unicast *data_msg;
4168   MESH_TunnelNumber tid;
4169   size_t size;
4170
4171   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4172               "Got a unicast request from a client!\n");
4173
4174   /* Sanity check for client registration */
4175   if (NULL == (c = client_get (client)))
4176   {
4177     GNUNET_break (0);
4178     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4179     return;
4180   }
4181   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4182
4183   data_msg = (struct GNUNET_MESH_Unicast *) message;
4184
4185   /* Sanity check for message size */
4186   size = ntohs (message->size);
4187   if (sizeof (struct GNUNET_MESH_Unicast) +
4188       sizeof (struct GNUNET_MessageHeader) > size)
4189   {
4190     GNUNET_break (0);
4191     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4192     return;
4193   }
4194
4195   /* Tunnel exists? */
4196   tid = ntohl (data_msg->tid);
4197   t = tunnel_get_by_local_id (c, tid);
4198   if (NULL == t)
4199   {
4200     GNUNET_break (0);
4201     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4202     return;
4203   }
4204
4205   /*  Is it a local tunnel? Then, does client own the tunnel? */
4206   if (t->owner->handle != client)
4207   {
4208     GNUNET_break (0);
4209     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4210     return;
4211   }
4212
4213   /* PID should be as expected: client<->service communication */
4214   if (ntohl (data_msg->pid) != t->prev_fc.last_pid_recv + 1)
4215   {
4216     GNUNET_break (0);
4217     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4218               "Unicast PID, expected %u, got %u\n",
4219               t->prev_fc.last_pid_recv + 1, ntohl (data_msg->pid));
4220     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4221     return;
4222   }
4223
4224   /* Ok, everything is correct, send the message
4225    * (pretend we got it from a mesh peer)
4226    */
4227   {
4228     /* Work around const limitation */
4229     char buf[ntohs (message->size)] GNUNET_ALIGN;
4230     struct GNUNET_MESH_Unicast *copy;
4231
4232     copy = (struct GNUNET_MESH_Unicast *) buf;
4233     memcpy (buf, data_msg, size);
4234     copy->oid = my_full_id;
4235     copy->tid = htonl (t->id.tid);
4236     copy->ttl = htonl (default_ttl);
4237     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4238                 "  calling generic handler...\n");
4239         handle_mesh_unicast (NULL, &my_full_id, &copy->header);
4240   }
4241   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "receive done OK\n");
4242   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4243
4244   return;
4245 }
4246
4247
4248 /**
4249  * Handler for client traffic directed to the origin
4250  *
4251  * @param cls closure
4252  * @param client identification of the client
4253  * @param message the actual message
4254  */
4255 static void
4256 handle_local_to_origin (void *cls, struct GNUNET_SERVER_Client *client,
4257                         const struct GNUNET_MessageHeader *message)
4258 {
4259   struct GNUNET_MESH_ToOrigin *data_msg;
4260   struct MeshFlowControl *fc;
4261   struct MeshClient *c;
4262   struct MeshTunnel *t;
4263   MESH_TunnelNumber tid;
4264   size_t size;
4265
4266   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4267               "Got a ToOrigin request from a client!\n");
4268   /* Sanity check for client registration */
4269   if (NULL == (c = client_get (client)))
4270   {
4271     GNUNET_break (0);
4272     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4273     return;
4274   }
4275   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4276
4277   data_msg = (struct GNUNET_MESH_ToOrigin *) message;
4278
4279   /* Sanity check for message size */
4280   size = ntohs (message->size);
4281   if (sizeof (struct GNUNET_MESH_ToOrigin) +
4282       sizeof (struct GNUNET_MessageHeader) > size)
4283   {
4284     GNUNET_break (0);
4285     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4286     return;
4287   }
4288
4289   /* Tunnel exists? */
4290   tid = ntohl (data_msg->tid);
4291   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %X\n", tid);
4292   if (tid < GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
4293   {
4294     GNUNET_break (0);
4295     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4296     return;
4297   }
4298   t = tunnel_get_by_local_id (c, tid);
4299   if (NULL == t)
4300   {
4301     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "Tunnel %X unknown.\n", tid);
4302     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "  for client %u.\n", c->id);
4303     GNUNET_break (0);
4304     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4305     return;
4306   }
4307
4308   /*  It should be sent by someone who has this as incoming tunnel. */
4309   if (t->client != c)
4310   {
4311     GNUNET_break (0);
4312     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4313     return;
4314   }
4315
4316   /* PID should be as expected */
4317   fc = &t->next_fc;
4318   if (ntohl (data_msg->pid) != fc->last_pid_recv + 1)
4319   {
4320     GNUNET_break (0);
4321     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4322                 "To Origin PID, expected %u, got %u\n",
4323                 fc->last_pid_recv + 1,
4324                 ntohl (data_msg->pid));
4325     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4326     return;
4327   }
4328
4329   /* Ok, everything is correct, send the message
4330    * (pretend we got it from a mesh peer)
4331    */
4332   {
4333     char buf[ntohs (message->size)] GNUNET_ALIGN;
4334     struct GNUNET_MESH_ToOrigin *copy;
4335
4336     /* Work around 'const' limitation */
4337     memcpy (buf, data_msg, size);
4338     copy = (struct GNUNET_MESH_ToOrigin *) buf;
4339     GNUNET_PEER_resolve (t->id.oid, &copy->oid);
4340     copy->tid = htonl (t->id.tid);
4341     copy->ttl = htonl (default_ttl);
4342
4343     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4344                 "  calling generic handler...\n");
4345         handle_mesh_to_orig (NULL, &my_full_id, &copy->header);
4346   }
4347   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4348
4349   return;
4350 }
4351
4352
4353 /**
4354  * Handler for client's ACKs for payload traffic.
4355  *
4356  * @param cls Closure (unused).
4357  * @param client Identification of the client.
4358  * @param message The actual message.
4359  */
4360 static void
4361 handle_local_ack (void *cls, struct GNUNET_SERVER_Client *client,
4362                   const struct GNUNET_MessageHeader *message)
4363 {
4364   struct GNUNET_MESH_LocalAck *msg;
4365   struct MeshTunnel *t;
4366   struct MeshClient *c;
4367   MESH_TunnelNumber tid;
4368   uint32_t ack;
4369
4370   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got a local ACK\n");
4371   /* Sanity check for client registration */
4372   if (NULL == (c = client_get (client)))
4373   {
4374     GNUNET_break (0);
4375     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4376     return;
4377   }
4378   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4379
4380   msg = (struct GNUNET_MESH_LocalAck *) message;
4381
4382   /* Tunnel exists? */
4383   tid = ntohl (msg->tunnel_id);
4384   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %X\n", tid);
4385   t = tunnel_get_by_local_id (c, tid);
4386   if (NULL == t)
4387   {
4388     GNUNET_break (0);
4389     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "Tunnel %X unknown.\n", tid);
4390     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "  for client %u.\n", c->id);
4391     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4392     return;
4393   }
4394
4395   ack = ntohl (msg->max_pid);
4396   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ack %u\n", ack);
4397
4398   /* Does client own tunnel? I.E: Is this an ACK for BCK traffic? */
4399   if (t->owner == c)
4400   {
4401     /* The client owns the tunnel, ACK is for data to_origin, send BCK ACK. */
4402     t->prev_fc.last_ack_recv = ack;
4403     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK);
4404   }
4405   else
4406   {
4407     /* The client doesn't own the tunnel, this ACK is for FWD traffic. */
4408     t->next_fc.last_ack_recv = ack;
4409     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK);
4410   }
4411
4412   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4413
4414   return;
4415 }
4416
4417
4418
4419 /**
4420  * Iterator over all tunnels to send a monitoring client info about each tunnel.
4421  *
4422  * @param cls Closure (client handle).
4423  * @param key Key (hashed tunnel ID, unused).
4424  * @param value Tunnel info.
4425  *
4426  * @return GNUNET_YES, to keep iterating.
4427  */
4428 static int
4429 monitor_all_tunnels_iterator (void *cls,
4430                               const struct GNUNET_HashCode * key,
4431                               void *value)
4432 {
4433   struct GNUNET_SERVER_Client *client = cls;
4434   struct MeshTunnel *t = value;
4435   struct GNUNET_MESH_LocalMonitor *msg;
4436
4437   msg = GNUNET_malloc (sizeof(struct GNUNET_MESH_LocalMonitor));
4438   GNUNET_PEER_resolve(t->id.oid, &msg->owner);
4439   msg->tunnel_id = htonl (t->id.tid);
4440   msg->header.size = htons (sizeof (struct GNUNET_MESH_LocalMonitor));
4441   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNELS);
4442   GNUNET_PEER_resolve (t->dest, &msg->destination);
4443
4444   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4445               "*  sending info about tunnel %s [%u]\n",
4446               GNUNET_i2s (&msg->owner), t->id.tid);
4447
4448   GNUNET_SERVER_notification_context_unicast (nc, client,
4449                                               &msg->header, GNUNET_NO);
4450   return GNUNET_YES;
4451 }
4452
4453
4454 /**
4455  * Handler for client's MONITOR request.
4456  *
4457  * @param cls Closure (unused).
4458  * @param client Identification of the client.
4459  * @param message The actual message.
4460  */
4461 static void
4462 handle_local_get_tunnels (void *cls, struct GNUNET_SERVER_Client *client,
4463                           const struct GNUNET_MessageHeader *message)
4464 {
4465   struct MeshClient *c;
4466
4467   /* Sanity check for client registration */
4468   if (NULL == (c = client_get (client)))
4469   {
4470     GNUNET_break (0);
4471     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4472     return;
4473   }
4474
4475   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4476               "Received get tunnels request from client %u\n",
4477               c->id);
4478   GNUNET_CONTAINER_multihashmap_iterate (tunnels,
4479                                          monitor_all_tunnels_iterator,
4480                                          client);
4481   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4482               "Get tunnels request from client %u completed\n",
4483               c->id);
4484   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4485 }
4486
4487
4488 /**
4489  * Handler for client's MONITOR_TUNNEL request.
4490  *
4491  * @param cls Closure (unused).
4492  * @param client Identification of the client.
4493  * @param message The actual message.
4494  */
4495 static void
4496 handle_local_show_tunnel (void *cls, struct GNUNET_SERVER_Client *client,
4497                           const struct GNUNET_MessageHeader *message)
4498 {
4499   const struct GNUNET_MESH_LocalMonitor *msg;
4500   struct GNUNET_MESH_LocalMonitor *resp;
4501   struct MeshClient *c;
4502   struct MeshTunnel *t;
4503
4504   /* Sanity check for client registration */
4505   if (NULL == (c = client_get (client)))
4506   {
4507     GNUNET_break (0);
4508     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4509     return;
4510   }
4511
4512   msg = (struct GNUNET_MESH_LocalMonitor *) message;
4513   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4514               "Received tunnel info request from client %u for tunnel %s[%X]\n",
4515               c->id,
4516               &msg->owner,
4517               ntohl (msg->tunnel_id));
4518   t = tunnel_get (&msg->owner, ntohl (msg->tunnel_id));
4519   if (NULL == t)
4520   {
4521     /* We don't know the tunnel FIXME */
4522     struct GNUNET_MESH_LocalMonitor warn;
4523
4524     warn = *msg;
4525     GNUNET_SERVER_notification_context_unicast (nc, client,
4526                                                 &warn.header,
4527                                                 GNUNET_NO);
4528     GNUNET_SERVER_receive_done (client, GNUNET_OK);
4529     return;
4530   }
4531
4532   /* Initialize context */
4533   resp = GNUNET_malloc (sizeof (struct GNUNET_MESH_LocalMonitor));
4534   *resp = *msg;
4535   GNUNET_PEER_resolve (t->dest, &resp->destination);
4536   resp->header.size = htons (sizeof (struct GNUNET_MESH_LocalMonitor));
4537   GNUNET_SERVER_notification_context_unicast (nc, c->handle,
4538                                               &resp->header, GNUNET_NO);
4539   GNUNET_free (resp);
4540
4541   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4542               "Monitor tunnel request from client %u completed\n",
4543               c->id);
4544   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4545 }
4546
4547
4548 /**
4549  * Functions to handle messages from clients
4550  */
4551 static struct GNUNET_SERVER_MessageHandler client_handlers[] = {
4552   {&handle_local_new_client, NULL,
4553    GNUNET_MESSAGE_TYPE_MESH_LOCAL_CONNECT, 0},
4554   {&handle_local_tunnel_create, NULL,
4555    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_CREATE,
4556    sizeof (struct GNUNET_MESH_TunnelMessage)},
4557   {&handle_local_tunnel_destroy, NULL,
4558    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_DESTROY,
4559    sizeof (struct GNUNET_MESH_TunnelMessage)},
4560   {&handle_local_tunnel_buffer, NULL,
4561    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_BUFFER,
4562    sizeof (struct GNUNET_MESH_TunnelMessage)},
4563   {&handle_local_tunnel_buffer, NULL,
4564    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_NOBUFFER,
4565    sizeof (struct GNUNET_MESH_TunnelMessage)},
4566   {&handle_local_unicast, NULL,
4567    GNUNET_MESSAGE_TYPE_MESH_UNICAST, 0},
4568   {&handle_local_to_origin, NULL,
4569    GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN, 0},
4570   {&handle_local_ack, NULL,
4571    GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK,
4572    sizeof (struct GNUNET_MESH_LocalAck)},
4573   {&handle_local_get_tunnels, NULL,
4574    GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNELS,
4575    sizeof (struct GNUNET_MessageHeader)},
4576   {&handle_local_show_tunnel, NULL,
4577    GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNEL,
4578      sizeof (struct GNUNET_MESH_LocalMonitor)},
4579   {NULL, NULL, 0, 0}
4580 };
4581
4582
4583 /**
4584  * Method called whenever a given peer connects.
4585  *
4586  * @param cls closure
4587  * @param peer peer identity this notification is about
4588  */
4589 static void
4590 core_connect (void *cls, const struct GNUNET_PeerIdentity *peer)
4591 {
4592   struct MeshPeerInfo *peer_info;
4593   struct MeshPeerPath *path;
4594
4595   DEBUG_CONN ("Peer connected\n");
4596   DEBUG_CONN ("     %s\n", GNUNET_i2s (&my_full_id));
4597   peer_info = peer_get (peer);
4598   if (myid == peer_info->id)
4599   {
4600     DEBUG_CONN ("     (self)\n");
4601     return;
4602   }
4603   else
4604   {
4605     DEBUG_CONN ("     %s\n", GNUNET_i2s (peer));
4606   }
4607   path = path_new (2);
4608   path->peers[0] = myid;
4609   path->peers[1] = peer_info->id;
4610   GNUNET_PEER_change_rc (myid, 1);
4611   GNUNET_PEER_change_rc (peer_info->id, 1);
4612   peer_info_add_path (peer_info, path, GNUNET_YES);
4613   GNUNET_STATISTICS_update (stats, "# peers", 1, GNUNET_NO);
4614   return;
4615 }
4616
4617
4618 /**
4619  * Method called whenever a peer disconnects.
4620  *
4621  * @param cls closure
4622  * @param peer peer identity this notification is about
4623  */
4624 static void
4625 core_disconnect (void *cls, const struct GNUNET_PeerIdentity *peer)
4626 {
4627   struct MeshPeerInfo *pi;
4628   struct MeshPeerQueue *q;
4629   struct MeshPeerQueue *n;
4630
4631   DEBUG_CONN ("Peer disconnected\n");
4632   pi = GNUNET_CONTAINER_multihashmap_get (peers, &peer->hashPubKey);
4633   if (NULL == pi)
4634   {
4635     GNUNET_break (0);
4636     return;
4637   }
4638   q = pi->queue_head;
4639   while (NULL != q)
4640   {
4641       n = q->next;
4642       /* TODO try to reroute this traffic instead */
4643       queue_destroy(q, GNUNET_YES);
4644       q = n;
4645   }
4646   if (NULL != pi->core_transmit)
4647   {
4648     GNUNET_CORE_notify_transmit_ready_cancel(pi->core_transmit);
4649     pi->core_transmit = NULL;
4650   }
4651     peer_remove_path (pi, pi->id, myid);
4652   if (myid == pi->id)
4653   {
4654     DEBUG_CONN ("     (self)\n");
4655   }
4656   GNUNET_STATISTICS_update (stats, "# peers", -1, GNUNET_NO);
4657   return;
4658 }
4659
4660
4661 /**
4662  * Install server (service) handlers and start listening to clients.
4663  */
4664 static void
4665 server_init (void)
4666 {
4667   GNUNET_SERVER_add_handlers (server_handle, client_handlers);
4668   GNUNET_SERVER_disconnect_notify (server_handle,
4669                                    &handle_local_client_disconnect, NULL);
4670   nc = GNUNET_SERVER_notification_context_create (server_handle, 1);
4671
4672   clients_head = NULL;
4673   clients_tail = NULL;
4674   next_client_id = 0;
4675   GNUNET_SERVER_resume (server_handle);
4676 }
4677
4678
4679 /**
4680  * To be called on core init/fail.
4681  *
4682  * @param cls Closure (config)
4683  * @param server handle to the server for this service
4684  * @param identity the public identity of this peer
4685  */
4686 static void
4687 core_init (void *cls, struct GNUNET_CORE_Handle *server,
4688            const struct GNUNET_PeerIdentity *identity)
4689 {
4690   const struct GNUNET_CONFIGURATION_Handle *c = cls;
4691   static int i = 0;
4692
4693   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Core init\n");
4694   GNUNET_break (core_handle == server);
4695   if (0 != memcmp (identity, &my_full_id, sizeof (my_full_id)) ||
4696     NULL == server)
4697   {
4698     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, _("Wrong CORE service\n"));
4699     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4700                 " core id %s\n",
4701                 GNUNET_i2s (identity));
4702     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4703                 " my id %s\n",
4704                 GNUNET_i2s (&my_full_id));
4705     GNUNET_CORE_disconnect (core_handle);
4706     core_handle = GNUNET_CORE_connect (c, /* Main configuration */
4707                                        NULL,      /* Closure passed to MESH functions */
4708                                        &core_init,        /* Call core_init once connected */
4709                                        &core_connect,     /* Handle connects */
4710                                        &core_disconnect,  /* remove peers on disconnects */
4711                                        NULL,      /* Don't notify about all incoming messages */
4712                                        GNUNET_NO, /* For header only in notification */
4713                                        NULL,      /* Don't notify about all outbound messages */
4714                                        GNUNET_NO, /* For header-only out notification */
4715                                        core_handlers);    /* Register these handlers */
4716     if (10 < i++)
4717       GNUNET_abort();
4718   }
4719   server_init ();
4720   return;
4721 }
4722
4723
4724 /******************************************************************************/
4725 /************************      MAIN FUNCTIONS      ****************************/
4726 /******************************************************************************/
4727
4728 /**
4729  * Iterator over tunnel hash map entries to destroy the tunnel during shutdown.
4730  *
4731  * @param cls closure
4732  * @param key current key code
4733  * @param value value in the hash map
4734  * @return GNUNET_YES if we should continue to iterate,
4735  *         GNUNET_NO if not.
4736  */
4737 static int
4738 shutdown_tunnel (void *cls, const struct GNUNET_HashCode * key, void *value)
4739 {
4740   struct MeshTunnel *t = value;
4741
4742   tunnel_destroy (t);
4743   return GNUNET_YES;
4744 }
4745
4746 /**
4747  * Iterator over peer hash map entries to destroy the tunnel during shutdown.
4748  *
4749  * @param cls closure
4750  * @param key current key code
4751  * @param value value in the hash map
4752  * @return GNUNET_YES if we should continue to iterate,
4753  *         GNUNET_NO if not.
4754  */
4755 static int
4756 shutdown_peer (void *cls, const struct GNUNET_HashCode * key, void *value)
4757 {
4758   struct MeshPeerInfo *p = value;
4759   struct MeshPeerQueue *q;
4760   struct MeshPeerQueue *n;
4761
4762   q = p->queue_head;
4763   while (NULL != q)
4764   {
4765       n = q->next;
4766       if (q->peer == p)
4767       {
4768         queue_destroy(q, GNUNET_YES);
4769       }
4770       q = n;
4771   }
4772   peer_info_destroy (p);
4773   return GNUNET_YES;
4774 }
4775
4776
4777 /**
4778  * Task run during shutdown.
4779  *
4780  * @param cls unused
4781  * @param tc unused
4782  */
4783 static void
4784 shutdown_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
4785 {
4786   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shutting down\n");
4787
4788   if (core_handle != NULL)
4789   {
4790     GNUNET_CORE_disconnect (core_handle);
4791     core_handle = NULL;
4792   }
4793   if (NULL != keygen)
4794   {
4795     GNUNET_CRYPTO_ecc_key_create_stop (keygen);
4796     keygen = NULL;
4797   }
4798   GNUNET_CONTAINER_multihashmap_iterate (tunnels, &shutdown_tunnel, NULL);
4799   GNUNET_CONTAINER_multihashmap_iterate (peers, &shutdown_peer, NULL);
4800   if (dht_handle != NULL)
4801   {
4802     GNUNET_DHT_disconnect (dht_handle);
4803     dht_handle = NULL;
4804   }
4805   if (nc != NULL)
4806   {
4807     GNUNET_SERVER_notification_context_destroy (nc);
4808     nc = NULL;
4809   }
4810   if (GNUNET_SCHEDULER_NO_TASK != announce_id_task)
4811   {
4812     GNUNET_SCHEDULER_cancel (announce_id_task);
4813     announce_id_task = GNUNET_SCHEDULER_NO_TASK;
4814   }
4815   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shut down\n");
4816 }
4817
4818
4819 /**
4820  * Callback for hostkey read/generation.
4821  *
4822  * @param cls Closure (Configuration handle).
4823  * @param pk The ECC private key.
4824  * @param emsg Error message, if any.
4825  */
4826 static void
4827 key_generation_cb (void *cls,
4828                    struct GNUNET_CRYPTO_EccPrivateKey *pk,
4829                    const char *emsg)
4830 {
4831   const struct GNUNET_CONFIGURATION_Handle *c = cls;
4832   struct MeshPeerInfo *peer;
4833   struct MeshPeerPath *p;
4834
4835   keygen = NULL;
4836   if (NULL == pk)
4837   {
4838     GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4839                 _("Could not access hostkey: %s. Exiting.\n"),
4840                 emsg);
4841     GNUNET_SCHEDULER_shutdown ();
4842     return;
4843   }
4844   my_private_key = pk;
4845   GNUNET_CRYPTO_ecc_key_get_public (my_private_key, &my_public_key);
4846   GNUNET_CRYPTO_hash (&my_public_key, sizeof (my_public_key),
4847                       &my_full_id.hashPubKey);
4848   myid = GNUNET_PEER_intern (&my_full_id);
4849   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4850               "Mesh for peer [%s] starting\n",
4851               GNUNET_i2s(&my_full_id));
4852
4853   core_handle = GNUNET_CORE_connect (c, /* Main configuration */
4854                                      NULL,      /* Closure passed to MESH functions */
4855                                      &core_init,        /* Call core_init once connected */
4856                                      &core_connect,     /* Handle connects */
4857                                      &core_disconnect,  /* remove peers on disconnects */
4858                                      NULL,      /* Don't notify about all incoming messages */
4859                                      GNUNET_NO, /* For header only in notification */
4860                                      NULL,      /* Don't notify about all outbound messages */
4861                                      GNUNET_NO, /* For header-only out notification */
4862                                      core_handlers);    /* Register these handlers */
4863   if (core_handle == NULL)
4864   {
4865     GNUNET_break (0);
4866     GNUNET_SCHEDULER_shutdown ();
4867     return;
4868   }
4869
4870   next_tid = 0;
4871   next_local_tid = GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
4872
4873   announce_id_task = GNUNET_SCHEDULER_add_now (&announce_id, cls);
4874
4875   /* Create a peer_info for the local peer */
4876   peer = peer_get (&my_full_id);
4877   p = path_new (1);
4878   p->peers[0] = myid;
4879   GNUNET_PEER_change_rc (myid, 1);
4880   peer_info_add_path (peer, p, GNUNET_YES);
4881
4882   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Mesh service running\n");
4883 }
4884
4885
4886 /**
4887  * Process mesh requests.
4888  *
4889  * @param cls closure
4890  * @param server the initialized server
4891  * @param c configuration to use
4892  */
4893 static void
4894 run (void *cls, struct GNUNET_SERVER_Handle *server,
4895      const struct GNUNET_CONFIGURATION_Handle *c)
4896 {
4897   char *keyfile;
4898
4899   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "starting to run\n");
4900   server_handle = server;
4901   GNUNET_SERVER_suspend (server_handle);
4902
4903   if (GNUNET_OK !=
4904       GNUNET_CONFIGURATION_get_value_filename (c, "PEER", "PRIVATE_KEY",
4905                                                &keyfile))
4906   {
4907     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4908                 _
4909                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
4910                 "mesh", "peer/privatekey");
4911     GNUNET_SCHEDULER_shutdown ();
4912     return;
4913   }
4914
4915   if (GNUNET_OK !=
4916       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "REFRESH_PATH_TIME",
4917                                            &refresh_path_time))
4918   {
4919     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4920                 _
4921                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
4922                 "mesh", "refresh path time");
4923     GNUNET_SCHEDULER_shutdown ();
4924     return;
4925   }
4926
4927   if (GNUNET_OK !=
4928       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "ID_ANNOUNCE_TIME",
4929                                            &id_announce_time))
4930   {
4931     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4932                 _
4933                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
4934                 "mesh", "id announce time");
4935     GNUNET_SCHEDULER_shutdown ();
4936     return;
4937   }
4938
4939   if (GNUNET_OK !=
4940       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "CONNECT_TIMEOUT",
4941                                            &connect_timeout))
4942   {
4943     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4944                 _
4945                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
4946                 "mesh", "connect timeout");
4947     GNUNET_SCHEDULER_shutdown ();
4948     return;
4949   }
4950
4951   if (GNUNET_OK !=
4952       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_MSGS_QUEUE",
4953                                              &max_msgs_queue))
4954   {
4955     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4956                 _
4957                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
4958                 "mesh", "max msgs queue");
4959     GNUNET_SCHEDULER_shutdown ();
4960     return;
4961   }
4962
4963   if (GNUNET_OK !=
4964       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_TUNNELS",
4965                                              &max_tunnels))
4966   {
4967     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4968                 _
4969                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
4970                 "mesh", "max tunnels");
4971     GNUNET_SCHEDULER_shutdown ();
4972     return;
4973   }
4974
4975   if (GNUNET_OK !=
4976       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "DEFAULT_TTL",
4977                                              &default_ttl))
4978   {
4979     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4980                 _
4981                 ("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
4982                 "mesh", "default ttl", 64);
4983     default_ttl = 64;
4984   }
4985
4986   if (GNUNET_OK !=
4987       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_PEERS",
4988                                              &max_peers))
4989   {
4990     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4991                 _("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
4992                 "mesh", "max peers", 1000);
4993     max_peers = 1000;
4994   }
4995
4996   if (GNUNET_OK !=
4997       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "DHT_REPLICATION_LEVEL",
4998                                              &dht_replication_level))
4999   {
5000     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
5001                 _
5002                 ("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
5003                 "mesh", "dht replication level", 3);
5004     dht_replication_level = 3;
5005   }
5006
5007   tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
5008   incoming_tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
5009   peers = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
5010   ports = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
5011
5012   dht_handle = GNUNET_DHT_connect (c, 64);
5013   if (NULL == dht_handle)
5014   {
5015     GNUNET_break (0);
5016   }
5017   stats = GNUNET_STATISTICS_create ("mesh", c);
5018
5019   /* Scheduled the task to clean up when shutdown is called */
5020   GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_UNIT_FOREVER_REL, &shutdown_task,
5021                                 NULL);
5022   keygen = GNUNET_CRYPTO_ecc_key_create_start (keyfile,
5023                                                &key_generation_cb,
5024                                                (void *) c);
5025   GNUNET_free (keyfile);
5026 }
5027
5028
5029 /**
5030  * The main function for the mesh service.
5031  *
5032  * @param argc number of arguments from the command line
5033  * @param argv command line arguments
5034  * @return 0 ok, 1 on error
5035  */
5036 int
5037 main (int argc, char *const *argv)
5038 {
5039   int ret;
5040   int r;
5041
5042   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "main()\n");
5043   r = GNUNET_SERVICE_run (argc, argv, "mesh", GNUNET_SERVICE_OPTION_NONE, &run,
5044                           NULL);
5045   ret = (GNUNET_OK == r) ? 0 : 1;
5046   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "main() END\n");
5047
5048   INTERVAL_SHOW;
5049
5050   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5051               "Mesh for peer [%s] FWD ACKs %u, BCK ACKs %u\n",
5052               GNUNET_i2s(&my_full_id), debug_fwd_ack, debug_bck_ack);
5053
5054   return ret;
5055 }