- avoid infinite loop when destroying local loop tunnel
[oweals/gnunet.git] / src / mesh / gnunet-service-mesh-new.c
1 /*
2      This file is part of GNUnet.
3      (C) 2001-2013 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file mesh/gnunet-service-mesh-new.c
23  * @brief GNUnet MESH service
24  * @author Bartlomiej Polot
25  *
26  * TODO:
27  * - relay corking down to core
28  * - set ttl relative to path length
29  * - add signatures
30  * - add encryption
31  * - keep queues until receiving ACK
32  * TODO END
33  */
34
35 #include "platform.h"
36 #include "mesh2.h"
37 #include "mesh2_protocol.h"
38 #include "mesh_path.h"
39 #include "block_mesh.h"
40 #include "gnunet_dht_service.h"
41 #include "gnunet_statistics_service.h"
42
43 #define MESH_BLOOM_SIZE         128
44
45 #define MESH_DEBUG_DHT          GNUNET_NO
46 #define MESH_DEBUG_CONNECTION   GNUNET_NO
47 #define MESH_DEBUG_TIMING       __LINUX__ && GNUNET_NO
48
49 #define MESH_MAX_POLL_TIME      GNUNET_TIME_relative_multiply (\
50                                   GNUNET_TIME_UNIT_MINUTES,\
51                                   10)
52
53 #if MESH_DEBUG_CONNECTION
54 #define DEBUG_CONN(...) GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, __VA_ARGS__)
55 #else
56 #define DEBUG_CONN(...)
57 #endif
58
59 #if MESH_DEBUG_DHT
60 #define DEBUG_DHT(...) GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, __VA_ARGS__)
61 #else
62 #define DEBUG_DHT(...)
63 #endif
64
65 #if MESH_DEBUG_TIMING
66 #include <time.h>
67 double __sum;
68 uint64_t __count;
69 struct timespec __mesh_start;
70 struct timespec __mesh_end;
71 #define INTERVAL_START clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &(__mesh_start))
72 #define INTERVAL_END \
73 do {\
74   clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &(__mesh_end));\
75   double __diff = __mesh_end.tv_nsec - __mesh_start.tv_nsec;\
76   if (__diff < 0) __diff += 1000000000;\
77   __sum += __diff;\
78   __count++;\
79 } while (0)
80 #define INTERVAL_SHOW \
81 if (0 < __count)\
82   GNUNET_log (GNUNET_ERROR_TYPE_INFO, "AVG process time: %f ns\n", __sum/__count)
83 #else
84 #define INTERVAL_START
85 #define INTERVAL_END
86 #define INTERVAL_SHOW
87 #endif
88
89 /******************************************************************************/
90 /************************      DATA STRUCTURES     ****************************/
91 /******************************************************************************/
92
93 /** FWD declaration */
94 struct MeshPeerInfo;
95 struct MeshClient;
96
97
98 /**
99  * Struct containing info about a queued transmission to this peer
100  */
101 struct MeshPeerQueue
102 {
103     /**
104       * DLL next
105       */
106   struct MeshPeerQueue *next;
107
108     /**
109       * DLL previous
110       */
111   struct MeshPeerQueue *prev;
112
113     /**
114      * Peer this transmission is directed to.
115      */
116   struct MeshPeerInfo *peer;
117
118     /**
119      * Tunnel this message belongs to.
120      */
121   struct MeshTunnel *tunnel;
122
123     /**
124      * Pointer to info stucture used as cls.
125      */
126   void *cls;
127
128     /**
129      * Type of message
130      */
131   uint16_t type;
132
133     /**
134      * Size of the message
135      */
136   size_t size;
137 };
138
139
140 /**
141  * Struct containing all information regarding a given peer
142  */
143 struct MeshPeerInfo
144 {
145     /**
146      * ID of the peer
147      */
148   GNUNET_PEER_Id id;
149
150     /**
151      * Last time we heard from this peer
152      */
153   struct GNUNET_TIME_Absolute last_contact;
154
155     /**
156      * Number of attempts to reconnect so far
157      */
158   int n_reconnect_attempts;
159
160     /**
161      * Paths to reach the peer, ordered by ascending hop count
162      */
163   struct MeshPeerPath *path_head;
164
165     /**
166      * Paths to reach the peer, ordered by ascending hop count
167      */
168   struct MeshPeerPath *path_tail;
169
170     /**
171      * Handle to stop the DHT search for a path to this peer
172      */
173   struct GNUNET_DHT_GetHandle *dhtget;
174
175     /**
176      * Array of tunnels this peer is the target of.
177      * Most probably a small amount, therefore not a hashmap.
178      * When the path to the peer changes, notify these tunnels to let them
179      * re-adjust their path trees.
180      */
181   struct MeshTunnel **tunnels;
182
183     /**
184      * Number of tunnels this peers participates in
185      */
186   unsigned int ntunnels;
187
188    /**
189     * Transmission queue to core DLL head
190     */
191   struct MeshPeerQueue *queue_head;
192
193    /**
194     * Transmission queue to core DLL tail
195     */
196    struct MeshPeerQueue *queue_tail;
197
198    /**
199     * How many messages are in the queue to this peer.
200     */
201    unsigned int queue_n;
202
203    /**
204     * Handle for queued transmissions
205     */
206   struct GNUNET_CORE_TransmitHandle *core_transmit;
207 };
208
209
210 /**
211  * Struct to encapsulate all the Flow Control information to a peer in the
212  * context of a tunnel: Same peer in different tunnels will have independent
213  * flow control structures, allowing to choke/free tunnels according to its
214  * own criteria.
215  */
216 struct MeshFlowControl
217 {
218   /**
219    * ID of the last packet sent towards the peer.
220    */
221   uint32_t last_pid_sent;
222
223   /**
224    * ID of the last packet received from the peer.
225    */
226   uint32_t last_pid_recv;
227
228   /**
229    * Last ACK sent to the peer (peer can't send more than this PID).
230    */
231   uint32_t last_ack_sent;
232
233   /**
234    * Last ACK sent towards the origin (for traffic towards leaf node).
235    */
236   uint32_t last_ack_recv;
237
238   /**
239    * How many messages are in the queue towards this peer.
240    */
241   uint32_t queue_n;
242
243   /**
244    * Task to poll the peer in case of a lost ACK causes stall.
245    */
246   GNUNET_SCHEDULER_TaskIdentifier poll_task;
247
248   /**
249    * How frequently to poll for ACKs.
250    */
251   struct GNUNET_TIME_Relative poll_time;
252
253   /**
254    * On which tunnel to poll.
255    * Using an explicit poll_ctx would not help memory wise,
256    * since the allocated context would have to be stored in the
257    * fc struct in order to free it upon cancelling poll_task.
258    */
259   struct MeshTunnel *t;
260 };
261
262
263 /**
264  * Globally unique tunnel identification (owner + number)
265  * DO NOT USE OVER THE NETWORK
266  */
267 struct MESH_TunnelID
268 {
269     /**
270      * Node that owns the tunnel
271      */
272   GNUNET_PEER_Id oid;
273
274     /**
275      * Tunnel number to differentiate all the tunnels owned by the node oid
276      * ( tid < GNUNET_MESH_LOCAL_TUNNEL_ID_CLI )
277      */
278   MESH_TunnelNumber tid;
279 };
280
281
282 /**
283  * Struct containing all information regarding a tunnel
284  * For an intermediate node the improtant info used will be:
285  * - id        Tunnel unique identification
286  * - paths[0]  To know where to send it next
287  * - metainfo: ready, speeds, accounting
288  */
289 struct MeshTunnel
290 {
291     /**
292      * Tunnel ID
293      */
294   struct MESH_TunnelID id;
295
296     /**
297      * Port of the tunnel.
298      */
299   uint32_t port;
300
301     /**
302      * State of the tunnel.
303      */
304   enum MeshTunnelState state;
305
306     /**
307      * Local tunnel number ( >= GNUNET_MESH_LOCAL_TUNNEL_ID_CLI or 0 )
308      */
309   MESH_TunnelNumber local_tid;
310
311     /**
312      * Local tunnel number for local destination clients (incoming number)
313      * ( >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV or 0). All clients share the same
314      * number.
315      */
316   MESH_TunnelNumber local_tid_dest;
317
318     /**
319      * Is the tunnel bufferless (minimum latency)?
320      */
321   int nobuffer;
322
323     /**
324      * Force sending ACK? Flag to allow duplicate ACK on POLL.
325      */
326   int force_ack;
327
328     /**
329      * How many messages do we accept in the forward queue.
330      */
331   unsigned int queue_max;
332
333     /**
334      * Last time the tunnel was used
335      */
336   struct GNUNET_TIME_Absolute timestamp;
337
338     /**
339      * Destination of the tunnel.
340      */
341   GNUNET_PEER_Id dest;
342
343     /**
344      * Next hop in the tunnel. If 0, @c client must be set.
345      */
346   GNUNET_PEER_Id next_hop;
347
348     /**
349      * Previous hop in the tunnel. If 0, @c owner must be set.
350      */
351   GNUNET_PEER_Id prev_hop;
352
353     /**
354      * Flow control information about @c next_hop or @c client.
355      */
356   struct MeshFlowControl next_fc;
357
358   /**
359    * Flow control information about @c prev_hop or @c owner.
360    */
361   struct MeshFlowControl prev_fc;
362
363     /**
364      * Client owner of the tunnel, if any
365      */
366   struct MeshClient *owner;
367
368     /**
369      * Client destination of the tunnel, if any.
370      */
371   struct MeshClient *client;
372
373     /**
374      * Task to keep the used paths alive at the owner,
375      * time tunnel out on all the other peers.
376      */
377   GNUNET_SCHEDULER_TaskIdentifier maintenance_task;
378
379     /**
380      * Path being used for the tunnel.
381      */
382   struct MeshPeerPath *path;
383
384     /**
385      * Flag to signal the destruction of the tunnel.
386      * If this is set GNUNET_YES the tunnel will be destroyed
387      * when the queue is empty.
388      */
389   int destroy;
390
391     /**
392      * Total messages pending for this tunnels, payload or not.
393      */
394   unsigned int pending_messages;
395 };
396
397
398 /**
399  * Struct containing information about a client of the service
400  * 
401  * TODO: add a list of 'waiting' ports
402  */
403 struct MeshClient
404 {
405     /**
406      * Linked list next
407      */
408   struct MeshClient *next;
409
410     /**
411      * Linked list prev
412      */
413   struct MeshClient *prev;
414
415     /**
416      * Tunnels that belong to this client, indexed by local id
417      */
418   struct GNUNET_CONTAINER_MultiHashMap *own_tunnels;
419
420    /**
421      * Tunnels this client has accepted, indexed by incoming local id
422      */
423   struct GNUNET_CONTAINER_MultiHashMap *incoming_tunnels;
424
425     /**
426      * Handle to communicate with the client
427      */
428   struct GNUNET_SERVER_Client *handle;
429
430     /**
431      * Ports that this client has declared interest in.
432      * Indexed by a GMC_hash32 (type), contains *Client.
433      */
434   struct GNUNET_CONTAINER_MultiHashMap *ports;
435
436     /**
437      * Whether the client is active or shutting down (don't send confirmations
438      * to a client that is shutting down.
439      */
440   int shutting_down;
441
442     /**
443      * ID of the client, mainly for debug messages
444      */
445   unsigned int id;
446
447 };
448
449
450 /******************************************************************************/
451 /************************      DEBUG FUNCTIONS     ****************************/
452 /******************************************************************************/
453
454 #if MESH_DEBUG
455 /**
456  * GNUNET_SCHEDULER_Task for printing a message after some operation is done
457  * @param cls string to print
458  * @param success  GNUNET_OK if the PUT was transmitted,
459  *                GNUNET_NO on timeout,
460  *                GNUNET_SYSERR on disconnect from service
461  *                after the PUT message was transmitted
462  *                (so we don't know if it was received or not)
463  */
464
465 #if 0
466 static void
467 mesh_debug (void *cls, int success)
468 {
469   char *s = cls;
470
471   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "%s (%d)\n", s, success);
472 }
473 #endif
474
475 /* FIXME */
476 unsigned int debug_fwd_ack;
477 unsigned int debug_bck_ack;
478
479 #endif
480
481 /******************************************************************************/
482 /***********************      GLOBAL VARIABLES     ****************************/
483 /******************************************************************************/
484
485 /************************** Configuration parameters **************************/
486
487 /**
488  * How often to send tunnel keepalives. Tunnels timeout after 4 missed.
489  */
490 static struct GNUNET_TIME_Relative refresh_path_time;
491
492 /**
493  * How often to PUT own ID in the DHT.
494  */
495 static struct GNUNET_TIME_Relative id_announce_time;
496
497 /**
498  * Maximum time allowed to connect to a peer found by string.
499  */
500 static struct GNUNET_TIME_Relative connect_timeout;
501
502 /**
503  * Default TTL for payload packets.
504  */
505 static unsigned long long default_ttl;
506
507 /**
508  * DHT replication level, see DHT API: GNUNET_DHT_get_start, GNUNET_DHT_put.
509  */
510 static unsigned long long dht_replication_level;
511
512 /**
513  * How many tunnels are we willing to maintain.
514  * Local tunnels are always allowed, even if there are more tunnels than max.
515  */
516 static unsigned long long max_tunnels;
517
518 /**
519  * How many messages *in total* are we willing to queue, divided by number of 
520  * tunnels to get tunnel queue size.
521  */
522 static unsigned long long max_msgs_queue;
523
524 /**
525  * How many peers do we want to remember?
526  */
527 static unsigned long long max_peers;
528
529
530 /*************************** Static global variables **************************/
531
532 /**
533  * Hostkey generation context
534  */
535 static struct GNUNET_CRYPTO_EccKeyGenerationContext *keygen;
536
537 /**
538  * DLL with all the clients, head.
539  */
540 static struct MeshClient *clients_head;
541
542 /**
543  * DLL with all the clients, tail.
544  */
545 static struct MeshClient *clients_tail;
546
547 /**
548  * Tunnels known, indexed by MESH_TunnelID (MeshTunnel).
549  */
550 static struct GNUNET_CONTAINER_MultiHashMap *tunnels;
551
552 /**
553  * Number of tunnels known.
554  */
555 static unsigned long long n_tunnels;
556
557 /**
558  * Tunnels incoming, indexed by MESH_TunnelNumber
559  * (which is greater than GNUNET_MESH_LOCAL_TUNNEL_ID_SERV).
560  */
561 static struct GNUNET_CONTAINER_MultiHashMap *incoming_tunnels;
562
563 /**
564  * Peers known, indexed by PeerIdentity (MeshPeerInfo).
565  */
566 static struct GNUNET_CONTAINER_MultiHashMap *peers;
567
568 /*
569  * Handle to communicate with transport
570  */
571 // static struct GNUNET_TRANSPORT_Handle *transport_handle;
572
573 /**
574  * Handle to communicate with core.
575  */
576 static struct GNUNET_CORE_Handle *core_handle;
577
578 /**
579  * Handle to use DHT.
580  */
581 static struct GNUNET_DHT_Handle *dht_handle;
582
583 /**
584  * Handle to server.
585  */
586 static struct GNUNET_SERVER_Handle *server_handle;
587
588 /**
589  * Handle to the statistics service.
590  */
591 static struct GNUNET_STATISTICS_Handle *stats;
592
593 /**
594  * Notification context, to send messages to local clients.
595  */
596 static struct GNUNET_SERVER_NotificationContext *nc;
597
598 /**
599  * Local peer own ID (memory efficient handle).
600  */
601 static GNUNET_PEER_Id myid;
602
603 /**
604  * Local peer own ID (full value).
605  */
606 static struct GNUNET_PeerIdentity my_full_id;
607
608 /**
609  * Own private key.
610  */
611 static struct GNUNET_CRYPTO_EccPrivateKey *my_private_key;
612
613 /**
614  * Own public key.
615  */
616 static struct GNUNET_CRYPTO_EccPublicKeyBinaryEncoded my_public_key;
617
618 /**
619  * Tunnel ID for the next created tunnel (global tunnel number).
620  */
621 static MESH_TunnelNumber next_tid;
622
623 /**
624  * Tunnel ID for the next incoming tunnel (local tunnel number).
625  */
626 static MESH_TunnelNumber next_local_tid;
627
628 /**
629  * All ports clients of this peer have opened.
630  */
631 static struct GNUNET_CONTAINER_MultiHashMap *ports;
632
633 /**
634  * Task to periodically announce itself in the network.
635  */
636 GNUNET_SCHEDULER_TaskIdentifier announce_id_task;
637
638 /**
639  * Next ID to assign to a client.
640  */
641 unsigned int next_client_id;
642
643
644 /******************************************************************************/
645 /***********************         DECLARATIONS        **************************/
646 /******************************************************************************/
647
648 /**
649  * Function to process paths received for a new peer addition. The recorded
650  * paths form the initial tunnel, which can be optimized later.
651  * Called on each result obtained for the DHT search.
652  *
653  * @param cls closure
654  * @param exp when will this value expire
655  * @param key key of the result
656  * @param type type of the result
657  * @param size number of bytes in data
658  * @param data pointer to the result data
659  */
660 static void
661 dht_get_id_handler (void *cls, struct GNUNET_TIME_Absolute exp,
662                     const struct GNUNET_HashCode * key,
663                     const struct GNUNET_PeerIdentity *get_path,
664                     unsigned int get_path_length,
665                     const struct GNUNET_PeerIdentity *put_path,
666                     unsigned int put_path_length, enum GNUNET_BLOCK_Type type,
667                     size_t size, const void *data);
668
669
670 /**
671  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
672  * and insert it in the appropiate structures if the peer is not known yet.
673  *
674  * @param peer Full identity of the peer.
675  *
676  * @return Existing or newly created peer info.
677  */
678 static struct MeshPeerInfo *
679 peer_get (const struct GNUNET_PeerIdentity *peer);
680
681
682 /**
683  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
684  * and insert it in the appropiate structures if the peer is not known yet.
685  *
686  * @param peer Short identity of the peer.
687  *
688  * @return Existing or newly created peer info.
689  */
690 static struct MeshPeerInfo *
691 peer_get_short (const GNUNET_PEER_Id peer);
692
693
694 /**
695  * Build a PeerPath from the paths returned from the DHT, reversing the paths
696  * to obtain a local peer -> destination path and interning the peer ids.
697  *
698  * @return Newly allocated and created path
699  */
700 static struct MeshPeerPath *
701 path_build_from_dht (const struct GNUNET_PeerIdentity *get_path,
702                      unsigned int get_path_length,
703                      const struct GNUNET_PeerIdentity *put_path,
704                      unsigned int put_path_length);
705
706
707 /**
708  * Adds a path to the peer_infos of all the peers in the path
709  *
710  * @param p Path to process.
711  * @param confirmed Whether we know if the path works or not.
712  */
713 static void
714 path_add_to_peers (struct MeshPeerPath *p, int confirmed);
715
716
717
718 /**
719  * Search for a tunnel by global ID using full PeerIdentities.
720  *
721  * @param oid owner of the tunnel.
722  * @param tid global tunnel number.
723  *
724  * @return tunnel handler, NULL if doesn't exist.
725  */
726 static struct MeshTunnel *
727 tunnel_get (const struct GNUNET_PeerIdentity *oid, MESH_TunnelNumber tid);
728
729
730 /**
731  * Notify a tunnel that a connection has broken that affects at least
732  * some of its peers.
733  *
734  * @param t Tunnel affected.
735  * @param p1 Peer that got disconnected from p2.
736  * @param p2 Peer that got disconnected from p1.
737  *
738  * @return Short ID of the peer disconnected (either p1 or p2).
739  *         0 if the tunnel remained unaffected.
740  */
741 static GNUNET_PEER_Id
742 tunnel_notify_connection_broken (struct MeshTunnel *t, GNUNET_PEER_Id p1,
743                                  GNUNET_PEER_Id p2);
744
745
746 /**
747  * @brief Use the given path for the tunnel.
748  * Update the next and prev hops (and RCs).
749  * (Re)start the path refresh in case the tunnel is locally owned.
750  * 
751  * @param t Tunnel to update.
752  * @param p Path to use.
753  */
754 static void
755 tunnel_use_path (struct MeshTunnel *t, struct MeshPeerPath *p);
756
757 /**
758  * @brief Queue and pass message to core when possible.
759  * 
760  * If type is payload (UNICAST, TO_ORIGIN, MULTICAST) checks for queue status
761  * and accounts for it. In case the queue is full, the message is dropped and
762  * a break issued.
763  * 
764  * Otherwise, message is treated as internal and allowed to go regardless of 
765  * queue status.
766  *
767  * @param cls Closure (@c type dependant). It will be used by queue_send to
768  *            build the message to be sent if not already prebuilt.
769  * @param type Type of the message, 0 for a raw message.
770  * @param size Size of the message.
771  * @param dst Neighbor to send message to.
772  * @param t Tunnel this message belongs to.
773  */
774 static void
775 queue_add (void *cls, uint16_t type, size_t size,
776            struct MeshPeerInfo *dst, struct MeshTunnel *t);
777
778
779 /**
780  * Free a transmission that was already queued with all resources
781  * associated to the request.
782  *
783  * @param queue Queue handler to cancel.
784  * @param clear_cls Is it necessary to free associated cls?
785  */
786 static void
787 queue_destroy (struct MeshPeerQueue *queue, int clear_cls);
788
789
790 /**
791  * @brief Get the next transmittable message from the queue.
792  *
793  * This will be the head, except in the case of being a data packet
794  * not allowed by the destination peer.
795  *
796  * @param peer Destination peer.
797  *
798  * @return The next viable MeshPeerQueue element to send to that peer.
799  *         NULL when there are no transmittable messages.
800  */
801 struct MeshPeerQueue *
802 queue_get_next (const struct MeshPeerInfo *peer);
803
804
805 /**
806  * Core callback to write a queued packet to core buffer
807  *
808  * @param cls Closure (peer info).
809  * @param size Number of bytes available in buf.
810  * @param buf Where the to write the message.
811  *
812  * @return number of bytes written to buf
813  */
814 static size_t
815 queue_send (void *cls, size_t size, void *buf);
816
817
818 /******************************************************************************/
819 /************************    PERIODIC FUNCTIONS    ****************************/
820 /******************************************************************************/
821
822 /**
823  * Periodically announce self id in the DHT
824  *
825  * @param cls closure
826  * @param tc task context
827  */
828 static void
829 announce_id (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
830 {
831   struct PBlock block;
832
833   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
834   {
835     announce_id_task = GNUNET_SCHEDULER_NO_TASK;
836     return;
837   }
838   /* TODO
839    * - Set data expiration in function of X
840    * - Adapt X to churn
841    */
842   DEBUG_DHT ("DHT_put for ID %s started.\n", GNUNET_i2s (&my_full_id));
843
844   block.id = my_full_id;
845   block.type = htonl (0);
846   GNUNET_DHT_put (dht_handle,   /* DHT handle */
847                   &my_full_id.hashPubKey,       /* Key to use */
848                   dht_replication_level,     /* Replication level */
849                   GNUNET_DHT_RO_RECORD_ROUTE | GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,    /* DHT options */
850                   GNUNET_BLOCK_TYPE_MESH_PEER,       /* Block type */
851                   sizeof (block),  /* Size of the data */
852                   (const char *) &block, /* Data itself */
853                   GNUNET_TIME_UNIT_FOREVER_ABS,  /* Data expiration */
854                   GNUNET_TIME_UNIT_FOREVER_REL, /* Retry time */
855                   NULL,         /* Continuation */
856                   NULL);        /* Continuation closure */
857   announce_id_task =
858       GNUNET_SCHEDULER_add_delayed (id_announce_time, &announce_id, cls);
859 }
860
861
862 /******************************************************************************/
863 /******************      GENERAL HELPER FUNCTIONS      ************************/
864 /******************************************************************************/
865
866
867 /**
868  * Check if client has registered with the service and has not disconnected
869  *
870  * @param client the client to check
871  *
872  * @return non-NULL if client exists in the global DLL
873  */
874 static struct MeshClient *
875 client_get (struct GNUNET_SERVER_Client *client)
876 {
877   struct MeshClient *c;
878
879   c = clients_head;
880   while (NULL != c)
881   {
882     if (c->handle == client)
883       return c;
884     c = c->next;
885   }
886   return NULL;
887 }
888
889
890 /**
891  * Deletes a tunnel from a client (either owner or destination). To be used on
892  * tunnel destroy.
893  *
894  * @param c Client whose tunnel to delete.
895  * @param t Tunnel which should be deleted.
896  */
897 static void
898 client_delete_tunnel (struct MeshClient *c, struct MeshTunnel *t)
899 {
900   struct GNUNET_HashCode hash;
901
902   if (c == t->owner)
903   {
904     GMC_hash32 (t->local_tid, &hash);
905     GNUNET_assert (GNUNET_YES ==
906                    GNUNET_CONTAINER_multihashmap_remove (c->own_tunnels,
907                                                          &hash,
908                                                          t));
909   }
910   else if (c == t->client)
911   {
912     GMC_hash32 (t->local_tid_dest, &hash);
913     GNUNET_assert (GNUNET_YES ==
914                    GNUNET_CONTAINER_multihashmap_remove (c->incoming_tunnels,
915                                                          &hash,
916                                                          t));
917   }
918   else
919   {
920     GNUNET_break (0);
921   }
922 }
923
924 /**
925  * Notify the appropiate client that a new incoming tunnel was created.
926  *
927  * @param t Tunnel that was created.
928  */
929 static void
930 send_client_tunnel_create (struct MeshTunnel *t)
931 {
932   struct GNUNET_MESH_TunnelMessage msg;
933
934   if (NULL == t->client)
935     return;
936   msg.header.size = htons (sizeof (msg));
937   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_CREATE);
938   msg.tunnel_id = htonl (t->local_tid_dest);
939   msg.port = htonl (t->port);
940   GNUNET_SERVER_notification_context_unicast (nc, t->client->handle,
941                                               &msg.header, GNUNET_NO);
942 }
943
944
945 /**
946  * Notify dest client that the incoming tunnel is no longer valid.
947  *
948  * @param t Tunnel that was destroyed.
949  */
950 static void
951 send_client_tunnel_destroy (struct MeshTunnel *t)
952 {
953   struct GNUNET_MESH_TunnelMessage msg;
954
955   if (NULL == t->client)
956     return;
957   msg.header.size = htons (sizeof (msg));
958   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_DESTROY);
959   msg.tunnel_id = htonl (t->local_tid_dest);
960   GNUNET_SERVER_notification_context_unicast (nc, t->client->handle,
961                                               &msg.header, GNUNET_NO);
962 }
963
964
965 /**
966  * Iterator over all the peers to remove the oldest not-used entry.
967  *
968  * @param cls Closure (unsued).
969  * @param key ID of the peer.
970  * @param value Peer_Info of the peer.
971  *
972  * FIXME implement
973  */
974 static int
975 peer_info_timeout (void *cls,
976                    const struct GNUNET_HashCode *key,
977                    void *value)
978 {
979   return GNUNET_YES;
980 }
981
982 /**
983  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
984  * and insert it in the appropiate structures if the peer is not known yet.
985  *
986  * @param peer Full identity of the peer.
987  *
988  * @return Existing or newly created peer info.
989  */
990 static struct MeshPeerInfo *
991 peer_get (const struct GNUNET_PeerIdentity *peer)
992 {
993   struct MeshPeerInfo *peer_info;
994
995   peer_info = GNUNET_CONTAINER_multihashmap_get (peers, &peer->hashPubKey);
996   if (NULL == peer_info)
997   {
998     peer_info =
999         (struct MeshPeerInfo *) GNUNET_malloc (sizeof (struct MeshPeerInfo));
1000     if (GNUNET_CONTAINER_multihashmap_size (peers) > max_peers)
1001     {
1002       GNUNET_CONTAINER_multihashmap_iterate (peers,
1003                                              &peer_info_timeout,
1004                                              NULL);
1005     }
1006     GNUNET_CONTAINER_multihashmap_put (peers, &peer->hashPubKey, peer_info,
1007                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
1008     peer_info->id = GNUNET_PEER_intern (peer);
1009   }
1010   peer_info->last_contact = GNUNET_TIME_absolute_get();
1011
1012   return peer_info;
1013 }
1014
1015
1016 /**
1017  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
1018  * and insert it in the appropiate structures if the peer is not known yet.
1019  *
1020  * @param peer Short identity of the peer.
1021  *
1022  * @return Existing or newly created peer info.
1023  */
1024 static struct MeshPeerInfo *
1025 peer_get_short (const GNUNET_PEER_Id peer)
1026 {
1027   struct GNUNET_PeerIdentity id;
1028
1029   GNUNET_PEER_resolve (peer, &id);
1030   return peer_get (&id);
1031 }
1032
1033
1034 /**
1035  * Choose the best path towards a peer considering the tunnel properties.
1036  * 
1037  * @param peer The destination peer.
1038  * @param t The tunnel the path is for.
1039  *
1040  * @return Best current known path towards the peer, if any.
1041  */
1042 static struct MeshPeerPath *
1043 peer_get_best_path (const struct MeshPeerInfo *peer, const struct MeshTunnel *t)
1044 {
1045   struct MeshPeerPath *best_p;
1046   struct MeshPeerPath *p;
1047   unsigned int best_cost;
1048   unsigned int cost;
1049
1050   best_p = p = peer->path_head;
1051   best_cost = cost = p->length;
1052   while (NULL != p)
1053   {
1054     if ((cost = p->length) < best_cost)
1055     {
1056       best_cost = cost;
1057       best_p = p;
1058     }
1059         p = p->next;
1060   }
1061   return best_p;
1062 }
1063
1064
1065 /**
1066  * Remove the tunnel from the list of tunnels to which a peer is target.
1067  *
1068  * @param peer PeerInfo of the peer.
1069  * @param t Tunnel to remove.
1070  */
1071 static void
1072 peer_remove_tunnel (struct MeshPeerInfo *peer, struct MeshTunnel *t)
1073 {
1074   unsigned int i;
1075
1076   for (i = 0; i < peer->ntunnels; i++)
1077   {
1078     if (0 ==
1079         memcmp (&peer->tunnels[i]->id, &t->id, sizeof (struct MESH_TunnelID)))
1080     {
1081       peer->ntunnels--;
1082       peer->tunnels[i] = peer->tunnels[peer->ntunnels];
1083       peer->tunnels = 
1084         GNUNET_realloc (peer->tunnels, 
1085                         peer->ntunnels * sizeof(struct MeshTunnel *));
1086       return;
1087     }
1088   }
1089 }
1090
1091
1092 /**
1093   * Core callback to write a pre-constructed data packet to core buffer
1094   *
1095   * @param cls Closure (MeshTransmissionDescriptor with data in "data" member).
1096   * @param size Number of bytes available in buf.
1097   * @param buf Where the to write the message.
1098   *
1099   * @return number of bytes written to buf
1100   */
1101 static size_t
1102 send_core_data_raw (void *cls, size_t size, void *buf)
1103 {
1104   struct GNUNET_MessageHeader *msg = cls;
1105   size_t total_size;
1106
1107   GNUNET_assert (NULL != msg);
1108   total_size = ntohs (msg->size);
1109
1110   if (total_size > size)
1111   {
1112     GNUNET_break (0);
1113     return 0;
1114   }
1115   memcpy (buf, msg, total_size);
1116   GNUNET_free (cls);
1117   return total_size;
1118 }
1119
1120
1121 /**
1122  * Sends an already built message to a peer, properly registrating
1123  * all used resources.
1124  *
1125  * @param message Message to send. Function makes a copy of it.
1126  * @param peer Short ID of the neighbor whom to send the message.
1127  * @param t Tunnel on which this message is transmitted.
1128  */
1129 static void
1130 send_prebuilt_message (const struct GNUNET_MessageHeader *message,
1131                        GNUNET_PEER_Id peer,
1132                        struct MeshTunnel *t)
1133 {
1134   struct GNUNET_PeerIdentity id;
1135   struct MeshPeerInfo *neighbor;
1136   struct MeshPeerPath *p;
1137   void *data;
1138   size_t size;
1139   uint16_t type;
1140
1141 //   GNUNET_TRANSPORT_try_connect(); FIXME use?
1142
1143   if (0 == peer)
1144     return;
1145
1146   size = ntohs (message->size);
1147   data = GNUNET_malloc (size);
1148   memcpy (data, message, size);
1149   type = ntohs(message->type);
1150   switch (type)
1151   {
1152     struct GNUNET_MESH_Unicast *u;
1153
1154     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
1155       u = (struct GNUNET_MESH_Unicast *) data;
1156       u->ttl = htonl (ntohl (u->ttl) - 1);
1157       break;
1158   }
1159   GNUNET_PEER_resolve (peer, &id);
1160   neighbor = peer_get (&id);
1161   for (p = neighbor->path_head; NULL != p; p = p->next)
1162   {
1163     if (2 >= p->length)
1164     {
1165       break;
1166     }
1167   }
1168   if (NULL == p)
1169   {
1170 #if MESH_DEBUG
1171     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1172                 "  %s IS NOT DIRECTLY CONNECTED\n",
1173                 GNUNET_i2s(&id));
1174     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1175                 "  PATHS TO %s:\n",
1176                 GNUNET_i2s(&id));
1177     for (p = neighbor->path_head; NULL != p; p = p->next)
1178     {
1179       struct GNUNET_PeerIdentity debug_id;
1180       unsigned int i;
1181
1182       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1183                   "    path with %u hops through:\n",
1184                   p->length);
1185       for (i = 0; i < p->length; i++)
1186       {
1187         GNUNET_PEER_resolve(p->peers[i], &debug_id);
1188         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1189                     "      hop %u: %s\n",
1190                     i, GNUNET_i2s(&debug_id));
1191       }
1192     }
1193 #endif
1194     GNUNET_break (0); // FIXME sometimes fails (testing disconnect?)
1195     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1196                     " no direct connection to %s\n",
1197                     GNUNET_i2s (&id));
1198     GNUNET_free (data);
1199     return;
1200   }
1201   if (GNUNET_MESSAGE_TYPE_MESH_PATH_ACK == type)
1202     type = 0;
1203   queue_add (data,
1204              type,
1205              size,
1206              neighbor,
1207              t);
1208 }
1209
1210
1211 /**
1212  * Sends a CREATE PATH message for a path to a peer, properly registrating
1213  * all used resources.
1214  *
1215  * @param t Tunnel for which the path is created.
1216  */
1217 static void
1218 send_create_path (struct MeshTunnel *t)
1219 {
1220   struct MeshPeerInfo *neighbor;
1221
1222   neighbor = peer_get_short (t->next_hop);
1223   queue_add (t,
1224              GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE,
1225              sizeof (struct GNUNET_MESH_CreateTunnel) +
1226                 (t->path->length * sizeof (struct GNUNET_PeerIdentity)),
1227              neighbor,
1228              t);
1229   t->state = MESH_TUNNEL_WAITING;
1230 }
1231
1232
1233 /**
1234  * Sends a PATH ACK message in reponse to a received PATH_CREATE directed to us.
1235  *
1236  * @param t Tunnel which to confirm.
1237  */
1238 static void
1239 send_path_ack (struct MeshTunnel *t) 
1240 {
1241   struct MeshPeerInfo *peer;
1242
1243   peer = peer_get_short (t->prev_hop);
1244
1245   queue_add (t,
1246              GNUNET_MESSAGE_TYPE_MESH_PATH_ACK,
1247              sizeof (struct GNUNET_MESH_PathACK),
1248              peer,
1249              t);
1250 }
1251
1252
1253 /**
1254  * Try to establish a new connection to this peer in the given tunnel.
1255  * If the peer doesn't have any path to it yet, try to get one.
1256  * If the peer already has some path, send a CREATE PATH towards it.
1257  *
1258  * @param peer PeerInfo of the peer.
1259  * @param t Tunnel for which to create the path, if possible.
1260  */
1261 static void
1262 peer_connect (struct MeshPeerInfo *peer, struct MeshTunnel *t)
1263 {
1264   struct MeshPeerPath *p;
1265
1266   if (NULL != peer->path_head)
1267   {
1268     p = peer_get_best_path (peer, t);
1269     tunnel_use_path (t, p);
1270     send_create_path (t);
1271   }
1272   else if (NULL == peer->dhtget)
1273   {
1274     struct GNUNET_PeerIdentity id;
1275
1276     GNUNET_PEER_resolve (peer->id, &id);
1277     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1278                 "  Starting DHT GET for peer %s\n", GNUNET_i2s (&id));
1279     peer->dhtget = GNUNET_DHT_get_start (dht_handle,    /* handle */
1280                                          GNUNET_BLOCK_TYPE_MESH_PEER, /* type */
1281                                          &id.hashPubKey,     /* key to search */
1282                                          dht_replication_level, /* replication level */
1283                                          GNUNET_DHT_RO_RECORD_ROUTE |
1284                                          GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,
1285                                          NULL,       /* xquery */
1286                                          0,     /* xquery bits */
1287                                          &dht_get_id_handler, peer);
1288     t->state = MESH_TUNNEL_SEARCHING;
1289   }
1290   /* Otherwise, there is no path but the DHT get is already started. */
1291 }
1292
1293
1294 /**
1295  * Destroy the peer_info and free any allocated resources linked to it
1296  *
1297  * @param pi The peer_info to destroy.
1298  *
1299  * @return GNUNET_OK on success
1300  */
1301 static int
1302 peer_info_destroy (struct MeshPeerInfo *pi)
1303 {
1304   struct GNUNET_PeerIdentity id;
1305   struct MeshPeerPath *p;
1306   struct MeshPeerPath *nextp;
1307
1308   GNUNET_PEER_resolve (pi->id, &id);
1309   GNUNET_PEER_change_rc (pi->id, -1);
1310
1311   if (GNUNET_YES !=
1312       GNUNET_CONTAINER_multihashmap_remove (peers, &id.hashPubKey, pi))
1313   {
1314     GNUNET_break (0);
1315     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1316                 "removing peer %s, not in hashmap\n", GNUNET_i2s (&id));
1317   }
1318   if (NULL != pi->dhtget)
1319   {
1320     GNUNET_DHT_get_stop (pi->dhtget);
1321   }
1322   p = pi->path_head;
1323   while (NULL != p)
1324   {
1325     nextp = p->next;
1326     GNUNET_CONTAINER_DLL_remove (pi->path_head, pi->path_tail, p);
1327     path_destroy (p);
1328     p = nextp;
1329   }
1330   GNUNET_free (pi);
1331   return GNUNET_OK;
1332 }
1333
1334
1335 /**
1336  * Remove all paths that rely on a direct connection between p1 and p2
1337  * from the peer itself and notify all tunnels about it.
1338  *
1339  * @param peer PeerInfo of affected peer.
1340  * @param p1 GNUNET_PEER_Id of one peer.
1341  * @param p2 GNUNET_PEER_Id of another peer that was connected to the first and
1342  *           no longer is.
1343  *
1344  * TODO: optimize (see below)
1345  */
1346 static void
1347 peer_remove_path (struct MeshPeerInfo *peer, GNUNET_PEER_Id p1,
1348                        GNUNET_PEER_Id p2)
1349 {
1350   struct MeshPeerPath *p;
1351   struct MeshPeerPath *next;
1352   struct MeshPeerInfo *peer_d;
1353   GNUNET_PEER_Id d;
1354   unsigned int destroyed;
1355   unsigned int i;
1356
1357   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "peer_info_remove_path\n");
1358   destroyed = 0;
1359   for (p = peer->path_head; NULL != p; p = next)
1360   {
1361     next = p->next;
1362     for (i = 0; i < (p->length - 1); i++)
1363     {
1364       if ((p->peers[i] == p1 && p->peers[i + 1] == p2) ||
1365           (p->peers[i] == p2 && p->peers[i + 1] == p1))
1366       {
1367         GNUNET_CONTAINER_DLL_remove (peer->path_head, peer->path_tail, p);
1368         path_destroy (p);
1369         destroyed++;
1370         break;
1371       }
1372     }
1373   }
1374   if (0 == destroyed)
1375     return;
1376
1377   for (i = 0; i < peer->ntunnels; i++)
1378   {
1379     d = tunnel_notify_connection_broken (peer->tunnels[i], p1, p2);
1380     if (0 == d)
1381       continue;
1382
1383     peer_d = peer_get_short (d);
1384     next = peer_get_best_path (peer_d, peer->tunnels[i]);
1385     tunnel_use_path (peer->tunnels[i], next);
1386     peer_connect (peer_d, peer->tunnels[i]);
1387   }
1388   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "peer_info_remove_path END\n");
1389 }
1390
1391
1392 /**
1393  * Add the path to the peer and update the path used to reach it in case this
1394  * is the shortest.
1395  *
1396  * @param peer_info Destination peer to add the path to.
1397  * @param path New path to add. Last peer must be the peer in arg 1.
1398  *             Path will be either used of freed if already known.
1399  * @param trusted Do we trust that this path is real?
1400  */
1401 void
1402 peer_info_add_path (struct MeshPeerInfo *peer_info, struct MeshPeerPath *path,
1403                     int trusted)
1404 {
1405   struct MeshPeerPath *aux;
1406   unsigned int l;
1407   unsigned int l2;
1408
1409   if ((NULL == peer_info) || (NULL == path))
1410   {
1411     GNUNET_break (0);
1412     path_destroy (path);
1413     return;
1414   }
1415   if (path->peers[path->length - 1] != peer_info->id)
1416   {
1417     GNUNET_break (0);
1418     path_destroy (path);
1419     return;
1420   }
1421   if (path->length <= 2 && GNUNET_NO == trusted)
1422   {
1423     /* Only allow CORE to tell us about direct paths */
1424     path_destroy (path);
1425     return;
1426   }
1427   for (l = 1; l < path->length; l++)
1428   {
1429     if (path->peers[l] == myid)
1430     {
1431       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shortening path by %u\n", l);
1432       for (l2 = 0; l2 < path->length - l; l2++)
1433       {
1434         path->peers[l2] = path->peers[l + l2];
1435       }
1436       path->length -= l;
1437       l = 1;
1438       path->peers =
1439           GNUNET_realloc (path->peers, path->length * sizeof (GNUNET_PEER_Id));
1440     }
1441   }
1442 #if MESH_DEBUG
1443   {
1444     struct GNUNET_PeerIdentity id;
1445
1446     GNUNET_PEER_resolve (peer_info->id, &id);
1447     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "adding path [%u] to peer %s\n",
1448                 path->length, GNUNET_i2s (&id));
1449   }
1450 #endif
1451   l = path_get_length (path);
1452   if (0 == l)
1453   {
1454     GNUNET_free (path);
1455     return;
1456   }
1457
1458   GNUNET_assert (peer_info->id == path->peers[path->length - 1]);
1459   for (aux = peer_info->path_head; aux != NULL; aux = aux->next)
1460   {
1461     l2 = path_get_length (aux);
1462     if (l2 > l)
1463     {
1464       GNUNET_CONTAINER_DLL_insert_before (peer_info->path_head,
1465                                           peer_info->path_tail, aux, path);
1466       return;
1467     }
1468     else
1469     {
1470       if (l2 == l && memcmp (path->peers, aux->peers, l) == 0)
1471       {
1472         path_destroy (path);
1473         return;
1474       }
1475     }
1476   }
1477   GNUNET_CONTAINER_DLL_insert_tail (peer_info->path_head, peer_info->path_tail,
1478                                     path);
1479   return;
1480 }
1481
1482
1483 /**
1484  * Add the path to the origin peer and update the path used to reach it in case
1485  * this is the shortest.
1486  * The path is given in peer_info -> destination, therefore we turn the path
1487  * upside down first.
1488  *
1489  * @param peer_info Peer to add the path to, being the origin of the path.
1490  * @param path New path to add after being inversed.
1491  *             Path will be either used or freed.
1492  * @param trusted Do we trust that this path is real?
1493  */
1494 static void
1495 peer_info_add_path_to_origin (struct MeshPeerInfo *peer_info,
1496                               struct MeshPeerPath *path, int trusted)
1497 {
1498   path_invert (path);
1499   peer_info_add_path (peer_info, path, trusted);
1500 }
1501
1502
1503 /**
1504  * Function called if the connection to the peer has been stalled for a while,
1505  * possibly due to a missed ACK. Poll the peer about its ACK status.
1506  *
1507  * @param cls Closure (poll ctx).
1508  * @param tc TaskContext.
1509  */
1510 static void
1511 tunnel_poll (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1512 {
1513   struct MeshFlowControl *fc = cls;
1514   struct GNUNET_MESH_Poll msg;
1515   struct MeshTunnel *t = fc->t;
1516   GNUNET_PEER_Id peer;
1517
1518   fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
1519   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1520   {
1521     return;
1522   }
1523
1524   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_POLL);
1525   msg.header.size = htons (sizeof (msg));
1526   msg.tid = htonl (t->id.tid);
1527   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
1528
1529   if (fc == &t->prev_fc)
1530   {
1531     peer = t->prev_hop;
1532   }
1533   else if (fc == &t->next_fc)
1534   {
1535     peer = t->next_hop;
1536   }
1537   else
1538   {
1539     GNUNET_break (0);
1540     return;
1541   }
1542   send_prebuilt_message (&msg.header, peer, t);
1543   fc->poll_time = GNUNET_TIME_STD_BACKOFF (fc->poll_time);
1544   fc->poll_task = GNUNET_SCHEDULER_add_delayed (fc->poll_time,
1545                                                 &tunnel_poll, fc);
1546 }
1547
1548
1549 /**
1550  * Build a PeerPath from the paths returned from the DHT, reversing the paths
1551  * to obtain a local peer -> destination path and interning the peer ids.
1552  *
1553  * @return Newly allocated and created path
1554  */
1555 static struct MeshPeerPath *
1556 path_build_from_dht (const struct GNUNET_PeerIdentity *get_path,
1557                      unsigned int get_path_length,
1558                      const struct GNUNET_PeerIdentity *put_path,
1559                      unsigned int put_path_length)
1560 {
1561   struct MeshPeerPath *p;
1562   GNUNET_PEER_Id id;
1563   int i;
1564
1565   p = path_new (1);
1566   p->peers[0] = myid;
1567   GNUNET_PEER_change_rc (myid, 1);
1568   i = get_path_length;
1569   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   GET has %d hops.\n", i);
1570   for (i--; i >= 0; i--)
1571   {
1572     id = GNUNET_PEER_intern (&get_path[i]);
1573     if (p->length > 0 && id == p->peers[p->length - 1])
1574     {
1575       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Optimizing 1 hop out.\n");
1576       GNUNET_PEER_change_rc (id, -1);
1577     }
1578     else
1579     {
1580       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Adding from GET: %s.\n",
1581                   GNUNET_i2s (&get_path[i]));
1582       p->length++;
1583       p->peers = GNUNET_realloc (p->peers, sizeof (GNUNET_PEER_Id) * p->length);
1584       p->peers[p->length - 1] = id;
1585     }
1586   }
1587   i = put_path_length;
1588   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   PUT has %d hops.\n", i);
1589   for (i--; i >= 0; i--)
1590   {
1591     id = GNUNET_PEER_intern (&put_path[i]);
1592     if (id == myid)
1593     {
1594       /* PUT path went through us, so discard the path up until now and start
1595        * from here to get a much shorter (and loop-free) path.
1596        */
1597       path_destroy (p);
1598       p = path_new (0);
1599     }
1600     if (p->length > 0 && id == p->peers[p->length - 1])
1601     {
1602       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Optimizing 1 hop out.\n");
1603       GNUNET_PEER_change_rc (id, -1);
1604     }
1605     else
1606     {
1607       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Adding from PUT: %s.\n",
1608                   GNUNET_i2s (&put_path[i]));
1609       p->length++;
1610       p->peers = GNUNET_realloc (p->peers, sizeof (GNUNET_PEER_Id) * p->length);
1611       p->peers[p->length - 1] = id;
1612     }
1613   }
1614 #if MESH_DEBUG
1615   if (get_path_length > 0)
1616     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (first of GET: %s)\n",
1617                 GNUNET_i2s (&get_path[0]));
1618   if (put_path_length > 0)
1619     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (first of PUT: %s)\n",
1620                 GNUNET_i2s (&put_path[0]));
1621   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   In total: %d hops\n",
1622               p->length);
1623   for (i = 0; i < p->length; i++)
1624   {
1625     struct GNUNET_PeerIdentity peer_id;
1626
1627     GNUNET_PEER_resolve (p->peers[i], &peer_id);
1628     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "       %u: %s\n", p->peers[i],
1629                 GNUNET_i2s (&peer_id));
1630   }
1631 #endif
1632   return p;
1633 }
1634
1635
1636 /**
1637  * Adds a path to the peer_infos of all the peers in the path
1638  *
1639  * @param p Path to process.
1640  * @param confirmed Whether we know if the path works or not.
1641  */
1642 static void
1643 path_add_to_peers (struct MeshPeerPath *p, int confirmed)
1644 {
1645   unsigned int i;
1646
1647   /* TODO: invert and add */
1648   for (i = 0; i < p->length && p->peers[i] != myid; i++) /* skip'em */ ;
1649   for (i++; i < p->length; i++)
1650   {
1651     struct MeshPeerInfo *aux;
1652     struct MeshPeerPath *copy;
1653
1654     aux = peer_get_short (p->peers[i]);
1655     copy = path_duplicate (p);
1656     copy->length = i + 1;
1657     peer_info_add_path (aux, copy, p->length < 3 ? GNUNET_NO : confirmed);
1658   }
1659 }
1660
1661
1662 /**
1663  * Send keepalive packets for a peer
1664  *
1665  * @param cls Closure (tunnel for which to send the keepalive).
1666  * @param tc Notification context.
1667  */
1668 static void
1669 path_refresh (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc);
1670
1671
1672 /**
1673  * Search for a tunnel among the incoming tunnels
1674  *
1675  * @param tid the local id of the tunnel
1676  *
1677  * @return tunnel handler, NULL if doesn't exist
1678  */
1679 static struct MeshTunnel *
1680 tunnel_get_incoming (MESH_TunnelNumber tid)
1681 {
1682   struct GNUNET_HashCode hash;
1683
1684   GNUNET_assert (tid >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV);
1685   GMC_hash32 (tid, &hash);
1686   return GNUNET_CONTAINER_multihashmap_get (incoming_tunnels, &hash);
1687 }
1688
1689
1690 /**
1691  * Search for a tunnel among the tunnels for a client
1692  *
1693  * @param c the client whose tunnels to search in
1694  * @param tid the local id of the tunnel
1695  *
1696  * @return tunnel handler, NULL if doesn't exist
1697  */
1698 static struct MeshTunnel *
1699 tunnel_get_by_local_id (struct MeshClient *c, MESH_TunnelNumber tid)
1700 {
1701   if (tid >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
1702   {
1703     return tunnel_get_incoming (tid);
1704   }
1705   else
1706   {
1707     struct GNUNET_HashCode hash;
1708
1709     GMC_hash32 (tid, &hash);
1710     return GNUNET_CONTAINER_multihashmap_get (c->own_tunnels, &hash);
1711   }
1712 }
1713
1714
1715 /**
1716  * Search for a tunnel by global ID using PEER_ID
1717  *
1718  * @param pi owner of the tunnel
1719  * @param tid global tunnel number
1720  *
1721  * @return tunnel handler, NULL if doesn't exist
1722  */
1723 static struct MeshTunnel *
1724 tunnel_get_by_pi (GNUNET_PEER_Id pi, MESH_TunnelNumber tid)
1725 {
1726   struct MESH_TunnelID id;
1727   struct GNUNET_HashCode hash;
1728
1729   id.oid = pi;
1730   id.tid = tid;
1731
1732   GNUNET_CRYPTO_hash (&id, sizeof (struct MESH_TunnelID), &hash);
1733   return GNUNET_CONTAINER_multihashmap_get (tunnels, &hash);
1734 }
1735
1736
1737 /**
1738  * Search for a tunnel by global ID using full PeerIdentities
1739  *
1740  * @param oid owner of the tunnel
1741  * @param tid global tunnel number
1742  *
1743  * @return tunnel handler, NULL if doesn't exist
1744  */
1745 static struct MeshTunnel *
1746 tunnel_get (const struct GNUNET_PeerIdentity *oid, MESH_TunnelNumber tid)
1747 {
1748   return tunnel_get_by_pi (GNUNET_PEER_search (oid), tid);
1749 }
1750
1751
1752 /**
1753  * Add a client to a tunnel, initializing all needed data structures.
1754  * 
1755  * @param t Tunnel to which add the client.
1756  * @param c Client which to add to the tunnel.
1757  */
1758 static void
1759 tunnel_add_client (struct MeshTunnel *t, struct MeshClient *c)
1760 {
1761   struct GNUNET_HashCode hash;
1762
1763   if (NULL != t->client)
1764   {
1765     GNUNET_break(0);
1766     return;
1767   }
1768   if (0 != t->next_hop)
1769   {
1770     GNUNET_break(0);
1771     return;
1772   }
1773   GMC_hash32 (t->local_tid_dest, &hash);
1774   if (GNUNET_OK !=
1775       GNUNET_CONTAINER_multihashmap_put (c->incoming_tunnels, &hash, t,
1776                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST))
1777   {
1778     GNUNET_break (0);
1779     return;
1780   }
1781   if (GNUNET_OK !=
1782       GNUNET_CONTAINER_multihashmap_put (incoming_tunnels, &hash, t,
1783                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST))
1784   {
1785     GNUNET_break (0);
1786     return;
1787   }
1788   t->client = c;
1789 }
1790
1791
1792 static void
1793 tunnel_use_path (struct MeshTunnel *t, struct MeshPeerPath *p)
1794 {
1795   unsigned int own_pos;
1796
1797   for (own_pos = 0; own_pos < p->length; own_pos++)
1798   {
1799     if (p->peers[own_pos] == myid)
1800       break;
1801   }
1802   if (own_pos > p->length - 1)
1803   {
1804     GNUNET_break (0);
1805     return;
1806   }
1807
1808   if (own_pos < p->length - 1)
1809     t->next_hop = p->peers[own_pos + 1];
1810   else
1811     t->next_hop = p->peers[own_pos];
1812   GNUNET_PEER_change_rc (t->next_hop, 1);
1813   if (0 < own_pos)
1814     t->prev_hop = p->peers[own_pos - 1];
1815   else
1816     t->prev_hop = p->peers[0];
1817   GNUNET_PEER_change_rc (t->prev_hop, 1);
1818
1819   if (NULL != t->path)
1820     path_destroy (t->path);
1821   t->path = path_duplicate (p);
1822   if (0 == own_pos)
1823   {
1824     if (GNUNET_SCHEDULER_NO_TASK != t->maintenance_task)
1825       GNUNET_SCHEDULER_cancel (t->maintenance_task);
1826     t->maintenance_task = GNUNET_SCHEDULER_add_delayed (refresh_path_time,
1827                                                         &path_refresh, t);
1828   }
1829 }
1830
1831
1832 /**
1833  * Notifies a tunnel that a connection has broken that affects at least
1834  * some of its peers. Sends a notification towards the root of the tree.
1835  * In case the peer is the owner of the tree, notifies the client that owns
1836  * the tunnel and tries to reconnect.
1837  *
1838  * @param t Tunnel affected.
1839  * @param p1 Peer that got disconnected from p2.
1840  * @param p2 Peer that got disconnected from p1.
1841  *
1842  * @return Short ID of the peer disconnected (either p1 or p2).
1843  *         0 if the tunnel remained unaffected.
1844  */
1845 static GNUNET_PEER_Id
1846 tunnel_notify_connection_broken (struct MeshTunnel *t, GNUNET_PEER_Id p1,
1847                                  GNUNET_PEER_Id p2)
1848 {
1849 //   if (myid != p1 && myid != p2) FIXME
1850 //   {
1851 //     return;
1852 //   }
1853 // 
1854 //   if (tree_get_predecessor (t->tree) != 0)
1855 //   {
1856 //     /* We are the peer still connected, notify owner of the disconnection. */
1857 //     struct GNUNET_MESH_PathBroken msg;
1858 //     struct GNUNET_PeerIdentity neighbor;
1859 // 
1860 //     msg.header.size = htons (sizeof (msg));
1861 //     msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN);
1862 //     GNUNET_PEER_resolve (t->id.oid, &msg.oid);
1863 //     msg.tid = htonl (t->id.tid);
1864 //     msg.peer1 = my_full_id;
1865 //     GNUNET_PEER_resolve (pid, &msg.peer2);
1866 //     GNUNET_PEER_resolve (tree_get_predecessor (t->tree), &neighbor);
1867 //     send_prebuilt_message (&msg.header, &neighbor, t);
1868 //   }
1869   return 0;
1870 }
1871
1872
1873 /**
1874  * Build a local ACK message and send it to a local client.
1875  * 
1876  * @param t Tunnel on which to send the ACK.
1877  * @param c Client to whom send the ACK.
1878  * @param ack Value of the ACK.
1879  */
1880 static void
1881 send_local_ack (struct MeshTunnel *t, struct MeshClient *c, uint32_t ack)
1882 {
1883   struct GNUNET_MESH_LocalAck msg;
1884
1885   msg.header.size = htons (sizeof (msg));
1886   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK);
1887   msg.tunnel_id = htonl (t->owner == c ? t->local_tid : t->local_tid_dest);
1888   msg.max_pid = htonl (ack); 
1889   GNUNET_SERVER_notification_context_unicast(nc,
1890                                               c->handle,
1891                                               &msg.header,
1892                                               GNUNET_NO);
1893 }
1894
1895 /**
1896  * Build an ACK message and queue it to send to the given peer.
1897  * 
1898  * @param t Tunnel on which to send the ACK.
1899  * @param peer Peer to whom send the ACK.
1900  * @param ack Value of the ACK.
1901  */
1902 static void
1903 send_ack (struct MeshTunnel *t, GNUNET_PEER_Id peer,  uint32_t ack)
1904 {
1905   struct GNUNET_MESH_ACK msg;
1906
1907   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
1908   msg.header.size = htons (sizeof (msg));
1909   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_ACK);
1910   msg.pid = htonl (ack);
1911   msg.tid = htonl (t->id.tid);
1912
1913   send_prebuilt_message (&msg.header, peer, t);
1914 }
1915
1916
1917 /**
1918  * Send an ACK informing the predecessor about the available buffer space.
1919  * In case there is no predecessor, inform the owning client.
1920  * If buffering is off, send only on behalf of children or self if endpoint.
1921  * If buffering is on, send when sent to children and buffer space is free.
1922  * Note that although the name is fwd_ack, the FWD mean forward *traffic*,
1923  * the ACK itself goes "back" (towards root).
1924  * 
1925  * @param t Tunnel on which to send the ACK.
1926  * @param type Type of message that triggered the ACK transmission.
1927  */
1928 static void
1929 tunnel_send_fwd_ack (struct MeshTunnel *t, uint16_t type)
1930 {
1931   uint32_t ack;
1932
1933   /* Is it after unicast retransmission? */
1934   switch (type)
1935   {
1936     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
1937       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1938                   "ACK due to FWD DATA retransmission\n");
1939       if (GNUNET_YES == t->nobuffer)
1940       {
1941         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending ACK, nobuffer\n");
1942         return;
1943       }
1944       break;
1945     case GNUNET_MESSAGE_TYPE_MESH_ACK:
1946     case GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK:
1947       break;
1948     case GNUNET_MESSAGE_TYPE_MESH_POLL:
1949       t->force_ack = GNUNET_YES;
1950       break;
1951     default:
1952       GNUNET_break (0);
1953   }
1954
1955   /* Check if we need to transmit the ACK */
1956   if (t->queue_max > t->next_fc.queue_n * 4 &&
1957       GMC_is_pid_bigger(t->prev_fc.last_ack_sent, t->prev_fc.last_pid_recv) &&
1958       GNUNET_NO == t->force_ack)
1959   {
1960     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending ACK, buffer free\n");
1961     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1962                 "  t->qmax: %u, t->qn: %u\n",
1963                 t->queue_max, t->next_fc.queue_n);
1964     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1965                 "  t->pid: %u, t->ack: %u\n",
1966                 t->prev_fc.last_pid_recv, t->prev_fc.last_ack_sent);
1967     return;
1968   }
1969
1970   /* Ok, ACK might be necessary, what PID to ACK? */
1971   ack = t->prev_fc.last_pid_recv + t->queue_max - t->next_fc.queue_n;
1972   if (ack == t->prev_fc.last_ack_sent && GNUNET_NO == t->force_ack)
1973   {
1974     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending FWD ACK, not needed\n");
1975     return;
1976   }
1977
1978   t->prev_fc.last_ack_sent = ack;
1979   if (NULL != t->owner)
1980     send_local_ack (t, t->owner, ack);
1981   else if (0 != t->prev_hop)
1982     send_ack (t, t->prev_hop, ack);
1983   else
1984     GNUNET_break (0);
1985   debug_fwd_ack++;
1986   t->force_ack = GNUNET_NO;
1987 }
1988
1989
1990 /**
1991  * Send an ACK informing the children node/client about the available
1992  * buffer space.
1993  * If buffering is off, send only on behalf of root (can be self).
1994  * If buffering is on, send when sent to predecessor and buffer space is free.
1995  * Note that although the name is bck_ack, the BCK mean backwards *traffic*,
1996  * the ACK itself goes "forward" (towards children/clients).
1997  * 
1998  * @param t Tunnel on which to send the ACK.
1999  * @param type Type of message that triggered the ACK transmission.
2000  */
2001 static void
2002 tunnel_send_bck_ack (struct MeshTunnel *t, uint16_t type)
2003 {
2004   uint32_t ack;
2005   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2006               "Sending BCK ACK on tunnel %u [%u] due to %s\n",
2007               t->id.oid, t->id.tid, GNUNET_MESH_DEBUG_M2S(type));
2008   /* Is it after data to_origin retransmission? */
2009   switch (type)
2010   {
2011     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2012       if (GNUNET_YES == t->nobuffer)
2013       {
2014         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2015                     "    Not sending ACK, nobuffer + traffic\n");
2016         return;
2017       }
2018       break;
2019     case GNUNET_MESSAGE_TYPE_MESH_ACK:
2020     case GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK:
2021       break;
2022     case GNUNET_MESSAGE_TYPE_MESH_PATH_ACK:
2023     case GNUNET_MESSAGE_TYPE_MESH_POLL:
2024       t->force_ack = GNUNET_YES;
2025       break;
2026     default:
2027       GNUNET_break (0);
2028   }
2029
2030   /* TODO: Check if we need to transmit the ACK (as in fwd) */
2031
2032   ack = t->next_fc.last_pid_recv + t->queue_max - t->prev_fc.queue_n;
2033
2034   if (t->next_fc.last_ack_sent == ack && GNUNET_NO == t->force_ack)
2035   {
2036     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2037                 "    Not sending ACK, not needed\n");
2038     return;
2039   }
2040   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2041               "    Sending BCK ACK %u (last sent: %u)\n",
2042               ack, t->next_fc.last_ack_sent);
2043   t->next_fc.last_ack_sent = ack;
2044
2045   if (NULL != t->client)
2046     send_local_ack (t, t->client, ack);
2047   else if (0 != t->next_hop)
2048     send_ack (t, t->next_hop, ack);
2049   else
2050     GNUNET_break (0);
2051   t->force_ack = GNUNET_NO;
2052 }
2053
2054
2055 /**
2056  * @brief Re-initiate traffic to this peer if necessary.
2057  *
2058  * Check if there is traffic queued towards this peer
2059  * and the core transmit handle is NULL (traffic was stalled).
2060  * If so, call core tmt rdy.
2061  *
2062  * @param peer_id Short ID of peer to which initiate traffic.
2063  */
2064 static void
2065 peer_unlock_queue(GNUNET_PEER_Id peer_id)
2066 {
2067   struct MeshPeerInfo *peer;
2068   struct GNUNET_PeerIdentity id;
2069   struct MeshPeerQueue *q;
2070   size_t size;
2071
2072   peer = peer_get_short (peer_id);
2073   if (NULL != peer->core_transmit)
2074     return;
2075
2076   q = queue_get_next (peer);
2077   if (NULL == q)
2078   {
2079     /* Might br multicast traffic already sent to this particular peer but
2080      * not to other children in this tunnel.
2081      * This way t->queue_n would be > 0 but the queue of this particular peer
2082      * would be empty.
2083      */
2084     return;
2085   }
2086   size = q->size;
2087   GNUNET_PEER_resolve (peer->id, &id);
2088   peer->core_transmit =
2089         GNUNET_CORE_notify_transmit_ready(core_handle,
2090                                           0,
2091                                           0,
2092                                           GNUNET_TIME_UNIT_FOREVER_REL,
2093                                           &id,
2094                                           size,
2095                                           &queue_send,
2096                                           peer);
2097         return;
2098 }
2099
2100
2101 /**
2102  * Send a message to all peers in this tunnel that the tunnel is no longer
2103  * valid.
2104  *
2105  * @param t The tunnel whose peers to notify.
2106  */
2107 static void
2108 tunnel_send_destroy (struct MeshTunnel *t)
2109 {
2110   struct GNUNET_MESH_TunnelDestroy msg;
2111   struct GNUNET_PeerIdentity id;
2112
2113   msg.header.size = htons (sizeof (msg));
2114   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY);
2115   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
2116   msg.tid = htonl (t->id.tid);
2117   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2118               "  sending tunnel destroy for tunnel: %s [%X]\n",
2119               GNUNET_i2s (&msg.oid), t->id.tid);
2120
2121   if (NULL == t->client && 0 != t->next_hop)
2122   {
2123     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  child: %u\n", t->next_hop);
2124     GNUNET_PEER_resolve (t->next_hop, &id);
2125     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2126                 "  sending forward to %s\n",
2127                 GNUNET_i2s (&id));
2128     send_prebuilt_message (&msg.header, t->next_hop, t);
2129   }
2130   if (NULL == t->owner && 0 != t->prev_hop)
2131   {
2132     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  parent: %u\n", t->prev_hop);
2133     GNUNET_PEER_resolve (t->prev_hop, &id);
2134     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2135                 "  sending back to %s\n",
2136                 GNUNET_i2s (&id));
2137     send_prebuilt_message (&msg.header, t->prev_hop, t);
2138   }
2139 }
2140
2141
2142 /**
2143  * Cancel all transmissions towards a neighbor that belongs to a certain tunnel.
2144  *
2145  * @param t Tunnel which to cancel.
2146  * @param neighbor Short ID of the neighbor to whom cancel the transmissions.
2147  */
2148 static void
2149 peer_cancel_queues (GNUNET_PEER_Id neighbor, struct MeshTunnel *t)
2150 {
2151   struct MeshPeerInfo *peer_info;
2152   struct MeshPeerQueue *pq;
2153   struct MeshPeerQueue *next;
2154
2155   peer_info = peer_get_short (neighbor);
2156   for (pq = peer_info->queue_head; NULL != pq; pq = next)
2157   {
2158     next = pq->next;
2159     if (pq->tunnel == t)
2160     {
2161       if (GNUNET_MESSAGE_TYPE_MESH_UNICAST == pq->type ||
2162           GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == pq->type)
2163       {
2164         /* Should have been removed on destroy children */
2165         GNUNET_break (0);
2166       }
2167       queue_destroy (pq, GNUNET_YES);
2168     }
2169   }
2170   if (NULL == peer_info->queue_head && NULL != peer_info->core_transmit)
2171   {
2172     GNUNET_CORE_notify_transmit_ready_cancel(peer_info->core_transmit);
2173     peer_info->core_transmit = NULL;
2174   }
2175 }
2176
2177
2178 /**
2179  * Destroy the tunnel and free any allocated resources linked to it.
2180  *
2181  * @param t the tunnel to destroy
2182  *
2183  * @return GNUNET_OK on success
2184  */
2185 static int
2186 tunnel_destroy (struct MeshTunnel *t)
2187 {
2188   struct MeshClient *c;
2189   struct GNUNET_HashCode hash;
2190   int r;
2191
2192   if (NULL == t)
2193     return GNUNET_OK;
2194
2195   r = GNUNET_OK;
2196   c = t->owner;
2197 #if MESH_DEBUG
2198   {
2199     struct GNUNET_PeerIdentity id;
2200
2201     GNUNET_PEER_resolve (t->id.oid, &id);
2202     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "destroying tunnel %s [%x]\n",
2203                 GNUNET_i2s (&id), t->id.tid);
2204     if (NULL != c)
2205       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
2206   }
2207 #endif
2208
2209   GNUNET_CRYPTO_hash (&t->id, sizeof (struct MESH_TunnelID), &hash);
2210   if (GNUNET_YES != GNUNET_CONTAINER_multihashmap_remove (tunnels, &hash, t))
2211   {
2212     GNUNET_break (0);
2213     r = GNUNET_SYSERR;
2214   }
2215
2216   if (NULL != c)
2217   {
2218     GMC_hash32 (t->local_tid, &hash);
2219     if (GNUNET_YES !=
2220         GNUNET_CONTAINER_multihashmap_remove (c->own_tunnels, &hash, t))
2221     {
2222       GNUNET_break (0);
2223       r = GNUNET_SYSERR;
2224     }
2225   }
2226
2227   if (NULL != t->client)
2228   {
2229     c = t->client;
2230     GMC_hash32 (t->local_tid_dest, &hash);
2231     if (GNUNET_YES !=
2232           GNUNET_CONTAINER_multihashmap_remove (c->incoming_tunnels, &hash, t))
2233     {
2234       GNUNET_break (0);
2235       r = GNUNET_SYSERR;
2236     }
2237     if (GNUNET_YES != 
2238       GNUNET_CONTAINER_multihashmap_remove (incoming_tunnels, &hash, t))
2239     {
2240       GNUNET_break (0);
2241       r = GNUNET_SYSERR;
2242     }
2243   }
2244
2245   peer_cancel_queues (t->next_hop, t);
2246   peer_cancel_queues (t->prev_hop, t);
2247   GNUNET_PEER_change_rc(t->next_hop, -1);
2248   GNUNET_PEER_change_rc(t->prev_hop, -1);
2249
2250   if (GNUNET_SCHEDULER_NO_TASK != t->maintenance_task)
2251     GNUNET_SCHEDULER_cancel (t->maintenance_task);
2252
2253   n_tunnels--;
2254   GNUNET_STATISTICS_update (stats, "# tunnels", -1, GNUNET_NO);
2255   GNUNET_free (t);
2256   return r;
2257 }
2258
2259 /**
2260  * Tunnel is empty: destroy it.
2261  * 
2262  * @param t Tunnel to destroy. 
2263  */
2264 static void
2265 tunnel_destroy_empty (struct MeshTunnel *t)
2266 {
2267   #if MESH_DEBUG
2268   {
2269     struct GNUNET_PeerIdentity id;
2270
2271     GNUNET_PEER_resolve (t->id.oid, &id);
2272     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2273                 "executing destruction of empty tunnel %s [%X]\n",
2274                 GNUNET_i2s (&id), t->id.tid);
2275   }
2276   #endif
2277
2278   if (GNUNET_NO == t->destroy)
2279     tunnel_send_destroy (t);
2280   if (0 == t->pending_messages)
2281     tunnel_destroy (t);
2282   else
2283     t->destroy = GNUNET_YES;
2284 }
2285
2286 /**
2287  * Initialize a Flow Control structure to the initial state.
2288  * 
2289  * @param fc Flow Control structure to initialize.
2290  */
2291 static void
2292 fc_init (struct MeshFlowControl *fc)
2293 {
2294   fc->last_pid_sent = (uint32_t) -1; /* Next (expected) = 0 */
2295   fc->last_pid_recv = (uint32_t) -1;
2296   fc->last_ack_sent = (uint32_t) -1; /* No traffic allowed yet */
2297   fc->last_ack_recv = (uint32_t) -1;
2298   fc->poll_task = GNUNET_SCHEDULER_NO_TASK;
2299   fc->poll_time = GNUNET_TIME_UNIT_SECONDS;
2300   fc->queue_n = 0;
2301 }
2302
2303 /**
2304  * Create a new tunnel
2305  * 
2306  * @param owner Who is the owner of the tunnel (short ID).
2307  * @param tid Tunnel Number of the tunnel.
2308  * @param client Clients that owns the tunnel, NULL for foreign tunnels.
2309  * @param local Tunnel Number for the tunnel, for the client point of view.
2310  * 
2311  * @return A new initialized tunnel. NULL on error.
2312  */
2313 static struct MeshTunnel *
2314 tunnel_new (GNUNET_PEER_Id owner,
2315             MESH_TunnelNumber tid,
2316             struct MeshClient *client,
2317             MESH_TunnelNumber local)
2318 {
2319   struct MeshTunnel *t;
2320   struct GNUNET_HashCode hash;
2321
2322   if (n_tunnels >= max_tunnels && NULL == client)
2323     return NULL;
2324
2325   t = GNUNET_malloc (sizeof (struct MeshTunnel));
2326   t->id.oid = owner;
2327   t->id.tid = tid;
2328   t->queue_max = (max_msgs_queue / max_tunnels) + 1;
2329   t->owner = client;
2330   fc_init (&t->next_fc);
2331   fc_init (&t->prev_fc);
2332   t->local_tid = local;
2333   n_tunnels++;
2334   GNUNET_STATISTICS_update (stats, "# tunnels", 1, GNUNET_NO);
2335
2336   GNUNET_CRYPTO_hash (&t->id, sizeof (struct MESH_TunnelID), &hash);
2337   if (GNUNET_OK !=
2338       GNUNET_CONTAINER_multihashmap_put (tunnels, &hash, t,
2339                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
2340   {
2341     GNUNET_break (0);
2342     tunnel_destroy (t);
2343     if (NULL != client)
2344     {
2345       GNUNET_break (0);
2346       GNUNET_SERVER_receive_done (client->handle, GNUNET_SYSERR);
2347     }
2348     return NULL;
2349   }
2350
2351   if (NULL != client)
2352   {
2353     GMC_hash32 (t->local_tid, &hash);
2354     if (GNUNET_OK !=
2355         GNUNET_CONTAINER_multihashmap_put (client->own_tunnels, &hash, t,
2356                                           GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
2357     {
2358       tunnel_destroy (t);
2359       GNUNET_break (0);
2360       GNUNET_SERVER_receive_done (client->handle, GNUNET_SYSERR);
2361       return NULL;
2362     }
2363   }
2364
2365   return t;
2366 }
2367
2368
2369
2370 /**
2371  * tunnel_destroy_iterator: iterator for deleting each tunnel that belongs to a
2372  * client when the client disconnects. If the client is not the owner, the
2373  * owner will get notified if no more clients are in the tunnel and the client
2374  * get removed from the tunnel's list.
2375  *
2376  * @param cls closure (client that is disconnecting)
2377  * @param key the hash of the local tunnel id (used to access the hashmap)
2378  * @param value the value stored at the key (tunnel to destroy)
2379  *
2380  * @return GNUNET_OK, keep iterating.
2381  */
2382 static int
2383 tunnel_destroy_iterator (void *cls,
2384                          const struct GNUNET_HashCode * key,
2385                          void *value)
2386 {
2387   struct MeshTunnel *t = value;
2388   struct MeshClient *c = cls;
2389
2390   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2391               " Tunnel %X / %X destroy, due to client %u shutdown.\n",
2392               t->local_tid, t->local_tid_dest, c->id);
2393   if (GNUNET_NO == c->shutting_down)
2394     send_client_tunnel_destroy (t);
2395   client_delete_tunnel (c, t);
2396   if (c == t->client)
2397   {
2398     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " Client %u is destination.\n", c->id);
2399     t->client = NULL;
2400     t->next_hop = 0;
2401   }
2402   else if (c == t->owner)
2403   {
2404     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " Client %u is owner.\n", c->id);
2405     t->owner = NULL;
2406     t->prev_hop = 0;
2407   }
2408   else
2409   {
2410     GNUNET_break (0);
2411   }
2412   tunnel_destroy_empty (t);
2413
2414   return GNUNET_OK;
2415 }
2416
2417
2418 /**
2419  * Timeout function, destroys tunnel if called
2420  *
2421  * @param cls Closure (tunnel to destroy).
2422  * @param tc TaskContext
2423  */
2424 static void
2425 tunnel_timeout (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
2426 {
2427   struct MeshTunnel *t = cls;
2428   struct GNUNET_PeerIdentity id;
2429
2430   t->maintenance_task = GNUNET_SCHEDULER_NO_TASK;
2431   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
2432     return;
2433   GNUNET_PEER_resolve(t->id.oid, &id);
2434   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
2435               "Tunnel %s [%X] timed out. Destroying.\n",
2436               GNUNET_i2s(&id), t->id.tid);
2437   send_client_tunnel_destroy (t);
2438   tunnel_destroy (t);
2439 }
2440
2441
2442 /**
2443  * Resets the tunnel timeout. Starts it if no timeout was running.
2444  *
2445  * @param t Tunnel whose timeout to reset.
2446  *
2447  * TODO use heap to improve efficiency of scheduler.
2448  */
2449 static void
2450 tunnel_reset_timeout (struct MeshTunnel *t)
2451 {
2452   if (NULL != t->owner || 0 != t->local_tid || 0 == t->prev_hop)
2453     return;
2454   if (GNUNET_SCHEDULER_NO_TASK != t->maintenance_task)
2455     GNUNET_SCHEDULER_cancel (t->maintenance_task);
2456   t->maintenance_task =
2457       GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_relative_multiply
2458                                     (refresh_path_time, 4), &tunnel_timeout, t);
2459 }
2460
2461
2462 /******************************************************************************/
2463 /****************      MESH NETWORK HANDLER HELPERS     ***********************/
2464 /******************************************************************************/
2465
2466 /**
2467  * Function to send a create path packet to a peer.
2468  *
2469  * @param cls closure
2470  * @param size number of bytes available in buf
2471  * @param buf where the callee should write the message
2472  * @return number of bytes written to buf
2473  */
2474 static size_t
2475 send_core_path_create (void *cls, size_t size, void *buf)
2476 {
2477   struct MeshTunnel *t = cls;
2478   struct GNUNET_MESH_CreateTunnel *msg;
2479   struct GNUNET_PeerIdentity *peer_ptr;
2480   struct MeshPeerPath *p = t->path;
2481   size_t size_needed;
2482   uint32_t opt;
2483   int i;
2484
2485   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "CREATE PATH sending...\n");
2486   size_needed =
2487       sizeof (struct GNUNET_MESH_CreateTunnel) +
2488       p->length * sizeof (struct GNUNET_PeerIdentity);
2489
2490   if (size < size_needed || NULL == buf)
2491   {
2492     GNUNET_break (0);
2493     return 0;
2494   }
2495   msg = (struct GNUNET_MESH_CreateTunnel *) buf;
2496   msg->header.size = htons (size_needed);
2497   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE);
2498   msg->tid = ntohl (t->id.tid);
2499
2500   opt = 0;
2501   if (GNUNET_YES == t->nobuffer)
2502     opt |= MESH_TUNNEL_OPT_NOBUFFER;
2503   msg->opt = htonl (opt);
2504   msg->port = htonl (t->port);
2505
2506   peer_ptr = (struct GNUNET_PeerIdentity *) &msg[1];
2507   for (i = 0; i < p->length; i++)
2508   {
2509     GNUNET_PEER_resolve (p->peers[i], peer_ptr++);
2510   }
2511
2512   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2513               "CREATE PATH (%u bytes long) sent!\n", size_needed);
2514   return size_needed;
2515 }
2516
2517
2518 /**
2519  * Creates a path ack message in buf and frees all unused resources.
2520  *
2521  * @param cls closure (MeshTransmissionDescriptor)
2522  * @param size number of bytes available in buf
2523  * @param buf where the callee should write the message
2524  * @return number of bytes written to buf
2525  */
2526 static size_t
2527 send_core_path_ack (void *cls, size_t size, void *buf)
2528 {
2529   struct MeshTunnel *t = cls;
2530   struct GNUNET_MESH_PathACK *msg = buf;
2531
2532   GNUNET_assert (NULL != t);
2533   if (sizeof (struct GNUNET_MESH_PathACK) > size)
2534   {
2535     GNUNET_break (0);
2536     return 0;
2537   }
2538   t->prev_fc.last_ack_sent = t->nobuffer ? 0 : t->queue_max - 1;
2539   msg->header.size = htons (sizeof (struct GNUNET_MESH_PathACK));
2540   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_ACK);
2541   GNUNET_PEER_resolve (t->id.oid, &msg->oid);
2542   msg->tid = htonl (t->id.tid);
2543   msg->peer_id = my_full_id;
2544   msg->ack = htonl (t->prev_fc.last_ack_sent);
2545
2546   /* TODO add signature */
2547
2548   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "PATH ACK sent!\n");
2549   return sizeof (struct GNUNET_MESH_PathACK);
2550 }
2551
2552
2553 /**
2554  * Free a transmission that was already queued with all resources
2555  * associated to the request.
2556  *
2557  * @param queue Queue handler to cancel.
2558  * @param clear_cls Is it necessary to free associated cls?
2559  */
2560 static void
2561 queue_destroy (struct MeshPeerQueue *queue, int clear_cls)
2562 {
2563   struct MeshFlowControl *fc;
2564
2565   if (GNUNET_YES == clear_cls)
2566   {
2567     switch (queue->type)
2568     {
2569       case GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY:
2570         GNUNET_log (GNUNET_ERROR_TYPE_INFO, "   cancelling TUNNEL_DESTROY\n");
2571         GNUNET_break (GNUNET_YES == queue->tunnel->destroy);
2572         /* fall through */
2573       case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2574       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2575       case GNUNET_MESSAGE_TYPE_MESH_ACK:
2576       case GNUNET_MESSAGE_TYPE_MESH_POLL:
2577       case GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE:
2578         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2579                     "   prebuilt message\n");
2580         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2581                     "   type %s\n",
2582                     GNUNET_MESH_DEBUG_M2S (queue->type));
2583         break;
2584       case GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE:
2585         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   type create path\n");
2586         break;
2587       default:
2588         GNUNET_break (0);
2589         GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2590                     "   type %s unknown!\n",
2591                     GNUNET_MESH_DEBUG_M2S (queue->type));
2592     }
2593     GNUNET_free_non_null (queue->cls);
2594   }
2595   GNUNET_CONTAINER_DLL_remove (queue->peer->queue_head,
2596                                queue->peer->queue_tail,
2597                                queue);
2598
2599   /* Delete from appropiate fc in the tunnel */
2600   if (queue->peer->id == queue->tunnel->next_hop)
2601     fc = &queue->tunnel->next_fc;
2602   else if (queue->peer->id == queue->tunnel->next_hop)
2603     fc = &queue->tunnel->next_fc;
2604   else
2605   {
2606     GNUNET_break (0);
2607     return;
2608   }
2609   fc->queue_n--;
2610   GNUNET_free (queue);
2611 }
2612
2613
2614 /**
2615  * @brief Get the next transmittable message from the queue.
2616  *
2617  * This will be the head, except in the case of being a data packet
2618  * not allowed by the destination peer.
2619  *
2620  * @param peer Destination peer.
2621  *
2622  * @return The next viable MeshPeerQueue element to send to that peer.
2623  *         NULL when there are no transmittable messages.
2624  */
2625 struct MeshPeerQueue *
2626 queue_get_next (const struct MeshPeerInfo *peer)
2627 {
2628   struct MeshPeerQueue *q;
2629  
2630   struct GNUNET_MESH_Unicast *ucast;
2631   struct GNUNET_MESH_ToOrigin *to_orig;
2632   struct MeshTunnel* t;
2633   uint32_t pid;
2634   uint32_t ack;
2635
2636   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   selecting message\n");
2637   for (q = peer->queue_head; NULL != q; q = q->next)
2638   {
2639     t = q->tunnel;
2640     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2641                 "*     %s\n",
2642                 GNUNET_MESH_DEBUG_M2S(q->type));
2643     switch (q->type)
2644     {
2645       case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2646         ucast = (struct GNUNET_MESH_Unicast *) q->cls;
2647         pid = ntohl (ucast->pid);
2648         ack = t->next_fc.last_ack_recv;
2649         break;
2650       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2651         to_orig = (struct GNUNET_MESH_ToOrigin *) q->cls;
2652         pid = ntohl (to_orig->pid);
2653         ack = t->prev_fc.last_ack_recv;
2654         break;
2655       default:
2656         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2657                     "*   OK!\n");
2658         return q;
2659     }
2660     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2661                 "*     ACK: %u, PID: %u\n",
2662                 ack, pid);
2663     if (GNUNET_NO == GMC_is_pid_bigger (pid, ack))
2664     {
2665       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2666                   "*   OK!\n");
2667       return q;
2668     }
2669     else
2670     {
2671       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2672                   "*     NEXT!\n");
2673     }
2674   }
2675   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2676                 "*   nothing found\n");
2677   return NULL;
2678 }
2679
2680
2681 static size_t
2682 queue_send (void *cls, size_t size, void *buf)
2683 {
2684   struct MeshPeerInfo *peer = cls;
2685   struct GNUNET_MessageHeader *msg;
2686   struct MeshPeerQueue *queue;
2687   struct MeshTunnel *t;
2688   struct GNUNET_PeerIdentity dst_id;
2689   struct MeshFlowControl *fc;
2690   size_t data_size;
2691   uint16_t type;
2692
2693   peer->core_transmit = NULL;
2694
2695   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "* Queue send\n");
2696   queue = queue_get_next (peer);
2697
2698   /* Queue has no internal mesh traffic nor sendable payload */
2699   if (NULL == queue)
2700   {
2701     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   not ready, return\n");
2702     if (NULL == peer->queue_head)
2703       GNUNET_break (0); /* Core tmt_rdy should've been canceled */
2704     return 0;
2705   }
2706   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   not empty\n");
2707
2708   GNUNET_PEER_resolve (peer->id, &dst_id);
2709   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2710               "*   towards %s\n",
2711               GNUNET_i2s (&dst_id));
2712   /* Check if buffer size is enough for the message */
2713   if (queue->size > size)
2714   {
2715       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2716                   "*   not enough room, reissue\n");
2717       peer->core_transmit =
2718           GNUNET_CORE_notify_transmit_ready (core_handle,
2719                                              GNUNET_NO,
2720                                              0,
2721                                              GNUNET_TIME_UNIT_FOREVER_REL,
2722                                              &dst_id,
2723                                              queue->size,
2724                                              &queue_send,
2725                                              peer);
2726       return 0;
2727   }
2728   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   size ok\n");
2729
2730   t = queue->tunnel;
2731   GNUNET_assert (0 < t->pending_messages);
2732   t->pending_messages--;
2733   type = 0;
2734
2735   /* Fill buf */
2736   switch (queue->type)
2737   {
2738     case 0:
2739     case GNUNET_MESSAGE_TYPE_MESH_ACK:
2740     case GNUNET_MESSAGE_TYPE_MESH_POLL:
2741     case GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN:
2742     case GNUNET_MESSAGE_TYPE_MESH_PATH_DESTROY:
2743     case GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY:
2744     case GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE:
2745       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2746                   "*   raw: %s\n",
2747                   GNUNET_MESH_DEBUG_M2S (queue->type));
2748       /* Fall through */
2749     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2750     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2751       data_size = send_core_data_raw (queue->cls, size, buf);
2752       msg = (struct GNUNET_MessageHeader *) buf;
2753       type = ntohs (msg->type);
2754       break;
2755     case GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE:
2756       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   path create\n");
2757       data_size = send_core_path_create (queue->cls, size, buf);
2758       break;
2759     case GNUNET_MESSAGE_TYPE_MESH_PATH_ACK:
2760       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   path ack\n");
2761       data_size = send_core_path_ack (queue->cls, size, buf);
2762       break;
2763     default:
2764       GNUNET_break (0);
2765       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
2766                   "*   type unknown: %u\n",
2767                   queue->type);
2768       data_size = 0;
2769   }
2770
2771   /* Free queue, but cls was freed by send_core_* */
2772   queue_destroy (queue, GNUNET_NO);
2773
2774   /* Send ACK if needed, after accounting for sent ID in fc->queue_n */
2775   switch (type)
2776   {
2777     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2778       t->next_fc.last_pid_sent = ((struct GNUNET_MESH_Unicast *) buf)->pid;
2779       tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_UNICAST);
2780       break;
2781     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2782       t->prev_fc.last_pid_sent = ((struct GNUNET_MESH_ToOrigin *) buf)->pid;
2783       tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN);
2784       break;
2785     default:
2786       break;
2787   }
2788
2789   if (GNUNET_YES == t->destroy && 0 == t->pending_messages)
2790   {
2791     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*  destroying tunnel!\n");
2792     tunnel_destroy (t);
2793   }
2794
2795   /* If more data in queue, send next */
2796   queue = queue_get_next (peer);
2797   if (NULL != queue)
2798   {
2799       struct GNUNET_PeerIdentity id;
2800
2801       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*   more data!\n");
2802       GNUNET_PEER_resolve (peer->id, &id);
2803       peer->core_transmit =
2804           GNUNET_CORE_notify_transmit_ready(core_handle,
2805                                             0,
2806                                             0,
2807                                             GNUNET_TIME_UNIT_FOREVER_REL,
2808                                             &id,
2809                                             queue->size,
2810                                             &queue_send,
2811                                             peer);
2812   }
2813   else if (NULL != peer->queue_head)
2814   {
2815     GNUNET_log (GNUNET_ERROR_TYPE_INFO,
2816                 "*   %s stalled\n",
2817                 GNUNET_i2s (&my_full_id));
2818     if (peer->id == t->next_hop)
2819       fc = &t->next_fc;
2820     else if (peer->id == t->prev_hop)
2821       fc = &t->prev_fc;
2822     else
2823     {
2824       GNUNET_break (0);
2825       fc = NULL;
2826     }
2827     if (NULL != fc && GNUNET_SCHEDULER_NO_TASK == fc->poll_task)
2828     {
2829       fc->t = t;
2830       fc->poll_task = GNUNET_SCHEDULER_add_delayed (fc->poll_time,
2831                                                     &tunnel_poll, fc);
2832     }
2833   }
2834   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*  Return %d\n", data_size);
2835   return data_size;
2836 }
2837
2838
2839 /**
2840  * @brief Queue and pass message to core when possible.
2841  * 
2842  * If type is payload (UNICAST, TO_ORIGIN) checks for queue status and
2843  * accounts for it. In case the queue is full, the message is dropped and
2844  * a break issued.
2845  * 
2846  * Otherwise, message is treated as internal and allowed to go regardless of 
2847  * queue status.
2848  *
2849  * @param cls Closure (@c type dependant). It will be used by queue_send to
2850  *            build the message to be sent if not already prebuilt.
2851  * @param type Type of the message, 0 for a raw message.
2852  * @param size Size of the message.
2853  * @param dst Neighbor to send message to.
2854  * @param t Tunnel this message belongs to.
2855  */
2856 static void
2857 queue_add (void *cls, uint16_t type, size_t size,
2858            struct MeshPeerInfo *dst, struct MeshTunnel *t)
2859 {
2860   struct MeshPeerQueue *queue;
2861   struct GNUNET_PeerIdentity id;
2862   unsigned int *n;
2863
2864   n = NULL;
2865   if (GNUNET_MESSAGE_TYPE_MESH_UNICAST == type)
2866   {
2867     n = &t->next_fc.queue_n;
2868   }
2869   else if (GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == type)
2870   {
2871     n = &t->prev_fc.queue_n;
2872   }
2873   if (NULL != n)
2874   {
2875     if (*n >= t->queue_max)
2876     {
2877       GNUNET_break(0);
2878       GNUNET_STATISTICS_update(stats,
2879                                "# messages dropped (buffer full)",
2880                                1, GNUNET_NO);
2881       return; /* Drop message */
2882     }
2883     (*n)++;
2884   }
2885   queue = GNUNET_malloc (sizeof (struct MeshPeerQueue));
2886   queue->cls = cls;
2887   queue->type = type;
2888   queue->size = size;
2889   queue->peer = dst;
2890   queue->tunnel = t;
2891   GNUNET_CONTAINER_DLL_insert_tail (dst->queue_head, dst->queue_tail, queue);
2892   if (NULL == dst->core_transmit)
2893   {
2894     GNUNET_PEER_resolve (dst->id, &id);
2895     dst->core_transmit =
2896         GNUNET_CORE_notify_transmit_ready (core_handle,
2897                                            0,
2898                                            0,
2899                                            GNUNET_TIME_UNIT_FOREVER_REL,
2900                                            &id,
2901                                            size,
2902                                            &queue_send,
2903                                            dst);
2904   }
2905   t->pending_messages++;
2906 }
2907
2908
2909 /******************************************************************************/
2910 /********************      MESH NETWORK HANDLERS     **************************/
2911 /******************************************************************************/
2912
2913
2914 /**
2915  * Core handler for path creation
2916  *
2917  * @param cls closure
2918  * @param message message
2919  * @param peer peer identity this notification is about
2920  *
2921  * @return GNUNET_OK to keep the connection open,
2922  *         GNUNET_SYSERR to close it (signal serious error)
2923  */
2924 static int
2925 handle_mesh_path_create (void *cls, const struct GNUNET_PeerIdentity *peer,
2926                          const struct GNUNET_MessageHeader *message)
2927 {
2928   unsigned int own_pos;
2929   uint16_t size;
2930   uint16_t i;
2931   MESH_TunnelNumber tid;
2932   struct GNUNET_MESH_CreateTunnel *msg;
2933   struct GNUNET_PeerIdentity *pi;
2934   struct MeshPeerPath *path;
2935   struct MeshPeerInfo *dest_peer_info;
2936   struct MeshPeerInfo *orig_peer_info;
2937   struct MeshTunnel *t;
2938
2939   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2940               "Received a path create msg [%s]\n",
2941               GNUNET_i2s (&my_full_id));
2942   size = ntohs (message->size);
2943   if (size < sizeof (struct GNUNET_MESH_CreateTunnel))
2944   {
2945     GNUNET_break_op (0);
2946     return GNUNET_OK;
2947   }
2948
2949   size -= sizeof (struct GNUNET_MESH_CreateTunnel);
2950   if (size % sizeof (struct GNUNET_PeerIdentity))
2951   {
2952     GNUNET_break_op (0);
2953     return GNUNET_OK;
2954   }
2955   size /= sizeof (struct GNUNET_PeerIdentity);
2956   if (size < 1)
2957   {
2958     GNUNET_break_op (0);
2959     return GNUNET_OK;
2960   }
2961   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    path has %u hops.\n", size);
2962   msg = (struct GNUNET_MESH_CreateTunnel *) message;
2963
2964   tid = ntohl (msg->tid);
2965   pi = (struct GNUNET_PeerIdentity *) &msg[1];
2966   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2967               "    path is for tunnel %s[%X].\n", GNUNET_i2s (pi), tid);
2968   t = tunnel_get (pi, tid);
2969   if (NULL == t) /* might be a local tunnel */
2970   {
2971     uint32_t opt;
2972
2973     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Creating tunnel\n");
2974     t = tunnel_new (GNUNET_PEER_intern (pi), tid, NULL, 0);
2975     if (NULL == t)
2976     {
2977       GNUNET_break (0);
2978       return GNUNET_OK;
2979     }
2980     t->port = ntohl (msg->port);
2981     opt = ntohl (msg->opt);
2982     if (0 != (opt & MESH_TUNNEL_OPT_NOBUFFER))
2983     {
2984       t->nobuffer = GNUNET_YES;
2985       t->prev_fc.last_ack_sent = t->prev_fc.last_pid_recv + 1;
2986       t->next_fc.last_ack_sent = t->next_fc.last_pid_recv + 1;
2987       t->queue_max = 1;
2988     }
2989     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  nobuffer:%d\n", t->nobuffer);
2990
2991     tunnel_reset_timeout (t);
2992   }
2993   t->state = MESH_TUNNEL_WAITING;
2994   dest_peer_info =
2995       GNUNET_CONTAINER_multihashmap_get (peers, &pi[size - 1].hashPubKey);
2996   if (NULL == dest_peer_info)
2997   {
2998     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2999                 "  Creating PeerInfo for destination.\n");
3000     dest_peer_info = GNUNET_malloc (sizeof (struct MeshPeerInfo));
3001     dest_peer_info->id = GNUNET_PEER_intern (&pi[size - 1]);
3002     GNUNET_CONTAINER_multihashmap_put (peers, &pi[size - 1].hashPubKey,
3003                                        dest_peer_info,
3004                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY);
3005   }
3006   orig_peer_info = GNUNET_CONTAINER_multihashmap_get (peers, &pi->hashPubKey);
3007   if (NULL == orig_peer_info)
3008   {
3009     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3010                 "  Creating PeerInfo for origin.\n");
3011     orig_peer_info = GNUNET_malloc (sizeof (struct MeshPeerInfo));
3012     orig_peer_info->id = GNUNET_PEER_intern (pi);
3013     GNUNET_CONTAINER_multihashmap_put (peers, &pi->hashPubKey, orig_peer_info,
3014                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY);
3015   }
3016   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Creating path...\n");
3017   path = path_new (size);
3018   own_pos = 0;
3019   for (i = 0; i < size; i++)
3020   {
3021     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ... adding %s\n",
3022                 GNUNET_i2s (&pi[i]));
3023     path->peers[i] = GNUNET_PEER_intern (&pi[i]);
3024     if (path->peers[i] == myid)
3025       own_pos = i;
3026   }
3027   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Own position: %u\n", own_pos);
3028   if (own_pos == 0 && path->peers[own_pos] != myid)
3029   {
3030     /* create path: self not found in path through self */
3031     GNUNET_break_op (0);
3032     path_destroy (path);
3033     tunnel_destroy (t);
3034     return GNUNET_OK;
3035   }
3036   path_add_to_peers (path, GNUNET_NO);
3037   tunnel_use_path (t, path);
3038
3039   if (own_pos == size - 1)
3040   {
3041     struct MeshClient *c;
3042     struct GNUNET_HashCode hc;
3043
3044     /* Find target client */
3045     GMC_hash32 (t->port, &hc);
3046     c = GNUNET_CONTAINER_multihashmap_get (ports, &hc);
3047     if (NULL == c)
3048     {
3049       /* TODO send reject */
3050       return GNUNET_OK;
3051     }
3052
3053     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  It's for us!\n");
3054     peer_info_add_path_to_origin (orig_peer_info, path, GNUNET_YES);
3055     t->dest = myid;
3056
3057     /* Assign local tid */
3058     while (NULL != tunnel_get_incoming (next_local_tid))
3059       next_local_tid = (next_local_tid + 1) | GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
3060     t->local_tid_dest = next_local_tid++;
3061     next_local_tid = next_local_tid | GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
3062
3063     tunnel_add_client (t, c);
3064     send_client_tunnel_create (t);
3065     send_path_ack (t);
3066   }
3067   else
3068   {
3069     struct MeshPeerPath *path2;
3070
3071     t->next_hop = path->peers[own_pos + 1];
3072     GNUNET_PEER_change_rc(t->next_hop, 1);
3073
3074     /* It's for somebody else! Retransmit. */
3075     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Retransmitting.\n");
3076     path2 = path_duplicate (path);
3077     peer_info_add_path (dest_peer_info, path2, GNUNET_NO);
3078     peer_info_add_path_to_origin (orig_peer_info, path, GNUNET_NO);
3079     send_create_path (t);
3080   }
3081   return GNUNET_OK;
3082 }
3083
3084
3085
3086 /**
3087  * Core handler for path ACKs
3088  *
3089  * @param cls closure
3090  * @param message message
3091  * @param peer peer identity this notification is about
3092  *
3093  * @return GNUNET_OK to keep the connection open,
3094  *         GNUNET_SYSERR to close it (signal serious error)
3095  */
3096 static int
3097 handle_mesh_path_ack (void *cls, const struct GNUNET_PeerIdentity *peer,
3098                       const struct GNUNET_MessageHeader *message)
3099 {
3100   struct GNUNET_MESH_PathACK *msg;
3101   struct MeshPeerInfo *peer_info;
3102   struct MeshPeerPath *p;
3103   struct MeshTunnel *t;
3104
3105   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Received a path ACK msg [%s]\n",
3106               GNUNET_i2s (&my_full_id));
3107   msg = (struct GNUNET_MESH_PathACK *) message;
3108   t = tunnel_get (&msg->oid, ntohl(msg->tid));
3109   if (NULL == t)
3110   {
3111     /* TODO notify that we don't know the tunnel */
3112     GNUNET_STATISTICS_update (stats, "# control on unknown tunnel", 1, GNUNET_NO);
3113     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  don't know the tunnel %s [%X]!\n",
3114                 GNUNET_i2s (&msg->oid), ntohl(msg->tid));
3115     return GNUNET_OK;
3116   }
3117   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %s [%X]\n",
3118               GNUNET_i2s (&msg->oid), ntohl(msg->tid));
3119
3120   peer_info = peer_get (&msg->peer_id);
3121   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by peer %s\n",
3122               GNUNET_i2s (&msg->peer_id));
3123   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  via peer %s\n",
3124               GNUNET_i2s (peer));
3125
3126   /* Add path to peers? */
3127   p = t->path;
3128   if (NULL != p)
3129   {
3130     path_add_to_peers (p, GNUNET_YES);
3131   }
3132   else
3133   {
3134     GNUNET_break (0);
3135   }
3136   t->state = MESH_TUNNEL_READY;
3137   t->next_fc.last_ack_recv = ntohl (msg->ack);
3138   t->prev_fc.last_ack_sent = ntohl (msg->ack);
3139
3140   /* Message for us? */
3141   if (0 == memcmp (&msg->oid, &my_full_id, sizeof (struct GNUNET_PeerIdentity)))
3142   {
3143     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  It's for us!\n");
3144     if (NULL == t->owner)
3145     {
3146       GNUNET_break_op (0);
3147       return GNUNET_OK;
3148     }
3149     if (NULL != peer_info->dhtget)
3150     {
3151       GNUNET_DHT_get_stop (peer_info->dhtget);
3152       peer_info->dhtget = NULL;
3153     }
3154     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_PATH_ACK);
3155     return GNUNET_OK;
3156   }
3157
3158   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3159               "  not for us, retransmitting...\n");
3160   peer_info = peer_get (&msg->oid);
3161   send_prebuilt_message (message, t->prev_hop, t);
3162   return GNUNET_OK;
3163 }
3164
3165
3166 /**
3167  * Core handler for notifications of broken paths
3168  *
3169  * @param cls closure
3170  * @param message message
3171  * @param peer peer identity this notification is about
3172  *
3173  * @return GNUNET_OK to keep the connection open,
3174  *         GNUNET_SYSERR to close it (signal serious error)
3175  */
3176 static int
3177 handle_mesh_path_broken (void *cls, const struct GNUNET_PeerIdentity *peer,
3178                          const struct GNUNET_MessageHeader *message)
3179 {
3180   struct GNUNET_MESH_PathBroken *msg;
3181   struct MeshTunnel *t;
3182
3183   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3184               "Received a PATH BROKEN msg from %s\n", GNUNET_i2s (peer));
3185   msg = (struct GNUNET_MESH_PathBroken *) message;
3186   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  regarding %s\n",
3187               GNUNET_i2s (&msg->peer1));
3188   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  regarding %s\n",
3189               GNUNET_i2s (&msg->peer2));
3190   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3191   if (NULL == t)
3192   {
3193     GNUNET_break_op (0);
3194     return GNUNET_OK;
3195   }
3196   tunnel_notify_connection_broken (t, GNUNET_PEER_search (&msg->peer1),
3197                                    GNUNET_PEER_search (&msg->peer2));
3198   return GNUNET_OK;
3199
3200 }
3201
3202
3203 /**
3204  * Core handler for tunnel destruction
3205  *
3206  * @param cls closure
3207  * @param message message
3208  * @param peer peer identity this notification is about
3209  *
3210  * @return GNUNET_OK to keep the connection open,
3211  *         GNUNET_SYSERR to close it (signal serious error)
3212  */
3213 static int
3214 handle_mesh_tunnel_destroy (void *cls, const struct GNUNET_PeerIdentity *peer,
3215                             const struct GNUNET_MessageHeader *message)
3216 {
3217   struct GNUNET_MESH_TunnelDestroy *msg;
3218   struct MeshTunnel *t;
3219
3220   msg = (struct GNUNET_MESH_TunnelDestroy *) message;
3221   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3222               "Got a TUNNEL DESTROY packet from %s\n",
3223               GNUNET_i2s (peer));
3224   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3225               "  for tunnel %s [%u]\n",
3226               GNUNET_i2s (&msg->oid), ntohl (msg->tid));
3227   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3228   if (NULL == t)
3229   {
3230     /* Probably already got the message from another path,
3231      * destroyed the tunnel and retransmitted to children.
3232      * Safe to ignore.
3233      */
3234     GNUNET_STATISTICS_update (stats, "# control on unknown tunnel",
3235                               1, GNUNET_NO);
3236     return GNUNET_OK;
3237   }
3238   // TODO check owner's signature
3239   if (t->local_tid_dest >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
3240   {
3241     /* Tunnel was incoming, notify clients */
3242     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "INCOMING TUNNEL %X %X\n",
3243                 t->local_tid, t->local_tid_dest);
3244     send_client_tunnel_destroy (t);
3245   }
3246   tunnel_send_destroy (t);
3247   t->destroy = GNUNET_YES;
3248   // TODO: add timeout to destroy the tunnel anyway
3249   return GNUNET_OK;
3250 }
3251
3252
3253 /**
3254  * Core handler for mesh network traffic going from the origin to a peer
3255  *
3256  * @param cls closure
3257  * @param peer peer identity this notification is about
3258  * @param message message
3259  * @return GNUNET_OK to keep the connection open,
3260  *         GNUNET_SYSERR to close it (signal serious error)
3261  */
3262 static int
3263 handle_mesh_unicast (void *cls, const struct GNUNET_PeerIdentity *peer,
3264                           const struct GNUNET_MessageHeader *message)
3265 {
3266   struct GNUNET_MESH_Unicast *msg;
3267   struct MeshTunnel *t;
3268   uint32_t pid;
3269   uint32_t ttl;
3270   size_t size;
3271
3272   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a unicast packet from %s\n",
3273               GNUNET_i2s (peer));
3274   /* Check size */
3275   size = ntohs (message->size);
3276   if (size <
3277       sizeof (struct GNUNET_MESH_Unicast) +
3278       sizeof (struct GNUNET_MessageHeader))
3279   {
3280     GNUNET_break (0);
3281     return GNUNET_OK;
3282   }
3283   msg = (struct GNUNET_MESH_Unicast *) message;
3284   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " of type %s\n",
3285               GNUNET_MESH_DEBUG_M2S (ntohs (msg[1].header.type)));
3286   /* Check tunnel */
3287   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3288   if (NULL == t)
3289   {
3290     /* TODO notify back: we don't know this tunnel */
3291     GNUNET_STATISTICS_update (stats, "# data on unknown tunnel", 1, GNUNET_NO);
3292     GNUNET_break_op (0);
3293     return GNUNET_OK;
3294   }
3295   pid = ntohl (msg->pid);
3296   if (t->prev_fc.last_pid_recv == pid)
3297   {
3298     GNUNET_STATISTICS_update (stats, "# duplicate PID drops", 1, GNUNET_NO);
3299     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
3300                 " Already seen pid %u, DROPPING!\n", pid);
3301     return GNUNET_OK;
3302   }
3303   else
3304   {
3305     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3306                 " pid %u not seen yet, forwarding\n", pid);
3307   }
3308
3309   if (GMC_is_pid_bigger (pid, t->prev_fc.last_ack_sent))
3310   {
3311     GNUNET_STATISTICS_update (stats, "# unsolicited unicast", 1, GNUNET_NO);
3312     GNUNET_break_op (0);
3313     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3314                 "Received PID %u, ACK %u\n",
3315                 pid, t->prev_fc.last_ack_sent);
3316     tunnel_send_fwd_ack(t, GNUNET_MESSAGE_TYPE_MESH_POLL);
3317     return GNUNET_OK;
3318   }
3319   t->prev_fc.last_pid_recv = pid;
3320
3321   tunnel_reset_timeout (t);
3322   if (t->dest == myid)
3323   {
3324     if (NULL == t->client)
3325     {
3326       GNUNET_break (0);
3327       return GNUNET_OK;
3328     }
3329     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3330                 "  it's for us! sending to clients...\n");
3331     GNUNET_STATISTICS_update (stats, "# unicast received", 1, GNUNET_NO);
3332     GNUNET_SERVER_notification_context_unicast (nc, t->client->handle,
3333                                                 message, GNUNET_NO);
3334     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_UNICAST);
3335     return GNUNET_OK;
3336   }
3337   if (0 == t->next_hop)
3338   {
3339     GNUNET_break (0);
3340     return GNUNET_OK;
3341   }
3342   ttl = ntohl (msg->ttl);
3343   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   ttl: %u\n", ttl);
3344   if (ttl == 0)
3345   {
3346     GNUNET_STATISTICS_update (stats, "# TTL drops", 1, GNUNET_NO);
3347     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, " TTL is 0, DROPPING!\n");
3348     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
3349     return GNUNET_OK;
3350   }
3351   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3352               "  not for us, retransmitting...\n");
3353
3354   send_prebuilt_message (message, t->next_hop, t);
3355   GNUNET_STATISTICS_update (stats, "# unicast forwarded", 1, GNUNET_NO);
3356   return GNUNET_OK;
3357 }
3358
3359
3360 /**
3361  * Core handler for mesh network traffic toward the owner of a tunnel
3362  *
3363  * @param cls closure
3364  * @param message message
3365  * @param peer peer identity this notification is about
3366  *
3367  * @return GNUNET_OK to keep the connection open,
3368  *         GNUNET_SYSERR to close it (signal serious error)
3369  */
3370 static int
3371 handle_mesh_to_orig (void *cls, const struct GNUNET_PeerIdentity *peer,
3372                           const struct GNUNET_MessageHeader *message)
3373 {
3374   struct GNUNET_MESH_ToOrigin *msg;
3375   struct MeshTunnel *t;
3376   size_t size;
3377   uint32_t pid;
3378
3379   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a ToOrigin packet from %s\n",
3380               GNUNET_i2s (peer));
3381   size = ntohs (message->size);
3382   if (size < sizeof (struct GNUNET_MESH_ToOrigin) +     /* Payload must be */
3383       sizeof (struct GNUNET_MessageHeader))     /* at least a header */
3384   {
3385     GNUNET_break_op (0);
3386     return GNUNET_OK;
3387   }
3388   msg = (struct GNUNET_MESH_ToOrigin *) message;
3389   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " of type %s\n",
3390               GNUNET_MESH_DEBUG_M2S (ntohs (msg[1].header.type)));
3391   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3392   pid = ntohl (msg->pid);
3393
3394   if (NULL == t)
3395   {
3396     /* TODO notify that we dont know this tunnel (whom)? */
3397     GNUNET_STATISTICS_update (stats, "# data on unknown tunnel", 1, GNUNET_NO);
3398     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3399                 "Received to_origin with PID %u on unknown tunnel %s [%u]\n",
3400                 pid, GNUNET_i2s (&msg->oid), ntohl (msg->tid));
3401     return GNUNET_OK;
3402   }
3403
3404   if (t->next_fc.last_pid_recv == pid)
3405   {
3406     /* already seen this packet, drop */
3407     GNUNET_STATISTICS_update (stats, "# duplicate PID drops BCK", 1, GNUNET_NO);
3408     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3409                 " Already seen pid %u, DROPPING!\n", pid);
3410     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
3411     return GNUNET_OK;
3412   }
3413
3414   if (GMC_is_pid_bigger (pid, t->next_fc.last_ack_sent))
3415   {
3416     GNUNET_STATISTICS_update (stats, "# unsolicited to_orig", 1, GNUNET_NO);
3417     GNUNET_break_op (0);
3418     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3419                 "Received PID %u, ACK %u\n",
3420                 pid, t->next_fc.last_ack_sent);
3421     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_POLL);
3422     return GNUNET_OK;
3423   }
3424   t->next_fc.last_pid_recv = pid;
3425   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3426               " pid %u not seen yet, forwarding\n", pid);
3427
3428   if (NULL != t->owner)
3429   {
3430     char cbuf[size];
3431     struct GNUNET_MESH_ToOrigin *copy;
3432
3433     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3434                 "  it's for us! sending to clients...\n");
3435     /* TODO signature verification */
3436     memcpy (cbuf, message, size);
3437     copy = (struct GNUNET_MESH_ToOrigin *) cbuf;
3438     copy->tid = htonl (t->local_tid);
3439     GNUNET_STATISTICS_update (stats, "# to origin received", 1, GNUNET_NO);
3440     GNUNET_SERVER_notification_context_unicast (nc, t->owner->handle,
3441                                                 &copy->header, GNUNET_NO);
3442     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN);
3443     return GNUNET_OK;
3444   }
3445   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3446               "  not for us, retransmitting...\n");
3447
3448   if (0 == t->prev_hop) /* No owner AND no prev hop */
3449   {
3450     if (GNUNET_YES == t->destroy)
3451     {
3452       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3453                   "to orig received on a dying tunnel %s [%X]\n",
3454                   GNUNET_i2s (&msg->oid), ntohl(msg->tid));
3455       return GNUNET_OK;
3456     }
3457     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, 
3458                 "unknown to origin at %s\n",
3459                 GNUNET_i2s (&my_full_id));
3460     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, 
3461                 "from peer %s\n",
3462                 GNUNET_i2s (peer));
3463     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, 
3464                 "on tunnel %s [%X]\n",
3465                 GNUNET_i2s (&msg->oid), ntohl(msg->tid));
3466     return GNUNET_OK;
3467   }
3468   send_prebuilt_message (message, t->prev_hop, t);
3469   GNUNET_STATISTICS_update (stats, "# to origin forwarded", 1, GNUNET_NO);
3470
3471   return GNUNET_OK;
3472 }
3473
3474
3475 /**
3476  * Core handler for mesh network traffic point-to-point acks.
3477  *
3478  * @param cls closure
3479  * @param message message
3480  * @param peer peer identity this notification is about
3481  *
3482  * @return GNUNET_OK to keep the connection open,
3483  *         GNUNET_SYSERR to close it (signal serious error)
3484  */
3485 static int
3486 handle_mesh_ack (void *cls, const struct GNUNET_PeerIdentity *peer,
3487                  const struct GNUNET_MessageHeader *message)
3488 {
3489   struct GNUNET_MESH_ACK *msg;
3490   struct MeshTunnel *t;
3491   GNUNET_PEER_Id id;
3492   uint32_t ack;
3493
3494   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got an ACK packet from %s!\n",
3495               GNUNET_i2s (peer));
3496   msg = (struct GNUNET_MESH_ACK *) message;
3497
3498   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3499
3500   if (NULL == t)
3501   {
3502     /* TODO notify that we dont know this tunnel (whom)? */
3503     GNUNET_STATISTICS_update (stats, "# ack on unknown tunnel", 1, GNUNET_NO);
3504     return GNUNET_OK;
3505   }
3506   ack = ntohl (msg->pid);
3507   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ACK %u\n", ack);
3508
3509   /* Is this a forward or backward ACK? */
3510   id = GNUNET_PEER_search (peer);
3511   if (t->next_hop == id)
3512   {
3513     debug_fwd_ack++;
3514     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  FWD ACK\n");
3515     if (GNUNET_SCHEDULER_NO_TASK != t->next_fc.poll_task &&
3516         GMC_is_pid_bigger (ack, t->next_fc.last_ack_recv))
3517     {
3518       GNUNET_SCHEDULER_cancel (t->next_fc.poll_task);
3519       t->next_fc.poll_task = GNUNET_SCHEDULER_NO_TASK;
3520       t->next_fc.poll_time = GNUNET_TIME_UNIT_SECONDS;
3521     }
3522     t->next_fc.last_ack_recv = ack;
3523     peer_unlock_queue (t->next_hop);
3524     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
3525   }
3526   else if (t->prev_hop == id)
3527   {
3528     debug_bck_ack++;
3529     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  BCK ACK\n");
3530     if (GNUNET_SCHEDULER_NO_TASK != t->prev_fc.poll_task &&
3531         GMC_is_pid_bigger (ack, t->prev_fc.last_ack_recv))
3532     {
3533       GNUNET_SCHEDULER_cancel (t->prev_fc.poll_task);
3534       t->prev_fc.poll_task = GNUNET_SCHEDULER_NO_TASK;
3535       t->prev_fc.poll_time = GNUNET_TIME_UNIT_SECONDS;
3536     }
3537     t->prev_fc.last_ack_recv = ack;
3538     peer_unlock_queue (t->prev_hop);
3539     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
3540   }
3541   else
3542     GNUNET_break_op (0);
3543   return GNUNET_OK;
3544 }
3545
3546
3547 /**
3548  * Core handler for mesh network traffic point-to-point ack polls.
3549  *
3550  * @param cls closure
3551  * @param message message
3552  * @param peer peer identity this notification is about
3553  *
3554  * @return GNUNET_OK to keep the connection open,
3555  *         GNUNET_SYSERR to close it (signal serious error)
3556  */
3557 static int
3558 handle_mesh_poll (void *cls, const struct GNUNET_PeerIdentity *peer,
3559                   const struct GNUNET_MessageHeader *message)
3560 {
3561   struct GNUNET_MESH_Poll *msg;
3562   struct MeshTunnel *t;
3563   GNUNET_PEER_Id id;
3564
3565   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got an POLL packet from %s!\n",
3566               GNUNET_i2s (peer));
3567
3568   msg = (struct GNUNET_MESH_Poll *) message;
3569
3570   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3571
3572   if (NULL == t)
3573   {
3574     /* TODO notify that we dont know this tunnel (whom)? */
3575     GNUNET_STATISTICS_update (stats, "# poll on unknown tunnel", 1, GNUNET_NO);
3576     GNUNET_break_op (0);
3577     return GNUNET_OK;
3578   }
3579
3580   /* Is this a forward or backward ACK? */
3581   id = GNUNET_PEER_search(peer);
3582   if (t->next_hop == id)
3583   {
3584     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  from FWD\n");
3585     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_POLL);
3586   }
3587   else if (t->prev_hop == id)
3588   {
3589     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  from BCK\n");
3590     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_POLL);
3591   }
3592   else
3593     GNUNET_break (0);
3594
3595   return GNUNET_OK;
3596 }
3597
3598
3599 /**
3600  * Core handler for mesh keepalives.
3601  *
3602  * @param cls closure
3603  * @param message message
3604  * @param peer peer identity this notification is about
3605  * @return GNUNET_OK to keep the connection open,
3606  *         GNUNET_SYSERR to close it (signal serious error)
3607  *
3608  * TODO: Check who we got this from, to validate route.
3609  */
3610 static int
3611 handle_mesh_keepalive (void *cls, const struct GNUNET_PeerIdentity *peer,
3612                        const struct GNUNET_MessageHeader *message)
3613 {
3614   struct GNUNET_MESH_TunnelKeepAlive *msg;
3615   struct MeshTunnel *t;
3616
3617   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a keepalive packet from %s\n",
3618               GNUNET_i2s (peer));
3619
3620   msg = (struct GNUNET_MESH_TunnelKeepAlive *) message;
3621   t = tunnel_get (&msg->oid, ntohl (msg->tid));
3622
3623   if (NULL == t)
3624   {
3625     /* TODO notify that we dont know that tunnel */
3626     GNUNET_STATISTICS_update (stats, "# keepalive on unknown tunnel", 1,
3627                               GNUNET_NO);
3628     return GNUNET_OK;
3629   }
3630
3631   tunnel_reset_timeout (t);
3632
3633   GNUNET_STATISTICS_update (stats, "# keepalives forwarded", 1, GNUNET_NO);
3634   send_prebuilt_message (message, t->next_hop, t);
3635   return GNUNET_OK;
3636   }
3637
3638
3639
3640 /**
3641  * Functions to handle messages from core
3642  */
3643 static struct GNUNET_CORE_MessageHandler core_handlers[] = {
3644   {&handle_mesh_path_create, GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE, 0},
3645   {&handle_mesh_path_broken, GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN,
3646    sizeof (struct GNUNET_MESH_PathBroken)},
3647   {&handle_mesh_tunnel_destroy, GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY,
3648    sizeof (struct GNUNET_MESH_TunnelDestroy)},
3649   {&handle_mesh_unicast, GNUNET_MESSAGE_TYPE_MESH_UNICAST, 0},
3650   {&handle_mesh_keepalive, GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE,
3651     sizeof (struct GNUNET_MESH_TunnelKeepAlive)},
3652   {&handle_mesh_to_orig, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN, 0},
3653   {&handle_mesh_ack, GNUNET_MESSAGE_TYPE_MESH_ACK,
3654     sizeof (struct GNUNET_MESH_ACK)},
3655   {&handle_mesh_poll, GNUNET_MESSAGE_TYPE_MESH_POLL,
3656     sizeof (struct GNUNET_MESH_Poll)},
3657   {&handle_mesh_path_ack, GNUNET_MESSAGE_TYPE_MESH_PATH_ACK,
3658    sizeof (struct GNUNET_MESH_PathACK)},
3659   {NULL, 0, 0}
3660 };
3661
3662
3663
3664 /******************************************************************************/
3665 /****************       MESH LOCAL HANDLER HELPERS      ***********************/
3666 /******************************************************************************/
3667
3668
3669 #if LATER
3670 /**
3671  * notify_client_connection_failure: notify a client that the connection to the
3672  * requested remote peer is not possible (for instance, no route found)
3673  * Function called when the socket is ready to queue more data. "buf" will be
3674  * NULL and "size" zero if the socket was closed for writing in the meantime.
3675  *
3676  * @param cls closure
3677  * @param size number of bytes available in buf
3678  * @param buf where the callee should write the message
3679  * @return number of bytes written to buf
3680  */
3681 static size_t
3682 notify_client_connection_failure (void *cls, size_t size, void *buf)
3683 {
3684   int size_needed;
3685   struct MeshPeerInfo *peer_info;
3686   struct GNUNET_MESH_PeerControl *msg;
3687   struct GNUNET_PeerIdentity id;
3688
3689   if (0 == size && NULL == buf)
3690   {
3691     // TODO retry? cancel?
3692     return 0;
3693   }
3694
3695   size_needed = sizeof (struct GNUNET_MESH_PeerControl);
3696   peer_info = (struct MeshPeerInfo *) cls;
3697   msg = (struct GNUNET_MESH_PeerControl *) buf;
3698   msg->header.size = htons (sizeof (struct GNUNET_MESH_PeerControl));
3699   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_PEER_DISCONNECTED);
3700 //     msg->tunnel_id = htonl(peer_info->t->tid);
3701   GNUNET_PEER_resolve (peer_info->id, &id);
3702   memcpy (&msg->peer, &id, sizeof (struct GNUNET_PeerIdentity));
3703
3704   return size_needed;
3705 }
3706 #endif
3707
3708
3709 /**
3710  * Send keepalive packets for a tunnel.
3711  *
3712  * @param cls Closure (tunnel for which to send the keepalive).
3713  * @param tc Notification context.
3714  */
3715 static void
3716 path_refresh (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
3717 {
3718   struct MeshTunnel *t = cls;
3719   struct GNUNET_MESH_TunnelKeepAlive *msg;
3720   size_t size = sizeof (struct GNUNET_MESH_TunnelKeepAlive);
3721   char cbuf[size];
3722
3723   t->maintenance_task = GNUNET_SCHEDULER_NO_TASK;
3724   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN) ||
3725       NULL == t->owner || 0 == t->local_tid || 0 != t->prev_hop)
3726   {
3727     return;
3728   }
3729
3730   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3731               "sending keepalive for tunnel %d\n", t->id.tid);
3732
3733   msg = (struct GNUNET_MESH_TunnelKeepAlive *) cbuf;
3734   msg->header.size = htons (size);
3735   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE);
3736   msg->oid = my_full_id;
3737   msg->tid = htonl (t->id.tid);
3738   send_prebuilt_message (&msg->header, t->next_hop, t);
3739
3740   t->maintenance_task =
3741       GNUNET_SCHEDULER_add_delayed (refresh_path_time, &path_refresh, t);
3742 }
3743
3744
3745 /**
3746  * Function to process paths received for a new peer addition. The recorded
3747  * paths form the initial tunnel, which can be optimized later.
3748  * Called on each result obtained for the DHT search.
3749  *
3750  * @param cls closure
3751  * @param exp when will this value expire
3752  * @param key key of the result
3753  * @param get_path path of the get request
3754  * @param get_path_length lenght of get_path
3755  * @param put_path path of the put request
3756  * @param put_path_length length of the put_path
3757  * @param type type of the result
3758  * @param size number of bytes in data
3759  * @param data pointer to the result data
3760  */
3761 static void
3762 dht_get_id_handler (void *cls, struct GNUNET_TIME_Absolute exp,
3763                     const struct GNUNET_HashCode * key,
3764                     const struct GNUNET_PeerIdentity *get_path,
3765                     unsigned int get_path_length,
3766                     const struct GNUNET_PeerIdentity *put_path,
3767                     unsigned int put_path_length, enum GNUNET_BLOCK_Type type,
3768                     size_t size, const void *data)
3769 {
3770   struct MeshPeerInfo *peer = cls;
3771   struct MeshPeerPath *p;
3772   struct GNUNET_PeerIdentity pi;
3773   int i;
3774
3775   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got results from DHT!\n");
3776   GNUNET_PEER_resolve (peer->id, &pi);
3777   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  for %s\n", GNUNET_i2s (&pi));
3778
3779   p = path_build_from_dht (get_path, get_path_length,
3780                            put_path, put_path_length);
3781   path_add_to_peers (p, GNUNET_NO);
3782   path_destroy (p);
3783   for (i = 0; i < peer->ntunnels; i++)
3784   {
3785     if (peer->tunnels[i]->state == MESH_TUNNEL_SEARCHING)
3786       peer_connect (peer, peer->tunnels[i]);
3787   }
3788
3789   return;
3790 }
3791
3792
3793 /******************************************************************************/
3794 /*********************       MESH LOCAL HANDLES      **************************/
3795 /******************************************************************************/
3796
3797
3798 /**
3799  * Handler for client disconnection
3800  *
3801  * @param cls closure
3802  * @param client identification of the client; NULL
3803  *        for the last call when the server is destroyed
3804  */
3805 static void
3806 handle_local_client_disconnect (void *cls, struct GNUNET_SERVER_Client *client)
3807 {
3808   struct MeshClient *c;
3809   struct MeshClient *next;
3810
3811   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "client disconnected\n");
3812   if (client == NULL)
3813   {
3814     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (SERVER DOWN)\n");
3815     return;
3816   }
3817
3818   c = clients_head;
3819   while (NULL != c)
3820   {
3821     if (c->handle != client)
3822     {
3823       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   ... searching\n");
3824       c = c->next;
3825       continue;
3826     }
3827     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "matching client found (%u)\n",
3828                 c->id);
3829     GNUNET_SERVER_client_drop (c->handle);
3830     c->shutting_down = GNUNET_YES;
3831     GNUNET_CONTAINER_multihashmap_iterate (c->own_tunnels,
3832                                            &tunnel_destroy_iterator, c);
3833     GNUNET_CONTAINER_multihashmap_iterate (c->incoming_tunnels,
3834                                            &tunnel_destroy_iterator, c);
3835     GNUNET_CONTAINER_multihashmap_destroy (c->own_tunnels);
3836     GNUNET_CONTAINER_multihashmap_destroy (c->incoming_tunnels);
3837
3838     if (NULL != c->ports)
3839       GNUNET_CONTAINER_multihashmap_destroy (c->ports);
3840     next = c->next;
3841     GNUNET_CONTAINER_DLL_remove (clients_head, clients_tail, c);
3842     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  CLIENT FREE at %p\n", c);
3843     GNUNET_free (c);
3844     GNUNET_STATISTICS_update (stats, "# clients", -1, GNUNET_NO);
3845     c = next;
3846   }
3847   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "done!\n");
3848   return;
3849 }
3850
3851
3852 /**
3853  * Handler for new clients
3854  *
3855  * @param cls closure
3856  * @param client identification of the client
3857  * @param message the actual message, which includes messages the client wants
3858  */
3859 static void
3860 handle_local_new_client (void *cls, struct GNUNET_SERVER_Client *client,
3861                          const struct GNUNET_MessageHeader *message)
3862 {
3863   struct GNUNET_MESH_ClientConnect *cc_msg;
3864   struct MeshClient *c;
3865   unsigned int size;
3866   uint32_t *p;
3867   unsigned int i;
3868
3869   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new client connected\n");
3870
3871   /* Check data sanity */
3872   size = ntohs (message->size) - sizeof (struct GNUNET_MESH_ClientConnect);
3873   cc_msg = (struct GNUNET_MESH_ClientConnect *) message;
3874   if (0 != (size % sizeof (uint32_t)))
3875   {
3876     GNUNET_break (0);
3877     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
3878     return;
3879   }
3880   size /= sizeof (uint32_t);
3881
3882   /* Create new client structure */
3883   c = GNUNET_malloc (sizeof (struct MeshClient));
3884   c->id = next_client_id++; /* overflow not important: just for debug */
3885   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  client id %u\n", c->id);
3886   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  client has %u ports\n", size);
3887   c->handle = client;
3888   GNUNET_SERVER_client_keep (client);
3889   if (size > 0)
3890   {
3891     uint32_t u32;
3892     struct GNUNET_HashCode hc;
3893
3894     p = (uint32_t *) &cc_msg[1];
3895     c->ports = GNUNET_CONTAINER_multihashmap_create (size, GNUNET_NO);
3896     for (i = 0; i < size; i++)
3897     {
3898       u32 = ntohl (p[i]);
3899       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    port: %u\n", u32);
3900       GMC_hash32 (u32, &hc);
3901
3902       /* store in client's hashmap */
3903       GNUNET_CONTAINER_multihashmap_put (c->ports, &hc, c,
3904                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
3905       /* store in global hashmap */
3906       /* FIXME only allow one client to have the port open,
3907        *       have a backup hashmap with waiting clients */
3908       GNUNET_CONTAINER_multihashmap_put (ports, &hc, c,
3909                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
3910     }
3911   }
3912
3913   GNUNET_CONTAINER_DLL_insert (clients_head, clients_tail, c);
3914   c->own_tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
3915   c->incoming_tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
3916   GNUNET_SERVER_notification_context_add (nc, client);
3917   GNUNET_STATISTICS_update (stats, "# clients", 1, GNUNET_NO);
3918
3919   GNUNET_SERVER_receive_done (client, GNUNET_OK);
3920   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new client processed\n");
3921 }
3922
3923
3924 /**
3925  * Handler for requests of new tunnels
3926  *
3927  * @param cls Closure.
3928  * @param client Identification of the client.
3929  * @param message The actual message.
3930  */
3931 static void
3932 handle_local_tunnel_create (void *cls, struct GNUNET_SERVER_Client *client,
3933                             const struct GNUNET_MessageHeader *message)
3934 {
3935   struct GNUNET_MESH_TunnelMessage *t_msg;
3936   struct MeshPeerInfo *peer_info;
3937   struct MeshTunnel *t;
3938   struct MeshClient *c;
3939   MESH_TunnelNumber tid;
3940
3941   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new tunnel requested\n");
3942
3943   /* Sanity check for client registration */
3944   if (NULL == (c = client_get (client)))
3945   {
3946     GNUNET_break (0);
3947     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
3948     return;
3949   }
3950   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
3951
3952   /* Message sanity check */
3953   if (sizeof (struct GNUNET_MESH_TunnelMessage) != ntohs (message->size))
3954   {
3955     GNUNET_break (0);
3956     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
3957     return;
3958   }
3959
3960   t_msg = (struct GNUNET_MESH_TunnelMessage *) message;
3961   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  towards %s\n",
3962               GNUNET_i2s (&t_msg->peer));
3963   /* Sanity check for tunnel numbering */
3964   tid = ntohl (t_msg->tunnel_id);
3965   if (0 == (tid & GNUNET_MESH_LOCAL_TUNNEL_ID_CLI))
3966   {
3967     GNUNET_break (0);
3968     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
3969     return;
3970   }
3971   /* Sanity check for duplicate tunnel IDs */
3972   if (NULL != tunnel_get_by_local_id (c, tid))
3973   {
3974     GNUNET_break (0);
3975     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
3976     return;
3977   }
3978
3979   while (NULL != tunnel_get_by_pi (myid, next_tid))
3980     next_tid = (next_tid + 1) & ~GNUNET_MESH_LOCAL_TUNNEL_ID_CLI;
3981   t = tunnel_new (myid, next_tid, c, tid);
3982   next_tid = (next_tid + 1) & ~GNUNET_MESH_LOCAL_TUNNEL_ID_CLI;
3983   if (NULL == t)
3984   {
3985     GNUNET_break (0);
3986     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
3987     return;
3988   }
3989   t->port = ntohl (t_msg->port);
3990   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "CREATED TUNNEL %s[%x]:%u (%x)\n",
3991               GNUNET_i2s (&my_full_id), t->id.tid, t->port, t->local_tid);
3992
3993   peer_info = peer_get (&t_msg->peer);
3994   GNUNET_array_append (peer_info->tunnels, peer_info->ntunnels, t);
3995   peer_connect (peer_info, t);
3996   GNUNET_SERVER_receive_done (client, GNUNET_OK);
3997   return;
3998 }
3999
4000
4001 /**
4002  * Handler for requests of deleting tunnels
4003  *
4004  * @param cls closure
4005  * @param client identification of the client
4006  * @param message the actual message
4007  */
4008 static void
4009 handle_local_tunnel_destroy (void *cls, struct GNUNET_SERVER_Client *client,
4010                              const struct GNUNET_MessageHeader *message)
4011 {
4012   struct GNUNET_MESH_TunnelMessage *tunnel_msg;
4013   struct MeshClient *c;
4014   struct MeshTunnel *t;
4015   MESH_TunnelNumber tid;
4016
4017   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4018               "Got a DESTROY TUNNEL from client!\n");
4019
4020   /* Sanity check for client registration */
4021   if (NULL == (c = client_get (client)))
4022   {
4023     GNUNET_break (0);
4024     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4025     return;
4026   }
4027   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4028
4029   /* Message sanity check */
4030   if (sizeof (struct GNUNET_MESH_TunnelMessage) != ntohs (message->size))
4031   {
4032     GNUNET_break (0);
4033     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4034     return;
4035   }
4036
4037   tunnel_msg = (struct GNUNET_MESH_TunnelMessage *) message;
4038
4039   /* Retrieve tunnel */
4040   tid = ntohl (tunnel_msg->tunnel_id);
4041   t = tunnel_get_by_local_id(c, tid);
4042   if (NULL == t)
4043   {
4044     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "  tunnel %X not found\n", tid);
4045     GNUNET_break (0);
4046     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4047     return;
4048   }
4049   if (c == t->client)
4050   {
4051     tunnel_destroy_empty (t);
4052     GNUNET_SERVER_receive_done (client, GNUNET_OK);
4053     return;
4054   }
4055   send_client_tunnel_destroy (t);
4056   client_delete_tunnel (c, t);
4057
4058   /* Don't try to ACK the client about the tunnel_destroy multicast packet */
4059   t->owner = NULL;
4060   tunnel_send_destroy (t);
4061   peer_remove_tunnel (peer_get_short(t->dest), t);
4062   t->destroy = GNUNET_YES;
4063   /* The tunnel will be destroyed when the last message is transmitted. */
4064   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4065   return;
4066 }
4067
4068
4069 /**
4070  * Handler for requests of seeting tunnel's buffering policy.
4071  *
4072  * @param cls Closure (unused).
4073  * @param client Identification of the client.
4074  * @param message The actual message.
4075  */
4076 static void
4077 handle_local_tunnel_buffer (void *cls, struct GNUNET_SERVER_Client *client,
4078                             const struct GNUNET_MessageHeader *message)
4079 {
4080   struct GNUNET_MESH_TunnelMessage *tunnel_msg;
4081   struct MeshClient *c;
4082   struct MeshTunnel *t;
4083   MESH_TunnelNumber tid;
4084
4085   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4086               "Got a BUFFER request from client!\n");
4087
4088   /* Sanity check for client registration */
4089   if (NULL == (c = client_get (client)))
4090   {
4091     GNUNET_break (0);
4092     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4093     return;
4094   }
4095   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4096
4097   tunnel_msg = (struct GNUNET_MESH_TunnelMessage *) message;
4098
4099   /* Retrieve tunnel */
4100   tid = ntohl (tunnel_msg->tunnel_id);
4101   t = tunnel_get_by_local_id(c, tid);
4102   if (NULL == t)
4103   {
4104     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "  tunnel %X not found\n", tid);
4105     GNUNET_break (0);
4106     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4107     return;
4108   }
4109
4110   switch (ntohs(message->type))
4111   {
4112       case GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_BUFFER:
4113           t->nobuffer = GNUNET_NO;
4114           break;
4115       case GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_NOBUFFER:
4116           t->nobuffer = GNUNET_YES;
4117           break;
4118       default:
4119           GNUNET_break (0);
4120   }
4121
4122   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4123 }
4124
4125
4126 /**
4127  * Handler for client traffic directed to one peer
4128  *
4129  * @param cls closure
4130  * @param client identification of the client
4131  * @param message the actual message
4132  */
4133 static void
4134 handle_local_unicast (void *cls, struct GNUNET_SERVER_Client *client,
4135                       const struct GNUNET_MessageHeader *message)
4136 {
4137   struct MeshClient *c;
4138   struct MeshTunnel *t;
4139   struct GNUNET_MESH_Unicast *data_msg;
4140   MESH_TunnelNumber tid;
4141   size_t size;
4142
4143   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4144               "Got a unicast request from a client!\n");
4145
4146   /* Sanity check for client registration */
4147   if (NULL == (c = client_get (client)))
4148   {
4149     GNUNET_break (0);
4150     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4151     return;
4152   }
4153   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4154
4155   data_msg = (struct GNUNET_MESH_Unicast *) message;
4156
4157   /* Sanity check for message size */
4158   size = ntohs (message->size);
4159   if (sizeof (struct GNUNET_MESH_Unicast) +
4160       sizeof (struct GNUNET_MessageHeader) > size)
4161   {
4162     GNUNET_break (0);
4163     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4164     return;
4165   }
4166
4167   /* Tunnel exists? */
4168   tid = ntohl (data_msg->tid);
4169   t = tunnel_get_by_local_id (c, tid);
4170   if (NULL == t)
4171   {
4172     GNUNET_break (0);
4173     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4174     return;
4175   }
4176
4177   /*  Is it a local tunnel? Then, does client own the tunnel? */
4178   if (t->owner->handle != client)
4179   {
4180     GNUNET_break (0);
4181     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4182     return;
4183   }
4184
4185   /* PID should be as expected: client<->service communication */
4186   if (ntohl (data_msg->pid) != t->prev_fc.last_pid_recv + 1)
4187   {
4188     GNUNET_break (0);
4189     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4190               "Unicast PID, expected %u, got %u\n",
4191               t->prev_fc.last_pid_recv + 1, ntohl (data_msg->pid));
4192     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4193     return;
4194   }
4195
4196   /* Ok, everything is correct, send the message
4197    * (pretend we got it from a mesh peer)
4198    */
4199   {
4200     /* Work around const limitation */
4201     char buf[ntohs (message->size)] GNUNET_ALIGN;
4202     struct GNUNET_MESH_Unicast *copy;
4203
4204     copy = (struct GNUNET_MESH_Unicast *) buf;
4205     memcpy (buf, data_msg, size);
4206     copy->oid = my_full_id;
4207     copy->tid = htonl (t->id.tid);
4208     copy->ttl = htonl (default_ttl);
4209     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4210                 "  calling generic handler...\n");
4211         handle_mesh_unicast (NULL, &my_full_id, &copy->header);
4212   }
4213   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "receive done OK\n");
4214   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4215
4216   return;
4217 }
4218
4219
4220 /**
4221  * Handler for client traffic directed to the origin
4222  *
4223  * @param cls closure
4224  * @param client identification of the client
4225  * @param message the actual message
4226  */
4227 static void
4228 handle_local_to_origin (void *cls, struct GNUNET_SERVER_Client *client,
4229                         const struct GNUNET_MessageHeader *message)
4230 {
4231   struct GNUNET_MESH_ToOrigin *data_msg;
4232   struct MeshFlowControl *fc;
4233   struct MeshClient *c;
4234   struct MeshTunnel *t;
4235   MESH_TunnelNumber tid;
4236   size_t size;
4237
4238   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4239               "Got a ToOrigin request from a client!\n");
4240   /* Sanity check for client registration */
4241   if (NULL == (c = client_get (client)))
4242   {
4243     GNUNET_break (0);
4244     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4245     return;
4246   }
4247   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4248
4249   data_msg = (struct GNUNET_MESH_ToOrigin *) message;
4250
4251   /* Sanity check for message size */
4252   size = ntohs (message->size);
4253   if (sizeof (struct GNUNET_MESH_ToOrigin) +
4254       sizeof (struct GNUNET_MessageHeader) > size)
4255   {
4256     GNUNET_break (0);
4257     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4258     return;
4259   }
4260
4261   /* Tunnel exists? */
4262   tid = ntohl (data_msg->tid);
4263   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %X\n", tid);
4264   if (tid < GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
4265   {
4266     GNUNET_break (0);
4267     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4268     return;
4269   }
4270   t = tunnel_get_by_local_id (c, tid);
4271   if (NULL == t)
4272   {
4273     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "Tunnel %X unknown.\n", tid);
4274     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "  for client %u.\n", c->id);
4275     GNUNET_break (0);
4276     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4277     return;
4278   }
4279
4280   /*  It should be sent by someone who has this as incoming tunnel. */
4281   if (t->client != c)
4282   {
4283     GNUNET_break (0);
4284     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4285     return;
4286   }
4287
4288   /* PID should be as expected */
4289   fc = &t->next_fc;
4290   if (ntohl (data_msg->pid) != fc->last_pid_recv + 1)
4291   {
4292     GNUNET_break (0);
4293     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4294                 "To Origin PID, expected %u, got %u\n",
4295                 fc->last_pid_recv + 1,
4296                 ntohl (data_msg->pid));
4297     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4298     return;
4299   }
4300
4301   /* Ok, everything is correct, send the message
4302    * (pretend we got it from a mesh peer)
4303    */
4304   {
4305     char buf[ntohs (message->size)] GNUNET_ALIGN;
4306     struct GNUNET_MESH_ToOrigin *copy;
4307
4308     /* Work around 'const' limitation */
4309     memcpy (buf, data_msg, size);
4310     copy = (struct GNUNET_MESH_ToOrigin *) buf;
4311     GNUNET_PEER_resolve (t->id.oid, &copy->oid);
4312     copy->tid = htonl (t->id.tid);
4313     copy->ttl = htonl (default_ttl);
4314
4315     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4316                 "  calling generic handler...\n");
4317         handle_mesh_to_orig (NULL, &my_full_id, &copy->header);
4318   }
4319   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4320
4321   return;
4322 }
4323
4324
4325 /**
4326  * Handler for client's ACKs for payload traffic.
4327  *
4328  * @param cls Closure (unused).
4329  * @param client Identification of the client.
4330  * @param message The actual message.
4331  */
4332 static void
4333 handle_local_ack (void *cls, struct GNUNET_SERVER_Client *client,
4334                   const struct GNUNET_MessageHeader *message)
4335 {
4336   struct GNUNET_MESH_LocalAck *msg;
4337   struct MeshTunnel *t;
4338   struct MeshClient *c;
4339   MESH_TunnelNumber tid;
4340   uint32_t ack;
4341
4342   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got a local ACK\n");
4343   /* Sanity check for client registration */
4344   if (NULL == (c = client_get (client)))
4345   {
4346     GNUNET_break (0);
4347     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4348     return;
4349   }
4350   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4351
4352   msg = (struct GNUNET_MESH_LocalAck *) message;
4353
4354   /* Tunnel exists? */
4355   tid = ntohl (msg->tunnel_id);
4356   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %X\n", tid);
4357   t = tunnel_get_by_local_id (c, tid);
4358   if (NULL == t)
4359   {
4360     GNUNET_break (0);
4361     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "Tunnel %X unknown.\n", tid);
4362     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "  for client %u.\n", c->id);
4363     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4364     return;
4365   }
4366
4367   ack = ntohl (msg->max_pid);
4368   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ack %u\n", ack);
4369
4370   /* Does client own tunnel? I.E: Is this an ACK for BCK traffic? */
4371   if (t->owner == c)
4372   {
4373     /* The client owns the tunnel, ACK is for data to_origin, send BCK ACK. */
4374     t->prev_fc.last_ack_recv = ack;
4375     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK);
4376   }
4377   else
4378   {
4379     /* The client doesn't own the tunnel, this ACK is for FWD traffic. */
4380     t->next_fc.last_ack_recv = ack;
4381     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK);
4382   }
4383
4384   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4385
4386   return;
4387 }
4388
4389
4390
4391 /**
4392  * Iterator over all tunnels to send a monitoring client info about each tunnel.
4393  *
4394  * @param cls Closure (client handle).
4395  * @param key Key (hashed tunnel ID, unused).
4396  * @param value Tunnel info.
4397  *
4398  * @return GNUNET_YES, to keep iterating.
4399  */
4400 static int
4401 monitor_all_tunnels_iterator (void *cls,
4402                               const struct GNUNET_HashCode * key,
4403                               void *value)
4404 {
4405   struct GNUNET_SERVER_Client *client = cls;
4406   struct MeshTunnel *t = value;
4407   struct GNUNET_MESH_LocalMonitor *msg;
4408
4409   msg = GNUNET_malloc (sizeof(struct GNUNET_MESH_LocalMonitor));
4410   GNUNET_PEER_resolve(t->id.oid, &msg->owner);
4411   msg->tunnel_id = htonl (t->id.tid);
4412   msg->header.size = htons (sizeof (struct GNUNET_MESH_LocalMonitor));
4413   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNELS);
4414   GNUNET_PEER_resolve (t->dest, &msg->destination);
4415
4416   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4417               "*  sending info about tunnel %s [%u]\n",
4418               GNUNET_i2s (&msg->owner), t->id.tid);
4419
4420   GNUNET_SERVER_notification_context_unicast (nc, client,
4421                                               &msg->header, GNUNET_NO);
4422   return GNUNET_YES;
4423 }
4424
4425
4426 /**
4427  * Handler for client's MONITOR request.
4428  *
4429  * @param cls Closure (unused).
4430  * @param client Identification of the client.
4431  * @param message The actual message.
4432  */
4433 static void
4434 handle_local_get_tunnels (void *cls, struct GNUNET_SERVER_Client *client,
4435                           const struct GNUNET_MessageHeader *message)
4436 {
4437   struct MeshClient *c;
4438
4439   /* Sanity check for client registration */
4440   if (NULL == (c = client_get (client)))
4441   {
4442     GNUNET_break (0);
4443     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4444     return;
4445   }
4446
4447   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4448               "Received get tunnels request from client %u\n",
4449               c->id);
4450   GNUNET_CONTAINER_multihashmap_iterate (tunnels,
4451                                          monitor_all_tunnels_iterator,
4452                                          client);
4453   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4454               "Get tunnels request from client %u completed\n",
4455               c->id);
4456   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4457 }
4458
4459
4460 /**
4461  * Handler for client's MONITOR_TUNNEL request.
4462  *
4463  * @param cls Closure (unused).
4464  * @param client Identification of the client.
4465  * @param message The actual message.
4466  */
4467 static void
4468 handle_local_show_tunnel (void *cls, struct GNUNET_SERVER_Client *client,
4469                           const struct GNUNET_MessageHeader *message)
4470 {
4471   const struct GNUNET_MESH_LocalMonitor *msg;
4472   struct GNUNET_MESH_LocalMonitor *resp;
4473   struct MeshClient *c;
4474   struct MeshTunnel *t;
4475
4476   /* Sanity check for client registration */
4477   if (NULL == (c = client_get (client)))
4478   {
4479     GNUNET_break (0);
4480     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4481     return;
4482   }
4483
4484   msg = (struct GNUNET_MESH_LocalMonitor *) message;
4485   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4486               "Received tunnel info request from client %u for tunnel %s[%X]\n",
4487               c->id,
4488               &msg->owner,
4489               ntohl (msg->tunnel_id));
4490   t = tunnel_get (&msg->owner, ntohl (msg->tunnel_id));
4491   if (NULL == t)
4492   {
4493     /* We don't know the tunnel FIXME */
4494     struct GNUNET_MESH_LocalMonitor warn;
4495
4496     warn = *msg;
4497     GNUNET_SERVER_notification_context_unicast (nc, client,
4498                                                 &warn.header,
4499                                                 GNUNET_NO);
4500     GNUNET_SERVER_receive_done (client, GNUNET_OK);
4501     return;
4502   }
4503
4504   /* Initialize context */
4505   resp = GNUNET_malloc (sizeof (struct GNUNET_MESH_LocalMonitor));
4506   *resp = *msg;
4507   GNUNET_PEER_resolve (t->dest, &resp->destination);
4508   resp->header.size = htons (sizeof (struct GNUNET_MESH_LocalMonitor));
4509   GNUNET_SERVER_notification_context_unicast (nc, c->handle,
4510                                               &resp->header, GNUNET_NO);
4511   GNUNET_free (resp);
4512
4513   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4514               "Monitor tunnel request from client %u completed\n",
4515               c->id);
4516   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4517 }
4518
4519
4520 /**
4521  * Functions to handle messages from clients
4522  */
4523 static struct GNUNET_SERVER_MessageHandler client_handlers[] = {
4524   {&handle_local_new_client, NULL,
4525    GNUNET_MESSAGE_TYPE_MESH_LOCAL_CONNECT, 0},
4526   {&handle_local_tunnel_create, NULL,
4527    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_CREATE,
4528    sizeof (struct GNUNET_MESH_TunnelMessage)},
4529   {&handle_local_tunnel_destroy, NULL,
4530    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_DESTROY,
4531    sizeof (struct GNUNET_MESH_TunnelMessage)},
4532   {&handle_local_tunnel_buffer, NULL,
4533    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_BUFFER,
4534    sizeof (struct GNUNET_MESH_TunnelMessage)},
4535   {&handle_local_tunnel_buffer, NULL,
4536    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_NOBUFFER,
4537    sizeof (struct GNUNET_MESH_TunnelMessage)},
4538   {&handle_local_unicast, NULL,
4539    GNUNET_MESSAGE_TYPE_MESH_UNICAST, 0},
4540   {&handle_local_to_origin, NULL,
4541    GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN, 0},
4542   {&handle_local_ack, NULL,
4543    GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK,
4544    sizeof (struct GNUNET_MESH_LocalAck)},
4545   {&handle_local_get_tunnels, NULL,
4546    GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNELS,
4547    sizeof (struct GNUNET_MessageHeader)},
4548   {&handle_local_show_tunnel, NULL,
4549    GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNEL,
4550      sizeof (struct GNUNET_MESH_LocalMonitor)},
4551   {NULL, NULL, 0, 0}
4552 };
4553
4554
4555 /**
4556  * Method called whenever a given peer connects.
4557  *
4558  * @param cls closure
4559  * @param peer peer identity this notification is about
4560  */
4561 static void
4562 core_connect (void *cls, const struct GNUNET_PeerIdentity *peer)
4563 {
4564   struct MeshPeerInfo *peer_info;
4565   struct MeshPeerPath *path;
4566
4567   DEBUG_CONN ("Peer connected\n");
4568   DEBUG_CONN ("     %s\n", GNUNET_i2s (&my_full_id));
4569   peer_info = peer_get (peer);
4570   if (myid == peer_info->id)
4571   {
4572     DEBUG_CONN ("     (self)\n");
4573     return;
4574   }
4575   else
4576   {
4577     DEBUG_CONN ("     %s\n", GNUNET_i2s (peer));
4578   }
4579   path = path_new (2);
4580   path->peers[0] = myid;
4581   path->peers[1] = peer_info->id;
4582   GNUNET_PEER_change_rc (myid, 1);
4583   GNUNET_PEER_change_rc (peer_info->id, 1);
4584   peer_info_add_path (peer_info, path, GNUNET_YES);
4585   GNUNET_STATISTICS_update (stats, "# peers", 1, GNUNET_NO);
4586   return;
4587 }
4588
4589
4590 /**
4591  * Method called whenever a peer disconnects.
4592  *
4593  * @param cls closure
4594  * @param peer peer identity this notification is about
4595  */
4596 static void
4597 core_disconnect (void *cls, const struct GNUNET_PeerIdentity *peer)
4598 {
4599   struct MeshPeerInfo *pi;
4600   struct MeshPeerQueue *q;
4601   struct MeshPeerQueue *n;
4602
4603   DEBUG_CONN ("Peer disconnected\n");
4604   pi = GNUNET_CONTAINER_multihashmap_get (peers, &peer->hashPubKey);
4605   if (NULL == pi)
4606   {
4607     GNUNET_break (0);
4608     return;
4609   }
4610   q = pi->queue_head;
4611   while (NULL != q)
4612   {
4613       n = q->next;
4614       /* TODO try to reroute this traffic instead */
4615       queue_destroy(q, GNUNET_YES);
4616       q = n;
4617   }
4618   if (NULL != pi->core_transmit)
4619   {
4620     GNUNET_CORE_notify_transmit_ready_cancel(pi->core_transmit);
4621     pi->core_transmit = NULL;
4622   }
4623     peer_remove_path (pi, pi->id, myid);
4624   if (myid == pi->id)
4625   {
4626     DEBUG_CONN ("     (self)\n");
4627   }
4628   GNUNET_STATISTICS_update (stats, "# peers", -1, GNUNET_NO);
4629   return;
4630 }
4631
4632
4633 /**
4634  * Install server (service) handlers and start listening to clients.
4635  */
4636 static void
4637 server_init (void)
4638 {
4639   GNUNET_SERVER_add_handlers (server_handle, client_handlers);
4640   GNUNET_SERVER_disconnect_notify (server_handle,
4641                                    &handle_local_client_disconnect, NULL);
4642   nc = GNUNET_SERVER_notification_context_create (server_handle, 1);
4643
4644   clients_head = NULL;
4645   clients_tail = NULL;
4646   next_client_id = 0;
4647   GNUNET_SERVER_resume (server_handle);
4648 }
4649
4650
4651 /**
4652  * To be called on core init/fail.
4653  *
4654  * @param cls Closure (config)
4655  * @param server handle to the server for this service
4656  * @param identity the public identity of this peer
4657  */
4658 static void
4659 core_init (void *cls, struct GNUNET_CORE_Handle *server,
4660            const struct GNUNET_PeerIdentity *identity)
4661 {
4662   const struct GNUNET_CONFIGURATION_Handle *c = cls;
4663   static int i = 0;
4664
4665   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Core init\n");
4666   GNUNET_break (core_handle == server);
4667   if (0 != memcmp (identity, &my_full_id, sizeof (my_full_id)) ||
4668     NULL == server)
4669   {
4670     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, _("Wrong CORE service\n"));
4671     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4672                 " core id %s\n",
4673                 GNUNET_i2s (identity));
4674     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4675                 " my id %s\n",
4676                 GNUNET_i2s (&my_full_id));
4677     GNUNET_CORE_disconnect (core_handle);
4678     core_handle = GNUNET_CORE_connect (c, /* Main configuration */
4679                                        NULL,      /* Closure passed to MESH functions */
4680                                        &core_init,        /* Call core_init once connected */
4681                                        &core_connect,     /* Handle connects */
4682                                        &core_disconnect,  /* remove peers on disconnects */
4683                                        NULL,      /* Don't notify about all incoming messages */
4684                                        GNUNET_NO, /* For header only in notification */
4685                                        NULL,      /* Don't notify about all outbound messages */
4686                                        GNUNET_NO, /* For header-only out notification */
4687                                        core_handlers);    /* Register these handlers */
4688     if (10 < i++)
4689       GNUNET_abort();
4690   }
4691   server_init ();
4692   return;
4693 }
4694
4695
4696 /******************************************************************************/
4697 /************************      MAIN FUNCTIONS      ****************************/
4698 /******************************************************************************/
4699
4700 /**
4701  * Iterator over tunnel hash map entries to destroy the tunnel during shutdown.
4702  *
4703  * @param cls closure
4704  * @param key current key code
4705  * @param value value in the hash map
4706  * @return GNUNET_YES if we should continue to iterate,
4707  *         GNUNET_NO if not.
4708  */
4709 static int
4710 shutdown_tunnel (void *cls, const struct GNUNET_HashCode * key, void *value)
4711 {
4712   struct MeshTunnel *t = value;
4713
4714   tunnel_destroy (t);
4715   return GNUNET_YES;
4716 }
4717
4718 /**
4719  * Iterator over peer hash map entries to destroy the tunnel during shutdown.
4720  *
4721  * @param cls closure
4722  * @param key current key code
4723  * @param value value in the hash map
4724  * @return GNUNET_YES if we should continue to iterate,
4725  *         GNUNET_NO if not.
4726  */
4727 static int
4728 shutdown_peer (void *cls, const struct GNUNET_HashCode * key, void *value)
4729 {
4730   struct MeshPeerInfo *p = value;
4731   struct MeshPeerQueue *q;
4732   struct MeshPeerQueue *n;
4733
4734   q = p->queue_head;
4735   while (NULL != q)
4736   {
4737       n = q->next;
4738       if (q->peer == p)
4739       {
4740         queue_destroy(q, GNUNET_YES);
4741       }
4742       q = n;
4743   }
4744   peer_info_destroy (p);
4745   return GNUNET_YES;
4746 }
4747
4748
4749 /**
4750  * Task run during shutdown.
4751  *
4752  * @param cls unused
4753  * @param tc unused
4754  */
4755 static void
4756 shutdown_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
4757 {
4758   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shutting down\n");
4759
4760   if (core_handle != NULL)
4761   {
4762     GNUNET_CORE_disconnect (core_handle);
4763     core_handle = NULL;
4764   }
4765   if (NULL != keygen)
4766   {
4767     GNUNET_CRYPTO_ecc_key_create_stop (keygen);
4768     keygen = NULL;
4769   }
4770   GNUNET_CONTAINER_multihashmap_iterate (tunnels, &shutdown_tunnel, NULL);
4771   GNUNET_CONTAINER_multihashmap_iterate (peers, &shutdown_peer, NULL);
4772   if (dht_handle != NULL)
4773   {
4774     GNUNET_DHT_disconnect (dht_handle);
4775     dht_handle = NULL;
4776   }
4777   if (nc != NULL)
4778   {
4779     GNUNET_SERVER_notification_context_destroy (nc);
4780     nc = NULL;
4781   }
4782   if (GNUNET_SCHEDULER_NO_TASK != announce_id_task)
4783   {
4784     GNUNET_SCHEDULER_cancel (announce_id_task);
4785     announce_id_task = GNUNET_SCHEDULER_NO_TASK;
4786   }
4787   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shut down\n");
4788 }
4789
4790
4791 /**
4792  * Callback for hostkey read/generation.
4793  *
4794  * @param cls Closure (Configuration handle).
4795  * @param pk The ECC private key.
4796  * @param emsg Error message, if any.
4797  */
4798 static void
4799 key_generation_cb (void *cls,
4800                    struct GNUNET_CRYPTO_EccPrivateKey *pk,
4801                    const char *emsg)
4802 {
4803   const struct GNUNET_CONFIGURATION_Handle *c = cls;
4804   struct MeshPeerInfo *peer;
4805   struct MeshPeerPath *p;
4806
4807   keygen = NULL;
4808   if (NULL == pk)
4809   {
4810     GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4811                 _("Could not access hostkey: %s. Exiting.\n"),
4812                 emsg);
4813     GNUNET_SCHEDULER_shutdown ();
4814     return;
4815   }
4816   my_private_key = pk;
4817   GNUNET_CRYPTO_ecc_key_get_public (my_private_key, &my_public_key);
4818   GNUNET_CRYPTO_hash (&my_public_key, sizeof (my_public_key),
4819                       &my_full_id.hashPubKey);
4820   myid = GNUNET_PEER_intern (&my_full_id);
4821   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4822               "Mesh for peer [%s] starting\n",
4823               GNUNET_i2s(&my_full_id));
4824
4825   core_handle = GNUNET_CORE_connect (c, /* Main configuration */
4826                                      NULL,      /* Closure passed to MESH functions */
4827                                      &core_init,        /* Call core_init once connected */
4828                                      &core_connect,     /* Handle connects */
4829                                      &core_disconnect,  /* remove peers on disconnects */
4830                                      NULL,      /* Don't notify about all incoming messages */
4831                                      GNUNET_NO, /* For header only in notification */
4832                                      NULL,      /* Don't notify about all outbound messages */
4833                                      GNUNET_NO, /* For header-only out notification */
4834                                      core_handlers);    /* Register these handlers */
4835   if (core_handle == NULL)
4836   {
4837     GNUNET_break (0);
4838     GNUNET_SCHEDULER_shutdown ();
4839     return;
4840   }
4841
4842   next_tid = 0;
4843   next_local_tid = GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
4844
4845   announce_id_task = GNUNET_SCHEDULER_add_now (&announce_id, cls);
4846
4847   /* Create a peer_info for the local peer */
4848   peer = peer_get (&my_full_id);
4849   p = path_new (1);
4850   p->peers[0] = myid;
4851   GNUNET_PEER_change_rc (myid, 1);
4852   peer_info_add_path (peer, p, GNUNET_YES);
4853
4854   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Mesh service running\n");
4855 }
4856
4857
4858 /**
4859  * Process mesh requests.
4860  *
4861  * @param cls closure
4862  * @param server the initialized server
4863  * @param c configuration to use
4864  */
4865 static void
4866 run (void *cls, struct GNUNET_SERVER_Handle *server,
4867      const struct GNUNET_CONFIGURATION_Handle *c)
4868 {
4869   char *keyfile;
4870
4871   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "starting to run\n");
4872   server_handle = server;
4873   GNUNET_SERVER_suspend (server_handle);
4874
4875   if (GNUNET_OK !=
4876       GNUNET_CONFIGURATION_get_value_filename (c, "PEER", "PRIVATE_KEY",
4877                                                &keyfile))
4878   {
4879     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4880                 _
4881                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
4882                 "mesh", "peer/privatekey");
4883     GNUNET_SCHEDULER_shutdown ();
4884     return;
4885   }
4886
4887   if (GNUNET_OK !=
4888       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "REFRESH_PATH_TIME",
4889                                            &refresh_path_time))
4890   {
4891     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4892                 _
4893                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
4894                 "mesh", "refresh path time");
4895     GNUNET_SCHEDULER_shutdown ();
4896     return;
4897   }
4898
4899   if (GNUNET_OK !=
4900       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "ID_ANNOUNCE_TIME",
4901                                            &id_announce_time))
4902   {
4903     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4904                 _
4905                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
4906                 "mesh", "id announce time");
4907     GNUNET_SCHEDULER_shutdown ();
4908     return;
4909   }
4910
4911   if (GNUNET_OK !=
4912       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "CONNECT_TIMEOUT",
4913                                            &connect_timeout))
4914   {
4915     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4916                 _
4917                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
4918                 "mesh", "connect timeout");
4919     GNUNET_SCHEDULER_shutdown ();
4920     return;
4921   }
4922
4923   if (GNUNET_OK !=
4924       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_MSGS_QUEUE",
4925                                              &max_msgs_queue))
4926   {
4927     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4928                 _
4929                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
4930                 "mesh", "max msgs queue");
4931     GNUNET_SCHEDULER_shutdown ();
4932     return;
4933   }
4934
4935   if (GNUNET_OK !=
4936       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_TUNNELS",
4937                                              &max_tunnels))
4938   {
4939     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4940                 _
4941                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
4942                 "mesh", "max tunnels");
4943     GNUNET_SCHEDULER_shutdown ();
4944     return;
4945   }
4946
4947   if (GNUNET_OK !=
4948       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "DEFAULT_TTL",
4949                                              &default_ttl))
4950   {
4951     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4952                 _
4953                 ("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
4954                 "mesh", "default ttl", 64);
4955     default_ttl = 64;
4956   }
4957
4958   if (GNUNET_OK !=
4959       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_PEERS",
4960                                              &max_peers))
4961   {
4962     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4963                 _("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
4964                 "mesh", "max peers", 1000);
4965     max_peers = 1000;
4966   }
4967
4968   if (GNUNET_OK !=
4969       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "DHT_REPLICATION_LEVEL",
4970                                              &dht_replication_level))
4971   {
4972     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4973                 _
4974                 ("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
4975                 "mesh", "dht replication level", 3);
4976     dht_replication_level = 3;
4977   }
4978
4979   tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
4980   incoming_tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
4981   peers = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
4982   ports = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
4983
4984   dht_handle = GNUNET_DHT_connect (c, 64);
4985   if (NULL == dht_handle)
4986   {
4987     GNUNET_break (0);
4988   }
4989   stats = GNUNET_STATISTICS_create ("mesh", c);
4990
4991   /* Scheduled the task to clean up when shutdown is called */
4992   GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_UNIT_FOREVER_REL, &shutdown_task,
4993                                 NULL);
4994   keygen = GNUNET_CRYPTO_ecc_key_create_start (keyfile,
4995                                                &key_generation_cb,
4996                                                (void *) c);
4997   GNUNET_free (keyfile);
4998 }
4999
5000
5001 /**
5002  * The main function for the mesh service.
5003  *
5004  * @param argc number of arguments from the command line
5005  * @param argv command line arguments
5006  * @return 0 ok, 1 on error
5007  */
5008 int
5009 main (int argc, char *const *argv)
5010 {
5011   int ret;
5012   int r;
5013
5014   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "main()\n");
5015   r = GNUNET_SERVICE_run (argc, argv, "mesh", GNUNET_SERVICE_OPTION_NONE, &run,
5016                           NULL);
5017   ret = (GNUNET_OK == r) ? 0 : 1;
5018   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "main() END\n");
5019
5020   INTERVAL_SHOW;
5021
5022   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5023               "Mesh for peer [%s] FWD ACKs %u, BCK ACKs %u\n",
5024               GNUNET_i2s(&my_full_id), debug_fwd_ack, debug_bck_ack);
5025
5026   return ret;
5027 }