- doxygen, alignment
[oweals/gnunet.git] / src / mesh / gnunet-service-mesh.c
1 /*
2      This file is part of GNUnet.
3      (C) 2001-2012 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file mesh/gnunet-service-mesh.c
23  * @brief GNUnet MESH service
24  * @author Bartlomiej Polot
25  *
26  * STRUCTURE:
27  * - DATA STRUCTURES
28  * - GLOBAL VARIABLES
29  * - GENERAL HELPERS
30  * - PERIODIC FUNCTIONS
31  * - MESH NETWORK HANDLER HELPERS
32  * - MESH NETWORK HANDLES
33  * - MESH LOCAL HANDLER HELPERS
34  * - MESH LOCAL HANDLES
35  * - MAIN FUNCTIONS (main & run)
36  *
37  * TODO:
38  * - error reporting (CREATE/CHANGE/ADD/DEL?) -- new message!
39  * - partial disconnect reporting -- same as error reporting?
40  * - add ping message
41  * - relay corking down to core
42  * - set ttl relative to tree depth
43  * - Add data ACK count in path ACK
44  * - Make common GNUNET_MESH_Data header for unicast, to_orig, multicast
45  * TODO END
46  */
47
48 #include "platform.h"
49 #include "mesh.h"
50 #include "mesh_protocol.h"
51 #include "mesh_tunnel_tree.h"
52 #include "block_mesh.h"
53 #include "mesh_block_lib.h"
54 #include "gnunet_dht_service.h"
55 #include "gnunet_statistics_service.h"
56 #include "gnunet_regex_lib.h"
57
58 #define MESH_BLOOM_SIZE         128
59
60 #define MESH_DEBUG_DHT          GNUNET_NO
61 #define MESH_DEBUG_CONNECTION   GNUNET_NO
62 #define MESH_DEBUG_TIMING       __LINUX__ && GNUNET_NO
63
64 #define MESH_MAX_POLL_TIME      GNUNET_TIME_relative_multiply (\
65                                   GNUNET_TIME_UNIT_MINUTES,\
66                                   10)
67
68 #if MESH_DEBUG_CONNECTION
69 #define DEBUG_CONN(...) GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, __VA_ARGS__)
70 #else
71 #define DEBUG_CONN(...)
72 #endif
73
74 #if MESH_DEBUG_DHT
75 #define DEBUG_DHT(...) GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, __VA_ARGS__)
76 #else
77 #define DEBUG_DHT(...)
78 #endif
79
80 #if MESH_DEBUG_TIMING
81 #include <time.h>
82 double __sum;
83 uint64_t __count;
84 struct timespec __mesh_start;
85 struct timespec __mesh_end;
86 #define INTERVAL_START clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &(__mesh_start))
87 #define INTERVAL_END \
88 do {\
89   clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &(__mesh_end));\
90   double __diff = __mesh_end.tv_nsec - __mesh_start.tv_nsec;\
91   if (__diff < 0) __diff += 1000000000;\
92   __sum += __diff;\
93   __count++;\
94 } while (0)
95 #define INTERVAL_SHOW \
96 if (0 < __count)\
97   GNUNET_log (GNUNET_ERROR_TYPE_INFO, "AVG process time: %f ns\n", __sum/__count)
98 #else
99 #define INTERVAL_START
100 #define INTERVAL_END
101 #define INTERVAL_SHOW
102 #endif
103
104 /******************************************************************************/
105 /************************      DATA STRUCTURES     ****************************/
106 /******************************************************************************/
107
108 /** FWD declaration */
109 struct MeshPeerInfo;
110 struct MeshClient;
111
112
113 /**
114  * Struct representing a piece of data being sent to other peers
115  */
116 struct MeshData
117 {
118   /** Tunnel it belongs to. */
119   struct MeshTunnel *t;
120
121   /** How many remaining neighbors still hav't got it. */
122   unsigned int reference_counter;
123
124   /** How many remaining neighbors we need to send this to. */
125   unsigned int total_out;
126
127   /** Size of the data. */
128   size_t data_len;
129
130   /** Data itself */
131   void *data;
132 };
133
134
135 /**
136  * Struct containing info about a queued transmission to this peer
137  */
138 struct MeshPeerQueue
139 {
140     /**
141       * DLL next
142       */
143   struct MeshPeerQueue *next;
144
145     /**
146       * DLL previous
147       */
148   struct MeshPeerQueue *prev;
149
150     /**
151      * Peer this transmission is directed to.
152      */
153   struct MeshPeerInfo *peer;
154
155     /**
156      * Tunnel this message belongs to.
157      */
158   struct MeshTunnel *tunnel;
159
160     /**
161      * Pointer to info stucture used as cls.
162      */
163   void *cls;
164
165     /**
166      * Type of message
167      */
168   uint16_t type;
169
170     /**
171      * Size of the message
172      */
173   size_t size;
174 };
175
176
177 /**
178  * Struct to store regex information announced by clients.
179  */
180 struct MeshRegexDescriptor
181 {
182     /**
183      * Regular expression itself.
184      */
185   char *regex;
186
187   /**
188    * Cached DFA for regular expression 'regex'.
189    */
190   struct GNUNET_REGEX_Automaton *dfa;
191
192     /**
193      * How many characters per edge can we squeeze?
194      */
195   uint16_t compression;
196 };
197
198 /**
199  * Struct containing all info possibly needed to build a package when called
200  * back by core.
201  */
202 struct MeshTransmissionDescriptor
203 {
204     /** ID of the tunnel this packet travels in */
205   struct MESH_TunnelID *origin;
206
207     /** Who was this message being sent to */
208   struct MeshPeerInfo *peer;
209
210     /** Ultimate destination of the packet */
211   GNUNET_PEER_Id destination;
212
213     /** Data descriptor */
214   struct MeshData* mesh_data;
215 };
216
217
218 /**
219  * Struct containing all information regarding a given peer
220  */
221 struct MeshPeerInfo
222 {
223     /**
224      * ID of the peer
225      */
226   GNUNET_PEER_Id id;
227
228     /**
229      * Last time we heard from this peer
230      */
231   struct GNUNET_TIME_Absolute last_contact;
232
233     /**
234      * Task handler for delayed connect task;
235      */
236   GNUNET_SCHEDULER_TaskIdentifier connect_task;
237
238     /**
239      * Number of attempts to reconnect so far
240      */
241   int n_reconnect_attempts;
242
243     /**
244      * Paths to reach the peer, ordered by ascending hop count
245      */
246   struct MeshPeerPath *path_head;
247
248     /**
249      * Paths to reach the peer, ordered by ascending hop count
250      */
251   struct MeshPeerPath *path_tail;
252
253     /**
254      * Handle to stop the DHT search for a path to this peer
255      */
256   struct GNUNET_DHT_GetHandle *dhtget;
257
258     /**
259      * Closure given to the DHT GET
260      */
261   struct MeshPathInfo *dhtgetcls;
262
263     /**
264      * Array of tunnels this peer participates in
265      * (most probably a small amount, therefore not a hashmap)
266      * When the path to the peer changes, notify these tunnels to let them
267      * re-adjust their path trees.
268      */
269   struct MeshTunnel **tunnels;
270
271     /**
272      * Number of tunnels this peers participates in
273      */
274   unsigned int ntunnels;
275
276    /**
277     * Transmission queue to core DLL head
278     */
279   struct MeshPeerQueue *queue_head;
280
281    /**
282     * Transmission queue to core DLL tail
283     */
284    struct MeshPeerQueue *queue_tail;
285
286    /**
287     * How many messages are in the queue to this peer.
288     */
289    unsigned int queue_n;
290
291    /**
292     * Handle to for queued transmissions
293     */
294   struct GNUNET_CORE_TransmitHandle *core_transmit;
295 };
296
297
298 /**
299  * Globally unique tunnel identification (owner + number)
300  * DO NOT USE OVER THE NETWORK
301  */
302 struct MESH_TunnelID
303 {
304     /**
305      * Node that owns the tunnel
306      */
307   GNUNET_PEER_Id oid;
308
309     /**
310      * Tunnel number to differentiate all the tunnels owned by the node oid
311      * ( tid < GNUNET_MESH_LOCAL_TUNNEL_ID_CLI )
312      */
313   MESH_TunnelNumber tid;
314 };
315
316
317 /**
318  * Struct containing all information regarding a tunnel
319  * For an intermediate node the improtant info used will be:
320  * - id        Tunnel unique identification
321  * - paths[0]  To know where to send it next
322  * - metainfo: ready, speeds, accounting
323  */
324 struct MeshTunnel
325 {
326     /**
327      * Tunnel ID
328      */
329   struct MESH_TunnelID id;
330
331     /**
332      * Local tunnel number ( >= GNUNET_MESH_LOCAL_TUNNEL_ID_CLI or 0 )
333      */
334   MESH_TunnelNumber local_tid;
335
336     /**
337      * Local tunnel number for local destination clients (incoming number)
338      * ( >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV or 0). All clients share the same
339      * number.
340      */
341   MESH_TunnelNumber local_tid_dest;
342
343     /**
344      * Is the speed on the tunnel limited to the slowest peer?
345      */
346   int speed_min;
347
348     /**
349      * Is the tunnel bufferless (minimum latency)?
350      */
351   int nobuffer;
352
353     /**
354      * Packet ID of the last fwd packet seen (sent/retransmitted/received).
355      */
356   uint32_t fwd_pid;
357
358     /**
359      * Packet ID of the last bck packet sent (unique counter per hop).
360      */
361   uint32_t bck_pid;
362
363     /**
364      * SKIP value for this tunnel.
365      */
366   uint32_t skip;
367
368     /**
369      * Force sending ACK? Flag to allow duplicate ACK on POLL.
370      */
371   int force_ack;
372
373     /**
374      * MeshTunnelChildInfo of all children, indexed by GNUNET_PEER_Id.
375      * Contains the Flow Control info: FWD ACK value received,
376      * last BCK ACK sent, PID and SKIP values.
377      */
378   struct GNUNET_CONTAINER_MultiHashMap *children_fc;
379
380     /**
381      * Last ACK sent towards the origin (for traffic towards leaf node).
382      */
383   uint32_t last_fwd_ack;
384
385   /**
386    * BCK ACK value received from the hop towards the owner of the tunnel,
387    * (previous node / owner): up to what message PID can we sent back to him.
388    */
389   uint32_t bck_ack;
390
391     /**
392      * How many messages are in the forward queue (towards leaves).
393      */
394   unsigned int fwd_queue_n;
395
396     /**
397      * How many messages do we accept in the forward queue.
398      */
399   unsigned int fwd_queue_max;
400
401     /**
402      * How many messages are in the backward queue (towards origin).
403      */
404   unsigned int bck_queue_n;
405
406     /**
407      * How many messages do we accept in the backward queue.
408     */
409    unsigned int bck_queue_max;
410
411     /**
412      * Task to poll peer in case of a stall.
413      */
414    GNUNET_SCHEDULER_TaskIdentifier fc_poll_bck;
415
416     /**
417      * Last time the tunnel was used
418      */
419   struct GNUNET_TIME_Absolute timestamp;
420
421     /**
422      * Peers in the tunnel, indexed by PeerIdentity -> (MeshPeerInfo)
423      * containing peers added by id or by type, not intermediate peers.
424      */
425   struct GNUNET_CONTAINER_MultiHashMap *peers;
426
427     /**
428      * Number of peers that are connected and potentially ready to receive data
429      */
430   unsigned int peers_ready;
431
432     /**
433      * Number of peers that have been added to the tunnel
434      */
435   unsigned int peers_total;
436
437     /**
438      * Client owner of the tunnel, if any
439      */
440   struct MeshClient *owner;
441
442     /**
443      * Clients that have been informed about and want to stay in the tunnel.
444      */
445   struct MeshClient **clients;
446
447     /**
448      * Flow control info for each client.
449      */
450   struct MeshTunnelClientInfo *clients_fc;
451
452   /**
453      * Number of elements in clients/clients_fc
454      */
455   unsigned int nclients;
456
457     /**
458      * Clients that have been informed but requested to leave the tunnel.
459      */
460   struct MeshClient **ignore;
461
462     /**
463      * Number of elements in clients
464      */
465   unsigned int nignore;
466
467     /**
468      * Blacklisted peers
469      */
470   GNUNET_PEER_Id *blacklisted;
471
472     /**
473      * Number of elements in blacklisted
474      */
475   unsigned int nblacklisted;
476
477   /**
478    * Bloomfilter (for peer identities) to stop circular routes
479    */
480   char bloomfilter[MESH_BLOOM_SIZE];
481
482   /**
483    * Tunnel paths
484    */
485   struct MeshTunnelTree *tree;
486
487   /**
488    * Application type we are looking for in this tunnel
489    */
490   GNUNET_MESH_ApplicationType type;
491
492     /**
493      * Used to search peers offering a service
494      */
495   struct GNUNET_DHT_GetHandle *dht_get_type;
496
497     /**
498      * Initial context of the regex search for a connect_by_string
499      */
500   struct MeshRegexSearchContext *regex_ctx;
501
502     /**
503      * Task to keep the used paths alive
504      */
505   GNUNET_SCHEDULER_TaskIdentifier path_refresh_task;
506
507     /**
508      * Task to destroy the tunnel after timeout
509      *
510      * FIXME: merge the two? a tunnel will have either
511      * a path refresh OR a timeout, never both!
512      */
513   GNUNET_SCHEDULER_TaskIdentifier timeout_task;
514
515     /**
516      * Flag to signal the destruction of the tunnel.
517      * If this is set GNUNET_YES the tunnel will be destroyed
518      * when the queue is empty.
519      */
520   int destroy;
521
522     /**
523      * Total messages pending for this tunnels, payload or not.
524      */
525   unsigned int pending_messages;
526
527   /**
528    * If the tunnel is empty, destoy it.
529    */
530   GNUNET_SCHEDULER_TaskIdentifier delayed_destroy;
531 };
532
533
534 /**
535  * Info about a child node in a tunnel, needed to perform flow control.
536  */
537 struct MeshTunnelChildInfo
538 {
539     /**
540      * ID of the child node.
541      */
542   GNUNET_PEER_Id id;
543
544     /**
545      * SKIP value.
546      */
547   uint32_t skip;
548
549     /**
550      * Last sent PID.
551      */
552   uint32_t fwd_pid;
553
554     /**
555      * Last received PID.
556      */
557   uint32_t bck_pid;
558
559     /**
560      * Maximum PID allowed (FWD ACK received).
561      */
562   uint32_t fwd_ack;
563
564     /**
565      * Last ACK sent to that child (BCK ACK).
566      */
567   uint32_t bck_ack;
568
569     /**
570      * Circular buffer pointing to MeshPeerQueue elements for all
571      * payload traffic going to this child.
572      * Size determined by the tunnel queue size (@c t->fwd_queue_max).
573      */
574   struct MeshPeerQueue **send_buffer;
575
576     /**
577      * Index of the oldest element in the send_buffer.
578      */
579   unsigned int send_buffer_start;
580
581     /**
582      * How many elements are already in the buffer.
583      */
584   unsigned int send_buffer_n;
585
586     /**
587      * Tunnel this info is about
588      */
589   struct MeshTunnel *t;
590
591     /**
592      * Task to poll peer in case of a stall.
593      */
594   GNUNET_SCHEDULER_TaskIdentifier fc_poll;
595
596      /**
597       * Time to use for next polling call.
598       */
599    struct GNUNET_TIME_Relative fc_poll_time;
600 };
601
602
603 /**
604  * Info about a leaf client of a tunnel, needed to perform flow control.
605  */
606 struct MeshTunnelClientInfo
607 {
608   /**
609    * PID of the last packet sent to the client (FWD).
610    */
611   uint32_t fwd_pid;
612
613   /**
614    * PID of the last packet received from the client (BCK).
615    */
616   uint32_t bck_pid;
617
618   /**
619    * Maximum PID allowed (FWD ACK received).
620    */
621   uint32_t fwd_ack;
622   
623   /**
624    * Last ACK sent to that child (BCK ACK).
625    */
626   uint32_t bck_ack;
627 };
628
629
630
631 /**
632  * Info collected during iteration of child nodes in order to get the ACK value
633  * for a tunnel.
634  */
635 struct MeshTunnelChildIteratorContext
636 {
637     /**
638      * Tunnel whose info is being collected.
639      */
640   struct MeshTunnel *t;
641
642     /**
643      * Is this context initialized? Is the value in max_child_ack valid?
644      */
645   int init;
646
647     /**
648      * Maximum child ACK so far.
649      */
650   uint32_t max_child_ack;
651
652     /**
653      * Number of children nodes
654      */
655   unsigned int nchildren;
656 };
657
658
659 /**
660  * Info needed to work with tunnel paths and peers
661  */
662 struct MeshPathInfo
663 {
664   /**
665    * Tunnel
666    */
667   struct MeshTunnel *t;
668
669   /**
670    * Neighbouring peer to whom we send the packet to
671    */
672   struct MeshPeerInfo *peer;
673
674   /**
675    * Path itself
676    */
677   struct MeshPeerPath *path;
678 };
679
680
681 /**
682  * Struct containing information about a client of the service
683  */
684 struct MeshClient
685 {
686     /**
687      * Linked list next
688      */
689   struct MeshClient *next;
690
691     /**
692      * Linked list prev
693      */
694   struct MeshClient *prev;
695
696     /**
697      * Tunnels that belong to this client, indexed by local id
698      */
699   struct GNUNET_CONTAINER_MultiHashMap *own_tunnels;
700
701    /**
702      * Tunnels this client has accepted, indexed by incoming local id
703      */
704   struct GNUNET_CONTAINER_MultiHashMap *incoming_tunnels;
705
706    /**
707      * Tunnels this client has rejected, indexed by incoming local id
708      */
709   struct GNUNET_CONTAINER_MultiHashMap *ignore_tunnels;
710     /**
711      * Handle to communicate with the client
712      */
713   struct GNUNET_SERVER_Client *handle;
714
715     /**
716      * Applications that this client has claimed to provide
717      */
718   struct GNUNET_CONTAINER_MultiHashMap *apps;
719
720     /**
721      * Messages that this client has declared interest in
722      */
723   struct GNUNET_CONTAINER_MultiHashMap *types;
724
725     /**
726      * Whether the client is active or shutting down (don't send confirmations
727      * to a client that is shutting down.
728      */
729   int shutting_down;
730
731     /**
732      * ID of the client, mainly for debug messages
733      */
734   unsigned int id;
735   
736     /**
737      * Regular expressions describing the services offered by this client.
738      */
739   struct MeshRegexDescriptor *regexes; // FIXME regex add timeout? API to remove a regex?
740
741     /**
742      * Number of regular expressions in regexes.
743      */
744   unsigned int n_regex;
745
746     /**
747      * Task to refresh all regular expresions in the DHT.
748      */
749   GNUNET_SCHEDULER_TaskIdentifier regex_announce_task;
750
751     /**
752      * Tmp store for partially retrieved regex.
753      */
754   char *partial_regex;
755
756 };
757
758
759 /**
760  * Struct to keep information of searches of services described by a regex
761  * using a user-provided string service description.
762  */
763 struct MeshRegexSearchInfo
764 {
765     /**
766      * Which tunnel is this for
767      */
768   struct MeshTunnel *t;
769
770     /**
771      * User provided description of the searched service.
772      */
773   char *description;
774
775     /**
776      * Part of the description already consumed by the search.
777      */
778   size_t position;
779
780     /**
781      * Running DHT GETs.
782      */
783   struct GNUNET_CONTAINER_MultiHashMap *dht_get_handles;
784
785     /**
786      * Results from running DHT GETs.
787      */
788   struct GNUNET_CONTAINER_MultiHashMap *dht_get_results;
789
790     /**
791      * Contexts, for each running DHT GET. Free all on end of search.
792      */
793   struct MeshRegexSearchContext **contexts;
794
795     /**
796      * Number of contexts (branches/steps in search).
797      */
798   unsigned int n_contexts;
799
800     /**
801      * Peer that is connecting via connect_by_string. When connected, free ctx.
802      */
803   GNUNET_PEER_Id peer;
804
805     /**
806      * Other peers that are found but not yet being connected to.
807      */
808   GNUNET_PEER_Id *peers;
809
810     /**
811      * Number of elements in peers.
812      */
813   unsigned int n_peers;
814
815     /**
816      * Next peer to try to connect to.
817      */
818   unsigned int i_peer;
819
820     /**
821      * Timeout for a connect attempt.
822      * When reached, try to connect to a different peer, if any. If not,
823      * try the same peer again.
824      */
825   GNUNET_SCHEDULER_TaskIdentifier timeout;
826
827 };
828
829 /**
830  * Struct to keep state of running searches that have consumed a part of
831  * the inital string.
832  */
833 struct MeshRegexSearchContext
834 {
835     /**
836      * Part of the description already consumed by
837      * this particular search branch.
838      */
839   size_t position;
840
841     /**
842      * Information about the search.
843      */
844   struct MeshRegexSearchInfo *info;
845
846     /**
847      * We just want to look for one edge, the longer the better.
848      * Keep its length.
849      */
850   unsigned int longest_match;
851
852     /**
853      * Destination hash of the longest match.
854      */
855   struct GNUNET_HashCode hash;
856 };
857
858 /******************************************************************************/
859 /************************      DEBUG FUNCTIONS     ****************************/
860 /******************************************************************************/
861
862 #if MESH_DEBUG
863 /**
864  * GNUNET_SCHEDULER_Task for printing a message after some operation is done
865  * @param cls string to print
866  * @param success  GNUNET_OK if the PUT was transmitted,
867  *                GNUNET_NO on timeout,
868  *                GNUNET_SYSERR on disconnect from service
869  *                after the PUT message was transmitted
870  *                (so we don't know if it was received or not)
871  */
872
873 #if 0
874 static void
875 mesh_debug (void *cls, int success)
876 {
877   char *s = cls;
878
879   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "%s (%d)\n", s, success);
880 }
881 #endif
882
883 unsigned int debug_fwd_ack;
884 unsigned int debug_bck_ack;
885
886 #endif
887
888 /******************************************************************************/
889 /***********************      GLOBAL VARIABLES     ****************************/
890 /******************************************************************************/
891
892 /************************** Configuration parameters **************************/
893
894 /**
895  * How often to send tunnel keepalives. Tunnels timeout after 4 missed.
896  */
897 static struct GNUNET_TIME_Relative refresh_path_time;
898
899 /**
900  * How often to PUT local application numbers in the DHT.
901  */
902 static struct GNUNET_TIME_Relative app_announce_time;
903
904 /**
905  * How often to PUT own ID in the DHT.
906  */
907 static struct GNUNET_TIME_Relative id_announce_time;
908
909 /**
910  * Maximum time allowed to connect to a peer found by string.
911  */
912 static struct GNUNET_TIME_Relative connect_timeout;
913
914 /**
915  * Default TTL for payload packets.
916  */
917 static unsigned long long default_ttl;
918
919 /**
920  * DHT replication level, see DHT API: GNUNET_DHT_get_start, GNUNET_DHT_put.
921  */
922 static unsigned long long dht_replication_level;
923
924 /**
925  * How many tunnels are we willing to maintain.
926  * Local tunnels are always allowed, even if there are more tunnels than max.
927  */
928 static unsigned long long max_tunnels;
929
930 /**
931  * How many messages *in total* are we willing to queue, divided by number of 
932  * tunnels to get tunnel queue size.
933  */
934 static unsigned long long max_msgs_queue;
935
936 /**
937  * How many peers do we want to remember?
938  */
939 static unsigned long long max_peers;
940
941
942 /*************************** Static global variables **************************/
943
944 /**
945  * Hostkey generation context
946  */
947 static struct GNUNET_CRYPTO_RsaKeyGenerationContext *keygen;
948
949 /**
950  * DLL with all the clients, head.
951  */
952 static struct MeshClient *clients;
953
954 /**
955  * DLL with all the clients, tail.
956  */
957 static struct MeshClient *clients_tail;
958
959 /**
960  * Tunnels known, indexed by MESH_TunnelID (MeshTunnel).
961  */
962 static struct GNUNET_CONTAINER_MultiHashMap *tunnels;
963
964 /**
965  * Number of tunnels known.
966  */
967 static unsigned long long n_tunnels;
968
969 /**
970  * Tunnels incoming, indexed by MESH_TunnelNumber
971  * (which is greater than GNUNET_MESH_LOCAL_TUNNEL_ID_SERV).
972  */
973 static struct GNUNET_CONTAINER_MultiHashMap *incoming_tunnels;
974
975 /**
976  * Peers known, indexed by PeerIdentity (MeshPeerInfo).
977  */
978 static struct GNUNET_CONTAINER_MultiHashMap *peers;
979
980 /*
981  * Handle to communicate with transport
982  */
983 // static struct GNUNET_TRANSPORT_Handle *transport_handle;
984
985 /**
986  * Handle to communicate with core.
987  */
988 static struct GNUNET_CORE_Handle *core_handle;
989
990 /**
991  * Handle to use DHT.
992  */
993 static struct GNUNET_DHT_Handle *dht_handle;
994
995 /**
996  * Handle to server.
997  */
998 static struct GNUNET_SERVER_Handle *server_handle;
999
1000 /**
1001  * Handle to the statistics service.
1002  */
1003 static struct GNUNET_STATISTICS_Handle *stats;
1004
1005 /**
1006  * Notification context, to send messages to local clients.
1007  */
1008 static struct GNUNET_SERVER_NotificationContext *nc;
1009
1010 /**
1011  * Local peer own ID (memory efficient handle).
1012  */
1013 static GNUNET_PEER_Id myid;
1014
1015 /**
1016  * Local peer own ID (full value).
1017  */
1018 static struct GNUNET_PeerIdentity my_full_id;
1019
1020 /**
1021  * Own private key.
1022  */
1023 static struct GNUNET_CRYPTO_RsaPrivateKey *my_private_key;
1024
1025 /**
1026  * Own public key.
1027  */
1028 static struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded my_public_key;
1029
1030 /**
1031  * Tunnel ID for the next created tunnel (global tunnel number).
1032  */
1033 static MESH_TunnelNumber next_tid;
1034
1035 /**
1036  * Tunnel ID for the next incoming tunnel (local tunnel number).
1037  */
1038 static MESH_TunnelNumber next_local_tid;
1039
1040 /**
1041  * All application types provided by this peer.
1042  */
1043 static struct GNUNET_CONTAINER_MultiHashMap *applications;
1044
1045 /**
1046  * All message types clients of this peer are interested in.
1047  */
1048 static struct GNUNET_CONTAINER_MultiHashMap *types;
1049
1050 /**
1051  * Task to periodically announce provided applications.
1052  */
1053 GNUNET_SCHEDULER_TaskIdentifier announce_applications_task;
1054
1055 /**
1056  * Task to periodically announce itself in the network.
1057  */
1058 GNUNET_SCHEDULER_TaskIdentifier announce_id_task;
1059
1060 /**
1061  * Next ID to assign to a client.
1062  */
1063 unsigned int next_client_id;
1064
1065
1066 /******************************************************************************/
1067 /***********************         DECLARATIONS        **************************/
1068 /******************************************************************************/
1069
1070 /**
1071  * Function to process paths received for a new peer addition. The recorded
1072  * paths form the initial tunnel, which can be optimized later.
1073  * Called on each result obtained for the DHT search.
1074  *
1075  * @param cls closure
1076  * @param exp when will this value expire
1077  * @param key key of the result
1078  * @param type type of the result
1079  * @param size number of bytes in data
1080  * @param data pointer to the result data
1081  */
1082 static void
1083 dht_get_id_handler (void *cls, struct GNUNET_TIME_Absolute exp,
1084                     const struct GNUNET_HashCode * key,
1085                     const struct GNUNET_PeerIdentity *get_path,
1086                     unsigned int get_path_length,
1087                     const struct GNUNET_PeerIdentity *put_path,
1088                     unsigned int put_path_length, enum GNUNET_BLOCK_Type type,
1089                     size_t size, const void *data);
1090
1091
1092 /**
1093  * Function to process DHT string to regex matching.
1094  * Called on each result obtained for the DHT search.
1095  *
1096  * @param cls closure (search context)
1097  * @param exp when will this value expire
1098  * @param key key of the result
1099  * @param get_path path of the get request (not used)
1100  * @param get_path_length lenght of get_path (not used)
1101  * @param put_path path of the put request (not used)
1102  * @param put_path_length length of the put_path (not used)
1103  * @param type type of the result
1104  * @param size number of bytes in data
1105  * @param data pointer to the result data
1106  *
1107  * TODO: re-issue the request after certain time? cancel after X results?
1108  */
1109 static void
1110 dht_get_string_handler (void *cls, struct GNUNET_TIME_Absolute exp,
1111                         const struct GNUNET_HashCode * key,
1112                         const struct GNUNET_PeerIdentity *get_path,
1113                         unsigned int get_path_length,
1114                         const struct GNUNET_PeerIdentity *put_path,
1115                         unsigned int put_path_length, enum GNUNET_BLOCK_Type type,
1116                         size_t size, const void *data);
1117
1118
1119 /**
1120  * Function to process DHT string to regex matching.
1121  * Called on each result obtained for the DHT search.
1122  *
1123  * @param cls closure (search context)
1124  * @param exp when will this value expire
1125  * @param key key of the result
1126  * @param get_path path of the get request (not used)
1127  * @param get_path_length lenght of get_path (not used)
1128  * @param put_path path of the put request (not used)
1129  * @param put_path_length length of the put_path (not used)
1130  * @param type type of the result
1131  * @param size number of bytes in data
1132  * @param data pointer to the result data
1133  */
1134 static void
1135 dht_get_string_accept_handler (void *cls, struct GNUNET_TIME_Absolute exp,
1136                                const struct GNUNET_HashCode * key,
1137                                const struct GNUNET_PeerIdentity *get_path,
1138                                unsigned int get_path_length,
1139                                const struct GNUNET_PeerIdentity *put_path,
1140                                unsigned int put_path_length,
1141                                enum GNUNET_BLOCK_Type type,
1142                                size_t size, const void *data);
1143
1144
1145 /**
1146  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
1147  * and insert it in the appropiate structures if the peer is not known yet.
1148  *
1149  * @param peer Short identity of the peer.
1150  *
1151  * @return Existing or newly created peer info.
1152  */
1153 static struct MeshPeerInfo *
1154 peer_info_get_short (const GNUNET_PEER_Id peer);
1155
1156
1157 /**
1158  * Try to establish a new connection to this peer.
1159  * Use the best path for the given tunnel.
1160  * If the peer doesn't have any path to it yet, try to get one.
1161  * If the peer already has some path, send a CREATE PATH towards it.
1162  *
1163  * @param peer PeerInfo of the peer.
1164  * @param t Tunnel for which to create the path, if possible.
1165  */
1166 static void
1167 peer_info_connect (struct MeshPeerInfo *peer, struct MeshTunnel *t);
1168
1169
1170 /**
1171  * Add a peer to a tunnel, accomodating paths accordingly and initializing all
1172  * needed rescources.
1173  * If peer already exists, reevaluate shortest path and change if different.
1174  *
1175  * @param t Tunnel we want to add a new peer to
1176  * @param peer PeerInfo of the peer being added
1177  *
1178  */
1179 static void
1180 tunnel_add_peer (struct MeshTunnel *t, struct MeshPeerInfo *peer);
1181
1182
1183 /**
1184  * Removes an explicit path from a tunnel, freeing all intermediate nodes
1185  * that are no longer needed, as well as nodes of no longer reachable peers.
1186  * The tunnel itself is also destoyed if results in a remote empty tunnel.
1187  *
1188  * @param t Tunnel from which to remove the path.
1189  * @param peer Short id of the peer which should be removed.
1190  */
1191 static void
1192 tunnel_delete_peer (struct MeshTunnel *t, GNUNET_PEER_Id peer);
1193
1194
1195 /**
1196  * Search for a tunnel by global ID using full PeerIdentities.
1197  *
1198  * @param oid owner of the tunnel.
1199  * @param tid global tunnel number.
1200  *
1201  * @return tunnel handler, NULL if doesn't exist.
1202  */
1203 static struct MeshTunnel *
1204 tunnel_get (const struct GNUNET_PeerIdentity *oid, MESH_TunnelNumber tid);
1205
1206
1207 /**
1208  * Delete an active client from the tunnel.
1209  *
1210  * @param t Tunnel.
1211  * @param c Client.
1212  */
1213 static void
1214 tunnel_delete_active_client (struct MeshTunnel *t, const struct MeshClient *c);
1215
1216 /**
1217  * Notify a tunnel that a connection has broken that affects at least
1218  * some of its peers.
1219  *
1220  * @param t Tunnel affected.
1221  * @param p1 Peer that got disconnected from p2.
1222  * @param p2 Peer that got disconnected from p1.
1223  *
1224  * @return Short ID of the peer disconnected (either p1 or p2).
1225  *         0 if the tunnel remained unaffected.
1226  */
1227 static GNUNET_PEER_Id
1228 tunnel_notify_connection_broken (struct MeshTunnel *t, GNUNET_PEER_Id p1,
1229                                  GNUNET_PEER_Id p2);
1230
1231
1232 /**
1233  * Get the current ack value for a tunnel, for data going from root to leaves,
1234  * taking in account the tunnel mode and the status of all children and clients.
1235  *
1236  * @param t Tunnel.
1237  *
1238  * @return Maximum PID allowed.
1239  */
1240 static uint32_t
1241 tunnel_get_fwd_ack (struct MeshTunnel *t);
1242
1243
1244 /**
1245  * Add a client to a tunnel, initializing all needed data structures.
1246  * 
1247  * @param t Tunnel to which add the client.
1248  * @param c Client which to add to the tunnel.
1249  */
1250 static void
1251 tunnel_add_client (struct MeshTunnel *t, struct MeshClient *c);
1252
1253
1254 /**
1255  * Jump to the next edge, with the longest matching token.
1256  *
1257  * @param block Block found in the DHT.
1258  * @param size Size of the block.
1259  * @param ctx Context of the search.
1260  *
1261  * @return GNUNET_YES if should keep iterating, GNUNET_NO otherwise.
1262  */
1263 static void
1264 regex_next_edge (const struct MeshRegexBlock *block,
1265                  size_t size,
1266                  struct MeshRegexSearchContext *ctx);
1267
1268
1269 /**
1270  * Find a path to a peer that offers a regex servcie compatible
1271  * with a given string.
1272  * 
1273  * @param key The key of the accepting state.
1274  * @param ctx Context containing info about the string, tunnel, etc.
1275  */
1276 static void
1277 regex_find_path (const struct GNUNET_HashCode *key,
1278                  struct MeshRegexSearchContext *ctx);
1279
1280
1281 /**
1282  * @brief Queue and pass message to core when possible.
1283  * 
1284  * If type is payload (UNICAST, TO_ORIGIN, MULTICAST) checks for queue status
1285  * and accounts for it. In case the queue is full, the message is dropped and
1286  * a break issued.
1287  * 
1288  * Otherwise, message is treated as internal and allowed to go regardless of 
1289  * queue status.
1290  *
1291  * @param cls Closure (@c type dependant). It will be used by queue_send to
1292  *            build the message to be sent if not already prebuilt.
1293  * @param type Type of the message, 0 for a raw message.
1294  * @param size Size of the message.
1295  * @param dst Neighbor to send message to.
1296  * @param t Tunnel this message belongs to.
1297  */
1298 static void
1299 queue_add (void *cls, uint16_t type, size_t size,
1300            struct MeshPeerInfo *dst, struct MeshTunnel *t);
1301
1302
1303 /**
1304  * Free a transmission that was already queued with all resources
1305  * associated to the request.
1306  *
1307  * @param queue Queue handler to cancel.
1308  * @param clear_cls Is it necessary to free associated cls?
1309  */
1310 static void
1311 queue_destroy (struct MeshPeerQueue *queue, int clear_cls);
1312
1313
1314 /**
1315  * @brief Get the next transmittable message from the queue.
1316  *
1317  * This will be the head, except in the case of being a data packet
1318  * not allowed by the destination peer.
1319  *
1320  * @param peer Destination peer.
1321  *
1322  * @return The next viable MeshPeerQueue element to send to that peer.
1323  *         NULL when there are no transmittable messages.
1324  */
1325 struct MeshPeerQueue *
1326 queue_get_next (const struct MeshPeerInfo *peer);
1327
1328
1329 /**
1330  * Core callback to write a queued packet to core buffer
1331  *
1332  * @param cls Closure (peer info).
1333  * @param size Number of bytes available in buf.
1334  * @param buf Where the to write the message.
1335  *
1336  * @return number of bytes written to buf
1337  */
1338 static size_t
1339 queue_send (void *cls, size_t size, void *buf);
1340
1341 /******************************************************************************/
1342 /************************         ITERATORS        ****************************/
1343 /******************************************************************************/
1344
1345 /**
1346  * Iterator over found existing mesh regex blocks that match an ongoing search.
1347  *
1348  * @param cls closure
1349  * @param key current key code
1350  * @param value value in the hash map
1351  * @return GNUNET_YES if we should continue to iterate,
1352  *         GNUNET_NO if not.
1353  */
1354 static int
1355 regex_result_iterator (void *cls,
1356                        const struct GNUNET_HashCode * key,
1357                        void *value)
1358 {
1359   struct MeshRegexBlock *block = value;
1360   struct MeshRegexSearchContext *ctx = cls;
1361
1362   if (GNUNET_YES == ntohl(block->accepting) &&
1363       ctx->position == strlen (ctx->info->description))
1364   {
1365     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "* Found accepting known block\n");
1366     regex_find_path (key, ctx);
1367     return GNUNET_YES; // We found an accept state!
1368   }
1369   else
1370   {
1371     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "* %u, %u, [%u]\n",
1372                 ctx->position, strlen(ctx->info->description),
1373                 ntohl(block->accepting));
1374
1375   }
1376   regex_next_edge(block, SIZE_MAX, ctx);
1377
1378   GNUNET_STATISTICS_update (stats, "# regex mesh blocks iterated", 1, GNUNET_NO);
1379
1380   return GNUNET_YES;
1381 }
1382
1383
1384 /**
1385  * Iterator over edges in a regex block retrieved from the DHT.
1386  *
1387  * @param cls Closure (context of the search).
1388  * @param token Token that follows to next state.
1389  * @param len Lenght of token.
1390  * @param key Hash of next state.
1391  *
1392  * @return GNUNET_YES if should keep iterating, GNUNET_NO otherwise.
1393  */
1394 static int
1395 regex_edge_iterator (void *cls,
1396                      const char *token,
1397                      size_t len,
1398                      const struct GNUNET_HashCode *key)
1399 {
1400   struct MeshRegexSearchContext *ctx = cls;
1401   struct MeshRegexSearchInfo *info = ctx->info;
1402   char *current;
1403   size_t current_len;
1404
1405   GNUNET_STATISTICS_update (stats, "# regex edges iterated", 1, GNUNET_NO);
1406
1407   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*    Start of regex edge iterator\n");
1408   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*     descr : %s\n", info->description);
1409   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*     posit : %u\n", ctx->position);
1410   current = &info->description[ctx->position];
1411   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*     currt : %s\n", current);
1412   current_len = strlen (info->description) - ctx->position;
1413   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*     ctlen : %u\n", current_len);
1414   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*     tklen : %u\n", len);
1415   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*     token : %.*s\n", len, token);
1416   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*     nextk : %s\n", GNUNET_h2s(key));
1417   if (len > current_len)
1418   {
1419     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*     Token too long, END\n");
1420     return GNUNET_YES; // Token too long, wont match
1421   }
1422   if (0 != strncmp (current, token, len))
1423   {
1424     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*     Token doesn't match, END\n");
1425     return GNUNET_YES; // Token doesn't match
1426   }
1427
1428   if (len > ctx->longest_match)
1429   {
1430     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*     Token is longer, KEEP\n");
1431     ctx->longest_match = len;
1432     ctx->hash = *key;
1433   }
1434   else
1435   {
1436     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*     Token is not longer, IGNORE\n");
1437   }
1438
1439   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*    End of regex edge iterator\n");
1440   return GNUNET_YES;
1441 }
1442
1443
1444 /**
1445  * Jump to the next edge, with the longest matching token.
1446  *
1447  * @param block Block found in the DHT.
1448  * @param size Size of the block.
1449  * @param ctx Context of the search.
1450  *
1451  * @return GNUNET_YES if should keep iterating, GNUNET_NO otherwise.
1452  */
1453 static void
1454 regex_next_edge (const struct MeshRegexBlock *block,
1455                  size_t size,
1456                  struct MeshRegexSearchContext *ctx)
1457 {
1458   struct MeshRegexSearchContext *new_ctx;
1459   struct MeshRegexSearchInfo *info = ctx->info;
1460   struct GNUNET_DHT_GetHandle *get_h;
1461   const char *rest;
1462   int result;
1463
1464   /* Find the longest match for the current string position, 
1465    * among tokens in the given block */
1466   ctx->longest_match = 0;
1467   result = GNUNET_MESH_regex_block_iterate (block, size,
1468                                             &regex_edge_iterator, ctx);
1469   GNUNET_break (GNUNET_OK == result);
1470
1471   /* Did anything match? */
1472   if (0 == ctx->longest_match)
1473     return;
1474
1475   new_ctx = GNUNET_malloc (sizeof (struct MeshRegexSearchContext));
1476   new_ctx->info = info;
1477   new_ctx->position = ctx->position + ctx->longest_match;
1478   GNUNET_array_append (info->contexts, info->n_contexts, new_ctx);
1479
1480   /* Check whether we already have a DHT GET running for it */
1481   if (GNUNET_YES ==
1482       GNUNET_CONTAINER_multihashmap_contains(info->dht_get_handles, &ctx->hash))
1483   {
1484     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*     GET running, END\n");
1485     GNUNET_CONTAINER_multihashmap_get_multiple (info->dht_get_results,
1486                                                 &ctx->hash,
1487                                                 &regex_result_iterator,
1488                                                 new_ctx);
1489     // FIXME: "leaks" new_ctx? avoid keeping it around?
1490     return; // We are already looking for it
1491   }
1492
1493   GNUNET_STATISTICS_update (stats, "# regex nodes traversed", 1, GNUNET_NO);
1494
1495   /* Start search in DHT */
1496   rest = &new_ctx->info->description[new_ctx->position];
1497   get_h = 
1498       GNUNET_DHT_get_start (dht_handle,    /* handle */
1499                             GNUNET_BLOCK_TYPE_MESH_REGEX, /* type */
1500                             &ctx->hash,     /* key to search */
1501                             dht_replication_level, /* replication level */
1502                             GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,
1503                             rest, /* xquery */
1504                             // FIXME add BLOOMFILTER to exclude filtered peers
1505                             strlen(rest) + 1,     /* xquery bits */
1506                             // FIXME add BLOOMFILTER SIZE
1507                             &dht_get_string_handler, new_ctx);
1508   if (GNUNET_OK !=
1509       GNUNET_CONTAINER_multihashmap_put(info->dht_get_handles,
1510                                         &ctx->hash,
1511                                         get_h,
1512                                         GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST))
1513   {
1514     GNUNET_break (0);
1515     return;
1516   }
1517 }
1518
1519
1520 /**
1521  * Iterator over hash map entries to cancel DHT GET requests after a
1522  * successful connect_by_string.
1523  *
1524  * @param cls Closure (unused).
1525  * @param key Current key code (unused).
1526  * @param value Value in the hash map (get handle).
1527  * @return GNUNET_YES if we should continue to iterate,
1528  *         GNUNET_NO if not.
1529  */
1530 static int
1531 regex_cancel_dht_get (void *cls,
1532                       const struct GNUNET_HashCode * key,
1533                       void *value)
1534 {
1535   struct GNUNET_DHT_GetHandle *h = value;
1536
1537   GNUNET_DHT_get_stop (h);
1538   return GNUNET_YES;
1539 }
1540
1541
1542 /**
1543  * Iterator over hash map entries to free MeshRegexBlocks stored during the
1544  * search for connect_by_string.
1545  *
1546  * @param cls Closure (unused).
1547  * @param key Current key code (unused).
1548  * @param value MeshRegexBlock in the hash map.
1549  * @return GNUNET_YES if we should continue to iterate,
1550  *         GNUNET_NO if not.
1551  */
1552 static int
1553 regex_free_result (void *cls,
1554                    const struct GNUNET_HashCode * key,
1555                    void *value)
1556 {
1557
1558   GNUNET_free (value);
1559   return GNUNET_YES;
1560 }
1561
1562
1563 /**
1564  * Find a path to a peer that offers a regex servcie compatible
1565  * with a given string.
1566  * 
1567  * @param key The key of the accepting state.
1568  * @param ctx Context containing info about the string, tunnel, etc.
1569  */
1570 static void
1571 regex_find_path (const struct GNUNET_HashCode *key,
1572                  struct MeshRegexSearchContext *ctx)
1573 {
1574   struct GNUNET_DHT_GetHandle *get_h;
1575
1576   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Found peer by service\n");
1577   get_h = GNUNET_DHT_get_start (dht_handle,    /* handle */
1578                                 GNUNET_BLOCK_TYPE_MESH_REGEX_ACCEPT, /* type */
1579                                 key,     /* key to search */
1580                                 dht_replication_level, /* replication level */
1581                                 GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE/* |
1582                                 GNUNET_DHT_RO_RECORD_ROUTE*/,
1583                                 NULL, /* xquery */
1584                                 // FIXME add BLOOMFILTER to exclude filtered peers
1585                                 0,     /* xquery bits */
1586                                 // FIXME add BLOOMFILTER SIZE
1587                                 &dht_get_string_accept_handler, ctx);
1588   GNUNET_break (GNUNET_OK ==
1589                 GNUNET_CONTAINER_multihashmap_put(ctx->info->dht_get_handles,
1590                                                   key,
1591                                                   get_h,
1592                                                   GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE));
1593 }
1594
1595
1596 /**
1597  * Function called if the connect attempt to a peer found via
1598  * connect_by_string times out. Try to connect to another peer, if any.
1599  * Otherwise try to reconnect to the same peer.
1600  *
1601  * @param cls Closure (info about regex search).
1602  * @param tc TaskContext.
1603  */
1604 static void
1605 regex_connect_timeout (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1606 {
1607   struct MeshRegexSearchInfo *info = cls;
1608   struct MeshPeerInfo *peer_info;
1609   GNUNET_PEER_Id id;
1610   GNUNET_PEER_Id old;
1611
1612   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Regex connect timeout\n");
1613   info->timeout = GNUNET_SCHEDULER_NO_TASK;
1614   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1615   {
1616     return;
1617   }
1618
1619   old = info->peer;
1620   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  timed out: %u\n", old);
1621
1622   if (0 < info->n_peers)
1623   {
1624     // Select next peer, put current in that spot.
1625     id = info->peers[info->i_peer];
1626     info->peers[info->i_peer] = info->peer;
1627     info->i_peer = (info->i_peer + 1) % info->n_peers;
1628   }
1629   else
1630   {
1631     // Try to connect to same peer again.
1632     id = info->peer;
1633   }
1634   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  trying: %u\n", id);
1635
1636   peer_info = peer_info_get_short(id);
1637   tunnel_add_peer (info->t, peer_info);
1638   if (old != id)
1639     tunnel_delete_peer (info->t, old);
1640   peer_info_connect (peer_info, info->t);
1641   info->timeout = GNUNET_SCHEDULER_add_delayed (connect_timeout,
1642                                                 &regex_connect_timeout,
1643                                                 info);
1644   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Regex connect timeout END\n");
1645 }
1646
1647
1648 /**
1649  * Cancel an ongoing regex search in the DHT and free all resources.
1650  *
1651  * @param ctx The search context.
1652  */
1653 static void
1654 regex_cancel_search(struct MeshRegexSearchContext *ctx)
1655 {
1656   struct MeshRegexSearchInfo *info = ctx->info;
1657   int i;
1658
1659   GNUNET_free (info->description);
1660   GNUNET_CONTAINER_multihashmap_iterate (info->dht_get_handles,
1661                                              &regex_cancel_dht_get, NULL);
1662   GNUNET_CONTAINER_multihashmap_iterate (info->dht_get_results,
1663                                          &regex_free_result, NULL);
1664   GNUNET_CONTAINER_multihashmap_destroy (info->dht_get_results);
1665   GNUNET_CONTAINER_multihashmap_destroy (info->dht_get_handles);
1666   info->t->regex_ctx = NULL;
1667   for (i = 0; i < info->n_contexts; i++)
1668   {
1669     GNUNET_free (info->contexts[i]);
1670   }
1671   if (0 < info->n_contexts)
1672     GNUNET_free (info->contexts);
1673   if (0 < info->n_peers)
1674     GNUNET_free (info->peers);
1675   if (GNUNET_SCHEDULER_NO_TASK != info->timeout)
1676   {
1677     GNUNET_SCHEDULER_cancel(info->timeout);
1678   }
1679   GNUNET_free (info);
1680 }
1681
1682
1683 /******************************************************************************/
1684 /************************    PERIODIC FUNCTIONS    ****************************/
1685 /******************************************************************************/
1686
1687 /**
1688  * Announce iterator over for each application provided by the peer
1689  *
1690  * @param cls closure
1691  * @param key current key code
1692  * @param value value in the hash map
1693  * @return GNUNET_YES if we should continue to
1694  *         iterate,
1695  *         GNUNET_NO if not.
1696  */
1697 static int
1698 announce_application (void *cls, const struct GNUNET_HashCode * key, void *value)
1699 {
1700   struct PBlock block;
1701   struct MeshClient *c;
1702
1703   block.id = my_full_id;
1704   c =  GNUNET_CONTAINER_multihashmap_get (applications, key);
1705   GNUNET_assert(NULL != c);
1706   block.type = (long) GNUNET_CONTAINER_multihashmap_get (c->apps, key);
1707   if (0 == block.type)
1708   {
1709     GNUNET_break(0);
1710     return GNUNET_YES;
1711   }
1712   block.type = htonl (block.type);
1713
1714   GNUNET_break (NULL != 
1715                 GNUNET_DHT_put (dht_handle, key,
1716                                 dht_replication_level,
1717                                 GNUNET_DHT_RO_RECORD_ROUTE |
1718                                 GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,
1719                                 GNUNET_BLOCK_TYPE_MESH_PEER_BY_TYPE,
1720                                 sizeof (block),
1721                                 (const char *) &block,
1722                                 GNUNET_TIME_relative_to_absolute (GNUNET_TIME_UNIT_HOURS), /* FIXME: this should be an option */
1723                                 app_announce_time, NULL, NULL));
1724   return GNUNET_OK;
1725 }
1726
1727
1728 #if 0
1729 /**
1730  * Function called when the DHT regex put is complete.
1731  *
1732  * @param the 'struct MeshClient' for which we were PUTting
1733  * @param success GNUNET_OK if the PUT was transmitted,
1734  *                GNUNET_NO on timeout,
1735  *                GNUNET_SYSERR on disconnect from service
1736  *                after the PUT message was transmitted
1737  *                (so we don't know if it was received or not)
1738  */
1739 static void 
1740 announce_regex_done (void *cls,
1741                      int success)
1742 {
1743   struct MeshClient *c = cls;
1744
1745 }
1746 #endif
1747
1748
1749 /**
1750  * Regex callback iterator to store own service description in the DHT.
1751  *
1752  * @param cls closure.
1753  * @param key hash for current state.
1754  * @param proof proof for current state.
1755  * @param accepting GNUNET_YES if this is an accepting state, GNUNET_NO if not.
1756  * @param num_edges number of edges leaving current state.
1757  * @param edges edges leaving current state.
1758  */
1759 static void
1760 regex_iterator (void *cls,
1761                 const struct GNUNET_HashCode *key,
1762                 const char *proof,
1763                 int accepting,
1764                 unsigned int num_edges,
1765                 const struct GNUNET_REGEX_Edge *edges)
1766 {
1767     struct MeshRegexBlock *block;
1768     struct MeshRegexEdge *block_edge;
1769     enum GNUNET_DHT_RouteOption opt;
1770     size_t size;
1771     size_t len;
1772     unsigned int i;
1773     unsigned int offset;
1774     char *aux;
1775
1776     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1777                 "  regex dht put for state %s\n",
1778                 GNUNET_h2s(key));
1779     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1780                 "   proof: %s\n",
1781                 proof);
1782     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1783                 "   num edges: %u\n",
1784                 num_edges);
1785
1786     opt = GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE;
1787     if (GNUNET_YES == accepting)
1788     {
1789         struct MeshRegexAccept block;
1790
1791         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1792                     "   state %s is accepting, putting own id\n",
1793                     GNUNET_h2s(key));
1794         size = sizeof (block);
1795         block.key = *key;
1796         block.id = my_full_id;
1797         GNUNET_STATISTICS_update (stats, "# regex accepting blocks stored",
1798                                   1, GNUNET_NO);
1799         GNUNET_STATISTICS_update (stats, "# regex accepting block bytes stored",
1800                                   sizeof (block), GNUNET_NO);
1801         (void)
1802         GNUNET_DHT_put(dht_handle, key,
1803                        dht_replication_level,
1804                        opt/* | GNUNET_DHT_RO_RECORD_ROUTE*/,
1805                        GNUNET_BLOCK_TYPE_MESH_REGEX_ACCEPT,
1806                        size,
1807                        (char *) &block,
1808                        GNUNET_TIME_relative_to_absolute (GNUNET_TIME_UNIT_HOURS), /* FIXME: expiration time should be option */
1809                        app_announce_time,
1810                        NULL, NULL);
1811     }
1812     len = strlen(proof);
1813     size = sizeof (struct MeshRegexBlock) + len;
1814     block = GNUNET_malloc (size);
1815
1816     block->key = *key;
1817     block->n_proof = htonl (len);
1818     block->n_edges = htonl (num_edges);
1819     block->accepting = htonl (accepting);
1820
1821     /* Store the proof at the end of the block. */
1822     aux = (char *) &block[1];
1823     memcpy (aux, proof, len);
1824     aux = &aux[len];
1825
1826     /* Store each edge in a variable length MeshEdge struct at the
1827      * very end of the MeshRegexBlock structure.
1828      */
1829     for (i = 0; i < num_edges; i++)
1830     {
1831         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1832                     "    edge %s towards %s\n",
1833                     edges[i].label,
1834                     GNUNET_h2s(&edges[i].destination));
1835
1836         /* aux points at the end of the last block */
1837         len = strlen (edges[i].label);
1838         size += sizeof (struct MeshRegexEdge) + len;
1839         // Calculate offset FIXME is this ok? use size instead?
1840         offset = aux - (char *) block;
1841         block = GNUNET_realloc (block, size);
1842         aux = &((char *) block)[offset];
1843         block_edge = (struct MeshRegexEdge *) aux;
1844         block_edge->key = edges[i].destination;
1845         block_edge->n_token = htonl (len);
1846         aux = (char *) &block_edge[1];
1847         memcpy (aux, edges[i].label, len);
1848         aux = &aux[len];
1849     }
1850     (void)
1851     GNUNET_DHT_put(dht_handle, key,
1852                    dht_replication_level,
1853                    opt,
1854                    GNUNET_BLOCK_TYPE_MESH_REGEX, size,
1855                    (char *) block,
1856                    GNUNET_TIME_relative_to_absolute (GNUNET_TIME_UNIT_HOURS), /* FIXME: this should be an option */
1857                    app_announce_time,
1858                    NULL, NULL);
1859     GNUNET_STATISTICS_update (stats, "# regex blocks stored",
1860                               1, GNUNET_NO);
1861     GNUNET_STATISTICS_update (stats, "# regex block bytes stored",
1862                               size, GNUNET_NO);
1863     
1864     GNUNET_free (block);
1865 }
1866
1867
1868 /**
1869  * Store the regular expression describing a local service into the DHT.
1870  *
1871  * @param regex The regular expresion.
1872  */
1873 static void
1874 regex_put (struct MeshRegexDescriptor *regex)
1875 {
1876   if (NULL == regex->dfa)
1877   {
1878     regex->dfa = GNUNET_REGEX_construct_dfa (regex->regex,
1879                                              strlen (regex->regex),
1880                                              regex->compression);
1881   }
1882
1883   DEBUG_DHT ("  regex_put (%s) start\n", regex->regex);
1884   GNUNET_REGEX_iterate_all_edges (regex->dfa, &regex_iterator, NULL);
1885   DEBUG_DHT ("  regex_put (%s) end\n", regex->regex);
1886 }
1887
1888
1889 /**
1890  * Periodically announce what applications are provided by local clients
1891  * (by regex)
1892  *
1893  * @param cls closure
1894  * @param tc task context
1895  */
1896 static void
1897 announce_regex (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1898 {
1899   struct MeshClient *c = cls;
1900   unsigned int i;
1901
1902   c->regex_announce_task = GNUNET_SCHEDULER_NO_TASK;
1903   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1904     return;
1905   DEBUG_DHT ("Starting PUT for regex\n");
1906   for (i = 0; i < c->n_regex; i++)
1907     regex_put (&c->regexes[i]);
1908   c->regex_announce_task = GNUNET_SCHEDULER_add_delayed (app_announce_time,
1909                                                          &announce_regex,
1910                                                          cls);
1911   DEBUG_DHT ("Finished PUT for regex\n");
1912 }
1913
1914
1915 /**
1916  * Periodically announce what applications are provided by local clients
1917  * (by type)
1918  *
1919  * @param cls closure
1920  * @param tc task context
1921  */
1922 static void
1923 announce_applications (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1924 {
1925   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1926   {
1927     announce_applications_task = GNUNET_SCHEDULER_NO_TASK;
1928     return;
1929   }
1930  
1931   DEBUG_DHT ("Starting PUT for apps\n");
1932
1933   GNUNET_CONTAINER_multihashmap_iterate (applications, &announce_application,
1934                                          NULL);
1935   announce_applications_task =
1936       GNUNET_SCHEDULER_add_delayed (app_announce_time, &announce_applications,
1937                                     cls);
1938   DEBUG_DHT ("Finished PUT for apps\n");
1939 }
1940
1941
1942 /**
1943  * Periodically announce self id in the DHT
1944  *
1945  * @param cls closure
1946  * @param tc task context
1947  */
1948 static void
1949 announce_id (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1950 {
1951   struct PBlock block;
1952
1953   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1954   {
1955     announce_id_task = GNUNET_SCHEDULER_NO_TASK;
1956     return;
1957   }
1958   /* TODO
1959    * - Set data expiration in function of X
1960    * - Adapt X to churn
1961    */
1962   DEBUG_DHT ("DHT_put for ID %s started.\n", GNUNET_i2s (&my_full_id));
1963
1964   block.id = my_full_id;
1965   block.type = htonl (0);
1966   GNUNET_DHT_put (dht_handle,   /* DHT handle */
1967                   &my_full_id.hashPubKey,       /* Key to use */
1968                   dht_replication_level,     /* Replication level */
1969                   GNUNET_DHT_RO_RECORD_ROUTE | GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,    /* DHT options */
1970                   GNUNET_BLOCK_TYPE_MESH_PEER,       /* Block type */
1971                   sizeof (block),  /* Size of the data */
1972                   (const char *) &block, /* Data itself */
1973                   GNUNET_TIME_UNIT_FOREVER_ABS,  /* Data expiration */
1974                   GNUNET_TIME_UNIT_FOREVER_REL, /* Retry time */
1975                   NULL,         /* Continuation */
1976                   NULL);        /* Continuation closure */
1977   announce_id_task =
1978       GNUNET_SCHEDULER_add_delayed (id_announce_time, &announce_id, cls);
1979 }
1980
1981
1982 /******************************************************************************/
1983 /******************      GENERAL HELPER FUNCTIONS      ************************/
1984 /******************************************************************************/
1985
1986 /**
1987  * Decrements the reference counter and frees all resources if needed
1988  *
1989  * @param mesh_data Data Descriptor used in a multicast message.
1990  *                  Freed no longer needed (last message).
1991  */
1992 static void
1993 data_descriptor_decrement_rc (struct MeshData *mesh_data)
1994 {
1995   if (0 == --(mesh_data->reference_counter))
1996   {
1997     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Last copy!\n");
1998     GNUNET_free (mesh_data->data);
1999     GNUNET_free (mesh_data);
2000   }
2001 }
2002
2003
2004 /**
2005  * Check if client has registered with the service and has not disconnected
2006  *
2007  * @param client the client to check
2008  *
2009  * @return non-NULL if client exists in the global DLL
2010  */
2011 static struct MeshClient *
2012 client_get (struct GNUNET_SERVER_Client *client)
2013 {
2014   struct MeshClient *c;
2015
2016   c = clients;
2017   while (NULL != c)
2018   {
2019     if (c->handle == client)
2020       return c;
2021     c = c->next;
2022   }
2023   return NULL;
2024 }
2025
2026
2027 /**
2028  * Checks if a given client has subscribed to certain message type
2029  *
2030  * @param message_type Type of message to check
2031  * @param c Client to check
2032  *
2033  * @return GNUNET_YES or GNUNET_NO, depending on subscription status
2034  * 
2035  * FIXME: use of crypto_hash slows it down
2036  *  The hash function alone takes 8-10us out of the ~55us for the whole
2037  * process of retransmitting the message from one local client to another.
2038  * Find faster implementation!
2039  */
2040 static int
2041 client_is_subscribed (uint16_t message_type, struct MeshClient *c)
2042 {
2043   struct GNUNET_HashCode hc;
2044
2045   if (NULL == c->types)
2046     return GNUNET_NO;
2047
2048   GNUNET_CRYPTO_hash (&message_type, sizeof (uint16_t), &hc);
2049   return GNUNET_CONTAINER_multihashmap_contains (c->types, &hc);
2050 }
2051
2052
2053 /**
2054  * Check whether client wants traffic from a tunnel.
2055  *
2056  * @param c Client to check.
2057  * @param t Tunnel to be found.
2058  *
2059  * @return GNUNET_YES if client knows tunnel.
2060  * 
2061  * TODO look in client hashmap
2062  */
2063 static int
2064 client_wants_tunnel (struct MeshClient *c, struct MeshTunnel *t)
2065 {
2066   unsigned int i;
2067
2068   for (i = 0; i < t->nclients; i++)
2069     if (t->clients[i] == c)
2070       return GNUNET_YES;
2071   return GNUNET_NO;
2072 }
2073
2074
2075 /**
2076  * Check whether client has been informed about a tunnel.
2077  *
2078  * @param c Client to check.
2079  * @param t Tunnel to be found.
2080  *
2081  * @return GNUNET_YES if client knows tunnel.
2082  * 
2083  * TODO look in client hashmap
2084  */
2085 static int
2086 client_knows_tunnel (struct MeshClient *c, struct MeshTunnel *t)
2087 {
2088   unsigned int i;
2089
2090   for (i = 0; i < t->nignore; i++)
2091     if (t->ignore[i] == c)
2092       return GNUNET_YES;
2093   return client_wants_tunnel(c, t);
2094 }
2095
2096
2097 /**
2098  * Marks a client as uninterested in traffic from the tunnel, updating both
2099  * client and tunnel to reflect this.
2100  *
2101  * @param c Client that doesn't want traffic anymore.
2102  * @param t Tunnel which should be ignored.
2103  *
2104  * FIXME when to delete an incoming tunnel?
2105  */
2106 static void
2107 client_ignore_tunnel (struct MeshClient *c, struct MeshTunnel *t)
2108 {
2109   struct GNUNET_HashCode hash;
2110
2111   GNUNET_CRYPTO_hash (&t->local_tid_dest, sizeof (MESH_TunnelNumber), &hash);
2112   GNUNET_break (GNUNET_YES ==
2113                 GNUNET_CONTAINER_multihashmap_remove (c->incoming_tunnels,
2114                                                       &hash, t));
2115   GNUNET_break (GNUNET_YES ==
2116                 GNUNET_CONTAINER_multihashmap_put (c->ignore_tunnels, &hash, t,
2117                                                    GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST));
2118   tunnel_delete_active_client (t, c);
2119   GNUNET_array_append (t->ignore, t->nignore, c);
2120 }
2121
2122
2123 /**
2124  * Deletes a tunnel from a client (either owner or destination). To be used on
2125  * tunnel destroy, otherwise, use client_ignore_tunnel.
2126  *
2127  * @param c Client whose tunnel to delete.
2128  * @param t Tunnel which should be deleted.
2129  */
2130 static void
2131 client_delete_tunnel (struct MeshClient *c, struct MeshTunnel *t)
2132 {
2133   struct GNUNET_HashCode hash;
2134
2135   if (c == t->owner)
2136   {
2137     GNUNET_CRYPTO_hash(&t->local_tid, sizeof (MESH_TunnelNumber), &hash);
2138     GNUNET_assert (GNUNET_YES ==
2139                    GNUNET_CONTAINER_multihashmap_remove (c->own_tunnels,
2140                                                          &hash,
2141                                                          t));
2142   }
2143   else
2144   {
2145     GNUNET_CRYPTO_hash(&t->local_tid_dest, sizeof (MESH_TunnelNumber), &hash);
2146     // FIXME XOR?
2147     GNUNET_assert (GNUNET_YES ==
2148                    GNUNET_CONTAINER_multihashmap_remove (c->incoming_tunnels,
2149                                                          &hash,
2150                                                          t) ||
2151                    GNUNET_YES ==
2152                    GNUNET_CONTAINER_multihashmap_remove (c->ignore_tunnels,
2153                                                          &hash,
2154                                                          t));
2155   }
2156 }
2157
2158
2159 /**
2160  * Send the message to all clients that have subscribed to its type
2161  *
2162  * @param msg Pointer to the message itself
2163  * @param payload Pointer to the payload of the message.
2164  * @param t The tunnel to whose clients this message goes.
2165  * 
2166  * @return number of clients this message was sent to
2167  */
2168 static unsigned int
2169 send_subscribed_clients (const struct GNUNET_MessageHeader *msg,
2170                          const struct GNUNET_MessageHeader *payload,
2171                          struct MeshTunnel *t)
2172 {
2173   struct MeshClient *c;
2174   MESH_TunnelNumber *tid;
2175   unsigned int count;
2176   uint16_t type;
2177   char cbuf[htons (msg->size)];
2178
2179   type = ntohs (payload->type);
2180   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Sending to clients...\n");
2181   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "message of type %s\n",
2182               GNUNET_MESH_DEBUG_M2S (type));
2183
2184   memcpy (cbuf, msg, sizeof (cbuf));
2185   switch (htons (msg->type))
2186   {
2187     struct GNUNET_MESH_Unicast *uc;
2188     struct GNUNET_MESH_Multicast *mc;
2189     struct GNUNET_MESH_ToOrigin *to;
2190
2191     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2192       uc = (struct GNUNET_MESH_Unicast *) cbuf;
2193       tid = &uc->tid;
2194       break;
2195     case GNUNET_MESSAGE_TYPE_MESH_MULTICAST:
2196       mc = (struct GNUNET_MESH_Multicast *) cbuf;
2197       tid = &mc->tid;
2198       break;
2199     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2200       to = (struct GNUNET_MESH_ToOrigin *) cbuf;
2201       tid = &to->tid;
2202       break;
2203     default:
2204       GNUNET_break (0);
2205       return 0;
2206   }
2207
2208   for (count = 0, c = clients; c != NULL; c = c->next)
2209   {
2210     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   client %u\n", c->id);
2211     if (client_is_subscribed (type, c))
2212     {
2213       if (htons (msg->type) == GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN)
2214       {
2215         if (c != t->owner)
2216           continue;
2217         *tid = htonl (t->local_tid);
2218       }
2219       else
2220       {
2221         if (GNUNET_NO == client_knows_tunnel (c, t))
2222         {
2223           /* This client doesn't know the tunnel */
2224           struct GNUNET_MESH_TunnelNotification tmsg;
2225           struct GNUNET_HashCode hash;
2226
2227           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "     sending tunnel create\n");
2228           tmsg.header.size = htons (sizeof (tmsg));
2229           tmsg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_CREATE);
2230           GNUNET_PEER_resolve (t->id.oid, &tmsg.peer);
2231           tmsg.tunnel_id = htonl (t->local_tid_dest);
2232           tmsg.opt = 0;
2233           if (GNUNET_YES == t->speed_min)
2234             tmsg.opt |= MESH_TUNNEL_OPT_SPEED_MIN;
2235           if (GNUNET_YES == t->nobuffer)
2236             tmsg.opt |= MESH_TUNNEL_OPT_NOBUFFER;
2237           GNUNET_SERVER_notification_context_unicast (nc, c->handle,
2238                                                       &tmsg.header, GNUNET_NO);
2239           tunnel_add_client (t, c);
2240           GNUNET_CRYPTO_hash (&t->local_tid_dest, sizeof (MESH_TunnelNumber),
2241                               &hash);
2242           GNUNET_break (GNUNET_OK == GNUNET_CONTAINER_multihashmap_put (
2243                                        c->incoming_tunnels, &hash, t,
2244                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST));
2245         }
2246         *tid = htonl (t->local_tid_dest);
2247       }
2248
2249       /* Check if the client wants to get traffic from the tunnel */
2250       if (GNUNET_NO == client_wants_tunnel(c, t))
2251         continue;
2252       count++;
2253       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "     sending\n");
2254       GNUNET_SERVER_notification_context_unicast (nc, c->handle,
2255                                                   (struct GNUNET_MessageHeader
2256                                                    *) cbuf, GNUNET_NO);
2257     }
2258   }
2259
2260   return count;
2261 }
2262
2263
2264 /**
2265  * Notify the client that owns the tunnel that a peer has connected to it
2266  * (the requested path to it has been confirmed).
2267  *
2268  * @param t Tunnel whose owner to notify
2269  * @param id Short id of the peer that has connected
2270  */
2271 static void
2272 send_client_peer_connected (const struct MeshTunnel *t, const GNUNET_PEER_Id id)
2273 {
2274   struct GNUNET_MESH_PeerControl pc;
2275
2276   if (NULL == t->owner || GNUNET_YES == t->destroy)
2277     return;
2278
2279   pc.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_PEER_ADD);
2280   pc.header.size = htons (sizeof (struct GNUNET_MESH_PeerControl));
2281   pc.tunnel_id = htonl (t->local_tid);
2282   GNUNET_PEER_resolve (id, &pc.peer);
2283   GNUNET_SERVER_notification_context_unicast (nc, t->owner->handle, &pc.header,
2284                                               GNUNET_NO);
2285 }
2286
2287
2288 /**
2289  * Notify all clients (not depending on registration status) that the incoming
2290  * tunnel is no longer valid.
2291  *
2292  * @param t Tunnel that was destroyed.
2293  */
2294 static void
2295 send_clients_tunnel_destroy (struct MeshTunnel *t)
2296 {
2297   struct GNUNET_MESH_TunnelMessage msg;
2298
2299   msg.header.size = htons (sizeof (msg));
2300   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_DESTROY);
2301   msg.tunnel_id = htonl (t->local_tid_dest);
2302   GNUNET_SERVER_notification_context_broadcast (nc, &msg.header, GNUNET_NO);
2303 }
2304
2305
2306 /**
2307  * Notify clients of tunnel disconnections, if needed.
2308  * In case the origin disconnects, the destination clients get a tunnel destroy
2309  * notification. If the last destination disconnects (only one remaining client
2310  * in tunnel), the origin gets a (local ID) peer disconnected.
2311  * Note that the function must be called BEFORE removing the client from
2312  * the tunnel.
2313  *
2314  * @param t Tunnel that was destroyed.
2315  * @param c Client that disconnected.
2316  */
2317 static void
2318 send_client_tunnel_disconnect (struct MeshTunnel *t, struct MeshClient *c)
2319 {
2320   unsigned int i;
2321
2322   if (c == t->owner)
2323   {
2324     struct GNUNET_MESH_TunnelMessage msg;
2325
2326     msg.header.size = htons (sizeof (msg));
2327     msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_DESTROY);
2328     msg.tunnel_id = htonl (t->local_tid_dest);
2329     for (i = 0; i < t->nclients; i++)
2330       GNUNET_SERVER_notification_context_unicast (nc, t->clients[i]->handle,
2331                                                   &msg.header, GNUNET_NO);
2332   }
2333   // FIXME when to disconnect an incoming tunnel?
2334   else if (1 == t->nclients && NULL != t->owner)
2335   {
2336     struct GNUNET_MESH_PeerControl msg;
2337
2338     msg.header.size = htons (sizeof (msg));
2339     msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_PEER_DEL);
2340     msg.tunnel_id = htonl (t->local_tid);
2341     msg.peer = my_full_id;
2342     GNUNET_SERVER_notification_context_unicast (nc, t->owner->handle,
2343                                                 &msg.header, GNUNET_NO);
2344   }
2345 }
2346
2347
2348 /**
2349  * Iterator over all the peers to remove the oldest not-used entry.
2350  *
2351  * @param cls Closure (unsued).
2352  * @param key ID of the peer.
2353  * @param value Peer_Info of the peer.
2354  *
2355  * FIXME implement
2356  */
2357 static int
2358 peer_info_timeout (void *cls,
2359                    const struct GNUNET_HashCode *key,
2360                    void *value)
2361 {
2362   return GNUNET_YES;
2363 }
2364
2365 /**
2366  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
2367  * and insert it in the appropiate structures if the peer is not known yet.
2368  *
2369  * @param peer Full identity of the peer.
2370  *
2371  * @return Existing or newly created peer info.
2372  */
2373 static struct MeshPeerInfo *
2374 peer_info_get (const struct GNUNET_PeerIdentity *peer)
2375 {
2376   struct MeshPeerInfo *peer_info;
2377
2378   peer_info = GNUNET_CONTAINER_multihashmap_get (peers, &peer->hashPubKey);
2379   if (NULL == peer_info)
2380   {
2381     peer_info =
2382         (struct MeshPeerInfo *) GNUNET_malloc (sizeof (struct MeshPeerInfo));
2383     if (GNUNET_CONTAINER_multihashmap_size (peers) > max_peers)
2384     {
2385       GNUNET_CONTAINER_multihashmap_iterate (peers,
2386                                              &peer_info_timeout,
2387                                              NULL);
2388     }
2389     GNUNET_CONTAINER_multihashmap_put (peers, &peer->hashPubKey, peer_info,
2390                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
2391     peer_info->id = GNUNET_PEER_intern (peer);
2392   }
2393   peer_info->last_contact = GNUNET_TIME_absolute_get();
2394
2395   return peer_info;
2396 }
2397
2398
2399 /**
2400  * Retrieve the MeshPeerInfo stucture associated with the peer, create one
2401  * and insert it in the appropiate structures if the peer is not known yet.
2402  *
2403  * @param peer Short identity of the peer.
2404  *
2405  * @return Existing or newly created peer info.
2406  */
2407 static struct MeshPeerInfo *
2408 peer_info_get_short (const GNUNET_PEER_Id peer)
2409 {
2410   struct GNUNET_PeerIdentity id;
2411
2412   GNUNET_PEER_resolve (peer, &id);
2413   return peer_info_get (&id);
2414 }
2415
2416
2417 /**
2418  * Iterator to remove the tunnel from the list of tunnels a peer participates
2419  * in.
2420  *
2421  * @param cls Closure (tunnel info)
2422  * @param key GNUNET_PeerIdentity of the peer (unused)
2423  * @param value PeerInfo of the peer
2424  *
2425  * @return always GNUNET_YES, to keep iterating
2426  */
2427 static int
2428 peer_info_delete_tunnel (void *cls, const struct GNUNET_HashCode * key, void *value)
2429 {
2430   struct MeshTunnel *t = cls;
2431   struct MeshPeerInfo *peer = value;
2432   unsigned int i;
2433
2434   for (i = 0; i < peer->ntunnels; i++)
2435   {
2436     if (0 ==
2437         memcmp (&peer->tunnels[i]->id, &t->id, sizeof (struct MESH_TunnelID)))
2438     {
2439       peer->ntunnels--;
2440       peer->tunnels[i] = peer->tunnels[peer->ntunnels];
2441       peer->tunnels = GNUNET_realloc (peer->tunnels, peer->ntunnels);
2442       return GNUNET_YES;
2443     }
2444   }
2445   return GNUNET_YES;
2446 }
2447
2448
2449 /**
2450   * Core callback to write a pre-constructed data packet to core buffer
2451   *
2452   * @param cls Closure (MeshTransmissionDescriptor with data in "data" member).
2453   * @param size Number of bytes available in buf.
2454   * @param buf Where the to write the message.
2455   *
2456   * @return number of bytes written to buf
2457   */
2458 static size_t
2459 send_core_data_raw (void *cls, size_t size, void *buf)
2460 {
2461   struct MeshTransmissionDescriptor *info = cls;
2462   struct GNUNET_MessageHeader *msg;
2463   size_t total_size;
2464
2465   GNUNET_assert (NULL != info);
2466   GNUNET_assert (NULL != info->mesh_data);
2467   msg = (struct GNUNET_MessageHeader *) info->mesh_data->data;
2468   total_size = ntohs (msg->size);
2469
2470   if (total_size > size)
2471   {
2472     GNUNET_break (0);
2473     return 0;
2474   }
2475   memcpy (buf, msg, total_size);
2476   data_descriptor_decrement_rc (info->mesh_data);
2477   GNUNET_free (info);
2478   return total_size;
2479 }
2480
2481
2482 /**
2483  * Sends an already built non-multicast message to a peer,
2484  * properly registrating all used resources.
2485  *
2486  * @param message Message to send. Function makes a copy of it.
2487  * @param peer Short ID of the neighbor whom to send the message.
2488  * @param t Tunnel on which this message is transmitted.
2489  */
2490 static void
2491 send_prebuilt_message (const struct GNUNET_MessageHeader *message,
2492                        const struct GNUNET_PeerIdentity *peer,
2493                        struct MeshTunnel *t)
2494 {
2495   struct MeshTransmissionDescriptor *info;
2496   struct MeshPeerInfo *neighbor;
2497   struct MeshPeerPath *p;
2498   size_t size;
2499   uint16_t type;
2500
2501 //   GNUNET_TRANSPORT_try_connect(); FIXME use?
2502
2503   size = ntohs (message->size);
2504   info = GNUNET_malloc (sizeof (struct MeshTransmissionDescriptor));
2505   info->mesh_data = GNUNET_malloc (sizeof (struct MeshData));
2506   info->mesh_data->data = GNUNET_malloc (size);
2507   memcpy (info->mesh_data->data, message, size);
2508   type = ntohs(message->type);
2509   switch (type)
2510   {
2511     struct GNUNET_MESH_Unicast *m;
2512     struct GNUNET_MESH_ToOrigin *to;
2513
2514     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
2515       m = (struct GNUNET_MESH_Unicast *) info->mesh_data->data;
2516       m->ttl = htonl (ntohl (m->ttl) - 1);
2517       break;
2518     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
2519       to = (struct GNUNET_MESH_ToOrigin *) info->mesh_data->data;
2520       t->bck_pid++;
2521       to->pid = htonl(t->bck_pid);
2522   }
2523   info->mesh_data->data_len = size;
2524   info->mesh_data->reference_counter = 1;
2525   info->mesh_data->total_out = 1;
2526   neighbor = peer_info_get (peer);
2527   for (p = neighbor->path_head; NULL != p; p = p->next)
2528   {
2529     if (2 >= p->length)
2530     {
2531       break;
2532     }
2533   }
2534   if (NULL == p)
2535   {
2536 #if MESH_DEBUG
2537     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2538                 "  %s IS NOT DIRECTLY CONNECTED\n",
2539                 GNUNET_i2s(peer));
2540     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2541                 "  PATHS TO %s:\n",
2542                 GNUNET_i2s(peer));
2543     for (p = neighbor->path_head; NULL != p; p = p->next)
2544     {
2545       struct GNUNET_PeerIdentity debug_id;
2546       unsigned int i;
2547
2548       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2549                   "    path with %u hops through:\n",
2550                   p->length);
2551       for (i = 0; i < p->length; i++)
2552       {
2553         GNUNET_PEER_resolve(p->peers[i], &debug_id);
2554         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2555                     "      hop %u: %s\n",
2556                     i, GNUNET_i2s(&debug_id));
2557       }
2558     }
2559 #endif
2560     GNUNET_break (0); // FIXME sometimes fails (testing disconnect?)
2561     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
2562                     " no direct connection to %s\n",
2563                     GNUNET_i2s (peer));
2564     GNUNET_free (info->mesh_data->data);
2565     GNUNET_free (info->mesh_data);
2566     GNUNET_free (info);
2567     return;
2568   }
2569   info->peer = neighbor;
2570   if (GNUNET_MESSAGE_TYPE_MESH_PATH_ACK == type)
2571     type = 0;
2572   queue_add (info,
2573              type,
2574              size,
2575              neighbor,
2576              t);
2577 }
2578
2579
2580 /**
2581  * Sends a CREATE PATH message for a path to a peer, properly registrating
2582  * all used resources.
2583  *
2584  * @param peer PeerInfo of the final peer for whom this path is being created.
2585  * @param p Path itself.
2586  * @param t Tunnel for which the path is created.
2587  */
2588 static void
2589 send_create_path (struct MeshPeerInfo *peer, struct MeshPeerPath *p,
2590                   struct MeshTunnel *t)
2591 {
2592   struct GNUNET_PeerIdentity id;
2593   struct MeshPathInfo *path_info;
2594   struct MeshPeerInfo *neighbor;
2595
2596   unsigned int i;
2597
2598   if (NULL == p)
2599   {
2600     p = tree_get_path_to_peer (t->tree, peer->id);
2601     if (NULL == p)
2602     {
2603       GNUNET_break (0);
2604       return;
2605     }
2606   }
2607   for (i = 0; i < p->length; i++)
2608   {
2609     if (p->peers[i] == myid)
2610       break;
2611   }
2612   if (i >= p->length - 1)
2613   {
2614     path_destroy (p);
2615     GNUNET_break (0);
2616     return;
2617   }
2618   GNUNET_PEER_resolve (p->peers[i + 1], &id);
2619
2620   path_info = GNUNET_malloc (sizeof (struct MeshPathInfo));
2621   path_info->path = p;
2622   path_info->t = t;
2623   neighbor = peer_info_get (&id);
2624   path_info->peer = neighbor;
2625   queue_add (path_info,
2626              GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE,
2627              sizeof (struct GNUNET_MESH_ManipulatePath) +
2628                 (p->length * sizeof (struct GNUNET_PeerIdentity)),
2629              neighbor,
2630              t);
2631 }
2632
2633
2634 /**
2635  * Sends a DESTROY PATH message to free resources for a path in a tunnel
2636  *
2637  * @param t Tunnel whose path to destroy.
2638  * @param destination Short ID of the peer to whom the path to destroy.
2639  */
2640 static void
2641 send_destroy_path (struct MeshTunnel *t, GNUNET_PEER_Id destination)
2642 {
2643   struct MeshPeerPath *p;
2644   size_t size;
2645
2646   p = tree_get_path_to_peer (t->tree, destination);
2647   if (NULL == p)
2648   {
2649     GNUNET_break (0);
2650     return;
2651   }
2652   size = sizeof (struct GNUNET_MESH_ManipulatePath);
2653   size += p->length * sizeof (struct GNUNET_PeerIdentity);
2654   {
2655     struct GNUNET_MESH_ManipulatePath *msg;
2656     struct GNUNET_PeerIdentity *pi;
2657     char cbuf[size];
2658     unsigned int i;
2659
2660     msg = (struct GNUNET_MESH_ManipulatePath *) cbuf;
2661     msg->header.size = htons (size);
2662     msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_DESTROY);
2663     msg->tid = htonl (t->id.tid);
2664     pi = (struct GNUNET_PeerIdentity *) &msg[1];
2665     for (i = 0; i < p->length; i++)
2666     {
2667       GNUNET_PEER_resolve (p->peers[i], &pi[i]);
2668     }
2669     send_prebuilt_message (&msg->header, tree_get_first_hop (t->tree, destination), t);
2670   }
2671   path_destroy (p);
2672 }
2673
2674
2675 /**
2676  * Sends a PATH ACK message in reponse to a received PATH_CREATE directed to us.
2677  *
2678  * @param t Tunnel which to confirm.
2679  */
2680 static void
2681 send_path_ack (struct MeshTunnel *t) 
2682 {
2683   struct MeshTransmissionDescriptor *info;
2684   struct GNUNET_PeerIdentity id;
2685   GNUNET_PEER_Id peer;
2686
2687   peer = tree_get_predecessor (t->tree);
2688   GNUNET_PEER_resolve (peer, &id);
2689   info = GNUNET_malloc (sizeof (struct MeshTransmissionDescriptor));
2690   info->origin = &t->id;
2691   info->peer = GNUNET_CONTAINER_multihashmap_get (peers, &id.hashPubKey);
2692   GNUNET_assert (NULL != info->peer);
2693
2694   queue_add (info,
2695              GNUNET_MESSAGE_TYPE_MESH_PATH_ACK,
2696              sizeof (struct GNUNET_MESH_PathACK),
2697              info->peer,
2698              t);
2699 }
2700
2701
2702 /**
2703  * Try to establish a new connection to this peer.
2704  * Use the best path for the given tunnel.
2705  * If the peer doesn't have any path to it yet, try to get one.
2706  * If the peer already has some path, send a CREATE PATH towards it.
2707  *
2708  * @param peer PeerInfo of the peer.
2709  * @param t Tunnel for which to create the path, if possible.
2710  */
2711 static void
2712 peer_info_connect (struct MeshPeerInfo *peer, struct MeshTunnel *t)
2713 {
2714   struct MeshPeerPath *p;
2715   struct MeshPathInfo *path_info;
2716
2717   if (NULL != peer->path_head)
2718   {
2719     p = tree_get_path_to_peer (t->tree, peer->id);
2720     if (NULL == p)
2721     {
2722       GNUNET_break (0);
2723       return;
2724     }
2725
2726     // FIXME always send create path to self
2727     if (p->length > 1)
2728     {
2729       send_create_path (peer, p, t);
2730     }
2731     else
2732     {
2733       struct GNUNET_HashCode hash;
2734
2735       path_destroy (p);
2736       send_client_peer_connected (t, myid);
2737       t->local_tid_dest = next_local_tid++;
2738       GNUNET_CRYPTO_hash (&t->local_tid_dest, sizeof (MESH_TunnelNumber),
2739                           &hash);
2740       if (GNUNET_OK !=
2741           GNUNET_CONTAINER_multihashmap_put (incoming_tunnels, &hash, t,
2742                                              GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST))
2743       {
2744         GNUNET_break (0);
2745         return;
2746       }
2747     }
2748   }
2749   else if (NULL == peer->dhtget)
2750   {
2751     struct GNUNET_PeerIdentity id;
2752
2753     GNUNET_PEER_resolve (peer->id, &id);
2754     path_info = GNUNET_malloc (sizeof (struct MeshPathInfo));
2755     path_info->peer = peer;
2756     path_info->t = t;
2757     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2758                 "  Starting DHT GET for peer %s\n", GNUNET_i2s (&id));
2759     peer->dhtgetcls = path_info;
2760     peer->dhtget = GNUNET_DHT_get_start (dht_handle,    /* handle */
2761                                          GNUNET_BLOCK_TYPE_MESH_PEER, /* type */
2762                                          &id.hashPubKey,     /* key to search */
2763                                          dht_replication_level, /* replication level */
2764                                          GNUNET_DHT_RO_RECORD_ROUTE |
2765                                          GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,
2766                                          NULL,       /* xquery */ // FIXME BLOOMFILTER
2767                                          0,     /* xquery bits */ // FIXME BLOOMFILTER SIZE
2768                                          &dht_get_id_handler, path_info);
2769   }
2770   /* Otherwise, there is no path but the DHT get is already started. */
2771 }
2772
2773
2774 /**
2775  * Task to delay the connection of a peer
2776  *
2777  * @param cls Closure (path info with tunnel and peer to connect).
2778  *            Will be free'd on exection.
2779  * @param tc TaskContext
2780  */
2781 static void
2782 peer_info_connect_task (void *cls,
2783                         const struct GNUNET_SCHEDULER_TaskContext *tc)
2784 {
2785   struct MeshPathInfo *path_info = cls;
2786
2787   path_info->peer->connect_task = GNUNET_SCHEDULER_NO_TASK;
2788
2789   if (0 != (GNUNET_SCHEDULER_REASON_SHUTDOWN & tc->reason))
2790   {
2791     GNUNET_free (cls);
2792     return;
2793   }
2794   peer_info_connect (path_info->peer, path_info->t);
2795   GNUNET_free (cls);
2796 }
2797
2798
2799 /**
2800  * Destroy the peer_info and free any allocated resources linked to it
2801  *
2802  * @param pi The peer_info to destroy.
2803  *
2804  * @return GNUNET_OK on success
2805  */
2806 static int
2807 peer_info_destroy (struct MeshPeerInfo *pi)
2808 {
2809   struct GNUNET_PeerIdentity id;
2810   struct MeshPeerPath *p;
2811   struct MeshPeerPath *nextp;
2812
2813   GNUNET_PEER_resolve (pi->id, &id);
2814   GNUNET_PEER_change_rc (pi->id, -1);
2815
2816   if (GNUNET_YES !=
2817       GNUNET_CONTAINER_multihashmap_remove (peers, &id.hashPubKey, pi))
2818   {
2819     GNUNET_break (0);
2820     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
2821                 "removing peer %s, not in hashmap\n", GNUNET_i2s (&id));
2822   }
2823   if (NULL != pi->dhtget)
2824   {
2825     GNUNET_DHT_get_stop (pi->dhtget);
2826     GNUNET_free (pi->dhtgetcls);
2827   }
2828   p = pi->path_head;
2829   while (NULL != p)
2830   {
2831     nextp = p->next;
2832     GNUNET_CONTAINER_DLL_remove (pi->path_head, pi->path_tail, p);
2833     path_destroy (p);
2834     p = nextp;
2835   }
2836   if (GNUNET_SCHEDULER_NO_TASK != pi->connect_task)
2837   {
2838     GNUNET_free (GNUNET_SCHEDULER_cancel (pi->connect_task));
2839   }
2840   GNUNET_free (pi);
2841   return GNUNET_OK;
2842 }
2843
2844
2845 /**
2846  * Remove all paths that rely on a direct connection between p1 and p2
2847  * from the peer itself and notify all tunnels about it.
2848  *
2849  * @param peer PeerInfo of affected peer.
2850  * @param p1 GNUNET_PEER_Id of one peer.
2851  * @param p2 GNUNET_PEER_Id of another peer that was connected to the first and
2852  *           no longer is.
2853  *
2854  * TODO: optimize (see below)
2855  */
2856 static void
2857 peer_info_remove_path (struct MeshPeerInfo *peer, GNUNET_PEER_Id p1,
2858                        GNUNET_PEER_Id p2)
2859 {
2860   struct MeshPeerPath *p;
2861   struct MeshPeerPath *aux;
2862   struct MeshPeerInfo *peer_d;
2863   GNUNET_PEER_Id d;
2864   unsigned int destroyed;
2865   unsigned int best;
2866   unsigned int cost;
2867   unsigned int i;
2868
2869   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "peer_info_remove_path\n");
2870   destroyed = 0;
2871   p = peer->path_head;
2872   while (NULL != p)
2873   {
2874     aux = p->next;
2875     for (i = 0; i < (p->length - 1); i++)
2876     {
2877       if ((p->peers[i] == p1 && p->peers[i + 1] == p2) ||
2878           (p->peers[i] == p2 && p->peers[i + 1] == p1))
2879       {
2880         GNUNET_CONTAINER_DLL_remove (peer->path_head, peer->path_tail, p);
2881         path_destroy (p);
2882         destroyed++;
2883         break;
2884       }
2885     }
2886     p = aux;
2887   }
2888   if (0 == destroyed)
2889     return;
2890
2891   for (i = 0; i < peer->ntunnels; i++)
2892   {
2893     d = tunnel_notify_connection_broken (peer->tunnels[i], p1, p2);
2894     if (0 == d)
2895       continue;
2896     /* TODO
2897      * Problem: one or more peers have been deleted from the tunnel tree.
2898      * We don't know who they are to try to add them again.
2899      * We need to try to find a new path for each of the disconnected peers.
2900      * Some of them might already have a path to reach them that does not
2901      * involve p1 and p2. Adding all anew might render in a better tree than
2902      * the trivial immediate fix.
2903      *
2904      * Trivial immiediate fix: try to reconnect to the disconnected node. All
2905      * its children will be reachable trough him.
2906      */
2907     peer_d = peer_info_get_short (d);
2908     best = UINT_MAX;
2909     aux = NULL;
2910     for (p = peer_d->path_head; NULL != p; p = p->next)
2911     {
2912       if ((cost = tree_get_path_cost (peer->tunnels[i]->tree, p)) < best)
2913       {
2914         best = cost;
2915         aux = p;
2916       }
2917     }
2918     if (NULL != aux)
2919     {
2920       /* No callback, as peer will be already disconnected and a connection
2921        * scheduled by tunnel_notify_connection_broken.
2922        */
2923       tree_add_path (peer->tunnels[i]->tree, aux, NULL, NULL);
2924     }
2925     else
2926     {
2927       peer_info_connect (peer_d, peer->tunnels[i]);
2928     }
2929   }
2930   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "peer_info_remove_path END\n");
2931 }
2932
2933
2934 /**
2935  * Add the path to the peer and update the path used to reach it in case this
2936  * is the shortest.
2937  *
2938  * @param peer_info Destination peer to add the path to.
2939  * @param path New path to add. Last peer must be the peer in arg 1.
2940  *             Path will be either used of freed if already known.
2941  * @param trusted Do we trust that this path is real?
2942  */
2943 void
2944 peer_info_add_path (struct MeshPeerInfo *peer_info, struct MeshPeerPath *path,
2945                     int trusted)
2946 {
2947   struct MeshPeerPath *aux;
2948   unsigned int l;
2949   unsigned int l2;
2950
2951   if ((NULL == peer_info) || (NULL == path))
2952   {
2953     GNUNET_break (0);
2954     path_destroy (path);
2955     return;
2956   }
2957   if (path->peers[path->length - 1] != peer_info->id)
2958   {
2959     GNUNET_break (0);
2960     path_destroy (path);
2961     return;
2962   }
2963   if (path->length <= 2 && GNUNET_NO == trusted)
2964   {
2965     /* Only allow CORE to tell us about direct paths */
2966     path_destroy (path);
2967     return;
2968   }
2969   GNUNET_assert (peer_info->id == path->peers[path->length - 1]);
2970   for (l = 1; l < path->length; l++)
2971   {
2972     if (path->peers[l] == myid)
2973     {
2974       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shortening path by %u\n", l);
2975       for (l2 = 0; l2 < path->length - l; l2++)
2976       {
2977         path->peers[l2] = path->peers[l + l2];
2978       }
2979       path->length -= l;
2980       l = 1;
2981       path->peers =
2982           GNUNET_realloc (path->peers, path->length * sizeof (GNUNET_PEER_Id));
2983     }
2984   }
2985 #if MESH_DEBUG
2986   {
2987     struct GNUNET_PeerIdentity id;
2988
2989     GNUNET_PEER_resolve (peer_info->id, &id);
2990     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "adding path [%u] to peer %s\n",
2991                 path->length, GNUNET_i2s (&id));
2992   }
2993 #endif
2994   l = path_get_length (path);
2995   if (0 == l)
2996   {
2997     GNUNET_free (path);
2998     return;
2999   }
3000
3001   GNUNET_assert (peer_info->id == path->peers[path->length - 1]);
3002   for (aux = peer_info->path_head; aux != NULL; aux = aux->next)
3003   {
3004     l2 = path_get_length (aux);
3005     if (l2 > l)
3006     {
3007       GNUNET_CONTAINER_DLL_insert_before (peer_info->path_head,
3008                                           peer_info->path_tail, aux, path);
3009       return;
3010     }
3011     else
3012     {
3013       if (l2 == l && memcmp (path->peers, aux->peers, l) == 0)
3014       {
3015         path_destroy (path);
3016         return;
3017       }
3018     }
3019   }
3020   GNUNET_CONTAINER_DLL_insert_tail (peer_info->path_head, peer_info->path_tail,
3021                                     path);
3022   return;
3023 }
3024
3025
3026 /**
3027  * Add the path to the origin peer and update the path used to reach it in case
3028  * this is the shortest.
3029  * The path is given in peer_info -> destination, therefore we turn the path
3030  * upside down first.
3031  *
3032  * @param peer_info Peer to add the path to, being the origin of the path.
3033  * @param path New path to add after being inversed.
3034  * @param trusted Do we trust that this path is real?
3035  */
3036 static void
3037 peer_info_add_path_to_origin (struct MeshPeerInfo *peer_info,
3038                               struct MeshPeerPath *path, int trusted)
3039 {
3040   path_invert (path);
3041   peer_info_add_path (peer_info, path, trusted);
3042 }
3043
3044
3045 /**
3046  * Function called if the connection to the peer has been stalled for a while,
3047  * possibly due to a missed ACK. Poll the peer about its ACK status.
3048  *
3049  * @param cls Closure (cinfo).
3050  * @param tc TaskContext.
3051  */
3052 static void
3053 tunnel_poll (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
3054 {
3055   struct MeshTunnelChildInfo *cinfo = cls;
3056   struct GNUNET_MESH_Poll msg;
3057   struct GNUNET_PeerIdentity id;
3058   struct MeshTunnel *t;
3059
3060   cinfo->fc_poll = GNUNET_SCHEDULER_NO_TASK;
3061   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
3062   {
3063     return;
3064   }
3065
3066   t = cinfo->t;
3067   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_POLL);
3068   msg.header.size = htons (sizeof (msg));
3069   msg.tid = htonl (t->id.tid);
3070   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
3071   msg.last_ack = htonl (cinfo->fwd_ack);
3072
3073   GNUNET_PEER_resolve (cinfo->id, &id);
3074   send_prebuilt_message (&msg.header, &id, cinfo->t);
3075   cinfo->fc_poll_time = GNUNET_TIME_relative_min (
3076     MESH_MAX_POLL_TIME,
3077     GNUNET_TIME_relative_multiply (cinfo->fc_poll_time, 2));
3078   cinfo->fc_poll = GNUNET_SCHEDULER_add_delayed (cinfo->fc_poll_time,
3079                                                  &tunnel_poll, cinfo);
3080 }
3081
3082
3083 /**
3084  * Build a PeerPath from the paths returned from the DHT, reversing the paths
3085  * to obtain a local peer -> destination path and interning the peer ids.
3086  *
3087  * @return Newly allocated and created path
3088  */
3089 static struct MeshPeerPath *
3090 path_build_from_dht (const struct GNUNET_PeerIdentity *get_path,
3091                      unsigned int get_path_length,
3092                      const struct GNUNET_PeerIdentity *put_path,
3093                      unsigned int put_path_length)
3094 {
3095   struct MeshPeerPath *p;
3096   GNUNET_PEER_Id id;
3097   int i;
3098
3099   p = path_new (1);
3100   p->peers[0] = myid;
3101   GNUNET_PEER_change_rc (myid, 1);
3102   i = get_path_length;
3103   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   GET has %d hops.\n", i);
3104   for (i--; i >= 0; i--)
3105   {
3106     id = GNUNET_PEER_intern (&get_path[i]);
3107     if (p->length > 0 && id == p->peers[p->length - 1])
3108     {
3109       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Optimizing 1 hop out.\n");
3110       GNUNET_PEER_change_rc (id, -1);
3111     }
3112     else
3113     {
3114       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Adding from GET: %s.\n",
3115                   GNUNET_i2s (&get_path[i]));
3116       p->length++;
3117       p->peers = GNUNET_realloc (p->peers, sizeof (GNUNET_PEER_Id) * p->length);
3118       p->peers[p->length - 1] = id;
3119     }
3120   }
3121   i = put_path_length;
3122   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   PUT has %d hops.\n", i);
3123   for (i--; i >= 0; i--)
3124   {
3125     id = GNUNET_PEER_intern (&put_path[i]);
3126     if (id == myid)
3127     {
3128       /* PUT path went through us, so discard the path up until now and start
3129        * from here to get a much shorter (and loop-free) path.
3130        */
3131       path_destroy (p);
3132       p = path_new (0);
3133     }
3134     if (p->length > 0 && id == p->peers[p->length - 1])
3135     {
3136       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Optimizing 1 hop out.\n");
3137       GNUNET_PEER_change_rc (id, -1);
3138     }
3139     else
3140     {
3141       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   Adding from PUT: %s.\n",
3142                   GNUNET_i2s (&put_path[i]));
3143       p->length++;
3144       p->peers = GNUNET_realloc (p->peers, sizeof (GNUNET_PEER_Id) * p->length);
3145       p->peers[p->length - 1] = id;
3146     }
3147   }
3148 #if MESH_DEBUG
3149   if (get_path_length > 0)
3150     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (first of GET: %s)\n",
3151                 GNUNET_i2s (&get_path[0]));
3152   if (put_path_length > 0)
3153     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (first of PUT: %s)\n",
3154                 GNUNET_i2s (&put_path[0]));
3155   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   In total: %d hops\n",
3156               p->length);
3157   for (i = 0; i < p->length; i++)
3158   {
3159     struct GNUNET_PeerIdentity peer_id;
3160
3161     GNUNET_PEER_resolve (p->peers[i], &peer_id);
3162     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "       %u: %s\n", p->peers[i],
3163                 GNUNET_i2s (&peer_id));
3164   }
3165 #endif
3166   return p;
3167 }
3168
3169
3170 /**
3171  * Adds a path to the peer_infos of all the peers in the path
3172  *
3173  * @param p Path to process.
3174  * @param confirmed Whether we know if the path works or not.
3175  */
3176 static void
3177 path_add_to_peers (struct MeshPeerPath *p, int confirmed)
3178 {
3179   unsigned int i;
3180
3181   /* TODO: invert and add */
3182   for (i = 0; i < p->length && p->peers[i] != myid; i++) /* skip'em */ ;
3183   for (i++; i < p->length; i++)
3184   {
3185     struct MeshPeerInfo *aux;
3186     struct MeshPeerPath *copy;
3187
3188     aux = peer_info_get_short (p->peers[i]);
3189     copy = path_duplicate (p);
3190     copy->length = i + 1;
3191     peer_info_add_path (aux, copy, GNUNET_NO);
3192   }
3193 }
3194
3195
3196 /**
3197  * Send keepalive packets for a peer
3198  *
3199  * @param cls Closure (tunnel for which to send the keepalive).
3200  * @param tc Notification context.
3201  *
3202  * TODO: implement explicit multicast keepalive?
3203  */
3204 static void
3205 path_refresh (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc);
3206
3207
3208 /**
3209  * Search for a tunnel among the incoming tunnels
3210  *
3211  * @param tid the local id of the tunnel
3212  *
3213  * @return tunnel handler, NULL if doesn't exist
3214  */
3215 static struct MeshTunnel *
3216 tunnel_get_incoming (MESH_TunnelNumber tid)
3217 {
3218   struct GNUNET_HashCode hash;
3219
3220   GNUNET_assert (tid >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV);
3221   GNUNET_CRYPTO_hash (&tid, sizeof (MESH_TunnelNumber), &hash);
3222   return GNUNET_CONTAINER_multihashmap_get (incoming_tunnels, &hash);
3223 }
3224
3225
3226 /**
3227  * Search for a tunnel among the tunnels for a client
3228  *
3229  * @param c the client whose tunnels to search in
3230  * @param tid the local id of the tunnel
3231  *
3232  * @return tunnel handler, NULL if doesn't exist
3233  */
3234 static struct MeshTunnel *
3235 tunnel_get_by_local_id (struct MeshClient *c, MESH_TunnelNumber tid)
3236 {
3237   if (tid >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
3238   {
3239     return tunnel_get_incoming (tid);
3240   }
3241   else
3242   {
3243     struct GNUNET_HashCode hash;
3244
3245     GNUNET_CRYPTO_hash (&tid, sizeof (MESH_TunnelNumber), &hash);
3246     return GNUNET_CONTAINER_multihashmap_get (c->own_tunnels, &hash);
3247   }
3248 }
3249
3250
3251 /**
3252  * Search for a tunnel by global ID using PEER_ID
3253  *
3254  * @param pi owner of the tunnel
3255  * @param tid global tunnel number
3256  *
3257  * @return tunnel handler, NULL if doesn't exist
3258  */
3259 static struct MeshTunnel *
3260 tunnel_get_by_pi (GNUNET_PEER_Id pi, MESH_TunnelNumber tid)
3261 {
3262   struct MESH_TunnelID id;
3263   struct GNUNET_HashCode hash;
3264
3265   id.oid = pi;
3266   id.tid = tid;
3267
3268   GNUNET_CRYPTO_hash (&id, sizeof (struct MESH_TunnelID), &hash);
3269   return GNUNET_CONTAINER_multihashmap_get (tunnels, &hash);
3270 }
3271
3272
3273 /**
3274  * Search for a tunnel by global ID using full PeerIdentities
3275  *
3276  * @param oid owner of the tunnel
3277  * @param tid global tunnel number
3278  *
3279  * @return tunnel handler, NULL if doesn't exist
3280  */
3281 static struct MeshTunnel *
3282 tunnel_get (const struct GNUNET_PeerIdentity *oid, MESH_TunnelNumber tid)
3283 {
3284   return tunnel_get_by_pi (GNUNET_PEER_search (oid), tid);
3285 }
3286
3287
3288 /**
3289  * Delete an active client from the tunnel.
3290  * 
3291  * @param t Tunnel.
3292  * @param c Client.
3293  */
3294 static void
3295 tunnel_delete_active_client (struct MeshTunnel *t, const struct MeshClient *c)
3296 {
3297   unsigned int i;
3298
3299   for (i = 0; i < t->nclients; i++)
3300   {
3301     if (t->clients[i] == c)
3302     {
3303       t->clients[i] = t->clients[t->nclients - 1];
3304       t->clients_fc[i] = t->clients_fc[t->nclients - 1];
3305       GNUNET_array_grow (t->clients, t->nclients, t->nclients - 1);
3306       t->nclients++;
3307       GNUNET_array_grow (t->clients_fc, t->nclients, t->nclients - 1);
3308       break;
3309     }
3310   }
3311 }
3312
3313
3314 /**
3315  * Delete an ignored client from the tunnel.
3316  * 
3317  * @param t Tunnel.
3318  * @param c Client.
3319  */
3320 static void
3321 tunnel_delete_ignored_client (struct MeshTunnel *t, const struct MeshClient *c)
3322 {
3323   unsigned int i;
3324
3325   for (i = 0; i < t->nignore; i++)
3326   {
3327     if (t->ignore[i] == c)
3328     {
3329       t->ignore[i] = t->ignore[t->nignore - 1];
3330       GNUNET_array_grow (t->ignore, t->nignore, t->nignore - 1);
3331       break;
3332     }
3333   }
3334 }
3335
3336
3337 /**
3338  * Delete a client from the tunnel. It should be only done on
3339  * client disconnection, otherwise use client_ignore_tunnel.
3340  * 
3341  * @param t Tunnel.
3342  * @param c Client.
3343  */
3344 static void
3345 tunnel_delete_client (struct MeshTunnel *t, const struct MeshClient *c)
3346 {
3347   tunnel_delete_ignored_client (t, c);
3348   tunnel_delete_active_client (t, c);
3349 }
3350
3351
3352 /**
3353  * @brief Iterator to destroy MeshTunnelChildInfo of tunnel children.
3354  * 
3355  * Destroys queue elements of all waiting transmissions and frees all memory
3356  * used by the struct and its elements.
3357  *
3358  * @param cls Closure (tunnel info).
3359  * @param key Hash of GNUNET_PEER_Id (unused).
3360  * @param value MeshTunnelChildInfo of the child.
3361  *
3362  * @return always GNUNET_YES, to keep iterating
3363  */
3364 static int
3365 tunnel_destroy_child (void *cls,
3366                       const struct GNUNET_HashCode * key,
3367                       void *value)
3368 {
3369   struct MeshTunnelChildInfo *cinfo = value;
3370   struct MeshTunnel *t = cls;
3371   struct MeshPeerQueue *q;
3372   unsigned int c;
3373   unsigned int i;
3374
3375   for (c = 0; c < cinfo->send_buffer_n; c++)
3376   {
3377     i = (cinfo->send_buffer_start + c) % t->fwd_queue_max;
3378     q = cinfo->send_buffer[i];
3379     cinfo->send_buffer[i] = NULL;
3380     if (NULL != q)
3381       queue_destroy (q, GNUNET_YES);
3382     else
3383       GNUNET_break (0);
3384     GNUNET_log (GNUNET_ERROR_TYPE_INFO, "%u %u\n", c, cinfo->send_buffer_n);
3385   }
3386   GNUNET_free_non_null (cinfo->send_buffer);
3387   if (GNUNET_SCHEDULER_NO_TASK != cinfo->fc_poll)
3388   {
3389     GNUNET_SCHEDULER_cancel (cinfo->fc_poll);
3390     cinfo->fc_poll = GNUNET_SCHEDULER_NO_TASK;
3391   }
3392   GNUNET_free (cinfo);
3393   return GNUNET_YES;
3394 }
3395
3396
3397 /**
3398  * Callback used to notify a client owner of a tunnel that a peer has
3399  * disconnected, most likely because of a path change.
3400  *
3401  * @param cls Closure (tunnel this notification is about).
3402  * @param peer_id Short ID of disconnected peer.
3403  */
3404 void
3405 tunnel_notify_client_peer_disconnected (void *cls, GNUNET_PEER_Id peer_id)
3406 {
3407   struct MeshTunnel *t = cls;
3408   struct MeshPeerInfo *peer;
3409   struct MeshPathInfo *path_info;
3410
3411   if (NULL != t->owner && NULL != nc)
3412   {
3413     struct GNUNET_MESH_PeerControl msg;
3414
3415     msg.header.size = htons (sizeof (msg));
3416     msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_PEER_DEL);
3417     msg.tunnel_id = htonl (t->local_tid);
3418     GNUNET_PEER_resolve (peer_id, &msg.peer);
3419     GNUNET_SERVER_notification_context_unicast (nc, t->owner->handle,
3420                                                 &msg.header, GNUNET_NO);
3421   }
3422   peer = peer_info_get_short (peer_id);
3423   path_info = GNUNET_malloc (sizeof (struct MeshPathInfo));
3424   path_info->peer = peer;
3425   path_info->t = t;
3426   peer->connect_task = GNUNET_SCHEDULER_add_now (&peer_info_connect_task,
3427                                                  path_info);
3428 }
3429
3430
3431 /**
3432  * Add a peer to a tunnel, accomodating paths accordingly and initializing all
3433  * needed rescources.
3434  * If peer already exists, reevaluate shortest path and change if different.
3435  *
3436  * @param t Tunnel we want to add a new peer to
3437  * @param peer PeerInfo of the peer being added
3438  *
3439  */
3440 static void
3441 tunnel_add_peer (struct MeshTunnel *t, struct MeshPeerInfo *peer)
3442 {
3443   struct GNUNET_PeerIdentity id;
3444   struct MeshPeerPath *best_p;
3445   struct MeshPeerPath *p;
3446   unsigned int best_cost;
3447   unsigned int cost;
3448
3449   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "tunnel_add_peer\n");
3450   GNUNET_PEER_resolve (peer->id, &id);
3451   if (GNUNET_NO ==
3452       GNUNET_CONTAINER_multihashmap_contains (t->peers, &id.hashPubKey))
3453   {
3454     t->peers_total++;
3455     GNUNET_array_append (peer->tunnels, peer->ntunnels, t);
3456     GNUNET_assert (GNUNET_OK ==
3457                    GNUNET_CONTAINER_multihashmap_put (t->peers, &id.hashPubKey,
3458                                                       peer,
3459                                                       GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST));
3460   }
3461
3462   if (NULL != (p = peer->path_head))
3463   {
3464     best_p = p;
3465     best_cost = tree_get_path_cost (t->tree, p);
3466     while (NULL != p)
3467     {
3468       if ((cost = tree_get_path_cost (t->tree, p)) < best_cost)
3469       {
3470         best_cost = cost;
3471         best_p = p;
3472       }
3473       p = p->next;
3474     }
3475     tree_add_path (t->tree, best_p, &tunnel_notify_client_peer_disconnected, t);
3476     if (GNUNET_SCHEDULER_NO_TASK == t->path_refresh_task)
3477       t->path_refresh_task =
3478           GNUNET_SCHEDULER_add_delayed (refresh_path_time, &path_refresh, t);
3479   }
3480   else
3481   {
3482     /* Start a DHT get */
3483     peer_info_connect (peer, t);
3484   }
3485   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "tunnel_add_peer END\n");
3486 }
3487
3488 /**
3489  * Add a path to a tunnel which we don't own, just to remember the next hop.
3490  * If destination node was already in the tunnel, the first hop information
3491  * will be replaced with the new path.
3492  *
3493  * @param t Tunnel we want to add a new peer to
3494  * @param p Path to add
3495  * @param own_pos Position of local node in path.
3496  *
3497  */
3498 static void
3499 tunnel_add_path (struct MeshTunnel *t, struct MeshPeerPath *p,
3500                  unsigned int own_pos)
3501 {
3502   struct GNUNET_PeerIdentity id;
3503
3504   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "tunnel_add_path\n");
3505   GNUNET_assert (0 != own_pos);
3506   tree_add_path (t->tree, p, NULL, NULL);
3507   if (own_pos < p->length - 1)
3508   {
3509     GNUNET_PEER_resolve (p->peers[own_pos + 1], &id);
3510     tree_update_first_hops (t->tree, myid, &id);
3511   }
3512   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "tunnel_add_path END\n");
3513 }
3514
3515 /**
3516  * Add a client to a tunnel, initializing all needed data structures.
3517  * 
3518  * @param t Tunnel to which add the client.
3519  * @param c Client which to add to the tunnel.
3520  */
3521 static void
3522 tunnel_add_client (struct MeshTunnel *t, struct MeshClient *c)
3523 {
3524   struct MeshTunnelClientInfo clinfo;
3525
3526   GNUNET_array_append (t->clients, t->nclients, c);
3527   clinfo.fwd_ack = t->fwd_pid + 1;
3528   clinfo.bck_ack = t->nobuffer ? 1 : INITIAL_WINDOW_SIZE - 1;
3529   clinfo.fwd_pid = t->fwd_pid;
3530   clinfo.bck_pid = (uint32_t) -1; // Expected next: 0
3531   t->nclients--;
3532   GNUNET_array_append (t->clients_fc, t->nclients, clinfo);
3533 }
3534
3535
3536 /**
3537  * Notifies a tunnel that a connection has broken that affects at least
3538  * some of its peers. Sends a notification towards the root of the tree.
3539  * In case the peer is the owner of the tree, notifies the client that owns
3540  * the tunnel and tries to reconnect.
3541  *
3542  * @param t Tunnel affected.
3543  * @param p1 Peer that got disconnected from p2.
3544  * @param p2 Peer that got disconnected from p1.
3545  *
3546  * @return Short ID of the peer disconnected (either p1 or p2).
3547  *         0 if the tunnel remained unaffected.
3548  */
3549 static GNUNET_PEER_Id
3550 tunnel_notify_connection_broken (struct MeshTunnel *t, GNUNET_PEER_Id p1,
3551                                  GNUNET_PEER_Id p2)
3552 {
3553   GNUNET_PEER_Id pid;
3554
3555   pid =
3556       tree_notify_connection_broken (t->tree, p1, p2,
3557                                      &tunnel_notify_client_peer_disconnected,
3558                                      t);
3559   if (myid != p1 && myid != p2)
3560   {
3561     return pid;
3562   }
3563   if (pid != myid)
3564   {
3565     if (tree_get_predecessor (t->tree) != 0)
3566     {
3567       /* We are the peer still connected, notify owner of the disconnection. */
3568       struct GNUNET_MESH_PathBroken msg;
3569       struct GNUNET_PeerIdentity neighbor;
3570
3571       msg.header.size = htons (sizeof (msg));
3572       msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN);
3573       GNUNET_PEER_resolve (t->id.oid, &msg.oid);
3574       msg.tid = htonl (t->id.tid);
3575       msg.peer1 = my_full_id;
3576       GNUNET_PEER_resolve (pid, &msg.peer2);
3577       GNUNET_PEER_resolve (tree_get_predecessor (t->tree), &neighbor);
3578       send_prebuilt_message (&msg.header, &neighbor, t);
3579     }
3580   }
3581   return pid;
3582 }
3583
3584
3585 /**
3586  * Send a multicast packet to a neighbor.
3587  *
3588  * @param cls Closure (Info about the multicast packet)
3589  * @param neighbor_id Short ID of the neighbor to send the packet to.
3590  */
3591 static void
3592 tunnel_send_multicast_iterator (void *cls, GNUNET_PEER_Id neighbor_id)
3593 {
3594   struct MeshData *mdata = cls;
3595   struct MeshTransmissionDescriptor *info;
3596   struct GNUNET_PeerIdentity neighbor;
3597   struct GNUNET_MessageHeader *msg;
3598
3599   info = GNUNET_malloc (sizeof (struct MeshTransmissionDescriptor));
3600
3601   info->mesh_data = mdata;
3602   (mdata->reference_counter) ++;
3603   info->destination = neighbor_id;
3604   GNUNET_PEER_resolve (neighbor_id, &neighbor);
3605   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   sending to %s...\n",
3606               GNUNET_i2s (&neighbor));
3607   info->peer = peer_info_get (&neighbor);
3608   GNUNET_assert (NULL != info->peer);
3609   msg = (struct GNUNET_MessageHeader *) mdata->data;
3610   queue_add(info,
3611             ntohs (msg->type),
3612             info->mesh_data->data_len,
3613             info->peer,
3614             mdata->t);
3615 }
3616
3617
3618 /**
3619  * Queue a message in a tunnel in multicast, sending a copy to each child node
3620  * down the local one in the tunnel tree.
3621  *
3622  * @param t Tunnel in which to send the data.
3623  * @param msg Message to be sent.
3624  */
3625 static void
3626 tunnel_send_multicast (struct MeshTunnel *t,
3627                        const struct GNUNET_MessageHeader *msg)
3628 {
3629   struct MeshData *mdata;
3630
3631   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3632               " sending a multicast packet...\n");
3633
3634   mdata = GNUNET_malloc (sizeof (struct MeshData));
3635   mdata->data_len = ntohs (msg->size);
3636   mdata->t = t;
3637   mdata->data = GNUNET_malloc (mdata->data_len);
3638   memcpy (mdata->data, msg, mdata->data_len);
3639   if (ntohs (msg->type) == GNUNET_MESSAGE_TYPE_MESH_MULTICAST)
3640   {
3641     struct GNUNET_MESH_Multicast *mcast;
3642
3643     mcast = (struct GNUNET_MESH_Multicast *) mdata->data;
3644     if (t->fwd_queue_n >= t->fwd_queue_max)
3645     {
3646       GNUNET_break (0);
3647       GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "  queue full!\n");
3648       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
3649                   "  message from %s!\n",
3650                   GNUNET_i2s(&mcast->oid));
3651       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
3652                   "  message at %s!\n",
3653                   GNUNET_i2s(&my_full_id));
3654       GNUNET_free (mdata->data);
3655       GNUNET_free (mdata);
3656       return;
3657     }
3658     t->fwd_queue_n++;
3659     mcast->ttl = htonl (ntohl (mcast->ttl) - 1);
3660     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  data packet, ttl: %u\n",
3661                 ntohl (mcast->ttl));
3662   }
3663   else
3664   {
3665     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  not a data packet, no ttl\n");
3666   }
3667
3668   tree_iterate_children (t->tree, &tunnel_send_multicast_iterator, mdata);
3669   if (mdata->reference_counter == 0)
3670   {
3671     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3672               "  no one to send data to\n");
3673     GNUNET_free (mdata->data);
3674     GNUNET_free (mdata);
3675     if (ntohs (msg->type) == GNUNET_MESSAGE_TYPE_MESH_MULTICAST)
3676       t->fwd_queue_n--;
3677   }
3678   else
3679   {
3680     mdata->total_out = mdata->reference_counter;
3681   }
3682   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3683               " sending a multicast packet done\n");
3684   return;
3685 }
3686
3687
3688 /**
3689  * Increase the SKIP value of all peers that
3690  * have not received a unicast message.
3691  *
3692  * @param cls Closure (ID of the peer that HAS received the message).
3693  * @param key ID of the neighbor.
3694  * @param value Information about the neighbor.
3695  *
3696  * @return GNUNET_YES to keep iterating.
3697  */
3698 static int
3699 tunnel_add_skip (void *cls,
3700                  const struct GNUNET_HashCode * key,
3701                  void *value)
3702 {
3703   struct GNUNET_PeerIdentity *neighbor = cls;
3704   struct MeshTunnelChildInfo *cinfo = value;
3705
3706   /* TODO compare only pointers? key == neighbor? */
3707   if (0 == memcmp (&neighbor->hashPubKey, key, sizeof (struct GNUNET_HashCode)))
3708   {
3709     return GNUNET_YES;
3710   }
3711   cinfo->skip++;
3712   return GNUNET_YES;
3713 }
3714
3715
3716 /**
3717  * @brief Get neighbor's Flow Control information.
3718  *
3719  * Retrieves the MeshTunnelChildInfo containing Flow Control data about a direct
3720  * descendant of the local node in a certain tunnel.
3721  * If the info is not yet there (recently created path), creates the data struct
3722  * and inserts it into the tunnel info, initialized to the current tunnel ACK
3723  * values.
3724  *
3725  * @param t Tunnel related.
3726  * @param peer Neighbor whose Flow Control info is needed.
3727  *
3728  * @return Neighbor's Flow Control info.
3729  */
3730 static struct MeshTunnelChildInfo *
3731 tunnel_get_neighbor_fc (struct MeshTunnel *t,
3732                         const struct GNUNET_PeerIdentity *peer)
3733 {
3734   struct MeshTunnelChildInfo *cinfo;
3735
3736   if (NULL == t->children_fc)
3737     return NULL;
3738
3739   cinfo = GNUNET_CONTAINER_multihashmap_get (t->children_fc,
3740                                              &peer->hashPubKey);
3741   if (NULL == cinfo)
3742   {
3743     uint32_t delta;
3744
3745     cinfo = GNUNET_malloc (sizeof (struct MeshTunnelChildInfo));
3746     cinfo->id = GNUNET_PEER_intern (peer);
3747     cinfo->skip = t->fwd_pid;
3748     cinfo->t = t;
3749
3750     delta = t->nobuffer ? 1 : INITIAL_WINDOW_SIZE;
3751     cinfo->fwd_ack = t->fwd_pid + delta;
3752     cinfo->bck_ack = delta;
3753     cinfo->bck_pid = -1;
3754
3755     cinfo->fc_poll = GNUNET_SCHEDULER_NO_TASK;
3756     cinfo->fc_poll_time = GNUNET_TIME_UNIT_SECONDS;
3757
3758     cinfo->send_buffer =
3759         GNUNET_malloc (sizeof(struct MeshPeerQueue *) * t->fwd_queue_max);
3760
3761     GNUNET_assert (GNUNET_OK ==
3762       GNUNET_CONTAINER_multihashmap_put (t->children_fc,
3763                                          &peer->hashPubKey,
3764                                          cinfo,
3765                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST));
3766   }
3767   return cinfo;
3768 }
3769
3770
3771 /**
3772  * Get the Flow Control info of a client.
3773  * 
3774  * @param t Tunnel on which to look.
3775  * @param c Client whose ACK to get.
3776  * 
3777  * @return ACK value.
3778  */
3779 static struct MeshTunnelClientInfo *
3780 tunnel_get_client_fc (struct MeshTunnel *t,
3781                       struct MeshClient *c)
3782 {
3783   unsigned int i;
3784
3785   for (i = 0; i < t->nclients; i++)
3786   {
3787     if (t->clients[i] != c)
3788       continue;
3789     return &t->clients_fc[i];
3790   }
3791   GNUNET_assert (0);
3792   return NULL; // avoid compiler / coverity complaints
3793 }
3794
3795
3796 /**
3797  * Iterator to get the appropiate ACK value from all children nodes.
3798  *
3799  * @param cls Closue (tunnel).
3800  * @param id Id of the child node.
3801  */
3802 static void
3803 tunnel_get_child_fwd_ack (void *cls,
3804                           GNUNET_PEER_Id id)
3805 {
3806   struct GNUNET_PeerIdentity peer_id;
3807   struct MeshTunnelChildInfo *cinfo;
3808   struct MeshTunnelChildIteratorContext *ctx = cls;
3809   struct MeshTunnel *t = ctx->t;
3810   uint32_t ack;
3811
3812   GNUNET_PEER_resolve (id, &peer_id);
3813   cinfo = tunnel_get_neighbor_fc (t, &peer_id);
3814   ack = cinfo->fwd_ack;
3815
3816   ctx->nchildren++;
3817   if (GNUNET_NO == ctx->init)
3818   {
3819     ctx->max_child_ack = ack;
3820     ctx->init = GNUNET_YES;
3821   }
3822
3823   if (GNUNET_YES == t->speed_min)
3824   {
3825     ctx->max_child_ack = ctx->max_child_ack > ack ? ack : ctx->max_child_ack;
3826   }
3827   else
3828   {
3829     ctx->max_child_ack = ctx->max_child_ack > ack ? ctx->max_child_ack : ack;
3830   }
3831
3832 }
3833
3834
3835 /**
3836  * Get the maximum PID allowed to transmit to any
3837  * tunnel child of the local peer, depending on the tunnel
3838  * buffering/speed settings.
3839  *
3840  * @param t Tunnel.
3841  *
3842  * @return Maximum PID allowed (uint32 MAX), -1LL if node has no children.
3843  */
3844 static int64_t
3845 tunnel_get_children_fwd_ack (struct MeshTunnel *t)
3846 {
3847   struct MeshTunnelChildIteratorContext ctx;
3848   ctx.t = t;
3849   ctx.max_child_ack = 0;
3850   ctx.nchildren = 0;
3851   ctx.init = GNUNET_NO;
3852   tree_iterate_children (t->tree, tunnel_get_child_fwd_ack, &ctx);
3853
3854   if (0 == ctx.nchildren)
3855   {
3856     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3857             "  tunnel has no children, no FWD ACK\n");
3858     return -1LL;
3859   }
3860
3861   if (GNUNET_YES == t->nobuffer && GMC_is_pid_bigger(ctx.max_child_ack, t->fwd_pid))
3862     ctx.max_child_ack = t->fwd_pid + 1; // Might overflow, it's ok.
3863
3864   return (int64_t) ctx.max_child_ack;
3865 }
3866
3867
3868 /**
3869  * Set the FWD ACK value of a client in a particular tunnel.
3870  * 
3871  * @param t Tunnel affected.
3872  * @param c Client whose ACK to set.
3873  * @param ack ACK value.
3874  */
3875 static void
3876 tunnel_set_client_fwd_ack (struct MeshTunnel *t,
3877                            struct MeshClient *c, 
3878                            uint32_t ack)
3879 {
3880   unsigned int i;
3881
3882   for (i = 0; i < t->nclients; i++)
3883   {
3884     if (t->clients[i] != c)
3885       continue;
3886     t->clients_fc[i].fwd_ack = ack;
3887     return;
3888   }
3889   GNUNET_break (0);
3890 }
3891
3892
3893 /**
3894  * Get the highest ACK value of all clients in a particular tunnel,
3895  * according to the buffering/speed settings.
3896  * 
3897  * @param t Tunnel on which to look.
3898  * 
3899  * @return Corresponding ACK value (max uint32_t).
3900  *         If no clients are suscribed, -1LL.
3901  */
3902 static int64_t
3903 tunnel_get_clients_fwd_ack (struct MeshTunnel *t)
3904 {
3905   unsigned int i;
3906   int64_t ack;
3907
3908   if (0 == t->nclients)
3909   {
3910     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3911                 "  tunnel has no clients, no FWD ACK\n");
3912     return -1LL;
3913   }
3914
3915   for (ack = -1LL, i = 0; i < t->nclients; i++)
3916   {
3917     if (-1LL == ack ||
3918         (GNUNET_YES == t->speed_min &&
3919          GNUNET_YES == GMC_is_pid_bigger (ack, t->clients_fc[i].fwd_ack)) ||
3920         (GNUNET_NO == t->speed_min &&
3921          GNUNET_YES == GMC_is_pid_bigger (t->clients_fc[i].fwd_ack, ack)))
3922     {
3923       ack = t->clients_fc[i].fwd_ack;
3924     }
3925   }
3926
3927   if (GNUNET_YES == t->nobuffer && GMC_is_pid_bigger(ack, t->fwd_pid))
3928     ack = (uint32_t) t->fwd_pid + 1; // Might overflow, it's ok.
3929
3930   return (uint32_t) ack;
3931 }
3932
3933
3934 /**
3935  * Get the current fwd ack value for a tunnel, taking in account the tunnel
3936  * mode and the status of all children nodes.
3937  *
3938  * @param t Tunnel.
3939  *
3940  * @return Maximum PID allowed.
3941  */
3942 static uint32_t
3943 tunnel_get_fwd_ack (struct MeshTunnel *t)
3944 {
3945   uint32_t ack;
3946   uint32_t count;
3947   uint32_t buffer_free;
3948   int64_t child_ack;
3949   int64_t client_ack;
3950
3951   count = t->fwd_pid - t->skip;
3952   buffer_free = t->fwd_queue_max - t->fwd_queue_n;
3953   child_ack = tunnel_get_children_fwd_ack (t);
3954   client_ack = tunnel_get_clients_fwd_ack (t);
3955   if (GNUNET_YES == t->nobuffer)
3956   {
3957     ack = count;
3958     if (-1LL == child_ack)
3959       child_ack = client_ack;
3960     if (-1LL == child_ack)
3961     {
3962       GNUNET_break (0);
3963       client_ack = child_ack = ack;
3964     }
3965   }
3966   else
3967   {
3968     ack = count + buffer_free; // Overflow? OK!
3969   }
3970   if (-1LL == child_ack)
3971   {
3972     // Node has no children, child_ack AND core buffer are irrelevant.
3973     if (-1LL == client_ack) // No children AND no clients? Not good!
3974     {
3975       GNUNET_STATISTICS_update (stats, "# mesh acks with no target",
3976                                 1, GNUNET_NO);
3977
3978     }
3979     return (uint32_t) client_ack;
3980   }
3981   if (-1LL == client_ack)
3982   {
3983     client_ack = ack;
3984   }
3985   if (GNUNET_YES == t->speed_min)
3986   {
3987     ack = GMC_min_pid ((uint32_t) child_ack, ack);
3988     ack = GMC_min_pid ((uint32_t) client_ack, ack);
3989   }
3990   else
3991   {
3992     ack = GMC_max_pid ((uint32_t) child_ack, ack);
3993     ack = GMC_max_pid ((uint32_t) client_ack, ack);
3994   }
3995   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3996               "c %u, bf %u, ch %lld, cl %lld, ACK: %u\n",
3997               count, buffer_free, child_ack, client_ack, ack);
3998   return ack;
3999 }
4000
4001
4002 /**
4003  * Build a local ACK message and send it to a local client.
4004  * 
4005  * @param t Tunnel on which to send the ACK.
4006  * @param c Client to whom send the ACK.
4007  * @param ack Value of the ACK.
4008  */
4009 static void
4010 send_local_ack (struct MeshTunnel *t, struct MeshClient *c, uint32_t ack)
4011 {
4012   struct GNUNET_MESH_LocalAck msg;
4013
4014   msg.header.size = htons (sizeof (msg));
4015   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK);
4016   msg.tunnel_id = htonl (t->owner == c ? t->local_tid : t->local_tid_dest);
4017   msg.max_pid = htonl (ack); 
4018   GNUNET_SERVER_notification_context_unicast(nc,
4019                                               c->handle,
4020                                               &msg.header,
4021                                               GNUNET_NO);
4022 }
4023
4024 /**
4025  * Build an ACK message and queue it to send to the given peer.
4026  * 
4027  * @param t Tunnel on which to send the ACK.
4028  * @param peer Peer to whom send the ACK.
4029  * @param ack Value of the ACK.
4030  */
4031 static void
4032 send_ack (struct MeshTunnel *t, struct GNUNET_PeerIdentity *peer,  uint32_t ack)
4033 {
4034   struct GNUNET_MESH_ACK msg;
4035
4036   GNUNET_PEER_resolve (t->id.oid, &msg.oid);
4037   msg.header.size = htons (sizeof (msg));
4038   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_ACK);
4039   msg.pid = htonl (ack);
4040   msg.tid = htonl (t->id.tid);
4041
4042   send_prebuilt_message (&msg.header, peer, t);
4043 }
4044
4045
4046 /**
4047  * Notify a the owner of a tunnel about how many more
4048  * payload packages will we accept on a given tunnel.
4049  *
4050  * @param t Tunnel on which to send the ACK.
4051  */
4052 static void
4053 tunnel_send_client_fwd_ack (struct MeshTunnel *t)
4054 {
4055   uint32_t ack;
4056
4057   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4058               "Sending client FWD ACK on tunnel %X\n",
4059               t->local_tid);
4060
4061   ack = tunnel_get_fwd_ack (t);
4062
4063   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " ack %u\n", ack);
4064   if (t->last_fwd_ack == ack)
4065   {
4066     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " same as last, not sending!\n");
4067     return;
4068   }
4069
4070   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " sending!\n");
4071   t->last_fwd_ack = ack;
4072   send_local_ack (t, t->owner, ack);
4073 }
4074
4075
4076 /**
4077  * Send an ACK informing the predecessor about the available buffer space.
4078  * In case there is no predecessor, inform the owning client.
4079  * If buffering is off, send only on behalf of children or self if endpoint.
4080  * If buffering is on, send when sent to children and buffer space is free.
4081  * Note that although the name is fwd_ack, the FWD mean forward *traffic*,
4082  * the ACK itself goes "back" (towards root).
4083  * 
4084  * @param t Tunnel on which to send the ACK.
4085  * @param type Type of message that triggered the ACK transmission.
4086  */
4087 static void
4088 tunnel_send_fwd_ack (struct MeshTunnel *t, uint16_t type)
4089 {
4090   struct GNUNET_PeerIdentity id;
4091   uint32_t ack;
4092
4093   if (NULL != t->owner)
4094   {
4095     tunnel_send_client_fwd_ack (t);
4096     return;
4097   }
4098   /* Is it after unicast / multicast retransmission? */
4099   switch (type)
4100   {
4101     case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
4102     case GNUNET_MESSAGE_TYPE_MESH_MULTICAST:
4103       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4104                   "ACK due to FWD DATA retransmission\n");
4105       if (GNUNET_YES == t->nobuffer)
4106       {
4107         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending ACK, nobuffer\n");
4108         return;
4109       }
4110       break;
4111     case GNUNET_MESSAGE_TYPE_MESH_ACK:
4112     case GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK:
4113       break;
4114     case GNUNET_MESSAGE_TYPE_MESH_POLL:
4115       t->force_ack = GNUNET_YES;
4116       break;
4117     default:
4118       GNUNET_break (0);
4119   }
4120
4121   /* Check if we need to transmit the ACK */
4122   if (t->fwd_queue_max > t->fwd_queue_n * 4 &&
4123       GMC_is_pid_bigger(t->last_fwd_ack, t->fwd_pid) &&
4124       GNUNET_NO == t->force_ack)
4125   {
4126     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending ACK, buffer free\n");
4127     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4128                 "  t->qmax: %u, t->qn: %u\n",
4129                 t->fwd_queue_max, t->fwd_queue_n);
4130     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4131                 "  t->pid: %u, t->ack: %u\n",
4132                 t->fwd_pid, t->last_fwd_ack);
4133     return;
4134   }
4135
4136   /* Ok, ACK might be necessary, what PID to ACK? */
4137   ack = tunnel_get_fwd_ack (t);
4138
4139   /* If speed_min and not all children have ack'd, dont send yet */
4140   if (ack == t->last_fwd_ack && GNUNET_NO == t->force_ack)
4141   {
4142     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Not sending FWD ACK, not ready\n");
4143     return;
4144   }
4145
4146   t->last_fwd_ack = ack;
4147   GNUNET_PEER_resolve (tree_get_predecessor (t->tree), &id);
4148   send_ack (t, &id, ack);
4149   debug_fwd_ack++;
4150   t->force_ack = GNUNET_NO;
4151 }
4152
4153
4154 /**
4155  * Iterator to send a child node a BCK ACK to allow him to send more
4156  * to_origin data.
4157  *
4158  * @param cls Closure (tunnel).
4159  * @param id Id of the child node.
4160  */
4161 static void
4162 tunnel_send_child_bck_ack (void *cls,
4163                            GNUNET_PEER_Id id)
4164 {
4165   struct MeshTunnel *t = cls;
4166   struct MeshTunnelChildInfo *cinfo;
4167   struct GNUNET_PeerIdentity peer;
4168   uint32_t ack;
4169
4170   GNUNET_PEER_resolve (id, &peer);
4171   cinfo = tunnel_get_neighbor_fc (t, &peer);
4172   ack = cinfo->bck_pid + t->bck_queue_max - t->bck_queue_n;
4173
4174   if (cinfo->bck_ack == ack && GNUNET_NO == t->force_ack)
4175   {
4176     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4177                 "    Not sending ACK, not needed\n");
4178     return;
4179   }
4180   cinfo->bck_ack = ack;
4181
4182   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4183               "    Sending BCK ACK %u (last sent: %u)\n",
4184               ack, cinfo->bck_ack);
4185   send_ack (t, &peer, ack);
4186 }
4187
4188
4189 /**
4190  * @brief Send BCK ACKs to clients to allow them more to_origin traffic
4191  * 
4192  * Iterates over all clients and sends BCK ACKs to the ones that need it.
4193  *
4194  * FIXME fc: what happens if we have 2 clients but q_size is 1?
4195  *           - implement a size 1 buffer in each client_fc AND children_fc
4196  *           to hold at least 1 message per "child".
4197  *             problem: violates no buffer policy
4198  *           - ack 0 and make "children" poll for transmission slots
4199  *             problem: big overhead, extra latency even in low traffic
4200  *                      settings
4201  * 
4202  * @param t Tunnel on which to send the BCK ACKs.
4203  */
4204 static void
4205 tunnel_send_clients_bck_ack (struct MeshTunnel *t)
4206 {
4207   unsigned int i;
4208   unsigned int tunnel_delta;
4209
4210   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Sending BCK ACK to clients\n");
4211
4212   tunnel_delta = t->bck_queue_max - t->bck_queue_n;
4213   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   tunnel delta: %u\n", tunnel_delta);
4214
4215   /* Find client whom to allow to send to origin (with lowest buffer space) */
4216   for (i = 0; i < t->nclients; i++)
4217   {
4218     struct MeshTunnelClientInfo *clinfo;
4219     unsigned int delta;
4220
4221     clinfo = &t->clients_fc[i];
4222     delta = clinfo->bck_ack - clinfo->bck_pid;
4223     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    client %u delta: %u\n",
4224          t->clients[i]->id, delta);
4225
4226     if ((GNUNET_NO == t->nobuffer && tunnel_delta > delta) ||
4227         (GNUNET_YES == t->nobuffer && 0 == delta))
4228     {
4229       uint32_t ack;
4230
4231       ack = clinfo->bck_pid;
4232       ack += t->nobuffer ? 1 : tunnel_delta;
4233       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4234                   "    sending ack to client %u: %u\n",
4235                   t->clients[i]->id, ack);
4236       send_local_ack (t, t->clients[i], ack);
4237       clinfo->bck_ack = ack;
4238     }
4239     else
4240     {
4241       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4242                   "    not sending ack to client %u (td %u, d %u)\n",
4243                   t->clients[i]->id, tunnel_delta, delta);
4244     }
4245   }
4246 }
4247
4248
4249 /**
4250  * Send an ACK informing the children nodes and destination clients about
4251  * the available buffer space.
4252  * If buffering is off, send only on behalf of root (can be self).
4253  * If buffering is on, send when sent to predecessor and buffer space is free.
4254  * Note that although the name is bck_ack, the BCK mean backwards *traffic*,
4255  * the ACK itself goes "forward" (towards children/clients).
4256  * 
4257  * @param t Tunnel on which to send the ACK.
4258  * @param type Type of message that triggered the ACK transmission.
4259  */
4260 static void
4261 tunnel_send_bck_ack (struct MeshTunnel *t, uint16_t type)
4262 {
4263   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4264               "Sending BCK ACK on tunnel %u [%u] due to %s\n",
4265               t->id.oid, t->id.tid, GNUNET_MESH_DEBUG_M2S(type));
4266   /* Is it after data to_origin retransmission? */
4267   switch (type)
4268   {
4269     case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
4270       if (GNUNET_YES == t->nobuffer)
4271       {
4272         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4273                     "    Not sending ACK, nobuffer\n");
4274         return;
4275       }
4276       break;
4277     case GNUNET_MESSAGE_TYPE_MESH_ACK:
4278     case GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK:
4279       break;
4280     case GNUNET_MESSAGE_TYPE_MESH_POLL:
4281       t->force_ack = GNUNET_YES;
4282       break;
4283     default:
4284       GNUNET_break (0);
4285   }
4286
4287   tunnel_send_clients_bck_ack (t);
4288   tree_iterate_children (t->tree, &tunnel_send_child_bck_ack, t);
4289   t->force_ack = GNUNET_NO;
4290 }
4291
4292
4293 /**
4294  * @brief Re-initiate traffic to this peer if necessary.
4295  *
4296  * Check if there is traffic queued towards this peer
4297  * and the core transmit handle is NULL (traffic was stalled).
4298  * If so, call core tmt rdy.
4299  *
4300  * @param cls Closure (unused)
4301  * @param peer_id Short ID of peer to which initiate traffic.
4302  */
4303 static void
4304 peer_unlock_queue(void *cls, GNUNET_PEER_Id peer_id)
4305 {
4306   struct MeshPeerInfo *peer;
4307   struct GNUNET_PeerIdentity id;
4308   struct MeshPeerQueue *q;
4309   size_t size;
4310
4311   peer = peer_info_get_short(peer_id);
4312   if (NULL != peer->core_transmit)
4313     return;
4314
4315   q = queue_get_next(peer);
4316   if (NULL == q)
4317   {
4318     /* Might br multicast traffic already sent to this particular peer but
4319      * not to other children in this tunnel.
4320      * This way t->queue_n would be > 0 but the queue of this particular peer
4321      * would be empty.
4322      */
4323     return;
4324   }
4325   size = q->size;
4326   GNUNET_PEER_resolve (peer->id, &id);
4327   peer->core_transmit =
4328         GNUNET_CORE_notify_transmit_ready(core_handle,
4329                                           0,
4330                                           0,
4331                                           GNUNET_TIME_UNIT_FOREVER_REL,
4332                                           &id,
4333                                           size,
4334                                           &queue_send,
4335                                           peer);
4336         return;
4337 }
4338
4339
4340 /**
4341  * @brief Allow transmission of FWD traffic on this tunnel
4342  *
4343  * Check if there is traffic queued towards any children
4344  * and the core transmit handle is NULL, and if so, call core tmt rdy.
4345  *
4346  * @param t Tunnel on which to unlock FWD traffic.
4347  */
4348 static void
4349 tunnel_unlock_fwd_queues (struct MeshTunnel *t)
4350 {
4351   if (0 == t->fwd_queue_n)
4352     return;
4353
4354   tree_iterate_children (t->tree, &peer_unlock_queue, NULL);
4355 }
4356
4357
4358 /**
4359  * @brief Allow transmission of BCK traffic on this tunnel
4360  *
4361  * Check if there is traffic queued towards the root of the tree
4362  * and the core transmit handle is NULL, and if so, call core tmt rdy.
4363  *
4364  * @param t Tunnel on which to unlock BCK traffic.
4365  */
4366 static void
4367 tunnel_unlock_bck_queue (struct MeshTunnel *t)
4368 {
4369   if (0 == t->bck_queue_n)
4370     return;
4371
4372   peer_unlock_queue(NULL, tree_get_predecessor(t->tree));
4373 }
4374
4375
4376 /**
4377  * Send a message to all peers in this tunnel that the tunnel is no longer
4378  * valid.
4379  *
4380  * @param t The tunnel whose peers to notify.
4381  * @param send_back Do we need to notify our parent node?
4382  */
4383 static void
4384 tunnel_send_destroy (struct MeshTunnel *t, int send_back)
4385 {
4386   struct GNUNET_MESH_TunnelDestroy msg;
4387   struct GNUNET_PeerIdentity id;
4388   GNUNET_PEER_Id parent;
4389
4390   if (tree_count_children(t->tree) > 0)
4391   {
4392     msg.header.size = htons (sizeof (msg));
4393     msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY);
4394     GNUNET_PEER_resolve (t->id.oid, &msg.oid);
4395     msg.tid = htonl (t->id.tid);
4396     tunnel_send_multicast (t, &msg.header);
4397   }
4398   parent = tree_get_predecessor(t->tree);
4399   if (GNUNET_NO == send_back || 0 == parent)
4400     return;
4401
4402   msg.header.size = htons (sizeof (msg));
4403   msg.header.type = htons (GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY);
4404   send_prebuilt_message(&msg.header, &id, t);
4405 }
4406
4407
4408 /**
4409  * Cancel all transmissions towards a neighbor that belong to a certain tunnel.
4410  *
4411  * @param cls Closure (Tunnel which to cancel).
4412  * @param neighbor_id Short ID of the neighbor to whom cancel the transmissions.
4413  */
4414 static void
4415 tunnel_cancel_queues (void *cls, GNUNET_PEER_Id neighbor_id)
4416 {
4417   struct MeshTunnel *t = cls;
4418   struct MeshPeerInfo *peer_info;
4419   struct MeshPeerQueue *pq;
4420   struct MeshPeerQueue *next;
4421
4422   peer_info = peer_info_get_short (neighbor_id);
4423   for (pq = peer_info->queue_head; NULL != pq; pq = next)
4424   {
4425     next = pq->next;
4426     if (pq->tunnel == t)
4427     {
4428       if (GNUNET_MESSAGE_TYPE_MESH_MULTICAST == pq->type ||
4429           GNUNET_MESSAGE_TYPE_MESH_UNICAST == pq->type ||
4430           GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == pq->type)
4431       {
4432         // Should have been removed on destroy children
4433         GNUNET_break (0);
4434       }
4435       queue_destroy (pq, GNUNET_YES);
4436     }
4437   }
4438   if (NULL == peer_info->queue_head && NULL != peer_info->core_transmit)
4439   {
4440     GNUNET_CORE_notify_transmit_ready_cancel(peer_info->core_transmit);
4441     peer_info->core_transmit = NULL;
4442   }
4443 }
4444
4445 /**
4446  * Destroy the tunnel and free any allocated resources linked to it.
4447  *
4448  * @param t the tunnel to destroy
4449  *
4450  * @return GNUNET_OK on success
4451  */
4452 static int
4453 tunnel_destroy (struct MeshTunnel *t)
4454 {
4455   struct MeshClient *c;
4456   struct GNUNET_HashCode hash;
4457   unsigned int i;
4458   int r;
4459
4460   if (NULL == t)
4461     return GNUNET_OK;
4462
4463   r = GNUNET_OK;
4464   c = t->owner;
4465 #if MESH_DEBUG
4466   {
4467     struct GNUNET_PeerIdentity id;
4468
4469     GNUNET_PEER_resolve (t->id.oid, &id);
4470     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "destroying tunnel %s [%x]\n",
4471                 GNUNET_i2s (&id), t->id.tid);
4472     if (NULL != c)
4473       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
4474   }
4475 #endif
4476
4477   GNUNET_CRYPTO_hash (&t->id, sizeof (struct MESH_TunnelID), &hash);
4478   if (GNUNET_YES != GNUNET_CONTAINER_multihashmap_remove (tunnels, &hash, t))
4479   {
4480     GNUNET_break (0);
4481     r = GNUNET_SYSERR;
4482   }
4483
4484   if (NULL != c)
4485   {
4486     GNUNET_CRYPTO_hash (&t->local_tid, sizeof (MESH_TunnelNumber), &hash);
4487     if (GNUNET_YES !=
4488         GNUNET_CONTAINER_multihashmap_remove (c->own_tunnels, &hash, t))
4489     {
4490       GNUNET_break (0);
4491       r = GNUNET_SYSERR;
4492     }
4493   }
4494
4495   GNUNET_CRYPTO_hash (&t->local_tid_dest, sizeof (MESH_TunnelNumber), &hash);
4496   for (i = 0; i < t->nclients; i++)
4497   {
4498     c = t->clients[i];
4499     if (GNUNET_YES !=
4500           GNUNET_CONTAINER_multihashmap_remove (c->incoming_tunnels, &hash, t))
4501     {
4502       GNUNET_break (0);
4503       r = GNUNET_SYSERR;
4504     }
4505   }
4506   for (i = 0; i < t->nignore; i++)
4507   {
4508     c = t->ignore[i];
4509     if (GNUNET_YES !=
4510           GNUNET_CONTAINER_multihashmap_remove (c->ignore_tunnels, &hash, t))
4511     {
4512       GNUNET_break (0);
4513       r = GNUNET_SYSERR;
4514     }
4515   }
4516
4517   (void) GNUNET_CONTAINER_multihashmap_remove (incoming_tunnels, &hash, t);
4518   GNUNET_free_non_null (t->clients);
4519   GNUNET_free_non_null (t->clients_fc);
4520
4521   if (NULL != t->peers)
4522   {
4523     GNUNET_CONTAINER_multihashmap_iterate (t->peers, &peer_info_delete_tunnel,
4524                                            t);
4525     GNUNET_CONTAINER_multihashmap_destroy (t->peers);
4526   }
4527
4528   GNUNET_CONTAINER_multihashmap_iterate (t->children_fc,
4529                                          &tunnel_destroy_child,
4530                                          t);
4531   GNUNET_CONTAINER_multihashmap_destroy (t->children_fc);
4532   t->children_fc = NULL;
4533
4534   tree_iterate_children (t->tree, &tunnel_cancel_queues, t);
4535   tree_destroy (t->tree);
4536
4537   if (NULL != t->regex_ctx)
4538     regex_cancel_search (t->regex_ctx);
4539   if (NULL != t->dht_get_type)
4540     GNUNET_DHT_get_stop (t->dht_get_type);
4541   if (GNUNET_SCHEDULER_NO_TASK != t->timeout_task)
4542     GNUNET_SCHEDULER_cancel (t->timeout_task);
4543   if (GNUNET_SCHEDULER_NO_TASK != t->path_refresh_task)
4544     GNUNET_SCHEDULER_cancel (t->path_refresh_task);
4545
4546   n_tunnels--;
4547   GNUNET_STATISTICS_update (stats, "# tunnels", -1, GNUNET_NO);
4548   GNUNET_free (t);
4549   return r;
4550 }
4551
4552 #define TUNNEL_DESTROY_EMPTY_TIME GNUNET_TIME_UNIT_MILLISECONDS
4553
4554 /**
4555  * Tunnel is empty: destroy it.
4556  * 
4557  * @param cls Closure (Tunnel).
4558  * @param tc TaskContext. 
4559  */
4560 static void
4561 tunnel_destroy_empty_delayed (void *cls,
4562                         const struct GNUNET_SCHEDULER_TaskContext *tc)
4563 {
4564   struct MeshTunnel *t = cls;
4565
4566   t->delayed_destroy = GNUNET_SCHEDULER_NO_TASK;
4567   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
4568     return;
4569
4570   if (0 != t->nclients ||
4571       0 != tree_count_children (t->tree))
4572     return;
4573
4574   #if MESH_DEBUG
4575   {
4576     struct GNUNET_PeerIdentity id;
4577
4578     GNUNET_PEER_resolve (t->id.oid, &id);
4579     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4580                 "executing destruction of empty tunnel %s [%X]\n",
4581                 GNUNET_i2s (&id), t->id.tid);
4582   }
4583   #endif
4584
4585   tunnel_destroy (t);
4586 }
4587
4588
4589 /**
4590  * Schedule tunnel destruction if is empty and no new traffic comes in a time.
4591  * 
4592  * @param t Tunnel to destroy if empty.
4593  */
4594 static void
4595 tunnel_destroy_empty (struct MeshTunnel *t)
4596 {
4597   if (GNUNET_SCHEDULER_NO_TASK != t->delayed_destroy || 
4598       0 != t->nclients ||
4599       0 != tree_count_children (t->tree))
4600   {
4601     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4602                 "%u %u %u\n",
4603                 t->delayed_destroy, t->nclients, tree_count_children(t->tree));
4604     return;
4605   }
4606
4607   #if MESH_DEBUG
4608   {
4609     struct GNUNET_PeerIdentity id;
4610
4611     GNUNET_PEER_resolve (t->id.oid, &id);
4612     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4613                 "scheduling destruction of empty tunnel %s [%X]\n",
4614                 GNUNET_i2s (&id), t->id.tid);
4615   }
4616   #endif
4617
4618   t->delayed_destroy =
4619       GNUNET_SCHEDULER_add_delayed (TUNNEL_DESTROY_EMPTY_TIME,
4620                                     &tunnel_destroy_empty_delayed,
4621                                     t);
4622 }
4623
4624
4625 /**
4626  * Create a new tunnel
4627  * 
4628  * @param owner Who is the owner of the tunnel (short ID).
4629  * @param tid Tunnel Number of the tunnel.
4630  * @param client Clients that owns the tunnel, NULL for foreign tunnels.
4631  * @param local Tunnel Number for the tunnel, for the client point of view.
4632  * 
4633  * @return A new initialized tunnel. NULL on error.
4634  */
4635 static struct MeshTunnel *
4636 tunnel_new (GNUNET_PEER_Id owner,
4637             MESH_TunnelNumber tid,
4638             struct MeshClient *client,
4639             MESH_TunnelNumber local)
4640 {
4641   struct MeshTunnel *t;
4642   struct GNUNET_HashCode hash;
4643
4644   if (n_tunnels >= max_tunnels && NULL == client)
4645     return NULL;
4646
4647   t = GNUNET_malloc (sizeof (struct MeshTunnel));
4648   t->id.oid = owner;
4649   t->id.tid = tid;
4650   t->fwd_queue_max = (max_msgs_queue / max_tunnels) + 1;
4651   t->bck_queue_max = t->fwd_queue_max;
4652   t->tree = tree_new (owner);
4653   t->owner = client;
4654   t->fwd_pid = (uint32_t) -1; // Next (expected) = 0
4655   t->bck_pid = (uint32_t) -1; // Next (expected) = 0
4656   t->bck_ack = INITIAL_WINDOW_SIZE - 1;
4657   t->last_fwd_ack = INITIAL_WINDOW_SIZE - 1;
4658   t->local_tid = local;
4659   t->children_fc = GNUNET_CONTAINER_multihashmap_create (8, GNUNET_NO);
4660   n_tunnels++;
4661   GNUNET_STATISTICS_update (stats, "# tunnels", 1, GNUNET_NO);
4662
4663   GNUNET_CRYPTO_hash (&t->id, sizeof (struct MESH_TunnelID), &hash);
4664   if (GNUNET_OK !=
4665       GNUNET_CONTAINER_multihashmap_put (tunnels, &hash, t,
4666                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
4667   {
4668     GNUNET_break (0);
4669     tunnel_destroy (t);
4670     if (NULL != client)
4671     {
4672       GNUNET_break (0);
4673       GNUNET_SERVER_receive_done (client->handle, GNUNET_SYSERR);
4674     }
4675     return NULL;
4676   }
4677
4678   if (NULL != client)
4679   {
4680     GNUNET_CRYPTO_hash (&t->local_tid, sizeof (MESH_TunnelNumber), &hash);
4681     if (GNUNET_OK !=
4682         GNUNET_CONTAINER_multihashmap_put (client->own_tunnels, &hash, t,
4683                                           GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
4684     {
4685       tunnel_destroy (t);
4686       GNUNET_break (0);
4687       GNUNET_SERVER_receive_done (client->handle, GNUNET_SYSERR);
4688       return NULL;
4689     }
4690   }
4691
4692   return t;
4693 }
4694
4695
4696 /**
4697  * Removes an explicit path from a tunnel, freeing all intermediate nodes
4698  * that are no longer needed, as well as nodes of no longer reachable peers.
4699  * The tunnel itself is also destoyed if results in a remote empty tunnel.
4700  *
4701  * @param t Tunnel from which to remove the path.
4702  * @param peer Short id of the peer which should be removed.
4703  */
4704 static void
4705 tunnel_delete_peer (struct MeshTunnel *t, GNUNET_PEER_Id peer)
4706 {
4707   int r;
4708
4709   r = tree_del_peer (t->tree, peer, NULL, NULL);
4710   if (GNUNET_NO == r)
4711   {
4712     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4713                 "Tunnel %u [%u] has no more nodes\n",
4714                 t->id.oid, t->id.tid);
4715   }
4716 }
4717
4718
4719 /**
4720  * tunnel_destroy_iterator: iterator for deleting each tunnel that belongs to a
4721  * client when the client disconnects. If the client is not the owner, the
4722  * owner will get notified if no more clients are in the tunnel and the client
4723  * get removed from the tunnel's list.
4724  *
4725  * @param cls closure (client that is disconnecting)
4726  * @param key the hash of the local tunnel id (used to access the hashmap)
4727  * @param value the value stored at the key (tunnel to destroy)
4728  *
4729  * @return GNUNET_OK, keep iterating.
4730  */
4731 static int
4732 tunnel_destroy_iterator (void *cls,
4733                          const struct GNUNET_HashCode * key,
4734                          void *value)
4735 {
4736   struct MeshTunnel *t = value;
4737   struct MeshClient *c = cls;
4738
4739   send_client_tunnel_disconnect (t, c);
4740   if (c != t->owner)
4741   {
4742     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Client %u is destination.\n", c->id);
4743     tunnel_delete_client (t, c);
4744     client_delete_tunnel (c, t);
4745     tunnel_destroy_empty (t);
4746     return GNUNET_OK;
4747   }
4748   tunnel_send_destroy (t, GNUNET_YES);
4749   t->owner = NULL;
4750   t->destroy = GNUNET_YES;
4751
4752   return GNUNET_OK;
4753 }
4754
4755
4756 /**
4757  * Timeout function, destroys tunnel if called
4758  *
4759  * @param cls Closure (tunnel to destroy).
4760  * @param tc TaskContext
4761  */
4762 static void
4763 tunnel_timeout (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
4764 {
4765   struct MeshTunnel *t = cls;
4766   struct GNUNET_PeerIdentity id;
4767
4768   t->timeout_task = GNUNET_SCHEDULER_NO_TASK;
4769   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
4770     return;
4771   GNUNET_PEER_resolve(t->id.oid, &id);
4772   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4773               "Tunnel %s [%X] timed out. Destroying.\n",
4774               GNUNET_i2s(&id), t->id.tid);
4775   send_clients_tunnel_destroy (t);
4776   tunnel_destroy (t);
4777 }
4778
4779 /**
4780  * Resets the tunnel timeout. Starts it if no timeout was running.
4781  *
4782  * @param t Tunnel whose timeout to reset.
4783  *
4784  * TODO use heap to improve efficiency of scheduler.
4785  */
4786 static void
4787 tunnel_reset_timeout (struct MeshTunnel *t)
4788 {
4789   if (GNUNET_SCHEDULER_NO_TASK != t->timeout_task)
4790     GNUNET_SCHEDULER_cancel (t->timeout_task);
4791   t->timeout_task =
4792       GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_relative_multiply
4793                                     (refresh_path_time, 4), &tunnel_timeout, t);
4794 }
4795
4796
4797 /******************************************************************************/
4798 /****************      MESH NETWORK HANDLER HELPERS     ***********************/
4799 /******************************************************************************/
4800
4801 /**
4802  * Function to send a create path packet to a peer.
4803  *
4804  * @param cls closure
4805  * @param size number of bytes available in buf
4806  * @param buf where the callee should write the message
4807  * @return number of bytes written to buf
4808  */
4809 static size_t
4810 send_core_path_create (void *cls, size_t size, void *buf)
4811 {
4812   struct MeshPathInfo *info = cls;
4813   struct GNUNET_MESH_ManipulatePath *msg;
4814   struct GNUNET_PeerIdentity *peer_ptr;
4815   struct MeshTunnel *t = info->t;
4816   struct MeshPeerPath *p = info->path;
4817   size_t size_needed;
4818   uint32_t opt;
4819   int i;
4820
4821   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "CREATE PATH sending...\n");
4822   size_needed =
4823       sizeof (struct GNUNET_MESH_ManipulatePath) +
4824       p->length * sizeof (struct GNUNET_PeerIdentity);
4825
4826   if (size < size_needed || NULL == buf)
4827   {
4828     GNUNET_break (0);
4829     return 0;
4830   }
4831   msg = (struct GNUNET_MESH_ManipulatePath *) buf;
4832   msg->header.size = htons (size_needed);
4833   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE);
4834   msg->tid = ntohl (t->id.tid);
4835
4836   opt = 0;
4837   if (GNUNET_YES == t->speed_min)
4838     opt |= MESH_TUNNEL_OPT_SPEED_MIN;
4839   if (GNUNET_YES == t->nobuffer)
4840     opt |= MESH_TUNNEL_OPT_NOBUFFER;
4841   msg->opt = htonl(opt);
4842   msg->reserved = 0;
4843
4844   peer_ptr = (struct GNUNET_PeerIdentity *) &msg[1];
4845   for (i = 0; i < p->length; i++)
4846   {
4847     GNUNET_PEER_resolve (p->peers[i], peer_ptr++);
4848   }
4849
4850   path_destroy (p);
4851   GNUNET_free (info);
4852
4853   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4854               "CREATE PATH (%u bytes long) sent!\n", size_needed);
4855   return size_needed;
4856 }
4857
4858
4859 /**
4860  * Fill the core buffer 
4861  *
4862  * @param cls closure (data itself)
4863  * @param size number of bytes available in buf
4864  * @param buf where the callee should write the message
4865  *
4866  * @return number of bytes written to buf
4867  */
4868 static size_t
4869 send_core_data_multicast (void *cls, size_t size, void *buf)
4870 {
4871   struct MeshTransmissionDescriptor *info = cls;
4872   size_t total_size;
4873
4874   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Multicast callback.\n");
4875   GNUNET_assert (NULL != info);
4876   GNUNET_assert (NULL != info->peer);
4877   total_size = info->mesh_data->data_len;
4878   GNUNET_assert (total_size < GNUNET_SERVER_MAX_MESSAGE_SIZE);
4879
4880   if (total_size > size)
4881   {
4882     GNUNET_break (0);
4883     return 0;
4884   }
4885   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " copying data...\n");
4886   memcpy (buf, info->mesh_data->data, total_size);
4887 #if MESH_DEBUG
4888   {
4889     struct GNUNET_MESH_Multicast *mc;
4890     struct GNUNET_MessageHeader *mh;
4891
4892     mh = buf;
4893     if (ntohs (mh->type) == GNUNET_MESSAGE_TYPE_MESH_MULTICAST)
4894     {
4895       mc = (struct GNUNET_MESH_Multicast *) mh;
4896       mh = (struct GNUNET_MessageHeader *) &mc[1];
4897       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4898                   " multicast, payload type %s\n",
4899                   GNUNET_MESH_DEBUG_M2S (ntohs (mh->type)));
4900       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4901                   " multicast, payload size %u\n", ntohs (mh->size));
4902     }
4903     else
4904     {
4905       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " type %s\n",
4906                   GNUNET_MESH_DEBUG_M2S (ntohs (mh->type)));
4907     }
4908   }
4909 #endif
4910   data_descriptor_decrement_rc (info->mesh_data);
4911   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "freeing info...\n");
4912   GNUNET_free (info);
4913   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "return %u\n", total_size);
4914   return total_size;
4915 }
4916
4917
4918 /**
4919  * Creates a path ack message in buf and frees all unused resources.
4920  *
4921  * @param cls closure (MeshTransmissionDescriptor)
4922  * @param size number of bytes available in buf
4923  * @param buf where the callee should write the message
4924  * @return number of bytes written to buf
4925  */
4926 static size_t
4927 send_core_path_ack (void *cls, size_t size, void *buf)
4928 {
4929   struct MeshTransmissionDescriptor *info = cls;
4930   struct GNUNET_MESH_PathACK *msg = buf;
4931
4932   GNUNET_assert (NULL != info);
4933   if (sizeof (struct GNUNET_MESH_PathACK) > size)
4934   {
4935     GNUNET_break (0);
4936     return 0;
4937   }
4938   msg->header.size = htons (sizeof (struct GNUNET_MESH_PathACK));
4939   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_ACK);
4940   GNUNET_PEER_resolve (info->origin->oid, &msg->oid);
4941   msg->tid = htonl (info->origin->tid);
4942   msg->peer_id = my_full_id;
4943
4944   GNUNET_free (info);
4945   /* TODO add signature */
4946
4947   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "PATH ACK sent!\n");
4948   return sizeof (struct GNUNET_MESH_PathACK);
4949 }
4950
4951
4952 /**
4953  * Free a transmission that was already queued with all resources
4954  * associated to the request.
4955  *
4956  * @param queue Queue handler to cancel.
4957  * @param clear_cls Is it necessary to free associated cls?
4958  */
4959 static void
4960 queue_destroy (struct MeshPeerQueue *queue, int clear_cls)
4961 {
4962   struct MeshTransmissionDescriptor *dd;
4963   struct MeshPathInfo *path_info;
4964   struct MeshTunnelChildInfo *cinfo;
4965   struct GNUNET_PeerIdentity id;
4966   unsigned int i;
4967   unsigned int max;
4968
4969   if (GNUNET_YES == clear_cls)
4970   {
4971     switch (queue->type)
4972     {
4973       case GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY:
4974         GNUNET_log (GNUNET_ERROR_TYPE_INFO, "   cancelling TUNNEL_DESTROY\n");
4975         GNUNET_break (GNUNET_YES == queue->tunnel->destroy);
4976         /* fall through */
4977       case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
4978       case GNUNET_MESSAGE_TYPE_MESH_MULTICAST:
4979       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
4980       case GNUNET_MESSAGE_TYPE_MESH_ACK:
4981       case GNUNET_MESSAGE_TYPE_MESH_POLL:
4982       case GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE:
4983         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4984                     "   prebuilt message\n");
4985         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4986                     "   type %s\n",
4987                     GNUNET_MESH_DEBUG_M2S(queue->type));
4988         dd = queue->cls;
4989         data_descriptor_decrement_rc (dd->mesh_data);
4990         break;
4991       case GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE:
4992         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   type create path\n");
4993         path_info = queue->cls;
4994         path_destroy (path_info->path);
4995         break;
4996       default:
4997         GNUNET_break (0);
4998         GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4999                     "   type %s unknown!\n",
5000                     GNUNET_MESH_DEBUG_M2S(queue->type));
5001     }
5002     GNUNET_free_non_null (queue->cls);
5003   }
5004   GNUNET_CONTAINER_DLL_remove (queue->peer->queue_head,
5005                                queue->peer->queue_tail,
5006                                queue);
5007
5008   /* Delete from child_fc in the appropiate tunnel */
5009   max = queue->tunnel->fwd_queue_max;
5010   GNUNET_PEER_resolve (queue->peer->id, &id);
5011   cinfo = tunnel_get_neighbor_fc (queue->tunnel, &id);
5012   if (NULL != cinfo)
5013   {
5014     for (i = 0; i < cinfo->send_buffer_n; i++)
5015     {
5016       unsigned int i2;
5017       i2 = (cinfo->send_buffer_start + i) % max;
5018       if (cinfo->send_buffer[i2] == queue)
5019       {
5020         /* Found corresponding entry in the send_buffer. Move all others back. */
5021         unsigned int j;
5022         unsigned int j2;
5023         unsigned int j3;
5024
5025         for (j = i, j2 = 0, j3 = 0; j < cinfo->send_buffer_n - 1; j++)
5026         {
5027           j2 = (cinfo->send_buffer_start + j) % max;
5028           j3 = (cinfo->send_buffer_start + j + 1) % max;
5029           cinfo->send_buffer[j2] = cinfo->send_buffer[j3];
5030         }
5031
5032         cinfo->send_buffer[j3] = NULL;
5033         cinfo->send_buffer_n--;
5034       }
5035     }
5036   }
5037
5038   GNUNET_free (queue);
5039 }
5040
5041
5042 /**
5043  * @brief Get the next transmittable message from the queue.
5044  *
5045  * This will be the head, except in the case of being a data packet
5046  * not allowed by the destination peer.
5047  *
5048  * @param peer Destination peer.
5049  *
5050  * @return The next viable MeshPeerQueue element to send to that peer.
5051  *         NULL when there are no transmittable messages.
5052  */
5053 struct MeshPeerQueue *
5054 queue_get_next (const struct MeshPeerInfo *peer)
5055 {
5056   struct MeshPeerQueue *q;
5057   struct MeshTunnel *t;
5058   struct MeshTransmissionDescriptor *info;
5059   struct MeshTunnelChildInfo *cinfo;
5060   struct GNUNET_MESH_Unicast *ucast;
5061   struct GNUNET_MESH_ToOrigin *to_orig;
5062   struct GNUNET_MESH_Multicast *mcast;
5063   struct GNUNET_PeerIdentity id;
5064   uint32_t pid;
5065   uint32_t ack;
5066
5067   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   selecting message\n");
5068   for (q = peer->queue_head; NULL != q; q = q->next)
5069   {
5070     t = q->tunnel;
5071     info = q->cls;
5072     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5073                 "*********     %s\n",
5074                 GNUNET_MESH_DEBUG_M2S(q->type));
5075     switch (q->type)
5076     {
5077       case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
5078         ucast = (struct GNUNET_MESH_Unicast *) info->mesh_data->data;
5079         pid = ntohl (ucast->pid);
5080         GNUNET_PEER_resolve (info->peer->id, &id);
5081         cinfo = tunnel_get_neighbor_fc(t, &id);
5082         ack = cinfo->fwd_ack;
5083         break;
5084       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
5085         to_orig = (struct GNUNET_MESH_ToOrigin *) info->mesh_data->data;
5086         pid = ntohl (to_orig->pid);
5087         ack = t->bck_ack;
5088         break;
5089       case GNUNET_MESSAGE_TYPE_MESH_MULTICAST:
5090         mcast = (struct GNUNET_MESH_Multicast *) info->mesh_data->data;
5091         if (GNUNET_MESSAGE_TYPE_MESH_MULTICAST != ntohs(mcast->header.type)) 
5092         {
5093           // Not a multicast payload: multicast control traffic (destroy, etc)
5094           return q;
5095         }
5096         pid = ntohl (mcast->pid);
5097         GNUNET_PEER_resolve (info->peer->id, &id);
5098         cinfo = tunnel_get_neighbor_fc(t, &id);
5099         ack = cinfo->fwd_ack;
5100         break;
5101       default:
5102         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5103                     "*********   OK!\n");
5104         return q;
5105     }
5106         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5107                     "*********     ACK: %u, PID: %u\n",
5108                     ack, pid);
5109     if (GNUNET_NO == GMC_is_pid_bigger(pid, ack))
5110     {
5111       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5112                   "*********   OK!\n");
5113       return q;
5114     }
5115     else
5116     {
5117       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5118                   "*********     NEXT!\n");
5119     }
5120   }
5121   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5122                 "*********   nothing found\n");
5123   return NULL;
5124 }
5125
5126
5127 /**
5128   * Core callback to write a queued packet to core buffer
5129   *
5130   * @param cls Closure (peer info).
5131   * @param size Number of bytes available in buf.
5132   * @param buf Where the to write the message.
5133   *
5134   * @return number of bytes written to buf
5135   */
5136 static size_t
5137 queue_send (void *cls, size_t size, void *buf)
5138 {
5139     struct MeshPeerInfo *peer = cls;
5140     struct GNUNET_MessageHeader *msg;
5141     struct MeshPeerQueue *queue;
5142     struct MeshTunnel *t;
5143     struct MeshTunnelChildInfo *cinfo;
5144     struct GNUNET_PeerIdentity dst_id;
5145     size_t data_size;
5146
5147     peer->core_transmit = NULL;
5148     cinfo = NULL;
5149
5150     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "********* Queue send\n");
5151     queue = queue_get_next (peer);
5152
5153     /* Queue has no internal mesh traffic nor sendable payload */
5154     if (NULL == queue)
5155     {
5156       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   not ready, return\n");
5157       if (NULL == peer->queue_head)
5158         GNUNET_break (0); // Should've been canceled
5159       return 0;
5160     }
5161     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   not empty\n");
5162
5163     GNUNET_PEER_resolve (peer->id, &dst_id);
5164     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5165                 "*********   towards %s\n",
5166                 GNUNET_i2s(&dst_id));
5167     /* Check if buffer size is enough for the message */
5168     if (queue->size > size)
5169     {
5170         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5171                     "*********   not enough room, reissue\n");
5172         peer->core_transmit =
5173             GNUNET_CORE_notify_transmit_ready (core_handle,
5174                                                0,
5175                                                0,
5176                                                GNUNET_TIME_UNIT_FOREVER_REL,
5177                                                &dst_id,
5178                                                queue->size,
5179                                                &queue_send,
5180                                                peer);
5181         return 0;
5182     }
5183     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   size ok\n");
5184
5185     t = queue->tunnel;
5186     GNUNET_assert (0 < t->pending_messages);
5187     t->pending_messages--;
5188     if (GNUNET_MESSAGE_TYPE_MESH_UNICAST == queue->type)
5189     {
5190       t->fwd_queue_n--;
5191       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5192                   "*********   unicast: t->q (%u/%u)\n",
5193                   t->fwd_queue_n, t->fwd_queue_max);
5194     }
5195     else if (GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == queue->type)
5196     {
5197       t->bck_queue_n--;
5198       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   to origin\n");
5199     }
5200
5201     /* Fill buf */
5202     switch (queue->type)
5203     {
5204       case 0:
5205       case GNUNET_MESSAGE_TYPE_MESH_ACK:
5206       case GNUNET_MESSAGE_TYPE_MESH_POLL:
5207       case GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN:
5208       case GNUNET_MESSAGE_TYPE_MESH_PATH_DESTROY:
5209       case GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY:
5210         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5211                     "*********   raw: %s\n",
5212                     GNUNET_MESH_DEBUG_M2S (queue->type));
5213         /* Fall through */
5214       case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
5215       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
5216         data_size = send_core_data_raw (queue->cls, size, buf);
5217         msg = (struct GNUNET_MessageHeader *) buf;
5218         switch (ntohs (msg->type)) // Type of preconstructed message
5219         {
5220           case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
5221             tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_UNICAST);
5222             break;
5223           case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
5224             tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN);
5225             break;
5226           default:
5227               break;
5228         }
5229         break;
5230       case GNUNET_MESSAGE_TYPE_MESH_MULTICAST:
5231         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   multicast\n");
5232         {
5233           struct MeshTransmissionDescriptor *info = queue->cls;
5234
5235           if ((1 == info->mesh_data->reference_counter
5236               && GNUNET_YES == t->speed_min)
5237               ||
5238               (info->mesh_data->total_out == info->mesh_data->reference_counter
5239               && GNUNET_NO == t->speed_min))
5240           {
5241             GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5242                         "*********   considered sent\n");
5243             t->fwd_queue_n--;
5244           }
5245           else
5246           {
5247             GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5248                         "*********   NOT considered sent yet\n");
5249             t->pending_messages++;
5250           }
5251         }
5252         data_size = send_core_data_multicast(queue->cls, size, buf);
5253         tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_MULTICAST);
5254         break;
5255       case GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE:
5256         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   path create\n");
5257         data_size = send_core_path_create (queue->cls, size, buf);
5258         break;
5259       case GNUNET_MESSAGE_TYPE_MESH_PATH_ACK:
5260         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   path ack\n");
5261         data_size = send_core_path_ack (queue->cls, size, buf);
5262         break;
5263       case GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE:
5264         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   path keepalive\n");
5265         data_size = send_core_data_multicast (queue->cls, size, buf);
5266         break;
5267       default:
5268         GNUNET_break (0);
5269         GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
5270                     "*********   type unknown: %u\n",
5271                     queue->type);
5272         data_size = 0;
5273     }
5274     switch (queue->type)
5275     {
5276       case GNUNET_MESSAGE_TYPE_MESH_UNICAST:
5277       case GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN:
5278       case GNUNET_MESSAGE_TYPE_MESH_MULTICAST:
5279         cinfo = tunnel_get_neighbor_fc (t, &dst_id);
5280         if (cinfo->send_buffer[cinfo->send_buffer_start] != queue)
5281         {
5282           GNUNET_break (0);
5283           GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5284                       "at pos %u (%p) != %p\n",
5285                       cinfo->send_buffer_start,
5286                       cinfo->send_buffer[cinfo->send_buffer_start],
5287                       queue);
5288         }
5289         if (cinfo->send_buffer_n > 0)
5290         {
5291           cinfo->send_buffer[cinfo->send_buffer_start] = NULL;
5292           cinfo->send_buffer_n--;
5293           cinfo->send_buffer_start++;
5294           cinfo->send_buffer_start %= t->fwd_queue_max;
5295         }
5296         else
5297         {
5298           GNUNET_break (0);
5299         }
5300         break;
5301       default:
5302         break;
5303     }
5304
5305     /* Free queue, but cls was freed by send_core_* */
5306     queue_destroy (queue, GNUNET_NO);
5307
5308     if (GNUNET_YES == t->destroy && 0 == t->pending_messages)
5309     {
5310       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********  destroying tunnel!\n");
5311       tunnel_destroy (t);
5312     }
5313
5314     /* If more data in queue, send next */
5315     queue = queue_get_next(peer);
5316     if (NULL != queue)
5317     {
5318         struct GNUNET_PeerIdentity id;
5319
5320         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   more data!\n");
5321         GNUNET_PEER_resolve (peer->id, &id);
5322         peer->core_transmit =
5323             GNUNET_CORE_notify_transmit_ready(core_handle,
5324                                               0,
5325                                               0,
5326                                               GNUNET_TIME_UNIT_FOREVER_REL,
5327                                               &id,
5328                                               queue->size,
5329                                               &queue_send,
5330                                               peer);
5331     }
5332     else
5333     {
5334       if (NULL != peer->queue_head)
5335       {
5336         GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5337                     "*********   %s stalled\n",
5338                     GNUNET_i2s(&my_full_id));
5339         if (NULL == cinfo)
5340           cinfo = tunnel_get_neighbor_fc (t, &dst_id);
5341         // FIXME unify bck/fwd structures, bck does not have cinfo right now
5342         if (NULL != cinfo && GNUNET_SCHEDULER_NO_TASK == cinfo->fc_poll)
5343         {
5344           cinfo->fc_poll = GNUNET_SCHEDULER_add_delayed (cinfo->fc_poll_time,
5345                                                          &tunnel_poll, cinfo);
5346         }
5347       }
5348     }
5349     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "*********   return %d\n", data_size);
5350     return data_size;
5351 }
5352
5353
5354 /**
5355  * @brief Queue and pass message to core when possible.
5356  * 
5357  * If type is payload (UNICAST, TO_ORIGIN, MULTICAST) checks for queue status
5358  * and accounts for it. In case the queue is full, the message is dropped and
5359  * a break issued.
5360  * 
5361  * Otherwise, message is treated as internal and allowed to go regardless of 
5362  * queue status.
5363  *
5364  * @param cls Closure (@c type dependant). It will be used by queue_send to
5365  *            build the message to be sent if not already prebuilt.
5366  * @param type Type of the message, 0 for a raw message.
5367  * @param size Size of the message.
5368  * @param dst Neighbor to send message to.
5369  * @param t Tunnel this message belongs to.
5370  */
5371 static void
5372 queue_add (void *cls, uint16_t type, size_t size,
5373            struct MeshPeerInfo *dst, struct MeshTunnel *t)
5374 {
5375   struct MeshPeerQueue *queue;
5376   struct MeshTunnelChildInfo *cinfo;
5377   struct GNUNET_PeerIdentity id;
5378   unsigned int *max;
5379   unsigned int *n;
5380   unsigned int i;
5381
5382   n = NULL;
5383   if (GNUNET_MESSAGE_TYPE_MESH_UNICAST == type ||
5384       GNUNET_MESSAGE_TYPE_MESH_MULTICAST == type)
5385   {
5386     n = &t->fwd_queue_n;
5387     max = &t->fwd_queue_max;
5388   }
5389   else if (GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN == type)
5390   {
5391     n = &t->bck_queue_n;
5392     max = &t->bck_queue_max;
5393   }
5394   if (NULL != n)
5395   {
5396     if (*n >= *max)
5397     {
5398       GNUNET_break(0);
5399       GNUNET_STATISTICS_update(stats,
5400                                "# messages dropped (buffer full)",
5401                                1, GNUNET_NO);
5402       return; // Drop message
5403     }
5404     (*n)++;
5405   }
5406   queue = GNUNET_malloc (sizeof (struct MeshPeerQueue));
5407   queue->cls = cls;
5408   queue->type = type;
5409   queue->size = size;
5410   queue->peer = dst;
5411   queue->tunnel = t;
5412   GNUNET_CONTAINER_DLL_insert_tail (dst->queue_head, dst->queue_tail, queue);
5413   GNUNET_PEER_resolve (dst->id, &id);
5414   if (NULL == dst->core_transmit)
5415   {
5416       dst->core_transmit =
5417           GNUNET_CORE_notify_transmit_ready (core_handle,
5418                                              0,
5419                                              0,
5420                                              GNUNET_TIME_UNIT_FOREVER_REL,
5421                                              &id,
5422                                              size,
5423                                              &queue_send,
5424                                              dst);
5425   }
5426   t->pending_messages++;
5427   if (NULL == n) // Is this internal mesh traffic?
5428     return;
5429
5430   // It's payload, keep track of buffer per peer.
5431   cinfo = tunnel_get_neighbor_fc(t, &id);
5432   i = (cinfo->send_buffer_start + cinfo->send_buffer_n) % t->fwd_queue_max;
5433   if (NULL != cinfo->send_buffer[i])
5434   {
5435     GNUNET_break (cinfo->send_buffer_n == t->fwd_queue_max); // aka i == start
5436     queue_destroy (cinfo->send_buffer[cinfo->send_buffer_start], GNUNET_YES);
5437     cinfo->send_buffer_start++;
5438     cinfo->send_buffer_start %= t->fwd_queue_max;
5439   }
5440   else
5441   {
5442     cinfo->send_buffer_n++;
5443   }
5444   cinfo->send_buffer[i] = queue;
5445   if (cinfo->send_buffer_n > t->fwd_queue_max)
5446   {
5447     GNUNET_break (0);
5448     cinfo->send_buffer_n = t->fwd_queue_max;
5449   }
5450 }
5451
5452
5453 /******************************************************************************/
5454 /********************      MESH NETWORK HANDLERS     **************************/
5455 /******************************************************************************/
5456
5457
5458 /**
5459  * Core handler for path creation
5460  *
5461  * @param cls closure
5462  * @param message message
5463  * @param peer peer identity this notification is about
5464  * @param atsi performance data
5465  * @param atsi_count number of records in 'atsi'
5466  *
5467  * @return GNUNET_OK to keep the connection open,
5468  *         GNUNET_SYSERR to close it (signal serious error)
5469  */
5470 static int
5471 handle_mesh_path_create (void *cls, const struct GNUNET_PeerIdentity *peer,
5472                          const struct GNUNET_MessageHeader *message,
5473                          const struct GNUNET_ATS_Information *atsi,
5474                          unsigned int atsi_count)
5475 {
5476   unsigned int own_pos;
5477   uint16_t size;
5478   uint16_t i;
5479   MESH_TunnelNumber tid;
5480   struct GNUNET_MESH_ManipulatePath *msg;
5481   struct GNUNET_PeerIdentity *pi;
5482   struct GNUNET_HashCode hash;
5483   struct MeshPeerPath *path;
5484   struct MeshPeerInfo *dest_peer_info;
5485   struct MeshPeerInfo *orig_peer_info;
5486   struct MeshTunnel *t;
5487
5488   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5489               "Received a path create msg [%s]\n",
5490               GNUNET_i2s (&my_full_id));
5491   size = ntohs (message->size);
5492   if (size < sizeof (struct GNUNET_MESH_ManipulatePath))
5493   {
5494     GNUNET_break_op (0);
5495     return GNUNET_OK;
5496   }
5497
5498   size -= sizeof (struct GNUNET_MESH_ManipulatePath);
5499   if (size % sizeof (struct GNUNET_PeerIdentity))
5500   {
5501     GNUNET_break_op (0);
5502     return GNUNET_OK;
5503   }
5504   size /= sizeof (struct GNUNET_PeerIdentity);
5505   if (size < 2)
5506   {
5507     GNUNET_break_op (0);
5508     return GNUNET_OK;
5509   }
5510   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    path has %u hops.\n", size);
5511   msg = (struct GNUNET_MESH_ManipulatePath *) message;
5512
5513   tid = ntohl (msg->tid);
5514   pi = (struct GNUNET_PeerIdentity *) &msg[1];
5515   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5516               "    path is for tunnel %s [%X].\n", GNUNET_i2s (pi), tid);
5517   t = tunnel_get (pi, tid);
5518   if (NULL == t) // FIXME only for INCOMING tunnels?
5519   {
5520     uint32_t opt;
5521
5522     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Creating tunnel\n");
5523     t = tunnel_new (GNUNET_PEER_intern (pi), tid, NULL, 0);
5524     if (NULL == t)
5525     {
5526       // FIXME notify failure
5527       return GNUNET_OK;
5528     }
5529     opt = ntohl (msg->opt);
5530     t->speed_min = (0 != (opt & MESH_TUNNEL_OPT_SPEED_MIN)) ?
5531                    GNUNET_YES : GNUNET_NO;
5532     if (0 != (opt & MESH_TUNNEL_OPT_NOBUFFER))
5533     {
5534       t->nobuffer = GNUNET_YES;
5535       t->last_fwd_ack = t->fwd_pid + 1;
5536     }
5537     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5538                 "  speed_min: %d, nobuffer:%d\n",
5539                 t->speed_min, t->nobuffer);
5540
5541     if (GNUNET_YES == t->nobuffer)
5542     {
5543       t->bck_queue_max = 1;
5544       t->fwd_queue_max = 1;
5545     }
5546
5547     // FIXME only assign a local tid if a local client is interested (on demand)
5548     while (NULL != tunnel_get_incoming (next_local_tid))
5549       next_local_tid = (next_local_tid + 1) | GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
5550     t->local_tid_dest = next_local_tid++;
5551     next_local_tid = next_local_tid | GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
5552     // FIXME end
5553
5554     tunnel_reset_timeout (t);
5555     GNUNET_CRYPTO_hash (&t->local_tid_dest, sizeof (MESH_TunnelNumber), &hash);
5556     if (GNUNET_OK !=
5557         GNUNET_CONTAINER_multihashmap_put (incoming_tunnels, &hash, t,
5558                                            GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST))
5559     {
5560       tunnel_destroy (t);
5561       GNUNET_break (0);
5562       return GNUNET_OK;
5563     }
5564   }
5565   dest_peer_info =
5566       GNUNET_CONTAINER_multihashmap_get (peers, &pi[size - 1].hashPubKey);
5567   if (NULL == dest_peer_info)
5568   {
5569     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5570                 "  Creating PeerInfo for destination.\n");
5571     dest_peer_info = GNUNET_malloc (sizeof (struct MeshPeerInfo));
5572     dest_peer_info->id = GNUNET_PEER_intern (&pi[size - 1]);
5573     GNUNET_CONTAINER_multihashmap_put (peers, &pi[size - 1].hashPubKey,
5574                                        dest_peer_info,
5575                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY);
5576   }
5577   orig_peer_info = GNUNET_CONTAINER_multihashmap_get (peers, &pi->hashPubKey);
5578   if (NULL == orig_peer_info)
5579   {
5580     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5581                 "  Creating PeerInfo for origin.\n");
5582     orig_peer_info = GNUNET_malloc (sizeof (struct MeshPeerInfo));
5583     orig_peer_info->id = GNUNET_PEER_intern (pi);
5584     GNUNET_CONTAINER_multihashmap_put (peers, &pi->hashPubKey, orig_peer_info,
5585                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY);
5586   }
5587   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Creating path...\n");
5588   path = path_new (size);
5589   own_pos = 0;
5590   for (i = 0; i < size; i++)
5591   {
5592     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ... adding %s\n",
5593                 GNUNET_i2s (&pi[i]));
5594     path->peers[i] = GNUNET_PEER_intern (&pi[i]);
5595     if (path->peers[i] == myid)
5596       own_pos = i;
5597   }
5598   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Own position: %u\n", own_pos);
5599   if (own_pos == 0)
5600   {
5601     /* cannot be self, must be 'not found' */
5602     /* create path: self not found in path through self */
5603     GNUNET_break_op (0);
5604     path_destroy (path);
5605     tunnel_destroy (t);
5606     return GNUNET_OK;
5607   }
5608   path_add_to_peers (path, GNUNET_NO);
5609   tunnel_add_path (t, path, own_pos);
5610   if (own_pos == size - 1)
5611   {
5612     /* It is for us! Send ack. */
5613     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  It's for us!\n");
5614     peer_info_add_path_to_origin (orig_peer_info, path, GNUNET_NO);
5615     if (NULL == t->peers)
5616     {
5617       /* New tunnel! Notify clients on first payload message. */
5618       t->peers = GNUNET_CONTAINER_multihashmap_create (4, GNUNET_NO);
5619     }
5620     GNUNET_break (GNUNET_SYSERR !=
5621                   GNUNET_CONTAINER_multihashmap_put (t->peers,
5622                                                      &my_full_id.hashPubKey,
5623                                                      peer_info_get
5624                                                      (&my_full_id),
5625                                                      GNUNET_CONTAINER_MULTIHASHMAPOPTION_REPLACE));
5626     send_path_ack (t);
5627   }
5628   else
5629   {
5630     struct MeshPeerPath *path2;
5631
5632     /* It's for somebody else! Retransmit. */
5633     path2 = path_duplicate (path);
5634     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Retransmitting.\n");
5635     peer_info_add_path (dest_peer_info, path2, GNUNET_NO);
5636     path2 = path_duplicate (path);
5637     peer_info_add_path_to_origin (orig_peer_info, path2, GNUNET_NO);
5638     send_create_path (dest_peer_info, path, t);
5639   }
5640   return GNUNET_OK;
5641 }
5642
5643
5644 /**
5645  * Core handler for path destruction
5646  *
5647  * @param cls closure
5648  * @param message message
5649  * @param peer peer identity this notification is about
5650  * @param atsi performance data
5651  * @param atsi_count number of records in 'atsi'
5652  *
5653  * @return GNUNET_OK to keep the connection open,
5654  *         GNUNET_SYSERR to close it (signal serious error)
5655  */
5656 static int
5657 handle_mesh_path_destroy (void *cls, const struct GNUNET_PeerIdentity *peer,
5658                           const struct GNUNET_MessageHeader *message,
5659                           const struct GNUNET_ATS_Information *atsi,
5660                           unsigned int atsi_count)
5661 {
5662   struct GNUNET_MESH_ManipulatePath *msg;
5663   struct GNUNET_PeerIdentity *pi;
5664   struct MeshPeerPath *path;
5665   struct MeshTunnel *t;
5666   unsigned int own_pos;
5667   unsigned int i;
5668   size_t size;
5669
5670   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5671               "Received a PATH DESTROY msg from %s\n", GNUNET_i2s (peer));
5672   size = ntohs (message->size);
5673   if (size < sizeof (struct GNUNET_MESH_ManipulatePath))
5674   {
5675     GNUNET_break_op (0);
5676     return GNUNET_OK;
5677   }
5678
5679   size -= sizeof (struct GNUNET_MESH_ManipulatePath);
5680   if (size % sizeof (struct GNUNET_PeerIdentity))
5681   {
5682     GNUNET_break_op (0);
5683     return GNUNET_OK;
5684   }
5685   size /= sizeof (struct GNUNET_PeerIdentity);
5686   if (size < 2)
5687   {
5688     GNUNET_break_op (0);
5689     return GNUNET_OK;
5690   }
5691   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "    path has %u hops.\n", size);
5692
5693   msg = (struct GNUNET_MESH_ManipulatePath *) message;
5694   pi = (struct GNUNET_PeerIdentity *) &msg[1];
5695   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5696               "    path is for tunnel %s [%X].\n", GNUNET_i2s (pi),
5697               msg->tid);
5698   t = tunnel_get (pi, ntohl (msg->tid));
5699   if (NULL == t)
5700   {
5701     /* TODO notify back: we don't know this tunnel */
5702     GNUNET_break_op (0);
5703     return GNUNET_OK;
5704   }
5705   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Creating path...\n");
5706   path = path_new (size);
5707   own_pos = 0;
5708   for (i = 0; i < size; i++)
5709   {
5710     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ... adding %s\n",
5711                 GNUNET_i2s (&pi[i]));
5712     path->peers[i] = GNUNET_PEER_intern (&pi[i]);
5713     if (path->peers[i] == myid)
5714       own_pos = i;
5715   }
5716   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  Own position: %u\n", own_pos);
5717   if (own_pos < path->length - 1)
5718     send_prebuilt_message (message, &pi[own_pos + 1], t);
5719   else
5720     send_client_tunnel_disconnect(t, NULL);
5721
5722   tunnel_delete_peer (t, path->peers[path->length - 1]);
5723   path_destroy (path);
5724   return GNUNET_OK;
5725 }
5726
5727
5728 /**
5729  * Core handler for notifications of broken paths
5730  *
5731  * @param cls closure
5732  * @param message message
5733  * @param peer peer identity this notification is about
5734  * @param atsi performance data
5735  * @param atsi_count number of records in 'atsi'
5736  *
5737  * @return GNUNET_OK to keep the connection open,
5738  *         GNUNET_SYSERR to close it (signal serious error)
5739  */
5740 static int
5741 handle_mesh_path_broken (void *cls, const struct GNUNET_PeerIdentity *peer,
5742                          const struct GNUNET_MessageHeader *message,
5743                          const struct GNUNET_ATS_Information *atsi,
5744                          unsigned int atsi_count)
5745 {
5746   struct GNUNET_MESH_PathBroken *msg;
5747   struct MeshTunnel *t;
5748
5749   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5750               "Received a PATH BROKEN msg from %s\n", GNUNET_i2s (peer));
5751   msg = (struct GNUNET_MESH_PathBroken *) message;
5752   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  regarding %s\n",
5753               GNUNET_i2s (&msg->peer1));
5754   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  regarding %s\n",
5755               GNUNET_i2s (&msg->peer2));
5756   t = tunnel_get (&msg->oid, ntohl (msg->tid));
5757   if (NULL == t)
5758   {
5759     GNUNET_break_op (0);
5760     return GNUNET_OK;
5761   }
5762   tunnel_notify_connection_broken (t, GNUNET_PEER_search (&msg->peer1),
5763                                    GNUNET_PEER_search (&msg->peer2));
5764   return GNUNET_OK;
5765
5766 }
5767
5768
5769 /**
5770  * Core handler for tunnel destruction
5771  *
5772  * @param cls closure
5773  * @param message message
5774  * @param peer peer identity this notification is about
5775  * @param atsi performance data
5776  * @param atsi_count number of records in 'atsi'
5777  *
5778  * @return GNUNET_OK to keep the connection open,
5779  *         GNUNET_SYSERR to close it (signal serious error)
5780  */
5781 static int
5782 handle_mesh_tunnel_destroy (void *cls, const struct GNUNET_PeerIdentity *peer,
5783                             const struct GNUNET_MessageHeader *message,
5784                             const struct GNUNET_ATS_Information *atsi,
5785                             unsigned int atsi_count)
5786 {
5787   struct GNUNET_MESH_TunnelDestroy *msg;
5788   struct MeshTunnel *t;
5789
5790   msg = (struct GNUNET_MESH_TunnelDestroy *) message;
5791   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5792               "Got a TUNNEL DESTROY packet from %s\n",
5793               GNUNET_i2s (peer));
5794   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5795               "  for tunnel %s [%u]\n",
5796               GNUNET_i2s (&msg->oid), ntohl (msg->tid));
5797   t = tunnel_get (&msg->oid, ntohl (msg->tid));
5798   if (NULL == t)
5799   {
5800     /* Probably already got the message from another path,
5801      * destroyed the tunnel and retransmitted to children.
5802      * Safe to ignore.
5803      */
5804     GNUNET_STATISTICS_update (stats, "# control on unknown tunnel",
5805                               1, GNUNET_NO);
5806     return GNUNET_OK;
5807   }
5808   if (t->id.oid == myid)
5809   {
5810     GNUNET_break_op (0);
5811     return GNUNET_OK;
5812   }
5813   if (t->local_tid_dest >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
5814   {
5815     /* Tunnel was incoming, notify clients */
5816     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "INCOMING TUNNEL %X %X\n",
5817                 t->local_tid, t->local_tid_dest);
5818     send_clients_tunnel_destroy (t);
5819   }
5820   tunnel_send_destroy (t, GNUNET_YES);
5821   t->destroy = GNUNET_YES;
5822   // TODO: add timeout to destroy the tunnel anyway
5823   return GNUNET_OK;
5824 }
5825
5826
5827 /**
5828  * Core handler for mesh network traffic going from the origin to a peer
5829  *
5830  * @param cls closure
5831  * @param peer peer identity this notification is about
5832  * @param message message
5833  * @param atsi performance data
5834  * @param atsi_count number of records in 'atsi'
5835  * @return GNUNET_OK to keep the connection open,
5836  *         GNUNET_SYSERR to close it (signal serious error)
5837  */
5838 static int
5839 handle_mesh_data_unicast (void *cls, const struct GNUNET_PeerIdentity *peer,
5840                           const struct GNUNET_MessageHeader *message,
5841                           const struct GNUNET_ATS_Information *atsi,
5842                           unsigned int atsi_count)
5843 {
5844   struct GNUNET_MESH_Unicast *msg;
5845   struct GNUNET_PeerIdentity *neighbor;
5846   struct MeshTunnelChildInfo *cinfo;
5847   struct MeshTunnel *t;
5848   GNUNET_PEER_Id dest_id;
5849   uint32_t pid;
5850   uint32_t ttl;
5851   size_t size;
5852
5853   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a unicast packet from %s\n",
5854               GNUNET_i2s (peer));
5855   /* Check size */
5856   size = ntohs (message->size);
5857   if (size <
5858       sizeof (struct GNUNET_MESH_Unicast) +
5859       sizeof (struct GNUNET_MessageHeader))
5860   {
5861     GNUNET_break (0);
5862     return GNUNET_OK;
5863   }
5864   msg = (struct GNUNET_MESH_Unicast *) message;
5865   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " of type %s\n",
5866               GNUNET_MESH_DEBUG_M2S (ntohs (msg[1].header.type)));
5867   /* Check tunnel */
5868   t = tunnel_get (&msg->oid, ntohl (msg->tid));
5869   if (NULL == t)
5870   {
5871     /* TODO notify back: we don't know this tunnel */
5872     GNUNET_STATISTICS_update (stats, "# data on unknown tunnel", 1, GNUNET_NO);
5873     GNUNET_break_op (0);
5874     return GNUNET_OK;
5875   }
5876   pid = ntohl (msg->pid);
5877   if (t->fwd_pid == pid)
5878   {
5879     GNUNET_STATISTICS_update (stats, "# duplicate PID drops", 1, GNUNET_NO);
5880     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
5881                 " Already seen pid %u, DROPPING!\n", pid);
5882     return GNUNET_OK;
5883   }
5884   else
5885   {
5886     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5887                 " pid %u not seen yet, forwarding\n", pid);
5888   }
5889
5890   t->skip += (pid - t->fwd_pid) - 1;
5891   t->fwd_pid = pid;
5892
5893   if (GMC_is_pid_bigger (pid, t->last_fwd_ack))
5894   {
5895     GNUNET_STATISTICS_update (stats, "# unsolicited unicast", 1, GNUNET_NO);
5896     GNUNET_break_op (0);
5897     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5898                 "Received PID %u, ACK %u\n",
5899                 pid, t->last_fwd_ack);
5900     return GNUNET_OK;
5901   }
5902
5903   tunnel_reset_timeout (t);
5904   dest_id = GNUNET_PEER_search (&msg->destination);
5905   if (dest_id == myid)
5906   {
5907     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5908                 "  it's for us! sending to clients...\n");
5909     GNUNET_STATISTICS_update (stats, "# unicast received", 1, GNUNET_NO);
5910     send_subscribed_clients (message, &msg[1].header, t);
5911     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_UNICAST);
5912     return GNUNET_OK;
5913   }
5914   ttl = ntohl (msg->ttl);
5915   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   ttl: %u\n", ttl);
5916   if (ttl == 0)
5917   {
5918     GNUNET_STATISTICS_update (stats, "# TTL drops", 1, GNUNET_NO);
5919     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, " TTL is 0, DROPPING!\n");
5920     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
5921     return GNUNET_OK;
5922   }
5923   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5924               "  not for us, retransmitting...\n");
5925
5926   neighbor = tree_get_first_hop (t->tree, dest_id);
5927   cinfo = tunnel_get_neighbor_fc (t, neighbor);
5928   cinfo->fwd_pid = pid;
5929   GNUNET_CONTAINER_multihashmap_iterate (t->children_fc,
5930                                          &tunnel_add_skip,
5931                                          &neighbor);
5932   if (GNUNET_YES == t->nobuffer &&
5933       GNUNET_YES == GMC_is_pid_bigger (pid, cinfo->fwd_ack))
5934   {
5935     GNUNET_STATISTICS_update (stats, "# unsolicited unicast", 1, GNUNET_NO);
5936     GNUNET_log (GNUNET_ERROR_TYPE_INFO, "  %u > %u\n", pid, cinfo->fwd_ack);
5937     GNUNET_break_op (0);
5938     return GNUNET_OK;
5939   }
5940   send_prebuilt_message (message, neighbor, t);
5941   GNUNET_STATISTICS_update (stats, "# unicast forwarded", 1, GNUNET_NO);
5942   return GNUNET_OK;
5943 }
5944
5945
5946 /**
5947  * Core handler for mesh network traffic going from the origin to all peers
5948  *
5949  * @param cls closure
5950  * @param message message
5951  * @param peer peer identity this notification is about
5952  * @param atsi performance data
5953  * @param atsi_count number of records in 'atsi'
5954  * @return GNUNET_OK to keep the connection open,
5955  *         GNUNET_SYSERR to close it (signal serious error)
5956  *
5957  * TODO: Check who we got this from, to validate route.
5958  */
5959 static int
5960 handle_mesh_data_multicast (void *cls, const struct GNUNET_PeerIdentity *peer,
5961                             const struct GNUNET_MessageHeader *message,
5962                             const struct GNUNET_ATS_Information *atsi,
5963                             unsigned int atsi_count)
5964 {
5965   struct GNUNET_MESH_Multicast *msg;
5966   struct MeshTunnel *t;
5967   size_t size;
5968   uint32_t pid;
5969
5970   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a multicast packet from %s\n",
5971               GNUNET_i2s (peer));
5972   size = ntohs (message->size);
5973   if (sizeof (struct GNUNET_MESH_Multicast) +
5974       sizeof (struct GNUNET_MessageHeader) > size)
5975   {
5976     GNUNET_break_op (0);
5977     return GNUNET_OK;
5978   }
5979   msg = (struct GNUNET_MESH_Multicast *) message;
5980   t = tunnel_get (&msg->oid, ntohl (msg->tid));
5981
5982   if (NULL == t)
5983   {
5984     /* TODO notify that we dont know that tunnel */
5985     GNUNET_STATISTICS_update (stats, "# data on unknown tunnel", 1, GNUNET_NO);
5986     GNUNET_break_op (0);
5987     return GNUNET_OK;
5988   }
5989   pid = ntohl (msg->pid);
5990   if (t->fwd_pid == pid)
5991   {
5992     /* already seen this packet, drop */
5993     GNUNET_STATISTICS_update (stats, "# duplicate PID drops", 1, GNUNET_NO);
5994     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5995                 " Already seen pid %u, DROPPING!\n", pid);
5996     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
5997     return GNUNET_OK;
5998   }
5999   else
6000   {
6001     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
6002                 " pid %u not seen yet, forwarding\n", pid);
6003   }
6004   t->skip += (pid - t->fwd_pid) - 1;
6005   t->fwd_pid = pid;
6006   tunnel_reset_timeout (t);
6007
6008   /* Transmit to locally interested clients */
6009   if (NULL != t->peers &&
6010       GNUNET_CONTAINER_multihashmap_contains (t->peers, &my_full_id.hashPubKey))
6011   {
6012     GNUNET_STATISTICS_update (stats, "# multicast received", 1, GNUNET_NO);
6013     send_subscribed_clients (message, &msg[1].header, t);
6014     tunnel_send_fwd_ack(t, GNUNET_MESSAGE_TYPE_MESH_MULTICAST);
6015   }
6016   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   ttl: %u\n", ntohl (msg->ttl));
6017   if (ntohl (msg->ttl) == 0)
6018   {
6019     GNUNET_STATISTICS_update (stats, "# TTL drops", 1, GNUNET_NO);
6020     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, " TTL is 0, DROPPING!\n");
6021     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
6022     return GNUNET_OK;
6023   }
6024   GNUNET_STATISTICS_update (stats, "# multicast forwarded", 1, GNUNET_NO);
6025   tunnel_send_multicast (t, message);
6026   return GNUNET_OK;
6027 }
6028
6029
6030 /**
6031  * Core handler for mesh network traffic toward the owner of a tunnel
6032  *
6033  * @param cls closure
6034  * @param message message
6035  * @param peer peer identity this notification is about
6036  * @param atsi performance data
6037  * @param atsi_count number of records in 'atsi'
6038  *
6039  * @return GNUNET_OK to keep the connection open,
6040  *         GNUNET_SYSERR to close it (signal serious error)
6041  */
6042 static int
6043 handle_mesh_data_to_orig (void *cls, const struct GNUNET_PeerIdentity *peer,
6044                           const struct GNUNET_MessageHeader *message,
6045                           const struct GNUNET_ATS_Information *atsi,
6046                           unsigned int atsi_count)
6047 {
6048   struct GNUNET_MESH_ToOrigin *msg;
6049   struct GNUNET_PeerIdentity id;
6050   struct MeshPeerInfo *peer_info;
6051   struct MeshTunnel *t;
6052   struct MeshTunnelChildInfo *cinfo;
6053   GNUNET_PEER_Id predecessor;
6054   size_t size;
6055   uint32_t pid;
6056
6057   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a ToOrigin packet from %s\n",
6058               GNUNET_i2s (peer));
6059   size = ntohs (message->size);
6060   if (size < sizeof (struct GNUNET_MESH_ToOrigin) +     /* Payload must be */
6061       sizeof (struct GNUNET_MessageHeader))     /* at least a header */
6062   {
6063     GNUNET_break_op (0);
6064     return GNUNET_OK;
6065   }
6066   msg = (struct GNUNET_MESH_ToOrigin *) message;
6067   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " of type %s\n",
6068               GNUNET_MESH_DEBUG_M2S (ntohs (msg[1].header.type)));
6069   t = tunnel_get (&msg->oid, ntohl (msg->tid));
6070   pid = ntohl (msg->pid);
6071
6072   if (NULL == t)
6073   {
6074     /* TODO notify that we dont know this tunnel (whom)? */
6075     GNUNET_STATISTICS_update (stats, "# data on unknown tunnel", 1, GNUNET_NO);
6076     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
6077                 "Received to_origin with PID %u on unknown tunnel %s [%u]\n",
6078                 pid, GNUNET_i2s (&msg->oid), ntohl (msg->tid));
6079     return GNUNET_OK;
6080   }
6081
6082   cinfo = tunnel_get_neighbor_fc(t, peer);
6083   if (NULL == cinfo)
6084   {
6085     GNUNET_break (0);
6086     return GNUNET_OK;
6087   }
6088
6089   if (cinfo->bck_pid == pid)
6090   {
6091     /* already seen this packet, drop */
6092     GNUNET_STATISTICS_update (stats, "# duplicate PID drops BCK", 1, GNUNET_NO);
6093     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
6094                 " Already seen pid %u, DROPPING!\n", pid);
6095     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
6096     return GNUNET_OK;
6097   }
6098
6099   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
6100               " pid %u not seen yet, forwarding\n", pid);
6101   cinfo->bck_pid = pid;
6102
6103   if (NULL != t->owner)
6104   {
6105     char cbuf[size];
6106     struct GNUNET_MESH_ToOrigin *copy;
6107
6108     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
6109                 "  it's for us! sending to clients...\n");
6110     /* TODO signature verification */
6111     memcpy (cbuf, message, size);
6112     copy = (struct GNUNET_MESH_ToOrigin *) cbuf;
6113     copy->tid = htonl (t->local_tid);
6114     t->bck_pid++;
6115     copy->pid = htonl (t->bck_pid);
6116     GNUNET_STATISTICS_update (stats, "# to origin received", 1, GNUNET_NO);
6117     GNUNET_SERVER_notification_context_unicast (nc, t->owner->handle,
6118                                                 &copy->header, GNUNET_NO);
6119     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN);
6120     return GNUNET_OK;
6121   }
6122   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
6123               "  not for us, retransmitting...\n");
6124
6125   peer_info = peer_info_get (&msg->oid);
6126   if (NULL == peer_info)
6127   {
6128     /* unknown origin of tunnel */
6129     GNUNET_break (0);
6130     return GNUNET_OK;
6131   }
6132   predecessor = tree_get_predecessor (t->tree);
6133   if (0 == predecessor)
6134   {
6135     if (GNUNET_YES == t->destroy)
6136     {
6137       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
6138                   "to orig received on a dying tunnel %s [%X]\n",
6139                   GNUNET_i2s (&msg->oid), ntohl(msg->tid));
6140       return GNUNET_OK;
6141     }
6142     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, 
6143                 "unknown to origin at %s\n",
6144                 GNUNET_i2s (&my_full_id));
6145     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, 
6146                 "from peer %s\n",
6147                 GNUNET_i2s (peer));
6148     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, 
6149                 "for tunnel %s [%X]\n",
6150                 GNUNET_i2s (&msg->oid), ntohl(msg->tid));
6151     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, 
6152                 "current tree:\n");
6153     tree_debug (t->tree);
6154     return GNUNET_OK;
6155   }
6156   GNUNET_PEER_resolve (predecessor, &id);
6157   send_prebuilt_message (message, &id, t);
6158   GNUNET_STATISTICS_update (stats, "# to origin forwarded", 1, GNUNET_NO);
6159
6160   return GNUNET_OK;
6161 }
6162
6163
6164 /**
6165  * Core handler for mesh network traffic point-to-point acks.
6166  *
6167  * @param cls closure
6168  * @param message message
6169  * @param peer peer identity this notification is about
6170  * @param atsi performance data
6171  * @param atsi_count number of records in 'atsi'
6172  *
6173  * @return GNUNET_OK to keep the connection open,
6174  *         GNUNET_SYSERR to close it (signal serious error)
6175  */
6176 static int
6177 handle_mesh_ack (void *cls, const struct GNUNET_PeerIdentity *peer,
6178                  const struct GNUNET_MessageHeader *message,
6179                  const struct GNUNET_ATS_Information *atsi,
6180                  unsigned int atsi_count)
6181 {
6182   struct GNUNET_MESH_ACK *msg;
6183   struct MeshTunnel *t;
6184   uint32_t ack;
6185
6186   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got an ACK packet from %s!\n",
6187               GNUNET_i2s (peer));
6188   msg = (struct GNUNET_MESH_ACK *) message;
6189
6190   t = tunnel_get (&msg->oid, ntohl (msg->tid));
6191
6192   if (NULL == t)
6193   {
6194     /* TODO notify that we dont know this tunnel (whom)? */
6195     GNUNET_STATISTICS_update (stats, "# ack on unknown tunnel", 1, GNUNET_NO);
6196     return GNUNET_OK;
6197   }
6198   ack = ntohl (msg->pid);
6199   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ACK %u\n", ack);
6200
6201   /* Is this a forward or backward ACK? */
6202   if (tree_get_predecessor(t->tree) != GNUNET_PEER_search(peer))
6203   {
6204     struct MeshTunnelChildInfo *cinfo;
6205
6206     debug_bck_ack++;
6207     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  FWD ACK\n");
6208     cinfo = tunnel_get_neighbor_fc (t, peer);
6209     cinfo->fwd_ack = ack;
6210     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
6211     tunnel_unlock_fwd_queues (t);
6212     if (GNUNET_SCHEDULER_NO_TASK != cinfo->fc_poll)
6213     {
6214       GNUNET_SCHEDULER_cancel (cinfo->fc_poll);
6215       cinfo->fc_poll = GNUNET_SCHEDULER_NO_TASK;
6216       cinfo->fc_poll_time = GNUNET_TIME_UNIT_SECONDS;
6217     }
6218   }
6219   else
6220   {
6221     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  BCK ACK\n");
6222     t->bck_ack = ack;
6223     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_ACK);
6224     tunnel_unlock_bck_queue (t);
6225   }
6226   return GNUNET_OK;
6227 }
6228
6229
6230 /**
6231  * Core handler for mesh network traffic point-to-point ack polls.
6232  *
6233  * @param cls closure
6234  * @param message message
6235  * @param peer peer identity this notification is about
6236  * @param atsi performance data
6237  * @param atsi_count number of records in 'atsi'
6238  *
6239  * @return GNUNET_OK to keep the connection open,
6240  *         GNUNET_SYSERR to close it (signal serious error)
6241  */
6242 static int
6243 handle_mesh_poll (void *cls, const struct GNUNET_PeerIdentity *peer,
6244                   const struct GNUNET_MessageHeader *message,
6245                   const struct GNUNET_ATS_Information *atsi,
6246                   unsigned int atsi_count)
6247 {
6248   struct GNUNET_MESH_Poll *msg;
6249   struct MeshTunnel *t;
6250
6251   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got an POLL packet from %s!\n",
6252               GNUNET_i2s (peer));
6253
6254   msg = (struct GNUNET_MESH_Poll *) message;
6255
6256   t = tunnel_get (&msg->oid, ntohl (msg->tid));
6257
6258   if (NULL == t)
6259   {
6260     /* TODO notify that we dont know this tunnel (whom)? */
6261     GNUNET_STATISTICS_update (stats, "# poll on unknown tunnel", 1, GNUNET_NO);
6262     GNUNET_break_op (0);
6263     return GNUNET_OK;
6264   }
6265
6266   /* Is this a forward or backward ACK? */
6267   if (tree_get_predecessor(t->tree) != GNUNET_PEER_search(peer))
6268   {
6269     struct MeshTunnelChildInfo *cinfo;
6270
6271     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  from FWD\n");
6272     cinfo = tunnel_get_neighbor_fc (t, peer);
6273     cinfo->bck_ack = cinfo->fwd_pid; // mark as ready to send
6274     tunnel_send_bck_ack (t, GNUNET_MESSAGE_TYPE_MESH_POLL);
6275   }
6276   else
6277   {
6278     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  from BCK\n");
6279     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_POLL);
6280   }
6281
6282   return GNUNET_OK;
6283 }
6284
6285
6286 /**
6287  * Core handler for path ACKs
6288  *
6289  * @param cls closure
6290  * @param message message
6291  * @param peer peer identity this notification is about
6292  * @param atsi performance data
6293  * @param atsi_count number of records in 'atsi'
6294  *
6295  * @return GNUNET_OK to keep the connection open,
6296  *         GNUNET_SYSERR to close it (signal serious error)
6297  */
6298 static int
6299 handle_mesh_path_ack (void *cls, const struct GNUNET_PeerIdentity *peer,
6300                       const struct GNUNET_MessageHeader *message,
6301                       const struct GNUNET_ATS_Information *atsi,
6302                       unsigned int atsi_count)
6303 {
6304   struct GNUNET_MESH_PathACK *msg;
6305   struct GNUNET_PeerIdentity id;
6306   struct MeshPeerInfo *peer_info;
6307   struct MeshPeerPath *p;
6308   struct MeshTunnel *t;
6309
6310   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Received a path ACK msg [%s]\n",
6311               GNUNET_i2s (&my_full_id));
6312   msg = (struct GNUNET_MESH_PathACK *) message;
6313   t = tunnel_get (&msg->oid, ntohl(msg->tid));
6314   if (NULL == t)
6315   {
6316     /* TODO notify that we don't know the tunnel */
6317     GNUNET_STATISTICS_update (stats, "# control on unknown tunnel", 1, GNUNET_NO);
6318     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  don't know the tunnel %s [%X]!\n",
6319                 GNUNET_i2s (&msg->oid), ntohl(msg->tid));
6320     return GNUNET_OK;
6321   }
6322   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %s [%X]\n",
6323               GNUNET_i2s (&msg->oid), ntohl(msg->tid));
6324
6325   peer_info = peer_info_get (&msg->peer_id);
6326   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by peer %s\n",
6327               GNUNET_i2s (&msg->peer_id));
6328   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  via peer %s\n",
6329               GNUNET_i2s (peer));
6330
6331   if (NULL != t->regex_ctx && t->regex_ctx->info->peer == peer_info->id)
6332   {
6333     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
6334                 "connect_by_string completed, stopping search\n");
6335     regex_cancel_search (t->regex_ctx);
6336     t->regex_ctx = NULL;
6337   }
6338
6339   /* Add paths to peers? */
6340   p = tree_get_path_to_peer (t->tree, peer_info->id);
6341   if (NULL != p)
6342   {
6343     path_add_to_peers (p, GNUNET_YES);
6344     path_destroy (p);
6345   }
6346   else
6347   {
6348     GNUNET_break (0);
6349   }
6350
6351   /* Message for us? */
6352   if (0 == memcmp (&msg->oid, &my_full_id, sizeof (struct GNUNET_PeerIdentity)))
6353   {
6354     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  It's for us!\n");
6355     if (NULL == t->owner)
6356     {
6357       GNUNET_break_op (0);
6358       return GNUNET_OK;
6359     }
6360     if (NULL != t->dht_get_type)
6361     {
6362       GNUNET_DHT_get_stop (t->dht_get_type);
6363       t->dht_get_type = NULL;
6364     }
6365     if (tree_get_status (t->tree, peer_info->id) != MESH_PEER_READY)
6366     {
6367       tree_set_status (t->tree, peer_info->id, MESH_PEER_READY);
6368       send_client_peer_connected (t, peer_info->id);
6369     }
6370     return GNUNET_OK;
6371   }
6372
6373   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
6374               "  not for us, retransmitting...\n");
6375   GNUNET_PEER_resolve (tree_get_predecessor (t->tree), &id);
6376   peer_info = peer_info_get (&msg->oid);
6377   if (NULL == peer_info)
6378   {
6379     /* If we know the tunnel, we should DEFINITELY know the peer */
6380     GNUNET_break (0);
6381     return GNUNET_OK;
6382   }
6383   send_prebuilt_message (message, &id, t);
6384   return GNUNET_OK;
6385 }
6386
6387
6388 /**
6389  * Core handler for mesh keepalives.
6390  *
6391  * @param cls closure
6392  * @param message message
6393  * @param peer peer identity this notification is about
6394  * @param atsi performance data
6395  * @param atsi_count number of records in 'atsi'
6396  * @return GNUNET_OK to keep the connection open,
6397  *         GNUNET_SYSERR to close it (signal serious error)
6398  *
6399  * TODO: Check who we got this from, to validate route.
6400  */
6401 static int
6402 handle_mesh_keepalive (void *cls, const struct GNUNET_PeerIdentity *peer,
6403                        const struct GNUNET_MessageHeader *message,
6404                        const struct GNUNET_ATS_Information *atsi,
6405                        unsigned int atsi_count)
6406 {
6407   struct GNUNET_MESH_TunnelKeepAlive *msg;
6408   struct MeshTunnel *t;
6409
6410   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got a keepalive packet from %s\n",
6411               GNUNET_i2s (peer));
6412
6413   msg = (struct GNUNET_MESH_TunnelKeepAlive *) message;
6414   t = tunnel_get (&msg->oid, ntohl (msg->tid));
6415
6416   if (NULL == t)
6417   {
6418     /* TODO notify that we dont know that tunnel */
6419     GNUNET_STATISTICS_update (stats, "# keepalive on unknown tunnel", 1,
6420                               GNUNET_NO);
6421     return GNUNET_OK;
6422   }
6423
6424   tunnel_reset_timeout (t);
6425
6426   GNUNET_STATISTICS_update (stats, "# keepalives forwarded", 1, GNUNET_NO);
6427   tunnel_send_multicast (t, message);
6428   return GNUNET_OK;
6429   }
6430
6431
6432
6433 /**
6434  * Functions to handle messages from core
6435  */
6436 static struct GNUNET_CORE_MessageHandler core_handlers[] = {
6437   {&handle_mesh_path_create, GNUNET_MESSAGE_TYPE_MESH_PATH_CREATE, 0},
6438   {&handle_mesh_path_destroy, GNUNET_MESSAGE_TYPE_MESH_PATH_DESTROY, 0},
6439   {&handle_mesh_path_broken, GNUNET_MESSAGE_TYPE_MESH_PATH_BROKEN,
6440    sizeof (struct GNUNET_MESH_PathBroken)},
6441   {&handle_mesh_tunnel_destroy, GNUNET_MESSAGE_TYPE_MESH_TUNNEL_DESTROY,
6442    sizeof (struct GNUNET_MESH_TunnelDestroy)},
6443   {&handle_mesh_data_unicast, GNUNET_MESSAGE_TYPE_MESH_UNICAST, 0},
6444   {&handle_mesh_data_multicast, GNUNET_MESSAGE_TYPE_MESH_MULTICAST, 0},
6445   {&handle_mesh_keepalive, GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE,
6446     sizeof (struct GNUNET_MESH_TunnelKeepAlive)},
6447   {&handle_mesh_data_to_orig, GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN, 0},
6448   {&handle_mesh_ack, GNUNET_MESSAGE_TYPE_MESH_ACK,
6449     sizeof (struct GNUNET_MESH_ACK)},
6450   {&handle_mesh_poll, GNUNET_MESSAGE_TYPE_MESH_POLL,
6451     sizeof (struct GNUNET_MESH_Poll)},
6452   {&handle_mesh_path_ack, GNUNET_MESSAGE_TYPE_MESH_PATH_ACK,
6453    sizeof (struct GNUNET_MESH_PathACK)},
6454   {NULL, 0, 0}
6455 };
6456
6457
6458
6459 /******************************************************************************/
6460 /****************       MESH LOCAL HANDLER HELPERS      ***********************/
6461 /******************************************************************************/
6462
6463 /**
6464  * deregister_app: iterator for removing each application registered by a client
6465  *
6466  * @param cls closure
6467  * @param key the hash of the application id (used to access the hashmap)
6468  * @param value the value stored at the key (client)
6469  *
6470  * @return GNUNET_OK on success
6471  */
6472 static int
6473 deregister_app (void *cls, const struct GNUNET_HashCode * key, void *value)
6474 {
6475   struct GNUNET_CONTAINER_MultiHashMap *h = cls;
6476   GNUNET_break (GNUNET_YES ==
6477                 GNUNET_CONTAINER_multihashmap_remove (h, key, value));
6478   return GNUNET_OK;
6479 }
6480
6481 #if LATER
6482 /**
6483  * notify_client_connection_failure: notify a client that the connection to the
6484  * requested remote peer is not possible (for instance, no route found)
6485  * Function called when the socket is ready to queue more data. "buf" will be
6486  * NULL and "size" zero if the socket was closed for writing in the meantime.
6487  *
6488  * @param cls closure
6489  * @param size number of bytes available in buf
6490  * @param buf where the callee should write the message
6491  * @return number of bytes written to buf
6492  */
6493 static size_t
6494 notify_client_connection_failure (void *cls, size_t size, void *buf)
6495 {
6496   int size_needed;
6497   struct MeshPeerInfo *peer_info;
6498   struct GNUNET_MESH_PeerControl *msg;
6499   struct GNUNET_PeerIdentity id;
6500
6501   if (0 == size && NULL == buf)
6502   {
6503     // TODO retry? cancel?
6504     return 0;
6505   }
6506
6507   size_needed = sizeof (struct GNUNET_MESH_PeerControl);
6508   peer_info = (struct MeshPeerInfo *) cls;
6509   msg = (struct GNUNET_MESH_PeerControl *) buf;
6510   msg->header.size = htons (sizeof (struct GNUNET_MESH_PeerControl));
6511   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_PEER_DISCONNECTED);
6512 //     msg->tunnel_id = htonl(peer_info->t->tid);
6513   GNUNET_PEER_resolve (peer_info->id, &id);
6514   memcpy (&msg->peer, &id, sizeof (struct GNUNET_PeerIdentity));
6515
6516   return size_needed;
6517 }
6518 #endif
6519
6520
6521 /**
6522  * Send keepalive packets for a peer
6523  *
6524  * @param cls Closure (tunnel for which to send the keepalive).
6525  * @param tc Notification context.
6526  */
6527 static void
6528 path_refresh (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
6529 {
6530   struct MeshTunnel *t = cls;
6531   struct GNUNET_MESH_TunnelKeepAlive *msg;
6532   size_t size = sizeof (struct GNUNET_MESH_TunnelKeepAlive);
6533   char cbuf[size];
6534
6535   t->path_refresh_task = GNUNET_SCHEDULER_NO_TASK;
6536   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
6537   {
6538     return;
6539   }
6540
6541   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
6542               "sending keepalive for tunnel %d\n", t->id.tid);
6543
6544   msg = (struct GNUNET_MESH_TunnelKeepAlive *) cbuf;
6545   msg->header.size = htons (size);
6546   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_PATH_KEEPALIVE);
6547   msg->oid = my_full_id;
6548   msg->tid = htonl (t->id.tid);
6549   tunnel_send_multicast (t, &msg->header);
6550
6551   t->path_refresh_task =
6552       GNUNET_SCHEDULER_add_delayed (refresh_path_time, &path_refresh, t);
6553   tunnel_reset_timeout(t);
6554 }
6555
6556
6557 /**
6558  * Function to process paths received for a new peer addition. The recorded
6559  * paths form the initial tunnel, which can be optimized later.
6560  * Called on each result obtained for the DHT search.
6561  *
6562  * @param cls closure
6563  * @param exp when will this value expire
6564  * @param key key of the result
6565  * @param get_path path of the get request
6566  * @param get_path_length lenght of get_path
6567  * @param put_path path of the put request
6568  * @param put_path_length length of the put_path
6569  * @param type type of the result
6570  * @param size number of bytes in data
6571  * @param data pointer to the result data
6572  *
6573  * TODO: re-issue the request after certain time? cancel after X results?
6574  */
6575 static void
6576 dht_get_id_handler (void *cls, struct GNUNET_TIME_Absolute exp,
6577                     const struct GNUNET_HashCode * key,
6578                     const struct GNUNET_PeerIdentity *get_path,
6579                     unsigned int get_path_length,
6580                     const struct GNUNET_PeerIdentity *put_path,
6581                     unsigned int put_path_length, enum GNUNET_BLOCK_Type type,
6582                     size_t size, const void *data)
6583 {
6584   struct MeshPathInfo *path_info = cls;
6585   struct MeshPeerPath *p;
6586   struct GNUNET_PeerIdentity pi;
6587   int i;
6588
6589   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got results from DHT!\n");
6590   GNUNET_PEER_resolve (path_info->peer->id, &pi);
6591   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  for %s\n", GNUNET_i2s (&pi));
6592
6593   p = path_build_from_dht (get_path, get_path_length, put_path,
6594                            put_path_length);
6595   path_add_to_peers (p, GNUNET_NO);
6596   path_destroy(p);
6597   for (i = 0; i < path_info->peer->ntunnels; i++)
6598   {
6599     tunnel_add_peer (path_info->peer->tunnels[i], path_info->peer);
6600     peer_info_connect (path_info->peer, path_info->t);
6601   }
6602
6603   return;
6604 }
6605
6606
6607 /**
6608  * Function to process paths received for a new peer addition. The recorded
6609  * paths form the initial tunnel, which can be optimized later.
6610  * Called on each result obtained for the DHT search.
6611  *
6612  * @param cls closure
6613  * @param exp when will this value expire
6614  * @param key key of the result
6615  * @param get_path path of the get request
6616  * @param get_path_length lenght of get_path
6617  * @param put_path path of the put request
6618  * @param put_path_length length of the put_path
6619  * @param type type of the result
6620  * @param size number of bytes in data
6621  * @param data pointer to the result data
6622  */
6623 static void
6624 dht_get_type_handler (void *cls, struct GNUNET_TIME_Absolute exp,
6625                       const struct GNUNET_HashCode * key,
6626                       const struct GNUNET_PeerIdentity *get_path,
6627                       unsigned int get_path_length,
6628                       const struct GNUNET_PeerIdentity *put_path,
6629                       unsigned int put_path_length, enum GNUNET_BLOCK_Type type,
6630                       size_t size, const void *data)
6631 {
6632   const struct PBlock *pb = data;
6633   const struct GNUNET_PeerIdentity *pi = &pb->id;
6634   struct MeshTunnel *t = cls;
6635   struct MeshPeerInfo *peer_info;
6636   struct MeshPeerPath *p;
6637
6638   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got type DHT result!\n");
6639   if (size != sizeof (struct PBlock))
6640   {
6641     GNUNET_break_op (0);
6642     return;
6643   }
6644   if (ntohl(pb->type) != t->type)
6645   {
6646     GNUNET_break_op (0);
6647     return;
6648   }
6649   GNUNET_assert (NULL != t->owner);
6650   peer_info = peer_info_get (pi);
6651   (void) GNUNET_CONTAINER_multihashmap_put (t->peers, &pi->hashPubKey,
6652                                             peer_info,
6653                                             GNUNET_CONTAINER_MULTIHASHMAPOPTION_REPLACE);
6654
6655   p = path_build_from_dht (get_path, get_path_length, put_path,
6656                            put_path_length);
6657   path_add_to_peers (p, GNUNET_NO);
6658   path_destroy(p);
6659   tunnel_add_peer (t, peer_info);
6660   peer_info_connect (peer_info, t);
6661 }
6662
6663
6664 /**
6665  * Function to process DHT string to regex matching.
6666  * Called on each result obtained for the DHT search.
6667  *
6668  * @param cls closure (search context)
6669  * @param exp when will this value expire
6670  * @param key key of the result
6671  * @param get_path path of the get request (not used)
6672  * @param get_path_length lenght of get_path (not used)
6673  * @param put_path path of the put request (not used)
6674  * @param put_path_length length of the put_path (not used)
6675  * @param type type of the result
6676  * @param size number of bytes in data
6677  * @param data pointer to the result data
6678  */
6679 static void
6680 dht_get_string_accept_handler (void *cls, struct GNUNET_TIME_Absolute exp,
6681                                const struct GNUNET_HashCode * key,
6682                                const struct GNUNET_PeerIdentity *get_path,
6683                                unsigned int get_path_length,
6684                                const struct GNUNET_PeerIdentity *put_path,
6685                                unsigned int put_path_length,
6686                                enum GNUNET_BLOCK_Type type,
6687                                size_t size, const void *data)
6688 {
6689   const struct MeshRegexAccept *block = data;
6690   struct MeshRegexSearchContext *ctx = cls;
6691   struct MeshRegexSearchInfo *info = ctx->info;
6692 //   struct MeshPeerPath *p;
6693   struct MeshPeerInfo *peer_info;
6694
6695   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got regex results from DHT!\n");
6696   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  for %s\n", info->description);
6697   GNUNET_STATISTICS_update (stats, "# regex accepting blocks found",
6698                             1, GNUNET_NO);
6699   GNUNET_STATISTICS_update (stats, "# regex accepting block bytes found",
6700                             size, GNUNET_NO);
6701
6702   peer_info = peer_info_get(&block->id);
6703 //   p = path_build_from_dht (get_path, get_path_length, put_path,
6704 //                            put_path_length);
6705 //   path_add_to_peers (p, GNUNET_NO);
6706 //   path_destroy(p);
6707
6708   tunnel_add_peer (info->t, peer_info);
6709   peer_info_connect (peer_info, info->t);
6710   if (0 == info->peer)
6711   {
6712     info->peer = peer_info->id;
6713   }
6714   else
6715   {
6716     GNUNET_array_append (info->peers, info->n_peers, peer_info->id);
6717   }
6718
6719   if (GNUNET_SCHEDULER_NO_TASK != info->timeout)
6720     return;
6721
6722   info->timeout = GNUNET_SCHEDULER_add_delayed (connect_timeout,
6723                                                 &regex_connect_timeout,
6724                                                 info);
6725
6726   return;
6727 }
6728
6729
6730 /**
6731  * Function to process DHT string to regex matching.
6732  * Called on each result obtained for the DHT search.
6733  *
6734  * @param cls closure (search context)
6735  * @param exp when will this value expire
6736  * @param key key of the result
6737  * @param get_path path of the get request (not used)
6738  * @param get_path_length lenght of get_path (not used)
6739  * @param put_path path of the put request (not used)
6740  * @param put_path_length length of the put_path (not used)
6741  * @param type type of the result
6742  * @param size number of bytes in data
6743  * @param data pointer to the result data
6744  *
6745  * TODO: re-issue the request after certain time? cancel after X results?
6746  */
6747 static void
6748 dht_get_string_handler (void *cls, struct GNUNET_TIME_Absolute exp,
6749                         const struct GNUNET_HashCode * key,
6750                         const struct GNUNET_PeerIdentity *get_path,
6751                         unsigned int get_path_length,
6752                         const struct GNUNET_PeerIdentity *put_path,
6753                         unsigned int put_path_length,
6754                         enum GNUNET_BLOCK_Type type,
6755                         size_t size, const void *data)
6756 {
6757   const struct MeshRegexBlock *block = data;
6758   struct MeshRegexSearchContext *ctx = cls;
6759   struct MeshRegexSearchInfo *info = ctx->info;
6760   void *copy;
6761   size_t len;
6762
6763   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
6764               "DHT GET STRING RETURNED RESULTS\n");
6765   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
6766               "  key: %s\n", GNUNET_h2s (key));
6767
6768   GNUNET_STATISTICS_update (stats, "# regex blocks found",
6769                             1, GNUNET_NO);
6770   GNUNET_STATISTICS_update (stats, "# regex block bytes found",
6771                             size, GNUNET_NO);
6772
6773   copy = GNUNET_malloc (size);
6774   memcpy (copy, data, size);
6775   GNUNET_break (GNUNET_OK ==
6776                 GNUNET_CONTAINER_multihashmap_put(info->dht_get_results, key, copy,
6777                                                   GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE));
6778   len = ntohl (block->n_proof);
6779   {
6780     char proof[len + 1];
6781
6782     memcpy (proof, &block[1], len);
6783     proof[len] = '\0';
6784     if (GNUNET_OK != GNUNET_REGEX_check_proof (proof, key))
6785     {
6786       GNUNET_break_op (0);
6787       return;
6788     }
6789   }
6790   len = strlen (info->description);
6791   if (len == ctx->position) // String processed
6792   {
6793     if (GNUNET_YES == ntohl (block->accepting))
6794     {
6795       regex_find_path(key, ctx);
6796     }
6797     else
6798     {
6799       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  block not accepting!\n");
6800       // FIXME REGEX this block not successful, wait for more? start timeout?
6801     }
6802     return;
6803   }
6804
6805   regex_next_edge (block, size, ctx);
6806
6807   return;
6808 }
6809
6810 /******************************************************************************/
6811 /*********************       MESH LOCAL HANDLES      **************************/
6812 /******************************************************************************/
6813
6814
6815 /**
6816  * Handler for client disconnection
6817  *
6818  * @param cls closure
6819  * @param client identification of the client; NULL
6820  *        for the last call when the server is destroyed
6821  */
6822 static void
6823 handle_local_client_disconnect (void *cls, struct GNUNET_SERVER_Client *client)
6824 {
6825   struct MeshClient *c;
6826   struct MeshClient *next;
6827   unsigned int i;
6828
6829   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "client disconnected\n");
6830   if (client == NULL)
6831   {
6832     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   (SERVER DOWN)\n");
6833     return;
6834   }
6835
6836   c = clients;
6837   while (NULL != c)
6838   {
6839     if (c->handle != client)
6840     {
6841       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   ... searching\n");
6842       c = c->next;
6843       continue;
6844     }
6845     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "matching client found (%u)\n",
6846                 c->id);
6847     GNUNET_SERVER_client_drop (c->handle);
6848     c->shutting_down = GNUNET_YES;
6849     GNUNET_assert (NULL != c->own_tunnels);
6850     GNUNET_assert (NULL != c->incoming_tunnels);
6851     GNUNET_CONTAINER_multihashmap_iterate (c->own_tunnels,
6852                                            &tunnel_destroy_iterator, c);
6853     GNUNET_CONTAINER_multihashmap_iterate (c->incoming_tunnels,
6854                                            &tunnel_destroy_iterator, c);
6855     GNUNET_CONTAINER_multihashmap_iterate (c->ignore_tunnels,
6856                                            &tunnel_destroy_iterator, c);
6857     GNUNET_CONTAINER_multihashmap_destroy (c->own_tunnels);
6858     GNUNET_CONTAINER_multihashmap_destroy (c->incoming_tunnels);
6859     GNUNET_CONTAINER_multihashmap_destroy (c->ignore_tunnels);
6860
6861     /* deregister clients applications */
6862     if (NULL != c->apps)
6863     {
6864       GNUNET_CONTAINER_multihashmap_iterate (c->apps, &deregister_app, c->apps);
6865       GNUNET_CONTAINER_multihashmap_destroy (c->apps);
6866     }
6867     if (0 == GNUNET_CONTAINER_multihashmap_size (applications) &&
6868         GNUNET_SCHEDULER_NO_TASK != announce_applications_task)
6869     {
6870       GNUNET_SCHEDULER_cancel (announce_applications_task);
6871       announce_applications_task = GNUNET_SCHEDULER_NO_TASK;
6872     }
6873     if (NULL != c->types)
6874       GNUNET_CONTAINER_multihashmap_destroy (c->types);
6875     for (i = 0; i < c->n_regex; i++)
6876     {
6877       GNUNET_free (c->regexes[i].regex);
6878       if (NULL != c->regexes[i].dfa)
6879         GNUNET_REGEX_automaton_destroy (c->regexes[i].dfa);
6880     }
6881     GNUNET_free_non_null (c->regexes);
6882     if (GNUNET_SCHEDULER_NO_TASK != c->regex_announce_task)
6883       GNUNET_SCHEDULER_cancel (c->regex_announce_task);
6884     next = c->next;
6885     GNUNET_CONTAINER_DLL_remove (clients, clients_tail, c);
6886     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  CLIENT FREE at %p\n", c);
6887     GNUNET_free (c);
6888     GNUNET_STATISTICS_update (stats, "# clients", -1, GNUNET_NO);
6889     c = next;
6890   }
6891   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   done!\n");
6892   return;
6893 }
6894
6895
6896 /**
6897  * Handler for new clients
6898  *
6899  * @param cls closure
6900  * @param client identification of the client
6901  * @param message the actual message, which includes messages the client wants
6902  */
6903 static void
6904 handle_local_new_client (void *cls, struct GNUNET_SERVER_Client *client,
6905                          const struct GNUNET_MessageHeader *message)
6906 {
6907   struct GNUNET_MESH_ClientConnect *cc_msg;
6908   struct MeshClient *c;
6909   GNUNET_MESH_ApplicationType *a;
6910   unsigned int size;
6911   uint16_t ntypes;
6912   uint16_t *t;
6913   uint16_t napps;
6914   uint16_t i;
6915
6916   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new client connected\n");
6917   /* Check data sanity */
6918   size = ntohs (message->size) - sizeof (struct GNUNET_MESH_ClientConnect);
6919   cc_msg = (struct GNUNET_MESH_ClientConnect *) message;
6920   ntypes = ntohs (cc_msg->types);
6921   napps = ntohs (cc_msg->applications);
6922   if (size !=
6923       ntypes * sizeof (uint16_t) + napps * sizeof (GNUNET_MESH_ApplicationType))
6924   {
6925     GNUNET_break (0);
6926     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
6927     return;
6928   }
6929
6930   /* Create new client structure */
6931   c = GNUNET_malloc (sizeof (struct MeshClient));
6932   c->id = next_client_id++;
6933   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  CLIENT NEW %u\n", c->id);
6934   c->handle = client;
6935   GNUNET_SERVER_client_keep (client);
6936   a = (GNUNET_MESH_ApplicationType *) &cc_msg[1];
6937   if (napps > 0)
6938   {
6939     GNUNET_MESH_ApplicationType at;
6940     struct GNUNET_HashCode hc;
6941
6942     c->apps = GNUNET_CONTAINER_multihashmap_create (napps, GNUNET_NO);
6943     for (i = 0; i < napps; i++)
6944     {
6945       at = ntohl (a[i]);
6946       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  app type: %u\n", at);
6947       GNUNET_CRYPTO_hash (&at, sizeof (at), &hc);
6948       /* store in clients hashmap */
6949       GNUNET_CONTAINER_multihashmap_put (c->apps, &hc, (void *) (long) at,
6950                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
6951       /* store in global hashmap, for announcements */
6952       GNUNET_CONTAINER_multihashmap_put (applications, &hc, c,
6953                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
6954     }
6955     if (GNUNET_SCHEDULER_NO_TASK == announce_applications_task)
6956       announce_applications_task =
6957           GNUNET_SCHEDULER_add_now (&announce_applications, NULL);
6958
6959   }
6960   if (ntypes > 0)
6961   {
6962     uint16_t u16;
6963     struct GNUNET_HashCode hc;
6964
6965     t = (uint16_t *) & a[napps];
6966     c->types = GNUNET_CONTAINER_multihashmap_create (ntypes, GNUNET_NO);
6967     for (i = 0; i < ntypes; i++)
6968     {
6969       u16 = ntohs (t[i]);
6970       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  msg type: %u\n", u16);
6971       GNUNET_CRYPTO_hash (&u16, sizeof (u16), &hc);
6972
6973       /* store in clients hashmap */
6974       GNUNET_CONTAINER_multihashmap_put (c->types, &hc, c,
6975                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
6976       /* store in global hashmap */
6977       GNUNET_CONTAINER_multihashmap_put (types, &hc, c,
6978                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
6979     }
6980   }
6981   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
6982               " client has %u+%u subscriptions\n", napps, ntypes);
6983
6984   GNUNET_CONTAINER_DLL_insert (clients, clients_tail, c);
6985   c->own_tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
6986   c->incoming_tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
6987   c->ignore_tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
6988   GNUNET_SERVER_notification_context_add (nc, client);
6989   GNUNET_STATISTICS_update (stats, "# clients", 1, GNUNET_NO);
6990
6991   GNUNET_SERVER_receive_done (client, GNUNET_OK);
6992   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new client processed\n");
6993 }
6994
6995
6996 /**
6997  * Handler for clients announcing available services by a regular expression.
6998  *
6999  * @param cls closure
7000  * @param client identification of the client
7001  * @param message the actual message, which includes messages the client wants
7002  */
7003 static void
7004 handle_local_announce_regex (void *cls, struct GNUNET_SERVER_Client *client,
7005                              const struct GNUNET_MessageHeader *message)
7006 {
7007   const struct GNUNET_MESH_RegexAnnounce *msg;
7008   struct MeshRegexDescriptor rd;
7009   struct MeshClient *c;
7010   char *regex;
7011   size_t len;
7012   size_t offset;
7013
7014   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "announce regex started\n");
7015
7016   /* Sanity check for client registration */
7017   if (NULL == (c = client_get (client)))
7018   {
7019     GNUNET_break (0);
7020     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7021     return;
7022   }
7023   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
7024
7025   msg = (const struct GNUNET_MESH_RegexAnnounce *) message;
7026
7027   len = ntohs (message->size) - sizeof(struct GNUNET_MESH_RegexAnnounce);
7028   if (NULL != c->partial_regex)
7029   {
7030     regex = c->partial_regex;
7031     offset = strlen (c->partial_regex);
7032     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
7033                 "  continuation, already have %u bytes\n",
7034                 offset);
7035   }
7036   else
7037   {
7038     regex = NULL;
7039     offset = 0;
7040   }
7041
7042   regex = GNUNET_realloc (regex, offset + len + 1);
7043   memcpy (&regex[offset], &msg[1], len);
7044   regex[offset + len] = '\0';
7045   if (0 == ntohs (msg->last))
7046   {
7047     c->partial_regex = regex;
7048     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
7049                 "  not ended, stored %u bytes for later\n",
7050                 len);
7051     GNUNET_SERVER_receive_done (client, GNUNET_OK);
7052     return;
7053   }
7054   rd.regex = regex;
7055   rd.compression = ntohs (msg->compression_characters);
7056   rd.dfa = NULL;
7057   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  length %u\n", len);
7058   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  regex %s\n", regex);
7059   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  cm %u\n", ntohs(rd.compression));
7060   GNUNET_array_append (c->regexes, c->n_regex, rd);
7061   c->partial_regex = NULL;
7062   if (GNUNET_SCHEDULER_NO_TASK == c->regex_announce_task)
7063   {
7064     c->regex_announce_task = GNUNET_SCHEDULER_add_now(&announce_regex, c);
7065   }
7066   else
7067   {
7068     regex_put(&rd);
7069   }
7070   GNUNET_SERVER_receive_done (client, GNUNET_OK);
7071   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "announce regex processed\n");
7072 }
7073
7074
7075 /**
7076  * Handler for requests of new tunnels
7077  *
7078  * @param cls closure
7079  * @param client identification of the client
7080  * @param message the actual message
7081  */
7082 static void
7083 handle_local_tunnel_create (void *cls, struct GNUNET_SERVER_Client *client,
7084                             const struct GNUNET_MessageHeader *message)
7085 {
7086   struct GNUNET_MESH_TunnelMessage *t_msg;
7087   struct MeshTunnel *t;
7088   struct MeshClient *c;
7089   MESH_TunnelNumber tid;
7090
7091   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new tunnel requested\n");
7092
7093   /* Sanity check for client registration */
7094   if (NULL == (c = client_get (client)))
7095   {
7096     GNUNET_break (0);
7097     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7098     return;
7099   }
7100   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
7101
7102   /* Message sanity check */
7103   if (sizeof (struct GNUNET_MESH_TunnelMessage) != ntohs (message->size))
7104   {
7105     GNUNET_break (0);
7106     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7107     return;
7108   }
7109
7110   t_msg = (struct GNUNET_MESH_TunnelMessage *) message;
7111   /* Sanity check for tunnel numbering */
7112   tid = ntohl (t_msg->tunnel_id);
7113   if (0 == (tid & GNUNET_MESH_LOCAL_TUNNEL_ID_CLI))
7114   {
7115     GNUNET_break (0);
7116     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7117     return;
7118   }
7119   /* Sanity check for duplicate tunnel IDs */
7120   if (NULL != tunnel_get_by_local_id (c, tid))
7121   {
7122     GNUNET_break (0);
7123     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7124     return;
7125   }
7126
7127   while (NULL != tunnel_get_by_pi (myid, next_tid))
7128     next_tid = (next_tid + 1) & ~GNUNET_MESH_LOCAL_TUNNEL_ID_CLI;
7129   t = tunnel_new (myid, next_tid++, c, tid);
7130   if (NULL == t)
7131   {
7132     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "Tunnel creation failed.\n");
7133     GNUNET_break (0);
7134     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7135     return;
7136   }
7137   next_tid = next_tid & ~GNUNET_MESH_LOCAL_TUNNEL_ID_CLI;
7138   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "CREATED TUNNEL %s [%x] (%x)\n",
7139               GNUNET_i2s (&my_full_id), t->id.tid, t->local_tid);
7140   t->peers = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
7141
7142   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "new tunnel created\n");
7143   GNUNET_SERVER_receive_done (client, GNUNET_OK);
7144   return;
7145 }
7146
7147
7148 /**
7149  * Handler for requests of deleting tunnels
7150  *
7151  * @param cls closure
7152  * @param client identification of the client
7153  * @param message the actual message
7154  */
7155 static void
7156 handle_local_tunnel_destroy (void *cls, struct GNUNET_SERVER_Client *client,
7157                              const struct GNUNET_MessageHeader *message)
7158 {
7159   struct GNUNET_MESH_TunnelMessage *tunnel_msg;
7160   struct MeshClient *c;
7161   struct MeshTunnel *t;
7162   MESH_TunnelNumber tid;
7163
7164   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
7165               "Got a DESTROY TUNNEL from client!\n");
7166
7167   /* Sanity check for client registration */
7168   if (NULL == (c = client_get (client)))
7169   {
7170     GNUNET_break (0);
7171     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7172     return;
7173   }
7174   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
7175
7176   /* Message sanity check */
7177   if (sizeof (struct GNUNET_MESH_TunnelMessage) != ntohs (message->size))
7178   {
7179     GNUNET_break (0);
7180     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7181     return;
7182   }
7183
7184   tunnel_msg = (struct GNUNET_MESH_TunnelMessage *) message;
7185
7186   /* Retrieve tunnel */
7187   tid = ntohl (tunnel_msg->tunnel_id);
7188   t = tunnel_get_by_local_id(c, tid);
7189   if (NULL == t)
7190   {
7191     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "  tunnel %X not found\n", tid);
7192     GNUNET_break (0);
7193     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7194     return;
7195   }
7196   if (c != t->owner || tid >= GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
7197   {
7198     client_ignore_tunnel (c, t);
7199     tunnel_destroy_empty (t);
7200     GNUNET_SERVER_receive_done (client, GNUNET_OK);
7201     return;
7202   }
7203   send_client_tunnel_disconnect(t, c);
7204   client_delete_tunnel(c, t);
7205
7206   /* Don't try to ACK the client about the tunnel_destroy multicast packet */
7207   t->owner = NULL;
7208   tunnel_send_destroy (t, GNUNET_YES);
7209   t->destroy = GNUNET_YES;
7210   // The tunnel will be destroyed when the last message is transmitted.
7211   GNUNET_SERVER_receive_done (client, GNUNET_OK);
7212   return;
7213 }
7214
7215
7216 /**
7217  * Handler for requests of seeting tunnel's speed.
7218  *
7219  * @param cls Closure (unused).
7220  * @param client Identification of the client.
7221  * @param message The actual message.
7222  */
7223 static void
7224 handle_local_tunnel_speed (void *cls, struct GNUNET_SERVER_Client *client,
7225                            const struct GNUNET_MessageHeader *message)
7226 {
7227   struct GNUNET_MESH_TunnelMessage *tunnel_msg;
7228   struct MeshClient *c;
7229   struct MeshTunnel *t;
7230   MESH_TunnelNumber tid;
7231
7232   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
7233               "Got a SPEED request from client!\n");
7234
7235   /* Sanity check for client registration */
7236   if (NULL == (c = client_get (client)))
7237   {
7238     GNUNET_break (0);
7239     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7240     return;
7241   }
7242
7243   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
7244
7245   tunnel_msg = (struct GNUNET_MESH_TunnelMessage *) message;
7246
7247   /* Retrieve tunnel */
7248   tid = ntohl (tunnel_msg->tunnel_id);
7249   t = tunnel_get_by_local_id(c, tid);
7250   if (NULL == t)
7251   {
7252     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "  tunnel %X not found\n", tid);
7253     GNUNET_break (0);
7254     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7255     return;
7256   }
7257
7258   switch (ntohs(message->type))
7259   {
7260       case GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_MIN:
7261           t->speed_min = GNUNET_YES;
7262           break;
7263       case GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_MAX:
7264           t->speed_min = GNUNET_NO;
7265           break;
7266       default:
7267           GNUNET_break (0);
7268   }
7269   GNUNET_SERVER_receive_done (client, GNUNET_OK);
7270 }
7271
7272
7273 /**
7274  * Handler for requests of seeting tunnel's buffering policy.
7275  *
7276  * @param cls Closure (unused).
7277  * @param client Identification of the client.
7278  * @param message The actual message.
7279  */
7280 static void
7281 handle_local_tunnel_buffer (void *cls, struct GNUNET_SERVER_Client *client,
7282                             const struct GNUNET_MessageHeader *message)
7283 {
7284   struct GNUNET_MESH_TunnelMessage *tunnel_msg;
7285   struct MeshClient *c;
7286   struct MeshTunnel *t;
7287   MESH_TunnelNumber tid;
7288
7289   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
7290               "Got a BUFFER request from client!\n");
7291
7292   /* Sanity check for client registration */
7293   if (NULL == (c = client_get (client)))
7294   {
7295     GNUNET_break (0);
7296     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7297     return;
7298   }
7299   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
7300
7301   tunnel_msg = (struct GNUNET_MESH_TunnelMessage *) message;
7302
7303   /* Retrieve tunnel */
7304   tid = ntohl (tunnel_msg->tunnel_id);
7305   t = tunnel_get_by_local_id(c, tid);
7306   if (NULL == t)
7307   {
7308     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "  tunnel %X not found\n", tid);
7309     GNUNET_break (0);
7310     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7311     return;
7312   }
7313
7314   switch (ntohs(message->type))
7315   {
7316       case GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_BUFFER:
7317           t->nobuffer = GNUNET_NO;
7318           break;
7319       case GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_NOBUFFER:
7320           t->nobuffer = GNUNET_YES;
7321           break;
7322       default:
7323           GNUNET_break (0);
7324   }
7325
7326   GNUNET_SERVER_receive_done (client, GNUNET_OK);
7327 }
7328
7329
7330 /**
7331  * Handler for connection requests to new peers
7332  *
7333  * @param cls closure
7334  * @param client identification of the client
7335  * @param message the actual message (PeerControl)
7336  */
7337 static void
7338 handle_local_connect_add (void *cls, struct GNUNET_SERVER_Client *client,
7339                           const struct GNUNET_MessageHeader *message)
7340 {
7341   struct GNUNET_MESH_PeerControl *peer_msg;
7342   struct MeshPeerInfo *peer_info;
7343   struct MeshClient *c;
7344   struct MeshTunnel *t;
7345   MESH_TunnelNumber tid;
7346
7347   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got connection request\n");
7348   /* Sanity check for client registration */
7349   if (NULL == (c = client_get (client)))
7350   {
7351     GNUNET_break (0);
7352     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7353     return;
7354   }
7355   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
7356
7357   peer_msg = (struct GNUNET_MESH_PeerControl *) message;
7358
7359   /* Sanity check for message size */
7360   if (sizeof (struct GNUNET_MESH_PeerControl) != ntohs (peer_msg->header.size))
7361   {
7362     GNUNET_break (0);
7363     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7364     return;
7365   }
7366
7367   /* Tunnel exists? */
7368   tid = ntohl (peer_msg->tunnel_id);
7369   t = tunnel_get_by_local_id (c, tid);
7370   if (NULL == t)
7371   {
7372     GNUNET_break (0);
7373     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7374     return;
7375   }
7376
7377   /* Does client own tunnel? */
7378   if (t->owner->handle != client)
7379   {
7380     GNUNET_break (0);
7381     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7382     return;
7383   }
7384   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "     for %s\n",
7385               GNUNET_i2s (&peer_msg->peer));
7386   peer_info = peer_info_get (&peer_msg->peer);
7387
7388   tunnel_add_peer (t, peer_info);
7389   peer_info_connect (peer_info, t);
7390
7391   GNUNET_SERVER_receive_done (client, GNUNET_OK);
7392   return;
7393 }
7394
7395
7396 /**
7397  * Handler for disconnection requests of peers in a tunnel
7398  *
7399  * @param cls closure
7400  * @param client identification of the client
7401  * @param message the actual message (PeerControl)
7402  */
7403 static void
7404 handle_local_connect_del (void *cls, struct GNUNET_SERVER_Client *client,
7405                           const struct GNUNET_MessageHeader *message)
7406 {
7407   struct GNUNET_MESH_PeerControl *peer_msg;
7408   struct MeshPeerInfo *peer_info;
7409   struct MeshClient *c;
7410   struct MeshTunnel *t;
7411   MESH_TunnelNumber tid;
7412
7413   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got a PEER DEL request\n");
7414   /* Sanity check for client registration */
7415   if (NULL == (c = client_get (client)))
7416   {
7417     GNUNET_break (0);
7418     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7419     return;
7420   }
7421   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
7422
7423   peer_msg = (struct GNUNET_MESH_PeerControl *) message;
7424
7425   /* Sanity check for message size */
7426   if (sizeof (struct GNUNET_MESH_PeerControl) != ntohs (peer_msg->header.size))
7427   {
7428     GNUNET_break (0);
7429     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7430     return;
7431   }
7432
7433   /* Tunnel exists? */
7434   tid = ntohl (peer_msg->tunnel_id);
7435   t = tunnel_get_by_local_id (c, tid);
7436   if (NULL == t)
7437   {
7438     GNUNET_break (0);
7439     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7440     return;
7441   }
7442   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %X\n", t->id.tid);
7443
7444   /* Does client own tunnel? */
7445   if (t->owner->handle != client)
7446   {
7447     GNUNET_break (0);
7448     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7449     return;
7450   }
7451
7452   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  for peer %s\n",
7453               GNUNET_i2s (&peer_msg->peer));
7454   /* Is the peer in the tunnel? */
7455   peer_info =
7456       GNUNET_CONTAINER_multihashmap_get (t->peers, &peer_msg->peer.hashPubKey);
7457   if (NULL == peer_info)
7458   {
7459     GNUNET_break (0);
7460     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7461     return;
7462   }
7463
7464   /* Ok, delete peer from tunnel */
7465   GNUNET_CONTAINER_multihashmap_remove_all (t->peers,
7466                                             &peer_msg->peer.hashPubKey);
7467
7468   send_destroy_path (t, peer_info->id);
7469   tunnel_delete_peer (t, peer_info->id);
7470   GNUNET_SERVER_receive_done (client, GNUNET_OK);
7471   return;
7472 }
7473
7474 /**
7475  * Handler for blacklist requests of peers in a tunnel
7476  *
7477  * @param cls closure
7478  * @param client identification of the client
7479  * @param message the actual message (PeerControl)
7480  * 
7481  * FIXME implement DHT block bloomfilter
7482  */
7483 static void
7484 handle_local_blacklist (void *cls, struct GNUNET_SERVER_Client *client,
7485                           const struct GNUNET_MessageHeader *message)
7486 {
7487   struct GNUNET_MESH_PeerControl *peer_msg;
7488   struct MeshClient *c;
7489   struct MeshTunnel *t;
7490   MESH_TunnelNumber tid;
7491
7492   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got a PEER BLACKLIST request\n");
7493   /* Sanity check for client registration */
7494   if (NULL == (c = client_get (client)))
7495   {
7496     GNUNET_break (0);
7497     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7498     return;
7499   }
7500   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
7501
7502   peer_msg = (struct GNUNET_MESH_PeerControl *) message;
7503
7504   /* Sanity check for message size */
7505   if (sizeof (struct GNUNET_MESH_PeerControl) != ntohs (peer_msg->header.size))
7506   {
7507     GNUNET_break (0);
7508     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7509     return;
7510   }
7511
7512   /* Tunnel exists? */
7513   tid = ntohl (peer_msg->tunnel_id);
7514   t = tunnel_get_by_local_id (c, tid);
7515   if (NULL == t)
7516   {
7517     GNUNET_break (0);
7518     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7519     return;
7520   }
7521   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %X\n", t->id.tid);
7522
7523   GNUNET_array_append(t->blacklisted, t->nblacklisted,
7524                       GNUNET_PEER_intern(&peer_msg->peer));
7525 }
7526
7527
7528 /**
7529  * Handler for unblacklist requests of peers in a tunnel
7530  *
7531  * @param cls closure
7532  * @param client identification of the client
7533  * @param message the actual message (PeerControl)
7534  */
7535 static void
7536 handle_local_unblacklist (void *cls, struct GNUNET_SERVER_Client *client,
7537                           const struct GNUNET_MessageHeader *message)
7538 {
7539   struct GNUNET_MESH_PeerControl *peer_msg;
7540   struct MeshClient *c;
7541   struct MeshTunnel *t;
7542   MESH_TunnelNumber tid;
7543   GNUNET_PEER_Id pid;
7544   unsigned int i;
7545
7546   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got a PEER UNBLACKLIST request\n");
7547   /* Sanity check for client registration */
7548   if (NULL == (c = client_get (client)))
7549   {
7550     GNUNET_break (0);
7551     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7552     return;
7553   }
7554   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
7555
7556   peer_msg = (struct GNUNET_MESH_PeerControl *) message;
7557
7558   /* Sanity check for message size */
7559   if (sizeof (struct GNUNET_MESH_PeerControl) != ntohs (peer_msg->header.size))
7560   {
7561     GNUNET_break (0);
7562     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7563     return;
7564   }
7565
7566   /* Tunnel exists? */
7567   tid = ntohl (peer_msg->tunnel_id);
7568   t = tunnel_get_by_local_id (c, tid);
7569   if (NULL == t)
7570   {
7571     GNUNET_break (0);
7572     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7573     return;
7574   }
7575   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %X\n", t->id.tid);
7576
7577   /* if peer is not known, complain */
7578   pid = GNUNET_PEER_search (&peer_msg->peer);
7579   if (0 == pid)
7580   {
7581     GNUNET_break (0);
7582     return;
7583   }
7584
7585   /* search and remove from list */
7586   for (i = 0; i < t->nblacklisted; i++)
7587   {
7588     if (t->blacklisted[i] == pid)
7589     {
7590       t->blacklisted[i] = t->blacklisted[t->nblacklisted - 1];
7591       GNUNET_array_grow (t->blacklisted, t->nblacklisted, t->nblacklisted - 1);
7592       return;
7593     }
7594   }
7595
7596   /* if peer hasn't been blacklisted, complain */
7597   GNUNET_break (0);
7598 }
7599
7600
7601 /**
7602  * Handler for connection requests to new peers by type
7603  *
7604  * @param cls closure
7605  * @param client identification of the client
7606  * @param message the actual message (ConnectPeerByType)
7607  */
7608 static void
7609 handle_local_connect_by_type (void *cls, struct GNUNET_SERVER_Client *client,
7610                               const struct GNUNET_MessageHeader *message)
7611 {
7612   struct GNUNET_MESH_ConnectPeerByType *connect_msg;
7613   struct MeshClient *c;
7614   struct MeshTunnel *t;
7615   struct GNUNET_HashCode hash;
7616   MESH_TunnelNumber tid;
7617
7618   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "got connect by type request\n");
7619   /* Sanity check for client registration */
7620   if (NULL == (c = client_get (client)))
7621   {
7622     GNUNET_break (0);
7623     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7624     return;
7625   }
7626   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
7627
7628   connect_msg = (struct GNUNET_MESH_ConnectPeerByType *) message;
7629
7630   /* Sanity check for message size */
7631   if (sizeof (struct GNUNET_MESH_ConnectPeerByType) !=
7632       ntohs (connect_msg->header.size))
7633   {
7634     GNUNET_break (0);
7635     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7636     return;
7637   }
7638
7639   /* Tunnel exists? */
7640   tid = ntohl (connect_msg->tunnel_id);
7641   t = tunnel_get_by_local_id (c, tid);
7642   if (NULL == t)
7643   {
7644     GNUNET_break (0);
7645     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7646     return;
7647   }
7648
7649   /* Does client own tunnel? */
7650   if (t->owner->handle != client)
7651   {
7652     GNUNET_break (0);
7653     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7654     return;
7655   }
7656
7657   /* Do WE have the service? */
7658   t->type = ntohl (connect_msg->type);
7659   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " type requested: %u\n", t->type);
7660   GNUNET_CRYPTO_hash (&t->type, sizeof (GNUNET_MESH_ApplicationType), &hash);
7661   if (GNUNET_CONTAINER_multihashmap_contains (applications, &hash) ==
7662       GNUNET_YES)
7663   {
7664     /* Yes! Fast forward, add ourselves to the tunnel and send the
7665      * good news to the client, and alert the destination client of
7666      * an incoming tunnel.
7667      *
7668      * FIXME send a path create to self, avoid code duplication
7669      */
7670     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " available locally\n");
7671     GNUNET_CONTAINER_multihashmap_put (t->peers, &my_full_id.hashPubKey,
7672                                        peer_info_get (&my_full_id),
7673                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
7674
7675     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " notifying client\n");
7676     send_client_peer_connected (t, myid);
7677     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " Done\n");
7678     GNUNET_SERVER_receive_done (client, GNUNET_OK);
7679
7680     t->local_tid_dest = next_local_tid++;
7681     GNUNET_CRYPTO_hash (&t->local_tid_dest, sizeof (MESH_TunnelNumber), &hash);
7682     GNUNET_CONTAINER_multihashmap_put (incoming_tunnels, &hash, t,
7683                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
7684
7685     return;
7686   }
7687   /* Ok, lets find a peer offering the service */
7688   if (NULL != t->dht_get_type)
7689   {
7690     GNUNET_DHT_get_stop (t->dht_get_type);
7691   }
7692   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, " looking in DHT for %s\n",
7693               GNUNET_h2s (&hash));
7694   t->dht_get_type =
7695       GNUNET_DHT_get_start (dht_handle, 
7696                             GNUNET_BLOCK_TYPE_MESH_PEER_BY_TYPE,
7697                             &hash,
7698                             dht_replication_level,
7699                             GNUNET_DHT_RO_RECORD_ROUTE |
7700                             GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,
7701                             NULL, 0,
7702                             &dht_get_type_handler, t);
7703
7704   GNUNET_SERVER_receive_done (client, GNUNET_OK);
7705   return;
7706 }
7707
7708
7709 /**
7710  * Handler for connection requests to new peers by a string service description.
7711  *
7712  * @param cls closure
7713  * @param client identification of the client
7714  * @param message the actual message, which includes messages the client wants
7715  */
7716 static void
7717 handle_local_connect_by_string (void *cls, struct GNUNET_SERVER_Client *client,
7718                                 const struct GNUNET_MessageHeader *message)
7719 {
7720   struct GNUNET_MESH_ConnectPeerByString *msg;
7721   struct MeshRegexSearchContext *ctx;
7722   struct MeshRegexSearchInfo *info;
7723   struct GNUNET_DHT_GetHandle *get_h;
7724   struct GNUNET_HashCode key;
7725   struct MeshTunnel *t;
7726   struct MeshClient *c;
7727   MESH_TunnelNumber tid;
7728   const char *string;
7729   size_t size;
7730   size_t len;
7731
7732   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
7733               "Connect by string started\n");
7734   msg = (struct GNUNET_MESH_ConnectPeerByString *) message;
7735   size = htons (message->size);
7736
7737   /* Sanity check for client registration */
7738   if (NULL == (c = client_get (client)))
7739   {
7740     GNUNET_break (0);
7741     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7742     return;
7743   }
7744   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
7745
7746   /* Message size sanity check */
7747   if (sizeof(struct GNUNET_MESH_ConnectPeerByString) >= size)
7748   {
7749     GNUNET_break (0);
7750     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7751     return;
7752   }
7753
7754   /* Tunnel exists? */
7755   tid = ntohl (msg->tunnel_id);
7756   t = tunnel_get_by_local_id (c, tid);
7757   if (NULL == t)
7758   {
7759     GNUNET_break (0);
7760     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7761     return;
7762   }
7763
7764   /* Does client own tunnel? */
7765   if (t->owner->handle != client)
7766   {
7767     GNUNET_break (0);
7768     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7769     return;
7770   }
7771
7772   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
7773               "  on tunnel %s [%u]\n",
7774               GNUNET_i2s(&my_full_id),
7775               t->id.tid);
7776
7777   /* Only one connect_by_string allowed at the same time! */
7778   /* FIXME: allow more, return handle at api level to cancel, document */
7779   if (NULL != t->regex_ctx)
7780   {
7781     GNUNET_break (0);
7782     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7783     return;
7784   }
7785
7786   /* Find string itself */
7787   len = size - sizeof(struct GNUNET_MESH_ConnectPeerByString);
7788   string = (const char *) &msg[1];
7789
7790   /* Initialize context */
7791   size = GNUNET_REGEX_get_first_key (string, len, &key);
7792   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
7793               "  consumed %u bits out of %u\n", size, len);
7794   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
7795               "  looking for %s\n", GNUNET_h2s (&key));
7796
7797   info = GNUNET_malloc (sizeof (struct MeshRegexSearchInfo));
7798   info->t = t;
7799   info->description = GNUNET_strndup (string, len);
7800   info->dht_get_handles = GNUNET_CONTAINER_multihashmap_create(32, GNUNET_NO);
7801   info->dht_get_results = GNUNET_CONTAINER_multihashmap_create(32, GNUNET_NO);
7802   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "   string: %s\n", info->description);
7803
7804   ctx = GNUNET_malloc (sizeof (struct MeshRegexSearchContext));
7805   ctx->position = size;
7806   ctx->info = info;
7807   t->regex_ctx = ctx;
7808
7809   GNUNET_array_append (info->contexts, info->n_contexts, ctx);
7810
7811   /* Start search in DHT */
7812   get_h = GNUNET_DHT_get_start (dht_handle,    /* handle */
7813                                 GNUNET_BLOCK_TYPE_MESH_REGEX, /* type */
7814                                 &key,     /* key to search */
7815                                 dht_replication_level, /* replication level */
7816                                 GNUNET_DHT_RO_DEMULTIPLEX_EVERYWHERE,
7817                                 &info->description[size],           /* xquery */
7818                                 // FIXME add BLOOMFILTER to exclude filtered peers
7819                                 len + 1 - size,                /* xquery bits */
7820                                 // FIXME add BLOOMFILTER SIZE
7821                                 &dht_get_string_handler, ctx);
7822
7823   GNUNET_break (GNUNET_OK ==
7824                 GNUNET_CONTAINER_multihashmap_put(info->dht_get_handles,
7825                                                   &key,
7826                                                   get_h,
7827                                                   GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST));
7828
7829   GNUNET_SERVER_receive_done (client, GNUNET_OK);
7830   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "connect by string processed\n");
7831 }
7832
7833
7834 /**
7835  * Handler for client traffic directed to one peer
7836  *
7837  * @param cls closure
7838  * @param client identification of the client
7839  * @param message the actual message
7840  */
7841 static void
7842 handle_local_unicast (void *cls, struct GNUNET_SERVER_Client *client,
7843                       const struct GNUNET_MessageHeader *message)
7844 {
7845   struct MeshClient *c;
7846   struct MeshTunnel *t;
7847   struct MeshPeerInfo *pi;
7848   struct GNUNET_MESH_Unicast *data_msg;
7849   MESH_TunnelNumber tid;
7850   size_t size;
7851
7852   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
7853               "Got a unicast request from a client!\n");
7854
7855   /* Sanity check for client registration */
7856   if (NULL == (c = client_get (client)))
7857   {
7858     GNUNET_break (0);
7859     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7860     return;
7861   }
7862   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
7863
7864   data_msg = (struct GNUNET_MESH_Unicast *) message;
7865
7866   /* Sanity check for message size */
7867   size = ntohs (message->size);
7868   if (sizeof (struct GNUNET_MESH_Unicast) +
7869       sizeof (struct GNUNET_MessageHeader) > size)
7870   {
7871     GNUNET_break (0);
7872     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7873     return;
7874   }
7875
7876   /* Tunnel exists? */
7877   tid = ntohl (data_msg->tid);
7878   t = tunnel_get_by_local_id (c, tid);
7879   if (NULL == t)
7880   {
7881     GNUNET_break (0);
7882     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7883     return;
7884   }
7885
7886   /*  Is it a local tunnel? Then, does client own the tunnel? */
7887   if (t->owner->handle != client)
7888   {
7889     GNUNET_break (0);
7890     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7891     return;
7892   }
7893
7894   pi = GNUNET_CONTAINER_multihashmap_get (t->peers,
7895                                           &data_msg->destination.hashPubKey);
7896   /* Is the selected peer in the tunnel? */
7897   if (NULL == pi)
7898   {
7899     GNUNET_break (0);
7900     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7901     return;
7902   }
7903
7904   /* PID should be as expected */
7905   if (ntohl (data_msg->pid) != t->fwd_pid + 1)
7906   {
7907     GNUNET_break (0);
7908     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
7909               "Unicast PID, expected %u, got %u\n",
7910               t->fwd_pid + 1, ntohl (data_msg->pid));
7911     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7912     return;
7913   }
7914
7915   /* Ok, everything is correct, send the message
7916    * (pretend we got it from a mesh peer)
7917    */
7918   {
7919     /* Work around const limitation */
7920     char buf[ntohs (message->size)] GNUNET_ALIGN;
7921     struct GNUNET_MESH_Unicast *copy;
7922
7923     copy = (struct GNUNET_MESH_Unicast *) buf;
7924     memcpy (buf, data_msg, size);
7925     copy->oid = my_full_id;
7926     copy->tid = htonl (t->id.tid);
7927     copy->ttl = htonl (default_ttl);
7928     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
7929                 "  calling generic handler...\n");
7930     handle_mesh_data_unicast (NULL, &my_full_id, &copy->header, NULL, 0);
7931   }
7932   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "receive done OK\n");
7933   GNUNET_SERVER_receive_done (client, GNUNET_OK);
7934
7935   return;
7936 }
7937
7938
7939 /**
7940  * Handler for client traffic directed to the origin
7941  *
7942  * @param cls closure
7943  * @param client identification of the client
7944  * @param message the actual message
7945  */
7946 static void
7947 handle_local_to_origin (void *cls, struct GNUNET_SERVER_Client *client,
7948                         const struct GNUNET_MessageHeader *message)
7949 {
7950   struct GNUNET_MESH_ToOrigin *data_msg;
7951   struct MeshTunnelClientInfo *clinfo;
7952   struct MeshClient *c;
7953   struct MeshTunnel *t;
7954   MESH_TunnelNumber tid;
7955   size_t size;
7956
7957   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
7958               "Got a ToOrigin request from a client!\n");
7959   /* Sanity check for client registration */
7960   if (NULL == (c = client_get (client)))
7961   {
7962     GNUNET_break (0);
7963     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7964     return;
7965   }
7966   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
7967
7968   data_msg = (struct GNUNET_MESH_ToOrigin *) message;
7969
7970   /* Sanity check for message size */
7971   size = ntohs (message->size);
7972   if (sizeof (struct GNUNET_MESH_ToOrigin) +
7973       sizeof (struct GNUNET_MessageHeader) > size)
7974   {
7975     GNUNET_break (0);
7976     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7977     return;
7978   }
7979
7980   /* Tunnel exists? */
7981   tid = ntohl (data_msg->tid);
7982   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %X\n", tid);
7983   if (tid < GNUNET_MESH_LOCAL_TUNNEL_ID_SERV)
7984   {
7985     GNUNET_break (0);
7986     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7987     return;
7988   }
7989   t = tunnel_get_by_local_id (c, tid);
7990   if (NULL == t)
7991   {
7992     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "Tunnel %X unknown.\n", tid);
7993     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "  for client %u.\n", c->id);
7994     GNUNET_break (0);
7995     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
7996     return;
7997   }
7998
7999   /*  It should be sent by someone who has this as incoming tunnel. */
8000   if (GNUNET_NO == client_knows_tunnel (c, t))
8001   {
8002     GNUNET_break (0);
8003     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
8004     return;
8005   }
8006
8007   /* PID should be as expected */
8008   clinfo = tunnel_get_client_fc (t, c);
8009   if (ntohl (data_msg->pid) != clinfo->bck_pid + 1)
8010   {
8011     GNUNET_break (0);
8012     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
8013                 "To Origin PID, expected %u, got %u\n",
8014                 clinfo->bck_pid + 1,
8015                 ntohl (data_msg->pid));
8016     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
8017     return;
8018   }
8019   clinfo->bck_pid++;
8020
8021   /* Ok, everything is correct, send the message
8022    * (pretend we got it from a mesh peer)
8023    */
8024   {
8025     char buf[ntohs (message->size)] GNUNET_ALIGN;
8026     struct GNUNET_MESH_ToOrigin *copy;
8027
8028     /* Work around const limitation */
8029     copy = (struct GNUNET_MESH_ToOrigin *) buf;
8030     memcpy (buf, data_msg, size);
8031     GNUNET_PEER_resolve (t->id.oid, &copy->oid);
8032     copy->tid = htonl (t->id.tid);
8033     copy->ttl = htonl (default_ttl);
8034     copy->pid = htonl (t->bck_pid + 1);
8035
8036     copy->sender = my_full_id;
8037     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
8038                 "  calling generic handler...\n");
8039     handle_mesh_data_to_orig (NULL, &my_full_id, &copy->header, NULL, 0);
8040   }
8041   GNUNET_SERVER_receive_done (client, GNUNET_OK);
8042
8043   return;
8044 }
8045
8046
8047 /**
8048  * Handler for client traffic directed to all peers in a tunnel
8049  *
8050  * @param cls closure
8051  * @param client identification of the client
8052  * @param message the actual message
8053  */
8054 static void
8055 handle_local_multicast (void *cls, struct GNUNET_SERVER_Client *client,
8056                         const struct GNUNET_MessageHeader *message)
8057 {
8058   struct MeshClient *c;
8059   struct MeshTunnel *t;
8060   struct GNUNET_MESH_Multicast *data_msg;
8061   MESH_TunnelNumber tid;
8062
8063   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
8064               "Got a multicast request from a client!\n");
8065
8066   /* Sanity check for client registration */
8067   if (NULL == (c = client_get (client)))
8068   {
8069     GNUNET_break (0);
8070     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
8071     return;
8072   }
8073   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
8074
8075   data_msg = (struct GNUNET_MESH_Multicast *) message;
8076
8077   /* Sanity check for message size */
8078   if (sizeof (struct GNUNET_MESH_Multicast) +
8079       sizeof (struct GNUNET_MessageHeader) > ntohs (data_msg->header.size))
8080   {
8081     GNUNET_break (0);
8082     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
8083     return;
8084   }
8085
8086   /* Tunnel exists? */
8087   tid = ntohl (data_msg->tid);
8088   t = tunnel_get_by_local_id (c, tid);
8089   if (NULL == t)
8090   {
8091     GNUNET_break (0);
8092     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "Tunnel %X unknown.\n", tid);
8093     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "  for client %u.\n", c->id);
8094     GNUNET_break (0);
8095     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
8096     return;
8097   }
8098
8099   /* Does client own tunnel? */
8100   if (t->owner->handle != client)
8101   {
8102     GNUNET_break (0);
8103     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
8104     return;
8105   }
8106
8107   /* PID should be as expected */
8108   if (ntohl (data_msg->pid) != t->fwd_pid + 1)
8109   {
8110     GNUNET_break (0);
8111     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
8112               "Multicast PID, expected %u, got %u\n",
8113               t->fwd_pid + 1, ntohl (data_msg->pid));
8114     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
8115     return;
8116   }
8117
8118   {
8119     char buf[ntohs (message->size)] GNUNET_ALIGN;
8120     struct GNUNET_MESH_Multicast *copy;
8121
8122     copy = (struct GNUNET_MESH_Multicast *) buf;
8123     memcpy (buf, message, ntohs (message->size));
8124     copy->oid = my_full_id;
8125     copy->tid = htonl (t->id.tid);
8126     copy->ttl = htonl (default_ttl);
8127     GNUNET_assert (ntohl (copy->pid) == (t->fwd_pid + 1));
8128     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
8129                 "  calling generic handler...\n");
8130     handle_mesh_data_multicast (client, &my_full_id, &copy->header, NULL, 0);
8131   }
8132
8133   GNUNET_SERVER_receive_done (t->owner->handle, GNUNET_OK);
8134   return;
8135 }
8136
8137
8138 /**
8139  * Handler for client's ACKs for payload traffic.
8140  *
8141  * @param cls Closure (unused).
8142  * @param client Identification of the client.
8143  * @param message The actual message.
8144  */
8145 static void
8146 handle_local_ack (void *cls, struct GNUNET_SERVER_Client *client,
8147                   const struct GNUNET_MessageHeader *message)
8148 {
8149   struct GNUNET_MESH_LocalAck *msg;
8150   struct MeshTunnel *t;
8151   struct MeshClient *c;
8152   MESH_TunnelNumber tid;
8153   uint32_t ack;
8154
8155   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Got a local ACK\n");
8156   /* Sanity check for client registration */
8157   if (NULL == (c = client_get (client)))
8158   {
8159     GNUNET_break (0);
8160     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
8161     return;
8162   }
8163   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  by client %u\n", c->id);
8164
8165   msg = (struct GNUNET_MESH_LocalAck *) message;
8166
8167   /* Tunnel exists? */
8168   tid = ntohl (msg->tunnel_id);
8169   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  on tunnel %X\n", tid);
8170   t = tunnel_get_by_local_id (c, tid);
8171   if (NULL == t)
8172   {
8173     GNUNET_break (0);
8174     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "Tunnel %X unknown.\n", tid);
8175     GNUNET_log (GNUNET_ERROR_TYPE_WARNING, "  for client %u.\n", c->id);
8176     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
8177     return;
8178   }
8179
8180   ack = ntohl (msg->max_pid);
8181   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "  ack %u\n", ack);
8182
8183   /* Does client own tunnel? I.E: Is this an ACK for BCK traffic? */
8184   if (NULL != t->owner && t->owner->handle == client)
8185   {
8186     /* The client owns the tunnel, ACK is for data to_origin, send BCK ACK. */
8187     t->bck_ack = ack;
8188     tunnel_send_bck_ack(t, GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK);
8189   }
8190   else
8191   {
8192     /* The client doesn't own the tunnel, this ACK is for FWD traffic. */
8193     tunnel_set_client_fwd_ack (t, c, ack);
8194     tunnel_send_fwd_ack (t, GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK);
8195   }
8196
8197   GNUNET_SERVER_receive_done (client, GNUNET_OK);
8198
8199   return;
8200 }
8201
8202
8203 /**
8204  * Iterator over all peers to send a monitoring client info about a tunnel.
8205  *
8206  * @param cls Closure (message being built).
8207  * @param key Key (hashed tunnel ID, unused).
8208  * @param value Peer info.
8209  *
8210  * @return GNUNET_YES, to keep iterating.
8211  */
8212 static int
8213 monitor_peers_iterator (void *cls,
8214                         const struct GNUNET_HashCode * key,
8215                         void *value)
8216 {
8217   struct GNUNET_MESH_LocalMonitor *msg = cls;
8218   struct GNUNET_PeerIdentity *id;
8219   struct MeshPeerInfo *info = value;
8220
8221   id = (struct GNUNET_PeerIdentity *) &msg[1];
8222   GNUNET_PEER_resolve (info->id, &id[msg->npeers]);
8223   msg->npeers++;
8224
8225   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
8226               "*    sending info about peer %s [%u]\n",
8227               GNUNET_i2s (&id[msg->npeers - 1]), msg->npeers);
8228
8229   return GNUNET_YES;
8230 }
8231
8232
8233
8234 /**
8235  * Iterator over all tunnels to send a monitoring client info about each tunnel.
8236  *
8237  * @param cls Closure (client handle).
8238  * @param key Key (hashed tunnel ID, unused).
8239  * @param value Tunnel info.
8240  *
8241  * @return GNUNET_YES, to keep iterating.
8242  */
8243 static int
8244 monitor_all_tunnels_iterator (void *cls,
8245                               const struct GNUNET_HashCode * key,
8246                               void *value)
8247 {
8248   struct GNUNET_SERVER_Client *client = cls;
8249   struct MeshTunnel *t = value;
8250   struct GNUNET_MESH_LocalMonitor *msg;
8251   uint32_t npeers;
8252   
8253   npeers = GNUNET_CONTAINER_multihashmap_size (t->peers);
8254   msg = GNUNET_malloc (sizeof(struct GNUNET_MESH_LocalMonitor) +
8255   npeers * sizeof (struct GNUNET_PeerIdentity));
8256   GNUNET_PEER_resolve(t->id.oid, &msg->owner);
8257   msg->tunnel_id = htonl (t->id.tid);
8258   msg->header.size = htons (sizeof (struct GNUNET_MESH_LocalMonitor) +
8259   npeers * sizeof (struct GNUNET_PeerIdentity));
8260   msg->header.type = htons (GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNELS);
8261   msg->npeers = 0;
8262   (void) GNUNET_CONTAINER_multihashmap_iterate (t->peers,
8263                                                 monitor_peers_iterator,
8264                                                 msg);
8265   
8266   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
8267               "*  sending info about tunnel %s [%u] (%u peers)\n",
8268               GNUNET_i2s (&msg->owner), t->id.tid, npeers);
8269   
8270   if (msg->npeers != npeers)
8271   {
8272     GNUNET_break (0);
8273     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
8274                 "Get tunnels fail: size %u - iter %u\n",
8275                 npeers, msg->npeers);
8276   }
8277   
8278     msg->npeers = htonl (npeers);
8279     GNUNET_SERVER_notification_context_unicast (nc, client,
8280                                                 &msg->header, GNUNET_NO);
8281     return GNUNET_YES;
8282 }
8283
8284
8285 /**
8286  * Handler for client's MONITOR request.
8287  *
8288  * @param cls Closure (unused).
8289  * @param client Identification of the client.
8290  * @param message The actual message.
8291  */
8292 static void
8293 handle_local_get_tunnels (void *cls, struct GNUNET_SERVER_Client *client,
8294                           const struct GNUNET_MessageHeader *message)
8295 {
8296   struct MeshClient *c;
8297
8298   /* Sanity check for client registration */
8299   if (NULL == (c = client_get (client)))
8300   {
8301     GNUNET_break (0);
8302     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
8303     return;
8304   }
8305
8306   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
8307               "Received get tunnels request from client %u\n",
8308               c->id);
8309   GNUNET_CONTAINER_multihashmap_iterate (tunnels,
8310                                          monitor_all_tunnels_iterator,
8311                                          client);
8312   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
8313               "Get tunnels request from client %u completed\n",
8314               c->id);
8315   GNUNET_SERVER_receive_done (client, GNUNET_OK);
8316 }
8317
8318
8319 /**
8320  * Data needed to build a Monitor_Tunnel message.
8321  */
8322 struct MeshMonitorTunnelContext
8323 {
8324   /**
8325    * Partial message, including peer count.
8326    */
8327   struct GNUNET_MESH_LocalMonitor *msg;
8328
8329   /**
8330    * Hashmap with positions: peer->position.
8331    */
8332   struct GNUNET_CONTAINER_MultiHashMap *lookup;
8333
8334   /**
8335    * Index of the parent of each peer in the message, realtive to the absolute
8336    * order in the array (can be in a previous message).
8337    */
8338   uint32_t parents[1024];
8339
8340   /**
8341    * Peers visited so far in the tree, aka position of the current peer.
8342    */
8343   unsigned int npeers;
8344
8345   /**
8346    * Client requesting the info.
8347    */
8348   struct MeshClient *c;
8349 };
8350
8351
8352 /**
8353  * Send a client a message about the structure of a tunnel.
8354  *
8355  * @param ctx Context of the tunnel iteration, with info regarding the state
8356  *            of the execution and the number of peers visited for this message.
8357  */
8358 static void
8359 send_client_tunnel_info (struct MeshMonitorTunnelContext *ctx)
8360 {
8361   struct GNUNET_MESH_LocalMonitor *resp = ctx->msg;
8362   struct GNUNET_PeerIdentity *pid;
8363   unsigned int *parent;
8364   size_t size;
8365
8366   size = sizeof (struct GNUNET_MESH_LocalMonitor);
8367   size += (sizeof (struct GNUNET_PeerIdentity) + sizeof (int)) * resp->npeers;
8368   resp->header.size = htons (size);
8369   pid = (struct GNUNET_PeerIdentity *) &resp[1];
8370   parent = (unsigned int *) &pid[resp->npeers];
8371   memcpy (parent, ctx->parents, sizeof(uint32_t) * resp->npeers);
8372   GNUNET_SERVER_notification_context_unicast (nc, ctx->c->handle,
8373                                               &resp->header, GNUNET_NO);
8374 }
8375
8376 /**
8377  * Iterator over a tunnel tree to build a message containing all peers
8378  * the in the tunnel, including relay nodes.
8379  *
8380  * @param cls Closure (pointer to pointer of message being built).
8381  * @param peer Short ID of a peer.
8382  * @param parent Short ID of the @c peer 's parent.
8383  */
8384 static void
8385 tunnel_tree_iterator (void *cls,
8386                       GNUNET_PEER_Id peer,
8387                       GNUNET_PEER_Id parent)
8388 {
8389   struct MeshMonitorTunnelContext *ctx = cls;
8390   struct GNUNET_MESH_LocalMonitor *msg;
8391   struct GNUNET_PeerIdentity *pid;
8392   struct GNUNET_PeerIdentity ppid;
8393
8394   msg = ctx->msg;
8395   pid = (struct GNUNET_PeerIdentity *) &msg[1];
8396   GNUNET_PEER_resolve (peer, &pid[msg->npeers]);
8397   GNUNET_CONTAINER_multihashmap_put (ctx->lookup,
8398                                      &pid[msg->npeers].hashPubKey,
8399                                      (void *) (long) ctx->npeers,
8400                                      GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
8401   GNUNET_PEER_resolve (parent, &ppid);
8402   ctx->parents[msg->npeers] =
8403       htonl ((long) GNUNET_CONTAINER_multihashmap_get (ctx->lookup,
8404                                                        &ppid.hashPubKey));
8405
8406   ctx->npeers++;
8407   msg->npeers++;
8408
8409   if (sizeof (struct GNUNET_MESH_LocalMonitor) +
8410       (msg->npeers + 1) *
8411       (sizeof (struct GNUNET_PeerIdentity) + sizeof (uint32_t))
8412       > USHRT_MAX)
8413   {
8414     send_client_tunnel_info (ctx);
8415     msg->npeers = 0;
8416   }
8417 }
8418
8419
8420 /**
8421  * Handler for client's MONITOR_TUNNEL request.
8422  *
8423  * @param cls Closure (unused).
8424  * @param client Identification of the client.
8425  * @param message The actual message.
8426  */
8427 static void
8428 handle_local_show_tunnel (void *cls, struct GNUNET_SERVER_Client *client,
8429                           const struct GNUNET_MessageHeader *message)
8430 {
8431   const struct GNUNET_MESH_LocalMonitor *msg;
8432   struct GNUNET_MESH_LocalMonitor *resp;
8433   struct MeshMonitorTunnelContext ctx;
8434   struct MeshClient *c;
8435   struct MeshTunnel *t;
8436
8437   /* Sanity check for client registration */
8438   if (NULL == (c = client_get (client)))
8439   {
8440     GNUNET_break (0);
8441     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
8442     return;
8443   }
8444
8445   msg = (struct GNUNET_MESH_LocalMonitor *) message;
8446   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
8447               "Received tunnel info request from client %u for tunnel %s[%X]\n",
8448               c->id,
8449               &msg->owner,
8450               ntohl (msg->tunnel_id));
8451   t = tunnel_get (&msg->owner, ntohl (msg->tunnel_id));
8452   if (NULL == t)
8453   {
8454     /* We don't know the tunnel */
8455     struct GNUNET_MESH_LocalMonitor warn;
8456
8457     warn = *msg;
8458     warn.npeers = htonl (UINT_MAX);
8459     GNUNET_SERVER_notification_context_unicast (nc, client,
8460                                                 &warn.header,
8461                                                 GNUNET_NO);
8462     GNUNET_SERVER_receive_done (client, GNUNET_OK);
8463     return;
8464   }
8465
8466   /* Initialize context */
8467   resp = GNUNET_malloc (USHRT_MAX); /* avoid realloc'ing on each step */
8468   *resp = *msg;
8469   resp->npeers = 0;
8470   ctx.msg = resp;
8471   ctx.lookup = GNUNET_CONTAINER_multihashmap_create (4 * t->peers_total,
8472                                                      GNUNET_YES);
8473   ctx.c = c;
8474
8475   /* Collect and send information */
8476   tree_iterate_all (t->tree, &tunnel_tree_iterator, &ctx);
8477   send_client_tunnel_info (&ctx);
8478
8479   /* Free context */
8480   GNUNET_CONTAINER_multihashmap_destroy (ctx.lookup);
8481   GNUNET_free (resp);
8482
8483   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
8484               "Monitor tunnel request from client %u completed\n",
8485               c->id);
8486   GNUNET_SERVER_receive_done (client, GNUNET_OK);
8487 }
8488
8489
8490 /**
8491  * Functions to handle messages from clients
8492  */
8493 static struct GNUNET_SERVER_MessageHandler client_handlers[] = {
8494   {&handle_local_new_client, NULL,
8495    GNUNET_MESSAGE_TYPE_MESH_LOCAL_CONNECT, 0},
8496   {&handle_local_announce_regex, NULL,
8497    GNUNET_MESSAGE_TYPE_MESH_LOCAL_ANNOUNCE_REGEX, 0},
8498   {&handle_local_tunnel_create, NULL,
8499    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_CREATE,
8500    sizeof (struct GNUNET_MESH_TunnelMessage)},
8501   {&handle_local_tunnel_destroy, NULL,
8502    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_DESTROY,
8503    sizeof (struct GNUNET_MESH_TunnelMessage)},
8504   {&handle_local_tunnel_speed, NULL,
8505    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_MIN,
8506    sizeof (struct GNUNET_MESH_TunnelMessage)},
8507   {&handle_local_tunnel_speed, NULL,
8508    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_MAX,
8509    sizeof (struct GNUNET_MESH_TunnelMessage)},
8510   {&handle_local_tunnel_buffer, NULL,
8511    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_BUFFER,
8512    sizeof (struct GNUNET_MESH_TunnelMessage)},
8513   {&handle_local_tunnel_buffer, NULL,
8514    GNUNET_MESSAGE_TYPE_MESH_LOCAL_TUNNEL_NOBUFFER,
8515    sizeof (struct GNUNET_MESH_TunnelMessage)},
8516   {&handle_local_connect_add, NULL,
8517    GNUNET_MESSAGE_TYPE_MESH_LOCAL_PEER_ADD,
8518    sizeof (struct GNUNET_MESH_PeerControl)},
8519   {&handle_local_connect_del, NULL,
8520    GNUNET_MESSAGE_TYPE_MESH_LOCAL_PEER_DEL,
8521    sizeof (struct GNUNET_MESH_PeerControl)},
8522   {&handle_local_blacklist, NULL,
8523    GNUNET_MESSAGE_TYPE_MESH_LOCAL_PEER_BLACKLIST,
8524    sizeof (struct GNUNET_MESH_PeerControl)},
8525   {&handle_local_unblacklist, NULL,
8526    GNUNET_MESSAGE_TYPE_MESH_LOCAL_PEER_UNBLACKLIST,
8527    sizeof (struct GNUNET_MESH_PeerControl)},
8528   {&handle_local_connect_by_type, NULL,
8529    GNUNET_MESSAGE_TYPE_MESH_LOCAL_PEER_ADD_BY_TYPE,
8530    sizeof (struct GNUNET_MESH_ConnectPeerByType)},
8531   {&handle_local_connect_by_string, NULL,
8532    GNUNET_MESSAGE_TYPE_MESH_LOCAL_PEER_ADD_BY_STRING, 0},
8533   {&handle_local_unicast, NULL,
8534    GNUNET_MESSAGE_TYPE_MESH_UNICAST, 0},
8535   {&handle_local_to_origin, NULL,
8536    GNUNET_MESSAGE_TYPE_MESH_TO_ORIGIN, 0},
8537   {&handle_local_multicast, NULL,
8538    GNUNET_MESSAGE_TYPE_MESH_MULTICAST, 0},
8539   {&handle_local_ack, NULL,
8540    GNUNET_MESSAGE_TYPE_MESH_LOCAL_ACK,
8541    sizeof (struct GNUNET_MESH_LocalAck)},
8542   {&handle_local_get_tunnels, NULL,
8543    GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNELS,
8544    sizeof (struct GNUNET_MessageHeader)},
8545   {&handle_local_show_tunnel, NULL,
8546    GNUNET_MESSAGE_TYPE_MESH_LOCAL_INFO_TUNNEL,
8547      sizeof (struct GNUNET_MESH_LocalMonitor)},
8548   {NULL, NULL, 0, 0}
8549 };
8550
8551
8552 /**
8553  * To be called on core init/fail.
8554  *
8555  * @param cls service closure
8556  * @param server handle to the server for this service
8557  * @param identity the public identity of this peer
8558  */
8559 static void
8560 core_init (void *cls, struct GNUNET_CORE_Handle *server,
8561            const struct GNUNET_PeerIdentity *identity)
8562 {
8563   static int i = 0;
8564   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Core init\n");
8565   core_handle = server;
8566   if (0 != memcmp (identity, &my_full_id, sizeof (my_full_id)) ||
8567       NULL == server)
8568   {
8569     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, _("Wrong CORE service\n"));
8570     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
8571                 " core id %s\n",
8572                 GNUNET_i2s (identity));
8573     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
8574                 " my id %s\n",
8575                 GNUNET_i2s (&my_full_id));
8576     GNUNET_SCHEDULER_shutdown (); // Try gracefully
8577     if (10 < i++)
8578       GNUNET_abort(); // Try harder
8579   }
8580   return;
8581 }
8582
8583
8584 /**
8585  * Method called whenever a given peer connects.
8586  *
8587  * @param cls closure
8588  * @param peer peer identity this notification is about
8589  * @param atsi performance data for the connection
8590  * @param atsi_count number of records in 'atsi'
8591  */
8592 static void
8593 core_connect (void *cls, const struct GNUNET_PeerIdentity *peer,
8594               const struct GNUNET_ATS_Information *atsi,
8595               unsigned int atsi_count)
8596 {
8597   struct MeshPeerInfo *peer_info;
8598   struct MeshPeerPath *path;
8599
8600   DEBUG_CONN ("Peer connected\n");
8601   DEBUG_CONN ("     %s\n", GNUNET_i2s (&my_full_id));
8602   peer_info = peer_info_get (peer);
8603   if (myid == peer_info->id)
8604   {
8605     DEBUG_CONN ("     (self)\n");
8606     return;
8607   }
8608   else
8609   {
8610     DEBUG_CONN ("     %s\n", GNUNET_i2s (peer));
8611   }
8612   path = path_new (2);
8613   path->peers[0] = myid;
8614   path->peers[1] = peer_info->id;
8615   GNUNET_PEER_change_rc (myid, 1);
8616   GNUNET_PEER_change_rc (peer_info->id, 1);
8617   peer_info_add_path (peer_info, path, GNUNET_YES);
8618   GNUNET_STATISTICS_update (stats, "# peers", 1, GNUNET_NO);
8619   return;
8620 }
8621
8622
8623 /**
8624  * Method called whenever a peer disconnects.
8625  *
8626  * @param cls closure
8627  * @param peer peer identity this notification is about
8628  */
8629 static void
8630 core_disconnect (void *cls, const struct GNUNET_PeerIdentity *peer)
8631 {
8632   struct MeshPeerInfo *pi;
8633   struct MeshPeerQueue *q;
8634   struct MeshPeerQueue *n;
8635
8636   DEBUG_CONN ("Peer disconnected\n");
8637   pi = GNUNET_CONTAINER_multihashmap_get (peers, &peer->hashPubKey);
8638   if (NULL == pi)
8639   {
8640     GNUNET_break (0);
8641     return;
8642   }
8643   q = pi->queue_head;
8644   while (NULL != q)
8645   {
8646       n = q->next;
8647       /* TODO try to reroute this traffic instead */
8648       queue_destroy(q, GNUNET_YES);
8649       q = n;
8650   }
8651   if (NULL != pi->core_transmit)
8652   {
8653     GNUNET_CORE_notify_transmit_ready_cancel(pi->core_transmit);
8654     pi->core_transmit = NULL;
8655   }
8656   peer_info_remove_path (pi, pi->id, myid);
8657   if (myid == pi->id)
8658   {
8659     DEBUG_CONN ("     (self)\n");
8660   }
8661   GNUNET_STATISTICS_update (stats, "# peers", -1, GNUNET_NO);
8662   return;
8663 }
8664
8665
8666 /******************************************************************************/
8667 /************************      MAIN FUNCTIONS      ****************************/
8668 /******************************************************************************/
8669
8670 /**
8671  * Iterator over tunnel hash map entries to destroy the tunnel during shutdown.
8672  *
8673  * @param cls closure
8674  * @param key current key code
8675  * @param value value in the hash map
8676  * @return GNUNET_YES if we should continue to iterate,
8677  *         GNUNET_NO if not.
8678  */
8679 static int
8680 shutdown_tunnel (void *cls, const struct GNUNET_HashCode * key, void *value)
8681 {
8682   struct MeshTunnel *t = value;
8683
8684   tunnel_destroy (t);
8685   return GNUNET_YES;
8686 }
8687
8688 /**
8689  * Iterator over peer hash map entries to destroy the tunnel during shutdown.
8690  *
8691  * @param cls closure
8692  * @param key current key code
8693  * @param value value in the hash map
8694  * @return GNUNET_YES if we should continue to iterate,
8695  *         GNUNET_NO if not.
8696  */
8697 static int
8698 shutdown_peer (void *cls, const struct GNUNET_HashCode * key, void *value)
8699 {
8700   struct MeshPeerInfo *p = value;
8701   struct MeshPeerQueue *q;
8702   struct MeshPeerQueue *n;
8703
8704   q = p->queue_head;
8705   while (NULL != q)
8706   {
8707       n = q->next;
8708       if (q->peer == p)
8709       {
8710         queue_destroy(q, GNUNET_YES);
8711       }
8712       q = n;
8713   }
8714   peer_info_destroy (p);
8715   return GNUNET_YES;
8716 }
8717
8718
8719 /**
8720  * Task run during shutdown.
8721  *
8722  * @param cls unused
8723  * @param tc unused
8724  */
8725 static void
8726 shutdown_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
8727 {
8728   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shutting down\n");
8729
8730   if (core_handle != NULL)
8731   {
8732     GNUNET_CORE_disconnect (core_handle);
8733     core_handle = NULL;
8734   }
8735   if (NULL != keygen)
8736   {
8737     GNUNET_CRYPTO_rsa_key_create_stop (keygen);
8738     keygen = NULL;
8739   }
8740   GNUNET_CONTAINER_multihashmap_iterate (tunnels, &shutdown_tunnel, NULL);
8741   GNUNET_CONTAINER_multihashmap_iterate (peers, &shutdown_peer, NULL);
8742   if (dht_handle != NULL)
8743   {
8744     GNUNET_DHT_disconnect (dht_handle);
8745     dht_handle = NULL;
8746   }
8747   if (nc != NULL)
8748   {
8749     GNUNET_SERVER_notification_context_destroy (nc);
8750     nc = NULL;
8751   }
8752   if (GNUNET_SCHEDULER_NO_TASK != announce_id_task)
8753   {
8754     GNUNET_SCHEDULER_cancel (announce_id_task);
8755     announce_id_task = GNUNET_SCHEDULER_NO_TASK;
8756   }
8757   if (GNUNET_SCHEDULER_NO_TASK != announce_applications_task)
8758   {
8759     GNUNET_SCHEDULER_cancel (announce_applications_task);
8760     announce_applications_task = GNUNET_SCHEDULER_NO_TASK;
8761   }
8762   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "shut down\n");
8763 }
8764
8765
8766 /**
8767  * Callback for hostkey read/generation
8768  *
8769  * @param cls Closure (Configuration handle).
8770  * @param pk the private key
8771  * @param emsg error message
8772  */
8773 static void
8774 key_generation_cb (void *cls,
8775                    struct GNUNET_CRYPTO_RsaPrivateKey *pk,
8776                    const char *emsg)
8777 {
8778   const struct GNUNET_CONFIGURATION_Handle *c = cls;
8779   struct MeshPeerInfo *peer;
8780   struct MeshPeerPath *p;
8781
8782   keygen = NULL;  
8783   if (NULL == pk)
8784   {
8785     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
8786                 _("Mesh service could not access hostkey: %s. Exiting.\n"),
8787                 emsg);
8788     GNUNET_SCHEDULER_shutdown ();
8789     return;
8790   }
8791   my_private_key = pk;
8792   GNUNET_CRYPTO_rsa_key_get_public (my_private_key, &my_public_key);
8793   GNUNET_CRYPTO_hash (&my_public_key, sizeof (my_public_key),
8794                       &my_full_id.hashPubKey);
8795   myid = GNUNET_PEER_intern (&my_full_id);
8796   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
8797               "Mesh for peer [%s] starting\n",
8798               GNUNET_i2s(&my_full_id));
8799
8800 //   transport_handle = GNUNET_TRANSPORT_connect(c,
8801 //                                               &my_full_id,
8802 //                                               NULL,
8803 //                                               NULL,
8804 //                                               NULL,
8805 //                                               NULL);
8806
8807   core_handle = GNUNET_CORE_connect (c, /* Main configuration */
8808                                      NULL,      /* Closure passed to MESH functions */
8809                                      &core_init,        /* Call core_init once connected */
8810                                      &core_connect,     /* Handle connects */
8811                                      &core_disconnect,  /* remove peers on disconnects */
8812                                      NULL,      /* Don't notify about all incoming messages */
8813                                      GNUNET_NO, /* For header only in notification */
8814                                      NULL,      /* Don't notify about all outbound messages */
8815                                      GNUNET_NO, /* For header-only out notification */
8816                                      core_handlers);    /* Register these handlers */
8817   
8818   if (core_handle == NULL)
8819   {
8820     GNUNET_break (0);
8821     GNUNET_SCHEDULER_shutdown ();
8822     return;
8823   }
8824
8825   next_tid = 0;
8826   next_local_tid = GNUNET_MESH_LOCAL_TUNNEL_ID_SERV;
8827
8828
8829   GNUNET_SERVER_add_handlers (server_handle, client_handlers);
8830   nc = GNUNET_SERVER_notification_context_create (server_handle, 1);
8831   GNUNET_SERVER_disconnect_notify (server_handle,
8832                                    &handle_local_client_disconnect, NULL);
8833
8834
8835   clients = NULL;
8836   clients_tail = NULL;
8837   next_client_id = 0;
8838
8839   announce_applications_task = GNUNET_SCHEDULER_NO_TASK;
8840   announce_id_task = GNUNET_SCHEDULER_add_now (&announce_id, cls);
8841
8842   /* Create a peer_info for the local peer */
8843   peer = peer_info_get (&my_full_id);
8844   p = path_new (1);
8845   p->peers[0] = myid;
8846   GNUNET_PEER_change_rc (myid, 1);
8847   peer_info_add_path (peer, p, GNUNET_YES);
8848   GNUNET_SERVER_resume (server_handle);
8849   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Mesh service running\n");
8850 }
8851
8852
8853 /**
8854  * Process mesh requests.
8855  *
8856  * @param cls closure
8857  * @param server the initialized server
8858  * @param c configuration to use
8859  */
8860 static void
8861 run (void *cls, struct GNUNET_SERVER_Handle *server,
8862      const struct GNUNET_CONFIGURATION_Handle *c)
8863 {
8864   char *keyfile;
8865
8866   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "starting to run\n");
8867   server_handle = server;
8868
8869   if (GNUNET_OK !=
8870       GNUNET_CONFIGURATION_get_value_filename (c, "GNUNETD", "HOSTKEY",
8871                                                &keyfile))
8872   {
8873     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
8874                 _
8875                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
8876                 "mesh", "hostkey");
8877     GNUNET_SCHEDULER_shutdown ();
8878     return;
8879   }
8880
8881   if (GNUNET_OK !=
8882       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "REFRESH_PATH_TIME",
8883                                            &refresh_path_time))
8884   {
8885     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
8886                 _
8887                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
8888                 "mesh", "refresh path time");
8889     GNUNET_SCHEDULER_shutdown ();
8890     return;
8891   }
8892
8893   if (GNUNET_OK !=
8894       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "APP_ANNOUNCE_TIME",
8895                                            &app_announce_time))
8896   {
8897     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
8898                 _
8899                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
8900                 "mesh", "app announce time");
8901     GNUNET_SCHEDULER_shutdown ();
8902     return;
8903   }
8904   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
8905               "APP_ANNOUNCE_TIME %llu ms\n", 
8906               app_announce_time.rel_value);
8907   if (GNUNET_OK !=
8908       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "ID_ANNOUNCE_TIME",
8909                                            &id_announce_time))
8910   {
8911     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
8912                 _
8913                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
8914                 "mesh", "id announce time");
8915     GNUNET_SCHEDULER_shutdown ();
8916     return;
8917   }
8918
8919   if (GNUNET_OK !=
8920       GNUNET_CONFIGURATION_get_value_time (c, "MESH", "CONNECT_TIMEOUT",
8921                                            &connect_timeout))
8922   {
8923     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
8924                 _
8925                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
8926                 "mesh", "connect timeout");
8927     GNUNET_SCHEDULER_shutdown ();
8928     return;
8929   }
8930
8931   if (GNUNET_OK !=
8932       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_MSGS_QUEUE",
8933                                              &max_msgs_queue))
8934   {
8935     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
8936                 _
8937                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
8938                 "mesh", "max msgs queue");
8939     GNUNET_SCHEDULER_shutdown ();
8940     return;
8941   }
8942
8943   if (GNUNET_OK !=
8944       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_TUNNELS",
8945                                              &max_tunnels))
8946   {
8947     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
8948                 _
8949                 ("%s service is lacking key configuration settings (%s).  Exiting.\n"),
8950                 "mesh", "max tunnels");
8951     GNUNET_SCHEDULER_shutdown ();
8952     return;
8953   }
8954
8955   if (GNUNET_OK !=
8956       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "DEFAULT_TTL",
8957                                              &default_ttl))
8958   {
8959     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
8960                 _
8961                 ("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
8962                 "mesh", "default ttl", 64);
8963     default_ttl = 64;
8964   }
8965
8966   if (GNUNET_OK !=
8967       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "MAX_PEERS",
8968                                              &max_peers))
8969   {
8970     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
8971                 _("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
8972                 "mesh", "max peers", 1000);
8973     max_peers = 1000;
8974   }
8975
8976   if (GNUNET_OK !=
8977       GNUNET_CONFIGURATION_get_value_number (c, "MESH", "DHT_REPLICATION_LEVEL",
8978                                              &dht_replication_level))
8979   {
8980     GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
8981                 _
8982                 ("%s service is lacking key configuration settings (%s). Using default (%u).\n"),
8983                 "mesh", "dht replication level", 3);
8984     dht_replication_level = 3;
8985   }
8986
8987   tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
8988   incoming_tunnels = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
8989   peers = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
8990   applications = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
8991   types = GNUNET_CONTAINER_multihashmap_create (32, GNUNET_NO);
8992
8993   dht_handle = GNUNET_DHT_connect (c, 64);
8994   if (NULL == dht_handle)
8995   {
8996     GNUNET_break (0);
8997   }
8998   stats = GNUNET_STATISTICS_create ("mesh", c);
8999
9000   GNUNET_SERVER_suspend (server_handle);
9001   /* Scheduled the task to clean up when shutdown is called */
9002   GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_UNIT_FOREVER_REL, &shutdown_task,
9003                                 NULL);
9004   keygen = GNUNET_CRYPTO_rsa_key_create_start (keyfile,
9005                                                &key_generation_cb,
9006                                                (void *) c);
9007   GNUNET_free (keyfile);
9008 }
9009
9010
9011 /**
9012  * The main function for the mesh service.
9013  *
9014  * @param argc number of arguments from the command line
9015  * @param argv command line arguments
9016  * @return 0 ok, 1 on error
9017  */
9018 int
9019 main (int argc, char *const *argv)
9020 {
9021   int ret;
9022   int r;
9023
9024   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "main()\n");
9025   r = GNUNET_SERVICE_run (argc, argv, "mesh", GNUNET_SERVICE_OPTION_NONE, &run,
9026                           NULL);
9027   ret = (GNUNET_OK == r) ? 0 : 1;
9028   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "main() END\n");
9029
9030   INTERVAL_SHOW;
9031
9032   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
9033               "Mesh for peer [%s] FWD ACKs %u, BCK ACKs %u\n",
9034               GNUNET_i2s(&my_full_id), debug_fwd_ack, debug_bck_ack);
9035
9036   return ret;
9037 }