- fix typo
[oweals/gnunet.git] / src / transport / gnunet-service-transport_neighbours.c
1 /*
2      This file is part of GNUnet.
3      (C) 2010,2011,2012 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file transport/gnunet-service-transport_neighbours.c
23  * @brief neighbour management
24  * @author Christian Grothoff
25  *
26  * TODO:
27  * - "address_change_cb" is NEVER invoked; when should we call this one exactly?
28  * - TEST, TEST, TEST...
29  */
30 #include "platform.h"
31 #include "gnunet_ats_service.h"
32 #include "gnunet-service-transport_neighbours.h"
33 #include "gnunet-service-transport_plugins.h"
34 #include "gnunet-service-transport_validation.h"
35 #include "gnunet-service-transport_clients.h"
36 #include "gnunet-service-transport.h"
37 #include "gnunet_peerinfo_service.h"
38 #include "gnunet-service-transport_blacklist.h"
39 #include "gnunet_constants.h"
40 #include "transport.h"
41
42
43 /**
44  * Size of the neighbour hash map.
45  */
46 #define NEIGHBOUR_TABLE_SIZE 256
47
48 /**
49  * Time we give plugin to transmit DISCONNECT message before the
50  * neighbour entry self-destructs.
51  */
52 #define DISCONNECT_SENT_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MILLISECONDS, 100)
53
54 /**
55  * How often must a peer violate bandwidth quotas before we start
56  * to simply drop its messages?
57  */
58 #define QUOTA_VIOLATION_DROP_THRESHOLD 10
59
60 /**
61  * How often do we send KEEPALIVE messages to each of our neighbours and measure
62  * the latency with this neighbour?
63  * (idle timeout is 5 minutes or 300 seconds, so with 30s interval we
64  * send 10 keepalives in each interval, so 10 messages would need to be
65  * lost in a row for a disconnect).
66  */
67 #define KEEPALIVE_FREQUENCY GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_SECONDS, 30)
68
69 /**
70  * How long are we willing to wait for a response from ATS before timing out?
71  */
72 #define ATS_RESPONSE_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MILLISECONDS, 500)
73
74 /**
75  * How long are we willing to wait for an ACK from the other peer before
76  * giving up on our connect operation?
77  */
78 #define SETUP_CONNECTION_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_SECONDS, 15)
79
80 /**
81  * How long are we willing to wait for a successful reconnect if 
82  * an existing connection went down?  Much shorter than the
83  * usual SETUP_CONNECTION_TIMEOUT as we do not inform the
84  * higher layers about the disconnect during this period.
85  */
86 #define FAST_RECONNECT_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_SECONDS, 1)
87
88 /**
89  * How long are we willing to wait for a response from the blacklist
90  * subsystem before timing out?
91  */
92 #define BLACKLIST_RESPONSE_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MILLISECONDS, 500)
93
94
95 GNUNET_NETWORK_STRUCT_BEGIN
96
97 /**
98  * Message a peer sends to another to indicate that it intends to
99  * setup a connection/session for data exchange.  A 'SESSION_CONNECT'
100  * should be answered with a 'SESSION_CONNECT_ACK' with the same body
101  * to confirm.  A 'SESSION_CONNECT_ACK' should then be followed with
102  * a 'SESSION_ACK'.  Once the 'SESSION_ACK' is received, both peers 
103  * should be connected.
104  */
105 struct SessionConnectMessage
106 {
107   /**
108    * Header of type 'GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_CONNECT'
109    * or 'GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_CONNECT_ACK'
110    */
111   struct GNUNET_MessageHeader header;
112
113   /**
114    * Always zero.
115    */
116   uint32_t reserved GNUNET_PACKED;
117
118   /**
119    * Absolute time at the sender.  Only the most recent connect
120    * message implies which session is preferred by the sender.
121    */
122   struct GNUNET_TIME_AbsoluteNBO timestamp;
123
124 };
125
126
127 /**
128  * Message we send to the other peer to notify him that we intentionally
129  * are disconnecting (to reduce timeouts).  This is just a friendly 
130  * notification, peers must not rely on always receiving disconnect
131  * messages.
132  */
133 struct SessionDisconnectMessage
134 {
135   /**
136    * Header of type 'GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_DISCONNECT'
137    */
138   struct GNUNET_MessageHeader header;
139
140   /**
141    * Always zero.
142    */
143   uint32_t reserved GNUNET_PACKED;
144
145   /**
146    * Purpose of the signature.  Extends over the timestamp.
147    * Purpose should be GNUNET_SIGNATURE_PURPOSE_TRANSPORT_DISCONNECT.
148    */
149   struct GNUNET_CRYPTO_RsaSignaturePurpose purpose;
150
151   /**
152    * Absolute time at the sender.  Only the most recent connect
153    * message implies which session is preferred by the sender.
154    */
155   struct GNUNET_TIME_AbsoluteNBO timestamp;
156
157   /**
158    * Public key of the sender.
159    */
160   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded public_key;
161
162   /**
163    * Signature of the peer that sends us the disconnect.  Only
164    * valid if the timestamp is AFTER the timestamp from the
165    * corresponding 'CONNECT' message.
166    */
167   struct GNUNET_CRYPTO_RsaSignature signature;
168
169 };
170
171 GNUNET_NETWORK_STRUCT_END
172
173
174 /**
175  * For each neighbour we keep a list of messages
176  * that we still want to transmit to the neighbour.
177  */
178 struct MessageQueue
179 {
180
181   /**
182    * This is a doubly linked list.
183    */
184   struct MessageQueue *next;
185
186   /**
187    * This is a doubly linked list.
188    */
189   struct MessageQueue *prev;
190
191   /**
192    * Function to call once we're done.
193    */
194   GST_NeighbourSendContinuation cont;
195
196   /**
197    * Closure for 'cont'
198    */
199   void *cont_cls;
200
201   /**
202    * The message(s) we want to transmit, GNUNET_MessageHeader(s)
203    * stuck together in memory.  Allocated at the end of this struct.
204    */
205   const char *message_buf;
206
207   /**
208    * Size of the message buf
209    */
210   size_t message_buf_size;
211
212   /**
213    * At what time should we fail?
214    */
215   struct GNUNET_TIME_Absolute timeout;
216
217 };
218
219
220 /**
221  * Possible state of a neighbour.  Initially, we are S_NOT_CONNECTED.
222  *
223  * Then, there are two main paths. If we receive a CONNECT message, we
224  * first run a check against the blacklist and ask ATS for a
225  * suggestion.  (S_CONNECT_RECV_ATS).  If the blacklist comes back
226  * positive, we give the address to ATS.  If ATS makes a suggestion,
227  * we ALSO give that suggestion to the blacklist
228  * (S_CONNECT_RECV_BLACKLIST).  Once the blacklist approves the
229  * address we got from ATS, we send our CONNECT_ACK and go to
230  * S_CONNECT_RECV_ACK.  If we receive a SESSION_ACK, we go to
231  * S_CONNECTED (and notify everyone about the new connection).  If the
232  * operation times out, we go to S_DISCONNECT.
233  *
234  * The other case is where we transmit a CONNECT message first.  We
235  * start with S_INIT_ATS.  If we get an address, we enter
236  * S_INIT_BLACKLIST and check the blacklist.  If the blacklist is OK
237  * with the connection, we actually send the CONNECT message and go to
238  * state S_CONNECT_SENT.  Once we receive a CONNECT_ACK, we go to
239  * S_CONNECTED (and notify everyone about the new connection and send
240  * back a SESSION_ACK).  If the operation times out, we go to
241  * S_DISCONNECT.
242  *
243  * If the session is in trouble (i.e. transport-level disconnect or
244  * timeout), we go to S_RECONNECT_ATS where we ask ATS for a new
245  * address (we don't notify anyone about the disconnect yet).  Once we
246  * have a new address, we go to S_RECONNECT_BLACKLIST to check the new
247  * address against the blacklist.  If the blacklist approves, we enter
248  * S_RECONNECT_SENT and send a CONNECT message.  If we receive a
249  * CONNECT_ACK, we go to S_CONNECTED and nobody noticed that we had
250  * trouble; we also send a SESSION_ACK at this time just in case.  If
251  * the operation times out, we go to S_DISCONNECT (and notify everyone
252  * about the lost connection).
253  *
254  * If ATS decides to switch addresses while we have a normal
255  * connection, we go to S_CONNECTED_SWITCHING_BLACKLIST to check the
256  * new address against the blacklist.  If the blacklist approves, we
257  * go to S_CONNECTED_SWITCHING_CONNECT_SENT and send a
258  * SESSION_CONNECT.  If we get a SESSION_ACK back, we switch the
259  * primary connection to the suggested alternative from ATS, go back
260  * to S_CONNECTED and send a SESSION_ACK to the other peer just to be
261  * sure.  If the operation times out (or the blacklist disapproves),
262  * we go to S_CONNECTED (and notify ATS that the given alternative
263  * address is "invalid").
264  *
265  * Once a session is in S_DISCONNECT, it is cleaned up and then goes
266  * to (S_DISCONNECT_FINISHED).  If we receive an explicit disconnect
267  * request, we can go from any state to S_DISCONNECT, possibly after
268  * generating disconnect notifications.
269  *
270  * Note that it is quite possible that while we are in any of these
271  * states, we could receive a 'CONNECT' request from the other peer.
272  * We then enter a 'weird' state where we pursue our own primary state
273  * machine (as described above), but with the 'send_connect_ack' flag
274  * set to 1.  If our state machine allows us to send a 'CONNECT_ACK'
275  * (because we have an acceptable address), we send the 'CONNECT_ACK'
276  * and set the 'send_connect_ack' to 2.  If we then receive a
277  * 'SESSION_ACK', we go to 'S_CONNECTED' (and reset 'send_connect_ack'
278  * to 0).
279  * 
280  */ 
281 enum State
282 {
283   /**
284    * fresh peer or completely disconnected
285    */
286   S_NOT_CONNECTED = 0,
287
288   /**
289    * Asked to initiate connection, trying to get address from ATS
290    */
291   S_INIT_ATS,
292
293   /**
294    * Asked to initiate connection, trying to get address approved
295    * by blacklist.
296    */
297   S_INIT_BLACKLIST,
298
299   /**
300    * Sent CONNECT message to other peer, waiting for CONNECT_ACK
301    */
302   S_CONNECT_SENT,
303
304   /**
305    * Received a CONNECT, asking ATS about address suggestions.
306    */
307   S_CONNECT_RECV_ATS,
308
309   /**
310    * Received CONNECT from other peer, got an address, checking with blacklist.
311    */
312   S_CONNECT_RECV_BLACKLIST,
313
314   /**
315    * CONNECT request from other peer was SESSION_ACK'ed, waiting for
316    * SESSION_ACK.
317    */
318   S_CONNECT_RECV_ACK,
319
320   /**
321    * Got our CONNECT_ACK/SESSION_ACK, connection is up.
322    */
323   S_CONNECTED,
324
325   /**
326    * Connection got into trouble, rest of the system still believes
327    * it to be up, but we're getting a new address from ATS.
328    */
329   S_RECONNECT_ATS,
330
331   /**
332    * Connection got into trouble, rest of the system still believes
333    * it to be up; we are checking the new address against the blacklist.
334    */
335   S_RECONNECT_BLACKLIST,
336
337   /**
338    * Sent CONNECT over new address (either by ATS telling us to switch
339    * addresses or from RECONNECT_ATS); if this fails, we need to tell
340    * the rest of the system about a disconnect.
341    */
342   S_RECONNECT_SENT,
343
344   /**
345    * We have some primary connection, but ATS suggested we switch
346    * to some alternative; we're now checking the alternative against
347    * the blacklist.
348    */
349   S_CONNECTED_SWITCHING_BLACKLIST,
350
351   /** 
352    * We have some primary connection, but ATS suggested we switch
353    * to some alternative; we now sent a CONNECT message for the
354    * alternative session to the other peer and waiting for a
355    * CONNECT_ACK to make this our primary connection.
356    */
357   S_CONNECTED_SWITCHING_CONNECT_SENT,
358
359   /**
360    * Disconnect in progress (we're sending the DISCONNECT message to the
361    * other peer; after that is finished, the state will be cleaned up).
362    */
363   S_DISCONNECT,
364
365   /**
366    * We're finished with the disconnect; clean up state now!
367    */
368   S_DISCONNECT_FINISHED
369 };
370
371
372 /**
373  * A possible address we could use to communicate with a neighbour.
374  */
375 struct NeighbourAddress
376 {
377
378   /**
379    * Active session for this address.
380    */
381   struct Session *session;
382
383   /**
384    * Network-level address information.
385    */
386   struct GNUNET_HELLO_Address *address;
387
388   /**
389    * Timestamp of the 'SESSION_CONNECT' message we sent to the other
390    * peer for this address.  Use to check that the ACK is in response
391    * to our most recent 'CONNECT'.
392    */
393   struct GNUNET_TIME_Absolute connect_timestamp;
394
395   /**
396    * Inbound bandwidth from ATS for this address.
397    */
398   struct GNUNET_BANDWIDTH_Value32NBO bandwidth_in;
399
400   /**
401    * Outbound bandwidth from ATS for this address.
402    */
403   struct GNUNET_BANDWIDTH_Value32NBO bandwidth_out;
404
405   /**
406    * Did we tell ATS that this is our 'active' address?
407    */
408   int ats_active;
409   
410 };
411
412
413 /**
414  * Entry in neighbours.
415  */
416 struct NeighbourMapEntry
417 {
418
419   /**
420    * Head of list of messages we would like to send to this peer;
421    * must contain at most one message per client.
422    */
423   struct MessageQueue *messages_head;
424
425   /**
426    * Tail of list of messages we would like to send to this peer; must
427    * contain at most one message per client.
428    */
429   struct MessageQueue *messages_tail;
430
431   /**
432    * Are we currently trying to send a message? If so, which one?
433    */
434   struct MessageQueue *is_active;
435
436   /**
437    * Primary address we currently use to communicate with the neighbour.
438    */
439   struct NeighbourAddress primary_address;
440
441   /**
442    * Alternative address currently under consideration for communicating
443    * with the neighbour.
444    */
445   struct NeighbourAddress alternative_address;
446
447   /**
448    * Identity of this neighbour.
449    */
450   struct GNUNET_PeerIdentity id;
451
452   /**
453    * Main task that drives this peer (timeouts, keepalives, etc.).
454    * Always runs the 'master_task'.
455    */
456   GNUNET_SCHEDULER_TaskIdentifier task;
457
458   /**
459    * At what time should we sent the next keep-alive message?
460    */
461   struct GNUNET_TIME_Absolute keep_alive_time;
462
463   /**
464    * At what time did we sent the last keep-alive message?  Used 
465    * to calculate round-trip time ("latency").
466    */
467   struct GNUNET_TIME_Absolute last_keep_alive_time;
468
469   /**
470    * Timestamp we should include in our next CONNECT_ACK message.
471    * (only valid if 'send_connect_ack' is GNUNET_YES).  Used to build
472    * our CONNECT_ACK message.
473    */
474   struct GNUNET_TIME_Absolute connect_ack_timestamp;
475
476   /**
477    * Time where we should cut the connection (timeout) if we don't
478    * make progress in the state machine (or get a KEEPALIVE_RESPONSE
479    * if we are in S_CONNECTED).
480    */
481   struct GNUNET_TIME_Absolute timeout;
482
483   /**
484    * Latest calculated latency value
485    */
486   struct GNUNET_TIME_Relative latency;
487
488   /**
489    * Tracker for inbound bandwidth.
490    */
491   struct GNUNET_BANDWIDTH_Tracker in_tracker;
492
493   /**
494    * How often has the other peer (recently) violated the inbound
495    * traffic limit?  Incremented by 10 per violation, decremented by 1
496    * per non-violation (for each time interval).
497    */
498   unsigned int quota_violation_count;
499
500   /**
501    * The current state of the peer.
502    */
503   enum State state;
504
505   /**
506    * Did we sent an KEEP_ALIVE message and are we expecting a response?
507    */
508   int expect_latency_response;
509
510   /**
511    * Flag to set if we still need to send a CONNECT_ACK message to the other peer
512    * (once we have an address to use and the peer has been allowed by our
513    * blacklist).  Set to 1 if we need to send a CONNECT_ACK.  Set to 2 if we
514    * did send a CONNECT_ACK and should go to 'S_CONNECTED' upon receiving
515    * a 'SESSION_ACK' (regardless of what our own state machine might say).
516    */
517   int send_connect_ack;
518
519 };
520
521
522 /**
523  * Context for blacklist checks and the 'handle_test_blacklist_cont'
524  * function.  Stores information about ongoing blacklist checks.
525  */
526 struct BlackListCheckContext
527 {
528   
529   /**
530    * We keep blacklist checks in a DLL.
531    */
532   struct BlackListCheckContext *next;
533
534   /**
535    * We keep blacklist checks in a DLL.
536    */
537   struct BlackListCheckContext *prev;
538
539   /**
540    * Address that is being checked.
541    */
542   struct NeighbourAddress na;
543   
544   /**
545    * ATS information about the address.
546    */
547   struct GNUNET_ATS_Information *ats;
548
549   /**
550    * Handle to the ongoing blacklist check.
551    */
552   struct GST_BlacklistCheck *bc;
553
554   /**
555    * Size of the 'ats' array.
556    */
557   uint32_t ats_count;
558
559 };
560
561
562 /**
563  * Hash map from peer identities to the respective 'struct NeighbourMapEntry'.
564  */
565 static struct GNUNET_CONTAINER_MultiHashMap *neighbours;
566
567 /**
568  * We keep blacklist checks in a DLL so that we can find
569  * the 'sessions' in their 'struct NeighbourAddress' if
570  * a session goes down.
571  */
572 static struct BlackListCheckContext *bc_head;
573
574 /**
575  * We keep blacklist checks in a DLL.
576  */
577 static struct BlackListCheckContext *bc_tail;
578
579 /**
580  * Closure for connect_notify_cb, disconnect_notify_cb and address_change_cb
581  */
582 static void *callback_cls;
583
584 /**
585  * Function to call when we connected to a neighbour.
586  */
587 static GNUNET_TRANSPORT_NotifyConnect connect_notify_cb;
588
589 /**
590  * Function to call when we disconnected from a neighbour.
591  */
592 static GNUNET_TRANSPORT_NotifyDisconnect disconnect_notify_cb;
593
594 /**
595  * Function to call when we changed an active address of a neighbour.
596  */
597 static GNUNET_TRANSPORT_PeerIterateCallback address_change_cb;
598
599 /**
600  * counter for connected neighbours
601  */
602 static unsigned int neighbours_connected;
603
604 /**
605  * Number of bytes we have currently queued for transmission.
606  */
607 static unsigned long long bytes_in_send_queue;
608
609
610 /**
611  * Lookup a neighbour entry in the neighbours hash map.
612  *
613  * @param pid identity of the peer to look up
614  * @return the entry, NULL if there is no existing record
615  */
616 static struct NeighbourMapEntry *
617 lookup_neighbour (const struct GNUNET_PeerIdentity *pid)
618 {
619   if (NULL == neighbours)
620     return NULL;
621   return GNUNET_CONTAINER_multihashmap_get (neighbours, &pid->hashPubKey);
622 }
623
624 static const char *
625 print_state (int state)
626 {
627
628   switch (state)
629   {
630   case S_NOT_CONNECTED:
631     return "S_NOT_CONNECTED";
632     break;
633   case S_INIT_ATS:
634     return "S_INIT_ATS";
635     break;
636   case S_INIT_BLACKLIST:
637     return "S_INIT_BLACKLIST";
638     break;
639   case S_CONNECT_SENT:
640     return "S_CONNECT_SENT";
641     break;
642   case S_CONNECT_RECV_ATS:
643     return "S_CONNECT_RECV_ATS";
644     break;
645   case S_CONNECT_RECV_BLACKLIST:
646     return "S_CONNECT_RECV_BLACKLIST";
647     break;
648   case S_CONNECT_RECV_ACK:
649     return "S_CONNECT_RECV_ACK";
650     break;
651   case S_CONNECTED:
652     return "S_CONNECTED";
653     break;
654   case S_RECONNECT_ATS:
655     return "S_RECONNECT_ATS";
656     break;
657   case S_RECONNECT_BLACKLIST:
658     return "S_RECONNECT_BLACKLIST";
659     break;
660   case S_RECONNECT_SENT:
661     return "S_RECONNECT_SENT";
662     break;
663   case S_CONNECTED_SWITCHING_BLACKLIST:
664     return "S_CONNECTED_SWITCHING_BLACKLIST";
665     break;
666   case S_CONNECTED_SWITCHING_CONNECT_SENT:
667     return "S_CONNECTED_SWITCHING_CONNECT_SENT";
668     break;
669   case S_DISCONNECT:
670     return "S_DISCONNECT";
671     break;
672   case S_DISCONNECT_FINISHED:
673     return "S_DISCONNECT_FINISHED";
674     break;
675   default:
676     return "UNDEFINED";
677     GNUNET_break (0);
678     break;
679   }
680   GNUNET_break (0);
681   return "UNDEFINED";
682 }
683
684 /**
685  * Test if we're connected to the given peer.
686  *
687  * @param n neighbour entry of peer to test
688  * @return GNUNET_YES if we are connected, GNUNET_NO if not
689  */
690 static int
691 test_connected (struct NeighbourMapEntry *n)
692 {
693   if (NULL == n)
694     return GNUNET_NO;
695   switch (n->state)
696   {
697   case S_NOT_CONNECTED:
698   case S_INIT_ATS:
699   case S_INIT_BLACKLIST:
700   case S_CONNECT_SENT:
701   case S_CONNECT_RECV_ATS:
702   case S_CONNECT_RECV_BLACKLIST:
703   case S_CONNECT_RECV_ACK:
704     return GNUNET_NO;
705   case S_CONNECTED:
706   case S_RECONNECT_ATS:
707   case S_RECONNECT_BLACKLIST:
708   case S_RECONNECT_SENT:
709   case S_CONNECTED_SWITCHING_BLACKLIST:
710   case S_CONNECTED_SWITCHING_CONNECT_SENT:
711     return GNUNET_YES;
712   case S_DISCONNECT:
713   case S_DISCONNECT_FINISHED:
714     return GNUNET_NO;
715   default:
716     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "Unhandled state `%s' \n",print_state (n->state));
717     GNUNET_break (0);
718     break;
719   }
720   return GNUNET_SYSERR;
721 }
722
723 /**
724  * Send information about a new outbound quota to our clients.
725  *
726  * @param target affected peer
727  * @param quota new quota
728  */
729 static void
730 send_outbound_quota (const struct GNUNET_PeerIdentity *target,
731                      struct GNUNET_BANDWIDTH_Value32NBO quota)
732 {
733   struct QuotaSetMessage q_msg;
734
735   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
736               "Sending outbound quota of %u Bps for peer `%s' to all clients\n",
737               ntohl (quota.value__), GNUNET_i2s (target));
738   q_msg.header.size = htons (sizeof (struct QuotaSetMessage));
739   q_msg.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SET_QUOTA);
740   q_msg.quota = quota;
741   q_msg.peer = (*target);
742   GST_clients_broadcast (&q_msg.header, GNUNET_NO);
743 }
744
745
746 /**
747  * We don't need a given neighbour address any more.
748  * Release its resources and give appropriate notifications
749  * to ATS and other subsystems.
750  *
751  * @param na address we are done with; 'na' itself must NOT be 'free'd, only the contents!
752  */
753 static void
754 free_address (struct NeighbourAddress *na)
755 {
756   if (GNUNET_YES == na->ats_active)
757   {
758     GST_validation_set_address_use (na->address, na->session, GNUNET_NO, __LINE__);
759     GNUNET_ATS_address_in_use (GST_ats, na->address, na->session, GNUNET_NO);
760   }
761   na->ats_active = GNUNET_NO;
762   if (NULL != na->address)
763   {
764     GNUNET_HELLO_address_free (na->address);
765     na->address = NULL;
766   }
767   na->session = NULL;
768 }
769
770
771 /**
772  * Initialize the 'struct NeighbourAddress'.
773  *
774  * @param na neighbour address to initialize
775  * @param address address of the other peer, NULL if other peer
776  *                       connected to us
777  * @param session session to use (or NULL, in which case an
778  *        address must be setup)
779  * @param bandwidth_in inbound quota to be used when connection is up
780  * @param bandwidth_out outbound quota to be used when connection is up
781  * @param is_active GNUNET_YES to mark this as the active address with ATS
782  */
783 static void
784 set_address (struct NeighbourAddress *na,
785              const struct GNUNET_HELLO_Address *address,
786              struct Session *session,
787              struct GNUNET_BANDWIDTH_Value32NBO bandwidth_in,
788              struct GNUNET_BANDWIDTH_Value32NBO bandwidth_out,
789              int is_active)
790 {
791   struct GNUNET_TRANSPORT_PluginFunctions *papi;
792
793   if (NULL == (papi = GST_plugins_find (address->transport_name)))  
794   {
795     GNUNET_break (0);
796     return;
797   }
798   if (session == na->session)
799   {
800     na->bandwidth_in = bandwidth_in;
801     na->bandwidth_out = bandwidth_out;
802     if (is_active != na->ats_active)
803     {
804       na->ats_active = is_active;
805       GNUNET_ATS_address_in_use (GST_ats, na->address, na->session, is_active);
806       GST_validation_set_address_use (na->address, na->session, is_active,  __LINE__);
807     }
808     if (GNUNET_YES == is_active)
809     {
810       /* FIXME: is this the right place to set quotas? */
811       GST_neighbours_set_incoming_quota (&address->peer, bandwidth_in);
812       send_outbound_quota (&address->peer, bandwidth_out);
813     }    
814     return;
815   }
816   free_address (na);
817   if (NULL == session)
818     session = papi->get_session (papi->cls, address);    
819   if (NULL == session)
820   {
821     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
822                 "Failed to obtain new session for peer `%s' and  address '%s'\n",
823                 GNUNET_i2s (&address->peer), GST_plugins_a2s (address));    
824     GNUNET_ATS_address_destroyed (GST_ats, address, NULL);
825     return;
826   }
827   na->address = GNUNET_HELLO_address_copy (address);
828   na->bandwidth_in = bandwidth_in;
829   na->bandwidth_out = bandwidth_out;
830   na->session = session;
831   na->ats_active = is_active;
832   if (GNUNET_YES == is_active)
833   {
834     /* Telling ATS about new session */
835     GNUNET_ATS_address_update (GST_ats, na->address, na->session, NULL, 0);
836     GNUNET_ATS_address_in_use (GST_ats, na->address, na->session, GNUNET_YES);
837     GST_validation_set_address_use (na->address, na->session, GNUNET_YES,  __LINE__);
838
839     /* FIXME: is this the right place to set quotas? */
840     GST_neighbours_set_incoming_quota (&address->peer, bandwidth_in);
841     send_outbound_quota (&address->peer, bandwidth_out);
842   }
843 }
844
845
846 /**
847  * Free a neighbour map entry.
848  *
849  * @param n entry to free
850  */
851 static void
852 free_neighbour (struct NeighbourMapEntry *n)
853 {
854   struct MessageQueue *mq;
855   struct GNUNET_TRANSPORT_PluginFunctions *papi;
856
857   n->is_active = NULL; /* always free'd by its own continuation! */
858
859   /* fail messages currently in the queue */
860   while (NULL != (mq = n->messages_head))
861   {
862     GNUNET_CONTAINER_DLL_remove (n->messages_head, n->messages_tail, mq);
863     if (NULL != mq->cont)
864       mq->cont (mq->cont_cls, GNUNET_SYSERR);
865     GNUNET_free (mq);
866   }
867   /* It is too late to send other peer disconnect notifications, but at
868      least internally we need to get clean... */
869   if (GNUNET_YES == test_connected (n))
870   {
871     GNUNET_STATISTICS_set (GST_stats, 
872                            gettext_noop ("# peers connected"), 
873                            --neighbours_connected,
874                            GNUNET_NO);
875     disconnect_notify_cb (callback_cls, &n->id);
876   }
877
878   /* FIXME-PLUGIN-API: This does not seem to guarantee that all
879      transport sessions eventually get killed due to inactivity; they
880      MUST have their own timeout logic (but at least TCP doesn't have
881      one yet).  Are we sure that EVERY 'session' of a plugin is
882      actually cleaned up this way!?  Note that if we are switching
883      between two TCP sessions to the same peer, the existing plugin
884      API gives us not even the means to selectively kill only one of
885      them! Killing all sessions like this seems to be very, very
886      wrong. */
887   if ( (NULL != n->primary_address.address) &&
888        (NULL != (papi = GST_plugins_find (n->primary_address.address->transport_name))) )
889     papi->disconnect (papi->cls, &n->id);
890
891   n->state = S_DISCONNECT_FINISHED;
892
893   GNUNET_assert (GNUNET_YES ==
894                  GNUNET_CONTAINER_multihashmap_remove (neighbours,
895                                                        &n->id.hashPubKey, n));
896
897   /* cut transport-level connection */
898   free_address (&n->primary_address);
899   free_address (&n->alternative_address);
900
901   // FIXME-ATS-API: we might want to be more specific about
902   // which states we do this from in the future (ATS should
903   // have given us a 'suggest_address' handle, and if we have
904   // such a handle, we should cancel the operation here!
905   GNUNET_ATS_suggest_address_cancel (GST_ats, &n->id);
906
907   if (GNUNET_SCHEDULER_NO_TASK != n->task)
908   {
909     GNUNET_SCHEDULER_cancel (n->task);
910     n->task = GNUNET_SCHEDULER_NO_TASK;
911   }
912   /* free rest of memory */
913   GNUNET_free (n);
914 }
915
916
917 /**
918  * Transmit a message using the current session of the given
919  * neighbour.
920  *
921  * @param n entry for the recipient
922  * @param msgbuf buffer to transmit
923  * @param msgbuf_size number of bytes in buffer
924  * @param priority transmission priority
925  * @param timeout transmission timeout
926  * @param cont continuation to call when finished (can be NULL)
927  * @param cont_cls closure for cont
928  */
929 static void
930 send_with_session (struct NeighbourMapEntry *n,
931                    const char *msgbuf, size_t msgbuf_size,
932                    uint32_t priority,
933                    struct GNUNET_TIME_Relative timeout,
934                    GNUNET_TRANSPORT_TransmitContinuation cont,
935                    void *cont_cls)
936 {
937   struct GNUNET_TRANSPORT_PluginFunctions *papi;
938
939   GNUNET_assert (n->primary_address.session != NULL);
940   if ( ( (NULL == (papi = GST_plugins_find (n->primary_address.address->transport_name))) ||
941          (-1 == papi->send (papi->cls,
942                             n->primary_address.session,
943                             msgbuf, msgbuf_size,
944                             priority,
945                             timeout,
946                             cont, cont_cls))) &&
947        (NULL != cont) )
948     cont (cont_cls, &n->id, GNUNET_SYSERR);
949   GNUNET_break (NULL != papi);
950 }
951
952
953 /**
954  * Master task run for every neighbour.  Performs all of the time-related
955  * activities (keep alive, send next message, disconnect if idle, finish
956  * clean up after disconnect).
957  *
958  * @param cls the 'struct NeighbourMapEntry' for which we are running
959  * @param tc scheduler context (unused)
960  */
961 static void
962 master_task (void *cls,
963              const struct GNUNET_SCHEDULER_TaskContext *tc);
964
965
966 /**
967  * Function called when the 'DISCONNECT' message has been sent by the
968  * plugin.  Frees the neighbour --- if the entry still exists.
969  *
970  * @param cls NULL
971  * @param target identity of the neighbour that was disconnected
972  * @param result GNUNET_OK if the disconnect got out successfully
973  */
974 static void
975 send_disconnect_cont (void *cls, const struct GNUNET_PeerIdentity *target,
976                       int result)
977 {
978   struct NeighbourMapEntry *n;
979
980   n = lookup_neighbour (target);
981   if (NULL == n)
982     return; /* already gone */
983   if (S_DISCONNECT != n->state)
984     return; /* have created a fresh entry since */
985   n->state = S_DISCONNECT;
986   GNUNET_SCHEDULER_cancel (n->task);
987   n->task = GNUNET_SCHEDULER_add_now (&master_task, n);
988 }
989
990
991 /**
992  * Transmit a DISCONNECT message to the other peer.
993  *
994  * @param n neighbour to send DISCONNECT message.
995  */
996 static void
997 send_disconnect (struct NeighbourMapEntry *n)
998 {
999   struct SessionDisconnectMessage disconnect_msg;
1000
1001   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1002               "Sending DISCONNECT message to peer `%4s'\n",
1003               GNUNET_i2s (&n->id));
1004   disconnect_msg.header.size = htons (sizeof (struct SessionDisconnectMessage));
1005   disconnect_msg.header.type =
1006       htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_DISCONNECT);
1007   disconnect_msg.reserved = htonl (0);
1008   disconnect_msg.purpose.size =
1009       htonl (sizeof (struct GNUNET_CRYPTO_RsaSignaturePurpose) +
1010              sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded) +
1011              sizeof (struct GNUNET_TIME_AbsoluteNBO));
1012   disconnect_msg.purpose.purpose =
1013       htonl (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_DISCONNECT);
1014   disconnect_msg.timestamp =
1015       GNUNET_TIME_absolute_hton (GNUNET_TIME_absolute_get ());
1016   disconnect_msg.public_key = GST_my_public_key;
1017   GNUNET_assert (GNUNET_OK ==
1018                  GNUNET_CRYPTO_rsa_sign (GST_my_private_key,
1019                                          &disconnect_msg.purpose,
1020                                          &disconnect_msg.signature));
1021
1022   send_with_session (n,
1023                      (const char *) &disconnect_msg, sizeof (disconnect_msg),
1024                      UINT32_MAX, GNUNET_TIME_UNIT_FOREVER_REL,
1025                      &send_disconnect_cont, NULL);
1026   GNUNET_STATISTICS_update (GST_stats,
1027                             gettext_noop
1028                             ("# DISCONNECT messages sent"), 1,
1029                             GNUNET_NO);
1030 }
1031
1032
1033 /**
1034  * Disconnect from the given neighbour, clean up the record.
1035  *
1036  * @param n neighbour to disconnect from
1037  */
1038 static void
1039 disconnect_neighbour (struct NeighbourMapEntry *n)
1040 {
1041   /* depending on state, notify neighbour and/or upper layers of this peer 
1042      about disconnect */
1043   switch (n->state)
1044   {
1045   case S_NOT_CONNECTED:
1046   case S_INIT_ATS:
1047   case S_INIT_BLACKLIST:
1048     /* other peer is completely unaware of us, no need to send DISCONNECT */
1049     n->state = S_DISCONNECT_FINISHED;
1050     free_neighbour (n);
1051     return;
1052   case S_CONNECT_SENT:
1053     send_disconnect (n); 
1054     n->state = S_DISCONNECT;
1055     break;   
1056   case S_CONNECT_RECV_ATS:
1057   case S_CONNECT_RECV_BLACKLIST:
1058     /* we never ACK'ed the other peer's request, no need to send DISCONNECT */
1059     n->state = S_DISCONNECT_FINISHED;
1060     free_neighbour (n);
1061     return;
1062   case S_CONNECT_RECV_ACK:
1063     /* we DID ACK the other peer's request, must send DISCONNECT */
1064     send_disconnect (n); 
1065     n->state = S_DISCONNECT;
1066     break;   
1067   case S_CONNECTED:
1068   case S_RECONNECT_BLACKLIST:
1069   case S_RECONNECT_SENT:
1070   case S_CONNECTED_SWITCHING_BLACKLIST:
1071   case S_CONNECTED_SWITCHING_CONNECT_SENT:
1072     /* we are currently connected, need to send disconnect and do
1073        internal notifications and update statistics */
1074     send_disconnect (n);
1075     GNUNET_STATISTICS_set (GST_stats, 
1076                            gettext_noop ("# peers connected"), 
1077                            --neighbours_connected,
1078                            GNUNET_NO);
1079     disconnect_notify_cb (callback_cls, &n->id);
1080     n->state = S_DISCONNECT;
1081     break;
1082   case S_RECONNECT_ATS:
1083     /* ATS address request timeout, disconnect without sending disconnect message */
1084     GNUNET_STATISTICS_set (GST_stats,
1085                            gettext_noop ("# peers connected"),
1086                            --neighbours_connected,
1087                            GNUNET_NO);
1088     disconnect_notify_cb (callback_cls, &n->id);
1089     n->state = S_DISCONNECT;
1090     break;
1091   case S_DISCONNECT:
1092     /* already disconnected, ignore */
1093     break;
1094   case S_DISCONNECT_FINISHED:
1095     /* already cleaned up, how did we get here!? */
1096     GNUNET_assert (0);
1097     break;
1098   default:
1099     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "Unhandled state `%s' \n",print_state (n->state));
1100     GNUNET_break (0);
1101     break;
1102   }
1103   /* schedule timeout to clean up */
1104   if (GNUNET_SCHEDULER_NO_TASK != n->task)
1105     GNUNET_SCHEDULER_cancel (n->task);
1106   n->task = GNUNET_SCHEDULER_add_delayed (DISCONNECT_SENT_TIMEOUT,
1107                                           &master_task, n);
1108 }
1109
1110
1111 /**
1112  * We're done with our transmission attempt, continue processing.
1113  *
1114  * @param cls the 'struct MessageQueue' of the message
1115  * @param receiver intended receiver
1116  * @param success whether it worked or not
1117  */
1118 static void
1119 transmit_send_continuation (void *cls,
1120                             const struct GNUNET_PeerIdentity *receiver,
1121                             int success)
1122 {
1123   struct MessageQueue *mq = cls;
1124   struct NeighbourMapEntry *n;
1125
1126   n = lookup_neighbour (receiver);
1127   if (NULL == n)
1128   {
1129     GNUNET_break (0);
1130     return;
1131   }
1132
1133   if (n->is_active == mq)
1134   {
1135     /* this is still "our" neighbour, remove us from its queue
1136        and allow it to send the next message now */
1137     n->is_active = NULL;
1138     GNUNET_SCHEDULER_cancel (n->task);
1139     n->task = GNUNET_SCHEDULER_add_now (&master_task, n);    
1140   }
1141   GNUNET_assert (bytes_in_send_queue >= mq->message_buf_size);
1142   bytes_in_send_queue -= mq->message_buf_size;
1143   GNUNET_STATISTICS_set (GST_stats,
1144                         gettext_noop
1145                          ("# bytes in message queue for other peers"),
1146                          bytes_in_send_queue, GNUNET_NO);
1147   if (GNUNET_OK == success)
1148     GNUNET_STATISTICS_update (GST_stats,
1149                               gettext_noop
1150                               ("# messages transmitted to other peers"),
1151                               1, GNUNET_NO);
1152   else
1153     GNUNET_STATISTICS_update (GST_stats,
1154                               gettext_noop
1155                               ("# transmission failures for messages to other peers"),
1156                               1, GNUNET_NO);
1157   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, 
1158               "Sending message to `%s' of type %u was a %s\n",
1159               GNUNET_i2s (receiver),
1160               ntohs (((struct GNUNET_MessageHeader *) mq->message_buf)->type),
1161               (success == GNUNET_OK) ? "success" : "FAILURE");
1162   if (NULL != mq->cont)
1163     mq->cont (mq->cont_cls, success);
1164   GNUNET_free (mq);
1165 }
1166
1167
1168 /**
1169  * Check the message list for the given neighbour and if we can
1170  * send a message, do so.  This function should only be called
1171  * if the connection is at least generally ready for transmission.
1172  * While we will only send one message at a time, no bandwidth
1173  * quota management is performed here.  If a message was given to
1174  * the plugin, the continuation will automatically re-schedule
1175  * the 'master' task once the next message might be transmitted.
1176  *
1177  * @param n target peer for which to transmit
1178  */
1179 static void
1180 try_transmission_to_peer (struct NeighbourMapEntry *n)
1181 {
1182   struct MessageQueue *mq;
1183   struct GNUNET_TIME_Relative timeout;
1184
1185   if (NULL == n->primary_address.address)
1186   {
1187     /* no address, why are we here? */
1188     GNUNET_break (0);
1189     return;
1190   }
1191   if ((0 == n->primary_address.address->address_length) && 
1192       (NULL == n->primary_address.session))
1193   {
1194     /* no address, why are we here? */
1195     GNUNET_break (0);
1196     return;
1197   }
1198   if (NULL != n->is_active)
1199   {
1200     /* transmission already pending */
1201     return;                     
1202   }
1203
1204   /* timeout messages from the queue that are past their due date */
1205   while (NULL != (mq = n->messages_head))
1206   {
1207     timeout = GNUNET_TIME_absolute_get_remaining (mq->timeout);
1208     if (timeout.rel_value > 0)
1209       break;
1210     GNUNET_STATISTICS_update (GST_stats,
1211                               gettext_noop
1212                               ("# messages timed out while in transport queue"),
1213                               1, GNUNET_NO);
1214     GNUNET_CONTAINER_DLL_remove (n->messages_head, n->messages_tail, mq);
1215     n->is_active = mq;
1216     transmit_send_continuation (mq, &n->id, GNUNET_SYSERR);     /* timeout */
1217   }
1218   if (NULL == mq)
1219     return;                     /* no more messages */
1220   GNUNET_CONTAINER_DLL_remove (n->messages_head, n->messages_tail, mq);
1221   n->is_active = mq;
1222   send_with_session (n,
1223                      mq->message_buf, mq->message_buf_size,
1224                      0 /* priority */, timeout,
1225                      &transmit_send_continuation, mq);
1226 }
1227
1228
1229 /**
1230  * Send keepalive message to the neighbour.  Must only be called
1231  * if we are on 'connected' state.  Will internally determine
1232  * if a keepalive is truly needed (so can always be called).
1233  *
1234  * @param n neighbour that went idle and needs a keepalive
1235  */
1236 static void
1237 send_keepalive (struct NeighbourMapEntry *n)
1238 {
1239   struct GNUNET_MessageHeader m;
1240
1241   GNUNET_assert (S_CONNECTED == n->state);
1242   if (GNUNET_TIME_absolute_get_remaining (n->keep_alive_time).rel_value > 0)
1243     return; /* no keepalive needed at this time */
1244   m.size = htons (sizeof (struct GNUNET_MessageHeader));
1245   m.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_KEEPALIVE);
1246   send_with_session (n,
1247                      (const void *) &m, sizeof (m),
1248                      UINT32_MAX /* priority */,
1249                      KEEPALIVE_FREQUENCY,
1250                      NULL, NULL);
1251   GNUNET_STATISTICS_update (GST_stats, gettext_noop ("# keepalives sent"), 1,
1252                             GNUNET_NO);
1253   n->expect_latency_response = GNUNET_YES;
1254   n->last_keep_alive_time = GNUNET_TIME_absolute_get ();
1255   n->keep_alive_time = GNUNET_TIME_relative_to_absolute (KEEPALIVE_FREQUENCY);
1256 }
1257
1258
1259 /**
1260  * Keep the connection to the given neighbour alive longer,
1261  * we received a KEEPALIVE (or equivalent); send a response.
1262  *
1263  * @param neighbour neighbour to keep alive (by sending keep alive response)
1264  */
1265 void
1266 GST_neighbours_keepalive (const struct GNUNET_PeerIdentity *neighbour)
1267 {
1268   struct NeighbourMapEntry *n;
1269   struct GNUNET_MessageHeader m;
1270
1271   if (NULL == (n = lookup_neighbour (neighbour)))
1272   {
1273     GNUNET_STATISTICS_update (GST_stats,
1274                               gettext_noop
1275                               ("# KEEPALIVE messages discarded (peer unknown)"),
1276                               1, GNUNET_NO);
1277     return;
1278   }
1279   if (NULL == n->primary_address.session)
1280   {
1281     GNUNET_STATISTICS_update (GST_stats,
1282                               gettext_noop
1283                               ("# KEEPALIVE messages discarded (no session)"),
1284                               1, GNUNET_NO);
1285     return;
1286   }
1287   /* send reply to allow neighbour to measure latency */
1288   m.size = htons (sizeof (struct GNUNET_MessageHeader));
1289   m.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_KEEPALIVE_RESPONSE);
1290   send_with_session(n,
1291                     (const void *) &m, sizeof (m),
1292                     UINT32_MAX /* priority */,
1293                     KEEPALIVE_FREQUENCY,
1294                     NULL, NULL);
1295 }
1296
1297
1298 /**
1299  * We received a KEEP_ALIVE_RESPONSE message and use this to calculate
1300  * latency to this peer.  Pass the updated information (existing ats
1301  * plus calculated latency) to ATS.
1302  *
1303  * @param neighbour neighbour to keep alive
1304  * @param ats performance data
1305  * @param ats_count number of entries in ats
1306  */
1307 void
1308 GST_neighbours_keepalive_response (const struct GNUNET_PeerIdentity *neighbour,
1309                                    const struct GNUNET_ATS_Information *ats,
1310                                    uint32_t ats_count)
1311 {
1312   struct NeighbourMapEntry *n;
1313   uint32_t latency;
1314   struct GNUNET_ATS_Information ats_new[ats_count + 1];
1315
1316   if (NULL == (n = lookup_neighbour (neighbour)))
1317   {
1318     GNUNET_STATISTICS_update (GST_stats,
1319                               gettext_noop
1320                               ("# KEEPALIVE_RESPONSE messages discarded (not connected)"),
1321                               1, GNUNET_NO);
1322     return;
1323   }
1324   if ( (S_CONNECTED != n->state) ||
1325        (GNUNET_YES != n->expect_latency_response) )
1326   {
1327     GNUNET_STATISTICS_update (GST_stats,
1328                               gettext_noop
1329                               ("# KEEPALIVE_RESPONSE messages discarded (not expected)"),
1330                               1, GNUNET_NO);
1331     return;
1332   }
1333   n->expect_latency_response = GNUNET_NO;
1334   n->latency = GNUNET_TIME_absolute_get_duration (n->last_keep_alive_time);
1335   n->timeout = GNUNET_TIME_relative_to_absolute (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
1336   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, 
1337               "Latency for peer `%s' is %llu ms\n",
1338               GNUNET_i2s (&n->id), n->latency.rel_value);
1339   memcpy (ats_new, ats, sizeof (struct GNUNET_ATS_Information) * ats_count);
1340   /* append latency */
1341   ats_new[ats_count].type = htonl (GNUNET_ATS_QUALITY_NET_DELAY);
1342   if (n->latency.rel_value > UINT32_MAX)
1343     latency = UINT32_MAX;
1344   else
1345     latency = n->latency.rel_value;
1346   ats_new[ats_count].value = htonl (latency);
1347   GNUNET_ATS_address_update (GST_ats, 
1348                              n->primary_address.address, 
1349                              n->primary_address.session, ats_new,
1350                              ats_count + 1);
1351 }
1352
1353
1354 /**
1355  * We have received a message from the given sender.  How long should
1356  * we delay before receiving more?  (Also used to keep the peer marked
1357  * as live).
1358  *
1359  * @param sender sender of the message
1360  * @param size size of the message
1361  * @param do_forward set to GNUNET_YES if the message should be forwarded to clients
1362  *                   GNUNET_NO if the neighbour is not connected or violates the quota,
1363  *                   GNUNET_SYSERR if the connection is not fully up yet
1364  * @return how long to wait before reading more from this sender
1365  */
1366 struct GNUNET_TIME_Relative
1367 GST_neighbours_calculate_receive_delay (const struct GNUNET_PeerIdentity
1368                                         *sender, ssize_t size, int *do_forward)
1369 {
1370   struct NeighbourMapEntry *n;
1371   struct GNUNET_TIME_Relative ret;
1372   
1373   if (NULL == neighbours)
1374   {
1375     *do_forward = GNUNET_NO;
1376     return GNUNET_TIME_UNIT_FOREVER_REL; /* This can happen during shutdown */
1377   }
1378   if (NULL == (n = lookup_neighbour (sender)))
1379   {
1380     GST_neighbours_try_connect (sender);
1381     if (NULL == (n = lookup_neighbour (sender)))
1382     {
1383       GNUNET_STATISTICS_update (GST_stats,
1384                                 gettext_noop
1385                                 ("# messages discarded due to lack of neighbour record"),
1386                                 1, GNUNET_NO);
1387       *do_forward = GNUNET_NO;
1388       return GNUNET_TIME_UNIT_ZERO;
1389     }
1390   }
1391   if (! test_connected (n))
1392   {
1393     *do_forward = GNUNET_SYSERR;
1394     return GNUNET_TIME_UNIT_ZERO;
1395   }
1396   if (GNUNET_YES == GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker, size))
1397   {
1398     n->quota_violation_count++;
1399     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1400                 "Bandwidth quota (%u b/s) violation detected (total of %u).\n",
1401                 n->in_tracker.available_bytes_per_s__,
1402                 n->quota_violation_count);
1403     /* Discount 32k per violation */
1404     GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker, -32 * 1024);
1405   }
1406   else
1407   {
1408     if (n->quota_violation_count > 0)
1409     {
1410       /* try to add 32k back */
1411       GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker, 32 * 1024);
1412       n->quota_violation_count--;
1413     }
1414   }
1415   if (n->quota_violation_count > QUOTA_VIOLATION_DROP_THRESHOLD)
1416   {
1417     GNUNET_STATISTICS_update (GST_stats,
1418                               gettext_noop
1419                               ("# bandwidth quota violations by other peers"),
1420                               1, GNUNET_NO);
1421     *do_forward = GNUNET_NO;
1422     return GNUNET_CONSTANTS_QUOTA_VIOLATION_TIMEOUT;
1423   }
1424   *do_forward = GNUNET_YES;
1425   ret = GNUNET_BANDWIDTH_tracker_get_delay (&n->in_tracker, 32 * 1024);
1426   if (ret.rel_value > 0)
1427   {
1428     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1429                 "Throttling read (%llu bytes excess at %u b/s), waiting %llu ms before reading more.\n",
1430                 (unsigned long long) n->in_tracker.
1431                 consumption_since_last_update__,
1432                 (unsigned int) n->in_tracker.available_bytes_per_s__,
1433                 (unsigned long long) ret.rel_value);
1434     GNUNET_STATISTICS_update (GST_stats,
1435                               gettext_noop ("# ms throttling suggested"),
1436                               (int64_t) ret.rel_value, GNUNET_NO);
1437   }
1438   return ret;
1439 }
1440
1441
1442 /**
1443  * Transmit a message to the given target using the active connection.
1444  *
1445  * @param target destination
1446  * @param msg message to send
1447  * @param msg_size number of bytes in msg
1448  * @param timeout when to fail with timeout
1449  * @param cont function to call when done
1450  * @param cont_cls closure for 'cont'
1451  */
1452 void
1453 GST_neighbours_send (const struct GNUNET_PeerIdentity *target, const void *msg,
1454                      size_t msg_size, struct GNUNET_TIME_Relative timeout,
1455                      GST_NeighbourSendContinuation cont, void *cont_cls)
1456 {
1457   struct NeighbourMapEntry *n;
1458   struct MessageQueue *mq;
1459
1460   /* All ove these cases should never happen; they are all API violations.
1461      But we check anyway, just to be sure. */
1462   if (NULL == (n = lookup_neighbour (target)))
1463   {
1464     GNUNET_break (0);
1465     if (NULL != cont)
1466       cont (cont_cls, GNUNET_SYSERR);
1467     return;
1468   }
1469   if (GNUNET_YES != test_connected (n))
1470   {
1471     GNUNET_break (0);
1472     if (NULL != cont)
1473       cont (cont_cls, GNUNET_SYSERR);
1474     return;
1475   }
1476   bytes_in_send_queue += msg_size;
1477   GNUNET_STATISTICS_set (GST_stats,
1478                          gettext_noop
1479                          ("# bytes in message queue for other peers"),
1480                          bytes_in_send_queue, GNUNET_NO);
1481   mq = GNUNET_malloc (sizeof (struct MessageQueue) + msg_size);
1482   mq->cont = cont;
1483   mq->cont_cls = cont_cls;
1484   memcpy (&mq[1], msg, msg_size);
1485   mq->message_buf = (const char *) &mq[1];
1486   mq->message_buf_size = msg_size;
1487   mq->timeout = GNUNET_TIME_relative_to_absolute (timeout);
1488   GNUNET_CONTAINER_DLL_insert_tail (n->messages_head, n->messages_tail, mq);
1489   if ( (NULL != n->is_active) ||
1490        ( (NULL == n->primary_address.session) && (NULL == n->primary_address.address)) )
1491     return;
1492   GNUNET_SCHEDULER_cancel (n->task);
1493   n->task = GNUNET_SCHEDULER_add_now (&master_task, n);
1494 }
1495
1496
1497 /**
1498  * Send a SESSION_CONNECT message via the given address.
1499  *
1500  * @param na address to use
1501  */
1502 static void
1503 send_session_connect (struct NeighbourAddress *na)
1504 {
1505   struct GNUNET_TRANSPORT_PluginFunctions *papi;
1506   struct SessionConnectMessage connect_msg;
1507   
1508   if (NULL == (papi = GST_plugins_find (na->address->transport_name)))  
1509   {
1510     GNUNET_break (0);
1511     return;
1512   }
1513   if (NULL == na->session)
1514     na->session = papi->get_session (papi->cls, na->address);    
1515   if (NULL == na->session)
1516   {
1517     GNUNET_break (0);
1518     return;
1519   }
1520   na->connect_timestamp = GNUNET_TIME_absolute_get ();
1521   connect_msg.header.size = htons (sizeof (struct SessionConnectMessage));
1522   connect_msg.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_CONNECT);
1523   connect_msg.reserved = htonl (0);
1524   connect_msg.timestamp = GNUNET_TIME_absolute_hton (na->connect_timestamp);
1525   (void) papi->send (papi->cls,
1526                      na->session,
1527                      (const char *) &connect_msg, sizeof (struct SessionConnectMessage),
1528                      UINT_MAX,
1529                      GNUNET_TIME_UNIT_FOREVER_REL,
1530                      NULL, NULL);
1531 }
1532
1533
1534 /**
1535  * Send a SESSION_CONNECT_ACK message via the given address.
1536  *
1537  * @param address address to use
1538  * @param session session to use
1539  * @param timestamp timestamp to use for the ACK message
1540  */
1541 static void
1542 send_session_connect_ack_message (const struct GNUNET_HELLO_Address *address,
1543                                   struct Session *session,
1544                                   struct GNUNET_TIME_Absolute timestamp)
1545 {
1546   struct GNUNET_TRANSPORT_PluginFunctions *papi;
1547   struct SessionConnectMessage connect_msg;
1548   
1549   if (NULL == (papi = GST_plugins_find (address->transport_name)))  
1550   {
1551     GNUNET_break (0);
1552     return;
1553   }
1554   if (NULL == session)
1555     session = papi->get_session (papi->cls, address);    
1556   if (NULL == session)
1557   {
1558     GNUNET_break (0);
1559     return;
1560   }
1561   connect_msg.header.size = htons (sizeof (struct SessionConnectMessage));
1562   connect_msg.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_CONNECT_ACK);
1563   connect_msg.reserved = htonl (0);
1564   connect_msg.timestamp = GNUNET_TIME_absolute_hton (timestamp);
1565   (void) papi->send (papi->cls,
1566                      session,
1567                      (const char *) &connect_msg, sizeof (struct SessionConnectMessage),
1568                      UINT_MAX,
1569                      GNUNET_TIME_UNIT_FOREVER_REL,
1570                      NULL, NULL);
1571 }
1572
1573
1574 /**
1575  * Create a fresh entry in the neighbour map for the given peer
1576  *
1577  * @param peer peer to create an entry for
1578  * @return new neighbour map entry
1579  */
1580 static struct NeighbourMapEntry *
1581 setup_neighbour (const struct GNUNET_PeerIdentity *peer)
1582 {
1583   struct NeighbourMapEntry *n;
1584
1585   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1586               "Creating new neighbour entry for `%s'\n", 
1587               GNUNET_i2s (peer));
1588   n = GNUNET_malloc (sizeof (struct NeighbourMapEntry));
1589   n->id = *peer;
1590   n->state = S_NOT_CONNECTED;
1591   n->latency = GNUNET_TIME_UNIT_FOREVER_REL;
1592   GNUNET_BANDWIDTH_tracker_init (&n->in_tracker,
1593                                  GNUNET_CONSTANTS_DEFAULT_BW_IN_OUT,
1594                                  MAX_BANDWIDTH_CARRY_S);
1595   n->task = GNUNET_SCHEDULER_add_now (&master_task, n);
1596   GNUNET_assert (GNUNET_OK ==
1597                  GNUNET_CONTAINER_multihashmap_put (neighbours,
1598                                                     &n->id.hashPubKey, n,
1599                                                     GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
1600   return n;
1601 }
1602
1603
1604 /**
1605  * Check if the two given addresses are the same.
1606  * Actually only checks if the sessions are non-NULL
1607  * (which they should be) and then if they are identical;
1608  * the actual addresses don't matter if the session
1609  * pointers match anyway, and we must have session pointers
1610  * at this time.
1611  *
1612  * @param a1 first address to compare
1613  * @param a2 other address to compare
1614  * @return GNUNET_NO if the addresses do not match, GNUNET_YES if they do match
1615  */
1616 static int
1617 address_matches (const struct NeighbourAddress *a1,
1618                  const struct NeighbourAddress *a2)
1619 {
1620   if ( (NULL == a1->session) ||
1621        (NULL == a2->session) )
1622   {
1623     GNUNET_break (0);
1624     return 0;
1625   }
1626   return (a1->session == a2->session) ? GNUNET_YES : GNUNET_NO;
1627 }
1628
1629
1630 /**
1631  * Try to create a connection to the given target (eventually).
1632  *
1633  * @param target peer to try to connect to
1634  */
1635 void
1636 GST_neighbours_try_connect (const struct GNUNET_PeerIdentity *target)
1637 {
1638   struct NeighbourMapEntry *n;
1639
1640   if (NULL == neighbours)  
1641     return; /* during shutdown, do nothing */
1642   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, 
1643               "Asked to connect to peer `%s'\n",
1644               GNUNET_i2s (target));
1645   if (0 ==
1646       memcmp (target, &GST_my_identity, sizeof (struct GNUNET_PeerIdentity)))
1647   {
1648     /* refuse to connect to myself */
1649     /* FIXME: can this happen? Is this not an API violation? */
1650     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1651                 "Refusing to try to connect to myself.\n");
1652     return;
1653   }
1654   n = lookup_neighbour (target);
1655   if (NULL != n)
1656   {
1657     switch (n->state)
1658     {
1659     case S_NOT_CONNECTED:
1660       /* this should not be possible */
1661       GNUNET_break (0);
1662       free_neighbour (n);
1663       break;
1664     case S_INIT_ATS:
1665     case S_INIT_BLACKLIST:
1666     case S_CONNECT_SENT:
1667     case S_CONNECT_RECV_ATS:
1668     case S_CONNECT_RECV_BLACKLIST:
1669     case S_CONNECT_RECV_ACK:
1670       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1671                   "Ignoring request to try to connect to `%s', already trying!\n",
1672                   GNUNET_i2s (target));
1673       return; /* already trying */
1674     case S_CONNECTED:      
1675     case S_RECONNECT_ATS:
1676     case S_RECONNECT_BLACKLIST:
1677     case S_RECONNECT_SENT:
1678     case S_CONNECTED_SWITCHING_BLACKLIST:
1679     case S_CONNECTED_SWITCHING_CONNECT_SENT:
1680       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1681                   "Ignoring request to try to connect, already connected to `%s'!\n",
1682                   GNUNET_i2s (target));
1683       return; /* already connected */
1684     case S_DISCONNECT:
1685       /* get rid of remains, ready to re-try immediately */
1686       free_neighbour (n);
1687       break;
1688     case S_DISCONNECT_FINISHED:
1689       /* should not be possible */      
1690       GNUNET_assert (0); 
1691     default:
1692       GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "Unhandled state `%s' \n",print_state (n->state));
1693       GNUNET_break (0);
1694       free_neighbour (n);
1695       break;
1696     }
1697   }
1698   n = setup_neighbour (target);  
1699   n->state = S_INIT_ATS; 
1700   n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
1701   GNUNET_ATS_suggest_address (GST_ats, target);
1702 }
1703
1704
1705 /**
1706  * Function called with the result of a blacklist check.
1707  *
1708  * @param cls closure with the 'struct BlackListCheckContext'
1709  * @param peer peer this check affects
1710  * @param result GNUNET_OK if the address is allowed
1711  */
1712 static void
1713 handle_test_blacklist_cont (void *cls,
1714                             const struct GNUNET_PeerIdentity *peer,
1715                             int result)
1716 {
1717   struct BlackListCheckContext *bcc = cls;
1718   struct NeighbourMapEntry *n;
1719
1720   bcc->bc = NULL;
1721   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1722               "Connection to new address of peer `%s' based on blacklist is `%s'\n",
1723               GNUNET_i2s (peer),
1724               (GNUNET_OK == result) ? "allowed" : "FORBIDDEN");
1725   if (GNUNET_OK == result)
1726   {
1727     /* valid new address, let ATS know! */
1728     GNUNET_ATS_address_update (GST_ats, 
1729                                bcc->na.address, 
1730                                bcc->na.session, 
1731                                bcc->ats, bcc->ats_count);
1732   }
1733   if (NULL == (n = lookup_neighbour (peer)))
1734     goto cleanup; /* nobody left to care about new address */
1735   switch (n->state)
1736   {
1737   case S_NOT_CONNECTED:
1738     /* this should not be possible */
1739     GNUNET_break (0);
1740     free_neighbour (n);
1741     break;
1742   case S_INIT_ATS:
1743     /* still waiting on ATS suggestion */
1744     break;
1745   case S_INIT_BLACKLIST:
1746     /* check if the address the blacklist was fine with matches
1747        ATS suggestion, if so, we can move on! */
1748     if ( (GNUNET_OK == result) &&
1749          (1 == n->send_connect_ack) )
1750     {
1751       n->send_connect_ack = 2;
1752       send_session_connect_ack_message (bcc->na.address,
1753                                         bcc->na.session,
1754                                         n->connect_ack_timestamp);
1755     }
1756     if (GNUNET_YES != address_matches (&bcc->na, &n->primary_address))
1757       break; /* result for an address we currently don't care about */
1758     if (GNUNET_OK == result)
1759     {
1760       n->timeout = GNUNET_TIME_relative_to_absolute (SETUP_CONNECTION_TIMEOUT);
1761       n->state = S_CONNECT_SENT;
1762       send_session_connect (&n->primary_address);
1763     }
1764     else
1765     {
1766       GNUNET_ATS_address_destroyed (GST_ats,
1767                                     bcc->na.address,
1768                                     NULL);
1769       n->state = S_INIT_ATS;
1770       n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
1771       // FIXME: do we need to ask ATS again for suggestions?
1772       GNUNET_ATS_suggest_address (GST_ats, &n->id);
1773     }
1774     break;
1775   case S_CONNECT_SENT:
1776     /* waiting on CONNECT_ACK, send ACK if one is pending */
1777     if ( (GNUNET_OK == result) &&
1778          (1 == n->send_connect_ack) )
1779     {
1780       n->send_connect_ack = 2;
1781       send_session_connect_ack_message (n->primary_address.address,
1782                                         n->primary_address.session,
1783                                         n->connect_ack_timestamp);
1784     }
1785     break; 
1786   case S_CONNECT_RECV_ATS:
1787     /* still waiting on ATS suggestion, don't care about blacklist */
1788     break; 
1789   case S_CONNECT_RECV_BLACKLIST:
1790     if (GNUNET_YES != address_matches (&bcc->na, &n->primary_address))
1791       break; /* result for an address we currently don't care about */
1792     if (GNUNET_OK == result)
1793     {
1794       n->timeout = GNUNET_TIME_relative_to_absolute (SETUP_CONNECTION_TIMEOUT);
1795       n->state = S_CONNECT_RECV_ACK;
1796       send_session_connect_ack_message (bcc->na.address,
1797                                         bcc->na.session,
1798                                         n->connect_ack_timestamp);
1799       if (1 == n->send_connect_ack) 
1800         n->send_connect_ack = 2;
1801     }
1802     else
1803     {
1804       GNUNET_ATS_address_destroyed (GST_ats,
1805                                     bcc->na.address,
1806                                     NULL);
1807       n->state = S_INIT_ATS;
1808       n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
1809       // FIXME: do we need to ask ATS again for suggestions?
1810       GNUNET_ATS_suggest_address (GST_ats, &n->id);
1811     }
1812     break;
1813   case S_CONNECT_RECV_ACK:
1814     /* waiting on SESSION_ACK, send ACK if one is pending */
1815     if ( (GNUNET_OK == result) &&
1816          (1 == n->send_connect_ack) )
1817     {
1818       n->send_connect_ack = 2;
1819       send_session_connect_ack_message (n->primary_address.address,
1820                                         n->primary_address.session,
1821                                         n->connect_ack_timestamp);
1822     }
1823     break; 
1824   case S_CONNECTED:
1825     /* already connected, don't care about blacklist */
1826     break;
1827   case S_RECONNECT_ATS:
1828     /* still waiting on ATS suggestion, don't care about blacklist */
1829     break;     
1830   case S_RECONNECT_BLACKLIST:
1831     if ( (GNUNET_OK == result) &&
1832          (1 == n->send_connect_ack) )
1833     {
1834       n->send_connect_ack = 2;
1835       send_session_connect_ack_message (bcc->na.address,
1836                                         bcc->na.session,
1837                                         n->connect_ack_timestamp);
1838     }
1839     if (GNUNET_YES != address_matches (&bcc->na, &n->primary_address))
1840       break; /* result for an address we currently don't care about */
1841     if (GNUNET_OK == result)
1842     {
1843       send_session_connect (&n->primary_address);
1844       n->timeout = GNUNET_TIME_relative_to_absolute (FAST_RECONNECT_TIMEOUT);
1845       n->state = S_RECONNECT_SENT;
1846     }
1847     else
1848     {
1849       GNUNET_ATS_address_destroyed (GST_ats,
1850                                     bcc->na.address,
1851                                     NULL);
1852       n->state = S_RECONNECT_ATS;
1853       n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
1854       // FIXME: do we need to ask ATS again for suggestions?
1855       GNUNET_ATS_suggest_address (GST_ats, &n->id);
1856     }
1857     break;
1858   case S_RECONNECT_SENT:
1859     /* waiting on CONNECT_ACK, don't care about blacklist */
1860     if ( (GNUNET_OK == result) &&
1861          (1 == n->send_connect_ack) )
1862     {
1863       n->send_connect_ack = 2;
1864       send_session_connect_ack_message (n->primary_address.address,
1865                                         n->primary_address.session,
1866                                         n->connect_ack_timestamp);
1867     }
1868     break;     
1869   case S_CONNECTED_SWITCHING_BLACKLIST:
1870     if (GNUNET_YES != address_matches (&bcc->na, &n->alternative_address))
1871       break; /* result for an address we currently don't care about */
1872     if (GNUNET_OK == result)
1873     {
1874       send_session_connect (&n->alternative_address);
1875       n->state = S_CONNECTED_SWITCHING_CONNECT_SENT;
1876     }
1877     else
1878     {
1879       GNUNET_ATS_address_destroyed (GST_ats,
1880                                     bcc->na.address,
1881                                     NULL);
1882       free_address (&n->alternative_address);
1883       n->state = S_CONNECTED;
1884     }
1885     break;
1886   case S_CONNECTED_SWITCHING_CONNECT_SENT:
1887     /* waiting on CONNECT_ACK, don't care about blacklist */
1888     if ( (GNUNET_OK == result) &&
1889          (1 == n->send_connect_ack) )
1890     {
1891       n->send_connect_ack = 2;
1892       send_session_connect_ack_message (n->primary_address.address,
1893                                         n->primary_address.session,
1894                                         n->connect_ack_timestamp);
1895     }
1896     break;     
1897   case S_DISCONNECT:
1898     /* Nothing to do here, ATS will already do what can be done */
1899     break;
1900   case S_DISCONNECT_FINISHED:
1901     /* should not be possible */
1902     GNUNET_assert (0);
1903     break;
1904   default:
1905     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "Unhandled state `%s' \n",print_state (n->state));
1906     GNUNET_break (0);
1907     free_neighbour (n);
1908     break;
1909   }
1910  cleanup:
1911   GNUNET_HELLO_address_free (bcc->na.address);
1912   GNUNET_CONTAINER_DLL_remove (bc_head,
1913                                bc_tail,
1914                                bcc);
1915   GNUNET_free (bcc);
1916 }
1917
1918
1919 /**
1920  * We want to know if connecting to a particular peer via
1921  * a particular address is allowed.  Check it!
1922  *
1923  * @param peer identity of the peer to switch the address for
1924  * @param ts time at which the check was initiated
1925  * @param address address of the other peer, NULL if other peer
1926  *                       connected to us
1927  * @param session session to use (or NULL)
1928  * @param ats performance data
1929  * @param ats_count number of entries in ats (excluding 0-termination)
1930  */
1931 static void
1932 check_blacklist (const struct GNUNET_PeerIdentity *peer,
1933                  struct GNUNET_TIME_Absolute ts,
1934                  const struct GNUNET_HELLO_Address *address,
1935                  struct Session *session,
1936                  const struct GNUNET_ATS_Information *ats,
1937                  uint32_t ats_count)
1938 {
1939   struct BlackListCheckContext *bcc;
1940   struct GST_BlacklistCheck *bc;
1941
1942   bcc =
1943       GNUNET_malloc (sizeof (struct BlackListCheckContext) +
1944                      sizeof (struct GNUNET_ATS_Information) * ats_count);
1945   bcc->ats_count = ats_count;
1946   bcc->na.address = GNUNET_HELLO_address_copy (address);
1947   bcc->na.session = session;
1948   bcc->na.connect_timestamp = ts;
1949   bcc->ats = (struct GNUNET_ATS_Information *) &bcc[1];
1950   memcpy (bcc->ats, ats, sizeof (struct GNUNET_ATS_Information) * ats_count);
1951   GNUNET_CONTAINER_DLL_insert (bc_head,
1952                                bc_tail,
1953                                bcc);
1954   if (NULL != (bc = GST_blacklist_test_allowed (peer, 
1955                                                 address->transport_name,
1956                                                 &handle_test_blacklist_cont, bcc)))
1957     bcc->bc = bc; 
1958   /* if NULL == bc, 'cont' was already called and 'bcc' already free'd, so
1959      we must only store 'bc' if 'bc' is non-NULL... */
1960 }
1961
1962
1963 /**
1964  * We received a 'SESSION_CONNECT' message from the other peer.
1965  * Consider switching to it.
1966  *
1967  * @param message possibly a 'struct SessionConnectMessage' (check format)
1968  * @param peer identity of the peer to switch the address for
1969  * @param address address of the other peer, NULL if other peer
1970  *                       connected to us
1971  * @param session session to use (or NULL)
1972  * @param ats performance data
1973  * @param ats_count number of entries in ats (excluding 0-termination)
1974  */
1975 void
1976 GST_neighbours_handle_connect (const struct GNUNET_MessageHeader *message,
1977                                const struct GNUNET_PeerIdentity *peer,
1978                                const struct GNUNET_HELLO_Address *address,
1979                                struct Session *session,
1980                                const struct GNUNET_ATS_Information *ats,
1981                                uint32_t ats_count)
1982 {
1983   const struct SessionConnectMessage *scm;
1984   struct NeighbourMapEntry *n;
1985   struct GNUNET_TIME_Absolute ts;
1986
1987   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1988               "Received CONNECT message from peer `%s'\n", 
1989               GNUNET_i2s (peer));
1990   if (ntohs (message->size) != sizeof (struct SessionConnectMessage))
1991   {
1992     GNUNET_break_op (0);
1993     return;
1994   }
1995   if (NULL == neighbours)
1996     return; /* we're shutting down */
1997   scm = (const struct SessionConnectMessage *) message;
1998   GNUNET_break_op (0 == ntohl (scm->reserved));
1999   ts = GNUNET_TIME_absolute_ntoh (scm->timestamp);
2000   n = lookup_neighbour (peer);
2001   if (NULL == n)
2002     n = setup_neighbour (peer);
2003   n->send_connect_ack = 1;
2004   n->connect_ack_timestamp = ts;
2005   switch (n->state)
2006   {  
2007   case S_NOT_CONNECTED:
2008     n->state = S_CONNECT_RECV_ATS;
2009     n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
2010     GNUNET_ATS_suggest_address (GST_ats, peer);
2011     check_blacklist (peer, ts, address, session, ats, ats_count);
2012     break;
2013   case S_INIT_ATS:
2014   case S_INIT_BLACKLIST:
2015   case S_CONNECT_SENT:
2016   case S_CONNECT_RECV_ATS:
2017   case S_CONNECT_RECV_BLACKLIST:
2018   case S_CONNECT_RECV_ACK:
2019     /* It can never hurt to have an alternative address in the above cases, 
2020        see if it is allowed */
2021     check_blacklist (peer, ts, address, session, ats, ats_count);
2022     break;
2023   case S_CONNECTED:
2024     /* we are already connected and can thus send the ACK immediately;
2025        still, it can never hurt to have an alternative address, so also
2026        tell ATS  about it */
2027     GNUNET_assert (NULL != n->primary_address.address);
2028     GNUNET_assert (NULL != n->primary_address.session);
2029     n->send_connect_ack = 0;
2030     send_session_connect_ack_message (n->primary_address.address,
2031                                       n->primary_address.session, ts);
2032     check_blacklist (peer, ts, address, session, ats, ats_count);
2033     break;
2034   case S_RECONNECT_ATS:
2035   case S_RECONNECT_BLACKLIST:
2036   case S_RECONNECT_SENT:
2037     /* It can never hurt to have an alternative address in the above cases, 
2038        see if it is allowed */
2039     check_blacklist (peer, ts, address, session, ats, ats_count);
2040     break;
2041   case S_CONNECTED_SWITCHING_BLACKLIST:
2042   case S_CONNECTED_SWITCHING_CONNECT_SENT:
2043     /* we are already connected and can thus send the ACK immediately;
2044        still, it can never hurt to have an alternative address, so also
2045        tell ATS  about it */
2046     GNUNET_assert (NULL != n->primary_address.address);
2047     GNUNET_assert (NULL != n->primary_address.session);
2048     n->send_connect_ack = 0;
2049     send_session_connect_ack_message (n->primary_address.address,
2050                                       n->primary_address.session, ts);
2051     check_blacklist (peer, ts, address, session, ats, ats_count);
2052     break;
2053   case S_DISCONNECT:
2054     /* get rid of remains, ready to re-try */
2055     free_neighbour (n);
2056     n = setup_neighbour (peer);
2057     n->state = S_CONNECT_RECV_ATS;
2058     GNUNET_ATS_suggest_address (GST_ats, peer);
2059     check_blacklist (peer, ts, address, session, ats, ats_count);
2060     break;
2061   case S_DISCONNECT_FINISHED:
2062     /* should not be possible */
2063     GNUNET_assert (0);
2064     break;
2065   default:
2066     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "Unhandled state `%s' \n",print_state (n->state));
2067     GNUNET_break (0);
2068     free_neighbour (n);
2069     break;
2070   }
2071 }
2072
2073
2074 /**
2075  * For an existing neighbour record, set the active connection to
2076  * use the given address.  
2077  *
2078  * @param peer identity of the peer to switch the address for
2079  * @param address address of the other peer, NULL if other peer
2080  *                       connected to us
2081  * @param session session to use (or NULL)
2082  * @param ats performance data
2083  * @param ats_count number of entries in ats
2084  * @param bandwidth_in inbound quota to be used when connection is up
2085  * @param bandwidth_out outbound quota to be used when connection is up
2086  */
2087 void
2088 GST_neighbours_switch_to_address (const struct GNUNET_PeerIdentity *peer,
2089                                   const struct GNUNET_HELLO_Address *address,
2090                                   struct Session *session,
2091                                   const struct GNUNET_ATS_Information *ats,
2092                                   uint32_t ats_count,
2093                                   struct GNUNET_BANDWIDTH_Value32NBO
2094                                   bandwidth_in,
2095                                   struct GNUNET_BANDWIDTH_Value32NBO
2096                                   bandwidth_out)
2097 {
2098   struct NeighbourMapEntry *n;
2099   struct GNUNET_TRANSPORT_PluginFunctions *papi;
2100
2101   GNUNET_assert (address->transport_name != NULL);
2102   if (NULL == (n = lookup_neighbour (peer)))
2103     return;
2104
2105   /* Obtain an session for this address from plugin */
2106   if (NULL == (papi = GST_plugins_find (address->transport_name)))
2107   {
2108     /* we don't have the plugin for this address */
2109     GNUNET_ATS_address_destroyed (GST_ats, address, NULL);
2110     return;
2111   }
2112   if ((NULL == session) && (0 == address->address_length))
2113   {
2114     GNUNET_break (0);
2115     if (strlen (address->transport_name) > 0)
2116       GNUNET_ATS_address_destroyed (GST_ats, address, session);
2117     return;
2118   }
2119   if (NULL == session)
2120     session = papi->get_session (papi->cls, address);
2121   if (NULL == session)
2122   {
2123     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2124                 "Failed to obtain new session for peer `%s' and  address '%s'\n",
2125                 GNUNET_i2s (&address->peer), GST_plugins_a2s (address));    
2126     GNUNET_ATS_address_destroyed (GST_ats, address, NULL);
2127     return;
2128   }
2129   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2130               "ATS tells us to switch to address '%s' for peer `%s'\n",
2131               (address->address_length != 0) ? GST_plugins_a2s (address): "<inbound>",
2132               GNUNET_i2s (peer));
2133   switch (n->state)
2134   {
2135   case S_NOT_CONNECTED:
2136     GNUNET_break (0);
2137     free_neighbour (n);
2138     return;
2139   case S_INIT_ATS:
2140     set_address (&n->primary_address,
2141                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2142     n->state = S_INIT_BLACKLIST;
2143     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2144     check_blacklist (&n->id,
2145                      n->connect_ack_timestamp,
2146                      address, session, ats, ats_count);    
2147     break;
2148   case S_INIT_BLACKLIST:
2149     /* ATS suggests a different address, switch again */
2150     set_address (&n->primary_address,
2151                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2152     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2153     check_blacklist (&n->id,
2154                      n->connect_ack_timestamp,
2155                      address, session, ats, ats_count);    
2156     break;
2157   case S_CONNECT_SENT:
2158     /* ATS suggests a different address, switch again */
2159     set_address (&n->primary_address,
2160                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2161     n->state = S_INIT_BLACKLIST;
2162     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2163     check_blacklist (&n->id,
2164                      n->connect_ack_timestamp,
2165                      address, session, ats, ats_count);    
2166     break;
2167   case S_CONNECT_RECV_ATS:
2168     set_address (&n->primary_address,
2169                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2170     n->state = S_CONNECT_RECV_BLACKLIST;
2171     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2172     check_blacklist (&n->id,
2173                      n->connect_ack_timestamp,
2174                      address, session, ats, ats_count);    
2175     break;
2176   case S_CONNECT_RECV_BLACKLIST:
2177     /* ATS asks us to switch while we were trying to connect; switch to new
2178        address and check blacklist again */
2179     set_address (&n->primary_address,
2180                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2181     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2182     check_blacklist (&n->id,
2183                      n->connect_ack_timestamp,
2184                      address, session, ats, ats_count);    
2185     break;
2186   case S_CONNECTED:
2187     GNUNET_assert (NULL != n->primary_address.address);
2188     GNUNET_assert (NULL != n->primary_address.session);
2189     if (n->primary_address.session == session)
2190     {
2191       /* not an address change, just a quota change */
2192       set_address (&n->primary_address,
2193                    address, session, bandwidth_in, bandwidth_out, GNUNET_YES);
2194       break;
2195     }
2196     /* ATS asks us to switch a life connection; see if we can get
2197        a CONNECT_ACK on it before we actually do this! */
2198     set_address (&n->alternative_address,
2199                  address, session, bandwidth_in, bandwidth_out, GNUNET_YES);
2200     n->state = S_CONNECTED_SWITCHING_BLACKLIST;
2201     check_blacklist (&n->id,
2202                      GNUNET_TIME_absolute_get (),
2203                      address, session, ats, ats_count);
2204     break;
2205   case S_RECONNECT_ATS:
2206     set_address (&n->primary_address,
2207                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2208     n->state = S_RECONNECT_BLACKLIST;
2209     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2210     check_blacklist (&n->id,
2211                      n->connect_ack_timestamp,
2212                      address, session, ats, ats_count);    
2213     break;
2214   case S_RECONNECT_BLACKLIST:
2215     /* ATS asks us to switch while we were trying to reconnect; switch to new
2216        address and check blacklist again */
2217     set_address (&n->primary_address,
2218                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2219     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2220     check_blacklist (&n->id,
2221                      n->connect_ack_timestamp,
2222                      address, session, ats, ats_count);    
2223     break;
2224   case S_RECONNECT_SENT:
2225     /* ATS asks us to switch while we were trying to reconnect; switch to new
2226        address and check blacklist again */
2227     set_address (&n->primary_address,
2228                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2229     n->state = S_RECONNECT_BLACKLIST;
2230     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2231     check_blacklist (&n->id,
2232                      n->connect_ack_timestamp,
2233                      address, session, ats, ats_count); 
2234     break;
2235   case S_CONNECTED_SWITCHING_BLACKLIST:
2236     if (n->primary_address.session == session)
2237     {
2238       /* ATS switches back to still-active session */
2239       free_address (&n->alternative_address);
2240       n->state = S_CONNECTED;
2241       break;
2242     }
2243     /* ATS asks us to switch a life connection, update blacklist check */
2244     set_address (&n->alternative_address,
2245                  address, session, bandwidth_in, bandwidth_out, GNUNET_YES);
2246     check_blacklist (&n->id,
2247                      GNUNET_TIME_absolute_get (),
2248                      address, session, ats, ats_count);
2249     break;
2250   case S_CONNECTED_SWITCHING_CONNECT_SENT:
2251     if (n->primary_address.session == session)
2252     {
2253       /* ATS switches back to still-active session */
2254       free_address (&n->alternative_address);
2255       n->state = S_CONNECTED;
2256       break;
2257     }
2258     /* ATS asks us to switch a life connection, update blacklist check */
2259     set_address (&n->alternative_address,
2260                  address, session, bandwidth_in, bandwidth_out, GNUNET_YES);
2261     n->state = S_CONNECTED_SWITCHING_BLACKLIST;
2262     check_blacklist (&n->id,
2263                      GNUNET_TIME_absolute_get (),
2264                      address, session, ats, ats_count);
2265     break;
2266   case S_DISCONNECT:
2267     /* not going to switch addresses while disconnecting */
2268     return;
2269   case S_DISCONNECT_FINISHED:
2270     GNUNET_assert (0);
2271     break;
2272   default:
2273     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "Unhandled state `%s' \n",print_state (n->state));
2274     GNUNET_break (0);
2275     break;
2276   }
2277 }
2278
2279
2280 /**
2281  * Master task run for every neighbour.  Performs all of the time-related
2282  * activities (keep alive, send next message, disconnect if idle, finish
2283  * clean up after disconnect).
2284  *
2285  * @param cls the 'struct NeighbourMapEntry' for which we are running
2286  * @param tc scheduler context (unused)
2287  */
2288 static void
2289 master_task (void *cls,
2290              const struct GNUNET_SCHEDULER_TaskContext *tc)
2291 {
2292   struct NeighbourMapEntry *n = cls;
2293   struct GNUNET_TIME_Relative delay;
2294
2295   n->task = GNUNET_SCHEDULER_NO_TASK;
2296   delay = GNUNET_TIME_absolute_get_remaining (n->timeout);  
2297   switch (n->state)
2298   {
2299   case S_NOT_CONNECTED:
2300     /* invalid state for master task, clean up */
2301     GNUNET_break (0);
2302     n->state = S_DISCONNECT_FINISHED;
2303     free_neighbour (n);
2304     return;
2305   case S_INIT_ATS:
2306     if (0 == delay.rel_value)
2307     {
2308       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2309                   "Connection to `%s' timed out waiting for ATS to provide address\n",
2310                   GNUNET_i2s (&n->id));
2311       n->state = S_DISCONNECT_FINISHED;
2312       free_neighbour (n);
2313       return;
2314     }
2315     break;
2316   case S_INIT_BLACKLIST:
2317     if (0 == delay.rel_value)
2318     {
2319       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2320                   "Connection to `%s' timed out waiting for BLACKLIST to approve address\n",
2321                   GNUNET_i2s (&n->id));
2322       n->state = S_DISCONNECT_FINISHED;
2323       free_neighbour (n);
2324       return;
2325     }
2326     break;
2327   case S_CONNECT_SENT:
2328     if (0 == delay.rel_value)
2329     {
2330       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2331                   "Connection to `%s' timed out waiting for other peer to send CONNECT_ACK\n",
2332                   GNUNET_i2s (&n->id));
2333       disconnect_neighbour (n);
2334       return;
2335     }
2336     break;
2337   case S_CONNECT_RECV_ATS:
2338     if (0 == delay.rel_value)
2339     {
2340       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2341                   "Connection to `%s' timed out waiting ATS to provide address to use for CONNECT_ACK\n",
2342                   GNUNET_i2s (&n->id));
2343       n->state = S_DISCONNECT_FINISHED;
2344       free_neighbour (n);
2345       return;
2346     }
2347     break;
2348   case S_CONNECT_RECV_BLACKLIST:
2349     if (0 == delay.rel_value)
2350     {
2351       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2352                   "Connection to `%s' timed out waiting BLACKLIST to approve address to use for CONNECT_ACK\n",
2353                   GNUNET_i2s (&n->id));
2354       n->state = S_DISCONNECT_FINISHED;
2355       free_neighbour (n);
2356       return;
2357     }
2358     break;
2359   case S_CONNECT_RECV_ACK:
2360     if (0 == delay.rel_value)
2361     {
2362       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2363                   "Connection to `%s' timed out waiting for other peer to send SESSION_ACK\n",
2364                   GNUNET_i2s (&n->id));
2365       disconnect_neighbour (n);
2366       return;
2367     }
2368     break;
2369   case S_CONNECTED:
2370     if (0 == delay.rel_value)
2371     {
2372       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2373                   "Connection to `%s' timed out, missing KEEPALIVE_RESPONSEs\n",
2374                   GNUNET_i2s (&n->id));
2375       disconnect_neighbour (n);
2376       return;
2377     }
2378     try_transmission_to_peer (n);
2379     send_keepalive (n);
2380     break;
2381   case S_RECONNECT_ATS:
2382     if (0 == delay.rel_value)
2383     {
2384       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2385                   "Connection to `%s' timed out, waiting for ATS replacement address\n",
2386                   GNUNET_i2s (&n->id));
2387       disconnect_neighbour (n);
2388       return;
2389     }
2390     break;
2391   case S_RECONNECT_BLACKLIST:
2392     if (0 == delay.rel_value)
2393     {
2394       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2395                   "Connection to `%s' timed out, waiting for BLACKLIST to approve replacement address\n",
2396                   GNUNET_i2s (&n->id));
2397       disconnect_neighbour (n);
2398       return;
2399     }
2400     break;
2401   case S_RECONNECT_SENT:
2402     if (0 == delay.rel_value)
2403     {
2404       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2405                   "Connection to `%s' timed out, waiting for other peer to CONNECT_ACK replacement address\n",
2406                   GNUNET_i2s (&n->id));
2407       disconnect_neighbour (n);
2408       return;
2409     }
2410     break;
2411   case S_CONNECTED_SWITCHING_BLACKLIST:
2412     if (0 == delay.rel_value)
2413     {
2414       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2415                   "Connection to `%s' timed out, missing KEEPALIVE_RESPONSEs\n",
2416                   GNUNET_i2s (&n->id));
2417       disconnect_neighbour (n);
2418       return;
2419     }
2420     try_transmission_to_peer (n);
2421     send_keepalive (n);
2422     break;
2423   case S_CONNECTED_SWITCHING_CONNECT_SENT:
2424     if (0 == delay.rel_value)
2425     {
2426       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2427                   "Connection to `%s' timed out, missing KEEPALIVE_RESPONSEs (after trying to CONNECT on alternative address)\n",
2428                   GNUNET_i2s (&n->id));
2429       disconnect_neighbour (n);
2430       return;
2431     }
2432     try_transmission_to_peer (n);
2433     send_keepalive (n);
2434     break;
2435   case S_DISCONNECT:
2436     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2437                 "Cleaning up connection to `%s' after sending DISCONNECT\n",
2438                 GNUNET_i2s (&n->id));
2439     n->state = S_DISCONNECT_FINISHED;
2440     free_neighbour (n);
2441     return;
2442   case S_DISCONNECT_FINISHED:
2443     /* how did we get here!? */
2444     GNUNET_assert (0);
2445     break;
2446   default:
2447     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "Unhandled state `%s' \n",print_state (n->state));
2448     GNUNET_break (0);
2449     break;  
2450   }
2451   delay = GNUNET_TIME_relative_min (GNUNET_TIME_absolute_get_remaining (n->keep_alive_time),
2452                                     delay);
2453   GNUNET_assert (GNUNET_SCHEDULER_NO_TASK == n->task);
2454   n->task = GNUNET_SCHEDULER_add_delayed (delay,
2455                                           &master_task,
2456                                           n);
2457 }
2458
2459
2460 /**
2461  * Send a SESSION_ACK message to the neighbour to confirm that we
2462  * got his CONNECT_ACK.
2463  *
2464  * @param n neighbour to send the SESSION_ACK to
2465  */
2466 static void
2467 send_session_ack_message (struct NeighbourMapEntry *n)
2468 {
2469   struct GNUNET_MessageHeader msg;
2470
2471   msg.size = htons (sizeof (struct GNUNET_MessageHeader));
2472   msg.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_ACK);
2473   (void) send_with_session(n,
2474                            (const char *) &msg, sizeof (struct GNUNET_MessageHeader),
2475                            UINT32_MAX, GNUNET_TIME_UNIT_FOREVER_REL,
2476                            NULL, NULL);
2477 }
2478
2479
2480 /**
2481  * We received a 'SESSION_CONNECT_ACK' message from the other peer.
2482  * Consider switching to it.
2483  *
2484  * @param message possibly a 'struct SessionConnectMessage' (check format)
2485  * @param peer identity of the peer to switch the address for
2486  * @param address address of the other peer, NULL if other peer
2487  *                       connected to us
2488  * @param session session to use (or NULL)
2489  * @param ats performance data
2490  * @param ats_count number of entries in ats
2491  */
2492 void
2493 GST_neighbours_handle_connect_ack (const struct GNUNET_MessageHeader *message,
2494                                    const struct GNUNET_PeerIdentity *peer,
2495                                    const struct GNUNET_HELLO_Address *address,
2496                                    struct Session *session,
2497                                    const struct GNUNET_ATS_Information *ats,
2498                                    uint32_t ats_count)
2499 {
2500   const struct SessionConnectMessage *scm;
2501   struct GNUNET_TIME_Absolute ts;
2502   struct NeighbourMapEntry *n;
2503
2504   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2505               "Received CONNECT_ACK message from peer `%s'\n",
2506               GNUNET_i2s (peer));
2507   if (ntohs (message->size) != sizeof (struct SessionConnectMessage))
2508   {
2509     GNUNET_break_op (0);
2510     return;
2511   }
2512   scm = (const struct SessionConnectMessage *) message;
2513   GNUNET_break_op (ntohl (scm->reserved) == 0);
2514   if (NULL == (n = lookup_neighbour (peer)))
2515   {
2516     GNUNET_STATISTICS_update (GST_stats,
2517                               gettext_noop
2518                               ("# unexpected CONNECT_ACK messages (no peer)"),
2519                               1, GNUNET_NO);
2520     return;
2521   }
2522   ts = GNUNET_TIME_absolute_ntoh (scm->timestamp);
2523   switch (n->state)
2524   {
2525   case S_NOT_CONNECTED:
2526     GNUNET_break (0);
2527     free_neighbour (n);
2528     return;
2529   case S_INIT_ATS:
2530   case S_INIT_BLACKLIST:
2531     GNUNET_STATISTICS_update (GST_stats,
2532                               gettext_noop
2533                               ("# unexpected CONNECT_ACK messages (not ready)"),
2534                               1, GNUNET_NO);
2535     break;    
2536   case S_CONNECT_SENT:
2537     if (ts.abs_value != n->primary_address.connect_timestamp.abs_value)
2538       break; /* ACK does not match our original CONNECT message */
2539     n->state = S_CONNECTED;
2540     n->timeout = GNUNET_TIME_relative_to_absolute (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
2541     GNUNET_STATISTICS_set (GST_stats, 
2542                            gettext_noop ("# peers connected"), 
2543                            ++neighbours_connected,
2544                            GNUNET_NO);
2545     connect_notify_cb (callback_cls, &n->id, ats, ats_count);
2546     set_address (&n->primary_address,
2547                  n->primary_address.address,
2548                  n->primary_address.session,
2549                  n->primary_address.bandwidth_in,
2550                  n->primary_address.bandwidth_out,
2551                  GNUNET_YES);
2552     send_session_ack_message (n);
2553     break;
2554   case S_CONNECT_RECV_ATS:
2555   case S_CONNECT_RECV_BLACKLIST:
2556   case S_CONNECT_RECV_ACK:
2557     GNUNET_STATISTICS_update (GST_stats,
2558                               gettext_noop
2559                               ("# unexpected CONNECT_ACK messages (not ready)"),
2560                               1, GNUNET_NO);
2561     break;
2562   case S_CONNECTED:
2563     /* duplicate CONNECT_ACK, let's answer by duplciate SESSION_ACK just in case */
2564     send_session_ack_message (n);
2565     break;
2566   case S_RECONNECT_ATS:
2567   case S_RECONNECT_BLACKLIST:
2568     /* we didn't expect any CONNECT_ACK, as we are waiting for ATS
2569        to give us a new address... */
2570     GNUNET_STATISTICS_update (GST_stats,
2571                               gettext_noop
2572                               ("# unexpected CONNECT_ACK messages (waiting on ATS)"),
2573                               1, GNUNET_NO);
2574     break;
2575   case S_RECONNECT_SENT:
2576     /* new address worked; go back to connected! */
2577     n->state = S_CONNECTED;
2578     send_session_ack_message (n);
2579     break;
2580   case S_CONNECTED_SWITCHING_BLACKLIST:
2581     /* duplicate CONNECT_ACK, let's answer by duplciate SESSION_ACK just in case */
2582     send_session_ack_message (n);
2583     break;
2584   case S_CONNECTED_SWITCHING_CONNECT_SENT:
2585     /* new address worked; adopt it and go back to connected! */
2586     n->state = S_CONNECTED;
2587     n->timeout = GNUNET_TIME_relative_to_absolute (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
2588     GNUNET_assert (GNUNET_NO == n->alternative_address.ats_active);
2589     set_address (&n->primary_address,
2590                  n->alternative_address.address,
2591                  n->alternative_address.session,
2592                  n->alternative_address.bandwidth_in,
2593                  n->alternative_address.bandwidth_out,
2594                  GNUNET_YES);
2595     free_address (&n->alternative_address);
2596     send_session_ack_message (n);
2597     break;    
2598   case S_DISCONNECT:
2599     GNUNET_STATISTICS_update (GST_stats,
2600                               gettext_noop
2601                               ("# unexpected CONNECT_ACK messages (disconnecting)"),
2602                               1, GNUNET_NO);
2603     break;
2604   case S_DISCONNECT_FINISHED:
2605     GNUNET_assert (0);
2606     break;
2607   default:
2608     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "Unhandled state `%s' \n",print_state (n->state));
2609     GNUNET_break (0);
2610     break;   
2611   }
2612 }
2613
2614
2615 /**
2616  * A session was terminated. Take note; if needed, try to get
2617  * an alternative address from ATS.
2618  *
2619  * @param peer identity of the peer where the session died
2620  * @param session session that is gone
2621  */
2622 void
2623 GST_neighbours_session_terminated (const struct GNUNET_PeerIdentity *peer,
2624                                    struct Session *session)
2625 {
2626   struct NeighbourMapEntry *n;
2627   struct BlackListCheckContext *bcc;
2628   struct BlackListCheckContext *bcc_next;
2629
2630   /* make sure to cancel all ongoing blacklist checks involving 'session' */
2631   bcc_next = bc_head;
2632   while (NULL != (bcc = bcc_next))
2633   {
2634     bcc_next = bcc->next;
2635     if (bcc->na.session == session)
2636     {
2637       GST_blacklist_test_cancel (bcc->bc);
2638       GNUNET_HELLO_address_free (bcc->na.address);
2639       GNUNET_CONTAINER_DLL_remove (bc_head,
2640                                    bc_tail,
2641                                    bcc);
2642       GNUNET_free (bcc);
2643     }
2644   }
2645   if (NULL == (n = lookup_neighbour (peer)))
2646     return; /* can't affect us */
2647   if (session != n->primary_address.session)
2648   {
2649     if (session == n->alternative_address.session)
2650     {
2651       free_address (&n->alternative_address);
2652       if ( (S_CONNECTED_SWITCHING_BLACKLIST == n->state) ||
2653            (S_CONNECTED_SWITCHING_CONNECT_SENT == n->state) )
2654         n->state = S_CONNECTED;
2655       else
2656         GNUNET_break (0);
2657     }
2658     return; /* doesn't affect us further */
2659   }
2660
2661   n->expect_latency_response = GNUNET_NO;
2662
2663   switch (n->state)
2664   {
2665   case S_NOT_CONNECTED:
2666     GNUNET_break (0);
2667     free_neighbour (n);
2668     return;
2669   case S_INIT_ATS:
2670     GNUNET_break (0);
2671     free_neighbour (n);
2672     return;
2673   case S_INIT_BLACKLIST:
2674   case S_CONNECT_SENT:
2675     free_address (&n->primary_address);
2676     n->state = S_INIT_ATS;
2677     n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
2678     // FIXME: need to ask ATS for suggestions again?
2679     GNUNET_ATS_suggest_address (GST_ats, &n->id);
2680     break;
2681   case S_CONNECT_RECV_ATS:    
2682   case S_CONNECT_RECV_BLACKLIST:
2683   case S_CONNECT_RECV_ACK:
2684     /* error on inbound session; free neighbour entirely */
2685     free_address (&n->primary_address);
2686     free_neighbour (n);
2687     return;
2688   case S_CONNECTED:
2689     free_address (&n->primary_address);
2690     n->state = S_RECONNECT_ATS;
2691     n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
2692     /* FIXME: is this ATS call needed? */
2693     GNUNET_ATS_suggest_address (GST_ats, &n->id);
2694     break;
2695   case S_RECONNECT_ATS:
2696     /* we don't have an address, how can it go down? */
2697     GNUNET_break (0);
2698     break;
2699   case S_RECONNECT_BLACKLIST:
2700   case S_RECONNECT_SENT:
2701     n->state = S_RECONNECT_ATS;
2702     n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
2703     // FIXME: need to ask ATS for suggestions again?
2704     GNUNET_ATS_suggest_address (GST_ats, &n->id);
2705     break;
2706   case S_CONNECTED_SWITCHING_BLACKLIST:
2707     /* primary went down while we were checking secondary against
2708        blacklist, adopt secondary as primary */       
2709     free_address (&n->primary_address);
2710     n->primary_address = n->alternative_address;
2711     memset (&n->alternative_address, 0, sizeof (struct NeighbourAddress));
2712     n->timeout = GNUNET_TIME_relative_to_absolute (FAST_RECONNECT_TIMEOUT);
2713     n->state = S_RECONNECT_BLACKLIST;
2714     break;
2715   case S_CONNECTED_SWITCHING_CONNECT_SENT:
2716     /* primary went down while we were waiting for CONNECT_ACK on secondary;
2717        secondary as primary */       
2718     free_address (&n->primary_address);
2719     n->primary_address = n->alternative_address;
2720     memset (&n->alternative_address, 0, sizeof (struct NeighbourAddress));
2721     n->timeout = GNUNET_TIME_relative_to_absolute (FAST_RECONNECT_TIMEOUT);
2722     n->state = S_RECONNECT_SENT;
2723     break;
2724   case S_DISCONNECT:
2725     free_address (&n->primary_address);
2726     break;
2727   case S_DISCONNECT_FINISHED:
2728     /* neighbour was freed and plugins told to terminate session */
2729     break;
2730   default:
2731     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "Unhandled state `%s' \n",print_state (n->state));
2732     GNUNET_break (0);
2733     break;
2734   }
2735   if (GNUNET_SCHEDULER_NO_TASK != n->task)
2736     GNUNET_SCHEDULER_cancel (n->task);
2737   n->task = GNUNET_SCHEDULER_add_now (&master_task, n);
2738 }
2739
2740
2741 /**
2742  * We received a 'SESSION_ACK' message from the other peer.
2743  * If we sent a 'CONNECT_ACK' last, this means we are now
2744  * connected.  Otherwise, do nothing.
2745  *
2746  * @param message possibly a 'struct SessionConnectMessage' (check format)
2747  * @param peer identity of the peer to switch the address for
2748  * @param address address of the other peer, NULL if other peer
2749  *                       connected to us
2750  * @param session session to use (or NULL)
2751  * @param ats performance data
2752  * @param ats_count number of entries in ats
2753  */
2754 void
2755 GST_neighbours_handle_session_ack (const struct GNUNET_MessageHeader *message,
2756                                    const struct GNUNET_PeerIdentity *peer,
2757                                    const struct GNUNET_HELLO_Address *address,
2758                                    struct Session *session,
2759                                    const struct GNUNET_ATS_Information *ats,
2760                                    uint32_t ats_count)
2761 {
2762   struct NeighbourMapEntry *n;
2763
2764   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, 
2765               "Received SESSION_ACK message from peer `%s'\n",
2766               GNUNET_i2s (peer));
2767   if (ntohs (message->size) != sizeof (struct GNUNET_MessageHeader))
2768   {
2769     GNUNET_break_op (0);
2770     return;
2771   }
2772   if (NULL == (n = lookup_neighbour (peer)))
2773     return;
2774   /* check if we are in a plausible state for having sent
2775      a CONNECT_ACK.  If not, return, otherwise break */
2776   if ( ( (S_CONNECT_RECV_ACK != n->state) &&
2777          (S_CONNECT_SENT != n->state) ) ||
2778        (2 != n->send_connect_ack) )
2779   {
2780     GNUNET_STATISTICS_update (GST_stats,
2781                               gettext_noop ("# unexpected SESSION ACK messages"), 1,
2782                               GNUNET_NO);
2783     return;
2784   }
2785   n->state = S_CONNECTED;
2786   n->timeout = GNUNET_TIME_relative_to_absolute (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
2787   GNUNET_STATISTICS_set (GST_stats, 
2788                          gettext_noop ("# peers connected"), 
2789                          ++neighbours_connected,
2790                          GNUNET_NO);
2791   connect_notify_cb (callback_cls, &n->id, ats, ats_count);
2792   set_address (&n->primary_address,
2793                n->primary_address.address,
2794                n->primary_address.session,
2795                n->primary_address.bandwidth_in,
2796                n->primary_address.bandwidth_out,
2797                GNUNET_YES);
2798 }
2799
2800
2801 /**
2802  * Test if we're connected to the given peer.
2803  *
2804  * @param target peer to test
2805  * @return GNUNET_YES if we are connected, GNUNET_NO if not
2806  */
2807 int
2808 GST_neighbours_test_connected (const struct GNUNET_PeerIdentity *target)
2809 {
2810   return test_connected (lookup_neighbour (target));
2811 }
2812
2813
2814 /**
2815  * Change the incoming quota for the given peer.
2816  *
2817  * @param neighbour identity of peer to change qutoa for
2818  * @param quota new quota
2819  */
2820 void
2821 GST_neighbours_set_incoming_quota (const struct GNUNET_PeerIdentity *neighbour,
2822                                    struct GNUNET_BANDWIDTH_Value32NBO quota)
2823 {
2824   struct NeighbourMapEntry *n;
2825
2826   if (NULL == (n = lookup_neighbour (neighbour)))
2827   {
2828     GNUNET_STATISTICS_update (GST_stats,
2829                               gettext_noop
2830                               ("# SET QUOTA messages ignored (no such peer)"),
2831                               1, GNUNET_NO);
2832     return;
2833   }
2834   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2835               "Setting inbound quota of %u Bps for peer `%s' to all clients\n",
2836               ntohl (quota.value__), GNUNET_i2s (&n->id));
2837   GNUNET_BANDWIDTH_tracker_update_quota (&n->in_tracker, quota);
2838   if (0 != ntohl (quota.value__))
2839     return;
2840   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Disconnecting peer `%4s' due to `%s'\n",
2841               GNUNET_i2s (&n->id), "SET_QUOTA");
2842   if (GNUNET_YES == test_connected (n))
2843     GNUNET_STATISTICS_update (GST_stats,
2844                               gettext_noop ("# disconnects due to quota of 0"),
2845                               1, GNUNET_NO);
2846   disconnect_neighbour (n);
2847 }
2848
2849
2850 /**
2851  * We received a disconnect message from the given peer,
2852  * validate and process.
2853  *
2854  * @param peer sender of the message
2855  * @param msg the disconnect message
2856  */
2857 void
2858 GST_neighbours_handle_disconnect_message (const struct GNUNET_PeerIdentity
2859                                           *peer,
2860                                           const struct GNUNET_MessageHeader
2861                                           *msg)
2862 {
2863   struct NeighbourMapEntry *n;
2864   const struct SessionDisconnectMessage *sdm;
2865   GNUNET_HashCode hc;
2866
2867   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2868               "Received DISCONNECT message from peer `%s'\n",
2869               GNUNET_i2s (peer));
2870   if (ntohs (msg->size) != sizeof (struct SessionDisconnectMessage))
2871   {
2872     // GNUNET_break_op (0);
2873     GNUNET_STATISTICS_update (GST_stats,
2874                               gettext_noop
2875                               ("# disconnect messages ignored (old format)"), 1,
2876                               GNUNET_NO);
2877     return;
2878   }
2879   sdm = (const struct SessionDisconnectMessage *) msg;
2880   if (NULL == (n = lookup_neighbour (peer)))
2881     return;                     /* gone already */
2882   if (GNUNET_TIME_absolute_ntoh (sdm->timestamp).abs_value <= n->connect_ack_timestamp.abs_value)
2883   {
2884     GNUNET_STATISTICS_update (GST_stats,
2885                               gettext_noop
2886                               ("# disconnect messages ignored (timestamp)"), 1,
2887                               GNUNET_NO);
2888     return;
2889   }
2890   GNUNET_CRYPTO_hash (&sdm->public_key,
2891                       sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
2892                       &hc);
2893   if (0 != memcmp (peer, &hc, sizeof (struct GNUNET_PeerIdentity)))
2894   {
2895     GNUNET_break_op (0);
2896     return;
2897   }
2898   if (ntohl (sdm->purpose.size) !=
2899       sizeof (struct GNUNET_CRYPTO_RsaSignaturePurpose) +
2900       sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded) +
2901       sizeof (struct GNUNET_TIME_AbsoluteNBO))
2902   {
2903     GNUNET_break_op (0);
2904     return;
2905   }
2906   if (GNUNET_OK !=
2907       GNUNET_CRYPTO_rsa_verify
2908       (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_DISCONNECT, &sdm->purpose,
2909        &sdm->signature, &sdm->public_key))
2910   {
2911     GNUNET_break_op (0);
2912     return;
2913   }
2914   if (GNUNET_YES == test_connected (n))
2915     GNUNET_STATISTICS_update (GST_stats,
2916                               gettext_noop
2917                               ("# other peer asked to disconnect from us"), 1,
2918                               GNUNET_NO);
2919   disconnect_neighbour (n);
2920 }
2921
2922
2923 /**
2924  * Closure for the neighbours_iterate function.
2925  */
2926 struct IteratorContext
2927 {
2928   /**
2929    * Function to call on each connected neighbour.
2930    */
2931   GST_NeighbourIterator cb;
2932
2933   /**
2934    * Closure for 'cb'.
2935    */
2936   void *cb_cls;
2937 };
2938
2939
2940 /**
2941  * Call the callback from the closure for each connected neighbour.
2942  *
2943  * @param cls the 'struct IteratorContext'
2944  * @param key the hash of the public key of the neighbour
2945  * @param value the 'struct NeighbourMapEntry'
2946  * @return GNUNET_OK (continue to iterate)
2947  */
2948 static int
2949 neighbours_iterate (void *cls, const GNUNET_HashCode * key, void *value)
2950 {
2951   struct IteratorContext *ic = cls;
2952   struct NeighbourMapEntry *n = value;
2953
2954   if (GNUNET_YES == test_connected (n))
2955     ic->cb (ic->cb_cls, &n->id, NULL, 0, n->primary_address.address);
2956   return GNUNET_OK;
2957 }
2958
2959
2960 /**
2961  * Iterate over all connected neighbours.
2962  *
2963  * @param cb function to call
2964  * @param cb_cls closure for cb
2965  */
2966 void
2967 GST_neighbours_iterate (GST_NeighbourIterator cb, void *cb_cls)
2968 {
2969   struct IteratorContext ic;
2970
2971   if (NULL == neighbours)  
2972     return; /* can happen during shutdown */
2973   ic.cb = cb;
2974   ic.cb_cls = cb_cls;
2975   GNUNET_CONTAINER_multihashmap_iterate (neighbours, &neighbours_iterate, &ic);
2976 }
2977
2978
2979 /**
2980  * If we have an active connection to the given target, it must be shutdown.
2981  *
2982  * @param target peer to disconnect from
2983  */
2984 void
2985 GST_neighbours_force_disconnect (const struct GNUNET_PeerIdentity *target)
2986 {
2987   struct NeighbourMapEntry *n;
2988
2989   if (NULL == (n = lookup_neighbour (target)))
2990     return;  /* not active */
2991   if (GNUNET_YES == test_connected (n))
2992     GNUNET_STATISTICS_update (GST_stats,
2993                               gettext_noop
2994                               ("# disconnected from peer upon explicit request"), 1,
2995                               GNUNET_NO);
2996   disconnect_neighbour (n);
2997 }
2998
2999
3000 /**
3001  * Obtain current latency information for the given neighbour.
3002  *
3003  * @param peer to get the latency for
3004  * @return observed latency of the address, FOREVER if the 
3005  *         the connection is not up
3006  */
3007 struct GNUNET_TIME_Relative
3008 GST_neighbour_get_latency (const struct GNUNET_PeerIdentity *peer)
3009 {
3010   struct NeighbourMapEntry *n;
3011
3012   n = lookup_neighbour (peer);
3013   if (NULL == n) 
3014     return GNUNET_TIME_UNIT_FOREVER_REL;
3015   switch (n->state)
3016   {
3017   case S_CONNECTED:
3018   case S_RECONNECT_SENT:
3019   case S_RECONNECT_ATS:
3020     return n->latency;
3021   case S_NOT_CONNECTED:
3022   case S_INIT_BLACKLIST:
3023   case S_INIT_ATS:
3024   case S_CONNECT_SENT:
3025   case S_CONNECT_RECV_BLACKLIST:
3026   case S_DISCONNECT:
3027   case S_DISCONNECT_FINISHED:
3028     return GNUNET_TIME_UNIT_FOREVER_REL;
3029   default:
3030     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "Unhandled state `%s' \n",print_state (n->state));
3031     GNUNET_break (0);
3032     break;
3033   }
3034   return GNUNET_TIME_UNIT_FOREVER_REL;   
3035 }
3036
3037
3038 /**
3039  * Obtain current address information for the given neighbour.
3040  *
3041  * @param peer
3042  * @return address currently used
3043  */
3044 struct GNUNET_HELLO_Address *
3045 GST_neighbour_get_current_address (const struct GNUNET_PeerIdentity *peer)
3046 {
3047   struct NeighbourMapEntry *n;
3048
3049   n = lookup_neighbour (peer);
3050   if (NULL == n)
3051     return NULL;
3052   return n->primary_address.address;
3053 }
3054
3055
3056 /**
3057  * Initialize the neighbours subsystem.
3058  *
3059  * @param cls closure for callbacks
3060  * @param connect_cb function to call if we connect to a peer
3061  * @param disconnect_cb function to call if we disconnect from a peer
3062  * @param peer_address_cb function to call if we change an active address
3063  *                   of a neighbour
3064  */
3065 void
3066 GST_neighbours_start (void *cls,
3067                       GNUNET_TRANSPORT_NotifyConnect connect_cb,
3068                       GNUNET_TRANSPORT_NotifyDisconnect disconnect_cb,
3069                       GNUNET_TRANSPORT_PeerIterateCallback peer_address_cb)
3070 {
3071   callback_cls = cls;
3072   connect_notify_cb = connect_cb;
3073   disconnect_notify_cb = disconnect_cb;
3074   address_change_cb = peer_address_cb;
3075   neighbours = GNUNET_CONTAINER_multihashmap_create (NEIGHBOUR_TABLE_SIZE);
3076 }
3077
3078
3079 /**
3080  * Disconnect from the given neighbour.
3081  *
3082  * @param cls unused
3083  * @param key hash of neighbour's public key (not used)
3084  * @param value the 'struct NeighbourMapEntry' of the neighbour
3085  * @return GNUNET_OK (continue to iterate)
3086  */
3087 static int
3088 disconnect_all_neighbours (void *cls, const GNUNET_HashCode * key, void *value)
3089 {
3090   struct NeighbourMapEntry *n = value;
3091
3092   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, 
3093               "Disconnecting peer `%4s', %s\n",
3094               GNUNET_i2s (&n->id), "SHUTDOWN_TASK");
3095   free_neighbour (n);
3096   return GNUNET_OK;
3097 }
3098
3099
3100 /**
3101  * Cleanup the neighbours subsystem.
3102  */
3103 void
3104 GST_neighbours_stop ()
3105 {
3106   if (NULL == neighbours)
3107     return;
3108   GNUNET_CONTAINER_multihashmap_iterate (neighbours, 
3109                                          &disconnect_all_neighbours,
3110                                          NULL);
3111   GNUNET_CONTAINER_multihashmap_destroy (neighbours);
3112   neighbours = NULL;
3113   callback_cls = NULL;
3114   connect_notify_cb = NULL;
3115   disconnect_notify_cb = NULL;
3116   address_change_cb = NULL;
3117 }
3118
3119
3120 /* end of file gnunet-service-transport_neighbours.c */