-dead field
[oweals/gnunet.git] / src / transport / gnunet-service-transport_neighbours.c
1 /*
2      This file is part of GNUnet.
3      (C) 2010,2011,2012 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file transport/gnunet-service-transport_neighbours.c
23  * @brief neighbour management
24  * @author Christian Grothoff
25  *
26  * TODO:
27  * - "address_change_cb" is NEVER invoked; when should we call this one exactly?
28  * - TEST, TEST, TEST...
29  */
30 #include "platform.h"
31 #include "gnunet_ats_service.h"
32 #include "gnunet-service-transport_neighbours.h"
33 #include "gnunet-service-transport_plugins.h"
34 #include "gnunet-service-transport_validation.h"
35 #include "gnunet-service-transport_clients.h"
36 #include "gnunet-service-transport.h"
37 #include "gnunet_peerinfo_service.h"
38 #include "gnunet-service-transport_blacklist.h"
39 #include "gnunet_constants.h"
40 #include "transport.h"
41
42
43 /**
44  * Size of the neighbour hash map.
45  */
46 #define NEIGHBOUR_TABLE_SIZE 256
47
48 /**
49  * Time we give plugin to transmit DISCONNECT message before the
50  * neighbour entry self-destructs.
51  */
52 #define DISCONNECT_SENT_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MILLISECONDS, 100)
53
54 /**
55  * How often must a peer violate bandwidth quotas before we start
56  * to simply drop its messages?
57  */
58 #define QUOTA_VIOLATION_DROP_THRESHOLD 10
59
60 /**
61  * How often do we send KEEPALIVE messages to each of our neighbours and measure
62  * the latency with this neighbour?
63  * (idle timeout is 5 minutes or 300 seconds, so with 30s interval we
64  * send 10 keepalives in each interval, so 10 messages would need to be
65  * lost in a row for a disconnect).
66  */
67 #define KEEPALIVE_FREQUENCY GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_SECONDS, 30)
68
69 /**
70  * How long are we willing to wait for a response from ATS before timing out?
71  */
72 #define ATS_RESPONSE_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MILLISECONDS, 500)
73
74 /**
75  * How long are we willing to wait for an ACK from the other peer before
76  * giving up on our connect operation?
77  */
78 #define SETUP_CONNECTION_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_SECONDS, 15)
79
80 /**
81  * How long are we willing to wait for a successful reconnect if 
82  * an existing connection went down?  Much shorter than the
83  * usual SETUP_CONNECTION_TIMEOUT as we do not inform the
84  * higher layers about the disconnect during this period.
85  */
86 #define FAST_RECONNECT_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_SECONDS, 1)
87
88 /**
89  * How long are we willing to wait for a response from the blacklist
90  * subsystem before timing out?
91  */
92 #define BLACKLIST_RESPONSE_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MILLISECONDS, 500)
93
94
95 GNUNET_NETWORK_STRUCT_BEGIN
96
97 /**
98  * Message a peer sends to another to indicate that it intends to
99  * setup a connection/session for data exchange.  A 'SESSION_CONNECT'
100  * should be answered with a 'SESSION_CONNECT_ACK' with the same body
101  * to confirm.  A 'SESSION_CONNECT_ACK' should then be followed with
102  * a 'SESSION_ACK'.  Once the 'SESSION_ACK' is received, both peers 
103  * should be connected.
104  */
105 struct SessionConnectMessage
106 {
107   /**
108    * Header of type 'GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_CONNECT'
109    * or 'GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_CONNECT_ACK'
110    */
111   struct GNUNET_MessageHeader header;
112
113   /**
114    * Always zero.
115    */
116   uint32_t reserved GNUNET_PACKED;
117
118   /**
119    * Absolute time at the sender.  Only the most recent connect
120    * message implies which session is preferred by the sender.
121    */
122   struct GNUNET_TIME_AbsoluteNBO timestamp;
123
124 };
125
126
127 /**
128  * Message we send to the other peer to notify him that we intentionally
129  * are disconnecting (to reduce timeouts).  This is just a friendly 
130  * notification, peers must not rely on always receiving disconnect
131  * messages.
132  */
133 struct SessionDisconnectMessage
134 {
135   /**
136    * Header of type 'GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_DISCONNECT'
137    */
138   struct GNUNET_MessageHeader header;
139
140   /**
141    * Always zero.
142    */
143   uint32_t reserved GNUNET_PACKED;
144
145   /**
146    * Purpose of the signature.  Extends over the timestamp.
147    * Purpose should be GNUNET_SIGNATURE_PURPOSE_TRANSPORT_DISCONNECT.
148    */
149   struct GNUNET_CRYPTO_RsaSignaturePurpose purpose;
150
151   /**
152    * Absolute time at the sender.  Only the most recent connect
153    * message implies which session is preferred by the sender.
154    */
155   struct GNUNET_TIME_AbsoluteNBO timestamp;
156
157   /**
158    * Public key of the sender.
159    */
160   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded public_key;
161
162   /**
163    * Signature of the peer that sends us the disconnect.  Only
164    * valid if the timestamp is AFTER the timestamp from the
165    * corresponding 'CONNECT' message.
166    */
167   struct GNUNET_CRYPTO_RsaSignature signature;
168
169 };
170
171 GNUNET_NETWORK_STRUCT_END
172
173
174 /**
175  * For each neighbour we keep a list of messages
176  * that we still want to transmit to the neighbour.
177  */
178 struct MessageQueue
179 {
180
181   /**
182    * This is a doubly linked list.
183    */
184   struct MessageQueue *next;
185
186   /**
187    * This is a doubly linked list.
188    */
189   struct MessageQueue *prev;
190
191   /**
192    * Function to call once we're done.
193    */
194   GST_NeighbourSendContinuation cont;
195
196   /**
197    * Closure for 'cont'
198    */
199   void *cont_cls;
200
201   /**
202    * The message(s) we want to transmit, GNUNET_MessageHeader(s)
203    * stuck together in memory.  Allocated at the end of this struct.
204    */
205   const char *message_buf;
206
207   /**
208    * Size of the message buf
209    */
210   size_t message_buf_size;
211
212   /**
213    * At what time should we fail?
214    */
215   struct GNUNET_TIME_Absolute timeout;
216
217 };
218
219
220 /**
221  * Possible state of a neighbour.  Initially, we are S_NOT_CONNECTED.
222  *
223  * Then, there are two main paths. If we receive a CONNECT message, we
224  * first run a check against the blacklist and ask ATS for a
225  * suggestion.  (S_CONNECT_RECV_ATS).  If the blacklist comes back
226  * positive, we give the address to ATS.  If ATS makes a suggestion,
227  * we ALSO give that suggestion to the blacklist
228  * (S_CONNECT_RECV_BLACKLIST).  Once the blacklist approves the
229  * address we got from ATS, we send our CONNECT_ACK and go to
230  * S_CONNECT_RECV_ACK.  If we receive a SESSION_ACK, we go to
231  * S_CONNECTED (and notify everyone about the new connection).  If the
232  * operation times out, we go to S_DISCONNECT.
233  *
234  * The other case is where we transmit a CONNECT message first.  We
235  * start with S_INIT_ATS.  If we get an address, we enter
236  * S_INIT_BLACKLIST and check the blacklist.  If the blacklist is OK
237  * with the connection, we actually send the CONNECT message and go to
238  * state S_CONNECT_SENT.  Once we receive a CONNECT_ACK, we go to
239  * S_CONNECTED (and notify everyone about the new connection and send
240  * back a SESSION_ACK).  If the operation times out, we go to
241  * S_DISCONNECT.
242  *
243  * If the session is in trouble (i.e. transport-level disconnect or
244  * timeout), we go to S_RECONNECT_ATS where we ask ATS for a new
245  * address (we don't notify anyone about the disconnect yet).  Once we
246  * have a new address, we go to S_RECONNECT_BLACKLIST to check the new
247  * address against the blacklist.  If the blacklist approves, we enter
248  * S_RECONNECT_SENT and send a CONNECT message.  If we receive a
249  * CONNECT_ACK, we go to S_CONNECTED and nobody noticed that we had
250  * trouble; we also send a SESSION_ACK at this time just in case.  If
251  * the operation times out, we go to S_DISCONNECT (and notify everyone
252  * about the lost connection).
253  *
254  * If ATS decides to switch addresses while we have a normal
255  * connection, we go to S_CONNECTED_SWITCHING_BLACKLIST to check the
256  * new address against the blacklist.  If the blacklist approves, we
257  * go to S_CONNECTED_SWITCHING_CONNECT_SENT and send a
258  * SESSION_CONNECT.  If we get a SESSION_ACK back, we switch the
259  * primary connection to the suggested alternative from ATS, go back
260  * to S_CONNECTED and send a SESSION_ACK to the other peer just to be
261  * sure.  If the operation times out (or the blacklist disapproves),
262  * we go to S_CONNECTED (and notify ATS that the given alternative
263  * address is "invalid").
264  *
265  * Once a session is in S_DISCONNECT, it is cleaned up and then goes
266  * to (S_DISCONNECT_FINISHED).  If we receive an explicit disconnect
267  * request, we can go from any state to S_DISCONNECT, possibly after
268  * generating disconnect notifications.
269  *
270  * Note that it is quite possible that while we are in any of these
271  * states, we could receive a 'CONNECT' request from the other peer.
272  * We then enter a 'weird' state where we pursue our own primary state
273  * machine (as described above), but with the 'send_connect_ack' flag
274  * set to 1.  If our state machine allows us to send a 'CONNECT_ACK'
275  * (because we have an acceptable address), we send the 'CONNECT_ACK'
276  * and set the 'send_connect_ack' to 2.  If we then receive a
277  * 'SESSION_ACK', we go to 'S_CONNECTED' (and reset 'send_connect_ack'
278  * to 0).
279  * 
280  */ 
281 enum State
282 {
283   /**
284    * fresh peer or completely disconnected
285    */
286   S_NOT_CONNECTED,
287
288   /**
289    * Asked to initiate connection, trying to get address from ATS
290    */
291   S_INIT_ATS,
292
293   /**
294    * Asked to initiate connection, trying to get address approved
295    * by blacklist.
296    */
297   S_INIT_BLACKLIST,
298
299   /**
300    * Sent CONNECT message to other peer, waiting for CONNECT_ACK
301    */
302   S_CONNECT_SENT,
303
304   /**
305    * Received a CONNECT, asking ATS about address suggestions.
306    */
307   S_CONNECT_RECV_ATS,
308
309   /**
310    * Received CONNECT from other peer, got an address, checking with blacklist.
311    */
312   S_CONNECT_RECV_BLACKLIST,
313
314   /**
315    * CONNECT request from other peer was SESSION_ACK'ed, waiting for
316    * SESSION_ACK.
317    */
318   S_CONNECT_RECV_ACK,
319
320   /**
321    * Got our CONNECT_ACK/SESSION_ACK, connection is up.
322    */
323   S_CONNECTED,
324
325   /**
326    * Connection got into trouble, rest of the system still believes
327    * it to be up, but we're getting a new address from ATS.
328    */
329   S_RECONNECT_ATS,
330
331   /**
332    * Connection got into trouble, rest of the system still believes
333    * it to be up; we are checking the new address against the blacklist.
334    */
335   S_RECONNECT_BLACKLIST,
336
337   /**
338    * Sent CONNECT over new address (either by ATS telling us to switch
339    * addresses or from RECONNECT_ATS); if this fails, we need to tell
340    * the rest of the system about a disconnect.
341    */
342   S_RECONNECT_SENT,
343
344   /**
345    * We have some primary connection, but ATS suggested we switch
346    * to some alternative; we're now checking the alternative against
347    * the blacklist.
348    */
349   S_CONNECTED_SWITCHING_BLACKLIST,
350
351   /** 
352    * We have some primary connection, but ATS suggested we switch
353    * to some alternative; we now sent a CONNECT message for the
354    * alternative session to the other peer and waiting for a
355    * CONNECT_ACK to make this our primary connection.
356    */
357   S_CONNECTED_SWITCHING_CONNECT_SENT,
358
359   /**
360    * Disconnect in progress (we're sending the DISCONNECT message to the
361    * other peer; after that is finished, the state will be cleaned up).
362    */
363   S_DISCONNECT,
364
365   /**
366    * We're finished with the disconnect; clean up state now!
367    */
368   S_DISCONNECT_FINISHED
369 };
370
371
372 /**
373  * A possible address we could use to communicate with a neighbour.
374  */
375 struct NeighbourAddress
376 {
377
378   /**
379    * Active session for this address.
380    */
381   struct Session *session;
382
383   /**
384    * Network-level address information.
385    */
386   struct GNUNET_HELLO_Address *address;
387
388   /**
389    * Timestamp of the 'SESSION_CONNECT' message we sent to the other
390    * peer for this address.  Use to check that the ACK is in response
391    * to our most recent 'CONNECT'.
392    */
393   struct GNUNET_TIME_Absolute connect_timestamp;
394
395   /**
396    * Inbound bandwidth from ATS for this address.
397    */
398   struct GNUNET_BANDWIDTH_Value32NBO bandwidth_in;
399
400   /**
401    * Outbound bandwidth from ATS for this address.
402    */
403   struct GNUNET_BANDWIDTH_Value32NBO bandwidth_out;
404
405   /**
406    * Did we tell ATS that this is our 'active' address?
407    */
408   int ats_active;
409   
410 };
411
412
413 /**
414  * Entry in neighbours.
415  */
416 struct NeighbourMapEntry
417 {
418
419   /**
420    * Head of list of messages we would like to send to this peer;
421    * must contain at most one message per client.
422    */
423   struct MessageQueue *messages_head;
424
425   /**
426    * Tail of list of messages we would like to send to this peer; must
427    * contain at most one message per client.
428    */
429   struct MessageQueue *messages_tail;
430
431   /**
432    * Are we currently trying to send a message? If so, which one?
433    */
434   struct MessageQueue *is_active;
435
436   /**
437    * Primary address we currently use to communicate with the neighbour.
438    */
439   struct NeighbourAddress primary_address;
440
441   /**
442    * Alternative address currently under consideration for communicating
443    * with the neighbour.
444    */
445   struct NeighbourAddress alternative_address;
446
447   /**
448    * Identity of this neighbour.
449    */
450   struct GNUNET_PeerIdentity id;
451
452   /**
453    * Main task that drives this peer (timeouts, keepalives, etc.).
454    * Always runs the 'master_task'.
455    */
456   GNUNET_SCHEDULER_TaskIdentifier task;
457
458   /**
459    * At what time should we sent the next keep-alive message?
460    */
461   struct GNUNET_TIME_Absolute keep_alive_time;
462
463   /**
464    * At what time did we sent the last keep-alive message?  Used 
465    * to calculate round-trip time ("latency").
466    */
467   struct GNUNET_TIME_Absolute last_keep_alive_time;
468
469   /**
470    * Timestamp we should include in our next CONNECT_ACK message.
471    * (only valid if 'send_connect_ack' is GNUNET_YES).  Used to build
472    * our CONNECT_ACK message.
473    */
474   struct GNUNET_TIME_Absolute connect_ack_timestamp;
475
476   /**
477    * Time where we should cut the connection (timeout) if we don't
478    * make progress in the state machine (or get a KEEPALIVE_RESPONSE
479    * if we are in S_CONNECTED).
480    */
481   struct GNUNET_TIME_Absolute timeout;
482
483   /**
484    * Latest calculated latency value
485    */
486   struct GNUNET_TIME_Relative latency;
487
488   /**
489    * Tracker for inbound bandwidth.
490    */
491   struct GNUNET_BANDWIDTH_Tracker in_tracker;
492
493   /**
494    * How often has the other peer (recently) violated the inbound
495    * traffic limit?  Incremented by 10 per violation, decremented by 1
496    * per non-violation (for each time interval).
497    */
498   unsigned int quota_violation_count;
499
500   /**
501    * The current state of the peer.
502    */
503   enum State state;
504
505   /**
506    * Did we sent an KEEP_ALIVE message and are we expecting a response?
507    */
508   int expect_latency_response;
509
510   /**
511    * Flag to set if we still need to send a CONNECT_ACK message to the other peer
512    * (once we have an address to use and the peer has been allowed by our
513    * blacklist).  Set to 1 if we need to send a CONNECT_ACK.  Set to 2 if we
514    * did send a CONNECT_ACK and should go to 'S_CONNECTED' upon receiving
515    * a 'SESSION_ACK' (regardless of what our own state machine might say).
516    */
517   int send_connect_ack;
518
519 };
520
521
522 /**
523  * Context for blacklist checks and the 'handle_test_blacklist_cont'
524  * function.  Stores information about ongoing blacklist checks.
525  */
526 struct BlackListCheckContext
527 {
528   
529   /**
530    * We keep blacklist checks in a DLL.
531    */
532   struct BlackListCheckContext *next;
533
534   /**
535    * We keep blacklist checks in a DLL.
536    */
537   struct BlackListCheckContext *prev;
538
539   /**
540    * Address that is being checked.
541    */
542   struct NeighbourAddress na;
543   
544   /**
545    * ATS information about the address.
546    */
547   struct GNUNET_ATS_Information *ats;
548
549   /**
550    * Handle to the ongoing blacklist check.
551    */
552   struct GST_BlacklistCheck *bc;
553
554   /**
555    * Size of the 'ats' array.
556    */
557   uint32_t ats_count;
558
559 };
560
561
562 /**
563  * Hash map from peer identities to the respective 'struct NeighbourMapEntry'.
564  */
565 static struct GNUNET_CONTAINER_MultiHashMap *neighbours;
566
567 /**
568  * We keep blacklist checks in a DLL so that we can find
569  * the 'sessions' in their 'struct NeighbourAddress' if
570  * a session goes down.
571  */
572 static struct BlackListCheckContext *bc_head;
573
574 /**
575  * We keep blacklist checks in a DLL.
576  */
577 static struct BlackListCheckContext *bc_tail;
578
579 /**
580  * Closure for connect_notify_cb, disconnect_notify_cb and address_change_cb
581  */
582 static void *callback_cls;
583
584 /**
585  * Function to call when we connected to a neighbour.
586  */
587 static GNUNET_TRANSPORT_NotifyConnect connect_notify_cb;
588
589 /**
590  * Function to call when we disconnected from a neighbour.
591  */
592 static GNUNET_TRANSPORT_NotifyDisconnect disconnect_notify_cb;
593
594 /**
595  * Function to call when we changed an active address of a neighbour.
596  */
597 static GNUNET_TRANSPORT_PeerIterateCallback address_change_cb;
598
599 /**
600  * counter for connected neighbours
601  */
602 static unsigned int neighbours_connected;
603
604 /**
605  * Number of bytes we have currently queued for transmission.
606  */
607 static unsigned long long bytes_in_send_queue;
608
609
610 /**
611  * Lookup a neighbour entry in the neighbours hash map.
612  *
613  * @param pid identity of the peer to look up
614  * @return the entry, NULL if there is no existing record
615  */
616 static struct NeighbourMapEntry *
617 lookup_neighbour (const struct GNUNET_PeerIdentity *pid)
618 {
619   if (NULL == neighbours)
620     return NULL;
621   return GNUNET_CONTAINER_multihashmap_get (neighbours, &pid->hashPubKey);
622 }
623
624
625 /**
626  * Test if we're connected to the given peer.
627  *
628  * @param n neighbour entry of peer to test
629  * @return GNUNET_YES if we are connected, GNUNET_NO if not
630  */
631 static int
632 test_connected (struct NeighbourMapEntry *n)
633 {
634   if (NULL == n)
635     return GNUNET_NO;
636   switch (n->state)
637   {
638   case S_NOT_CONNECTED:
639   case S_INIT_ATS:
640   case S_INIT_BLACKLIST:
641   case S_CONNECT_SENT:
642   case S_CONNECT_RECV_ATS:
643   case S_CONNECT_RECV_BLACKLIST:
644   case S_CONNECT_RECV_ACK:
645     return GNUNET_NO;
646   case S_CONNECTED:
647   case S_RECONNECT_ATS:
648   case S_RECONNECT_BLACKLIST:
649   case S_RECONNECT_SENT:
650   case S_CONNECTED_SWITCHING_BLACKLIST:
651   case S_CONNECTED_SWITCHING_CONNECT_SENT:
652     return GNUNET_YES;
653   case S_DISCONNECT:
654   case S_DISCONNECT_FINISHED:
655     return GNUNET_NO;
656   default:
657     GNUNET_break (0);
658     break;
659   }
660   return GNUNET_SYSERR;
661 }
662
663
664 /**
665  * Send information about a new outbound quota to our clients.
666  *
667  * @param target affected peer
668  * @param quota new quota
669  */
670 static void
671 send_outbound_quota (const struct GNUNET_PeerIdentity *target,
672                      struct GNUNET_BANDWIDTH_Value32NBO quota)
673 {
674   struct QuotaSetMessage q_msg;
675
676   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
677               "Sending outbound quota of %u Bps for peer `%s' to all clients\n",
678               ntohl (quota.value__), GNUNET_i2s (target));
679   q_msg.header.size = htons (sizeof (struct QuotaSetMessage));
680   q_msg.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SET_QUOTA);
681   q_msg.quota = quota;
682   q_msg.peer = (*target);
683   GST_clients_broadcast (&q_msg.header, GNUNET_NO);
684 }
685
686
687 /**
688  * We don't need a given neighbour address any more.
689  * Release its resources and give appropriate notifications
690  * to ATS and other subsystems.
691  *
692  * @param na address we are done with; 'na' itself must NOT be 'free'd, only the contents!
693  */
694 static void
695 free_address (struct NeighbourAddress *na)
696 {
697   if (GNUNET_YES == na->ats_active)
698   {
699     GST_validation_set_address_use (na->address, na->session, GNUNET_NO, __LINE__);
700     GNUNET_ATS_address_in_use (GST_ats, na->address, na->session, GNUNET_NO);
701   }
702   na->ats_active = GNUNET_NO;
703   if (NULL != na->address)
704   {
705     GNUNET_HELLO_address_free (na->address);
706     na->address = NULL;
707   }
708   na->session = NULL;
709 }
710
711
712 /**
713  * Initialize the 'struct NeighbourAddress'.
714  *
715  * @param na neighbour address to initialize
716  * @param address address of the other peer, NULL if other peer
717  *                       connected to us
718  * @param session session to use (or NULL, in which case an
719  *        address must be setup)
720  * @param bandwidth_in inbound quota to be used when connection is up
721  * @param bandwidth_out outbound quota to be used when connection is up
722  * @param is_active GNUNET_YES to mark this as the active address with ATS
723  */
724 static void
725 set_address (struct NeighbourAddress *na,
726              const struct GNUNET_HELLO_Address *address,
727              struct Session *session,
728              struct GNUNET_BANDWIDTH_Value32NBO bandwidth_in,
729              struct GNUNET_BANDWIDTH_Value32NBO bandwidth_out,
730              int is_active)
731 {
732   struct GNUNET_TRANSPORT_PluginFunctions *papi;
733
734   if (NULL == (papi = GST_plugins_find (address->transport_name)))  
735   {
736     GNUNET_break (0);
737     return;
738   }
739   if (session == na->session)
740   {
741     na->bandwidth_in = bandwidth_in;
742     na->bandwidth_out = bandwidth_out;
743     if (is_active != na->ats_active)
744     {
745       na->ats_active = is_active;
746       GNUNET_ATS_address_in_use (GST_ats, na->address, na->session, is_active);
747       GST_validation_set_address_use (na->address, na->session, is_active,  __LINE__);
748     }
749     if (GNUNET_YES == is_active)
750     {
751       /* FIXME: is this the right place to set quotas? */
752       GST_neighbours_set_incoming_quota (&address->peer, bandwidth_in);
753       send_outbound_quota (&address->peer, bandwidth_out);
754     }    
755     return;
756   }
757   free_address (na);
758   if (NULL == session)
759     session = papi->get_session (papi->cls, address);    
760   if (NULL == session)
761   {
762     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
763                 "Failed to obtain new session for peer `%s' and  address '%s'\n",
764                 GNUNET_i2s (&address->peer), GST_plugins_a2s (address));    
765     GNUNET_ATS_address_destroyed (GST_ats, address, NULL);
766     return;
767   }
768   na->address = GNUNET_HELLO_address_copy (address);
769   na->bandwidth_in = bandwidth_in;
770   na->bandwidth_out = bandwidth_out;
771   na->session = session;
772   na->ats_active = is_active;
773   if (GNUNET_YES == is_active)
774   {
775     /* Telling ATS about new session */
776     GNUNET_ATS_address_update (GST_ats, na->address, na->session, NULL, 0);
777     GNUNET_ATS_address_in_use (GST_ats, na->address, na->session, GNUNET_YES);
778     GST_validation_set_address_use (na->address, na->session, GNUNET_YES,  __LINE__);
779
780     /* FIXME: is this the right place to set quotas? */
781     GST_neighbours_set_incoming_quota (&address->peer, bandwidth_in);
782     send_outbound_quota (&address->peer, bandwidth_out);
783   }
784 }
785
786
787 /**
788  * Free a neighbour map entry.
789  *
790  * @param n entry to free
791  */
792 static void
793 free_neighbour (struct NeighbourMapEntry *n)
794 {
795   struct MessageQueue *mq;
796   struct GNUNET_TRANSPORT_PluginFunctions *papi;
797
798   n->is_active = NULL; /* always free'd by its own continuation! */
799
800   /* fail messages currently in the queue */
801   while (NULL != (mq = n->messages_head))
802   {
803     GNUNET_CONTAINER_DLL_remove (n->messages_head, n->messages_tail, mq);
804     if (NULL != mq->cont)
805       mq->cont (mq->cont_cls, GNUNET_SYSERR);
806     GNUNET_free (mq);
807   }
808   /* It is too late to send other peer disconnect notifications, but at
809      least internally we need to get clean... */
810   if (GNUNET_YES == test_connected (n))
811   {
812     GNUNET_STATISTICS_set (GST_stats, 
813                            gettext_noop ("# peers connected"), 
814                            --neighbours_connected,
815                            GNUNET_NO);
816     disconnect_notify_cb (callback_cls, &n->id);
817   }
818
819   /* FIXME-PLUGIN-API: This does not seem to guarantee that all
820      transport sessions eventually get killed due to inactivity; they
821      MUST have their own timeout logic (but at least TCP doesn't have
822      one yet).  Are we sure that EVERY 'session' of a plugin is
823      actually cleaned up this way!?  Note that if we are switching
824      between two TCP sessions to the same peer, the existing plugin
825      API gives us not even the means to selectively kill only one of
826      them! Killing all sessions like this seems to be very, very
827      wrong. */
828   if ( (NULL != n->primary_address.address) &&
829        (NULL != (papi = GST_plugins_find (n->primary_address.address->transport_name))) )
830     papi->disconnect (papi->cls, &n->id);
831
832   n->state = S_DISCONNECT_FINISHED;
833
834   GNUNET_assert (GNUNET_YES ==
835                  GNUNET_CONTAINER_multihashmap_remove (neighbours,
836                                                        &n->id.hashPubKey, n));
837
838   /* cut transport-level connection */
839   free_address (&n->primary_address);
840   free_address (&n->alternative_address);
841
842   // FIXME-ATS-API: we might want to be more specific about
843   // which states we do this from in the future (ATS should
844   // have given us a 'suggest_address' handle, and if we have
845   // such a handle, we should cancel the operation here!
846   GNUNET_ATS_suggest_address_cancel (GST_ats, &n->id);
847
848   if (GNUNET_SCHEDULER_NO_TASK != n->task)
849   {
850     GNUNET_SCHEDULER_cancel (n->task);
851     n->task = GNUNET_SCHEDULER_NO_TASK;
852   }
853   /* free rest of memory */
854   GNUNET_free (n);
855 }
856
857
858 /**
859  * Transmit a message using the current session of the given
860  * neighbour.
861  *
862  * @param n entry for the recipient
863  * @param msgbuf buffer to transmit
864  * @param msgbuf_size number of bytes in buffer
865  * @param priority transmission priority
866  * @param timeout transmission timeout
867  * @param cont continuation to call when finished (can be NULL)
868  * @param cont_cls closure for cont
869  */
870 static void
871 send_with_session (struct NeighbourMapEntry *n,
872                    const char *msgbuf, size_t msgbuf_size,
873                    uint32_t priority,
874                    struct GNUNET_TIME_Relative timeout,
875                    GNUNET_TRANSPORT_TransmitContinuation cont,
876                    void *cont_cls)
877 {
878   struct GNUNET_TRANSPORT_PluginFunctions *papi;
879
880   GNUNET_assert (n->primary_address.session != NULL);
881   if ( ( (NULL == (papi = GST_plugins_find (n->primary_address.address->transport_name))) ||
882          (-1 == papi->send (papi->cls,
883                             n->primary_address.session,
884                             msgbuf, msgbuf_size,
885                             priority,
886                             timeout,
887                             cont, cont_cls))) &&
888        (NULL != cont) )
889     cont (cont_cls, &n->id, GNUNET_SYSERR);
890   GNUNET_break (NULL != papi);
891 }
892
893
894 /**
895  * Master task run for every neighbour.  Performs all of the time-related
896  * activities (keep alive, send next message, disconnect if idle, finish
897  * clean up after disconnect).
898  *
899  * @param cls the 'struct NeighbourMapEntry' for which we are running
900  * @param tc scheduler context (unused)
901  */
902 static void
903 master_task (void *cls,
904              const struct GNUNET_SCHEDULER_TaskContext *tc);
905
906
907 /**
908  * Function called when the 'DISCONNECT' message has been sent by the
909  * plugin.  Frees the neighbour --- if the entry still exists.
910  *
911  * @param cls NULL
912  * @param target identity of the neighbour that was disconnected
913  * @param result GNUNET_OK if the disconnect got out successfully
914  */
915 static void
916 send_disconnect_cont (void *cls, const struct GNUNET_PeerIdentity *target,
917                       int result)
918 {
919   struct NeighbourMapEntry *n;
920
921   n = lookup_neighbour (target);
922   if (NULL == n)
923     return; /* already gone */
924   if (S_DISCONNECT != n->state)
925     return; /* have created a fresh entry since */
926   n->state = S_DISCONNECT;
927   GNUNET_SCHEDULER_cancel (n->task);
928   n->task = GNUNET_SCHEDULER_add_now (&master_task, n);
929 }
930
931
932 /**
933  * Transmit a DISCONNECT message to the other peer.
934  *
935  * @param n neighbour to send DISCONNECT message.
936  */
937 static void
938 send_disconnect (struct NeighbourMapEntry *n)
939 {
940   struct SessionDisconnectMessage disconnect_msg;
941
942   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
943               "Sending DISCONNECT message to peer `%4s'\n",
944               GNUNET_i2s (&n->id));
945   disconnect_msg.header.size = htons (sizeof (struct SessionDisconnectMessage));
946   disconnect_msg.header.type =
947       htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_DISCONNECT);
948   disconnect_msg.reserved = htonl (0);
949   disconnect_msg.purpose.size =
950       htonl (sizeof (struct GNUNET_CRYPTO_RsaSignaturePurpose) +
951              sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded) +
952              sizeof (struct GNUNET_TIME_AbsoluteNBO));
953   disconnect_msg.purpose.purpose =
954       htonl (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_DISCONNECT);
955   disconnect_msg.timestamp =
956       GNUNET_TIME_absolute_hton (GNUNET_TIME_absolute_get ());
957   disconnect_msg.public_key = GST_my_public_key;
958   GNUNET_assert (GNUNET_OK ==
959                  GNUNET_CRYPTO_rsa_sign (GST_my_private_key,
960                                          &disconnect_msg.purpose,
961                                          &disconnect_msg.signature));
962
963   send_with_session (n,
964                      (const char *) &disconnect_msg, sizeof (disconnect_msg),
965                      UINT32_MAX, GNUNET_TIME_UNIT_FOREVER_REL,
966                      &send_disconnect_cont, NULL);
967   GNUNET_STATISTICS_update (GST_stats,
968                             gettext_noop
969                             ("# DISCONNECT messages sent"), 1,
970                             GNUNET_NO);
971 }
972
973
974 /**
975  * Disconnect from the given neighbour, clean up the record.
976  *
977  * @param n neighbour to disconnect from
978  */
979 static void
980 disconnect_neighbour (struct NeighbourMapEntry *n)
981 {
982   /* depending on state, notify neighbour and/or upper layers of this peer 
983      about disconnect */
984   switch (n->state)
985   {
986   case S_NOT_CONNECTED:
987   case S_INIT_ATS:
988   case S_INIT_BLACKLIST:
989     /* other peer is completely unaware of us, no need to send DISCONNECT */
990     n->state = S_DISCONNECT_FINISHED;
991     free_neighbour (n);
992     return;
993   case S_CONNECT_SENT:
994     send_disconnect (n); 
995     n->state = S_DISCONNECT;
996     break;   
997   case S_CONNECT_RECV_ATS:
998   case S_CONNECT_RECV_BLACKLIST:
999     /* we never ACK'ed the other peer's request, no need to send DISCONNECT */
1000     n->state = S_DISCONNECT_FINISHED;
1001     free_neighbour (n);
1002     return;
1003   case S_CONNECT_RECV_ACK:
1004     /* we DID ACK the other peer's request, must send DISCONNECT */
1005     send_disconnect (n); 
1006     n->state = S_DISCONNECT;
1007     break;   
1008   case S_CONNECTED:
1009   case S_RECONNECT_BLACKLIST:
1010   case S_RECONNECT_SENT:
1011   case S_CONNECTED_SWITCHING_BLACKLIST:
1012   case S_CONNECTED_SWITCHING_CONNECT_SENT:
1013     /* we are currently connected, need to send disconnect and do
1014        internal notifications and update statistics */
1015     send_disconnect (n);
1016     GNUNET_STATISTICS_set (GST_stats, 
1017                            gettext_noop ("# peers connected"), 
1018                            --neighbours_connected,
1019                            GNUNET_NO);
1020     disconnect_notify_cb (callback_cls, &n->id);
1021     n->state = S_DISCONNECT;
1022     break;
1023   case S_RECONNECT_ATS:
1024     /* ATS address request timeout, disconnect without sending disconnect message */
1025     GNUNET_STATISTICS_set (GST_stats,
1026                            gettext_noop ("# peers connected"),
1027                            --neighbours_connected,
1028                            GNUNET_NO);
1029     disconnect_notify_cb (callback_cls, &n->id);
1030     n->state = S_DISCONNECT;
1031     break;
1032   case S_DISCONNECT:
1033     /* already disconnected, ignore */
1034     break;
1035   case S_DISCONNECT_FINISHED:
1036     /* already cleaned up, how did we get here!? */
1037     GNUNET_assert (0);
1038     break;
1039   default:
1040     GNUNET_break (0);
1041     break;
1042   }
1043   /* schedule timeout to clean up */
1044   if (GNUNET_SCHEDULER_NO_TASK != n->task)
1045     GNUNET_SCHEDULER_cancel (n->task);
1046   n->task = GNUNET_SCHEDULER_add_delayed (DISCONNECT_SENT_TIMEOUT,
1047                                           &master_task, n);
1048 }
1049
1050
1051 /**
1052  * We're done with our transmission attempt, continue processing.
1053  *
1054  * @param cls the 'struct MessageQueue' of the message
1055  * @param receiver intended receiver
1056  * @param success whether it worked or not
1057  */
1058 static void
1059 transmit_send_continuation (void *cls,
1060                             const struct GNUNET_PeerIdentity *receiver,
1061                             int success)
1062 {
1063   struct MessageQueue *mq = cls;
1064   struct NeighbourMapEntry *n;
1065
1066   n = lookup_neighbour (receiver);
1067   if (NULL == n)
1068   {
1069     GNUNET_break (0);
1070     return;
1071   }
1072
1073   if (n->is_active == mq)
1074   {
1075     /* this is still "our" neighbour, remove us from its queue
1076        and allow it to send the next message now */
1077     n->is_active = NULL;
1078     GNUNET_SCHEDULER_cancel (n->task);
1079     n->task = GNUNET_SCHEDULER_add_now (&master_task, n);    
1080   }
1081   GNUNET_assert (bytes_in_send_queue >= mq->message_buf_size);
1082   bytes_in_send_queue -= mq->message_buf_size;
1083   GNUNET_STATISTICS_set (GST_stats,
1084                         gettext_noop
1085                          ("# bytes in message queue for other peers"),
1086                          bytes_in_send_queue, GNUNET_NO);
1087   if (GNUNET_OK == success)
1088     GNUNET_STATISTICS_update (GST_stats,
1089                               gettext_noop
1090                               ("# messages transmitted to other peers"),
1091                               1, GNUNET_NO);
1092   else
1093     GNUNET_STATISTICS_update (GST_stats,
1094                               gettext_noop
1095                               ("# transmission failures for messages to other peers"),
1096                               1, GNUNET_NO);
1097   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, 
1098               "Sending message to `%s' of type %u was a %s\n",
1099               GNUNET_i2s (receiver),
1100               ntohs (((struct GNUNET_MessageHeader *) mq->message_buf)->type),
1101               (success == GNUNET_OK) ? "success" : "FAILURE");
1102   if (NULL != mq->cont)
1103     mq->cont (mq->cont_cls, success);
1104   GNUNET_free (mq);
1105 }
1106
1107
1108 /**
1109  * Check the message list for the given neighbour and if we can
1110  * send a message, do so.  This function should only be called
1111  * if the connection is at least generally ready for transmission.
1112  * While we will only send one message at a time, no bandwidth
1113  * quota management is performed here.  If a message was given to
1114  * the plugin, the continuation will automatically re-schedule
1115  * the 'master' task once the next message might be transmitted.
1116  *
1117  * @param n target peer for which to transmit
1118  */
1119 static void
1120 try_transmission_to_peer (struct NeighbourMapEntry *n)
1121 {
1122   struct MessageQueue *mq;
1123   struct GNUNET_TIME_Relative timeout;
1124
1125   if (NULL == n->primary_address.address)
1126   {
1127     /* no address, why are we here? */
1128     GNUNET_break (0);
1129     return;
1130   }
1131   if ((0 == n->primary_address.address->address_length) && 
1132       (NULL == n->primary_address.session))
1133   {
1134     /* no address, why are we here? */
1135     GNUNET_break (0);
1136     return;
1137   }
1138   if (NULL != n->is_active)
1139   {
1140     /* transmission already pending */
1141     return;                     
1142   }
1143
1144   /* timeout messages from the queue that are past their due date */
1145   while (NULL != (mq = n->messages_head))
1146   {
1147     timeout = GNUNET_TIME_absolute_get_remaining (mq->timeout);
1148     if (timeout.rel_value > 0)
1149       break;
1150     GNUNET_STATISTICS_update (GST_stats,
1151                               gettext_noop
1152                               ("# messages timed out while in transport queue"),
1153                               1, GNUNET_NO);
1154     GNUNET_CONTAINER_DLL_remove (n->messages_head, n->messages_tail, mq);
1155     n->is_active = mq;
1156     transmit_send_continuation (mq, &n->id, GNUNET_SYSERR);     /* timeout */
1157   }
1158   if (NULL == mq)
1159     return;                     /* no more messages */
1160   GNUNET_CONTAINER_DLL_remove (n->messages_head, n->messages_tail, mq);
1161   n->is_active = mq;
1162   send_with_session (n,
1163                      mq->message_buf, mq->message_buf_size,
1164                      0 /* priority */, timeout,
1165                      &transmit_send_continuation, mq);
1166 }
1167
1168
1169 /**
1170  * Send keepalive message to the neighbour.  Must only be called
1171  * if we are on 'connected' state.  Will internally determine
1172  * if a keepalive is truly needed (so can always be called).
1173  *
1174  * @param n neighbour that went idle and needs a keepalive
1175  */
1176 static void
1177 send_keepalive (struct NeighbourMapEntry *n)
1178 {
1179   struct GNUNET_MessageHeader m;
1180
1181   GNUNET_assert (S_CONNECTED == n->state);
1182   if (GNUNET_TIME_absolute_get_remaining (n->keep_alive_time).rel_value > 0)
1183     return; /* no keepalive needed at this time */
1184   m.size = htons (sizeof (struct GNUNET_MessageHeader));
1185   m.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_KEEPALIVE);
1186   send_with_session (n,
1187                      (const void *) &m, sizeof (m),
1188                      UINT32_MAX /* priority */,
1189                      KEEPALIVE_FREQUENCY,
1190                      NULL, NULL);
1191   GNUNET_STATISTICS_update (GST_stats, gettext_noop ("# keepalives sent"), 1,
1192                             GNUNET_NO);
1193   n->expect_latency_response = GNUNET_YES;
1194   n->last_keep_alive_time = GNUNET_TIME_absolute_get ();
1195   n->keep_alive_time = GNUNET_TIME_relative_to_absolute (KEEPALIVE_FREQUENCY);
1196 }
1197
1198
1199 /**
1200  * Keep the connection to the given neighbour alive longer,
1201  * we received a KEEPALIVE (or equivalent); send a response.
1202  *
1203  * @param neighbour neighbour to keep alive (by sending keep alive response)
1204  */
1205 void
1206 GST_neighbours_keepalive (const struct GNUNET_PeerIdentity *neighbour)
1207 {
1208   struct NeighbourMapEntry *n;
1209   struct GNUNET_MessageHeader m;
1210
1211   if (NULL == (n = lookup_neighbour (neighbour)))
1212   {
1213     GNUNET_STATISTICS_update (GST_stats,
1214                               gettext_noop
1215                               ("# KEEPALIVE messages discarded (peer unknown)"),
1216                               1, GNUNET_NO);
1217     return;
1218   }
1219   if (NULL == n->primary_address.session)
1220   {
1221     GNUNET_STATISTICS_update (GST_stats,
1222                               gettext_noop
1223                               ("# KEEPALIVE messages discarded (no session)"),
1224                               1, GNUNET_NO);
1225     return;
1226   }
1227   /* send reply to allow neighbour to measure latency */
1228   m.size = htons (sizeof (struct GNUNET_MessageHeader));
1229   m.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_KEEPALIVE_RESPONSE);
1230   send_with_session(n,
1231                     (const void *) &m, sizeof (m),
1232                     UINT32_MAX /* priority */,
1233                     KEEPALIVE_FREQUENCY,
1234                     NULL, NULL);
1235 }
1236
1237
1238 /**
1239  * We received a KEEP_ALIVE_RESPONSE message and use this to calculate
1240  * latency to this peer.  Pass the updated information (existing ats
1241  * plus calculated latency) to ATS.
1242  *
1243  * @param neighbour neighbour to keep alive
1244  * @param ats performance data
1245  * @param ats_count number of entries in ats
1246  */
1247 void
1248 GST_neighbours_keepalive_response (const struct GNUNET_PeerIdentity *neighbour,
1249                                    const struct GNUNET_ATS_Information *ats,
1250                                    uint32_t ats_count)
1251 {
1252   struct NeighbourMapEntry *n;
1253   uint32_t latency;
1254   struct GNUNET_ATS_Information ats_new[ats_count + 1];
1255
1256   if (NULL == (n = lookup_neighbour (neighbour)))
1257   {
1258     GNUNET_STATISTICS_update (GST_stats,
1259                               gettext_noop
1260                               ("# KEEPALIVE_RESPONSE messages discarded (not connected)"),
1261                               1, GNUNET_NO);
1262     return;
1263   }
1264   if ( (S_CONNECTED != n->state) ||
1265        (GNUNET_YES != n->expect_latency_response) )
1266   {
1267     GNUNET_STATISTICS_update (GST_stats,
1268                               gettext_noop
1269                               ("# KEEPALIVE_RESPONSE messages discarded (not expected)"),
1270                               1, GNUNET_NO);
1271     return;
1272   }
1273   n->expect_latency_response = GNUNET_NO;
1274   n->latency = GNUNET_TIME_absolute_get_duration (n->last_keep_alive_time);
1275   n->timeout = GNUNET_TIME_relative_to_absolute (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
1276   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, 
1277               "Latency for peer `%s' is %llu ms\n",
1278               GNUNET_i2s (&n->id), n->latency.rel_value);
1279   memcpy (ats_new, ats, sizeof (struct GNUNET_ATS_Information) * ats_count);
1280   /* append latency */
1281   ats_new[ats_count].type = htonl (GNUNET_ATS_QUALITY_NET_DELAY);
1282   if (n->latency.rel_value > UINT32_MAX)
1283     latency = UINT32_MAX;
1284   else
1285     latency = n->latency.rel_value;
1286   ats_new[ats_count].value = htonl (latency);
1287   GNUNET_ATS_address_update (GST_ats, 
1288                              n->primary_address.address, 
1289                              n->primary_address.session, ats_new,
1290                              ats_count + 1);
1291 }
1292
1293
1294 /**
1295  * We have received a message from the given sender.  How long should
1296  * we delay before receiving more?  (Also used to keep the peer marked
1297  * as live).
1298  *
1299  * @param sender sender of the message
1300  * @param size size of the message
1301  * @param do_forward set to GNUNET_YES if the message should be forwarded to clients
1302  *                   GNUNET_NO if the neighbour is not connected or violates the quota,
1303  *                   GNUNET_SYSERR if the connection is not fully up yet
1304  * @return how long to wait before reading more from this sender
1305  */
1306 struct GNUNET_TIME_Relative
1307 GST_neighbours_calculate_receive_delay (const struct GNUNET_PeerIdentity
1308                                         *sender, ssize_t size, int *do_forward)
1309 {
1310   struct NeighbourMapEntry *n;
1311   struct GNUNET_TIME_Relative ret;
1312   
1313   if (NULL == neighbours)
1314   {
1315     *do_forward = GNUNET_NO;
1316     return GNUNET_TIME_UNIT_FOREVER_REL; /* This can happen during shutdown */
1317   }
1318   if (NULL == (n = lookup_neighbour (sender)))
1319   {
1320     GST_neighbours_try_connect (sender);
1321     if (NULL == (n = lookup_neighbour (sender)))
1322     {
1323       GNUNET_STATISTICS_update (GST_stats,
1324                                 gettext_noop
1325                                 ("# messages discarded due to lack of neighbour record"),
1326                                 1, GNUNET_NO);
1327       *do_forward = GNUNET_NO;
1328       return GNUNET_TIME_UNIT_ZERO;
1329     }
1330   }
1331   if (! test_connected (n))
1332   {
1333     *do_forward = GNUNET_SYSERR;
1334     return GNUNET_TIME_UNIT_ZERO;
1335   }
1336   if (GNUNET_YES == GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker, size))
1337   {
1338     n->quota_violation_count++;
1339     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1340                 "Bandwidth quota (%u b/s) violation detected (total of %u).\n",
1341                 n->in_tracker.available_bytes_per_s__,
1342                 n->quota_violation_count);
1343     /* Discount 32k per violation */
1344     GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker, -32 * 1024);
1345   }
1346   else
1347   {
1348     if (n->quota_violation_count > 0)
1349     {
1350       /* try to add 32k back */
1351       GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker, 32 * 1024);
1352       n->quota_violation_count--;
1353     }
1354   }
1355   if (n->quota_violation_count > QUOTA_VIOLATION_DROP_THRESHOLD)
1356   {
1357     GNUNET_STATISTICS_update (GST_stats,
1358                               gettext_noop
1359                               ("# bandwidth quota violations by other peers"),
1360                               1, GNUNET_NO);
1361     *do_forward = GNUNET_NO;
1362     return GNUNET_CONSTANTS_QUOTA_VIOLATION_TIMEOUT;
1363   }
1364   *do_forward = GNUNET_YES;
1365   ret = GNUNET_BANDWIDTH_tracker_get_delay (&n->in_tracker, 32 * 1024);
1366   if (ret.rel_value > 0)
1367   {
1368     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1369                 "Throttling read (%llu bytes excess at %u b/s), waiting %llu ms before reading more.\n",
1370                 (unsigned long long) n->in_tracker.
1371                 consumption_since_last_update__,
1372                 (unsigned int) n->in_tracker.available_bytes_per_s__,
1373                 (unsigned long long) ret.rel_value);
1374     GNUNET_STATISTICS_update (GST_stats,
1375                               gettext_noop ("# ms throttling suggested"),
1376                               (int64_t) ret.rel_value, GNUNET_NO);
1377   }
1378   return ret;
1379 }
1380
1381
1382 /**
1383  * Transmit a message to the given target using the active connection.
1384  *
1385  * @param target destination
1386  * @param msg message to send
1387  * @param msg_size number of bytes in msg
1388  * @param timeout when to fail with timeout
1389  * @param cont function to call when done
1390  * @param cont_cls closure for 'cont'
1391  */
1392 void
1393 GST_neighbours_send (const struct GNUNET_PeerIdentity *target, const void *msg,
1394                      size_t msg_size, struct GNUNET_TIME_Relative timeout,
1395                      GST_NeighbourSendContinuation cont, void *cont_cls)
1396 {
1397   struct NeighbourMapEntry *n;
1398   struct MessageQueue *mq;
1399
1400   /* All ove these cases should never happen; they are all API violations.
1401      But we check anyway, just to be sure. */
1402   if (NULL == (n = lookup_neighbour (target)))
1403   {
1404     GNUNET_break (0);
1405     if (NULL != cont)
1406       cont (cont_cls, GNUNET_SYSERR);
1407     return;
1408   }
1409   if (GNUNET_YES != test_connected (n))
1410   {
1411     GNUNET_break (0);
1412     if (NULL != cont)
1413       cont (cont_cls, GNUNET_SYSERR);
1414     return;
1415   }
1416   if ((NULL == n->primary_address.session) && (NULL == n->primary_address.address))
1417   {
1418     GNUNET_break (0);
1419     if (NULL != cont)
1420       cont (cont_cls, GNUNET_SYSERR);
1421     return;
1422   }
1423
1424   bytes_in_send_queue += msg_size;
1425   GNUNET_STATISTICS_set (GST_stats,
1426                          gettext_noop
1427                          ("# bytes in message queue for other peers"),
1428                          bytes_in_send_queue, GNUNET_NO);
1429   mq = GNUNET_malloc (sizeof (struct MessageQueue) + msg_size);
1430   mq->cont = cont;
1431   mq->cont_cls = cont_cls;
1432   memcpy (&mq[1], msg, msg_size);
1433   mq->message_buf = (const char *) &mq[1];
1434   mq->message_buf_size = msg_size;
1435   mq->timeout = GNUNET_TIME_relative_to_absolute (timeout);
1436   GNUNET_CONTAINER_DLL_insert_tail (n->messages_head, n->messages_tail, mq);
1437   if (NULL != n->is_active)
1438     return;
1439   GNUNET_SCHEDULER_cancel (n->task);
1440   n->task = GNUNET_SCHEDULER_add_now (&master_task, n);
1441 }
1442
1443
1444 /**
1445  * Send a SESSION_CONNECT message via the given address.
1446  *
1447  * @param na address to use
1448  */
1449 static void
1450 send_session_connect (struct NeighbourAddress *na)
1451 {
1452   struct GNUNET_TRANSPORT_PluginFunctions *papi;
1453   struct SessionConnectMessage connect_msg;
1454   
1455   if (NULL == (papi = GST_plugins_find (na->address->transport_name)))  
1456   {
1457     GNUNET_break (0);
1458     return;
1459   }
1460   if (NULL == na->session)
1461     na->session = papi->get_session (papi->cls, na->address);    
1462   if (NULL == na->session)
1463   {
1464     GNUNET_break (0);
1465     return;
1466   }
1467   na->connect_timestamp = GNUNET_TIME_absolute_get ();
1468   connect_msg.header.size = htons (sizeof (struct SessionConnectMessage));
1469   connect_msg.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_CONNECT);
1470   connect_msg.reserved = htonl (0);
1471   connect_msg.timestamp = GNUNET_TIME_absolute_hton (na->connect_timestamp);
1472   (void) papi->send (papi->cls,
1473                      na->session,
1474                      (const char *) &connect_msg, sizeof (struct SessionConnectMessage),
1475                      UINT_MAX,
1476                      GNUNET_TIME_UNIT_FOREVER_REL,
1477                      NULL, NULL);
1478 }
1479
1480
1481 /**
1482  * Send a SESSION_CONNECT_ACK message via the given address.
1483  *
1484  * @param address address to use
1485  * @param session session to use
1486  * @param timestamp timestamp to use for the ACK message
1487  */
1488 static void
1489 send_session_connect_ack_message (const struct GNUNET_HELLO_Address *address,
1490                                   struct Session *session,
1491                                   struct GNUNET_TIME_Absolute timestamp)
1492 {
1493   struct GNUNET_TRANSPORT_PluginFunctions *papi;
1494   struct SessionConnectMessage connect_msg;
1495   
1496   if (NULL == (papi = GST_plugins_find (address->transport_name)))  
1497   {
1498     GNUNET_break (0);
1499     return;
1500   }
1501   if (NULL == session)
1502     session = papi->get_session (papi->cls, address);    
1503   if (NULL == session)
1504   {
1505     GNUNET_break (0);
1506     return;
1507   }
1508   connect_msg.header.size = htons (sizeof (struct SessionConnectMessage));
1509   connect_msg.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_CONNECT_ACK);
1510   connect_msg.reserved = htonl (0);
1511   connect_msg.timestamp = GNUNET_TIME_absolute_hton (timestamp);
1512   (void) papi->send (papi->cls,
1513                      session,
1514                      (const char *) &connect_msg, sizeof (struct SessionConnectMessage),
1515                      UINT_MAX,
1516                      GNUNET_TIME_UNIT_FOREVER_REL,
1517                      NULL, NULL);
1518 }
1519
1520
1521 /**
1522  * Create a fresh entry in the neighbour map for the given peer
1523  *
1524  * @param peer peer to create an entry for
1525  * @return new neighbour map entry
1526  */
1527 static struct NeighbourMapEntry *
1528 setup_neighbour (const struct GNUNET_PeerIdentity *peer)
1529 {
1530   struct NeighbourMapEntry *n;
1531
1532   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1533               "Creating new neighbour entry for `%s'\n", 
1534               GNUNET_i2s (peer));
1535   n = GNUNET_malloc (sizeof (struct NeighbourMapEntry));
1536   n->id = *peer;
1537   n->state = S_NOT_CONNECTED;
1538   n->latency = GNUNET_TIME_UNIT_FOREVER_REL;
1539   GNUNET_BANDWIDTH_tracker_init (&n->in_tracker,
1540                                  GNUNET_CONSTANTS_DEFAULT_BW_IN_OUT,
1541                                  MAX_BANDWIDTH_CARRY_S);
1542   n->task = GNUNET_SCHEDULER_add_now (&master_task, n);
1543   GNUNET_assert (GNUNET_OK ==
1544                  GNUNET_CONTAINER_multihashmap_put (neighbours,
1545                                                     &n->id.hashPubKey, n,
1546                                                     GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
1547   return n;
1548 }
1549
1550
1551 /**
1552  * Check if the two given addresses are the same.
1553  * Actually only checks if the sessions are non-NULL
1554  * (which they should be) and then if they are identical;
1555  * the actual addresses don't matter if the session
1556  * pointers match anyway, and we must have session pointers
1557  * at this time.
1558  *
1559  * @param a1 first address to compare
1560  * @param a2 other address to compare
1561  * @return GNUNET_NO if the addresses do not match, GNUNET_YES if they do match
1562  */
1563 static int
1564 address_matches (const struct NeighbourAddress *a1,
1565                  const struct NeighbourAddress *a2)
1566 {
1567   if ( (NULL == a1->session) ||
1568        (NULL == a2->session) )
1569   {
1570     GNUNET_break (0);
1571     return 0;
1572   }
1573   return (a1->session == a2->session) ? GNUNET_YES : GNUNET_NO;
1574 }
1575
1576
1577 /**
1578  * Try to create a connection to the given target (eventually).
1579  *
1580  * @param target peer to try to connect to
1581  */
1582 void
1583 GST_neighbours_try_connect (const struct GNUNET_PeerIdentity *target)
1584 {
1585   struct NeighbourMapEntry *n;
1586
1587   if (NULL == neighbours)  
1588     return; /* during shutdown, do nothing */
1589   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, 
1590               "Asked to connect to peer `%s'\n",
1591               GNUNET_i2s (target));
1592   if (0 ==
1593       memcmp (target, &GST_my_identity, sizeof (struct GNUNET_PeerIdentity)))
1594   {
1595     /* refuse to connect to myself */
1596     /* FIXME: can this happen? Is this not an API violation? */
1597     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1598                 "Refusing to try to connect to myself.\n");
1599     return;
1600   }
1601   n = lookup_neighbour (target);
1602   if (NULL != n)
1603   {
1604     switch (n->state)
1605     {
1606     case S_NOT_CONNECTED:
1607       /* this should not be possible */
1608       GNUNET_break (0);
1609       free_neighbour (n);
1610       break;
1611     case S_INIT_ATS:
1612     case S_INIT_BLACKLIST:
1613     case S_CONNECT_SENT:
1614     case S_CONNECT_RECV_ATS:
1615     case S_CONNECT_RECV_BLACKLIST:
1616     case S_CONNECT_RECV_ACK:
1617       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1618                   "Ignoring request to try to connect to `%s', already trying!\n",
1619                   GNUNET_i2s (target));
1620       return; /* already trying */
1621     case S_CONNECTED:      
1622     case S_RECONNECT_ATS:
1623     case S_RECONNECT_BLACKLIST:
1624     case S_RECONNECT_SENT:
1625     case S_CONNECTED_SWITCHING_BLACKLIST:
1626     case S_CONNECTED_SWITCHING_CONNECT_SENT:
1627       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1628                   "Ignoring request to try to connect, already connected to `%s'!\n",
1629                   GNUNET_i2s (target));
1630       return; /* already connected */
1631     case S_DISCONNECT:
1632       /* get rid of remains, ready to re-try immediately */
1633       free_neighbour (n);
1634       break;
1635     case S_DISCONNECT_FINISHED:
1636       /* should not be possible */      
1637       GNUNET_assert (0); 
1638     default:
1639       GNUNET_break (0);
1640       free_neighbour (n);
1641       break;
1642     }
1643   }
1644   n = setup_neighbour (target);  
1645   n->state = S_INIT_ATS; 
1646   n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
1647   GNUNET_ATS_suggest_address (GST_ats, target);
1648 }
1649
1650
1651 /**
1652  * Function called with the result of a blacklist check.
1653  *
1654  * @param cls closure with the 'struct BlackListCheckContext'
1655  * @param peer peer this check affects
1656  * @param result GNUNET_OK if the address is allowed
1657  */
1658 static void
1659 handle_test_blacklist_cont (void *cls,
1660                             const struct GNUNET_PeerIdentity *peer,
1661                             int result)
1662 {
1663   struct BlackListCheckContext *bcc = cls;
1664   struct NeighbourMapEntry *n;
1665
1666   bcc->bc = NULL;
1667   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1668               "Connection to new address of peer `%s' based on blacklist is `%s'\n",
1669               GNUNET_i2s (peer),
1670               (GNUNET_OK == result) ? "allowed" : "FORBIDDEN");
1671   if (GNUNET_OK == result)
1672   {
1673     /* valid new address, let ATS know! */
1674     GNUNET_ATS_address_update (GST_ats, 
1675                                bcc->na.address, 
1676                                bcc->na.session, 
1677                                bcc->ats, bcc->ats_count);
1678   }
1679   if (NULL == (n = lookup_neighbour (peer)))
1680     goto cleanup; /* nobody left to care about new address */
1681   switch (n->state)
1682   {
1683   case S_NOT_CONNECTED:
1684     /* this should not be possible */
1685     GNUNET_break (0);
1686     free_neighbour (n);
1687     break;
1688   case S_INIT_ATS:
1689     /* still waiting on ATS suggestion */
1690     break;
1691   case S_INIT_BLACKLIST:
1692     /* check if the address the blacklist was fine with matches
1693        ATS suggestion, if so, we can move on! */
1694     if (GNUNET_YES != address_matches (&bcc->na, &n->primary_address))
1695       break; /* result for an address we currently don't care about */
1696     if (GNUNET_OK == result)
1697     {
1698       n->timeout = GNUNET_TIME_relative_to_absolute (SETUP_CONNECTION_TIMEOUT);
1699       n->state = S_CONNECT_SENT;
1700       send_session_connect (&n->primary_address);
1701       if (1 == n->send_connect_ack) 
1702       {
1703         n->send_connect_ack = 2;
1704         send_session_connect_ack_message (bcc->na.address,
1705                                           bcc->na.session,
1706                                           n->connect_ack_timestamp);
1707       }
1708     }
1709     else
1710     {
1711       GNUNET_ATS_address_destroyed (GST_ats,
1712                                     bcc->na.address,
1713                                     NULL);
1714       n->state = S_INIT_ATS;
1715       n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
1716       // FIXME: do we need to ask ATS again for suggestions?
1717       GNUNET_ATS_suggest_address (GST_ats, &n->id);
1718     }
1719     break;
1720   case S_CONNECT_SENT:
1721     /* waiting on CONNECT_ACK, don't care about blacklist */
1722     break; 
1723   case S_CONNECT_RECV_ATS:
1724     /* still waiting on ATS suggestion, don't care about blacklist */
1725     break; 
1726   case S_CONNECT_RECV_BLACKLIST:
1727     if (GNUNET_YES != address_matches (&bcc->na, &n->primary_address))
1728       break; /* result for an address we currently don't care about */
1729     if (GNUNET_OK == result)
1730     {
1731       n->timeout = GNUNET_TIME_relative_to_absolute (SETUP_CONNECTION_TIMEOUT);
1732       n->state = S_CONNECT_RECV_ACK;
1733       send_session_connect_ack_message (bcc->na.address,
1734                                         bcc->na.session,
1735                                         n->connect_ack_timestamp);
1736       if (1 == n->send_connect_ack) 
1737         n->send_connect_ack = 2;
1738     }
1739     else
1740     {
1741       GNUNET_ATS_address_destroyed (GST_ats,
1742                                     bcc->na.address,
1743                                     NULL);
1744       n->state = S_INIT_ATS;
1745       n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
1746       // FIXME: do we need to ask ATS again for suggestions?
1747       GNUNET_ATS_suggest_address (GST_ats, &n->id);
1748     }
1749     break;
1750   case S_CONNECT_RECV_ACK:
1751     /* waiting on SESSION_ACK, don't care about blacklist */
1752     break; 
1753   case S_CONNECTED:
1754     /* already connected, don't care about blacklist */
1755     break;
1756   case S_RECONNECT_ATS:
1757     /* still waiting on ATS suggestion, don't care about blacklist */
1758     break;     
1759   case S_RECONNECT_BLACKLIST:
1760     if (GNUNET_YES != address_matches (&bcc->na, &n->primary_address))
1761       break; /* result for an address we currently don't care about */
1762     if (GNUNET_OK == result)
1763     {
1764       send_session_connect (&n->primary_address);
1765       n->timeout = GNUNET_TIME_relative_to_absolute (FAST_RECONNECT_TIMEOUT);
1766       n->state = S_RECONNECT_SENT;
1767       if (1 == n->send_connect_ack) 
1768       {
1769         n->send_connect_ack = 2;
1770         send_session_connect_ack_message (bcc->na.address,
1771                                           bcc->na.session,
1772                                           n->connect_ack_timestamp);
1773       }
1774     }
1775     else
1776     {
1777       GNUNET_ATS_address_destroyed (GST_ats,
1778                                     bcc->na.address,
1779                                     NULL);
1780       n->state = S_RECONNECT_ATS;
1781       n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
1782       // FIXME: do we need to ask ATS again for suggestions?
1783       GNUNET_ATS_suggest_address (GST_ats, &n->id);
1784     }
1785     break;
1786   case S_RECONNECT_SENT:
1787     /* waiting on CONNECT_ACK, don't care about blacklist */
1788     break;     
1789   case S_CONNECTED_SWITCHING_BLACKLIST:
1790     if (GNUNET_YES != address_matches (&bcc->na, &n->alternative_address))
1791       break; /* result for an address we currently don't care about */
1792     if (GNUNET_OK == result)
1793     {
1794       send_session_connect (&n->alternative_address);
1795       n->state = S_CONNECTED_SWITCHING_CONNECT_SENT;
1796     }
1797     else
1798     {
1799       GNUNET_ATS_address_destroyed (GST_ats,
1800                                     bcc->na.address,
1801                                     NULL);
1802       free_address (&n->alternative_address);
1803       n->state = S_CONNECTED;
1804     }
1805     break;
1806   case S_CONNECTED_SWITCHING_CONNECT_SENT:
1807     /* waiting on CONNECT_ACK, don't care about blacklist */
1808     break;     
1809   case S_DISCONNECT:
1810     /* Nothing to do here, ATS will already do what can be done */
1811     break;
1812   case S_DISCONNECT_FINISHED:
1813     /* should not be possible */
1814     GNUNET_assert (0);
1815     break;
1816   default:
1817     GNUNET_break (0);
1818     free_neighbour (n);
1819     break;
1820   }
1821  cleanup:
1822   GNUNET_HELLO_address_free (bcc->na.address);
1823   GNUNET_CONTAINER_DLL_remove (bc_head,
1824                                bc_tail,
1825                                bcc);
1826   GNUNET_free (bcc);
1827 }
1828
1829
1830 /**
1831  * We want to know if connecting to a particular peer via
1832  * a particular address is allowed.  Check it!
1833  *
1834  * @param peer identity of the peer to switch the address for
1835  * @param ts time at which the check was initiated
1836  * @param address address of the other peer, NULL if other peer
1837  *                       connected to us
1838  * @param session session to use (or NULL)
1839  * @param ats performance data
1840  * @param ats_count number of entries in ats (excluding 0-termination)
1841  */
1842 static void
1843 check_blacklist (const struct GNUNET_PeerIdentity *peer,
1844                  struct GNUNET_TIME_Absolute ts,
1845                  const struct GNUNET_HELLO_Address *address,
1846                  struct Session *session,
1847                  const struct GNUNET_ATS_Information *ats,
1848                  uint32_t ats_count)
1849 {
1850   struct BlackListCheckContext *bcc;
1851   struct GST_BlacklistCheck *bc;
1852
1853   bcc =
1854       GNUNET_malloc (sizeof (struct BlackListCheckContext) +
1855                      sizeof (struct GNUNET_ATS_Information) * ats_count);
1856   bcc->ats_count = ats_count;
1857   bcc->na.address = GNUNET_HELLO_address_copy (address);
1858   bcc->na.session = session;
1859   bcc->na.connect_timestamp = ts;
1860   bcc->ats = (struct GNUNET_ATS_Information *) &bcc[1];
1861   memcpy (bcc->ats, ats, sizeof (struct GNUNET_ATS_Information) * ats_count);
1862   GNUNET_CONTAINER_DLL_insert (bc_head,
1863                                bc_tail,
1864                                bcc);
1865   if (NULL != (bc = GST_blacklist_test_allowed (peer, 
1866                                                 address->transport_name,
1867                                                 &handle_test_blacklist_cont, bcc)))
1868     bcc->bc = bc; 
1869   /* if NULL == bc, 'cont' was already called and 'bcc' already free'd, so
1870      we must only store 'bc' if 'bc' is non-NULL... */
1871 }
1872
1873
1874 /**
1875  * We received a 'SESSION_CONNECT' message from the other peer.
1876  * Consider switching to it.
1877  *
1878  * @param message possibly a 'struct SessionConnectMessage' (check format)
1879  * @param peer identity of the peer to switch the address for
1880  * @param address address of the other peer, NULL if other peer
1881  *                       connected to us
1882  * @param session session to use (or NULL)
1883  * @param ats performance data
1884  * @param ats_count number of entries in ats (excluding 0-termination)
1885  */
1886 void
1887 GST_neighbours_handle_connect (const struct GNUNET_MessageHeader *message,
1888                                const struct GNUNET_PeerIdentity *peer,
1889                                const struct GNUNET_HELLO_Address *address,
1890                                struct Session *session,
1891                                const struct GNUNET_ATS_Information *ats,
1892                                uint32_t ats_count)
1893 {
1894   const struct SessionConnectMessage *scm;
1895   struct NeighbourMapEntry *n;
1896   struct GNUNET_TIME_Absolute ts;
1897
1898   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1899               "Received CONNECT message from peer `%s'\n", 
1900               GNUNET_i2s (peer));
1901   if (ntohs (message->size) != sizeof (struct SessionConnectMessage))
1902   {
1903     GNUNET_break_op (0);
1904     return;
1905   }
1906   if (NULL == neighbours)
1907     return; /* we're shutting down */
1908   scm = (const struct SessionConnectMessage *) message;
1909   GNUNET_break_op (0 == ntohl (scm->reserved));
1910   ts = GNUNET_TIME_absolute_ntoh (scm->timestamp);
1911   n = lookup_neighbour (peer);
1912   if (NULL == n)
1913     n = setup_neighbour (peer);
1914   n->send_connect_ack = 1;
1915   n->connect_ack_timestamp = ts;
1916   switch (n->state)
1917   {  
1918   case S_NOT_CONNECTED:
1919     n->state = S_CONNECT_RECV_ATS;
1920     n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
1921     GNUNET_ATS_suggest_address (GST_ats, peer);
1922     check_blacklist (peer, ts, address, session, ats, ats_count);
1923     break;
1924   case S_INIT_ATS:
1925   case S_INIT_BLACKLIST:
1926   case S_CONNECT_SENT:
1927   case S_CONNECT_RECV_ATS:
1928   case S_CONNECT_RECV_BLACKLIST:
1929   case S_CONNECT_RECV_ACK:
1930     /* It can never hurt to have an alternative address in the above cases, 
1931        see if it is allowed */
1932     check_blacklist (peer, ts, address, session, ats, ats_count);
1933     break;
1934   case S_CONNECTED:
1935     /* we are already connected and can thus send the ACK immediately;
1936        still, it can never hurt to have an alternative address, so also
1937        tell ATS  about it */
1938     GNUNET_assert (NULL != n->primary_address.address);
1939     GNUNET_assert (NULL != n->primary_address.session);
1940     n->send_connect_ack = 0;
1941     send_session_connect_ack_message (n->primary_address.address,
1942                                       n->primary_address.session, ts);
1943     check_blacklist (peer, ts, address, session, ats, ats_count);
1944     break;
1945   case S_RECONNECT_ATS:
1946   case S_RECONNECT_BLACKLIST:
1947   case S_RECONNECT_SENT:
1948     /* It can never hurt to have an alternative address in the above cases, 
1949        see if it is allowed */
1950     check_blacklist (peer, ts, address, session, ats, ats_count);
1951     break;
1952   case S_CONNECTED_SWITCHING_BLACKLIST:
1953   case S_CONNECTED_SWITCHING_CONNECT_SENT:
1954     /* we are already connected and can thus send the ACK immediately;
1955        still, it can never hurt to have an alternative address, so also
1956        tell ATS  about it */
1957     GNUNET_assert (NULL != n->primary_address.address);
1958     GNUNET_assert (NULL != n->primary_address.session);
1959     n->send_connect_ack = 0;
1960     send_session_connect_ack_message (n->primary_address.address,
1961                                       n->primary_address.session, ts);
1962     check_blacklist (peer, ts, address, session, ats, ats_count);
1963     break;
1964   case S_DISCONNECT:
1965     /* get rid of remains, ready to re-try */
1966     free_neighbour (n);
1967     n = setup_neighbour (peer);
1968     n->state = S_CONNECT_RECV_ATS;
1969     GNUNET_ATS_suggest_address (GST_ats, peer);
1970     check_blacklist (peer, ts, address, session, ats, ats_count);
1971     break;
1972   case S_DISCONNECT_FINISHED:
1973     /* should not be possible */
1974     GNUNET_assert (0);
1975     break;
1976   default:
1977     GNUNET_break (0);
1978     free_neighbour (n);
1979     break;
1980   }
1981 }
1982
1983
1984 /**
1985  * For an existing neighbour record, set the active connection to
1986  * use the given address.  
1987  *
1988  * @param peer identity of the peer to switch the address for
1989  * @param address address of the other peer, NULL if other peer
1990  *                       connected to us
1991  * @param session session to use (or NULL)
1992  * @param ats performance data
1993  * @param ats_count number of entries in ats
1994  * @param bandwidth_in inbound quota to be used when connection is up
1995  * @param bandwidth_out outbound quota to be used when connection is up
1996  */
1997 void
1998 GST_neighbours_switch_to_address (const struct GNUNET_PeerIdentity *peer,
1999                                   const struct GNUNET_HELLO_Address *address,
2000                                   struct Session *session,
2001                                   const struct GNUNET_ATS_Information *ats,
2002                                   uint32_t ats_count,
2003                                   struct GNUNET_BANDWIDTH_Value32NBO
2004                                   bandwidth_in,
2005                                   struct GNUNET_BANDWIDTH_Value32NBO
2006                                   bandwidth_out)
2007 {
2008   struct NeighbourMapEntry *n;
2009   struct GNUNET_TRANSPORT_PluginFunctions *papi;
2010
2011   GNUNET_assert (address->transport_name != NULL);
2012   if (NULL == (n = lookup_neighbour (peer)))
2013     return;
2014
2015   /* Obtain an session for this address from plugin */
2016   if (NULL == (papi = GST_plugins_find (address->transport_name)))
2017   {
2018     /* we don't have the plugin for this address */
2019     GNUNET_ATS_address_destroyed (GST_ats, address, NULL);
2020     return;
2021   }
2022   if ((NULL == session) && (0 == address->address_length))
2023   {
2024     GNUNET_break (0);
2025     if (strlen (address->transport_name) > 0)
2026       GNUNET_ATS_address_destroyed (GST_ats, address, session);
2027     return;
2028   }
2029   if (NULL == session)
2030     session = papi->get_session (papi->cls, address);
2031   if (NULL == session)
2032   {
2033     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2034                 "Failed to obtain new session for peer `%s' and  address '%s'\n",
2035                 GNUNET_i2s (&address->peer), GST_plugins_a2s (address));    
2036     GNUNET_ATS_address_destroyed (GST_ats, address, NULL);
2037     return;
2038   }
2039   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2040               "ATS tells us to switch to address '%s' for peer `%s'\n",
2041               (address->address_length != 0) ? GST_plugins_a2s (address): "<inbound>",
2042               GNUNET_i2s (peer));
2043   switch (n->state)
2044   {
2045   case S_NOT_CONNECTED:
2046     GNUNET_break (0);
2047     free_neighbour (n);
2048     return;
2049   case S_INIT_ATS:
2050     set_address (&n->primary_address,
2051                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2052     n->state = S_INIT_BLACKLIST;
2053     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2054     check_blacklist (&n->id,
2055                      n->connect_ack_timestamp,
2056                      address, session, ats, ats_count);    
2057     break;
2058   case S_INIT_BLACKLIST:
2059     /* ATS suggests a different address, switch again */
2060     set_address (&n->primary_address,
2061                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2062     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2063     check_blacklist (&n->id,
2064                      n->connect_ack_timestamp,
2065                      address, session, ats, ats_count);    
2066     break;
2067   case S_CONNECT_SENT:
2068     /* ATS suggests a different address, switch again */
2069     set_address (&n->primary_address,
2070                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2071     n->state = S_INIT_BLACKLIST;
2072     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2073     check_blacklist (&n->id,
2074                      n->connect_ack_timestamp,
2075                      address, session, ats, ats_count);    
2076     break;
2077   case S_CONNECT_RECV_ATS:
2078     set_address (&n->primary_address,
2079                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2080     n->state = S_CONNECT_RECV_BLACKLIST;
2081     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2082     check_blacklist (&n->id,
2083                      n->connect_ack_timestamp,
2084                      address, session, ats, ats_count);    
2085     break;
2086   case S_CONNECT_RECV_BLACKLIST:
2087     /* ATS asks us to switch while we were trying to connect; switch to new
2088        address and check blacklist again */
2089     set_address (&n->primary_address,
2090                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2091     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2092     check_blacklist (&n->id,
2093                      n->connect_ack_timestamp,
2094                      address, session, ats, ats_count);    
2095     break;
2096   case S_CONNECTED:
2097     GNUNET_assert (NULL != n->primary_address.address);
2098     GNUNET_assert (NULL != n->primary_address.session);
2099     if (n->primary_address.session == session)
2100     {
2101       /* not an address change, just a quota change */
2102       set_address (&n->primary_address,
2103                    address, session, bandwidth_in, bandwidth_out, GNUNET_YES);
2104       break;
2105     }
2106     /* ATS asks us to switch a life connection; see if we can get
2107        a CONNECT_ACK on it before we actually do this! */
2108     set_address (&n->alternative_address,
2109                  address, session, bandwidth_in, bandwidth_out, GNUNET_YES);
2110     n->state = S_CONNECTED_SWITCHING_BLACKLIST;
2111     check_blacklist (&n->id,
2112                      GNUNET_TIME_absolute_get (),
2113                      address, session, ats, ats_count);
2114     break;
2115   case S_RECONNECT_ATS:
2116     set_address (&n->primary_address,
2117                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2118     n->state = S_RECONNECT_BLACKLIST;
2119     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2120     check_blacklist (&n->id,
2121                      n->connect_ack_timestamp,
2122                      address, session, ats, ats_count);    
2123     break;
2124   case S_RECONNECT_BLACKLIST:
2125     /* ATS asks us to switch while we were trying to reconnect; switch to new
2126        address and check blacklist again */
2127     set_address (&n->primary_address,
2128                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2129     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2130     check_blacklist (&n->id,
2131                      n->connect_ack_timestamp,
2132                      address, session, ats, ats_count);    
2133     break;
2134   case S_RECONNECT_SENT:
2135     /* ATS asks us to switch while we were trying to reconnect; switch to new
2136        address and check blacklist again */
2137     set_address (&n->primary_address,
2138                  address, session, bandwidth_in, bandwidth_out, GNUNET_NO);
2139     n->state = S_RECONNECT_BLACKLIST;
2140     n->timeout = GNUNET_TIME_relative_to_absolute (BLACKLIST_RESPONSE_TIMEOUT);
2141     check_blacklist (&n->id,
2142                      n->connect_ack_timestamp,
2143                      address, session, ats, ats_count); 
2144     break;
2145   case S_CONNECTED_SWITCHING_BLACKLIST:
2146     if (n->primary_address.session == session)
2147     {
2148       /* ATS switches back to still-active session */
2149       free_address (&n->alternative_address);
2150       n->state = S_CONNECTED;
2151       break;
2152     }
2153     /* ATS asks us to switch a life connection, update blacklist check */
2154     set_address (&n->alternative_address,
2155                  address, session, bandwidth_in, bandwidth_out, GNUNET_YES);
2156     check_blacklist (&n->id,
2157                      GNUNET_TIME_absolute_get (),
2158                      address, session, ats, ats_count);
2159     break;
2160   case S_CONNECTED_SWITCHING_CONNECT_SENT:
2161     if (n->primary_address.session == session)
2162     {
2163       /* ATS switches back to still-active session */
2164       free_address (&n->alternative_address);
2165       n->state = S_CONNECTED;
2166       break;
2167     }
2168     /* ATS asks us to switch a life connection, update blacklist check */
2169     set_address (&n->alternative_address,
2170                  address, session, bandwidth_in, bandwidth_out, GNUNET_YES);
2171     n->state = S_CONNECTED_SWITCHING_BLACKLIST;
2172     check_blacklist (&n->id,
2173                      GNUNET_TIME_absolute_get (),
2174                      address, session, ats, ats_count);
2175     break;
2176   case S_DISCONNECT:
2177     /* not going to switch addresses while disconnecting */
2178     return;
2179   case S_DISCONNECT_FINISHED:
2180     GNUNET_assert (0);
2181     break;
2182   default:
2183     GNUNET_break (0);
2184     break;
2185   }
2186 }
2187
2188
2189 /**
2190  * Master task run for every neighbour.  Performs all of the time-related
2191  * activities (keep alive, send next message, disconnect if idle, finish
2192  * clean up after disconnect).
2193  *
2194  * @param cls the 'struct NeighbourMapEntry' for which we are running
2195  * @param tc scheduler context (unused)
2196  */
2197 static void
2198 master_task (void *cls,
2199              const struct GNUNET_SCHEDULER_TaskContext *tc)
2200 {
2201   struct NeighbourMapEntry *n = cls;
2202   struct GNUNET_TIME_Relative delay;
2203
2204   n->task = GNUNET_SCHEDULER_NO_TASK;
2205   delay = GNUNET_TIME_absolute_get_remaining (n->timeout);  
2206   switch (n->state)
2207   {
2208   case S_NOT_CONNECTED:
2209     /* invalid state for master task, clean up */
2210     GNUNET_break (0);
2211     n->state = S_DISCONNECT_FINISHED;
2212     free_neighbour (n);
2213     return;
2214   case S_INIT_ATS:
2215     if (0 == delay.rel_value)
2216     {
2217       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2218                   "Connection to `%s' timed out waiting for ATS to provide address\n",
2219                   GNUNET_i2s (&n->id));
2220       n->state = S_DISCONNECT_FINISHED;
2221       free_neighbour (n);
2222       return;
2223     }
2224     break;
2225   case S_INIT_BLACKLIST:
2226     if (0 == delay.rel_value)
2227     {
2228       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2229                   "Connection to `%s' timed out waiting for BLACKLIST to approve address\n",
2230                   GNUNET_i2s (&n->id));
2231       n->state = S_DISCONNECT_FINISHED;
2232       free_neighbour (n);
2233       return;
2234     }
2235     break;
2236   case S_CONNECT_SENT:
2237     if (0 == delay.rel_value)
2238     {
2239       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2240                   "Connection to `%s' timed out waiting for other peer to send CONNECT_ACK\n",
2241                   GNUNET_i2s (&n->id));
2242       disconnect_neighbour (n);
2243       return;
2244     }
2245     break;
2246   case S_CONNECT_RECV_ATS:
2247     if (0 == delay.rel_value)
2248     {
2249       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2250                   "Connection to `%s' timed out waiting ATS to provide address to use for CONNECT_ACK\n",
2251                   GNUNET_i2s (&n->id));
2252       n->state = S_DISCONNECT_FINISHED;
2253       free_neighbour (n);
2254       return;
2255     }
2256     break;
2257   case S_CONNECT_RECV_BLACKLIST:
2258     if (0 == delay.rel_value)
2259     {
2260       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2261                   "Connection to `%s' timed out waiting BLACKLIST to approve address to use for CONNECT_ACK\n",
2262                   GNUNET_i2s (&n->id));
2263       n->state = S_DISCONNECT_FINISHED;
2264       free_neighbour (n);
2265       return;
2266     }
2267     break;
2268   case S_CONNECT_RECV_ACK:
2269     if (0 == delay.rel_value)
2270     {
2271       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2272                   "Connection to `%s' timed out waiting for other peer to send SESSION_ACK\n",
2273                   GNUNET_i2s (&n->id));
2274       disconnect_neighbour (n);
2275       return;
2276     }
2277     break;
2278   case S_CONNECTED:
2279     if (0 == delay.rel_value)
2280     {
2281       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2282                   "Connection to `%s' timed out, missing KEEPALIVE_RESPONSEs\n",
2283                   GNUNET_i2s (&n->id));
2284       disconnect_neighbour (n);
2285       return;
2286     }
2287     try_transmission_to_peer (n);
2288     send_keepalive (n);
2289     break;
2290   case S_RECONNECT_ATS:
2291     if (0 == delay.rel_value)
2292     {
2293       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2294                   "Connection to `%s' timed out, waiting for ATS replacement address\n",
2295                   GNUNET_i2s (&n->id));
2296       disconnect_neighbour (n);
2297       return;
2298     }
2299     break;
2300   case S_RECONNECT_BLACKLIST:
2301     if (0 == delay.rel_value)
2302     {
2303       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2304                   "Connection to `%s' timed out, waiting for BLACKLIST to approve replacement address\n",
2305                   GNUNET_i2s (&n->id));
2306       disconnect_neighbour (n);
2307       return;
2308     }
2309     break;
2310   case S_RECONNECT_SENT:
2311     if (0 == delay.rel_value)
2312     {
2313       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2314                   "Connection to `%s' timed out, waiting for other peer to CONNECT_ACK replacement address\n",
2315                   GNUNET_i2s (&n->id));
2316       disconnect_neighbour (n);
2317       return;
2318     }
2319     break;
2320   case S_CONNECTED_SWITCHING_BLACKLIST:
2321     if (0 == delay.rel_value)
2322     {
2323       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2324                   "Connection to `%s' timed out, missing KEEPALIVE_RESPONSEs\n",
2325                   GNUNET_i2s (&n->id));
2326       disconnect_neighbour (n);
2327       return;
2328     }
2329     try_transmission_to_peer (n);
2330     send_keepalive (n);
2331     break;
2332   case S_CONNECTED_SWITCHING_CONNECT_SENT:
2333     if (0 == delay.rel_value)
2334     {
2335       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2336                   "Connection to `%s' timed out, missing KEEPALIVE_RESPONSEs (after trying to CONNECT on alternative address)\n",
2337                   GNUNET_i2s (&n->id));
2338       disconnect_neighbour (n);
2339       return;
2340     }
2341     try_transmission_to_peer (n);
2342     send_keepalive (n);
2343     break;
2344   case S_DISCONNECT:
2345     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2346                 "Cleaning up connection to `%s' after sending DISCONNECT\n",
2347                 GNUNET_i2s (&n->id));
2348     n->state = S_DISCONNECT_FINISHED;
2349     free_neighbour (n);
2350     return;
2351   case S_DISCONNECT_FINISHED:
2352     /* how did we get here!? */
2353     GNUNET_assert (0);
2354     break;
2355   default:
2356     GNUNET_break (0);
2357     break;  
2358   }
2359   delay = GNUNET_TIME_relative_min (GNUNET_TIME_absolute_get_remaining (n->keep_alive_time),
2360                                     delay);
2361   GNUNET_assert (GNUNET_SCHEDULER_NO_TASK == n->task);
2362   n->task = GNUNET_SCHEDULER_add_delayed (delay,
2363                                           &master_task,
2364                                           n);
2365 }
2366
2367
2368 /**
2369  * Send a SESSION_ACK message to the neighbour to confirm that we
2370  * got his CONNECT_ACK.
2371  *
2372  * @param n neighbour to send the SESSION_ACK to
2373  */
2374 static void
2375 send_session_ack_message (struct NeighbourMapEntry *n)
2376 {
2377   struct GNUNET_MessageHeader msg;
2378
2379   msg.size = htons (sizeof (struct GNUNET_MessageHeader));
2380   msg.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_ACK);
2381   (void) send_with_session(n,
2382                            (const char *) &msg, sizeof (struct GNUNET_MessageHeader),
2383                            UINT32_MAX, GNUNET_TIME_UNIT_FOREVER_REL,
2384                            NULL, NULL);
2385 }
2386
2387
2388 /**
2389  * We received a 'SESSION_CONNECT_ACK' message from the other peer.
2390  * Consider switching to it.
2391  *
2392  * @param message possibly a 'struct SessionConnectMessage' (check format)
2393  * @param peer identity of the peer to switch the address for
2394  * @param address address of the other peer, NULL if other peer
2395  *                       connected to us
2396  * @param session session to use (or NULL)
2397  * @param ats performance data
2398  * @param ats_count number of entries in ats
2399  */
2400 void
2401 GST_neighbours_handle_connect_ack (const struct GNUNET_MessageHeader *message,
2402                                    const struct GNUNET_PeerIdentity *peer,
2403                                    const struct GNUNET_HELLO_Address *address,
2404                                    struct Session *session,
2405                                    const struct GNUNET_ATS_Information *ats,
2406                                    uint32_t ats_count)
2407 {
2408   const struct SessionConnectMessage *scm;
2409   struct GNUNET_TIME_Absolute ts;
2410   struct NeighbourMapEntry *n;
2411
2412   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2413               "Received CONNECT_ACK message from peer `%s'\n",
2414               GNUNET_i2s (peer));
2415   if (ntohs (message->size) != sizeof (struct SessionConnectMessage))
2416   {
2417     GNUNET_break_op (0);
2418     return;
2419   }
2420   scm = (const struct SessionConnectMessage *) message;
2421   GNUNET_break_op (ntohl (scm->reserved) == 0);
2422   if (NULL == (n = lookup_neighbour (peer)))
2423   {
2424     GNUNET_STATISTICS_update (GST_stats,
2425                               gettext_noop
2426                               ("# unexpected CONNECT_ACK messages (no peer)"),
2427                               1, GNUNET_NO);
2428     return;
2429   }
2430   ts = GNUNET_TIME_absolute_ntoh (scm->timestamp);
2431   switch (n->state)
2432   {
2433   case S_NOT_CONNECTED:
2434     GNUNET_break (0);
2435     free_neighbour (n);
2436     return;
2437   case S_INIT_ATS:
2438   case S_INIT_BLACKLIST:
2439     GNUNET_STATISTICS_update (GST_stats,
2440                               gettext_noop
2441                               ("# unexpected CONNECT_ACK messages (not ready)"),
2442                               1, GNUNET_NO);
2443     break;    
2444   case S_CONNECT_SENT:
2445     if (ts.abs_value != n->primary_address.connect_timestamp.abs_value)
2446       break; /* ACK does not match our original CONNECT message */
2447     n->state = S_CONNECTED;
2448     n->timeout = GNUNET_TIME_relative_to_absolute (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
2449     GNUNET_STATISTICS_set (GST_stats, 
2450                            gettext_noop ("# peers connected"), 
2451                            ++neighbours_connected,
2452                            GNUNET_NO);
2453     connect_notify_cb (callback_cls, &n->id, ats, ats_count);
2454     set_address (&n->primary_address,
2455                  n->primary_address.address,
2456                  n->primary_address.session,
2457                  n->primary_address.bandwidth_in,
2458                  n->primary_address.bandwidth_out,
2459                  GNUNET_YES);
2460     send_session_ack_message (n);
2461     break;
2462   case S_CONNECT_RECV_ATS:
2463   case S_CONNECT_RECV_BLACKLIST:
2464   case S_CONNECT_RECV_ACK:
2465     GNUNET_STATISTICS_update (GST_stats,
2466                               gettext_noop
2467                               ("# unexpected CONNECT_ACK messages (not ready)"),
2468                               1, GNUNET_NO);
2469     break;
2470   case S_CONNECTED:
2471     /* duplicate CONNECT_ACK, let's answer by duplciate SESSION_ACK just in case */
2472     send_session_ack_message (n);
2473     break;
2474   case S_RECONNECT_ATS:
2475   case S_RECONNECT_BLACKLIST:
2476     /* we didn't expect any CONNECT_ACK, as we are waiting for ATS
2477        to give us a new address... */
2478     GNUNET_STATISTICS_update (GST_stats,
2479                               gettext_noop
2480                               ("# unexpected CONNECT_ACK messages (waiting on ATS)"),
2481                               1, GNUNET_NO);
2482     break;
2483   case S_RECONNECT_SENT:
2484     /* new address worked; go back to connected! */
2485     n->state = S_CONNECTED;
2486     send_session_ack_message (n);
2487     break;
2488   case S_CONNECTED_SWITCHING_BLACKLIST:
2489     /* duplicate CONNECT_ACK, let's answer by duplciate SESSION_ACK just in case */
2490     send_session_ack_message (n);
2491     break;
2492   case S_CONNECTED_SWITCHING_CONNECT_SENT:
2493     /* new address worked; adopt it and go back to connected! */
2494     n->state = S_CONNECTED;
2495     n->timeout = GNUNET_TIME_relative_to_absolute (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
2496     GNUNET_assert (GNUNET_NO == n->alternative_address.ats_active);
2497     set_address (&n->primary_address,
2498                  n->alternative_address.address,
2499                  n->alternative_address.session,
2500                  n->alternative_address.bandwidth_in,
2501                  n->alternative_address.bandwidth_out,
2502                  GNUNET_YES);
2503     free_address (&n->alternative_address);
2504     send_session_ack_message (n);
2505     break;    
2506   case S_DISCONNECT:
2507     GNUNET_STATISTICS_update (GST_stats,
2508                               gettext_noop
2509                               ("# unexpected CONNECT_ACK messages (disconnecting)"),
2510                               1, GNUNET_NO);
2511     break;
2512   case S_DISCONNECT_FINISHED:
2513     GNUNET_assert (0);
2514     break;
2515   default:
2516     GNUNET_break (0);
2517     break;   
2518   }
2519 }
2520
2521
2522 /**
2523  * A session was terminated. Take note; if needed, try to get
2524  * an alternative address from ATS.
2525  *
2526  * @param peer identity of the peer where the session died
2527  * @param session session that is gone
2528  */
2529 void
2530 GST_neighbours_session_terminated (const struct GNUNET_PeerIdentity *peer,
2531                                    struct Session *session)
2532 {
2533   struct NeighbourMapEntry *n;
2534   struct BlackListCheckContext *bcc;
2535   struct BlackListCheckContext *bcc_next;
2536
2537   /* make sure to cancel all ongoing blacklist checks involving 'session' */
2538   bcc_next = bc_head;
2539   while (NULL != (bcc = bcc_next))
2540   {
2541     bcc_next = bcc->next;
2542     if (bcc->na.session == session)
2543     {
2544       GST_blacklist_test_cancel (bcc->bc);
2545       GNUNET_HELLO_address_free (bcc->na.address);
2546       GNUNET_CONTAINER_DLL_remove (bc_head,
2547                                    bc_tail,
2548                                    bcc);
2549       GNUNET_free (bcc);
2550     }
2551   }
2552   if (NULL == (n = lookup_neighbour (peer)))
2553     return; /* can't affect us */
2554   if (session != n->primary_address.session)
2555   {
2556     if (session == n->alternative_address.session)
2557     {
2558       free_address (&n->alternative_address);
2559       if ( (S_CONNECTED_SWITCHING_BLACKLIST == n->state) ||
2560            (S_CONNECTED_SWITCHING_CONNECT_SENT == n->state) )
2561         n->state = S_CONNECTED;
2562       else
2563         GNUNET_break (0);
2564     }
2565     return; /* doesn't affect us further */
2566   }
2567
2568   n->expect_latency_response = GNUNET_NO;
2569
2570   switch (n->state)
2571   {
2572   case S_NOT_CONNECTED:
2573     GNUNET_break (0);
2574     free_neighbour (n);
2575     return;
2576   case S_INIT_ATS:
2577     GNUNET_break (0);
2578     free_neighbour (n);
2579     return;
2580   case S_INIT_BLACKLIST:
2581   case S_CONNECT_SENT:
2582     free_address (&n->primary_address);
2583     n->state = S_INIT_ATS;
2584     n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
2585     // FIXME: need to ask ATS for suggestions again?
2586     GNUNET_ATS_suggest_address (GST_ats, &n->id);
2587     break;
2588   case S_CONNECT_RECV_ATS:    
2589   case S_CONNECT_RECV_BLACKLIST:
2590   case S_CONNECT_RECV_ACK:
2591     /* error on inbound session; free neighbour entirely */
2592     free_address (&n->primary_address);
2593     free_neighbour (n);
2594     return;
2595   case S_CONNECTED:
2596     free_address (&n->primary_address);
2597     n->state = S_RECONNECT_ATS;
2598     n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
2599     /* FIXME: is this ATS call needed? */
2600     GNUNET_ATS_suggest_address (GST_ats, &n->id);
2601     break;
2602   case S_RECONNECT_ATS:
2603     /* we don't have an address, how can it go down? */
2604     GNUNET_break (0);
2605     break;
2606   case S_RECONNECT_BLACKLIST:
2607   case S_RECONNECT_SENT:
2608     n->state = S_RECONNECT_ATS;
2609     n->timeout = GNUNET_TIME_relative_to_absolute (ATS_RESPONSE_TIMEOUT);
2610     // FIXME: need to ask ATS for suggestions again?
2611     GNUNET_ATS_suggest_address (GST_ats, &n->id);
2612     break;
2613   case S_CONNECTED_SWITCHING_BLACKLIST:
2614     /* primary went down while we were checking secondary against
2615        blacklist, adopt secondary as primary */       
2616     free_address (&n->primary_address);
2617     n->primary_address = n->alternative_address;
2618     memset (&n->alternative_address, 0, sizeof (struct NeighbourAddress));
2619     n->timeout = GNUNET_TIME_relative_to_absolute (FAST_RECONNECT_TIMEOUT);
2620     n->state = S_RECONNECT_BLACKLIST;
2621     break;
2622   case S_CONNECTED_SWITCHING_CONNECT_SENT:
2623     /* primary went down while we were waiting for CONNECT_ACK on secondary;
2624        secondary as primary */       
2625     free_address (&n->primary_address);
2626     n->primary_address = n->alternative_address;
2627     memset (&n->alternative_address, 0, sizeof (struct NeighbourAddress));
2628     n->timeout = GNUNET_TIME_relative_to_absolute (FAST_RECONNECT_TIMEOUT);
2629     n->state = S_RECONNECT_SENT;
2630     break;
2631   case S_DISCONNECT:
2632     free_address (&n->primary_address);
2633     break;
2634   case S_DISCONNECT_FINISHED:
2635     /* neighbour was freed and plugins told to terminate session */
2636     break;
2637   default:
2638     GNUNET_break (0);
2639     break;
2640   }
2641   if (GNUNET_SCHEDULER_NO_TASK != n->task)
2642     GNUNET_SCHEDULER_cancel (n->task);
2643   n->task = GNUNET_SCHEDULER_add_now (&master_task, n);
2644 }
2645
2646
2647 /**
2648  * We received a 'SESSION_ACK' message from the other peer.
2649  * If we sent a 'CONNECT_ACK' last, this means we are now
2650  * connected.  Otherwise, do nothing.
2651  *
2652  * @param message possibly a 'struct SessionConnectMessage' (check format)
2653  * @param peer identity of the peer to switch the address for
2654  * @param address address of the other peer, NULL if other peer
2655  *                       connected to us
2656  * @param session session to use (or NULL)
2657  * @param ats performance data
2658  * @param ats_count number of entries in ats
2659  */
2660 void
2661 GST_neighbours_handle_session_ack (const struct GNUNET_MessageHeader *message,
2662                                    const struct GNUNET_PeerIdentity *peer,
2663                                    const struct GNUNET_HELLO_Address *address,
2664                                    struct Session *session,
2665                                    const struct GNUNET_ATS_Information *ats,
2666                                    uint32_t ats_count)
2667 {
2668   struct NeighbourMapEntry *n;
2669
2670   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, 
2671               "Received SESSION_ACK message from peer `%s'\n",
2672               GNUNET_i2s (peer));
2673   if (ntohs (message->size) != sizeof (struct GNUNET_MessageHeader))
2674   {
2675     GNUNET_break_op (0);
2676     return;
2677   }
2678   if (NULL == (n = lookup_neighbour (peer)))
2679     return;
2680   /* check if we are in a plausible state for having sent
2681      a CONNECT_ACK.  If not, return, otherwise break */
2682   if ( ( (S_CONNECT_RECV_ACK != n->state) &&
2683          (S_CONNECT_SENT != n->state) ) ||
2684        (2 != n->send_connect_ack) )
2685   {
2686     GNUNET_STATISTICS_update (GST_stats,
2687                               gettext_noop ("# unexpected SESSION ACK messages"), 1,
2688                               GNUNET_NO);
2689     return;
2690   }
2691   n->state = S_CONNECTED;
2692   n->timeout = GNUNET_TIME_relative_to_absolute (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
2693   GNUNET_STATISTICS_set (GST_stats, 
2694                          gettext_noop ("# peers connected"), 
2695                          ++neighbours_connected,
2696                          GNUNET_NO);
2697   connect_notify_cb (callback_cls, &n->id, ats, ats_count);
2698   set_address (&n->primary_address,
2699                n->primary_address.address,
2700                n->primary_address.session,
2701                n->primary_address.bandwidth_in,
2702                n->primary_address.bandwidth_out,
2703                GNUNET_YES);
2704 }
2705
2706
2707 /**
2708  * Test if we're connected to the given peer.
2709  *
2710  * @param target peer to test
2711  * @return GNUNET_YES if we are connected, GNUNET_NO if not
2712  */
2713 int
2714 GST_neighbours_test_connected (const struct GNUNET_PeerIdentity *target)
2715 {
2716   return test_connected (lookup_neighbour (target));
2717 }
2718
2719
2720 /**
2721  * Change the incoming quota for the given peer.
2722  *
2723  * @param neighbour identity of peer to change qutoa for
2724  * @param quota new quota
2725  */
2726 void
2727 GST_neighbours_set_incoming_quota (const struct GNUNET_PeerIdentity *neighbour,
2728                                    struct GNUNET_BANDWIDTH_Value32NBO quota)
2729 {
2730   struct NeighbourMapEntry *n;
2731
2732   if (NULL == (n = lookup_neighbour (neighbour)))
2733   {
2734     GNUNET_STATISTICS_update (GST_stats,
2735                               gettext_noop
2736                               ("# SET QUOTA messages ignored (no such peer)"),
2737                               1, GNUNET_NO);
2738     return;
2739   }
2740   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2741               "Setting inbound quota of %u Bps for peer `%s' to all clients\n",
2742               ntohl (quota.value__), GNUNET_i2s (&n->id));
2743   GNUNET_BANDWIDTH_tracker_update_quota (&n->in_tracker, quota);
2744   if (0 != ntohl (quota.value__))
2745     return;
2746   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Disconnecting peer `%4s' due to `%s'\n",
2747               GNUNET_i2s (&n->id), "SET_QUOTA");
2748   if (GNUNET_YES == test_connected (n))
2749     GNUNET_STATISTICS_update (GST_stats,
2750                               gettext_noop ("# disconnects due to quota of 0"),
2751                               1, GNUNET_NO);
2752   disconnect_neighbour (n);
2753 }
2754
2755
2756 /**
2757  * We received a disconnect message from the given peer,
2758  * validate and process.
2759  *
2760  * @param peer sender of the message
2761  * @param msg the disconnect message
2762  */
2763 void
2764 GST_neighbours_handle_disconnect_message (const struct GNUNET_PeerIdentity
2765                                           *peer,
2766                                           const struct GNUNET_MessageHeader
2767                                           *msg)
2768 {
2769   struct NeighbourMapEntry *n;
2770   const struct SessionDisconnectMessage *sdm;
2771   GNUNET_HashCode hc;
2772
2773   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2774               "Received DISCONNECT message from peer `%s'\n",
2775               GNUNET_i2s (peer));
2776   if (ntohs (msg->size) != sizeof (struct SessionDisconnectMessage))
2777   {
2778     // GNUNET_break_op (0);
2779     GNUNET_STATISTICS_update (GST_stats,
2780                               gettext_noop
2781                               ("# disconnect messages ignored (old format)"), 1,
2782                               GNUNET_NO);
2783     return;
2784   }
2785   sdm = (const struct SessionDisconnectMessage *) msg;
2786   if (NULL == (n = lookup_neighbour (peer)))
2787     return;                     /* gone already */
2788   if (GNUNET_TIME_absolute_ntoh (sdm->timestamp).abs_value <= n->connect_ack_timestamp.abs_value)
2789   {
2790     GNUNET_STATISTICS_update (GST_stats,
2791                               gettext_noop
2792                               ("# disconnect messages ignored (timestamp)"), 1,
2793                               GNUNET_NO);
2794     return;
2795   }
2796   GNUNET_CRYPTO_hash (&sdm->public_key,
2797                       sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
2798                       &hc);
2799   if (0 != memcmp (peer, &hc, sizeof (struct GNUNET_PeerIdentity)))
2800   {
2801     GNUNET_break_op (0);
2802     return;
2803   }
2804   if (ntohl (sdm->purpose.size) !=
2805       sizeof (struct GNUNET_CRYPTO_RsaSignaturePurpose) +
2806       sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded) +
2807       sizeof (struct GNUNET_TIME_AbsoluteNBO))
2808   {
2809     GNUNET_break_op (0);
2810     return;
2811   }
2812   if (GNUNET_OK !=
2813       GNUNET_CRYPTO_rsa_verify
2814       (GNUNET_MESSAGE_TYPE_TRANSPORT_SESSION_DISCONNECT, &sdm->purpose,
2815        &sdm->signature, &sdm->public_key))
2816   {
2817     GNUNET_break_op (0);
2818     return;
2819   }
2820   if (GNUNET_YES == test_connected (n))
2821     GNUNET_STATISTICS_update (GST_stats,
2822                               gettext_noop
2823                               ("# other peer asked to disconnect from us"), 1,
2824                               GNUNET_NO);
2825   disconnect_neighbour (n);
2826 }
2827
2828
2829 /**
2830  * Closure for the neighbours_iterate function.
2831  */
2832 struct IteratorContext
2833 {
2834   /**
2835    * Function to call on each connected neighbour.
2836    */
2837   GST_NeighbourIterator cb;
2838
2839   /**
2840    * Closure for 'cb'.
2841    */
2842   void *cb_cls;
2843 };
2844
2845
2846 /**
2847  * Call the callback from the closure for each connected neighbour.
2848  *
2849  * @param cls the 'struct IteratorContext'
2850  * @param key the hash of the public key of the neighbour
2851  * @param value the 'struct NeighbourMapEntry'
2852  * @return GNUNET_OK (continue to iterate)
2853  */
2854 static int
2855 neighbours_iterate (void *cls, const GNUNET_HashCode * key, void *value)
2856 {
2857   struct IteratorContext *ic = cls;
2858   struct NeighbourMapEntry *n = value;
2859
2860   if (GNUNET_YES == test_connected (n))
2861     ic->cb (ic->cb_cls, &n->id, NULL, 0, n->primary_address.address);
2862   return GNUNET_OK;
2863 }
2864
2865
2866 /**
2867  * Iterate over all connected neighbours.
2868  *
2869  * @param cb function to call
2870  * @param cb_cls closure for cb
2871  */
2872 void
2873 GST_neighbours_iterate (GST_NeighbourIterator cb, void *cb_cls)
2874 {
2875   struct IteratorContext ic;
2876
2877   if (NULL == neighbours)  
2878     return; /* can happen during shutdown */
2879   ic.cb = cb;
2880   ic.cb_cls = cb_cls;
2881   GNUNET_CONTAINER_multihashmap_iterate (neighbours, &neighbours_iterate, &ic);
2882 }
2883
2884
2885 /**
2886  * If we have an active connection to the given target, it must be shutdown.
2887  *
2888  * @param target peer to disconnect from
2889  */
2890 void
2891 GST_neighbours_force_disconnect (const struct GNUNET_PeerIdentity *target)
2892 {
2893   struct NeighbourMapEntry *n;
2894
2895   if (NULL == (n = lookup_neighbour (target)))
2896     return;  /* not active */
2897   if (GNUNET_YES == test_connected (n))
2898     GNUNET_STATISTICS_update (GST_stats,
2899                               gettext_noop
2900                               ("# disconnected from peer upon explicit request"), 1,
2901                               GNUNET_NO);
2902   disconnect_neighbour (n);
2903 }
2904
2905
2906 /**
2907  * Obtain current latency information for the given neighbour.
2908  *
2909  * @param peer to get the latency for
2910  * @return observed latency of the address, FOREVER if the 
2911  *         the connection is not up
2912  */
2913 struct GNUNET_TIME_Relative
2914 GST_neighbour_get_latency (const struct GNUNET_PeerIdentity *peer)
2915 {
2916   struct NeighbourMapEntry *n;
2917
2918   n = lookup_neighbour (peer);
2919   if (NULL == n) 
2920     return GNUNET_TIME_UNIT_FOREVER_REL;
2921   switch (n->state)
2922   {
2923   case S_CONNECTED:
2924   case S_RECONNECT_SENT:
2925   case S_RECONNECT_ATS:
2926     return n->latency;
2927   case S_NOT_CONNECTED:
2928   case S_INIT_BLACKLIST:
2929   case S_INIT_ATS:
2930   case S_CONNECT_SENT:
2931   case S_CONNECT_RECV_BLACKLIST:
2932   case S_DISCONNECT:
2933   case S_DISCONNECT_FINISHED:
2934     return GNUNET_TIME_UNIT_FOREVER_REL;
2935   default:
2936     GNUNET_break (0);
2937     break;
2938   }
2939   return GNUNET_TIME_UNIT_FOREVER_REL;   
2940 }
2941
2942
2943 /**
2944  * Obtain current address information for the given neighbour.
2945  *
2946  * @param peer
2947  * @return address currently used
2948  */
2949 struct GNUNET_HELLO_Address *
2950 GST_neighbour_get_current_address (const struct GNUNET_PeerIdentity *peer)
2951 {
2952   struct NeighbourMapEntry *n;
2953
2954   n = lookup_neighbour (peer);
2955   if (NULL == n)
2956     return NULL;
2957   return n->primary_address.address;
2958 }
2959
2960
2961 /**
2962  * Initialize the neighbours subsystem.
2963  *
2964  * @param cls closure for callbacks
2965  * @param connect_cb function to call if we connect to a peer
2966  * @param disconnect_cb function to call if we disconnect from a peer
2967  * @param peer_address_cb function to call if we change an active address
2968  *                   of a neighbour
2969  */
2970 void
2971 GST_neighbours_start (void *cls,
2972                       GNUNET_TRANSPORT_NotifyConnect connect_cb,
2973                       GNUNET_TRANSPORT_NotifyDisconnect disconnect_cb,
2974                       GNUNET_TRANSPORT_PeerIterateCallback peer_address_cb)
2975 {
2976   callback_cls = cls;
2977   connect_notify_cb = connect_cb;
2978   disconnect_notify_cb = disconnect_cb;
2979   address_change_cb = peer_address_cb;
2980   neighbours = GNUNET_CONTAINER_multihashmap_create (NEIGHBOUR_TABLE_SIZE);
2981 }
2982
2983
2984 /**
2985  * Disconnect from the given neighbour.
2986  *
2987  * @param cls unused
2988  * @param key hash of neighbour's public key (not used)
2989  * @param value the 'struct NeighbourMapEntry' of the neighbour
2990  * @return GNUNET_OK (continue to iterate)
2991  */
2992 static int
2993 disconnect_all_neighbours (void *cls, const GNUNET_HashCode * key, void *value)
2994 {
2995   struct NeighbourMapEntry *n = value;
2996
2997   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, 
2998               "Disconnecting peer `%4s', %s\n",
2999               GNUNET_i2s (&n->id), "SHUTDOWN_TASK");
3000   free_neighbour (n);
3001   return GNUNET_OK;
3002 }
3003
3004
3005 /**
3006  * Cleanup the neighbours subsystem.
3007  */
3008 void
3009 GST_neighbours_stop ()
3010 {
3011   if (NULL == neighbours)
3012     return;
3013   GNUNET_CONTAINER_multihashmap_iterate (neighbours, 
3014                                          &disconnect_all_neighbours,
3015                                          NULL);
3016   GNUNET_CONTAINER_multihashmap_destroy (neighbours);
3017   neighbours = NULL;
3018   callback_cls = NULL;
3019   connect_notify_cb = NULL;
3020   disconnect_notify_cb = NULL;
3021   address_change_cb = NULL;
3022 }
3023
3024
3025 /* end of file gnunet-service-transport_neighbours.c */