changes to transport_api
[oweals/gnunet.git] / src / transport / gnunet-service-transport.c
1 /*
2      This file is part of GNUnet.
3      (C) 2009, 2010 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file transport/gnunet-service-transport.c
23  * @brief low-level P2P messaging
24  * @author Christian Grothoff
25  *
26  */
27 #include "platform.h"
28 #include "gnunet_client_lib.h"
29 #include "gnunet_container_lib.h"
30 #include "gnunet_constants.h"
31 #include "gnunet_getopt_lib.h"
32 #include "gnunet_hello_lib.h"
33 #include "gnunet_os_lib.h"
34 #include "gnunet_peerinfo_service.h"
35 #include "gnunet_plugin_lib.h"
36 #include "gnunet_protocols.h"
37 #include "gnunet_service_lib.h"
38 #include "gnunet_signatures.h"
39 #include "gnunet_transport_plugin.h"
40 #include "transport.h"
41
42 #define DEBUG_BLACKLIST GNUNET_YES
43
44 #define DEBUG_PING_PONG GNUNET_YES
45
46 #define DEBUG_TRANSPORT_HELLO GNUNET_YES
47
48 /**
49  * Should we do some additional checks (to validate behavior
50  * of clients)?
51  */
52 #define EXTRA_CHECKS GNUNET_YES
53
54 /**
55  * How many messages can we have pending for a given client process
56  * before we start to drop incoming messages?  We typically should
57  * have only one client and so this would be the primary buffer for
58   * messages, so the number should be chosen rather generously.
59  *
60  * The expectation here is that most of the time the queue is large
61  * enough so that a drop is virtually never required.  Note that
62  * this value must be about as large as 'TOTAL_MSGS' in the
63  * 'test_transport_api_reliability.c', otherwise that testcase may
64  * fail.
65  */
66 #define MAX_PENDING (128 * 1024)
67
68 /**
69  * Size of the per-transport blacklist hash maps.
70  */
71 #define TRANSPORT_BLACKLIST_HT_SIZE 16
72
73 /**
74  * How often should we try to reconnect to a peer using a particular
75  * transport plugin before giving up?  Note that the plugin may be
76  * added back to the list after PLUGIN_RETRY_FREQUENCY expires.
77  */
78 #define MAX_CONNECT_RETRY 3
79
80 /**
81  * Limit on the number of ready-to-run tasks when validating
82  * HELLOs.  If more tasks are ready to run, we will drop
83  * HELLOs instead of validating them.
84  */
85 #define MAX_HELLO_LOAD 4
86
87 /**
88  * How often must a peer violate bandwidth quotas before we start
89  * to simply drop its messages?
90  */
91 #define QUOTA_VIOLATION_DROP_THRESHOLD 10
92
93 /**
94  * How long until a HELLO verification attempt should time out?
95  * Must be rather small, otherwise a partially successful HELLO
96  * validation (some addresses working) might not be available
97  * before a client's request for a connection fails for good.
98  * Besides, if a single request to an address takes a long time,
99  * then the peer is unlikely worthwhile anyway.
100  */
101 #define HELLO_VERIFICATION_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_SECONDS, 15)
102
103 /**
104  * How long is a PONG signature valid?  We'll recycle a signature until
105  * 1/4 of this time is remaining.  PONGs should expire so that if our
106  * external addresses change an adversary cannot replay them indefinitely.
107  * OTOH, we don't want to spend too much time generating PONG signatures,
108  * so they must have some lifetime to reduce our CPU usage.
109  */
110 #define PONG_SIGNATURE_LIFETIME GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_HOURS, 1)
111
112 /**
113  * Priority to use for PONG messages.
114  */
115 #define TRANSPORT_PONG_PRIORITY 4
116
117 /**
118  * How often do we re-add (cheaper) plugins to our list of plugins
119  * to try for a given connected peer?
120  */
121 #define PLUGIN_RETRY_FREQUENCY GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MINUTES, 15)
122
123 /**
124  * After how long do we expire an address in a HELLO that we just
125  * validated?  This value is also used for our own addresses when we
126  * create a HELLO.
127  */
128 #define HELLO_ADDRESS_EXPIRATION GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_HOURS, 12)
129
130
131 /**
132  * How long before an existing address expires should we again try to
133  * validate it?  Must be (significantly) smaller than
134  * HELLO_ADDRESS_EXPIRATION.
135  */
136 #define HELLO_REVALIDATION_START_TIME GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_HOURS, 1)
137
138 /**
139  * Maximum frequency for re-evaluating latencies for all transport addresses.
140  */
141 #define LATENCY_EVALUATION_MAX_DELAY GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_HOURS, 1)
142
143 /**
144  * Maximum frequency for re-evaluating latencies for connected addresses.
145  */
146 #define CONNECTED_LATENCY_EVALUATION_MAX_DELAY GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MINUTES, 1)
147
148
149 /**
150  * List of addresses of other peers
151  */
152 struct ForeignAddressList
153 {
154   /**
155    * This is a linked list.
156    */
157   struct ForeignAddressList *next;
158
159   /**
160    * Which ready list does this entry belong to.
161    */
162   struct ReadyList *ready_list;
163
164   /**
165    * How long until we auto-expire this address (unless it is
166    * re-confirmed by the transport)?
167    */
168   struct GNUNET_TIME_Absolute expires;
169
170   /**
171    * Task used to re-validate addresses, updates latencies and
172    * verifies liveness.
173    */
174   GNUNET_SCHEDULER_TaskIdentifier revalidate_task;
175
176   /**
177    * The address.
178    */
179   const void *addr;
180
181   /**
182    * Session (or NULL if no valid session currently exists or if the
183    * plugin does not use sessions).
184    */
185   struct Session *session;
186
187   /**
188    * What was the last latency observed for this address, plugin and peer?
189    */
190   struct GNUNET_TIME_Relative latency;
191
192   /**
193    * If we did not successfully transmit a message to the given peer
194    * via this connection during the specified time, we should consider
195    * the connection to be dead.  This is used in the case that a TCP
196    * transport simply stalls writing to the stream but does not
197    * formerly get a signal that the other peer died.
198    */
199   struct GNUNET_TIME_Absolute timeout;
200
201   /**
202    * How often have we tried to connect using this plugin?  Used to
203    * discriminate against addresses that do not work well.
204    * FIXME: not yet used, but should be!
205    */
206   unsigned int connect_attempts;
207
208   /**
209    * DV distance to this peer (1 if no DV is used).
210    * FIXME: need to set this from transport plugins!
211    */
212   uint32_t distance;
213
214   /**
215    * Length of addr.
216    */
217   uint16_t addrlen;
218
219   /**
220    * Have we ever estimated the latency of this address?  Used to
221    * ensure that the first time we add an address, we immediately
222    * probe its latency.
223    */
224   int8_t estimated;
225
226   /**
227    * Are we currently connected via this address?  The first time we
228    * successfully transmit or receive data to a peer via a particular
229    * address, we set this to GNUNET_YES.  If we later get an error
230    * (disconnect notification, transmission failure, timeout), we set
231    * it back to GNUNET_NO.
232    */
233   int8_t connected;
234
235   /**
236    * Is this plugin currently busy transmitting to the specific target?
237    * GNUNET_NO if not (initial, default state is GNUNET_NO).   Internal
238    * messages do not count as 'in transmit'.
239    */
240   int8_t in_transmit;
241
242   /**
243    * Has this address been validated yet?
244    */
245   int8_t validated;
246
247 };
248
249
250 /**
251  * Entry in linked list of network addresses for ourselves.  Also
252  * includes a cached signature for 'struct TransportPongMessage's.
253  */
254 struct OwnAddressList
255 {
256   /**
257    * This is a linked list.
258    */
259   struct OwnAddressList *next;
260
261   /**
262    * How long until we actually auto-expire this address (unless it is
263    * re-confirmed by the transport)?
264    */
265   struct GNUNET_TIME_Absolute expires;
266
267   /**
268    * How long until the current signature expires? (ZERO if the
269    * signature was never created).
270    */
271   struct GNUNET_TIME_Absolute pong_sig_expires;
272
273   /**
274    * Signature for a 'struct TransportPongMessage' for this address.
275    */
276   struct GNUNET_CRYPTO_RsaSignature pong_signature;
277
278   /**
279    * Length of addr.
280    */
281   uint32_t addrlen;
282
283 };
284
285
286 /**
287  * Entry in linked list of all of our plugins.
288  */
289 struct TransportPlugin
290 {
291
292   /**
293    * This is a linked list.
294    */
295   struct TransportPlugin *next;
296
297   /**
298    * API of the transport as returned by the plugin's
299    * initialization function.
300    */
301   struct GNUNET_TRANSPORT_PluginFunctions *api;
302
303   /**
304    * Short name for the plugin (i.e. "tcp").
305    */
306   char *short_name;
307
308   /**
309    * Name of the library (i.e. "gnunet_plugin_transport_tcp").
310    */
311   char *lib_name;
312
313   /**
314    * List of our known addresses for this transport.
315    */
316   struct OwnAddressList *addresses;
317
318   /**
319    * Environment this transport service is using
320    * for this plugin.
321    */
322   struct GNUNET_TRANSPORT_PluginEnvironment env;
323
324   /**
325    * ID of task that is used to clean up expired addresses.
326    */
327   GNUNET_SCHEDULER_TaskIdentifier address_update_task;
328
329   /**
330    * Set to GNUNET_YES if we need to scrap the existing list of
331    * "addresses" and start fresh when we receive the next address
332    * update from a transport.  Set to GNUNET_NO if we should just add
333    * the new address to the list and wait for the commit call.
334    */
335   int rebuild;
336
337   /**
338    * Hashmap of blacklisted peers for this particular transport.
339    */
340   struct GNUNET_CONTAINER_MultiHashMap *blacklist;
341 };
342
343 struct NeighbourList;
344
345 /**
346  * For each neighbour we keep a list of messages
347  * that we still want to transmit to the neighbour.
348  */
349 struct MessageQueue
350 {
351
352   /**
353    * This is a doubly linked list.
354    */
355   struct MessageQueue *next;
356
357   /**
358    * This is a doubly linked list.
359    */
360   struct MessageQueue *prev;
361
362   /**
363    * The message(s) we want to transmit, GNUNET_MessageHeader(s)
364    * stuck together in memory.  Allocated at the end of this struct.
365    */
366   const char *message_buf;
367
368   /**
369    * Size of the message buf
370    */
371   size_t message_buf_size;
372
373   /**
374    * Client responsible for queueing the message;
375    * used to check that a client has no two messages
376    * pending for the same target.  Can be NULL.
377    */
378   struct TransportClient *client;
379
380   /**
381    * Using which specific address should we send this message?
382    */
383   struct ForeignAddressList *specific_address;
384
385   /**
386    * Peer ID of the Neighbour this entry belongs to.
387    */
388   struct GNUNET_PeerIdentity neighbour_id;
389
390   /**
391    * Plugin that we used for the transmission.
392    * NULL until we scheduled a transmission.
393    */
394   struct TransportPlugin *plugin;
395
396   /**
397    * At what time should we fail?
398    */
399   struct GNUNET_TIME_Absolute timeout;
400
401   /**
402    * Internal message of the transport system that should not be
403    * included in the usual SEND-SEND_OK transmission confirmation
404    * traffic management scheme.  Typically, "internal_msg" will
405    * be set whenever "client" is NULL (but it is not strictly
406    * required).
407    */
408   int internal_msg;
409
410   /**
411    * How important is the message?
412    */
413   unsigned int priority;
414
415 };
416
417
418 /**
419  * For a given Neighbour, which plugins are available
420  * to talk to this peer and what are their costs?
421  */
422 struct ReadyList
423 {
424   /**
425    * This is a linked list.
426    */
427   struct ReadyList *next;
428
429   /**
430    * Which of our transport plugins does this entry
431    * represent?
432    */
433   struct TransportPlugin *plugin;
434
435   /**
436    * Transport addresses, latency, and readiness for
437    * this particular plugin.
438    */
439   struct ForeignAddressList *addresses;
440
441   /**
442    * To which neighbour does this ready list belong to?
443    */
444   struct NeighbourList *neighbour;
445
446 };
447
448
449 /**
450  * Entry in linked list of all of our current neighbours.
451  */
452 struct NeighbourList
453 {
454
455   /**
456    * This is a linked list.
457    */
458   struct NeighbourList *next;
459
460   /**
461    * Which of our transports is connected to this peer
462    * and what is their status?
463    */
464   struct ReadyList *plugins;
465
466   /**
467    * Head of list of messages we would like to send to this peer;
468    * must contain at most one message per client.
469    */
470   struct MessageQueue *messages_head;
471
472   /**
473    * Tail of list of messages we would like to send to this peer; must
474    * contain at most one message per client.
475    */
476   struct MessageQueue *messages_tail;
477
478   /**
479    * Buffer for at most one payload message used when we receive
480    * payload data before our PING-PONG has succeeded.  We then
481    * store such messages in this intermediary buffer until the
482    * connection is fully up.
483    */
484   struct GNUNET_MessageHeader *pre_connect_message_buffer;
485
486   /**
487    * Context for peerinfo iteration.
488    * NULL after we are done processing peerinfo's information.
489    */
490   struct GNUNET_PEERINFO_IteratorContext *piter;
491
492   /**
493    * Public key for this peer.   Valid only if the respective flag is set below.
494    */
495   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded publicKey;
496
497   /**
498    * Identity of this neighbour.
499    */
500   struct GNUNET_PeerIdentity id;
501
502   /**
503    * ID of task scheduled to run when this peer is about to
504    * time out (will free resources associated with the peer).
505    */
506   GNUNET_SCHEDULER_TaskIdentifier timeout_task;
507
508   /**
509    * ID of task scheduled to run when we should retry transmitting
510    * the head of the message queue.  Actually triggered when the
511    * transmission is timing out (we trigger instantly when we have
512    * a chance of success).
513    */
514   GNUNET_SCHEDULER_TaskIdentifier retry_task;
515
516   /**
517    * How long until we should consider this peer dead
518    * (if we don't receive another message in the
519    * meantime)?
520    */
521   struct GNUNET_TIME_Absolute peer_timeout;
522
523   /**
524    * Tracker for inbound bandwidth.
525    */
526   struct GNUNET_BANDWIDTH_Tracker in_tracker;
527
528   /**
529    * The latency we have seen for this particular address for
530    * this particular peer.  This latency may have been calculated
531    * over multiple transports.  This value reflects how long it took
532    * us to receive a response when SENDING via this particular
533    * transport/neighbour/address combination!
534    *
535    * FIXME: we need to periodically send PINGs to update this
536    * latency (at least more often than the current "huge" (11h?)
537    * update interval).
538    */
539   struct GNUNET_TIME_Relative latency;
540
541   /**
542    * How often has the other peer (recently) violated the
543    * inbound traffic limit?  Incremented by 10 per violation,
544    * decremented by 1 per non-violation (for each
545    * time interval).
546    */
547   unsigned int quota_violation_count;
548
549   /**
550    * DV distance to this peer (1 if no DV is used).
551    */
552   uint32_t distance;
553
554   /**
555    * Have we seen an PONG from this neighbour in the past (and
556    * not had a disconnect since)?
557    */
558   int received_pong;
559
560   /**
561    * Do we have a valid public key for this neighbour?
562    */
563   int public_key_valid;
564
565 };
566
567 /**
568  * Message used to ask a peer to validate receipt (to check an address
569  * from a HELLO).  Followed by the address we are trying to validate,
570  * or an empty address if we are just sending a PING to confirm that a
571  * connection which the receiver (of the PING) initiated is still valid.
572  */
573 struct TransportPingMessage
574 {
575
576   /**
577    * Type will be GNUNET_MESSAGE_TYPE_TRANSPORT_PING
578    */
579   struct GNUNET_MessageHeader header;
580
581   /**
582    * Challenge code (to ensure fresh reply).
583    */
584   uint32_t challenge GNUNET_PACKED;
585
586   /**
587    * Who is the intended recipient?
588    */
589   struct GNUNET_PeerIdentity target;
590
591 };
592
593
594 /**
595  * Message used to validate a HELLO.  The challenge is included in the
596  * confirmation to make matching of replies to requests possible.  The
597  * signature signs our public key, an expiration time and our address.<p>
598  *
599  * This message is followed by our transport address that the PING tried
600  * to confirm (if we liked it).  The address can be empty (zero bytes)
601  * if the PING had not address either (and we received the request via
602  * a connection that we initiated).
603  */
604 struct TransportPongMessage
605 {
606
607   /**
608    * Type will be GNUNET_MESSAGE_TYPE_TRANSPORT_PONG
609    */
610   struct GNUNET_MessageHeader header;
611
612   /**
613    * Challenge code from PING (showing freshness).  Not part of what
614    * is signed so that we can re-use signatures.
615    */
616   uint32_t challenge GNUNET_PACKED;
617
618   /**
619    * Signature.
620    */
621   struct GNUNET_CRYPTO_RsaSignature signature;
622
623   /**
624    * What are we signing and why?  Two possible reason codes can be here:
625    * GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_OWN to confirm that this is a
626    * plausible address for this peer (pid is set to identity of signer); or
627    * GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_USING to confirm that this is
628    * an address we used to connect to the peer with the given pid.
629    */
630   struct GNUNET_CRYPTO_RsaSignaturePurpose purpose;
631
632   /**
633    * When does this signature expire?
634    */
635   struct GNUNET_TIME_AbsoluteNBO expiration;
636
637   /**
638    * Either the identity of the peer Who signed this message, or the
639    * identity of the peer that we're connected to using the given
640    * address (depending on purpose.type).
641    */
642   struct GNUNET_PeerIdentity pid;
643
644   /**
645    * Size of address appended to this message (part of what is
646    * being signed, hence not redundant).
647    */
648   uint32_t addrlen;
649
650 };
651
652
653 /**
654  * Linked list of messages to be transmitted to the client.  Each
655  * entry is followed by the actual message.
656  */
657 struct ClientMessageQueueEntry
658 {
659   /**
660    * This is a doubly-linked list.
661    */
662   struct ClientMessageQueueEntry *next;
663
664   /**
665    * This is a doubly-linked list.
666    */
667   struct ClientMessageQueueEntry *prev;
668 };
669
670
671 /**
672  * Client connected to the transport service.
673  */
674 struct TransportClient
675 {
676
677   /**
678    * This is a linked list.
679    */
680   struct TransportClient *next;
681
682   /**
683    * Handle to the client.
684    */
685   struct GNUNET_SERVER_Client *client;
686
687   /**
688    * Linked list of messages yet to be transmitted to
689    * the client.
690    */
691   struct ClientMessageQueueEntry *message_queue_head;
692
693   /**
694    * Tail of linked list of messages yet to be transmitted to the
695    * client.
696    */
697   struct ClientMessageQueueEntry *message_queue_tail;
698
699   /**
700    * Current transmit request handle.
701    */
702   struct GNUNET_CONNECTION_TransmitHandle *th;
703
704   /**
705    * Is a call to "transmit_send_continuation" pending?  If so, we
706    * must not free this struct (even if the corresponding client
707    * disconnects) and instead only remove it from the linked list and
708    * set the "client" field to NULL.
709    */
710   int tcs_pending;
711
712   /**
713    * Length of the list of messages pending for this client.
714    */
715   unsigned int message_count;
716
717 };
718
719
720 /**
721  * Context of currently active requests to peerinfo
722  * for validation of HELLOs.
723  */
724 struct CheckHelloValidatedContext;
725
726
727 /**
728  * Entry in map of all HELLOs awaiting validation.
729  */
730 struct ValidationEntry
731 {
732
733   /**
734    * NULL if this entry is not part of a larger HELLO validation.
735    */
736   struct CheckHelloValidatedContext *chvc;
737
738   /**
739    * The address, actually a pointer to the end
740    * of this struct.  Do not free!
741    */
742   const void *addr;
743
744   /**
745    * Name of the transport.
746    */
747   char *transport_name;
748
749   /**
750    * The public key of the peer.
751    */
752   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded publicKey;
753
754   /**
755    * ID of task that will clean up this entry if we don't succeed
756    * with the validation first.
757    */
758   GNUNET_SCHEDULER_TaskIdentifier timeout_task;
759
760   /**
761    * At what time did we send this validation?
762    */
763   struct GNUNET_TIME_Absolute send_time;
764
765   /**
766    * Session being validated (or NULL for none).
767    */
768   struct Session *session;
769
770   /**
771    * Challenge number we used.
772    */
773   uint32_t challenge;
774
775   /**
776    * Length of addr.
777    */
778   uint16_t addrlen;
779
780 };
781
782
783 /**
784  * Context of currently active requests to peerinfo
785  * for validation of HELLOs.
786  */
787 struct CheckHelloValidatedContext
788 {
789
790   /**
791    * This is a doubly-linked list.
792    */
793   struct CheckHelloValidatedContext *next;
794
795   /**
796    * This is a doubly-linked list.
797    */
798   struct CheckHelloValidatedContext *prev;
799
800   /**
801    * Hello that we are validating.
802    */
803   const struct GNUNET_HELLO_Message *hello;
804
805   /**
806    * Context for peerinfo iteration.
807    * NULL after we are done processing peerinfo's information.
808    */
809   struct GNUNET_PEERINFO_IteratorContext *piter;
810
811   /**
812    * Was a HELLO known for this peer to peerinfo?
813    */
814   int hello_known;
815
816   /**
817    * Number of validation entries currently referring to this
818    * CHVC.
819    */
820   unsigned int ve_count;
821 };
822
823
824
825 /**
826  * Our HELLO message.
827  */
828 static struct GNUNET_HELLO_Message *our_hello;
829
830 /**
831  * Our public key.
832  */
833 static struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded my_public_key;
834
835 /**
836  * Our identity.
837  */
838 static struct GNUNET_PeerIdentity my_identity;
839
840 /**
841  * Our private key.
842  */
843 static struct GNUNET_CRYPTO_RsaPrivateKey *my_private_key;
844
845 /**
846  * Our configuration.
847  */
848 const struct GNUNET_CONFIGURATION_Handle *cfg;
849
850 /**
851  * Linked list of all clients to this service.
852  */
853 static struct TransportClient *clients;
854
855 /**
856  * All loaded plugins.
857  */
858 static struct TransportPlugin *plugins;
859
860 /**
861  * Handle to peerinfo service.
862  */
863 static struct GNUNET_PEERINFO_Handle *peerinfo;
864
865 /**
866  * All known neighbours and their HELLOs.
867  */
868 static struct NeighbourList *neighbours;
869
870 /**
871  * Number of neighbours we'd like to have.
872  */
873 static uint32_t max_connect_per_transport;
874
875 /**
876  * Head of linked list.
877  */
878 static struct CheckHelloValidatedContext *chvc_head;
879
880 /**
881  * Tail of linked list.
882  */
883 static struct CheckHelloValidatedContext *chvc_tail;
884
885 /**
886  * Map of PeerIdentities to 'struct ValidationEntry*'s (addresses
887  * of the given peer that we are currently validating).
888  */
889 static struct GNUNET_CONTAINER_MultiHashMap *validation_map;
890
891 /**
892  * Handle for reporting statistics.
893  */
894 static struct GNUNET_STATISTICS_Handle *stats;
895
896 /**
897  * The peer specified by the given neighbour has timed-out or a plugin
898  * has disconnected.  We may either need to do nothing (other plugins
899  * still up), or trigger a full disconnect and clean up.  This
900  * function updates our state and do the necessary notifications.
901  * Also notifies our clients that the neighbour is now officially
902  * gone.
903  *
904  * @param n the neighbour list entry for the peer
905  * @param check should we just check if all plugins
906  *        disconnected or must we ask all plugins to
907  *        disconnect?
908  */
909 static void disconnect_neighbour (struct NeighbourList *n, int check);
910
911 /**
912  * Check the ready list for the given neighbour and if a plugin is
913  * ready for transmission (and if we have a message), do so!
914  *
915  * @param neighbour target peer for which to transmit
916  */
917 static void try_transmission_to_peer (struct NeighbourList *neighbour);
918
919
920 /**
921  * Find an entry in the neighbour list for a particular peer.
922  *
923  * @return NULL if not found.
924  */
925 static struct NeighbourList *
926 find_neighbour (const struct GNUNET_PeerIdentity *key)
927 {
928   struct NeighbourList *head = neighbours;
929
930   while ((head != NULL) &&
931         (0 != memcmp (key, &head->id, sizeof (struct GNUNET_PeerIdentity))))
932     head = head->next;
933   return head;
934 }
935
936
937 /**
938  * Find an entry in the transport list for a particular transport.
939  *
940  * @return NULL if not found.
941  */
942 static struct TransportPlugin *
943 find_transport (const char *short_name)
944 {
945   struct TransportPlugin *head = plugins;
946   while ((head != NULL) && (0 != strcmp (short_name, head->short_name)))
947     head = head->next;
948   return head;
949 }
950
951 /**
952  * Is a particular peer blacklisted for a particular transport?
953  *
954  * @param peer the peer to check for
955  * @param plugin the plugin used to connect to the peer
956  *
957  * @return GNUNET_YES if the peer is blacklisted, GNUNET_NO if not
958  */
959 static int
960 is_blacklisted (const struct GNUNET_PeerIdentity *peer, struct TransportPlugin *plugin)
961 {
962
963   if (plugin->blacklist != NULL)
964     {
965       if (GNUNET_CONTAINER_multihashmap_contains(plugin->blacklist, &peer->hashPubKey) == GNUNET_YES)
966         {
967 #if DEBUG_BLACKLIST
968           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
969                       _("Peer `%s:%s' is blacklisted!\n"),
970                       plugin->short_name, GNUNET_i2s (peer));
971 #endif
972           return GNUNET_YES;
973         }
974     }
975
976   return GNUNET_NO;
977 }
978
979
980 static void
981 add_peer_to_blacklist (struct GNUNET_PeerIdentity *peer, char *transport_name)
982 {
983   struct TransportPlugin *plugin;
984
985   plugin = find_transport(transport_name);
986   if (plugin == NULL) /* Nothing to do */
987     return;
988   if (plugin->blacklist == NULL)
989     plugin->blacklist = GNUNET_CONTAINER_multihashmap_create(TRANSPORT_BLACKLIST_HT_SIZE);
990   GNUNET_assert(plugin->blacklist != NULL);
991   GNUNET_CONTAINER_multihashmap_put(plugin->blacklist, &peer->hashPubKey,
992                                     NULL,
993                                     GNUNET_CONTAINER_MULTIHASHMAPOPTION_REPLACE);
994 }
995
996
997 /**
998  * Read the blacklist file, containing transport:peer entries.
999  * Provided the transport is loaded, set up hashmap with these
1000  * entries to blacklist peers by transport.
1001  *
1002  */
1003 static void
1004 read_blacklist_file (const struct GNUNET_CONFIGURATION_Handle *cfg)
1005 {
1006   char *fn;
1007   char *data;
1008   size_t pos;
1009   size_t colon_pos;
1010   int tsize;
1011   struct GNUNET_PeerIdentity pid;
1012   struct stat frstat;
1013   struct GNUNET_CRYPTO_HashAsciiEncoded enc;
1014   unsigned int entries_found;
1015   char *transport_name;
1016
1017   if (GNUNET_OK !=
1018       GNUNET_CONFIGURATION_get_value_filename (cfg,
1019                                                "TRANSPORT",
1020                                                "BLACKLIST_FILE",
1021                                                &fn))
1022     {
1023 #if DEBUG_TRANSPORT
1024       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1025                   _("Option `%s' in section `%s' not specified!\n"),
1026                   "BLACKLIST_FILE",
1027                   "TRANSPORT");
1028 #endif
1029       return;
1030     }
1031   if (GNUNET_OK != GNUNET_DISK_file_test (fn))
1032     GNUNET_DISK_fn_write (fn, NULL, 0, GNUNET_DISK_PERM_USER_READ
1033         | GNUNET_DISK_PERM_USER_WRITE);
1034   if (0 != STAT (fn, &frstat))
1035     {
1036       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1037                   _("Could not read blacklist file `%s'\n"), fn);
1038       GNUNET_free (fn);
1039       return;
1040     }
1041   if (frstat.st_size == 0)
1042     {
1043 #if DEBUG_TRANSPORT
1044       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1045                   _("Blacklist file `%s' is empty.\n"),
1046                   fn);
1047 #endif
1048       GNUNET_free (fn);
1049       return;
1050     }
1051   /* FIXME: use mmap */
1052   data = GNUNET_malloc_large (frstat.st_size);
1053   GNUNET_assert(data != NULL);
1054   if (frstat.st_size !=
1055       GNUNET_DISK_fn_read (fn, data, frstat.st_size))
1056     {
1057       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1058                   _("Failed to read blacklist from `%s'\n"), fn);
1059       GNUNET_free (fn);
1060       GNUNET_free (data);
1061       return;
1062     }
1063   entries_found = 0;
1064   pos = 0;
1065   while ((pos < frstat.st_size) && isspace ( (unsigned char) data[pos]))
1066     pos++;
1067   while ((frstat.st_size >= sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded)) &&
1068          (pos <= frstat.st_size - sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded)))
1069     {
1070       colon_pos = pos;
1071       while ((colon_pos < frstat.st_size) && (data[colon_pos] != ':') && !isspace ( (unsigned char) data[colon_pos]))
1072         colon_pos++;
1073
1074       if (colon_pos >= frstat.st_size)
1075         {
1076           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1077                       _("Syntax error in blacklist file at offset %llu, giving up!\n"),
1078                       (unsigned long long) colon_pos);
1079           GNUNET_free (fn);
1080           GNUNET_free (data);
1081           return;
1082         }
1083
1084       if (isspace( (unsigned char) data[colon_pos]))
1085       {
1086         GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1087                     _("Syntax error in blacklist file at offset %llu, skipping bytes.\n"),
1088                     (unsigned long long) colon_pos);
1089         pos = colon_pos;
1090         while ((pos < frstat.st_size) && isspace ( (unsigned char) data[pos]))
1091           pos++;
1092         continue;
1093       }
1094       tsize = colon_pos - pos;
1095       if ((pos >= frstat.st_size) || (pos + tsize >= frstat.st_size) || (tsize == 0))
1096         {
1097           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1098                       _("Syntax error in blacklist file at offset %llu, giving up!\n"),
1099                       (unsigned long long) colon_pos);
1100           GNUNET_free (fn);
1101           GNUNET_free (data);
1102           return;
1103         }
1104
1105       if (tsize < 1)
1106         continue;
1107
1108       transport_name = GNUNET_malloc(tsize + 1);
1109       memcpy(transport_name, &data[pos], tsize);
1110       pos = colon_pos + 1;
1111 #if DEBUG_TRANSPORT
1112       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1113                   _("Read transport name %s in blacklist file.\n"),
1114                   transport_name);
1115 #endif
1116       memcpy (&enc, &data[pos], sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded));
1117       if (!isspace ( (unsigned char) enc.encoding[sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded) - 1]))
1118         {
1119           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1120                       _("Syntax error in blacklist file at offset %llu, skipping bytes.\n"),
1121                       (unsigned long long) pos);
1122           pos++;
1123           while ((pos < frstat.st_size) && (!isspace ( (unsigned char) data[pos])))
1124             pos++;
1125           GNUNET_free_non_null(transport_name);
1126           continue;
1127         }
1128       enc.encoding[sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded) - 1] = '\0';
1129       if (GNUNET_OK != GNUNET_CRYPTO_hash_from_string ((char *) &enc, &pid.hashPubKey))
1130         {
1131           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1132                       _("Syntax error in blacklist file at offset %llu, skipping bytes `%s'.\n"),
1133                       (unsigned long long) pos,
1134                       &enc);
1135         }
1136       else
1137         {
1138           if (0 != memcmp (&pid,
1139                            &my_identity,
1140                            sizeof (struct GNUNET_PeerIdentity)))
1141             {
1142               entries_found++;
1143               add_peer_to_blacklist (&pid,
1144                                      transport_name);
1145             }
1146           else
1147             {
1148               GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1149                           _("Found myself `%s' in blacklist (useless, ignored)\n"),
1150                           GNUNET_i2s (&pid));
1151             }
1152         }
1153       pos = pos + sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded);
1154       GNUNET_free_non_null(transport_name);
1155       while ((pos < frstat.st_size) && isspace ( (unsigned char) data[pos]))
1156         pos++;
1157     }
1158   GNUNET_free (data);
1159   GNUNET_free (fn);
1160 }
1161
1162
1163 /**
1164  * Function called to notify a client about the socket being ready to
1165  * queue more data.  "buf" will be NULL and "size" zero if the socket
1166  * was closed for writing in the meantime.
1167  *
1168  * @param cls closure
1169  * @param size number of bytes available in buf
1170  * @param buf where the callee should write the message
1171  * @return number of bytes written to buf
1172  */
1173 static size_t
1174 transmit_to_client_callback (void *cls, size_t size, void *buf)
1175 {
1176   struct TransportClient *client = cls;
1177   struct ClientMessageQueueEntry *q;
1178   uint16_t msize;
1179   size_t tsize;
1180   const struct GNUNET_MessageHeader *msg;
1181   char *cbuf;
1182
1183   client->th = NULL;
1184   if (buf == NULL)
1185     {
1186       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1187                   "Transmission to client failed, closing connection.\n");
1188       /* fatal error with client, free message queue! */
1189       while (NULL != (q = client->message_queue_head))
1190         {
1191           GNUNET_STATISTICS_update (stats,
1192                                     gettext_noop ("# bytes discarded (could not transmit to client)"),
1193                                     ntohs (((const struct GNUNET_MessageHeader*)&q[1])->size),
1194                                     GNUNET_NO);
1195           GNUNET_CONTAINER_DLL_remove (client->message_queue_head,
1196                                        client->message_queue_tail,
1197                                        q);
1198           GNUNET_free (q);
1199         }
1200       client->message_count = 0;
1201       return 0;
1202     }
1203   cbuf = buf;
1204   tsize = 0;
1205   while (NULL != (q = client->message_queue_head))
1206     {
1207       msg = (const struct GNUNET_MessageHeader *) &q[1];
1208       msize = ntohs (msg->size);
1209       if (msize + tsize > size)
1210         break;
1211 #if DEBUG_TRANSPORT
1212       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1213                   "Transmitting message of type %u to client.\n",
1214                   ntohs (msg->type));
1215 #endif
1216       GNUNET_CONTAINER_DLL_remove (client->message_queue_head,
1217                                    client->message_queue_tail,
1218                                    q);
1219       memcpy (&cbuf[tsize], msg, msize);
1220       tsize += msize;
1221       GNUNET_free (q);
1222       client->message_count--;
1223     }
1224   if (NULL != q)
1225     {
1226       GNUNET_assert (msize >= sizeof (struct GNUNET_MessageHeader));
1227       client->th = GNUNET_SERVER_notify_transmit_ready (client->client,
1228                                                         msize,
1229                                                         GNUNET_TIME_UNIT_FOREVER_REL,
1230                                                         &transmit_to_client_callback,
1231                                                         client);
1232       GNUNET_assert (client->th != NULL);
1233     }
1234   return tsize;
1235 }
1236
1237
1238 /**
1239  * Convert an address to a string.
1240  *
1241  * @param plugin name of the plugin responsible for the address
1242  * @param addr binary address
1243  * @param addr_len number of bytes in addr
1244  * @return NULL on error, otherwise address string
1245  */
1246 static const char*
1247 a2s (const char *plugin,
1248      const void *addr,
1249      uint16_t addr_len)
1250 {
1251   struct TransportPlugin *p;
1252
1253   if (plugin == NULL)
1254     return NULL;
1255   p = find_transport (plugin);
1256   if (p == NULL)
1257     return NULL;
1258   return p->api->address_to_string (p->api->cls,
1259                                     addr,
1260                                     addr_len);
1261 }
1262
1263
1264 /**
1265  * Mark the given FAL entry as 'connected' (and hence preferred for
1266  * sending); also mark all others for the same peer as 'not connected'
1267  * (since only one can be preferred).
1268  *
1269  * @param fal address to set to 'connected'
1270  */
1271 static void
1272 mark_address_connected (struct ForeignAddressList *fal)
1273 {
1274   struct ForeignAddressList *pos;
1275   int cnt;
1276
1277   GNUNET_assert (GNUNET_YES == fal->validated);
1278   if (fal->connected == GNUNET_YES)
1279     return; /* nothing to do */
1280   cnt = GNUNET_YES;
1281   pos = fal->ready_list->addresses;
1282   while (pos != NULL)
1283     {
1284       if (GNUNET_YES == pos->connected)
1285         {
1286 #if DEBUG_TRANSPORT
1287           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1288                       "Marking address `%s' as no longer connected (due to connect on other address)\n",
1289                       a2s (pos->ready_list->plugin->short_name,
1290                            pos->addr,
1291                            pos->addrlen));
1292 #endif
1293           GNUNET_break (cnt == GNUNET_YES);
1294           cnt = GNUNET_NO;
1295           pos->connected = GNUNET_NO;
1296           GNUNET_STATISTICS_update (stats,
1297                                     gettext_noop ("# connected addresses"),
1298                                     -1,
1299                                     GNUNET_NO);
1300         }
1301       pos = pos->next;
1302     }
1303   fal->connected = GNUNET_YES;
1304   if (GNUNET_YES == cnt)
1305     {
1306       GNUNET_STATISTICS_update (stats,
1307                                 gettext_noop ("# connected addresses"),
1308                                 1,
1309                                 GNUNET_NO);
1310     }
1311 }
1312
1313
1314 /**
1315  * Send the specified message to the specified client.  Since multiple
1316  * messages may be pending for the same client at a time, this code
1317  * makes sure that no message is lost.
1318  *
1319  * @param client client to transmit the message to
1320  * @param msg the message to send
1321  * @param may_drop can this message be dropped if the
1322  *        message queue for this client is getting far too large?
1323  */
1324 static void
1325 transmit_to_client (struct TransportClient *client,
1326                     const struct GNUNET_MessageHeader *msg, int may_drop)
1327 {
1328   struct ClientMessageQueueEntry *q;
1329   uint16_t msize;
1330
1331   if ((client->message_count >= MAX_PENDING) && (GNUNET_YES == may_drop))
1332     {
1333       GNUNET_log (GNUNET_ERROR_TYPE_INFO,
1334                   _
1335                   ("Dropping message of type %u and size %u, have %u messages pending (%u is the soft limit)\n"),
1336                   ntohs (msg->type),
1337                   ntohs (msg->size),
1338                   client->message_count,
1339                   MAX_PENDING);
1340       GNUNET_STATISTICS_update (stats,
1341                                 gettext_noop ("# messages dropped due to slow client"),
1342                                 1,
1343                                 GNUNET_NO);
1344       return;
1345     }
1346   msize = ntohs (msg->size);
1347   GNUNET_assert (msize >= sizeof (struct GNUNET_MessageHeader));
1348   q = GNUNET_malloc (sizeof (struct ClientMessageQueueEntry) + msize);
1349   memcpy (&q[1], msg, msize);
1350   GNUNET_CONTAINER_DLL_insert_after (client->message_queue_head,
1351                                      client->message_queue_tail,
1352                                      client->message_queue_tail,
1353                                      q);                                
1354   client->message_count++;
1355   if (client->th == NULL)
1356     {
1357       client->th = GNUNET_SERVER_notify_transmit_ready (client->client,
1358                                                         msize,
1359                                                         GNUNET_TIME_UNIT_FOREVER_REL,
1360                                                         &transmit_to_client_callback,
1361                                                         client);
1362       GNUNET_assert (client->th != NULL);
1363     }
1364 }
1365
1366
1367 /**
1368  * Transmit a 'SEND_OK' notification to the given client for the
1369  * given neighbour.
1370  *
1371  * @param client who to notify
1372  * @param n neighbour to notify about
1373  * @param result status code for the transmission request
1374  */
1375 static void
1376 transmit_send_ok (struct TransportClient *client,
1377                   struct NeighbourList *n,
1378                   int result)
1379 {
1380   struct SendOkMessage send_ok_msg;
1381
1382   send_ok_msg.header.size = htons (sizeof (send_ok_msg));
1383   send_ok_msg.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SEND_OK);
1384   send_ok_msg.success = htonl (result);
1385   send_ok_msg.latency = GNUNET_TIME_relative_hton (n->latency);
1386   send_ok_msg.peer = n->id;
1387   transmit_to_client (client, &send_ok_msg.header, GNUNET_NO);
1388 }
1389
1390
1391 /**
1392  * Function called by the GNUNET_TRANSPORT_TransmitFunction
1393  * upon "completion" of a send request.  This tells the API
1394  * that it is now legal to send another message to the given
1395  * peer.
1396  *
1397  * @param cls closure, identifies the entry on the
1398  *            message queue that was transmitted and the
1399  *            client responsible for queueing the message
1400  * @param target the peer receiving the message
1401  * @param result GNUNET_OK on success, if the transmission
1402  *           failed, we should not tell the client to transmit
1403  *           more messages
1404  */
1405 static void
1406 transmit_send_continuation (void *cls,
1407                             const struct GNUNET_PeerIdentity *target,
1408                             int result)
1409 {
1410   struct MessageQueue *mq = cls;
1411   struct NeighbourList *n;
1412
1413   GNUNET_STATISTICS_update (stats,
1414                             gettext_noop ("# bytes pending with plugins"),
1415                             - (int64_t) mq->message_buf_size,
1416                             GNUNET_NO);
1417   if (result == GNUNET_OK)
1418     {
1419       GNUNET_STATISTICS_update (stats,
1420                                 gettext_noop ("# bytes successfully transmitted by plugins"),
1421                                 mq->message_buf_size,
1422                                 GNUNET_NO);
1423     }
1424   else
1425     {
1426       GNUNET_STATISTICS_update (stats,
1427                                 gettext_noop ("# bytes with transmission failure by plugins"),
1428                                 mq->message_buf_size,
1429                                 GNUNET_NO);
1430     }
1431   n = find_neighbour(&mq->neighbour_id);
1432   GNUNET_assert (n != NULL);
1433   if (mq->specific_address != NULL)
1434     {
1435       if (result == GNUNET_OK)
1436         {
1437           mq->specific_address->timeout =
1438             GNUNET_TIME_relative_to_absolute
1439             (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
1440           if (mq->specific_address->validated == GNUNET_YES)
1441             mark_address_connected (mq->specific_address);
1442         }
1443       else
1444         {
1445           if (mq->specific_address->connected != GNUNET_NO)
1446             {
1447 #if DEBUG_TRANSPORT
1448               GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1449                           "Marking address `%s' as no longer connected (due to transmission problem)\n",
1450                           a2s (mq->specific_address->ready_list->plugin->short_name,
1451                                mq->specific_address->addr,
1452                                mq->specific_address->addrlen));
1453 #endif
1454               GNUNET_STATISTICS_update (stats,
1455                                         gettext_noop ("# connected addresses"),
1456                                         -1,
1457                                         GNUNET_NO);
1458               mq->specific_address->connected = GNUNET_NO;
1459             }
1460         }
1461       if (! mq->internal_msg)
1462         mq->specific_address->in_transmit = GNUNET_NO;
1463     }
1464   if (mq->client != NULL)
1465     transmit_send_ok (mq->client, n, result);
1466   GNUNET_free (mq);
1467   try_transmission_to_peer (n);
1468 }
1469
1470
1471 /**
1472  * Find an address in any of the available transports for
1473  * the given neighbour that would be good for message
1474  * transmission.  This is essentially the transport selection
1475  * routine.
1476  *
1477  * @param neighbour for whom to select an address
1478  * @return selected address, NULL if we have none
1479  */
1480 struct ForeignAddressList *
1481 find_ready_address(struct NeighbourList *neighbour)
1482 {
1483   struct ReadyList *head = neighbour->plugins;
1484   struct ForeignAddressList *addresses;
1485   struct GNUNET_TIME_Absolute now = GNUNET_TIME_absolute_get ();
1486   struct ForeignAddressList *best_address;
1487
1488   best_address = NULL;
1489   while (head != NULL)
1490     {
1491       addresses = head->addresses;
1492       while (addresses != NULL)
1493         {
1494           if ( (addresses->timeout.abs_value < now.abs_value) &&
1495                (addresses->connected == GNUNET_YES) )
1496             {
1497 #if DEBUG_TRANSPORT
1498               GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1499                           "Marking long-time inactive connection to `%4s' as down.\n",
1500                           GNUNET_i2s (&neighbour->id));
1501 #endif
1502               GNUNET_STATISTICS_update (stats,
1503                                         gettext_noop ("# connected addresses"),
1504                                         -1,
1505                                         GNUNET_NO);
1506               addresses->connected = GNUNET_NO;
1507             }
1508           addresses = addresses->next;
1509         }
1510
1511       addresses = head->addresses;
1512       while (addresses != NULL)
1513         {
1514 #if DEBUG_TRANSPORT > 1
1515           if (addresses->addr != NULL)
1516             GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1517                         "Have address `%s' for peer `%4s' (status: %d, %d, %d, %u, %llums, %u)\n",
1518                         a2s (head->plugin->short_name,
1519                              addresses->addr,
1520                              addresses->addrlen),
1521                         GNUNET_i2s (&neighbour->id),
1522                         addresses->connected,
1523                         addresses->in_transmit,
1524                         addresses->validated,
1525                         addresses->connect_attempts,
1526                         (unsigned long long) addresses->timeout.abs_value,
1527                         (unsigned int) addresses->distance);
1528 #endif
1529           if ( ( (best_address == NULL) ||
1530                  (addresses->connected == GNUNET_YES) ||
1531                  (best_address->connected == GNUNET_NO) ) &&
1532                (addresses->in_transmit == GNUNET_NO) &&
1533                ( (best_address == NULL) ||
1534                  (addresses->latency.rel_value < best_address->latency.rel_value)) )
1535             best_address = addresses;
1536           /* FIXME: also give lower-latency addresses that are not
1537              connected a chance some times... */
1538           addresses = addresses->next;
1539         }
1540       head = head->next;
1541     }
1542   if (best_address != NULL)
1543     {
1544 #if DEBUG_TRANSPORT
1545       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1546                   "Best address found (`%s') has latency of %llu ms.\n",
1547                   (best_address->addrlen > 0)
1548                   ? a2s (best_address->ready_list->plugin->short_name,
1549                        best_address->addr,
1550                        best_address->addrlen)
1551                   : "<inbound>",
1552                   best_address->latency.rel_value);
1553 #endif
1554     }
1555   else
1556     {
1557       GNUNET_STATISTICS_update (stats,
1558                                 gettext_noop ("# transmission attempts failed (no address)"),
1559                                 1,
1560                                 GNUNET_NO);
1561     }
1562   return best_address;
1563
1564 }
1565
1566
1567 /**
1568  * We should re-try transmitting to the given peer,
1569  * hopefully we've learned something in the meantime.
1570  */
1571 static void
1572 retry_transmission_task (void *cls,
1573                          const struct GNUNET_SCHEDULER_TaskContext *tc)
1574 {
1575   struct NeighbourList *n = cls;
1576
1577   n->retry_task = GNUNET_SCHEDULER_NO_TASK;
1578   try_transmission_to_peer (n);
1579 }
1580
1581
1582 /**
1583  * Check the ready list for the given neighbour and if a plugin is
1584  * ready for transmission (and if we have a message), do so!
1585  *
1586  * @param neighbour target peer for which to transmit
1587  */
1588 static void
1589 try_transmission_to_peer (struct NeighbourList *neighbour)
1590 {
1591   struct ReadyList *rl;
1592   struct MessageQueue *mq;
1593   struct GNUNET_TIME_Relative timeout;
1594   ssize_t ret;
1595   int force_address;
1596
1597   if (neighbour->messages_head == NULL)
1598     {
1599 #if DEBUG_TRANSPORT
1600       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1601                   "Transmission queue for `%4s' is empty\n",
1602                   GNUNET_i2s (&neighbour->id));
1603 #endif
1604       return;                     /* nothing to do */
1605     }
1606   rl = NULL;
1607   mq = neighbour->messages_head;
1608   force_address = GNUNET_YES;
1609   if (mq->specific_address == NULL)
1610     {
1611       mq->specific_address = find_ready_address(neighbour);
1612       GNUNET_STATISTICS_update (stats,
1613                                 gettext_noop ("# transport selected peer address freely"),
1614                                 1,
1615                                 GNUNET_NO);
1616       force_address = GNUNET_NO;
1617     }
1618   if (mq->specific_address == NULL)
1619     {
1620       GNUNET_STATISTICS_update (stats,
1621                                 gettext_noop ("# transport failed to selected peer address"),
1622                                 1,
1623                                 GNUNET_NO);
1624       timeout = GNUNET_TIME_absolute_get_remaining (mq->timeout);
1625       if (timeout.rel_value == 0)
1626         {
1627 #if DEBUG_TRANSPORT
1628           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1629                       "No destination address available to transmit message of size %u to peer `%4s'\n",
1630                       mq->message_buf_size,
1631                       GNUNET_i2s (&mq->neighbour_id));
1632 #endif
1633           GNUNET_STATISTICS_update (stats,
1634                                     gettext_noop ("# bytes in message queue for other peers"),
1635                                     - (int64_t) mq->message_buf_size,
1636                                     GNUNET_NO);
1637           GNUNET_STATISTICS_update (stats,
1638                                     gettext_noop ("# bytes discarded (no destination address available)"),
1639                                     mq->message_buf_size,
1640                                     GNUNET_NO);
1641           if (mq->client != NULL)
1642             transmit_send_ok (mq->client, neighbour, GNUNET_NO);
1643           GNUNET_CONTAINER_DLL_remove (neighbour->messages_head,
1644                                        neighbour->messages_tail,
1645                                        mq);
1646           GNUNET_free (mq);
1647           return;               /* nobody ready */
1648         }
1649       GNUNET_STATISTICS_update (stats,
1650                                 gettext_noop ("# message delivery deferred (no address)"),
1651                                 1,
1652                                 GNUNET_NO);
1653       if (neighbour->retry_task != GNUNET_SCHEDULER_NO_TASK)
1654         GNUNET_SCHEDULER_cancel (neighbour->retry_task);
1655       neighbour->retry_task = GNUNET_SCHEDULER_add_delayed (timeout,
1656                                                             &retry_transmission_task,
1657                                                             neighbour);
1658 #if DEBUG_TRANSPORT
1659       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1660                   "No validated destination address available to transmit message of size %u to peer `%4s', will wait %llums to find an address.\n",
1661                   mq->message_buf_size,
1662                   GNUNET_i2s (&mq->neighbour_id),
1663                   timeout.rel_value);
1664 #endif
1665       /* FIXME: might want to trigger peerinfo lookup here
1666          (unless that's already pending...) */
1667       return;
1668     }
1669   GNUNET_CONTAINER_DLL_remove (neighbour->messages_head,
1670                                neighbour->messages_tail,
1671                                mq);
1672   if (mq->specific_address->connected == GNUNET_NO)
1673     mq->specific_address->connect_attempts++;
1674   rl = mq->specific_address->ready_list;
1675   mq->plugin = rl->plugin;
1676   if (!mq->internal_msg)
1677     mq->specific_address->in_transmit = GNUNET_YES;
1678 #if DEBUG_TRANSPORT
1679   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1680               "Sending message of size %u for `%4s' to `%s' via plugin `%s'\n",
1681               mq->message_buf_size,
1682               GNUNET_i2s (&neighbour->id),
1683               (mq->specific_address->addr != NULL)
1684               ? a2s (mq->plugin->short_name,
1685                      mq->specific_address->addr,
1686                      mq->specific_address->addrlen)
1687               : "<inbound>",
1688               rl->plugin->short_name);
1689 #endif
1690   GNUNET_STATISTICS_update (stats,
1691                             gettext_noop ("# bytes in message queue for other peers"),
1692                             - (int64_t) mq->message_buf_size,
1693                             GNUNET_NO);
1694   GNUNET_STATISTICS_update (stats,
1695                             gettext_noop ("# bytes pending with plugins"),
1696                             mq->message_buf_size,
1697                             GNUNET_NO);
1698   ret = rl->plugin->api->send (rl->plugin->api->cls,
1699                                &mq->neighbour_id,
1700                                mq->message_buf,
1701                                mq->message_buf_size,
1702                                mq->priority,
1703                                GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT,
1704                                mq->specific_address->session,
1705                                mq->specific_address->addr,
1706                                mq->specific_address->addrlen,
1707                                force_address,
1708                                &transmit_send_continuation, mq);
1709   if (ret == -1)
1710     {
1711       /* failure, but 'send' would not call continuation in this case,
1712          so we need to do it here! */
1713       transmit_send_continuation (mq,
1714                                   &mq->neighbour_id,
1715                                   GNUNET_SYSERR);
1716     }
1717 }
1718
1719
1720 /**
1721  * Send the specified message to the specified peer.
1722  *
1723  * @param client source of the transmission request (can be NULL)
1724  * @param peer_address ForeignAddressList where we should send this message
1725  * @param priority how important is the message
1726  * @param timeout how long do we have to transmit?
1727  * @param message_buf message(s) to send GNUNET_MessageHeader(s)
1728  * @param message_buf_size total size of all messages in message_buf
1729  * @param is_internal is this an internal message; these are pre-pended and
1730  *                    also do not count for plugins being "ready" to transmit
1731  * @param neighbour handle to the neighbour for transmission
1732  */
1733 static void
1734 transmit_to_peer (struct TransportClient *client,
1735                   struct ForeignAddressList *peer_address,
1736                   unsigned int priority,
1737                   struct GNUNET_TIME_Relative timeout,
1738                   const char *message_buf,
1739                   size_t message_buf_size,
1740                   int is_internal, struct NeighbourList *neighbour)
1741 {
1742   struct MessageQueue *mq;
1743
1744 #if EXTRA_CHECKS
1745   if (client != NULL)
1746     {
1747       /* check for duplicate submission */
1748       mq = neighbour->messages_head;
1749       while (NULL != mq)
1750         {
1751           if (mq->client == client)
1752             {
1753               /* client transmitted to same peer twice
1754                  before getting SEND_OK! */
1755               GNUNET_break (0);
1756               return;
1757             }
1758           mq = mq->next;
1759         }
1760     }
1761 #endif
1762   GNUNET_STATISTICS_update (stats,
1763                             gettext_noop ("# bytes in message queue for other peers"),
1764                             message_buf_size,
1765                             GNUNET_NO);
1766   mq = GNUNET_malloc (sizeof (struct MessageQueue) + message_buf_size);
1767   mq->specific_address = peer_address;
1768   mq->client = client;
1769   /* FIXME: this memcpy can be up to 7% of our total runtime! */
1770   memcpy (&mq[1], message_buf, message_buf_size);
1771   mq->message_buf = (const char*) &mq[1];
1772   mq->message_buf_size = message_buf_size;
1773   memcpy(&mq->neighbour_id, &neighbour->id, sizeof(struct GNUNET_PeerIdentity));
1774   mq->internal_msg = is_internal;
1775   mq->priority = priority;
1776   mq->timeout = GNUNET_TIME_relative_to_absolute (timeout);
1777   if (is_internal)
1778     GNUNET_CONTAINER_DLL_insert (neighbour->messages_head,
1779                                  neighbour->messages_tail,
1780                                  mq);
1781   else
1782     GNUNET_CONTAINER_DLL_insert_after (neighbour->messages_head,
1783                                        neighbour->messages_tail,
1784                                        neighbour->messages_tail,
1785                                        mq);
1786   try_transmission_to_peer (neighbour);
1787 }
1788
1789
1790 /**
1791  * FIXME: document.
1792  */
1793 struct GeneratorContext
1794 {
1795   struct TransportPlugin *plug_pos;
1796   struct OwnAddressList *addr_pos;
1797   struct GNUNET_TIME_Absolute expiration;
1798 };
1799
1800
1801 /**
1802  * FIXME: document.
1803  */
1804 static size_t
1805 address_generator (void *cls, size_t max, void *buf)
1806 {
1807   struct GeneratorContext *gc = cls;
1808   size_t ret;
1809
1810   while ((gc->addr_pos == NULL) && (gc->plug_pos != NULL))
1811     {
1812       gc->plug_pos = gc->plug_pos->next;
1813       gc->addr_pos = (gc->plug_pos != NULL) ? gc->plug_pos->addresses : NULL;
1814     }
1815   if (NULL == gc->plug_pos)
1816     {
1817
1818       return 0;
1819     }
1820   ret = GNUNET_HELLO_add_address (gc->plug_pos->short_name,
1821                                   gc->expiration,
1822                                   &gc->addr_pos[1],
1823                                   gc->addr_pos->addrlen, buf, max);
1824   gc->addr_pos = gc->addr_pos->next;
1825   return ret;
1826 }
1827
1828
1829 /**
1830  * Construct our HELLO message from all of the addresses of
1831  * all of the transports.
1832  */
1833 static void
1834 refresh_hello ()
1835 {
1836   struct GNUNET_HELLO_Message *hello;
1837   struct TransportClient *cpos;
1838   struct NeighbourList *npos;
1839   struct GeneratorContext gc;
1840
1841   gc.plug_pos = plugins;
1842   gc.addr_pos = plugins != NULL ? plugins->addresses : NULL;
1843   gc.expiration = GNUNET_TIME_relative_to_absolute (HELLO_ADDRESS_EXPIRATION);
1844   hello = GNUNET_HELLO_create (&my_public_key, &address_generator, &gc);
1845 #if DEBUG_TRANSPORT
1846   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
1847               "Refreshed my `%s', new size is %d\n", "HELLO", GNUNET_HELLO_size(hello));
1848 #endif
1849   GNUNET_STATISTICS_update (stats,
1850                             gettext_noop ("# refreshed my HELLO"),
1851                             1,
1852                             GNUNET_NO);
1853   cpos = clients;
1854   while (cpos != NULL)
1855     {
1856       transmit_to_client (cpos,
1857                           (const struct GNUNET_MessageHeader *) hello,
1858                           GNUNET_NO);
1859       cpos = cpos->next;
1860     }
1861
1862   GNUNET_free_non_null (our_hello);
1863   our_hello = hello;
1864   GNUNET_PEERINFO_add_peer (peerinfo, our_hello);
1865   npos = neighbours;
1866   while (npos != NULL)
1867     {
1868 #if DEBUG_TRANSPORT
1869       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
1870                   "Transmitting updated `%s' to neighbour `%4s'\n",
1871                   "HELLO", GNUNET_i2s (&npos->id));
1872 #endif
1873       GNUNET_STATISTICS_update (stats,
1874                                 gettext_noop ("# transmitted my HELLO to other peers"),
1875                                 1,
1876                                 GNUNET_NO);
1877       transmit_to_peer (NULL, NULL, 0,
1878                         HELLO_ADDRESS_EXPIRATION,
1879                         (const char *) our_hello,
1880                         GNUNET_HELLO_size(our_hello),
1881                         GNUNET_NO, npos);
1882       npos = npos->next;
1883     }
1884 }
1885
1886
1887 /**
1888  * Task used to clean up expired addresses for a plugin.
1889  *
1890  * @param cls closure
1891  * @param tc context
1892  */
1893 static void
1894 expire_address_task (void *cls,
1895                      const struct GNUNET_SCHEDULER_TaskContext *tc);
1896
1897
1898 /**
1899  * Update the list of addresses for this plugin,
1900  * expiring those that are past their expiration date.
1901  *
1902  * @param plugin addresses of which plugin should be recomputed?
1903  * @param fresh set to GNUNET_YES if a new address was added
1904  *        and we need to regenerate the HELLO even if nobody
1905  *        expired
1906  */
1907 static void
1908 update_addresses (struct TransportPlugin *plugin, 
1909                   int fresh)
1910 {
1911   static struct GNUNET_TIME_Absolute last_update;
1912   struct GNUNET_TIME_Relative min_remaining;
1913   struct GNUNET_TIME_Relative remaining;
1914   struct GNUNET_TIME_Absolute now;
1915   struct OwnAddressList *pos;
1916   struct OwnAddressList *prev;
1917   struct OwnAddressList *next;
1918   int expired;
1919
1920   if (plugin->address_update_task != GNUNET_SCHEDULER_NO_TASK)
1921     GNUNET_SCHEDULER_cancel (plugin->address_update_task);
1922   plugin->address_update_task = GNUNET_SCHEDULER_NO_TASK;
1923   now = GNUNET_TIME_absolute_get ();
1924   min_remaining = GNUNET_TIME_UNIT_FOREVER_REL;
1925   expired = (GNUNET_TIME_absolute_get_duration (last_update).rel_value > (HELLO_ADDRESS_EXPIRATION.rel_value / 4));
1926   prev = NULL;
1927   pos = plugin->addresses;
1928   while (pos != NULL)
1929     {
1930       next = pos->next;
1931       if (pos->expires.abs_value < now.abs_value)
1932         {
1933           expired = GNUNET_YES;
1934           if (prev == NULL)
1935             plugin->addresses = pos->next;
1936           else
1937             prev->next = pos->next;
1938           GNUNET_free (pos);
1939         }
1940       else
1941         {
1942           remaining = GNUNET_TIME_absolute_get_remaining (pos->expires);
1943           if (remaining.rel_value < min_remaining.rel_value)
1944             min_remaining = remaining;
1945           prev = pos;
1946         }
1947       pos = next;
1948     }
1949
1950   if (expired || fresh)
1951     {
1952       last_update = now;
1953       refresh_hello ();
1954     }
1955   min_remaining = GNUNET_TIME_relative_min (min_remaining,
1956                                             GNUNET_TIME_relative_divide (HELLO_ADDRESS_EXPIRATION,
1957                                                                          2));
1958   plugin->address_update_task
1959     = GNUNET_SCHEDULER_add_delayed (min_remaining,
1960                                     &expire_address_task, plugin);
1961 }
1962
1963
1964 /**
1965  * Task used to clean up expired addresses for a plugin.
1966  *
1967  * @param cls closure
1968  * @param tc context
1969  */
1970 static void
1971 expire_address_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1972 {
1973   struct TransportPlugin *plugin = cls;
1974
1975   plugin->address_update_task = GNUNET_SCHEDULER_NO_TASK;
1976   if (0 == (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1977     update_addresses (plugin, GNUNET_NO);
1978 }
1979
1980
1981 /**
1982  * Iterator over hash map entries that NULLs the session of validation
1983  * entries that match the given session.
1984  *
1985  * @param cls closure (the 'struct Session*' to match against)
1986  * @param key current key code (peer ID, not used)
1987  * @param value value in the hash map ('struct ValidationEntry*')
1988  * @return GNUNET_YES (we should continue to iterate)
1989  */
1990 static int
1991 remove_session_validations (void *cls,
1992                             const GNUNET_HashCode * key,
1993                             void *value)
1994 {
1995   struct Session *session = cls;
1996   struct ValidationEntry *ve = value;
1997
1998   if (session == ve->session)
1999     ve->session = NULL;
2000   return GNUNET_YES;
2001 }
2002
2003
2004 /**
2005  * We've been disconnected from the other peer (for some
2006  * connection-oriented transport).  Either quickly
2007  * re-establish the connection or signal the disconnect
2008  * to the CORE.
2009  *
2010  * Only signal CORE level disconnect if ALL addresses
2011  * for the peer are exhausted.
2012  *
2013  * @param p overall plugin context
2014  * @param nl neighbour that was disconnected
2015  */
2016 static void
2017 try_fast_reconnect (struct TransportPlugin *p,
2018                     struct NeighbourList *nl)
2019 {
2020   /* FIXME-MW: fast reconnect / transport switching not implemented... */
2021   /* Note: the idea here is to hide problems with transports (or
2022      switching between plugins) from the core to eliminate the need to
2023      re-negotiate session keys and the like; OTOH, we should tell core
2024      quickly (much faster than timeout) `if a connection was lost and
2025      could not be re-established (i.e. other peer went down or is
2026      unable / refuses to communicate);
2027
2028      So we should consider:
2029      1) ideally: our own willingness / need to connect
2030      2) prior failures to connect to this peer (by plugin)
2031      3) ideally: reasons why other peer terminated (as far as knowable)
2032
2033      Most importantly, it must be POSSIBLE for another peer to terminate
2034      a connection for a while (without us instantly re-establishing it).
2035      Similarly, if another peer is gone we should quickly notify CORE.
2036      OTOH, if there was a minor glitch (i.e. crash of gnunet-service-transport
2037      on the other end), we should reconnect in such a way that BOTH CORE
2038      services never even notice.
2039      Furthermore, the same mechanism (or small variation) could be used
2040      to switch to a better-performing plugin (ATS).
2041
2042      Finally, this needs to be tested throughly... */                                                           
2043
2044   /*
2045    * GNUNET_NO in the call below makes transport disconnect the peer,
2046    * even if only a single address (out of say, six) went away.  This
2047    * function must be careful to ONLY disconnect if the peer is gone,
2048    * not just a specifi address.
2049    *
2050    * More specifically, half the places it was used had it WRONG.
2051    */
2052
2053   /* No reconnect, signal disconnect instead! */
2054   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2055             "Disconnecting peer `%4s', %s\n", GNUNET_i2s(&nl->id),
2056             "try_fast_reconnect");
2057   disconnect_neighbour (nl, GNUNET_YES);
2058 }
2059
2060
2061 /**
2062  * Function that will be called whenever the plugin internally
2063  * cleans up a session pointer and hence the service needs to
2064  * discard all of those sessions as well.  Plugins that do not
2065  * use sessions can simply omit calling this function and always
2066  * use NULL wherever a session pointer is needed.
2067  *
2068  * @param cls closure
2069  * @param peer which peer was the session for
2070  * @param session which session is being destoyed
2071  */
2072 static void
2073 plugin_env_session_end  (void *cls,
2074                          const struct GNUNET_PeerIdentity *peer,
2075                          struct Session *session)
2076 {
2077   struct TransportPlugin *p = cls;
2078   struct NeighbourList *nl;
2079   struct ReadyList *rl;
2080   struct ForeignAddressList *pos;
2081   struct ForeignAddressList *prev;
2082
2083   GNUNET_CONTAINER_multihashmap_iterate (validation_map,
2084                                          &remove_session_validations,
2085                                          session);
2086   nl = find_neighbour (peer);
2087   if (nl == NULL)
2088     return; /* was never marked as connected */
2089   rl = nl->plugins;
2090   while (rl != NULL)
2091     {
2092       if (rl->plugin == p)
2093         break;
2094       rl = rl->next;
2095     }
2096   if (rl == NULL)
2097     return; /* was never marked as connected */
2098   prev = NULL;
2099   pos = rl->addresses;
2100   while ( (pos != NULL) &&
2101           (pos->session != session) )
2102     {
2103       prev = pos;
2104       pos = pos->next;
2105     }
2106   if (pos == NULL)
2107     return; /* was never marked as connected */
2108   pos->session = NULL;
2109   if (pos->addrlen != 0)
2110     {
2111       if (nl->received_pong != GNUNET_NO)
2112         try_fast_reconnect (p, nl);
2113       return;
2114     }
2115   /* was inbound connection, free 'pos' */
2116   if (prev == NULL)
2117     rl->addresses = pos->next;
2118   else
2119     prev->next = pos->next;
2120   if (GNUNET_SCHEDULER_NO_TASK != pos->revalidate_task)
2121     {
2122       GNUNET_SCHEDULER_cancel (pos->revalidate_task);
2123       pos->revalidate_task = GNUNET_SCHEDULER_NO_TASK;
2124     }
2125   GNUNET_free (pos);
2126   if (nl->received_pong == GNUNET_NO)
2127     return; /* nothing to do, never connected... */
2128   /* check if we have any validated addresses left */
2129   pos = rl->addresses;
2130   while (pos != NULL)
2131     {
2132       if (pos->validated)
2133         {
2134           try_fast_reconnect (p, nl);
2135           return;
2136         }
2137       pos = pos->next;
2138     }
2139   /* no valid addresses left, signal disconnect! */
2140
2141   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2142             "Disconnecting peer `%4s', %s\n", GNUNET_i2s(&nl->id),
2143             "plugin_env_session_end");
2144   /* FIXME: This doesn't mean there are no addresses left for this PEER,
2145    * it means there aren't any left for this PLUGIN/PEER combination! So
2146    * calling disconnect_neighbor here with GNUNET_NO forces disconnect
2147    * when it isn't necessary. Using GNUNET_YES at least checks to see
2148    * if there are any addresses that work first, so as not to overdo it.
2149    * --NE
2150    */
2151   disconnect_neighbour (nl, GNUNET_YES);
2152 }
2153
2154
2155 /**
2156  * Function that must be called by each plugin to notify the
2157  * transport service about the addresses under which the transport
2158  * provided by the plugin can be reached.
2159  *
2160  * @param cls closure
2161  * @param name name of the transport that generated the address
2162  * @param addr one of the addresses of the host, NULL for the last address
2163  *        the specific address format depends on the transport
2164  * @param addrlen length of the address
2165  * @param expires when should this address automatically expire?
2166  */
2167 static void
2168 plugin_env_notify_address (void *cls,
2169                            const char *name,
2170                            const void *addr,
2171                            uint16_t addrlen,
2172                            struct GNUNET_TIME_Relative expires)
2173 {
2174   struct TransportPlugin *p = cls;
2175   struct OwnAddressList *al;
2176   struct GNUNET_TIME_Absolute abex;
2177
2178   GNUNET_assert (addr != NULL);
2179   abex = GNUNET_TIME_relative_to_absolute (expires);
2180   GNUNET_assert (p == find_transport (name));
2181   al = p->addresses;
2182   while (al != NULL)
2183     {
2184       if ((addrlen == al->addrlen) && (0 == memcmp (addr, &al[1], addrlen)))
2185         {             
2186           al->expires = abex;
2187           update_addresses (p, GNUNET_NO);
2188           return;
2189         }
2190       al = al->next;
2191     }
2192
2193   al = GNUNET_malloc (sizeof (struct OwnAddressList) + addrlen);
2194   al->next = p->addresses;
2195   p->addresses = al;
2196   al->expires = abex;
2197   al->addrlen = addrlen;
2198   memcpy (&al[1], addr, addrlen);
2199   update_addresses (p, GNUNET_YES);
2200 }
2201
2202
2203 /**
2204  * Notify all of our clients about a peer connecting.
2205  */
2206 static void
2207 notify_clients_connect (const struct GNUNET_PeerIdentity *peer,
2208                         struct GNUNET_TIME_Relative latency,
2209                         uint32_t distance)
2210 {
2211   struct ConnectInfoMessage cim;
2212   struct TransportClient *cpos;
2213
2214 #if DEBUG_TRANSPORT
2215   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2216               "Notifying clients about connection from `%s'\n",
2217               GNUNET_i2s (peer));
2218 #endif
2219   GNUNET_STATISTICS_update (stats,
2220                             gettext_noop ("# peers connected"),
2221                             1,
2222                             GNUNET_NO);
2223   cim.header.size = htons (sizeof (struct ConnectInfoMessage));
2224   cim.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_CONNECT);
2225   cim.distance = htonl (distance);
2226   cim.latency = GNUNET_TIME_relative_hton (latency);
2227   memcpy (&cim.id, peer, sizeof (struct GNUNET_PeerIdentity));
2228   cpos = clients;
2229   while (cpos != NULL)
2230     {
2231       transmit_to_client (cpos, &cim.header, GNUNET_NO);
2232       cpos = cpos->next;
2233     }
2234 }
2235
2236
2237 /**
2238  * Notify all of our clients about a peer disconnecting.
2239  */
2240 static void
2241 notify_clients_disconnect (const struct GNUNET_PeerIdentity *peer)
2242 {
2243   struct DisconnectInfoMessage dim;
2244   struct TransportClient *cpos;
2245
2246 #if DEBUG_TRANSPORT
2247   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2248               "Notifying clients about lost connection to `%s'\n",
2249               GNUNET_i2s (peer));
2250 #endif
2251   GNUNET_STATISTICS_update (stats,
2252                             gettext_noop ("# peers connected"),
2253                             -1,
2254                             GNUNET_NO);
2255   dim.header.size = htons (sizeof (struct DisconnectInfoMessage));
2256   dim.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_DISCONNECT);
2257   dim.reserved = htonl (0);
2258   memcpy (&dim.peer, peer, sizeof (struct GNUNET_PeerIdentity));
2259   cpos = clients;
2260   while (cpos != NULL)
2261     {
2262       transmit_to_client (cpos, &dim.header, GNUNET_NO);
2263       cpos = cpos->next;
2264     }
2265 }
2266
2267
2268 /**
2269  * Find a ForeignAddressList entry for the given neighbour
2270  * that matches the given address and transport.
2271  *
2272  * @param neighbour which peer we care about
2273  * @param tname name of the transport plugin
2274  * @param session session to look for, NULL for 'any'; otherwise
2275  *        can be used for the service to "learn" this session ID
2276  *        if 'addr' matches
2277  * @param addr binary address
2278  * @param addrlen length of addr
2279  * @return NULL if no such entry exists
2280  */
2281 static struct ForeignAddressList *
2282 find_peer_address(struct NeighbourList *neighbour,
2283                   const char *tname,
2284                   struct Session *session,
2285                   const char *addr,
2286                   uint16_t addrlen)
2287 {
2288   struct ReadyList *head;
2289   struct ForeignAddressList *pos;
2290
2291   head = neighbour->plugins;
2292   while (head != NULL)
2293     {
2294       if (0 == strcmp (tname, head->plugin->short_name))
2295         break;
2296       head = head->next;
2297     }
2298   if (head == NULL)
2299     return NULL;
2300   pos = head->addresses;
2301   while ( (pos != NULL) &&
2302           ( (pos->addrlen != addrlen) ||
2303             (memcmp(pos->addr, addr, addrlen) != 0) ) )
2304     {
2305       if ( (session != NULL) &&
2306            (pos->session == session) )
2307         return pos;
2308       pos = pos->next;
2309     }
2310   if ( (session != NULL) && (pos != NULL) )
2311     pos->session = session; /* learn it! */
2312   return pos;
2313 }
2314
2315
2316 /**
2317  * Get the peer address struct for the given neighbour and
2318  * address.  If it doesn't yet exist, create it.
2319  *
2320  * @param neighbour which peer we care about
2321  * @param tname name of the transport plugin
2322  * @param session session of the plugin, or NULL for none
2323  * @param addr binary address
2324  * @param addrlen length of addr
2325  * @return NULL if we do not have a transport plugin for 'tname'
2326  */
2327 static struct ForeignAddressList *
2328 add_peer_address (struct NeighbourList *neighbour,
2329                   const char *tname,
2330                   struct Session *session,
2331                   const char *addr,
2332                   uint16_t addrlen)
2333 {
2334   struct ReadyList *head;
2335   struct ForeignAddressList *ret;
2336
2337   ret = find_peer_address (neighbour, tname, session, addr, addrlen);
2338   if (ret != NULL)
2339     return ret;
2340   head = neighbour->plugins;
2341
2342   while (head != NULL)
2343     {
2344       if (0 == strcmp (tname, head->plugin->short_name))
2345         break;
2346       head = head->next;
2347     }
2348   if (head == NULL)
2349     return NULL;
2350   ret = GNUNET_malloc(sizeof(struct ForeignAddressList) + addrlen);
2351   ret->session = session;
2352   if (addrlen > 0)
2353     {
2354       ret->addr = (const char*) &ret[1];
2355       memcpy (&ret[1], addr, addrlen);
2356     }
2357   else
2358     {
2359       ret->addr = NULL;
2360     }
2361   ret->addrlen = addrlen;
2362   ret->expires = GNUNET_TIME_relative_to_absolute
2363     (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
2364   ret->latency = GNUNET_TIME_relative_get_forever();
2365   ret->distance = -1;
2366   ret->timeout = GNUNET_TIME_relative_to_absolute
2367     (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
2368   ret->ready_list = head;
2369   ret->next = head->addresses;
2370   head->addresses = ret;
2371   return ret;
2372 }
2373
2374
2375 /**
2376  * Closure for 'add_validated_address'.
2377  */
2378 struct AddValidatedAddressContext
2379 {
2380   /**
2381    * Entry that has been validated.
2382    */
2383   const struct ValidationEntry *ve;
2384
2385   /**
2386    * Flag set after we have added the address so
2387    * that we terminate the iteration next time.
2388    */
2389   int done;
2390 };
2391
2392
2393 /**
2394  * Callback function used to fill a buffer of max bytes with a list of
2395  * addresses in the format used by HELLOs.  Should use
2396  * "GNUNET_HELLO_add_address" as a helper function.
2397  *
2398  * @param cls the 'struct AddValidatedAddressContext' with the validated address
2399  * @param max maximum number of bytes that can be written to buf
2400  * @param buf where to write the address information
2401  * @return number of bytes written, 0 to signal the
2402  *         end of the iteration.
2403  */
2404 static size_t
2405 add_validated_address (void *cls,
2406                        size_t max, void *buf)
2407 {
2408   struct AddValidatedAddressContext *avac = cls;
2409   const struct ValidationEntry *ve = avac->ve;
2410
2411   if (GNUNET_YES == avac->done)
2412     return 0;
2413   avac->done = GNUNET_YES;
2414   return GNUNET_HELLO_add_address (ve->transport_name,
2415                                    GNUNET_TIME_relative_to_absolute (HELLO_ADDRESS_EXPIRATION),
2416                                    ve->addr,
2417                                    ve->addrlen,
2418                                    buf,
2419                                    max);
2420 }
2421
2422
2423
2424 /**
2425  * Closure for 'check_address_exists'.
2426  */
2427 struct CheckAddressExistsClosure
2428 {
2429   /**
2430    * Address to check for.
2431    */
2432   const void *addr;
2433
2434   /**
2435    * Name of the transport.
2436    */
2437   const char *tname;
2438
2439   /**
2440    * Session, or NULL.
2441    */
2442   struct Session *session;
2443
2444   /**
2445    * Set to GNUNET_YES if the address exists.
2446    */
2447   int exists;
2448
2449   /**
2450    * Length of addr.
2451    */
2452   uint16_t addrlen;
2453
2454 };
2455
2456
2457 /**
2458  * Iterator over hash map entries.  Checks if the given
2459  * validation entry is for the same address as what is given
2460  * in the closure.
2461  *
2462  * @param cls the 'struct CheckAddressExistsClosure*'
2463  * @param key current key code (ignored)
2464  * @param value value in the hash map ('struct ValidationEntry')
2465  * @return GNUNET_YES if we should continue to
2466  *         iterate (mismatch), GNUNET_NO if not (entry matched)
2467  */
2468 static int
2469 check_address_exists (void *cls,
2470                       const GNUNET_HashCode * key,
2471                       void *value)
2472 {
2473   struct CheckAddressExistsClosure *caec = cls;
2474   struct ValidationEntry *ve = value;
2475
2476   if ( (0 == strcmp (caec->tname,
2477                      ve->transport_name)) &&
2478        (caec->addrlen == ve->addrlen) &&
2479        (0 == memcmp (caec->addr,
2480                      ve->addr,
2481                      caec->addrlen)) )
2482     {
2483       caec->exists = GNUNET_YES;
2484       return GNUNET_NO;
2485     }
2486   if ( (ve->session != NULL) &&
2487        (caec->session == ve->session) )
2488     {
2489       caec->exists = GNUNET_YES;
2490       return GNUNET_NO;
2491     }
2492   return GNUNET_YES;
2493 }
2494
2495
2496
2497 /**
2498  * Iterator to free entries in the validation_map.
2499  *
2500  * @param cls closure (unused)
2501  * @param key current key code
2502  * @param value value in the hash map (validation to abort)
2503  * @return GNUNET_YES (always)
2504  */
2505 static int
2506 abort_validation (void *cls,
2507                   const GNUNET_HashCode * key,
2508                   void *value)
2509 {
2510   struct ValidationEntry *va = value;
2511
2512   if (GNUNET_SCHEDULER_NO_TASK != va->timeout_task)
2513     GNUNET_SCHEDULER_cancel (va->timeout_task);
2514   GNUNET_free (va->transport_name);
2515   if (va->chvc != NULL)
2516     {
2517       va->chvc->ve_count--;
2518       if (va->chvc->ve_count == 0)
2519         {
2520           GNUNET_CONTAINER_DLL_remove (chvc_head,
2521                                        chvc_tail,
2522                                        va->chvc);
2523           GNUNET_free (va->chvc);
2524         }
2525       va->chvc = NULL;
2526     }
2527   GNUNET_free (va);
2528   return GNUNET_YES;
2529 }
2530
2531
2532 /**
2533  * HELLO validation cleanup task (validation failed).
2534  *
2535  * @param cls the 'struct ValidationEntry' that failed
2536  * @param tc scheduler context (unused)
2537  */
2538 static void
2539 timeout_hello_validation (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
2540 {
2541   struct ValidationEntry *va = cls;
2542   struct GNUNET_PeerIdentity pid;
2543
2544   va->timeout_task = GNUNET_SCHEDULER_NO_TASK;
2545   GNUNET_STATISTICS_update (stats,
2546                             gettext_noop ("# address validation timeouts"),
2547                             1,
2548                             GNUNET_NO);
2549   GNUNET_CRYPTO_hash (&va->publicKey,
2550                       sizeof (struct
2551                               GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
2552                       &pid.hashPubKey);
2553   GNUNET_break (GNUNET_OK ==
2554                 GNUNET_CONTAINER_multihashmap_remove (validation_map,
2555                                                       &pid.hashPubKey,
2556                                                       va));
2557   abort_validation (NULL, NULL, va);
2558 }
2559
2560
2561 static void
2562 neighbour_timeout_task (void *cls,
2563                        const struct GNUNET_SCHEDULER_TaskContext *tc)
2564 {
2565   struct NeighbourList *n = cls;
2566
2567 #if DEBUG_TRANSPORT
2568   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
2569               "Neighbour `%4s' has timed out!\n", GNUNET_i2s (&n->id));
2570 #endif
2571   GNUNET_STATISTICS_update (stats,
2572                             gettext_noop ("# disconnects due to timeout"),
2573                             1,
2574                             GNUNET_NO);
2575   n->timeout_task = GNUNET_SCHEDULER_NO_TASK;
2576   disconnect_neighbour (n, GNUNET_NO);
2577 }
2578
2579
2580 /**
2581  * Schedule the job that will cause us to send a PING to the
2582  * foreign address to evaluate its validity and latency.
2583  *
2584  * @param fal address to PING
2585  */
2586 static void
2587 schedule_next_ping (struct ForeignAddressList *fal);
2588
2589
2590 /**
2591  * Add the given address to the list of foreign addresses
2592  * available for the given peer (check for duplicates).
2593  *
2594  * @param cls the respective 'struct NeighbourList' to update
2595  * @param tname name of the transport
2596  * @param expiration expiration time
2597  * @param addr the address
2598  * @param addrlen length of the address
2599  * @return GNUNET_OK (always)
2600  */
2601 static int
2602 add_to_foreign_address_list (void *cls,
2603                              const char *tname,
2604                              struct GNUNET_TIME_Absolute expiration,
2605                              const void *addr,
2606                              uint16_t addrlen)
2607 {
2608   struct NeighbourList *n = cls;
2609   struct ForeignAddressList *fal;
2610   int try;
2611
2612   GNUNET_STATISTICS_update (stats,
2613                             gettext_noop ("# valid peer addresses returned by PEERINFO"),
2614                             1,
2615                             GNUNET_NO);
2616   try = GNUNET_NO;
2617   fal = find_peer_address (n, tname, NULL, addr, addrlen);
2618   if (fal == NULL)
2619     {
2620 #if DEBUG_TRANSPORT_HELLO
2621       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2622                   "Adding address `%s' (%s) for peer `%4s' due to PEERINFO data for %llums.\n",
2623                   a2s (tname, addr, addrlen),
2624                   tname,
2625                   GNUNET_i2s (&n->id),
2626                   expiration.abs_value);
2627 #endif
2628       fal = add_peer_address (n, tname, NULL, addr, addrlen);
2629       if (fal == NULL)
2630         {
2631           GNUNET_STATISTICS_update (stats,
2632                                     gettext_noop ("# previously validated addresses lacking transport"),
2633                                     1,
2634                                     GNUNET_NO);
2635         }
2636       else
2637         {
2638           fal->expires = GNUNET_TIME_absolute_max (expiration,
2639                                                    fal->expires);
2640           schedule_next_ping (fal);
2641         }
2642       try = GNUNET_YES;
2643     }
2644   else
2645     {
2646       fal->expires = GNUNET_TIME_absolute_max (expiration,
2647                                                fal->expires);
2648     }
2649   if (fal == NULL)
2650     {
2651       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
2652                   "Failed to add new address for `%4s'\n",
2653                   GNUNET_i2s (&n->id));
2654       return GNUNET_OK;
2655     }
2656   if (fal->validated == GNUNET_NO)
2657     {
2658       fal->validated = GNUNET_YES;
2659       GNUNET_STATISTICS_update (stats,
2660                                 gettext_noop ("# peer addresses considered valid"),
2661                                 1,
2662                                 GNUNET_NO);
2663     }
2664   if (try == GNUNET_YES)
2665     {
2666       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2667                   "Have new addresses, will try to trigger transmissions.\n");
2668       try_transmission_to_peer (n);
2669     }
2670   return GNUNET_OK;
2671 }
2672
2673
2674 /**
2675  * Add addresses in validated HELLO "h" to the set of addresses
2676  * we have for this peer.
2677  *
2678  * @param cls closure ('struct NeighbourList*')
2679  * @param peer id of the peer, NULL for last call
2680  * @param h hello message for the peer (can be NULL)
2681  */
2682 static void
2683 add_hello_for_peer (void *cls,
2684                     const struct GNUNET_PeerIdentity *peer,
2685                     const struct GNUNET_HELLO_Message *h)
2686 {
2687   struct NeighbourList *n = cls;
2688
2689   if (peer == NULL)
2690     {
2691       GNUNET_STATISTICS_update (stats,
2692                                 gettext_noop ("# outstanding peerinfo iterate requests"),
2693                                 -1,
2694                                 GNUNET_NO);
2695       n->piter = NULL;
2696       return;
2697     }
2698   if (h == NULL)
2699     return; /* no HELLO available */
2700 #if DEBUG_TRANSPORT
2701   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2702               "Peerinfo had `%s' message for peer `%4s', adding existing addresses.\n",
2703               "HELLO",
2704               GNUNET_i2s (peer));
2705 #endif
2706   if (GNUNET_YES != n->public_key_valid)
2707     {
2708       GNUNET_HELLO_get_key (h, &n->publicKey);
2709       n->public_key_valid = GNUNET_YES;
2710     }
2711   GNUNET_HELLO_iterate_addresses (h,
2712                                   GNUNET_NO,
2713                                   &add_to_foreign_address_list,
2714                                   n);
2715 }
2716
2717
2718 /**
2719  * Create a fresh entry in our neighbour list for the given peer.
2720  * Will try to transmit our current HELLO to the new neighbour.
2721  * Do not call this function directly, use 'setup_peer_check_blacklist.
2722  *
2723  * @param peer the peer for which we create the entry
2724  * @param do_hello should we schedule transmitting a HELLO
2725  * @return the new neighbour list entry
2726  */
2727 static struct NeighbourList *
2728 setup_new_neighbour (const struct GNUNET_PeerIdentity *peer,
2729                      int do_hello)
2730 {
2731   struct NeighbourList *n;
2732   struct TransportPlugin *tp;
2733   struct ReadyList *rl;
2734
2735 #if DEBUG_TRANSPORT
2736   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2737               "Setting up state for neighbour `%4s'\n",
2738               GNUNET_i2s (peer));
2739 #endif
2740   GNUNET_assert (our_hello != NULL);
2741   GNUNET_STATISTICS_update (stats,
2742                             gettext_noop ("# active neighbours"),
2743                             1,
2744                             GNUNET_NO);
2745   n = GNUNET_malloc (sizeof (struct NeighbourList));
2746   n->next = neighbours;
2747   neighbours = n;
2748   n->id = *peer;
2749   n->peer_timeout =
2750     GNUNET_TIME_relative_to_absolute
2751     (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
2752   GNUNET_BANDWIDTH_tracker_init (&n->in_tracker,
2753                                  GNUNET_CONSTANTS_DEFAULT_BW_IN_OUT,
2754                                  MAX_BANDWIDTH_CARRY_S);
2755   tp = plugins;
2756   while (tp != NULL)
2757     {
2758       if ((tp->api->send != NULL) && (!is_blacklisted(peer, tp)))
2759         {
2760           rl = GNUNET_malloc (sizeof (struct ReadyList));
2761           rl->neighbour = n;
2762           rl->next = n->plugins;
2763           n->plugins = rl;
2764           rl->plugin = tp;
2765           rl->addresses = NULL;
2766         }
2767       tp = tp->next;
2768     }
2769   n->latency = GNUNET_TIME_UNIT_FOREVER_REL;
2770   n->distance = -1;
2771   n->timeout_task = GNUNET_SCHEDULER_add_delayed (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT,
2772                                                   &neighbour_timeout_task, n);
2773   if (do_hello)
2774     {
2775       GNUNET_STATISTICS_update (stats,
2776                                 gettext_noop ("# peerinfo new neighbor iterate requests"),
2777                                 1,
2778                                 GNUNET_NO);
2779       GNUNET_STATISTICS_update (stats,
2780                                 gettext_noop ("# outstanding peerinfo iterate requests"),
2781                                 1,
2782                                 GNUNET_NO);
2783       n->piter = GNUNET_PEERINFO_iterate (peerinfo, peer,
2784                                           GNUNET_TIME_UNIT_FOREVER_REL,
2785                                           &add_hello_for_peer, n);
2786
2787       GNUNET_STATISTICS_update (stats,
2788                                 gettext_noop ("# HELLO's sent to new neighbors"),
2789                                 1,
2790                                 GNUNET_NO);
2791       transmit_to_peer (NULL, NULL, 0,
2792                         HELLO_ADDRESS_EXPIRATION,
2793                         (const char *) our_hello, GNUNET_HELLO_size(our_hello),
2794                         GNUNET_NO, n);
2795     }
2796   return n;
2797 }
2798
2799
2800 /**
2801  * Function called after we have checked if communicating
2802  * with a given peer is acceptable.
2803  *
2804  * @param cls closure
2805  * @param n NULL if communication is not acceptable
2806  */
2807 typedef void (*SetupContinuation)(void *cls,
2808                                   struct NeighbourList *n);
2809
2810
2811 /**
2812  * Information kept for each client registered to perform
2813  * blacklisting.
2814  */
2815 struct Blacklisters
2816 {
2817   /**
2818    * This is a linked list.
2819    */
2820   struct Blacklisters *next;
2821
2822   /**
2823    * This is a linked list.
2824    */
2825   struct Blacklisters *prev;
2826
2827   /**
2828    * Client responsible for this entry.
2829    */
2830   struct GNUNET_SERVER_Client *client;
2831
2832   /**
2833    * Blacklist check that we're currently performing.
2834    */
2835   struct BlacklistCheck *bc;
2836
2837 };
2838
2839
2840 /**
2841  * Head of DLL of blacklisting clients.
2842  */
2843 static struct Blacklisters *bl_head;
2844
2845 /**
2846  * Tail of DLL of blacklisting clients.
2847  */
2848 static struct Blacklisters *bl_tail;
2849
2850
2851 /**
2852  * Context we use when performing a blacklist check.
2853  */
2854 struct BlacklistCheck
2855 {
2856
2857   /**
2858    * This is a linked list.
2859    */
2860   struct BlacklistCheck *next;
2861
2862   /**
2863    * This is a linked list.
2864    */
2865   struct BlacklistCheck *prev;
2866
2867   /**
2868    * Peer being checked.
2869    */
2870   struct GNUNET_PeerIdentity peer;
2871
2872   /**
2873    * Option for setup neighbour afterwards.
2874    */
2875   int do_hello;
2876
2877   /**
2878    * Continuation to call with the result.
2879    */
2880   SetupContinuation cont;
2881
2882   /**
2883    * Closure for cont.
2884    */
2885   void *cont_cls;
2886
2887   /**
2888    * Current transmission request handle for this client, or NULL if no
2889    * request is pending.
2890    */
2891   struct GNUNET_CONNECTION_TransmitHandle *th;
2892
2893   /**
2894    * Our current position in the blacklisters list.
2895    */
2896   struct Blacklisters *bl_pos;
2897
2898   /**
2899    * Current task performing the check.
2900    */
2901   GNUNET_SCHEDULER_TaskIdentifier task;
2902
2903 };
2904
2905 /**
2906  * Head of DLL of active blacklisting queries.
2907  */
2908 static struct BlacklistCheck *bc_head;
2909
2910 /**
2911  * Tail of DLL of active blacklisting queries.
2912  */
2913 static struct BlacklistCheck *bc_tail;
2914
2915
2916 /**
2917  * Perform next action in the blacklist check.
2918  *
2919  * @param cls the 'struct BlacklistCheck*'
2920  * @param tc unused
2921  */
2922 static void
2923 do_blacklist_check (void *cls,
2924                     const struct GNUNET_SCHEDULER_TaskContext *tc);
2925
2926
2927 /**
2928  * Transmit blacklist query to the client.
2929  *
2930  * @param cls the 'struct BlacklistCheck'
2931  * @param size number of bytes allowed
2932  * @param buf where to copy the message
2933  * @return number of bytes copied to buf
2934  */
2935 static size_t
2936 transmit_blacklist_message (void *cls,
2937                             size_t size,
2938                             void *buf)
2939 {
2940   struct BlacklistCheck *bc = cls;
2941   struct Blacklisters *bl;
2942   struct BlacklistMessage bm;
2943
2944   bc->th = NULL;
2945   if (size == 0)
2946     {
2947       GNUNET_assert (bc->task == GNUNET_SCHEDULER_NO_TASK);
2948       bc->task = GNUNET_SCHEDULER_add_now (&do_blacklist_check,
2949                                            bc);
2950       return 0;
2951     }
2952   bl = bc->bl_pos;
2953   bm.header.size = htons (sizeof (struct BlacklistMessage));
2954   bm.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_BLACKLIST_QUERY);
2955   bm.is_allowed = htonl (0);
2956   bm.peer = bc->peer;
2957   memcpy (buf, &bm, sizeof (bm));
2958   GNUNET_SERVER_receive_done (bl->client, GNUNET_OK);
2959   return sizeof (bm);
2960 }
2961
2962
2963 /**
2964  * Perform next action in the blacklist check.
2965  *
2966  * @param cls the 'struct BlacklistCheck*'
2967  * @param tc unused
2968  */
2969 static void
2970 do_blacklist_check (void *cls,
2971                     const struct GNUNET_SCHEDULER_TaskContext *tc)
2972 {
2973   struct BlacklistCheck *bc = cls;
2974   struct Blacklisters *bl;
2975
2976   bc->task = GNUNET_SCHEDULER_NO_TASK;
2977   bl = bc->bl_pos;
2978   if (bl == NULL)
2979     {
2980       bc->cont (bc->cont_cls,
2981                 setup_new_neighbour (&bc->peer, bc->do_hello));         
2982       GNUNET_free (bc);
2983       return;
2984     }
2985   if (bl->bc == NULL)
2986     {
2987       bl->bc = bc;
2988       bc->th = GNUNET_SERVER_notify_transmit_ready (bl->client,
2989                                                     sizeof (struct BlacklistMessage),
2990                                                     GNUNET_TIME_UNIT_FOREVER_REL,
2991                                                     &transmit_blacklist_message,
2992                                                     bc);
2993     }
2994 }
2995
2996
2997 /**
2998  * Obtain a 'struct NeighbourList' for the given peer.  If such an entry
2999  * does not yet exist, check the blacklist.  If the blacklist says creating
3000  * one is acceptable, create one and call the continuation; otherwise
3001  * call the continuation with NULL.
3002  *
3003  * @param peer peer to setup or look up a struct NeighbourList for
3004  * @param do_hello should we also schedule sending our HELLO to the peer
3005  *        if this is a new record
3006  * @param cont function to call with the 'struct NeigbhbourList*'
3007  * @param cont_cls closure for cont
3008  */
3009 static void
3010 setup_peer_check_blacklist (const struct GNUNET_PeerIdentity *peer,
3011                             int do_hello,
3012                             SetupContinuation cont,
3013                             void *cont_cls)
3014 {
3015   struct NeighbourList *n;
3016   struct BlacklistCheck *bc;
3017
3018   n = find_neighbour(peer);
3019   if (n != NULL)
3020     {
3021       if (cont != NULL)
3022         cont (cont_cls, n);
3023       return;
3024     }
3025   if (bl_head == NULL)
3026     {
3027       if (cont != NULL)
3028         cont (cont_cls, setup_new_neighbour (peer, do_hello));
3029       else
3030         setup_new_neighbour(peer, do_hello);
3031       return;
3032     }
3033   bc = GNUNET_malloc (sizeof (struct BlacklistCheck));
3034   GNUNET_CONTAINER_DLL_insert (bc_head, bc_tail, bc);
3035   bc->peer = *peer;
3036   bc->do_hello = do_hello;
3037   bc->cont = cont;
3038   bc->cont_cls = cont_cls;
3039   bc->bl_pos = bl_head;
3040   bc->task = GNUNET_SCHEDULER_add_now (&do_blacklist_check,
3041                                        bc);
3042 }
3043
3044
3045 /**
3046  * Function called with the result of querying a new blacklister about
3047  * it being allowed (or not) to continue to talk to an existing neighbour.
3048  *
3049  * @param cls the original 'struct NeighbourList'
3050  * @param n NULL if we need to disconnect
3051  */
3052 static void
3053 confirm_or_drop_neighbour (void *cls,
3054                            struct NeighbourList *n)
3055 {
3056   struct NeighbourList * orig = cls;
3057
3058   if (n == NULL)
3059     {
3060       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3061               "Disconnecting peer `%4s', %s\n", GNUNET_i2s(&orig->id),
3062               "confirm_or_drop_neighboUr");
3063       disconnect_neighbour (orig, GNUNET_NO);
3064     }
3065 }
3066
3067
3068 /**
3069  * Handle a request to start a blacklist.
3070  *
3071  * @param cls closure (always NULL)
3072  * @param client identification of the client
3073  * @param message the actual message
3074  */
3075 static void
3076 handle_blacklist_init (void *cls,
3077                        struct GNUNET_SERVER_Client *client,
3078                        const struct GNUNET_MessageHeader *message)
3079 {
3080   struct Blacklisters *bl;
3081   struct BlacklistCheck *bc;
3082   struct NeighbourList *n;
3083
3084   bl = bl_head;
3085   while (bl != NULL)
3086     {
3087       if (bl->client == client)
3088         {
3089           GNUNET_break (0);
3090           GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
3091           return;
3092         }
3093       bl = bl->next;
3094     }
3095   bl = GNUNET_malloc (sizeof (struct Blacklisters));
3096   bl->client = client;
3097   GNUNET_SERVER_client_keep (client);
3098   GNUNET_CONTAINER_DLL_insert_after (bl_head, bl_tail, bl_tail, bl);
3099   /* confirm that all existing connections are OK! */
3100   n = neighbours;
3101   while (NULL != n)
3102     {
3103       bc = GNUNET_malloc (sizeof (struct BlacklistCheck));
3104       GNUNET_CONTAINER_DLL_insert (bc_head, bc_tail, bc);
3105       bc->peer = n->id;
3106       bc->do_hello = GNUNET_NO;
3107       bc->cont = &confirm_or_drop_neighbour;
3108       bc->cont_cls = n;
3109       bc->bl_pos = bl;
3110       if (n == neighbours) /* all would wait for the same client, no need to
3111                               create more than just the first task right now */
3112         bc->task = GNUNET_SCHEDULER_add_now (&do_blacklist_check,
3113                                              bc);
3114       n = n->next;
3115     }
3116 }
3117
3118
3119 /**
3120  * Handle a request to blacklist a peer.
3121  *
3122  * @param cls closure (always NULL)
3123  * @param client identification of the client
3124  * @param message the actual message
3125  */
3126 static void
3127 handle_blacklist_reply (void *cls,
3128                         struct GNUNET_SERVER_Client *client,
3129                         const struct GNUNET_MessageHeader *message)
3130 {
3131   const struct BlacklistMessage *msg = (const struct BlacklistMessage*) message;
3132   struct Blacklisters *bl;
3133   struct BlacklistCheck *bc;
3134
3135   bl = bl_head;
3136   while ( (bl != NULL) &&
3137           (bl->client != client) )
3138     bl = bl->next;
3139   if (bl == NULL)
3140     {
3141       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
3142       return;
3143     }
3144   bc = bl->bc;
3145   bl->bc = NULL;
3146   if (ntohl (msg->is_allowed) == GNUNET_SYSERR)
3147     {
3148       bc->cont (bc->cont_cls, NULL);
3149       GNUNET_CONTAINER_DLL_remove (bc_head, bc_tail, bc);
3150       GNUNET_free (bc);
3151     }
3152   else
3153     {
3154       bc->bl_pos = bc->bl_pos->next;
3155       bc->task = GNUNET_SCHEDULER_add_now (&do_blacklist_check,
3156                                            bc);
3157     }
3158   /* check if any other bc's are waiting for this blacklister */
3159   bc = bc_head;
3160   while (bc != NULL)
3161     {
3162       if ( (bc->bl_pos == bl) &&
3163            (GNUNET_SCHEDULER_NO_TASK == bc->task) )
3164         bc->task = GNUNET_SCHEDULER_add_now (&do_blacklist_check,
3165                                              bc);
3166       bc = bc->next;
3167     }
3168 }
3169
3170
3171 /**
3172  * Send periodic PING messages to a given foreign address.
3173  *
3174  * @param cls our 'struct PeriodicValidationContext*'
3175  * @param tc task context
3176  */
3177 static void
3178 send_periodic_ping (void *cls,
3179                     const struct GNUNET_SCHEDULER_TaskContext *tc)
3180 {
3181   struct ForeignAddressList *peer_address = cls;
3182   struct TransportPlugin *tp;
3183   struct ValidationEntry *va;
3184   struct NeighbourList *neighbour;
3185   struct TransportPingMessage ping;
3186   struct CheckAddressExistsClosure caec;
3187   char * message_buf;
3188   uint16_t hello_size;
3189   size_t slen;
3190   size_t tsize;
3191
3192   peer_address->revalidate_task = GNUNET_SCHEDULER_NO_TASK;
3193   if (tc->reason == GNUNET_SCHEDULER_REASON_SHUTDOWN)
3194     return;
3195   tp = peer_address->ready_list->plugin;
3196   neighbour = peer_address->ready_list->neighbour;
3197   if (GNUNET_YES != neighbour->public_key_valid)
3198     {
3199       /* no public key yet, try again later */
3200       schedule_next_ping (peer_address);
3201       return;
3202     }
3203   caec.addr = peer_address->addr;
3204   caec.addrlen = peer_address->addrlen;
3205   caec.tname = tp->short_name;
3206   caec.session = peer_address->session;
3207   caec.exists = GNUNET_NO;
3208   GNUNET_CONTAINER_multihashmap_iterate (validation_map,
3209                                          &check_address_exists,
3210                                          &caec);
3211   if (caec.exists == GNUNET_YES)
3212     {
3213       /* During validation attempts we will likely trigger the other
3214          peer trying to validate our address which in turn will cause
3215          it to send us its HELLO, so we expect to hit this case rather
3216          frequently.  Only print something if we are very verbose. */
3217 #if DEBUG_TRANSPORT > 1
3218       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3219                   "Some validation of address `%s' via `%s' for peer `%4s' already in progress.\n",
3220                   (peer_address->addr != NULL)
3221                   ? a2s (tp->short_name,
3222                          peer_address->addr,
3223                          peer_address->addrlen)
3224                   : "<inbound>",
3225                   tp->short_name,
3226                   GNUNET_i2s (&neighbour->id));
3227 #endif
3228       schedule_next_ping (peer_address);
3229       return;
3230     }
3231   va = GNUNET_malloc (sizeof (struct ValidationEntry) + peer_address->addrlen);
3232   va->transport_name = GNUNET_strdup (tp->short_name);
3233   va->challenge = GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_NONCE,
3234                                             UINT_MAX);
3235   va->send_time = GNUNET_TIME_absolute_get();
3236   va->session = peer_address->session;
3237   if (peer_address->addr != NULL)
3238     {
3239       va->addr = (const void*) &va[1];
3240       memcpy (&va[1], peer_address->addr, peer_address->addrlen);
3241       va->addrlen = peer_address->addrlen;
3242     }
3243   memcpy(&va->publicKey,
3244          &neighbour->publicKey,
3245          sizeof(struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded));
3246
3247   va->timeout_task = GNUNET_SCHEDULER_add_delayed (HELLO_VERIFICATION_TIMEOUT,
3248                                                    &timeout_hello_validation,
3249                                                    va);
3250   GNUNET_CONTAINER_multihashmap_put (validation_map,
3251                                      &neighbour->id.hashPubKey,
3252                                      va,
3253                                      GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
3254
3255   if (peer_address->validated != GNUNET_YES)
3256     hello_size = GNUNET_HELLO_size(our_hello);
3257   else
3258     hello_size = 0;
3259
3260   tsize = sizeof(struct TransportPingMessage) + hello_size;
3261
3262   if (peer_address->addr != NULL)
3263     {
3264       slen = strlen (tp->short_name) + 1;
3265       tsize += slen + peer_address->addrlen;
3266     }
3267   else
3268     {
3269       slen = 0; /* make gcc happy */
3270     }
3271   message_buf = GNUNET_malloc(tsize);
3272   ping.header.type = htons(GNUNET_MESSAGE_TYPE_TRANSPORT_PING);
3273   ping.challenge = htonl(va->challenge);
3274   memcpy(&ping.target, &neighbour->id, sizeof(struct GNUNET_PeerIdentity));
3275   if (peer_address->validated != GNUNET_YES)
3276     {
3277       memcpy(message_buf, our_hello, hello_size);
3278     }
3279
3280   if (peer_address->addr != NULL)
3281     {
3282       ping.header.size = htons(sizeof(struct TransportPingMessage) +
3283                                peer_address->addrlen +
3284                                slen);
3285       memcpy(&message_buf[hello_size + sizeof (struct TransportPingMessage)],
3286              tp->short_name,
3287              slen);
3288       memcpy(&message_buf[hello_size + sizeof (struct TransportPingMessage) + slen],
3289              peer_address->addr,
3290              peer_address->addrlen);
3291     }
3292   else
3293     {
3294       ping.header.size = htons(sizeof(struct TransportPingMessage));
3295     }
3296
3297   memcpy(&message_buf[hello_size],
3298          &ping,
3299          sizeof(struct TransportPingMessage));
3300
3301 #if DEBUG_TRANSPORT_REVALIDATION
3302   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3303               "Performing re-validation of address `%s' via `%s' for peer `%4s' sending `%s' (%u bytes) and `%s'\n",
3304               (peer_address->addr != NULL)
3305               ? a2s (peer_address->plugin->short_name,
3306                      peer_address->addr,
3307                      peer_address->addrlen)
3308               : "<inbound>",
3309               tp->short_name,
3310               GNUNET_i2s (&neighbour->id),
3311               "HELLO", hello_size,
3312               "PING");
3313 #endif
3314   if (peer_address->validated != GNUNET_YES)
3315     GNUNET_STATISTICS_update (stats,
3316                               gettext_noop ("# PING with HELLO messages sent"),
3317                               1,
3318                               GNUNET_NO);
3319   else
3320     GNUNET_STATISTICS_update (stats,
3321                               gettext_noop ("# PING without HELLO messages sent"),
3322                               1,
3323                               GNUNET_NO);
3324   GNUNET_STATISTICS_update (stats,
3325                             gettext_noop ("# PING messages sent for re-validation"),
3326                             1,
3327                             GNUNET_NO);
3328   transmit_to_peer (NULL, peer_address,
3329                     GNUNET_SCHEDULER_PRIORITY_DEFAULT,
3330                     HELLO_VERIFICATION_TIMEOUT,
3331                     message_buf, tsize,
3332                     GNUNET_YES, neighbour);
3333   GNUNET_free(message_buf);
3334   schedule_next_ping (peer_address);
3335 }
3336
3337
3338 /**
3339  * Schedule the job that will cause us to send a PING to the
3340  * foreign address to evaluate its validity and latency.
3341  *
3342  * @param fal address to PING
3343  */
3344 static void
3345 schedule_next_ping (struct ForeignAddressList *fal)
3346 {
3347   struct GNUNET_TIME_Relative delay;
3348
3349   if (fal->revalidate_task != GNUNET_SCHEDULER_NO_TASK)
3350     return;
3351   delay = GNUNET_TIME_absolute_get_remaining (fal->expires);
3352   delay.rel_value /= 2; /* do before expiration */
3353   delay = GNUNET_TIME_relative_min (delay,
3354                                     LATENCY_EVALUATION_MAX_DELAY);
3355   if (GNUNET_YES != fal->estimated)
3356     {
3357       delay = GNUNET_TIME_UNIT_ZERO;
3358       fal->estimated = GNUNET_YES;
3359     }                           
3360   if (GNUNET_YES == fal->connected)
3361     {
3362       delay = GNUNET_TIME_relative_min (delay,
3363                                         CONNECTED_LATENCY_EVALUATION_MAX_DELAY);
3364     }
3365   /* FIXME: also adjust delay based on how close the last
3366      observed latency is to the latency of the best alternative */
3367   /* bound how fast we can go */
3368   delay = GNUNET_TIME_relative_max (delay,
3369                                     GNUNET_TIME_UNIT_SECONDS);
3370   /* randomize a bit (to avoid doing all at the same time) */
3371   delay.rel_value += GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK, 1000);
3372   fal->revalidate_task = GNUNET_SCHEDULER_add_delayed(delay,
3373                                                       &send_periodic_ping,
3374                                                       fal);
3375 }
3376
3377
3378
3379
3380 /**
3381  * Function that will be called if we receive some payload
3382  * from another peer.
3383  *
3384  * @param message the payload
3385  * @param n peer who claimed to be the sender
3386  * @param ats ATS information
3387  * @param ats_count numbers of elements following the ats struct (excluding the 0-terminator)
3388  */
3389 static void
3390 handle_payload_message (const struct GNUNET_MessageHeader *message,
3391                         struct NeighbourList *n, struct GNUNET_TRANSPORT_ATS_Information *ats, uint32_t ats_count)
3392 {
3393   struct InboundMessage *im;
3394   struct TransportClient *cpos;
3395   uint16_t msize;
3396
3397   msize = ntohs (message->size);
3398   if (n->received_pong == GNUNET_NO)
3399     {
3400       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3401                   "Received message of type %u and size %u from `%4s', but no pong yet!!\n",
3402                   ntohs (message->type),
3403                   ntohs (message->size),
3404                   GNUNET_i2s (&n->id));
3405       GNUNET_free_non_null (n->pre_connect_message_buffer);
3406       n->pre_connect_message_buffer = GNUNET_malloc (msize);
3407       memcpy (n->pre_connect_message_buffer, message, msize);
3408       return;
3409     }
3410
3411 #if DEBUG_TRANSPORT
3412   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3413               "Received message of type %u and size %u from `%4s', sending to all clients.\n",
3414               ntohs (message->type),
3415               ntohs (message->size),
3416               GNUNET_i2s (&n->id));
3417 #endif
3418   if (GNUNET_YES == GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker,
3419                                                       (ssize_t) msize))
3420     {
3421       n->quota_violation_count++;
3422 #if DEBUG_TRANSPORT
3423       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,                      
3424                   "Bandwidth quota (%u b/s) violation detected (total of %u).\n",
3425                   n->in_tracker.available_bytes_per_s__,
3426                   n->quota_violation_count);
3427 #endif
3428       /* Discount 32k per violation */
3429       GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker,
3430                                         - 32 * 1024);           
3431     }
3432   else
3433     {
3434       if (n->quota_violation_count > 0)
3435         {
3436           /* try to add 32k back */
3437           GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker,
3438                                             32 * 1024);
3439           n->quota_violation_count--;
3440         }
3441     }
3442   GNUNET_STATISTICS_update (stats,
3443                             gettext_noop ("# payload received from other peers"),
3444                             msize,
3445                             GNUNET_NO);
3446
3447   /* transmit message to all clients */
3448   im = GNUNET_malloc (sizeof (struct InboundMessage) + ats_count * sizeof(struct GNUNET_TRANSPORT_ATS_Information) + msize);
3449   im->header.size = htons (sizeof (struct InboundMessage) +  ats_count * sizeof(struct GNUNET_TRANSPORT_ATS_Information) + msize);
3450   im->header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_RECV);
3451   //im->latency = GNUNET_TIME_relative_hton (n->latency);
3452   //im->distance = ntohl(n->distance);
3453   im->peer = n->id;
3454   im->ats_count = htonl(ats_count);
3455   /* insert ATS elements */
3456   memcpy (&(im->ats), ats, ats_count * sizeof(struct GNUNET_TRANSPORT_ATS_Information));
3457   /* insert ATS terminator */
3458   (&im->ats)[ats_count].type  = htonl(0);
3459   (&im->ats)[ats_count].value = htonl(0);
3460   /* insert msg after terminator */
3461   memcpy (&(&im->ats)[ats_count+1], message, msize);
3462
3463   cpos = clients;
3464   while (cpos != NULL)
3465     {
3466       transmit_to_client (cpos, &im->header, GNUNET_YES);
3467       cpos = cpos->next;
3468     }
3469   GNUNET_free (im);
3470 }
3471
3472
3473 /**
3474  * Iterator over hash map entries.  Checks if the given validation
3475  * entry is for the same challenge as what is given in the PONG.
3476  *
3477  * @param cls the 'struct TransportPongMessage*'
3478  * @param key peer identity
3479  * @param value value in the hash map ('struct ValidationEntry')
3480  * @return GNUNET_YES if we should continue to
3481  *         iterate (mismatch), GNUNET_NO if not (entry matched)
3482  */
3483 static int
3484 check_pending_validation (void *cls,
3485                           const GNUNET_HashCode * key,
3486                           void *value)
3487 {
3488   const struct TransportPongMessage *pong = cls;
3489   struct ValidationEntry *ve = value;
3490   struct AddValidatedAddressContext avac;
3491   unsigned int challenge = ntohl(pong->challenge);
3492   struct GNUNET_HELLO_Message *hello;
3493   struct GNUNET_PeerIdentity target;
3494   struct NeighbourList *n;
3495   struct ForeignAddressList *fal;
3496   struct OwnAddressList *oal;
3497   struct TransportPlugin *tp;
3498   struct GNUNET_MessageHeader *prem;
3499   uint16_t ps;
3500   const char *addr;
3501   size_t slen;
3502   size_t alen;
3503
3504   ps = ntohs (pong->header.size);
3505   if (ps < sizeof (struct TransportPongMessage))
3506     {
3507       GNUNET_break_op (0);
3508       return GNUNET_NO;
3509     }
3510   addr = (const char*) &pong[1];
3511   slen = strlen (ve->transport_name) + 1;
3512   if ( (ps - sizeof (struct TransportPongMessage) < slen) ||
3513        (ve->challenge != challenge) ||
3514        (addr[slen-1] != '\0') ||
3515        (0 != strcmp (addr, ve->transport_name)) ||
3516        (ntohl (pong->purpose.size)
3517         != sizeof (struct GNUNET_CRYPTO_RsaSignaturePurpose) +
3518         sizeof (uint32_t) +
3519         sizeof (struct GNUNET_TIME_AbsoluteNBO) +
3520         sizeof (struct GNUNET_PeerIdentity) + ps - sizeof (struct TransportPongMessage)) )
3521     {
3522       return GNUNET_YES;
3523     }
3524
3525   alen = ps - sizeof (struct TransportPongMessage) - slen;
3526   switch (ntohl (pong->purpose.purpose))
3527     {
3528     case GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_OWN:
3529       if ( (ve->addrlen + slen != ntohl (pong->addrlen)) ||
3530            (0 != memcmp (&addr[slen],
3531                          ve->addr,
3532                          ve->addrlen)) )
3533         {
3534           return GNUNET_YES; /* different entry, keep trying! */
3535         }
3536       if (0 != memcmp (&pong->pid,
3537                        key,
3538                        sizeof (struct GNUNET_PeerIdentity)))
3539         {
3540           GNUNET_break_op (0);
3541           return GNUNET_NO;
3542         }
3543       if (GNUNET_OK !=
3544           GNUNET_CRYPTO_rsa_verify (GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_OWN,
3545                                     &pong->purpose,
3546                                     &pong->signature,
3547                                     &ve->publicKey))
3548         {
3549           GNUNET_break_op (0);
3550           return GNUNET_NO;
3551         }
3552
3553 #if DEBUG_TRANSPORT
3554       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3555                   "Confirmed validity of address, peer `%4s' has address `%s' (%s).\n",
3556                   GNUNET_h2s (key),
3557                   a2s (ve->transport_name,
3558                        (const struct sockaddr *) ve->addr,
3559                        ve->addrlen),
3560                   ve->transport_name);
3561 #endif
3562       break;
3563     case GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_USING:
3564       if (0 != memcmp (&pong->pid,
3565                          &my_identity,
3566                          sizeof (struct GNUNET_PeerIdentity)))
3567         {
3568           GNUNET_break_op (0);
3569           return GNUNET_NO;
3570         }
3571       if (ve->addrlen != 0)
3572         {
3573           /* must have been for a different validation entry */
3574           return GNUNET_YES;
3575         }
3576       tp = find_transport (ve->transport_name);
3577       if (tp == NULL)
3578         {
3579           GNUNET_break (0);
3580           return GNUNET_YES;
3581         }
3582       oal = tp->addresses;
3583       while (NULL != oal)
3584         {
3585           if ( (oal->addrlen == alen) &&
3586                (0 == memcmp (&oal[1],
3587                              &addr[slen],
3588                              alen)) )
3589             break;
3590           oal = oal->next;
3591         }
3592       if (oal == NULL)
3593         {
3594           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
3595                       _("Not accepting PONG with address `%s' since I cannot confirm having this address.\n"),
3596                       a2s (ve->transport_name,
3597                            &addr[slen],
3598                            alen));
3599           return GNUNET_NO;     
3600         }
3601       if (GNUNET_OK !=
3602           GNUNET_CRYPTO_rsa_verify (GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_USING,
3603                                     &pong->purpose,
3604                                     &pong->signature,
3605                                     &ve->publicKey))
3606         {
3607           GNUNET_break_op (0);
3608           return GNUNET_NO;
3609         }
3610
3611 #if DEBUG_TRANSPORT
3612       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3613                   "Confirmed that peer `%4s' is talking to us using address `%s' (%s) for us.\n",
3614                   GNUNET_h2s (key),
3615                   a2s (ve->transport_name,
3616                        &addr[slen],
3617                        alen),
3618                   ve->transport_name);
3619 #endif
3620       break;
3621     default:
3622       GNUNET_break_op (0);
3623       return GNUNET_NO;
3624     }
3625   if (GNUNET_TIME_absolute_get_remaining (GNUNET_TIME_absolute_ntoh (pong->expiration)).rel_value == 0)
3626     {
3627       GNUNET_log (GNUNET_ERROR_TYPE_INFO,
3628                   _("Received expired signature.  Check system time.\n"));
3629       return GNUNET_NO;
3630     }
3631   GNUNET_STATISTICS_update (stats,
3632                             gettext_noop ("# address validation successes"),
3633                             1,
3634                             GNUNET_NO);
3635   /* create the updated HELLO */
3636   GNUNET_CRYPTO_hash (&ve->publicKey,
3637                       sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
3638                       &target.hashPubKey);
3639   if (ve->addr != NULL)
3640     {
3641       avac.done = GNUNET_NO;
3642       avac.ve = ve;
3643       hello = GNUNET_HELLO_create (&ve->publicKey,
3644                                    &add_validated_address,
3645                                    &avac);
3646       GNUNET_PEERINFO_add_peer (peerinfo,
3647                                 hello);
3648       GNUNET_free (hello);
3649     }
3650   n = find_neighbour (&target);
3651   if (n != NULL)
3652     {
3653       n->publicKey = ve->publicKey;
3654       n->public_key_valid = GNUNET_YES;
3655       fal = add_peer_address (n,
3656                               ve->transport_name,
3657                               ve->session,
3658                               ve->addr,
3659                               ve->addrlen);
3660       GNUNET_assert (fal != NULL);
3661       fal->expires = GNUNET_TIME_relative_to_absolute (HELLO_ADDRESS_EXPIRATION);
3662       fal->validated = GNUNET_YES;
3663       mark_address_connected (fal);
3664       GNUNET_STATISTICS_update (stats,
3665                                 gettext_noop ("# peer addresses considered valid"),
3666                                 1,
3667                                 GNUNET_NO);
3668       fal->latency = GNUNET_TIME_absolute_get_duration (ve->send_time);
3669       schedule_next_ping (fal);
3670       if (n->latency.rel_value == GNUNET_TIME_UNIT_FOREVER_REL.rel_value)
3671         n->latency = fal->latency;
3672       else
3673         n->latency.rel_value = (fal->latency.rel_value + n->latency.rel_value) / 2;
3674
3675       n->distance = fal->distance;
3676       if (GNUNET_NO == n->received_pong)
3677         {
3678           n->received_pong = GNUNET_YES;
3679           notify_clients_connect (&target, n->latency, n->distance);
3680           if (NULL != (prem = n->pre_connect_message_buffer))
3681             {
3682               n->pre_connect_message_buffer = NULL;
3683               struct GNUNET_TRANSPORT_ATS_Information * ats = GNUNET_malloc(2 * sizeof(struct GNUNET_TRANSPORT_ATS_Information));
3684               ats[0].type = htonl(GNUNET_TRANSPORT_LATENCY_LSB);
3685               ats[0].value = htonl(n->latency.rel_value);
3686               ats[1].type = htonl(GNUNET_TRANSPORT_DISTANCE);
3687               ats[1].value = htonl(n->distance);
3688               handle_payload_message (prem, n, ats, 2);
3689               fprintf(stderr,"ATS!");
3690               GNUNET_free (ats);
3691               GNUNET_free (prem);
3692             }
3693         }
3694       if (n->retry_task != GNUNET_SCHEDULER_NO_TASK)
3695         {
3696           GNUNET_SCHEDULER_cancel (n->retry_task);
3697           n->retry_task = GNUNET_SCHEDULER_NO_TASK;
3698           try_transmission_to_peer (n);
3699         }
3700     }
3701
3702   /* clean up validation entry */
3703   GNUNET_assert (GNUNET_YES ==
3704                  GNUNET_CONTAINER_multihashmap_remove (validation_map,
3705                                                        key,
3706                                                        ve));
3707   abort_validation (NULL, NULL, ve);
3708   return GNUNET_NO;
3709 }
3710
3711
3712 /**
3713  * Function that will be called if we receive a validation
3714  * of an address challenge that we transmitted to another
3715  * peer.  Note that the validation should only be considered
3716  * acceptable if the challenge matches AND if the sender
3717  * address is at least a plausible address for this peer
3718  * (otherwise we may be seeing a MiM attack).
3719  *
3720  * @param cls closure
3721  * @param message the pong message
3722  * @param peer who responded to our challenge
3723  * @param sender_address string describing our sender address (as observed
3724  *         by the other peer in binary format)
3725  * @param sender_address_len number of bytes in 'sender_address'
3726  */
3727 static void
3728 handle_pong (void *cls, const struct GNUNET_MessageHeader *message,
3729              const struct GNUNET_PeerIdentity *peer,
3730              const char *sender_address,
3731              size_t sender_address_len)
3732 {
3733 #if DEBUG_TRANSPORT > 1
3734   /* we get tons of these that just get discarded, only log
3735      if we are quite verbose */
3736   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3737               "Receiving `%s' message from `%4s'.\n", "PONG",
3738               GNUNET_i2s (peer));
3739 #endif
3740   GNUNET_STATISTICS_update (stats,
3741                             gettext_noop ("# PONG messages received"),
3742                             1,
3743                             GNUNET_NO);
3744   if (GNUNET_SYSERR !=
3745       GNUNET_CONTAINER_multihashmap_get_multiple (validation_map,
3746                                                   &peer->hashPubKey,
3747                                                   &check_pending_validation,
3748                                                   (void*) message))
3749     {
3750       /* This is *expected* to happen a lot since we send
3751          PONGs to *all* known addresses of the sender of
3752          the PING, so most likely we get multiple PONGs
3753          per PING, and all but the first PONG will end up
3754          here. So really we should not print anything here
3755          unless we want to be very, very verbose... */
3756 #if DEBUG_TRANSPORT > 2
3757       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3758                   "Received `%s' message from `%4s' but have no record of a matching `%s' message. Ignoring.\n",
3759                   "PONG",
3760                   GNUNET_i2s (peer),
3761                   "PING");
3762 #endif
3763       return;
3764     }
3765
3766 }
3767
3768
3769 /**
3770  * Try to validate a neighbour's address by sending him our HELLO and a PING.
3771  *
3772  * @param cls the 'struct ValidationEntry*'
3773  * @param neighbour neighbour to validate, NULL if validation failed
3774  */
3775 static void
3776 transmit_hello_and_ping (void *cls,
3777                          struct NeighbourList *neighbour)
3778 {
3779   struct ValidationEntry *va = cls;
3780   struct ForeignAddressList *peer_address;
3781   struct TransportPingMessage ping;
3782   uint16_t hello_size;
3783   size_t tsize;
3784   char * message_buf;
3785   struct GNUNET_PeerIdentity id;
3786   size_t slen;
3787
3788   GNUNET_CRYPTO_hash (&va->publicKey,
3789                       sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
3790                       &id.hashPubKey);
3791   if (neighbour == NULL)
3792     {
3793       /* FIXME: stats... */
3794       GNUNET_break (GNUNET_OK ==
3795                     GNUNET_CONTAINER_multihashmap_remove (validation_map,
3796                                                           &id.hashPubKey,
3797                                                           va));
3798       abort_validation (NULL, NULL, va);
3799       return;
3800     }
3801   neighbour->publicKey = va->publicKey;
3802   neighbour->public_key_valid = GNUNET_YES;
3803   peer_address = add_peer_address (neighbour,
3804                                    va->transport_name, NULL,
3805                                    (const void*) &va[1],
3806                                    va->addrlen);
3807   if (peer_address == NULL)
3808     {
3809       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
3810                   "Failed to add peer `%4s' for plugin `%s'\n",
3811                   GNUNET_i2s (&neighbour->id),
3812                   va->transport_name);
3813       GNUNET_break (GNUNET_OK ==
3814                     GNUNET_CONTAINER_multihashmap_remove (validation_map,
3815                                                           &id.hashPubKey,
3816                                                           va));
3817       abort_validation (NULL, NULL, va);
3818       return;
3819     }
3820   hello_size = GNUNET_HELLO_size(our_hello);
3821   slen = strlen(va->transport_name) + 1;
3822   tsize = sizeof(struct TransportPingMessage) + hello_size + va->addrlen + slen;
3823   message_buf = GNUNET_malloc(tsize);
3824   ping.challenge = htonl(va->challenge);
3825   ping.header.size = htons(sizeof(struct TransportPingMessage) + slen + va->addrlen);
3826   ping.header.type = htons(GNUNET_MESSAGE_TYPE_TRANSPORT_PING);
3827   memcpy(&ping.target, &neighbour->id, sizeof(struct GNUNET_PeerIdentity));
3828   memcpy(message_buf, our_hello, hello_size);
3829   memcpy(&message_buf[hello_size],
3830          &ping,
3831          sizeof(struct TransportPingMessage));
3832   memcpy(&message_buf[hello_size + sizeof (struct TransportPingMessage)],
3833          va->transport_name,
3834          slen);
3835   memcpy(&message_buf[hello_size + sizeof (struct TransportPingMessage) + slen],
3836          &va[1],
3837          va->addrlen);
3838 #if DEBUG_TRANSPORT
3839   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3840               "Performing validation of address `%s' via `%s' for peer `%4s' sending `%s' (%u bytes) and `%s' (%u bytes)\n",
3841               (va->addrlen == 0)
3842               ? "<inbound>"
3843               : a2s (va->transport_name,
3844                      (const void*) &va[1], va->addrlen),
3845               va->transport_name,
3846               GNUNET_i2s (&neighbour->id),
3847               "HELLO", hello_size,
3848               "PING", sizeof (struct TransportPingMessage) + va->addrlen + slen);
3849 #endif
3850
3851   GNUNET_STATISTICS_update (stats,
3852                             gettext_noop ("# PING messages sent for initial validation"),
3853                             1,
3854                             GNUNET_NO);
3855   transmit_to_peer (NULL, peer_address,
3856                     GNUNET_SCHEDULER_PRIORITY_DEFAULT,
3857                     HELLO_VERIFICATION_TIMEOUT,
3858                     message_buf, tsize,
3859                     GNUNET_YES, neighbour);
3860   GNUNET_free(message_buf);
3861 }
3862
3863
3864 /**
3865  * Check if the given address is already being validated; if not,
3866  * append the given address to the list of entries that are being be
3867  * validated and initiate validation.
3868  *
3869  * @param cls closure ('struct CheckHelloValidatedContext *')
3870  * @param tname name of the transport
3871  * @param expiration expiration time
3872  * @param addr the address
3873  * @param addrlen length of the address
3874  * @return GNUNET_OK (always)
3875  */
3876 static int
3877 run_validation (void *cls,
3878                 const char *tname,
3879                 struct GNUNET_TIME_Absolute expiration,
3880                 const void *addr,
3881                 uint16_t addrlen)
3882 {
3883   struct CheckHelloValidatedContext *chvc = cls;
3884   struct GNUNET_PeerIdentity id;
3885   struct TransportPlugin *tp;
3886   struct ValidationEntry *va;
3887   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded pk;
3888   struct CheckAddressExistsClosure caec;
3889   struct OwnAddressList *oal;
3890
3891   GNUNET_assert (addr != NULL);
3892
3893   GNUNET_STATISTICS_update (stats,
3894                             gettext_noop ("# peer addresses scheduled for validation"),
3895                             1,
3896                             GNUNET_NO);
3897   tp = find_transport (tname);
3898   if (tp == NULL)
3899     {
3900       GNUNET_log (GNUNET_ERROR_TYPE_INFO |
3901                   GNUNET_ERROR_TYPE_BULK,
3902                   _
3903                   ("Transport `%s' not loaded, will not try to validate peer address using this transport.\n"),
3904                   tname);
3905       GNUNET_STATISTICS_update (stats,
3906                                 gettext_noop ("# peer addresses not validated (plugin not available)"),
3907                                 1,
3908                                 GNUNET_NO);
3909       return GNUNET_OK;
3910     }
3911   /* check if this is one of our own addresses */
3912   oal = tp->addresses;
3913   while (NULL != oal)
3914     {
3915       if ( (oal->addrlen == addrlen) &&
3916            (0 == memcmp (&oal[1],
3917                          addr,
3918                          addrlen)) )
3919         {
3920           /* not plausible, this address is equivalent to our own address! */
3921           GNUNET_STATISTICS_update (stats,
3922                                     gettext_noop ("# peer addresses not validated (loopback)"),
3923                                     1,
3924                                     GNUNET_NO);
3925           return GNUNET_OK;
3926         }
3927       oal = oal->next;
3928     }
3929   GNUNET_HELLO_get_key (chvc->hello, &pk);
3930   GNUNET_CRYPTO_hash (&pk,
3931                       sizeof (struct
3932                               GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
3933                       &id.hashPubKey);
3934
3935   if (is_blacklisted(&id, tp))
3936     {
3937 #if DEBUG_TRANSPORT
3938       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3939                   "Attempted to validate blacklisted peer `%s' using `%s'!\n",
3940                   GNUNET_i2s(&id),
3941                   tname);
3942 #endif
3943       return GNUNET_OK;
3944     }
3945
3946   caec.addr = addr;
3947   caec.addrlen = addrlen;
3948   caec.session = NULL;
3949   caec.tname = tname;
3950   caec.exists = GNUNET_NO;
3951   GNUNET_CONTAINER_multihashmap_iterate (validation_map,
3952                                          &check_address_exists,
3953                                          &caec);
3954   if (caec.exists == GNUNET_YES)
3955     {
3956       /* During validation attempts we will likely trigger the other
3957          peer trying to validate our address which in turn will cause
3958          it to send us its HELLO, so we expect to hit this case rather
3959          frequently.  Only print something if we are very verbose. */
3960 #if DEBUG_TRANSPORT > 1
3961       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3962                   "Validation of address `%s' via `%s' for peer `%4s' already in progress.\n",
3963                   a2s (tname, addr, addrlen),
3964                   tname,
3965                   GNUNET_i2s (&id));
3966 #endif
3967       GNUNET_STATISTICS_update (stats,
3968                                 gettext_noop ("# peer addresses not validated (in progress)"),
3969                                 1,
3970                                 GNUNET_NO);
3971       return GNUNET_OK;
3972     }
3973   va = GNUNET_malloc (sizeof (struct ValidationEntry) + addrlen);
3974   va->chvc = chvc;
3975   chvc->ve_count++;
3976   va->transport_name = GNUNET_strdup (tname);
3977   va->challenge = GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_NONCE,
3978                                             UINT_MAX);
3979   va->send_time = GNUNET_TIME_absolute_get();
3980   va->addr = (const void*) &va[1];
3981   memcpy (&va[1], addr, addrlen);
3982   va->addrlen = addrlen;
3983   GNUNET_HELLO_get_key (chvc->hello,
3984                         &va->publicKey);
3985   va->timeout_task = GNUNET_SCHEDULER_add_delayed (HELLO_VERIFICATION_TIMEOUT,
3986                                                    &timeout_hello_validation,
3987                                                    va);
3988   GNUNET_CONTAINER_multihashmap_put (validation_map,
3989                                      &id.hashPubKey,
3990                                      va,
3991                                      GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
3992   setup_peer_check_blacklist (&id, GNUNET_NO,
3993                               &transmit_hello_and_ping,
3994                               va);
3995   return GNUNET_OK;
3996 }
3997
3998
3999 /**
4000  * Check if addresses in validated hello "h" overlap with
4001  * those in "chvc->hello" and validate the rest.
4002  *
4003  * @param cls closure
4004  * @param peer id of the peer, NULL for last call
4005  * @param h hello message for the peer (can be NULL)
4006  */
4007 static void
4008 check_hello_validated (void *cls,
4009                        const struct GNUNET_PeerIdentity *peer,
4010                        const struct GNUNET_HELLO_Message *h)
4011 {
4012   struct CheckHelloValidatedContext *chvc = cls;
4013   struct GNUNET_HELLO_Message *plain_hello;
4014   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded pk;
4015   struct GNUNET_PeerIdentity target;
4016   struct NeighbourList *n;
4017
4018   if (peer == NULL)
4019     {
4020       GNUNET_STATISTICS_update (stats,
4021                                 gettext_noop ("# outstanding peerinfo iterate requests"),
4022                                 -1,
4023                                 GNUNET_NO);
4024       chvc->piter = NULL;
4025       if (GNUNET_NO == chvc->hello_known)
4026         {
4027           /* notify PEERINFO about the peer now, so that we at least
4028              have the public key if some other component needs it */
4029           GNUNET_HELLO_get_key (chvc->hello, &pk);
4030           GNUNET_CRYPTO_hash (&pk,
4031                               sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
4032                               &target.hashPubKey);
4033           plain_hello = GNUNET_HELLO_create (&pk,
4034                                              NULL,
4035                                              NULL);
4036           GNUNET_PEERINFO_add_peer (peerinfo, plain_hello);
4037           GNUNET_free (plain_hello);
4038 #if DEBUG_TRANSPORT_HELLO
4039           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4040                       "PEERINFO had no `%s' message for peer `%4s', full validation needed.\n",
4041                       "HELLO",
4042                       GNUNET_i2s (&target));
4043 #endif
4044           GNUNET_STATISTICS_update (stats,
4045                                     gettext_noop ("# new HELLOs requiring full validation"),
4046                                     1,
4047                                     GNUNET_NO);
4048           GNUNET_HELLO_iterate_addresses (chvc->hello,
4049                                           GNUNET_NO,
4050                                           &run_validation,
4051                                           chvc);
4052         }
4053       else
4054         {
4055           GNUNET_STATISTICS_update (stats,
4056                                     gettext_noop ("# duplicate HELLO (peer known)"),
4057                                     1,
4058                                     GNUNET_NO);
4059         }
4060       chvc->ve_count--;
4061       if (chvc->ve_count == 0)
4062         {
4063           GNUNET_CONTAINER_DLL_remove (chvc_head,
4064                                        chvc_tail,
4065                                        chvc);
4066           GNUNET_free (chvc);   
4067         }
4068       return;
4069     }
4070   if (h == NULL)
4071     return;
4072 #if DEBUG_TRANSPORT_HELLO
4073   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4074               "PEERINFO had `%s' message for peer `%4s', validating only new addresses.\n",
4075               "HELLO",
4076               GNUNET_i2s (peer));
4077 #endif
4078   chvc->hello_known = GNUNET_YES;
4079   n = find_neighbour (peer);
4080   if (n != NULL)
4081     {
4082 #if DEBUG_TRANSPORT_HELLO
4083       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4084                   "Calling hello_iterate_addresses for %s!\n",
4085                   GNUNET_i2s (peer));
4086 #endif
4087       GNUNET_HELLO_iterate_addresses (h,
4088                                       GNUNET_NO,
4089                                       &add_to_foreign_address_list,
4090                                       n);
4091       try_transmission_to_peer (n);
4092     }
4093   else
4094     {
4095 #if DEBUG_TRANSPORT_HELLO
4096       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4097                   "No existing neighbor record for %s!\n",
4098                   GNUNET_i2s (peer));
4099 #endif
4100       GNUNET_STATISTICS_update (stats,
4101                                 gettext_noop ("# no existing neighbour record (validating HELLO)"),
4102                                 1,
4103                                 GNUNET_NO);
4104     }
4105   GNUNET_STATISTICS_update (stats,
4106                             gettext_noop ("# HELLO validations (update case)"),
4107                             1,
4108                             GNUNET_NO);
4109   GNUNET_HELLO_iterate_new_addresses (chvc->hello,
4110                                       h,
4111                                       GNUNET_TIME_relative_to_absolute (HELLO_REVALIDATION_START_TIME),
4112                                       &run_validation,
4113                                       chvc);
4114 }
4115
4116
4117 /**
4118  * Process HELLO-message.
4119  *
4120  * @param plugin transport involved, may be NULL
4121  * @param message the actual message
4122  * @return GNUNET_OK if the HELLO was well-formed, GNUNET_SYSERR otherwise
4123  */
4124 static int
4125 process_hello (struct TransportPlugin *plugin,
4126                const struct GNUNET_MessageHeader *message)
4127 {
4128   uint16_t hsize;
4129   struct GNUNET_PeerIdentity target;
4130   const struct GNUNET_HELLO_Message *hello;
4131   struct CheckHelloValidatedContext *chvc;
4132   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded publicKey;
4133 #if DEBUG_TRANSPORT_HELLO > 2
4134   char *my_id;
4135 #endif
4136   hsize = ntohs (message->size);
4137   if ((ntohs (message->type) != GNUNET_MESSAGE_TYPE_HELLO) ||
4138       (hsize < sizeof (struct GNUNET_MessageHeader)))
4139     {
4140       GNUNET_break (0);
4141       return GNUNET_SYSERR;
4142     }
4143   GNUNET_STATISTICS_update (stats,
4144                             gettext_noop ("# HELLOs received for validation"),
4145                             1,
4146                             GNUNET_NO);
4147
4148   /* first, check if load is too high */
4149   if (GNUNET_SCHEDULER_get_load (GNUNET_SCHEDULER_PRIORITY_BACKGROUND) > MAX_HELLO_LOAD)
4150     {
4151       GNUNET_STATISTICS_update (stats,
4152                                 gettext_noop ("# HELLOs ignored due to high load"),
4153                                 1,
4154                                 GNUNET_NO);
4155 #if DEBUG_TRANSPORT_HELLO
4156       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4157                   "Ignoring `%s' for `%4s', load too high.\n",
4158                   "HELLO",
4159                   GNUNET_i2s (&target));
4160 #endif
4161       return GNUNET_OK;
4162     }
4163   hello = (const struct GNUNET_HELLO_Message *) message;
4164   if (GNUNET_OK != GNUNET_HELLO_get_key (hello, &publicKey))
4165     {
4166 #if DEBUG_TRANSPORT_HELLO
4167       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4168                   "Unable to get public key from `%s' for `%4s'!\n",
4169                   "HELLO",
4170                   GNUNET_i2s (&target));
4171 #endif
4172       GNUNET_break_op (0);
4173       return GNUNET_SYSERR;
4174     }
4175
4176   GNUNET_CRYPTO_hash (&publicKey,
4177                       sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
4178                       &target.hashPubKey);
4179
4180 #if DEBUG_TRANSPORT_HELLO
4181   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4182               "Received `%s' message for `%4s'\n",
4183               "HELLO",
4184               GNUNET_i2s (&target));
4185 #endif
4186
4187   if (0 == memcmp (&my_identity,
4188                    &target,
4189                    sizeof (struct GNUNET_PeerIdentity)))
4190     {
4191       GNUNET_STATISTICS_update (stats,
4192                                 gettext_noop ("# HELLOs ignored for validation (is my own HELLO)"),
4193                                 1,
4194                                 GNUNET_NO);
4195       return GNUNET_OK;
4196     }
4197   chvc = chvc_head;
4198   while (NULL != chvc)
4199     {
4200       if (GNUNET_HELLO_equals (hello,
4201                                chvc->hello,
4202                                GNUNET_TIME_absolute_get ()).abs_value > 0)
4203         {
4204 #if DEBUG_TRANSPORT_HELLO > 2
4205           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4206                       "Received duplicate `%s' message for `%4s'; ignored\n",
4207                       "HELLO",
4208                       GNUNET_i2s (&target));
4209 #endif
4210           return GNUNET_OK; /* validation already pending */
4211         }
4212       if (GNUNET_HELLO_size(hello) == GNUNET_HELLO_size (chvc->hello))
4213         GNUNET_break (0 != memcmp (hello, chvc->hello,
4214                                    GNUNET_HELLO_size(hello)));
4215       chvc = chvc->next;
4216     }
4217
4218 #if BREAK_TESTS
4219   struct NeighbourList *temp_neighbor = find_neighbour(&target);
4220   if ((NULL != temp_neighbor))
4221     {
4222       fprintf(stderr, "Already know peer, ignoring hello\n");
4223       return GNUNET_OK;
4224     }
4225 #endif
4226
4227 #if DEBUG_TRANSPORT_HELLO > 2
4228   if (plugin != NULL)
4229     {
4230       my_id = GNUNET_strdup(GNUNET_i2s(plugin->env.my_identity));
4231       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4232                   "%s: Starting validation of `%s' message for `%4s' via '%s' of size %u\n",
4233                   my_id,
4234                   "HELLO",
4235                   GNUNET_i2s (&target),
4236                   plugin->short_name,
4237                   GNUNET_HELLO_size(hello));
4238       GNUNET_free(my_id);
4239     }
4240 #endif
4241   chvc = GNUNET_malloc (sizeof (struct CheckHelloValidatedContext) + hsize);
4242   chvc->ve_count = 1;
4243   chvc->hello = (const struct GNUNET_HELLO_Message *) &chvc[1];
4244   memcpy (&chvc[1], hello, hsize);
4245   GNUNET_CONTAINER_DLL_insert (chvc_head,
4246                                chvc_tail,
4247                                chvc);
4248   /* finally, check if HELLO was previously validated
4249      (continuation will then schedule actual validation) */
4250   GNUNET_STATISTICS_update (stats,
4251                             gettext_noop ("# peerinfo process hello iterate requests"),
4252                             1,
4253                             GNUNET_NO);
4254   GNUNET_STATISTICS_update (stats,
4255                             gettext_noop ("# outstanding peerinfo iterate requests"),
4256                             1,
4257                             GNUNET_NO);
4258   chvc->piter = GNUNET_PEERINFO_iterate (peerinfo,
4259                                          &target,
4260                                          HELLO_VERIFICATION_TIMEOUT,
4261                                          &check_hello_validated, chvc);
4262   return GNUNET_OK;
4263 }
4264
4265
4266 /**
4267  * The peer specified by the given neighbour has timed-out or a plugin
4268  * has disconnected.  We may either need to do nothing (other plugins
4269  * still up), or trigger a full disconnect and clean up.  This
4270  * function updates our state and does the necessary notifications.
4271  * Also notifies our clients that the neighbour is now officially
4272  * gone.
4273  *
4274  * @param n the neighbour list entry for the peer
4275  * @param check GNUNET_YES to check if ALL addresses for this peer
4276  *              are gone, GNUNET_NO to force a disconnect of the peer
4277  *              regardless of whether other addresses exist.
4278  */
4279 static void
4280 disconnect_neighbour (struct NeighbourList *n, int check)
4281 {
4282   struct ReadyList *rpos;
4283   struct NeighbourList *npos;
4284   struct NeighbourList *nprev;
4285   struct MessageQueue *mq;
4286   struct ForeignAddressList *peer_addresses;
4287   struct ForeignAddressList *peer_pos;
4288
4289   if (GNUNET_YES == check)
4290     {
4291       rpos = n->plugins;
4292       while (NULL != rpos)
4293         {
4294           peer_addresses = rpos->addresses;
4295           while (peer_addresses != NULL)
4296             {
4297               if (GNUNET_YES == peer_addresses->connected)
4298                 {
4299                   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4300                             "NOT Disconnecting from `%4s', still have live addresses!\n",
4301                             GNUNET_i2s (&n->id));
4302                   return;             /* still connected */
4303                 }
4304               peer_addresses = peer_addresses->next;
4305             }
4306           rpos = rpos->next;
4307         }
4308     }
4309 #if DEBUG_TRANSPORT
4310   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
4311               "Disconnecting from `%4s'\n",
4312               GNUNET_i2s (&n->id));
4313 #endif
4314   /* remove n from neighbours list */
4315   nprev = NULL;
4316   npos = neighbours;
4317   while ((npos != NULL) && (npos != n))
4318     {
4319       nprev = npos;
4320       npos = npos->next;
4321     }
4322   GNUNET_assert (npos != NULL);
4323   if (nprev == NULL)
4324     neighbours = n->next;
4325   else
4326     nprev->next = n->next;
4327
4328   /* notify all clients about disconnect */
4329   if (GNUNET_YES == n->received_pong)
4330     notify_clients_disconnect (&n->id);
4331
4332   /* clean up all plugins, cancel connections and pending transmissions */
4333   while (NULL != (rpos = n->plugins))
4334     {
4335       n->plugins = rpos->next;
4336       rpos->plugin->api->disconnect (rpos->plugin->api->cls, &n->id);
4337       while (rpos->addresses != NULL)
4338         {
4339           peer_pos = rpos->addresses;
4340           rpos->addresses = peer_pos->next;
4341           if (peer_pos->connected == GNUNET_YES)
4342             GNUNET_STATISTICS_update (stats,
4343                                       gettext_noop ("# connected addresses"),
4344                                       -1,
4345                                       GNUNET_NO);
4346           if (GNUNET_YES == peer_pos->validated)
4347             GNUNET_STATISTICS_update (stats,
4348                                       gettext_noop ("# peer addresses considered valid"),
4349                                       -1,
4350                                       GNUNET_NO);
4351           if (GNUNET_SCHEDULER_NO_TASK != peer_pos->revalidate_task)
4352             {
4353               GNUNET_SCHEDULER_cancel (peer_pos->revalidate_task);
4354               peer_pos->revalidate_task = GNUNET_SCHEDULER_NO_TASK;
4355             }
4356           GNUNET_free(peer_pos);
4357         }
4358       GNUNET_free (rpos);
4359     }
4360
4361   /* free all messages on the queue */
4362   while (NULL != (mq = n->messages_head))
4363     {
4364       GNUNET_STATISTICS_update (stats,
4365                                 gettext_noop ("# bytes in message queue for other peers"),
4366                                 - (int64_t) mq->message_buf_size,
4367                                 GNUNET_NO);
4368       GNUNET_STATISTICS_update (stats,
4369                                 gettext_noop ("# bytes discarded due to disconnect"),
4370                                 mq->message_buf_size,
4371                                 GNUNET_NO);
4372       GNUNET_CONTAINER_DLL_remove (n->messages_head,
4373                                    n->messages_tail,
4374                                    mq);
4375       GNUNET_assert (0 == memcmp(&mq->neighbour_id,
4376                                  &n->id,
4377                                  sizeof(struct GNUNET_PeerIdentity)));
4378       GNUNET_free (mq);
4379     }
4380   if (n->timeout_task != GNUNET_SCHEDULER_NO_TASK)
4381     {
4382       GNUNET_SCHEDULER_cancel (n->timeout_task);
4383       n->timeout_task = GNUNET_SCHEDULER_NO_TASK;
4384     }
4385   if (n->retry_task != GNUNET_SCHEDULER_NO_TASK)
4386     {
4387       GNUNET_SCHEDULER_cancel (n->retry_task);
4388       n->retry_task = GNUNET_SCHEDULER_NO_TASK;
4389     }
4390   if (n->piter != NULL)
4391     {
4392       GNUNET_PEERINFO_iterate_cancel (n->piter);
4393       GNUNET_STATISTICS_update (stats,
4394                                 gettext_noop ("# outstanding peerinfo iterate requests"),
4395                                 -1,
4396                                 GNUNET_NO);
4397       n->piter = NULL;
4398     }
4399   /* finally, free n itself */
4400   GNUNET_STATISTICS_update (stats,
4401                             gettext_noop ("# active neighbours"),
4402                             -1,
4403                             GNUNET_NO);
4404   GNUNET_free_non_null (n->pre_connect_message_buffer);
4405   GNUNET_free (n);
4406 }
4407
4408
4409 /**
4410  * We have received a PING message from someone.  Need to send a PONG message
4411  * in response to the peer by any means necessary.
4412  */
4413 static int
4414 handle_ping(void *cls, const struct GNUNET_MessageHeader *message,
4415             const struct GNUNET_PeerIdentity *peer,
4416             struct Session *session,
4417             const char *sender_address,
4418             uint16_t sender_address_len)
4419 {
4420   struct TransportPlugin *plugin = cls;
4421   struct SessionHeader *session_header = (struct SessionHeader*) session;
4422   struct TransportPingMessage *ping;
4423   struct TransportPongMessage *pong;
4424   struct NeighbourList *n;
4425   struct ReadyList *rl;
4426   struct ForeignAddressList *fal;
4427   struct OwnAddressList *oal;
4428   const char *addr;
4429   size_t alen;
4430   size_t slen;
4431
4432   if (ntohs (message->size) < sizeof (struct TransportPingMessage))
4433     {
4434       GNUNET_break_op (0);
4435       return GNUNET_SYSERR;
4436     }
4437
4438   ping = (struct TransportPingMessage *) message;
4439   if (0 != memcmp (&ping->target,
4440                    plugin->env.my_identity,
4441                    sizeof (struct GNUNET_PeerIdentity)))
4442     {
4443       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4444                   _("Received `%s' message from `%s' destined for `%s' which is not me!\n"),
4445                   "PING",
4446                   (sender_address != NULL)
4447                   ? a2s (plugin->short_name,
4448                          (const struct sockaddr *)sender_address,
4449                          sender_address_len)
4450                   : "<inbound>",
4451                   GNUNET_i2s (&ping->target));
4452       return GNUNET_SYSERR;
4453     }
4454 #if DEBUG_PING_PONG
4455   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
4456               "Processing `%s' from `%s'\n",
4457               "PING",
4458               (sender_address != NULL)
4459               ? a2s (plugin->short_name,
4460                      (const struct sockaddr *)sender_address,
4461                      sender_address_len)
4462               : "<inbound>");
4463 #endif
4464   GNUNET_STATISTICS_update (stats,
4465                             gettext_noop ("# PING messages received"),
4466                             1,
4467                             GNUNET_NO);
4468   addr = (const char*) &ping[1];
4469   alen = ntohs (message->size) - sizeof (struct TransportPingMessage);
4470   slen = strlen (plugin->short_name) + 1;
4471   if (alen == 0)
4472     {
4473       /* peer wants to confirm that we have an outbound connection to him */
4474       if (session == NULL)
4475         {
4476           GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4477                       _("Refusing to create PONG since I do not have a session with `%s'.\n"),
4478                       GNUNET_i2s (peer));
4479           return GNUNET_SYSERR;
4480         }
4481       pong = GNUNET_malloc (sizeof (struct TransportPongMessage) + sender_address_len + slen);
4482       pong->header.size = htons (sizeof (struct TransportPongMessage) + sender_address_len + slen);
4483       pong->header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_PONG);
4484       pong->purpose.size =
4485         htonl (sizeof (struct GNUNET_CRYPTO_RsaSignaturePurpose) +
4486                sizeof (uint32_t) +
4487                sizeof (struct GNUNET_TIME_AbsoluteNBO) +
4488                sizeof (struct GNUNET_PeerIdentity) + sender_address_len + slen);
4489       pong->purpose.purpose = htonl (GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_USING);
4490       pong->challenge = ping->challenge;
4491       pong->addrlen = htonl(sender_address_len + slen);
4492       memcpy(&pong->pid,
4493              peer,
4494              sizeof(struct GNUNET_PeerIdentity));
4495       memcpy (&pong[1],
4496               plugin->short_name,
4497               slen);
4498       memcpy (&((char*)&pong[1])[slen],
4499               sender_address,
4500               sender_address_len);
4501       if (GNUNET_TIME_absolute_get_remaining (session_header->pong_sig_expires).rel_value < PONG_SIGNATURE_LIFETIME.rel_value / 4)
4502         {
4503           /* create / update cached sig */
4504 #if DEBUG_TRANSPORT
4505           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4506                       "Creating PONG signature to indicate active connection.\n");
4507 #endif
4508           session_header->pong_sig_expires = GNUNET_TIME_relative_to_absolute (PONG_SIGNATURE_LIFETIME);
4509           pong->expiration = GNUNET_TIME_absolute_hton (session_header->pong_sig_expires);
4510           GNUNET_assert (GNUNET_OK ==
4511                          GNUNET_CRYPTO_rsa_sign (my_private_key,
4512                                                  &pong->purpose,
4513                                                  &session_header->pong_signature));
4514         }
4515       else
4516         {
4517           pong->expiration = GNUNET_TIME_absolute_hton (session_header->pong_sig_expires);
4518         }
4519       memcpy (&pong->signature,
4520               &session_header->pong_signature,
4521               sizeof (struct GNUNET_CRYPTO_RsaSignature));
4522
4523
4524     }
4525   else
4526     {
4527       /* peer wants to confirm that this is one of our addresses */
4528       addr += slen;
4529       alen -= slen;
4530       if (GNUNET_OK !=
4531           plugin->api->check_address (plugin->api->cls,
4532                                       addr,
4533                                       alen))
4534         {
4535           GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4536                       _("Not confirming PING with address `%s' since I cannot confirm having this address.\n"),
4537                       a2s (plugin->short_name,
4538                            addr,
4539                            alen));
4540           return GNUNET_NO;
4541         }
4542       oal = plugin->addresses;
4543       while (NULL != oal)
4544         {
4545           if ( (oal->addrlen == alen) &&
4546                (0 == memcmp (addr,
4547                              &oal[1],
4548                              alen)) )
4549             break;
4550           oal = oal->next;
4551         }
4552       pong = GNUNET_malloc (sizeof (struct TransportPongMessage) + alen + slen);
4553       pong->header.size = htons (sizeof (struct TransportPongMessage) + alen + slen);
4554       pong->header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_PONG);
4555       pong->purpose.size =
4556         htonl (sizeof (struct GNUNET_CRYPTO_RsaSignaturePurpose) +
4557                sizeof (uint32_t) +
4558                sizeof (struct GNUNET_TIME_AbsoluteNBO) +
4559                sizeof (struct GNUNET_PeerIdentity) + alen + slen);
4560       pong->purpose.purpose = htonl (GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_OWN);
4561       pong->challenge = ping->challenge;
4562       pong->addrlen = htonl(alen + slen);
4563       memcpy(&pong->pid,
4564              &my_identity,
4565              sizeof(struct GNUNET_PeerIdentity));
4566       memcpy (&pong[1], plugin->short_name, slen);
4567       memcpy (&((char*)&pong[1])[slen], addr, alen);
4568       if ( (oal != NULL) &&
4569            (GNUNET_TIME_absolute_get_remaining (oal->pong_sig_expires).rel_value < PONG_SIGNATURE_LIFETIME.rel_value / 4) )
4570         {
4571           /* create / update cached sig */
4572 #if DEBUG_TRANSPORT
4573           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4574                       "Creating PONG signature to indicate ownership.\n");
4575 #endif
4576           oal->pong_sig_expires = GNUNET_TIME_absolute_min (oal->expires,
4577                                                             GNUNET_TIME_relative_to_absolute (PONG_SIGNATURE_LIFETIME));
4578           pong->expiration = GNUNET_TIME_absolute_hton (oal->pong_sig_expires);
4579           GNUNET_assert (GNUNET_OK ==
4580                          GNUNET_CRYPTO_rsa_sign (my_private_key,
4581                                                  &pong->purpose,
4582                                                  &oal->pong_signature));        
4583           memcpy (&pong->signature,
4584                   &oal->pong_signature,
4585                   sizeof (struct GNUNET_CRYPTO_RsaSignature));
4586         }
4587       else if (oal == NULL)
4588         {
4589           /* not using cache (typically DV-only) */
4590           pong->expiration = GNUNET_TIME_absolute_hton (GNUNET_TIME_relative_to_absolute (PONG_SIGNATURE_LIFETIME));
4591           GNUNET_assert (GNUNET_OK ==
4592                          GNUNET_CRYPTO_rsa_sign (my_private_key,
4593                                                  &pong->purpose,
4594                                                  &pong->signature));    
4595         }
4596       else
4597         {
4598           /* can used cached version */
4599           pong->expiration = GNUNET_TIME_absolute_hton (oal->pong_sig_expires);
4600           memcpy (&pong->signature,
4601                   &oal->pong_signature,
4602                   sizeof (struct GNUNET_CRYPTO_RsaSignature));
4603         }
4604     }
4605   n = find_neighbour(peer);
4606   GNUNET_assert (n != NULL);
4607   /* first try reliable response transmission */
4608   rl = n->plugins;
4609   while (rl != NULL)
4610     {
4611       fal = rl->addresses;
4612       while (fal != NULL)
4613         {
4614           if (-1 != rl->plugin->api->send (rl->plugin->api->cls,
4615                                            peer,
4616                                            (const char*) pong,
4617                                            ntohs (pong->header.size),
4618                                            TRANSPORT_PONG_PRIORITY,
4619                                            HELLO_VERIFICATION_TIMEOUT,
4620                                            fal->session,
4621                                            fal->addr,
4622                                            fal->addrlen,
4623                                            GNUNET_SYSERR,
4624                                            NULL, NULL))
4625             {
4626               /* done! */
4627               GNUNET_STATISTICS_update (stats,
4628                                         gettext_noop ("# PONGs unicast via reliable transport"),
4629                                         1,
4630                                         GNUNET_NO);
4631               GNUNET_free (pong);
4632               return GNUNET_OK;
4633             }
4634           fal = fal->next;
4635         }
4636       rl = rl->next;
4637     }
4638   /* no reliable method found, do multicast */
4639   GNUNET_STATISTICS_update (stats,
4640                             gettext_noop ("# PONGs multicast to all available addresses"),
4641                             1,
4642                             GNUNET_NO);
4643   rl = n->plugins;
4644   while (rl != NULL)
4645     {
4646       fal = rl->addresses;
4647       while (fal != NULL)
4648         {
4649           transmit_to_peer(NULL, fal,
4650                            TRANSPORT_PONG_PRIORITY,
4651                            HELLO_VERIFICATION_TIMEOUT,
4652                            (const char *)pong,
4653                            ntohs(pong->header.size),
4654                            GNUNET_YES,
4655                            n);
4656           fal = fal->next;
4657         }
4658       rl = rl->next;
4659     }
4660   GNUNET_free(pong);
4661   return GNUNET_OK;
4662 }
4663
4664
4665 /**
4666  * Function called by the plugin for each received message.
4667  * Update data volumes, possibly notify plugins about
4668  * reducing the rate at which they read from the socket
4669  * and generally forward to our receive callback.
4670  *
4671  * @param cls the "struct TransportPlugin *" we gave to the plugin
4672  * @param peer (claimed) identity of the other peer
4673  * @param message the message, NULL if we only care about
4674  *                learning about the delay until we should receive again
4675  * @param distance in overlay hops; use 1 unless DV (or 0 if message == NULL)
4676  * @param session identifier used for this session (can be NULL)
4677  * @param sender_address binary address of the sender (if observed)
4678  * @param sender_address_len number of bytes in sender_address
4679  * @return how long in ms the plugin should wait until receiving more data
4680  *         (plugins that do not support this, can ignore the return value)
4681  */
4682 static struct GNUNET_TIME_Relative
4683 plugin_env_receive (void *cls, const struct GNUNET_PeerIdentity *peer,
4684                     const struct GNUNET_MessageHeader *message,
4685                     uint32_t distance,
4686                     struct Session *session,
4687                     const char *sender_address,
4688                     uint16_t sender_address_len)
4689 {
4690   struct TransportPlugin *plugin = cls;
4691   struct ReadyList *service_context;
4692   struct ForeignAddressList *peer_address;
4693   uint16_t msize;
4694   struct NeighbourList *n;
4695   struct GNUNET_TIME_Relative ret;
4696   if (is_blacklisted (peer, plugin))
4697     return GNUNET_TIME_UNIT_FOREVER_REL;
4698
4699   n = find_neighbour (peer);
4700   if (n == NULL)
4701     n = setup_new_neighbour (peer, GNUNET_YES);
4702   service_context = n->plugins;
4703   while ((service_context != NULL) && (plugin != service_context->plugin))
4704     service_context = service_context->next;
4705   GNUNET_assert ((plugin->api->send == NULL) || (service_context != NULL));
4706   peer_address = NULL;
4707   if (message != NULL)
4708     {
4709       if ( (session != NULL) ||
4710            (sender_address != NULL) )
4711         peer_address = add_peer_address (n,
4712                                          plugin->short_name,
4713                                          session,
4714                                          sender_address,
4715                                          sender_address_len);
4716       if (peer_address != NULL)
4717         {
4718           peer_address->distance = distance;
4719           if (GNUNET_YES == peer_address->validated)
4720             mark_address_connected (peer_address);
4721           peer_address->timeout
4722             =
4723             GNUNET_TIME_relative_to_absolute
4724             (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
4725           schedule_next_ping (peer_address);
4726         }
4727       /* update traffic received amount ... */
4728       msize = ntohs (message->size);
4729       GNUNET_STATISTICS_update (stats,
4730                                 gettext_noop ("# bytes received from other peers"),
4731                                 msize,
4732                                 GNUNET_NO);
4733       n->distance = distance;
4734       n->peer_timeout =
4735         GNUNET_TIME_relative_to_absolute
4736         (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
4737       GNUNET_SCHEDULER_cancel (n->timeout_task);
4738       n->timeout_task =
4739         GNUNET_SCHEDULER_add_delayed (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT,
4740                                       &neighbour_timeout_task, n);
4741       if (n->quota_violation_count > QUOTA_VIOLATION_DROP_THRESHOLD)
4742         {
4743           /* dropping message due to frequent inbound volume violations! */
4744           GNUNET_log (GNUNET_ERROR_TYPE_WARNING |
4745                       GNUNET_ERROR_TYPE_BULK,
4746                       _
4747                       ("Dropping incoming message due to repeated bandwidth quota (%u b/s) violations (total of %u).\n"),
4748                       n->in_tracker.available_bytes_per_s__,
4749                       n->quota_violation_count);
4750           GNUNET_STATISTICS_update (stats,
4751                                     gettext_noop ("# bandwidth quota violations by other peers"),
4752                                     1,
4753                                     GNUNET_NO);
4754           return GNUNET_CONSTANTS_QUOTA_VIOLATION_TIMEOUT;
4755         }
4756
4757 #if DEBUG_PING_PONG
4758           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4759                       "Received message of type %u and size %u from `%4s', sending to all clients.\n",
4760                       ntohs (message->type),
4761                       ntohs (message->size),
4762                       GNUNET_i2s (peer));
4763 #endif
4764       switch (ntohs (message->type))
4765         {
4766         case GNUNET_MESSAGE_TYPE_HELLO:
4767           GNUNET_STATISTICS_update (stats,
4768                                     gettext_noop ("# HELLO messages received from other peers"),
4769                                     1,
4770                                     GNUNET_NO);
4771           process_hello (plugin, message);
4772           break;
4773         case GNUNET_MESSAGE_TYPE_TRANSPORT_PING:
4774           handle_ping (plugin, message, peer, session, sender_address, sender_address_len);
4775           break;
4776         case GNUNET_MESSAGE_TYPE_TRANSPORT_PONG:
4777           handle_pong (plugin, message, peer, sender_address, sender_address_len);
4778           break;
4779         default:
4780           /* FIXME */
4781           handle_payload_message (message, n, NULL, 0);
4782           break;
4783         }
4784     }
4785   ret = GNUNET_BANDWIDTH_tracker_get_delay (&n->in_tracker, 0);
4786   if (ret.rel_value > 0)
4787     {
4788       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4789                   "Throttling read (%llu bytes excess at %u b/s), waiting %llums before reading more.\n",
4790                   (unsigned long long) n->in_tracker.consumption_since_last_update__,
4791                   (unsigned int) n->in_tracker.available_bytes_per_s__,
4792                   (unsigned long long) ret.rel_value);
4793       GNUNET_STATISTICS_update (stats,
4794                                 gettext_noop ("# ms throttling suggested"),
4795                                 (int64_t) ret.rel_value,
4796                                 GNUNET_NO);
4797     }
4798   return ret;
4799 }
4800
4801 /**
4802  * Handle START-message.  This is the first message sent to us
4803  * by any client which causes us to add it to our list.
4804  *
4805  * @param cls closure (always NULL)
4806  * @param client identification of the client
4807  * @param message the actual message
4808  */
4809 static void
4810 handle_start (void *cls,
4811               struct GNUNET_SERVER_Client *client,
4812               const struct GNUNET_MessageHeader *message)
4813 {
4814   const struct StartMessage *start;
4815   struct TransportClient *c;
4816   struct ConnectInfoMessage cim;
4817   struct NeighbourList *n;
4818
4819   start = (const struct StartMessage*) message;
4820 #if DEBUG_TRANSPORT
4821   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4822               "Received `%s' request from client\n", "START");
4823 #endif
4824   c = clients;
4825   while (c != NULL)
4826     {
4827       if (c->client == client)
4828         {
4829           /* client already on our list! */
4830           GNUNET_break (0);
4831           GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4832           return;
4833         }
4834       c = c->next;
4835     }
4836   if ( (GNUNET_NO != ntohl (start->do_check)) &&
4837        (0 != memcmp (&start->self,
4838                      &my_identity,
4839                      sizeof (struct GNUNET_PeerIdentity))) )
4840     {
4841       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4842                   _("Rejecting control connection from peer `%s', which is not me!\n"),
4843                   GNUNET_i2s (&start->self));
4844       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4845       return;
4846     }
4847   c = GNUNET_malloc (sizeof (struct TransportClient));
4848   c->next = clients;
4849   clients = c;
4850   c->client = client;
4851   if (our_hello != NULL)
4852     {
4853 #if DEBUG_TRANSPORT
4854       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4855                   "Sending our own `%s' to new client\n", "HELLO");
4856 #endif
4857       transmit_to_client (c,
4858                           (const struct GNUNET_MessageHeader *) our_hello,
4859                           GNUNET_NO);
4860       /* tell new client about all existing connections */
4861       cim.header.size = htons (sizeof (struct ConnectInfoMessage));
4862       cim.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_CONNECT);
4863       n = neighbours;
4864       while (n != NULL)
4865         {
4866           if (GNUNET_YES == n->received_pong)
4867             {
4868               cim.id = n->id;
4869               cim.latency = GNUNET_TIME_relative_hton (n->latency);
4870               cim.distance = htonl (n->distance);
4871               transmit_to_client (c, &cim.header, GNUNET_NO);
4872             }
4873             n = n->next;
4874         }
4875     }
4876   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4877 }
4878
4879
4880 /**
4881  * Handle HELLO-message.
4882  *
4883  * @param cls closure (always NULL)
4884  * @param client identification of the client
4885  * @param message the actual message
4886  */
4887 static void
4888 handle_hello (void *cls,
4889               struct GNUNET_SERVER_Client *client,
4890               const struct GNUNET_MessageHeader *message)
4891 {
4892   int ret;
4893
4894   GNUNET_STATISTICS_update (stats,
4895                             gettext_noop ("# HELLOs received from clients"),
4896                             1,
4897                             GNUNET_NO);
4898   ret = process_hello (NULL, message);
4899   GNUNET_SERVER_receive_done (client, ret);
4900 }
4901
4902
4903 /**
4904  * Closure for 'transmit_client_message'; followed by
4905  * 'msize' bytes of the actual message.
4906  */
4907 struct TransmitClientMessageContext
4908 {
4909   /**
4910    * Client on whom's behalf we are sending.
4911    */
4912   struct GNUNET_SERVER_Client *client;
4913
4914   /**
4915    * Timeout for the transmission.
4916    */
4917   struct GNUNET_TIME_Absolute timeout;
4918
4919   /**
4920    * Message priority.
4921    */
4922   uint32_t priority;
4923
4924   /**
4925    * Size of the message in bytes.
4926    */
4927   uint16_t msize;
4928 };
4929
4930
4931 /**
4932  * Schedule transmission of a message we got from a client to a peer.
4933  *
4934  * @param cls the 'struct TransmitClientMessageContext*'
4935  * @param n destination, or NULL on error (in that case, drop the message)
4936  */
4937 static void
4938 transmit_client_message (void *cls,
4939                          struct NeighbourList *n)
4940 {
4941   struct TransmitClientMessageContext *tcmc = cls;
4942   struct TransportClient *tc;
4943
4944   tc = clients;
4945   while ((tc != NULL) && (tc->client != tcmc->client))
4946     tc = tc->next;
4947
4948   if (n != NULL)
4949     {
4950       transmit_to_peer (tc, NULL, tcmc->priority,
4951                         GNUNET_TIME_absolute_get_remaining (tcmc->timeout),
4952                         (char *)&tcmc[1],
4953                         tcmc->msize, GNUNET_NO, n);
4954     }
4955   GNUNET_SERVER_receive_done (tcmc->client, GNUNET_OK);
4956   GNUNET_SERVER_client_drop (tcmc->client);
4957   GNUNET_free (tcmc);
4958 }
4959
4960
4961 /**
4962  * Handle SEND-message.
4963  *
4964  * @param cls closure (always NULL)
4965  * @param client identification of the client
4966  * @param message the actual message
4967  */
4968 static void
4969 handle_send (void *cls,
4970              struct GNUNET_SERVER_Client *client,
4971              const struct GNUNET_MessageHeader *message)
4972 {
4973   const struct OutboundMessage *obm;
4974   const struct GNUNET_MessageHeader *obmm;
4975   struct TransmitClientMessageContext *tcmc;
4976   uint16_t size;
4977   uint16_t msize;
4978
4979   size = ntohs (message->size);
4980   if (size <
4981       sizeof (struct OutboundMessage) + sizeof (struct GNUNET_MessageHeader))
4982     {
4983       GNUNET_break (0);
4984       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4985       return;
4986     }
4987   GNUNET_STATISTICS_update (stats,
4988                             gettext_noop ("# payload received for other peers"),
4989                             size,
4990                             GNUNET_NO);
4991   obm = (const struct OutboundMessage *) message;
4992   obmm = (const struct GNUNET_MessageHeader *) &obm[1];
4993   msize = size - sizeof (struct OutboundMessage);
4994
4995   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4996               "Received `%s' request from client with target `%4s' and message of type %u and size %u\n",
4997               "SEND", GNUNET_i2s (&obm->peer),
4998               ntohs (obmm->type),
4999               msize);
5000
5001   tcmc = GNUNET_malloc (sizeof (struct TransmitClientMessageContext) + msize);
5002   tcmc->client = client;
5003   tcmc->priority = ntohl (obm->priority);
5004   tcmc->timeout = GNUNET_TIME_relative_to_absolute (GNUNET_TIME_relative_ntoh (obm->timeout));
5005   tcmc->msize = msize;
5006   /* FIXME: this memcpy can be up to 7% of our total runtime */
5007   memcpy (&tcmc[1], obmm, msize);
5008   GNUNET_SERVER_client_keep (client);
5009   setup_peer_check_blacklist (&obm->peer, GNUNET_YES,
5010                               &transmit_client_message,
5011                               tcmc);
5012 }
5013
5014
5015 /**
5016  * Handle request connect message
5017  *
5018  * @param cls closure (always NULL)
5019  * @param client identification of the client
5020  * @param message the actual message
5021  */
5022 static void
5023 handle_request_connect (void *cls,
5024                         struct GNUNET_SERVER_Client *client,
5025                         const struct GNUNET_MessageHeader *message)
5026 {
5027   const struct TransportRequestConnectMessage *trcm =
5028     (const struct TransportRequestConnectMessage *) message;
5029
5030   GNUNET_STATISTICS_update (stats,
5031                             gettext_noop ("# REQUEST CONNECT messages received"),
5032                             1,
5033                             GNUNET_NO);
5034   GNUNET_log(GNUNET_ERROR_TYPE_DEBUG, "Received a request connect message for peer %s\n", GNUNET_i2s(&trcm->peer));
5035   setup_peer_check_blacklist (&trcm->peer, GNUNET_YES,
5036                               NULL, NULL);
5037   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5038 }
5039
5040 /**
5041  * Handle SET_QUOTA-message.
5042  *
5043  * @param cls closure (always NULL)
5044  * @param client identification of the client
5045  * @param message the actual message
5046  */
5047 static void
5048 handle_set_quota (void *cls,
5049                   struct GNUNET_SERVER_Client *client,
5050                   const struct GNUNET_MessageHeader *message)
5051 {
5052   const struct QuotaSetMessage *qsm =
5053     (const struct QuotaSetMessage *) message;
5054   struct NeighbourList *n;
5055
5056   GNUNET_STATISTICS_update (stats,
5057                             gettext_noop ("# SET QUOTA messages received"),
5058                             1,
5059                             GNUNET_NO);
5060   n = find_neighbour (&qsm->peer);
5061   if (n == NULL)
5062     {
5063       GNUNET_SERVER_receive_done (client, GNUNET_OK);
5064       GNUNET_STATISTICS_update (stats,
5065                                 gettext_noop ("# SET QUOTA messages ignored (no such peer)"),
5066                                 1,
5067                                 GNUNET_NO);
5068       return;
5069     }
5070 #if DEBUG_TRANSPORT
5071   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5072               "Received `%s' request (new quota %u, old quota %u) from client for peer `%4s'\n",
5073               "SET_QUOTA",
5074               (unsigned int) ntohl (qsm->quota.value__),
5075               (unsigned int) n->in_tracker.available_bytes_per_s__,
5076               GNUNET_i2s (&qsm->peer));
5077 #endif
5078   GNUNET_BANDWIDTH_tracker_update_quota (&n->in_tracker,
5079                                          qsm->quota);
5080   if (0 == ntohl (qsm->quota.value__))
5081     {
5082       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5083                 "Disconnecting peer `%4s', %s\n", GNUNET_i2s(&n->id),
5084                 "SET_QUOTA");
5085       disconnect_neighbour (n, GNUNET_NO);
5086     }
5087   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5088 }
5089
5090
5091 /**
5092  * Take the given address and append it to the set of results sent back to
5093  * the client.
5094  *
5095  * @param cls the transmission context used ('struct GNUNET_SERVER_TransmitContext*')
5096  * @param address the resolved name, NULL to indicate the last response
5097  */
5098 static void
5099 transmit_address_to_client (void *cls, const char *address)
5100 {
5101   struct GNUNET_SERVER_TransmitContext *tc = cls;
5102   size_t slen;
5103
5104   if (NULL == address)
5105     slen = 0;
5106   else
5107     slen = strlen (address) + 1;
5108
5109   GNUNET_SERVER_transmit_context_append_data (tc, address, slen,
5110                                               GNUNET_MESSAGE_TYPE_TRANSPORT_ADDRESS_REPLY);
5111   if (NULL == address)
5112     GNUNET_SERVER_transmit_context_run (tc, GNUNET_TIME_UNIT_FOREVER_REL);
5113 }
5114
5115
5116 /**
5117  * Handle AddressLookup-message.
5118  *
5119  * @param cls closure (always NULL)
5120  * @param client identification of the client
5121  * @param message the actual message
5122  */
5123 static void
5124 handle_address_lookup (void *cls,
5125                        struct GNUNET_SERVER_Client *client,
5126                        const struct GNUNET_MessageHeader *message)
5127 {
5128   const struct AddressLookupMessage *alum;
5129   struct TransportPlugin *lsPlugin;
5130   const char *nameTransport;
5131   const char *address;
5132   uint16_t size;
5133   struct GNUNET_SERVER_TransmitContext *tc;
5134   struct GNUNET_TIME_Absolute timeout;
5135   struct GNUNET_TIME_Relative rtimeout;
5136   int32_t numeric;
5137
5138   size = ntohs (message->size);
5139   if (size < sizeof (struct AddressLookupMessage))
5140     {
5141       GNUNET_break_op (0);
5142       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5143       return;
5144     }
5145   alum = (const struct AddressLookupMessage *) message;
5146   uint32_t addressLen = ntohl (alum->addrlen);
5147   if (size <= sizeof (struct AddressLookupMessage) + addressLen)
5148     {
5149       GNUNET_break_op (0);
5150       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5151       return;
5152     }
5153   address = (const char *) &alum[1];
5154   nameTransport = (const char *) &address[addressLen];
5155   if (nameTransport
5156       [size - sizeof (struct AddressLookupMessage) - addressLen - 1] != '\0')
5157     {
5158       GNUNET_break_op (0);
5159       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5160       return;
5161     }
5162   timeout = GNUNET_TIME_absolute_ntoh (alum->timeout);
5163   rtimeout = GNUNET_TIME_absolute_get_remaining (timeout);
5164   numeric = ntohl (alum->numeric_only);
5165   lsPlugin = find_transport (nameTransport);
5166   if (NULL == lsPlugin)
5167     {
5168       tc = GNUNET_SERVER_transmit_context_create (client);
5169       GNUNET_SERVER_transmit_context_append_data (tc, NULL, 0,
5170                                                   GNUNET_MESSAGE_TYPE_TRANSPORT_ADDRESS_REPLY);
5171       GNUNET_SERVER_transmit_context_run (tc, rtimeout);
5172       return;
5173     }
5174   tc = GNUNET_SERVER_transmit_context_create (client);
5175   lsPlugin->api->address_pretty_printer (lsPlugin->api->cls,
5176                                          nameTransport,
5177                                          address, addressLen,
5178                                          numeric,
5179                                          rtimeout,
5180                                          &transmit_address_to_client, tc);
5181 }
5182
5183
5184 /**
5185  * Setup the environment for this plugin.
5186  */
5187 static void
5188 create_environment (struct TransportPlugin *plug)
5189 {
5190   plug->env.cfg = cfg;
5191   plug->env.my_identity = &my_identity;
5192   plug->env.our_hello = &our_hello;
5193   plug->env.cls = plug;
5194   plug->env.receive = &plugin_env_receive;
5195   plug->env.notify_address = &plugin_env_notify_address;
5196   plug->env.session_end = &plugin_env_session_end;
5197   plug->env.max_connections = max_connect_per_transport;
5198   plug->env.stats = stats;
5199 }
5200
5201
5202 /**
5203  * Start the specified transport (load the plugin).
5204  */
5205 static void
5206 start_transport (struct GNUNET_SERVER_Handle *server,
5207                  const char *name)
5208 {
5209   struct TransportPlugin *plug;
5210   char *libname;
5211
5212   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5213               _("Loading `%s' transport plugin\n"), name);
5214   GNUNET_asprintf (&libname, "libgnunet_plugin_transport_%s", name);
5215   plug = GNUNET_malloc (sizeof (struct TransportPlugin));
5216   create_environment (plug);
5217   plug->short_name = GNUNET_strdup (name);
5218   plug->lib_name = libname;
5219   plug->next = plugins;
5220   plugins = plug;
5221   plug->api = GNUNET_PLUGIN_load (libname, &plug->env);
5222   if (plug->api == NULL)
5223     {
5224       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5225                   _("Failed to load transport plugin for `%s'\n"), name);
5226       GNUNET_free (plug->short_name);
5227       plugins = plug->next;
5228       GNUNET_free (libname);
5229       GNUNET_free (plug);
5230     }
5231 }
5232
5233
5234 /**
5235  * Called whenever a client is disconnected.  Frees our
5236  * resources associated with that client.
5237  *
5238  * @param cls closure
5239  * @param client identification of the client
5240  */
5241 static void
5242 client_disconnect_notification (void *cls,
5243                                 struct GNUNET_SERVER_Client *client)
5244 {
5245   struct TransportClient *pos;
5246   struct TransportClient *prev;
5247   struct ClientMessageQueueEntry *mqe;
5248   struct Blacklisters *bl;
5249   struct BlacklistCheck *bc;
5250
5251   if (client == NULL)
5252     return;
5253 #if DEBUG_TRANSPORT
5254   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
5255               "Client disconnected, cleaning up.\n");
5256 #endif
5257   /* clean up blacklister */
5258   bl = bl_head;
5259   while (bl != NULL)
5260     {
5261       if (bl->client == client)
5262         {
5263           bc = bc_head;
5264           while (bc != NULL)
5265             {
5266               if (bc->bl_pos == bl)
5267                 {
5268                   bc->bl_pos = bl->next;
5269                   if (bc->th != NULL)
5270                     {
5271                       GNUNET_CONNECTION_notify_transmit_ready_cancel (bc->th);
5272                       bc->th = NULL;            
5273                     }
5274                   if (bc->task == GNUNET_SCHEDULER_NO_TASK)
5275                     bc->task = GNUNET_SCHEDULER_add_now (&do_blacklist_check,
5276                                                          bc);
5277                   break;
5278                 }
5279               bc = bc->next;
5280             }
5281           GNUNET_CONTAINER_DLL_remove (bl_head,
5282                                        bl_tail,
5283                                        bl);
5284           GNUNET_SERVER_client_drop (bl->client);
5285           GNUNET_free (bl);
5286           break;
5287         }
5288       bl = bl->next;
5289     }
5290   /* clean up 'normal' clients */
5291   prev = NULL;
5292   pos = clients;
5293   while ((pos != NULL) && (pos->client != client))
5294     {
5295       prev = pos;
5296       pos = pos->next;
5297     }
5298   if (pos == NULL)
5299     return;
5300   while (NULL != (mqe = pos->message_queue_head))
5301     {
5302       GNUNET_CONTAINER_DLL_remove (pos->message_queue_head,
5303                                    pos->message_queue_tail,
5304                                    mqe);
5305       pos->message_count--;
5306       GNUNET_free (mqe);
5307     }
5308   if (prev == NULL)
5309     clients = pos->next;
5310   else
5311     prev->next = pos->next;
5312   if (GNUNET_YES == pos->tcs_pending)
5313     {
5314       pos->client = NULL;
5315       return;
5316     }
5317   if (pos->th != NULL)
5318     {
5319       GNUNET_CONNECTION_notify_transmit_ready_cancel (pos->th);
5320       pos->th = NULL;
5321     }
5322   GNUNET_break (0 == pos->message_count);
5323   GNUNET_free (pos);
5324 }
5325
5326
5327 /**
5328  * Function called when the service shuts down.  Unloads our plugins
5329  * and cancels pending validations.
5330  *
5331  * @param cls closure, unused
5332  * @param tc task context (unused)
5333  */
5334 static void
5335 shutdown_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
5336 {
5337   struct TransportPlugin *plug;
5338   struct OwnAddressList *al;
5339   struct CheckHelloValidatedContext *chvc;
5340
5341   while (neighbours != NULL)
5342     {
5343       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5344               "Disconnecting peer `%4s', %s\n", GNUNET_i2s(&neighbours->id),
5345               "SHUTDOWN_TASK");
5346       disconnect_neighbour (neighbours, GNUNET_NO);
5347     }
5348 #if DEBUG_TRANSPORT
5349   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5350               "Transport service is unloading plugins...\n");
5351 #endif
5352   while (NULL != (plug = plugins))
5353     {
5354       plugins = plug->next;
5355       if (plug->address_update_task != GNUNET_SCHEDULER_NO_TASK)
5356         {
5357           GNUNET_SCHEDULER_cancel (plug->address_update_task);
5358           plug->address_update_task = GNUNET_SCHEDULER_NO_TASK;
5359         }
5360       GNUNET_break (NULL == GNUNET_PLUGIN_unload (plug->lib_name, plug->api));
5361       GNUNET_free (plug->lib_name);
5362       GNUNET_free (plug->short_name);
5363       while (NULL != (al = plug->addresses))
5364         {
5365           plug->addresses = al->next;
5366           GNUNET_free (al);
5367         }
5368       GNUNET_free (plug);
5369     }
5370   if (my_private_key != NULL)
5371     GNUNET_CRYPTO_rsa_key_free (my_private_key);
5372   GNUNET_free_non_null (our_hello);
5373
5374   GNUNET_CONTAINER_multihashmap_iterate (validation_map,
5375                                          &abort_validation,
5376                                          NULL);
5377   GNUNET_CONTAINER_multihashmap_destroy (validation_map);
5378   validation_map = NULL;
5379
5380   /* free 'chvc' data structure */
5381   while (NULL != (chvc = chvc_head))
5382     {
5383       chvc_head = chvc->next;
5384       if (chvc->piter != NULL)
5385         {
5386           GNUNET_PEERINFO_iterate_cancel (chvc->piter);
5387           GNUNET_STATISTICS_update (stats,
5388                                     gettext_noop ("# outstanding peerinfo iterate requests"),
5389                                     -1,
5390                                     GNUNET_NO);
5391         }
5392       else
5393         GNUNET_break (0);
5394       GNUNET_assert (chvc->ve_count == 0);
5395       GNUNET_free (chvc);
5396     }
5397   chvc_tail = NULL;
5398
5399   if (stats != NULL)
5400     {
5401       GNUNET_STATISTICS_destroy (stats, GNUNET_NO);
5402       stats = NULL;
5403     }
5404   if (peerinfo != NULL)
5405     {
5406       GNUNET_PEERINFO_disconnect (peerinfo);
5407       peerinfo = NULL;
5408     }
5409   /* Can we assume those are gone by now, or do we need to clean up
5410      explicitly!? */
5411   GNUNET_break (bl_head == NULL);
5412   GNUNET_break (bc_head == NULL);
5413 }
5414
5415
5416 /**
5417  * Initiate transport service.
5418  *
5419  * @param cls closure
5420  * @param server the initialized server
5421  * @param c configuration to use
5422  */
5423 static void
5424 run (void *cls,
5425      struct GNUNET_SERVER_Handle *server,
5426      const struct GNUNET_CONFIGURATION_Handle *c)
5427 {
5428   static const struct GNUNET_SERVER_MessageHandler handlers[] = {
5429     {&handle_start, NULL,
5430      GNUNET_MESSAGE_TYPE_TRANSPORT_START, sizeof (struct StartMessage)},
5431     {&handle_hello, NULL,
5432      GNUNET_MESSAGE_TYPE_HELLO, 0},
5433     {&handle_send, NULL,
5434      GNUNET_MESSAGE_TYPE_TRANSPORT_SEND, 0},
5435     {&handle_request_connect, NULL,
5436      GNUNET_MESSAGE_TYPE_TRANSPORT_REQUEST_CONNECT, sizeof(struct TransportRequestConnectMessage)},
5437     {&handle_set_quota, NULL,
5438      GNUNET_MESSAGE_TYPE_TRANSPORT_SET_QUOTA, sizeof (struct QuotaSetMessage)},
5439     {&handle_address_lookup, NULL,
5440      GNUNET_MESSAGE_TYPE_TRANSPORT_ADDRESS_LOOKUP,
5441      0},
5442     {&handle_blacklist_init, NULL,
5443      GNUNET_MESSAGE_TYPE_TRANSPORT_BLACKLIST_INIT, sizeof (struct GNUNET_MessageHeader)},
5444     {&handle_blacklist_reply, NULL,
5445      GNUNET_MESSAGE_TYPE_TRANSPORT_BLACKLIST_REPLY, sizeof (struct BlacklistMessage)},
5446     {NULL, NULL, 0, 0}
5447   };
5448   char *plugs;
5449   char *pos;
5450   int no_transports;
5451   unsigned long long tneigh;
5452   char *keyfile;
5453
5454   cfg = c;
5455   stats = GNUNET_STATISTICS_create ("transport", cfg);
5456   validation_map = GNUNET_CONTAINER_multihashmap_create (64);
5457   /* parse configuration */
5458   if ((GNUNET_OK !=
5459        GNUNET_CONFIGURATION_get_value_number (c,
5460                                               "TRANSPORT",
5461                                               "NEIGHBOUR_LIMIT",
5462                                               &tneigh)) ||
5463       (GNUNET_OK !=
5464        GNUNET_CONFIGURATION_get_value_filename (c,
5465                                                 "GNUNETD",
5466                                                 "HOSTKEY", &keyfile)))
5467     {
5468       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5469                   _
5470                   ("Transport service is lacking key configuration settings.  Exiting.\n"));
5471       GNUNET_SCHEDULER_shutdown ();
5472       if (stats != NULL)
5473         {
5474           GNUNET_STATISTICS_destroy (stats, GNUNET_NO);
5475           stats = NULL;
5476         }
5477       GNUNET_CONTAINER_multihashmap_destroy (validation_map);
5478       validation_map = NULL;
5479       return;
5480     }
5481   max_connect_per_transport = (uint32_t) tneigh;
5482   peerinfo = GNUNET_PEERINFO_connect (cfg);
5483   if (peerinfo == NULL)
5484     {
5485       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5486                   _("Could not access PEERINFO service.  Exiting.\n")); 
5487       GNUNET_SCHEDULER_shutdown ();
5488       if (stats != NULL)
5489         {
5490           GNUNET_STATISTICS_destroy (stats, GNUNET_NO);
5491           stats = NULL;
5492         }
5493       GNUNET_CONTAINER_multihashmap_destroy (validation_map);
5494       validation_map = NULL;
5495       GNUNET_free (keyfile);
5496       return;
5497     }
5498   my_private_key = GNUNET_CRYPTO_rsa_key_create_from_file (keyfile);
5499   GNUNET_free (keyfile);
5500   if (my_private_key == NULL)
5501     {
5502       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5503                   _
5504                   ("Transport service could not access hostkey.  Exiting.\n"));
5505       GNUNET_SCHEDULER_shutdown ();
5506       if (stats != NULL)
5507         {
5508           GNUNET_STATISTICS_destroy (stats, GNUNET_NO);
5509           stats = NULL;
5510         }
5511       GNUNET_CONTAINER_multihashmap_destroy (validation_map);
5512       validation_map = NULL;
5513       return;
5514     }
5515   GNUNET_CRYPTO_rsa_key_get_public (my_private_key, &my_public_key);
5516   GNUNET_CRYPTO_hash (&my_public_key,
5517                       sizeof (my_public_key), &my_identity.hashPubKey);
5518   /* setup notification */
5519   GNUNET_SERVER_disconnect_notify (server,
5520                                    &client_disconnect_notification, NULL);
5521   /* load plugins... */
5522   no_transports = 1;
5523   if (GNUNET_OK ==
5524       GNUNET_CONFIGURATION_get_value_string (c,
5525                                              "TRANSPORT", "PLUGINS", &plugs))
5526     {
5527       GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5528                   _("Starting transport plugins `%s'\n"), plugs);
5529       pos = strtok (plugs, " ");
5530       while (pos != NULL)
5531         {
5532           start_transport (server, pos);
5533           no_transports = 0;
5534           pos = strtok (NULL, " ");
5535         }
5536       GNUNET_free (plugs);
5537     }
5538   GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_UNIT_FOREVER_REL,
5539                                 &shutdown_task, NULL);
5540   if (no_transports)
5541     refresh_hello ();
5542
5543 #if DEBUG_TRANSPORT
5544   GNUNET_log (GNUNET_ERROR_TYPE_INFO, _("Transport service ready.\n"));
5545 #endif
5546   /* If we have a blacklist file, read from it */
5547   read_blacklist_file(cfg);
5548   /* process client requests */
5549   GNUNET_SERVER_add_handlers (server, handlers);
5550 }
5551
5552
5553 /**
5554  * The main function for the transport service.
5555  *
5556  * @param argc number of arguments from the command line
5557  * @param argv command line arguments
5558  * @return 0 ok, 1 on error
5559  */
5560 int
5561 main (int argc, char *const *argv)
5562 {
5563   a2s (NULL, NULL, 0); /* make compiler happy */
5564   return (GNUNET_OK ==
5565           GNUNET_SERVICE_run (argc,
5566                               argv,
5567                               "transport",
5568                               GNUNET_SERVICE_OPTION_NONE,
5569                               &run, NULL)) ? 0 : 1;
5570 }
5571
5572 /* end of gnunet-service-transport.c */