Transmitting ATS information to transport api
[oweals/gnunet.git] / src / transport / gnunet-service-transport.c
1 /*
2      This file is part of GNUnet.
3      (C) 2009, 2010 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file transport/gnunet-service-transport.c
23  * @brief low-level P2P messaging
24  * @author Christian Grothoff
25  *
26  */
27 #include "platform.h"
28 #include "gnunet_client_lib.h"
29 #include "gnunet_container_lib.h"
30 #include "gnunet_constants.h"
31 #include "gnunet_getopt_lib.h"
32 #include "gnunet_hello_lib.h"
33 #include "gnunet_os_lib.h"
34 #include "gnunet_peerinfo_service.h"
35 #include "gnunet_plugin_lib.h"
36 #include "gnunet_protocols.h"
37 #include "gnunet_service_lib.h"
38 #include "gnunet_signatures.h"
39 #include "gnunet_transport_plugin.h"
40 #include "transport.h"
41
42 #define DEBUG_BLACKLIST GNUNET_YES
43
44 #define DEBUG_PING_PONG GNUNET_YES
45
46 #define DEBUG_TRANSPORT_HELLO GNUNET_YES
47
48 /**
49  * Should we do some additional checks (to validate behavior
50  * of clients)?
51  */
52 #define EXTRA_CHECKS GNUNET_YES
53
54 /**
55  * How many messages can we have pending for a given client process
56  * before we start to drop incoming messages?  We typically should
57  * have only one client and so this would be the primary buffer for
58   * messages, so the number should be chosen rather generously.
59  *
60  * The expectation here is that most of the time the queue is large
61  * enough so that a drop is virtually never required.  Note that
62  * this value must be about as large as 'TOTAL_MSGS' in the
63  * 'test_transport_api_reliability.c', otherwise that testcase may
64  * fail.
65  */
66 #define MAX_PENDING (128 * 1024)
67
68 /**
69  * Size of the per-transport blacklist hash maps.
70  */
71 #define TRANSPORT_BLACKLIST_HT_SIZE 16
72
73 /**
74  * How often should we try to reconnect to a peer using a particular
75  * transport plugin before giving up?  Note that the plugin may be
76  * added back to the list after PLUGIN_RETRY_FREQUENCY expires.
77  */
78 #define MAX_CONNECT_RETRY 3
79
80 /**
81  * Limit on the number of ready-to-run tasks when validating
82  * HELLOs.  If more tasks are ready to run, we will drop
83  * HELLOs instead of validating them.
84  */
85 #define MAX_HELLO_LOAD 4
86
87 /**
88  * How often must a peer violate bandwidth quotas before we start
89  * to simply drop its messages?
90  */
91 #define QUOTA_VIOLATION_DROP_THRESHOLD 10
92
93 /**
94  * How long until a HELLO verification attempt should time out?
95  * Must be rather small, otherwise a partially successful HELLO
96  * validation (some addresses working) might not be available
97  * before a client's request for a connection fails for good.
98  * Besides, if a single request to an address takes a long time,
99  * then the peer is unlikely worthwhile anyway.
100  */
101 #define HELLO_VERIFICATION_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_SECONDS, 15)
102
103 /**
104  * How long is a PONG signature valid?  We'll recycle a signature until
105  * 1/4 of this time is remaining.  PONGs should expire so that if our
106  * external addresses change an adversary cannot replay them indefinitely.
107  * OTOH, we don't want to spend too much time generating PONG signatures,
108  * so they must have some lifetime to reduce our CPU usage.
109  */
110 #define PONG_SIGNATURE_LIFETIME GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_HOURS, 1)
111
112 /**
113  * Priority to use for PONG messages.
114  */
115 #define TRANSPORT_PONG_PRIORITY 4
116
117 /**
118  * How often do we re-add (cheaper) plugins to our list of plugins
119  * to try for a given connected peer?
120  */
121 #define PLUGIN_RETRY_FREQUENCY GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MINUTES, 15)
122
123 /**
124  * After how long do we expire an address in a HELLO that we just
125  * validated?  This value is also used for our own addresses when we
126  * create a HELLO.
127  */
128 #define HELLO_ADDRESS_EXPIRATION GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_HOURS, 12)
129
130
131 /**
132  * How long before an existing address expires should we again try to
133  * validate it?  Must be (significantly) smaller than
134  * HELLO_ADDRESS_EXPIRATION.
135  */
136 #define HELLO_REVALIDATION_START_TIME GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_HOURS, 1)
137
138 /**
139  * Maximum frequency for re-evaluating latencies for all transport addresses.
140  */
141 #define LATENCY_EVALUATION_MAX_DELAY GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_HOURS, 1)
142
143 /**
144  * Maximum frequency for re-evaluating latencies for connected addresses.
145  */
146 #define CONNECTED_LATENCY_EVALUATION_MAX_DELAY GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MINUTES, 1)
147
148
149 /**
150  * List of addresses of other peers
151  */
152 struct ForeignAddressList
153 {
154   /**
155    * This is a linked list.
156    */
157   struct ForeignAddressList *next;
158
159   /**
160    * Which ready list does this entry belong to.
161    */
162   struct ReadyList *ready_list;
163
164   /**
165    * How long until we auto-expire this address (unless it is
166    * re-confirmed by the transport)?
167    */
168   struct GNUNET_TIME_Absolute expires;
169
170   /**
171    * Task used to re-validate addresses, updates latencies and
172    * verifies liveness.
173    */
174   GNUNET_SCHEDULER_TaskIdentifier revalidate_task;
175
176   /**
177    * The address.
178    */
179   const void *addr;
180
181   /**
182    * Session (or NULL if no valid session currently exists or if the
183    * plugin does not use sessions).
184    */
185   struct Session *session;
186
187   /**
188    * What was the last latency observed for this address, plugin and peer?
189    */
190   struct GNUNET_TIME_Relative latency;
191
192   /**
193    * If we did not successfully transmit a message to the given peer
194    * via this connection during the specified time, we should consider
195    * the connection to be dead.  This is used in the case that a TCP
196    * transport simply stalls writing to the stream but does not
197    * formerly get a signal that the other peer died.
198    */
199   struct GNUNET_TIME_Absolute timeout;
200
201   /**
202    * How often have we tried to connect using this plugin?  Used to
203    * discriminate against addresses that do not work well.
204    * FIXME: not yet used, but should be!
205    */
206   unsigned int connect_attempts;
207
208   /**
209    * DV distance to this peer (1 if no DV is used).
210    * FIXME: need to set this from transport plugins!
211    */
212   uint32_t distance;
213
214   /**
215    * Length of addr.
216    */
217   uint16_t addrlen;
218
219   /**
220    * Have we ever estimated the latency of this address?  Used to
221    * ensure that the first time we add an address, we immediately
222    * probe its latency.
223    */
224   int8_t estimated;
225
226   /**
227    * Are we currently connected via this address?  The first time we
228    * successfully transmit or receive data to a peer via a particular
229    * address, we set this to GNUNET_YES.  If we later get an error
230    * (disconnect notification, transmission failure, timeout), we set
231    * it back to GNUNET_NO.
232    */
233   int8_t connected;
234
235   /**
236    * Is this plugin currently busy transmitting to the specific target?
237    * GNUNET_NO if not (initial, default state is GNUNET_NO).   Internal
238    * messages do not count as 'in transmit'.
239    */
240   int8_t in_transmit;
241
242   /**
243    * Has this address been validated yet?
244    */
245   int8_t validated;
246
247 };
248
249
250 /**
251  * Entry in linked list of network addresses for ourselves.  Also
252  * includes a cached signature for 'struct TransportPongMessage's.
253  */
254 struct OwnAddressList
255 {
256   /**
257    * This is a linked list.
258    */
259   struct OwnAddressList *next;
260
261   /**
262    * How long until we actually auto-expire this address (unless it is
263    * re-confirmed by the transport)?
264    */
265   struct GNUNET_TIME_Absolute expires;
266
267   /**
268    * How long until the current signature expires? (ZERO if the
269    * signature was never created).
270    */
271   struct GNUNET_TIME_Absolute pong_sig_expires;
272
273   /**
274    * Signature for a 'struct TransportPongMessage' for this address.
275    */
276   struct GNUNET_CRYPTO_RsaSignature pong_signature;
277
278   /**
279    * Length of addr.
280    */
281   uint32_t addrlen;
282
283 };
284
285
286 /**
287  * Entry in linked list of all of our plugins.
288  */
289 struct TransportPlugin
290 {
291
292   /**
293    * This is a linked list.
294    */
295   struct TransportPlugin *next;
296
297   /**
298    * API of the transport as returned by the plugin's
299    * initialization function.
300    */
301   struct GNUNET_TRANSPORT_PluginFunctions *api;
302
303   /**
304    * Short name for the plugin (i.e. "tcp").
305    */
306   char *short_name;
307
308   /**
309    * Name of the library (i.e. "gnunet_plugin_transport_tcp").
310    */
311   char *lib_name;
312
313   /**
314    * List of our known addresses for this transport.
315    */
316   struct OwnAddressList *addresses;
317
318   /**
319    * Environment this transport service is using
320    * for this plugin.
321    */
322   struct GNUNET_TRANSPORT_PluginEnvironment env;
323
324   /**
325    * ID of task that is used to clean up expired addresses.
326    */
327   GNUNET_SCHEDULER_TaskIdentifier address_update_task;
328
329   /**
330    * Set to GNUNET_YES if we need to scrap the existing list of
331    * "addresses" and start fresh when we receive the next address
332    * update from a transport.  Set to GNUNET_NO if we should just add
333    * the new address to the list and wait for the commit call.
334    */
335   int rebuild;
336
337   /**
338    * Hashmap of blacklisted peers for this particular transport.
339    */
340   struct GNUNET_CONTAINER_MultiHashMap *blacklist;
341 };
342
343 struct NeighbourList;
344
345 /**
346  * For each neighbour we keep a list of messages
347  * that we still want to transmit to the neighbour.
348  */
349 struct MessageQueue
350 {
351
352   /**
353    * This is a doubly linked list.
354    */
355   struct MessageQueue *next;
356
357   /**
358    * This is a doubly linked list.
359    */
360   struct MessageQueue *prev;
361
362   /**
363    * The message(s) we want to transmit, GNUNET_MessageHeader(s)
364    * stuck together in memory.  Allocated at the end of this struct.
365    */
366   const char *message_buf;
367
368   /**
369    * Size of the message buf
370    */
371   size_t message_buf_size;
372
373   /**
374    * Client responsible for queueing the message;
375    * used to check that a client has no two messages
376    * pending for the same target.  Can be NULL.
377    */
378   struct TransportClient *client;
379
380   /**
381    * Using which specific address should we send this message?
382    */
383   struct ForeignAddressList *specific_address;
384
385   /**
386    * Peer ID of the Neighbour this entry belongs to.
387    */
388   struct GNUNET_PeerIdentity neighbour_id;
389
390   /**
391    * Plugin that we used for the transmission.
392    * NULL until we scheduled a transmission.
393    */
394   struct TransportPlugin *plugin;
395
396   /**
397    * At what time should we fail?
398    */
399   struct GNUNET_TIME_Absolute timeout;
400
401   /**
402    * Internal message of the transport system that should not be
403    * included in the usual SEND-SEND_OK transmission confirmation
404    * traffic management scheme.  Typically, "internal_msg" will
405    * be set whenever "client" is NULL (but it is not strictly
406    * required).
407    */
408   int internal_msg;
409
410   /**
411    * How important is the message?
412    */
413   unsigned int priority;
414
415 };
416
417
418 /**
419  * For a given Neighbour, which plugins are available
420  * to talk to this peer and what are their costs?
421  */
422 struct ReadyList
423 {
424   /**
425    * This is a linked list.
426    */
427   struct ReadyList *next;
428
429   /**
430    * Which of our transport plugins does this entry
431    * represent?
432    */
433   struct TransportPlugin *plugin;
434
435   /**
436    * Transport addresses, latency, and readiness for
437    * this particular plugin.
438    */
439   struct ForeignAddressList *addresses;
440
441   /**
442    * To which neighbour does this ready list belong to?
443    */
444   struct NeighbourList *neighbour;
445
446 };
447
448
449 /**
450  * Entry in linked list of all of our current neighbours.
451  */
452 struct NeighbourList
453 {
454
455   /**
456    * This is a linked list.
457    */
458   struct NeighbourList *next;
459
460   /**
461    * Which of our transports is connected to this peer
462    * and what is their status?
463    */
464   struct ReadyList *plugins;
465
466   /**
467    * Head of list of messages we would like to send to this peer;
468    * must contain at most one message per client.
469    */
470   struct MessageQueue *messages_head;
471
472   /**
473    * Tail of list of messages we would like to send to this peer; must
474    * contain at most one message per client.
475    */
476   struct MessageQueue *messages_tail;
477
478   /**
479    * Buffer for at most one payload message used when we receive
480    * payload data before our PING-PONG has succeeded.  We then
481    * store such messages in this intermediary buffer until the
482    * connection is fully up.
483    */
484   struct GNUNET_MessageHeader *pre_connect_message_buffer;
485
486   /**
487    * Context for peerinfo iteration.
488    * NULL after we are done processing peerinfo's information.
489    */
490   struct GNUNET_PEERINFO_IteratorContext *piter;
491
492   /**
493    * Public key for this peer.   Valid only if the respective flag is set below.
494    */
495   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded publicKey;
496
497   /**
498    * Identity of this neighbour.
499    */
500   struct GNUNET_PeerIdentity id;
501
502   /**
503    * ID of task scheduled to run when this peer is about to
504    * time out (will free resources associated with the peer).
505    */
506   GNUNET_SCHEDULER_TaskIdentifier timeout_task;
507
508   /**
509    * ID of task scheduled to run when we should retry transmitting
510    * the head of the message queue.  Actually triggered when the
511    * transmission is timing out (we trigger instantly when we have
512    * a chance of success).
513    */
514   GNUNET_SCHEDULER_TaskIdentifier retry_task;
515
516   /**
517    * How long until we should consider this peer dead
518    * (if we don't receive another message in the
519    * meantime)?
520    */
521   struct GNUNET_TIME_Absolute peer_timeout;
522
523   /**
524    * Tracker for inbound bandwidth.
525    */
526   struct GNUNET_BANDWIDTH_Tracker in_tracker;
527
528   /**
529    * The latency we have seen for this particular address for
530    * this particular peer.  This latency may have been calculated
531    * over multiple transports.  This value reflects how long it took
532    * us to receive a response when SENDING via this particular
533    * transport/neighbour/address combination!
534    *
535    * FIXME: we need to periodically send PINGs to update this
536    * latency (at least more often than the current "huge" (11h?)
537    * update interval).
538    */
539   struct GNUNET_TIME_Relative latency;
540
541   /**
542    * How often has the other peer (recently) violated the
543    * inbound traffic limit?  Incremented by 10 per violation,
544    * decremented by 1 per non-violation (for each
545    * time interval).
546    */
547   unsigned int quota_violation_count;
548
549   /**
550    * DV distance to this peer (1 if no DV is used).
551    */
552   uint32_t distance;
553
554   /**
555    * Have we seen an PONG from this neighbour in the past (and
556    * not had a disconnect since)?
557    */
558   int received_pong;
559
560   /**
561    * Do we have a valid public key for this neighbour?
562    */
563   int public_key_valid;
564
565 };
566
567 /**
568  * Message used to ask a peer to validate receipt (to check an address
569  * from a HELLO).  Followed by the address we are trying to validate,
570  * or an empty address if we are just sending a PING to confirm that a
571  * connection which the receiver (of the PING) initiated is still valid.
572  */
573 struct TransportPingMessage
574 {
575
576   /**
577    * Type will be GNUNET_MESSAGE_TYPE_TRANSPORT_PING
578    */
579   struct GNUNET_MessageHeader header;
580
581   /**
582    * Challenge code (to ensure fresh reply).
583    */
584   uint32_t challenge GNUNET_PACKED;
585
586   /**
587    * Who is the intended recipient?
588    */
589   struct GNUNET_PeerIdentity target;
590
591 };
592
593
594 /**
595  * Message used to validate a HELLO.  The challenge is included in the
596  * confirmation to make matching of replies to requests possible.  The
597  * signature signs our public key, an expiration time and our address.<p>
598  *
599  * This message is followed by our transport address that the PING tried
600  * to confirm (if we liked it).  The address can be empty (zero bytes)
601  * if the PING had not address either (and we received the request via
602  * a connection that we initiated).
603  */
604 struct TransportPongMessage
605 {
606
607   /**
608    * Type will be GNUNET_MESSAGE_TYPE_TRANSPORT_PONG
609    */
610   struct GNUNET_MessageHeader header;
611
612   /**
613    * Challenge code from PING (showing freshness).  Not part of what
614    * is signed so that we can re-use signatures.
615    */
616   uint32_t challenge GNUNET_PACKED;
617
618   /**
619    * Signature.
620    */
621   struct GNUNET_CRYPTO_RsaSignature signature;
622
623   /**
624    * What are we signing and why?  Two possible reason codes can be here:
625    * GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_OWN to confirm that this is a
626    * plausible address for this peer (pid is set to identity of signer); or
627    * GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_USING to confirm that this is
628    * an address we used to connect to the peer with the given pid.
629    */
630   struct GNUNET_CRYPTO_RsaSignaturePurpose purpose;
631
632   /**
633    * When does this signature expire?
634    */
635   struct GNUNET_TIME_AbsoluteNBO expiration;
636
637   /**
638    * Either the identity of the peer Who signed this message, or the
639    * identity of the peer that we're connected to using the given
640    * address (depending on purpose.type).
641    */
642   struct GNUNET_PeerIdentity pid;
643
644   /**
645    * Size of address appended to this message (part of what is
646    * being signed, hence not redundant).
647    */
648   uint32_t addrlen;
649
650 };
651
652
653 /**
654  * Linked list of messages to be transmitted to the client.  Each
655  * entry is followed by the actual message.
656  */
657 struct ClientMessageQueueEntry
658 {
659   /**
660    * This is a doubly-linked list.
661    */
662   struct ClientMessageQueueEntry *next;
663
664   /**
665    * This is a doubly-linked list.
666    */
667   struct ClientMessageQueueEntry *prev;
668 };
669
670
671 /**
672  * Client connected to the transport service.
673  */
674 struct TransportClient
675 {
676
677   /**
678    * This is a linked list.
679    */
680   struct TransportClient *next;
681
682   /**
683    * Handle to the client.
684    */
685   struct GNUNET_SERVER_Client *client;
686
687   /**
688    * Linked list of messages yet to be transmitted to
689    * the client.
690    */
691   struct ClientMessageQueueEntry *message_queue_head;
692
693   /**
694    * Tail of linked list of messages yet to be transmitted to the
695    * client.
696    */
697   struct ClientMessageQueueEntry *message_queue_tail;
698
699   /**
700    * Current transmit request handle.
701    */
702   struct GNUNET_CONNECTION_TransmitHandle *th;
703
704   /**
705    * Is a call to "transmit_send_continuation" pending?  If so, we
706    * must not free this struct (even if the corresponding client
707    * disconnects) and instead only remove it from the linked list and
708    * set the "client" field to NULL.
709    */
710   int tcs_pending;
711
712   /**
713    * Length of the list of messages pending for this client.
714    */
715   unsigned int message_count;
716
717 };
718
719
720 /**
721  * Context of currently active requests to peerinfo
722  * for validation of HELLOs.
723  */
724 struct CheckHelloValidatedContext;
725
726
727 /**
728  * Entry in map of all HELLOs awaiting validation.
729  */
730 struct ValidationEntry
731 {
732
733   /**
734    * NULL if this entry is not part of a larger HELLO validation.
735    */
736   struct CheckHelloValidatedContext *chvc;
737
738   /**
739    * The address, actually a pointer to the end
740    * of this struct.  Do not free!
741    */
742   const void *addr;
743
744   /**
745    * Name of the transport.
746    */
747   char *transport_name;
748
749   /**
750    * The public key of the peer.
751    */
752   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded publicKey;
753
754   /**
755    * ID of task that will clean up this entry if we don't succeed
756    * with the validation first.
757    */
758   GNUNET_SCHEDULER_TaskIdentifier timeout_task;
759
760   /**
761    * At what time did we send this validation?
762    */
763   struct GNUNET_TIME_Absolute send_time;
764
765   /**
766    * Session being validated (or NULL for none).
767    */
768   struct Session *session;
769
770   /**
771    * Challenge number we used.
772    */
773   uint32_t challenge;
774
775   /**
776    * Length of addr.
777    */
778   uint16_t addrlen;
779
780 };
781
782
783 /**
784  * Context of currently active requests to peerinfo
785  * for validation of HELLOs.
786  */
787 struct CheckHelloValidatedContext
788 {
789
790   /**
791    * This is a doubly-linked list.
792    */
793   struct CheckHelloValidatedContext *next;
794
795   /**
796    * This is a doubly-linked list.
797    */
798   struct CheckHelloValidatedContext *prev;
799
800   /**
801    * Hello that we are validating.
802    */
803   const struct GNUNET_HELLO_Message *hello;
804
805   /**
806    * Context for peerinfo iteration.
807    * NULL after we are done processing peerinfo's information.
808    */
809   struct GNUNET_PEERINFO_IteratorContext *piter;
810
811   /**
812    * Was a HELLO known for this peer to peerinfo?
813    */
814   int hello_known;
815
816   /**
817    * Number of validation entries currently referring to this
818    * CHVC.
819    */
820   unsigned int ve_count;
821 };
822
823
824
825 /**
826  * Our HELLO message.
827  */
828 static struct GNUNET_HELLO_Message *our_hello;
829
830 /**
831  * Our public key.
832  */
833 static struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded my_public_key;
834
835 /**
836  * Our identity.
837  */
838 static struct GNUNET_PeerIdentity my_identity;
839
840 /**
841  * Our private key.
842  */
843 static struct GNUNET_CRYPTO_RsaPrivateKey *my_private_key;
844
845 /**
846  * Our configuration.
847  */
848 const struct GNUNET_CONFIGURATION_Handle *cfg;
849
850 /**
851  * Linked list of all clients to this service.
852  */
853 static struct TransportClient *clients;
854
855 /**
856  * All loaded plugins.
857  */
858 static struct TransportPlugin *plugins;
859
860 /**
861  * Handle to peerinfo service.
862  */
863 static struct GNUNET_PEERINFO_Handle *peerinfo;
864
865 /**
866  * All known neighbours and their HELLOs.
867  */
868 static struct NeighbourList *neighbours;
869
870 /**
871  * Number of neighbours we'd like to have.
872  */
873 static uint32_t max_connect_per_transport;
874
875 /**
876  * Head of linked list.
877  */
878 static struct CheckHelloValidatedContext *chvc_head;
879
880 /**
881  * Tail of linked list.
882  */
883 static struct CheckHelloValidatedContext *chvc_tail;
884
885 /**
886  * Map of PeerIdentities to 'struct ValidationEntry*'s (addresses
887  * of the given peer that we are currently validating).
888  */
889 static struct GNUNET_CONTAINER_MultiHashMap *validation_map;
890
891 /**
892  * Handle for reporting statistics.
893  */
894 static struct GNUNET_STATISTICS_Handle *stats;
895
896 /**
897  * The peer specified by the given neighbour has timed-out or a plugin
898  * has disconnected.  We may either need to do nothing (other plugins
899  * still up), or trigger a full disconnect and clean up.  This
900  * function updates our state and do the necessary notifications.
901  * Also notifies our clients that the neighbour is now officially
902  * gone.
903  *
904  * @param n the neighbour list entry for the peer
905  * @param check should we just check if all plugins
906  *        disconnected or must we ask all plugins to
907  *        disconnect?
908  */
909 static void disconnect_neighbour (struct NeighbourList *n, int check);
910
911 /**
912  * Check the ready list for the given neighbour and if a plugin is
913  * ready for transmission (and if we have a message), do so!
914  *
915  * @param neighbour target peer for which to transmit
916  */
917 static void try_transmission_to_peer (struct NeighbourList *neighbour);
918
919
920 /**
921  * Find an entry in the neighbour list for a particular peer.
922  *
923  * @return NULL if not found.
924  */
925 static struct NeighbourList *
926 find_neighbour (const struct GNUNET_PeerIdentity *key)
927 {
928   struct NeighbourList *head = neighbours;
929
930   while ((head != NULL) &&
931         (0 != memcmp (key, &head->id, sizeof (struct GNUNET_PeerIdentity))))
932     head = head->next;
933   return head;
934 }
935
936
937 /**
938  * Find an entry in the transport list for a particular transport.
939  *
940  * @return NULL if not found.
941  */
942 static struct TransportPlugin *
943 find_transport (const char *short_name)
944 {
945   struct TransportPlugin *head = plugins;
946   while ((head != NULL) && (0 != strcmp (short_name, head->short_name)))
947     head = head->next;
948   return head;
949 }
950
951 /**
952  * Is a particular peer blacklisted for a particular transport?
953  *
954  * @param peer the peer to check for
955  * @param plugin the plugin used to connect to the peer
956  *
957  * @return GNUNET_YES if the peer is blacklisted, GNUNET_NO if not
958  */
959 static int
960 is_blacklisted (const struct GNUNET_PeerIdentity *peer, struct TransportPlugin *plugin)
961 {
962
963   if (plugin->blacklist != NULL)
964     {
965       if (GNUNET_CONTAINER_multihashmap_contains(plugin->blacklist, &peer->hashPubKey) == GNUNET_YES)
966         {
967 #if DEBUG_BLACKLIST
968           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
969                       _("Peer `%s:%s' is blacklisted!\n"),
970                       plugin->short_name, GNUNET_i2s (peer));
971 #endif
972           return GNUNET_YES;
973         }
974     }
975
976   return GNUNET_NO;
977 }
978
979
980 static void
981 add_peer_to_blacklist (struct GNUNET_PeerIdentity *peer, char *transport_name)
982 {
983   struct TransportPlugin *plugin;
984
985   plugin = find_transport(transport_name);
986   if (plugin == NULL) /* Nothing to do */
987     return;
988   if (plugin->blacklist == NULL)
989     plugin->blacklist = GNUNET_CONTAINER_multihashmap_create(TRANSPORT_BLACKLIST_HT_SIZE);
990   GNUNET_assert(plugin->blacklist != NULL);
991   GNUNET_CONTAINER_multihashmap_put(plugin->blacklist, &peer->hashPubKey,
992                                     NULL,
993                                     GNUNET_CONTAINER_MULTIHASHMAPOPTION_REPLACE);
994 }
995
996
997 /**
998  * Read the blacklist file, containing transport:peer entries.
999  * Provided the transport is loaded, set up hashmap with these
1000  * entries to blacklist peers by transport.
1001  *
1002  */
1003 static void
1004 read_blacklist_file (const struct GNUNET_CONFIGURATION_Handle *cfg)
1005 {
1006   char *fn;
1007   char *data;
1008   size_t pos;
1009   size_t colon_pos;
1010   int tsize;
1011   struct GNUNET_PeerIdentity pid;
1012   struct stat frstat;
1013   struct GNUNET_CRYPTO_HashAsciiEncoded enc;
1014   unsigned int entries_found;
1015   char *transport_name;
1016
1017   if (GNUNET_OK !=
1018       GNUNET_CONFIGURATION_get_value_filename (cfg,
1019                                                "TRANSPORT",
1020                                                "BLACKLIST_FILE",
1021                                                &fn))
1022     {
1023 #if DEBUG_TRANSPORT
1024       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1025                   _("Option `%s' in section `%s' not specified!\n"),
1026                   "BLACKLIST_FILE",
1027                   "TRANSPORT");
1028 #endif
1029       return;
1030     }
1031   if (GNUNET_OK != GNUNET_DISK_file_test (fn))
1032     GNUNET_DISK_fn_write (fn, NULL, 0, GNUNET_DISK_PERM_USER_READ
1033         | GNUNET_DISK_PERM_USER_WRITE);
1034   if (0 != STAT (fn, &frstat))
1035     {
1036       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1037                   _("Could not read blacklist file `%s'\n"), fn);
1038       GNUNET_free (fn);
1039       return;
1040     }
1041   if (frstat.st_size == 0)
1042     {
1043 #if DEBUG_TRANSPORT
1044       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1045                   _("Blacklist file `%s' is empty.\n"),
1046                   fn);
1047 #endif
1048       GNUNET_free (fn);
1049       return;
1050     }
1051   /* FIXME: use mmap */
1052   data = GNUNET_malloc_large (frstat.st_size);
1053   GNUNET_assert(data != NULL);
1054   if (frstat.st_size !=
1055       GNUNET_DISK_fn_read (fn, data, frstat.st_size))
1056     {
1057       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1058                   _("Failed to read blacklist from `%s'\n"), fn);
1059       GNUNET_free (fn);
1060       GNUNET_free (data);
1061       return;
1062     }
1063   entries_found = 0;
1064   pos = 0;
1065   while ((pos < frstat.st_size) && isspace ( (unsigned char) data[pos]))
1066     pos++;
1067   while ((frstat.st_size >= sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded)) &&
1068          (pos <= frstat.st_size - sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded)))
1069     {
1070       colon_pos = pos;
1071       while ((colon_pos < frstat.st_size) && (data[colon_pos] != ':') && !isspace ( (unsigned char) data[colon_pos]))
1072         colon_pos++;
1073
1074       if (colon_pos >= frstat.st_size)
1075         {
1076           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1077                       _("Syntax error in blacklist file at offset %llu, giving up!\n"),
1078                       (unsigned long long) colon_pos);
1079           GNUNET_free (fn);
1080           GNUNET_free (data);
1081           return;
1082         }
1083
1084       if (isspace( (unsigned char) data[colon_pos]))
1085       {
1086         GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1087                     _("Syntax error in blacklist file at offset %llu, skipping bytes.\n"),
1088                     (unsigned long long) colon_pos);
1089         pos = colon_pos;
1090         while ((pos < frstat.st_size) && isspace ( (unsigned char) data[pos]))
1091           pos++;
1092         continue;
1093       }
1094       tsize = colon_pos - pos;
1095       if ((pos >= frstat.st_size) || (pos + tsize >= frstat.st_size) || (tsize == 0))
1096         {
1097           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1098                       _("Syntax error in blacklist file at offset %llu, giving up!\n"),
1099                       (unsigned long long) colon_pos);
1100           GNUNET_free (fn);
1101           GNUNET_free (data);
1102           return;
1103         }
1104
1105       if (tsize < 1)
1106         continue;
1107
1108       transport_name = GNUNET_malloc(tsize + 1);
1109       memcpy(transport_name, &data[pos], tsize);
1110       pos = colon_pos + 1;
1111 #if DEBUG_TRANSPORT
1112       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1113                   _("Read transport name %s in blacklist file.\n"),
1114                   transport_name);
1115 #endif
1116       memcpy (&enc, &data[pos], sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded));
1117       if (!isspace ( (unsigned char) enc.encoding[sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded) - 1]))
1118         {
1119           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1120                       _("Syntax error in blacklist file at offset %llu, skipping bytes.\n"),
1121                       (unsigned long long) pos);
1122           pos++;
1123           while ((pos < frstat.st_size) && (!isspace ( (unsigned char) data[pos])))
1124             pos++;
1125           GNUNET_free_non_null(transport_name);
1126           continue;
1127         }
1128       enc.encoding[sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded) - 1] = '\0';
1129       if (GNUNET_OK != GNUNET_CRYPTO_hash_from_string ((char *) &enc, &pid.hashPubKey))
1130         {
1131           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1132                       _("Syntax error in blacklist file at offset %llu, skipping bytes `%s'.\n"),
1133                       (unsigned long long) pos,
1134                       &enc);
1135         }
1136       else
1137         {
1138           if (0 != memcmp (&pid,
1139                            &my_identity,
1140                            sizeof (struct GNUNET_PeerIdentity)))
1141             {
1142               entries_found++;
1143               add_peer_to_blacklist (&pid,
1144                                      transport_name);
1145             }
1146           else
1147             {
1148               GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1149                           _("Found myself `%s' in blacklist (useless, ignored)\n"),
1150                           GNUNET_i2s (&pid));
1151             }
1152         }
1153       pos = pos + sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded);
1154       GNUNET_free_non_null(transport_name);
1155       while ((pos < frstat.st_size) && isspace ( (unsigned char) data[pos]))
1156         pos++;
1157     }
1158   GNUNET_free (data);
1159   GNUNET_free (fn);
1160 }
1161
1162
1163 /**
1164  * Function called to notify a client about the socket being ready to
1165  * queue more data.  "buf" will be NULL and "size" zero if the socket
1166  * was closed for writing in the meantime.
1167  *
1168  * @param cls closure
1169  * @param size number of bytes available in buf
1170  * @param buf where the callee should write the message
1171  * @return number of bytes written to buf
1172  */
1173 static size_t
1174 transmit_to_client_callback (void *cls, size_t size, void *buf)
1175 {
1176   struct TransportClient *client = cls;
1177   struct ClientMessageQueueEntry *q;
1178   uint16_t msize;
1179   size_t tsize;
1180   const struct GNUNET_MessageHeader *msg;
1181   char *cbuf;
1182
1183   client->th = NULL;
1184   if (buf == NULL)
1185     {
1186       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1187                   "Transmission to client failed, closing connection.\n");
1188       /* fatal error with client, free message queue! */
1189       while (NULL != (q = client->message_queue_head))
1190         {
1191           GNUNET_STATISTICS_update (stats,
1192                                     gettext_noop ("# bytes discarded (could not transmit to client)"),
1193                                     ntohs (((const struct GNUNET_MessageHeader*)&q[1])->size),
1194                                     GNUNET_NO);
1195           GNUNET_CONTAINER_DLL_remove (client->message_queue_head,
1196                                        client->message_queue_tail,
1197                                        q);
1198           GNUNET_free (q);
1199         }
1200       client->message_count = 0;
1201       return 0;
1202     }
1203   cbuf = buf;
1204   tsize = 0;
1205   while (NULL != (q = client->message_queue_head))
1206     {
1207       msg = (const struct GNUNET_MessageHeader *) &q[1];
1208       msize = ntohs (msg->size);
1209       if (msize + tsize > size)
1210         break;
1211 #if DEBUG_TRANSPORT
1212       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1213                   "Transmitting message of type %u to client.\n",
1214                   ntohs (msg->type));
1215 #endif
1216       GNUNET_CONTAINER_DLL_remove (client->message_queue_head,
1217                                    client->message_queue_tail,
1218                                    q);
1219       memcpy (&cbuf[tsize], msg, msize);
1220       tsize += msize;
1221       GNUNET_free (q);
1222       client->message_count--;
1223     }
1224   if (NULL != q)
1225     {
1226       GNUNET_assert (msize >= sizeof (struct GNUNET_MessageHeader));
1227       client->th = GNUNET_SERVER_notify_transmit_ready (client->client,
1228                                                         msize,
1229                                                         GNUNET_TIME_UNIT_FOREVER_REL,
1230                                                         &transmit_to_client_callback,
1231                                                         client);
1232       GNUNET_assert (client->th != NULL);
1233     }
1234   return tsize;
1235 }
1236
1237
1238 /**
1239  * Convert an address to a string.
1240  *
1241  * @param plugin name of the plugin responsible for the address
1242  * @param addr binary address
1243  * @param addr_len number of bytes in addr
1244  * @return NULL on error, otherwise address string
1245  */
1246 static const char*
1247 a2s (const char *plugin,
1248      const void *addr,
1249      uint16_t addr_len)
1250 {
1251   struct TransportPlugin *p;
1252
1253   if (plugin == NULL)
1254     return NULL;
1255   p = find_transport (plugin);
1256   if (p == NULL)
1257     return NULL;
1258   return p->api->address_to_string (p->api->cls,
1259                                     addr,
1260                                     addr_len);
1261 }
1262
1263
1264 /**
1265  * Mark the given FAL entry as 'connected' (and hence preferred for
1266  * sending); also mark all others for the same peer as 'not connected'
1267  * (since only one can be preferred).
1268  *
1269  * @param fal address to set to 'connected'
1270  */
1271 static void
1272 mark_address_connected (struct ForeignAddressList *fal)
1273 {
1274   struct ForeignAddressList *pos;
1275   int cnt;
1276
1277   GNUNET_assert (GNUNET_YES == fal->validated);
1278   if (fal->connected == GNUNET_YES)
1279     return; /* nothing to do */
1280   cnt = GNUNET_YES;
1281   pos = fal->ready_list->addresses;
1282   while (pos != NULL)
1283     {
1284       if (GNUNET_YES == pos->connected)
1285         {
1286 #if DEBUG_TRANSPORT
1287           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1288                       "Marking address `%s' as no longer connected (due to connect on other address)\n",
1289                       a2s (pos->ready_list->plugin->short_name,
1290                            pos->addr,
1291                            pos->addrlen));
1292 #endif
1293           GNUNET_break (cnt == GNUNET_YES);
1294           cnt = GNUNET_NO;
1295           pos->connected = GNUNET_NO;
1296           GNUNET_STATISTICS_update (stats,
1297                                     gettext_noop ("# connected addresses"),
1298                                     -1,
1299                                     GNUNET_NO);
1300         }
1301       pos = pos->next;
1302     }
1303   fal->connected = GNUNET_YES;
1304   if (GNUNET_YES == cnt)
1305     {
1306       GNUNET_STATISTICS_update (stats,
1307                                 gettext_noop ("# connected addresses"),
1308                                 1,
1309                                 GNUNET_NO);
1310     }
1311 }
1312
1313
1314 /**
1315  * Send the specified message to the specified client.  Since multiple
1316  * messages may be pending for the same client at a time, this code
1317  * makes sure that no message is lost.
1318  *
1319  * @param client client to transmit the message to
1320  * @param msg the message to send
1321  * @param may_drop can this message be dropped if the
1322  *        message queue for this client is getting far too large?
1323  */
1324 static void
1325 transmit_to_client (struct TransportClient *client,
1326                     const struct GNUNET_MessageHeader *msg, int may_drop)
1327 {
1328   struct ClientMessageQueueEntry *q;
1329   uint16_t msize;
1330
1331   if ((client->message_count >= MAX_PENDING) && (GNUNET_YES == may_drop))
1332     {
1333       GNUNET_log (GNUNET_ERROR_TYPE_INFO,
1334                   _
1335                   ("Dropping message of type %u and size %u, have %u messages pending (%u is the soft limit)\n"),
1336                   ntohs (msg->type),
1337                   ntohs (msg->size),
1338                   client->message_count,
1339                   MAX_PENDING);
1340       GNUNET_STATISTICS_update (stats,
1341                                 gettext_noop ("# messages dropped due to slow client"),
1342                                 1,
1343                                 GNUNET_NO);
1344       return;
1345     }
1346   msize = ntohs (msg->size);
1347   GNUNET_assert (msize >= sizeof (struct GNUNET_MessageHeader));
1348   q = GNUNET_malloc (sizeof (struct ClientMessageQueueEntry) + msize);
1349   memcpy (&q[1], msg, msize);
1350   GNUNET_CONTAINER_DLL_insert_after (client->message_queue_head,
1351                                      client->message_queue_tail,
1352                                      client->message_queue_tail,
1353                                      q);                                
1354   client->message_count++;
1355   if (client->th == NULL)
1356     {
1357       client->th = GNUNET_SERVER_notify_transmit_ready (client->client,
1358                                                         msize,
1359                                                         GNUNET_TIME_UNIT_FOREVER_REL,
1360                                                         &transmit_to_client_callback,
1361                                                         client);
1362       GNUNET_assert (client->th != NULL);
1363     }
1364 }
1365
1366
1367 /**
1368  * Transmit a 'SEND_OK' notification to the given client for the
1369  * given neighbour.
1370  *
1371  * @param client who to notify
1372  * @param n neighbour to notify about
1373  * @param result status code for the transmission request
1374  */
1375 static void
1376 transmit_send_ok (struct TransportClient *client,
1377                   struct NeighbourList *n,
1378                   int result)
1379 {
1380   struct SendOkMessage send_ok_msg;
1381
1382   send_ok_msg.header.size = htons (sizeof (send_ok_msg));
1383   send_ok_msg.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SEND_OK);
1384   send_ok_msg.success = htonl (result);
1385   send_ok_msg.latency = GNUNET_TIME_relative_hton (n->latency);
1386   send_ok_msg.peer = n->id;
1387   transmit_to_client (client, &send_ok_msg.header, GNUNET_NO);
1388 }
1389
1390
1391 /**
1392  * Function called by the GNUNET_TRANSPORT_TransmitFunction
1393  * upon "completion" of a send request.  This tells the API
1394  * that it is now legal to send another message to the given
1395  * peer.
1396  *
1397  * @param cls closure, identifies the entry on the
1398  *            message queue that was transmitted and the
1399  *            client responsible for queueing the message
1400  * @param target the peer receiving the message
1401  * @param result GNUNET_OK on success, if the transmission
1402  *           failed, we should not tell the client to transmit
1403  *           more messages
1404  */
1405 static void
1406 transmit_send_continuation (void *cls,
1407                             const struct GNUNET_PeerIdentity *target,
1408                             int result)
1409 {
1410   struct MessageQueue *mq = cls;
1411   struct NeighbourList *n;
1412
1413   GNUNET_STATISTICS_update (stats,
1414                             gettext_noop ("# bytes pending with plugins"),
1415                             - (int64_t) mq->message_buf_size,
1416                             GNUNET_NO);
1417   if (result == GNUNET_OK)
1418     {
1419       GNUNET_STATISTICS_update (stats,
1420                                 gettext_noop ("# bytes successfully transmitted by plugins"),
1421                                 mq->message_buf_size,
1422                                 GNUNET_NO);
1423     }
1424   else
1425     {
1426       GNUNET_STATISTICS_update (stats,
1427                                 gettext_noop ("# bytes with transmission failure by plugins"),
1428                                 mq->message_buf_size,
1429                                 GNUNET_NO);
1430     }
1431   n = find_neighbour(&mq->neighbour_id);
1432   GNUNET_assert (n != NULL);
1433   if (mq->specific_address != NULL)
1434     {
1435       if (result == GNUNET_OK)
1436         {
1437           mq->specific_address->timeout =
1438             GNUNET_TIME_relative_to_absolute
1439             (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
1440           if (mq->specific_address->validated == GNUNET_YES)
1441             mark_address_connected (mq->specific_address);
1442         }
1443       else
1444         {
1445           if (mq->specific_address->connected != GNUNET_NO)
1446             {
1447 #if DEBUG_TRANSPORT
1448               GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1449                           "Marking address `%s' as no longer connected (due to transmission problem)\n",
1450                           a2s (mq->specific_address->ready_list->plugin->short_name,
1451                                mq->specific_address->addr,
1452                                mq->specific_address->addrlen));
1453 #endif
1454               GNUNET_STATISTICS_update (stats,
1455                                         gettext_noop ("# connected addresses"),
1456                                         -1,
1457                                         GNUNET_NO);
1458               mq->specific_address->connected = GNUNET_NO;
1459             }
1460         }
1461       if (! mq->internal_msg)
1462         mq->specific_address->in_transmit = GNUNET_NO;
1463     }
1464   if (mq->client != NULL)
1465     transmit_send_ok (mq->client, n, result);
1466   GNUNET_free (mq);
1467   try_transmission_to_peer (n);
1468 }
1469
1470
1471 /**
1472  * Find an address in any of the available transports for
1473  * the given neighbour that would be good for message
1474  * transmission.  This is essentially the transport selection
1475  * routine.
1476  *
1477  * @param neighbour for whom to select an address
1478  * @return selected address, NULL if we have none
1479  */
1480 struct ForeignAddressList *
1481 find_ready_address(struct NeighbourList *neighbour)
1482 {
1483   struct ReadyList *head = neighbour->plugins;
1484   struct ForeignAddressList *addresses;
1485   struct GNUNET_TIME_Absolute now = GNUNET_TIME_absolute_get ();
1486   struct ForeignAddressList *best_address;
1487
1488   best_address = NULL;
1489   while (head != NULL)
1490     {
1491       addresses = head->addresses;
1492       while (addresses != NULL)
1493         {
1494           if ( (addresses->timeout.abs_value < now.abs_value) &&
1495                (addresses->connected == GNUNET_YES) )
1496             {
1497 #if DEBUG_TRANSPORT
1498               GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1499                           "Marking long-time inactive connection to `%4s' as down.\n",
1500                           GNUNET_i2s (&neighbour->id));
1501 #endif
1502               GNUNET_STATISTICS_update (stats,
1503                                         gettext_noop ("# connected addresses"),
1504                                         -1,
1505                                         GNUNET_NO);
1506               addresses->connected = GNUNET_NO;
1507             }
1508           addresses = addresses->next;
1509         }
1510
1511       addresses = head->addresses;
1512       while (addresses != NULL)
1513         {
1514 #if DEBUG_TRANSPORT > 1
1515           if (addresses->addr != NULL)
1516             GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1517                         "Have address `%s' for peer `%4s' (status: %d, %d, %d, %u, %llums, %u)\n",
1518                         a2s (head->plugin->short_name,
1519                              addresses->addr,
1520                              addresses->addrlen),
1521                         GNUNET_i2s (&neighbour->id),
1522                         addresses->connected,
1523                         addresses->in_transmit,
1524                         addresses->validated,
1525                         addresses->connect_attempts,
1526                         (unsigned long long) addresses->timeout.abs_value,
1527                         (unsigned int) addresses->distance);
1528 #endif
1529           if ( ( (best_address == NULL) ||
1530                  (addresses->connected == GNUNET_YES) ||
1531                  (best_address->connected == GNUNET_NO) ) &&
1532                (addresses->in_transmit == GNUNET_NO) &&
1533                ( (best_address == NULL) ||
1534                  (addresses->latency.rel_value < best_address->latency.rel_value)) )
1535             best_address = addresses;
1536           /* FIXME: also give lower-latency addresses that are not
1537              connected a chance some times... */
1538           addresses = addresses->next;
1539         }
1540       head = head->next;
1541     }
1542   if (best_address != NULL)
1543     {
1544 #if DEBUG_TRANSPORT
1545       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1546                   "Best address found (`%s') has latency of %llu ms.\n",
1547                   (best_address->addrlen > 0)
1548                   ? a2s (best_address->ready_list->plugin->short_name,
1549                        best_address->addr,
1550                        best_address->addrlen)
1551                   : "<inbound>",
1552                   best_address->latency.rel_value);
1553 #endif
1554     }
1555   else
1556     {
1557       GNUNET_STATISTICS_update (stats,
1558                                 gettext_noop ("# transmission attempts failed (no address)"),
1559                                 1,
1560                                 GNUNET_NO);
1561     }
1562   return best_address;
1563
1564 }
1565
1566
1567 /**
1568  * We should re-try transmitting to the given peer,
1569  * hopefully we've learned something in the meantime.
1570  */
1571 static void
1572 retry_transmission_task (void *cls,
1573                          const struct GNUNET_SCHEDULER_TaskContext *tc)
1574 {
1575   struct NeighbourList *n = cls;
1576
1577   n->retry_task = GNUNET_SCHEDULER_NO_TASK;
1578   try_transmission_to_peer (n);
1579 }
1580
1581
1582 /**
1583  * Check the ready list for the given neighbour and if a plugin is
1584  * ready for transmission (and if we have a message), do so!
1585  *
1586  * @param neighbour target peer for which to transmit
1587  */
1588 static void
1589 try_transmission_to_peer (struct NeighbourList *neighbour)
1590 {
1591   struct ReadyList *rl;
1592   struct MessageQueue *mq;
1593   struct GNUNET_TIME_Relative timeout;
1594   ssize_t ret;
1595   int force_address;
1596
1597   if (neighbour->messages_head == NULL)
1598     {
1599 #if DEBUG_TRANSPORT
1600       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1601                   "Transmission queue for `%4s' is empty\n",
1602                   GNUNET_i2s (&neighbour->id));
1603 #endif
1604       return;                     /* nothing to do */
1605     }
1606   rl = NULL;
1607   mq = neighbour->messages_head;
1608   force_address = GNUNET_YES;
1609   if (mq->specific_address == NULL)
1610     {
1611       mq->specific_address = find_ready_address(neighbour);
1612       GNUNET_STATISTICS_update (stats,
1613                                 gettext_noop ("# transport selected peer address freely"),
1614                                 1,
1615                                 GNUNET_NO);
1616       force_address = GNUNET_NO;
1617     }
1618   if (mq->specific_address == NULL)
1619     {
1620       GNUNET_STATISTICS_update (stats,
1621                                 gettext_noop ("# transport failed to selected peer address"),
1622                                 1,
1623                                 GNUNET_NO);
1624       timeout = GNUNET_TIME_absolute_get_remaining (mq->timeout);
1625       if (timeout.rel_value == 0)
1626         {
1627 #if DEBUG_TRANSPORT
1628           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1629                       "No destination address available to transmit message of size %u to peer `%4s'\n",
1630                       mq->message_buf_size,
1631                       GNUNET_i2s (&mq->neighbour_id));
1632 #endif
1633           GNUNET_STATISTICS_update (stats,
1634                                     gettext_noop ("# bytes in message queue for other peers"),
1635                                     - (int64_t) mq->message_buf_size,
1636                                     GNUNET_NO);
1637           GNUNET_STATISTICS_update (stats,
1638                                     gettext_noop ("# bytes discarded (no destination address available)"),
1639                                     mq->message_buf_size,
1640                                     GNUNET_NO);
1641           if (mq->client != NULL)
1642             transmit_send_ok (mq->client, neighbour, GNUNET_NO);
1643           GNUNET_CONTAINER_DLL_remove (neighbour->messages_head,
1644                                        neighbour->messages_tail,
1645                                        mq);
1646           GNUNET_free (mq);
1647           return;               /* nobody ready */
1648         }
1649       GNUNET_STATISTICS_update (stats,
1650                                 gettext_noop ("# message delivery deferred (no address)"),
1651                                 1,
1652                                 GNUNET_NO);
1653       if (neighbour->retry_task != GNUNET_SCHEDULER_NO_TASK)
1654         GNUNET_SCHEDULER_cancel (neighbour->retry_task);
1655       neighbour->retry_task = GNUNET_SCHEDULER_add_delayed (timeout,
1656                                                             &retry_transmission_task,
1657                                                             neighbour);
1658 #if DEBUG_TRANSPORT
1659       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1660                   "No validated destination address available to transmit message of size %u to peer `%4s', will wait %llums to find an address.\n",
1661                   mq->message_buf_size,
1662                   GNUNET_i2s (&mq->neighbour_id),
1663                   timeout.rel_value);
1664 #endif
1665       /* FIXME: might want to trigger peerinfo lookup here
1666          (unless that's already pending...) */
1667       return;
1668     }
1669   GNUNET_CONTAINER_DLL_remove (neighbour->messages_head,
1670                                neighbour->messages_tail,
1671                                mq);
1672   if (mq->specific_address->connected == GNUNET_NO)
1673     mq->specific_address->connect_attempts++;
1674   rl = mq->specific_address->ready_list;
1675   mq->plugin = rl->plugin;
1676   if (!mq->internal_msg)
1677     mq->specific_address->in_transmit = GNUNET_YES;
1678 #if DEBUG_TRANSPORT
1679   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1680               "Sending message of size %u for `%4s' to `%s' via plugin `%s'\n",
1681               mq->message_buf_size,
1682               GNUNET_i2s (&neighbour->id),
1683               (mq->specific_address->addr != NULL)
1684               ? a2s (mq->plugin->short_name,
1685                      mq->specific_address->addr,
1686                      mq->specific_address->addrlen)
1687               : "<inbound>",
1688               rl->plugin->short_name);
1689 #endif
1690   GNUNET_STATISTICS_update (stats,
1691                             gettext_noop ("# bytes in message queue for other peers"),
1692                             - (int64_t) mq->message_buf_size,
1693                             GNUNET_NO);
1694   GNUNET_STATISTICS_update (stats,
1695                             gettext_noop ("# bytes pending with plugins"),
1696                             mq->message_buf_size,
1697                             GNUNET_NO);
1698   ret = rl->plugin->api->send (rl->plugin->api->cls,
1699                                &mq->neighbour_id,
1700                                mq->message_buf,
1701                                mq->message_buf_size,
1702                                mq->priority,
1703                                GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT,
1704                                mq->specific_address->session,
1705                                mq->specific_address->addr,
1706                                mq->specific_address->addrlen,
1707                                force_address,
1708                                &transmit_send_continuation, mq);
1709   if (ret == -1)
1710     {
1711       /* failure, but 'send' would not call continuation in this case,
1712          so we need to do it here! */
1713       transmit_send_continuation (mq,
1714                                   &mq->neighbour_id,
1715                                   GNUNET_SYSERR);
1716     }
1717 }
1718
1719
1720 /**
1721  * Send the specified message to the specified peer.
1722  *
1723  * @param client source of the transmission request (can be NULL)
1724  * @param peer_address ForeignAddressList where we should send this message
1725  * @param priority how important is the message
1726  * @param timeout how long do we have to transmit?
1727  * @param message_buf message(s) to send GNUNET_MessageHeader(s)
1728  * @param message_buf_size total size of all messages in message_buf
1729  * @param is_internal is this an internal message; these are pre-pended and
1730  *                    also do not count for plugins being "ready" to transmit
1731  * @param neighbour handle to the neighbour for transmission
1732  */
1733 static void
1734 transmit_to_peer (struct TransportClient *client,
1735                   struct ForeignAddressList *peer_address,
1736                   unsigned int priority,
1737                   struct GNUNET_TIME_Relative timeout,
1738                   const char *message_buf,
1739                   size_t message_buf_size,
1740                   int is_internal, struct NeighbourList *neighbour)
1741 {
1742   struct MessageQueue *mq;
1743
1744 #if EXTRA_CHECKS
1745   if (client != NULL)
1746     {
1747       /* check for duplicate submission */
1748       mq = neighbour->messages_head;
1749       while (NULL != mq)
1750         {
1751           if (mq->client == client)
1752             {
1753               /* client transmitted to same peer twice
1754                  before getting SEND_OK! */
1755               GNUNET_break (0);
1756               return;
1757             }
1758           mq = mq->next;
1759         }
1760     }
1761 #endif
1762   GNUNET_STATISTICS_update (stats,
1763                             gettext_noop ("# bytes in message queue for other peers"),
1764                             message_buf_size,
1765                             GNUNET_NO);
1766   mq = GNUNET_malloc (sizeof (struct MessageQueue) + message_buf_size);
1767   mq->specific_address = peer_address;
1768   mq->client = client;
1769   /* FIXME: this memcpy can be up to 7% of our total runtime! */
1770   memcpy (&mq[1], message_buf, message_buf_size);
1771   mq->message_buf = (const char*) &mq[1];
1772   mq->message_buf_size = message_buf_size;
1773   memcpy(&mq->neighbour_id, &neighbour->id, sizeof(struct GNUNET_PeerIdentity));
1774   mq->internal_msg = is_internal;
1775   mq->priority = priority;
1776   mq->timeout = GNUNET_TIME_relative_to_absolute (timeout);
1777   if (is_internal)
1778     GNUNET_CONTAINER_DLL_insert (neighbour->messages_head,
1779                                  neighbour->messages_tail,
1780                                  mq);
1781   else
1782     GNUNET_CONTAINER_DLL_insert_after (neighbour->messages_head,
1783                                        neighbour->messages_tail,
1784                                        neighbour->messages_tail,
1785                                        mq);
1786   try_transmission_to_peer (neighbour);
1787 }
1788
1789
1790 /**
1791  * FIXME: document.
1792  */
1793 struct GeneratorContext
1794 {
1795   struct TransportPlugin *plug_pos;
1796   struct OwnAddressList *addr_pos;
1797   struct GNUNET_TIME_Absolute expiration;
1798 };
1799
1800
1801 /**
1802  * FIXME: document.
1803  */
1804 static size_t
1805 address_generator (void *cls, size_t max, void *buf)
1806 {
1807   struct GeneratorContext *gc = cls;
1808   size_t ret;
1809
1810   while ((gc->addr_pos == NULL) && (gc->plug_pos != NULL))
1811     {
1812       gc->plug_pos = gc->plug_pos->next;
1813       gc->addr_pos = (gc->plug_pos != NULL) ? gc->plug_pos->addresses : NULL;
1814     }
1815   if (NULL == gc->plug_pos)
1816     {
1817
1818       return 0;
1819     }
1820   ret = GNUNET_HELLO_add_address (gc->plug_pos->short_name,
1821                                   gc->expiration,
1822                                   &gc->addr_pos[1],
1823                                   gc->addr_pos->addrlen, buf, max);
1824   gc->addr_pos = gc->addr_pos->next;
1825   return ret;
1826 }
1827
1828
1829 /**
1830  * Construct our HELLO message from all of the addresses of
1831  * all of the transports.
1832  */
1833 static void
1834 refresh_hello ()
1835 {
1836   struct GNUNET_HELLO_Message *hello;
1837   struct TransportClient *cpos;
1838   struct NeighbourList *npos;
1839   struct GeneratorContext gc;
1840
1841   gc.plug_pos = plugins;
1842   gc.addr_pos = plugins != NULL ? plugins->addresses : NULL;
1843   gc.expiration = GNUNET_TIME_relative_to_absolute (HELLO_ADDRESS_EXPIRATION);
1844   hello = GNUNET_HELLO_create (&my_public_key, &address_generator, &gc);
1845 #if DEBUG_TRANSPORT
1846   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
1847               "Refreshed my `%s', new size is %d\n", "HELLO", GNUNET_HELLO_size(hello));
1848 #endif
1849   GNUNET_STATISTICS_update (stats,
1850                             gettext_noop ("# refreshed my HELLO"),
1851                             1,
1852                             GNUNET_NO);
1853   cpos = clients;
1854   while (cpos != NULL)
1855     {
1856       transmit_to_client (cpos,
1857                           (const struct GNUNET_MessageHeader *) hello,
1858                           GNUNET_NO);
1859       cpos = cpos->next;
1860     }
1861
1862   GNUNET_free_non_null (our_hello);
1863   our_hello = hello;
1864   GNUNET_PEERINFO_add_peer (peerinfo, our_hello);
1865   npos = neighbours;
1866   while (npos != NULL)
1867     {
1868 #if DEBUG_TRANSPORT
1869       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
1870                   "Transmitting updated `%s' to neighbour `%4s'\n",
1871                   "HELLO", GNUNET_i2s (&npos->id));
1872 #endif
1873       GNUNET_STATISTICS_update (stats,
1874                                 gettext_noop ("# transmitted my HELLO to other peers"),
1875                                 1,
1876                                 GNUNET_NO);
1877       transmit_to_peer (NULL, NULL, 0,
1878                         HELLO_ADDRESS_EXPIRATION,
1879                         (const char *) our_hello,
1880                         GNUNET_HELLO_size(our_hello),
1881                         GNUNET_NO, npos);
1882       npos = npos->next;
1883     }
1884 }
1885
1886
1887 /**
1888  * Task used to clean up expired addresses for a plugin.
1889  *
1890  * @param cls closure
1891  * @param tc context
1892  */
1893 static void
1894 expire_address_task (void *cls,
1895                      const struct GNUNET_SCHEDULER_TaskContext *tc);
1896
1897
1898 /**
1899  * Update the list of addresses for this plugin,
1900  * expiring those that are past their expiration date.
1901  *
1902  * @param plugin addresses of which plugin should be recomputed?
1903  * @param fresh set to GNUNET_YES if a new address was added
1904  *        and we need to regenerate the HELLO even if nobody
1905  *        expired
1906  */
1907 static void
1908 update_addresses (struct TransportPlugin *plugin, 
1909                   int fresh)
1910 {
1911   static struct GNUNET_TIME_Absolute last_update;
1912   struct GNUNET_TIME_Relative min_remaining;
1913   struct GNUNET_TIME_Relative remaining;
1914   struct GNUNET_TIME_Absolute now;
1915   struct OwnAddressList *pos;
1916   struct OwnAddressList *prev;
1917   struct OwnAddressList *next;
1918   int expired;
1919
1920   if (plugin->address_update_task != GNUNET_SCHEDULER_NO_TASK)
1921     GNUNET_SCHEDULER_cancel (plugin->address_update_task);
1922   plugin->address_update_task = GNUNET_SCHEDULER_NO_TASK;
1923   now = GNUNET_TIME_absolute_get ();
1924   min_remaining = GNUNET_TIME_UNIT_FOREVER_REL;
1925   expired = (GNUNET_TIME_absolute_get_duration (last_update).rel_value > (HELLO_ADDRESS_EXPIRATION.rel_value / 4));
1926   prev = NULL;
1927   pos = plugin->addresses;
1928   while (pos != NULL)
1929     {
1930       next = pos->next;
1931       if (pos->expires.abs_value < now.abs_value)
1932         {
1933           expired = GNUNET_YES;
1934           if (prev == NULL)
1935             plugin->addresses = pos->next;
1936           else
1937             prev->next = pos->next;
1938           GNUNET_free (pos);
1939         }
1940       else
1941         {
1942           remaining = GNUNET_TIME_absolute_get_remaining (pos->expires);
1943           if (remaining.rel_value < min_remaining.rel_value)
1944             min_remaining = remaining;
1945           prev = pos;
1946         }
1947       pos = next;
1948     }
1949
1950   if (expired || fresh)
1951     {
1952       last_update = now;
1953       refresh_hello ();
1954     }
1955   min_remaining = GNUNET_TIME_relative_min (min_remaining,
1956                                             GNUNET_TIME_relative_divide (HELLO_ADDRESS_EXPIRATION,
1957                                                                          2));
1958   plugin->address_update_task
1959     = GNUNET_SCHEDULER_add_delayed (min_remaining,
1960                                     &expire_address_task, plugin);
1961 }
1962
1963
1964 /**
1965  * Task used to clean up expired addresses for a plugin.
1966  *
1967  * @param cls closure
1968  * @param tc context
1969  */
1970 static void
1971 expire_address_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1972 {
1973   struct TransportPlugin *plugin = cls;
1974
1975   plugin->address_update_task = GNUNET_SCHEDULER_NO_TASK;
1976   if (0 == (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1977     update_addresses (plugin, GNUNET_NO);
1978 }
1979
1980
1981 /**
1982  * Iterator over hash map entries that NULLs the session of validation
1983  * entries that match the given session.
1984  *
1985  * @param cls closure (the 'struct Session*' to match against)
1986  * @param key current key code (peer ID, not used)
1987  * @param value value in the hash map ('struct ValidationEntry*')
1988  * @return GNUNET_YES (we should continue to iterate)
1989  */
1990 static int
1991 remove_session_validations (void *cls,
1992                             const GNUNET_HashCode * key,
1993                             void *value)
1994 {
1995   struct Session *session = cls;
1996   struct ValidationEntry *ve = value;
1997
1998   if (session == ve->session)
1999     ve->session = NULL;
2000   return GNUNET_YES;
2001 }
2002
2003
2004 /**
2005  * We've been disconnected from the other peer (for some
2006  * connection-oriented transport).  Either quickly
2007  * re-establish the connection or signal the disconnect
2008  * to the CORE.
2009  *
2010  * Only signal CORE level disconnect if ALL addresses
2011  * for the peer are exhausted.
2012  *
2013  * @param p overall plugin context
2014  * @param nl neighbour that was disconnected
2015  */
2016 static void
2017 try_fast_reconnect (struct TransportPlugin *p,
2018                     struct NeighbourList *nl)
2019 {
2020   /* FIXME-MW: fast reconnect / transport switching not implemented... */
2021   /* Note: the idea here is to hide problems with transports (or
2022      switching between plugins) from the core to eliminate the need to
2023      re-negotiate session keys and the like; OTOH, we should tell core
2024      quickly (much faster than timeout) `if a connection was lost and
2025      could not be re-established (i.e. other peer went down or is
2026      unable / refuses to communicate);
2027
2028      So we should consider:
2029      1) ideally: our own willingness / need to connect
2030      2) prior failures to connect to this peer (by plugin)
2031      3) ideally: reasons why other peer terminated (as far as knowable)
2032
2033      Most importantly, it must be POSSIBLE for another peer to terminate
2034      a connection for a while (without us instantly re-establishing it).
2035      Similarly, if another peer is gone we should quickly notify CORE.
2036      OTOH, if there was a minor glitch (i.e. crash of gnunet-service-transport
2037      on the other end), we should reconnect in such a way that BOTH CORE
2038      services never even notice.
2039      Furthermore, the same mechanism (or small variation) could be used
2040      to switch to a better-performing plugin (ATS).
2041
2042      Finally, this needs to be tested throughly... */                                                           
2043
2044   /*
2045    * GNUNET_NO in the call below makes transport disconnect the peer,
2046    * even if only a single address (out of say, six) went away.  This
2047    * function must be careful to ONLY disconnect if the peer is gone,
2048    * not just a specifi address.
2049    *
2050    * More specifically, half the places it was used had it WRONG.
2051    */
2052
2053   /* No reconnect, signal disconnect instead! */
2054   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2055             "Disconnecting peer `%4s', %s\n", GNUNET_i2s(&nl->id),
2056             "try_fast_reconnect");
2057   disconnect_neighbour (nl, GNUNET_YES);
2058 }
2059
2060
2061 /**
2062  * Function that will be called whenever the plugin internally
2063  * cleans up a session pointer and hence the service needs to
2064  * discard all of those sessions as well.  Plugins that do not
2065  * use sessions can simply omit calling this function and always
2066  * use NULL wherever a session pointer is needed.
2067  *
2068  * @param cls closure
2069  * @param peer which peer was the session for
2070  * @param session which session is being destoyed
2071  */
2072 static void
2073 plugin_env_session_end  (void *cls,
2074                          const struct GNUNET_PeerIdentity *peer,
2075                          struct Session *session)
2076 {
2077   struct TransportPlugin *p = cls;
2078   struct NeighbourList *nl;
2079   struct ReadyList *rl;
2080   struct ForeignAddressList *pos;
2081   struct ForeignAddressList *prev;
2082
2083   GNUNET_CONTAINER_multihashmap_iterate (validation_map,
2084                                          &remove_session_validations,
2085                                          session);
2086   nl = find_neighbour (peer);
2087   if (nl == NULL)
2088     return; /* was never marked as connected */
2089   rl = nl->plugins;
2090   while (rl != NULL)
2091     {
2092       if (rl->plugin == p)
2093         break;
2094       rl = rl->next;
2095     }
2096   if (rl == NULL)
2097     return; /* was never marked as connected */
2098   prev = NULL;
2099   pos = rl->addresses;
2100   while ( (pos != NULL) &&
2101           (pos->session != session) )
2102     {
2103       prev = pos;
2104       pos = pos->next;
2105     }
2106   if (pos == NULL)
2107     return; /* was never marked as connected */
2108   pos->session = NULL;
2109   if (pos->addrlen != 0)
2110     {
2111       if (nl->received_pong != GNUNET_NO)
2112         try_fast_reconnect (p, nl);
2113       return;
2114     }
2115   /* was inbound connection, free 'pos' */
2116   if (prev == NULL)
2117     rl->addresses = pos->next;
2118   else
2119     prev->next = pos->next;
2120   if (GNUNET_SCHEDULER_NO_TASK != pos->revalidate_task)
2121     {
2122       GNUNET_SCHEDULER_cancel (pos->revalidate_task);
2123       pos->revalidate_task = GNUNET_SCHEDULER_NO_TASK;
2124     }
2125   GNUNET_free (pos);
2126   if (nl->received_pong == GNUNET_NO)
2127     return; /* nothing to do, never connected... */
2128   /* check if we have any validated addresses left */
2129   pos = rl->addresses;
2130   while (pos != NULL)
2131     {
2132       if (pos->validated)
2133         {
2134           try_fast_reconnect (p, nl);
2135           return;
2136         }
2137       pos = pos->next;
2138     }
2139   /* no valid addresses left, signal disconnect! */
2140
2141   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2142             "Disconnecting peer `%4s', %s\n", GNUNET_i2s(&nl->id),
2143             "plugin_env_session_end");
2144   /* FIXME: This doesn't mean there are no addresses left for this PEER,
2145    * it means there aren't any left for this PLUGIN/PEER combination! So
2146    * calling disconnect_neighbor here with GNUNET_NO forces disconnect
2147    * when it isn't necessary. Using GNUNET_YES at least checks to see
2148    * if there are any addresses that work first, so as not to overdo it.
2149    * --NE
2150    */
2151   disconnect_neighbour (nl, GNUNET_YES);
2152 }
2153
2154
2155 /**
2156  * Function that must be called by each plugin to notify the
2157  * transport service about the addresses under which the transport
2158  * provided by the plugin can be reached.
2159  *
2160  * @param cls closure
2161  * @param name name of the transport that generated the address
2162  * @param addr one of the addresses of the host, NULL for the last address
2163  *        the specific address format depends on the transport
2164  * @param addrlen length of the address
2165  * @param expires when should this address automatically expire?
2166  */
2167 static void
2168 plugin_env_notify_address (void *cls,
2169                            const char *name,
2170                            const void *addr,
2171                            uint16_t addrlen,
2172                            struct GNUNET_TIME_Relative expires)
2173 {
2174   struct TransportPlugin *p = cls;
2175   struct OwnAddressList *al;
2176   struct GNUNET_TIME_Absolute abex;
2177
2178   GNUNET_assert (addr != NULL);
2179   abex = GNUNET_TIME_relative_to_absolute (expires);
2180   GNUNET_assert (p == find_transport (name));
2181   al = p->addresses;
2182   while (al != NULL)
2183     {
2184       if ((addrlen == al->addrlen) && (0 == memcmp (addr, &al[1], addrlen)))
2185         {             
2186           al->expires = abex;
2187           update_addresses (p, GNUNET_NO);
2188           return;
2189         }
2190       al = al->next;
2191     }
2192
2193   al = GNUNET_malloc (sizeof (struct OwnAddressList) + addrlen);
2194   al->next = p->addresses;
2195   p->addresses = al;
2196   al->expires = abex;
2197   al->addrlen = addrlen;
2198   memcpy (&al[1], addr, addrlen);
2199   update_addresses (p, GNUNET_YES);
2200 }
2201
2202
2203 /**
2204  * Notify all of our clients about a peer connecting.
2205  */
2206 static void
2207 notify_clients_connect (const struct GNUNET_PeerIdentity *peer,
2208                         struct GNUNET_TIME_Relative latency,
2209                         uint32_t distance)
2210 {
2211   struct ConnectInfoMessage cim;
2212   struct TransportClient *cpos;
2213
2214 #if DEBUG_TRANSPORT
2215   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2216               "Notifying clients about connection from `%s'\n",
2217               GNUNET_i2s (peer));
2218 #endif
2219   GNUNET_STATISTICS_update (stats,
2220                             gettext_noop ("# peers connected"),
2221                             1,
2222                             GNUNET_NO);
2223   cim.header.size = htons (sizeof (struct ConnectInfoMessage));
2224   cim.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_CONNECT);
2225   cim.distance = htonl (distance);
2226   cim.latency = GNUNET_TIME_relative_hton (latency);
2227   memcpy (&cim.id, peer, sizeof (struct GNUNET_PeerIdentity));
2228   cpos = clients;
2229   while (cpos != NULL)
2230     {
2231       transmit_to_client (cpos, &cim.header, GNUNET_NO);
2232       cpos = cpos->next;
2233     }
2234 }
2235
2236
2237 /**
2238  * Notify all of our clients about a peer disconnecting.
2239  */
2240 static void
2241 notify_clients_disconnect (const struct GNUNET_PeerIdentity *peer)
2242 {
2243   struct DisconnectInfoMessage dim;
2244   struct TransportClient *cpos;
2245
2246 #if DEBUG_TRANSPORT
2247   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2248               "Notifying clients about lost connection to `%s'\n",
2249               GNUNET_i2s (peer));
2250 #endif
2251   GNUNET_STATISTICS_update (stats,
2252                             gettext_noop ("# peers connected"),
2253                             -1,
2254                             GNUNET_NO);
2255   dim.header.size = htons (sizeof (struct DisconnectInfoMessage));
2256   dim.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_DISCONNECT);
2257   dim.reserved = htonl (0);
2258   memcpy (&dim.peer, peer, sizeof (struct GNUNET_PeerIdentity));
2259   cpos = clients;
2260   while (cpos != NULL)
2261     {
2262       transmit_to_client (cpos, &dim.header, GNUNET_NO);
2263       cpos = cpos->next;
2264     }
2265 }
2266
2267
2268 /**
2269  * Find a ForeignAddressList entry for the given neighbour
2270  * that matches the given address and transport.
2271  *
2272  * @param neighbour which peer we care about
2273  * @param tname name of the transport plugin
2274  * @param session session to look for, NULL for 'any'; otherwise
2275  *        can be used for the service to "learn" this session ID
2276  *        if 'addr' matches
2277  * @param addr binary address
2278  * @param addrlen length of addr
2279  * @return NULL if no such entry exists
2280  */
2281 static struct ForeignAddressList *
2282 find_peer_address(struct NeighbourList *neighbour,
2283                   const char *tname,
2284                   struct Session *session,
2285                   const char *addr,
2286                   uint16_t addrlen)
2287 {
2288   struct ReadyList *head;
2289   struct ForeignAddressList *pos;
2290
2291   head = neighbour->plugins;
2292   while (head != NULL)
2293     {
2294       if (0 == strcmp (tname, head->plugin->short_name))
2295         break;
2296       head = head->next;
2297     }
2298   if (head == NULL)
2299     return NULL;
2300   pos = head->addresses;
2301   while ( (pos != NULL) &&
2302           ( (pos->addrlen != addrlen) ||
2303             (memcmp(pos->addr, addr, addrlen) != 0) ) )
2304     {
2305       if ( (session != NULL) &&
2306            (pos->session == session) )
2307         return pos;
2308       pos = pos->next;
2309     }
2310   if ( (session != NULL) && (pos != NULL) )
2311     pos->session = session; /* learn it! */
2312   return pos;
2313 }
2314
2315
2316 /**
2317  * Get the peer address struct for the given neighbour and
2318  * address.  If it doesn't yet exist, create it.
2319  *
2320  * @param neighbour which peer we care about
2321  * @param tname name of the transport plugin
2322  * @param session session of the plugin, or NULL for none
2323  * @param addr binary address
2324  * @param addrlen length of addr
2325  * @return NULL if we do not have a transport plugin for 'tname'
2326  */
2327 static struct ForeignAddressList *
2328 add_peer_address (struct NeighbourList *neighbour,
2329                   const char *tname,
2330                   struct Session *session,
2331                   const char *addr,
2332                   uint16_t addrlen)
2333 {
2334   struct ReadyList *head;
2335   struct ForeignAddressList *ret;
2336
2337   ret = find_peer_address (neighbour, tname, session, addr, addrlen);
2338   if (ret != NULL)
2339     return ret;
2340   head = neighbour->plugins;
2341
2342   while (head != NULL)
2343     {
2344       if (0 == strcmp (tname, head->plugin->short_name))
2345         break;
2346       head = head->next;
2347     }
2348   if (head == NULL)
2349     return NULL;
2350   ret = GNUNET_malloc(sizeof(struct ForeignAddressList) + addrlen);
2351   ret->session = session;
2352   if (addrlen > 0)
2353     {
2354       ret->addr = (const char*) &ret[1];
2355       memcpy (&ret[1], addr, addrlen);
2356     }
2357   else
2358     {
2359       ret->addr = NULL;
2360     }
2361   ret->addrlen = addrlen;
2362   ret->expires = GNUNET_TIME_relative_to_absolute
2363     (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
2364   ret->latency = GNUNET_TIME_relative_get_forever();
2365   ret->distance = -1;
2366   ret->timeout = GNUNET_TIME_relative_to_absolute
2367     (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
2368   ret->ready_list = head;
2369   ret->next = head->addresses;
2370   head->addresses = ret;
2371   return ret;
2372 }
2373
2374
2375 /**
2376  * Closure for 'add_validated_address'.
2377  */
2378 struct AddValidatedAddressContext
2379 {
2380   /**
2381    * Entry that has been validated.
2382    */
2383   const struct ValidationEntry *ve;
2384
2385   /**
2386    * Flag set after we have added the address so
2387    * that we terminate the iteration next time.
2388    */
2389   int done;
2390 };
2391
2392
2393 /**
2394  * Callback function used to fill a buffer of max bytes with a list of
2395  * addresses in the format used by HELLOs.  Should use
2396  * "GNUNET_HELLO_add_address" as a helper function.
2397  *
2398  * @param cls the 'struct AddValidatedAddressContext' with the validated address
2399  * @param max maximum number of bytes that can be written to buf
2400  * @param buf where to write the address information
2401  * @return number of bytes written, 0 to signal the
2402  *         end of the iteration.
2403  */
2404 static size_t
2405 add_validated_address (void *cls,
2406                        size_t max, void *buf)
2407 {
2408   struct AddValidatedAddressContext *avac = cls;
2409   const struct ValidationEntry *ve = avac->ve;
2410
2411   if (GNUNET_YES == avac->done)
2412     return 0;
2413   avac->done = GNUNET_YES;
2414   return GNUNET_HELLO_add_address (ve->transport_name,
2415                                    GNUNET_TIME_relative_to_absolute (HELLO_ADDRESS_EXPIRATION),
2416                                    ve->addr,
2417                                    ve->addrlen,
2418                                    buf,
2419                                    max);
2420 }
2421
2422
2423
2424 /**
2425  * Closure for 'check_address_exists'.
2426  */
2427 struct CheckAddressExistsClosure
2428 {
2429   /**
2430    * Address to check for.
2431    */
2432   const void *addr;
2433
2434   /**
2435    * Name of the transport.
2436    */
2437   const char *tname;
2438
2439   /**
2440    * Session, or NULL.
2441    */
2442   struct Session *session;
2443
2444   /**
2445    * Set to GNUNET_YES if the address exists.
2446    */
2447   int exists;
2448
2449   /**
2450    * Length of addr.
2451    */
2452   uint16_t addrlen;
2453
2454 };
2455
2456
2457 /**
2458  * Iterator over hash map entries.  Checks if the given
2459  * validation entry is for the same address as what is given
2460  * in the closure.
2461  *
2462  * @param cls the 'struct CheckAddressExistsClosure*'
2463  * @param key current key code (ignored)
2464  * @param value value in the hash map ('struct ValidationEntry')
2465  * @return GNUNET_YES if we should continue to
2466  *         iterate (mismatch), GNUNET_NO if not (entry matched)
2467  */
2468 static int
2469 check_address_exists (void *cls,
2470                       const GNUNET_HashCode * key,
2471                       void *value)
2472 {
2473   struct CheckAddressExistsClosure *caec = cls;
2474   struct ValidationEntry *ve = value;
2475
2476   if ( (0 == strcmp (caec->tname,
2477                      ve->transport_name)) &&
2478        (caec->addrlen == ve->addrlen) &&
2479        (0 == memcmp (caec->addr,
2480                      ve->addr,
2481                      caec->addrlen)) )
2482     {
2483       caec->exists = GNUNET_YES;
2484       return GNUNET_NO;
2485     }
2486   if ( (ve->session != NULL) &&
2487        (caec->session == ve->session) )
2488     {
2489       caec->exists = GNUNET_YES;
2490       return GNUNET_NO;
2491     }
2492   return GNUNET_YES;
2493 }
2494
2495
2496
2497 /**
2498  * Iterator to free entries in the validation_map.
2499  *
2500  * @param cls closure (unused)
2501  * @param key current key code
2502  * @param value value in the hash map (validation to abort)
2503  * @return GNUNET_YES (always)
2504  */
2505 static int
2506 abort_validation (void *cls,
2507                   const GNUNET_HashCode * key,
2508                   void *value)
2509 {
2510   struct ValidationEntry *va = value;
2511
2512   if (GNUNET_SCHEDULER_NO_TASK != va->timeout_task)
2513     GNUNET_SCHEDULER_cancel (va->timeout_task);
2514   GNUNET_free (va->transport_name);
2515   if (va->chvc != NULL)
2516     {
2517       va->chvc->ve_count--;
2518       if (va->chvc->ve_count == 0)
2519         {
2520           GNUNET_CONTAINER_DLL_remove (chvc_head,
2521                                        chvc_tail,
2522                                        va->chvc);
2523           GNUNET_free (va->chvc);
2524         }
2525       va->chvc = NULL;
2526     }
2527   GNUNET_free (va);
2528   return GNUNET_YES;
2529 }
2530
2531
2532 /**
2533  * HELLO validation cleanup task (validation failed).
2534  *
2535  * @param cls the 'struct ValidationEntry' that failed
2536  * @param tc scheduler context (unused)
2537  */
2538 static void
2539 timeout_hello_validation (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
2540 {
2541   struct ValidationEntry *va = cls;
2542   struct GNUNET_PeerIdentity pid;
2543
2544   va->timeout_task = GNUNET_SCHEDULER_NO_TASK;
2545   GNUNET_STATISTICS_update (stats,
2546                             gettext_noop ("# address validation timeouts"),
2547                             1,
2548                             GNUNET_NO);
2549   GNUNET_CRYPTO_hash (&va->publicKey,
2550                       sizeof (struct
2551                               GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
2552                       &pid.hashPubKey);
2553   GNUNET_break (GNUNET_OK ==
2554                 GNUNET_CONTAINER_multihashmap_remove (validation_map,
2555                                                       &pid.hashPubKey,
2556                                                       va));
2557   abort_validation (NULL, NULL, va);
2558 }
2559
2560
2561 static void
2562 neighbour_timeout_task (void *cls,
2563                        const struct GNUNET_SCHEDULER_TaskContext *tc)
2564 {
2565   struct NeighbourList *n = cls;
2566
2567 #if DEBUG_TRANSPORT
2568   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
2569               "Neighbour `%4s' has timed out!\n", GNUNET_i2s (&n->id));
2570 #endif
2571   GNUNET_STATISTICS_update (stats,
2572                             gettext_noop ("# disconnects due to timeout"),
2573                             1,
2574                             GNUNET_NO);
2575   n->timeout_task = GNUNET_SCHEDULER_NO_TASK;
2576   disconnect_neighbour (n, GNUNET_NO);
2577 }
2578
2579
2580 /**
2581  * Schedule the job that will cause us to send a PING to the
2582  * foreign address to evaluate its validity and latency.
2583  *
2584  * @param fal address to PING
2585  */
2586 static void
2587 schedule_next_ping (struct ForeignAddressList *fal);
2588
2589
2590 /**
2591  * Add the given address to the list of foreign addresses
2592  * available for the given peer (check for duplicates).
2593  *
2594  * @param cls the respective 'struct NeighbourList' to update
2595  * @param tname name of the transport
2596  * @param expiration expiration time
2597  * @param addr the address
2598  * @param addrlen length of the address
2599  * @return GNUNET_OK (always)
2600  */
2601 static int
2602 add_to_foreign_address_list (void *cls,
2603                              const char *tname,
2604                              struct GNUNET_TIME_Absolute expiration,
2605                              const void *addr,
2606                              uint16_t addrlen)
2607 {
2608   struct NeighbourList *n = cls;
2609   struct ForeignAddressList *fal;
2610   int try;
2611
2612   GNUNET_STATISTICS_update (stats,
2613                             gettext_noop ("# valid peer addresses returned by PEERINFO"),
2614                             1,
2615                             GNUNET_NO);
2616   try = GNUNET_NO;
2617   fal = find_peer_address (n, tname, NULL, addr, addrlen);
2618   if (fal == NULL)
2619     {
2620 #if DEBUG_TRANSPORT_HELLO
2621       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2622                   "Adding address `%s' (%s) for peer `%4s' due to PEERINFO data for %llums.\n",
2623                   a2s (tname, addr, addrlen),
2624                   tname,
2625                   GNUNET_i2s (&n->id),
2626                   expiration.abs_value);
2627 #endif
2628       fal = add_peer_address (n, tname, NULL, addr, addrlen);
2629       if (fal == NULL)
2630         {
2631           GNUNET_STATISTICS_update (stats,
2632                                     gettext_noop ("# previously validated addresses lacking transport"),
2633                                     1,
2634                                     GNUNET_NO);
2635         }
2636       else
2637         {
2638           fal->expires = GNUNET_TIME_absolute_max (expiration,
2639                                                    fal->expires);
2640           schedule_next_ping (fal);
2641         }
2642       try = GNUNET_YES;
2643     }
2644   else
2645     {
2646       fal->expires = GNUNET_TIME_absolute_max (expiration,
2647                                                fal->expires);
2648     }
2649   if (fal == NULL)
2650     {
2651       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
2652                   "Failed to add new address for `%4s'\n",
2653                   GNUNET_i2s (&n->id));
2654       return GNUNET_OK;
2655     }
2656   if (fal->validated == GNUNET_NO)
2657     {
2658       fal->validated = GNUNET_YES;
2659       GNUNET_STATISTICS_update (stats,
2660                                 gettext_noop ("# peer addresses considered valid"),
2661                                 1,
2662                                 GNUNET_NO);
2663     }
2664   if (try == GNUNET_YES)
2665     {
2666       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2667                   "Have new addresses, will try to trigger transmissions.\n");
2668       try_transmission_to_peer (n);
2669     }
2670   return GNUNET_OK;
2671 }
2672
2673
2674 /**
2675  * Add addresses in validated HELLO "h" to the set of addresses
2676  * we have for this peer.
2677  *
2678  * @param cls closure ('struct NeighbourList*')
2679  * @param peer id of the peer, NULL for last call
2680  * @param h hello message for the peer (can be NULL)
2681  */
2682 static void
2683 add_hello_for_peer (void *cls,
2684                     const struct GNUNET_PeerIdentity *peer,
2685                     const struct GNUNET_HELLO_Message *h)
2686 {
2687   struct NeighbourList *n = cls;
2688
2689   if (peer == NULL)
2690     {
2691       GNUNET_STATISTICS_update (stats,
2692                                 gettext_noop ("# outstanding peerinfo iterate requests"),
2693                                 -1,
2694                                 GNUNET_NO);
2695       n->piter = NULL;
2696       return;
2697     }
2698   if (h == NULL)
2699     return; /* no HELLO available */
2700 #if DEBUG_TRANSPORT
2701   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2702               "Peerinfo had `%s' message for peer `%4s', adding existing addresses.\n",
2703               "HELLO",
2704               GNUNET_i2s (peer));
2705 #endif
2706   if (GNUNET_YES != n->public_key_valid)
2707     {
2708       GNUNET_HELLO_get_key (h, &n->publicKey);
2709       n->public_key_valid = GNUNET_YES;
2710     }
2711   GNUNET_HELLO_iterate_addresses (h,
2712                                   GNUNET_NO,
2713                                   &add_to_foreign_address_list,
2714                                   n);
2715 }
2716
2717
2718 /**
2719  * Create a fresh entry in our neighbour list for the given peer.
2720  * Will try to transmit our current HELLO to the new neighbour.
2721  * Do not call this function directly, use 'setup_peer_check_blacklist.
2722  *
2723  * @param peer the peer for which we create the entry
2724  * @param do_hello should we schedule transmitting a HELLO
2725  * @return the new neighbour list entry
2726  */
2727 static struct NeighbourList *
2728 setup_new_neighbour (const struct GNUNET_PeerIdentity *peer,
2729                      int do_hello)
2730 {
2731   struct NeighbourList *n;
2732   struct TransportPlugin *tp;
2733   struct ReadyList *rl;
2734
2735 #if DEBUG_TRANSPORT
2736   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2737               "Setting up state for neighbour `%4s'\n",
2738               GNUNET_i2s (peer));
2739 #endif
2740   GNUNET_assert (our_hello != NULL);
2741   GNUNET_STATISTICS_update (stats,
2742                             gettext_noop ("# active neighbours"),
2743                             1,
2744                             GNUNET_NO);
2745   n = GNUNET_malloc (sizeof (struct NeighbourList));
2746   n->next = neighbours;
2747   neighbours = n;
2748   n->id = *peer;
2749   n->peer_timeout =
2750     GNUNET_TIME_relative_to_absolute
2751     (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
2752   GNUNET_BANDWIDTH_tracker_init (&n->in_tracker,
2753                                  GNUNET_CONSTANTS_DEFAULT_BW_IN_OUT,
2754                                  MAX_BANDWIDTH_CARRY_S);
2755   tp = plugins;
2756   while (tp != NULL)
2757     {
2758       if ((tp->api->send != NULL) && (!is_blacklisted(peer, tp)))
2759         {
2760           rl = GNUNET_malloc (sizeof (struct ReadyList));
2761           rl->neighbour = n;
2762           rl->next = n->plugins;
2763           n->plugins = rl;
2764           rl->plugin = tp;
2765           rl->addresses = NULL;
2766         }
2767       tp = tp->next;
2768     }
2769   n->latency = GNUNET_TIME_UNIT_FOREVER_REL;
2770   n->distance = -1;
2771   n->timeout_task = GNUNET_SCHEDULER_add_delayed (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT,
2772                                                   &neighbour_timeout_task, n);
2773   if (do_hello)
2774     {
2775       GNUNET_STATISTICS_update (stats,
2776                                 gettext_noop ("# peerinfo new neighbor iterate requests"),
2777                                 1,
2778                                 GNUNET_NO);
2779       GNUNET_STATISTICS_update (stats,
2780                                 gettext_noop ("# outstanding peerinfo iterate requests"),
2781                                 1,
2782                                 GNUNET_NO);
2783       n->piter = GNUNET_PEERINFO_iterate (peerinfo, peer,
2784                                           GNUNET_TIME_UNIT_FOREVER_REL,
2785                                           &add_hello_for_peer, n);
2786
2787       GNUNET_STATISTICS_update (stats,
2788                                 gettext_noop ("# HELLO's sent to new neighbors"),
2789                                 1,
2790                                 GNUNET_NO);
2791       transmit_to_peer (NULL, NULL, 0,
2792                         HELLO_ADDRESS_EXPIRATION,
2793                         (const char *) our_hello, GNUNET_HELLO_size(our_hello),
2794                         GNUNET_NO, n);
2795     }
2796   return n;
2797 }
2798
2799
2800 /**
2801  * Function called after we have checked if communicating
2802  * with a given peer is acceptable.
2803  *
2804  * @param cls closure
2805  * @param n NULL if communication is not acceptable
2806  */
2807 typedef void (*SetupContinuation)(void *cls,
2808                                   struct NeighbourList *n);
2809
2810
2811 /**
2812  * Information kept for each client registered to perform
2813  * blacklisting.
2814  */
2815 struct Blacklisters
2816 {
2817   /**
2818    * This is a linked list.
2819    */
2820   struct Blacklisters *next;
2821
2822   /**
2823    * This is a linked list.
2824    */
2825   struct Blacklisters *prev;
2826
2827   /**
2828    * Client responsible for this entry.
2829    */
2830   struct GNUNET_SERVER_Client *client;
2831
2832   /**
2833    * Blacklist check that we're currently performing.
2834    */
2835   struct BlacklistCheck *bc;
2836
2837 };
2838
2839
2840 /**
2841  * Head of DLL of blacklisting clients.
2842  */
2843 static struct Blacklisters *bl_head;
2844
2845 /**
2846  * Tail of DLL of blacklisting clients.
2847  */
2848 static struct Blacklisters *bl_tail;
2849
2850
2851 /**
2852  * Context we use when performing a blacklist check.
2853  */
2854 struct BlacklistCheck
2855 {
2856
2857   /**
2858    * This is a linked list.
2859    */
2860   struct BlacklistCheck *next;
2861
2862   /**
2863    * This is a linked list.
2864    */
2865   struct BlacklistCheck *prev;
2866
2867   /**
2868    * Peer being checked.
2869    */
2870   struct GNUNET_PeerIdentity peer;
2871
2872   /**
2873    * Option for setup neighbour afterwards.
2874    */
2875   int do_hello;
2876
2877   /**
2878    * Continuation to call with the result.
2879    */
2880   SetupContinuation cont;
2881
2882   /**
2883    * Closure for cont.
2884    */
2885   void *cont_cls;
2886
2887   /**
2888    * Current transmission request handle for this client, or NULL if no
2889    * request is pending.
2890    */
2891   struct GNUNET_CONNECTION_TransmitHandle *th;
2892
2893   /**
2894    * Our current position in the blacklisters list.
2895    */
2896   struct Blacklisters *bl_pos;
2897
2898   /**
2899    * Current task performing the check.
2900    */
2901   GNUNET_SCHEDULER_TaskIdentifier task;
2902
2903 };
2904
2905 /**
2906  * Head of DLL of active blacklisting queries.
2907  */
2908 static struct BlacklistCheck *bc_head;
2909
2910 /**
2911  * Tail of DLL of active blacklisting queries.
2912  */
2913 static struct BlacklistCheck *bc_tail;
2914
2915
2916 /**
2917  * Perform next action in the blacklist check.
2918  *
2919  * @param cls the 'struct BlacklistCheck*'
2920  * @param tc unused
2921  */
2922 static void
2923 do_blacklist_check (void *cls,
2924                     const struct GNUNET_SCHEDULER_TaskContext *tc);
2925
2926
2927 /**
2928  * Transmit blacklist query to the client.
2929  *
2930  * @param cls the 'struct BlacklistCheck'
2931  * @param size number of bytes allowed
2932  * @param buf where to copy the message
2933  * @return number of bytes copied to buf
2934  */
2935 static size_t
2936 transmit_blacklist_message (void *cls,
2937                             size_t size,
2938                             void *buf)
2939 {
2940   struct BlacklistCheck *bc = cls;
2941   struct Blacklisters *bl;
2942   struct BlacklistMessage bm;
2943
2944   bc->th = NULL;
2945   if (size == 0)
2946     {
2947       GNUNET_assert (bc->task == GNUNET_SCHEDULER_NO_TASK);
2948       bc->task = GNUNET_SCHEDULER_add_now (&do_blacklist_check,
2949                                            bc);
2950       return 0;
2951     }
2952   bl = bc->bl_pos;
2953   bm.header.size = htons (sizeof (struct BlacklistMessage));
2954   bm.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_BLACKLIST_QUERY);
2955   bm.is_allowed = htonl (0);
2956   bm.peer = bc->peer;
2957   memcpy (buf, &bm, sizeof (bm));
2958   GNUNET_SERVER_receive_done (bl->client, GNUNET_OK);
2959   return sizeof (bm);
2960 }
2961
2962
2963 /**
2964  * Perform next action in the blacklist check.
2965  *
2966  * @param cls the 'struct BlacklistCheck*'
2967  * @param tc unused
2968  */
2969 static void
2970 do_blacklist_check (void *cls,
2971                     const struct GNUNET_SCHEDULER_TaskContext *tc)
2972 {
2973   struct BlacklistCheck *bc = cls;
2974   struct Blacklisters *bl;
2975
2976   bc->task = GNUNET_SCHEDULER_NO_TASK;
2977   bl = bc->bl_pos;
2978   if (bl == NULL)
2979     {
2980       bc->cont (bc->cont_cls,
2981                 setup_new_neighbour (&bc->peer, bc->do_hello));         
2982       GNUNET_free (bc);
2983       return;
2984     }
2985   if (bl->bc == NULL)
2986     {
2987       bl->bc = bc;
2988       bc->th = GNUNET_SERVER_notify_transmit_ready (bl->client,
2989                                                     sizeof (struct BlacklistMessage),
2990                                                     GNUNET_TIME_UNIT_FOREVER_REL,
2991                                                     &transmit_blacklist_message,
2992                                                     bc);
2993     }
2994 }
2995
2996
2997 /**
2998  * Obtain a 'struct NeighbourList' for the given peer.  If such an entry
2999  * does not yet exist, check the blacklist.  If the blacklist says creating
3000  * one is acceptable, create one and call the continuation; otherwise
3001  * call the continuation with NULL.
3002  *
3003  * @param peer peer to setup or look up a struct NeighbourList for
3004  * @param do_hello should we also schedule sending our HELLO to the peer
3005  *        if this is a new record
3006  * @param cont function to call with the 'struct NeigbhbourList*'
3007  * @param cont_cls closure for cont
3008  */
3009 static void
3010 setup_peer_check_blacklist (const struct GNUNET_PeerIdentity *peer,
3011                             int do_hello,
3012                             SetupContinuation cont,
3013                             void *cont_cls)
3014 {
3015   struct NeighbourList *n;
3016   struct BlacklistCheck *bc;
3017
3018   n = find_neighbour(peer);
3019   if (n != NULL)
3020     {
3021       if (cont != NULL)
3022         cont (cont_cls, n);
3023       return;
3024     }
3025   if (bl_head == NULL)
3026     {
3027       if (cont != NULL)
3028         cont (cont_cls, setup_new_neighbour (peer, do_hello));
3029       else
3030         setup_new_neighbour(peer, do_hello);
3031       return;
3032     }
3033   bc = GNUNET_malloc (sizeof (struct BlacklistCheck));
3034   GNUNET_CONTAINER_DLL_insert (bc_head, bc_tail, bc);
3035   bc->peer = *peer;
3036   bc->do_hello = do_hello;
3037   bc->cont = cont;
3038   bc->cont_cls = cont_cls;
3039   bc->bl_pos = bl_head;
3040   bc->task = GNUNET_SCHEDULER_add_now (&do_blacklist_check,
3041                                        bc);
3042 }
3043
3044
3045 /**
3046  * Function called with the result of querying a new blacklister about
3047  * it being allowed (or not) to continue to talk to an existing neighbour.
3048  *
3049  * @param cls the original 'struct NeighbourList'
3050  * @param n NULL if we need to disconnect
3051  */
3052 static void
3053 confirm_or_drop_neighbour (void *cls,
3054                            struct NeighbourList *n)
3055 {
3056   struct NeighbourList * orig = cls;
3057
3058   if (n == NULL)
3059     {
3060       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3061               "Disconnecting peer `%4s', %s\n", GNUNET_i2s(&orig->id),
3062               "confirm_or_drop_neighboUr");
3063       disconnect_neighbour (orig, GNUNET_NO);
3064     }
3065 }
3066
3067
3068 /**
3069  * Handle a request to start a blacklist.
3070  *
3071  * @param cls closure (always NULL)
3072  * @param client identification of the client
3073  * @param message the actual message
3074  */
3075 static void
3076 handle_blacklist_init (void *cls,
3077                        struct GNUNET_SERVER_Client *client,
3078                        const struct GNUNET_MessageHeader *message)
3079 {
3080   struct Blacklisters *bl;
3081   struct BlacklistCheck *bc;
3082   struct NeighbourList *n;
3083
3084   bl = bl_head;
3085   while (bl != NULL)
3086     {
3087       if (bl->client == client)
3088         {
3089           GNUNET_break (0);
3090           GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
3091           return;
3092         }
3093       bl = bl->next;
3094     }
3095   bl = GNUNET_malloc (sizeof (struct Blacklisters));
3096   bl->client = client;
3097   GNUNET_SERVER_client_keep (client);
3098   GNUNET_CONTAINER_DLL_insert_after (bl_head, bl_tail, bl_tail, bl);
3099   /* confirm that all existing connections are OK! */
3100   n = neighbours;
3101   while (NULL != n)
3102     {
3103       bc = GNUNET_malloc (sizeof (struct BlacklistCheck));
3104       GNUNET_CONTAINER_DLL_insert (bc_head, bc_tail, bc);
3105       bc->peer = n->id;
3106       bc->do_hello = GNUNET_NO;
3107       bc->cont = &confirm_or_drop_neighbour;
3108       bc->cont_cls = n;
3109       bc->bl_pos = bl;
3110       if (n == neighbours) /* all would wait for the same client, no need to
3111                               create more than just the first task right now */
3112         bc->task = GNUNET_SCHEDULER_add_now (&do_blacklist_check,
3113                                              bc);
3114       n = n->next;
3115     }
3116 }
3117
3118
3119 /**
3120  * Handle a request to blacklist a peer.
3121  *
3122  * @param cls closure (always NULL)
3123  * @param client identification of the client
3124  * @param message the actual message
3125  */
3126 static void
3127 handle_blacklist_reply (void *cls,
3128                         struct GNUNET_SERVER_Client *client,
3129                         const struct GNUNET_MessageHeader *message)
3130 {
3131   const struct BlacklistMessage *msg = (const struct BlacklistMessage*) message;
3132   struct Blacklisters *bl;
3133   struct BlacklistCheck *bc;
3134
3135   bl = bl_head;
3136   while ( (bl != NULL) &&
3137           (bl->client != client) )
3138     bl = bl->next;
3139   if (bl == NULL)
3140     {
3141       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
3142       return;
3143     }
3144   bc = bl->bc;
3145   bl->bc = NULL;
3146   if (ntohl (msg->is_allowed) == GNUNET_SYSERR)
3147     {
3148       bc->cont (bc->cont_cls, NULL);
3149       GNUNET_CONTAINER_DLL_remove (bc_head, bc_tail, bc);
3150       GNUNET_free (bc);
3151     }
3152   else
3153     {
3154       bc->bl_pos = bc->bl_pos->next;
3155       bc->task = GNUNET_SCHEDULER_add_now (&do_blacklist_check,
3156                                            bc);
3157     }
3158   /* check if any other bc's are waiting for this blacklister */
3159   bc = bc_head;
3160   while (bc != NULL)
3161     {
3162       if ( (bc->bl_pos == bl) &&
3163            (GNUNET_SCHEDULER_NO_TASK == bc->task) )
3164         bc->task = GNUNET_SCHEDULER_add_now (&do_blacklist_check,
3165                                              bc);
3166       bc = bc->next;
3167     }
3168 }
3169
3170
3171 /**
3172  * Send periodic PING messages to a given foreign address.
3173  *
3174  * @param cls our 'struct PeriodicValidationContext*'
3175  * @param tc task context
3176  */
3177 static void
3178 send_periodic_ping (void *cls,
3179                     const struct GNUNET_SCHEDULER_TaskContext *tc)
3180 {
3181   struct ForeignAddressList *peer_address = cls;
3182   struct TransportPlugin *tp;
3183   struct ValidationEntry *va;
3184   struct NeighbourList *neighbour;
3185   struct TransportPingMessage ping;
3186   struct CheckAddressExistsClosure caec;
3187   char * message_buf;
3188   uint16_t hello_size;
3189   size_t slen;
3190   size_t tsize;
3191
3192   peer_address->revalidate_task = GNUNET_SCHEDULER_NO_TASK;
3193   if (tc->reason == GNUNET_SCHEDULER_REASON_SHUTDOWN)
3194     return;
3195   tp = peer_address->ready_list->plugin;
3196   neighbour = peer_address->ready_list->neighbour;
3197   if (GNUNET_YES != neighbour->public_key_valid)
3198     {
3199       /* no public key yet, try again later */
3200       schedule_next_ping (peer_address);
3201       return;
3202     }
3203   caec.addr = peer_address->addr;
3204   caec.addrlen = peer_address->addrlen;
3205   caec.tname = tp->short_name;
3206   caec.session = peer_address->session;
3207   caec.exists = GNUNET_NO;
3208   GNUNET_CONTAINER_multihashmap_iterate (validation_map,
3209                                          &check_address_exists,
3210                                          &caec);
3211   if (caec.exists == GNUNET_YES)
3212     {
3213       /* During validation attempts we will likely trigger the other
3214          peer trying to validate our address which in turn will cause
3215          it to send us its HELLO, so we expect to hit this case rather
3216          frequently.  Only print something if we are very verbose. */
3217 #if DEBUG_TRANSPORT > 1
3218       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3219                   "Some validation of address `%s' via `%s' for peer `%4s' already in progress.\n",
3220                   (peer_address->addr != NULL)
3221                   ? a2s (tp->short_name,
3222                          peer_address->addr,
3223                          peer_address->addrlen)
3224                   : "<inbound>",
3225                   tp->short_name,
3226                   GNUNET_i2s (&neighbour->id));
3227 #endif
3228       schedule_next_ping (peer_address);
3229       return;
3230     }
3231   va = GNUNET_malloc (sizeof (struct ValidationEntry) + peer_address->addrlen);
3232   va->transport_name = GNUNET_strdup (tp->short_name);
3233   va->challenge = GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_NONCE,
3234                                             UINT_MAX);
3235   va->send_time = GNUNET_TIME_absolute_get();
3236   va->session = peer_address->session;
3237   if (peer_address->addr != NULL)
3238     {
3239       va->addr = (const void*) &va[1];
3240       memcpy (&va[1], peer_address->addr, peer_address->addrlen);
3241       va->addrlen = peer_address->addrlen;
3242     }
3243   memcpy(&va->publicKey,
3244          &neighbour->publicKey,
3245          sizeof(struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded));
3246
3247   va->timeout_task = GNUNET_SCHEDULER_add_delayed (HELLO_VERIFICATION_TIMEOUT,
3248                                                    &timeout_hello_validation,
3249                                                    va);
3250   GNUNET_CONTAINER_multihashmap_put (validation_map,
3251                                      &neighbour->id.hashPubKey,
3252                                      va,
3253                                      GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
3254
3255   if (peer_address->validated != GNUNET_YES)
3256     hello_size = GNUNET_HELLO_size(our_hello);
3257   else
3258     hello_size = 0;
3259
3260   tsize = sizeof(struct TransportPingMessage) + hello_size;
3261
3262   if (peer_address->addr != NULL)
3263     {
3264       slen = strlen (tp->short_name) + 1;
3265       tsize += slen + peer_address->addrlen;
3266     }
3267   else
3268     {
3269       slen = 0; /* make gcc happy */
3270     }
3271   message_buf = GNUNET_malloc(tsize);
3272   ping.header.type = htons(GNUNET_MESSAGE_TYPE_TRANSPORT_PING);
3273   ping.challenge = htonl(va->challenge);
3274   memcpy(&ping.target, &neighbour->id, sizeof(struct GNUNET_PeerIdentity));
3275   if (peer_address->validated != GNUNET_YES)
3276     {
3277       memcpy(message_buf, our_hello, hello_size);
3278     }
3279
3280   if (peer_address->addr != NULL)
3281     {
3282       ping.header.size = htons(sizeof(struct TransportPingMessage) +
3283                                peer_address->addrlen +
3284                                slen);
3285       memcpy(&message_buf[hello_size + sizeof (struct TransportPingMessage)],
3286              tp->short_name,
3287              slen);
3288       memcpy(&message_buf[hello_size + sizeof (struct TransportPingMessage) + slen],
3289              peer_address->addr,
3290              peer_address->addrlen);
3291     }
3292   else
3293     {
3294       ping.header.size = htons(sizeof(struct TransportPingMessage));
3295     }
3296
3297   memcpy(&message_buf[hello_size],
3298          &ping,
3299          sizeof(struct TransportPingMessage));
3300
3301 #if DEBUG_TRANSPORT_REVALIDATION
3302   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3303               "Performing re-validation of address `%s' via `%s' for peer `%4s' sending `%s' (%u bytes) and `%s'\n",
3304               (peer_address->addr != NULL)
3305               ? a2s (peer_address->plugin->short_name,
3306                      peer_address->addr,
3307                      peer_address->addrlen)
3308               : "<inbound>",
3309               tp->short_name,
3310               GNUNET_i2s (&neighbour->id),
3311               "HELLO", hello_size,
3312               "PING");
3313 #endif
3314   if (peer_address->validated != GNUNET_YES)
3315     GNUNET_STATISTICS_update (stats,
3316                               gettext_noop ("# PING with HELLO messages sent"),
3317                               1,
3318                               GNUNET_NO);
3319   else
3320     GNUNET_STATISTICS_update (stats,
3321                               gettext_noop ("# PING without HELLO messages sent"),
3322                               1,
3323                               GNUNET_NO);
3324   GNUNET_STATISTICS_update (stats,
3325                             gettext_noop ("# PING messages sent for re-validation"),
3326                             1,
3327                             GNUNET_NO);
3328   transmit_to_peer (NULL, peer_address,
3329                     GNUNET_SCHEDULER_PRIORITY_DEFAULT,
3330                     HELLO_VERIFICATION_TIMEOUT,
3331                     message_buf, tsize,
3332                     GNUNET_YES, neighbour);
3333   GNUNET_free(message_buf);
3334   schedule_next_ping (peer_address);
3335 }
3336
3337
3338 /**
3339  * Schedule the job that will cause us to send a PING to the
3340  * foreign address to evaluate its validity and latency.
3341  *
3342  * @param fal address to PING
3343  */
3344 static void
3345 schedule_next_ping (struct ForeignAddressList *fal)
3346 {
3347   struct GNUNET_TIME_Relative delay;
3348
3349   if (fal->revalidate_task != GNUNET_SCHEDULER_NO_TASK)
3350     return;
3351   delay = GNUNET_TIME_absolute_get_remaining (fal->expires);
3352   delay.rel_value /= 2; /* do before expiration */
3353   delay = GNUNET_TIME_relative_min (delay,
3354                                     LATENCY_EVALUATION_MAX_DELAY);
3355   if (GNUNET_YES != fal->estimated)
3356     {
3357       delay = GNUNET_TIME_UNIT_ZERO;
3358       fal->estimated = GNUNET_YES;
3359     }                           
3360   if (GNUNET_YES == fal->connected)
3361     {
3362       delay = GNUNET_TIME_relative_min (delay,
3363                                         CONNECTED_LATENCY_EVALUATION_MAX_DELAY);
3364     }
3365   /* FIXME: also adjust delay based on how close the last
3366      observed latency is to the latency of the best alternative */
3367   /* bound how fast we can go */
3368   delay = GNUNET_TIME_relative_max (delay,
3369                                     GNUNET_TIME_UNIT_SECONDS);
3370   /* randomize a bit (to avoid doing all at the same time) */
3371   delay.rel_value += GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK, 1000);
3372   fal->revalidate_task = GNUNET_SCHEDULER_add_delayed(delay,
3373                                                       &send_periodic_ping,
3374                                                       fal);
3375 }
3376
3377
3378
3379
3380 /**
3381  * Function that will be called if we receive some payload
3382  * from another peer.
3383  *
3384  * @param message the payload
3385  * @param n peer who claimed to be the sender
3386  * @param ats ATS information
3387  * @param ats_count numbers of elements following the ats struct (excluding the 0-terminator)
3388  */
3389 static void
3390 handle_payload_message (const struct GNUNET_MessageHeader *message,
3391                         struct NeighbourList *n, struct GNUNET_TRANSPORT_ATS_Information *ats, uint32_t ats_count)
3392 {
3393   struct InboundMessage *im;
3394   struct TransportClient *cpos;
3395   uint16_t msize;
3396
3397   msize = ntohs (message->size);
3398   if (n->received_pong == GNUNET_NO)
3399     {
3400       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3401                   "Received message of type %u and size %u from `%4s', but no pong yet!!\n",
3402                   ntohs (message->type),
3403                   ntohs (message->size),
3404                   GNUNET_i2s (&n->id));
3405       GNUNET_free_non_null (n->pre_connect_message_buffer);
3406       n->pre_connect_message_buffer = GNUNET_malloc (msize);
3407       memcpy (n->pre_connect_message_buffer, message, msize);
3408       return;
3409     }
3410
3411 #if DEBUG_TRANSPORT
3412   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3413               "Received message of type %u and size %u from `%4s', sending to all clients.\n",
3414               ntohs (message->type),
3415               ntohs (message->size),
3416               GNUNET_i2s (&n->id));
3417 #endif
3418   if (GNUNET_YES == GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker,
3419                                                       (ssize_t) msize))
3420     {
3421       n->quota_violation_count++;
3422 #if DEBUG_TRANSPORT
3423       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,                      
3424                   "Bandwidth quota (%u b/s) violation detected (total of %u).\n",
3425                   n->in_tracker.available_bytes_per_s__,
3426                   n->quota_violation_count);
3427 #endif
3428       /* Discount 32k per violation */
3429       GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker,
3430                                         - 32 * 1024);           
3431     }
3432   else
3433     {
3434       if (n->quota_violation_count > 0)
3435         {
3436           /* try to add 32k back */
3437           GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker,
3438                                             32 * 1024);
3439           n->quota_violation_count--;
3440         }
3441     }
3442   GNUNET_STATISTICS_update (stats,
3443                             gettext_noop ("# payload received from other peers"),
3444                             msize,
3445                             GNUNET_NO);
3446
3447   /* transmit message to all clients */
3448   im = GNUNET_malloc (sizeof (struct InboundMessage) + ats_count * sizeof(struct GNUNET_TRANSPORT_ATS_Information) + msize);
3449   im->header.size = htons (sizeof (struct InboundMessage) +  ats_count * sizeof(struct GNUNET_TRANSPORT_ATS_Information) + msize);
3450   im->header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_RECV);
3451   im->latency = GNUNET_TIME_relative_hton (n->latency);
3452   im->peer = n->id;
3453   im->distance = ntohl(n->distance);
3454   im->ats_count = htonl(ats_count);
3455   /* insert ATS elements */
3456   memcpy (&(im->ats), ats, ats_count * sizeof(struct GNUNET_TRANSPORT_ATS_Information));
3457   /* insert ATS terminator */
3458   (&im->ats)[ats_count].type  = htonl(0);
3459   (&im->ats)[ats_count].value = htonl(0);
3460   /* insert msg after terminator */
3461   memcpy (&(&im->ats)[ats_count+1], message, msize);
3462
3463   cpos = clients;
3464   while (cpos != NULL)
3465     {
3466       transmit_to_client (cpos, &im->header, GNUNET_YES);
3467       cpos = cpos->next;
3468     }
3469   GNUNET_free (im);
3470 }
3471
3472
3473 /**
3474  * Iterator over hash map entries.  Checks if the given validation
3475  * entry is for the same challenge as what is given in the PONG.
3476  *
3477  * @param cls the 'struct TransportPongMessage*'
3478  * @param key peer identity
3479  * @param value value in the hash map ('struct ValidationEntry')
3480  * @return GNUNET_YES if we should continue to
3481  *         iterate (mismatch), GNUNET_NO if not (entry matched)
3482  */
3483 static int
3484 check_pending_validation (void *cls,
3485                           const GNUNET_HashCode * key,
3486                           void *value)
3487 {
3488   const struct TransportPongMessage *pong = cls;
3489   struct ValidationEntry *ve = value;
3490   struct AddValidatedAddressContext avac;
3491   unsigned int challenge = ntohl(pong->challenge);
3492   struct GNUNET_HELLO_Message *hello;
3493   struct GNUNET_PeerIdentity target;
3494   struct NeighbourList *n;
3495   struct ForeignAddressList *fal;
3496   struct OwnAddressList *oal;
3497   struct TransportPlugin *tp;
3498   struct GNUNET_MessageHeader *prem;
3499   uint16_t ps;
3500   const char *addr;
3501   size_t slen;
3502   size_t alen;
3503
3504   ps = ntohs (pong->header.size);
3505   if (ps < sizeof (struct TransportPongMessage))
3506     {
3507       GNUNET_break_op (0);
3508       return GNUNET_NO;
3509     }
3510   addr = (const char*) &pong[1];
3511   slen = strlen (ve->transport_name) + 1;
3512   if ( (ps - sizeof (struct TransportPongMessage) < slen) ||
3513        (ve->challenge != challenge) ||
3514        (addr[slen-1] != '\0') ||
3515        (0 != strcmp (addr, ve->transport_name)) ||
3516        (ntohl (pong->purpose.size)
3517         != sizeof (struct GNUNET_CRYPTO_RsaSignaturePurpose) +
3518         sizeof (uint32_t) +
3519         sizeof (struct GNUNET_TIME_AbsoluteNBO) +
3520         sizeof (struct GNUNET_PeerIdentity) + ps - sizeof (struct TransportPongMessage)) )
3521     {
3522       return GNUNET_YES;
3523     }
3524
3525   alen = ps - sizeof (struct TransportPongMessage) - slen;
3526   switch (ntohl (pong->purpose.purpose))
3527     {
3528     case GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_OWN:
3529       if ( (ve->addrlen + slen != ntohl (pong->addrlen)) ||
3530            (0 != memcmp (&addr[slen],
3531                          ve->addr,
3532                          ve->addrlen)) )
3533         {
3534           return GNUNET_YES; /* different entry, keep trying! */
3535         }
3536       if (0 != memcmp (&pong->pid,
3537                        key,
3538                        sizeof (struct GNUNET_PeerIdentity)))
3539         {
3540           GNUNET_break_op (0);
3541           return GNUNET_NO;
3542         }
3543       if (GNUNET_OK !=
3544           GNUNET_CRYPTO_rsa_verify (GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_OWN,
3545                                     &pong->purpose,
3546                                     &pong->signature,
3547                                     &ve->publicKey))
3548         {
3549           GNUNET_break_op (0);
3550           return GNUNET_NO;
3551         }
3552
3553 #if DEBUG_TRANSPORT
3554       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3555                   "Confirmed validity of address, peer `%4s' has address `%s' (%s).\n",
3556                   GNUNET_h2s (key),
3557                   a2s (ve->transport_name,
3558                        (const struct sockaddr *) ve->addr,
3559                        ve->addrlen),
3560                   ve->transport_name);
3561 #endif
3562       break;
3563     case GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_USING:
3564       if (0 != memcmp (&pong->pid,
3565                          &my_identity,
3566                          sizeof (struct GNUNET_PeerIdentity)))
3567         {
3568           GNUNET_break_op (0);
3569           return GNUNET_NO;
3570         }
3571       if (ve->addrlen != 0)
3572         {
3573           /* must have been for a different validation entry */
3574           return GNUNET_YES;
3575         }
3576       tp = find_transport (ve->transport_name);
3577       if (tp == NULL)
3578         {
3579           GNUNET_break (0);
3580           return GNUNET_YES;
3581         }
3582       oal = tp->addresses;
3583       while (NULL != oal)
3584         {
3585           if ( (oal->addrlen == alen) &&
3586                (0 == memcmp (&oal[1],
3587                              &addr[slen],
3588                              alen)) )
3589             break;
3590           oal = oal->next;
3591         }
3592       if (oal == NULL)
3593         {
3594           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
3595                       _("Not accepting PONG with address `%s' since I cannot confirm having this address.\n"),
3596                       a2s (ve->transport_name,
3597                            &addr[slen],
3598                            alen));
3599           return GNUNET_NO;     
3600         }
3601       if (GNUNET_OK !=
3602           GNUNET_CRYPTO_rsa_verify (GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_USING,
3603                                     &pong->purpose,
3604                                     &pong->signature,
3605                                     &ve->publicKey))
3606         {
3607           GNUNET_break_op (0);
3608           return GNUNET_NO;
3609         }
3610
3611 #if DEBUG_TRANSPORT
3612       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3613                   "Confirmed that peer `%4s' is talking to us using address `%s' (%s) for us.\n",
3614                   GNUNET_h2s (key),
3615                   a2s (ve->transport_name,
3616                        &addr[slen],
3617                        alen),
3618                   ve->transport_name);
3619 #endif
3620       break;
3621     default:
3622       GNUNET_break_op (0);
3623       return GNUNET_NO;
3624     }
3625   if (GNUNET_TIME_absolute_get_remaining (GNUNET_TIME_absolute_ntoh (pong->expiration)).rel_value == 0)
3626     {
3627       GNUNET_log (GNUNET_ERROR_TYPE_INFO,
3628                   _("Received expired signature.  Check system time.\n"));
3629       return GNUNET_NO;
3630     }
3631   GNUNET_STATISTICS_update (stats,
3632                             gettext_noop ("# address validation successes"),
3633                             1,
3634                             GNUNET_NO);
3635   /* create the updated HELLO */
3636   GNUNET_CRYPTO_hash (&ve->publicKey,
3637                       sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
3638                       &target.hashPubKey);
3639   if (ve->addr != NULL)
3640     {
3641       avac.done = GNUNET_NO;
3642       avac.ve = ve;
3643       hello = GNUNET_HELLO_create (&ve->publicKey,
3644                                    &add_validated_address,
3645                                    &avac);
3646       GNUNET_PEERINFO_add_peer (peerinfo,
3647                                 hello);
3648       GNUNET_free (hello);
3649     }
3650   n = find_neighbour (&target);
3651   if (n != NULL)
3652     {
3653       n->publicKey = ve->publicKey;
3654       n->public_key_valid = GNUNET_YES;
3655       fal = add_peer_address (n,
3656                               ve->transport_name,
3657                               ve->session,
3658                               ve->addr,
3659                               ve->addrlen);
3660       GNUNET_assert (fal != NULL);
3661       fal->expires = GNUNET_TIME_relative_to_absolute (HELLO_ADDRESS_EXPIRATION);
3662       fal->validated = GNUNET_YES;
3663       mark_address_connected (fal);
3664       GNUNET_STATISTICS_update (stats,
3665                                 gettext_noop ("# peer addresses considered valid"),
3666                                 1,
3667                                 GNUNET_NO);
3668       fal->latency = GNUNET_TIME_absolute_get_duration (ve->send_time);
3669       schedule_next_ping (fal);
3670       if (n->latency.rel_value == GNUNET_TIME_UNIT_FOREVER_REL.rel_value)
3671         n->latency = fal->latency;
3672       else
3673         n->latency.rel_value = (fal->latency.rel_value + n->latency.rel_value) / 2;
3674
3675       n->distance = fal->distance;
3676       if (GNUNET_NO == n->received_pong)
3677         {
3678           n->received_pong = GNUNET_YES;
3679           notify_clients_connect (&target, n->latency, n->distance);
3680           if (NULL != (prem = n->pre_connect_message_buffer))
3681             {
3682               n->pre_connect_message_buffer = NULL;
3683               /* FIXME: */
3684               handle_payload_message (prem, n, NULL, 0);
3685               GNUNET_free (prem);
3686             }
3687         }
3688       if (n->retry_task != GNUNET_SCHEDULER_NO_TASK)
3689         {
3690           GNUNET_SCHEDULER_cancel (n->retry_task);
3691           n->retry_task = GNUNET_SCHEDULER_NO_TASK;
3692           try_transmission_to_peer (n);
3693         }
3694     }
3695
3696   /* clean up validation entry */
3697   GNUNET_assert (GNUNET_YES ==
3698                  GNUNET_CONTAINER_multihashmap_remove (validation_map,
3699                                                        key,
3700                                                        ve));
3701   abort_validation (NULL, NULL, ve);
3702   return GNUNET_NO;
3703 }
3704
3705
3706 /**
3707  * Function that will be called if we receive a validation
3708  * of an address challenge that we transmitted to another
3709  * peer.  Note that the validation should only be considered
3710  * acceptable if the challenge matches AND if the sender
3711  * address is at least a plausible address for this peer
3712  * (otherwise we may be seeing a MiM attack).
3713  *
3714  * @param cls closure
3715  * @param message the pong message
3716  * @param peer who responded to our challenge
3717  * @param sender_address string describing our sender address (as observed
3718  *         by the other peer in binary format)
3719  * @param sender_address_len number of bytes in 'sender_address'
3720  */
3721 static void
3722 handle_pong (void *cls, const struct GNUNET_MessageHeader *message,
3723              const struct GNUNET_PeerIdentity *peer,
3724              const char *sender_address,
3725              size_t sender_address_len)
3726 {
3727 #if DEBUG_TRANSPORT > 1
3728   /* we get tons of these that just get discarded, only log
3729      if we are quite verbose */
3730   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3731               "Receiving `%s' message from `%4s'.\n", "PONG",
3732               GNUNET_i2s (peer));
3733 #endif
3734   GNUNET_STATISTICS_update (stats,
3735                             gettext_noop ("# PONG messages received"),
3736                             1,
3737                             GNUNET_NO);
3738   if (GNUNET_SYSERR !=
3739       GNUNET_CONTAINER_multihashmap_get_multiple (validation_map,
3740                                                   &peer->hashPubKey,
3741                                                   &check_pending_validation,
3742                                                   (void*) message))
3743     {
3744       /* This is *expected* to happen a lot since we send
3745          PONGs to *all* known addresses of the sender of
3746          the PING, so most likely we get multiple PONGs
3747          per PING, and all but the first PONG will end up
3748          here. So really we should not print anything here
3749          unless we want to be very, very verbose... */
3750 #if DEBUG_TRANSPORT > 2
3751       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3752                   "Received `%s' message from `%4s' but have no record of a matching `%s' message. Ignoring.\n",
3753                   "PONG",
3754                   GNUNET_i2s (peer),
3755                   "PING");
3756 #endif
3757       return;
3758     }
3759
3760 }
3761
3762
3763 /**
3764  * Try to validate a neighbour's address by sending him our HELLO and a PING.
3765  *
3766  * @param cls the 'struct ValidationEntry*'
3767  * @param neighbour neighbour to validate, NULL if validation failed
3768  */
3769 static void
3770 transmit_hello_and_ping (void *cls,
3771                          struct NeighbourList *neighbour)
3772 {
3773   struct ValidationEntry *va = cls;
3774   struct ForeignAddressList *peer_address;
3775   struct TransportPingMessage ping;
3776   uint16_t hello_size;
3777   size_t tsize;
3778   char * message_buf;
3779   struct GNUNET_PeerIdentity id;
3780   size_t slen;
3781
3782   GNUNET_CRYPTO_hash (&va->publicKey,
3783                       sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
3784                       &id.hashPubKey);
3785   if (neighbour == NULL)
3786     {
3787       /* FIXME: stats... */
3788       GNUNET_break (GNUNET_OK ==
3789                     GNUNET_CONTAINER_multihashmap_remove (validation_map,
3790                                                           &id.hashPubKey,
3791                                                           va));
3792       abort_validation (NULL, NULL, va);
3793       return;
3794     }
3795   neighbour->publicKey = va->publicKey;
3796   neighbour->public_key_valid = GNUNET_YES;
3797   peer_address = add_peer_address (neighbour,
3798                                    va->transport_name, NULL,
3799                                    (const void*) &va[1],
3800                                    va->addrlen);
3801   if (peer_address == NULL)
3802     {
3803       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
3804                   "Failed to add peer `%4s' for plugin `%s'\n",
3805                   GNUNET_i2s (&neighbour->id),
3806                   va->transport_name);
3807       GNUNET_break (GNUNET_OK ==
3808                     GNUNET_CONTAINER_multihashmap_remove (validation_map,
3809                                                           &id.hashPubKey,
3810                                                           va));
3811       abort_validation (NULL, NULL, va);
3812       return;
3813     }
3814   hello_size = GNUNET_HELLO_size(our_hello);
3815   slen = strlen(va->transport_name) + 1;
3816   tsize = sizeof(struct TransportPingMessage) + hello_size + va->addrlen + slen;
3817   message_buf = GNUNET_malloc(tsize);
3818   ping.challenge = htonl(va->challenge);
3819   ping.header.size = htons(sizeof(struct TransportPingMessage) + slen + va->addrlen);
3820   ping.header.type = htons(GNUNET_MESSAGE_TYPE_TRANSPORT_PING);
3821   memcpy(&ping.target, &neighbour->id, sizeof(struct GNUNET_PeerIdentity));
3822   memcpy(message_buf, our_hello, hello_size);
3823   memcpy(&message_buf[hello_size],
3824          &ping,
3825          sizeof(struct TransportPingMessage));
3826   memcpy(&message_buf[hello_size + sizeof (struct TransportPingMessage)],
3827          va->transport_name,
3828          slen);
3829   memcpy(&message_buf[hello_size + sizeof (struct TransportPingMessage) + slen],
3830          &va[1],
3831          va->addrlen);
3832 #if DEBUG_TRANSPORT
3833   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3834               "Performing validation of address `%s' via `%s' for peer `%4s' sending `%s' (%u bytes) and `%s' (%u bytes)\n",
3835               (va->addrlen == 0)
3836               ? "<inbound>"
3837               : a2s (va->transport_name,
3838                      (const void*) &va[1], va->addrlen),
3839               va->transport_name,
3840               GNUNET_i2s (&neighbour->id),
3841               "HELLO", hello_size,
3842               "PING", sizeof (struct TransportPingMessage) + va->addrlen + slen);
3843 #endif
3844
3845   GNUNET_STATISTICS_update (stats,
3846                             gettext_noop ("# PING messages sent for initial validation"),
3847                             1,
3848                             GNUNET_NO);
3849   transmit_to_peer (NULL, peer_address,
3850                     GNUNET_SCHEDULER_PRIORITY_DEFAULT,
3851                     HELLO_VERIFICATION_TIMEOUT,
3852                     message_buf, tsize,
3853                     GNUNET_YES, neighbour);
3854   GNUNET_free(message_buf);
3855 }
3856
3857
3858 /**
3859  * Check if the given address is already being validated; if not,
3860  * append the given address to the list of entries that are being be
3861  * validated and initiate validation.
3862  *
3863  * @param cls closure ('struct CheckHelloValidatedContext *')
3864  * @param tname name of the transport
3865  * @param expiration expiration time
3866  * @param addr the address
3867  * @param addrlen length of the address
3868  * @return GNUNET_OK (always)
3869  */
3870 static int
3871 run_validation (void *cls,
3872                 const char *tname,
3873                 struct GNUNET_TIME_Absolute expiration,
3874                 const void *addr,
3875                 uint16_t addrlen)
3876 {
3877   struct CheckHelloValidatedContext *chvc = cls;
3878   struct GNUNET_PeerIdentity id;
3879   struct TransportPlugin *tp;
3880   struct ValidationEntry *va;
3881   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded pk;
3882   struct CheckAddressExistsClosure caec;
3883   struct OwnAddressList *oal;
3884
3885   GNUNET_assert (addr != NULL);
3886
3887   GNUNET_STATISTICS_update (stats,
3888                             gettext_noop ("# peer addresses scheduled for validation"),
3889                             1,
3890                             GNUNET_NO);
3891   tp = find_transport (tname);
3892   if (tp == NULL)
3893     {
3894       GNUNET_log (GNUNET_ERROR_TYPE_INFO |
3895                   GNUNET_ERROR_TYPE_BULK,
3896                   _
3897                   ("Transport `%s' not loaded, will not try to validate peer address using this transport.\n"),
3898                   tname);
3899       GNUNET_STATISTICS_update (stats,
3900                                 gettext_noop ("# peer addresses not validated (plugin not available)"),
3901                                 1,
3902                                 GNUNET_NO);
3903       return GNUNET_OK;
3904     }
3905   /* check if this is one of our own addresses */
3906   oal = tp->addresses;
3907   while (NULL != oal)
3908     {
3909       if ( (oal->addrlen == addrlen) &&
3910            (0 == memcmp (&oal[1],
3911                          addr,
3912                          addrlen)) )
3913         {
3914           /* not plausible, this address is equivalent to our own address! */
3915           GNUNET_STATISTICS_update (stats,
3916                                     gettext_noop ("# peer addresses not validated (loopback)"),
3917                                     1,
3918                                     GNUNET_NO);
3919           return GNUNET_OK;
3920         }
3921       oal = oal->next;
3922     }
3923   GNUNET_HELLO_get_key (chvc->hello, &pk);
3924   GNUNET_CRYPTO_hash (&pk,
3925                       sizeof (struct
3926                               GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
3927                       &id.hashPubKey);
3928
3929   if (is_blacklisted(&id, tp))
3930     {
3931 #if DEBUG_TRANSPORT
3932       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3933                   "Attempted to validate blacklisted peer `%s' using `%s'!\n",
3934                   GNUNET_i2s(&id),
3935                   tname);
3936 #endif
3937       return GNUNET_OK;
3938     }
3939
3940   caec.addr = addr;
3941   caec.addrlen = addrlen;
3942   caec.session = NULL;
3943   caec.tname = tname;
3944   caec.exists = GNUNET_NO;
3945   GNUNET_CONTAINER_multihashmap_iterate (validation_map,
3946                                          &check_address_exists,
3947                                          &caec);
3948   if (caec.exists == GNUNET_YES)
3949     {
3950       /* During validation attempts we will likely trigger the other
3951          peer trying to validate our address which in turn will cause
3952          it to send us its HELLO, so we expect to hit this case rather
3953          frequently.  Only print something if we are very verbose. */
3954 #if DEBUG_TRANSPORT > 1
3955       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3956                   "Validation of address `%s' via `%s' for peer `%4s' already in progress.\n",
3957                   a2s (tname, addr, addrlen),
3958                   tname,
3959                   GNUNET_i2s (&id));
3960 #endif
3961       GNUNET_STATISTICS_update (stats,
3962                                 gettext_noop ("# peer addresses not validated (in progress)"),
3963                                 1,
3964                                 GNUNET_NO);
3965       return GNUNET_OK;
3966     }
3967   va = GNUNET_malloc (sizeof (struct ValidationEntry) + addrlen);
3968   va->chvc = chvc;
3969   chvc->ve_count++;
3970   va->transport_name = GNUNET_strdup (tname);
3971   va->challenge = GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_NONCE,
3972                                             UINT_MAX);
3973   va->send_time = GNUNET_TIME_absolute_get();
3974   va->addr = (const void*) &va[1];
3975   memcpy (&va[1], addr, addrlen);
3976   va->addrlen = addrlen;
3977   GNUNET_HELLO_get_key (chvc->hello,
3978                         &va->publicKey);
3979   va->timeout_task = GNUNET_SCHEDULER_add_delayed (HELLO_VERIFICATION_TIMEOUT,
3980                                                    &timeout_hello_validation,
3981                                                    va);
3982   GNUNET_CONTAINER_multihashmap_put (validation_map,
3983                                      &id.hashPubKey,
3984                                      va,
3985                                      GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
3986   setup_peer_check_blacklist (&id, GNUNET_NO,
3987                               &transmit_hello_and_ping,
3988                               va);
3989   return GNUNET_OK;
3990 }
3991
3992
3993 /**
3994  * Check if addresses in validated hello "h" overlap with
3995  * those in "chvc->hello" and validate the rest.
3996  *
3997  * @param cls closure
3998  * @param peer id of the peer, NULL for last call
3999  * @param h hello message for the peer (can be NULL)
4000  */
4001 static void
4002 check_hello_validated (void *cls,
4003                        const struct GNUNET_PeerIdentity *peer,
4004                        const struct GNUNET_HELLO_Message *h)
4005 {
4006   struct CheckHelloValidatedContext *chvc = cls;
4007   struct GNUNET_HELLO_Message *plain_hello;
4008   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded pk;
4009   struct GNUNET_PeerIdentity target;
4010   struct NeighbourList *n;
4011
4012   if (peer == NULL)
4013     {
4014       GNUNET_STATISTICS_update (stats,
4015                                 gettext_noop ("# outstanding peerinfo iterate requests"),
4016                                 -1,
4017                                 GNUNET_NO);
4018       chvc->piter = NULL;
4019       if (GNUNET_NO == chvc->hello_known)
4020         {
4021           /* notify PEERINFO about the peer now, so that we at least
4022              have the public key if some other component needs it */
4023           GNUNET_HELLO_get_key (chvc->hello, &pk);
4024           GNUNET_CRYPTO_hash (&pk,
4025                               sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
4026                               &target.hashPubKey);
4027           plain_hello = GNUNET_HELLO_create (&pk,
4028                                              NULL,
4029                                              NULL);
4030           GNUNET_PEERINFO_add_peer (peerinfo, plain_hello);
4031           GNUNET_free (plain_hello);
4032 #if DEBUG_TRANSPORT_HELLO
4033           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4034                       "PEERINFO had no `%s' message for peer `%4s', full validation needed.\n",
4035                       "HELLO",
4036                       GNUNET_i2s (&target));
4037 #endif
4038           GNUNET_STATISTICS_update (stats,
4039                                     gettext_noop ("# new HELLOs requiring full validation"),
4040                                     1,
4041                                     GNUNET_NO);
4042           GNUNET_HELLO_iterate_addresses (chvc->hello,
4043                                           GNUNET_NO,
4044                                           &run_validation,
4045                                           chvc);
4046         }
4047       else
4048         {
4049           GNUNET_STATISTICS_update (stats,
4050                                     gettext_noop ("# duplicate HELLO (peer known)"),
4051                                     1,
4052                                     GNUNET_NO);
4053         }
4054       chvc->ve_count--;
4055       if (chvc->ve_count == 0)
4056         {
4057           GNUNET_CONTAINER_DLL_remove (chvc_head,
4058                                        chvc_tail,
4059                                        chvc);
4060           GNUNET_free (chvc);   
4061         }
4062       return;
4063     }
4064   if (h == NULL)
4065     return;
4066 #if DEBUG_TRANSPORT_HELLO
4067   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4068               "PEERINFO had `%s' message for peer `%4s', validating only new addresses.\n",
4069               "HELLO",
4070               GNUNET_i2s (peer));
4071 #endif
4072   chvc->hello_known = GNUNET_YES;
4073   n = find_neighbour (peer);
4074   if (n != NULL)
4075     {
4076 #if DEBUG_TRANSPORT_HELLO
4077       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4078                   "Calling hello_iterate_addresses for %s!\n",
4079                   GNUNET_i2s (peer));
4080 #endif
4081       GNUNET_HELLO_iterate_addresses (h,
4082                                       GNUNET_NO,
4083                                       &add_to_foreign_address_list,
4084                                       n);
4085       try_transmission_to_peer (n);
4086     }
4087   else
4088     {
4089 #if DEBUG_TRANSPORT_HELLO
4090       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4091                   "No existing neighbor record for %s!\n",
4092                   GNUNET_i2s (peer));
4093 #endif
4094       GNUNET_STATISTICS_update (stats,
4095                                 gettext_noop ("# no existing neighbour record (validating HELLO)"),
4096                                 1,
4097                                 GNUNET_NO);
4098     }
4099   GNUNET_STATISTICS_update (stats,
4100                             gettext_noop ("# HELLO validations (update case)"),
4101                             1,
4102                             GNUNET_NO);
4103   GNUNET_HELLO_iterate_new_addresses (chvc->hello,
4104                                       h,
4105                                       GNUNET_TIME_relative_to_absolute (HELLO_REVALIDATION_START_TIME),
4106                                       &run_validation,
4107                                       chvc);
4108 }
4109
4110
4111 /**
4112  * Process HELLO-message.
4113  *
4114  * @param plugin transport involved, may be NULL
4115  * @param message the actual message
4116  * @return GNUNET_OK if the HELLO was well-formed, GNUNET_SYSERR otherwise
4117  */
4118 static int
4119 process_hello (struct TransportPlugin *plugin,
4120                const struct GNUNET_MessageHeader *message)
4121 {
4122   uint16_t hsize;
4123   struct GNUNET_PeerIdentity target;
4124   const struct GNUNET_HELLO_Message *hello;
4125   struct CheckHelloValidatedContext *chvc;
4126   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded publicKey;
4127 #if DEBUG_TRANSPORT_HELLO > 2
4128   char *my_id;
4129 #endif
4130   hsize = ntohs (message->size);
4131   if ((ntohs (message->type) != GNUNET_MESSAGE_TYPE_HELLO) ||
4132       (hsize < sizeof (struct GNUNET_MessageHeader)))
4133     {
4134       GNUNET_break (0);
4135       return GNUNET_SYSERR;
4136     }
4137   GNUNET_STATISTICS_update (stats,
4138                             gettext_noop ("# HELLOs received for validation"),
4139                             1,
4140                             GNUNET_NO);
4141
4142   /* first, check if load is too high */
4143   if (GNUNET_SCHEDULER_get_load (GNUNET_SCHEDULER_PRIORITY_BACKGROUND) > MAX_HELLO_LOAD)
4144     {
4145       GNUNET_STATISTICS_update (stats,
4146                                 gettext_noop ("# HELLOs ignored due to high load"),
4147                                 1,
4148                                 GNUNET_NO);
4149 #if DEBUG_TRANSPORT_HELLO
4150       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4151                   "Ignoring `%s' for `%4s', load too high.\n",
4152                   "HELLO",
4153                   GNUNET_i2s (&target));
4154 #endif
4155       return GNUNET_OK;
4156     }
4157   hello = (const struct GNUNET_HELLO_Message *) message;
4158   if (GNUNET_OK != GNUNET_HELLO_get_key (hello, &publicKey))
4159     {
4160 #if DEBUG_TRANSPORT_HELLO
4161       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4162                   "Unable to get public key from `%s' for `%4s'!\n",
4163                   "HELLO",
4164                   GNUNET_i2s (&target));
4165 #endif
4166       GNUNET_break_op (0);
4167       return GNUNET_SYSERR;
4168     }
4169
4170   GNUNET_CRYPTO_hash (&publicKey,
4171                       sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
4172                       &target.hashPubKey);
4173
4174 #if DEBUG_TRANSPORT_HELLO
4175   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4176               "Received `%s' message for `%4s'\n",
4177               "HELLO",
4178               GNUNET_i2s (&target));
4179 #endif
4180
4181   if (0 == memcmp (&my_identity,
4182                    &target,
4183                    sizeof (struct GNUNET_PeerIdentity)))
4184     {
4185       GNUNET_STATISTICS_update (stats,
4186                                 gettext_noop ("# HELLOs ignored for validation (is my own HELLO)"),
4187                                 1,
4188                                 GNUNET_NO);
4189       return GNUNET_OK;
4190     }
4191   chvc = chvc_head;
4192   while (NULL != chvc)
4193     {
4194       if (GNUNET_HELLO_equals (hello,
4195                                chvc->hello,
4196                                GNUNET_TIME_absolute_get ()).abs_value > 0)
4197         {
4198 #if DEBUG_TRANSPORT_HELLO > 2
4199           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4200                       "Received duplicate `%s' message for `%4s'; ignored\n",
4201                       "HELLO",
4202                       GNUNET_i2s (&target));
4203 #endif
4204           return GNUNET_OK; /* validation already pending */
4205         }
4206       if (GNUNET_HELLO_size(hello) == GNUNET_HELLO_size (chvc->hello))
4207         GNUNET_break (0 != memcmp (hello, chvc->hello,
4208                                    GNUNET_HELLO_size(hello)));
4209       chvc = chvc->next;
4210     }
4211
4212 #if BREAK_TESTS
4213   struct NeighbourList *temp_neighbor = find_neighbour(&target);
4214   if ((NULL != temp_neighbor))
4215     {
4216       fprintf(stderr, "Already know peer, ignoring hello\n");
4217       return GNUNET_OK;
4218     }
4219 #endif
4220
4221 #if DEBUG_TRANSPORT_HELLO > 2
4222   if (plugin != NULL)
4223     {
4224       my_id = GNUNET_strdup(GNUNET_i2s(plugin->env.my_identity));
4225       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4226                   "%s: Starting validation of `%s' message for `%4s' via '%s' of size %u\n",
4227                   my_id,
4228                   "HELLO",
4229                   GNUNET_i2s (&target),
4230                   plugin->short_name,
4231                   GNUNET_HELLO_size(hello));
4232       GNUNET_free(my_id);
4233     }
4234 #endif
4235   chvc = GNUNET_malloc (sizeof (struct CheckHelloValidatedContext) + hsize);
4236   chvc->ve_count = 1;
4237   chvc->hello = (const struct GNUNET_HELLO_Message *) &chvc[1];
4238   memcpy (&chvc[1], hello, hsize);
4239   GNUNET_CONTAINER_DLL_insert (chvc_head,
4240                                chvc_tail,
4241                                chvc);
4242   /* finally, check if HELLO was previously validated
4243      (continuation will then schedule actual validation) */
4244   GNUNET_STATISTICS_update (stats,
4245                             gettext_noop ("# peerinfo process hello iterate requests"),
4246                             1,
4247                             GNUNET_NO);
4248   GNUNET_STATISTICS_update (stats,
4249                             gettext_noop ("# outstanding peerinfo iterate requests"),
4250                             1,
4251                             GNUNET_NO);
4252   chvc->piter = GNUNET_PEERINFO_iterate (peerinfo,
4253                                          &target,
4254                                          HELLO_VERIFICATION_TIMEOUT,
4255                                          &check_hello_validated, chvc);
4256   return GNUNET_OK;
4257 }
4258
4259
4260 /**
4261  * The peer specified by the given neighbour has timed-out or a plugin
4262  * has disconnected.  We may either need to do nothing (other plugins
4263  * still up), or trigger a full disconnect and clean up.  This
4264  * function updates our state and does the necessary notifications.
4265  * Also notifies our clients that the neighbour is now officially
4266  * gone.
4267  *
4268  * @param n the neighbour list entry for the peer
4269  * @param check GNUNET_YES to check if ALL addresses for this peer
4270  *              are gone, GNUNET_NO to force a disconnect of the peer
4271  *              regardless of whether other addresses exist.
4272  */
4273 static void
4274 disconnect_neighbour (struct NeighbourList *n, int check)
4275 {
4276   struct ReadyList *rpos;
4277   struct NeighbourList *npos;
4278   struct NeighbourList *nprev;
4279   struct MessageQueue *mq;
4280   struct ForeignAddressList *peer_addresses;
4281   struct ForeignAddressList *peer_pos;
4282
4283   if (GNUNET_YES == check)
4284     {
4285       rpos = n->plugins;
4286       while (NULL != rpos)
4287         {
4288           peer_addresses = rpos->addresses;
4289           while (peer_addresses != NULL)
4290             {
4291               if (GNUNET_YES == peer_addresses->connected)
4292                 {
4293                   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4294                             "NOT Disconnecting from `%4s', still have live addresses!\n",
4295                             GNUNET_i2s (&n->id));
4296                   return;             /* still connected */
4297                 }
4298               peer_addresses = peer_addresses->next;
4299             }
4300           rpos = rpos->next;
4301         }
4302     }
4303 #if DEBUG_TRANSPORT
4304   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
4305               "Disconnecting from `%4s'\n",
4306               GNUNET_i2s (&n->id));
4307 #endif
4308   /* remove n from neighbours list */
4309   nprev = NULL;
4310   npos = neighbours;
4311   while ((npos != NULL) && (npos != n))
4312     {
4313       nprev = npos;
4314       npos = npos->next;
4315     }
4316   GNUNET_assert (npos != NULL);
4317   if (nprev == NULL)
4318     neighbours = n->next;
4319   else
4320     nprev->next = n->next;
4321
4322   /* notify all clients about disconnect */
4323   if (GNUNET_YES == n->received_pong)
4324     notify_clients_disconnect (&n->id);
4325
4326   /* clean up all plugins, cancel connections and pending transmissions */
4327   while (NULL != (rpos = n->plugins))
4328     {
4329       n->plugins = rpos->next;
4330       rpos->plugin->api->disconnect (rpos->plugin->api->cls, &n->id);
4331       while (rpos->addresses != NULL)
4332         {
4333           peer_pos = rpos->addresses;
4334           rpos->addresses = peer_pos->next;
4335           if (peer_pos->connected == GNUNET_YES)
4336             GNUNET_STATISTICS_update (stats,
4337                                       gettext_noop ("# connected addresses"),
4338                                       -1,
4339                                       GNUNET_NO);
4340           if (GNUNET_YES == peer_pos->validated)
4341             GNUNET_STATISTICS_update (stats,
4342                                       gettext_noop ("# peer addresses considered valid"),
4343                                       -1,
4344                                       GNUNET_NO);
4345           if (GNUNET_SCHEDULER_NO_TASK != peer_pos->revalidate_task)
4346             {
4347               GNUNET_SCHEDULER_cancel (peer_pos->revalidate_task);
4348               peer_pos->revalidate_task = GNUNET_SCHEDULER_NO_TASK;
4349             }
4350           GNUNET_free(peer_pos);
4351         }
4352       GNUNET_free (rpos);
4353     }
4354
4355   /* free all messages on the queue */
4356   while (NULL != (mq = n->messages_head))
4357     {
4358       GNUNET_STATISTICS_update (stats,
4359                                 gettext_noop ("# bytes in message queue for other peers"),
4360                                 - (int64_t) mq->message_buf_size,
4361                                 GNUNET_NO);
4362       GNUNET_STATISTICS_update (stats,
4363                                 gettext_noop ("# bytes discarded due to disconnect"),
4364                                 mq->message_buf_size,
4365                                 GNUNET_NO);
4366       GNUNET_CONTAINER_DLL_remove (n->messages_head,
4367                                    n->messages_tail,
4368                                    mq);
4369       GNUNET_assert (0 == memcmp(&mq->neighbour_id,
4370                                  &n->id,
4371                                  sizeof(struct GNUNET_PeerIdentity)));
4372       GNUNET_free (mq);
4373     }
4374   if (n->timeout_task != GNUNET_SCHEDULER_NO_TASK)
4375     {
4376       GNUNET_SCHEDULER_cancel (n->timeout_task);
4377       n->timeout_task = GNUNET_SCHEDULER_NO_TASK;
4378     }
4379   if (n->retry_task != GNUNET_SCHEDULER_NO_TASK)
4380     {
4381       GNUNET_SCHEDULER_cancel (n->retry_task);
4382       n->retry_task = GNUNET_SCHEDULER_NO_TASK;
4383     }
4384   if (n->piter != NULL)
4385     {
4386       GNUNET_PEERINFO_iterate_cancel (n->piter);
4387       GNUNET_STATISTICS_update (stats,
4388                                 gettext_noop ("# outstanding peerinfo iterate requests"),
4389                                 -1,
4390                                 GNUNET_NO);
4391       n->piter = NULL;
4392     }
4393   /* finally, free n itself */
4394   GNUNET_STATISTICS_update (stats,
4395                             gettext_noop ("# active neighbours"),
4396                             -1,
4397                             GNUNET_NO);
4398   GNUNET_free_non_null (n->pre_connect_message_buffer);
4399   GNUNET_free (n);
4400 }
4401
4402
4403 /**
4404  * We have received a PING message from someone.  Need to send a PONG message
4405  * in response to the peer by any means necessary.
4406  */
4407 static int
4408 handle_ping(void *cls, const struct GNUNET_MessageHeader *message,
4409             const struct GNUNET_PeerIdentity *peer,
4410             struct Session *session,
4411             const char *sender_address,
4412             uint16_t sender_address_len)
4413 {
4414   struct TransportPlugin *plugin = cls;
4415   struct SessionHeader *session_header = (struct SessionHeader*) session;
4416   struct TransportPingMessage *ping;
4417   struct TransportPongMessage *pong;
4418   struct NeighbourList *n;
4419   struct ReadyList *rl;
4420   struct ForeignAddressList *fal;
4421   struct OwnAddressList *oal;
4422   const char *addr;
4423   size_t alen;
4424   size_t slen;
4425
4426   if (ntohs (message->size) < sizeof (struct TransportPingMessage))
4427     {
4428       GNUNET_break_op (0);
4429       return GNUNET_SYSERR;
4430     }
4431
4432   ping = (struct TransportPingMessage *) message;
4433   if (0 != memcmp (&ping->target,
4434                    plugin->env.my_identity,
4435                    sizeof (struct GNUNET_PeerIdentity)))
4436     {
4437       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4438                   _("Received `%s' message from `%s' destined for `%s' which is not me!\n"),
4439                   "PING",
4440                   (sender_address != NULL)
4441                   ? a2s (plugin->short_name,
4442                          (const struct sockaddr *)sender_address,
4443                          sender_address_len)
4444                   : "<inbound>",
4445                   GNUNET_i2s (&ping->target));
4446       return GNUNET_SYSERR;
4447     }
4448 #if DEBUG_PING_PONG
4449   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
4450               "Processing `%s' from `%s'\n",
4451               "PING",
4452               (sender_address != NULL)
4453               ? a2s (plugin->short_name,
4454                      (const struct sockaddr *)sender_address,
4455                      sender_address_len)
4456               : "<inbound>");
4457 #endif
4458   GNUNET_STATISTICS_update (stats,
4459                             gettext_noop ("# PING messages received"),
4460                             1,
4461                             GNUNET_NO);
4462   addr = (const char*) &ping[1];
4463   alen = ntohs (message->size) - sizeof (struct TransportPingMessage);
4464   slen = strlen (plugin->short_name) + 1;
4465   if (alen == 0)
4466     {
4467       /* peer wants to confirm that we have an outbound connection to him */
4468       if (session == NULL)
4469         {
4470           GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4471                       _("Refusing to create PONG since I do not have a session with `%s'.\n"),
4472                       GNUNET_i2s (peer));
4473           return GNUNET_SYSERR;
4474         }
4475       pong = GNUNET_malloc (sizeof (struct TransportPongMessage) + sender_address_len + slen);
4476       pong->header.size = htons (sizeof (struct TransportPongMessage) + sender_address_len + slen);
4477       pong->header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_PONG);
4478       pong->purpose.size =
4479         htonl (sizeof (struct GNUNET_CRYPTO_RsaSignaturePurpose) +
4480                sizeof (uint32_t) +
4481                sizeof (struct GNUNET_TIME_AbsoluteNBO) +
4482                sizeof (struct GNUNET_PeerIdentity) + sender_address_len + slen);
4483       pong->purpose.purpose = htonl (GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_USING);
4484       pong->challenge = ping->challenge;
4485       pong->addrlen = htonl(sender_address_len + slen);
4486       memcpy(&pong->pid,
4487              peer,
4488              sizeof(struct GNUNET_PeerIdentity));
4489       memcpy (&pong[1],
4490               plugin->short_name,
4491               slen);
4492       memcpy (&((char*)&pong[1])[slen],
4493               sender_address,
4494               sender_address_len);
4495       if (GNUNET_TIME_absolute_get_remaining (session_header->pong_sig_expires).rel_value < PONG_SIGNATURE_LIFETIME.rel_value / 4)
4496         {
4497           /* create / update cached sig */
4498 #if DEBUG_TRANSPORT
4499           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4500                       "Creating PONG signature to indicate active connection.\n");
4501 #endif
4502           session_header->pong_sig_expires = GNUNET_TIME_relative_to_absolute (PONG_SIGNATURE_LIFETIME);
4503           pong->expiration = GNUNET_TIME_absolute_hton (session_header->pong_sig_expires);
4504           GNUNET_assert (GNUNET_OK ==
4505                          GNUNET_CRYPTO_rsa_sign (my_private_key,
4506                                                  &pong->purpose,
4507                                                  &session_header->pong_signature));
4508         }
4509       else
4510         {
4511           pong->expiration = GNUNET_TIME_absolute_hton (session_header->pong_sig_expires);
4512         }
4513       memcpy (&pong->signature,
4514               &session_header->pong_signature,
4515               sizeof (struct GNUNET_CRYPTO_RsaSignature));
4516
4517
4518     }
4519   else
4520     {
4521       /* peer wants to confirm that this is one of our addresses */
4522       addr += slen;
4523       alen -= slen;
4524       if (GNUNET_OK !=
4525           plugin->api->check_address (plugin->api->cls,
4526                                       addr,
4527                                       alen))
4528         {
4529           GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4530                       _("Not confirming PING with address `%s' since I cannot confirm having this address.\n"),
4531                       a2s (plugin->short_name,
4532                            addr,
4533                            alen));
4534           return GNUNET_NO;
4535         }
4536       oal = plugin->addresses;
4537       while (NULL != oal)
4538         {
4539           if ( (oal->addrlen == alen) &&
4540                (0 == memcmp (addr,
4541                              &oal[1],
4542                              alen)) )
4543             break;
4544           oal = oal->next;
4545         }
4546       pong = GNUNET_malloc (sizeof (struct TransportPongMessage) + alen + slen);
4547       pong->header.size = htons (sizeof (struct TransportPongMessage) + alen + slen);
4548       pong->header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_PONG);
4549       pong->purpose.size =
4550         htonl (sizeof (struct GNUNET_CRYPTO_RsaSignaturePurpose) +
4551                sizeof (uint32_t) +
4552                sizeof (struct GNUNET_TIME_AbsoluteNBO) +
4553                sizeof (struct GNUNET_PeerIdentity) + alen + slen);
4554       pong->purpose.purpose = htonl (GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PONG_OWN);
4555       pong->challenge = ping->challenge;
4556       pong->addrlen = htonl(alen + slen);
4557       memcpy(&pong->pid,
4558              &my_identity,
4559              sizeof(struct GNUNET_PeerIdentity));
4560       memcpy (&pong[1], plugin->short_name, slen);
4561       memcpy (&((char*)&pong[1])[slen], addr, alen);
4562       if ( (oal != NULL) &&
4563            (GNUNET_TIME_absolute_get_remaining (oal->pong_sig_expires).rel_value < PONG_SIGNATURE_LIFETIME.rel_value / 4) )
4564         {
4565           /* create / update cached sig */
4566 #if DEBUG_TRANSPORT
4567           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4568                       "Creating PONG signature to indicate ownership.\n");
4569 #endif
4570           oal->pong_sig_expires = GNUNET_TIME_absolute_min (oal->expires,
4571                                                             GNUNET_TIME_relative_to_absolute (PONG_SIGNATURE_LIFETIME));
4572           pong->expiration = GNUNET_TIME_absolute_hton (oal->pong_sig_expires);
4573           GNUNET_assert (GNUNET_OK ==
4574                          GNUNET_CRYPTO_rsa_sign (my_private_key,
4575                                                  &pong->purpose,
4576                                                  &oal->pong_signature));        
4577           memcpy (&pong->signature,
4578                   &oal->pong_signature,
4579                   sizeof (struct GNUNET_CRYPTO_RsaSignature));
4580         }
4581       else if (oal == NULL)
4582         {
4583           /* not using cache (typically DV-only) */
4584           pong->expiration = GNUNET_TIME_absolute_hton (GNUNET_TIME_relative_to_absolute (PONG_SIGNATURE_LIFETIME));
4585           GNUNET_assert (GNUNET_OK ==
4586                          GNUNET_CRYPTO_rsa_sign (my_private_key,
4587                                                  &pong->purpose,
4588                                                  &pong->signature));    
4589         }
4590       else
4591         {
4592           /* can used cached version */
4593           pong->expiration = GNUNET_TIME_absolute_hton (oal->pong_sig_expires);
4594           memcpy (&pong->signature,
4595                   &oal->pong_signature,
4596                   sizeof (struct GNUNET_CRYPTO_RsaSignature));
4597         }
4598     }
4599   n = find_neighbour(peer);
4600   GNUNET_assert (n != NULL);
4601   /* first try reliable response transmission */
4602   rl = n->plugins;
4603   while (rl != NULL)
4604     {
4605       fal = rl->addresses;
4606       while (fal != NULL)
4607         {
4608           if (-1 != rl->plugin->api->send (rl->plugin->api->cls,
4609                                            peer,
4610                                            (const char*) pong,
4611                                            ntohs (pong->header.size),
4612                                            TRANSPORT_PONG_PRIORITY,
4613                                            HELLO_VERIFICATION_TIMEOUT,
4614                                            fal->session,
4615                                            fal->addr,
4616                                            fal->addrlen,
4617                                            GNUNET_SYSERR,
4618                                            NULL, NULL))
4619             {
4620               /* done! */
4621               GNUNET_STATISTICS_update (stats,
4622                                         gettext_noop ("# PONGs unicast via reliable transport"),
4623                                         1,
4624                                         GNUNET_NO);
4625               GNUNET_free (pong);
4626               return GNUNET_OK;
4627             }
4628           fal = fal->next;
4629         }
4630       rl = rl->next;
4631     }
4632   /* no reliable method found, do multicast */
4633   GNUNET_STATISTICS_update (stats,
4634                             gettext_noop ("# PONGs multicast to all available addresses"),
4635                             1,
4636                             GNUNET_NO);
4637   rl = n->plugins;
4638   while (rl != NULL)
4639     {
4640       fal = rl->addresses;
4641       while (fal != NULL)
4642         {
4643           transmit_to_peer(NULL, fal,
4644                            TRANSPORT_PONG_PRIORITY,
4645                            HELLO_VERIFICATION_TIMEOUT,
4646                            (const char *)pong,
4647                            ntohs(pong->header.size),
4648                            GNUNET_YES,
4649                            n);
4650           fal = fal->next;
4651         }
4652       rl = rl->next;
4653     }
4654   GNUNET_free(pong);
4655   return GNUNET_OK;
4656 }
4657
4658
4659 /**
4660  * Function called by the plugin for each received message.
4661  * Update data volumes, possibly notify plugins about
4662  * reducing the rate at which they read from the socket
4663  * and generally forward to our receive callback.
4664  *
4665  * @param cls the "struct TransportPlugin *" we gave to the plugin
4666  * @param peer (claimed) identity of the other peer
4667  * @param message the message, NULL if we only care about
4668  *                learning about the delay until we should receive again
4669  * @param distance in overlay hops; use 1 unless DV (or 0 if message == NULL)
4670  * @param session identifier used for this session (can be NULL)
4671  * @param sender_address binary address of the sender (if observed)
4672  * @param sender_address_len number of bytes in sender_address
4673  * @return how long in ms the plugin should wait until receiving more data
4674  *         (plugins that do not support this, can ignore the return value)
4675  */
4676 static struct GNUNET_TIME_Relative
4677 plugin_env_receive (void *cls, const struct GNUNET_PeerIdentity *peer,
4678                     const struct GNUNET_MessageHeader *message,
4679                     uint32_t distance,
4680                     struct Session *session,
4681                     const char *sender_address,
4682                     uint16_t sender_address_len)
4683 {
4684   struct TransportPlugin *plugin = cls;
4685   struct ReadyList *service_context;
4686   struct ForeignAddressList *peer_address;
4687   uint16_t msize;
4688   struct NeighbourList *n;
4689   struct GNUNET_TIME_Relative ret;
4690   if (is_blacklisted (peer, plugin))
4691     return GNUNET_TIME_UNIT_FOREVER_REL;
4692
4693   n = find_neighbour (peer);
4694   if (n == NULL)
4695     n = setup_new_neighbour (peer, GNUNET_YES);
4696   service_context = n->plugins;
4697   while ((service_context != NULL) && (plugin != service_context->plugin))
4698     service_context = service_context->next;
4699   GNUNET_assert ((plugin->api->send == NULL) || (service_context != NULL));
4700   peer_address = NULL;
4701   if (message != NULL)
4702     {
4703       if ( (session != NULL) ||
4704            (sender_address != NULL) )
4705         peer_address = add_peer_address (n,
4706                                          plugin->short_name,
4707                                          session,
4708                                          sender_address,
4709                                          sender_address_len);
4710       if (peer_address != NULL)
4711         {
4712           peer_address->distance = distance;
4713           if (GNUNET_YES == peer_address->validated)
4714             mark_address_connected (peer_address);
4715           peer_address->timeout
4716             =
4717             GNUNET_TIME_relative_to_absolute
4718             (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
4719           schedule_next_ping (peer_address);
4720         }
4721       /* update traffic received amount ... */
4722       msize = ntohs (message->size);
4723       GNUNET_STATISTICS_update (stats,
4724                                 gettext_noop ("# bytes received from other peers"),
4725                                 msize,
4726                                 GNUNET_NO);
4727       n->distance = distance;
4728       n->peer_timeout =
4729         GNUNET_TIME_relative_to_absolute
4730         (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
4731       GNUNET_SCHEDULER_cancel (n->timeout_task);
4732       n->timeout_task =
4733         GNUNET_SCHEDULER_add_delayed (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT,
4734                                       &neighbour_timeout_task, n);
4735       if (n->quota_violation_count > QUOTA_VIOLATION_DROP_THRESHOLD)
4736         {
4737           /* dropping message due to frequent inbound volume violations! */
4738           GNUNET_log (GNUNET_ERROR_TYPE_WARNING |
4739                       GNUNET_ERROR_TYPE_BULK,
4740                       _
4741                       ("Dropping incoming message due to repeated bandwidth quota (%u b/s) violations (total of %u).\n"),
4742                       n->in_tracker.available_bytes_per_s__,
4743                       n->quota_violation_count);
4744           GNUNET_STATISTICS_update (stats,
4745                                     gettext_noop ("# bandwidth quota violations by other peers"),
4746                                     1,
4747                                     GNUNET_NO);
4748           return GNUNET_CONSTANTS_QUOTA_VIOLATION_TIMEOUT;
4749         }
4750
4751 #if DEBUG_PING_PONG
4752           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4753                       "Received message of type %u and size %u from `%4s', sending to all clients.\n",
4754                       ntohs (message->type),
4755                       ntohs (message->size),
4756                       GNUNET_i2s (peer));
4757 #endif
4758       switch (ntohs (message->type))
4759         {
4760         case GNUNET_MESSAGE_TYPE_HELLO:
4761           GNUNET_STATISTICS_update (stats,
4762                                     gettext_noop ("# HELLO messages received from other peers"),
4763                                     1,
4764                                     GNUNET_NO);
4765           process_hello (plugin, message);
4766           break;
4767         case GNUNET_MESSAGE_TYPE_TRANSPORT_PING:
4768           handle_ping (plugin, message, peer, session, sender_address, sender_address_len);
4769           break;
4770         case GNUNET_MESSAGE_TYPE_TRANSPORT_PONG:
4771           handle_pong (plugin, message, peer, sender_address, sender_address_len);
4772           break;
4773         default:
4774           handle_payload_message (message, n, NULL, 0);
4775           break;
4776         }
4777     }
4778   ret = GNUNET_BANDWIDTH_tracker_get_delay (&n->in_tracker, 0);
4779   if (ret.rel_value > 0)
4780     {
4781       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4782                   "Throttling read (%llu bytes excess at %u b/s), waiting %llums before reading more.\n",
4783                   (unsigned long long) n->in_tracker.consumption_since_last_update__,
4784                   (unsigned int) n->in_tracker.available_bytes_per_s__,
4785                   (unsigned long long) ret.rel_value);
4786       GNUNET_STATISTICS_update (stats,
4787                                 gettext_noop ("# ms throttling suggested"),
4788                                 (int64_t) ret.rel_value,
4789                                 GNUNET_NO);
4790     }
4791   return ret;
4792 }
4793
4794 /**
4795  * Handle START-message.  This is the first message sent to us
4796  * by any client which causes us to add it to our list.
4797  *
4798  * @param cls closure (always NULL)
4799  * @param client identification of the client
4800  * @param message the actual message
4801  */
4802 static void
4803 handle_start (void *cls,
4804               struct GNUNET_SERVER_Client *client,
4805               const struct GNUNET_MessageHeader *message)
4806 {
4807   const struct StartMessage *start;
4808   struct TransportClient *c;
4809   struct ConnectInfoMessage cim;
4810   struct NeighbourList *n;
4811
4812   start = (const struct StartMessage*) message;
4813 #if DEBUG_TRANSPORT
4814   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4815               "Received `%s' request from client\n", "START");
4816 #endif
4817   c = clients;
4818   while (c != NULL)
4819     {
4820       if (c->client == client)
4821         {
4822           /* client already on our list! */
4823           GNUNET_break (0);
4824           GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4825           return;
4826         }
4827       c = c->next;
4828     }
4829   if ( (GNUNET_NO != ntohl (start->do_check)) &&
4830        (0 != memcmp (&start->self,
4831                      &my_identity,
4832                      sizeof (struct GNUNET_PeerIdentity))) )
4833     {
4834       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4835                   _("Rejecting control connection from peer `%s', which is not me!\n"),
4836                   GNUNET_i2s (&start->self));
4837       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4838       return;
4839     }
4840   c = GNUNET_malloc (sizeof (struct TransportClient));
4841   c->next = clients;
4842   clients = c;
4843   c->client = client;
4844   if (our_hello != NULL)
4845     {
4846 #if DEBUG_TRANSPORT
4847       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4848                   "Sending our own `%s' to new client\n", "HELLO");
4849 #endif
4850       transmit_to_client (c,
4851                           (const struct GNUNET_MessageHeader *) our_hello,
4852                           GNUNET_NO);
4853       /* tell new client about all existing connections */
4854       cim.header.size = htons (sizeof (struct ConnectInfoMessage));
4855       cim.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_CONNECT);
4856       n = neighbours;
4857       while (n != NULL)
4858         {
4859           if (GNUNET_YES == n->received_pong)
4860             {
4861               cim.id = n->id;
4862               cim.latency = GNUNET_TIME_relative_hton (n->latency);
4863               cim.distance = htonl (n->distance);
4864               transmit_to_client (c, &cim.header, GNUNET_NO);
4865             }
4866             n = n->next;
4867         }
4868     }
4869   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4870 }
4871
4872
4873 /**
4874  * Handle HELLO-message.
4875  *
4876  * @param cls closure (always NULL)
4877  * @param client identification of the client
4878  * @param message the actual message
4879  */
4880 static void
4881 handle_hello (void *cls,
4882               struct GNUNET_SERVER_Client *client,
4883               const struct GNUNET_MessageHeader *message)
4884 {
4885   int ret;
4886
4887   GNUNET_STATISTICS_update (stats,
4888                             gettext_noop ("# HELLOs received from clients"),
4889                             1,
4890                             GNUNET_NO);
4891   ret = process_hello (NULL, message);
4892   GNUNET_SERVER_receive_done (client, ret);
4893 }
4894
4895
4896 /**
4897  * Closure for 'transmit_client_message'; followed by
4898  * 'msize' bytes of the actual message.
4899  */
4900 struct TransmitClientMessageContext
4901 {
4902   /**
4903    * Client on whom's behalf we are sending.
4904    */
4905   struct GNUNET_SERVER_Client *client;
4906
4907   /**
4908    * Timeout for the transmission.
4909    */
4910   struct GNUNET_TIME_Absolute timeout;
4911
4912   /**
4913    * Message priority.
4914    */
4915   uint32_t priority;
4916
4917   /**
4918    * Size of the message in bytes.
4919    */
4920   uint16_t msize;
4921 };
4922
4923
4924 /**
4925  * Schedule transmission of a message we got from a client to a peer.
4926  *
4927  * @param cls the 'struct TransmitClientMessageContext*'
4928  * @param n destination, or NULL on error (in that case, drop the message)
4929  */
4930 static void
4931 transmit_client_message (void *cls,
4932                          struct NeighbourList *n)
4933 {
4934   struct TransmitClientMessageContext *tcmc = cls;
4935   struct TransportClient *tc;
4936
4937   tc = clients;
4938   while ((tc != NULL) && (tc->client != tcmc->client))
4939     tc = tc->next;
4940
4941   if (n != NULL)
4942     {
4943       transmit_to_peer (tc, NULL, tcmc->priority,
4944                         GNUNET_TIME_absolute_get_remaining (tcmc->timeout),
4945                         (char *)&tcmc[1],
4946                         tcmc->msize, GNUNET_NO, n);
4947     }
4948   GNUNET_SERVER_receive_done (tcmc->client, GNUNET_OK);
4949   GNUNET_SERVER_client_drop (tcmc->client);
4950   GNUNET_free (tcmc);
4951 }
4952
4953
4954 /**
4955  * Handle SEND-message.
4956  *
4957  * @param cls closure (always NULL)
4958  * @param client identification of the client
4959  * @param message the actual message
4960  */
4961 static void
4962 handle_send (void *cls,
4963              struct GNUNET_SERVER_Client *client,
4964              const struct GNUNET_MessageHeader *message)
4965 {
4966   const struct OutboundMessage *obm;
4967   const struct GNUNET_MessageHeader *obmm;
4968   struct TransmitClientMessageContext *tcmc;
4969   uint16_t size;
4970   uint16_t msize;
4971
4972   size = ntohs (message->size);
4973   if (size <
4974       sizeof (struct OutboundMessage) + sizeof (struct GNUNET_MessageHeader))
4975     {
4976       GNUNET_break (0);
4977       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4978       return;
4979     }
4980   GNUNET_STATISTICS_update (stats,
4981                             gettext_noop ("# payload received for other peers"),
4982                             size,
4983                             GNUNET_NO);
4984   obm = (const struct OutboundMessage *) message;
4985   obmm = (const struct GNUNET_MessageHeader *) &obm[1];
4986   msize = size - sizeof (struct OutboundMessage);
4987
4988   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4989               "Received `%s' request from client with target `%4s' and message of type %u and size %u\n",
4990               "SEND", GNUNET_i2s (&obm->peer),
4991               ntohs (obmm->type),
4992               msize);
4993
4994   tcmc = GNUNET_malloc (sizeof (struct TransmitClientMessageContext) + msize);
4995   tcmc->client = client;
4996   tcmc->priority = ntohl (obm->priority);
4997   tcmc->timeout = GNUNET_TIME_relative_to_absolute (GNUNET_TIME_relative_ntoh (obm->timeout));
4998   tcmc->msize = msize;
4999   /* FIXME: this memcpy can be up to 7% of our total runtime */
5000   memcpy (&tcmc[1], obmm, msize);
5001   GNUNET_SERVER_client_keep (client);
5002   setup_peer_check_blacklist (&obm->peer, GNUNET_YES,
5003                               &transmit_client_message,
5004                               tcmc);
5005 }
5006
5007
5008 /**
5009  * Handle request connect message
5010  *
5011  * @param cls closure (always NULL)
5012  * @param client identification of the client
5013  * @param message the actual message
5014  */
5015 static void
5016 handle_request_connect (void *cls,
5017                         struct GNUNET_SERVER_Client *client,
5018                         const struct GNUNET_MessageHeader *message)
5019 {
5020   const struct TransportRequestConnectMessage *trcm =
5021     (const struct TransportRequestConnectMessage *) message;
5022
5023   GNUNET_STATISTICS_update (stats,
5024                             gettext_noop ("# REQUEST CONNECT messages received"),
5025                             1,
5026                             GNUNET_NO);
5027   GNUNET_log(GNUNET_ERROR_TYPE_DEBUG, "Received a request connect message for peer %s\n", GNUNET_i2s(&trcm->peer));
5028   setup_peer_check_blacklist (&trcm->peer, GNUNET_YES,
5029                               NULL, NULL);
5030   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5031 }
5032
5033 /**
5034  * Handle SET_QUOTA-message.
5035  *
5036  * @param cls closure (always NULL)
5037  * @param client identification of the client
5038  * @param message the actual message
5039  */
5040 static void
5041 handle_set_quota (void *cls,
5042                   struct GNUNET_SERVER_Client *client,
5043                   const struct GNUNET_MessageHeader *message)
5044 {
5045   const struct QuotaSetMessage *qsm =
5046     (const struct QuotaSetMessage *) message;
5047   struct NeighbourList *n;
5048
5049   GNUNET_STATISTICS_update (stats,
5050                             gettext_noop ("# SET QUOTA messages received"),
5051                             1,
5052                             GNUNET_NO);
5053   n = find_neighbour (&qsm->peer);
5054   if (n == NULL)
5055     {
5056       GNUNET_SERVER_receive_done (client, GNUNET_OK);
5057       GNUNET_STATISTICS_update (stats,
5058                                 gettext_noop ("# SET QUOTA messages ignored (no such peer)"),
5059                                 1,
5060                                 GNUNET_NO);
5061       return;
5062     }
5063 #if DEBUG_TRANSPORT
5064   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5065               "Received `%s' request (new quota %u, old quota %u) from client for peer `%4s'\n",
5066               "SET_QUOTA",
5067               (unsigned int) ntohl (qsm->quota.value__),
5068               (unsigned int) n->in_tracker.available_bytes_per_s__,
5069               GNUNET_i2s (&qsm->peer));
5070 #endif
5071   GNUNET_BANDWIDTH_tracker_update_quota (&n->in_tracker,
5072                                          qsm->quota);
5073   if (0 == ntohl (qsm->quota.value__))
5074     {
5075       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5076                 "Disconnecting peer `%4s', %s\n", GNUNET_i2s(&n->id),
5077                 "SET_QUOTA");
5078       disconnect_neighbour (n, GNUNET_NO);
5079     }
5080   GNUNET_SERVER_receive_done (client, GNUNET_OK);
5081 }
5082
5083
5084 /**
5085  * Take the given address and append it to the set of results sent back to
5086  * the client.
5087  *
5088  * @param cls the transmission context used ('struct GNUNET_SERVER_TransmitContext*')
5089  * @param address the resolved name, NULL to indicate the last response
5090  */
5091 static void
5092 transmit_address_to_client (void *cls, const char *address)
5093 {
5094   struct GNUNET_SERVER_TransmitContext *tc = cls;
5095   size_t slen;
5096
5097   if (NULL == address)
5098     slen = 0;
5099   else
5100     slen = strlen (address) + 1;
5101
5102   GNUNET_SERVER_transmit_context_append_data (tc, address, slen,
5103                                               GNUNET_MESSAGE_TYPE_TRANSPORT_ADDRESS_REPLY);
5104   if (NULL == address)
5105     GNUNET_SERVER_transmit_context_run (tc, GNUNET_TIME_UNIT_FOREVER_REL);
5106 }
5107
5108
5109 /**
5110  * Handle AddressLookup-message.
5111  *
5112  * @param cls closure (always NULL)
5113  * @param client identification of the client
5114  * @param message the actual message
5115  */
5116 static void
5117 handle_address_lookup (void *cls,
5118                        struct GNUNET_SERVER_Client *client,
5119                        const struct GNUNET_MessageHeader *message)
5120 {
5121   const struct AddressLookupMessage *alum;
5122   struct TransportPlugin *lsPlugin;
5123   const char *nameTransport;
5124   const char *address;
5125   uint16_t size;
5126   struct GNUNET_SERVER_TransmitContext *tc;
5127   struct GNUNET_TIME_Absolute timeout;
5128   struct GNUNET_TIME_Relative rtimeout;
5129   int32_t numeric;
5130
5131   size = ntohs (message->size);
5132   if (size < sizeof (struct AddressLookupMessage))
5133     {
5134       GNUNET_break_op (0);
5135       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5136       return;
5137     }
5138   alum = (const struct AddressLookupMessage *) message;
5139   uint32_t addressLen = ntohl (alum->addrlen);
5140   if (size <= sizeof (struct AddressLookupMessage) + addressLen)
5141     {
5142       GNUNET_break_op (0);
5143       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5144       return;
5145     }
5146   address = (const char *) &alum[1];
5147   nameTransport = (const char *) &address[addressLen];
5148   if (nameTransport
5149       [size - sizeof (struct AddressLookupMessage) - addressLen - 1] != '\0')
5150     {
5151       GNUNET_break_op (0);
5152       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
5153       return;
5154     }
5155   timeout = GNUNET_TIME_absolute_ntoh (alum->timeout);
5156   rtimeout = GNUNET_TIME_absolute_get_remaining (timeout);
5157   numeric = ntohl (alum->numeric_only);
5158   lsPlugin = find_transport (nameTransport);
5159   if (NULL == lsPlugin)
5160     {
5161       tc = GNUNET_SERVER_transmit_context_create (client);
5162       GNUNET_SERVER_transmit_context_append_data (tc, NULL, 0,
5163                                                   GNUNET_MESSAGE_TYPE_TRANSPORT_ADDRESS_REPLY);
5164       GNUNET_SERVER_transmit_context_run (tc, rtimeout);
5165       return;
5166     }
5167   tc = GNUNET_SERVER_transmit_context_create (client);
5168   lsPlugin->api->address_pretty_printer (lsPlugin->api->cls,
5169                                          nameTransport,
5170                                          address, addressLen,
5171                                          numeric,
5172                                          rtimeout,
5173                                          &transmit_address_to_client, tc);
5174 }
5175
5176
5177 /**
5178  * Setup the environment for this plugin.
5179  */
5180 static void
5181 create_environment (struct TransportPlugin *plug)
5182 {
5183   plug->env.cfg = cfg;
5184   plug->env.my_identity = &my_identity;
5185   plug->env.our_hello = &our_hello;
5186   plug->env.cls = plug;
5187   plug->env.receive = &plugin_env_receive;
5188   plug->env.notify_address = &plugin_env_notify_address;
5189   plug->env.session_end = &plugin_env_session_end;
5190   plug->env.max_connections = max_connect_per_transport;
5191   plug->env.stats = stats;
5192 }
5193
5194
5195 /**
5196  * Start the specified transport (load the plugin).
5197  */
5198 static void
5199 start_transport (struct GNUNET_SERVER_Handle *server,
5200                  const char *name)
5201 {
5202   struct TransportPlugin *plug;
5203   char *libname;
5204
5205   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5206               _("Loading `%s' transport plugin\n"), name);
5207   GNUNET_asprintf (&libname, "libgnunet_plugin_transport_%s", name);
5208   plug = GNUNET_malloc (sizeof (struct TransportPlugin));
5209   create_environment (plug);
5210   plug->short_name = GNUNET_strdup (name);
5211   plug->lib_name = libname;
5212   plug->next = plugins;
5213   plugins = plug;
5214   plug->api = GNUNET_PLUGIN_load (libname, &plug->env);
5215   if (plug->api == NULL)
5216     {
5217       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5218                   _("Failed to load transport plugin for `%s'\n"), name);
5219       GNUNET_free (plug->short_name);
5220       plugins = plug->next;
5221       GNUNET_free (libname);
5222       GNUNET_free (plug);
5223     }
5224 }
5225
5226
5227 /**
5228  * Called whenever a client is disconnected.  Frees our
5229  * resources associated with that client.
5230  *
5231  * @param cls closure
5232  * @param client identification of the client
5233  */
5234 static void
5235 client_disconnect_notification (void *cls,
5236                                 struct GNUNET_SERVER_Client *client)
5237 {
5238   struct TransportClient *pos;
5239   struct TransportClient *prev;
5240   struct ClientMessageQueueEntry *mqe;
5241   struct Blacklisters *bl;
5242   struct BlacklistCheck *bc;
5243
5244   if (client == NULL)
5245     return;
5246 #if DEBUG_TRANSPORT
5247   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
5248               "Client disconnected, cleaning up.\n");
5249 #endif
5250   /* clean up blacklister */
5251   bl = bl_head;
5252   while (bl != NULL)
5253     {
5254       if (bl->client == client)
5255         {
5256           bc = bc_head;
5257           while (bc != NULL)
5258             {
5259               if (bc->bl_pos == bl)
5260                 {
5261                   bc->bl_pos = bl->next;
5262                   if (bc->th != NULL)
5263                     {
5264                       GNUNET_CONNECTION_notify_transmit_ready_cancel (bc->th);
5265                       bc->th = NULL;            
5266                     }
5267                   if (bc->task == GNUNET_SCHEDULER_NO_TASK)
5268                     bc->task = GNUNET_SCHEDULER_add_now (&do_blacklist_check,
5269                                                          bc);
5270                   break;
5271                 }
5272               bc = bc->next;
5273             }
5274           GNUNET_CONTAINER_DLL_remove (bl_head,
5275                                        bl_tail,
5276                                        bl);
5277           GNUNET_SERVER_client_drop (bl->client);
5278           GNUNET_free (bl);
5279           break;
5280         }
5281       bl = bl->next;
5282     }
5283   /* clean up 'normal' clients */
5284   prev = NULL;
5285   pos = clients;
5286   while ((pos != NULL) && (pos->client != client))
5287     {
5288       prev = pos;
5289       pos = pos->next;
5290     }
5291   if (pos == NULL)
5292     return;
5293   while (NULL != (mqe = pos->message_queue_head))
5294     {
5295       GNUNET_CONTAINER_DLL_remove (pos->message_queue_head,
5296                                    pos->message_queue_tail,
5297                                    mqe);
5298       pos->message_count--;
5299       GNUNET_free (mqe);
5300     }
5301   if (prev == NULL)
5302     clients = pos->next;
5303   else
5304     prev->next = pos->next;
5305   if (GNUNET_YES == pos->tcs_pending)
5306     {
5307       pos->client = NULL;
5308       return;
5309     }
5310   if (pos->th != NULL)
5311     {
5312       GNUNET_CONNECTION_notify_transmit_ready_cancel (pos->th);
5313       pos->th = NULL;
5314     }
5315   GNUNET_break (0 == pos->message_count);
5316   GNUNET_free (pos);
5317 }
5318
5319
5320 /**
5321  * Function called when the service shuts down.  Unloads our plugins
5322  * and cancels pending validations.
5323  *
5324  * @param cls closure, unused
5325  * @param tc task context (unused)
5326  */
5327 static void
5328 shutdown_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
5329 {
5330   struct TransportPlugin *plug;
5331   struct OwnAddressList *al;
5332   struct CheckHelloValidatedContext *chvc;
5333
5334   while (neighbours != NULL)
5335     {
5336       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5337               "Disconnecting peer `%4s', %s\n", GNUNET_i2s(&neighbours->id),
5338               "SHUTDOWN_TASK");
5339       disconnect_neighbour (neighbours, GNUNET_NO);
5340     }
5341 #if DEBUG_TRANSPORT
5342   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
5343               "Transport service is unloading plugins...\n");
5344 #endif
5345   while (NULL != (plug = plugins))
5346     {
5347       plugins = plug->next;
5348       if (plug->address_update_task != GNUNET_SCHEDULER_NO_TASK)
5349         {
5350           GNUNET_SCHEDULER_cancel (plug->address_update_task);
5351           plug->address_update_task = GNUNET_SCHEDULER_NO_TASK;
5352         }
5353       GNUNET_break (NULL == GNUNET_PLUGIN_unload (plug->lib_name, plug->api));
5354       GNUNET_free (plug->lib_name);
5355       GNUNET_free (plug->short_name);
5356       while (NULL != (al = plug->addresses))
5357         {
5358           plug->addresses = al->next;
5359           GNUNET_free (al);
5360         }
5361       GNUNET_free (plug);
5362     }
5363   if (my_private_key != NULL)
5364     GNUNET_CRYPTO_rsa_key_free (my_private_key);
5365   GNUNET_free_non_null (our_hello);
5366
5367   GNUNET_CONTAINER_multihashmap_iterate (validation_map,
5368                                          &abort_validation,
5369                                          NULL);
5370   GNUNET_CONTAINER_multihashmap_destroy (validation_map);
5371   validation_map = NULL;
5372
5373   /* free 'chvc' data structure */
5374   while (NULL != (chvc = chvc_head))
5375     {
5376       chvc_head = chvc->next;
5377       if (chvc->piter != NULL)
5378         {
5379           GNUNET_PEERINFO_iterate_cancel (chvc->piter);
5380           GNUNET_STATISTICS_update (stats,
5381                                     gettext_noop ("# outstanding peerinfo iterate requests"),
5382                                     -1,
5383                                     GNUNET_NO);
5384         }
5385       else
5386         GNUNET_break (0);
5387       GNUNET_assert (chvc->ve_count == 0);
5388       GNUNET_free (chvc);
5389     }
5390   chvc_tail = NULL;
5391
5392   if (stats != NULL)
5393     {
5394       GNUNET_STATISTICS_destroy (stats, GNUNET_NO);
5395       stats = NULL;
5396     }
5397   if (peerinfo != NULL)
5398     {
5399       GNUNET_PEERINFO_disconnect (peerinfo);
5400       peerinfo = NULL;
5401     }
5402   /* Can we assume those are gone by now, or do we need to clean up
5403      explicitly!? */
5404   GNUNET_break (bl_head == NULL);
5405   GNUNET_break (bc_head == NULL);
5406 }
5407
5408
5409 /**
5410  * Initiate transport service.
5411  *
5412  * @param cls closure
5413  * @param server the initialized server
5414  * @param c configuration to use
5415  */
5416 static void
5417 run (void *cls,
5418      struct GNUNET_SERVER_Handle *server,
5419      const struct GNUNET_CONFIGURATION_Handle *c)
5420 {
5421   static const struct GNUNET_SERVER_MessageHandler handlers[] = {
5422     {&handle_start, NULL,
5423      GNUNET_MESSAGE_TYPE_TRANSPORT_START, sizeof (struct StartMessage)},
5424     {&handle_hello, NULL,
5425      GNUNET_MESSAGE_TYPE_HELLO, 0},
5426     {&handle_send, NULL,
5427      GNUNET_MESSAGE_TYPE_TRANSPORT_SEND, 0},
5428     {&handle_request_connect, NULL,
5429      GNUNET_MESSAGE_TYPE_TRANSPORT_REQUEST_CONNECT, sizeof(struct TransportRequestConnectMessage)},
5430     {&handle_set_quota, NULL,
5431      GNUNET_MESSAGE_TYPE_TRANSPORT_SET_QUOTA, sizeof (struct QuotaSetMessage)},
5432     {&handle_address_lookup, NULL,
5433      GNUNET_MESSAGE_TYPE_TRANSPORT_ADDRESS_LOOKUP,
5434      0},
5435     {&handle_blacklist_init, NULL,
5436      GNUNET_MESSAGE_TYPE_TRANSPORT_BLACKLIST_INIT, sizeof (struct GNUNET_MessageHeader)},
5437     {&handle_blacklist_reply, NULL,
5438      GNUNET_MESSAGE_TYPE_TRANSPORT_BLACKLIST_REPLY, sizeof (struct BlacklistMessage)},
5439     {NULL, NULL, 0, 0}
5440   };
5441   char *plugs;
5442   char *pos;
5443   int no_transports;
5444   unsigned long long tneigh;
5445   char *keyfile;
5446
5447   cfg = c;
5448   stats = GNUNET_STATISTICS_create ("transport", cfg);
5449   validation_map = GNUNET_CONTAINER_multihashmap_create (64);
5450   /* parse configuration */
5451   if ((GNUNET_OK !=
5452        GNUNET_CONFIGURATION_get_value_number (c,
5453                                               "TRANSPORT",
5454                                               "NEIGHBOUR_LIMIT",
5455                                               &tneigh)) ||
5456       (GNUNET_OK !=
5457        GNUNET_CONFIGURATION_get_value_filename (c,
5458                                                 "GNUNETD",
5459                                                 "HOSTKEY", &keyfile)))
5460     {
5461       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5462                   _
5463                   ("Transport service is lacking key configuration settings.  Exiting.\n"));
5464       GNUNET_SCHEDULER_shutdown ();
5465       if (stats != NULL)
5466         {
5467           GNUNET_STATISTICS_destroy (stats, GNUNET_NO);
5468           stats = NULL;
5469         }
5470       GNUNET_CONTAINER_multihashmap_destroy (validation_map);
5471       validation_map = NULL;
5472       return;
5473     }
5474   max_connect_per_transport = (uint32_t) tneigh;
5475   peerinfo = GNUNET_PEERINFO_connect (cfg);
5476   if (peerinfo == NULL)
5477     {
5478       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5479                   _("Could not access PEERINFO service.  Exiting.\n")); 
5480       GNUNET_SCHEDULER_shutdown ();
5481       if (stats != NULL)
5482         {
5483           GNUNET_STATISTICS_destroy (stats, GNUNET_NO);
5484           stats = NULL;
5485         }
5486       GNUNET_CONTAINER_multihashmap_destroy (validation_map);
5487       validation_map = NULL;
5488       GNUNET_free (keyfile);
5489       return;
5490     }
5491   my_private_key = GNUNET_CRYPTO_rsa_key_create_from_file (keyfile);
5492   GNUNET_free (keyfile);
5493   if (my_private_key == NULL)
5494     {
5495       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
5496                   _
5497                   ("Transport service could not access hostkey.  Exiting.\n"));
5498       GNUNET_SCHEDULER_shutdown ();
5499       if (stats != NULL)
5500         {
5501           GNUNET_STATISTICS_destroy (stats, GNUNET_NO);
5502           stats = NULL;
5503         }
5504       GNUNET_CONTAINER_multihashmap_destroy (validation_map);
5505       validation_map = NULL;
5506       return;
5507     }
5508   GNUNET_CRYPTO_rsa_key_get_public (my_private_key, &my_public_key);
5509   GNUNET_CRYPTO_hash (&my_public_key,
5510                       sizeof (my_public_key), &my_identity.hashPubKey);
5511   /* setup notification */
5512   GNUNET_SERVER_disconnect_notify (server,
5513                                    &client_disconnect_notification, NULL);
5514   /* load plugins... */
5515   no_transports = 1;
5516   if (GNUNET_OK ==
5517       GNUNET_CONFIGURATION_get_value_string (c,
5518                                              "TRANSPORT", "PLUGINS", &plugs))
5519     {
5520       GNUNET_log (GNUNET_ERROR_TYPE_INFO,
5521                   _("Starting transport plugins `%s'\n"), plugs);
5522       pos = strtok (plugs, " ");
5523       while (pos != NULL)
5524         {
5525           start_transport (server, pos);
5526           no_transports = 0;
5527           pos = strtok (NULL, " ");
5528         }
5529       GNUNET_free (plugs);
5530     }
5531   GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_UNIT_FOREVER_REL,
5532                                 &shutdown_task, NULL);
5533   if (no_transports)
5534     refresh_hello ();
5535
5536 #if DEBUG_TRANSPORT
5537   GNUNET_log (GNUNET_ERROR_TYPE_INFO, _("Transport service ready.\n"));
5538 #endif
5539   /* If we have a blacklist file, read from it */
5540   read_blacklist_file(cfg);
5541   /* process client requests */
5542   GNUNET_SERVER_add_handlers (server, handlers);
5543 }
5544
5545
5546 /**
5547  * The main function for the transport service.
5548  *
5549  * @param argc number of arguments from the command line
5550  * @param argv command line arguments
5551  * @return 0 ok, 1 on error
5552  */
5553 int
5554 main (int argc, char *const *argv)
5555 {
5556   a2s (NULL, NULL, 0); /* make compiler happy */
5557   return (GNUNET_OK ==
5558           GNUNET_SERVICE_run (argc,
5559                               argv,
5560                               "transport",
5561                               GNUNET_SERVICE_OPTION_NONE,
5562                               &run, NULL)) ? 0 : 1;
5563 }
5564
5565 /* end of gnunet-service-transport.c */