ignore addresses of other peers that are equal to our own
[oweals/gnunet.git] / src / transport / gnunet-service-transport.c
1 /*
2      This file is part of GNUnet.
3      (C) 2009, 2010 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 2, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file transport/gnunet-service-transport.c
23  * @brief low-level P2P messaging
24  * @author Christian Grothoff
25  *
26  * NOTE:
27  * - This code uses 'GNUNET_a2s' for debug printing in many places,
28  *   which is technically wrong since it assumes we have IP+Port 
29  *   (v4/v6) addresses.  Once we add transports like http or smtp
30  *   this will have to be changed!
31  * - Already wrong with dv.
32  */
33 #include "platform.h"
34 #include "gnunet_client_lib.h"
35 #include "gnunet_container_lib.h"
36 #include "gnunet_constants.h"
37 #include "gnunet_getopt_lib.h"
38 #include "gnunet_hello_lib.h"
39 #include "gnunet_os_lib.h"
40 #include "gnunet_peerinfo_service.h"
41 #include "gnunet_plugin_lib.h"
42 #include "gnunet_protocols.h"
43 #include "gnunet_service_lib.h"
44 #include "gnunet_signatures.h"
45 #include "plugin_transport.h"
46 #include "transport.h"
47
48 #define DEBUG_BLACKLIST GNUNET_NO
49
50 #define DEBUG_PING_PONG GNUNET_NO
51
52 /**
53  * Should we do some additional checks (to validate behavior
54  * of clients)?
55  */
56 #define EXTRA_CHECKS GNUNET_YES
57
58 /**
59  * How many messages can we have pending for a given client process
60  * before we start to drop incoming messages?  We typically should
61  * have only one client and so this would be the primary buffer for
62  * messages, so the number should be chosen rather generously.
63  *
64  * The expectation here is that most of the time the queue is large
65  * enough so that a drop is virtually never required.
66  */
67 #define MAX_PENDING 128
68
69 /**
70  * Size of the per-transport blacklist hash maps.
71  */
72 #define TRANSPORT_BLACKLIST_HT_SIZE 16
73
74 /**
75  * How often should we try to reconnect to a peer using a particular
76  * transport plugin before giving up?  Note that the plugin may be
77  * added back to the list after PLUGIN_RETRY_FREQUENCY expires.
78  */
79 #define MAX_CONNECT_RETRY 3
80
81 /**
82  * Limit on the number of ready-to-run tasks when validating 
83  * HELLOs.  If more tasks are ready to run, we will drop 
84  * HELLOs instead of validating them.
85  */
86 #define MAX_HELLO_LOAD 4
87
88 /**
89  * How often must a peer violate bandwidth quotas before we start
90  * to simply drop its messages?
91  */
92 #define QUOTA_VIOLATION_DROP_THRESHOLD 10
93
94 /**
95  * How long until a HELLO verification attempt should time out?
96  * Must be rather small, otherwise a partially successful HELLO
97  * validation (some addresses working) might not be available
98  * before a client's request for a connection fails for good.
99  * Besides, if a single request to an address takes a long time,
100  * then the peer is unlikely worthwhile anyway.
101  */
102 #define HELLO_VERIFICATION_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_SECONDS, 30)
103
104 /**
105  * Priority to use for PONG messages.
106  */
107 #define TRANSPORT_PONG_PRIORITY 4
108
109 /**
110  * How often do we re-add (cheaper) plugins to our list of plugins
111  * to try for a given connected peer?
112  */
113 #define PLUGIN_RETRY_FREQUENCY GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MINUTES, 15)
114
115 /**
116  * After how long do we expire an address in a HELLO that we just
117  * validated?  This value is also used for our own addresses when we
118  * create a HELLO.
119  */
120 #define HELLO_ADDRESS_EXPIRATION GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_HOURS, 12)
121
122
123 /**
124  * How long before an existing address expires should we again try to
125  * validate it?  Must be (significantly) smaller than
126  * HELLO_ADDRESS_EXPIRATION.
127  */
128 #define HELLO_REVALIDATION_START_TIME GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_HOURS, 1)
129
130 /**
131  * Maximum frequency for re-evaluating latencies for all transport addresses.
132  */
133 #define LATENCY_EVALUATION_MAX_DELAY GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_HOURS, 1)
134
135 /**
136  * Maximum frequency for re-evaluating latencies for connected addresses.
137  */
138 #define CONNECTED_LATENCY_EVALUATION_MAX_DELAY GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MINUTES, 1)
139
140
141 /**
142  * List of addresses of other peers
143  */
144 struct ForeignAddressList
145 {
146   /**
147    * This is a linked list.
148    */
149   struct ForeignAddressList *next;
150
151   /**
152    * Which ready list does this entry belong to.
153    */
154   struct ReadyList *ready_list;
155
156   /**
157    * How long until we auto-expire this address (unless it is
158    * re-confirmed by the transport)?
159    */
160   struct GNUNET_TIME_Absolute expires;
161
162   /**
163    * Task used to re-validate addresses, updates latencies and
164    * verifies liveness.
165    */
166   GNUNET_SCHEDULER_TaskIdentifier revalidate_task;
167
168   /**
169    * Length of addr.
170    */
171   size_t addrlen;
172
173   /**
174    * The address.
175    */
176   const void *addr;
177
178   /**
179    * Session (or NULL if no valid session currently exists or if the
180    * plugin does not use sessions).
181    */
182   struct Session *session;
183
184   /**
185    * What was the last latency observed for this address, plugin and peer?
186    */
187   struct GNUNET_TIME_Relative latency;
188
189   /**
190    * If we did not successfully transmit a message to the given peer
191    * via this connection during the specified time, we should consider
192    * the connection to be dead.  This is used in the case that a TCP
193    * transport simply stalls writing to the stream but does not
194    * formerly get a signal that the other peer died.
195    */
196   struct GNUNET_TIME_Absolute timeout;
197
198   /**
199    * How often have we tried to connect using this plugin?  Used to
200    * discriminate against addresses that do not work well.
201    * FIXME: not yet used, but should be!
202    */
203   unsigned int connect_attempts;
204
205   /**
206    * DV distance to this peer (1 if no DV is used). 
207    * FIXME: need to set this from transport plugins!
208    */
209   uint32_t distance;
210
211   /**
212    * Have we ever estimated the latency of this address?  Used to
213    * ensure that the first time we add an address, we immediately
214    * probe its latency.
215    */
216   int8_t estimated;
217
218   /**
219    * Are we currently connected via this address?  The first time we
220    * successfully transmit or receive data to a peer via a particular
221    * address, we set this to GNUNET_YES.  If we later get an error
222    * (disconnect notification, transmission failure, timeout), we set
223    * it back to GNUNET_NO.  
224    */
225   int8_t connected;
226
227   /**
228    * Is this plugin currently busy transmitting to the specific target?
229    * GNUNET_NO if not (initial, default state is GNUNET_NO).   Internal
230    * messages do not count as 'in transmit'.
231    */
232   int8_t in_transmit;
233
234   /**
235    * Has this address been validated yet?
236    */
237   int8_t validated;
238
239 };
240
241
242 /**
243  * Entry in linked list of network addresses for ourselves.
244  */
245 struct OwnAddressList
246 {
247   /**
248    * This is a linked list.
249    */
250   struct OwnAddressList *next;
251
252   /**
253    * The address, actually a pointer to the end
254    * of this struct.  Do not free!
255    */
256   const void *addr;
257   
258   /**
259    * How long until we auto-expire this address (unless it is
260    * re-confirmed by the transport)?
261    */
262   struct GNUNET_TIME_Absolute expires;
263
264   /**
265    * Length of addr.
266    */
267   size_t addrlen;
268
269 };
270
271
272 /**
273  * Entry in linked list of all of our plugins.
274  */
275 struct TransportPlugin
276 {
277
278   /**
279    * This is a linked list.
280    */
281   struct TransportPlugin *next;
282
283   /**
284    * API of the transport as returned by the plugin's
285    * initialization function.
286    */
287   struct GNUNET_TRANSPORT_PluginFunctions *api;
288
289   /**
290    * Short name for the plugin (i.e. "tcp").
291    */
292   char *short_name;
293
294   /**
295    * Name of the library (i.e. "gnunet_plugin_transport_tcp").
296    */
297   char *lib_name;
298
299   /**
300    * List of our known addresses for this transport.
301    */
302   struct OwnAddressList *addresses;
303
304   /**
305    * Environment this transport service is using
306    * for this plugin.
307    */
308   struct GNUNET_TRANSPORT_PluginEnvironment env;
309
310   /**
311    * ID of task that is used to clean up expired addresses.
312    */
313   GNUNET_SCHEDULER_TaskIdentifier address_update_task;
314
315   /**
316    * Set to GNUNET_YES if we need to scrap the existing list of
317    * "addresses" and start fresh when we receive the next address
318    * update from a transport.  Set to GNUNET_NO if we should just add
319    * the new address to the list and wait for the commit call.
320    */
321   int rebuild;
322
323   /**
324    * Hashmap of blacklisted peers for this particular transport.
325    */
326   struct GNUNET_CONTAINER_MultiHashMap *blacklist;
327 };
328
329 struct NeighbourList;
330
331 /**
332  * For each neighbour we keep a list of messages
333  * that we still want to transmit to the neighbour.
334  */
335 struct MessageQueue
336 {
337
338   /**
339    * This is a doubly linked list.
340    */
341   struct MessageQueue *next;
342
343   /**
344    * This is a doubly linked list.
345    */
346   struct MessageQueue *prev;
347
348   /**
349    * The message(s) we want to transmit, GNUNET_MessageHeader(s)
350    * stuck together in memory.  Allocated at the end of this struct.
351    */
352   const char *message_buf;
353
354   /**
355    * Size of the message buf
356    */
357   size_t message_buf_size;
358
359   /**
360    * Client responsible for queueing the message;
361    * used to check that a client has no two messages
362    * pending for the same target.  Can be NULL.
363    */
364   struct TransportClient *client;
365
366   /**
367    * Using which specific address should we send this message?
368    */
369   struct ForeignAddressList *specific_address;
370
371   /**
372    * Peer ID of the Neighbour this entry belongs to.
373    */
374   struct GNUNET_PeerIdentity neighbour_id;
375
376   /**
377    * Plugin that we used for the transmission.
378    * NULL until we scheduled a transmission.
379    */
380   struct TransportPlugin *plugin;
381
382   /**
383    * At what time should we fail?
384    */
385   struct GNUNET_TIME_Absolute timeout;
386
387   /**
388    * Internal message of the transport system that should not be
389    * included in the usual SEND-SEND_OK transmission confirmation
390    * traffic management scheme.  Typically, "internal_msg" will
391    * be set whenever "client" is NULL (but it is not strictly
392    * required).
393    */
394   int internal_msg;
395
396   /**
397    * How important is the message?
398    */
399   unsigned int priority;
400
401 };
402
403
404 /**
405  * For a given Neighbour, which plugins are available
406  * to talk to this peer and what are their costs?
407  */
408 struct ReadyList
409 {
410   /**
411    * This is a linked list.
412    */
413   struct ReadyList *next;
414
415   /**
416    * Which of our transport plugins does this entry
417    * represent?
418    */
419   struct TransportPlugin *plugin;
420
421   /**
422    * Transport addresses, latency, and readiness for
423    * this particular plugin.
424    */
425   struct ForeignAddressList *addresses;
426
427   /**
428    * To which neighbour does this ready list belong to?
429    */
430   struct NeighbourList *neighbour;
431
432 };
433
434
435 /**
436  * Entry in linked list of all of our current neighbours.
437  */
438 struct NeighbourList
439 {
440
441   /**
442    * This is a linked list.
443    */
444   struct NeighbourList *next;
445
446   /**
447    * Which of our transports is connected to this peer
448    * and what is their status?
449    */
450   struct ReadyList *plugins;
451
452   /**
453    * Head of list of messages we would like to send to this peer;
454    * must contain at most one message per client.
455    */
456   struct MessageQueue *messages_head;
457
458   /**
459    * Tail of list of messages we would like to send to this peer; must
460    * contain at most one message per client.
461    */
462   struct MessageQueue *messages_tail;
463
464   /**
465    * Buffer for at most one payload message used when we receive
466    * payload data before our PING-PONG has succeeded.  We then
467    * store such messages in this intermediary buffer until the
468    * connection is fully up.  
469    */
470   struct GNUNET_MessageHeader *pre_connect_message_buffer;
471
472   /**
473    * Context for peerinfo iteration.
474    * NULL after we are done processing peerinfo's information.
475    */
476   struct GNUNET_PEERINFO_IteratorContext *piter;
477
478   /**
479    * Public key for this peer.   Valid only if the respective flag is set below.
480    */
481   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded publicKey;
482
483   /**
484    * Identity of this neighbour.
485    */
486   struct GNUNET_PeerIdentity id;
487
488   /**
489    * ID of task scheduled to run when this peer is about to
490    * time out (will free resources associated with the peer).
491    */
492   GNUNET_SCHEDULER_TaskIdentifier timeout_task;
493
494   /**
495    * ID of task scheduled to run when we should retry transmitting
496    * the head of the message queue.  Actually triggered when the
497    * transmission is timing out (we trigger instantly when we have
498    * a chance of success).
499    */
500   GNUNET_SCHEDULER_TaskIdentifier retry_task;
501
502   /**
503    * How long until we should consider this peer dead
504    * (if we don't receive another message in the
505    * meantime)?
506    */
507   struct GNUNET_TIME_Absolute peer_timeout;
508
509   /**
510    * Tracker for inbound bandwidth.
511    */
512   struct GNUNET_BANDWIDTH_Tracker in_tracker;
513
514   /**
515    * The latency we have seen for this particular address for
516    * this particular peer.  This latency may have been calculated
517    * over multiple transports.  This value reflects how long it took
518    * us to receive a response when SENDING via this particular
519    * transport/neighbour/address combination!
520    *
521    * FIXME: we need to periodically send PINGs to update this
522    * latency (at least more often than the current "huge" (11h?)
523    * update interval).
524    */
525   struct GNUNET_TIME_Relative latency;
526
527   /**
528    * How often has the other peer (recently) violated the
529    * inbound traffic limit?  Incremented by 10 per violation,
530    * decremented by 1 per non-violation (for each
531    * time interval).
532    */
533   unsigned int quota_violation_count;
534
535   /**
536    * DV distance to this peer (1 if no DV is used). 
537    */
538   uint32_t distance;
539
540   /**
541    * Have we seen an PONG from this neighbour in the past (and
542    * not had a disconnect since)?
543    */
544   int received_pong;
545
546   /**
547    * Do we have a valid public key for this neighbour?
548    */
549   int public_key_valid;
550
551 };
552
553 /**
554  * Message used to ask a peer to validate receipt (to check an address
555  * from a HELLO).  
556  */
557 struct TransportPingMessage
558 {
559
560   /**
561    * Type will be GNUNET_MESSAGE_TYPE_TRANSPORT_PING
562    */
563   struct GNUNET_MessageHeader header;
564
565   /**
566    * Random challenge number (in network byte order).
567    */
568   uint32_t challenge GNUNET_PACKED;
569
570   /**
571    * Who is the intended recipient?
572    */
573   struct GNUNET_PeerIdentity target;
574
575 };
576
577
578 /**
579  * Message used to validate a HELLO.  The challenge is included in the
580  * confirmation to make matching of replies to requests possible.  The
581  * signature signs the original challenge number, our public key, the
582  * sender's address (so that the sender can check that the address we
583  * saw is plausible for him and possibly detect a MiM attack) and a
584  * timestamp (to limit replay).<p>
585  *
586  * This message is followed by the address of the
587  * client that we are observing (which is part of what
588  * is being signed).
589  */
590 struct TransportPongMessage
591 {
592
593   /**
594    * Type will be GNUNET_MESSAGE_TYPE_TRANSPORT_PONG
595    */
596   struct GNUNET_MessageHeader header;
597
598   /**
599    * For padding, always zero.
600    */
601   uint32_t reserved GNUNET_PACKED;
602
603   /**
604    * Signature.
605    */
606   struct GNUNET_CRYPTO_RsaSignature signature;
607
608   /**
609    * What are we signing and why?
610    */
611   struct GNUNET_CRYPTO_RsaSignaturePurpose purpose;
612
613   /**
614    * Random challenge number (in network byte order).
615    */
616   uint32_t challenge GNUNET_PACKED;
617
618   /**
619    * Who signed this message?
620    */
621   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded signer;
622
623   /**
624    * Size of address appended to this message
625    */
626   size_t addrlen;
627
628 };
629
630
631 /**
632  * Linked list of messages to be transmitted to the client.  Each
633  * entry is followed by the actual message.
634  */
635 struct ClientMessageQueueEntry
636 {
637   /**
638    * This is a doubly-linked list.
639    */
640   struct ClientMessageQueueEntry *next;
641
642   /**
643    * This is a doubly-linked list.
644    */
645   struct ClientMessageQueueEntry *prev;
646 };
647
648
649 /**
650  * Client connected to the transport service.
651  */
652 struct TransportClient
653 {
654
655   /**
656    * This is a linked list.
657    */
658   struct TransportClient *next;
659
660   /**
661    * Handle to the client.
662    */
663   struct GNUNET_SERVER_Client *client;
664
665   /**
666    * Linked list of messages yet to be transmitted to
667    * the client.
668    */
669   struct ClientMessageQueueEntry *message_queue_head;
670
671   /**
672    * Tail of linked list of messages yet to be transmitted to the
673    * client.
674    */
675   struct ClientMessageQueueEntry *message_queue_tail;
676
677   /**
678    * Current transmit request handle.
679    */ 
680   struct GNUNET_CONNECTION_TransmitHandle *th;
681
682   /**
683    * Is a call to "transmit_send_continuation" pending?  If so, we
684    * must not free this struct (even if the corresponding client
685    * disconnects) and instead only remove it from the linked list and
686    * set the "client" field to NULL.
687    */
688   int tcs_pending;
689
690   /**
691    * Length of the list of messages pending for this client.
692    */
693   unsigned int message_count;
694
695 };
696
697
698 /**
699  * Entry in map of all HELLOs awaiting validation.
700  */
701 struct ValidationEntry
702 {
703
704   /**
705    * The address, actually a pointer to the end
706    * of this struct.  Do not free!
707    */
708   const void *addr;
709
710   /**
711    * Name of the transport.
712    */
713   char *transport_name;
714
715   /**
716    * The public key of the peer.
717    */
718   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded publicKey;
719
720   /**
721    * ID of task that will clean up this entry if we don't succeed
722    * with the validation first.
723    */
724   GNUNET_SCHEDULER_TaskIdentifier timeout_task;
725
726   /**
727    * At what time did we send this validation?
728    */
729   struct GNUNET_TIME_Absolute send_time;
730
731   /**
732    * Session being validated (or NULL for none).
733    */
734   struct Session *session;
735
736   /**
737    * Length of addr.
738    */
739   size_t addrlen;
740
741   /**
742    * Challenge number we used.
743    */
744   uint32_t challenge;
745
746 };
747
748
749 /**
750  * Context of currently active requests to peerinfo
751  * for validation of HELLOs.
752  */
753 struct CheckHelloValidatedContext
754 {
755
756   /**
757    * This is a doubly-linked list.
758    */
759   struct CheckHelloValidatedContext *next;
760
761   /**
762    * This is a doubly-linked list.
763    */
764   struct CheckHelloValidatedContext *prev;
765
766   /**
767    * Hello that we are validating.
768    */
769   const struct GNUNET_HELLO_Message *hello;
770
771   /**
772    * Context for peerinfo iteration.
773    * NULL after we are done processing peerinfo's information.
774    */
775   struct GNUNET_PEERINFO_IteratorContext *piter;
776   
777   /**
778    * Was a HELLO known for this peer to peerinfo?
779    */
780   int hello_known;
781
782 };
783
784
785
786 /**
787  * Our HELLO message.
788  */
789 static struct GNUNET_HELLO_Message *our_hello;
790
791 /**
792  * "version" of "our_hello".  Used to see if a given neighbour has
793  * already been sent the latest version of our HELLO message.
794  */
795 static unsigned int our_hello_version;
796
797 /**
798  * Our public key.
799  */
800 static struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded my_public_key;
801
802 /**
803  * Our identity.
804  */
805 static struct GNUNET_PeerIdentity my_identity;
806
807 /**
808  * Our private key.
809  */
810 static struct GNUNET_CRYPTO_RsaPrivateKey *my_private_key;
811
812 /**
813  * Our scheduler.
814  */
815 struct GNUNET_SCHEDULER_Handle *sched;
816
817 /**
818  * Our configuration.
819  */
820 const struct GNUNET_CONFIGURATION_Handle *cfg;
821
822 /**
823  * Linked list of all clients to this service.
824  */
825 static struct TransportClient *clients;
826
827 /**
828  * All loaded plugins.
829  */
830 static struct TransportPlugin *plugins;
831
832 /**
833  * Our server.
834  */
835 static struct GNUNET_SERVER_Handle *server;
836
837 /**
838  * Handle to peerinfo service.
839  */
840 static struct GNUNET_PEERINFO_Handle *peerinfo;
841
842 /**
843  * All known neighbours and their HELLOs.
844  */
845 static struct NeighbourList *neighbours;
846
847 /**
848  * Number of neighbours we'd like to have.
849  */
850 static uint32_t max_connect_per_transport;
851
852 /**
853  * Head of linked list.
854  */
855 static struct CheckHelloValidatedContext *chvc_head;
856
857 /**
858  * Tail of linked list.
859  */
860 static struct CheckHelloValidatedContext *chvc_tail;
861
862 /**
863  * Map of PeerIdentities to 'struct ValidationEntry*'s (addresses
864  * of the given peer that we are currently validating).
865  */
866 static struct GNUNET_CONTAINER_MultiHashMap *validation_map;
867
868 /**
869  * Handle for reporting statistics.
870  */
871 static struct GNUNET_STATISTICS_Handle *stats;
872
873
874 /**
875  * The peer specified by the given neighbour has timed-out or a plugin
876  * has disconnected.  We may either need to do nothing (other plugins
877  * still up), or trigger a full disconnect and clean up.  This
878  * function updates our state and do the necessary notifications.
879  * Also notifies our clients that the neighbour is now officially
880  * gone.
881  *
882  * @param n the neighbour list entry for the peer
883  * @param check should we just check if all plugins
884  *        disconnected or must we ask all plugins to
885  *        disconnect?
886  */
887 static void disconnect_neighbour (struct NeighbourList *n, int check);
888
889 /**
890  * Check the ready list for the given neighbour and if a plugin is
891  * ready for transmission (and if we have a message), do so!
892  *
893  * @param neighbour target peer for which to transmit
894  */
895 static void try_transmission_to_peer (struct NeighbourList *neighbour);
896
897
898 /**
899  * Find an entry in the neighbour list for a particular peer.
900  *  
901  * @return NULL if not found.
902  */
903 static struct NeighbourList *
904 find_neighbour (const struct GNUNET_PeerIdentity *key)
905 {
906   struct NeighbourList *head = neighbours;
907
908   while ((head != NULL) &&
909         (0 != memcmp (key, &head->id, sizeof (struct GNUNET_PeerIdentity))))
910     head = head->next;
911   return head;
912 }
913
914
915 /**
916  * Find an entry in the transport list for a particular transport.
917  *
918  * @return NULL if not found.
919  */
920 static struct TransportPlugin *
921 find_transport (const char *short_name)
922 {
923   struct TransportPlugin *head = plugins;
924   while ((head != NULL) && (0 != strcmp (short_name, head->short_name)))
925     head = head->next;
926   return head;
927 }
928
929 /**
930  * Is a particular peer blacklisted for a particular transport?
931  *
932  * @param peer the peer to check for
933  * @param plugin the plugin used to connect to the peer
934  *
935  * @return GNUNET_YES if the peer is blacklisted, GNUNET_NO if not
936  */
937 static int
938 is_blacklisted (const struct GNUNET_PeerIdentity *peer, struct TransportPlugin *plugin)
939 {
940
941   if (plugin->blacklist != NULL)
942     {
943       if (GNUNET_CONTAINER_multihashmap_contains(plugin->blacklist, &peer->hashPubKey) == GNUNET_YES)
944         {
945 #if DEBUG_BLACKLIST
946           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
947                       _("Peer `%s:%s' is blacklisted!\n"),
948                       plugin->short_name, GNUNET_i2s (peer));
949 #endif
950           return GNUNET_YES;
951         }
952     }
953
954   return GNUNET_NO;
955 }
956
957
958 static void
959 add_peer_to_blacklist (struct GNUNET_PeerIdentity *peer, char *transport_name)
960 {
961   struct TransportPlugin *plugin;
962
963   plugin = find_transport(transport_name);
964   if (plugin == NULL) /* Nothing to do */
965     return;
966   if (plugin->blacklist == NULL)    
967     plugin->blacklist = GNUNET_CONTAINER_multihashmap_create(TRANSPORT_BLACKLIST_HT_SIZE);    
968   GNUNET_assert(plugin->blacklist != NULL);
969   GNUNET_CONTAINER_multihashmap_put(plugin->blacklist, &peer->hashPubKey,
970                                     NULL, 
971                                     GNUNET_CONTAINER_MULTIHASHMAPOPTION_REPLACE);
972 }
973
974
975 /**
976  * Read the blacklist file, containing transport:peer entries.
977  * Provided the transport is loaded, set up hashmap with these
978  * entries to blacklist peers by transport.
979  *
980  */
981 static void
982 read_blacklist_file (const struct GNUNET_CONFIGURATION_Handle *cfg)
983 {
984   char *fn;
985   char *data;
986   size_t pos;
987   size_t colon_pos;
988   int tsize;
989   struct GNUNET_PeerIdentity pid;
990   struct stat frstat;
991   struct GNUNET_CRYPTO_HashAsciiEncoded enc;
992   unsigned int entries_found;
993   char *transport_name;
994
995   if (GNUNET_OK !=
996       GNUNET_CONFIGURATION_get_value_filename (cfg,
997                                                "TRANSPORT",
998                                                "BLACKLIST_FILE",
999                                                &fn))
1000     {
1001       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1002                   _("Option `%s' in section `%s' not specified!\n"),
1003                   "BLACKLIST_FILE",
1004                   "TRANSPORT");
1005       return;
1006     }
1007   if (GNUNET_OK != GNUNET_DISK_file_test (fn))
1008     GNUNET_DISK_fn_write (fn, NULL, 0, GNUNET_DISK_PERM_USER_READ
1009         | GNUNET_DISK_PERM_USER_WRITE);
1010   if (0 != STAT (fn, &frstat))
1011     {
1012       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1013                   _("Could not read blacklist file `%s'\n"), fn);
1014       GNUNET_free (fn);
1015       return;
1016     }
1017   if (frstat.st_size == 0)
1018     {
1019       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1020                   _("Blacklist file `%s' is empty.\n"),
1021                   fn);
1022       GNUNET_free (fn);
1023       return;
1024     }
1025   /* FIXME: use mmap */
1026   data = GNUNET_malloc_large (frstat.st_size);
1027   if (frstat.st_size !=
1028       GNUNET_DISK_fn_read (fn, data, frstat.st_size))
1029     {
1030       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1031                   _("Failed to read blacklist from `%s'\n"), fn);
1032       GNUNET_free (fn);
1033       GNUNET_free (data);
1034       return;
1035     }
1036   entries_found = 0;
1037   pos = 0;
1038   while ((pos < frstat.st_size) && isspace (data[pos]))
1039     pos++;
1040   while ((frstat.st_size >= sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded)) &&
1041          (pos <= frstat.st_size - sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded)))
1042     {
1043       colon_pos = pos;
1044       while ((colon_pos < frstat.st_size) && (data[colon_pos] != ':') && !isspace (data[colon_pos]))
1045         colon_pos++;
1046
1047       if (colon_pos >= frstat.st_size)
1048         {
1049           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1050                       _("Syntax error in blacklist file at offset %llu, giving up!\n"),
1051                       (unsigned long long) colon_pos);
1052           GNUNET_free (fn);
1053           GNUNET_free (data);
1054           return;
1055         }
1056
1057       if (isspace(data[colon_pos]))
1058       {
1059         GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1060                     _("Syntax error in blacklist file at offset %llu, skipping bytes.\n"),
1061                     (unsigned long long) colon_pos);
1062         pos = colon_pos;
1063         while ((pos < frstat.st_size) && isspace (data[pos]))
1064           pos++;
1065         continue;
1066       }
1067       tsize = colon_pos - pos;
1068       if ((pos >= frstat.st_size) || (pos + tsize >= frstat.st_size))
1069         {
1070           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1071                       _("Syntax error in blacklist file at offset %llu, giving up!\n"),
1072                       (unsigned long long) colon_pos);
1073           GNUNET_free (fn);
1074           GNUNET_free (data);
1075           return;
1076         }
1077
1078       transport_name = GNUNET_malloc(tsize);
1079       memcpy(transport_name, &data[pos], tsize);
1080       pos = colon_pos + 1;
1081
1082
1083       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1084                   _("Read transport name %s in blacklist file.\n"),
1085                   transport_name);
1086
1087       memcpy (&enc, &data[pos], sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded));
1088       if (!isspace (enc.encoding[sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded) - 1]))
1089         {
1090           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1091                       _("Syntax error in blacklist file at offset %llu, skipping bytes.\n"),
1092                       (unsigned long long) pos);
1093           pos++;
1094           while ((pos < frstat.st_size) && (!isspace (data[pos])))
1095             pos++;
1096           GNUNET_free_non_null(transport_name);
1097           continue;
1098         }
1099       enc.encoding[sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded) - 1] = '\0';
1100       if (GNUNET_OK != GNUNET_CRYPTO_hash_from_string ((char *) &enc, &pid.hashPubKey))
1101         {
1102           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1103                       _("Syntax error in blacklist file at offset %llu, skipping bytes `%s'.\n"),
1104                       (unsigned long long) pos,
1105                       &enc);
1106         }
1107       else
1108         {
1109           if (0 != memcmp (&pid,
1110                            &my_identity,
1111                            sizeof (struct GNUNET_PeerIdentity)))
1112             {
1113               entries_found++;
1114               add_peer_to_blacklist (&pid,
1115                               transport_name);
1116               GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1117                           _("Found blacklisted peer `%s:%s' in configuration\n"),
1118                           transport_name, GNUNET_i2s (&pid));
1119             }
1120           else
1121             {
1122               GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1123                           _("Found myself `%s' in blacklist (useless, ignored)\n"),
1124                           GNUNET_i2s (&pid));
1125             }
1126         }
1127       pos = pos + sizeof (struct GNUNET_CRYPTO_HashAsciiEncoded);
1128       GNUNET_free_non_null(transport_name);
1129       while ((pos < frstat.st_size) && isspace (data[pos]))
1130         pos++;
1131     }
1132   GNUNET_free (data);
1133   GNUNET_free (fn);
1134 }
1135
1136
1137 /**
1138  * Function called to notify a client about the socket being ready to
1139  * queue more data.  "buf" will be NULL and "size" zero if the socket
1140  * was closed for writing in the meantime.
1141  *
1142  * @param cls closure
1143  * @param size number of bytes available in buf
1144  * @param buf where the callee should write the message
1145  * @return number of bytes written to buf
1146  */
1147 static size_t
1148 transmit_to_client_callback (void *cls, size_t size, void *buf)
1149 {
1150   struct TransportClient *client = cls;
1151   struct ClientMessageQueueEntry *q;
1152   uint16_t msize;
1153   size_t tsize;
1154   const struct GNUNET_MessageHeader *msg;
1155   char *cbuf;
1156
1157   client->th = NULL;
1158   if (buf == NULL)
1159     {
1160       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1161                   "Transmission to client failed, closing connection.\n");
1162       /* fatal error with client, free message queue! */
1163       while (NULL != (q = client->message_queue_head))
1164         {
1165           GNUNET_STATISTICS_update (stats,
1166                                     gettext_noop ("# bytes discarded (could not transmit to client)"),
1167                                     ntohs (((const struct GNUNET_MessageHeader*)&q[1])->size),
1168                                     GNUNET_NO);      
1169           GNUNET_CONTAINER_DLL_remove (client->message_queue_head,
1170                                        client->message_queue_tail,
1171                                        q);
1172           GNUNET_free (q);
1173         }
1174       client->message_count = 0;
1175       return 0;
1176     }
1177   cbuf = buf;
1178   tsize = 0;
1179   while (NULL != (q = client->message_queue_head))
1180     {
1181       msg = (const struct GNUNET_MessageHeader *) &q[1];
1182       msize = ntohs (msg->size);
1183       if (msize + tsize > size)
1184         break;
1185 #if DEBUG_TRANSPORT
1186       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1187                   "Transmitting message of type %u to client.\n",
1188                   ntohs (msg->type));
1189 #endif
1190       GNUNET_CONTAINER_DLL_remove (client->message_queue_head,
1191                                    client->message_queue_tail,
1192                                    q);
1193       memcpy (&cbuf[tsize], msg, msize);
1194       tsize += msize;
1195       GNUNET_free (q);
1196       client->message_count--;
1197     }
1198   if (NULL != q)
1199     {
1200       GNUNET_assert (msize >= sizeof (struct GNUNET_MessageHeader));
1201       client->th = GNUNET_SERVER_notify_transmit_ready (client->client,
1202                                                         msize,
1203                                                         GNUNET_TIME_UNIT_FOREVER_REL,
1204                                                         &transmit_to_client_callback,
1205                                                         client);
1206       GNUNET_assert (client->th != NULL);
1207     }
1208   return tsize;
1209 }
1210
1211
1212 /**
1213  * Mark the given FAL entry as 'connected' (and hence preferred for
1214  * sending); also mark all others for the same peer as 'not connected'
1215  * (since only one can be preferred).
1216  *
1217  * @param fal address to set to 'connected'
1218  */
1219 static void
1220 mark_address_connected (struct ForeignAddressList *fal)
1221 {
1222   struct ForeignAddressList *pos;
1223   int cnt;
1224
1225   GNUNET_assert (GNUNET_YES == fal->validated);
1226   if (fal->connected == GNUNET_YES)
1227     return; /* nothing to do */
1228   cnt = GNUNET_YES;
1229   pos = fal->ready_list->addresses;
1230   while (pos != NULL)
1231     {
1232       if (GNUNET_YES == pos->connected)
1233         {
1234           GNUNET_break (cnt == GNUNET_YES);
1235           cnt = GNUNET_NO;
1236           pos->connected = GNUNET_NO;
1237         }
1238       pos = pos->next;
1239     }
1240   fal->connected = GNUNET_YES;
1241   if (GNUNET_YES == cnt)
1242     {
1243       GNUNET_STATISTICS_update (stats,
1244                                 gettext_noop ("# connected addresses"),
1245                                 1,
1246                                 GNUNET_NO);
1247     }
1248 }
1249
1250
1251 /**
1252  * Send the specified message to the specified client.  Since multiple
1253  * messages may be pending for the same client at a time, this code
1254  * makes sure that no message is lost.
1255  *
1256  * @param client client to transmit the message to
1257  * @param msg the message to send
1258  * @param may_drop can this message be dropped if the
1259  *        message queue for this client is getting far too large?
1260  */
1261 static void
1262 transmit_to_client (struct TransportClient *client,
1263                     const struct GNUNET_MessageHeader *msg, int may_drop)
1264 {
1265   struct ClientMessageQueueEntry *q;
1266   uint16_t msize;
1267
1268   if ((client->message_count >= MAX_PENDING) && (GNUNET_YES == may_drop))
1269     {
1270       GNUNET_log (GNUNET_ERROR_TYPE_INFO,
1271                   _
1272                   ("Dropping message, have %u messages pending (%u is the soft limit)\n"),
1273                   client->message_count, MAX_PENDING);
1274       /* TODO: call to statistics... */
1275       return;
1276     }
1277   msize = ntohs (msg->size);
1278   GNUNET_assert (msize >= sizeof (struct GNUNET_MessageHeader));
1279   q = GNUNET_malloc (sizeof (struct ClientMessageQueueEntry) + msize);
1280   memcpy (&q[1], msg, msize);
1281   GNUNET_CONTAINER_DLL_insert_after (client->message_queue_head,
1282                                      client->message_queue_tail,
1283                                      client->message_queue_tail,
1284                                      q);                                     
1285   client->message_count++;
1286   if (client->th == NULL)
1287     {
1288       client->th = GNUNET_SERVER_notify_transmit_ready (client->client,
1289                                                         msize,
1290                                                         GNUNET_TIME_UNIT_FOREVER_REL,
1291                                                         &transmit_to_client_callback,
1292                                                         client);
1293       GNUNET_assert (client->th != NULL);
1294     }
1295 }
1296
1297
1298 /**
1299  * Transmit a 'SEND_OK' notification to the given client for the
1300  * given neighbour.
1301  *
1302  * @param client who to notify
1303  * @param n neighbour to notify about
1304  * @param result status code for the transmission request
1305  */
1306 static void
1307 transmit_send_ok (struct TransportClient *client,
1308                   struct NeighbourList *n,
1309                   int result)
1310 {
1311   struct SendOkMessage send_ok_msg;
1312
1313   send_ok_msg.header.size = htons (sizeof (send_ok_msg));
1314   send_ok_msg.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_SEND_OK);
1315   send_ok_msg.success = htonl (result);
1316   send_ok_msg.latency = GNUNET_TIME_relative_hton (n->latency);
1317   send_ok_msg.peer = n->id;
1318   transmit_to_client (client, &send_ok_msg.header, GNUNET_NO); 
1319 }
1320
1321
1322 /**
1323  * Function called by the GNUNET_TRANSPORT_TransmitFunction
1324  * upon "completion" of a send request.  This tells the API
1325  * that it is now legal to send another message to the given
1326  * peer.
1327  *
1328  * @param cls closure, identifies the entry on the
1329  *            message queue that was transmitted and the
1330  *            client responsible for queueing the message
1331  * @param target the peer receiving the message
1332  * @param result GNUNET_OK on success, if the transmission
1333  *           failed, we should not tell the client to transmit
1334  *           more messages
1335  */
1336 static void
1337 transmit_send_continuation (void *cls,
1338                             const struct GNUNET_PeerIdentity *target,
1339                             int result)
1340 {
1341   struct MessageQueue *mq = cls;
1342   struct NeighbourList *n;
1343   
1344   GNUNET_STATISTICS_update (stats,
1345                             gettext_noop ("# bytes pending with plugins"),
1346                             - (int64_t) mq->message_buf_size,
1347                             GNUNET_NO);
1348   if (result == GNUNET_OK)
1349     {
1350       GNUNET_STATISTICS_update (stats,
1351                                 gettext_noop ("# bytes successfully transmitted by plugins"),
1352                                 mq->message_buf_size,
1353                                 GNUNET_NO);      
1354     }
1355   else
1356     {
1357       GNUNET_STATISTICS_update (stats,
1358                                 gettext_noop ("# bytes with transmission failure by plugins"),
1359                                 mq->message_buf_size,
1360                                 GNUNET_NO);      
1361     }  
1362   n = find_neighbour(&mq->neighbour_id);
1363   GNUNET_assert (n != NULL);
1364   if (mq->specific_address != NULL)
1365     {
1366       if (result == GNUNET_OK)    
1367         {
1368           mq->specific_address->timeout =
1369             GNUNET_TIME_relative_to_absolute
1370             (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
1371           if (mq->specific_address->validated == GNUNET_YES)
1372             mark_address_connected (mq->specific_address);
1373         }    
1374       else
1375         {
1376           if (mq->specific_address->connected != GNUNET_NO)
1377             {
1378               GNUNET_STATISTICS_update (stats,
1379                                         gettext_noop ("# connected addresses"),
1380                                         -1,
1381                                         GNUNET_NO);
1382               mq->specific_address->connected = GNUNET_NO;
1383             }
1384         }    
1385       if (! mq->internal_msg) 
1386         mq->specific_address->in_transmit = GNUNET_NO;
1387     }
1388   if (mq->client != NULL)
1389     transmit_send_ok (mq->client, n, result);
1390   GNUNET_free (mq);
1391   try_transmission_to_peer (n);
1392 }
1393
1394
1395 /**
1396  * Find an address in any of the available transports for
1397  * the given neighbour that would be good for message
1398  * transmission.  This is essentially the transport selection
1399  * routine.
1400  *
1401  * @param neighbour for whom to select an address
1402  * @return selected address, NULL if we have none
1403  */
1404 struct ForeignAddressList *
1405 find_ready_address(struct NeighbourList *neighbour)
1406 {
1407   struct ReadyList *head = neighbour->plugins;
1408   struct ForeignAddressList *addresses;
1409   struct GNUNET_TIME_Absolute now = GNUNET_TIME_absolute_get ();
1410   struct ForeignAddressList *best_address;
1411
1412   best_address = NULL;
1413   while (head != NULL)
1414     {
1415       addresses = head->addresses;
1416       while (addresses != NULL)
1417         {
1418           if ( (addresses->timeout.value < now.value) && 
1419                (addresses->connected == GNUNET_YES) )
1420             {
1421 #if DEBUG_TRANSPORT
1422               GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1423                           "Marking long-time inactive connection to `%4s' as down.\n",
1424                           GNUNET_i2s (&neighbour->id));
1425 #endif
1426               GNUNET_STATISTICS_update (stats,
1427                                         gettext_noop ("# connected addresses"),
1428                                         -1,
1429                                         GNUNET_NO);
1430               addresses->connected = GNUNET_NO;
1431             }
1432           addresses = addresses->next;
1433         }
1434
1435       addresses = head->addresses;
1436       while (addresses != NULL)
1437         {
1438 #if DEBUG_TRANSPORT > 1
1439           if (addresses->addr != NULL)
1440             GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1441                         "Have address `%s' for peer `%4s' (status: %d, %d, %d, %u, %llums, %u)\n",
1442                         GNUNET_a2s (addresses->addr,
1443                                     addresses->addrlen),
1444                         GNUNET_i2s (&neighbour->id),
1445                         addresses->connected,
1446                         addresses->in_transmit,
1447                         addresses->validated,
1448                         addresses->connect_attempts,
1449                         (unsigned long long) addresses->timeout.value,
1450                         (unsigned int) addresses->distance);
1451 #endif
1452           if ( ( (best_address == NULL) || 
1453                  (addresses->connected == GNUNET_YES) ||
1454                  (best_address->connected == GNUNET_NO) ) &&
1455                (addresses->in_transmit == GNUNET_NO) &&
1456                ( (best_address == NULL) || 
1457                  (addresses->latency.value < best_address->latency.value)) )
1458             best_address = addresses;            
1459           /* FIXME: also give lower-latency addresses that are not
1460              connected a chance some times... */
1461           addresses = addresses->next;
1462         }
1463       head = head->next;
1464     }
1465   if (best_address != NULL)
1466     {
1467 #if DEBUG_TRANSPORT
1468       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1469                   "Best address found has latency of %llu ms.\n",
1470                   best_address->latency.value);
1471 #endif
1472     }
1473   else
1474     {
1475       GNUNET_STATISTICS_update (stats,
1476                                 gettext_noop ("# transmission attempts failed (no address)"),
1477                                 1,
1478                                 GNUNET_NO);
1479     }
1480   return best_address;
1481
1482 }
1483
1484
1485 /**
1486  * We should re-try transmitting to the given peer,
1487  * hopefully we've learned something in the meantime.
1488  */
1489 static void
1490 retry_transmission_task (void *cls,
1491                          const struct GNUNET_SCHEDULER_TaskContext *tc)
1492 {
1493   struct NeighbourList *n = cls;
1494
1495   n->retry_task = GNUNET_SCHEDULER_NO_TASK;
1496   try_transmission_to_peer (n);
1497 }
1498
1499
1500 /**
1501  * Check the ready list for the given neighbour and if a plugin is
1502  * ready for transmission (and if we have a message), do so!
1503  *
1504  * @param neighbour target peer for which to transmit
1505  */
1506 static void
1507 try_transmission_to_peer (struct NeighbourList *neighbour)
1508 {
1509   struct ReadyList *rl;
1510   struct MessageQueue *mq;
1511   struct GNUNET_TIME_Relative timeout;
1512   ssize_t ret;
1513   int force_address;
1514
1515   if (neighbour->messages_head == NULL)
1516     {
1517 #if DEBUG_TRANSPORT
1518       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1519                   "Transmission queue for `%4s' is empty\n",
1520                   GNUNET_i2s (&neighbour->id));
1521 #endif
1522       return;                     /* nothing to do */
1523     }
1524   rl = NULL;
1525   mq = neighbour->messages_head;
1526   force_address = GNUNET_YES;
1527   if (mq->specific_address == NULL)
1528     {
1529       mq->specific_address = find_ready_address(neighbour); 
1530       GNUNET_STATISTICS_update (stats,
1531                                 gettext_noop ("# transport selected peer address freely"),
1532                                 1,
1533                                 GNUNET_NO); 
1534       force_address = GNUNET_NO;
1535     }
1536   if (mq->specific_address == NULL)
1537     {
1538       GNUNET_STATISTICS_update (stats,
1539                                 gettext_noop ("# transport failed to selected peer address"),
1540                                 1,
1541                                 GNUNET_NO); 
1542       timeout = GNUNET_TIME_absolute_get_remaining (mq->timeout);
1543       if (timeout.value == 0)
1544         {
1545 #if DEBUG_TRANSPORT
1546           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1547                       "No destination address available to transmit message of size %u to peer `%4s'\n",
1548                       mq->message_buf_size,
1549                       GNUNET_i2s (&mq->neighbour_id));
1550 #endif
1551           GNUNET_STATISTICS_update (stats,
1552                                     gettext_noop ("# bytes in message queue for other peers"),
1553                                     - (int64_t) mq->message_buf_size,
1554                                     GNUNET_NO);
1555           GNUNET_STATISTICS_update (stats,
1556                                     gettext_noop ("# bytes discarded (no destination address available)"),
1557                                     mq->message_buf_size,
1558                                     GNUNET_NO);      
1559           if (mq->client != NULL)
1560             transmit_send_ok (mq->client, neighbour, GNUNET_NO);
1561           GNUNET_CONTAINER_DLL_remove (neighbour->messages_head,
1562                                        neighbour->messages_tail,
1563                                        mq);
1564           GNUNET_free (mq);
1565           return;               /* nobody ready */ 
1566         }
1567       GNUNET_STATISTICS_update (stats,
1568                                 gettext_noop ("# message delivery deferred (no address)"),
1569                                 1,
1570                                 GNUNET_NO);
1571       if (neighbour->retry_task != GNUNET_SCHEDULER_NO_TASK)
1572         GNUNET_SCHEDULER_cancel (sched,
1573                                  neighbour->retry_task);
1574       neighbour->retry_task = GNUNET_SCHEDULER_add_delayed (sched,
1575                                                             timeout,
1576                                                             &retry_transmission_task,
1577                                                             neighbour);
1578 #if DEBUG_TRANSPORT
1579       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1580                   "No validated destination address available to transmit message of size %u to peer `%4s', will wait %llums to find an address.\n",
1581                   mq->message_buf_size,
1582                   GNUNET_i2s (&mq->neighbour_id),
1583                   timeout.value);
1584 #endif
1585       /* FIXME: might want to trigger peerinfo lookup here
1586          (unless that's already pending...) */
1587       return;    
1588     }
1589   GNUNET_CONTAINER_DLL_remove (neighbour->messages_head,
1590                                neighbour->messages_tail,
1591                                mq);
1592   if (mq->specific_address->connected == GNUNET_NO)
1593     mq->specific_address->connect_attempts++;
1594   rl = mq->specific_address->ready_list;
1595   mq->plugin = rl->plugin;
1596   if (!mq->internal_msg)
1597     mq->specific_address->in_transmit = GNUNET_YES;
1598 #if DEBUG_TRANSPORT
1599   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1600               "Sending message of size %u for `%4s' to `%s' via plugin `%s'\n",
1601               mq->message_buf_size,
1602               GNUNET_i2s (&neighbour->id), 
1603               (mq->specific_address->addr != NULL)
1604               ? GNUNET_a2s (mq->specific_address->addr,
1605                             mq->specific_address->addrlen)
1606               : "<inbound>",
1607               rl->plugin->short_name);
1608 #endif
1609   GNUNET_STATISTICS_update (stats,
1610                             gettext_noop ("# bytes in message queue for other peers"),
1611                             - (int64_t) mq->message_buf_size,
1612                             GNUNET_NO);
1613   GNUNET_STATISTICS_update (stats,
1614                             gettext_noop ("# bytes pending with plugins"),
1615                             mq->message_buf_size,
1616                             GNUNET_NO);
1617   ret = rl->plugin->api->send (rl->plugin->api->cls,
1618                                &mq->neighbour_id,
1619                                mq->message_buf,
1620                                mq->message_buf_size,
1621                                mq->priority,
1622                                GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT,
1623                                mq->specific_address->session,
1624                                mq->specific_address->addr,
1625                                mq->specific_address->addrlen,
1626                                force_address,
1627                                &transmit_send_continuation, mq);
1628   if (ret == -1)
1629     {
1630       /* failure, but 'send' would not call continuation in this case,
1631          so we need to do it here! */
1632       transmit_send_continuation (mq, 
1633                                   &mq->neighbour_id,
1634                                   GNUNET_SYSERR);
1635     }
1636 }
1637
1638
1639 /**
1640  * Send the specified message to the specified peer.
1641  *
1642  * @param client source of the transmission request (can be NULL)
1643  * @param peer_address ForeignAddressList where we should send this message
1644  * @param priority how important is the message
1645  * @param timeout how long do we have to transmit?
1646  * @param message_buf message(s) to send GNUNET_MessageHeader(s)
1647  * @param message_buf_size total size of all messages in message_buf
1648  * @param is_internal is this an internal message; these are pre-pended and
1649  *                    also do not count for plugins being "ready" to transmit
1650  * @param neighbour handle to the neighbour for transmission
1651  */
1652 static void
1653 transmit_to_peer (struct TransportClient *client,
1654                   struct ForeignAddressList *peer_address,
1655                   unsigned int priority,
1656                   struct GNUNET_TIME_Relative timeout,
1657                   const char *message_buf,
1658                   size_t message_buf_size,
1659                   int is_internal, struct NeighbourList *neighbour)
1660 {
1661   struct MessageQueue *mq;
1662
1663 #if EXTRA_CHECKS
1664   if (client != NULL)
1665     {
1666       /* check for duplicate submission */
1667       mq = neighbour->messages_head;
1668       while (NULL != mq)
1669         {
1670           if (mq->client == client)
1671             {
1672               /* client transmitted to same peer twice
1673                  before getting SEND_OK! */
1674               GNUNET_break (0);
1675               return;
1676             }
1677           mq = mq->next;
1678         }
1679     }
1680 #endif
1681   GNUNET_STATISTICS_update (stats,
1682                             gettext_noop ("# bytes in message queue for other peers"),
1683                             message_buf_size,
1684                             GNUNET_NO);
1685   mq = GNUNET_malloc (sizeof (struct MessageQueue) + message_buf_size);
1686   mq->specific_address = peer_address;
1687   mq->client = client;
1688   memcpy (&mq[1], message_buf, message_buf_size);
1689   mq->message_buf = (const char*) &mq[1];
1690   mq->message_buf_size = message_buf_size;
1691   memcpy(&mq->neighbour_id, &neighbour->id, sizeof(struct GNUNET_PeerIdentity));
1692   mq->internal_msg = is_internal;
1693   mq->priority = priority;
1694   mq->timeout = GNUNET_TIME_relative_to_absolute (timeout);
1695   if (is_internal)    
1696     GNUNET_CONTAINER_DLL_insert (neighbour->messages_head,
1697                                  neighbour->messages_tail,
1698                                  mq);
1699   else
1700     GNUNET_CONTAINER_DLL_insert_after (neighbour->messages_head,
1701                                        neighbour->messages_tail,
1702                                        neighbour->messages_tail,
1703                                        mq);
1704   try_transmission_to_peer (neighbour);
1705 }
1706
1707
1708 /**
1709  * FIXME: document.
1710  */
1711 struct GeneratorContext
1712 {
1713   struct TransportPlugin *plug_pos;
1714   struct OwnAddressList *addr_pos;
1715   struct GNUNET_TIME_Absolute expiration;
1716 };
1717
1718
1719 /**
1720  * FIXME: document.
1721  */
1722 static size_t
1723 address_generator (void *cls, size_t max, void *buf)
1724 {
1725   struct GeneratorContext *gc = cls;
1726   size_t ret;
1727
1728   while ((gc->addr_pos == NULL) && (gc->plug_pos != NULL))
1729     {
1730       gc->plug_pos = gc->plug_pos->next;
1731       gc->addr_pos = (gc->plug_pos != NULL) ? gc->plug_pos->addresses : NULL;
1732     }
1733   if (NULL == gc->plug_pos)
1734     {
1735
1736       return 0;
1737     }
1738   ret = GNUNET_HELLO_add_address (gc->plug_pos->short_name,
1739                                   gc->expiration,
1740                                   gc->addr_pos->addr,
1741                                   gc->addr_pos->addrlen, buf, max);
1742   gc->addr_pos = gc->addr_pos->next;
1743   return ret;
1744 }
1745
1746
1747 /**
1748  * Construct our HELLO message from all of the addresses of
1749  * all of the transports.
1750  */
1751 static void
1752 refresh_hello ()
1753 {
1754   struct GNUNET_HELLO_Message *hello;
1755   struct TransportClient *cpos;
1756   struct NeighbourList *npos;
1757   struct GeneratorContext gc;
1758
1759   gc.plug_pos = plugins;
1760   gc.addr_pos = plugins != NULL ? plugins->addresses : NULL;
1761   gc.expiration = GNUNET_TIME_relative_to_absolute (HELLO_ADDRESS_EXPIRATION);
1762   hello = GNUNET_HELLO_create (&my_public_key, &address_generator, &gc);
1763 #if DEBUG_TRANSPORT
1764   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
1765               "Refreshed my `%s', new size is %d\n", "HELLO", GNUNET_HELLO_size(hello));
1766 #endif
1767   GNUNET_STATISTICS_update (stats,
1768                             gettext_noop ("# refreshed my HELLO"),
1769                             1,
1770                             GNUNET_NO);
1771   cpos = clients;
1772   while (cpos != NULL)
1773     {
1774       transmit_to_client (cpos,
1775                           (const struct GNUNET_MessageHeader *) hello,
1776                           GNUNET_NO);
1777       cpos = cpos->next;
1778     }
1779
1780   GNUNET_free_non_null (our_hello);
1781   our_hello = hello;
1782   our_hello_version++;
1783   GNUNET_PEERINFO_add_peer (peerinfo, our_hello);
1784   npos = neighbours;
1785   while (npos != NULL)
1786     {
1787 #if DEBUG_TRANSPORT
1788       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
1789                   "Transmitting updated `%s' to neighbour `%4s'\n",
1790                   "HELLO", GNUNET_i2s (&npos->id));
1791 #endif
1792       GNUNET_STATISTICS_update (stats,
1793                                 gettext_noop ("# transmitted my HELLO to other peers"),
1794                                 1,
1795                                 GNUNET_NO);
1796       transmit_to_peer (NULL, NULL, 0,
1797                         HELLO_ADDRESS_EXPIRATION,
1798                         (const char *) our_hello, 
1799                         GNUNET_HELLO_size(our_hello),
1800                         GNUNET_NO, npos);
1801       npos = npos->next;
1802     }
1803 }
1804
1805
1806 /**
1807  * Task used to clean up expired addresses for a plugin.
1808  *
1809  * @param cls closure
1810  * @param tc context
1811  */
1812 static void
1813 expire_address_task (void *cls,
1814                      const struct GNUNET_SCHEDULER_TaskContext *tc);
1815
1816
1817 /**
1818  * Update the list of addresses for this plugin,
1819  * expiring those that are past their expiration date.
1820  *
1821  * @param plugin addresses of which plugin should be recomputed?
1822  * @param fresh set to GNUNET_YES if a new address was added
1823  *        and we need to regenerate the HELLO even if nobody
1824  *        expired
1825  */
1826 static void
1827 update_addresses (struct TransportPlugin *plugin, int fresh)
1828 {
1829   static struct GNUNET_TIME_Absolute last_update;
1830   struct GNUNET_TIME_Relative min_remaining;
1831   struct GNUNET_TIME_Relative remaining;
1832   struct GNUNET_TIME_Absolute now;
1833   struct OwnAddressList *pos;
1834   struct OwnAddressList *prev;
1835   struct OwnAddressList *next;
1836   int expired;
1837
1838   if (plugin->address_update_task != GNUNET_SCHEDULER_NO_TASK)
1839     GNUNET_SCHEDULER_cancel (plugin->env.sched, plugin->address_update_task);
1840   plugin->address_update_task = GNUNET_SCHEDULER_NO_TASK;
1841   now = GNUNET_TIME_absolute_get ();
1842   min_remaining = GNUNET_TIME_UNIT_FOREVER_REL;
1843   expired = (GNUNET_TIME_absolute_get_duration (last_update).value > (HELLO_ADDRESS_EXPIRATION.value / 4));
1844   prev = NULL;
1845   pos = plugin->addresses;
1846   while (pos != NULL)
1847     {
1848       next = pos->next;
1849       if (pos->expires.value < now.value)
1850         {
1851           expired = GNUNET_YES;
1852           if (prev == NULL)
1853             plugin->addresses = pos->next;
1854           else
1855             prev->next = pos->next;  
1856           GNUNET_free (pos);
1857         }
1858       else
1859         {
1860           remaining = GNUNET_TIME_absolute_get_remaining (pos->expires);
1861           if (remaining.value < min_remaining.value)
1862             min_remaining = remaining;
1863           prev = pos;
1864         }
1865       pos = next;
1866     }
1867
1868   if (expired || fresh)
1869     {
1870       last_update = now;
1871       refresh_hello ();
1872     }
1873   min_remaining = GNUNET_TIME_relative_min (min_remaining,
1874                                             GNUNET_TIME_relative_divide (HELLO_ADDRESS_EXPIRATION,
1875                                                                          2));
1876   plugin->address_update_task
1877     = GNUNET_SCHEDULER_add_delayed (plugin->env.sched,
1878                                     min_remaining,
1879                                     &expire_address_task, plugin);
1880 }
1881
1882
1883 /**
1884  * Task used to clean up expired addresses for a plugin.
1885  *
1886  * @param cls closure
1887  * @param tc context
1888  */
1889 static void
1890 expire_address_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1891 {
1892   struct TransportPlugin *plugin = cls;
1893
1894   plugin->address_update_task = GNUNET_SCHEDULER_NO_TASK;
1895   if (0 == (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1896     update_addresses (plugin, GNUNET_NO);
1897 }
1898
1899
1900 /**
1901  * Iterator over hash map entries that NULLs the session of validation
1902  * entries that match the given session.
1903  *
1904  * @param cls closure (the 'struct Session*' to match against)
1905  * @param key current key code (peer ID, not used)
1906  * @param value value in the hash map ('struct ValidationEntry*')
1907  * @return GNUNET_YES (we should continue to iterate)
1908  */
1909 static int 
1910 remove_session_validations (void *cls,
1911                             const GNUNET_HashCode * key,
1912                             void *value)
1913 {
1914   struct Session *session = cls;
1915   struct ValidationEntry *ve = value;
1916
1917   if (session == ve->session)
1918     ve->session = NULL;
1919   return GNUNET_YES;
1920 }
1921
1922
1923 /**
1924  * Function that will be called whenever the plugin internally
1925  * cleans up a session pointer and hence the service needs to
1926  * discard all of those sessions as well.  Plugins that do not
1927  * use sessions can simply omit calling this function and always
1928  * use NULL wherever a session pointer is needed.
1929  * 
1930  * @param cls closure
1931  * @param peer which peer was the session for 
1932  * @param session which session is being destoyed
1933  */
1934 static void
1935 plugin_env_session_end  (void *cls,
1936                          const struct GNUNET_PeerIdentity *peer,
1937                          struct Session *session)
1938 {
1939   struct TransportPlugin *p = cls;
1940   struct NeighbourList *nl;
1941   struct ReadyList *rl;
1942   struct ForeignAddressList *pos;
1943   struct ForeignAddressList *prev;
1944
1945   GNUNET_CONTAINER_multihashmap_iterate (validation_map,
1946                                          &remove_session_validations,
1947                                          session);
1948   nl = find_neighbour (peer);
1949   if (nl == NULL)
1950     return;
1951   rl = nl->plugins;
1952   while (rl != NULL)
1953     {
1954       if (rl->plugin == p)
1955         break;
1956       rl = rl->next;
1957     }
1958   if (rl == NULL)
1959     return;
1960   prev = NULL;
1961   pos = rl->addresses;
1962   while ( (pos != NULL) &&
1963           (pos->session != session) )
1964     {
1965       prev = pos;
1966       pos = pos->next;
1967     }
1968   if (pos == NULL)
1969     return;
1970   pos->session = NULL;
1971   if (pos->addrlen != 0)
1972     return;
1973   if (prev == NULL)
1974     rl->addresses = pos->next;
1975   else
1976     prev->next = pos->next;
1977   if (GNUNET_SCHEDULER_NO_TASK != pos->revalidate_task)
1978     {
1979       GNUNET_SCHEDULER_cancel (sched,
1980                                pos->revalidate_task);
1981       pos->revalidate_task = GNUNET_SCHEDULER_NO_TASK;
1982     }
1983   GNUNET_free (pos);
1984   if (nl->received_pong == GNUNET_NO)
1985     return; /* nothing to do */
1986   /* check if we have any validated addresses left */
1987   pos = rl->addresses;
1988   while (pos != NULL)
1989     {
1990       if (pos->validated)
1991         return;
1992       pos = pos->next;
1993     }
1994   /* no valid addresses left, signal disconnect! */
1995   disconnect_neighbour (nl, GNUNET_NO);  
1996 }
1997
1998
1999 /**
2000  * Function that must be called by each plugin to notify the
2001  * transport service about the addresses under which the transport
2002  * provided by the plugin can be reached.
2003  *
2004  * @param cls closure
2005  * @param name name of the transport that generated the address
2006  * @param addr one of the addresses of the host, NULL for the last address
2007  *        the specific address format depends on the transport
2008  * @param addrlen length of the address
2009  * @param expires when should this address automatically expire?
2010  */
2011 static void
2012 plugin_env_notify_address (void *cls,
2013                            const char *name,
2014                            const void *addr,
2015                            size_t addrlen,
2016                            struct GNUNET_TIME_Relative expires)
2017 {
2018   struct TransportPlugin *p = cls;
2019   struct OwnAddressList *al;
2020   struct GNUNET_TIME_Absolute abex;
2021
2022   GNUNET_assert (addr != NULL);
2023   abex = GNUNET_TIME_relative_to_absolute (expires);
2024   GNUNET_assert (p == find_transport (name));
2025   al = p->addresses;
2026   while (al != NULL)
2027     {
2028       if ((addrlen == al->addrlen) && (0 == memcmp (addr, &al[1], addrlen)))
2029         {
2030           if (al->expires.value < abex.value)
2031             al->expires = abex;
2032           return;
2033         }
2034       al = al->next;
2035     }
2036
2037   al = GNUNET_malloc (sizeof (struct OwnAddressList) + addrlen);
2038   al->addr = &al[1];
2039   al->next = p->addresses;
2040   p->addresses = al;
2041   al->expires = abex;
2042   al->addrlen = addrlen;
2043   memcpy (&al[1], addr, addrlen);
2044   update_addresses (p, GNUNET_YES);
2045 }
2046
2047
2048 /**
2049  * Notify all of our clients about a peer connecting.
2050  */
2051 static void
2052 notify_clients_connect (const struct GNUNET_PeerIdentity *peer,
2053                         struct GNUNET_TIME_Relative latency,
2054                         uint32_t distance)
2055 {
2056   struct ConnectInfoMessage cim;
2057   struct TransportClient *cpos;
2058
2059 #if DEBUG_TRANSPORT
2060   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2061               "Notifying clients about connection from `%s'\n",
2062               GNUNET_i2s (peer));
2063 #endif
2064   GNUNET_STATISTICS_update (stats,
2065                             gettext_noop ("# peers connected"),
2066                             1,
2067                             GNUNET_NO);
2068   cim.header.size = htons (sizeof (struct ConnectInfoMessage));
2069   cim.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_CONNECT);
2070   cim.distance = htonl (distance);
2071   cim.latency = GNUNET_TIME_relative_hton (latency);
2072   memcpy (&cim.id, peer, sizeof (struct GNUNET_PeerIdentity));
2073   cpos = clients;
2074   while (cpos != NULL)
2075     {
2076       transmit_to_client (cpos, &cim.header, GNUNET_NO);
2077       cpos = cpos->next;
2078     }
2079 }
2080
2081
2082 /**
2083  * Notify all of our clients about a peer disconnecting.
2084  */
2085 static void
2086 notify_clients_disconnect (const struct GNUNET_PeerIdentity *peer)
2087 {
2088   struct DisconnectInfoMessage dim;
2089   struct TransportClient *cpos;
2090
2091 #if DEBUG_TRANSPORT
2092   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2093               "Notifying clients about lost connection to `%s'\n",
2094               GNUNET_i2s (peer));
2095 #endif
2096   GNUNET_STATISTICS_update (stats,
2097                             gettext_noop ("# peers connected"),
2098                             -1,
2099                             GNUNET_NO);
2100   dim.header.size = htons (sizeof (struct DisconnectInfoMessage));
2101   dim.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_DISCONNECT);
2102   dim.reserved = htonl (0);
2103   memcpy (&dim.peer, peer, sizeof (struct GNUNET_PeerIdentity));
2104   cpos = clients;
2105   while (cpos != NULL)
2106     {
2107       transmit_to_client (cpos, &dim.header, GNUNET_NO);
2108       cpos = cpos->next;
2109     }
2110 }
2111
2112
2113 /**
2114  * Find a ForeignAddressList entry for the given neighbour
2115  * that matches the given address and transport.
2116  *
2117  * @param neighbour which peer we care about
2118  * @param tname name of the transport plugin
2119  * @param session session to look for, NULL for 'any'; otherwise
2120  *        can be used for the service to "learn" this session ID
2121  *        if 'addr' matches
2122  * @param addr binary address
2123  * @param addrlen length of addr
2124  * @return NULL if no such entry exists
2125  */
2126 static struct ForeignAddressList *
2127 find_peer_address(struct NeighbourList *neighbour,
2128                   const char *tname,
2129                   struct Session *session,
2130                   const char *addr,
2131                   size_t addrlen)
2132 {
2133   struct ReadyList *head;
2134   struct ForeignAddressList *pos;
2135
2136   head = neighbour->plugins;
2137   while (head != NULL)
2138     {
2139       if (0 == strcmp (tname, head->plugin->short_name))
2140         break;
2141       head = head->next;
2142     }
2143   if (head == NULL)
2144     return NULL;
2145   pos = head->addresses;
2146   while ( (pos != NULL) &&
2147           ( (pos->addrlen != addrlen) ||
2148             (memcmp(pos->addr, addr, addrlen) != 0) ) )
2149     {
2150       if ( (session != NULL) &&
2151            (pos->session == session) )
2152         return pos;
2153       pos = pos->next;
2154     }
2155   if ( (session != NULL) && (pos != NULL) )
2156     pos->session = session; /* learn it! */
2157   return pos;
2158 }
2159
2160
2161 /**
2162  * Get the peer address struct for the given neighbour and
2163  * address.  If it doesn't yet exist, create it.
2164  *
2165  * @param neighbour which peer we care about
2166  * @param tname name of the transport plugin
2167  * @param session session of the plugin, or NULL for none
2168  * @param addr binary address
2169  * @param addrlen length of addr
2170  * @return NULL if we do not have a transport plugin for 'tname'
2171  */
2172 static struct ForeignAddressList *
2173 add_peer_address (struct NeighbourList *neighbour,
2174                   const char *tname,
2175                   struct Session *session,
2176                   const char *addr, 
2177                   size_t addrlen)
2178 {
2179   struct ReadyList *head;
2180   struct ForeignAddressList *ret;
2181
2182   ret = find_peer_address (neighbour, tname, session, addr, addrlen);
2183   if (ret != NULL)
2184     return ret;
2185   head = neighbour->plugins;
2186
2187   while (head != NULL)
2188     {
2189       if (0 == strcmp (tname, head->plugin->short_name))
2190         break;
2191       head = head->next;
2192     }
2193   if (head == NULL)
2194     return NULL;
2195   ret = GNUNET_malloc(sizeof(struct ForeignAddressList) + addrlen);
2196   ret->session = session;
2197   if (addrlen > 0)
2198     {
2199       ret->addr = (const char*) &ret[1];
2200       memcpy (&ret[1], addr, addrlen);
2201     }
2202   else
2203     {
2204       ret->addr = NULL;
2205     }
2206   ret->addrlen = addrlen;
2207   ret->expires = GNUNET_TIME_relative_to_absolute
2208     (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
2209   ret->latency = GNUNET_TIME_relative_get_forever();
2210   ret->distance = -1;
2211   ret->timeout = GNUNET_TIME_relative_to_absolute
2212     (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT); 
2213   ret->ready_list = head;
2214   ret->next = head->addresses;
2215   head->addresses = ret;
2216   return ret;
2217 }
2218
2219
2220 /**
2221  * Closure for 'add_validated_address'.
2222  */
2223 struct AddValidatedAddressContext
2224 {
2225   /**
2226    * Entry that has been validated.
2227    */
2228   const struct ValidationEntry *ve;
2229
2230   /**
2231    * Flag set after we have added the address so
2232    * that we terminate the iteration next time.
2233    */
2234   int done;
2235 };
2236
2237
2238 /**
2239  * Callback function used to fill a buffer of max bytes with a list of
2240  * addresses in the format used by HELLOs.  Should use
2241  * "GNUNET_HELLO_add_address" as a helper function.
2242  *
2243  * @param cls the 'struct AddValidatedAddressContext' with the validated address
2244  * @param max maximum number of bytes that can be written to buf
2245  * @param buf where to write the address information
2246  * @return number of bytes written, 0 to signal the
2247  *         end of the iteration.
2248  */
2249 static size_t
2250 add_validated_address (void *cls,
2251                        size_t max, void *buf)
2252 {
2253   struct AddValidatedAddressContext *avac = cls;
2254   const struct ValidationEntry *ve = avac->ve;
2255
2256   if (GNUNET_YES == avac->done)
2257     return 0;
2258   avac->done = GNUNET_YES;
2259   return GNUNET_HELLO_add_address (ve->transport_name,
2260                                    GNUNET_TIME_relative_to_absolute (HELLO_ADDRESS_EXPIRATION),
2261                                    ve->addr,
2262                                    ve->addrlen,
2263                                    buf,
2264                                    max);
2265 }
2266
2267
2268
2269 /**
2270  * Closure for 'check_address_exists'.
2271  */
2272 struct CheckAddressExistsClosure
2273 {
2274   /**
2275    * Address to check for.
2276    */
2277   const void *addr;
2278
2279   /**
2280    * Name of the transport.
2281    */
2282   const char *tname;
2283
2284   /**
2285    * Session, or NULL.
2286    */
2287   struct Session *session;
2288
2289   /**
2290    * Length of addr.
2291    */
2292   size_t addrlen;
2293
2294   /**
2295    * Set to GNUNET_YES if the address exists.
2296    */
2297   int exists;
2298 };
2299
2300
2301 /**
2302  * Iterator over hash map entries.  Checks if the given
2303  * validation entry is for the same address as what is given
2304  * in the closure.
2305  *
2306  * @param cls the 'struct CheckAddressExistsClosure*'
2307  * @param key current key code (ignored)
2308  * @param value value in the hash map ('struct ValidationEntry')
2309  * @return GNUNET_YES if we should continue to
2310  *         iterate (mismatch), GNUNET_NO if not (entry matched)
2311  */
2312 static int
2313 check_address_exists (void *cls,
2314                       const GNUNET_HashCode * key,
2315                       void *value)
2316 {
2317   struct CheckAddressExistsClosure *caec = cls;
2318   struct ValidationEntry *ve = value;
2319
2320   if ( (0 == strcmp (caec->tname,
2321                      ve->transport_name)) &&
2322        (caec->addrlen == ve->addrlen) &&
2323        (0 == memcmp (caec->addr,
2324                      ve->addr,
2325                      caec->addrlen)) )
2326     {
2327       caec->exists = GNUNET_YES;
2328       return GNUNET_NO;
2329     }
2330   if ( (ve->session != NULL) &&
2331        (caec->session == ve->session) )
2332     {
2333       caec->exists = GNUNET_YES;
2334       return GNUNET_NO;
2335     }
2336   return GNUNET_YES;
2337 }
2338
2339
2340 /**
2341  * HELLO validation cleanup task (validation failed).
2342  *
2343  * @param cls the 'struct ValidationEntry' that failed
2344  * @param tc scheduler context (unused)
2345  */
2346 static void
2347 timeout_hello_validation (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
2348 {
2349   struct ValidationEntry *va = cls;
2350   struct GNUNET_PeerIdentity pid;
2351
2352   GNUNET_STATISTICS_update (stats,
2353                             gettext_noop ("# address validation timeouts"),
2354                             1,
2355                             GNUNET_NO);
2356   GNUNET_CRYPTO_hash (&va->publicKey,
2357                       sizeof (struct
2358                               GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
2359                       &pid.hashPubKey);
2360   GNUNET_CONTAINER_multihashmap_remove (validation_map,
2361                                         &pid.hashPubKey,
2362                                         va);
2363   GNUNET_free (va->transport_name);
2364   GNUNET_free (va);
2365 }
2366
2367
2368 static void
2369 neighbour_timeout_task (void *cls,
2370                        const struct GNUNET_SCHEDULER_TaskContext *tc)
2371 {
2372   struct NeighbourList *n = cls;
2373
2374 #if DEBUG_TRANSPORT
2375   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
2376               "Neighbour `%4s' has timed out!\n", GNUNET_i2s (&n->id));
2377 #endif
2378   GNUNET_STATISTICS_update (stats,
2379                             gettext_noop ("# disconnects due to timeout"),
2380                             1,
2381                             GNUNET_NO);
2382   n->timeout_task = GNUNET_SCHEDULER_NO_TASK;
2383   disconnect_neighbour (n, GNUNET_NO);
2384 }
2385
2386
2387 /**
2388  * Schedule the job that will cause us to send a PING to the
2389  * foreign address to evaluate its validity and latency.
2390  *
2391  * @param fal address to PING
2392  */
2393 static void
2394 schedule_next_ping (struct ForeignAddressList *fal);
2395
2396
2397 /**
2398  * Add the given address to the list of foreign addresses
2399  * available for the given peer (check for duplicates).
2400  *
2401  * @param cls the respective 'struct NeighbourList' to update
2402  * @param tname name of the transport
2403  * @param expiration expiration time
2404  * @param addr the address
2405  * @param addrlen length of the address
2406  * @return GNUNET_OK (always)
2407  */
2408 static int
2409 add_to_foreign_address_list (void *cls,
2410                              const char *tname,
2411                              struct GNUNET_TIME_Absolute expiration,
2412                              const void *addr, size_t addrlen)
2413 {
2414   struct NeighbourList *n = cls;
2415   struct ForeignAddressList *fal;
2416   int try;
2417
2418   GNUNET_STATISTICS_update (stats,
2419                             gettext_noop ("# valid peer addresses returned by peerinfo"),
2420                             1,
2421                             GNUNET_NO);      
2422   try = GNUNET_NO;
2423   fal = find_peer_address (n, tname, NULL, addr, addrlen);
2424   if (fal == NULL)
2425     {
2426 #if DEBUG_TRANSPORT
2427       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2428                   "Adding address `%s' (%s) for peer `%4s' due to peerinfo data for %llums.\n",
2429                   GNUNET_a2s (addr, addrlen),
2430                   tname,
2431                   GNUNET_i2s (&n->id),
2432                   expiration.value);
2433 #endif
2434       fal = add_peer_address (n, tname, NULL, addr, addrlen);
2435       if (fal == NULL)
2436         {
2437           GNUNET_STATISTICS_update (stats,
2438                                     gettext_noop ("# previously validated addresses lacking transport"),
2439                                     1,
2440                                     GNUNET_NO); 
2441         }
2442       else
2443         {
2444           fal->expires = GNUNET_TIME_absolute_max (expiration,
2445                                                    fal->expires);
2446           schedule_next_ping (fal);
2447         }
2448       try = GNUNET_YES;
2449     }
2450   else
2451     {
2452       fal->expires = GNUNET_TIME_absolute_max (expiration,
2453                                                fal->expires);
2454     }
2455   if (fal == NULL)
2456     {
2457       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2458                   "Failed to add new address for `%4s'\n",
2459                   GNUNET_i2s (&n->id));
2460       return GNUNET_OK;
2461     }
2462   if (fal->validated == GNUNET_NO)
2463     {
2464       fal->validated = GNUNET_YES;  
2465       GNUNET_STATISTICS_update (stats,
2466                                 gettext_noop ("# peer addresses considered valid"),
2467                                 1,
2468                                 GNUNET_NO);      
2469     }
2470   if (try == GNUNET_YES)
2471     {
2472       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2473                   "Have new addresses, will try to trigger transmissions.\n");
2474       try_transmission_to_peer (n);
2475     }
2476   return GNUNET_OK;
2477 }
2478
2479
2480 /**
2481  * Add addresses in validated HELLO "h" to the set of addresses
2482  * we have for this peer.
2483  *
2484  * @param cls closure ('struct NeighbourList*')
2485  * @param peer id of the peer, NULL for last call
2486  * @param h hello message for the peer (can be NULL)
2487  * @param trust amount of trust we have in the peer (not used)
2488  */
2489 static void
2490 add_hello_for_peer (void *cls,
2491                     const struct GNUNET_PeerIdentity *peer,
2492                     const struct GNUNET_HELLO_Message *h, 
2493                     uint32_t trust)
2494 {
2495   struct NeighbourList *n = cls;
2496
2497   if (peer == NULL)
2498     {
2499       n->piter = NULL;
2500       return;
2501     } 
2502   if (h == NULL)
2503     return; /* no HELLO available */
2504 #if DEBUG_TRANSPORT
2505   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2506               "Peerinfo had `%s' message for peer `%4s', adding existing addresses.\n",
2507               "HELLO",
2508               GNUNET_i2s (peer));
2509 #endif
2510   if (GNUNET_YES != n->public_key_valid)
2511     {
2512       GNUNET_HELLO_get_key (h, &n->publicKey);
2513       n->public_key_valid = GNUNET_YES;
2514     }
2515   GNUNET_HELLO_iterate_addresses (h,
2516                                   GNUNET_NO,
2517                                   &add_to_foreign_address_list,
2518                                   n);
2519 }
2520
2521
2522 /**
2523  * Create a fresh entry in our neighbour list for the given peer.
2524  * Will try to transmit our current HELLO to the new neighbour. 
2525  * Do not call this function directly, use 'setup_peer_check_blacklist.
2526  *
2527  * @param peer the peer for which we create the entry
2528  * @param do_hello should we schedule transmitting a HELLO
2529  * @return the new neighbour list entry
2530  */
2531 static struct NeighbourList *
2532 setup_new_neighbour (const struct GNUNET_PeerIdentity *peer,
2533                      int do_hello)
2534 {
2535   struct NeighbourList *n;
2536   struct TransportPlugin *tp;
2537   struct ReadyList *rl;
2538
2539   GNUNET_assert (our_hello != NULL);
2540   GNUNET_STATISTICS_update (stats,
2541                             gettext_noop ("# active neighbours"),
2542                             1,
2543                             GNUNET_NO);
2544   n = GNUNET_malloc (sizeof (struct NeighbourList));
2545   n->next = neighbours;
2546   neighbours = n;
2547   n->id = *peer;
2548   n->peer_timeout =
2549     GNUNET_TIME_relative_to_absolute
2550     (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
2551   GNUNET_BANDWIDTH_tracker_init (&n->in_tracker,
2552                                  GNUNET_CONSTANTS_DEFAULT_BW_IN_OUT,
2553                                  MAX_BANDWIDTH_CARRY_S);
2554   tp = plugins;
2555   while (tp != NULL)
2556     {
2557       if ((tp->api->send != NULL) && (!is_blacklisted(peer, tp)))
2558         {
2559           rl = GNUNET_malloc (sizeof (struct ReadyList));
2560           rl->neighbour = n;
2561           rl->next = n->plugins;
2562           n->plugins = rl;
2563           rl->plugin = tp;
2564           rl->addresses = NULL;
2565         }
2566       tp = tp->next;
2567     }
2568   n->latency = GNUNET_TIME_UNIT_FOREVER_REL;
2569   n->distance = -1;
2570   n->timeout_task = GNUNET_SCHEDULER_add_delayed (sched,
2571                                                   GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT,
2572                                                   &neighbour_timeout_task, n);
2573   if (do_hello)
2574     {
2575       n->piter = GNUNET_PEERINFO_iterate (peerinfo, peer,
2576                                           0, GNUNET_TIME_UNIT_FOREVER_REL,
2577                                           &add_hello_for_peer, n);
2578       transmit_to_peer (NULL, NULL, 0,
2579                         HELLO_ADDRESS_EXPIRATION,
2580                         (const char *) our_hello, GNUNET_HELLO_size(our_hello),
2581                         GNUNET_NO, n);
2582     }
2583   return n;
2584 }
2585
2586
2587 /**
2588  * Function called after we have checked if communicating
2589  * with a given peer is acceptable.  
2590  *
2591  * @param cls closure
2592  * @param n NULL if communication is not acceptable
2593  */
2594 typedef void (*SetupContinuation)(void *cls,
2595                                   struct NeighbourList *n);
2596
2597
2598 /**
2599  * Information kept for each client registered to perform
2600  * blacklisting.
2601  */
2602 struct Blacklisters
2603 {
2604   /**
2605    * This is a linked list.
2606    */
2607   struct Blacklisters *next;
2608
2609   /**
2610    * This is a linked list.
2611    */
2612   struct Blacklisters *prev;
2613
2614   /**
2615    * Client responsible for this entry.
2616    */
2617   struct GNUNET_SERVER_Client *client;
2618
2619   /**
2620    * Blacklist check that we're currently performing.
2621    */
2622   struct BlacklistCheck *bc;
2623
2624 };
2625
2626
2627 /**
2628  * Head of DLL of blacklisting clients.
2629  */
2630 static struct Blacklisters *bl_head;
2631
2632 /**
2633  * Tail of DLL of blacklisting clients.
2634  */
2635 static struct Blacklisters *bl_tail;
2636
2637
2638 /**
2639  * Context we use when performing a blacklist check.
2640  */
2641 struct BlacklistCheck
2642 {
2643   
2644   /**
2645    * This is a linked list.
2646    */
2647   struct BlacklistCheck *next;
2648   
2649   /**
2650    * This is a linked list.
2651    */
2652   struct BlacklistCheck *prev;
2653
2654   /**
2655    * Peer being checked.
2656    */
2657   struct GNUNET_PeerIdentity peer;
2658
2659   /**
2660    * Option for setup neighbour afterwards.
2661    */
2662   int do_hello;
2663
2664   /**
2665    * Continuation to call with the result.
2666    */
2667   SetupContinuation cont;
2668
2669   /**
2670    * Closure for cont.
2671    */
2672   void *cont_cls;
2673
2674   /**
2675    * Current transmission request handle for this client, or NULL if no
2676    * request is pending.
2677    */
2678   struct GNUNET_CONNECTION_TransmitHandle *th;
2679
2680   /**
2681    * Our current position in the blacklisters list.
2682    */
2683   struct Blacklisters *bl_pos;
2684
2685   /**
2686    * Current task performing the check.
2687    */
2688   GNUNET_SCHEDULER_TaskIdentifier task;
2689
2690 };
2691
2692 /**
2693  * Head of DLL of active blacklisting queries.
2694  */
2695 static struct BlacklistCheck *bc_head;
2696
2697 /**
2698  * Tail of DLL of active blacklisting queries.
2699  */
2700 static struct BlacklistCheck *bc_tail;
2701
2702
2703 /**
2704  * Perform next action in the blacklist check.
2705  *
2706  * @param cls the 'struct BlacklistCheck*'
2707  * @param tc unused 
2708  */
2709 static void
2710 do_blacklist_check (void *cls,
2711                     const struct GNUNET_SCHEDULER_TaskContext *tc);
2712
2713
2714 /**
2715  * Transmit blacklist query to the client.
2716  *
2717  * @param cls the 'struct BlacklistCheck'
2718  * @param size number of bytes allowed
2719  * @param buf where to copy the message
2720  * @return number of bytes copied to buf
2721  */
2722 static size_t
2723 transmit_blacklist_message (void *cls,
2724                             size_t size,
2725                             void *buf)
2726 {
2727   struct BlacklistCheck *bc = cls;
2728   struct Blacklisters *bl;
2729   struct BlacklistMessage bm;
2730
2731   bc->th = NULL;
2732   if (size == 0)
2733     {
2734       GNUNET_assert (bc->task == GNUNET_SCHEDULER_NO_TASK);
2735       bc->task = GNUNET_SCHEDULER_add_now (sched,
2736                                            &do_blacklist_check,
2737                                            bc);
2738       return 0;
2739     }
2740   bl = bc->bl_pos;
2741   bm.header.size = htons (sizeof (struct BlacklistMessage));
2742   bm.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_BLACKLIST_QUERY);
2743   bm.is_allowed = htonl (0);
2744   bm.peer = bc->peer;
2745   memcpy (buf, &bm, sizeof (bm)); 
2746   GNUNET_SERVER_receive_done (bl->client, GNUNET_OK);
2747   return sizeof (bm);
2748 }
2749
2750
2751 /**
2752  * Perform next action in the blacklist check.
2753  *
2754  * @param cls the 'struct BlacklistCheck*'
2755  * @param tc unused 
2756  */
2757 static void
2758 do_blacklist_check (void *cls,
2759                     const struct GNUNET_SCHEDULER_TaskContext *tc)
2760 {
2761   struct BlacklistCheck *bc = cls;
2762   struct Blacklisters *bl;
2763
2764   bc->task = GNUNET_SCHEDULER_NO_TASK;
2765   bl = bc->bl_pos;
2766   if (bl == NULL)
2767     {
2768       bc->cont (bc->cont_cls,
2769                 setup_new_neighbour (&bc->peer, bc->do_hello));         
2770       GNUNET_free (bc);
2771       return;
2772     }
2773   if (bl->bc == NULL) 
2774     {
2775       bl->bc = bc;
2776       bc->th = GNUNET_SERVER_notify_transmit_ready (bl->client,
2777                                                     sizeof (struct BlacklistMessage),
2778                                                     GNUNET_TIME_UNIT_FOREVER_REL,
2779                                                     &transmit_blacklist_message,
2780                                                     bc); 
2781     }
2782 }
2783
2784
2785 /**
2786  * Obtain a 'struct NeighbourList' for the given peer.  If such an entry
2787  * does not yet exist, check the blacklist.  If the blacklist says creating
2788  * one is acceptable, create one and call the continuation; otherwise
2789  * call the continuation with NULL.
2790  *
2791  * @param peer peer to setup or look up a struct NeighbourList for
2792  * @param do_hello should we also schedule sending our HELLO to the peer
2793  *        if this is a new record
2794  * @param cont function to call with the 'struct NeigbhbourList*'
2795  * @param cont_cls closure for cont
2796  */
2797 static void
2798 setup_peer_check_blacklist (const struct GNUNET_PeerIdentity *peer,
2799                             int do_hello,
2800                             SetupContinuation cont,
2801                             void *cont_cls)
2802 {
2803   struct NeighbourList *n;
2804   struct BlacklistCheck *bc;
2805
2806   n = find_neighbour(peer);
2807   if (n != NULL)
2808     {
2809       cont (cont_cls, n);
2810       return;
2811     }
2812   if (bl_head == NULL)
2813     {
2814       cont (cont_cls,
2815             setup_new_neighbour (peer, do_hello));
2816       return;
2817     }
2818   bc = GNUNET_malloc (sizeof (struct BlacklistCheck));
2819   GNUNET_CONTAINER_DLL_insert (bc_head, bc_tail, bc);
2820   bc->peer = *peer;
2821   bc->do_hello = do_hello;
2822   bc->cont = cont;
2823   bc->cont_cls = cont_cls;
2824   bc->bl_pos = bl_head;
2825   bc->task = GNUNET_SCHEDULER_add_now (sched,
2826                                        &do_blacklist_check,
2827                                        bc);
2828 }
2829
2830
2831 /**
2832  * Function called with the result of querying a new blacklister about 
2833  * it being allowed (or not) to continue to talk to an existing neighbour.
2834  *
2835  * @param cls the original 'struct NeighbourList'
2836  * @param n NULL if we need to disconnect
2837  */
2838 static void
2839 confirm_or_drop_neighbour (void *cls,
2840                            struct NeighbourList *n)
2841 {
2842   struct NeighbourList * orig = cls;
2843
2844   if (n == NULL)
2845     disconnect_neighbour (orig, GNUNET_NO);
2846 }
2847
2848
2849 /**
2850  * Handle a request to start a blacklist.
2851  *
2852  * @param cls closure (always NULL)
2853  * @param client identification of the client
2854  * @param message the actual message
2855  */
2856 static void
2857 handle_blacklist_init (void *cls,
2858                        struct GNUNET_SERVER_Client *client,
2859                        const struct GNUNET_MessageHeader *message)
2860 {
2861   struct Blacklisters *bl;
2862   struct BlacklistCheck *bc;
2863   struct NeighbourList *n;
2864
2865   bl = bl_head;
2866   while (bl != NULL)
2867     {
2868       if (bl->client == client)
2869         {
2870           GNUNET_break (0);
2871           GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
2872           return;
2873         }
2874       bl = bl->next;
2875     }
2876   bl = GNUNET_malloc (sizeof (struct Blacklisters));
2877   bl->client = client;
2878   GNUNET_SERVER_client_keep (client);
2879   GNUNET_CONTAINER_DLL_insert_after (bl_head, bl_tail, bl_tail, bl);
2880   /* confirm that all existing connections are OK! */
2881   n = neighbours;
2882   while (NULL != n)
2883     {
2884       bc = GNUNET_malloc (sizeof (struct BlacklistCheck));
2885       GNUNET_CONTAINER_DLL_insert (bc_head, bc_tail, bc);
2886       bc->peer = n->id;
2887       bc->do_hello = GNUNET_NO;
2888       bc->cont = &confirm_or_drop_neighbour;
2889       bc->cont_cls = n;
2890       bc->bl_pos = bl;
2891       if (n == neighbours) /* all would wait for the same client, no need to
2892                               create more than just the first task right now */
2893         bc->task = GNUNET_SCHEDULER_add_now (sched,
2894                                              &do_blacklist_check,
2895                                              bc);
2896       n = n->next;
2897     }
2898 }
2899
2900
2901 /**
2902  * Handle a request to blacklist a peer.
2903  *
2904  * @param cls closure (always NULL)
2905  * @param client identification of the client
2906  * @param message the actual message
2907  */
2908 static void
2909 handle_blacklist_reply (void *cls,
2910                         struct GNUNET_SERVER_Client *client,
2911                         const struct GNUNET_MessageHeader *message)
2912 {
2913   const struct BlacklistMessage *msg = (const struct BlacklistMessage*) message;
2914   struct Blacklisters *bl;
2915   struct BlacklistCheck *bc;
2916
2917   bl = bl_head;
2918   while ( (bl != NULL) &&
2919           (bl->client != client) )
2920     bl = bl->next;  
2921   if (bl == NULL)
2922     {
2923       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
2924       return;
2925     }
2926   bc = bl->bc;
2927   bl->bc = NULL;  
2928   if (ntohl (msg->is_allowed) == GNUNET_SYSERR)
2929     {    
2930       bc->cont (bc->cont_cls, NULL);
2931       GNUNET_CONTAINER_DLL_remove (bc_head, bc_tail, bc);
2932       GNUNET_free (bc);
2933     }
2934   else
2935     {
2936       bc->bl_pos = bc->bl_pos->next;
2937       bc->task = GNUNET_SCHEDULER_add_now (sched,
2938                                            &do_blacklist_check,
2939                                            bc);      
2940     }
2941   /* check if any other bc's are waiting for this blacklister */
2942   bc = bc_head;
2943   while (bc != NULL)
2944     {
2945       if ( (bc->bl_pos == bl) &&
2946            (GNUNET_SCHEDULER_NO_TASK == bc->task) )
2947         bc->task = GNUNET_SCHEDULER_add_now (sched,
2948                                              &do_blacklist_check,
2949                                              bc);      
2950       bc = bc->next;
2951     }
2952 }
2953
2954
2955 /**
2956  * Send periodic PING messages to a give foreign address.
2957  *
2958  * @param cls our 'struct PeriodicValidationContext*'
2959  * @param tc task context
2960  */
2961 static void 
2962 send_periodic_ping (void *cls, 
2963                     const struct GNUNET_SCHEDULER_TaskContext *tc)
2964 {
2965   struct ForeignAddressList *peer_address = cls;
2966   struct TransportPlugin *tp;
2967   struct ValidationEntry *va;
2968   struct NeighbourList *neighbour;
2969   struct TransportPingMessage ping;
2970   struct CheckAddressExistsClosure caec;
2971   char * message_buf;
2972   uint16_t hello_size;
2973   size_t tsize;
2974
2975   peer_address->revalidate_task = GNUNET_SCHEDULER_NO_TASK;
2976   if (tc->reason == GNUNET_SCHEDULER_REASON_SHUTDOWN)
2977     return; 
2978   tp = peer_address->ready_list->plugin;
2979   neighbour = peer_address->ready_list->neighbour;
2980   if (GNUNET_YES != neighbour->public_key_valid)
2981     {
2982       /* no public key yet, try again later */
2983       schedule_next_ping (peer_address);     
2984       return;
2985     }
2986   caec.addr = peer_address->addr;
2987   caec.addrlen = peer_address->addrlen;
2988   caec.tname = tp->short_name;
2989   caec.session = peer_address->session;
2990   caec.exists = GNUNET_NO;
2991   GNUNET_CONTAINER_multihashmap_iterate (validation_map,
2992                                          &check_address_exists,
2993                                          &caec);
2994   if (caec.exists == GNUNET_YES)
2995     {
2996       /* During validation attempts we will likely trigger the other
2997          peer trying to validate our address which in turn will cause
2998          it to send us its HELLO, so we expect to hit this case rather
2999          frequently.  Only print something if we are very verbose. */
3000 #if DEBUG_TRANSPORT > 1
3001       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3002                   "Some validation of address `%s' via `%s' for peer `%4s' already in progress.\n",
3003                   (peer_address->addr != NULL)
3004                   ? GNUNET_a2s (peer_address->addr,
3005                                 peer_address->addrlen)
3006                   : "<inbound>",
3007                   tp->short_name,
3008                   GNUNET_i2s (&neighbour->id));
3009 #endif
3010       schedule_next_ping (peer_address);     
3011       return;
3012     }
3013   va = GNUNET_malloc (sizeof (struct ValidationEntry) + peer_address->addrlen);
3014   va->transport_name = GNUNET_strdup (tp->short_name);
3015   va->challenge = GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK,
3016                                             (unsigned int) -1);
3017   va->send_time = GNUNET_TIME_absolute_get();
3018   va->session = peer_address->session;
3019   if (peer_address->addr != NULL)
3020     {
3021       va->addr = (const void*) &va[1];
3022       memcpy (&va[1], peer_address->addr, peer_address->addrlen);
3023       va->addrlen = peer_address->addrlen;
3024     }
3025   memcpy(&va->publicKey,
3026          &neighbour->publicKey, 
3027          sizeof(struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded));
3028
3029   va->timeout_task = GNUNET_SCHEDULER_add_delayed (sched,
3030                                                    HELLO_VERIFICATION_TIMEOUT,
3031                                                    &timeout_hello_validation,
3032                                                    va);
3033   GNUNET_CONTAINER_multihashmap_put (validation_map,
3034                                      &neighbour->id.hashPubKey,
3035                                      va,
3036                                      GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
3037   hello_size = GNUNET_HELLO_size(our_hello);
3038   tsize = sizeof(struct TransportPingMessage) + hello_size;
3039   message_buf = GNUNET_malloc(tsize);
3040   ping.challenge = htonl(va->challenge);
3041   ping.header.size = htons(sizeof(struct TransportPingMessage));
3042   ping.header.type = htons(GNUNET_MESSAGE_TYPE_TRANSPORT_PING);
3043   memcpy(&ping.target, &neighbour->id, sizeof(struct GNUNET_PeerIdentity));
3044   memcpy(message_buf, our_hello, hello_size);
3045   memcpy(&message_buf[hello_size],
3046          &ping,
3047          sizeof(struct TransportPingMessage));
3048 #if DEBUG_TRANSPORT_REVALIDATION
3049   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3050               "Performing re-validation of address `%s' via `%s' for peer `%4s' sending `%s' (%u bytes) and `%s' (%u bytes)\n",
3051               (peer_address->addr != NULL) 
3052               ? GNUNET_a2s (peer_address->addr,
3053                             peer_address->addrlen)
3054               : "<inbound>",
3055               tp->short_name,
3056               GNUNET_i2s (&neighbour->id),
3057               "HELLO", hello_size,
3058               "PING", sizeof (struct TransportPingMessage));
3059 #endif
3060   GNUNET_STATISTICS_update (stats,
3061                             gettext_noop ("# PING messages sent for re-validation"),
3062                             1,
3063                             GNUNET_NO);
3064   transmit_to_peer (NULL, peer_address,
3065                     GNUNET_SCHEDULER_PRIORITY_DEFAULT,
3066                     HELLO_VERIFICATION_TIMEOUT,
3067                     message_buf, tsize,
3068                     GNUNET_YES, neighbour);
3069   GNUNET_free(message_buf);
3070   schedule_next_ping (peer_address);
3071 }
3072
3073
3074 /**
3075  * Schedule the job that will cause us to send a PING to the
3076  * foreign address to evaluate its validity and latency.
3077  *
3078  * @param fal address to PING
3079  */
3080 static void
3081 schedule_next_ping (struct ForeignAddressList *fal)
3082 {
3083   struct GNUNET_TIME_Relative delay;
3084
3085   if (fal->revalidate_task != GNUNET_SCHEDULER_NO_TASK)
3086     return;
3087   delay = GNUNET_TIME_absolute_get_remaining (fal->expires);
3088   delay.value /= 2; /* do before expiration */
3089   delay = GNUNET_TIME_relative_min (delay,
3090                                     LATENCY_EVALUATION_MAX_DELAY);
3091   if (GNUNET_YES != fal->estimated)
3092     {
3093       delay = GNUNET_TIME_UNIT_ZERO;
3094       fal->estimated = GNUNET_YES;
3095     }                               
3096   if (GNUNET_YES == fal->connected)
3097     {
3098       delay = GNUNET_TIME_relative_min (delay,
3099                                         CONNECTED_LATENCY_EVALUATION_MAX_DELAY);
3100     }  
3101   /* FIXME: also adjust delay based on how close the last
3102      observed latency is to the latency of the best alternative */
3103   /* bound how fast we can go */
3104   delay = GNUNET_TIME_relative_max (delay,
3105                                     GNUNET_TIME_UNIT_SECONDS);
3106   /* randomize a bit (to avoid doing all at the same time) */
3107   delay.value += GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK, 1000);
3108   fal->revalidate_task = GNUNET_SCHEDULER_add_delayed(sched, 
3109                                                       delay,
3110                                                       &send_periodic_ping, 
3111                                                       fal);
3112 }
3113
3114
3115
3116
3117 /**
3118  * Function that will be called if we receive some payload
3119  * from another peer.
3120  *
3121  * @param message the payload
3122  * @param n peer who claimed to be the sender
3123  */
3124 static void
3125 handle_payload_message (const struct GNUNET_MessageHeader *message,
3126                         struct NeighbourList *n)
3127 {
3128   struct InboundMessage *im;
3129   struct TransportClient *cpos;
3130   uint16_t msize;
3131
3132   msize = ntohs (message->size);
3133   if (n->received_pong == GNUNET_NO)
3134     {
3135       GNUNET_free_non_null (n->pre_connect_message_buffer);
3136       n->pre_connect_message_buffer = GNUNET_malloc (msize);
3137       memcpy (n->pre_connect_message_buffer, message, msize);
3138       return;
3139     }
3140 #if DEBUG_TRANSPORT
3141   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3142               "Received message of type %u from `%4s', sending to all clients.\n",
3143               ntohs (message->type), 
3144               GNUNET_i2s (&n->id));
3145 #endif
3146   if (GNUNET_YES == GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker,
3147                                                       (ssize_t) msize))
3148     {
3149       n->quota_violation_count++;
3150 #if DEBUG_TRANSPORT
3151       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,                        
3152                   "Bandwidth quota (%u b/s) violation detected (total of %u).\n", 
3153                   n->in_tracker.available_bytes_per_s__,
3154                   n->quota_violation_count);
3155 #endif
3156       /* Discount 32k per violation */
3157       GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker,
3158                                         - 32 * 1024);           
3159     }
3160   else 
3161     {
3162       if (n->quota_violation_count > 0)
3163         {
3164           /* try to add 32k back */
3165           GNUNET_BANDWIDTH_tracker_consume (&n->in_tracker,
3166                                             32 * 1024);
3167           n->quota_violation_count--;
3168         }
3169     }
3170   GNUNET_STATISTICS_update (stats,
3171                             gettext_noop ("# payload received from other peers"),
3172                             msize,
3173                             GNUNET_NO);
3174   /* transmit message to all clients */
3175   im = GNUNET_malloc (sizeof (struct InboundMessage) + msize);
3176   im->header.size = htons (sizeof (struct InboundMessage) + msize);
3177   im->header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_RECV);
3178   im->latency = GNUNET_TIME_relative_hton (n->latency);
3179   im->peer = n->id;
3180   memcpy (&im[1], message, msize);
3181   cpos = clients;
3182   while (cpos != NULL)
3183     {
3184       transmit_to_client (cpos, &im->header, GNUNET_YES);
3185       cpos = cpos->next;
3186     }
3187   GNUNET_free (im);
3188 }
3189
3190
3191 /**
3192  * Iterator over hash map entries.  Checks if the given validation
3193  * entry is for the same challenge as what is given in the PONG.
3194  *
3195  * @param cls the 'struct TransportPongMessage*'
3196  * @param key peer identity
3197  * @param value value in the hash map ('struct ValidationEntry')
3198  * @return GNUNET_YES if we should continue to
3199  *         iterate (mismatch), GNUNET_NO if not (entry matched)
3200  */
3201 static int
3202 check_pending_validation (void *cls,
3203                           const GNUNET_HashCode * key,
3204                           void *value)
3205 {
3206   const struct TransportPongMessage *pong = cls;
3207   struct ValidationEntry *ve = value;
3208   struct AddValidatedAddressContext avac;
3209   unsigned int challenge = ntohl(pong->challenge);
3210   struct GNUNET_HELLO_Message *hello;
3211   struct GNUNET_PeerIdentity target;
3212   struct NeighbourList *n;
3213   struct ForeignAddressList *fal;
3214   struct GNUNET_MessageHeader *prem;
3215
3216   if (ve->challenge != challenge)
3217     return GNUNET_YES;
3218   if (GNUNET_OK !=
3219       GNUNET_CRYPTO_rsa_verify (GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PING,
3220                                 &pong->purpose, 
3221                                 &pong->signature,
3222                                 &ve->publicKey))
3223     {
3224       GNUNET_break_op (0);
3225       return GNUNET_YES;
3226     }
3227
3228 #if DEBUG_TRANSPORT
3229   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3230               "Confirmed validity of address, peer `%4s' has address `%s' (%s).\n",
3231               GNUNET_h2s (key),
3232               (ve->addr != NULL) 
3233               ? GNUNET_a2s ((const struct sockaddr *) ve->addr,
3234                             ve->addrlen)
3235               : "<inbound>",
3236               ve->transport_name);
3237 #endif
3238   GNUNET_STATISTICS_update (stats,
3239                             gettext_noop ("# address validation successes"),
3240                             1,
3241                             GNUNET_NO);
3242   /* create the updated HELLO */
3243   GNUNET_CRYPTO_hash (&ve->publicKey,
3244                       sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
3245                       &target.hashPubKey);
3246   if (ve->addr != NULL)
3247     {
3248       avac.done = GNUNET_NO;
3249       avac.ve = ve;
3250       hello = GNUNET_HELLO_create (&ve->publicKey,
3251                                    &add_validated_address,
3252                                    &avac);
3253       GNUNET_PEERINFO_add_peer (peerinfo,
3254                                 hello);
3255       GNUNET_free (hello);
3256     }
3257   n = find_neighbour (&target);
3258   if (n != NULL)
3259     {
3260       n->publicKey = ve->publicKey;
3261       n->public_key_valid = GNUNET_YES;
3262       fal = add_peer_address (n,
3263                               ve->transport_name,
3264                               ve->session,
3265                               ve->addr,
3266                               ve->addrlen);
3267       GNUNET_assert (fal != NULL);
3268       fal->expires = GNUNET_TIME_relative_to_absolute (HELLO_ADDRESS_EXPIRATION);
3269       fal->validated = GNUNET_YES;
3270       mark_address_connected (fal);
3271       GNUNET_STATISTICS_update (stats,
3272                                 gettext_noop ("# peer addresses considered valid"),
3273                                 1,
3274                                 GNUNET_NO);      
3275       fal->latency = GNUNET_TIME_absolute_get_duration (ve->send_time);
3276       schedule_next_ping (fal);
3277       if (n->latency.value == GNUNET_TIME_UNIT_FOREVER_REL.value)
3278         n->latency = fal->latency;
3279       else
3280         n->latency.value = (fal->latency.value + n->latency.value) / 2;
3281       n->distance = fal->distance;
3282       if (GNUNET_NO == n->received_pong)
3283         {
3284           n->received_pong = GNUNET_YES;
3285           notify_clients_connect (&target, n->latency, n->distance);
3286           if (NULL != (prem = n->pre_connect_message_buffer))
3287             {
3288               n->pre_connect_message_buffer = NULL;
3289               handle_payload_message (prem, n);
3290               GNUNET_free (prem);
3291             }
3292         }
3293       if (n->retry_task != GNUNET_SCHEDULER_NO_TASK)
3294         {
3295           GNUNET_SCHEDULER_cancel (sched,
3296                                    n->retry_task);
3297           n->retry_task = GNUNET_SCHEDULER_NO_TASK;
3298           try_transmission_to_peer (n);
3299         }
3300     }
3301
3302   /* clean up validation entry */
3303   GNUNET_assert (GNUNET_YES ==
3304                  GNUNET_CONTAINER_multihashmap_remove (validation_map,
3305                                                        key,
3306                                                        ve));
3307   GNUNET_SCHEDULER_cancel (sched,
3308                            ve->timeout_task);
3309   GNUNET_free (ve->transport_name);
3310   GNUNET_free (ve);
3311   return GNUNET_NO;
3312 }
3313
3314
3315 /**
3316  * Function that will be called if we receive a validation
3317  * of an address challenge that we transmitted to another
3318  * peer.  Note that the validation should only be considered
3319  * acceptable if the challenge matches AND if the sender
3320  * address is at least a plausible address for this peer
3321  * (otherwise we may be seeing a MiM attack).
3322  *
3323  * @param cls closure
3324  * @param message the pong message
3325  * @param peer who responded to our challenge
3326  * @param sender_address string describing our sender address (as observed
3327  *         by the other peer in binary format)
3328  * @param sender_address_len number of bytes in 'sender_address'
3329  */
3330 static void
3331 handle_pong (void *cls, const struct GNUNET_MessageHeader *message,
3332              const struct GNUNET_PeerIdentity *peer,
3333              const char *sender_address,
3334              size_t sender_address_len)
3335 {
3336 #if DEBUG_TRANSPORT > 1
3337   /* we get tons of these that just get discarded, only log
3338      if we are quite verbose */
3339   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3340               "Receiving `%s' message from `%4s'.\n", "PONG",
3341               GNUNET_i2s (peer));
3342 #endif
3343   GNUNET_STATISTICS_update (stats,
3344                             gettext_noop ("# PONG messages received"),
3345                             1,
3346                             GNUNET_NO);
3347   if (GNUNET_SYSERR !=
3348       GNUNET_CONTAINER_multihashmap_get_multiple (validation_map,
3349                                                   &peer->hashPubKey,
3350                                                   &check_pending_validation,
3351                                                   (void*) message))
3352     {
3353       /* This is *expected* to happen a lot since we send
3354          PONGs to *all* known addresses of the sender of
3355          the PING, so most likely we get multiple PONGs
3356          per PING, and all but the first PONG will end up
3357          here. So really we should not print anything here
3358          unless we want to be very, very verbose... */
3359 #if DEBUG_TRANSPORT > 2
3360       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3361                   "Received `%s' message from `%4s' but have no record of a matching `%s' message. Ignoring.\n",
3362                   "PONG",
3363                   GNUNET_i2s (peer),
3364                   "PING");
3365 #endif
3366       return;
3367     }
3368
3369 #if 0
3370   /* FIXME: add given address to potential pool of our addresses
3371      (for voting) */
3372   GNUNET_log (GNUNET_ERROR_TYPE_INFO | GNUNET_ERROR_TYPE_BULK,
3373               _("Another peer saw us using the address `%s' via `%s'.\n"),
3374               GNUNET_a2s ((const struct sockaddr *) &pong[1],
3375                           ntohs(pong->addrlen)),
3376               va->transport_name);
3377 #endif
3378 }
3379
3380
3381 /**
3382  * Try to validate a neighbour's address by sending him our HELLO and a PING.
3383  *
3384  * @param cls the 'struct ValidationEntry*'
3385  * @param neighbour neighbour to validate, NULL if validation failed
3386  */
3387 static void
3388 transmit_hello_and_ping (void *cls,
3389                          struct NeighbourList *neighbour)
3390 {
3391   struct ValidationEntry *va = cls;
3392   struct ForeignAddressList *peer_address;
3393   struct TransportPingMessage ping;
3394   uint16_t hello_size;
3395   size_t tsize;
3396   char * message_buf;
3397
3398   if (neighbour == NULL)
3399     {
3400       /* FIXME: stats... */
3401       GNUNET_free (va->transport_name);
3402       GNUNET_free (va);
3403       return;
3404     }
3405   neighbour->publicKey = va->publicKey;
3406   neighbour->public_key_valid = GNUNET_YES;
3407   peer_address = add_peer_address (neighbour,
3408                                    va->transport_name, NULL,
3409                                    (const void*) &va[1],
3410                                    va->addrlen);
3411   if (peer_address == NULL)
3412     {
3413       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
3414                   "Failed to add peer `%4s' for plugin `%s'\n",
3415                   GNUNET_i2s (&neighbour->id), 
3416                   va->transport_name);
3417       GNUNET_free (va->transport_name);
3418       GNUNET_free (va);
3419       return;
3420     }
3421   hello_size = GNUNET_HELLO_size(our_hello);
3422   tsize = sizeof(struct TransportPingMessage) + hello_size;
3423   message_buf = GNUNET_malloc(tsize);
3424   ping.challenge = htonl(va->challenge);
3425   ping.header.size = htons(sizeof(struct TransportPingMessage));
3426   ping.header.type = htons(GNUNET_MESSAGE_TYPE_TRANSPORT_PING);
3427   memcpy(&ping.target, &neighbour->id, sizeof(struct GNUNET_PeerIdentity));
3428   memcpy(message_buf, our_hello, hello_size);
3429   memcpy(&message_buf[hello_size],
3430          &ping,
3431          sizeof(struct TransportPingMessage));
3432 #if DEBUG_TRANSPORT
3433   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3434               "Performing validation of address `%s' via `%s' for peer `%4s' sending `%s' (%u bytes) and `%s' (%u bytes)\n",
3435               GNUNET_a2s ((const void*) &va[1], va->addrlen),
3436               va->transport_name,
3437               GNUNET_i2s (&neighbour->id),
3438               "HELLO", hello_size,
3439               "PING", sizeof (struct TransportPingMessage));
3440 #endif
3441   GNUNET_STATISTICS_update (stats,
3442                             gettext_noop ("# PING messages sent for initial validation"),
3443                             1,
3444                             GNUNET_NO);      
3445   transmit_to_peer (NULL, peer_address,
3446                     GNUNET_SCHEDULER_PRIORITY_DEFAULT,
3447                     HELLO_VERIFICATION_TIMEOUT,
3448                     message_buf, tsize,
3449                     GNUNET_YES, neighbour);
3450   GNUNET_free(message_buf);
3451 }
3452
3453
3454 /**
3455  * Check if the given address is already being validated; if not,
3456  * append the given address to the list of entries that are being be
3457  * validated and initiate validation.
3458  *
3459  * @param cls closure ('struct CheckHelloValidatedContext *')
3460  * @param tname name of the transport
3461  * @param expiration expiration time
3462  * @param addr the address
3463  * @param addrlen length of the address
3464  * @return GNUNET_OK (always)
3465  */
3466 static int
3467 run_validation (void *cls,
3468                 const char *tname,
3469                 struct GNUNET_TIME_Absolute expiration,
3470                 const void *addr, size_t addrlen)
3471 {
3472   struct CheckHelloValidatedContext *chvc = cls;
3473   struct GNUNET_PeerIdentity id;
3474   struct TransportPlugin *tp;
3475   struct ValidationEntry *va;
3476   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded pk;
3477   struct CheckAddressExistsClosure caec;
3478   struct OwnAddressList *oal;
3479
3480   GNUNET_assert (addr != NULL);
3481   GNUNET_STATISTICS_update (stats,
3482                             gettext_noop ("# peer addresses scheduled for validation"),
3483                             1,
3484                             GNUNET_NO);      
3485   tp = find_transport (tname);
3486   if (tp == NULL)
3487     {
3488       GNUNET_log (GNUNET_ERROR_TYPE_INFO |
3489                   GNUNET_ERROR_TYPE_BULK,
3490                   _
3491                   ("Transport `%s' not loaded, will not try to validate peer address using this transport.\n"),
3492                   tname);
3493       GNUNET_STATISTICS_update (stats,
3494                                 gettext_noop ("# peer addresses not validated (plugin not available)"),
3495                                 1,
3496                                 GNUNET_NO);      
3497       return GNUNET_OK;
3498     }
3499   /* check if this is one of our own addresses */
3500   oal = tp->addresses;
3501   while (NULL != oal)
3502     {
3503       if ( (oal->addrlen == addrlen) &&
3504            (0 == memcmp (oal->addr,
3505                          addr,
3506                          addrlen)) )
3507         {
3508           /* not plausible, this address is equivalent to our own address! */
3509           GNUNET_STATISTICS_update (stats,
3510                                     gettext_noop ("# peer addresses not validated (loopback)"),
3511                                     1,
3512                                     GNUNET_NO);      
3513           return GNUNET_OK;
3514         }
3515       oal = oal->next;
3516     }
3517   GNUNET_HELLO_get_key (chvc->hello, &pk);
3518   GNUNET_CRYPTO_hash (&pk,
3519                       sizeof (struct
3520                               GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
3521                       &id.hashPubKey);
3522
3523   if (is_blacklisted(&id, tp))
3524     {
3525 #if DEBUG_TRANSPORT
3526       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3527                   _("Attempted to validate blacklisted peer `%s' using `%s'!\n"), GNUNET_i2s(&id), tname);
3528 #endif
3529       return GNUNET_OK;
3530     }
3531
3532   caec.addr = addr;
3533   caec.addrlen = addrlen;
3534   caec.session = NULL;
3535   caec.tname = tname;
3536   caec.exists = GNUNET_NO;
3537   GNUNET_CONTAINER_multihashmap_iterate (validation_map,
3538                                          &check_address_exists,
3539                                          &caec);
3540   if (caec.exists == GNUNET_YES)
3541     {
3542       /* During validation attempts we will likely trigger the other
3543          peer trying to validate our address which in turn will cause
3544          it to send us its HELLO, so we expect to hit this case rather
3545          frequently.  Only print something if we are very verbose. */
3546 #if DEBUG_TRANSPORT > 1
3547       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3548                   "Validation of address `%s' via `%s' for peer `%4s' already in progress.\n",
3549                   GNUNET_a2s (addr, addrlen),
3550                   tname,
3551                   GNUNET_i2s (&id));
3552 #endif
3553       GNUNET_STATISTICS_update (stats,
3554                                 gettext_noop ("# peer addresses not validated (in progress)"),
3555                                 1,
3556                                 GNUNET_NO);      
3557       return GNUNET_OK;
3558     }
3559   va = GNUNET_malloc (sizeof (struct ValidationEntry) + addrlen);
3560   va->transport_name = GNUNET_strdup (tname);
3561   va->challenge = GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK,
3562                                             (unsigned int) -1);
3563   va->send_time = GNUNET_TIME_absolute_get();
3564   va->addr = (const void*) &va[1];
3565   memcpy (&va[1], addr, addrlen);
3566   va->addrlen = addrlen;
3567   GNUNET_HELLO_get_key (chvc->hello,
3568                         &va->publicKey);
3569   va->timeout_task = GNUNET_SCHEDULER_add_delayed (sched,
3570                                                    HELLO_VERIFICATION_TIMEOUT,
3571                                                    &timeout_hello_validation,
3572                                                    va);
3573   GNUNET_CONTAINER_multihashmap_put (validation_map,
3574                                      &id.hashPubKey,
3575                                      va,
3576                                      GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
3577   setup_peer_check_blacklist (&id, GNUNET_NO,
3578                               &transmit_hello_and_ping,
3579                               va);
3580   return GNUNET_OK;
3581 }
3582
3583
3584 /**
3585  * Check if addresses in validated hello "h" overlap with
3586  * those in "chvc->hello" and validate the rest.
3587  *
3588  * @param cls closure
3589  * @param peer id of the peer, NULL for last call
3590  * @param h hello message for the peer (can be NULL)
3591  * @param trust amount of trust we have in the peer (not used)
3592  */
3593 static void
3594 check_hello_validated (void *cls,
3595                        const struct GNUNET_PeerIdentity *peer,
3596                        const struct GNUNET_HELLO_Message *h, 
3597                        uint32_t trust)
3598 {
3599   struct CheckHelloValidatedContext *chvc = cls;
3600   struct GNUNET_HELLO_Message *plain_hello;
3601   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded pk;
3602   struct GNUNET_PeerIdentity target;
3603   struct NeighbourList *n;
3604
3605   if (peer == NULL)
3606     {
3607       chvc->piter = NULL;
3608       GNUNET_CONTAINER_DLL_remove (chvc_head,
3609                                    chvc_tail,
3610                                    chvc);
3611       if (GNUNET_NO == chvc->hello_known)
3612         {
3613           /* notify PEERINFO about the peer now, so that we at least
3614              have the public key if some other component needs it */
3615           GNUNET_HELLO_get_key (chvc->hello, &pk);
3616           GNUNET_CRYPTO_hash (&pk,
3617                               sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
3618                               &target.hashPubKey);
3619           plain_hello = GNUNET_HELLO_create (&pk,
3620                                              NULL, 
3621                                              NULL);
3622           GNUNET_PEERINFO_add_peer (peerinfo, plain_hello);
3623           GNUNET_free (plain_hello);
3624 #if DEBUG_TRANSPORT
3625           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3626                       "Peerinfo had no `%s' message for peer `%4s', full validation needed.\n",
3627                       "HELLO",
3628                       GNUNET_i2s (&target));
3629 #endif
3630           GNUNET_STATISTICS_update (stats,
3631                                     gettext_noop ("# new HELLOs requiring full validation"),
3632                                     1,
3633                                     GNUNET_NO);      
3634           GNUNET_HELLO_iterate_addresses (chvc->hello,
3635                                           GNUNET_NO, 
3636                                           &run_validation, 
3637                                           chvc);
3638         }
3639       else
3640         {
3641           GNUNET_STATISTICS_update (stats,
3642                                     gettext_noop ("# duplicate HELLO (peer known)"),
3643                                     1,
3644                                     GNUNET_NO);      
3645         }
3646       GNUNET_free (chvc);
3647       return;
3648     } 
3649   if (h == NULL)
3650     return;
3651 #if DEBUG_TRANSPORT
3652   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3653               "Peerinfo had `%s' message for peer `%4s', validating only new addresses.\n",
3654               "HELLO",
3655               GNUNET_i2s (peer));
3656 #endif
3657   chvc->hello_known = GNUNET_YES;
3658   n = find_neighbour (peer);
3659   if (n != NULL)
3660     {
3661       GNUNET_HELLO_iterate_addresses (h,
3662                                       GNUNET_NO,
3663                                       &add_to_foreign_address_list,
3664                                       n);
3665       try_transmission_to_peer (n);
3666     }
3667   else
3668     {
3669       GNUNET_STATISTICS_update (stats,
3670                                 gettext_noop ("# no existing neighbour record (validating HELLO)"),
3671                                 1,
3672                                 GNUNET_NO);      
3673     }
3674   GNUNET_STATISTICS_update (stats,
3675                             gettext_noop ("# HELLO validations (update case)"),
3676                             1,
3677                             GNUNET_NO);      
3678   GNUNET_HELLO_iterate_new_addresses (chvc->hello,
3679                                       h,
3680                                       GNUNET_TIME_relative_to_absolute (HELLO_REVALIDATION_START_TIME),
3681                                       &run_validation, 
3682                                       chvc);
3683 }
3684
3685
3686 /**
3687  * Process HELLO-message.
3688  *
3689  * @param plugin transport involved, may be NULL
3690  * @param message the actual message
3691  * @return GNUNET_OK if the HELLO was well-formed, GNUNET_SYSERR otherwise
3692  */
3693 static int
3694 process_hello (struct TransportPlugin *plugin,
3695                const struct GNUNET_MessageHeader *message)
3696 {
3697   uint16_t hsize;
3698   struct GNUNET_PeerIdentity target;
3699   const struct GNUNET_HELLO_Message *hello;
3700   struct CheckHelloValidatedContext *chvc;
3701   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded publicKey;
3702
3703   hsize = ntohs (message->size);
3704   if ((ntohs (message->type) != GNUNET_MESSAGE_TYPE_HELLO) ||
3705       (hsize < sizeof (struct GNUNET_MessageHeader)))
3706     {
3707       GNUNET_break (0);
3708       return GNUNET_SYSERR;
3709     }
3710   GNUNET_STATISTICS_update (stats,
3711                             gettext_noop ("# HELLOs received for validation"),
3712                             1,
3713                             GNUNET_NO);      
3714   /* first, check if load is too high */
3715   if (GNUNET_SCHEDULER_get_load (sched,
3716                                  GNUNET_SCHEDULER_PRIORITY_BACKGROUND) > MAX_HELLO_LOAD)
3717     {
3718       GNUNET_STATISTICS_update (stats,
3719                                 gettext_noop ("# HELLOs ignored due to high load"),
3720                                 1,
3721                                 GNUNET_NO);      
3722       return GNUNET_OK;
3723     }
3724   hello = (const struct GNUNET_HELLO_Message *) message;
3725   if (GNUNET_OK != GNUNET_HELLO_get_key (hello, &publicKey))
3726     {
3727       GNUNET_break_op (0);
3728       return GNUNET_SYSERR;
3729     }
3730   GNUNET_CRYPTO_hash (&publicKey,
3731                       sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
3732                       &target.hashPubKey);
3733   if (0 == memcmp (&my_identity,
3734                    &target,
3735                    sizeof (struct GNUNET_PeerIdentity)))
3736     {
3737       GNUNET_STATISTICS_update (stats,
3738                                 gettext_noop ("# HELLOs ignored for validation (is my own HELLO)"),
3739                                 1,
3740                                 GNUNET_NO);      
3741       return GNUNET_OK;      
3742     }
3743 #if DEBUG_TRANSPORT > 1
3744   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
3745               "Processing `%s' message for `%4s' of size %u\n",
3746               "HELLO", 
3747               GNUNET_i2s (&target), 
3748               GNUNET_HELLO_size(hello));
3749 #endif
3750   chvc = GNUNET_malloc (sizeof (struct CheckHelloValidatedContext) + hsize);
3751   chvc->hello = (const struct GNUNET_HELLO_Message *) &chvc[1];
3752   memcpy (&chvc[1], hello, hsize);
3753   GNUNET_CONTAINER_DLL_insert (chvc_head,
3754                                chvc_tail,
3755                                chvc);
3756   /* finally, check if HELLO was previously validated
3757      (continuation will then schedule actual validation) */
3758   chvc->piter = GNUNET_PEERINFO_iterate (peerinfo,
3759                                          &target,
3760                                          0,
3761                                          HELLO_VERIFICATION_TIMEOUT,
3762                                          &check_hello_validated, chvc);
3763   return GNUNET_OK;
3764 }
3765
3766
3767 /**
3768  * The peer specified by the given neighbour has timed-out or a plugin
3769  * has disconnected.  We may either need to do nothing (other plugins
3770  * still up), or trigger a full disconnect and clean up.  This
3771  * function updates our state and does the necessary notifications.
3772  * Also notifies our clients that the neighbour is now officially
3773  * gone.
3774  *
3775  * @param n the neighbour list entry for the peer
3776  * @param check should we just check if all plugins
3777  *        disconnected or must we ask all plugins to
3778  *        disconnect?
3779  */
3780 static void
3781 disconnect_neighbour (struct NeighbourList *n, int check)
3782 {
3783   struct ReadyList *rpos;
3784   struct NeighbourList *npos;
3785   struct NeighbourList *nprev;
3786   struct MessageQueue *mq;
3787   struct ForeignAddressList *peer_addresses;
3788   struct ForeignAddressList *peer_pos;
3789
3790   if (GNUNET_YES == check)
3791     {
3792       rpos = n->plugins;
3793       while (NULL != rpos)
3794         {
3795           peer_addresses = rpos->addresses;
3796           while (peer_addresses != NULL)
3797             {
3798               if (GNUNET_YES == peer_addresses->connected)
3799                 return;             /* still connected */
3800               peer_addresses = peer_addresses->next;
3801             }
3802           rpos = rpos->next;
3803         }
3804     }
3805 #if DEBUG_TRANSPORT
3806   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
3807               "Disconnecting from `%4s'\n",
3808               GNUNET_i2s (&n->id));
3809 #endif
3810   /* remove n from neighbours list */
3811   nprev = NULL;
3812   npos = neighbours;
3813   while ((npos != NULL) && (npos != n))
3814     {
3815       nprev = npos;
3816       npos = npos->next;
3817     }
3818   GNUNET_assert (npos != NULL);
3819   if (nprev == NULL)
3820     neighbours = n->next;
3821   else
3822     nprev->next = n->next;
3823
3824   /* notify all clients about disconnect */
3825   if (GNUNET_YES == n->received_pong)
3826     notify_clients_disconnect (&n->id);
3827
3828   /* clean up all plugins, cancel connections and pending transmissions */
3829   while (NULL != (rpos = n->plugins))
3830     {
3831       n->plugins = rpos->next;
3832       rpos->plugin->api->disconnect (rpos->plugin->api->cls, &n->id);
3833       while (rpos->addresses != NULL)
3834         {
3835           peer_pos = rpos->addresses;
3836           rpos->addresses = peer_pos->next;
3837           if (peer_pos->connected == GNUNET_YES)
3838             GNUNET_STATISTICS_update (stats,
3839                                       gettext_noop ("# connected addresses"),
3840                                       -1,
3841                                       GNUNET_NO); 
3842           if (GNUNET_YES == peer_pos->validated)
3843             GNUNET_STATISTICS_update (stats,
3844                                       gettext_noop ("# peer addresses considered valid"),
3845                                       -1,
3846                                       GNUNET_NO);      
3847           if (GNUNET_SCHEDULER_NO_TASK != peer_pos->revalidate_task)
3848             {
3849               GNUNET_SCHEDULER_cancel (sched,
3850                                        peer_pos->revalidate_task);
3851               peer_pos->revalidate_task = GNUNET_SCHEDULER_NO_TASK;
3852             }
3853           GNUNET_free(peer_pos);
3854         }
3855       GNUNET_free (rpos);
3856     }
3857
3858   /* free all messages on the queue */
3859   while (NULL != (mq = n->messages_head))
3860     {
3861       GNUNET_STATISTICS_update (stats,
3862                                 gettext_noop ("# bytes in message queue for other peers"),
3863                                 - (int64_t) mq->message_buf_size,
3864                                 GNUNET_NO);
3865       GNUNET_STATISTICS_update (stats,
3866                                 gettext_noop ("# bytes discarded due to disconnect"),
3867                                 mq->message_buf_size,
3868                                 GNUNET_NO);
3869       GNUNET_CONTAINER_DLL_remove (n->messages_head,
3870                                    n->messages_tail,
3871                                    mq);
3872       GNUNET_assert (0 == memcmp(&mq->neighbour_id, 
3873                                  &n->id,
3874                                  sizeof(struct GNUNET_PeerIdentity)));
3875       GNUNET_free (mq);
3876     }
3877   if (n->timeout_task != GNUNET_SCHEDULER_NO_TASK)
3878     {
3879       GNUNET_SCHEDULER_cancel (sched, n->timeout_task);
3880       n->timeout_task = GNUNET_SCHEDULER_NO_TASK;
3881     }
3882   if (n->retry_task != GNUNET_SCHEDULER_NO_TASK)
3883     {
3884       GNUNET_SCHEDULER_cancel (sched, n->retry_task);
3885       n->retry_task = GNUNET_SCHEDULER_NO_TASK;
3886     }
3887   if (n->piter != NULL)
3888     {
3889       GNUNET_PEERINFO_iterate_cancel (n->piter);
3890       n->piter = NULL;
3891     }
3892   /* finally, free n itself */
3893   GNUNET_STATISTICS_update (stats,
3894                             gettext_noop ("# active neighbours"),
3895                             -1,
3896                             GNUNET_NO);
3897   GNUNET_free_non_null (n->pre_connect_message_buffer);
3898   GNUNET_free (n);
3899 }
3900
3901
3902 /**
3903  * We have received a PING message from someone.  Need to send a PONG message
3904  * in response to the peer by any means necessary. 
3905  */
3906 static int 
3907 handle_ping(void *cls, const struct GNUNET_MessageHeader *message,
3908             const struct GNUNET_PeerIdentity *peer,
3909             const char *sender_address,
3910             size_t sender_address_len)
3911 {
3912   struct TransportPlugin *plugin = cls;
3913   struct TransportPingMessage *ping;
3914   struct TransportPongMessage *pong;
3915   struct NeighbourList *n;
3916   struct ReadyList *rl;
3917   struct ForeignAddressList *fal;
3918
3919   if (ntohs (message->size) != sizeof (struct TransportPingMessage))
3920     {
3921       GNUNET_break_op (0);
3922       return GNUNET_SYSERR;
3923     }
3924
3925   ping = (struct TransportPingMessage *) message;
3926   if (0 != memcmp (&ping->target,
3927                    plugin->env.my_identity,
3928                    sizeof (struct GNUNET_PeerIdentity)))
3929     {
3930       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
3931                   _("Received `%s' message not destined for me!\n"), 
3932                   "PING");
3933       return GNUNET_SYSERR;
3934     }
3935 #if DEBUG_PING_PONG
3936   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
3937               "Processing `%s' from `%s'\n",
3938               "PING", 
3939               (sender_address != NULL) 
3940               ? GNUNET_a2s ((const struct sockaddr *)sender_address, 
3941                             sender_address_len)
3942               : "<inbound>");
3943 #endif
3944   GNUNET_STATISTICS_update (stats,
3945                             gettext_noop ("# PING messages received"),
3946                             1,
3947                             GNUNET_NO);
3948   pong = GNUNET_malloc (sizeof (struct TransportPongMessage) + sender_address_len);
3949   pong->header.size = htons (sizeof (struct TransportPongMessage) + sender_address_len);
3950   pong->header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_PONG);
3951   pong->purpose.size =
3952     htonl (sizeof (struct GNUNET_CRYPTO_RsaSignaturePurpose) +
3953            sizeof (uint32_t) +
3954            sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded) + sender_address_len);
3955   pong->purpose.purpose = htonl (GNUNET_SIGNATURE_PURPOSE_TRANSPORT_PING);
3956   pong->challenge = ping->challenge;
3957   pong->addrlen = htons(sender_address_len);
3958   memcpy(&pong->signer, 
3959          &my_public_key, 
3960          sizeof(struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded));
3961   if (sender_address != NULL)
3962     memcpy (&pong[1], sender_address, sender_address_len);
3963   GNUNET_assert (GNUNET_OK ==
3964                  GNUNET_CRYPTO_rsa_sign (my_private_key,
3965                                          &pong->purpose, &pong->signature));
3966   n = find_neighbour(peer);
3967   GNUNET_assert (n != NULL);
3968   /* first try reliable response transmission */
3969   rl = n->plugins;
3970   while (rl != NULL)
3971     {
3972       fal = rl->addresses;
3973       while (fal != NULL)
3974         {
3975           if (-1 != rl->plugin->api->send (rl->plugin->api->cls,
3976                                            peer,
3977                                            (const char*) pong,
3978                                            ntohs (pong->header.size),
3979                                            TRANSPORT_PONG_PRIORITY, 
3980                                            HELLO_VERIFICATION_TIMEOUT,
3981                                            fal->session,
3982                                            fal->addr,
3983                                            fal->addrlen,
3984                                            GNUNET_SYSERR,
3985                                            NULL, NULL))
3986             {
3987               /* done! */
3988               GNUNET_STATISTICS_update (stats,
3989                                         gettext_noop ("# PONGs unicast via reliable transport"),
3990                                         1,
3991                                         GNUNET_NO);      
3992               GNUNET_free (pong);
3993               return GNUNET_OK;
3994             }
3995           fal = fal->next;
3996         }
3997       rl = rl->next;
3998     }
3999   /* no reliable method found, do multicast */
4000   GNUNET_STATISTICS_update (stats,
4001                             gettext_noop ("# PONGs multicast to all available addresses"),
4002                             1,
4003                             GNUNET_NO);      
4004   rl = n->plugins;
4005   while (rl != NULL)
4006     {
4007       fal = rl->addresses;
4008       while (fal != NULL)
4009         {
4010           transmit_to_peer(NULL, fal,
4011                            TRANSPORT_PONG_PRIORITY, 
4012                            HELLO_VERIFICATION_TIMEOUT,
4013                            (const char *)pong, 
4014                            ntohs(pong->header.size), 
4015                            GNUNET_YES, 
4016                            n);
4017           fal = fal->next;
4018         }
4019       rl = rl->next;
4020     }
4021   GNUNET_free(pong);
4022   return GNUNET_OK;
4023 }
4024
4025
4026 /**
4027  * Function called by the plugin for each received message.
4028  * Update data volumes, possibly notify plugins about
4029  * reducing the rate at which they read from the socket
4030  * and generally forward to our receive callback.
4031  *
4032  * @param cls the "struct TransportPlugin *" we gave to the plugin
4033  * @param peer (claimed) identity of the other peer
4034  * @param message the message, NULL if we only care about
4035  *                learning about the delay until we should receive again
4036  * @param distance in overlay hops; use 1 unless DV (or 0 if message == NULL)
4037  * @param session identifier used for this session (can be NULL)
4038  * @param sender_address binary address of the sender (if observed)
4039  * @param sender_address_len number of bytes in sender_address
4040  * @return how long the plugin should wait until receiving more data
4041  *         (plugins that do not support this, can ignore the return value)
4042  */
4043 static struct GNUNET_TIME_Relative
4044 plugin_env_receive (void *cls, const struct GNUNET_PeerIdentity *peer,
4045                     const struct GNUNET_MessageHeader *message,
4046                     unsigned int distance,
4047                     struct Session *session,
4048                     const char *sender_address,
4049                     size_t sender_address_len)
4050 {
4051   struct TransportPlugin *plugin = cls;
4052   struct ReadyList *service_context;
4053   struct ForeignAddressList *peer_address;
4054   uint16_t msize;
4055   struct NeighbourList *n;
4056   struct GNUNET_TIME_Relative ret;
4057
4058   if (is_blacklisted (peer, plugin))
4059     return GNUNET_TIME_UNIT_FOREVER_REL;
4060
4061   n = find_neighbour (peer);
4062   if (n == NULL)
4063     n = setup_new_neighbour (peer, GNUNET_YES);
4064   service_context = n->plugins;
4065   while ((service_context != NULL) && (plugin != service_context->plugin))
4066     service_context = service_context->next;
4067   GNUNET_assert ((plugin->api->send == NULL) || (service_context != NULL));
4068   peer_address = NULL;
4069   if (message != NULL)
4070     {
4071       if ( (session != NULL) ||
4072            (sender_address != NULL) )
4073         peer_address = add_peer_address (n, 
4074                                          plugin->short_name,
4075                                          session,
4076                                          sender_address, 
4077                                          sender_address_len);  
4078       if (peer_address != NULL)
4079         {
4080           peer_address->distance = distance;
4081           if (GNUNET_YES == peer_address->validated)
4082             mark_address_connected (peer_address);
4083           peer_address->timeout
4084             =
4085             GNUNET_TIME_relative_to_absolute
4086             (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
4087           schedule_next_ping (peer_address);
4088         }
4089       /* update traffic received amount ... */
4090       msize = ntohs (message->size);      
4091       GNUNET_STATISTICS_update (stats,
4092                                 gettext_noop ("# bytes received from other peers"),
4093                                 msize,
4094                                 GNUNET_NO);
4095       n->distance = distance;
4096       n->peer_timeout =
4097         GNUNET_TIME_relative_to_absolute
4098         (GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT);
4099       GNUNET_SCHEDULER_cancel (sched,
4100                                n->timeout_task);
4101       n->timeout_task =
4102         GNUNET_SCHEDULER_add_delayed (sched,
4103                                       GNUNET_CONSTANTS_IDLE_CONNECTION_TIMEOUT,
4104                                       &neighbour_timeout_task, n);
4105       if (n->quota_violation_count > QUOTA_VIOLATION_DROP_THRESHOLD)
4106         {
4107           /* dropping message due to frequent inbound volume violations! */
4108           GNUNET_log (GNUNET_ERROR_TYPE_WARNING |
4109                       GNUNET_ERROR_TYPE_BULK,
4110                       _
4111                       ("Dropping incoming message due to repeated bandwidth quota (%u b/s) violations (total of %u).\n"), 
4112                       n->in_tracker.available_bytes_per_s__,
4113                       n->quota_violation_count);
4114           GNUNET_STATISTICS_update (stats,
4115                                     gettext_noop ("# bandwidth quota violations by other peers"),
4116                                     1,
4117                                     GNUNET_NO);
4118           return GNUNET_CONSTANTS_QUOTA_VIOLATION_TIMEOUT;
4119         }
4120 #if DEBUG_PING_PONG
4121           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4122                       "Received message of type %u from `%4s', sending to all clients.\n",
4123                       ntohs (message->type), GNUNET_i2s (peer));
4124 #endif
4125       switch (ntohs (message->type))
4126         {
4127         case GNUNET_MESSAGE_TYPE_HELLO:
4128           GNUNET_STATISTICS_update (stats,
4129                                     gettext_noop ("# HELLO messages received from other peers"),
4130                                     1,
4131                                     GNUNET_NO);
4132           process_hello (plugin, message);
4133           break;
4134         case GNUNET_MESSAGE_TYPE_TRANSPORT_PING:
4135           handle_ping (plugin, message, peer, sender_address, sender_address_len);
4136           break;
4137         case GNUNET_MESSAGE_TYPE_TRANSPORT_PONG:
4138           handle_pong (plugin, message, peer, sender_address, sender_address_len);
4139           break;
4140         default:
4141           handle_payload_message (message, n);
4142           break;
4143         }
4144     }  
4145   ret = GNUNET_BANDWIDTH_tracker_get_delay (&n->in_tracker, 0);
4146   if (ret.value > 0)
4147     {
4148       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
4149                   "Throttling read (%llu bytes excess at %u b/s), waiting %llums before reading more.\n",
4150                   (unsigned long long) n->in_tracker.consumption_since_last_update__,
4151                   (unsigned int) n->in_tracker.available_bytes_per_s__,
4152                   (unsigned long long) ret.value);
4153       GNUNET_STATISTICS_update (stats,
4154                                 gettext_noop ("# ms throttling suggested"),
4155                                 (int64_t) ret.value,
4156                                 GNUNET_NO);      
4157     }
4158   return ret;
4159 }
4160
4161 /**
4162  * Handle START-message.  This is the first message sent to us
4163  * by any client which causes us to add it to our list.
4164  *
4165  * @param cls closure (always NULL)
4166  * @param client identification of the client
4167  * @param message the actual message
4168  */
4169 static void
4170 handle_start (void *cls,
4171               struct GNUNET_SERVER_Client *client,
4172               const struct GNUNET_MessageHeader *message)
4173 {
4174   struct TransportClient *c;
4175   struct ConnectInfoMessage cim;
4176   struct NeighbourList *n;
4177
4178 #if DEBUG_TRANSPORT
4179   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4180               "Received `%s' request from client\n", "START");
4181 #endif
4182   c = clients;
4183   while (c != NULL)
4184     {
4185       if (c->client == client)
4186         {
4187           /* client already on our list! */
4188           GNUNET_break (0);
4189           GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4190           return;
4191         }
4192       c = c->next;
4193     }
4194   c = GNUNET_malloc (sizeof (struct TransportClient));
4195   c->next = clients;
4196   clients = c;
4197   c->client = client;
4198   if (our_hello != NULL)
4199     {
4200 #if DEBUG_TRANSPORT
4201       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4202                   "Sending our own `%s' to new client\n", "HELLO");
4203 #endif
4204       transmit_to_client (c,
4205                           (const struct GNUNET_MessageHeader *) our_hello,
4206                           GNUNET_NO);
4207       /* tell new client about all existing connections */
4208       cim.header.size = htons (sizeof (struct ConnectInfoMessage));
4209       cim.header.type = htons (GNUNET_MESSAGE_TYPE_TRANSPORT_CONNECT);
4210       n = neighbours; 
4211       while (n != NULL)
4212         {
4213           if (GNUNET_YES == n->received_pong)
4214             {
4215               cim.id = n->id;
4216               cim.latency = GNUNET_TIME_relative_hton (n->latency);
4217               cim.distance = htonl (n->distance);
4218               transmit_to_client (c, &cim.header, GNUNET_NO);
4219             }
4220             n = n->next;
4221         }
4222     }
4223   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4224 }
4225
4226
4227 /**
4228  * Handle HELLO-message.
4229  *
4230  * @param cls closure (always NULL)
4231  * @param client identification of the client
4232  * @param message the actual message
4233  */
4234 static void
4235 handle_hello (void *cls,
4236               struct GNUNET_SERVER_Client *client,
4237               const struct GNUNET_MessageHeader *message)
4238 {
4239   int ret;
4240
4241   GNUNET_STATISTICS_update (stats,
4242                             gettext_noop ("# HELLOs received from clients"),
4243                             1,
4244                             GNUNET_NO);      
4245   ret = process_hello (NULL, message);
4246   GNUNET_SERVER_receive_done (client, ret);
4247 }
4248
4249
4250 /**
4251  * Closure for 'transmit_client_message'; followed by
4252  * 'msize' bytes of the actual message.
4253  */
4254 struct TransmitClientMessageContext 
4255 {
4256   /**
4257    * Client on whom's behalf we are sending.
4258    */
4259   struct GNUNET_SERVER_Client *client;
4260
4261   /**
4262    * Timeout for the transmission.
4263    */
4264   struct GNUNET_TIME_Absolute timeout;
4265   
4266   /**
4267    * Message priority.
4268    */
4269   uint32_t priority;
4270
4271   /**
4272    * Size of the message in bytes.
4273    */ 
4274   uint16_t msize;
4275 };
4276
4277
4278 /**
4279  * Schedule transmission of a message we got from a client to a peer.
4280  *
4281  * @param cls the 'struct TransmitClientMessageContext*'
4282  * @param n destination, or NULL on error (in that case, drop the message)
4283  */
4284 static void
4285 transmit_client_message (void *cls,
4286                          struct NeighbourList *n)
4287 {
4288   struct TransmitClientMessageContext *tcmc = cls;
4289   struct TransportClient *tc;
4290
4291   tc = clients;
4292   while ((tc != NULL) && (tc->client != tcmc->client))
4293     tc = tc->next;
4294
4295   if (n != NULL)
4296     {
4297       transmit_to_peer (tc, NULL, tcmc->priority, 
4298                         GNUNET_TIME_absolute_get_remaining (tcmc->timeout),
4299                         (char *)&tcmc[1],
4300                         tcmc->msize, GNUNET_NO, n);
4301     }
4302   GNUNET_SERVER_receive_done (tcmc->client, GNUNET_OK);
4303   GNUNET_SERVER_client_drop (tcmc->client);
4304   GNUNET_free (tcmc);
4305 }
4306
4307
4308 /**
4309  * Handle SEND-message.
4310  *
4311  * @param cls closure (always NULL)
4312  * @param client identification of the client
4313  * @param message the actual message
4314  */
4315 static void
4316 handle_send (void *cls,
4317              struct GNUNET_SERVER_Client *client,
4318              const struct GNUNET_MessageHeader *message)
4319 {
4320   const struct OutboundMessage *obm;
4321   const struct GNUNET_MessageHeader *obmm;
4322   struct TransmitClientMessageContext *tcmc;
4323   uint16_t size;
4324   uint16_t msize;
4325
4326   size = ntohs (message->size);
4327   if (size <
4328       sizeof (struct OutboundMessage) + sizeof (struct GNUNET_MessageHeader))
4329     {
4330       GNUNET_break (0);
4331       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4332       return;
4333     }
4334   GNUNET_STATISTICS_update (stats,
4335                             gettext_noop ("# payload received for other peers"),
4336                             size,
4337                             GNUNET_NO);      
4338   obm = (const struct OutboundMessage *) message;
4339   obmm = (const struct GNUNET_MessageHeader *) &obm[1];
4340   msize = ntohs (obmm->size);
4341 #if DEBUG_TRANSPORT
4342   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4343               "Received `%s' request from client with target `%4s' and message of type %u and size %u\n",
4344               "SEND", GNUNET_i2s (&obm->peer),
4345               ntohs (obmm->type),
4346               msize);
4347 #endif
4348   if (size != msize + sizeof (struct OutboundMessage))
4349     {
4350       GNUNET_break (0);
4351       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4352       return;
4353     }
4354   tcmc = GNUNET_malloc (sizeof (struct TransmitClientMessageContext) + msize);
4355   tcmc->client = client;
4356   tcmc->priority = ntohl (obm->priority);
4357   tcmc->timeout = GNUNET_TIME_relative_to_absolute (GNUNET_TIME_relative_ntoh (obm->timeout));
4358   tcmc->msize = msize;
4359   memcpy (&tcmc[1], obmm, msize);
4360   GNUNET_SERVER_client_keep (client);
4361   setup_peer_check_blacklist (&obm->peer, GNUNET_YES,
4362                               &transmit_client_message,
4363                               tcmc);
4364 }
4365
4366
4367 /**
4368  * Handle SET_QUOTA-message.
4369  *
4370  * @param cls closure (always NULL)
4371  * @param client identification of the client
4372  * @param message the actual message
4373  */
4374 static void
4375 handle_set_quota (void *cls,
4376                   struct GNUNET_SERVER_Client *client,
4377                   const struct GNUNET_MessageHeader *message)
4378 {
4379   const struct QuotaSetMessage *qsm =
4380     (const struct QuotaSetMessage *) message;
4381   struct NeighbourList *n;
4382   
4383   GNUNET_STATISTICS_update (stats,
4384                             gettext_noop ("# SET QUOTA messages received"),
4385                             1,
4386                             GNUNET_NO);      
4387   n = find_neighbour (&qsm->peer);
4388   if (n == NULL)
4389     {
4390       GNUNET_SERVER_receive_done (client, GNUNET_OK);
4391       GNUNET_STATISTICS_update (stats,
4392                                 gettext_noop ("# SET QUOTA messages ignored (no such peer)"),
4393                                 1,
4394                                 GNUNET_NO);      
4395       return;
4396     }
4397 #if DEBUG_TRANSPORT
4398   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4399               "Received `%s' request (new quota %u, old quota %u) from client for peer `%4s'\n",
4400               "SET_QUOTA", 
4401               (unsigned int) ntohl (qsm->quota.value__),
4402               (unsigned int) n->in_tracker.available_bytes_per_s__,
4403               GNUNET_i2s (&qsm->peer));
4404 #endif
4405   GNUNET_BANDWIDTH_tracker_update_quota (&n->in_tracker,
4406                                          qsm->quota);
4407   if (0 == ntohl (qsm->quota.value__)) 
4408     disconnect_neighbour (n, GNUNET_NO);    
4409   GNUNET_SERVER_receive_done (client, GNUNET_OK);
4410 }
4411
4412
4413 /**
4414  * Take the given address and append it to the set of results send back to
4415  * the client.
4416  * 
4417  * @param cls the transmission context used ('struct GNUNET_SERVER_TransmitContext*')
4418  * @param address the resolved name, NULL to indicate the last response
4419  */
4420 static void
4421 transmit_address_to_client (void *cls, const char *address)
4422 {
4423   struct GNUNET_SERVER_TransmitContext *tc = cls;
4424   size_t slen;
4425
4426   if (NULL == address)
4427     slen = 0;
4428   else
4429     slen = strlen (address) + 1;
4430   GNUNET_SERVER_transmit_context_append_data (tc, address, slen,
4431                                               GNUNET_MESSAGE_TYPE_TRANSPORT_ADDRESS_REPLY);
4432   if (NULL == address)
4433     GNUNET_SERVER_transmit_context_run (tc, GNUNET_TIME_UNIT_FOREVER_REL);
4434 }
4435
4436
4437 /**
4438  * Handle AddressLookup-message.
4439  *
4440  * @param cls closure (always NULL)
4441  * @param client identification of the client
4442  * @param message the actual message
4443  */
4444 static void
4445 handle_address_lookup (void *cls,
4446                        struct GNUNET_SERVER_Client *client,
4447                        const struct GNUNET_MessageHeader *message)
4448 {
4449   const struct AddressLookupMessage *alum;
4450   struct TransportPlugin *lsPlugin;
4451   const char *nameTransport;
4452   const char *address;
4453   uint16_t size;
4454   struct GNUNET_SERVER_TransmitContext *tc;
4455   struct GNUNET_TIME_Absolute timeout;
4456   struct GNUNET_TIME_Relative rtimeout;
4457   int32_t numeric;
4458
4459   size = ntohs (message->size);
4460   if (size < sizeof (struct AddressLookupMessage))
4461     {
4462       GNUNET_break_op (0);
4463       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4464       return;
4465     }
4466   alum = (const struct AddressLookupMessage *) message;
4467   uint32_t addressLen = ntohl (alum->addrlen);
4468   if (size <= sizeof (struct AddressLookupMessage) + addressLen)
4469     {
4470       GNUNET_break_op (0);
4471       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4472       return;
4473     }
4474   address = (const char *) &alum[1];
4475   nameTransport = (const char *) &address[addressLen];
4476   if (nameTransport
4477       [size - sizeof (struct AddressLookupMessage) - addressLen - 1] != '\0')
4478     {
4479       GNUNET_break_op (0);
4480       GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
4481       return;
4482     }
4483   timeout = GNUNET_TIME_absolute_ntoh (alum->timeout);
4484   rtimeout = GNUNET_TIME_absolute_get_remaining (timeout);
4485   numeric = ntohl (alum->numeric_only);
4486   lsPlugin = find_transport (nameTransport);
4487   if (NULL == lsPlugin)
4488     {
4489       tc = GNUNET_SERVER_transmit_context_create (client);
4490       GNUNET_SERVER_transmit_context_append_data (tc, NULL, 0,
4491                                                   GNUNET_MESSAGE_TYPE_TRANSPORT_ADDRESS_REPLY);
4492       GNUNET_SERVER_transmit_context_run (tc, rtimeout);
4493       return;
4494     }
4495   tc = GNUNET_SERVER_transmit_context_create (client);
4496   lsPlugin->api->address_pretty_printer (lsPlugin->api->cls,
4497                                          nameTransport,
4498                                          address, addressLen, 
4499                                          numeric,
4500                                          rtimeout,
4501                                          &transmit_address_to_client, tc);
4502 }
4503
4504 /**
4505  * List of handlers for the messages understood by this
4506  * service.
4507  */
4508 static struct GNUNET_SERVER_MessageHandler handlers[] = {
4509   {&handle_start, NULL,
4510    GNUNET_MESSAGE_TYPE_TRANSPORT_START, 0},
4511   {&handle_hello, NULL,
4512    GNUNET_MESSAGE_TYPE_HELLO, 0},
4513   {&handle_send, NULL,
4514    GNUNET_MESSAGE_TYPE_TRANSPORT_SEND, 0},
4515   {&handle_set_quota, NULL,
4516    GNUNET_MESSAGE_TYPE_TRANSPORT_SET_QUOTA, sizeof (struct QuotaSetMessage)},
4517   {&handle_address_lookup, NULL,
4518    GNUNET_MESSAGE_TYPE_TRANSPORT_ADDRESS_LOOKUP,
4519    0},
4520   {&handle_blacklist_init, NULL,
4521    GNUNET_MESSAGE_TYPE_TRANSPORT_BLACKLIST_INIT, sizeof (struct GNUNET_MessageHeader)},
4522   {&handle_blacklist_reply, NULL,
4523    GNUNET_MESSAGE_TYPE_TRANSPORT_BLACKLIST_REPLY, sizeof (struct BlacklistMessage)},
4524   {NULL, NULL, 0, 0}
4525 };
4526
4527
4528 /**
4529  * Setup the environment for this plugin.
4530  */
4531 static void
4532 create_environment (struct TransportPlugin *plug)
4533 {
4534   plug->env.cfg = cfg;
4535   plug->env.sched = sched;
4536   plug->env.my_identity = &my_identity;
4537   plug->env.cls = plug;
4538   plug->env.receive = &plugin_env_receive;
4539   plug->env.notify_address = &plugin_env_notify_address;
4540   plug->env.session_end = &plugin_env_session_end;
4541   plug->env.max_connections = max_connect_per_transport;
4542   plug->env.stats = stats;
4543 }
4544
4545
4546 /**
4547  * Start the specified transport (load the plugin).
4548  */
4549 static void
4550 start_transport (struct GNUNET_SERVER_Handle *server, 
4551                  const char *name)
4552 {
4553   struct TransportPlugin *plug;
4554   char *libname;
4555
4556   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4557               _("Loading `%s' transport plugin\n"), name);
4558   GNUNET_asprintf (&libname, "libgnunet_plugin_transport_%s", name);
4559   plug = GNUNET_malloc (sizeof (struct TransportPlugin));
4560   create_environment (plug);
4561   plug->short_name = GNUNET_strdup (name);
4562   plug->lib_name = libname;
4563   plug->next = plugins;
4564   plugins = plug;
4565   plug->api = GNUNET_PLUGIN_load (libname, &plug->env);
4566   if (plug->api == NULL)
4567     {
4568       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4569                   _("Failed to load transport plugin for `%s'\n"), name);
4570       GNUNET_free (plug->short_name);
4571       plugins = plug->next;
4572       GNUNET_free (libname);
4573       GNUNET_free (plug);
4574     }
4575 }
4576
4577
4578 /**
4579  * Called whenever a client is disconnected.  Frees our
4580  * resources associated with that client.
4581  *
4582  * @param cls closure
4583  * @param client identification of the client
4584  */
4585 static void
4586 client_disconnect_notification (void *cls,
4587                                 struct GNUNET_SERVER_Client *client)
4588 {
4589   struct TransportClient *pos;
4590   struct TransportClient *prev;
4591   struct ClientMessageQueueEntry *mqe;
4592   struct Blacklisters *bl;
4593   struct BlacklistCheck *bc;
4594
4595   if (client == NULL)
4596     return;
4597 #if DEBUG_TRANSPORT
4598   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG | GNUNET_ERROR_TYPE_BULK,
4599               "Client disconnected, cleaning up.\n");
4600 #endif
4601   /* clean up blacklister */
4602   bl = bl_head;
4603   while (bl != NULL)
4604     {
4605       if (bl->client == client)
4606         {
4607           bc = bc_head;
4608           while (bc != NULL)
4609             {
4610               if (bc->bl_pos == bl)
4611                 {
4612                   bc->bl_pos = bl->next;
4613                   if (bc->th != NULL)
4614                     {
4615                       GNUNET_CONNECTION_notify_transmit_ready_cancel (bc->th);
4616                       bc->th = NULL;                  
4617                     }
4618                   if (bc->task == GNUNET_SCHEDULER_NO_TASK)
4619                     bc->task = GNUNET_SCHEDULER_add_now (sched,
4620                                                          &do_blacklist_check,
4621                                                          bc);
4622                   break;
4623                 }
4624               bc = bc->next;
4625             }
4626           GNUNET_CONTAINER_DLL_remove (bl_head,
4627                                        bl_tail,
4628                                        bl);
4629           GNUNET_SERVER_client_drop (bl->client);
4630           GNUNET_free (bl);
4631           break;
4632         }
4633       bl = bl->next;
4634     }
4635   /* clean up 'normal' clients */
4636   prev = NULL;
4637   pos = clients;
4638   while ((pos != NULL) && (pos->client != client))
4639     {
4640       prev = pos;
4641       pos = pos->next;
4642     }
4643   if (pos == NULL)
4644     return;
4645   while (NULL != (mqe = pos->message_queue_head))
4646     {
4647       GNUNET_CONTAINER_DLL_remove (pos->message_queue_head,
4648                                    pos->message_queue_tail,
4649                                    mqe);
4650       pos->message_count--;
4651       GNUNET_free (mqe);
4652     }
4653   if (prev == NULL)
4654     clients = pos->next;
4655   else
4656     prev->next = pos->next;
4657   if (GNUNET_YES == pos->tcs_pending)
4658     {
4659       pos->client = NULL;
4660       return;
4661     }
4662   if (pos->th != NULL)
4663     {
4664       GNUNET_CONNECTION_notify_transmit_ready_cancel (pos->th);
4665       pos->th = NULL;
4666     }
4667   GNUNET_break (0 == pos->message_count);
4668   GNUNET_free (pos);
4669 }
4670
4671
4672 /**
4673  * Iterator to free entries in the validation_map.
4674  *
4675  * @param cls closure (unused)
4676  * @param key current key code
4677  * @param value value in the hash map (validation to abort)
4678  * @return GNUNET_YES (always)
4679  */
4680 static int 
4681 abort_validation (void *cls,
4682                   const GNUNET_HashCode * key,
4683                   void *value)
4684 {
4685   struct ValidationEntry *va = value;
4686
4687   GNUNET_SCHEDULER_cancel (sched, va->timeout_task);
4688   GNUNET_free (va->transport_name);
4689   GNUNET_free (va);
4690   return GNUNET_YES;
4691 }
4692
4693
4694 /**
4695  * Function called when the service shuts down.  Unloads our plugins
4696  * and cancels pending validations.
4697  *
4698  * @param cls closure, unused
4699  * @param tc task context (unused)
4700  */
4701 static void
4702 shutdown_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
4703 {
4704   struct TransportPlugin *plug;
4705   struct OwnAddressList *al;
4706   struct CheckHelloValidatedContext *chvc;
4707
4708   while (neighbours != NULL)
4709     disconnect_neighbour (neighbours, GNUNET_NO);
4710 #if DEBUG_TRANSPORT
4711   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
4712               "Transport service is unloading plugins...\n");
4713 #endif
4714   while (NULL != (plug = plugins))
4715     {
4716       plugins = plug->next;
4717       if (plug->address_update_task != GNUNET_SCHEDULER_NO_TASK)
4718         {
4719           GNUNET_SCHEDULER_cancel (plug->env.sched, 
4720                                    plug->address_update_task);
4721           plug->address_update_task = GNUNET_SCHEDULER_NO_TASK;
4722         }
4723       GNUNET_break (NULL == GNUNET_PLUGIN_unload (plug->lib_name, plug->api));
4724       GNUNET_free (plug->lib_name);
4725       GNUNET_free (plug->short_name);
4726       while (NULL != (al = plug->addresses))
4727         {
4728           plug->addresses = al->next;
4729           GNUNET_free (al);
4730         }
4731       GNUNET_free (plug);
4732     }
4733   if (my_private_key != NULL)
4734     GNUNET_CRYPTO_rsa_key_free (my_private_key);
4735   GNUNET_free_non_null (our_hello);
4736
4737   /* free 'chvc' data structure */
4738   while (NULL != (chvc = chvc_head))
4739     {
4740       chvc_head = chvc->next;
4741       GNUNET_PEERINFO_iterate_cancel (chvc->piter);
4742       GNUNET_free (chvc);
4743     }
4744   chvc_tail = NULL;
4745
4746   GNUNET_CONTAINER_multihashmap_iterate (validation_map,
4747                                          &abort_validation,
4748                                          NULL);
4749   GNUNET_CONTAINER_multihashmap_destroy (validation_map);
4750   validation_map = NULL;
4751   if (stats != NULL)
4752     {
4753       GNUNET_STATISTICS_destroy (stats, GNUNET_NO);
4754       stats = NULL;
4755     }
4756
4757   /* Can we assume those are gone by now, or do we need to clean up
4758      explicitly!? */
4759   GNUNET_break (bl_head == NULL);
4760   GNUNET_break (bc_head == NULL);
4761 }
4762
4763
4764 /**
4765  * Initiate transport service.
4766  *
4767  * @param cls closure
4768  * @param s scheduler to use
4769  * @param serv the initialized server
4770  * @param c configuration to use
4771  */
4772 static void
4773 run (void *cls,
4774      struct GNUNET_SCHEDULER_Handle *s,
4775      struct GNUNET_SERVER_Handle *serv,
4776      const struct GNUNET_CONFIGURATION_Handle *c)
4777 {
4778   char *plugs;
4779   char *pos;
4780   int no_transports;
4781   unsigned long long tneigh;
4782   char *keyfile;
4783
4784   sched = s;
4785   cfg = c;
4786   stats = GNUNET_STATISTICS_create (sched, "transport", cfg);
4787   validation_map = GNUNET_CONTAINER_multihashmap_create (64);
4788   /* parse configuration */
4789   if ((GNUNET_OK !=
4790        GNUNET_CONFIGURATION_get_value_number (c,
4791                                               "TRANSPORT",
4792                                               "NEIGHBOUR_LIMIT",
4793                                               &tneigh)) ||
4794       (GNUNET_OK !=
4795        GNUNET_CONFIGURATION_get_value_filename (c,
4796                                                 "GNUNETD",
4797                                                 "HOSTKEY", &keyfile)))
4798     {
4799       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4800                   _
4801                   ("Transport service is lacking key configuration settings.  Exiting.\n"));
4802       GNUNET_SCHEDULER_shutdown (s);
4803       if (stats != NULL)
4804         {
4805           GNUNET_STATISTICS_destroy (stats, GNUNET_NO);
4806           stats = NULL;
4807         }
4808       GNUNET_CONTAINER_multihashmap_destroy (validation_map);
4809       validation_map = NULL;
4810       return;
4811     }
4812   max_connect_per_transport = (uint32_t) tneigh;
4813   peerinfo = GNUNET_PEERINFO_connect (sched, cfg);
4814   if (peerinfo == NULL)
4815     {
4816       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4817                   _("Could not access PEERINFO service.  Exiting.\n"));     
4818       GNUNET_SCHEDULER_shutdown (s);
4819       if (stats != NULL)
4820         {
4821           GNUNET_STATISTICS_destroy (stats, GNUNET_NO);
4822           stats = NULL;
4823         }
4824       GNUNET_CONTAINER_multihashmap_destroy (validation_map);
4825       validation_map = NULL;
4826       GNUNET_free (keyfile);
4827       return;
4828     }
4829   my_private_key = GNUNET_CRYPTO_rsa_key_create_from_file (keyfile);
4830   GNUNET_free (keyfile);
4831   if (my_private_key == NULL)
4832     {
4833       GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
4834                   _
4835                   ("Transport service could not access hostkey.  Exiting.\n"));
4836       GNUNET_SCHEDULER_shutdown (s);
4837       if (stats != NULL)
4838         {
4839           GNUNET_STATISTICS_destroy (stats, GNUNET_NO);
4840           stats = NULL;
4841         }
4842       GNUNET_CONTAINER_multihashmap_destroy (validation_map);
4843       validation_map = NULL;
4844       return;
4845     }
4846   GNUNET_CRYPTO_rsa_key_get_public (my_private_key, &my_public_key);
4847   GNUNET_CRYPTO_hash (&my_public_key,
4848                       sizeof (my_public_key), &my_identity.hashPubKey);
4849   /* setup notification */
4850   server = serv;
4851   GNUNET_SERVER_disconnect_notify (server,
4852                                    &client_disconnect_notification, NULL);
4853   /* load plugins... */
4854   no_transports = 1;
4855   if (GNUNET_OK ==
4856       GNUNET_CONFIGURATION_get_value_string (c,
4857                                              "TRANSPORT", "PLUGINS", &plugs))
4858     {
4859       GNUNET_log (GNUNET_ERROR_TYPE_INFO,
4860                   _("Starting transport plugins `%s'\n"), plugs);
4861       pos = strtok (plugs, " ");
4862       while (pos != NULL)
4863         {
4864           start_transport (server, pos);
4865           no_transports = 0;
4866           pos = strtok (NULL, " ");
4867         }
4868       GNUNET_free (plugs);
4869     }
4870   GNUNET_SCHEDULER_add_delayed (sched,
4871                                 GNUNET_TIME_UNIT_FOREVER_REL,
4872                                 &shutdown_task, NULL);
4873   if (no_transports)
4874     refresh_hello ();
4875
4876 #if DEBUG_TRANSPORT
4877   GNUNET_log (GNUNET_ERROR_TYPE_INFO, _("Transport service ready.\n"));
4878 #endif
4879   /* If we have a blacklist file, read from it */
4880   read_blacklist_file(cfg);
4881   /* process client requests */
4882   GNUNET_SERVER_add_handlers (server, handlers);
4883 }
4884
4885
4886 /**
4887  * The main function for the transport service.
4888  *
4889  * @param argc number of arguments from the command line
4890  * @param argv command line arguments
4891  * @return 0 ok, 1 on error
4892  */
4893 int
4894 main (int argc, char *const *argv)
4895 {
4896   return (GNUNET_OK ==
4897           GNUNET_SERVICE_run (argc,
4898                               argv,
4899                               "transport",
4900                               GNUNET_SERVICE_OPTION_NONE,
4901                               &run, NULL)) ? 0 : 1;
4902 }
4903
4904 /* end of gnunet-service-transport.c */