src/dv/gnunet-service-dv.c

   1 /*
   2      This file is part of GNUnet.
   3      (C) 2013 Christian Grothoff (and other contributing authors)
   4
   5      GNUnet is free software; you can redistribute it and/or modify
   6      it under the terms of the GNU General Public License as published
   7      by the Free Software Foundation; either version 3, or (at your
   8      option) any later version.
   9
  10      GNUnet is distributed in the hope that it will be useful, but
  11      WITHOUT ANY WARRANTY; without even the implied warranty of
  12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13      General Public License for more details.
  14
  15      You should have received a copy of the GNU General Public License
  16      along with GNUnet; see the file COPYING.  If not, write to the
  17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
  18      Boston, MA 02111-1307, USA.
  19 */
  20
  21 /**
  22  * @file dv/gnunet-service-dv.c
  23  * @brief the distance vector service, primarily handles gossip of nearby
  24  * peers and sending/receiving DV messages from core and decapsulating
  25  * them
  26  *
  27  * @author Christian Grothoff
  28  * @author Nathan Evans
  29  */
  30 #include "platform.h"
  31 #include "gnunet_util_lib.h"
  32 #include "gnunet_protocols.h"
  33 #include "gnunet_core_service.h"
  34 #include "gnunet_hello_lib.h"
  35 #include "gnunet_peerinfo_service.h"
  36 #include "gnunet_statistics_service.h"
  37 #include "gnunet_set_service.h"
  38 #include "gnunet_ats_service.h"
  39 #include "dv.h"
  40 #include <gcrypt.h>
  41
  42
  43 /**
  44  * How often do we establish the consensu?
  45  */
  46 #define GNUNET_DV_CONSENSUS_FREQUENCY GNUNET_TIME_relative_multiply(GNUNET_TIME_UNIT_MINUTES, 5)
  47
  48 /**
  49  * Maximum number of messages we queue per peer.
  50  */
  51 #define MAX_QUEUE_SIZE 16
  52
  53 /**
  54  * Maximum number of messages we queue towards the clients/plugin.
  55  */
  56 #define MAX_QUEUE_SIZE_PLUGIN 1024
  57
  58 /**
  59  * The default fisheye depth, from how many hops away will
  60  * we keep peers?
  61  */
  62 #define DEFAULT_FISHEYE_DEPTH 3
  63
  64 /**
  65  * How many hops is a direct neighbor away?
  66  */
  67 #define DIRECT_NEIGHBOR_COST 1
  68
  69
  70 GNUNET_NETWORK_STRUCT_BEGIN
  71
  72 /**
  73  * Information about a peer DV can route to.  These entries are what
  74  * we use as the binary format to establish consensus to create our
  75  * routing table and as the address format in the HELLOs.
  76  */
  77 struct Target
  78 {
  79
  80   /**
  81    * Identity of the peer we can reach.
  82    */
  83   struct GNUNET_PeerIdentity peer;
  84
  85   /**
  86    * How many hops (1-3) is this peer away? in network byte order
  87    */
  88   uint32_t distance GNUNET_PACKED;
  89
  90 };
  91
  92
  93 /**
  94  * Message exchanged between DV services (via core), requesting a
  95  * message to be routed.
  96  */
  97 struct RouteMessage
  98 {
  99   /**
 100    * Type: #GNUNET_MESSAGE_TYPE_DV_ROUTE
 101    */
 102   struct GNUNET_MessageHeader header;
 103
 104   /**
 105    * Expected (remaining) distance.  Must be always smaller than
 106    * #DEFAULT_FISHEYE_DEPTH, should be zero at the target.  Must
 107    * be decremented by one at each hop.  Peers must not forward
 108    * these messages further once the counter has reached zero.
 109    */
 110   uint32_t distance GNUNET_PACKED;
 111
 112   /**
 113    * The (actual) target of the message (this peer, if distance is zero).
 114    */
 115   struct GNUNET_PeerIdentity target;
 116
 117   /**
 118    * The (actual) sender of the message.
 119    */
 120   struct GNUNET_PeerIdentity sender;
 121
 122 };
 123
 124 GNUNET_NETWORK_STRUCT_END
 125
 126
 127 /**
 128  * Linked list of messages to send to clients.
 129  */
 130 struct PendingMessage
 131 {
 132   /**
 133    * Pointer to next item in the list
 134    */
 135   struct PendingMessage *next;
 136
 137   /**
 138    * Pointer to previous item in the list
 139    */
 140   struct PendingMessage *prev;
 141
 142   /**
 143    * Actual message to be sent, allocated after this struct.
 144    */
 145   const struct GNUNET_MessageHeader *msg;
 146
 147   /**
 148    * Next target for the message (a neighbour of ours).
 149    */
 150   struct GNUNET_PeerIdentity next_target;
 151
 152   /**
 153    * Unique ID of the message.
 154    */
 155   uint32_t uid;
 156
 157 };
 158
 159
 160 /**
 161  * Information about a direct neighbor (core-level, excluding
 162  * DV-links, only DV-enabled peers).
 163  */
 164 struct DirectNeighbor
 165 {
 166
 167   /**
 168    * Identity of the peer.
 169    */
 170   struct GNUNET_PeerIdentity peer;
 171
 172   /**
 173    * Session ID we use whenever we create a set union with
 174    * this neighbor; constructed from the XOR of our peer
 175    * IDs and then salted with "DV-SALT" to avoid conflicts
 176    * with other applications.
 177    */
 178   struct GNUNET_HashCode real_session_id;
 179
 180   /**
 181    * Head of linked list of messages to send to this peer.
 182    */
 183   struct PendingMessage *pm_head;
 184
 185   /**
 186    * Tail of linked list of messages to send to this peer.
 187    */
 188   struct PendingMessage *pm_tail;
 189
 190   /**
 191    * Transmit handle to core service.
 192    */
 193   struct GNUNET_CORE_TransmitHandle *cth;
 194
 195   /**
 196    * Routing table of the neighbor, NULL if not yet established.
 197    * Keys are peer identities, values are 'struct Target' entries.
 198    * Note that the distances in the targets are from the point-of-view
 199    * of the peer, not from us!
 200    */
 201   struct GNUNET_CONTAINER_MultiPeerMap *neighbor_table;
 202
 203   /**
 204    * Updated routing table of the neighbor, under construction,
 205    * NULL if we are not currently building it.
 206    * Keys are peer identities, values are 'struct Target' entries.
 207    * Note that the distances in the targets are from the point-of-view
 208    * of the other peer, not from us!
 209    */
 210   struct GNUNET_CONTAINER_MultiPeerMap *neighbor_table_consensus;
 211
 212   /**
 213    * Our current (exposed) routing table as a set.
 214    */
 215   struct GNUNET_SET_Handle *my_set;
 216
 217   /**
 218    * Handle for our current active set union operation.
 219    */
 220   struct GNUNET_SET_OperationHandle *set_op;
 221
 222   /**
 223    * Handle used if we are listening for this peer, waiting for the
 224    * other peer to initiate construction of the set union.  NULL if
 225    * we ar the initiating peer.
 226    */
 227   struct GNUNET_SET_ListenHandle *listen_handle;
 228
 229   /**
 230    * ID of the task we use to (periodically) update our consensus
 231    * with this peer.  Used if we are the initiating peer.
 232    */
 233   GNUNET_SCHEDULER_TaskIdentifier initiate_task;
 234
 235   /**
 236    * At what offset are we, with respect to inserting our own routes
 237    * into the consensus?
 238    */
 239   unsigned int consensus_insertion_offset;
 240
 241   /**
 242    * At what distance are we, with respect to inserting our own routes
 243    * into the consensus?
 244    */
 245   unsigned int consensus_insertion_distance;
 246
 247   /**
 248    * Number of messages currently in the 'pm_XXXX'-DLL.
 249    */
 250   unsigned int pm_queue_size;
 251
 252   /**
 253    * Elements in consensus
 254    */
 255   unsigned int consensus_elements;
 256
 257   /**
 258    * Direct one hop route
 259    */
 260   struct Route *direct_route;
 261
 262   /**
 263    * Flag set within 'check_target_removed' to trigger full global route refresh.
 264    */
 265   int target_removed;
 266
 267   /**
 268    * Our distance to this peer, 0 for unknown.
 269    */
 270   uint32_t distance;
 271
 272   /**
 273    * The network this peer is in
 274    */
 275   enum GNUNET_ATS_Network_Type network;
 276
 277   /**
 278    * Is this neighbor connected at the core level?
 279    */
 280   int connected;
 281
 282 };
 283
 284
 285 /**
 286  * A route includes information about the next hop,
 287  * the target, and the ultimate distance to the
 288  * target.
 289  */
 290 struct Route
 291 {
 292
 293   /**
 294    * Which peer do we need to forward the message to?
 295    */
 296   struct DirectNeighbor *next_hop;
 297
 298   /**
 299    * What would be the target, and how far is it away?
 300    */
 301   struct Target target;
 302
 303   /**
 304    * Offset of this target in the respective consensus set.
 305    */
 306   unsigned int set_offset;
 307
 308 };
 309
 310
 311 /**
 312  * Set of targets we bring to a consensus; all targets in a set have a
 313  * distance equal to the sets distance (which is implied by the array
 314  * index of the set).
 315  */
 316 struct ConsensusSet
 317 {
 318
 319   /**
 320    * Array of targets in the set, may include NULL entries if a
 321    * neighbor has disconnected; the targets are allocated with the
 322    * respective container (all_routes), not here.
 323    */
 324   struct Route **targets;
 325
 326   /**
 327    * Size of the @e targets array.
 328    */
 329   unsigned int array_length;
 330
 331 };
 332
 333
 334 /**
 335  * Peermap of all of our neighbors; processing these usually requires
 336  * first checking to see if the peer is core-connected and if the
 337  * distance is 1, in which case they are direct neighbors.
 338  */
 339 static struct GNUNET_CONTAINER_MultiPeerMap *direct_neighbors;
 340
 341 /**
 342  * Hashmap with all routes that we currently support; contains
 343  * routing information for all peers from distance 2
 344  * up to distance #DEFAULT_FISHEYE_DEPTH.
 345  */
 346 static struct GNUNET_CONTAINER_MultiPeerMap *all_routes;
 347
 348 /**
 349  * Array of consensus sets we expose to the outside world.  Sets
 350  * are structured by the distance to the target.
 351  */
 352 static struct ConsensusSet consensi[DEFAULT_FISHEYE_DEPTH];
 353
 354 /**
 355  * Handle to the core service api.
 356  */
 357 static struct GNUNET_CORE_Handle *core_api;
 358
 359 /**
 360  * The identity of our peer.
 361  */
 362 static struct GNUNET_PeerIdentity my_identity;
 363
 364 /**
 365  * The configuration for this service.
 366  */
 367 static const struct GNUNET_CONFIGURATION_Handle *cfg;
 368
 369 /**
 370  * The client, the DV plugin connected to us (or an event monitor).
 371  * Hopefully this client will never change, although if the plugin
 372  * dies and returns for some reason it may happen.
 373  */
 374 static struct GNUNET_SERVER_NotificationContext *nc;
 375
 376 /**
 377  * Handle for the statistics service.
 378  */
 379 static struct GNUNET_STATISTICS_Handle *stats;
 380
 381 /**
 382  * Handle to ATS service.
 383  */
 384 static struct GNUNET_ATS_PerformanceHandle *ats;
 385
 386 /**
 387  * Task scheduled to refresh routes based on direct neighbours.
 388  */
 389 static GNUNET_SCHEDULER_TaskIdentifier rr_task;
 390
 391 /**
 392  * #GNUNET_YES if we are shutting down.
 393  */
 394 static int in_shutdown;
 395
 396 /**
 397  * Start creating a new DV set union by initiating the connection.
 398  *
 399  * @param cls the 'struct DirectNeighbor' of the peer we're building
 400  *        a routing consensus with
 401  * @param tc scheduler context
 402  */
 403 static void
 404 initiate_set_union (void *cls,
 405                     const struct GNUNET_SCHEDULER_TaskContext *tc);
 406
 407
 408 /**
 409  * Start creating a new DV set union construction, our neighbour has
 410  * asked for it (callback for listening peer).
 411  *
 412  * @param cls the 'struct DirectNeighbor' of the peer we're building
 413  *        a routing consensus with
 414  * @param other_peer the other peer
 415  * @param context_msg message with application specific information from
 416  *        the other peer
 417  * @param request request from the other peer, use GNUNET_SET_accept
 418  *        to accept it, otherwise the request will be refused
 419  *        Note that we don't use a return value here, as it is also
 420  *        necessary to specify the set we want to do the operation with,
 421  *        whith sometimes can be derived from the context message.
 422  *        Also necessary to specify the timeout.
 423  */
 424 static void
 425 listen_set_union (void *cls,
 426                   const struct GNUNET_PeerIdentity *other_peer,
 427                   const struct GNUNET_MessageHeader *context_msg,
 428                   struct GNUNET_SET_Request *request);
 429
 430
 431 /**
 432  * Forward a message from another peer to the plugin.
 433  *
 434  * @param message the message to send to the plugin
 435  * @param origin the original sender of the message
 436  * @param distance distance to the original sender of the message
 437  */
 438 static void
 439 send_data_to_plugin (const struct GNUNET_MessageHeader *message,
 440                      const struct GNUNET_PeerIdentity *origin,
 441                      uint32_t distance)
 442 {
 443   struct GNUNET_DV_ReceivedMessage *received_msg;
 444   size_t size;
 445
 446   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 447               "Delivering message from peer `%s' at distance %u\n",
 448               GNUNET_i2s (origin),
 449               (unsigned int) distance);
 450   size = sizeof (struct GNUNET_DV_ReceivedMessage) +
 451     ntohs (message->size);
 452   if (size >= GNUNET_SERVER_MAX_MESSAGE_SIZE)
 453   {
 454     GNUNET_break (0); /* too big */
 455     return;
 456   }
 457   received_msg = GNUNET_malloc (size);
 458   received_msg->header.size = htons (size);
 459   received_msg->header.type = htons (GNUNET_MESSAGE_TYPE_DV_RECV);
 460   received_msg->distance = htonl (distance);
 461   received_msg->sender = *origin;
 462   memcpy (&received_msg[1], message, ntohs (message->size));
 463   GNUNET_SERVER_notification_context_broadcast (nc,
 464                                                 &received_msg->header,
 465                                                 GNUNET_YES);
 466   GNUNET_free (received_msg);
 467 }
 468
 469
 470 /**
 471  * Forward a control message to the plugin.
 472  *
 473  * @param message the message to send to the plugin
 474  */
 475 static void
 476 send_control_to_plugin (const struct GNUNET_MessageHeader *message)
 477 {
 478   GNUNET_SERVER_notification_context_broadcast (nc,
 479                                                 message,
 480                                                 GNUNET_NO);
 481 }
 482
 483
 484 /**
 485  * Give an (N)ACK message to the plugin, we transmitted a message for it.
 486  *
 487  * @param target peer that received the message
 488  * @param uid plugin-chosen UID for the message
 489  * @param nack #GNUNET_NO to send ACK, #GNUNET_YES to send NACK
 490  */
 491 static void
 492 send_ack_to_plugin (const struct GNUNET_PeerIdentity *target,
 493                     uint32_t uid,
 494                     int nack)
 495 {
 496   struct GNUNET_DV_AckMessage ack_msg;
 497
 498   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 499               "Delivering ACK for message to peer `%s'\n",
 500               GNUNET_i2s (target));
 501   ack_msg.header.size = htons (sizeof (ack_msg));
 502   ack_msg.header.type = htons ((GNUNET_YES == nack)
 503                                ? GNUNET_MESSAGE_TYPE_DV_SEND_NACK
 504                                : GNUNET_MESSAGE_TYPE_DV_SEND_ACK);
 505   ack_msg.uid = htonl (uid);
 506   ack_msg.target = *target;
 507   send_control_to_plugin (&ack_msg.header);
 508 }
 509
 510
 511 /**
 512  * Send a DISTANCE_CHANGED message to the plugin.
 513  *
 514  * @param peer peer with a changed distance
 515  * @param distance new distance to the peer
 516  * @param network network used by the neighbor
 517  */
 518 static void
 519 send_distance_change_to_plugin (const struct GNUNET_PeerIdentity *peer,
 520                                 uint32_t distance,
 521                                 enum GNUNET_ATS_Network_Type network)
 522 {
 523   struct GNUNET_DV_DistanceUpdateMessage du_msg;
 524
 525   GNUNET_break (GNUNET_ATS_NET_UNSPECIFIED != network);
 526   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 527               "Delivering DISTANCE_CHANGED for message about peer `%s'\n",
 528               GNUNET_i2s (peer));
 529   du_msg.header.size = htons (sizeof (du_msg));
 530   du_msg.header.type = htons (GNUNET_MESSAGE_TYPE_DV_DISTANCE_CHANGED);
 531   du_msg.distance = htonl (distance);
 532   du_msg.peer = *peer;
 533   du_msg.network = htonl ((uint32_t) network);
 534   send_control_to_plugin (&du_msg.header);
 535 }
 536
 537
 538 /**
 539  * Give a CONNECT message to the plugin.
 540  *
 541  * @param target peer that connected
 542  * @param distance distance to the target
 543  * @param network the network the next hop is located in
 544  */
 545 static void
 546 send_connect_to_plugin (const struct GNUNET_PeerIdentity *target,
 547                         uint32_t distance,
 548                         enum GNUNET_ATS_Network_Type network)
 549 {
 550   struct GNUNET_DV_ConnectMessage cm;
 551
 552   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 553               "Delivering CONNECT about peer %s with distance %u\n",
 554               GNUNET_i2s (target), distance);
 555   cm.header.size = htons (sizeof (cm));
 556   cm.header.type = htons (GNUNET_MESSAGE_TYPE_DV_CONNECT);
 557   cm.distance = htonl (distance);
 558   cm.network = htonl ((uint32_t) network);
 559   cm.peer = *target;
 560   send_control_to_plugin (&cm.header);
 561 }
 562
 563
 564 /**
 565  * Give a DISCONNECT message to the plugin.
 566  *
 567  * @param target peer that disconnected
 568  */
 569 static void
 570 send_disconnect_to_plugin (const struct GNUNET_PeerIdentity *target)
 571 {
 572   struct GNUNET_DV_DisconnectMessage dm;
 573
 574   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 575               "Delivering DISCONNECT about peer `%s'\n",
 576               GNUNET_i2s (target));
 577   dm.header.size = htons (sizeof (dm));
 578   dm.header.type = htons (GNUNET_MESSAGE_TYPE_DV_DISCONNECT);
 579   dm.reserved = htonl (0);
 580   dm.peer = *target;
 581   send_control_to_plugin (&dm.header);
 582 }
 583
 584
 585 /**
 586  * Function called to transfer a message to another peer
 587  * via core.
 588  *
 589  * @param cls closure with the direct neighbor
 590  * @param size number of bytes available in buf
 591  * @param buf where the callee should write the message
 592  * @return number of bytes written to buf
 593  */
 594 static size_t
 595 core_transmit_notify (void *cls, size_t size, void *buf)
 596 {
 597   struct DirectNeighbor *dn = cls;
 598   char *cbuf = buf;
 599   struct PendingMessage *pending;
 600   size_t off;
 601   size_t msize;
 602
 603   dn->cth = NULL;
 604   if (NULL == buf)
 605   {
 606     /* client disconnected */
 607     return 0;
 608   }
 609   off = 0;
 610   while ( (NULL != (pending = dn->pm_head)) &&
 611           (size >= off + (msize = ntohs (pending->msg->size))))
 612   {
 613     dn->pm_queue_size--;
 614     GNUNET_CONTAINER_DLL_remove (dn->pm_head,
 615                                  dn->pm_tail,
 616                                  pending);
 617     memcpy (&cbuf[off], pending->msg, msize);
 618     if (0 != pending->uid)
 619     {
 620       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 621                   "Acking transmission of %u bytes to %s with plugin\n",
 622                   msize,
 623                   GNUNET_i2s (&pending->next_target));
 624       send_ack_to_plugin (&pending->next_target,
 625                           pending->uid,
 626                           GNUNET_NO);
 627     }
 628     GNUNET_free (pending);
 629     off += msize;
 630   }
 631   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 632               "Transmitting total of %u bytes to %s\n",
 633               off,
 634               GNUNET_i2s (&dn->peer));
 635   GNUNET_assert (NULL != core_api);
 636   if (NULL != dn->pm_head)
 637     dn->cth =
 638       GNUNET_CORE_notify_transmit_ready (core_api,
 639                                          GNUNET_YES /* cork */,
 640                                          GNUNET_CORE_PRIO_BEST_EFFORT,
 641                                          GNUNET_TIME_UNIT_FOREVER_REL,
 642                                          &dn->peer,
 643                                          msize,
 644                                          &core_transmit_notify, dn);
 645   return off;
 646 }
 647
 648
 649 /**
 650  * Forward the given payload to the given target.
 651  *
 652  * @param target where to send the message
 653  * @param distance distance to the @a sender
 654  * @param uid unique ID for the message
 655  * @param sender original sender of the message
 656  * @param actual_target ultimate recipient for the message
 657  * @param payload payload of the message
 658  */
 659 static void
 660 forward_payload (struct DirectNeighbor *target,
 661                  uint32_t distance,
 662                  uint32_t uid,
 663                  const struct GNUNET_PeerIdentity *sender,
 664                  const struct GNUNET_PeerIdentity *actual_target,
 665                  const struct GNUNET_MessageHeader *payload)
 666 {
 667   struct PendingMessage *pm;
 668   struct RouteMessage *rm;
 669   size_t msize;
 670
 671   if ( (target->pm_queue_size >= MAX_QUEUE_SIZE) &&
 672        (0 == uid) &&
 673        (0 != memcmp (sender,
 674                      &my_identity,
 675                      sizeof (struct GNUNET_PeerIdentity))) )
 676   {
 677     /* not _our_ client and queue is full, drop */
 678     GNUNET_STATISTICS_update (stats,
 679                               "# messages dropped",
 680                               1, GNUNET_NO);
 681     return;
 682   }
 683   msize = sizeof (struct RouteMessage) + ntohs (payload->size);
 684   if (msize >= GNUNET_SERVER_MAX_MESSAGE_SIZE)
 685   {
 686     GNUNET_break (0);
 687     return;
 688   }
 689   pm = GNUNET_malloc (sizeof (struct PendingMessage) + msize);
 690   pm->next_target = target->peer;
 691   pm->uid = uid;
 692   pm->msg = (const struct GNUNET_MessageHeader *) &pm[1];
 693   rm = (struct RouteMessage *) &pm[1];
 694   rm->header.size = htons ((uint16_t) msize);
 695   rm->header.type = htons (GNUNET_MESSAGE_TYPE_DV_ROUTE);
 696   rm->distance = htonl (distance);
 697   rm->target = *actual_target;
 698   rm->sender = *sender;
 699   memcpy (&rm[1], payload, ntohs (payload->size));
 700   GNUNET_CONTAINER_DLL_insert_tail (target->pm_head,
 701                                     target->pm_tail,
 702                                     pm);
 703   target->pm_queue_size++;
 704   GNUNET_assert (NULL != core_api);
 705   if (NULL == target->cth)
 706     target->cth = GNUNET_CORE_notify_transmit_ready (core_api,
 707                                                      GNUNET_YES /* cork */,
 708                                                      GNUNET_CORE_PRIO_BEST_EFFORT,
 709                                                      GNUNET_TIME_UNIT_FOREVER_REL,
 710                                                      &target->peer,
 711                                                      msize,
 712                                                      &core_transmit_notify, target);
 713 }
 714
 715
 716 /**
 717  * Find a free slot for storing a 'route' in the 'consensi'
 718  * set at the given distance.
 719  *
 720  * @param distance distance to use for the set slot
 721  */
 722 static unsigned int
 723 get_consensus_slot (uint32_t distance)
 724 {
 725   struct ConsensusSet *cs;
 726   unsigned int i;
 727
 728   GNUNET_assert (distance < DEFAULT_FISHEYE_DEPTH);
 729   cs = &consensi[distance];
 730   i = 0;
 731   while ( (i < cs->array_length) &&
 732           (NULL != cs->targets[i]) ) i++;
 733   if (i == cs->array_length)
 734   {
 735     GNUNET_array_grow (cs->targets,
 736                        cs->array_length,
 737                        cs->array_length * 2 + 2);
 738   }
 739   return i;
 740 }
 741
 742
 743 /**
 744  * Allocate a slot in the consensus set for a route.
 745  *
 746  * @param route route to initialize
 747  * @param distance which consensus set to use
 748  */
 749 static void
 750 allocate_route (struct Route *route,
 751                 uint32_t distance)
 752 {
 753   unsigned int i;
 754
 755   if (distance >= DEFAULT_FISHEYE_DEPTH)
 756   {
 757     route->target.distance = htonl (distance);
 758     route->set_offset = UINT_MAX; /* invalid slot */
 759     return;
 760   }
 761   i = get_consensus_slot (distance);
 762   route->set_offset = i;
 763   consensi[distance].targets[i] = route;
 764   route->target.distance = htonl (distance);
 765 }
 766
 767
 768 /**
 769  * Release a slot in the consensus set for a route.
 770  *
 771  * @param route route to release the slot from
 772  */
 773 static void
 774 release_route (struct Route *route)
 775 {
 776   if (UINT_MAX == route->set_offset)
 777     return;
 778   GNUNET_assert (ntohl (route->target.distance) < DEFAULT_FISHEYE_DEPTH);
 779   consensi[ntohl (route->target.distance)].targets[route->set_offset] = NULL;
 780   route->set_offset = UINT_MAX; /* indicate invalid slot */
 781 }
 782
 783
 784 /**
 785  * Move a route from one consensus set to another.
 786  *
 787  * @param route route to move
 788  * @param new_distance new distance for the route (destination set)
 789  */
 790 static void
 791 move_route (struct Route *route,
 792             uint32_t new_distance)
 793 {
 794   release_route (route);
 795   allocate_route (route, new_distance);
 796 }
 797
 798
 799 /**
 800  * Initialize this neighbors 'my_set' and when done give
 801  * it to the pending set operation for execution.
 802  *
 803  * Add a single element to the set per call:
 804  *
 805  * If we reached the last element of a consensus element: increase distance
 806  *
 807  *
 808  * @param cls the neighbor for which we are building the set
 809  */
 810 static void
 811 build_set (void *cls)
 812 {
 813   struct DirectNeighbor *neighbor = cls;
 814   struct GNUNET_SET_Element element;
 815   struct Target *target;
 816   struct Route *route;
 817
 818   target = NULL;
 819   /* skip over NULL entries */
 820   while ( (DEFAULT_FISHEYE_DEPTH > neighbor->consensus_insertion_distance) &&
 821           (consensi[neighbor->consensus_insertion_distance].array_length > neighbor->consensus_insertion_offset) &&
 822           (NULL == consensi[neighbor->consensus_insertion_distance].targets[neighbor->consensus_insertion_offset]) )
 823     neighbor->consensus_insertion_offset++;
 824   while ( (DEFAULT_FISHEYE_DEPTH > neighbor->consensus_insertion_distance) &&
 825           (consensi[neighbor->consensus_insertion_distance].array_length == neighbor->consensus_insertion_offset) )
 826   {
 827     /* If we reached the last element of a consensus array element: increase distance and start with next array */
 828     neighbor->consensus_insertion_offset = 0;
 829     neighbor->consensus_insertion_distance++;
 830     /* skip over NULL entries */
 831     while ( (DEFAULT_FISHEYE_DEPTH > neighbor->consensus_insertion_distance) &&
 832             (consensi[neighbor->consensus_insertion_distance].array_length  > neighbor->consensus_insertion_offset) &&
 833             (NULL == consensi[neighbor->consensus_insertion_distance].targets[neighbor->consensus_insertion_offset]) )
 834       neighbor->consensus_insertion_offset++;
 835   }
 836   if (DEFAULT_FISHEYE_DEPTH == neighbor->consensus_insertion_distance)
 837   {
 838     /* we have added all elements to the set, run the operation */
 839     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 840                 "Finished building my SET for peer `%s' with %u elements, committing\n",
 841                 GNUNET_i2s (&neighbor->peer),
 842                 neighbor->consensus_elements);
 843     GNUNET_SET_commit (neighbor->set_op,
 844                        neighbor->my_set);
 845     GNUNET_SET_destroy (neighbor->my_set);
 846     neighbor->my_set = NULL;
 847     return;
 848   }
 849
 850   route = consensi[neighbor->consensus_insertion_distance].targets[neighbor->consensus_insertion_offset];
 851   GNUNET_assert (NULL != route);
 852   target = &route->target;
 853   GNUNET_assert (ntohl (target->distance) < DEFAULT_FISHEYE_DEPTH);
 854   element.size = sizeof (struct Target);
 855   element.type = htons (0); /* do we need this? */
 856   element.data = target;
 857
 858   /* Find next non-NULL entry */
 859   neighbor->consensus_insertion_offset++;
 860   if ( (0 != memcmp (&target->peer, &my_identity, sizeof (my_identity))) &&
 861        (0 != memcmp (&target->peer, &neighbor->peer, sizeof (neighbor->peer))) )
 862   {
 863     /* Add target if it is not the neighbor or this peer */
 864     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 865                 "Adding peer `%s' with distance %u to SET\n",
 866                 GNUNET_i2s (&target->peer),
 867                 ntohl (target->distance) + 1);
 868     GNUNET_SET_add_element (neighbor->my_set,
 869                             &element,
 870                             &build_set, neighbor);
 871     neighbor->consensus_elements++;
 872   }
 873   else
 874     build_set (neighbor);
 875 }
 876
 877
 878 /**
 879  * A peer is now connected to us at distance 1.  Initiate DV exchange.
 880  *
 881  * @param neighbor entry for the neighbor at distance 1
 882  */
 883 static void
 884 handle_direct_connect (struct DirectNeighbor *neighbor)
 885 {
 886   struct Route *route;
 887   struct GNUNET_HashCode h1;
 888   struct GNUNET_HashCode h2;
 889   struct GNUNET_HashCode session_id;
 890
 891   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 892               "Direct connection to %s established, routing table exchange begins.\n",
 893               GNUNET_i2s (&neighbor->peer));
 894   GNUNET_STATISTICS_update (stats,
 895                             "# peers connected (1-hop)",
 896                             1, GNUNET_NO);
 897   route = GNUNET_CONTAINER_multipeermap_get (all_routes,
 898                                              &neighbor->peer);
 899   if (NULL != route)
 900   {
 901     GNUNET_assert (GNUNET_YES ==
 902                    GNUNET_CONTAINER_multipeermap_remove (all_routes,
 903                                                          &neighbor->peer,
 904                                                          route));
 905     send_disconnect_to_plugin (&neighbor->peer);
 906     release_route (route);
 907     GNUNET_free (route);
 908   }
 909
 910   neighbor->direct_route = GNUNET_new (struct Route);
 911   neighbor->direct_route->next_hop = neighbor;
 912   neighbor->direct_route->target.peer = neighbor->peer;
 913   allocate_route (neighbor->direct_route, DIRECT_NEIGHBOR_COST);
 914
 915   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 916               "Adding direct route to %s\n",
 917               GNUNET_i2s (&neighbor->direct_route->target.peer));
 918
 919
 920   /* construct session ID seed as XOR of both peer's identities */
 921   GNUNET_CRYPTO_hash (&my_identity, sizeof (my_identity), &h1);
 922   GNUNET_CRYPTO_hash (&neighbor->peer, sizeof (struct GNUNET_PeerIdentity), &h2);
 923   GNUNET_CRYPTO_hash_xor (&h1,
 924                           &h2,
 925                           &session_id);
 926   /* make sure session ID is unique across applications by salting it with 'DV' */
 927   GNUNET_CRYPTO_hkdf (&neighbor->real_session_id, sizeof (struct GNUNET_HashCode),
 928                       GCRY_MD_SHA512, GCRY_MD_SHA256,
 929                       "DV-SALT", 2,
 930                       &session_id, sizeof (session_id),
 931                       NULL, 0);
 932   if (0 < memcmp (&neighbor->peer,
 933                   &my_identity,
 934                   sizeof (struct GNUNET_PeerIdentity)))
 935   {
 936     if (NULL != neighbor->listen_handle)
 937     {
 938       GNUNET_break (0);
 939     }
 940     else
 941       neighbor->initiate_task = GNUNET_SCHEDULER_add_now (&initiate_set_union,
 942                                                           neighbor);
 943   }
 944   else
 945   {
 946     if (NULL != neighbor->listen_handle)
 947     {
 948       GNUNET_break (0);
 949     }
 950     else
 951     {
 952       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 953                   "Starting SET listen operation with peer `%s'\n",
 954                   GNUNET_i2s(&neighbor->peer));
 955       neighbor->listen_handle = GNUNET_SET_listen (cfg,
 956                                                    GNUNET_SET_OPERATION_UNION,
 957                                                    &neighbor->real_session_id,
 958                                                    &listen_set_union,
 959                                                    neighbor);
 960     }
 961   }
 962 }
 963
 964
 965 /**
 966  * Method called whenever a peer connects.
 967  *
 968  * @param cls closure
 969  * @param peer peer identity this notification is about
 970  */
 971 static void
 972 handle_core_connect (void *cls,
 973                      const struct GNUNET_PeerIdentity *peer)
 974 {
 975   struct DirectNeighbor *neighbor;
 976
 977   /* Check for connect to self message */
 978   if (0 == memcmp (&my_identity, peer, sizeof (struct GNUNET_PeerIdentity)))
 979     return;
 980   /* check if entry exists */
 981   neighbor = GNUNET_CONTAINER_multipeermap_get (direct_neighbors,
 982                                                 peer);
 983   if (NULL != neighbor)
 984   {
 985     GNUNET_break (GNUNET_ATS_NET_UNSPECIFIED != neighbor->network);
 986     GNUNET_break (GNUNET_YES != neighbor->connected);
 987     neighbor->connected = GNUNET_YES;
 988     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 989                 "Core connected to %s (distance %u)\n",
 990                 GNUNET_i2s (peer),
 991                 (unsigned int) neighbor->distance);
 992     if (DIRECT_NEIGHBOR_COST != neighbor->distance)
 993       return;
 994     handle_direct_connect (neighbor);
 995     return;
 996   }
 997   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 998               "Core connected to %s (distance unknown)\n",
 999               GNUNET_i2s (peer));
1000   neighbor = GNUNET_new (struct DirectNeighbor);
1001   neighbor->peer = *peer;
1002   GNUNET_assert (GNUNET_YES ==
1003                  GNUNET_CONTAINER_multipeermap_put (direct_neighbors,
1004                                                     peer,
1005                                                     neighbor,
1006                                                     GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
1007   neighbor->connected = GNUNET_YES;
1008   neighbor->distance = 0; /* unknown */
1009   neighbor->network = GNUNET_ATS_NET_UNSPECIFIED;
1010 }
1011
1012
1013 /**
1014  * Called for each 'target' in a neighbor table to free the associated memory.
1015  *
1016  * @param cls NULL
1017  * @param key key of the value
1018  * @param value value to free
1019  * @return #GNUNET_OK to continue to iterate
1020  */
1021 static int
1022 free_targets (void *cls,
1023               const struct GNUNET_PeerIdentity *key,
1024               void *value)
1025 {
1026   GNUNET_free (value);
1027   return GNUNET_OK;
1028 }
1029
1030
1031 /**
1032  * Add a new route to the given @a target via the given @a neighbor.
1033  *
1034  * @param target the target of the route
1035  * @param neighbor the next hop for communicating with the @a target
1036  */
1037 static void
1038 add_new_route (struct Target *target,
1039                struct DirectNeighbor *neighbor)
1040 {
1041   struct Route *route;
1042
1043   route = GNUNET_new (struct Route);
1044   route->next_hop = neighbor;
1045   route->target.peer = target->peer;
1046   allocate_route (route, ntohl (target->distance) + 1);
1047   GNUNET_assert (GNUNET_YES ==
1048                  GNUNET_CONTAINER_multipeermap_put (all_routes,
1049                                                     &route->target.peer,
1050                                                     route,
1051                                                     GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
1052   send_connect_to_plugin (&route->target.peer,
1053                           ntohl (route->target.distance),
1054                           neighbor->network);
1055 }
1056
1057
1058 /**
1059  * Multipeerhmap iterator for checking if a given route is
1060  * (now) useful to this peer.
1061  *
1062  * @param cls the direct neighbor for the given route
1063  * @param key key value stored under
1064  * @param value a 'struct Target' that may or may not be useful; not that
1065  *        the distance in 'target' does not include the first hop yet
1066  * @return #GNUNET_YES to continue iteration, #GNUNET_NO to stop
1067  */
1068 static int
1069 check_possible_route (void *cls,
1070                       const struct GNUNET_PeerIdentity *key,
1071                       void *value)
1072 {
1073   struct DirectNeighbor *neighbor = cls;
1074   struct Target *target = value;
1075   struct Route *route;
1076
1077   if (GNUNET_YES ==
1078       GNUNET_CONTAINER_multipeermap_contains (direct_neighbors,
1079                                               key))
1080     return GNUNET_YES; /* direct route, do not care about alternatives */
1081   route = GNUNET_CONTAINER_multipeermap_get (all_routes,
1082                                              key);
1083   if (NULL != route)
1084   {
1085     /* we have an existing route, check how it compares with going via 'target' */
1086     if (ntohl (route->target.distance) > ntohl (target->distance) + 1)
1087     {
1088       /* via 'target' is cheaper than the existing route; switch to alternative route! */
1089       move_route (route, ntohl (target->distance) + 1);
1090       route->next_hop = neighbor;
1091       send_distance_change_to_plugin (&target->peer,
1092                                       ntohl (target->distance) + 1,
1093                                       neighbor->network);
1094     }
1095     return GNUNET_YES; /* got a route to this target already */
1096   }
1097   if (ntohl (target->distance) >= DEFAULT_FISHEYE_DEPTH)
1098     return GNUNET_YES; /* distance is too large to be interesting */
1099   add_new_route (target, neighbor);
1100   return GNUNET_YES;
1101 }
1102
1103
1104 /**
1105  * Multipeermap iterator for finding routes that were previously
1106  * "hidden" due to a better route (called after a disconnect event).
1107  *
1108  * @param cls NULL
1109  * @param key peer identity of the given direct neighbor
1110  * @param value a `struct DirectNeighbor` to check for additional routes
1111  * @return #GNUNET_YES to continue iteration
1112  */
1113 static int
1114 refresh_routes (void *cls,
1115                 const struct GNUNET_PeerIdentity *key,
1116                 void *value)
1117 {
1118   struct DirectNeighbor *neighbor = value;
1119
1120   if ( (GNUNET_YES != neighbor->connected) ||
1121        (DIRECT_NEIGHBOR_COST != neighbor->distance) )
1122     return GNUNET_YES;
1123   if (NULL != neighbor->neighbor_table)
1124     GNUNET_CONTAINER_multipeermap_iterate (neighbor->neighbor_table,
1125                                            &check_possible_route,
1126                                            neighbor);
1127   return GNUNET_YES;
1128 }
1129
1130
1131 /**
1132  * Task to run #refresh_routes() on all direct neighbours.
1133  *
1134  * @param cls NULL
1135  * @param tc unused
1136  */
1137 static void
1138 refresh_routes_task (void *cls,
1139                      const struct GNUNET_SCHEDULER_TaskContext *tc)
1140 {
1141   rr_task = GNUNET_SCHEDULER_NO_TASK;
1142   GNUNET_CONTAINER_multipeermap_iterate (direct_neighbors,
1143                                          &refresh_routes,
1144                                          NULL);
1145 }
1146
1147
1148 /**
1149  * Asynchronously run #refresh_routes() at the next opportunity
1150  * on all direct neighbours.
1151  */
1152 static void
1153 schedule_refresh_routes ()
1154 {
1155   if (GNUNET_SCHEDULER_NO_TASK == rr_task)
1156     rr_task = GNUNET_SCHEDULER_add_now (&refresh_routes_task,
1157                                         NULL);
1158 }
1159
1160
1161 /**
1162  * Get distance information from 'atsi'.
1163  *
1164  * @param atsi performance data
1165  * @param atsi_count number of entries in atsi
1166  * @return connected transport distance
1167  */
1168 static uint32_t
1169 get_atsi_distance (const struct GNUNET_ATS_Information *atsi,
1170                    uint32_t atsi_count)
1171 {
1172   uint32_t i;
1173
1174   for (i = 0; i < atsi_count; i++)
1175     if (ntohl (atsi[i].type) == GNUNET_ATS_QUALITY_NET_DISTANCE)
1176       return (0 == ntohl (atsi[i].value)) ? DIRECT_NEIGHBOR_COST : ntohl (atsi[i].value); // FIXME: 0 check should not be required once ATS is fixed!
1177   /* If we do not have explicit distance data, assume direct neighbor. */
1178   return DIRECT_NEIGHBOR_COST;
1179 }
1180
1181
1182 /**
1183  * Get network information from 'atsi'.
1184  *
1185  * @param atsi performance data
1186  * @param atsi_count number of entries in atsi
1187  * @return connected transport network
1188  */
1189 static enum GNUNET_ATS_Network_Type
1190 get_atsi_network (const struct GNUNET_ATS_Information *atsi,
1191                    uint32_t atsi_count)
1192 {
1193   uint32_t i;
1194
1195   for (i = 0; i < atsi_count; i++)
1196     if (ntohl (atsi[i].type) == GNUNET_ATS_NETWORK_TYPE)
1197       return (enum GNUNET_ATS_Network_Type) ntohl (atsi[i].value);
1198   return GNUNET_ATS_NET_UNSPECIFIED;
1199 }
1200
1201 /**
1202  * Multipeermap iterator for freeing routes that go via a particular
1203  * neighbor that disconnected and is thus no longer available.
1204  *
1205  * @param cls the direct neighbor that is now unavailable
1206  * @param key key value stored under
1207  * @param value a `struct Route` that may or may not go via neighbor
1208  *
1209  * @return #GNUNET_YES to continue iteration, #GNUNET_NO to stop
1210  */
1211 static int
1212 cull_routes (void *cls,
1213              const struct GNUNET_PeerIdentity *key,
1214              void *value)
1215 {
1216   struct DirectNeighbor *neighbor = cls;
1217   struct Route *route = value;
1218
1219   if (route->next_hop != neighbor)
1220     return GNUNET_YES; /* not affected */
1221   GNUNET_assert (GNUNET_YES ==
1222                  GNUNET_CONTAINER_multipeermap_remove (all_routes, key, value));
1223   release_route (route);
1224   send_disconnect_to_plugin (&route->target.peer);
1225   GNUNET_free (route);
1226   return GNUNET_YES;
1227 }
1228
1229
1230 /**
1231  * Handle the case that a direct connection to a peer is
1232  * disrupted.  Remove all routes via that peer and
1233  * stop the consensus with it.
1234  *
1235  * @param neighbor peer that was disconnected (or at least is no
1236  *    longer at distance 1)
1237  */
1238 static void
1239 handle_direct_disconnect (struct DirectNeighbor *neighbor)
1240 {
1241   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1242               "Culling routes via %s due to direct disconnect\n",
1243               GNUNET_i2s (&neighbor->peer));
1244   GNUNET_CONTAINER_multipeermap_iterate (all_routes,
1245                                          &cull_routes,
1246                                          neighbor);
1247   if (NULL != neighbor->cth)
1248   {
1249     GNUNET_CORE_notify_transmit_ready_cancel (neighbor->cth);
1250     neighbor->cth = NULL;
1251   }
1252
1253   if (NULL != neighbor->direct_route)
1254   {
1255     release_route (neighbor->direct_route);
1256     GNUNET_free (neighbor->direct_route);
1257     neighbor->direct_route = NULL;
1258   }
1259
1260   if (NULL != neighbor->neighbor_table_consensus)
1261   {
1262     GNUNET_CONTAINER_multipeermap_iterate (neighbor->neighbor_table_consensus,
1263                                            &free_targets,
1264                                            NULL);
1265     GNUNET_CONTAINER_multipeermap_destroy (neighbor->neighbor_table_consensus);
1266     neighbor->neighbor_table_consensus = NULL;
1267   }
1268   if (NULL != neighbor->neighbor_table)
1269   {
1270     GNUNET_CONTAINER_multipeermap_iterate (neighbor->neighbor_table,
1271                                            &free_targets,
1272                                            NULL);
1273     GNUNET_CONTAINER_multipeermap_destroy (neighbor->neighbor_table);
1274     neighbor->neighbor_table = NULL;
1275   }
1276   if (NULL != neighbor->set_op)
1277   {
1278     GNUNET_SET_operation_cancel (neighbor->set_op);
1279     neighbor->set_op = NULL;
1280   }
1281   if (NULL != neighbor->my_set)
1282   {
1283     GNUNET_SET_destroy (neighbor->my_set);
1284     neighbor->my_set = NULL;
1285   }
1286   if (NULL != neighbor->listen_handle)
1287   {
1288     GNUNET_SET_listen_cancel (neighbor->listen_handle);
1289     neighbor->listen_handle = NULL;
1290   }
1291   if (GNUNET_SCHEDULER_NO_TASK != neighbor->initiate_task)
1292   {
1293     GNUNET_SCHEDULER_cancel (neighbor->initiate_task);
1294     neighbor->initiate_task = GNUNET_SCHEDULER_NO_TASK;
1295   }
1296 }
1297
1298
1299 /**
1300  * Function that is called with QoS information about an address; used
1301  * to update our current distance to another peer.
1302  *
1303  * @param cls closure
1304  * @param address the address
1305  * @param active #GNUNET_YES if this address is actively used
1306  *        to maintain a connection to a peer;
1307  *        #GNUNET_NO if the address is not actively used;
1308  *        #GNUNET_SYSERR if this address is no longer available for ATS
1309  * @param bandwidth_out assigned outbound bandwidth for the connection
1310  * @param bandwidth_in assigned inbound bandwidth for the connection
1311  * @param ats performance data for the address (as far as known)
1312  * @param ats_count number of performance records in @a ats
1313  */
1314 static void
1315 handle_ats_update (void *cls,
1316                    const struct GNUNET_HELLO_Address *address,
1317                    int active,
1318                    struct GNUNET_BANDWIDTH_Value32NBO bandwidth_out,
1319                    struct GNUNET_BANDWIDTH_Value32NBO bandwidth_in,
1320                    const struct GNUNET_ATS_Information *ats,
1321                    uint32_t ats_count)
1322 {
1323   struct DirectNeighbor *neighbor;
1324   uint32_t distance;
1325   enum GNUNET_ATS_Network_Type network = GNUNET_ATS_NET_UNSPECIFIED;
1326
1327   if (NULL == address)
1328   {
1329     /* ATS service temporarily disconnected */
1330     return;
1331   }
1332
1333   if (GNUNET_YES != active)
1334   {
1335     // FIXME: handle disconnect/inactive case too!
1336     return;
1337   }
1338   distance = get_atsi_distance (ats, ats_count);
1339   network = get_atsi_network (ats, ats_count);
1340   GNUNET_break (GNUNET_ATS_NET_UNSPECIFIED != network);
1341   /* check if entry exists */
1342   neighbor = GNUNET_CONTAINER_multipeermap_get (direct_neighbors,
1343                                                 &address->peer);
1344   if (NULL != neighbor)
1345   {
1346     neighbor->network = network;
1347     if (neighbor->distance == distance)
1348       return; /* nothing new to see here, move along */
1349     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1350                 "ATS says distance to %s is now %u\n",
1351                 GNUNET_i2s (&address->peer),
1352                 (unsigned int) distance);
1353     if ( (DIRECT_NEIGHBOR_COST == neighbor->distance) &&
1354          (DIRECT_NEIGHBOR_COST == distance) )
1355       return; /* no change */
1356     if (DIRECT_NEIGHBOR_COST == neighbor->distance)
1357     {
1358       neighbor->distance = distance;
1359       GNUNET_STATISTICS_update (stats,
1360                                 "# peers connected (1-hop)",
1361                                 -1, GNUNET_NO);
1362       handle_direct_disconnect (neighbor);
1363       schedule_refresh_routes ();
1364       return;
1365     }
1366     neighbor->distance = distance;
1367     if (DIRECT_NEIGHBOR_COST != neighbor->distance)
1368       return;
1369     if (GNUNET_YES != neighbor->connected)
1370       return;
1371     handle_direct_connect (neighbor);
1372     return;
1373   }
1374   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1375               "ATS says distance to %s is now %u\n",
1376               GNUNET_i2s (&address->peer),
1377               (unsigned int) distance);
1378   neighbor = GNUNET_new (struct DirectNeighbor);
1379   neighbor->peer = address->peer;
1380   GNUNET_assert (GNUNET_YES ==
1381                  GNUNET_CONTAINER_multipeermap_put (direct_neighbors,
1382                                                     &address->peer,
1383                                                     neighbor,
1384                                                     GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
1385   neighbor->connected = GNUNET_NO; /* not yet */
1386   neighbor->distance = distance;
1387   neighbor->network = network;
1388 }
1389
1390
1391 /**
1392  * Check if a target was removed from the set of the other peer; if so,
1393  * if we also used it for our route, we need to remove it from our
1394  * 'all_routes' set (and later check if an alternative path now exists).
1395  *
1396  * @param cls the `struct DirectNeighbor`
1397  * @param key peer identity for the target
1398  * @param value a `struct Target` previously reachable via the given neighbor
1399  */
1400 static int
1401 check_target_removed (void *cls,
1402                       const struct GNUNET_PeerIdentity *key,
1403                       void *value)
1404 {
1405   struct DirectNeighbor *neighbor = cls;
1406   struct Target *new_target;
1407   struct Route *current_route;
1408
1409   new_target = GNUNET_CONTAINER_multipeermap_get (neighbor->neighbor_table_consensus,
1410                                                   key);
1411   current_route = GNUNET_CONTAINER_multipeermap_get (all_routes,
1412                                                      key);
1413   if (NULL != new_target)
1414   {
1415     /* target was in old set, is in new set */
1416     if ( (NULL != current_route) &&
1417          (current_route->next_hop == neighbor) &&
1418          (current_route->target.distance != new_target->distance) )
1419     {
1420       /* need to recalculate routes due to distance change */
1421       neighbor->target_removed = GNUNET_YES;
1422     }
1423     return GNUNET_OK;
1424   }
1425   /* target was revoked, check if it was used */
1426   if ( (NULL == current_route) ||
1427        (current_route->next_hop != neighbor) )
1428   {
1429     /* didn't matter, wasn't used */
1430     return GNUNET_OK;
1431   }
1432   /* remove existing route */
1433   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1434               "Lost route to %s\n",
1435               GNUNET_i2s (&current_route->target.peer));
1436   GNUNET_assert (GNUNET_YES ==
1437                  GNUNET_CONTAINER_multipeermap_remove (all_routes, key, current_route));
1438   send_disconnect_to_plugin (&current_route->target.peer);
1439   release_route (current_route);
1440   GNUNET_free (current_route);
1441   neighbor->target_removed = GNUNET_YES;
1442   return GNUNET_OK;
1443 }
1444
1445
1446 /**
1447  * Check if a target was added to the set of the other peer; if it
1448  * was added or impoves the existing route, do the needed updates.
1449  *
1450  * @param cls the `struct DirectNeighbor`
1451  * @param key peer identity for the target
1452  * @param value a `struct Target` now reachable via the given neighbor
1453  */
1454 static int
1455 check_target_added (void *cls,
1456                     const struct GNUNET_PeerIdentity *key,
1457                     void *value)
1458 {
1459   struct DirectNeighbor *neighbor = cls;
1460   struct Target *target = value;
1461   struct Route *current_route;
1462
1463   /* target was revoked, check if it was used */
1464   current_route = GNUNET_CONTAINER_multipeermap_get (all_routes,
1465                                                      key);
1466   if (NULL != current_route)
1467   {
1468     /* route exists */
1469     if (current_route->next_hop == neighbor)
1470     {
1471       /* we had the same route before, no change in target */
1472       if (ntohl (target->distance) + 1 != ntohl (current_route->target.distance))
1473       {
1474         /* but distance changed! */
1475         if (ntohl (target->distance) + 1 > DEFAULT_FISHEYE_DEPTH)
1476         {
1477           /* distance increased beyond what is allowed, kill route */
1478           GNUNET_assert (GNUNET_YES ==
1479                          GNUNET_CONTAINER_multipeermap_remove (all_routes,
1480                                                                key,
1481                                                                current_route));
1482           send_disconnect_to_plugin (key);
1483           release_route (current_route);
1484           GNUNET_free (current_route);
1485         }
1486         else
1487         {
1488           /* distance decreased, update route */
1489           move_route (current_route,
1490                       ntohl (target->distance) + 1);
1491           send_distance_change_to_plugin (&target->peer,
1492                                           ntohl (target->distance) + 1,
1493                                           neighbor->network);
1494         }
1495       }
1496       return GNUNET_OK;
1497     }
1498     if (ntohl (current_route->target.distance) <= ntohl (target->distance) + 1)
1499     {
1500       /* alternative, shorter route exists, ignore */
1501       return GNUNET_OK;
1502     }
1503     /* new route is better than the existing one, take over! */
1504     /* NOTE: minor security issue: malicious peers may advertise
1505        very short routes to take over longer paths; as we don't
1506        check that the shorter routes actually work, a malicious
1507        direct neighbor can use this to DoS our long routes */
1508
1509     move_route (current_route, ntohl (target->distance) + 1);
1510     current_route->next_hop = neighbor;
1511     send_distance_change_to_plugin (&target->peer,
1512                                     ntohl (target->distance) + 1,
1513                                     neighbor->network);
1514     return GNUNET_OK;
1515   }
1516   /* new route */
1517   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1518               "Discovered new route to %s using %u hops\n",
1519               GNUNET_i2s (&target->peer),
1520               (unsigned int) (ntohl (target->distance) + 1));
1521   current_route = GNUNET_new (struct Route);
1522   current_route->next_hop = neighbor;
1523   current_route->target.peer = target->peer;
1524   allocate_route (current_route, ntohl (target->distance) + 1);
1525   GNUNET_assert (GNUNET_YES ==
1526                  GNUNET_CONTAINER_multipeermap_put (all_routes,
1527                                                     &current_route->target.peer,
1528                                                     current_route,
1529                                                     GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
1530
1531   send_connect_to_plugin (&current_route->target.peer,
1532                           ntohl (current_route->target.distance),
1533                           neighbor->network);
1534   return GNUNET_OK;
1535 }
1536
1537
1538 /**
1539  * Callback for set operation results. Called for each element
1540  * in the result set.
1541  * We have learned a new route from the other peer.  Add it to the
1542  * route set we're building.
1543  *
1544  * @param cls the `struct DirectNeighbor` we're building the consensus with
1545  * @param element a result element, only valid if status is #GNUNET_SET_STATUS_OK
1546  * @param status see `enum GNUNET_SET_Status`
1547  */
1548 static void
1549 handle_set_union_result (void *cls,
1550                          const struct GNUNET_SET_Element *element,
1551                          enum GNUNET_SET_Status status)
1552 {
1553   struct DirectNeighbor *neighbor = cls;
1554   struct DirectNeighbor *dn;
1555   struct Target *target;
1556   char *status_str;
1557
1558   switch (status)
1559   {
1560   case GNUNET_SET_STATUS_OK:
1561     status_str = "GNUNET_SET_STATUS_OK";
1562     break;
1563   case GNUNET_SET_STATUS_TIMEOUT:
1564     status_str = "GNUNET_SET_STATUS_TIMEOUT";
1565     break;
1566   case GNUNET_SET_STATUS_FAILURE:
1567     status_str = "GNUNET_SET_STATUS_FAILURE";
1568     break;
1569   case GNUNET_SET_STATUS_HALF_DONE:
1570     status_str = "GNUNET_SET_STATUS_HALF_DONE";
1571     break;
1572   case GNUNET_SET_STATUS_DONE:
1573     status_str = "GNUNET_SET_STATUS_DONE";
1574     break;
1575   default:
1576     status_str = "UNDEFINED";
1577     break;
1578   }
1579
1580   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1581               "Got SET union result: %s\n",
1582               status_str);
1583   switch (status)
1584   {
1585   case GNUNET_SET_STATUS_OK:
1586     if (sizeof (struct Target) != element->size)
1587     {
1588       GNUNET_break_op (0);
1589       return;
1590     }
1591     if ( (NULL != (dn = GNUNET_CONTAINER_multipeermap_get (direct_neighbors, &((struct Target *) element->data)->peer))) && (DIRECT_NEIGHBOR_COST == dn->distance) )
1592     {
1593       /* this is a direct neighbor of ours, we do not care about routes
1594          to this peer */
1595       return;
1596     }
1597     target = GNUNET_new (struct Target);
1598     memcpy (target, element->data, sizeof (struct Target));
1599     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1600                 "Received information about peer `%s' with distance %u from SET\n",
1601                 GNUNET_i2s (&target->peer),
1602                 ntohl (target->distance) + 1);
1603
1604     if (NULL == neighbor->neighbor_table_consensus)
1605       neighbor->neighbor_table_consensus
1606         = GNUNET_CONTAINER_multipeermap_create (10, GNUNET_NO);
1607     if (GNUNET_YES !=
1608         GNUNET_CONTAINER_multipeermap_put (neighbor->neighbor_table_consensus,
1609                                            &target->peer,
1610                                            target,
1611                                            GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
1612     {
1613       GNUNET_break_op (0);
1614       GNUNET_free (target);
1615     }
1616     break;
1617   case GNUNET_SET_STATUS_TIMEOUT:
1618   case GNUNET_SET_STATUS_FAILURE:
1619     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1620                 "Failed to establish DV union, will try again later\n");
1621     neighbor->set_op = NULL;
1622     if (NULL != neighbor->neighbor_table_consensus)
1623     {
1624       GNUNET_CONTAINER_multipeermap_iterate (neighbor->neighbor_table_consensus,
1625                                              &free_targets,
1626                                              NULL);
1627       GNUNET_CONTAINER_multipeermap_destroy (neighbor->neighbor_table_consensus);
1628       neighbor->neighbor_table_consensus = NULL;
1629     }
1630     if (0 < memcmp (&neighbor->peer,
1631                     &my_identity,
1632                     sizeof (struct GNUNET_PeerIdentity)))
1633       neighbor->initiate_task = GNUNET_SCHEDULER_add_delayed (GNUNET_DV_CONSENSUS_FREQUENCY,
1634                                                               &initiate_set_union,
1635                                                               neighbor);
1636     break;
1637   case GNUNET_SET_STATUS_HALF_DONE:
1638     break;
1639   case GNUNET_SET_STATUS_DONE:
1640     /* we got all of our updates; integrate routing table! */
1641     neighbor->target_removed = GNUNET_NO;
1642     if (NULL == neighbor->neighbor_table_consensus)
1643       neighbor->neighbor_table_consensus = GNUNET_CONTAINER_multipeermap_create (10, GNUNET_NO);
1644     if (NULL != neighbor->neighbor_table)
1645       GNUNET_CONTAINER_multipeermap_iterate (neighbor->neighbor_table,
1646                                              &check_target_removed,
1647                                              neighbor);
1648     if (GNUNET_YES == neighbor->target_removed)
1649     {
1650       /* check if we got an alternative for the removed routes */
1651       schedule_refresh_routes ();
1652     }
1653     /* add targets that appeared (and check for improved routes) */
1654     GNUNET_CONTAINER_multipeermap_iterate (neighbor->neighbor_table_consensus,
1655                                            &check_target_added,
1656                                            neighbor);
1657     if (NULL != neighbor->neighbor_table)
1658     {
1659       GNUNET_CONTAINER_multipeermap_iterate (neighbor->neighbor_table,
1660                                              &free_targets,
1661                                              NULL);
1662       GNUNET_CONTAINER_multipeermap_destroy (neighbor->neighbor_table);
1663       neighbor->neighbor_table = NULL;
1664     }
1665     neighbor->neighbor_table = neighbor->neighbor_table_consensus;
1666     neighbor->neighbor_table_consensus = NULL;
1667
1668     /* operation done, schedule next run! */
1669     neighbor->set_op = NULL;
1670     if (0 < memcmp (&neighbor->peer,
1671                     &my_identity,
1672                     sizeof (struct GNUNET_PeerIdentity)))
1673       neighbor->initiate_task = GNUNET_SCHEDULER_add_delayed (GNUNET_DV_CONSENSUS_FREQUENCY,
1674                                                               &initiate_set_union,
1675                                                               neighbor);
1676     break;
1677   default:
1678     GNUNET_break (0);
1679     return;
1680   }
1681 }
1682
1683
1684 /**
1685  * Start creating a new DV set union construction, our neighbour has
1686  * asked for it (callback for listening peer).
1687  *
1688  * @param cls the 'struct DirectNeighbor' of the peer we're building
1689  *        a routing consensus with
1690  * @param other_peer the other peer
1691  * @param context_msg message with application specific information from
1692  *        the other peer
1693  * @param request request from the other peer, use GNUNET_SET_accept
1694  *        to accept it, otherwise the request will be refused
1695  *        Note that we don't use a return value here, as it is also
1696  *        necessary to specify the set we want to do the operation with,
1697  *        whith sometimes can be derived from the context message.
1698  *        Also necessary to specify the timeout.
1699  */
1700 static void
1701 listen_set_union (void *cls,
1702                   const struct GNUNET_PeerIdentity *other_peer,
1703                   const struct GNUNET_MessageHeader *context_msg,
1704                   struct GNUNET_SET_Request *request)
1705 {
1706   struct DirectNeighbor *neighbor = cls;
1707
1708   if (NULL == request)
1709     return; /* why??? */
1710   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1711               "Starting to create consensus with %s\n",
1712               GNUNET_i2s (&neighbor->peer));
1713   if (NULL != neighbor->set_op)
1714   {
1715     GNUNET_SET_operation_cancel (neighbor->set_op);
1716     neighbor->set_op = NULL;
1717   }
1718   if (NULL != neighbor->my_set)
1719   {
1720     GNUNET_SET_destroy (neighbor->my_set);
1721     neighbor->my_set = NULL;
1722   }
1723   neighbor->my_set = GNUNET_SET_create (cfg,
1724                                         GNUNET_SET_OPERATION_UNION);
1725   neighbor->set_op = GNUNET_SET_accept (request,
1726                                         GNUNET_SET_RESULT_ADDED,
1727                                         &handle_set_union_result,
1728                                         neighbor);
1729   neighbor->consensus_insertion_offset = 0;
1730   neighbor->consensus_insertion_distance = 0;
1731   neighbor->consensus_elements = 0;
1732   build_set (neighbor);
1733 }
1734
1735
1736 /**
1737  * Start creating a new DV set union by initiating the connection.
1738  *
1739  * @param cls the `struct DirectNeighbor *` of the peer we're building
1740  *        a routing consensus with
1741  * @param tc scheduler context
1742  */
1743 static void
1744 initiate_set_union (void *cls,
1745                     const struct GNUNET_SCHEDULER_TaskContext *tc)
1746 {
1747   static uint16_t salt;
1748   struct DirectNeighbor *neighbor = cls;
1749
1750   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1751               "Initiating SET union with peer `%s'\n",
1752               GNUNET_i2s (&neighbor->peer));
1753   neighbor->initiate_task = GNUNET_SCHEDULER_NO_TASK;
1754   neighbor->my_set = GNUNET_SET_create (cfg,
1755                                         GNUNET_SET_OPERATION_UNION);
1756   neighbor->set_op = GNUNET_SET_prepare (&neighbor->peer,
1757                                          &neighbor->real_session_id,
1758                                          NULL,
1759                                          salt++,
1760                                          GNUNET_SET_RESULT_ADDED,
1761                                          &handle_set_union_result,
1762                                          neighbor);
1763   neighbor->consensus_insertion_offset = 0;
1764   neighbor->consensus_insertion_distance = 0;
1765   neighbor->consensus_elements = 0;
1766   build_set (neighbor);
1767 }
1768
1769
1770 /**
1771  * Core handler for DV data messages.  Whatever this message
1772  * contains all we really have to do is rip it out of its
1773  * DV layering and give it to our pal the DV plugin to report
1774  * in with.
1775  *
1776  * @param cls closure
1777  * @param peer peer which sent the message (immediate sender)
1778  * @param message the message
1779  * @return #GNUNET_OK on success, #GNUNET_SYSERR if the other peer violated the protocol
1780  */
1781 static int
1782 handle_dv_route_message (void *cls, const struct GNUNET_PeerIdentity *peer,
1783                          const struct GNUNET_MessageHeader *message)
1784 {
1785   const struct RouteMessage *rm;
1786   const struct GNUNET_MessageHeader *payload;
1787   struct Route *route;
1788   struct DirectNeighbor *neighbor;
1789   struct DirectNeighbor *dn;
1790   struct Target *target;
1791   uint32_t distance;
1792   char me[5];
1793   char src[5];
1794   char prev[5];
1795   char dst[5];
1796
1797   if (ntohs (message->size) < sizeof (struct RouteMessage) + sizeof (struct GNUNET_MessageHeader))
1798   {
1799     GNUNET_break_op (0);
1800     return GNUNET_SYSERR;
1801   }
1802   rm = (const struct RouteMessage *) message;
1803   distance = ntohl (rm->distance);
1804   payload = (const struct GNUNET_MessageHeader *) &rm[1];
1805   if (ntohs (message->size) != sizeof (struct RouteMessage) + ntohs (payload->size))
1806   {
1807     GNUNET_break_op (0);
1808     return GNUNET_SYSERR;
1809   }
1810   strncpy (prev, GNUNET_i2s (peer), 4);
1811   strncpy (me, GNUNET_i2s (&my_identity), 4);
1812   strncpy (src, GNUNET_i2s (&rm->sender), 4);
1813   strncpy (dst, GNUNET_i2s (&rm->target), 4);
1814   prev[4] = me[4] = src[4] = dst[4] = '\0';
1815   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1816               "Handling DV message with %u bytes payload of type %u from %s to %s routed by %s to me (%s @ hop %u)\n",
1817               ntohs (message->size) - sizeof (struct RouteMessage),
1818               ntohs (payload->type),
1819               src, dst,
1820               prev, me,
1821               (unsigned int) distance + 1);
1822
1823   if (0 == memcmp (&rm->target,
1824                    &my_identity,
1825                    sizeof (struct GNUNET_PeerIdentity)))
1826   {
1827     if ((NULL
1828         != (dn = GNUNET_CONTAINER_multipeermap_get (direct_neighbors,
1829             &rm->sender))) && (DIRECT_NEIGHBOR_COST == dn->distance))
1830     {
1831       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1832                   "Discarding DV message, as %s is a direct neighbor\n",
1833                   GNUNET_i2s (&rm->sender));
1834       GNUNET_STATISTICS_update (stats,
1835                                 "# messages discarded (direct neighbor)",
1836                                 1, GNUNET_NO);
1837       return GNUNET_OK;
1838     }
1839     /* message is for me, check reverse route! */
1840     route = GNUNET_CONTAINER_multipeermap_get (all_routes,
1841                                                &rm->sender);
1842     if ( (NULL == route) &&
1843          (distance < DEFAULT_FISHEYE_DEPTH) )
1844     {
1845       /* don't have reverse route yet, learn it! */
1846       neighbor = GNUNET_CONTAINER_multipeermap_get (direct_neighbors,
1847                                                     peer);
1848       if (NULL == neighbor)
1849       {
1850         GNUNET_break (0);
1851         return GNUNET_SYSERR;
1852       }
1853       target = GNUNET_new (struct Target);
1854       target->peer = rm->sender;
1855       target->distance = htonl (distance);
1856       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1857                   "Learning sender %s at distance %u from delivery!\n",
1858                   GNUNET_i2s (&rm->sender),
1859                   (unsigned int) distance + 1);
1860       if (NULL == neighbor->neighbor_table)
1861         neighbor->neighbor_table = GNUNET_CONTAINER_multipeermap_create (10, GNUNET_NO);
1862       if (GNUNET_YES !=
1863           GNUNET_CONTAINER_multipeermap_put (neighbor->neighbor_table,
1864                                              &target->peer,
1865                                              target,
1866                                              GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
1867       {
1868         GNUNET_break_op (0);
1869         GNUNET_free (target);
1870         return GNUNET_SYSERR;
1871       }
1872       add_new_route (target, neighbor);
1873     }
1874     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1875                 "Delivering %u bytes from %s to myself!\n",
1876                 ntohs (payload->size),
1877                 GNUNET_i2s (&rm->sender));
1878     send_data_to_plugin (payload,
1879                          &rm->sender,
1880                          1 + distance);
1881     return GNUNET_OK;
1882   }
1883   if ( (NULL == GNUNET_CONTAINER_multipeermap_get (direct_neighbors,
1884                                                    &rm->sender)) &&
1885        (NULL == GNUNET_CONTAINER_multipeermap_get (all_routes,
1886                                                    &rm->sender)) )
1887   {
1888     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1889                 "Learning sender %s at distance %u from forwarding!\n",
1890                 GNUNET_i2s (&rm->sender),
1891                 1 + distance);
1892     neighbor = GNUNET_CONTAINER_multipeermap_get (direct_neighbors,
1893                                                   peer);
1894     if (NULL == neighbor)
1895     {
1896       GNUNET_break (0);
1897       return GNUNET_SYSERR;
1898     }
1899     target = GNUNET_new (struct Target);
1900     target->peer = rm->sender;
1901     target->distance = htonl (distance);
1902     if (NULL == neighbor->neighbor_table)
1903       neighbor->neighbor_table = GNUNET_CONTAINER_multipeermap_create (10, GNUNET_NO);
1904     if (GNUNET_YES !=
1905         GNUNET_CONTAINER_multipeermap_put (neighbor->neighbor_table,
1906                                            &target->peer,
1907                                            target,
1908                                            GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
1909     {
1910       GNUNET_break_op (0);
1911       GNUNET_free (target);
1912     }
1913     add_new_route (target, neighbor);
1914   }
1915
1916   route = GNUNET_CONTAINER_multipeermap_get (all_routes,
1917                                              &rm->target);
1918   if (NULL == route)
1919   {
1920     neighbor = GNUNET_CONTAINER_multipeermap_get (direct_neighbors,
1921                                                   &rm->target);
1922     if (NULL == neighbor)
1923     {
1924       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1925                   "No route to %s, not routing %u bytes!\n",
1926                   GNUNET_i2s (&rm->target),
1927                   ntohs (payload->size));
1928       GNUNET_STATISTICS_update (stats,
1929                                 "# messages discarded (no route)",
1930                                 1, GNUNET_NO);
1931       return GNUNET_OK;
1932     }
1933   }
1934   else
1935   {
1936     neighbor = route->next_hop;
1937   }
1938   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1939               "Forwarding message to %s\n",
1940               GNUNET_i2s (&neighbor->peer));
1941   forward_payload (neighbor,
1942                    distance + 1,
1943                    0,
1944                    &rm->sender,
1945                    &rm->target,
1946                    payload);
1947   return GNUNET_OK;
1948 }
1949
1950
1951 /**
1952  * Service server's handler for message send requests (which come
1953  * bubbling up to us through the DV plugin).
1954  *
1955  * @param cls closure
1956  * @param client identification of the client
1957  * @param message the actual message
1958  */
1959 static void
1960 handle_dv_send_message (void *cls, struct GNUNET_SERVER_Client *client,
1961                         const struct GNUNET_MessageHeader *message)
1962 {
1963   struct Route *route;
1964   const struct GNUNET_DV_SendMessage *msg;
1965   const struct GNUNET_MessageHeader *payload;
1966
1967   if (ntohs (message->size) < sizeof (struct GNUNET_DV_SendMessage) + sizeof (struct GNUNET_MessageHeader))
1968   {
1969     GNUNET_break (0);
1970     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
1971     return;
1972   }
1973   msg = (const struct GNUNET_DV_SendMessage *) message;
1974   GNUNET_break (0 != ntohl (msg->uid));
1975   payload = (const struct GNUNET_MessageHeader *) &msg[1];
1976   if (ntohs (message->size) != sizeof (struct GNUNET_DV_SendMessage) + ntohs (payload->size))
1977   {
1978     GNUNET_break (0);
1979     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
1980     return;
1981   }
1982   route = GNUNET_CONTAINER_multipeermap_get (all_routes,
1983                                              &msg->target);
1984   if (NULL == route)
1985   {
1986     /* got disconnected */
1987     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1988                 "No route to %s, dropping local message of type %u\n",
1989                 GNUNET_i2s (&msg->target),
1990                 ntohs (payload->type));
1991     GNUNET_STATISTICS_update (stats,
1992                               "# local messages discarded (no route)",
1993                               1, GNUNET_NO);
1994     send_ack_to_plugin (&msg->target, ntohl (msg->uid), GNUNET_YES);
1995     GNUNET_SERVER_receive_done (client, GNUNET_OK);
1996     return;
1997   }
1998   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1999               "Forwarding %u bytes of type %u to %s\n",
2000               ntohs (payload->size),
2001               ntohs (payload->type),
2002               GNUNET_i2s (&msg->target));
2003
2004   forward_payload (route->next_hop,
2005                    0 /* first hop, distance is zero */,
2006                    htonl (msg->uid),
2007                    &my_identity,
2008                    &msg->target,
2009                    payload);
2010   GNUNET_SERVER_receive_done (client, GNUNET_OK);
2011 }
2012
2013
2014 /**
2015  * Cleanup all of the data structures associated with a given neighbor.
2016  *
2017  * @param neighbor neighbor to clean up
2018  */
2019 static void
2020 cleanup_neighbor (struct DirectNeighbor *neighbor)
2021 {
2022   struct PendingMessage *pending;
2023
2024   while (NULL != (pending = neighbor->pm_head))
2025   {
2026     neighbor->pm_queue_size--;
2027     GNUNET_CONTAINER_DLL_remove (neighbor->pm_head,
2028                                  neighbor->pm_tail,
2029                                  pending);
2030     GNUNET_free (pending);
2031   }
2032   handle_direct_disconnect (neighbor);
2033   GNUNET_assert (GNUNET_YES ==
2034                  GNUNET_CONTAINER_multipeermap_remove (direct_neighbors,
2035                                                        &neighbor->peer,
2036                                                        neighbor));
2037   GNUNET_free (neighbor);
2038 }
2039
2040
2041 /**
2042  * Method called whenever a given peer disconnects.
2043  *
2044  * @param cls closure
2045  * @param peer peer identity this notification is about
2046  */
2047 static void
2048 handle_core_disconnect (void *cls, const struct GNUNET_PeerIdentity *peer)
2049 {
2050   struct DirectNeighbor *neighbor;
2051
2052   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2053               "Received core peer disconnect message for peer `%s'!\n",
2054               GNUNET_i2s (peer));
2055   /* Check for disconnect from self message */
2056   if (0 == memcmp (&my_identity, peer, sizeof (struct GNUNET_PeerIdentity)))
2057     return;
2058   neighbor =
2059       GNUNET_CONTAINER_multipeermap_get (direct_neighbors, peer);
2060   if (NULL == neighbor)
2061   {
2062     GNUNET_break (0);
2063     return;
2064   }
2065   GNUNET_break (GNUNET_YES == neighbor->connected);
2066   neighbor->connected = GNUNET_NO;
2067   if (DIRECT_NEIGHBOR_COST == neighbor->distance)
2068   {
2069
2070     GNUNET_STATISTICS_update (stats,
2071                               "# peers connected (1-hop)",
2072                               -1, GNUNET_NO);
2073   }
2074   cleanup_neighbor (neighbor);
2075
2076   if (GNUNET_YES == in_shutdown)
2077     return;
2078   schedule_refresh_routes ();
2079 }
2080
2081
2082 /**
2083  * Multipeermap iterator for freeing routes.  Should never be called.
2084  *
2085  * @param cls NULL
2086  * @param key key value stored under
2087  * @param value the route to be freed
2088  * @return #GNUNET_YES to continue iteration, #GNUNET_NO to stop
2089  */
2090 static int
2091 free_route (void *cls,
2092             const struct GNUNET_PeerIdentity *key,
2093             void *value)
2094 {
2095   struct Route *route = value;
2096
2097   GNUNET_break (0);
2098   GNUNET_assert (GNUNET_YES ==
2099                  GNUNET_CONTAINER_multipeermap_remove (all_routes, key, value));
2100   release_route (route);
2101   send_disconnect_to_plugin (&route->target.peer);
2102   GNUNET_free (route);
2103   return GNUNET_YES;
2104 }
2105
2106
2107 /**
2108  * Multipeermap iterator for freeing direct neighbors. Should never be called.
2109  *
2110  * @param cls NULL
2111  * @param key key value stored under
2112  * @param value the direct neighbor to be freed
2113  * @return #GNUNET_YES to continue iteration, #GNUNET_NO to stop
2114  */
2115 static int
2116 free_direct_neighbors (void *cls,
2117                        const struct GNUNET_PeerIdentity *key,
2118                        void *value)
2119 {
2120   struct DirectNeighbor *neighbor = value;
2121
2122   cleanup_neighbor (neighbor);
2123   return GNUNET_YES;
2124 }
2125
2126
2127 /**
2128  * Task run during shutdown.
2129  *
2130  * @param cls unused
2131  * @param tc unused
2132  */
2133 static void
2134 shutdown_task (void *cls,
2135                const struct GNUNET_SCHEDULER_TaskContext *tc)
2136 {
2137   unsigned int i;
2138
2139   in_shutdown = GNUNET_YES;
2140   GNUNET_assert (NULL != core_api);
2141   GNUNET_CORE_disconnect (core_api);
2142   core_api = NULL;
2143   GNUNET_ATS_performance_done (ats);
2144   ats = NULL;
2145   GNUNET_CONTAINER_multipeermap_iterate (direct_neighbors,
2146                                          &free_direct_neighbors, NULL);
2147   GNUNET_CONTAINER_multipeermap_iterate (all_routes,
2148                                          &free_route, NULL);
2149   GNUNET_CONTAINER_multipeermap_destroy (direct_neighbors);
2150   GNUNET_CONTAINER_multipeermap_destroy (all_routes);
2151   GNUNET_STATISTICS_destroy (stats, GNUNET_NO);
2152   stats = NULL;
2153   GNUNET_SERVER_notification_context_destroy (nc);
2154   nc = NULL;
2155   for (i=0;i<DEFAULT_FISHEYE_DEPTH;i++)
2156   {
2157     GNUNET_array_grow (consensi[i].targets,
2158                        consensi[i].array_length,
2159                        0);
2160   }
2161   if (GNUNET_SCHEDULER_NO_TASK != rr_task)
2162   {
2163     GNUNET_SCHEDULER_cancel (rr_task);
2164     rr_task = GNUNET_SCHEDULER_NO_TASK;
2165   }
2166 }
2167
2168
2169 /**
2170  * Notify newly connected client about an existing route.
2171  *
2172  * @param cls the `struct GNUNET_SERVER_Client *`
2173  * @param key peer identity
2174  * @param value the `struct Route *`
2175  * @return #GNUNET_OK (continue to iterate)
2176  */
2177 static int
2178 notify_client_about_route (void *cls,
2179                            const struct GNUNET_PeerIdentity *key,
2180                            void *value)
2181 {
2182   struct GNUNET_SERVER_Client *client = cls;
2183   struct Route *route = value;
2184   struct GNUNET_DV_ConnectMessage cm;
2185
2186   memset (&cm, 0, sizeof (cm));
2187   cm.header.size = htons (sizeof (cm));
2188   cm.header.type = htons (GNUNET_MESSAGE_TYPE_DV_CONNECT);
2189   cm.distance = htonl (route->target.distance);
2190   cm.peer = route->target.peer;
2191
2192   GNUNET_SERVER_notification_context_unicast (nc,
2193                                               client,
2194                                               &cm.header,
2195                                               GNUNET_NO);
2196   return GNUNET_OK;
2197 }
2198
2199
2200 /**
2201  * Handle START-message.  This is the first message sent to us
2202  * by the client (can only be one!).
2203  *
2204  * @param cls closure (always NULL)
2205  * @param client identification of the client
2206  * @param message the actual message
2207  */
2208 static void
2209 handle_start (void *cls, struct GNUNET_SERVER_Client *client,
2210               const struct GNUNET_MessageHeader *message)
2211 {
2212   GNUNET_SERVER_notification_context_add (nc, client);
2213   GNUNET_SERVER_receive_done (client, GNUNET_OK);
2214   GNUNET_CONTAINER_multipeermap_iterate (all_routes,
2215                                          &notify_client_about_route,
2216                                          client);
2217 }
2218
2219
2220 /**
2221  * Called on core init.
2222  *
2223  * @param cls unused
2224  * @param identity this peer's identity
2225  */
2226 static void
2227 core_init (void *cls,
2228            const struct GNUNET_PeerIdentity *identity)
2229 {
2230   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
2231               "I am peer: %s\n",
2232               GNUNET_i2s (identity));
2233   my_identity = *identity;
2234 }
2235
2236
2237 /**
2238  * Process dv requests.
2239  *
2240  * @param cls closure
2241  * @param server the initialized server
2242  * @param c configuration to use
2243  */
2244 static void
2245 run (void *cls, struct GNUNET_SERVER_Handle *server,
2246      const struct GNUNET_CONFIGURATION_Handle *c)
2247 {
2248   static struct GNUNET_CORE_MessageHandler core_handlers[] = {
2249     {&handle_dv_route_message, GNUNET_MESSAGE_TYPE_DV_ROUTE, 0},
2250     {NULL, 0, 0}
2251   };
2252   static struct GNUNET_SERVER_MessageHandler plugin_handlers[] = {
2253     {&handle_start, NULL,
2254      GNUNET_MESSAGE_TYPE_DV_START,
2255      sizeof (struct GNUNET_MessageHeader) },
2256     { &handle_dv_send_message, NULL,
2257       GNUNET_MESSAGE_TYPE_DV_SEND,
2258       0},
2259     {NULL, NULL, 0, 0}
2260   };
2261   in_shutdown = GNUNET_NO;
2262   cfg = c;
2263   direct_neighbors = GNUNET_CONTAINER_multipeermap_create (128, GNUNET_NO);
2264   all_routes = GNUNET_CONTAINER_multipeermap_create (65536, GNUNET_NO);
2265   core_api = GNUNET_CORE_connect (cfg, NULL,
2266                                   &core_init,
2267                                   &handle_core_connect,
2268                                   &handle_core_disconnect,
2269                                   NULL, GNUNET_NO,
2270                                   NULL, GNUNET_NO,
2271                                   core_handlers);
2272
2273   if (NULL == core_api)
2274     return;
2275   ats = GNUNET_ATS_performance_init (cfg, &handle_ats_update, NULL);
2276   if (NULL == ats)
2277   {
2278     GNUNET_CORE_disconnect (core_api);
2279     core_api = NULL;
2280     return;
2281   }
2282   nc = GNUNET_SERVER_notification_context_create (server,
2283                                                   MAX_QUEUE_SIZE_PLUGIN);
2284   stats = GNUNET_STATISTICS_create ("dv", cfg);
2285   GNUNET_SERVER_add_handlers (server, plugin_handlers);
2286   GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_UNIT_FOREVER_REL,
2287                                 &shutdown_task, NULL);
2288 }
2289
2290
2291 /**
2292  * The main function for the dv service.
2293  *
2294  * @param argc number of arguments from the command line
2295  * @param argv command line arguments
2296  * @return 0 ok, 1 on error
2297  */
2298 int
2299 main (int argc, char *const *argv)
2300 {
2301   return (GNUNET_OK ==
2302           GNUNET_SERVICE_run (argc, argv, "dv", GNUNET_SERVICE_OPTION_NONE,
2303                               &run, NULL)) ? 0 : 1;
2304 }
2305
2306 /* end of gnunet-service-dv.c */