src/dv/gnunet-service-dv.c

   1 /*
   2      This file is part of GNUnet.
   3      (C) 2013 Christian Grothoff (and other contributing authors)
   4
   5      GNUnet is free software; you can redistribute it and/or modify
   6      it under the terms of the GNU General Public License as published
   7      by the Free Software Foundation; either version 3, or (at your
   8      option) any later version.
   9
  10      GNUnet is distributed in the hope that it will be useful, but
  11      WITHOUT ANY WARRANTY; without even the implied warranty of
  12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13      General Public License for more details.
  14
  15      You should have received a copy of the GNU General Public License
  16      along with GNUnet; see the file COPYING.  If not, write to the
  17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
  18      Boston, MA 02111-1307, USA.
  19 */
  20
  21 /**
  22  * @file dv/gnunet-service-dv.c
  23  * @brief the distance vector service, primarily handles gossip of nearby
  24  * peers and sending/receiving DV messages from core and decapsulating
  25  * them
  26  *
  27  * @author Christian Grothoff
  28  * @author Nathan Evans
  29  *
  30  * TODO:
  31  * - distance updates are not properly communicate to US by core/transport/ats
  32  */
  33 #include "platform.h"
  34 #include "gnunet_util_lib.h"
  35 #include "gnunet_protocols.h"
  36 #include "gnunet_core_service.h"
  37 #include "gnunet_hello_lib.h"
  38 #include "gnunet_peerinfo_service.h"
  39 #include "gnunet_statistics_service.h"
  40 #include "gnunet_consensus_service.h"
  41 #include "dv.h"
  42 #include <gcrypt.h>
  43
  44
  45 /**
  46  * How often do we establish the consensu?
  47  */
  48 #define GNUNET_DV_CONSENSUS_FREQUENCY GNUNET_TIME_relative_multiply(GNUNET_TIME_UNIT_MINUTES, 5)
  49
  50 /**
  51  * Maximum number of messages we queue per peer.
  52  */
  53 #define MAX_QUEUE_SIZE 16
  54
  55 /**
  56  * Maximum number of messages we queue towards the clients/plugin.
  57  */
  58 #define MAX_QUEUE_SIZE_PLUGIN 1024
  59
  60 /**
  61  * The default fisheye depth, from how many hops away will
  62  * we keep peers?
  63  */
  64 #define DEFAULT_FISHEYE_DEPTH 3
  65
  66 /**
  67  * How many hops is a direct neighbor away?
  68  */
  69 #define DIRECT_NEIGHBOR_COST 1
  70
  71
  72 GNUNET_NETWORK_STRUCT_BEGIN
  73
  74 /**
  75  * Information about a peer DV can route to.  These entries are what
  76  * we use as the binary format to establish consensus to create our
  77  * routing table and as the address format in the HELLOs.
  78  */
  79 struct Target
  80 {
  81
  82   /**
  83    * Identity of the peer we can reach.
  84    */
  85   struct GNUNET_PeerIdentity peer;
  86
  87   /**
  88    * How many hops (1-3) is this peer away? in network byte order
  89    */
  90   uint32_t distance GNUNET_PACKED;
  91
  92 };
  93
  94
  95 /**
  96  * Message exchanged between DV services (via core), requesting a
  97  * message to be routed.
  98  */
  99 struct RouteMessage
 100 {
 101   /**
 102    * Type: GNUNET_MESSAGE_TYPE_DV_ROUTE
 103    */
 104   struct GNUNET_MessageHeader header;
 105
 106   /**
 107    * Expected (remaining) distance.  Must be always smaller than
 108    * DEFAULT_FISHEYE_DEPTH, should be zero at the target.  Must
 109    * be decremented by one at each hop.  Peers must not forward
 110    * these messages further once the counter has reached zero.
 111    */
 112   uint32_t distance GNUNET_PACKED;
 113
 114   /**
 115    * The (actual) target of the message (this peer, if distance is zero).
 116    */
 117   struct GNUNET_PeerIdentity target;
 118
 119   /**
 120    * The (actual) sender of the message.
 121    */
 122   struct GNUNET_PeerIdentity sender;
 123
 124 };
 125
 126 GNUNET_NETWORK_STRUCT_END
 127
 128
 129 /**
 130  * Linked list of messages to send to clients.
 131  */
 132 struct PendingMessage
 133 {
 134   /**
 135    * Pointer to next item in the list
 136    */
 137   struct PendingMessage *next;
 138
 139   /**
 140    * Pointer to previous item in the list
 141    */
 142   struct PendingMessage *prev;
 143
 144   /**
 145    * Actual message to be sent, allocated after this struct.
 146    */
 147   const struct GNUNET_MessageHeader *msg;
 148
 149   /**
 150    * Ultimate target for the message.
 151    */
 152   struct GNUNET_PeerIdentity ultimate_target;
 153
 154   /**
 155    * Unique ID of the message.
 156    */
 157   uint32_t uid;
 158
 159 };
 160
 161
 162 /**
 163  * Information about a direct neighbor (core-level, excluding
 164  * DV-links, only DV-enabled peers).
 165  */
 166 struct DirectNeighbor
 167 {
 168
 169   /**
 170    * Identity of the peer.
 171    */
 172   struct GNUNET_PeerIdentity peer;
 173
 174   /**
 175    * Head of linked list of messages to send to this peer.
 176    */
 177   struct PendingMessage *pm_head;
 178
 179   /**
 180    * Tail of linked list of messages to send to this peer.
 181    */
 182   struct PendingMessage *pm_tail;
 183
 184   /**
 185    * Transmit handle to core service.
 186    */
 187   struct GNUNET_CORE_TransmitHandle *cth;
 188
 189   /**
 190    * Routing table of the neighbor, NULL if not yet established.
 191    * Keys are peer identities, values are 'struct Target' entries.
 192    * Note that the distances in the targets are from the point-of-view
 193    * of the peer, not from us!
 194    */
 195   struct GNUNET_CONTAINER_MultiHashMap *neighbor_table;
 196
 197   /**
 198    * Updated routing table of the neighbor, under construction,
 199    * NULL if we are not currently building it.
 200    * Keys are peer identities, values are 'struct Target' entries.
 201    * Note that the distances in the targets are from the point-of-view
 202    * of the peer, not from us!
 203    */
 204   struct GNUNET_CONTAINER_MultiHashMap *neighbor_table_consensus;
 205
 206   /**
 207    * Active consensus, if we are currently synchronizing the
 208    * routing tables.
 209    */
 210   struct GNUNET_CONSENSUS_Handle *consensus;
 211
 212   /**
 213    * ID of the task we use to (periodically) update our consensus
 214    * with this peer.
 215    */
 216   GNUNET_SCHEDULER_TaskIdentifier consensus_task;
 217
 218   /**
 219    * At what offset are we, with respect to inserting our own routes
 220    * into the consensus?
 221    */
 222   unsigned int consensus_insertion_offset;
 223
 224   /**
 225    * At what distance are we, with respect to inserting our own routes
 226    * into the consensus?
 227    */
 228   unsigned int consensus_insertion_distance;
 229
 230   /**
 231    * Number of messages currently in the 'pm_XXXX'-DLL.
 232    */
 233   unsigned int pm_queue_size;
 234
 235   /**
 236    * Flag set within 'check_target_removed' to trigger full global route refresh.
 237    */
 238   int target_removed;
 239
 240 };
 241
 242
 243 /**
 244  * A route includes information about the next hop,
 245  * the target, and the ultimate distance to the
 246  * target.
 247  */
 248 struct Route
 249 {
 250
 251   /**
 252    * Which peer do we need to forward the message to?
 253    */
 254   struct DirectNeighbor *next_hop;
 255
 256   /**
 257    * What would be the target, and how far is it away?
 258    */
 259   struct Target target;
 260
 261   /**
 262    * Offset of this target in the respective consensus set.
 263    */
 264   unsigned int set_offset;
 265
 266 };
 267
 268
 269 /**
 270  * Set of targets we bring to a consensus; all targets in a set have a
 271  * distance equal to the sets distance (which is implied by the array
 272  * index of the set).
 273  */
 274 struct ConsensusSet
 275 {
 276
 277   /**
 278    * Array of targets in the set, may include NULL entries if a
 279    * neighbor has disconnected; the targets are allocated with the
 280    * respective container (all_routes), not here.
 281    */
 282   struct Route **targets;
 283
 284   /**
 285    * Size of the 'targets' array.
 286    */
 287   unsigned int array_length;
 288
 289 };
 290
 291
 292 /**
 293  * Hashmap of all of our direct neighbors (no DV routing).
 294  */
 295 static struct GNUNET_CONTAINER_MultiHashMap *direct_neighbors;
 296
 297 /**
 298  * Hashmap with all routes that we currently support; contains
 299  * routing information for all peers from distance 2
 300  * up to distance DEFAULT_FISHEYE_DEPTH.
 301  */
 302 static struct GNUNET_CONTAINER_MultiHashMap *all_routes;
 303
 304 /**
 305  * Array of consensus sets we expose to the outside world.  Sets
 306  * are structured by the distance to the target.
 307  */
 308 static struct ConsensusSet consensi[DEFAULT_FISHEYE_DEPTH - 1];
 309
 310 /**
 311  * Handle to the core service api.
 312  */
 313 static struct GNUNET_CORE_Handle *core_api;
 314
 315 /**
 316  * The identity of our peer.
 317  */
 318 static struct GNUNET_PeerIdentity my_identity;
 319
 320 /**
 321  * The configuration for this service.
 322  */
 323 static const struct GNUNET_CONFIGURATION_Handle *cfg;
 324
 325 /**
 326  * The client, the DV plugin connected to us (or an event monitor).
 327  * Hopefully this client will never change, although if the plugin
 328  * dies and returns for some reason it may happen.
 329  */
 330 static struct GNUNET_SERVER_NotificationContext *nc;
 331
 332 /**
 333  * Handle for the statistics service.
 334  */
 335 struct GNUNET_STATISTICS_Handle *stats;
 336
 337
 338 /**
 339  * Get distance information from 'atsi'.
 340  *
 341  * @param atsi performance data
 342  * @param atsi_count number of entries in atsi
 343  * @return connected transport distance
 344  */
 345 static uint32_t
 346 get_atsi_distance (const struct GNUNET_ATS_Information *atsi,
 347                    unsigned int atsi_count)
 348 {
 349   unsigned int i;
 350
 351   for (i = 0; i < atsi_count; i++)
 352     if (ntohl (atsi[i].type) == GNUNET_ATS_QUALITY_NET_DISTANCE)
 353       return ntohl (atsi->value);
 354   /* FIXME: we do not have distance data? Assume direct neighbor. */
 355   return DIRECT_NEIGHBOR_COST;
 356 }
 357
 358
 359 /**
 360  * Forward a message from another peer to the plugin.
 361  *
 362  * @param message the message to send to the plugin
 363  * @param origin the original sender of the message
 364  * @param distance distance to the original sender of the message
 365  */
 366 static void
 367 send_data_to_plugin (const struct GNUNET_MessageHeader *message,
 368                      const struct GNUNET_PeerIdentity *origin,
 369                      uint32_t distance)
 370 {
 371   struct GNUNET_DV_ReceivedMessage *received_msg;
 372   size_t size;
 373
 374   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 375               "Delivering message from peer `%s'\n",
 376               GNUNET_i2s (origin));
 377   size = sizeof (struct GNUNET_DV_ReceivedMessage) +
 378     ntohs (message->size);
 379   if (size >= GNUNET_SERVER_MAX_MESSAGE_SIZE)
 380   {
 381     GNUNET_break (0); /* too big */
 382     return;
 383   }
 384   received_msg = GNUNET_malloc (size);
 385   received_msg->header.size = htons (size);
 386   received_msg->header.type = htons (GNUNET_MESSAGE_TYPE_DV_RECV);
 387   received_msg->distance = htonl (distance);
 388   received_msg->sender = *origin;
 389   memcpy (&received_msg[1], message, ntohs (message->size));
 390   GNUNET_SERVER_notification_context_broadcast (nc,
 391                                                 &received_msg->header,
 392                                                 GNUNET_YES);
 393   GNUNET_free (received_msg);
 394 }
 395
 396
 397 /**
 398  * Forward a control message to the plugin.
 399  *
 400  * @param message the message to send to the plugin
 401  */
 402 static void
 403 send_control_to_plugin (const struct GNUNET_MessageHeader *message)
 404 {
 405   GNUNET_SERVER_notification_context_broadcast (nc,
 406                                                 message,
 407                                                 GNUNET_NO);
 408 }
 409
 410
 411 /**
 412  * Give an (N)ACK message to the plugin, we transmitted a message for it.
 413  *
 414  * @param target peer that received the message
 415  * @param uid plugin-chosen UID for the message
 416  * @param nack GNUNET_NO to send ACK, GNUNET_YES to send NACK
 417  */
 418 static void
 419 send_ack_to_plugin (const struct GNUNET_PeerIdentity *target,
 420                     uint32_t uid,
 421                     int nack)
 422 {
 423   struct GNUNET_DV_AckMessage ack_msg;
 424
 425   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 426               "Delivering ACK for message to peer `%s'\n",
 427               GNUNET_i2s (target));
 428   ack_msg.header.size = htons (sizeof (ack_msg));
 429   ack_msg.header.type = htons ((GNUNET_YES == nack)
 430                                ? GNUNET_MESSAGE_TYPE_DV_SEND_NACK
 431                                : GNUNET_MESSAGE_TYPE_DV_SEND_ACK);
 432   ack_msg.uid = htonl (uid);
 433   ack_msg.target = *target;
 434   send_control_to_plugin (&ack_msg.header);
 435 }
 436
 437
 438 /**
 439  * Send a DISTANCE_CHANGED message to the plugin.
 440  *
 441  * @param peer peer with a changed distance
 442  * @param distance new distance to the peer
 443  */
 444 static void
 445 send_distance_change_to_plugin (const struct GNUNET_PeerIdentity *peer,
 446                                 uint32_t distance)
 447 {
 448   struct GNUNET_DV_DistanceUpdateMessage du_msg;
 449
 450   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 451               "Delivering DISTANCE_CHANGED for message about peer `%s'\n",
 452               GNUNET_i2s (peer));
 453   du_msg.header.size = htons (sizeof (du_msg));
 454   du_msg.header.type = htons (GNUNET_MESSAGE_TYPE_DV_DISTANCE_CHANGED);
 455   du_msg.distance = htonl (distance);
 456   du_msg.peer = *peer;
 457   send_control_to_plugin (&du_msg.header);
 458 }
 459
 460
 461 /**
 462  * Give a CONNECT message to the plugin.
 463  *
 464  * @param target peer that connected
 465  * @param distance distance to the target
 466  */
 467 static void
 468 send_connect_to_plugin (const struct GNUNET_PeerIdentity *target,
 469                         uint32_t distance)
 470 {
 471   struct GNUNET_DV_ConnectMessage cm;
 472
 473   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 474               "Delivering CONNECT about peer `%s'\n",
 475               GNUNET_i2s (target));
 476   cm.header.size = htons (sizeof (cm));
 477   cm.header.type = htons (GNUNET_MESSAGE_TYPE_DV_CONNECT);
 478   cm.distance = htonl (distance);
 479   cm.peer = *target;
 480   send_control_to_plugin (&cm.header);
 481 }
 482
 483
 484 /**
 485  * Give a DISCONNECT message to the plugin.
 486  *
 487  * @param target peer that disconnected
 488  */
 489 static void
 490 send_disconnect_to_plugin (const struct GNUNET_PeerIdentity *target)
 491 {
 492   struct GNUNET_DV_DisconnectMessage dm;
 493
 494   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 495               "Delivering DISCONNECT about peer `%s'\n",
 496               GNUNET_i2s (target));
 497   dm.header.size = htons (sizeof (dm));
 498   dm.header.type = htons (GNUNET_MESSAGE_TYPE_DV_DISCONNECT);
 499   dm.reserved = htonl (0);
 500   dm.peer = *target;
 501   send_control_to_plugin (&dm.header);
 502 }
 503
 504
 505 /**
 506  * Function called to transfer a message to another peer
 507  * via core.
 508  *
 509  * @param cls closure with the direct neighbor
 510  * @param size number of bytes available in buf
 511  * @param buf where the callee should write the message
 512  * @return number of bytes written to buf
 513  */
 514 static size_t
 515 core_transmit_notify (void *cls, size_t size, void *buf)
 516 {
 517   struct DirectNeighbor *dn = cls;
 518   char *cbuf = buf;
 519   struct PendingMessage *pending;
 520   size_t off;
 521   size_t msize;
 522
 523   dn->cth = NULL;
 524   if (NULL == buf)
 525   {
 526     /* peer disconnected */
 527     return 0;
 528   }
 529   off = 0;
 530   pending = dn->pm_head;
 531   off = 0;
 532   while ( (NULL != (pending = dn->pm_head)) &&
 533           (size >= off + (msize = ntohs (pending->msg->size))))
 534   {
 535     dn->pm_queue_size--;
 536     GNUNET_CONTAINER_DLL_remove (dn->pm_head,
 537                                  dn->pm_tail,
 538                                  pending);
 539     memcpy (&cbuf[off], pending->msg, msize);
 540     if (0 != pending->uid)
 541       send_ack_to_plugin (&pending->ultimate_target,
 542                           pending->uid,
 543                           GNUNET_NO);
 544     GNUNET_free (pending);
 545     off += msize;
 546   }
 547   if (NULL != dn->pm_head)
 548     dn->cth =
 549       GNUNET_CORE_notify_transmit_ready (core_api,
 550                                          GNUNET_YES /* cork */,
 551                                          0 /* priority */,
 552                                          GNUNET_TIME_UNIT_FOREVER_REL,
 553                                          &dn->peer,
 554                                          msize,
 555                                          &core_transmit_notify, dn);
 556   return off;
 557 }
 558
 559
 560 /**
 561  * Forward the given payload to the given target.
 562  *
 563  * @param target where to send the message
 564  * @param uid unique ID for the message
 565  * @param ultimate_target ultimate recipient for the message
 566  * @param distance expected (remaining) distance to the target
 567  * @param sender original sender of the message
 568  * @param payload payload of the message
 569  */
 570 static void
 571 forward_payload (struct DirectNeighbor *target,
 572                  uint32_t distance,
 573                  uint32_t uid,
 574                  const struct GNUNET_PeerIdentity *sender,
 575                  const struct GNUNET_PeerIdentity *ultimate_target,
 576                  const struct GNUNET_MessageHeader *payload)
 577 {
 578   struct PendingMessage *pm;
 579   struct RouteMessage *rm;
 580   size_t msize;
 581
 582   if ( (target->pm_queue_size >= MAX_QUEUE_SIZE) &&
 583        (0 != memcmp (sender,
 584                      &my_identity,
 585                      sizeof (struct GNUNET_PeerIdentity))) )
 586   {
 587     GNUNET_break (0 == uid);
 588     return;
 589   }
 590   msize = sizeof (struct RouteMessage) + ntohs (payload->size);
 591   if (msize >= GNUNET_SERVER_MAX_MESSAGE_SIZE)
 592   {
 593     GNUNET_break (0);
 594     return;
 595   }
 596   pm = GNUNET_malloc (sizeof (struct PendingMessage) + msize);
 597   pm->ultimate_target = *ultimate_target;
 598   pm->uid = uid;
 599   pm->msg = (const struct GNUNET_MessageHeader *) &pm[1];
 600   rm = (struct RouteMessage *) &pm[1];
 601   rm->header.size = htons ((uint16_t) msize);
 602   rm->header.type = htons (GNUNET_MESSAGE_TYPE_DV_ROUTE);
 603   rm->distance = htonl (distance);
 604   rm->target = target->peer;
 605   rm->sender = *sender;
 606   memcpy (&rm[1], payload, ntohs (payload->size));
 607   GNUNET_CONTAINER_DLL_insert_tail (target->pm_head,
 608                                     target->pm_tail,
 609                                     pm);
 610   target->pm_queue_size++;
 611   if (NULL == target->cth)
 612     target->cth = GNUNET_CORE_notify_transmit_ready (core_api,
 613                                                      GNUNET_YES /* cork */,
 614                                                      0 /* priority */,
 615                                                      GNUNET_TIME_UNIT_FOREVER_REL,
 616                                                      &target->peer,
 617                                                      msize,
 618                                                      &core_transmit_notify, target);
 619 }
 620
 621
 622 /**
 623  * Find a free slot for storing a 'route' in the 'consensi'
 624  * set at the given distance.
 625  *
 626  * @param distance distance to use for the set slot
 627  */
 628 static unsigned int
 629 get_consensus_slot (uint32_t distance)
 630 {
 631   struct ConsensusSet *cs;
 632   unsigned int i;
 633
 634   cs = &consensi[distance];
 635   i = 0;
 636   while ( (i < cs->array_length) &&
 637           (NULL != cs->targets[i]) ) i++;
 638   if (i == cs->array_length)
 639     GNUNET_array_grow (cs->targets,
 640                        cs->array_length,
 641                        cs->array_length * 2 + 2);
 642   return i;
 643 }
 644
 645
 646 /**
 647  * Allocate a slot in the consensus set for a route.
 648  *
 649  * @param route route to initialize
 650  * @param distance which consensus set to use
 651  */
 652 static void
 653 allocate_route (struct Route *route,
 654                 uint32_t distance)
 655 {
 656   unsigned int i;
 657
 658   i = get_consensus_slot (distance);
 659   route->set_offset = i;
 660   consensi[distance].targets[i] = route;
 661   route->target.distance = htonl (distance);
 662 }
 663
 664
 665 /**
 666  * Release a slot in the consensus set for a route.
 667  *
 668  * @param route route to release the slot from
 669  */
 670 static void
 671 release_route (struct Route *route)
 672 {
 673   consensi[ntohl (route->target.distance)].targets[route->set_offset] = NULL;
 674   route->set_offset = UINT_MAX; /* indicate invalid slot */
 675 }
 676
 677
 678 /**
 679  * Move a route from one consensus set to another.
 680  *
 681  * @param route route to move
 682  * @param new_distance new distance for the route (destination set)
 683  */
 684 static void
 685 move_route (struct Route *route,
 686             uint32_t new_distance)
 687 {
 688   unsigned int i;
 689
 690   release_route (route);
 691   i = get_consensus_slot (new_distance);
 692   route->set_offset = i;
 693   consensi[new_distance].targets[i] = route;
 694   route->target.distance = htonl (new_distance);
 695 }
 696
 697
 698 /**
 699  * Start creating a new consensus from scratch.
 700  *
 701  * @param cls the 'struct DirectNeighbor' of the peer we're building
 702  *        a routing consensus with
 703  * @param tc scheduler context
 704  */
 705 static void
 706 start_consensus (void *cls,
 707                  const struct GNUNET_SCHEDULER_TaskContext *tc);
 708
 709
 710 /**
 711  * Method called whenever a peer connects.
 712  *
 713  * @param cls closure
 714  * @param peer peer identity this notification is about
 715  * @param atsi performance data
 716  * @param atsi_count number of entries in atsi
 717  */
 718 static void
 719 handle_core_connect (void *cls, const struct GNUNET_PeerIdentity *peer)
 720 {
 721   struct DirectNeighbor *neighbor;
 722   struct Route *route;
 723   uint32_t distance;
 724
 725   /* Check for connect to self message */
 726   if (0 == memcmp (&my_identity, peer, sizeof (struct GNUNET_PeerIdentity)))
 727     return;
 728   fprintf (stderr, "FIX ATS DATA: %s:%u!\n", __FILE__, __LINE__);
 729   distance =  get_atsi_distance (NULL, 0);
 730   neighbor = GNUNET_CONTAINER_multihashmap_get (direct_neighbors,
 731                                                 &peer->hashPubKey);
 732   if (NULL != neighbor)
 733   {
 734     GNUNET_break (0);
 735     return;
 736   }
 737   if (DIRECT_NEIGHBOR_COST != distance)
 738     return; /* is a DV-neighbor */
 739   GNUNET_STATISTICS_update (stats,
 740                             "# peers connected (1-hop)",
 741                             1, GNUNET_NO);
 742   neighbor = GNUNET_malloc (sizeof (struct DirectNeighbor));
 743   neighbor->peer = *peer;
 744   GNUNET_assert (GNUNET_YES ==
 745                  GNUNET_CONTAINER_multihashmap_put (direct_neighbors,
 746                                                     &peer->hashPubKey,
 747                                                     neighbor,
 748                                                     GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
 749   route = GNUNET_CONTAINER_multihashmap_get (all_routes,
 750                                              &peer->hashPubKey);
 751   if (NULL != route)
 752   {
 753     send_disconnect_to_plugin (peer);
 754     release_route (route);
 755     GNUNET_free (route);
 756   }
 757   neighbor->consensus_task = GNUNET_SCHEDULER_add_now (&start_consensus,
 758                                                        neighbor);
 759 }
 760
 761
 762 /**
 763  * Called for each 'target' in a neighbor table to free the associated memory.
 764  *
 765  * @param cls NULL
 766  * @param key key of the value
 767  * @param value value to free
 768  * @return GNUNET_OK to continue to iterate
 769  */
 770 static int
 771 free_targets (void *cls,
 772               const struct GNUNET_HashCode *key,
 773               void *value)
 774 {
 775   GNUNET_free (value);
 776   return GNUNET_OK;
 777 }
 778
 779
 780 /**
 781  * Multihashmap iterator for checking if a given route is
 782  * (now) useful to this peer.
 783  *
 784  * @param cls the direct neighbor for the given route
 785  * @param key key value stored under
 786  * @param value a 'struct Target' that may or may not be useful; not that
 787  *        the distance in 'target' does not include the first hop yet
 788  * @return GNUNET_YES to continue iteration, GNUNET_NO to stop
 789  */
 790 static int
 791 check_possible_route (void *cls, const struct GNUNET_HashCode * key, void *value)
 792 {
 793   struct DirectNeighbor *neighbor = cls;
 794   struct Target *target = value;
 795   struct Route *route;
 796
 797   route = GNUNET_CONTAINER_multihashmap_get (all_routes,
 798                                            key);
 799   if (NULL != route)
 800   {
 801     if (ntohl (route->target.distance) > ntohl (target->distance) + 1)
 802     {
 803       /* this 'target' is cheaper than the existing route; switch to alternative route! */
 804       move_route (route, ntohl (target->distance) + 1);
 805       route->next_hop = neighbor;
 806       send_distance_change_to_plugin (&target->peer, ntohl (target->distance) + 1);
 807     }
 808     return GNUNET_YES; /* got a route to this target already */
 809   }
 810   route = GNUNET_malloc (sizeof (struct Route));
 811   route->next_hop = neighbor;
 812   route->target.distance = htonl (ntohl (target->distance) + 1);
 813   route->target.peer = target->peer;
 814   allocate_route (route, ntohl (route->target.distance));
 815   GNUNET_assert (GNUNET_YES ==
 816                  GNUNET_CONTAINER_multihashmap_put (all_routes,
 817                                                     &route->target.peer.hashPubKey,
 818                                                     route,
 819                                                     GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
 820   send_connect_to_plugin (&route->target.peer, ntohl (target->distance));
 821   return GNUNET_YES;
 822 }
 823
 824
 825 /**
 826  * Multihashmap iterator for finding routes that were previously
 827  * "hidden" due to a better route (called after a disconnect event).
 828  *
 829  * @param cls NULL
 830  * @param key peer identity of the given direct neighbor
 831  * @param value a 'struct DirectNeighbor' to check for additional routes
 832  * @return GNUNET_YES to continue iteration
 833  */
 834 static int
 835 refresh_routes (void *cls, const struct GNUNET_HashCode * key, void *value)
 836 {
 837   struct DirectNeighbor *neighbor = value;
 838
 839   if (NULL != neighbor->neighbor_table)
 840     GNUNET_CONTAINER_multihashmap_iterate (neighbor->neighbor_table,
 841                                            &check_possible_route,
 842                                            neighbor);
 843   return GNUNET_YES;
 844 }
 845
 846
 847 /**
 848  * Check if a target was removed from the set of the other peer; if so,
 849  * if we also used it for our route, we need to remove it from our
 850  * 'all_routes' set (and later check if an alternative path now exists).
 851  *
 852  * @param cls the 'struct DirectNeighbor'
 853  * @param key peer identity for the target
 854  * @param value a 'struct Target' previously reachable via the given neighbor
 855  */
 856 static int
 857 check_target_removed (void *cls,
 858                       const struct GNUNET_HashCode *key,
 859                       void *value)
 860 {
 861   struct DirectNeighbor *neighbor = cls;
 862   struct Target *new_target;
 863   struct Route *current_route;
 864
 865   new_target = GNUNET_CONTAINER_multihashmap_get (neighbor->neighbor_table_consensus,
 866                                                   key);
 867   if (NULL == new_target)
 868   {
 869     /* target was revoked, check if it was used */
 870     current_route = GNUNET_CONTAINER_multihashmap_get (all_routes,
 871                                                        key);
 872     if ( (NULL == current_route) ||
 873          (current_route->next_hop != neighbor) )
 874     {
 875       /* didn't matter, wasn't used */
 876       return GNUNET_OK;
 877     }
 878     /* remove existing route */
 879     GNUNET_assert (GNUNET_YES ==
 880                    GNUNET_CONTAINER_multihashmap_remove (all_routes, key, current_route));
 881     send_disconnect_to_plugin (&current_route->target.peer);
 882     GNUNET_free (current_route);
 883     neighbor->target_removed = GNUNET_YES;
 884     return GNUNET_OK;
 885   }
 886   return GNUNET_OK;
 887 }
 888
 889
 890 /**
 891  * Check if a target was added to the set of the other peer; if it
 892  * was added or impoves the existing route, do the needed updates.
 893  *
 894  * @param cls the 'struct DirectNeighbor'
 895  * @param key peer identity for the target
 896  * @param value a 'struct Target' now reachable via the given neighbor
 897  */
 898 static int
 899 check_target_added (void *cls,
 900                       const struct GNUNET_HashCode *key,
 901                       void *value)
 902 {
 903   struct DirectNeighbor *neighbor = cls;
 904   struct Target *target = value;
 905   struct Route *current_route;
 906
 907   /* target was revoked, check if it was used */
 908   current_route = GNUNET_CONTAINER_multihashmap_get (all_routes,
 909                                                      key);
 910   if (NULL != current_route)
 911   {
 912     /* route exists */
 913     if (current_route->next_hop == neighbor)
 914     {
 915       /* we had the same route before, no change */
 916       if (ntohl (target->distance) + 1 != ntohl (current_route->target.distance))
 917       {
 918         current_route->target.distance = htonl (ntohl (target->distance) + 1);
 919         send_distance_change_to_plugin (&target->peer, ntohl (target->distance) + 1);
 920       }
 921       return GNUNET_OK;
 922     }
 923     if (ntohl (current_route->target.distance) >= ntohl (target->distance) + 1)
 924     {
 925       /* alternative, shorter route exists, ignore */
 926       return GNUNET_OK;
 927     }
 928     /* new route is better than the existing one, take over! */
 929     /* NOTE: minor security issue: malicious peers may advertise
 930        very short routes to take over longer paths; as we don't
 931        check that the shorter routes actually work, a malicious
 932        direct neighbor can use this to DoS our long routes */
 933     current_route->next_hop = neighbor;
 934     current_route->target.distance = htonl (ntohl (target->distance) + 1);
 935     send_distance_change_to_plugin (&target->peer, ntohl (target->distance) + 1);
 936     return GNUNET_OK;
 937   }
 938   /* new route */
 939   current_route = GNUNET_malloc (sizeof (struct Route));
 940   current_route->next_hop = neighbor;
 941   current_route->target.peer = target->peer;
 942   current_route->target.distance = htonl (ntohl (target->distance) + 1);
 943   GNUNET_assert (GNUNET_YES ==
 944                  GNUNET_CONTAINER_multihashmap_put (all_routes,
 945                                                     &current_route->target.peer.hashPubKey,
 946                                                     current_route,
 947                                                     GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
 948   send_connect_to_plugin (&current_route->target.peer,
 949                           ntohl (current_route->target.distance));
 950   return GNUNET_OK;
 951 }
 952
 953
 954
 955 /**
 956  * The consensus has concluded, clean up and schedule the next one.
 957  *
 958  * @param cls the 'struct GNUNET_DirectNeighbor' with which we created the consensus
 959  * @param group FIXME
 960  */
 961 static void
 962 consensus_done_cb (void *cls)
 963 {
 964   struct DirectNeighbor *neighbor = cls;
 965
 966   GNUNET_CONSENSUS_destroy (neighbor->consensus);
 967   neighbor->consensus = NULL;
 968   /* remove targets that disappeared */
 969   neighbor->target_removed = GNUNET_NO;
 970   GNUNET_CONTAINER_multihashmap_iterate (neighbor->neighbor_table,
 971                                          &check_target_removed,
 972                                          neighbor);
 973   if (GNUNET_YES == neighbor->target_removed)
 974   {
 975     /* check if we got an alternative for the removed routes */
 976     GNUNET_CONTAINER_multihashmap_iterate (direct_neighbors,
 977                                            &refresh_routes,
 978                                            NULL);
 979   }
 980   /* add targets that appeared (and check for improved routes) */
 981   GNUNET_CONTAINER_multihashmap_iterate (neighbor->neighbor_table_consensus,
 982                                          &check_target_added,
 983                                          neighbor);
 984   if (NULL != neighbor->neighbor_table)
 985   {
 986     GNUNET_CONTAINER_multihashmap_iterate (neighbor->neighbor_table,
 987                                            &free_targets,
 988                                            NULL);
 989     GNUNET_CONTAINER_multihashmap_destroy (neighbor->neighbor_table);
 990     neighbor->neighbor_table = NULL;
 991   }
 992   neighbor->neighbor_table = neighbor->neighbor_table_consensus;
 993   neighbor->neighbor_table_consensus = NULL;
 994   neighbor->consensus_task = GNUNET_SCHEDULER_add_delayed (GNUNET_DV_CONSENSUS_FREQUENCY,
 995                                                            &start_consensus,
 996                                                            neighbor);
 997 }
 998
 999
1000 /**
1001  * We inserted the last element into the consensus, get ready to
1002  * insert the next element into the consensus or conclude if
1003  * we're done.
1004  *
1005  * @param cls the 'struct DirectNeighbor' of the peer we're building
1006  *        a routing consensus with
1007  * @param success GNUNET_OK if the last element was added successfully,
1008  *                GNUNET_SYSERR if we failed
1009  */
1010 static void
1011 insert_next_element (void *cls,
1012                      int success)
1013 {
1014   struct DirectNeighbor *neighbor = cls;
1015   struct GNUNET_CONSENSUS_Element element;
1016
1017   while ( (DEFAULT_FISHEYE_DEPTH - 1 > neighbor->consensus_insertion_distance) &&
1018           (consensi[neighbor->consensus_insertion_distance].array_length == neighbor->consensus_insertion_offset) )
1019   {
1020     neighbor->consensus_insertion_offset = 0;
1021     neighbor->consensus_insertion_distance++;
1022     /* skip over NULL entries */
1023     while ( (DEFAULT_FISHEYE_DEPTH - 1 > neighbor->consensus_insertion_distance) &&
1024             (consensi[neighbor->consensus_insertion_distance].array_length < neighbor->consensus_insertion_offset) &&
1025             (NULL == consensi[neighbor->consensus_insertion_distance].targets[neighbor->consensus_insertion_offset]) )
1026       neighbor->consensus_insertion_offset++;
1027   }
1028   if (DEFAULT_FISHEYE_DEPTH - 1 == neighbor->consensus_insertion_distance)
1029   {
1030     /* we're done, conclude! */
1031     GNUNET_CONSENSUS_conclude (neighbor->consensus,
1032                                GNUNET_DV_CONSENSUS_FREQUENCY,
1033                                &consensus_done_cb,
1034                                neighbor);
1035     return;
1036   }
1037   element.size = sizeof (struct Target);
1038   element.data = &consensi[neighbor->consensus_insertion_distance].targets[neighbor->consensus_insertion_offset++]->target;
1039
1040   /* skip over NULL entries */
1041   while ( (DEFAULT_FISHEYE_DEPTH - 1 > neighbor->consensus_insertion_distance) &&
1042           (consensi[neighbor->consensus_insertion_distance].array_length < neighbor->consensus_insertion_offset) &&
1043           (NULL == consensi[neighbor->consensus_insertion_distance].targets[neighbor->consensus_insertion_offset]) )
1044     neighbor->consensus_insertion_offset++;
1045   GNUNET_CONSENSUS_insert (neighbor->consensus,
1046                            &element,
1047                            &insert_next_element,
1048                            neighbor);
1049 }
1050
1051
1052 /**
1053  * We have learned a new route from the other peer.  Add it to the
1054  * route set we're building.
1055  *
1056  * @param cls the 'struct DirectNeighbor' we're building the consensus with
1057  * @param element the new element we have learned
1058  * @return GNUNET_OK if the valid is well-formed and should be added to the consensus,
1059  *         GNUNET_SYSERR if the element should be ignored and not be propagated
1060  */
1061 static int
1062 learn_route_cb (void *cls,
1063                 const struct GNUNET_CONSENSUS_Element *element)
1064 {
1065   struct DirectNeighbor *neighbor = cls;
1066   struct Target *target;
1067
1068   if (NULL == element)
1069   {
1070     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
1071                 "Failed to establish DV consensus, will try again later\n");
1072     GNUNET_CONSENSUS_destroy (neighbor->consensus);
1073     if (NULL != neighbor->neighbor_table_consensus)
1074     {
1075       GNUNET_CONTAINER_multihashmap_iterate (neighbor->neighbor_table_consensus,
1076                                              &free_targets,
1077                                              NULL);
1078       GNUNET_CONTAINER_multihashmap_destroy (neighbor->neighbor_table_consensus);
1079       neighbor->neighbor_table_consensus = NULL;
1080     }
1081     neighbor->consensus = NULL;
1082     neighbor->consensus_task = GNUNET_SCHEDULER_add_delayed (GNUNET_DV_CONSENSUS_FREQUENCY,
1083                                                              &start_consensus,
1084                                                              neighbor);
1085     return GNUNET_SYSERR;
1086   }
1087   if (sizeof (struct Target) != element->size)
1088   {
1089     GNUNET_break_op (0);
1090     return GNUNET_SYSERR;
1091   }
1092   target = GNUNET_malloc (sizeof (struct Target));
1093   memcpy (target, element->data, sizeof (struct Target));
1094   if (GNUNET_YES !=
1095       GNUNET_CONTAINER_multihashmap_put (neighbor->neighbor_table_consensus,
1096                                          &target->peer.hashPubKey,
1097                                          target,
1098                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
1099   {
1100     GNUNET_break_op (0);
1101     GNUNET_free (target);
1102     return GNUNET_SYSERR;
1103   }
1104   return GNUNET_OK;
1105 }
1106
1107
1108 /**
1109  * Start creating a new consensus from scratch.
1110  *
1111  * @param cls the 'struct DirectNeighbor' of the peer we're building
1112  *        a routing consensus with
1113  * @param tc scheduler context
1114  */
1115 static void
1116 start_consensus (void *cls,
1117                  const struct GNUNET_SCHEDULER_TaskContext *tc)
1118 {
1119   struct DirectNeighbor *neighbor = cls;
1120   struct GNUNET_HashCode session_id;
1121   struct GNUNET_HashCode real_session_id;
1122
1123   neighbor->consensus_task = GNUNET_SCHEDULER_NO_TASK;
1124   neighbor->consensus_insertion_offset = 0;
1125   neighbor->consensus_insertion_distance = 0;
1126   GNUNET_assert (NULL == neighbor->neighbor_table_consensus);
1127   GNUNET_assert (NULL == neighbor->consensus);
1128   neighbor->neighbor_table_consensus = GNUNET_CONTAINER_multihashmap_create (1024, GNUNET_YES);
1129   /* construct session ID seed as XOR of both peer's identities */
1130   GNUNET_CRYPTO_hash_xor (&my_identity.hashPubKey,
1131                           &neighbor->peer.hashPubKey,
1132                           &session_id);
1133   /* make sure session ID is unique across applications by salting it with 'DV' */
1134   GNUNET_CRYPTO_hkdf (&real_session_id, sizeof (real_session_id),
1135                       GCRY_MD_SHA512, GCRY_MD_SHA256,
1136                       "DV-SALT", 2,
1137                       &session_id, sizeof (session_id),
1138                       NULL, 0);
1139   neighbor->consensus = GNUNET_CONSENSUS_create (cfg,
1140                                                  1,
1141                                                  &neighbor->peer,
1142                                                  &real_session_id,
1143                                                  &learn_route_cb,
1144                                                  neighbor);
1145   if (NULL == neighbor->consensus)
1146   {
1147     neighbor->consensus_task = GNUNET_SCHEDULER_add_delayed (GNUNET_DV_CONSENSUS_FREQUENCY,
1148                                                              &start_consensus,
1149                                                              neighbor);
1150     return;
1151   }
1152   insert_next_element (neighbor, GNUNET_OK);
1153 }
1154
1155
1156 /**
1157  * Core handler for DV data messages.  Whatever this message
1158  * contains all we really have to do is rip it out of its
1159  * DV layering and give it to our pal the DV plugin to report
1160  * in with.
1161  *
1162  * @param cls closure
1163  * @param peer peer which sent the message (immediate sender)
1164  * @param message the message
1165  * @param atsi transport ATS information (latency, distance, etc.)
1166  * @param atsi_count number of entries in atsi
1167  * @return GNUNET_OK on success, GNUNET_SYSERR if the other peer violated the protocol
1168  */
1169 static int
1170 handle_dv_route_message (void *cls, const struct GNUNET_PeerIdentity *peer,
1171                          const struct GNUNET_MessageHeader *message)
1172 {
1173   const struct RouteMessage *rm;
1174   const struct GNUNET_MessageHeader *payload;
1175   struct Route *route;
1176
1177   if (ntohs (message->size) < sizeof (struct RouteMessage) + sizeof (struct GNUNET_MessageHeader))
1178   {
1179     GNUNET_break_op (0);
1180     return GNUNET_SYSERR;
1181   }
1182   rm = (const struct RouteMessage *) message;
1183   payload = (const struct GNUNET_MessageHeader *) &rm[1];
1184   if (ntohs (message->size) != sizeof (struct RouteMessage) + ntohs (payload->size))
1185   {
1186     GNUNET_break_op (0);
1187     return GNUNET_SYSERR;
1188   }
1189   if (0 == memcmp (&rm->target,
1190                    &my_identity,
1191                    sizeof (struct GNUNET_PeerIdentity)))
1192   {
1193     /* message is for me, check reverse route! */
1194     route = GNUNET_CONTAINER_multihashmap_get (all_routes,
1195                                                &rm->sender.hashPubKey);
1196     if (NULL == route)
1197     {
1198       /* don't have reverse route, drop */
1199       GNUNET_STATISTICS_update (stats,
1200                                 "# message discarded (no reverse route)",
1201                                 1, GNUNET_NO);
1202       return GNUNET_OK;
1203     }
1204     send_data_to_plugin (payload,
1205                          &rm->sender,
1206                          ntohl (route->target.distance));
1207     return GNUNET_OK;
1208   }
1209   route = GNUNET_CONTAINER_multihashmap_get (all_routes,
1210                                              &rm->target.hashPubKey);
1211   if (NULL == route)
1212   {
1213     GNUNET_STATISTICS_update (stats,
1214                               "# messages discarded (no route)",
1215                               1, GNUNET_NO);
1216     return GNUNET_OK;
1217   }
1218   if (ntohl (route->target.distance) > ntohl (rm->distance) + 1)
1219   {
1220     GNUNET_STATISTICS_update (stats,
1221                               "# messages discarded (target too far)",
1222                               1, GNUNET_NO);
1223     return GNUNET_OK;
1224   }
1225   forward_payload (route->next_hop,
1226                    ntohl (route->target.distance),
1227                    0,
1228                    &rm->target,
1229                    &rm->sender,
1230                    payload);
1231   return GNUNET_OK;
1232 }
1233
1234
1235 /**
1236  * Service server's handler for message send requests (which come
1237  * bubbling up to us through the DV plugin).
1238  *
1239  * @param cls closure
1240  * @param client identification of the client
1241  * @param message the actual message
1242  */
1243 static void
1244 handle_dv_send_message (void *cls, struct GNUNET_SERVER_Client *client,
1245                         const struct GNUNET_MessageHeader *message)
1246 {
1247   struct Route *route;
1248   const struct GNUNET_DV_SendMessage *msg;
1249   const struct GNUNET_MessageHeader *payload;
1250
1251   if (ntohs (message->size) < sizeof (struct GNUNET_DV_SendMessage) + sizeof (struct GNUNET_MessageHeader))
1252   {
1253     GNUNET_break (0);
1254     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
1255     return;
1256   }
1257   msg = (const struct GNUNET_DV_SendMessage *) message;
1258   GNUNET_break (0 != ntohl (msg->uid));
1259   payload = (const struct GNUNET_MessageHeader *) &msg[1];
1260   if (ntohs (message->size) != sizeof (struct GNUNET_DV_SendMessage) + ntohs (payload->size))
1261   {
1262     GNUNET_break (0);
1263     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
1264     return;
1265   }
1266   route = GNUNET_CONTAINER_multihashmap_get (all_routes,
1267                                              &msg->target.hashPubKey);
1268   if (NULL == route)
1269   {
1270     /* got disconnected */
1271     GNUNET_STATISTICS_update (stats,
1272                               "# local messages discarded (no route)",
1273                               1, GNUNET_NO);
1274     send_ack_to_plugin (&msg->target, ntohl (msg->uid), GNUNET_YES);
1275     GNUNET_SERVER_receive_done (client, GNUNET_OK);
1276     return;
1277   }
1278   forward_payload (route->next_hop,
1279                    ntohl (route->target.distance),
1280                    htonl (msg->uid),
1281                    &msg->target,
1282                    &my_identity,
1283                    payload);
1284   GNUNET_SERVER_receive_done (client, GNUNET_OK);
1285 }
1286
1287
1288 /**
1289  * Multihashmap iterator for freeing routes that go via a particular
1290  * neighbor that disconnected and is thus no longer available.
1291  *
1292  * @param cls the direct neighbor that is now unavailable
1293  * @param key key value stored under
1294  * @param value a 'struct Route' that may or may not go via neighbor
1295  *
1296  * @return GNUNET_YES to continue iteration, GNUNET_NO to stop
1297  */
1298 static int
1299 cull_routes (void *cls, const struct GNUNET_HashCode * key, void *value)
1300 {
1301   struct DirectNeighbor *neighbor = cls;
1302   struct Route *route = value;
1303
1304   if (route->next_hop != neighbor)
1305     return GNUNET_YES; /* not affected */
1306   GNUNET_assert (GNUNET_YES ==
1307                  GNUNET_CONTAINER_multihashmap_remove (all_routes, key, value));
1308   release_route (route);
1309   send_disconnect_to_plugin (&route->target.peer);
1310   GNUNET_free (route);
1311   return GNUNET_YES;
1312 }
1313
1314
1315 /**
1316  * Cleanup all of the data structures associated with a given neighbor.
1317  *
1318  * @param neighbor neighbor to clean up
1319  */
1320 static void
1321 cleanup_neighbor (struct DirectNeighbor *neighbor)
1322 {
1323   struct PendingMessage *pending;
1324
1325   while (NULL != (pending = neighbor->pm_head))
1326   {
1327     neighbor->pm_queue_size--;
1328     GNUNET_CONTAINER_DLL_remove (neighbor->pm_head,
1329                                  neighbor->pm_tail,
1330                                  pending);
1331     GNUNET_free (pending);
1332   }
1333   GNUNET_CONTAINER_multihashmap_iterate (all_routes,
1334                                          &cull_routes,
1335                                          neighbor);
1336   if (NULL != neighbor->cth)
1337   {
1338     GNUNET_CORE_notify_transmit_ready_cancel (neighbor->cth);
1339     neighbor->cth = NULL;
1340   }
1341   if (NULL != neighbor->neighbor_table_consensus)
1342   {
1343     GNUNET_CONTAINER_multihashmap_iterate (neighbor->neighbor_table_consensus,
1344                                            &free_targets,
1345                                            NULL);
1346     GNUNET_CONTAINER_multihashmap_destroy (neighbor->neighbor_table_consensus);
1347     neighbor->neighbor_table_consensus = NULL;
1348   }
1349   if (NULL != neighbor->neighbor_table)
1350   {
1351     GNUNET_CONTAINER_multihashmap_iterate (neighbor->neighbor_table,
1352                                            &free_targets,
1353                                            NULL);
1354     GNUNET_CONTAINER_multihashmap_destroy (neighbor->neighbor_table);
1355     neighbor->neighbor_table = NULL;
1356   }
1357   if (GNUNET_SCHEDULER_NO_TASK != neighbor->consensus_task)
1358   {
1359     GNUNET_SCHEDULER_cancel (neighbor->consensus_task);
1360     neighbor->consensus_task = GNUNET_SCHEDULER_NO_TASK;
1361   }
1362   if (NULL != neighbor->consensus)
1363   {
1364     GNUNET_CONSENSUS_destroy (neighbor->consensus);
1365     neighbor->consensus = NULL;
1366   }
1367   GNUNET_assert (GNUNET_YES ==
1368                  GNUNET_CONTAINER_multihashmap_remove (direct_neighbors,
1369                                                        &neighbor->peer.hashPubKey,
1370                                                        neighbor));
1371   GNUNET_free (neighbor);
1372 }
1373
1374
1375 /**
1376  * Method called whenever a given peer disconnects.
1377  *
1378  * @param cls closure
1379  * @param peer peer identity this notification is about
1380  */
1381 static void
1382 handle_core_disconnect (void *cls, const struct GNUNET_PeerIdentity *peer)
1383 {
1384   struct DirectNeighbor *neighbor;
1385
1386   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1387               "Received core peer disconnect message for peer `%s'!\n",
1388               GNUNET_i2s (peer));
1389   /* Check for disconnect from self message */
1390   if (0 == memcmp (&my_identity, peer, sizeof (struct GNUNET_PeerIdentity)))
1391     return;
1392   neighbor =
1393       GNUNET_CONTAINER_multihashmap_get (direct_neighbors, &peer->hashPubKey);
1394   if (NULL == neighbor)
1395   {
1396     /* must have been a DV-neighbor, ignore */
1397     return;
1398   }
1399   GNUNET_STATISTICS_update (stats,
1400                             "# peers connected (1-hop)",
1401                             -1, GNUNET_NO);
1402   cleanup_neighbor (neighbor);
1403   GNUNET_CONTAINER_multihashmap_iterate (direct_neighbors,
1404                                          &refresh_routes,
1405                                          NULL);
1406 }
1407
1408
1409 /**
1410  * Multihashmap iterator for freeing routes.  Should never be called.
1411  *
1412  * @param cls NULL
1413  * @param key key value stored under
1414  * @param value the route to be freed
1415  *
1416  * @return GNUNET_YES to continue iteration, GNUNET_NO to stop
1417  */
1418 static int
1419 free_route (void *cls, const struct GNUNET_HashCode * key, void *value)
1420 {
1421   struct Route *route = value;
1422
1423   GNUNET_break (0);
1424   GNUNET_assert (GNUNET_YES ==
1425                  GNUNET_CONTAINER_multihashmap_remove (all_routes, key, value));
1426   release_route (route);
1427   send_disconnect_to_plugin (&route->target.peer);
1428   GNUNET_free (route);
1429   return GNUNET_YES;
1430 }
1431
1432
1433 /**
1434  * Multihashmap iterator for freeing direct neighbors. Should never be called.
1435  *
1436  * @param cls NULL
1437  * @param key key value stored under
1438  * @param value the direct neighbor to be freed
1439  *
1440  * @return GNUNET_YES to continue iteration, GNUNET_NO to stop
1441  */
1442 static int
1443 free_direct_neighbors (void *cls, const struct GNUNET_HashCode * key, void *value)
1444 {
1445   struct DirectNeighbor *neighbor = value;
1446
1447   GNUNET_break (0);
1448   cleanup_neighbor (neighbor);
1449   return GNUNET_YES;
1450 }
1451
1452
1453 /**
1454  * Task run during shutdown.
1455  *
1456  * @param cls unused
1457  * @param tc unused
1458  */
1459 static void
1460 shutdown_task (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1461 {
1462   unsigned int i;
1463
1464   GNUNET_CORE_disconnect (core_api);
1465   core_api = NULL;
1466   GNUNET_CONTAINER_multihashmap_iterate (direct_neighbors,
1467                                          &free_direct_neighbors, NULL);
1468   GNUNET_CONTAINER_multihashmap_iterate (all_routes,
1469                                          &free_route, NULL);
1470   GNUNET_CONTAINER_multihashmap_destroy (direct_neighbors);
1471   GNUNET_CONTAINER_multihashmap_destroy (all_routes);
1472   GNUNET_STATISTICS_destroy (stats, GNUNET_NO);
1473   stats = NULL;
1474   GNUNET_SERVER_notification_context_destroy (nc);
1475   nc = NULL;
1476   for (i=0;i<DEFAULT_FISHEYE_DEPTH - 1;i++)
1477     GNUNET_array_grow (consensi[i].targets,
1478                        consensi[i].array_length,
1479                        0);
1480 }
1481
1482
1483 /**
1484  * Notify newly connected client about an existing route.
1485  *
1486  * @param cls the 'struct GNUNET_SERVER_Client'
1487  * @param key peer identity
1488  * @param value the XXX.
1489  * @return GNUNET_OK (continue to iterate)
1490  */
1491 static int
1492 add_route (void *cls,
1493            const struct GNUNET_HashCode *key,
1494            void *value)
1495 {
1496   struct GNUNET_SERVER_Client *client = cls;
1497   struct Route *route = value;
1498   struct GNUNET_DV_ConnectMessage cm;
1499
1500   cm.header.size = htons (sizeof (cm));
1501   cm.header.type = htons (GNUNET_MESSAGE_TYPE_DV_CONNECT);
1502   cm.distance = htonl (route->target.distance);
1503   cm.peer = route->target.peer;
1504
1505   GNUNET_SERVER_notification_context_unicast (nc,
1506                                               client,
1507                                               &cm.header,
1508                                               GNUNET_NO);
1509   return GNUNET_OK;
1510 }
1511
1512
1513 /**
1514  * Handle START-message.  This is the first message sent to us
1515  * by the client (can only be one!).
1516  *
1517  * @param cls closure (always NULL)
1518  * @param client identification of the client
1519  * @param message the actual message
1520  */
1521 static void
1522 handle_start (void *cls, struct GNUNET_SERVER_Client *client,
1523               const struct GNUNET_MessageHeader *message)
1524 {
1525   GNUNET_SERVER_notification_context_add (nc, client);
1526   GNUNET_SERVER_receive_done (client, GNUNET_OK);
1527   GNUNET_CONTAINER_multihashmap_iterate (all_routes,
1528                                          &add_route,
1529                                          client);
1530 }
1531
1532
1533 /**
1534  * Called on core init.
1535  *
1536  * @param cls unused
1537  * @param server legacy
1538  * @param identity this peer's identity
1539  */
1540 static void
1541 core_init (void *cls, struct GNUNET_CORE_Handle *server,
1542            const struct GNUNET_PeerIdentity *identity)
1543 {
1544   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1545               "I am peer: %s\n",
1546               GNUNET_i2s (identity));
1547   my_identity = *identity;
1548 }
1549
1550
1551 /**
1552  * Process dv requests.
1553  *
1554  * @param cls closure
1555  * @param server the initialized server
1556  * @param c configuration to use
1557  */
1558 static void
1559 run (void *cls, struct GNUNET_SERVER_Handle *server,
1560      const struct GNUNET_CONFIGURATION_Handle *c)
1561 {
1562   static struct GNUNET_CORE_MessageHandler core_handlers[] = {
1563     {&handle_dv_route_message, GNUNET_MESSAGE_TYPE_DV_ROUTE, 0},
1564     {NULL, 0, 0}
1565   };
1566   static struct GNUNET_SERVER_MessageHandler plugin_handlers[] = {
1567     {&handle_start, NULL,
1568      GNUNET_MESSAGE_TYPE_DV_START,
1569      sizeof (struct GNUNET_MessageHeader) },
1570     { &handle_dv_send_message, NULL,
1571       GNUNET_MESSAGE_TYPE_DV_SEND,
1572       0},
1573     {NULL, NULL, 0, 0}
1574   };
1575
1576   cfg = c;
1577   direct_neighbors = GNUNET_CONTAINER_multihashmap_create (128, GNUNET_NO);
1578   all_routes = GNUNET_CONTAINER_multihashmap_create (65536, GNUNET_NO);
1579   core_api = GNUNET_CORE_connect (cfg, NULL,
1580                                   &core_init,
1581                                   &handle_core_connect,
1582                                   &handle_core_disconnect,
1583                                   NULL, GNUNET_NO,
1584                                   NULL, GNUNET_NO,
1585                                   core_handlers);
1586
1587   if (NULL == core_api)
1588     return;
1589   nc = GNUNET_SERVER_notification_context_create (server,
1590                                                   MAX_QUEUE_SIZE_PLUGIN);
1591   stats = GNUNET_STATISTICS_create ("dv", cfg);
1592   GNUNET_SERVER_add_handlers (server, plugin_handlers);
1593   GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_UNIT_FOREVER_REL,
1594                                 &shutdown_task, NULL);
1595 }
1596
1597
1598 /**
1599  * The main function for the dv service.
1600  *
1601  * @param argc number of arguments from the command line
1602  * @param argv command line arguments
1603  * @return 0 ok, 1 on error
1604  */
1605 int
1606 main (int argc, char *const *argv)
1607 {
1608   return (GNUNET_OK ==
1609           GNUNET_SERVICE_run (argc, argv, "dv", GNUNET_SERVICE_OPTION_NONE,
1610                               &run, NULL)) ? 0 : 1;
1611 }
1612
1613 /* end of gnunet-service-dv.c */