src/cadet/gnunet-service-cadet_core.c

   1 /*
   2      This file is part of GNUnet.
   3      Copyright (C) 2017 GNUnet e.V.
   4
   5      GNUnet is free software: you can redistribute it and/or modify it
   6      under the terms of the GNU Affero General Public License as published
   7      by the Free Software Foundation, either version 3 of the License,
   8      or (at your option) any later version.
   9
  10      GNUnet is distributed in the hope that it will be useful, but
  11      WITHOUT ANY WARRANTY; without even the implied warranty of
  12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13      Affero General Public License for more details.
  14
  15      You should have received a copy of the GNU Affero General Public License
  16      along with this program.  If not, see <http://www.gnu.org/licenses/>.
  17
  18      SPDX-License-Identifier: AGPL3.0-or-later
  19 */
  20
  21 /**
  22  * @file cadet/gnunet-service-cadet_core.c
  23  * @brief cadet service; interaction with CORE service
  24  * @author Bartlomiej Polot
  25  * @author Christian Grothoff
  26  *
  27  * All functions in this file should use the prefix GCO (Gnunet Cadet cOre (bottom))
  28  *
  29  * TODO:
  30  * - Optimization: given BROKEN messages, destroy paths (?)
  31  */
  32 #include "platform.h"
  33 #include "gnunet-service-cadet_core.h"
  34 #include "gnunet-service-cadet_paths.h"
  35 #include "gnunet-service-cadet_peer.h"
  36 #include "gnunet-service-cadet_connection.h"
  37 #include "gnunet-service-cadet_tunnels.h"
  38 #include "gnunet_core_service.h"
  39 #include "gnunet_statistics_service.h"
  40 #include "cadet_protocol.h"
  41
  42
  43 #define LOG(level, ...) GNUNET_log_from(level,"cadet-cor",__VA_ARGS__)
  44
  45 /**
  46  * Information we keep per direction for a route.
  47  */
  48 struct RouteDirection;
  49
  50
  51 /**
  52  * Set of CadetRoutes that have exactly the same number of messages
  53  * in their buffer.  Used so we can efficiently find all of those
  54  * routes that have the current maximum of messages in the buffer (in
  55  * case we have to purge).
  56  */
  57 struct Rung
  58 {
  59
  60   /**
  61    * Rung of RouteDirections with one more buffer entry each.
  62    */
  63   struct Rung *next;
  64
  65   /**
  66    * Rung of RouteDirections with one less buffer entry each.
  67    */
  68   struct Rung *prev;
  69
  70   /**
  71    * DLL of route directions with a number of buffer entries matching this rung.
  72    */
  73   struct RouteDirection *rd_head;
  74
  75   /**
  76    * DLL of route directions with a number of buffer entries matching this rung.
  77    */
  78   struct RouteDirection *rd_tail;
  79
  80   /**
  81    * Total number of route directions in this rung.
  82    */
  83   unsigned int num_routes;
  84
  85   /**
  86    * Number of messages route directions at this rung have
  87    * in their buffer.
  88    */
  89   unsigned int rung_off;
  90 };
  91
  92
  93 /**
  94  * Information we keep per direction for a route.
  95  */
  96 struct RouteDirection
  97 {
  98
  99   /**
 100    * DLL of other route directions within the same `struct Rung`.
 101    */
 102   struct RouteDirection *prev;
 103
 104   /**
 105    * DLL of other route directions within the same `struct Rung`.
 106    */
 107   struct RouteDirection *next;
 108
 109   /**
 110    * Rung of this route direction (matches length of the buffer DLL).
 111    */
 112   struct Rung *rung;
 113
 114   /**
 115    * Head of DLL of envelopes we have in the buffer for this direction.
 116    */
 117   struct GNUNET_MQ_Envelope *env_head;
 118
 119   /**
 120    * Tail of DLL of envelopes we have in the buffer for this direction.
 121    */
 122   struct GNUNET_MQ_Envelope *env_tail;
 123
 124   /**
 125    * Target peer.
 126    */
 127   struct CadetPeer *hop;
 128
 129   /**
 130    * Route this direction is part of.
 131    */
 132   struct CadetRoute *my_route;
 133
 134   /**
 135    * Message queue manager for @e hop.
 136    */
 137   struct GCP_MessageQueueManager *mqm;
 138
 139   /**
 140    * Is @e mqm currently ready for transmission?
 141    */
 142   int is_ready;
 143
 144 };
 145
 146
 147 /**
 148  * Description of a segment of a `struct CadetConnection` at the
 149  * intermediate peers.  Routes are basically entries in a peer's
 150  * routing table for forwarding traffic.  At both endpoints, the
 151  * routes are terminated by a `struct CadetConnection`, which knows
 152  * the complete `struct CadetPath` that is formed by the individual
 153  * routes.
 154  */
 155 struct CadetRoute
 156 {
 157
 158   /**
 159    * Information about the next hop on this route.
 160    */
 161   struct RouteDirection next;
 162
 163   /**
 164    * Information about the previous hop on this route.
 165    */
 166   struct RouteDirection prev;
 167
 168   /**
 169    * Unique identifier for the connection that uses this route.
 170    */
 171   struct GNUNET_CADET_ConnectionTunnelIdentifier cid;
 172
 173   /**
 174    * When was this route last in use?
 175    */
 176   struct GNUNET_TIME_Absolute last_use;
 177
 178   /**
 179    * Position of this route in the #route_heap.
 180    */
 181   struct GNUNET_CONTAINER_HeapNode *hn;
 182
 183   /**
 184    * Options for the route, control buffering.
 185    */
 186   enum GNUNET_CADET_ChannelOption options;
 187 };
 188
 189
 190 /**
 191  * Handle to the CORE service.
 192  */
 193 static struct GNUNET_CORE_Handle *core;
 194
 195 /**
 196  * Routes on which this peer is an intermediate.
 197  */
 198 static struct GNUNET_CONTAINER_MultiShortmap *routes;
 199
 200 /**
 201  * Heap of routes, MIN-sorted by last activity.
 202  */
 203 static struct GNUNET_CONTAINER_Heap *route_heap;
 204
 205 /**
 206  * Rung zero (always pointed to by #rung_head).
 207  */
 208 static struct Rung rung_zero;
 209
 210 /**
 211  * DLL of rungs, with the head always point to a rung of
 212  * route directions with no messages in the queue.
 213  */
 214 static struct Rung *rung_head = &rung_zero;
 215
 216 /**
 217  * Tail of the #rung_head DLL.
 218  */
 219 static struct Rung *rung_tail = &rung_zero;
 220
 221 /**
 222  * Maximum number of concurrent routes this peer will support.
 223  */
 224 static unsigned long long max_routes;
 225
 226 /**
 227  * Maximum number of envelopes we will buffer at this peer.
 228  */
 229 static unsigned long long max_buffers;
 230
 231 /**
 232  * Current number of envelopes we have buffered at this peer.
 233  */
 234 static unsigned long long cur_buffers;
 235
 236 /**
 237  * Task to timeout routes.
 238  */
 239 static struct GNUNET_SCHEDULER_Task *timeout_task;
 240
 241
 242 /**
 243  * Get the route corresponding to a hash.
 244  *
 245  * @param cid hash generated from the connection identifier
 246  */
 247 static struct CadetRoute *
 248 get_route (const struct GNUNET_CADET_ConnectionTunnelIdentifier *cid)
 249 {
 250   return GNUNET_CONTAINER_multishortmap_get (routes,
 251                                              &cid->connection_of_tunnel);
 252 }
 253
 254
 255 /**
 256  * Lower the rung in which @a dir is by 1.
 257  *
 258  * @param dir direction to lower in rung.
 259  */
 260 static void
 261 lower_rung (struct RouteDirection *dir)
 262 {
 263   struct Rung *rung = dir->rung;
 264   struct Rung *prev;
 265
 266   GNUNET_CONTAINER_DLL_remove (rung->rd_head,
 267                                rung->rd_tail,
 268                                dir);
 269   prev = rung->prev;
 270   GNUNET_assert (NULL != prev);
 271   if (prev->rung_off != rung->rung_off - 1)
 272   {
 273     prev = GNUNET_new (struct Rung);
 274     prev->rung_off = rung->rung_off - 1;
 275     GNUNET_CONTAINER_DLL_insert_after (rung_head,
 276                                        rung_tail,
 277                                        rung->prev,
 278                                        prev);
 279   }
 280   GNUNET_assert (NULL != prev);
 281   GNUNET_CONTAINER_DLL_insert (prev->rd_head,
 282                                prev->rd_tail,
 283                                dir);
 284   dir->rung = prev;
 285 }
 286
 287
 288 /**
 289  * Discard the buffer @a env from the route direction @a dir and
 290  * move @a dir down a rung.
 291  *
 292  * @param dir direction that contains the @a env in the buffer
 293  * @param env envelope to discard
 294  */
 295 static void
 296 discard_buffer (struct RouteDirection *dir,
 297                 struct GNUNET_MQ_Envelope *env)
 298 {
 299   GNUNET_MQ_dll_remove (&dir->env_head,
 300                         &dir->env_tail,
 301                         env);
 302   cur_buffers--;
 303   GNUNET_MQ_discard (env);
 304   lower_rung (dir);
 305   GNUNET_STATISTICS_set (stats,
 306                          "# buffer use",
 307                          cur_buffers,
 308                          GNUNET_NO);
 309 }
 310
 311
 312 /**
 313  * Discard all messages from the highest rung, to make space.
 314  */
 315 static void
 316 discard_all_from_rung_tail ()
 317 {
 318   struct Rung *tail = rung_tail;
 319   struct RouteDirection *dir;
 320
 321   while (NULL != (dir = tail->rd_head))
 322   {
 323     LOG (GNUNET_ERROR_TYPE_DEBUG,
 324          "Queue full due new message %s on connection %s, dropping old message\n",
 325          GNUNET_sh2s (&dir->my_route->cid.connection_of_tunnel));
 326     GNUNET_STATISTICS_update (stats,
 327                               "# messages dropped due to full buffer",
 328                               1,
 329                               GNUNET_NO);
 330     discard_buffer (dir,
 331                     dir->env_head);
 332   }
 333   GNUNET_CONTAINER_DLL_remove (rung_head,
 334                                rung_tail,
 335                                tail);
 336   GNUNET_free (tail);
 337 }
 338
 339
 340 /**
 341  * We message @a msg from @a prev.  Find its route by @a cid and
 342  * forward to the next hop.  Drop and signal broken route if we do not
 343  * have a route.
 344  *
 345  * @param prev previous hop (sender)
 346  * @param cid connection identifier, tells us which route to use
 347  * @param msg the message to forward
 348  */
 349 static void
 350 route_message (struct CadetPeer *prev,
 351                const struct GNUNET_CADET_ConnectionTunnelIdentifier *cid,
 352                const struct GNUNET_MessageHeader *msg)
 353 {
 354   struct CadetRoute *route;
 355   struct RouteDirection *dir;
 356   struct Rung *rung;
 357   struct Rung *nxt;
 358   struct GNUNET_MQ_Envelope *env;
 359
 360   route = get_route (cid);
 361   if (NULL == route)
 362   {
 363     struct GNUNET_MQ_Envelope *env;
 364     struct GNUNET_CADET_ConnectionBrokenMessage *bm;
 365
 366     LOG (GNUNET_ERROR_TYPE_DEBUG,
 367          "Failed to route message of type %u from %s on connection %s: no route\n",
 368          ntohs (msg->type),
 369          GCP_2s (prev),
 370          GNUNET_sh2s (&cid->connection_of_tunnel));
 371     switch (ntohs (msg->type))
 372     {
 373     case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_DESTROY:
 374     case GNUNET_MESSAGE_TYPE_CADET_CONNECTION_BROKEN:
 375       /* No need to respond to these! */
 376       return;
 377     }
 378     env = GNUNET_MQ_msg (bm,
 379                          GNUNET_MESSAGE_TYPE_CADET_CONNECTION_BROKEN);
 380     bm->cid = *cid;
 381     bm->peer1 = my_full_id;
 382     GCP_send_ooo (prev,
 383                   env);
 384     return;
 385   }
 386   route->last_use = GNUNET_TIME_absolute_get ();
 387   GNUNET_CONTAINER_heap_update_cost (route->hn,
 388                                      route->last_use.abs_value_us);
 389   dir = (prev == route->prev.hop) ? &route->next : &route->prev;
 390   if (GNUNET_YES == dir->is_ready)
 391   {
 392     LOG (GNUNET_ERROR_TYPE_DEBUG,
 393          "Routing message of type %u from %s to %s on connection %s\n",
 394          ntohs (msg->type),
 395          GCP_2s (prev),
 396          GNUNET_i2s (GCP_get_id (dir->hop)),
 397          GNUNET_sh2s (&cid->connection_of_tunnel));
 398     dir->is_ready = GNUNET_NO;
 399     GCP_send (dir->mqm,
 400               GNUNET_MQ_msg_copy (msg));
 401     return;
 402   }
 403   /* Check if buffering is disallowed, and if so, make sure we only queue
 404      one message per direction. */
 405   if ( (0 != (route->options & GNUNET_CADET_OPTION_NOBUFFER)) &&
 406        (NULL != dir->env_head) )
 407     discard_buffer (dir,
 408                     dir->env_head);
 409   /* Check for duplicates */
 410   for (const struct GNUNET_MQ_Envelope *env = dir->env_head;
 411        NULL != env;
 412        env = GNUNET_MQ_env_next (env))
 413   {
 414     const struct GNUNET_MessageHeader *hdr = GNUNET_MQ_env_get_msg (env);
 415
 416     if ( (hdr->size == msg->size) &&
 417          (0 == memcmp (hdr,
 418                        msg,
 419                        ntohs (msg->size))) )
 420     {
 421       LOG (GNUNET_ERROR_TYPE_DEBUG,
 422            "Received duplicate of message already in buffer, dropping\n");
 423       GNUNET_STATISTICS_update (stats,
 424                                 "# messages dropped due to duplicate in buffer",
 425                                 1,
 426                                 GNUNET_NO);
 427       return;
 428     }
 429   }
 430
 431   rung = dir->rung;
 432   if (cur_buffers == max_buffers)
 433   {
 434     /* Need to make room. */
 435     if (NULL != rung->next)
 436     {
 437       /* Easy case, drop messages from route directions in highest rung */
 438       discard_all_from_rung_tail ();
 439     }
 440     else
 441     {
 442       /* We are in the highest rung, drop our own! */
 443       LOG (GNUNET_ERROR_TYPE_DEBUG,
 444            "Queue full due new message %s on connection %s, dropping old message\n",
 445            GNUNET_sh2s (&dir->my_route->cid.connection_of_tunnel));
 446       GNUNET_STATISTICS_update (stats,
 447                                 "# messages dropped due to full buffer",
 448                                 1,
 449                                 GNUNET_NO);
 450       discard_buffer (dir,
 451                       dir->env_head);
 452       rung = dir->rung;
 453     }
 454   }
 455   /* remove 'dir' from current rung */
 456   GNUNET_CONTAINER_DLL_remove (rung->rd_head,
 457                                rung->rd_tail,
 458                                dir);
 459   /* make 'nxt' point to the next higher rung, create if necessary */
 460   nxt = rung->next;
 461   if ( (NULL == nxt) ||
 462        (rung->rung_off + 1 != nxt->rung_off) )
 463   {
 464     nxt = GNUNET_new (struct Rung);
 465     nxt->rung_off = rung->rung_off + 1;
 466     GNUNET_CONTAINER_DLL_insert_after (rung_head,
 467                                        rung_tail,
 468                                        rung,
 469                                        nxt);
 470   }
 471   /* insert 'dir' into next higher rung */
 472   GNUNET_CONTAINER_DLL_insert (nxt->rd_head,
 473                                nxt->rd_tail,
 474                                dir);
 475   dir->rung = nxt;
 476
 477   /* add message into 'dir' buffer */
 478   LOG (GNUNET_ERROR_TYPE_DEBUG,
 479        "Queueing new message of type %u from %s to %s on connection %s\n",
 480        ntohs (msg->type),
 481        GCP_2s (prev),
 482        GNUNET_i2s (GCP_get_id (dir->hop)),
 483        GNUNET_sh2s (&cid->connection_of_tunnel));
 484   env = GNUNET_MQ_msg_copy (msg);
 485   GNUNET_MQ_dll_insert_tail (&dir->env_head,
 486                              &dir->env_tail,
 487                              env);
 488   cur_buffers++;
 489   GNUNET_STATISTICS_set (stats,
 490                          "# buffer use",
 491                          cur_buffers,
 492                          GNUNET_NO);
 493   /* Clean up 'rung' if now empty (and not head) */
 494   if ( (NULL == rung->rd_head) &&
 495        (rung != rung_head) )
 496   {
 497     GNUNET_CONTAINER_DLL_remove (rung_head,
 498                                  rung_tail,
 499                                  rung);
 500     GNUNET_free (rung);
 501   }
 502 }
 503
 504
 505 /**
 506  * Check if the create_connection message has the appropriate size.
 507  *
 508  * @param cls Closure (unused).
 509  * @param msg Message to check.
 510  *
 511  * @return #GNUNET_YES if size is correct, #GNUNET_NO otherwise.
 512  */
 513 static int
 514 check_connection_create (void *cls,
 515                          const struct GNUNET_CADET_ConnectionCreateMessage *msg)
 516 {
 517   uint16_t size = ntohs (msg->header.size) - sizeof (*msg);
 518
 519   if (0 != (size % sizeof (struct GNUNET_PeerIdentity)))
 520   {
 521     GNUNET_break_op (0);
 522     return GNUNET_NO;
 523   }
 524   return GNUNET_YES;
 525 }
 526
 527
 528 /**
 529  * Free internal data of a route direction.
 530  *
 531  * @param dir direction to destroy (do NOT free memory of 'dir' itself)
 532  */
 533 static void
 534 destroy_direction (struct RouteDirection *dir)
 535 {
 536   struct GNUNET_MQ_Envelope *env;
 537
 538   while (NULL != (env = dir->env_head))
 539   {
 540     GNUNET_STATISTICS_update (stats,
 541                               "# messages dropped due to route destruction",
 542                               1,
 543                               GNUNET_NO);
 544     discard_buffer (dir,
 545                     env);
 546   }
 547   if (NULL != dir->mqm)
 548   {
 549     GCP_request_mq_cancel (dir->mqm,
 550                            NULL);
 551     dir->mqm = NULL;
 552   }
 553   GNUNET_CONTAINER_DLL_remove (rung_head->rd_head,
 554                                rung_head->rd_tail,
 555                                dir);
 556 }
 557
 558
 559 /**
 560  * Destroy our state for @a route.
 561  *
 562  * @param route route to destroy
 563  */
 564 static void
 565 destroy_route (struct CadetRoute *route)
 566 {
 567   LOG (GNUNET_ERROR_TYPE_DEBUG,
 568        "Destroying route from %s to %s of connection %s\n",
 569        GNUNET_i2s  (GCP_get_id (route->prev.hop)),
 570        GNUNET_i2s2 (GCP_get_id (route->next.hop)),
 571        GNUNET_sh2s (&route->cid.connection_of_tunnel));
 572   GNUNET_assert (route ==
 573                  GNUNET_CONTAINER_heap_remove_node (route->hn));
 574   GNUNET_assert (GNUNET_YES ==
 575                  GNUNET_CONTAINER_multishortmap_remove (routes,
 576                                                         &route->cid.connection_of_tunnel,
 577                                                         route));
 578   GNUNET_STATISTICS_set (stats,
 579                          "# routes",
 580                          GNUNET_CONTAINER_multishortmap_size (routes),
 581                          GNUNET_NO);
 582   destroy_direction (&route->prev);
 583   destroy_direction (&route->next);
 584   GNUNET_free (route);
 585 }
 586
 587
 588 /**
 589  * Send message that a route is broken between @a peer1 and @a peer2.
 590  *
 591  * @param target where to send the message
 592  * @param cid connection identifier to use
 593  * @param peer1 one of the peers where a link is broken
 594  * @param peer2 another one of the peers where a link is broken
 595  */
 596 static void
 597 send_broken (struct RouteDirection *target,
 598              const struct GNUNET_CADET_ConnectionTunnelIdentifier *cid,
 599              const struct GNUNET_PeerIdentity *peer1,
 600              const struct GNUNET_PeerIdentity *peer2)
 601 {
 602   struct GNUNET_MQ_Envelope *env;
 603   struct GNUNET_CADET_ConnectionBrokenMessage *bm;
 604
 605   if (NULL == target->mqm)
 606     return; /* Can't send notification, connection is down! */
 607   LOG (GNUNET_ERROR_TYPE_DEBUG,
 608        "Notifying %s about BROKEN route at %s-%s of connection %s\n",
 609        GCP_2s (target->hop),
 610        GNUNET_i2s (peer1),
 611        GNUNET_i2s2 (peer2),
 612        GNUNET_sh2s (&cid->connection_of_tunnel));
 613
 614   env = GNUNET_MQ_msg (bm,
 615                        GNUNET_MESSAGE_TYPE_CADET_CONNECTION_BROKEN);
 616   bm->cid = *cid;
 617   if (NULL != peer1)
 618     bm->peer1 = *peer1;
 619   if (NULL != peer2)
 620     bm->peer2 = *peer2;
 621   GCP_request_mq_cancel (target->mqm,
 622                          env);
 623   target->mqm = NULL;
 624 }
 625
 626
 627 /**
 628  * Function called to check if any routes have timed out, and if
 629  * so, to clean them up.  Finally, schedules itself again at the
 630  * earliest time where there might be more work.
 631  *
 632  * @param cls NULL
 633  */
 634 static void
 635 timeout_cb (void *cls)
 636 {
 637   struct CadetRoute *r;
 638   struct GNUNET_TIME_Relative linger;
 639   struct GNUNET_TIME_Absolute exp;
 640
 641   timeout_task = NULL;
 642   linger = GNUNET_TIME_relative_multiply (keepalive_period,
 643                                           3);
 644   while (NULL != (r = GNUNET_CONTAINER_heap_peek (route_heap)))
 645   {
 646     exp = GNUNET_TIME_absolute_add (r->last_use,
 647                                     linger);
 648     if (0 != GNUNET_TIME_absolute_get_remaining (exp).rel_value_us)
 649     {
 650       /* Route not yet timed out, wait until it does. */
 651       timeout_task = GNUNET_SCHEDULER_add_at (exp,
 652                                               &timeout_cb,
 653                                               NULL);
 654       return;
 655     }
 656     GNUNET_log (GNUNET_ERROR_TYPE_INFO,
 657                 "Sending BROKEN due to timeout (%s was last use, %s linger)\n",
 658                 GNUNET_STRINGS_absolute_time_to_string (r->last_use),
 659                 GNUNET_STRINGS_relative_time_to_string (linger,
 660                                                         GNUNET_YES));
 661     send_broken (&r->prev,
 662                  &r->cid,
 663                  NULL,
 664                  NULL);
 665     send_broken (&r->next,
 666                  &r->cid,
 667                  NULL,
 668                  NULL);
 669     destroy_route (r);
 670   }
 671   /* No more routes left, so no need for a #timeout_task */
 672 }
 673
 674
 675 /**
 676  * Function called when the message queue to the previous hop
 677  * becomes available/unavailable.  We expect this function to
 678  * be called immediately when we register, and then again
 679  * later if the connection ever goes down.
 680  *
 681  * @param cls the `struct RouteDirection`
 682  * @param available #GNUNET_YES if sending is now possible,
 683  *                  #GNUNET_NO if sending is no longer possible
 684  *                  #GNUNET_SYSERR if sending is no longer possible
 685  *                                 and the last envelope was discarded
 686  */
 687 static void
 688 dir_ready_cb (void *cls,
 689               int ready)
 690 {
 691   struct RouteDirection *dir = cls;
 692   struct CadetRoute *route = dir->my_route;
 693   struct RouteDirection *odir;
 694
 695   if (GNUNET_YES == ready)
 696   {
 697     struct GNUNET_MQ_Envelope *env;
 698
 699     dir->is_ready = GNUNET_YES;
 700     if (NULL != (env = dir->env_head))
 701     {
 702       GNUNET_MQ_dll_remove (&dir->env_head,
 703                             &dir->env_tail,
 704                             env);
 705       cur_buffers--;
 706       GNUNET_STATISTICS_set (stats,
 707                              "# buffer use",
 708                              cur_buffers,
 709                              GNUNET_NO);
 710       lower_rung (dir);
 711       dir->is_ready = GNUNET_NO;
 712       GCP_send (dir->mqm,
 713                 env);
 714     }
 715     return;
 716   }
 717   odir = (dir == &route->next) ? &route->prev : &route->next;
 718   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 719               "Sending BROKEN due to MQ going down\n");
 720   send_broken (&route->next,
 721                &route->cid,
 722                GCP_get_id (odir->hop),
 723                &my_full_id);
 724   destroy_route (route);
 725 }
 726
 727
 728 /**
 729  * Initialize one of the directions of a route.
 730  *
 731  * @param route route the direction belongs to
 732  * @param dir direction to initialize
 733  * @param hop next hop on in the @a dir
 734  */
 735 static void
 736 dir_init (struct RouteDirection *dir,
 737           struct CadetRoute *route,
 738           struct CadetPeer *hop)
 739 {
 740   dir->hop = hop;
 741   dir->my_route = route;
 742   dir->mqm = GCP_request_mq (hop,
 743                              &dir_ready_cb,
 744                              dir);
 745   GNUNET_CONTAINER_DLL_insert (rung_head->rd_head,
 746                                rung_head->rd_tail,
 747                                dir);
 748   dir->rung = rung_head;
 749   GNUNET_assert (GNUNET_YES == dir->is_ready);
 750 }
 751
 752
 753 /**
 754  * We could not create the desired route.  Send a
 755  * #GNUNET_MESSAGE_TYPE_CADET_CONNECTION_BROKEN
 756  * message to @a target.
 757  *
 758  * @param target who should receive the message
 759  * @param cid identifier of the connection/route that failed
 760  * @param failure_at neighbour with which we failed to route,
 761  *        or NULL.
 762  */
 763 static void
 764 send_broken_without_mqm (struct CadetPeer *target,
 765                          const struct GNUNET_CADET_ConnectionTunnelIdentifier *cid,
 766                          const struct GNUNET_PeerIdentity *failure_at)
 767 {
 768   struct GNUNET_MQ_Envelope *env;
 769   struct GNUNET_CADET_ConnectionBrokenMessage *bm;
 770
 771   env = GNUNET_MQ_msg (bm,
 772                        GNUNET_MESSAGE_TYPE_CADET_CONNECTION_BROKEN);
 773   bm->cid = *cid;
 774   bm->peer1 = my_full_id;
 775   if (NULL != failure_at)
 776     bm->peer2 = *failure_at;
 777   GCP_send_ooo (target,
 778                 env);
 779 }
 780
 781
 782 /**
 783  * Handle for #GNUNET_MESSAGE_TYPE_CADET_CONNECTION_CREATE
 784  *
 785  * @param cls Closure (CadetPeer for neighbor that sent the message).
 786  * @param msg Message itself.
 787  */
 788 static void
 789 handle_connection_create (void *cls,
 790                           const struct GNUNET_CADET_ConnectionCreateMessage *msg)
 791 {
 792   struct CadetPeer *sender = cls;
 793   struct CadetPeer *next;
 794   const struct GNUNET_PeerIdentity *pids = (const struct GNUNET_PeerIdentity *) &msg[1];
 795   struct CadetRoute *route;
 796   uint16_t size = ntohs (msg->header.size) - sizeof (*msg);
 797   unsigned int path_length;
 798   unsigned int off;
 799   enum GNUNET_CADET_ChannelOption options;
 800
 801   options = (enum GNUNET_CADET_ChannelOption) ntohl (msg->options);
 802   path_length = size / sizeof (struct GNUNET_PeerIdentity);
 803   if (0 == path_length)
 804   {
 805     LOG (GNUNET_ERROR_TYPE_DEBUG,
 806          "Dropping CADET_CONNECTION_CREATE with empty path\n");
 807     GNUNET_break_op (0);
 808     return;
 809   }
 810   LOG (GNUNET_ERROR_TYPE_DEBUG,
 811        "Handling CADET_CONNECTION_CREATE from %s for CID %s with %u hops\n",
 812        GCP_2s (sender),
 813        GNUNET_sh2s (&msg->cid.connection_of_tunnel),
 814        path_length);
 815   /* Check for loops */
 816   {
 817     struct GNUNET_CONTAINER_MultiPeerMap *map;
 818
 819     map = GNUNET_CONTAINER_multipeermap_create (path_length * 2,
 820                                                 GNUNET_YES);
 821     GNUNET_assert (NULL != map);
 822     for (unsigned int i=0;i<path_length;i++)
 823     {
 824       LOG (GNUNET_ERROR_TYPE_DEBUG,
 825            "CADET_CONNECTION_CREATE has peer %s at offset %u\n",
 826            GNUNET_i2s (&pids[i]),
 827            i);
 828       if (GNUNET_SYSERR ==
 829           GNUNET_CONTAINER_multipeermap_put (map,
 830                                              &pids[i],
 831                                              NULL,
 832                                              GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY))
 833       {
 834         /* bogus request */
 835         GNUNET_CONTAINER_multipeermap_destroy (map);
 836         LOG (GNUNET_ERROR_TYPE_DEBUG,
 837              "Dropping CADET_CONNECTION_CREATE with cyclic path\n");
 838         GNUNET_break_op (0);
 839         return;
 840       }
 841     }
 842     GNUNET_CONTAINER_multipeermap_destroy (map);
 843   }
 844   /* Initiator is at offset 0, find us */
 845   for (off=1;off<path_length;off++)
 846     if (0 == GNUNET_memcmp (&my_full_id,
 847                      &pids[off]))
 848       break;
 849   if (off == path_length)
 850   {
 851     LOG (GNUNET_ERROR_TYPE_DEBUG,
 852          "Dropping CADET_CONNECTION_CREATE without us in the path\n");
 853     GNUNET_break_op (0);
 854     return;
 855   }
 856   /* Check previous hop */
 857   if (sender != GCP_get (&pids[off - 1],
 858                          GNUNET_NO))
 859   {
 860     LOG (GNUNET_ERROR_TYPE_DEBUG,
 861          "Dropping CADET_CONNECTION_CREATE without sender at previous hop in the path\n");
 862     GNUNET_break_op (0);
 863     return;
 864   }
 865   if (NULL !=
 866       (route = get_route (&msg->cid)))
 867   {
 868     /* Duplicate CREATE, pass it on, previous one might have been lost! */
 869
 870     LOG (GNUNET_ERROR_TYPE_DEBUG,
 871          "Passing on duplicate CADET_CONNECTION_CREATE message on connection %s\n",
 872          GNUNET_sh2s (&msg->cid.connection_of_tunnel));
 873     route_message (sender,
 874                    &msg->cid,
 875                    &msg->header);
 876     return;
 877   }
 878   if (off == path_length - 1)
 879   {
 880     /* We are the destination, create connection */
 881     struct CadetConnection *cc;
 882     struct CadetPeerPath *path;
 883     struct CadetPeer *origin;
 884
 885     cc = GCC_lookup (&msg->cid);
 886     if (NULL != cc)
 887     {
 888       LOG (GNUNET_ERROR_TYPE_DEBUG,
 889            "Received duplicate CADET_CONNECTION_CREATE message on connection %s\n",
 890            GNUNET_sh2s (&msg->cid.connection_of_tunnel));
 891       GCC_handle_duplicate_create (cc);
 892       return;
 893     }
 894
 895     origin = GCP_get (&pids[0],
 896                       GNUNET_YES);
 897     LOG (GNUNET_ERROR_TYPE_DEBUG,
 898          "I am destination for CADET_CONNECTION_CREATE message from %s for connection %s, building inverse path\n",
 899          GCP_2s (origin),
 900          GNUNET_sh2s (&msg->cid.connection_of_tunnel));
 901     path = GCPP_get_path_from_route (path_length - 1,
 902                                      pids);
 903     if (GNUNET_OK !=
 904         GCT_add_inbound_connection (GCP_get_tunnel (origin,
 905                                                     GNUNET_YES),
 906                                     &msg->cid,
 907                                     (enum GNUNET_CADET_ChannelOption) ntohl (msg->options),
 908                                     path))
 909     {
 910       /* Send back BROKEN: duplicate connection on the same path,
 911          we will use the other one. */
 912       LOG (GNUNET_ERROR_TYPE_DEBUG,
 913            "Received CADET_CONNECTION_CREATE from %s for %s, but %s already has a connection. Sending BROKEN\n",
 914            GCP_2s (sender),
 915            GNUNET_sh2s (&msg->cid.connection_of_tunnel),
 916            GCPP_2s (path));
 917       send_broken_without_mqm (sender,
 918                                &msg->cid,
 919                                NULL);
 920       return;
 921     }
 922     return;
 923   }
 924   /* We are merely a hop on the way, check if we can support the route */
 925   next = GCP_get (&pids[off + 1],
 926                   GNUNET_NO);
 927   if ( (NULL == next) ||
 928        (GNUNET_NO == GCP_has_core_connection (next)) )
 929   {
 930     /* unworkable, send back BROKEN notification */
 931     LOG (GNUNET_ERROR_TYPE_DEBUG,
 932          "Received CADET_CONNECTION_CREATE from %s for %s. Next hop %s:%u is down. Sending BROKEN\n",
 933          GCP_2s (sender),
 934          GNUNET_sh2s (&msg->cid.connection_of_tunnel),
 935          GNUNET_i2s (&pids[off + 1]),
 936          off + 1);
 937     send_broken_without_mqm (sender,
 938                              &msg->cid,
 939                              &pids[off + 1]);
 940     return;
 941   }
 942   if (max_routes <= GNUNET_CONTAINER_multishortmap_size (routes))
 943   {
 944     LOG (GNUNET_ERROR_TYPE_DEBUG,
 945          "Received CADET_CONNECTION_CREATE from %s for %s. We have reached our route limit. Sending BROKEN\n",
 946          GCP_2s (sender),
 947          GNUNET_sh2s (&msg->cid.connection_of_tunnel));
 948     send_broken_without_mqm (sender,
 949                              &msg->cid,
 950                              &pids[off - 1]);
 951     return;
 952   }
 953
 954   /* Workable route, create routing entry */
 955   LOG (GNUNET_ERROR_TYPE_DEBUG,
 956        "Received CADET_CONNECTION_CREATE from %s for %s. Next hop %s:%u is up. Creating route\n",
 957        GCP_2s (sender),
 958        GNUNET_sh2s (&msg->cid.connection_of_tunnel),
 959        GNUNET_i2s (&pids[off + 1]),
 960        off + 1);
 961   route = GNUNET_new (struct CadetRoute);
 962   route->options = options;
 963   route->cid = msg->cid;
 964   route->last_use = GNUNET_TIME_absolute_get ();
 965   dir_init (&route->prev,
 966             route,
 967             sender);
 968   dir_init (&route->next,
 969             route,
 970             next);
 971   GNUNET_assert (GNUNET_OK ==
 972                  GNUNET_CONTAINER_multishortmap_put (routes,
 973                                                      &route->cid.connection_of_tunnel,
 974                                                      route,
 975                                                      GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
 976   GNUNET_STATISTICS_set (stats,
 977                          "# routes",
 978                          GNUNET_CONTAINER_multishortmap_size (routes),
 979                          GNUNET_NO);
 980   route->hn = GNUNET_CONTAINER_heap_insert (route_heap,
 981                                             route,
 982                                             route->last_use.abs_value_us);
 983   if (NULL == timeout_task)
 984     timeout_task = GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_relative_multiply (keepalive_period,
 985                                                                                 3),
 986                                                  &timeout_cb,
 987                                                  NULL);
 988   /* also pass CREATE message along to next hop */
 989   route_message (sender,
 990                  &msg->cid,
 991                  &msg->header);
 992 }
 993
 994
 995 /**
 996  * Handle for #GNUNET_MESSAGE_TYPE_CADET_CONNECTION_CREATE_ACK
 997  *
 998  * @param cls Closure (CadetPeer for neighbor that sent the message).
 999  * @param msg Message itself.
1000  */
1001 static void
1002 handle_connection_create_ack (void *cls,
1003                               const struct GNUNET_CADET_ConnectionCreateAckMessage *msg)
1004 {
1005   struct CadetPeer *peer = cls;
1006   struct CadetConnection *cc;
1007
1008   /* First, check if ACK belongs to a connection that ends here. */
1009   cc = GCC_lookup (&msg->cid);
1010   if (NULL != cc)
1011   {
1012     /* verify ACK came from the right direction */
1013     unsigned int len;
1014     struct CadetPeerPath *path = GCC_get_path (cc,
1015                                                &len);
1016
1017     if (peer !=
1018         GCPP_get_peer_at_offset (path,
1019                                  0))
1020     {
1021       /* received ACK from unexpected direction, ignore! */
1022       GNUNET_break_op (0);
1023       return;
1024     }
1025     LOG (GNUNET_ERROR_TYPE_DEBUG,
1026          "Received CONNECTION_CREATE_ACK for connection %s.\n",
1027          GNUNET_sh2s (&msg->cid.connection_of_tunnel));
1028     GCC_handle_connection_create_ack (cc);
1029     return;
1030   }
1031
1032   /* We're just an intermediary peer, route the message along its path */
1033   route_message (peer,
1034                  &msg->cid,
1035                  &msg->header);
1036 }
1037
1038
1039 /**
1040  * Handle for #GNUNET_MESSAGE_TYPE_CADET_CONNECTION_BROKEN
1041  *
1042  * @param cls Closure (CadetPeer for neighbor that sent the message).
1043  * @param msg Message itself.
1044  * @deprecated duplicate logic with #handle_destroy(); dedup!
1045  */
1046 static void
1047 handle_connection_broken (void *cls,
1048                           const struct GNUNET_CADET_ConnectionBrokenMessage *msg)
1049 {
1050   struct CadetPeer *peer = cls;
1051   struct CadetConnection *cc;
1052   struct CadetRoute *route;
1053
1054   /* First, check if message belongs to a connection that ends here. */
1055   cc = GCC_lookup (&msg->cid);
1056   if (NULL != cc)
1057   {
1058     /* verify message came from the right direction */
1059     unsigned int len;
1060     struct CadetPeerPath *path = GCC_get_path (cc,
1061                                                &len);
1062
1063     if (peer !=
1064         GCPP_get_peer_at_offset (path,
1065                                  0))
1066     {
1067       /* received message from unexpected direction, ignore! */
1068       GNUNET_break_op (0);
1069       return;
1070     }
1071     LOG (GNUNET_ERROR_TYPE_DEBUG,
1072          "Received CONNECTION_BROKEN for connection %s. Destroying it.\n",
1073          GNUNET_sh2s (&msg->cid.connection_of_tunnel));
1074     GCC_destroy_without_core (cc);
1075
1076     /* FIXME: also destroy the path up to the specified link! */
1077     return;
1078   }
1079
1080   /* We're just an intermediary peer, route the message along its path */
1081   route_message (peer,
1082                  &msg->cid,
1083                  &msg->header);
1084   route = get_route (&msg->cid);
1085   if (NULL != route)
1086     destroy_route (route);
1087   /* FIXME: also destroy paths we MAY have up to the specified link! */
1088 }
1089
1090
1091 /**
1092  * Handle for #GNUNET_MESSAGE_TYPE_CADET_CONNECTION_DESTROY
1093  *
1094  * @param cls Closure (CadetPeer for neighbor that sent the message).
1095  * @param msg Message itself.
1096  */
1097 static void
1098 handle_connection_destroy (void *cls,
1099                            const struct GNUNET_CADET_ConnectionDestroyMessage *msg)
1100 {
1101   struct CadetPeer *peer = cls;
1102   struct CadetConnection *cc;
1103   struct CadetRoute *route;
1104
1105   /* First, check if message belongs to a connection that ends here. */
1106   cc = GCC_lookup (&msg->cid);
1107   if (NULL != cc)
1108   {
1109     /* verify message came from the right direction */
1110     unsigned int len;
1111     struct CadetPeerPath *path = GCC_get_path (cc,
1112                                                &len);
1113
1114     if (peer !=
1115         GCPP_get_peer_at_offset (path,
1116                                  0))
1117     {
1118       /* received message from unexpected direction, ignore! */
1119       GNUNET_break_op (0);
1120       return;
1121     }
1122     LOG (GNUNET_ERROR_TYPE_DEBUG,
1123          "Received CONNECTION_DESTROY for connection %s. Destroying connection.\n",
1124          GNUNET_sh2s (&msg->cid.connection_of_tunnel));
1125
1126     GCC_destroy_without_core (cc);
1127     return;
1128   }
1129
1130   /* We're just an intermediary peer, route the message along its path */
1131   LOG (GNUNET_ERROR_TYPE_DEBUG,
1132        "Received CONNECTION_DESTROY for connection %s. Destroying route.\n",
1133        GNUNET_sh2s (&msg->cid.connection_of_tunnel));
1134   route_message (peer,
1135                  &msg->cid,
1136                  &msg->header);
1137   route = get_route (&msg->cid);
1138   if (NULL != route)
1139     destroy_route (route);
1140 }
1141
1142
1143 /**
1144  * Handle for #GNUNET_MESSAGE_TYPE_CADET_TUNNEL_KX
1145  *
1146  * @param cls Closure (CadetPeer for neighbor that sent the message).
1147  * @param msg Message itself.
1148  */
1149 static void
1150 handle_tunnel_kx (void *cls,
1151                   const struct GNUNET_CADET_TunnelKeyExchangeMessage *msg)
1152 {
1153   struct CadetPeer *peer = cls;
1154   struct CadetConnection *cc;
1155
1156   /* First, check if message belongs to a connection that ends here. */
1157   LOG (GNUNET_ERROR_TYPE_DEBUG,
1158        "Routing KX with ephemeral %s on CID %s\n",
1159        GNUNET_e2s (&msg->ephemeral_key),
1160        GNUNET_sh2s (&msg->cid.connection_of_tunnel));
1161
1162
1163   cc = GCC_lookup (&msg->cid);
1164   if (NULL != cc)
1165   {
1166     /* verify message came from the right direction */
1167     unsigned int len;
1168     struct CadetPeerPath *path = GCC_get_path (cc,
1169                                                &len);
1170
1171     if (peer !=
1172         GCPP_get_peer_at_offset (path,
1173                                  0))
1174     {
1175       /* received message from unexpected direction, ignore! */
1176       GNUNET_break_op (0);
1177       return;
1178     }
1179     GCC_handle_kx (cc,
1180                    msg);
1181     return;
1182   }
1183
1184   /* We're just an intermediary peer, route the message along its path */
1185   route_message (peer,
1186                  &msg->cid,
1187                  &msg->header);
1188 }
1189
1190
1191 /**
1192  * Handle for #GNUNET_MESSAGE_TYPE_CADET_TUNNEL_KX_AUTH
1193  *
1194  * @param cls Closure (CadetPeer for neighbor that sent the message).
1195  * @param msg Message itself.
1196  */
1197 static void
1198 handle_tunnel_kx_auth (void *cls,
1199                        const struct GNUNET_CADET_TunnelKeyExchangeAuthMessage *msg)
1200 {
1201   struct CadetPeer *peer = cls;
1202   struct CadetConnection *cc;
1203
1204   /* First, check if message belongs to a connection that ends here. */
1205   cc = GCC_lookup (&msg->kx.cid);
1206   if (NULL != cc)
1207   {
1208     /* verify message came from the right direction */
1209     unsigned int len;
1210     struct CadetPeerPath *path = GCC_get_path (cc,
1211                                                &len);
1212
1213     if (peer !=
1214         GCPP_get_peer_at_offset (path,
1215                                  0))
1216     {
1217       /* received message from unexpected direction, ignore! */
1218       GNUNET_break_op (0);
1219       return;
1220     }
1221     GCC_handle_kx_auth (cc,
1222                         msg);
1223     return;
1224   }
1225
1226   /* We're just an intermediary peer, route the message along its path */
1227   route_message (peer,
1228                  &msg->kx.cid,
1229                  &msg->kx.header);
1230 }
1231
1232
1233 /**
1234  * Check if the encrypted message has the appropriate size.
1235  *
1236  * @param cls Closure (unused).
1237  * @param msg Message to check.
1238  *
1239  * @return #GNUNET_YES if size is correct, #GNUNET_NO otherwise.
1240  */
1241 static int
1242 check_tunnel_encrypted (void *cls,
1243                         const struct GNUNET_CADET_TunnelEncryptedMessage *msg)
1244 {
1245   return GNUNET_YES;
1246 }
1247
1248
1249 /**
1250  * Handle for #GNUNET_MESSAGE_TYPE_CADET_TUNNEL_ENCRYPTED.
1251  *
1252  * @param cls Closure (CadetPeer for neighbor that sent the message).
1253  * @param msg Message itself.
1254  */
1255 static void
1256 handle_tunnel_encrypted (void *cls,
1257                          const struct GNUNET_CADET_TunnelEncryptedMessage *msg)
1258 {
1259   struct CadetPeer *peer = cls;
1260   struct CadetConnection *cc;
1261
1262   /* First, check if message belongs to a connection that ends here. */
1263   cc = GCC_lookup (&msg->cid);
1264   if (NULL != cc)
1265   {
1266     /* verify message came from the right direction */
1267     unsigned int len;
1268     struct CadetPeerPath *path = GCC_get_path (cc,
1269                                                &len);
1270
1271     if (peer !=
1272         GCPP_get_peer_at_offset (path,
1273                                  0))
1274     {
1275       /* received message from unexpected direction, ignore! */
1276       GNUNET_break_op (0);
1277       return;
1278     }
1279     GCC_handle_encrypted (cc,
1280                           msg);
1281     return;
1282   }
1283   /* We're just an intermediary peer, route the message along its path */
1284   route_message (peer,
1285                  &msg->cid,
1286                  &msg->header);
1287 }
1288
1289
1290 /**
1291  * Function called after #GNUNET_CORE_connect has succeeded (or failed
1292  * for good).  Note that the private key of the peer is intentionally
1293  * not exposed here; if you need it, your process should try to read
1294  * the private key file directly (which should work if you are
1295  * authorized...).  Implementations of this function must not call
1296  * #GNUNET_CORE_disconnect (other than by scheduling a new task to
1297  * do this later).
1298  *
1299  * @param cls closure
1300  * @param my_identity ID of this peer, NULL if we failed
1301  */
1302 static void
1303 core_init_cb (void *cls,
1304               const struct GNUNET_PeerIdentity *my_identity)
1305 {
1306   if (NULL == my_identity)
1307   {
1308     GNUNET_break (0);
1309     return;
1310   }
1311   GNUNET_break (0 ==
1312                 GNUNET_memcmp (my_identity,
1313                         &my_full_id));
1314 }
1315
1316
1317 /**
1318  * Method called whenever a given peer connects.
1319  *
1320  * @param cls closure
1321  * @param peer peer identity this notification is about
1322  */
1323 static void *
1324 core_connect_cb (void *cls,
1325                  const struct GNUNET_PeerIdentity *peer,
1326                  struct GNUNET_MQ_Handle *mq)
1327 {
1328   struct CadetPeer *cp;
1329
1330   LOG (GNUNET_ERROR_TYPE_DEBUG,
1331        "CORE connection to peer %s was established.\n",
1332        GNUNET_i2s (peer));
1333   cp = GCP_get (peer,
1334                 GNUNET_YES);
1335   GCP_set_mq (cp,
1336               mq);
1337   return cp;
1338 }
1339
1340
1341 /**
1342  * Method called whenever a peer disconnects.
1343  *
1344  * @param cls closure
1345  * @param peer peer identity this notification is about
1346  */
1347 static void
1348 core_disconnect_cb (void *cls,
1349                     const struct GNUNET_PeerIdentity *peer,
1350                     void *peer_cls)
1351 {
1352   struct CadetPeer *cp = peer_cls;
1353
1354   LOG (GNUNET_ERROR_TYPE_DEBUG,
1355        "CORE connection to peer %s went down.\n",
1356        GNUNET_i2s (peer));
1357   GCP_set_mq (cp,
1358               NULL);
1359 }
1360
1361
1362 /**
1363  * Initialize the CORE subsystem.
1364  *
1365  * @param c Configuration.
1366  */
1367 void
1368 GCO_init (const struct GNUNET_CONFIGURATION_Handle *c)
1369 {
1370   struct GNUNET_MQ_MessageHandler handlers[] = {
1371     GNUNET_MQ_hd_var_size (connection_create,
1372                            GNUNET_MESSAGE_TYPE_CADET_CONNECTION_CREATE,
1373                            struct GNUNET_CADET_ConnectionCreateMessage,
1374                            NULL),
1375     GNUNET_MQ_hd_fixed_size (connection_create_ack,
1376                              GNUNET_MESSAGE_TYPE_CADET_CONNECTION_CREATE_ACK,
1377                              struct GNUNET_CADET_ConnectionCreateAckMessage,
1378                              NULL),
1379     GNUNET_MQ_hd_fixed_size (connection_broken,
1380                              GNUNET_MESSAGE_TYPE_CADET_CONNECTION_BROKEN,
1381                              struct GNUNET_CADET_ConnectionBrokenMessage,
1382                              NULL),
1383     GNUNET_MQ_hd_fixed_size (connection_destroy,
1384                              GNUNET_MESSAGE_TYPE_CADET_CONNECTION_DESTROY,
1385                              struct GNUNET_CADET_ConnectionDestroyMessage,
1386                              NULL),
1387     GNUNET_MQ_hd_fixed_size (tunnel_kx,
1388                              GNUNET_MESSAGE_TYPE_CADET_TUNNEL_KX,
1389                              struct GNUNET_CADET_TunnelKeyExchangeMessage,
1390                              NULL),
1391     GNUNET_MQ_hd_fixed_size (tunnel_kx_auth,
1392                              GNUNET_MESSAGE_TYPE_CADET_TUNNEL_KX_AUTH,
1393                              struct GNUNET_CADET_TunnelKeyExchangeAuthMessage,
1394                              NULL),
1395     GNUNET_MQ_hd_var_size (tunnel_encrypted,
1396                            GNUNET_MESSAGE_TYPE_CADET_TUNNEL_ENCRYPTED,
1397                            struct GNUNET_CADET_TunnelEncryptedMessage,
1398                            NULL),
1399     GNUNET_MQ_handler_end ()
1400   };
1401
1402   if (GNUNET_OK !=
1403       GNUNET_CONFIGURATION_get_value_number (c,
1404                                              "CADET",
1405                                              "MAX_ROUTES",
1406                                              &max_routes))
1407     max_routes = 5000;
1408   if (GNUNET_OK !=
1409       GNUNET_CONFIGURATION_get_value_number (c,
1410                                              "CADET",
1411                                              "MAX_MSGS_QUEUE",
1412                                              &max_buffers))
1413     max_buffers = 10000;
1414   routes = GNUNET_CONTAINER_multishortmap_create (1024,
1415                                                   GNUNET_NO);
1416   route_heap = GNUNET_CONTAINER_heap_create (GNUNET_CONTAINER_HEAP_ORDER_MIN);
1417   core = GNUNET_CORE_connect (c,
1418                               NULL,
1419                               &core_init_cb,
1420                               &core_connect_cb,
1421                               &core_disconnect_cb,
1422                               handlers);
1423 }
1424
1425
1426 /**
1427  * Shut down the CORE subsystem.
1428  */
1429 void
1430 GCO_shutdown ()
1431 {
1432   if (NULL != core)
1433   {
1434     GNUNET_CORE_disconnect (core);
1435     core = NULL;
1436   }
1437   GNUNET_assert (0 == GNUNET_CONTAINER_multishortmap_size (routes));
1438   GNUNET_CONTAINER_multishortmap_destroy (routes);
1439   routes = NULL;
1440   GNUNET_CONTAINER_heap_destroy (route_heap);
1441   route_heap = NULL;
1442   if (NULL != timeout_task)
1443   {
1444     GNUNET_SCHEDULER_cancel (timeout_task);
1445     timeout_task = NULL;
1446   }
1447 }
1448
1449 /* end of gnunet-cadet-service_core.c */