src/fs/gnunet-service-fs_cp.c

   1 /*
   2      This file is part of GNUnet.
   3      (C) 2011 Christian Grothoff (and other contributing authors)
   4
   5      GNUnet is free software; you can redistribute it and/or modify
   6      it under the terms of the GNU General Public License as published
   7      by the Free Software Foundation; either version 3, or (at your
   8      option) any later version.
   9
  10      GNUnet is distributed in the hope that it will be useful, but
  11      WITHOUT ANY WARRANTY; without even the implied warranty of
  12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13      General Public License for more details.
  14
  15      You should have received a copy of the GNU General Public License
  16      along with GNUnet; see the file COPYING.  If not, write to the
  17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
  18      Boston, MA 02111-1307, USA.
  19 */
  20
  21 /**
  22  * @file fs/gnunet-service-fs_cp.c
  23  * @brief API to handle 'connected peers'
  24  * @author Christian Grothoff
  25  */
  26 #include "platform.h"
  27 #include "gnunet_load_lib.h"
  28 #include "gnunet-service-fs.h"
  29 #include "gnunet-service-fs_cp.h"
  30 #include "gnunet-service-fs_pe.h"
  31 #include "gnunet-service-fs_pr.h"
  32 #include "gnunet-service-fs_push.h"
  33
  34 /**
  35  * How often do we flush trust values to disk?
  36  */
  37 #define TRUST_FLUSH_FREQ GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MINUTES, 5)
  38
  39 /**
  40  * After how long do we discard a reply?
  41  */
  42 #define REPLY_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MINUTES, 2)
  43
  44
  45 /**
  46  * Handle to cancel a transmission request.
  47  */
  48 struct GSF_PeerTransmitHandle
  49 {
  50
  51   /**
  52    * Kept in a doubly-linked list.
  53    */
  54   struct GSF_PeerTransmitHandle *next;
  55
  56   /**
  57    * Kept in a doubly-linked list.
  58    */
  59   struct GSF_PeerTransmitHandle *prev;
  60
  61   /**
  62    * Handle for an active request for transmission to this
  63    * peer, or NULL (if core queue was full).
  64    */
  65   struct GNUNET_CORE_TransmitHandle *cth;
  66
  67   /**
  68    * Time when this transmission request was issued.
  69    */
  70   struct GNUNET_TIME_Absolute transmission_request_start_time;
  71
  72   /**
  73    * Timeout for this request.
  74    */
  75   struct GNUNET_TIME_Absolute timeout;
  76
  77   /**
  78    * Task called on timeout, or 0 for none.
  79    */
  80   GNUNET_SCHEDULER_TaskIdentifier timeout_task;
  81
  82   /**
  83    * Function to call to get the actual message.
  84    */
  85   GSF_GetMessageCallback gmc;
  86
  87   /**
  88    * Peer this request targets.
  89    */
  90   struct GSF_ConnectedPeer *cp;
  91
  92   /**
  93    * Closure for 'gmc'.
  94    */
  95   void *gmc_cls;
  96
  97   /**
  98    * Size of the message to be transmitted.
  99    */
 100   size_t size;
 101
 102   /**
 103    * Set to 1 if we're currently in the process of calling
 104    * 'GNUNET_CORE_notify_transmit_ready' (so while cth is
 105    * NULL, we should not call notify_transmit_ready for this
 106    * handle right now).
 107    */
 108   unsigned int cth_in_progress;
 109
 110   /**
 111    * GNUNET_YES if this is a query, GNUNET_NO for content.
 112    */
 113   int is_query;
 114
 115   /**
 116    * Did we get a reservation already?
 117    */
 118   int was_reserved;
 119
 120   /**
 121    * Priority of this request.
 122    */
 123   uint32_t priority;
 124
 125 };
 126
 127
 128 /**
 129  * Handle for an entry in our delay list.
 130  */
 131 struct GSF_DelayedHandle
 132 {
 133
 134   /**
 135    * Kept in a doubly-linked list.
 136    */
 137   struct GSF_DelayedHandle *next;
 138
 139   /**
 140    * Kept in a doubly-linked list.
 141    */
 142   struct GSF_DelayedHandle *prev;
 143
 144   /**
 145    * Peer this transmission belongs to.
 146    */
 147   struct GSF_ConnectedPeer *cp;
 148
 149   /**
 150    * The PUT that was delayed.
 151    */
 152   struct PutMessage *pm;
 153
 154   /**
 155    * Task for the delay.
 156    */
 157   GNUNET_SCHEDULER_TaskIdentifier delay_task;
 158
 159   /**
 160    * Size of the message.
 161    */
 162   size_t msize;
 163
 164 };
 165
 166
 167 /**
 168  * Information per peer and request.
 169  */
 170 struct PeerRequest
 171 {
 172
 173   /**
 174    * Handle to generic request.
 175    */
 176   struct GSF_PendingRequest *pr;
 177
 178   /**
 179    * Handle to specific peer.
 180    */
 181   struct GSF_ConnectedPeer *cp;
 182
 183   /**
 184    * Task for asynchronous stopping of this request.
 185    */
 186   GNUNET_SCHEDULER_TaskIdentifier kill_task;
 187
 188 };
 189
 190
 191 /**
 192  * A connected peer.
 193  */
 194 struct GSF_ConnectedPeer
 195 {
 196
 197   /**
 198    * Performance data for this peer.
 199    */
 200   struct GSF_PeerPerformanceData ppd;
 201
 202   /**
 203    * Time until when we blocked this peer from migrating
 204    * data to us.
 205    */
 206   struct GNUNET_TIME_Absolute last_migration_block;
 207
 208   /**
 209    * Task scheduled to revive migration to this peer.
 210    */
 211   GNUNET_SCHEDULER_TaskIdentifier mig_revive_task;
 212
 213   /**
 214    * Messages (replies, queries, content migration) we would like to
 215    * send to this peer in the near future.  Sorted by priority, head.
 216    */
 217   struct GSF_PeerTransmitHandle *pth_head;
 218
 219   /**
 220    * Messages (replies, queries, content migration) we would like to
 221    * send to this peer in the near future.  Sorted by priority, tail.
 222    */
 223   struct GSF_PeerTransmitHandle *pth_tail;
 224
 225   /**
 226    * Messages (replies, queries, content migration) we would like to
 227    * send to this peer in the near future.  Sorted by priority, head.
 228    */
 229   struct GSF_DelayedHandle *delayed_head;
 230
 231   /**
 232    * Messages (replies, queries, content migration) we would like to
 233    * send to this peer in the near future.  Sorted by priority, tail.
 234    */
 235   struct GSF_DelayedHandle *delayed_tail;
 236
 237   /**
 238    * Migration stop message in our queue, or NULL if we have none pending.
 239    */
 240   struct GSF_PeerTransmitHandle *migration_pth;
 241
 242   /**
 243    * Context of our GNUNET_CORE_peer_change_preference call (or NULL).
 244    */
 245   struct GNUNET_CORE_InformationRequestContext *irc;
 246
 247   /**
 248    * Task scheduled if we need to retry bandwidth reservation later.
 249    */
 250   GNUNET_SCHEDULER_TaskIdentifier irc_delay_task;
 251
 252   /**
 253    * Active requests from this neighbour, map of query to 'struct PeerRequest'.
 254    */
 255   struct GNUNET_CONTAINER_MultiHashMap *request_map;
 256
 257   /**
 258    * Increase in traffic preference still to be submitted
 259    * to the core service for this peer.
 260    */
 261   uint64_t inc_preference;
 262
 263   /**
 264    * Trust rating for this peer on disk.
 265    */
 266   uint32_t disk_trust;
 267
 268   /**
 269    * Which offset in "last_p2p_replies" will be updated next?
 270    * (we go round-robin).
 271    */
 272   unsigned int last_p2p_replies_woff;
 273
 274   /**
 275    * Which offset in "last_client_replies" will be updated next?
 276    * (we go round-robin).
 277    */
 278   unsigned int last_client_replies_woff;
 279
 280   /**
 281    * Current offset into 'last_request_times' ring buffer.
 282    */
 283   unsigned int last_request_times_off;
 284
 285   /**
 286    * GNUNET_YES if we did successfully reserve 32k bandwidth,
 287    * GNUNET_NO if not.
 288    */
 289   int did_reserve;
 290
 291 };
 292
 293
 294 /**
 295  * Map from peer identities to 'struct GSF_ConnectPeer' entries.
 296  */
 297 static struct GNUNET_CONTAINER_MultiHashMap *cp_map;
 298
 299 /**
 300  * Where do we store trust information?
 301  */
 302 static char *trustDirectory;
 303
 304
 305 /**
 306  * Get the filename under which we would store the GNUNET_HELLO_Message
 307  * for the given host and protocol.
 308  * @return filename of the form DIRECTORY/HOSTID
 309  */
 310 static char *
 311 get_trust_filename (const struct GNUNET_PeerIdentity *id)
 312 {
 313   struct GNUNET_CRYPTO_HashAsciiEncoded fil;
 314   char *fn;
 315
 316   GNUNET_CRYPTO_hash_to_enc (&id->hashPubKey, &fil);
 317   GNUNET_asprintf (&fn, "%s%s%s", trustDirectory, DIR_SEPARATOR_STR, &fil);
 318   return fn;
 319 }
 320
 321
 322 /**
 323  * Find latency information in 'atsi'.
 324  *
 325  * @param atsi performance data
 326  * @return connection latency
 327  */
 328 static struct GNUNET_TIME_Relative
 329 get_latency (const struct GNUNET_TRANSPORT_ATS_Information *atsi)
 330 {
 331   if (atsi == NULL)
 332     return GNUNET_TIME_UNIT_SECONDS;
 333   while ( (ntohl (atsi->type) != GNUNET_TRANSPORT_ATS_ARRAY_TERMINATOR) &&
 334           (ntohl (atsi->type) != GNUNET_TRANSPORT_ATS_QUALITY_NET_DELAY) )
 335     atsi++;
 336   if (ntohl (atsi->type) == GNUNET_TRANSPORT_ATS_ARRAY_TERMINATOR)
 337     {
 338       GNUNET_break (0);
 339       /* how can we not have latency data? */
 340       return GNUNET_TIME_UNIT_SECONDS;
 341     }
 342   return GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MILLISECONDS,
 343                                         ntohl (atsi->value));
 344 }
 345
 346
 347 /**
 348  * Update the performance information kept for the given peer.
 349  *
 350  * @param cp peer record to update
 351  * @param atsi transport performance data
 352  */
 353 static void
 354 update_atsi (struct GSF_ConnectedPeer *cp,
 355              const struct GNUNET_TRANSPORT_ATS_Information *atsi)
 356 {
 357   struct GNUNET_TIME_Relative latency;
 358
 359   latency = get_latency (atsi);
 360   GNUNET_LOAD_value_set_decline (cp->ppd.transmission_delay,
 361                                  latency);
 362   /* LATER: merge atsi into cp's performance data (if we ever care...) */
 363 }
 364
 365
 366 /**
 367  * Return the performance data record for the given peer
 368  *
 369  * @param cp peer to query
 370  * @return performance data record for the peer
 371  */
 372 struct GSF_PeerPerformanceData *
 373 GSF_get_peer_performance_data_ (struct GSF_ConnectedPeer *cp)
 374 {
 375   return &cp->ppd;
 376 }
 377
 378
 379 /**
 380  * Core is ready to transmit to a peer, get the message.
 381  *
 382  * @param cls the 'struct GSF_PeerTransmitHandle' of the message
 383  * @param size number of bytes core is willing to take
 384  * @param buf where to copy the message
 385  * @return number of bytes copied to buf
 386  */
 387 static size_t
 388 peer_transmit_ready_cb (void *cls,
 389                         size_t size,
 390                         void *buf);
 391
 392
 393
 394
 395 /**
 396  * Function called by core upon success or failure of our bandwidth reservation request.
 397  *
 398  * @param cls the 'struct GSF_ConnectedPeer' of the peer for which we made the request
 399  * @param peer identifies the peer
 400  * @param bandwidth_out available amount of outbound bandwidth
 401  * @param amount set to the amount that was actually reserved or unreserved;
 402  *               either the full requested amount or zero (no partial reservations)
 403  * @param res_delay if the reservation could not be satisfied (amount was 0), how
 404  *        long should the client wait until re-trying?
 405  * @param preference current traffic preference for the given peer
 406  */
 407 static void
 408 core_reserve_callback (void *cls,
 409                        const struct GNUNET_PeerIdentity *peer,
 410                        struct GNUNET_BANDWIDTH_Value32NBO bandwidth_out,
 411                        int32_t amount,
 412                        struct GNUNET_TIME_Relative res_delay,
 413                        uint64_t preference);
 414
 415
 416 /**
 417  * If ready (bandwidth reserved), try to schedule transmission via
 418  * core for the given handle.
 419  *
 420  * @param pth transmission handle to schedule
 421  */
 422 static void
 423 schedule_transmission (struct GSF_PeerTransmitHandle *pth)
 424 {
 425   struct GSF_ConnectedPeer *cp;
 426   struct GNUNET_PeerIdentity target;
 427   uint64_t ip;
 428
 429   if ( (NULL != pth->cth) ||
 430        (0 != pth->cth_in_progress) )
 431     return; /* already done */
 432   cp = pth->cp;
 433   GNUNET_assert (0 != cp->ppd.pid);
 434   GNUNET_PEER_resolve (cp->ppd.pid,
 435                        &target);
 436   if ( (GNUNET_YES == pth->is_query) &&
 437        (GNUNET_YES != pth->was_reserved) )
 438     {
 439       /* query, need reservation */
 440       if (GNUNET_YES != cp->did_reserve)
 441         return; /* not ready */
 442       cp->did_reserve = GNUNET_NO;
 443       /* reservation already done! */
 444       pth->was_reserved = GNUNET_YES;
 445       ip = cp->inc_preference;
 446       cp->inc_preference = 0;
 447       cp->irc = GNUNET_CORE_peer_change_preference (GSF_core,
 448                                                     &target,
 449                                                     GNUNET_TIME_UNIT_FOREVER_REL,
 450                                                     GNUNET_BANDWIDTH_VALUE_MAX,
 451                                                     DBLOCK_SIZE,
 452                                                     ip,
 453                                                     &core_reserve_callback,
 454                                                     cp);
 455     }
 456   GNUNET_assert (pth->cth == NULL);
 457   pth->cth_in_progress++;
 458   pth->cth = GNUNET_CORE_notify_transmit_ready (GSF_core,
 459                                                 GNUNET_YES,
 460                                                 pth->priority,
 461                                                 GNUNET_TIME_absolute_get_remaining (pth->timeout),
 462                                                 &target,
 463                                                 pth->size,
 464                                                 &peer_transmit_ready_cb,
 465                                                 pth);
 466   GNUNET_assert (0 < pth->cth_in_progress--);
 467 }
 468
 469
 470 /**
 471  * Core is ready to transmit to a peer, get the message.
 472  *
 473  * @param cls the 'struct GSF_PeerTransmitHandle' of the message
 474  * @param size number of bytes core is willing to take
 475  * @param buf where to copy the message
 476  * @return number of bytes copied to buf
 477  */
 478 static size_t
 479 peer_transmit_ready_cb (void *cls,
 480                         size_t size,
 481                         void *buf)
 482 {
 483   struct GSF_PeerTransmitHandle *pth = cls;
 484   struct GSF_PeerTransmitHandle *pos;
 485   struct GSF_ConnectedPeer *cp;
 486   size_t ret;
 487
 488   GNUNET_assert ( (NULL == buf) ||
 489                   (pth->size <= size) );
 490   pth->cth = NULL;
 491   if (pth->timeout_task != GNUNET_SCHEDULER_NO_TASK)
 492     {
 493       GNUNET_SCHEDULER_cancel (pth->timeout_task);
 494       pth->timeout_task = GNUNET_SCHEDULER_NO_TASK;
 495     }
 496   cp = pth->cp;
 497   GNUNET_CONTAINER_DLL_remove (cp->pth_head,
 498                                cp->pth_tail,
 499                                pth);
 500   if (GNUNET_YES == pth->is_query)
 501     {
 502       cp->ppd.last_request_times[(cp->last_request_times_off++) % MAX_QUEUE_PER_PEER] = GNUNET_TIME_absolute_get ();
 503       GNUNET_assert (0 < cp->ppd.pending_queries--);
 504     }
 505   else if (GNUNET_NO == pth->is_query)
 506     {
 507       GNUNET_assert (0 < cp->ppd.pending_replies--);
 508     }
 509   GNUNET_LOAD_update (cp->ppd.transmission_delay,
 510                       GNUNET_TIME_absolute_get_duration (pth->transmission_request_start_time).rel_value);
 511   ret = pth->gmc (pth->gmc_cls,
 512                   size, buf);
 513   GNUNET_assert (NULL == pth->cth);
 514   for (pos = cp->pth_head; pos != NULL; pos = pos->next)
 515     {
 516       GNUNET_assert (pos != pth);
 517       schedule_transmission (pos);
 518     }
 519   GNUNET_assert (pth->cth == NULL);
 520   GNUNET_assert (pth->cth_in_progress == 0);
 521   GNUNET_free (pth);
 522   return ret;
 523 }
 524
 525
 526 /**
 527  * (re)try to reserve bandwidth from the given peer.
 528  *
 529  * @param cls the 'struct GSF_ConnectedPeer' to reserve from
 530  * @param tc scheduler context
 531  */
 532 static void
 533 retry_reservation (void *cls,
 534                    const struct GNUNET_SCHEDULER_TaskContext *tc)
 535 {
 536   struct GSF_ConnectedPeer *cp = cls;
 537   uint64_t ip;
 538   struct GNUNET_PeerIdentity target;
 539
 540   GNUNET_PEER_resolve (cp->ppd.pid,
 541                        &target);
 542   cp->irc_delay_task = GNUNET_SCHEDULER_NO_TASK;
 543   ip = cp->inc_preference;
 544   cp->inc_preference = 0;
 545   cp->irc = GNUNET_CORE_peer_change_preference (GSF_core,
 546                                                 &target,
 547                                                 GNUNET_TIME_UNIT_FOREVER_REL,
 548                                                 GNUNET_BANDWIDTH_VALUE_MAX,
 549                                                 DBLOCK_SIZE,
 550                                                 ip,
 551                                                 &core_reserve_callback,
 552                                                 cp);
 553 }
 554
 555
 556 /**
 557  * Function called by core upon success or failure of our bandwidth reservation request.
 558  *
 559  * @param cls the 'struct GSF_ConnectedPeer' of the peer for which we made the request
 560  * @param peer identifies the peer
 561  * @param bandwidth_out available amount of outbound bandwidth
 562  * @param amount set to the amount that was actually reserved or unreserved;
 563  *               either the full requested amount or zero (no partial reservations)
 564  * @param res_delay if the reservation could not be satisfied (amount was 0), how
 565  *        long should the client wait until re-trying?
 566  * @param preference current traffic preference for the given peer
 567  */
 568 static void
 569 core_reserve_callback (void *cls,
 570                        const struct GNUNET_PeerIdentity *peer,
 571                        struct GNUNET_BANDWIDTH_Value32NBO bandwidth_out,
 572                        int32_t amount,
 573                        struct GNUNET_TIME_Relative res_delay,
 574                        uint64_t preference)
 575 {
 576   struct GSF_ConnectedPeer *cp = cls;
 577   struct GSF_PeerTransmitHandle *pth;
 578
 579   cp->irc = NULL;
 580   if (0 == amount)
 581     {
 582       cp->irc_delay_task = GNUNET_SCHEDULER_add_delayed (res_delay,
 583                                                          &retry_reservation,
 584                                                          cp);
 585       return;
 586     }
 587   cp->did_reserve = GNUNET_YES;
 588   pth = cp->pth_head;
 589   if ( (NULL != pth) &&
 590        (NULL == pth->cth) )
 591     {
 592       /* reservation success, try transmission now! */
 593       pth->cth_in_progress++;
 594       pth->cth = GNUNET_CORE_notify_transmit_ready (GSF_core,
 595                                                     GNUNET_YES,
 596                                                     pth->priority,
 597                                                     GNUNET_TIME_absolute_get_remaining (pth->timeout),
 598                                                     peer,
 599                                                     pth->size,
 600                                                     &peer_transmit_ready_cb,
 601                                                     pth);
 602       GNUNET_assert (0 < pth->cth_in_progress--);
 603     }
 604 }
 605
 606
 607 /**
 608  * A peer connected to us.  Setup the connected peer
 609  * records.
 610  *
 611  * @param peer identity of peer that connected
 612  * @param atsi performance data for the connection
 613  * @return handle to connected peer entry
 614  */
 615 struct GSF_ConnectedPeer *
 616 GSF_peer_connect_handler_ (const struct GNUNET_PeerIdentity *peer,
 617                            const struct GNUNET_TRANSPORT_ATS_Information *atsi)
 618 {
 619   struct GSF_ConnectedPeer *cp;
 620   char *fn;
 621   uint32_t trust;
 622
 623   cp = GNUNET_malloc (sizeof (struct GSF_ConnectedPeer));
 624   cp->ppd.pid = GNUNET_PEER_intern (peer);
 625   cp->ppd.transmission_delay = GNUNET_LOAD_value_init (GNUNET_TIME_UNIT_ZERO);
 626   cp->irc = GNUNET_CORE_peer_change_preference (GSF_core,
 627                                                 peer,
 628                                                 GNUNET_TIME_UNIT_FOREVER_REL,
 629                                                 GNUNET_BANDWIDTH_VALUE_MAX,
 630                                                 DBLOCK_SIZE,
 631                                                 0,
 632                                                 &core_reserve_callback,
 633                                                 cp);
 634   fn = get_trust_filename (peer);
 635   if ((GNUNET_DISK_file_test (fn) == GNUNET_YES) &&
 636       (sizeof (trust) == GNUNET_DISK_fn_read (fn, &trust, sizeof (trust))))
 637     cp->disk_trust = cp->ppd.trust = ntohl (trust);
 638   GNUNET_free (fn);
 639   cp->request_map = GNUNET_CONTAINER_multihashmap_create (128);
 640   GNUNET_break (GNUNET_OK ==
 641                 GNUNET_CONTAINER_multihashmap_put (cp_map,
 642                                                    &peer->hashPubKey,
 643                                                    cp,
 644                                                    GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
 645   update_atsi (cp, atsi);
 646   GSF_push_start_ (cp);
 647   return cp;
 648 }
 649
 650
 651 /**
 652  * It may be time to re-start migrating content to this
 653  * peer.  Check, and if so, restart migration.
 654  *
 655  * @param cls the 'struct GSF_ConnectedPeer'
 656  * @param tc scheduler context
 657  */
 658 static void
 659 revive_migration (void *cls,
 660                   const struct GNUNET_SCHEDULER_TaskContext *tc)
 661 {
 662   struct GSF_ConnectedPeer *cp = cls;
 663   struct GNUNET_TIME_Relative bt;
 664
 665   cp->mig_revive_task = GNUNET_SCHEDULER_NO_TASK;
 666   bt = GNUNET_TIME_absolute_get_remaining (cp->ppd.migration_blocked_until);
 667   if (0 != bt.rel_value)
 668     {
 669       /* still time left... */
 670       cp->mig_revive_task
 671         = GNUNET_SCHEDULER_add_delayed (bt,
 672                                         &revive_migration,
 673                                         cp);
 674       return;
 675     }
 676   GSF_push_start_ (cp);
 677 }
 678
 679
 680 /**
 681  * Get a handle for a connected peer.
 682  *
 683  * @param peer peer's identity
 684  * @return NULL if the peer is not currently connected
 685  */
 686 struct GSF_ConnectedPeer *
 687 GSF_peer_get_ (const struct GNUNET_PeerIdentity *peer)
 688 {
 689   if (NULL == cp_map) return NULL;
 690   return GNUNET_CONTAINER_multihashmap_get (cp_map,
 691                                             &peer->hashPubKey);
 692 }
 693
 694
 695 /**
 696  * Handle P2P "MIGRATION_STOP" message.
 697  *
 698  * @param cls closure, always NULL
 699  * @param other the other peer involved (sender or receiver, NULL
 700  *        for loopback messages where we are both sender and receiver)
 701  * @param message the actual message
 702  * @param atsi performance information
 703  * @return GNUNET_OK to keep the connection open,
 704  *         GNUNET_SYSERR to close it (signal serious error)
 705  */
 706 int
 707 GSF_handle_p2p_migration_stop_ (void *cls,
 708                                 const struct GNUNET_PeerIdentity *other,
 709                                 const struct GNUNET_MessageHeader *message,
 710                                 const struct GNUNET_TRANSPORT_ATS_Information *atsi)
 711 {
 712   struct GSF_ConnectedPeer *cp;
 713   const struct MigrationStopMessage *msm;
 714   struct GNUNET_TIME_Relative bt;
 715
 716   msm = (const struct MigrationStopMessage*) message;
 717   cp = GNUNET_CONTAINER_multihashmap_get (cp_map,
 718                                           &other->hashPubKey);
 719   if (cp == NULL)
 720     {
 721       GNUNET_break (0);
 722       return GNUNET_OK;
 723     }
 724   bt = GNUNET_TIME_relative_ntoh (msm->duration);
 725   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
 726               _("Migration of content to peer `%s' blocked for %llu ms\n"),
 727               GNUNET_i2s (other),
 728               (unsigned long long) bt.rel_value);
 729   cp->ppd.migration_blocked_until = GNUNET_TIME_relative_to_absolute (bt);
 730   if (cp->mig_revive_task == GNUNET_SCHEDULER_NO_TASK)
 731     {
 732       GSF_push_stop_ (cp);
 733       cp->mig_revive_task
 734         = GNUNET_SCHEDULER_add_delayed (bt,
 735                                         &revive_migration,
 736                                         cp);
 737     }
 738   update_atsi (cp, atsi);
 739   return GNUNET_OK;
 740 }
 741
 742
 743 /**
 744  * Copy reply and free put message.
 745  *
 746  * @param cls the 'struct PutMessage'
 747  * @param buf_size number of bytes available in buf
 748  * @param buf where to copy the message, NULL on error (peer disconnect)
 749  * @return number of bytes copied to 'buf', can be 0 (without indicating an error)
 750  */
 751 static size_t
 752 copy_reply (void *cls,
 753             size_t buf_size,
 754             void *buf)
 755 {
 756   struct PutMessage *pm = cls;
 757   size_t size;
 758
 759   if (buf != NULL)
 760     {
 761       GNUNET_assert (buf_size >= ntohs (pm->header.size));
 762       size = ntohs (pm->header.size);
 763       memcpy (buf, pm, size);
 764       GNUNET_STATISTICS_update (GSF_stats,
 765                                 gettext_noop ("# replies transmitted to other peers"),
 766                                 1,
 767                                 GNUNET_NO);
 768     }
 769   else
 770     {
 771       size = 0;
 772       GNUNET_STATISTICS_update (GSF_stats,
 773                                 gettext_noop ("# replies dropped"),
 774                                 1,
 775                                 GNUNET_NO);
 776     }
 777   GNUNET_free (pm);
 778   return size;
 779 }
 780
 781
 782 /**
 783  * Cancel all requests associated with the peer.
 784  *
 785  * @param cls unused
 786  * @param query hash code of the request
 787  * @param value the 'struct GSF_PendingRequest'
 788  * @return GNUNET_YES (continue to iterate)
 789  */
 790 static int
 791 cancel_pending_request (void *cls,
 792                         const GNUNET_HashCode *query,
 793                         void *value)
 794 {
 795   struct PeerRequest *peerreq = value;
 796   struct GSF_PendingRequest *pr = peerreq->pr;
 797   struct GSF_ConnectedPeer *cp = peerreq->cp;
 798   struct GSF_PendingRequestData *prd;
 799
 800   if (peerreq->kill_task != GNUNET_SCHEDULER_NO_TASK)
 801     {
 802       GNUNET_SCHEDULER_cancel (peerreq->kill_task);
 803       peerreq->kill_task = GNUNET_SCHEDULER_NO_TASK;
 804     }
 805   GNUNET_STATISTICS_update (GSF_stats,
 806                             gettext_noop ("# P2P searches active"),
 807                             -1,
 808                             GNUNET_NO);
 809   prd = GSF_pending_request_get_data_ (pr);
 810   GNUNET_break (GNUNET_YES ==
 811                 GNUNET_CONTAINER_multihashmap_remove (cp->request_map,
 812                                                       &prd->query,
 813                                                       peerreq));
 814   GSF_pending_request_cancel_ (pr);
 815   GNUNET_free (peerreq);
 816   return GNUNET_OK;
 817 }
 818
 819
 820 /**
 821  * Free the given request.
 822  *
 823  * @param cls the request to free
 824  * @param tc task context
 825  */
 826 static void
 827 peer_request_destroy (void *cls,
 828                       const struct GNUNET_SCHEDULER_TaskContext *tc)
 829 {
 830   struct PeerRequest *peerreq = cls;
 831   struct GSF_PendingRequest *pr = peerreq->pr;
 832   struct GSF_PendingRequestData *prd;
 833
 834   peerreq->kill_task = GNUNET_SCHEDULER_NO_TASK;
 835   prd = GSF_pending_request_get_data_ (pr);
 836   cancel_pending_request (NULL,
 837                           &prd->query,
 838                           peerreq);
 839 }
 840
 841
 842 /**
 843  * The artificial delay is over, transmit the message now.
 844  *
 845  * @param cls the 'struct GSF_DelayedHandle' with the message
 846  * @param tc scheduler context
 847  */
 848 static void
 849 transmit_delayed_now (void *cls,
 850                       const struct GNUNET_SCHEDULER_TaskContext *tc)
 851 {
 852   struct GSF_DelayedHandle *dh = cls;
 853   struct GSF_ConnectedPeer *cp = dh->cp;
 854
 855   GNUNET_CONTAINER_DLL_remove (cp->delayed_head,
 856                                cp->delayed_tail,
 857                                dh);
 858   if (0 != (GNUNET_SCHEDULER_REASON_SHUTDOWN & tc->reason))
 859     {
 860       GNUNET_free (dh->pm);
 861       GNUNET_free (dh);
 862       return;
 863     }
 864   (void) GSF_peer_transmit_ (cp, GNUNET_NO,
 865                              UINT32_MAX,
 866                              REPLY_TIMEOUT,
 867                              dh->msize,
 868                              &copy_reply,
 869                              dh->pm);
 870   GNUNET_free (dh);
 871 }
 872
 873
 874 /**
 875  * Get the randomized delay a response should be subjected to.
 876  *
 877  * @return desired delay
 878  */
 879 static struct GNUNET_TIME_Relative
 880 get_randomized_delay ()
 881 {
 882   struct GNUNET_TIME_Relative ret;
 883
 884   /* FIXME: replace 5000 with something relating to current observed P2P message latency */
 885   ret = GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MILLISECONDS,
 886                                        GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK,
 887                                                                  5000));
 888   GNUNET_STATISTICS_update (GSF_stats,
 889                             gettext_noop ("# artificial delays introduced (ms)"),
 890                             ret.rel_value,
 891                             GNUNET_NO);
 892
 893   return ret;
 894 }
 895
 896
 897 /**
 898  * Handle a reply to a pending request.  Also called if a request
 899  * expires (then with data == NULL).  The handler may be called
 900  * many times (depending on the request type), but will not be
 901  * called during or after a call to GSF_pending_request_cancel
 902  * and will also not be called anymore after a call signalling
 903  * expiration.
 904  *
 905  * @param cls 'struct PeerRequest' this is an answer for
 906  * @param eval evaluation of the result
 907  * @param pr handle to the original pending request
 908  * @param reply_anonymity_level anonymity level for the reply, UINT32_MAX for "unknown"
 909  * @param expiration when does 'data' expire?
 910  * @param type type of the block
 911  * @param data response data, NULL on request expiration
 912  * @param data_len number of bytes in data
 913  */
 914 static void
 915 handle_p2p_reply (void *cls,
 916                   enum GNUNET_BLOCK_EvaluationResult eval,
 917                   struct GSF_PendingRequest *pr,
 918                   uint32_t reply_anonymity_level,
 919                   struct GNUNET_TIME_Absolute expiration,
 920                   enum GNUNET_BLOCK_Type type,
 921                   const void *data,
 922                   size_t data_len)
 923 {
 924   struct PeerRequest *peerreq = cls;
 925   struct GSF_ConnectedPeer *cp = peerreq->cp;
 926   struct GSF_PendingRequestData *prd;
 927   struct PutMessage *pm;
 928   size_t msize;
 929
 930   GNUNET_assert (data_len + sizeof (struct PutMessage) < GNUNET_SERVER_MAX_MESSAGE_SIZE);
 931   GNUNET_assert (peerreq->pr == pr);
 932   prd = GSF_pending_request_get_data_ (pr);
 933   if (NULL == data)
 934     {
 935       GNUNET_STATISTICS_update (GSF_stats,
 936                                 gettext_noop ("# P2P searches active"),
 937                                 -1,
 938                                 GNUNET_NO);
 939       GNUNET_break (GNUNET_YES ==
 940                     GNUNET_CONTAINER_multihashmap_remove (cp->request_map,
 941                                                           &prd->query,
 942                                                           peerreq));
 943       GNUNET_free (peerreq);
 944       return;
 945     }
 946   GNUNET_break (type != GNUNET_BLOCK_TYPE_ANY);
 947   if ( (prd->type != type) &&
 948        (prd->type != GNUNET_BLOCK_TYPE_ANY) )
 949     {
 950       GNUNET_break (0);
 951       return;
 952     }
 953 #if DEBUG_FS
 954   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 955               "Transmitting result for query `%s' to peer\n",
 956               GNUNET_h2s (&prd->query));
 957 #endif
 958   GNUNET_STATISTICS_update (GSF_stats,
 959                             gettext_noop ("# replies received for other peers"),
 960                             1,
 961                             GNUNET_NO);
 962   msize = sizeof (struct PutMessage) + data_len;
 963   if (msize >= GNUNET_SERVER_MAX_MESSAGE_SIZE)
 964     {
 965       GNUNET_break (0);
 966       return;
 967     }
 968   if ( (reply_anonymity_level != UINT32_MAX) &&
 969        (reply_anonymity_level > 1) )
 970     {
 971       if (reply_anonymity_level - 1 > GSF_cover_content_count)
 972         {
 973           GNUNET_STATISTICS_update (GSF_stats,
 974                                     gettext_noop ("# replies dropped due to insufficient cover traffic"),
 975                                     1,
 976                                     GNUNET_NO);
 977           return;
 978         }
 979       GSF_cover_content_count -= (reply_anonymity_level - 1);
 980     }
 981
 982   pm = GNUNET_malloc (msize);
 983   pm->header.type = htons (GNUNET_MESSAGE_TYPE_FS_PUT);
 984   pm->header.size = htons (msize);
 985   pm->type = htonl (type);
 986   pm->expiration = GNUNET_TIME_absolute_hton (expiration);
 987   memcpy (&pm[1], data, data_len);
 988   if ( (reply_anonymity_level != UINT32_MAX) &&
 989        (reply_anonymity_level != 0) &&
 990        (GSF_enable_randomized_delays == GNUNET_YES) )
 991     {
 992       struct GSF_DelayedHandle *dh;
 993
 994       dh = GNUNET_malloc (sizeof (struct GSF_DelayedHandle));
 995       dh->cp = cp;
 996       dh->pm = pm;
 997       dh->msize = msize;
 998       GNUNET_CONTAINER_DLL_insert (cp->delayed_head,
 999                                    cp->delayed_tail,
1000                                    dh);
1001       dh->delay_task = GNUNET_SCHEDULER_add_delayed (get_randomized_delay (),
1002                                                      &transmit_delayed_now,
1003                                                      dh);
1004     }
1005   else
1006     {
1007       (void) GSF_peer_transmit_ (cp, GNUNET_NO,
1008                                  UINT32_MAX,
1009                                  REPLY_TIMEOUT,
1010                                  msize,
1011                                  &copy_reply,
1012                                  pm);
1013     }
1014   if (eval != GNUNET_BLOCK_EVALUATION_OK_LAST)
1015     return;
1016   if (GNUNET_SCHEDULER_NO_TASK == peerreq->kill_task)
1017     {
1018       GNUNET_STATISTICS_update (GSF_stats,
1019                                 gettext_noop ("# P2P searches destroyed due to ultimate reply"),
1020                                 1,
1021                                 GNUNET_NO);
1022      peerreq->kill_task = GNUNET_SCHEDULER_add_now (&peer_request_destroy,
1023                                                      peerreq);
1024     }
1025 }
1026
1027
1028 /**
1029  * Increase the host credit by a value.
1030  *
1031  * @param cp which peer to change the trust value on
1032  * @param value is the int value by which the
1033  *  host credit is to be increased or decreased
1034  * @returns the actual change in trust (positive or negative)
1035  */
1036 static int
1037 change_host_trust (struct GSF_ConnectedPeer *cp, int value)
1038 {
1039   if (value == 0)
1040     return 0;
1041   GNUNET_assert (cp != NULL);
1042   if (value > 0)
1043     {
1044       if (cp->ppd.trust + value < cp->ppd.trust)
1045         {
1046           value = UINT32_MAX - cp->ppd.trust;
1047           cp->ppd.trust = UINT32_MAX;
1048         }
1049       else
1050         cp->ppd.trust += value;
1051     }
1052   else
1053     {
1054       if (cp->ppd.trust < -value)
1055         {
1056           value = -cp->ppd.trust;
1057           cp->ppd.trust = 0;
1058         }
1059       else
1060         cp->ppd.trust += value;
1061     }
1062   return value;
1063 }
1064
1065
1066 /**
1067  * We've received a request with the specified priority.  Bound it
1068  * according to how much we trust the given peer.
1069  *
1070  * @param prio_in requested priority
1071  * @param cp the peer making the request
1072  * @return effective priority
1073  */
1074 static int32_t
1075 bound_priority (uint32_t prio_in,
1076                 struct GSF_ConnectedPeer *cp)
1077 {
1078 #define N ((double)128.0)
1079   uint32_t ret;
1080   double rret;
1081   int ld;
1082
1083   ld = GSF_test_get_load_too_high_ (0);
1084   if (ld == GNUNET_SYSERR)
1085     {
1086       GNUNET_STATISTICS_update (GSF_stats,
1087                                 gettext_noop ("# requests done for free (low load)"),
1088                                 1,
1089                                 GNUNET_NO);
1090       return 0; /* excess resources */
1091     }
1092   if (prio_in > INT32_MAX)
1093     prio_in = INT32_MAX;
1094   ret = - change_host_trust (cp, - (int) prio_in);
1095   if (ret > 0)
1096     {
1097       if (ret > GSF_current_priorities + N)
1098         rret = GSF_current_priorities + N;
1099       else
1100         rret = ret;
1101       GSF_current_priorities
1102         = (GSF_current_priorities * (N-1) + rret)/N;
1103     }
1104   if ( (ld == GNUNET_YES) && (ret > 0) )
1105     {
1106       /* try with charging */
1107       ld = GSF_test_get_load_too_high_ (ret);
1108     }
1109   if (ld == GNUNET_YES)
1110     {
1111       GNUNET_STATISTICS_update (GSF_stats,
1112                                 gettext_noop ("# request dropped, priority insufficient"),
1113                                 1,
1114                                 GNUNET_NO);
1115       /* undo charge */
1116       change_host_trust (cp, (int) ret);
1117       return -1; /* not enough resources */
1118     }
1119   else
1120     {
1121       GNUNET_STATISTICS_update (GSF_stats,
1122                                 gettext_noop ("# requests done for a price (normal load)"),
1123                                 1,
1124                                 GNUNET_NO);
1125     }
1126 #undef N
1127   return ret;
1128 }
1129
1130
1131 /**
1132  * The priority level imposes a bound on the maximum
1133  * value for the ttl that can be requested.
1134  *
1135  * @param ttl_in requested ttl
1136  * @param prio given priority
1137  * @return ttl_in if ttl_in is below the limit,
1138  *         otherwise the ttl-limit for the given priority
1139  */
1140 static int32_t
1141 bound_ttl (int32_t ttl_in, uint32_t prio)
1142 {
1143   unsigned long long allowed;
1144
1145   if (ttl_in <= 0)
1146     return ttl_in;
1147   allowed = ((unsigned long long) prio) * TTL_DECREMENT / 1000;
1148   if (ttl_in > allowed)
1149     {
1150       if (allowed >= (1 << 30))
1151         return 1 << 30;
1152       return allowed;
1153     }
1154   return ttl_in;
1155 }
1156
1157
1158 /**
1159  * Handle P2P "QUERY" message.  Creates the pending request entry
1160  * and sets up all of the data structures to that we will
1161  * process replies properly.  Does not initiate forwarding or
1162  * local database lookups.
1163  *
1164  * @param other the other peer involved (sender or receiver, NULL
1165  *        for loopback messages where we are both sender and receiver)
1166  * @param message the actual message
1167  * @return pending request handle, NULL on error
1168  */
1169 struct GSF_PendingRequest *
1170 GSF_handle_p2p_query_ (const struct GNUNET_PeerIdentity *other,
1171                        const struct GNUNET_MessageHeader *message)
1172 {
1173   struct PeerRequest *peerreq;
1174   struct GSF_PendingRequest *pr;
1175   struct GSF_PendingRequestData *prd;
1176   struct GSF_ConnectedPeer *cp;
1177   struct GSF_ConnectedPeer *cps;
1178   const GNUNET_HashCode *namespace;
1179   const struct GNUNET_PeerIdentity *target;
1180   enum GSF_PendingRequestOptions options;
1181   uint16_t msize;
1182   const struct GetMessage *gm;
1183   unsigned int bits;
1184   const GNUNET_HashCode *opt;
1185   uint32_t bm;
1186   size_t bfsize;
1187   uint32_t ttl_decrement;
1188   int32_t priority;
1189   int32_t ttl;
1190   enum GNUNET_BLOCK_Type type;
1191   GNUNET_PEER_Id spid;
1192
1193   GNUNET_assert (other != NULL);
1194   msize = ntohs(message->size);
1195   if (msize < sizeof (struct GetMessage))
1196     {
1197       GNUNET_break_op (0);
1198       return NULL;
1199     }
1200   GNUNET_STATISTICS_update (GSF_stats,
1201                             gettext_noop ("# GET requests received (from other peers)"),
1202                             1,
1203                             GNUNET_NO);
1204   gm = (const struct GetMessage*) message;
1205   type = ntohl (gm->type);
1206   bm = ntohl (gm->hash_bitmap);
1207   bits = 0;
1208   while (bm > 0)
1209     {
1210       if (1 == (bm & 1))
1211         bits++;
1212       bm >>= 1;
1213     }
1214   if (msize < sizeof (struct GetMessage) + bits * sizeof (GNUNET_HashCode))
1215     {
1216       GNUNET_break_op (0);
1217       return NULL;
1218     }
1219   opt = (const GNUNET_HashCode*) &gm[1];
1220   bfsize = msize - sizeof (struct GetMessage) - bits * sizeof (GNUNET_HashCode);
1221   /* bfsize must be power of 2, check! */
1222   if (0 != ( (bfsize - 1) & bfsize))
1223     {
1224       GNUNET_break_op (0);
1225       return NULL;
1226     }
1227   GSF_cover_query_count++;
1228   bm = ntohl (gm->hash_bitmap);
1229   bits = 0;
1230   cps = GNUNET_CONTAINER_multihashmap_get (cp_map,
1231                                            &other->hashPubKey);
1232   if (NULL == cps)
1233     {
1234       /* peer must have just disconnected */
1235       GNUNET_STATISTICS_update (GSF_stats,
1236                                 gettext_noop ("# requests dropped due to initiator not being connected"),
1237                                 1,
1238                                 GNUNET_NO);
1239       return NULL;
1240     }
1241   if (0 != (bm & GET_MESSAGE_BIT_RETURN_TO))
1242     cp = GNUNET_CONTAINER_multihashmap_get (cp_map,
1243                                             &opt[bits++]);
1244   else
1245     cp = cps;
1246   if (cp == NULL)
1247     {
1248 #if DEBUG_FS
1249       if (0 != (bm & GET_MESSAGE_BIT_RETURN_TO))
1250         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1251                     "Failed to find RETURN-TO peer `%4s' in connection set. Dropping query.\n",
1252                     GNUNET_i2s ((const struct GNUNET_PeerIdentity*) &opt[bits-1]));
1253
1254       else
1255         GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1256                     "Failed to find peer `%4s' in connection set. Dropping query.\n",
1257                     GNUNET_i2s (other));
1258 #endif
1259       GNUNET_STATISTICS_update (GSF_stats,
1260                                 gettext_noop ("# requests dropped due to missing reverse route"),
1261                                 1,
1262                                 GNUNET_NO);
1263       return NULL;
1264     }
1265   /* note that we can really only check load here since otherwise
1266      peers could find out that we are overloaded by not being
1267      disconnected after sending us a malformed query... */
1268   priority = bound_priority (ntohl (gm->priority), cps);
1269   if (priority < 0)
1270     {
1271 #if DEBUG_FS
1272       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1273                   "Dropping query from `%s', this peer is too busy.\n",
1274                   GNUNET_i2s (other));
1275 #endif
1276       return NULL;
1277     }
1278 #if DEBUG_FS
1279   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1280               "Received request for `%s' of type %u from peer `%4s' with flags %u\n",
1281               GNUNET_h2s (&gm->query),
1282               (unsigned int) type,
1283               GNUNET_i2s (other),
1284               (unsigned int) bm);
1285 #endif
1286   namespace = (0 != (bm & GET_MESSAGE_BIT_SKS_NAMESPACE)) ? &opt[bits++] : NULL;
1287   if ( (type == GNUNET_BLOCK_TYPE_FS_SBLOCK) &&
1288        (namespace == NULL) )
1289     {
1290       GNUNET_break_op (0);
1291       return NULL;
1292     }
1293   if ( (type != GNUNET_BLOCK_TYPE_FS_SBLOCK) &&
1294        (namespace != NULL) )
1295     {
1296       GNUNET_break_op (0);
1297       return NULL;
1298     }
1299   target = (0 != (bm & GET_MESSAGE_BIT_TRANSMIT_TO)) ? ((const struct GNUNET_PeerIdentity*) &opt[bits++]) : NULL;
1300   options = 0;
1301   spid = 0;
1302   if ( (GNUNET_LOAD_get_load (cp->ppd.transmission_delay) > 3 * (1 + priority)) ||
1303        (GNUNET_LOAD_get_average (cp->ppd.transmission_delay) >
1304         GNUNET_CONSTANTS_MAX_CORK_DELAY.rel_value * 2 + GNUNET_LOAD_get_average (GSF_rt_entry_lifetime)) )
1305     {
1306       /* don't have BW to send to peer, or would likely take longer than we have for it,
1307          so at best indirect the query */
1308       priority = 0;
1309       options |= GSF_PRO_FORWARD_ONLY;
1310       spid = GNUNET_PEER_intern (other);
1311       GNUNET_assert (0 != spid);
1312     }
1313   ttl = bound_ttl (ntohl (gm->ttl), priority);
1314   /* decrement ttl (always) */
1315   ttl_decrement = 2 * TTL_DECREMENT +
1316     GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK,
1317                               TTL_DECREMENT);
1318   if ( (ttl < 0) &&
1319        (((int32_t)(ttl - ttl_decrement)) > 0) )
1320     {
1321 #if DEBUG_FS
1322       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1323                   "Dropping query from `%s' due to TTL underflow (%d - %u).\n",
1324                   GNUNET_i2s (other),
1325                   ttl,
1326                   ttl_decrement);
1327 #endif
1328       GNUNET_STATISTICS_update (GSF_stats,
1329                                 gettext_noop ("# requests dropped due TTL underflow"),
1330                                 1,
1331                                 GNUNET_NO);
1332       /* integer underflow => drop (should be very rare)! */
1333       return NULL;
1334     }
1335   ttl -= ttl_decrement;
1336
1337   /* test if the request already exists */
1338   peerreq = GNUNET_CONTAINER_multihashmap_get (cp->request_map,
1339                                                &gm->query);
1340   if (peerreq != NULL)
1341     {
1342       pr = peerreq->pr;
1343       prd = GSF_pending_request_get_data_ (pr);
1344       if ( (prd->type == type) &&
1345            ( (type != GNUNET_BLOCK_TYPE_FS_SBLOCK) ||
1346              (0 == memcmp (&prd->namespace,
1347                            namespace,
1348                            sizeof (GNUNET_HashCode))) ) )
1349         {
1350           if (prd->ttl.abs_value >= GNUNET_TIME_absolute_get().abs_value + ttl)
1351             {
1352               /* existing request has higher TTL, drop new one! */
1353               prd->priority += priority;
1354 #if DEBUG_FS
1355               GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1356                           "Have existing request with higher TTL, dropping new request.\n",
1357                           GNUNET_i2s (other));
1358 #endif
1359               GNUNET_STATISTICS_update (GSF_stats,
1360                                         gettext_noop ("# requests dropped due to higher-TTL request"),
1361                                         1,
1362                                         GNUNET_NO);
1363               return NULL;
1364             }
1365           /* existing request has lower TTL, drop old one! */
1366           GNUNET_STATISTICS_update (GSF_stats,
1367                                     gettext_noop ("# P2P searches active"),
1368                                     -1,
1369                                     GNUNET_NO);
1370           priority += prd->priority;
1371           GSF_pending_request_cancel_ (pr);
1372           GNUNET_assert (GNUNET_YES ==
1373                          GNUNET_CONTAINER_multihashmap_remove (cp->request_map,
1374                                                                &gm->query,
1375                                                                peerreq));
1376           if (peerreq->kill_task != GNUNET_SCHEDULER_NO_TASK)
1377             {
1378               GNUNET_SCHEDULER_cancel (peerreq->kill_task);
1379               peerreq->kill_task = GNUNET_SCHEDULER_NO_TASK;
1380             }
1381           GNUNET_free (peerreq);
1382         }
1383     }
1384
1385   peerreq = GNUNET_malloc (sizeof (struct PeerRequest));
1386   peerreq->cp = cp;
1387   pr = GSF_pending_request_create_ (options,
1388                                     type,
1389                                     &gm->query,
1390                                     namespace,
1391                                     target,
1392                                     (bfsize > 0) ? (const char*)&opt[bits] : NULL,
1393                                     bfsize,
1394                                     ntohl (gm->filter_mutator),
1395                                     1 /* anonymity */,
1396                                     (uint32_t) priority,
1397                                     ttl,
1398                                     spid,
1399                                     NULL, 0, /* replies_seen */
1400                                     &handle_p2p_reply,
1401                                     peerreq);
1402   GNUNET_assert (NULL != pr);
1403   peerreq->pr = pr;
1404   GNUNET_break (GNUNET_OK ==
1405                 GNUNET_CONTAINER_multihashmap_put (cp->request_map,
1406                                                    &gm->query,
1407                                                    peerreq,
1408                                                    GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE));
1409   GNUNET_STATISTICS_update (GSF_stats,
1410                             gettext_noop ("# P2P query messages received and processed"),
1411                             1,
1412                             GNUNET_NO);
1413   GNUNET_STATISTICS_update (GSF_stats,
1414                             gettext_noop ("# P2P searches active"),
1415                             1,
1416                             GNUNET_NO);
1417   return pr;
1418 }
1419
1420
1421 /**
1422  * Function called if there has been a timeout trying to satisfy
1423  * a transmission request.
1424  *
1425  * @param cls the 'struct GSF_PeerTransmitHandle' of the request
1426  * @param tc scheduler context
1427  */
1428 static void
1429 peer_transmit_timeout (void *cls,
1430                        const struct GNUNET_SCHEDULER_TaskContext *tc)
1431 {
1432   struct GSF_PeerTransmitHandle *pth = cls;
1433   struct GSF_ConnectedPeer *cp;
1434
1435 #if DEBUG_FS
1436   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1437               "Timeout trying to transmit to other peer\n");
1438 #endif
1439   pth->timeout_task = GNUNET_SCHEDULER_NO_TASK;
1440   cp = pth->cp;
1441   GNUNET_CONTAINER_DLL_remove (cp->pth_head,
1442                                cp->pth_tail,
1443                                pth);
1444   if (GNUNET_YES == pth->is_query)
1445     GNUNET_assert (0 < cp->ppd.pending_queries--);
1446   else if (GNUNET_NO == pth->is_query)
1447     GNUNET_assert (0 < cp->ppd.pending_replies--);
1448   GNUNET_LOAD_update (cp->ppd.transmission_delay,
1449                       UINT64_MAX);
1450   if (NULL != pth->cth)
1451     {
1452       GNUNET_CORE_notify_transmit_ready_cancel (pth->cth);
1453       pth->cth = NULL;
1454     }
1455   pth->gmc (pth->gmc_cls,
1456             0, NULL);
1457   GNUNET_assert (0 == pth->cth_in_progress);
1458   GNUNET_free (pth);
1459 }
1460
1461
1462 /**
1463  * Transmit a message to the given peer as soon as possible.
1464  * If the peer disconnects before the transmission can happen,
1465  * the callback is invoked with a 'NULL' buffer.
1466  *
1467  * @param cp target peer
1468  * @param is_query is this a query (GNUNET_YES) or content (GNUNET_NO) or neither (GNUNET_SYSERR)
1469  * @param priority how important is this request?
1470  * @param timeout when does this request timeout (call gmc with error)
1471  * @param size number of bytes we would like to send to the peer
1472  * @param gmc function to call to get the message
1473  * @param gmc_cls closure for gmc
1474  * @return handle to cancel request
1475  */
1476 struct GSF_PeerTransmitHandle *
1477 GSF_peer_transmit_ (struct GSF_ConnectedPeer *cp,
1478                     int is_query,
1479                     uint32_t priority,
1480                     struct GNUNET_TIME_Relative timeout,
1481                     size_t size,
1482                     GSF_GetMessageCallback gmc,
1483                     void *gmc_cls)
1484 {
1485   struct GSF_PeerTransmitHandle *pth;
1486   struct GSF_PeerTransmitHandle *pos;
1487   struct GSF_PeerTransmitHandle *prev;
1488
1489   pth = GNUNET_malloc (sizeof (struct GSF_PeerTransmitHandle));
1490   pth->transmission_request_start_time = GNUNET_TIME_absolute_get ();
1491   pth->timeout = GNUNET_TIME_relative_to_absolute (timeout);
1492   pth->gmc = gmc;
1493   pth->gmc_cls = gmc_cls;
1494   pth->size = size;
1495   pth->is_query = is_query;
1496   pth->priority = priority;
1497   pth->cp = cp;
1498   /* insertion sort (by priority, descending) */
1499   prev = NULL;
1500   pos = cp->pth_head;
1501   while ( (pos != NULL) &&
1502           (pos->priority > priority) )
1503     {
1504       prev = pos;
1505       pos = pos->next;
1506     }
1507   if (prev == NULL)
1508     GNUNET_CONTAINER_DLL_insert (cp->pth_head,
1509                                  cp->pth_tail,
1510                                  pth);
1511   else
1512     GNUNET_CONTAINER_DLL_insert_after (cp->pth_head,
1513                                        cp->pth_tail,
1514                                        prev,
1515                                        pth);
1516   if (GNUNET_YES == is_query)
1517     cp->ppd.pending_queries++;
1518   else if (GNUNET_NO == is_query)
1519     cp->ppd.pending_replies++;
1520   pth->timeout_task = GNUNET_SCHEDULER_add_delayed (timeout,
1521                                                     &peer_transmit_timeout,
1522                                                     pth);
1523   schedule_transmission (pth);
1524   return pth;
1525 }
1526
1527
1528 /**
1529  * Cancel an earlier request for transmission.
1530  *
1531  * @param pth request to cancel
1532  */
1533 void
1534 GSF_peer_transmit_cancel_ (struct GSF_PeerTransmitHandle *pth)
1535 {
1536   struct GSF_ConnectedPeer *cp;
1537
1538   if (pth->timeout_task != GNUNET_SCHEDULER_NO_TASK)
1539     {
1540       GNUNET_SCHEDULER_cancel (pth->timeout_task);
1541       pth->timeout_task = GNUNET_SCHEDULER_NO_TASK;
1542     }
1543   if (NULL != pth->cth)
1544     {
1545       GNUNET_CORE_notify_transmit_ready_cancel (pth->cth);
1546       pth->cth = NULL;
1547     }
1548   cp = pth->cp;
1549   GNUNET_CONTAINER_DLL_remove (cp->pth_head,
1550                                cp->pth_tail,
1551                                pth);
1552   if (GNUNET_YES == pth->is_query)
1553     GNUNET_assert (0 < cp->ppd.pending_queries--);
1554   else if (GNUNET_NO == pth->is_query)
1555     GNUNET_assert (0 < cp->ppd.pending_replies--);
1556   GNUNET_assert (0 == pth->cth_in_progress);
1557   GNUNET_free (pth);
1558 }
1559
1560
1561 /**
1562  * Report on receiving a reply; update the performance record of the given peer.
1563  *
1564  * @param cp responding peer (will be updated)
1565  * @param request_time time at which the original query was transmitted
1566  * @param request_priority priority of the original request
1567  */
1568 void
1569 GSF_peer_update_performance_ (struct GSF_ConnectedPeer *cp,
1570                               struct GNUNET_TIME_Absolute request_time,
1571                               uint32_t request_priority)
1572 {
1573   struct GNUNET_TIME_Relative delay;
1574
1575   delay = GNUNET_TIME_absolute_get_duration (request_time);
1576   cp->ppd.avg_reply_delay.rel_value = (cp->ppd.avg_reply_delay.rel_value * (RUNAVG_DELAY_N-1) + delay.rel_value) / RUNAVG_DELAY_N;
1577   cp->ppd.avg_priority = (cp->ppd.avg_priority * (RUNAVG_DELAY_N-1) + request_priority) / RUNAVG_DELAY_N;
1578 }
1579
1580
1581 /**
1582  * Report on receiving a reply in response to an initiating client.
1583  * Remember that this peer is good for this client.
1584  *
1585  * @param cp responding peer (will be updated)
1586  * @param initiator_client local client on responsible for query
1587  */
1588 void
1589 GSF_peer_update_responder_client_ (struct GSF_ConnectedPeer *cp,
1590                                    struct GSF_LocalClient *initiator_client)
1591 {
1592   cp->ppd.last_client_replies[cp->last_client_replies_woff++ % CS2P_SUCCESS_LIST_SIZE] = initiator_client;
1593 }
1594
1595
1596 /**
1597  * Report on receiving a reply in response to an initiating peer.
1598  * Remember that this peer is good for this initiating peer.
1599  *
1600  * @param cp responding peer (will be updated)
1601  * @param initiator_peer other peer responsible for query
1602  */
1603 void
1604 GSF_peer_update_responder_peer_ (struct GSF_ConnectedPeer *cp,
1605                                  const struct GSF_ConnectedPeer *initiator_peer)
1606 {
1607   GNUNET_PEER_change_rc (cp->ppd.last_p2p_replies[cp->last_p2p_replies_woff % P2P_SUCCESS_LIST_SIZE], -1);
1608   cp->ppd.last_p2p_replies[cp->last_p2p_replies_woff++ % P2P_SUCCESS_LIST_SIZE] = initiator_peer->ppd.pid;
1609   GNUNET_PEER_change_rc (initiator_peer->ppd.pid, 1);
1610 }
1611
1612
1613 /**
1614  * Method called whenever a given peer has a status change.
1615  *
1616  * @param cls closure
1617  * @param peer peer identity this notification is about
1618  * @param bandwidth_in available amount of inbound bandwidth
1619  * @param bandwidth_out available amount of outbound bandwidth
1620  * @param timeout absolute time when this peer will time out
1621  *        unless we see some further activity from it
1622  * @param atsi status information
1623  */
1624 void
1625 GSF_peer_status_handler_ (void *cls,
1626                           const struct GNUNET_PeerIdentity *peer,
1627                           struct GNUNET_BANDWIDTH_Value32NBO bandwidth_in,
1628                           struct GNUNET_BANDWIDTH_Value32NBO bandwidth_out,
1629                           struct GNUNET_TIME_Absolute timeout,
1630                           const struct GNUNET_TRANSPORT_ATS_Information *atsi)
1631 {
1632   struct GSF_ConnectedPeer *cp;
1633
1634   cp = GNUNET_CONTAINER_multihashmap_get (cp_map,
1635                                           &peer->hashPubKey);
1636   GNUNET_assert (NULL != cp);
1637   update_atsi (cp, atsi);
1638 }
1639
1640
1641 /**
1642  * A peer disconnected from us.  Tear down the connected peer
1643  * record.
1644  *
1645  * @param cls unused
1646  * @param peer identity of peer that connected
1647  */
1648 void
1649 GSF_peer_disconnect_handler_ (void *cls,
1650                               const struct GNUNET_PeerIdentity *peer)
1651 {
1652   struct GSF_ConnectedPeer *cp;
1653   struct GSF_PeerTransmitHandle *pth;
1654   struct GSF_DelayedHandle *dh;
1655
1656   cp = GNUNET_CONTAINER_multihashmap_get (cp_map,
1657                                           &peer->hashPubKey);
1658   if (NULL == cp)
1659     return; /* must have been disconnect from core with
1660                'peer' == my_id, ignore */
1661   GNUNET_assert (GNUNET_YES ==
1662                  GNUNET_CONTAINER_multihashmap_remove (cp_map,
1663                                                        &peer->hashPubKey,
1664                                                        cp));
1665   if (NULL != cp->migration_pth)
1666     {
1667       GSF_peer_transmit_cancel_ (cp->migration_pth);
1668       cp->migration_pth = NULL;
1669     }
1670   if (NULL != cp->irc)
1671     {
1672       GNUNET_CORE_peer_change_preference_cancel (cp->irc);
1673       cp->irc = NULL;
1674     }
1675   if (GNUNET_SCHEDULER_NO_TASK != cp->irc_delay_task)
1676     {
1677       GNUNET_SCHEDULER_cancel (cp->irc_delay_task);
1678       cp->irc_delay_task = GNUNET_SCHEDULER_NO_TASK;
1679     }
1680   GNUNET_CONTAINER_multihashmap_iterate (cp->request_map,
1681                                          &cancel_pending_request,
1682                                          cp);
1683   GNUNET_CONTAINER_multihashmap_destroy (cp->request_map);
1684   cp->request_map = NULL;
1685   GSF_plan_notify_peer_disconnect_ (cp);
1686   GNUNET_LOAD_value_free (cp->ppd.transmission_delay);
1687   GNUNET_PEER_decrement_rcs (cp->ppd.last_p2p_replies, P2P_SUCCESS_LIST_SIZE);
1688   GSF_push_stop_ (cp);
1689   while (NULL != (pth = cp->pth_head))
1690     {
1691       if (NULL != pth->cth)
1692         {
1693           GNUNET_CORE_notify_transmit_ready_cancel (pth->cth);
1694           pth->cth = NULL;
1695         }
1696       if (pth->timeout_task != GNUNET_SCHEDULER_NO_TASK)
1697         {
1698           GNUNET_SCHEDULER_cancel (pth->timeout_task);
1699           pth->timeout_task = GNUNET_SCHEDULER_NO_TASK;
1700         }
1701       GNUNET_CONTAINER_DLL_remove (cp->pth_head,
1702                                    cp->pth_tail,
1703                                    pth);
1704       GNUNET_assert (0 == pth->cth_in_progress);
1705       pth->gmc (pth->gmc_cls,
1706                 0, NULL);
1707       GNUNET_free (pth);
1708     }
1709   while (NULL != (dh = cp->delayed_head))
1710     {
1711       GNUNET_CONTAINER_DLL_remove (cp->delayed_head,
1712                                    cp->delayed_tail,
1713                                    dh);
1714       GNUNET_SCHEDULER_cancel (dh->delay_task);
1715       GNUNET_free (dh->pm);
1716       GNUNET_free (dh);
1717     }
1718   GNUNET_PEER_change_rc (cp->ppd.pid, -1);
1719   if (GNUNET_SCHEDULER_NO_TASK != cp->mig_revive_task)
1720     {
1721       GNUNET_SCHEDULER_cancel (cp->mig_revive_task);
1722       cp->mig_revive_task = GNUNET_SCHEDULER_NO_TASK;
1723     }
1724   GNUNET_free (cp);
1725 }
1726
1727
1728 /**
1729  * Closure for 'call_iterator'.
1730  */
1731 struct IterationContext
1732 {
1733   /**
1734    * Function to call on each entry.
1735    */
1736   GSF_ConnectedPeerIterator it;
1737
1738   /**
1739    * Closure for 'it'.
1740    */
1741   void *it_cls;
1742 };
1743
1744
1745 /**
1746  * Function that calls the callback for each peer.
1747  *
1748  * @param cls the 'struct IterationContext*'
1749  * @param key identity of the peer
1750  * @param value the 'struct GSF_ConnectedPeer*'
1751  * @return GNUNET_YES to continue iteration
1752  */
1753 static int
1754 call_iterator (void *cls,
1755                const GNUNET_HashCode *key,
1756                void *value)
1757 {
1758   struct IterationContext *ic = cls;
1759   struct GSF_ConnectedPeer *cp = value;
1760
1761   ic->it (ic->it_cls,
1762           (const struct GNUNET_PeerIdentity*) key,
1763           cp,
1764           &cp->ppd);
1765   return GNUNET_YES;
1766 }
1767
1768
1769 /**
1770  * Iterate over all connected peers.
1771  *
1772  * @param it function to call for each peer
1773  * @param it_cls closure for it
1774  */
1775 void
1776 GSF_iterate_connected_peers_ (GSF_ConnectedPeerIterator it,
1777                               void *it_cls)
1778 {
1779   struct IterationContext ic;
1780
1781   ic.it = it;
1782   ic.it_cls = it_cls;
1783   GNUNET_CONTAINER_multihashmap_iterate (cp_map,
1784                                          &call_iterator,
1785                                          &ic);
1786 }
1787
1788
1789 /**
1790  * Obtain the identity of a connected peer.
1791  *
1792  * @param cp peer to reserve bandwidth from
1793  * @param id identity to set (written to)
1794  */
1795 void
1796 GSF_connected_peer_get_identity_ (const struct GSF_ConnectedPeer *cp,
1797                                   struct GNUNET_PeerIdentity *id)
1798 {
1799   GNUNET_assert (0 != cp->ppd.pid);
1800   GNUNET_PEER_resolve (cp->ppd.pid,
1801                        id);
1802 }
1803
1804
1805 /**
1806  * Assemble a migration stop message for transmission.
1807  *
1808  * @param cls the 'struct GSF_ConnectedPeer' to use
1809  * @param size number of bytes we're allowed to write to buf
1810  * @param buf where to copy the message
1811  * @return number of bytes copied to buf
1812  */
1813 static size_t
1814 create_migration_stop_message (void *cls,
1815                                size_t size,
1816                                void *buf)
1817 {
1818   struct GSF_ConnectedPeer *cp = cls;
1819   struct MigrationStopMessage msm;
1820
1821   cp->migration_pth = NULL;
1822   if (NULL == buf)
1823     return 0;
1824   GNUNET_assert (size >= sizeof (struct MigrationStopMessage));
1825   msm.header.size = htons (sizeof (struct MigrationStopMessage));
1826   msm.header.type = htons (GNUNET_MESSAGE_TYPE_FS_MIGRATION_STOP);
1827   msm.reserved = htonl (0);
1828   msm.duration = GNUNET_TIME_relative_hton (GNUNET_TIME_absolute_get_remaining (cp->last_migration_block));
1829   memcpy (buf, &msm, sizeof (struct MigrationStopMessage));
1830   return sizeof (struct MigrationStopMessage);
1831 }
1832
1833
1834 /**
1835  * Ask a peer to stop migrating data to us until the given point
1836  * in time.
1837  *
1838  * @param cp peer to ask
1839  * @param block_time until when to block
1840  */
1841 void
1842 GSF_block_peer_migration_ (struct GSF_ConnectedPeer *cp,
1843                            struct GNUNET_TIME_Relative block_time)
1844 {
1845   if (GNUNET_TIME_absolute_get_remaining (cp->last_migration_block).rel_value > block_time.rel_value)
1846     {
1847 #if DEBUG_FS && 0
1848       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1849           "Migration already blocked for another %llu ms\n",
1850                   (unsigned long long) GNUNET_TIME_absolute_get_remaining (cp->last_migration_block).rel_value);
1851 #endif
1852       return; /* already blocked */
1853     }
1854 #if DEBUG_FS && 0
1855   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1856               "Asking to stop migration for %llu ms\n",
1857               (unsigned long long) block_time.rel_value);
1858 #endif
1859   cp->last_migration_block = GNUNET_TIME_relative_to_absolute (block_time);
1860   if (cp->migration_pth != NULL)
1861     GSF_peer_transmit_cancel_ (cp->migration_pth);
1862   cp->migration_pth
1863     = GSF_peer_transmit_ (cp,
1864                           GNUNET_SYSERR,
1865                           UINT32_MAX,
1866                           GNUNET_TIME_UNIT_FOREVER_REL,
1867                           sizeof (struct MigrationStopMessage),
1868                           &create_migration_stop_message,
1869                           cp);
1870 }
1871
1872
1873 /**
1874  * Write host-trust information to a file - flush the buffer entry!
1875  *
1876  * @param cls closure, not used
1877  * @param key host identity
1878  * @param value the 'struct GSF_ConnectedPeer' to flush
1879  * @return GNUNET_OK to continue iteration
1880  */
1881 static int
1882 flush_trust (void *cls,
1883              const GNUNET_HashCode *key,
1884              void *value)
1885 {
1886   struct GSF_ConnectedPeer *cp = value;
1887   char *fn;
1888   uint32_t trust;
1889   struct GNUNET_PeerIdentity pid;
1890
1891   if (cp->ppd.trust == cp->disk_trust)
1892     return GNUNET_OK;                     /* unchanged */
1893   GNUNET_assert (0 != cp->ppd.pid);
1894   GNUNET_PEER_resolve (cp->ppd.pid,
1895                        &pid);
1896   fn = get_trust_filename (&pid);
1897   if (cp->ppd.trust == 0)
1898     {
1899       if ((0 != UNLINK (fn)) && (errno != ENOENT))
1900         GNUNET_log_strerror_file (GNUNET_ERROR_TYPE_WARNING |
1901                                   GNUNET_ERROR_TYPE_BULK, "unlink", fn);
1902     }
1903   else
1904     {
1905       trust = htonl (cp->ppd.trust);
1906       if (sizeof(uint32_t) == GNUNET_DISK_fn_write (fn, &trust,
1907                                                     sizeof(uint32_t),
1908                                                     GNUNET_DISK_PERM_USER_READ | GNUNET_DISK_PERM_USER_WRITE
1909                                                     | GNUNET_DISK_PERM_GROUP_READ | GNUNET_DISK_PERM_OTHER_READ))
1910         cp->disk_trust = cp->ppd.trust;
1911     }
1912   GNUNET_free (fn);
1913   return GNUNET_OK;
1914 }
1915
1916
1917 /**
1918  * Notify core about a preference we have for the given peer
1919  * (to allocate more resources towards it).  The change will
1920  * be communicated the next time we reserve bandwidth with
1921  * core (not instantly).
1922  *
1923  * @param cp peer to reserve bandwidth from
1924  * @param pref preference change
1925  */
1926 void
1927 GSF_connected_peer_change_preference_ (struct GSF_ConnectedPeer *cp,
1928                                        uint64_t pref)
1929 {
1930   cp->inc_preference += pref;
1931 }
1932
1933
1934 /**
1935  * Call this method periodically to flush trust information to disk.
1936  *
1937  * @param cls closure, not used
1938  * @param tc task context, not used
1939  */
1940 static void
1941 cron_flush_trust (void *cls,
1942                   const struct GNUNET_SCHEDULER_TaskContext *tc)
1943 {
1944
1945   if (NULL == cp_map)
1946     return;
1947   GNUNET_CONTAINER_multihashmap_iterate (cp_map,
1948                                          &flush_trust,
1949                                          NULL);
1950   if (NULL == tc)
1951     return;
1952   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1953     return;
1954   GNUNET_SCHEDULER_add_delayed (TRUST_FLUSH_FREQ,
1955                                 &cron_flush_trust,
1956                                 NULL);
1957 }
1958
1959
1960 /**
1961  * Initialize peer management subsystem.
1962  */
1963 void
1964 GSF_connected_peer_init_ ()
1965 {
1966   cp_map = GNUNET_CONTAINER_multihashmap_create (128);
1967   GNUNET_assert (GNUNET_OK ==
1968                  GNUNET_CONFIGURATION_get_value_filename (GSF_cfg,
1969                                                           "fs",
1970                                                           "TRUST",
1971                                                           &trustDirectory));
1972   GNUNET_DISK_directory_create (trustDirectory);
1973   GNUNET_SCHEDULER_add_with_priority (GNUNET_SCHEDULER_PRIORITY_HIGH,
1974                                       &cron_flush_trust, NULL);
1975 }
1976
1977
1978 /**
1979  * Iterator to free peer entries.
1980  *
1981  * @param cls closure, unused
1982  * @param key current key code
1983  * @param value value in the hash map (peer entry)
1984  * @return GNUNET_YES (we should continue to iterate)
1985  */
1986 static int
1987 clean_peer (void *cls,
1988             const GNUNET_HashCode * key,
1989             void *value)
1990 {
1991   GSF_peer_disconnect_handler_ (NULL,
1992                                 (const struct GNUNET_PeerIdentity*) key);
1993   return GNUNET_YES;
1994 }
1995
1996
1997 /**
1998  * Shutdown peer management subsystem.
1999  */
2000 void
2001 GSF_connected_peer_done_ ()
2002 {
2003   cron_flush_trust (NULL, NULL);
2004   GNUNET_CONTAINER_multihashmap_iterate (cp_map,
2005                                          &clean_peer,
2006                                          NULL);
2007   GNUNET_CONTAINER_multihashmap_destroy (cp_map);
2008   cp_map = NULL;
2009   GNUNET_free (trustDirectory);
2010   trustDirectory = NULL;
2011 }
2012
2013
2014 /**
2015  * Iterator to remove references to LC entry.
2016  *
2017  * @param cls the 'struct GSF_LocalClient*' to look for
2018  * @param key current key code
2019  * @param value value in the hash map (peer entry)
2020  * @return GNUNET_YES (we should continue to iterate)
2021  */
2022 static int
2023 clean_local_client (void *cls,
2024                     const GNUNET_HashCode * key,
2025                     void *value)
2026 {
2027   const struct GSF_LocalClient *lc = cls;
2028   struct GSF_ConnectedPeer *cp = value;
2029   unsigned int i;
2030
2031   for (i=0;i<CS2P_SUCCESS_LIST_SIZE;i++)
2032     if (cp->ppd.last_client_replies[i] == lc)
2033       cp->ppd.last_client_replies[i] = NULL;
2034   return GNUNET_YES;
2035 }
2036
2037
2038 /**
2039  * Notification that a local client disconnected.  Clean up all of our
2040  * references to the given handle.
2041  *
2042  * @param lc handle to the local client (henceforth invalid)
2043  */
2044 void
2045 GSF_handle_local_client_disconnect_ (const struct GSF_LocalClient *lc)
2046 {
2047   if (NULL == cp_map)
2048     return; /* already cleaned up */
2049   GNUNET_CONTAINER_multihashmap_iterate (cp_map,
2050                                          &clean_local_client,
2051                                          (void*) lc);
2052 }
2053
2054
2055 /* end of gnunet-service-fs_cp.c */