874280a50601646d0f208ecdde49283655042a65
[oweals/gnunet.git] / src / rps / gnunet-service-rps.c
1 /*
2      This file is part of GNUnet.
3      Copyright (C)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file rps/gnunet-service-rps.c
23  * @brief rps service implementation
24  * @author Julius Bünger
25  */
26 #include "platform.h"
27 #include "gnunet_util_lib.h"
28 #include "gnunet_cadet_service.h"
29 #include "gnunet_nse_service.h"
30 #include "rps.h"
31
32 #include "gnunet-service-rps_sampler.h"
33
34 #include <math.h>
35 #include <inttypes.h>
36
37 #define LOG(kind, ...) GNUNET_log(kind, __VA_ARGS__)
38
39 // TODO modify @brief in every file
40
41 // TODO check for overflows
42
43 // TODO align message structs
44
45 // (TODO api -- possibility of getting weak random peer immideately)
46
47 // TODO malicious peer
48
49 // TODO connect to friends
50
51 // TODO store peers somewhere
52
53 // TODO ignore list?
54
55 // hist_size_init, hist_size_max
56
57 /**
58  * Our configuration.
59  */
60 static const struct GNUNET_CONFIGURATION_Handle *cfg;
61
62 /**
63  * Our own identity.
64  */
65 static struct GNUNET_PeerIdentity own_identity;
66
67
68   struct GNUNET_PeerIdentity *
69 get_rand_peer_ignore_list (const struct GNUNET_PeerIdentity *peer_list, unsigned int size,
70                            const struct GNUNET_PeerIdentity *ignore_list, unsigned int ignore_size);
71
72
73 /***********************************************************************
74  * Housekeeping with peers
75 ***********************************************************************/
76
77 /**
78  * Struct used to store the context of a connected client.
79  */
80 struct client_ctx
81 {
82   /**
83    * The message queue to communicate with the client.
84    */
85   struct GNUNET_MQ_Handle *mq;
86 };
87
88 /**
89  * Used to keep track in what lists single peerIDs are.
90  */
91 enum PeerFlags
92 {
93   PULL_REPLY_PENDING   = 0x01,
94   IN_OTHER_GOSSIP_LIST = 0x02, // unneeded?
95   IN_OWN_SAMPLER_LIST  = 0x04, // unneeded?
96   IN_OWN_GOSSIP_LIST   = 0x08, // unneeded?
97
98   /**
99    * We set this bit when we can be sure the other peer is/was live.
100    */
101   VALID                = 0x10
102 };
103
104
105 /**
106  * Functions of this type can be used to be stored at a peer for later execution.
107  */
108 typedef void (* PeerOp) (void *cls, const struct GNUNET_PeerIdentity *peer);
109
110 /**
111  * Outstanding operation on peer consisting of callback and closure
112  */
113 struct PeerOutstandingOp
114 {
115   /**
116    * Callback
117    */
118   PeerOp op;
119
120   /**
121    * Closure
122    */
123   void *op_cls;
124 };
125
126
127 /**
128  * Struct used to keep track of other peer's status
129  *
130  * This is stored in a multipeermap.
131  */
132 struct PeerContext
133 {
134   /**
135    * In own gossip/sampler list, in other's gossip/sampler list
136    */
137   uint32_t peer_flags;
138
139   /**
140    * Message queue open to client
141    */
142   struct GNUNET_MQ_Handle *mq;
143
144   /**
145    * Channel open to client.
146    */
147   struct GNUNET_CADET_Channel *send_channel;
148
149   /**
150    * Channel open from client.
151    */
152   struct GNUNET_CADET_Channel *recv_channel; // unneeded?
153
154   /**
155    * Array of outstanding operations on this peer.
156    */
157   struct PeerOutstandingOp *outstanding_ops;
158
159   /**
160    * Number of outstanding operations.
161    */
162   unsigned int num_outstanding_ops;
163   //size_t num_outstanding_ops;
164
165   /**
166    * Handle to the callback given to cadet_ntfy_tmt_rdy()
167    *
168    * To be canceled on shutdown.
169    */
170   struct GNUNET_CADET_TransmitHandle *is_live_task;
171
172   /**
173    * Identity of the peer
174    */
175   struct GNUNET_PeerIdentity peer_id;
176
177   /**
178    * This is pobably followed by 'statistical' data (when we first saw
179    * him, how did we get his ID, how many pushes (in a timeinterval),
180    * ...)
181    */
182 };
183
184 /***********************************************************************
185  * /Housekeeping with peers
186 ***********************************************************************/
187
188
189
190
191
192 /***********************************************************************
193  * Globals
194 ***********************************************************************/
195
196 /**
197  * Sampler used for the Brahms protocol itself.
198  */
199 static struct RPS_Sampler *prot_sampler;
200
201 /**
202  * Sampler used for the clients.
203  */
204 static struct RPS_Sampler *client_sampler;
205
206 /**
207  * Set of all peers to keep track of them.
208  */
209 static struct GNUNET_CONTAINER_MultiPeerMap *peer_map;
210
211
212 /**
213  * The gossiped list of peers.
214  */
215 static struct GNUNET_PeerIdentity *gossip_list;
216
217 /**
218  * Size of the gossiped list
219  */
220 //static unsigned int gossip_list_size;
221 static uint32_t gossip_list_size;
222
223
224 /**
225  * The size of sampler we need to be able to satisfy the client's need of
226  * random peers.
227  */
228 static unsigned int sampler_size_client_need;
229
230 /**
231  * The size of sampler we need to be able to satisfy the Brahms protocol's
232  * need of random peers.
233  *
234  * This is directly taken as the #gossip_list_size on update of the
235  * #gossip_list
236  *
237  * This is one minimum size the sampler grows to.
238  */
239 static unsigned int sampler_size_est_need;
240
241
242 /**
243  * Percentage of total peer number in the gossip list
244  * to send random PUSHes to
245  */
246 static float alpha;
247
248 /**
249  * Percentage of total peer number in the gossip list
250  * to send random PULLs to
251  */
252 static float beta;
253
254 /**
255  * The percentage gamma of history updates.
256  * Simply 1 - alpha - beta
257  */
258
259
260 /**
261  * Identifier for the main task that runs periodically.
262  */
263 static struct GNUNET_SCHEDULER_Task *do_round_task;
264
265 /**
266  * Time inverval the do_round task runs in.
267  */
268 static struct GNUNET_TIME_Relative round_interval;
269
270
271
272 /**
273  * List to store peers received through pushes temporary.
274  *
275  * TODO -> multipeermap
276  */
277 static struct GNUNET_PeerIdentity *push_list;
278
279 /**
280  * Size of the push_list;
281  */
282 static unsigned int push_list_size;
283 //size_t push_list_size;
284
285 /**
286  * List to store peers received through pulls temporary.
287  *
288  * TODO -> multipeermap
289  */
290 static struct GNUNET_PeerIdentity *pull_list;
291
292 /**
293  * Size of the pull_list;
294  */
295 static unsigned int pull_list_size;
296 //size_t pull_list_size;
297
298
299 /**
300  * Handler to NSE.
301  */
302 static struct GNUNET_NSE_Handle *nse;
303
304 /**
305  * Handler to CADET.
306  */
307 static struct GNUNET_CADET_Handle *cadet_handle;
308
309
310 /**
311  * Request counter.
312  *
313  * Only needed in the beginning to check how many of the 64 deltas
314  * we already have
315  */
316 static unsigned int req_counter;
317
318 /**
319  * Time of the last request we received.
320  *
321  * Used to compute the expected request rate.
322  */
323 static struct GNUNET_TIME_Absolute last_request;
324
325 /**
326  * Size of #request_deltas.
327  */
328 #define REQUEST_DELTAS_SIZE 64
329 static unsigned int request_deltas_size = REQUEST_DELTAS_SIZE;
330
331 /**
332  * Last 64 deltas between requests
333  */
334 static struct GNUNET_TIME_Relative request_deltas[REQUEST_DELTAS_SIZE];
335
336 /**
337  * The prediction of the rate of requests
338  */
339 static struct GNUNET_TIME_Relative  request_rate;
340
341
342 /**
343  * List with the peers we sent requests to.
344  */
345 struct GNUNET_PeerIdentity *pending_pull_reply_list;
346
347 /**
348  * Size of #pending_pull_reply_list.
349  */
350 uint32_t pending_pull_reply_list_size;
351
352
353 /**
354  * Number of history update tasks.
355  */
356 uint32_t num_hist_update_tasks;
357
358
359 /***********************************************************************
360  * /Globals
361 ***********************************************************************/
362
363
364
365
366
367
368 /***********************************************************************
369  * Util functions
370 ***********************************************************************/
371
372 /**
373  * Set a peer flag of given peer context.
374  */
375 #define set_peer_flag(peer_ctx, mask) (peer_ctx->peer_flags |= mask)
376
377 /**
378  * Get peer flag of given peer context.
379  */
380 #define get_peer_flag(peer_ctx, mask) (peer_ctx->peer_flags & mask ? GNUNET_YES : GNUNET_NO)
381
382 /**
383  * Unset flag of given peer context.
384  */
385 #define unset_peer_flag(peer_ctx, mask) (peer_ctx->peer_flags &= (~mask))
386
387
388 /**
389  * Clean the send channel of a peer
390  */
391 void
392 peer_clean (const struct GNUNET_PeerIdentity *peer);
393
394
395 /**
396  * Check if peer is already in peer array.
397  */
398   int
399 in_arr (const struct GNUNET_PeerIdentity *array,
400         unsigned int arr_size,
401         const struct GNUNET_PeerIdentity *peer)
402 {
403   GNUNET_assert (NULL != peer);
404
405   if (0 == arr_size)
406     return GNUNET_NO;
407
408   GNUNET_assert (NULL != array);
409
410   unsigned int i;
411
412   for (i = 0; i < arr_size ; i++)
413     if (0 == GNUNET_CRYPTO_cmp_peer_identity (&array[i], peer))
414       return GNUNET_YES;
415   return GNUNET_NO;
416 }
417
418
419 /**
420  * Print peerlist to log.
421  */
422 void
423 print_peer_list (struct GNUNET_PeerIdentity *list, unsigned int len)
424 {
425   unsigned int i;
426
427   LOG (GNUNET_ERROR_TYPE_DEBUG,
428        "Printing peer list of length %u at %p:\n",
429        len,
430        list);
431   for (i = 0 ; i < len ; i++)
432   {
433     LOG (GNUNET_ERROR_TYPE_DEBUG,
434          "%u. peer: %s\n",
435          i, GNUNET_i2s (&list[i]));
436   }
437 }
438
439
440 /**
441  * Remove peer from list.
442  */
443   void
444 rem_from_list (struct GNUNET_PeerIdentity **peer_list,
445                unsigned int *list_size,
446                const struct GNUNET_PeerIdentity *peer)
447 {
448   unsigned int i;
449   struct GNUNET_PeerIdentity *tmp;
450
451   tmp = *peer_list;
452
453   LOG (GNUNET_ERROR_TYPE_DEBUG,
454        "Removing peer %s from list at %p\n",
455        GNUNET_i2s (peer),
456        tmp);
457   print_peer_list (tmp, *list_size);
458
459   for ( i = 0 ; i < *list_size ; i++ )
460   {
461     if (0 == GNUNET_CRYPTO_cmp_peer_identity (&tmp[i], peer))
462     {
463       if (i < *list_size -1)
464       { /* Not at the last entry -- shift peers left */
465         memcpy (&tmp[i], &tmp[i +1],
466                 ((*list_size) - i -1) * sizeof (struct GNUNET_PeerIdentity));
467       }
468       /* Remove last entry (should be now useless PeerID) */
469       GNUNET_array_grow (tmp, *list_size, (*list_size) -1);
470     }
471   }
472   *peer_list = tmp;
473 }
474
475 /**
476  * Get random peer from the given list but don't return one from the @a ignore_list.
477  */
478   struct GNUNET_PeerIdentity *
479 get_rand_peer_ignore_list (const struct GNUNET_PeerIdentity *peer_list,
480                            uint32_t list_size,
481                            const struct GNUNET_PeerIdentity *ignore_list,
482                            uint32_t ignore_size)
483 {
484   uint32_t r_index;
485   uint32_t tmp_size;
486   struct GNUNET_PeerIdentity *tmp_peer_list;
487   struct GNUNET_PeerIdentity *peer;
488
489   GNUNET_assert (NULL != peer_list);
490   if (0 == list_size)
491     return NULL;
492
493   tmp_size = 0;
494   tmp_peer_list = NULL;
495   GNUNET_array_grow (tmp_peer_list, tmp_size, list_size);
496   memcpy (tmp_peer_list,
497           peer_list,
498           list_size * sizeof (struct GNUNET_PeerIdentity));
499   peer = GNUNET_new (struct GNUNET_PeerIdentity);
500
501   /**;
502    * Choose the r_index of the peer we want to return
503    * at random from the interval of the gossip list
504    */
505   r_index = GNUNET_CRYPTO_random_u64 (GNUNET_CRYPTO_QUALITY_STRONG,
506                                       tmp_size);
507   *peer = tmp_peer_list[r_index];
508
509   while (in_arr (ignore_list, ignore_size, peer))
510   {
511     rem_from_list (&tmp_peer_list, &tmp_size, peer);
512
513     print_peer_list (tmp_peer_list, tmp_size);
514
515     if (0 == tmp_size)
516     {
517       GNUNET_free (peer);
518       return NULL;
519     }
520
521     /**;
522      * Choose the r_index of the peer we want to return
523      * at random from the interval of the gossip list
524      */
525     r_index = GNUNET_CRYPTO_random_u64 (GNUNET_CRYPTO_QUALITY_STRONG,
526                                         tmp_size);
527     *peer = tmp_peer_list[r_index];
528   }
529
530
531   GNUNET_array_grow (tmp_peer_list, tmp_size, 0);
532
533   return peer;
534 }
535
536
537 /**
538  * Get the context of a peer. If not existing, create.
539  */
540   struct PeerContext *
541 get_peer_ctx (struct GNUNET_CONTAINER_MultiPeerMap *peer_map,
542               const struct GNUNET_PeerIdentity *peer)
543 {
544   struct PeerContext *ctx;
545
546   if ( GNUNET_YES == GNUNET_CONTAINER_multipeermap_contains (peer_map, peer))
547   {
548     ctx = GNUNET_CONTAINER_multipeermap_get (peer_map, peer);
549   }
550   else
551   {
552     ctx = GNUNET_new (struct PeerContext);
553     ctx->peer_flags = 0;
554     ctx->mq = NULL;
555     ctx->send_channel = NULL;
556     ctx->recv_channel = NULL;
557     ctx->outstanding_ops = NULL;
558     ctx->num_outstanding_ops = 0;
559     (void) GNUNET_CONTAINER_multipeermap_put (peer_map, peer, ctx,
560                                               GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_FAST);
561   }
562   return ctx;
563 }
564
565
566 /**
567  * Put random peer from sampler into the gossip list as history update.
568  */
569   void
570 hist_update (void *cls, struct GNUNET_PeerIdentity *ids, uint32_t num_peers)
571 {
572   GNUNET_assert (1 == num_peers);
573
574   if (gossip_list_size < sampler_size_est_need)
575     GNUNET_array_append (gossip_list, gossip_list_size, *ids);
576
577   if (0 < num_hist_update_tasks)
578     num_hist_update_tasks--;
579 }
580
581
582 /**
583  * Set the peer flag to living and call the outstanding operations on this peer.
584  */
585 static size_t
586 peer_is_live (struct PeerContext *peer_ctx)
587 {
588   struct GNUNET_PeerIdentity *peer;
589
590   peer = &peer_ctx->peer_id;
591   set_peer_flag (peer_ctx, VALID);
592
593   LOG (GNUNET_ERROR_TYPE_DEBUG, "Peer %s is live\n", GNUNET_i2s (peer));
594
595   if (0 != peer_ctx->num_outstanding_ops)
596   { /* Call outstanding operations */
597     unsigned int i;
598
599     for ( i = 0 ; i < peer_ctx->num_outstanding_ops ; i++ )
600       peer_ctx->outstanding_ops[i].op (peer_ctx->outstanding_ops[i].op_cls, peer);
601     GNUNET_array_grow (peer_ctx->outstanding_ops, peer_ctx->num_outstanding_ops, 0);
602   }
603
604   return 0;
605 }
606
607
608 /**
609  * Callback that is called when a channel was effectively established.
610  * This is given to ntfy_tmt_rdy and called when the channel was
611  * successfully established.
612  */
613 static size_t
614 cadet_ntfy_tmt_rdy_cb (void *cls, size_t size, void *buf)
615 {
616   struct PeerContext *peer_ctx = (struct PeerContext *) cls;
617
618   if (NULL != buf
619       && 0 != size)
620     peer_is_live (peer_ctx);
621
622   //if (NULL != peer_ctx->is_live_task)
623   //{
624   //  LOG (GNUNET_ERROR_TYPE_DEBUG,
625   //       "Trying to cancle is_live_task for peer %s\n",
626   //       GNUNET_i2s (&peer_ctx->peer_id));
627   //  GNUNET_CADET_notify_transmit_ready_cancel (peer_ctx->is_live_task);
628   //  peer_ctx->is_live_task = NULL;
629   //}
630   peer_ctx->is_live_task = NULL;
631
632   return 0;
633 }
634
635
636 /**
637  * Get the channel of a peer. If not existing, create.
638  */
639   struct GNUNET_CADET_Channel *
640 get_channel (struct GNUNET_CONTAINER_MultiPeerMap *peer_map,
641              const struct GNUNET_PeerIdentity *peer)
642 {
643   struct PeerContext *ctx;
644
645   LOG (GNUNET_ERROR_TYPE_DEBUG,
646        "Trying to establish channel to peer %s\n",
647        GNUNET_i2s (peer));
648
649   ctx = get_peer_ctx (peer_map, peer);
650   if (NULL == ctx->send_channel)
651   {
652     ctx->send_channel = GNUNET_CADET_channel_create (cadet_handle,
653                                                      NULL,
654                                                      peer,
655                                                      GNUNET_RPS_CADET_PORT,
656                                                      GNUNET_CADET_OPTION_RELIABLE);
657
658     /* If we don't know whether peer is live,
659      * get notified when we know it is live. */
660     if (NULL == ctx->recv_channel
661         && NULL == ctx->is_live_task)
662     {
663       ctx->peer_id = *peer;
664       LOG (GNUNET_ERROR_TYPE_DEBUG,
665            "Get informed about peer %s getting live\n",
666            GNUNET_i2s (peer));
667       ctx->is_live_task =
668           GNUNET_CADET_notify_transmit_ready (ctx->send_channel,
669                                               GNUNET_NO,
670                                               GNUNET_TIME_UNIT_FOREVER_REL,
671                                               sizeof (struct GNUNET_MessageHeader),
672                                               cadet_ntfy_tmt_rdy_cb,
673                                               ctx);
674     }
675     // FIXME check whether this is NULL
676
677     // do I have to explicitly put it in the peer_map?
678     (void) GNUNET_CONTAINER_multipeermap_put
679       (peer_map,
680        peer,
681        ctx,
682        GNUNET_CONTAINER_MULTIHASHMAPOPTION_REPLACE);
683   }
684   return ctx->send_channel;
685 }
686
687
688 /**
689  * Get the message queue of a specific peer.
690  *
691  * If we already have a message queue open to this client,
692  * simply return it, otherways create one.
693  */
694   struct GNUNET_MQ_Handle *
695 get_mq (struct GNUNET_CONTAINER_MultiPeerMap *peer_map,
696         const struct GNUNET_PeerIdentity *peer_id)
697 {
698   struct PeerContext *peer_ctx;
699
700   peer_ctx = get_peer_ctx (peer_map, peer_id);
701
702   GNUNET_assert (NULL == peer_ctx->is_live_task);
703
704   if (NULL == peer_ctx->mq)
705   {
706     (void) get_channel (peer_map, peer_id);
707     peer_ctx->mq = GNUNET_CADET_mq_create (peer_ctx->send_channel);
708     //do I have to explicitly put it in the peer_map?
709     (void) GNUNET_CONTAINER_multipeermap_put (peer_map, peer_id, peer_ctx,
710                                        GNUNET_CONTAINER_MULTIHASHMAPOPTION_REPLACE);
711   }
712   return peer_ctx->mq;
713 }
714
715
716 /**
717  * Sum all time relatives of an array.
718   */
719   struct GNUNET_TIME_Relative
720 T_relative_sum (const struct GNUNET_TIME_Relative *rel_array, uint32_t arr_size)
721 {
722   struct GNUNET_TIME_Relative sum;
723   uint32_t i;
724
725   sum = GNUNET_TIME_UNIT_ZERO;
726   for ( i = 0 ; i < arr_size ; i++ )
727   {
728     sum = GNUNET_TIME_relative_add (sum, rel_array[i]);
729   }
730   return sum;
731 }
732
733
734 /**
735  * Compute the average of given time relatives.
736  */
737   struct GNUNET_TIME_Relative
738 T_relative_avg (const struct GNUNET_TIME_Relative *rel_array, uint32_t arr_size)
739 {
740   return GNUNET_TIME_relative_divide (T_relative_sum (rel_array, arr_size), arr_size);
741 }
742
743
744 /**
745  * Insert PeerID in #pull_list
746  *
747  * Called once we know a peer is live.
748  */
749   void
750 insert_in_pull_list (void *cls, const struct GNUNET_PeerIdentity *peer)
751 {
752   if (GNUNET_NO == in_arr (pull_list, pull_list_size, peer))
753     GNUNET_array_append (pull_list, pull_list_size, *peer);
754
755   peer_clean (peer);
756 }
757
758 /**
759  * Check whether #insert_in_pull_list was already scheduled
760  */
761   int
762 insert_in_pull_list_scheduled (const struct PeerContext *peer_ctx)
763 {
764   unsigned int i;
765
766   for ( i = 0 ; i < peer_ctx->num_outstanding_ops ; i++ )
767     if (insert_in_pull_list == peer_ctx->outstanding_ops[i].op)
768       return GNUNET_YES;
769   return GNUNET_NO;
770 }
771
772
773 /**
774  * Insert PeerID in #gossip_list
775  *
776  * Called once we know a peer is live.
777  */
778   void
779 insert_in_gossip_list (void *cls, const struct GNUNET_PeerIdentity *peer)
780 {
781   if (GNUNET_NO == in_arr (gossip_list, gossip_list_size, peer))
782     GNUNET_array_append (gossip_list, gossip_list_size, *peer);
783 }
784
785 /**
786  * Check whether #insert_in_pull_list was already scheduled
787  */
788   int
789 insert_in_gossip_list_scheduled (const struct PeerContext *peer_ctx)
790 {
791   unsigned int i;
792
793   for ( i = 0 ; i < peer_ctx->num_outstanding_ops ; i++ )
794     if (insert_in_gossip_list == peer_ctx->outstanding_ops[i].op)
795       return GNUNET_YES;
796   return GNUNET_NO;
797 }
798
799
800 /**
801  * Update sampler with given PeerID.
802  */
803   void
804 insert_in_sampler (void *cls, const struct GNUNET_PeerIdentity *peer)
805 {
806   RPS_sampler_update (prot_sampler,   peer);
807   RPS_sampler_update (client_sampler, peer);
808 }
809
810
811 /**
812  * Check whether #insert_in_sampler was already scheduled
813  */
814 static int
815 insert_in_sampler_scheduled (const struct PeerContext *peer_ctx)
816 {
817   unsigned int i;
818
819   for ( i = 0 ; i < peer_ctx->num_outstanding_ops ; i++ )
820     if (insert_in_sampler== peer_ctx->outstanding_ops[i].op)
821       return GNUNET_YES;
822   return GNUNET_NO;
823 }
824
825
826 /**
827  * Wrapper around #RPS_sampler_resize()
828  *
829  * If we do not have enough sampler elements, double current sampler size
830  * If we have more than enough sampler elements, halv current sampler size
831  */
832 static void
833 resize_wrapper (struct RPS_Sampler *sampler, uint32_t new_size)
834 {
835   unsigned int sampler_size;
836
837   // TODO statistics
838   // TODO respect the min, max
839   sampler_size = RPS_sampler_get_size (sampler);
840   if (sampler_size > new_size * 4)
841   { /* Shrinking */
842     RPS_sampler_resize (sampler, sampler_size / 2);
843   }
844   else if (sampler_size < new_size)
845   { /* Growing */
846     RPS_sampler_resize (sampler, sampler_size * 2);
847   }
848   LOG (GNUNET_ERROR_TYPE_DEBUG, "sampler_size is now %u\n", sampler_size);
849 }
850
851
852 /**
853  * Wrapper around #RPS_sampler_resize() resizing the client sampler
854  */
855 static void
856 client_resize_wrapper ()
857 {
858   uint32_t bigger_size;
859   unsigned int sampler_size;
860
861   // TODO statistics
862
863   sampler_size = RPS_sampler_get_size (client_sampler);
864
865   if (sampler_size_est_need > sampler_size_client_need)
866     bigger_size = sampler_size_est_need;
867   else
868     bigger_size = sampler_size_client_need;
869
870   // TODO respect the min, max
871   resize_wrapper (client_sampler, bigger_size);
872   LOG (GNUNET_ERROR_TYPE_DEBUG, "sampler_size is now %u\n", sampler_size);
873 }
874
875
876 /**
877  * Estimate request rate
878  *
879  * Called every time we receive a request from the client.
880  */
881   void
882 est_request_rate()
883 {
884   struct GNUNET_TIME_Relative max_round_duration;
885
886   if (request_deltas_size > req_counter)
887     req_counter++;
888   if ( 1 < req_counter)
889   {
890     /* Shift last request deltas to the right */
891     memcpy (&request_deltas[1],
892         request_deltas,
893         (req_counter - 1) * sizeof (struct GNUNET_TIME_Relative));
894
895     /* Add current delta to beginning */
896     request_deltas[0] =
897         GNUNET_TIME_absolute_get_difference (last_request,
898                                              GNUNET_TIME_absolute_get ());
899     request_rate = T_relative_avg (request_deltas, req_counter);
900
901     /* Compute the duration a round will maximally take */
902     max_round_duration =
903         GNUNET_TIME_relative_add (round_interval,
904                                   GNUNET_TIME_relative_divide (round_interval, 2));
905
906     /* Set the estimated size the sampler has to have to
907      * satisfy the current client request rate */
908     sampler_size_client_need =
909         max_round_duration.rel_value_us / request_rate.rel_value_us;
910
911     /* Resize the sampler */
912     client_resize_wrapper ();
913   }
914   last_request = GNUNET_TIME_absolute_get ();
915 }
916
917
918 /***********************************************************************
919  * /Util functions
920 ***********************************************************************/
921
922
923
924
925
926 /**
927  * Function called by NSE.
928  *
929  * Updates sizes of sampler list and gossip list and adapt those lists
930  * accordingly.
931  */
932   void
933 nse_callback (void *cls, struct GNUNET_TIME_Absolute timestamp,
934               double logestimate, double std_dev)
935 {
936   double estimate;
937   //double scale; // TODO this might go gloabal/config
938
939   LOG (GNUNET_ERROR_TYPE_DEBUG,
940        "Received a ns estimate - logest: %f, std_dev: %f (old_size: %u)\n",
941        logestimate, std_dev, RPS_sampler_get_size (prot_sampler));
942   //scale = .01;
943   estimate = GNUNET_NSE_log_estimate_to_n (logestimate);
944   // GNUNET_NSE_log_estimate_to_n (logestimate);
945   estimate = pow (estimate, 1.0 / 3);
946   // TODO add if std_dev is a number
947   // estimate += (std_dev * scale);
948   if (2 < ceil (estimate))
949   {
950     LOG (GNUNET_ERROR_TYPE_DEBUG, "Changing estimate to %f\n", estimate);
951     sampler_size_est_need = estimate;
952   } else
953     LOG (GNUNET_ERROR_TYPE_DEBUG, "Not using estimate %f\n", estimate);
954
955   /* If the NSE has changed adapt the lists accordingly */
956   resize_wrapper (prot_sampler, sampler_size_est_need);
957   client_resize_wrapper ();
958 }
959
960
961 /**
962  * Callback called once the requested PeerIDs are ready.
963  *
964  * Sends those to the requesting client.
965  */
966 void client_respond (void *cls,
967     struct GNUNET_PeerIdentity *ids, uint32_t num_peers)
968 {
969   LOG (GNUNET_ERROR_TYPE_DEBUG, "sampler returned %" PRIX32 " peers\n", num_peers);
970   struct GNUNET_MQ_Envelope *ev;
971   struct GNUNET_RPS_CS_ReplyMessage *out_msg;
972   struct GNUNET_SERVER_Client *client;
973   uint32_t size_needed;
974   struct client_ctx *cli_ctx;
975
976   client = (struct GNUNET_SERVER_Client *) cls;
977
978   size_needed = sizeof (struct GNUNET_RPS_CS_ReplyMessage) +
979                 num_peers * sizeof (struct GNUNET_PeerIdentity);
980
981   GNUNET_assert (GNUNET_SERVER_MAX_MESSAGE_SIZE >= size_needed);
982
983   ev = GNUNET_MQ_msg_extra (out_msg,
984                             num_peers * sizeof (struct GNUNET_PeerIdentity),
985                             GNUNET_MESSAGE_TYPE_RPS_CS_REPLY);
986   out_msg->num_peers = htonl (num_peers);
987
988   memcpy (&out_msg[1],
989       ids,
990       num_peers * sizeof (struct GNUNET_PeerIdentity));
991   GNUNET_free (ids);
992
993   cli_ctx = GNUNET_SERVER_client_get_user_context (client, struct client_ctx);
994   if ( NULL == cli_ctx ) {
995     cli_ctx = GNUNET_new (struct client_ctx);
996     cli_ctx->mq = GNUNET_MQ_queue_for_server_client (client);
997     GNUNET_SERVER_client_set_user_context (client, cli_ctx);
998   }
999
1000   GNUNET_MQ_send (cli_ctx->mq, ev);
1001 }
1002
1003
1004 /**
1005  * Handle RPS request from the client.
1006  *
1007  * @param cls closure
1008  * @param client identification of the client
1009  * @param message the actual message
1010  */
1011 static void
1012 handle_client_request (void *cls,
1013             struct GNUNET_SERVER_Client *client,
1014             const struct GNUNET_MessageHeader *message)
1015 {
1016   struct GNUNET_RPS_CS_RequestMessage *msg;
1017   uint32_t num_peers;
1018   uint32_t size_needed;
1019   uint32_t i;
1020
1021   msg = (struct GNUNET_RPS_CS_RequestMessage *) message;
1022
1023   num_peers = ntohl (msg->num_peers);
1024   size_needed = sizeof (struct GNUNET_RPS_CS_ReplyMessage) +
1025                 num_peers * sizeof (struct GNUNET_PeerIdentity);
1026
1027   if (GNUNET_SERVER_MAX_MESSAGE_SIZE < size_needed)
1028   {
1029     GNUNET_SERVER_receive_done (client, GNUNET_SYSERR);
1030     return;
1031   }
1032
1033   for (i = 0 ; i < num_peers ; i++)
1034     est_request_rate();
1035
1036   LOG (GNUNET_ERROR_TYPE_DEBUG, "Client requested %" PRIX32 " random peer(s).\n", num_peers);
1037
1038   RPS_sampler_get_n_rand_peers (client_sampler, client_respond,
1039                                 client, num_peers, GNUNET_YES);
1040
1041   GNUNET_SERVER_receive_done (client,
1042                               GNUNET_OK);
1043 }
1044
1045
1046 /**
1047  * Handle seed from the client.
1048  *
1049  * @param cls closure
1050  * @param client identification of the client
1051  * @param message the actual message
1052  */
1053   static void
1054 handle_client_seed (void *cls,
1055             struct GNUNET_SERVER_Client *client,
1056             const struct GNUNET_MessageHeader *message)
1057 {
1058   struct GNUNET_RPS_CS_SeedMessage *in_msg;
1059   struct GNUNET_PeerIdentity *peers;
1060   uint32_t i;
1061
1062   if (sizeof (struct GNUNET_RPS_CS_SeedMessage) < ntohs (message->size))
1063   {
1064     GNUNET_break_op (0);
1065     GNUNET_SERVER_receive_done (client,
1066               GNUNET_SYSERR);
1067   }
1068   in_msg = (struct GNUNET_RPS_CS_SeedMessage *) message;
1069   if ((ntohs (message->size) - sizeof (struct GNUNET_RPS_CS_SeedMessage)) /
1070       sizeof (struct GNUNET_PeerIdentity) != ntohl (in_msg->num_peers))
1071   {
1072     GNUNET_break_op (0);
1073     GNUNET_SERVER_receive_done (client,
1074               GNUNET_SYSERR);
1075   }
1076
1077   in_msg = (struct GNUNET_RPS_CS_SeedMessage *) message;
1078   peers = (struct GNUNET_PeerIdentity *) &message[1];
1079
1080   for ( i = 0 ; i < ntohl (in_msg->num_peers) ; i++ )
1081     RPS_sampler_update (prot_sampler,   &peers[i]);
1082     RPS_sampler_update (client_sampler, &peers[i]);
1083
1084   GNUNET_SERVER_receive_done (client,
1085                               GNUNET_OK);
1086 }
1087
1088
1089 /**
1090  * Handle a PUSH message from another peer.
1091  *
1092  * Check the proof of work and store the PeerID
1093  * in the temporary list for pushed PeerIDs.
1094  *
1095  * @param cls Closure
1096  * @param channel The channel the PUSH was received over
1097  * @param channel_ctx The context associated with this channel
1098  * @param msg The message header
1099  */
1100 static int
1101 handle_peer_push (void *cls,
1102     struct GNUNET_CADET_Channel *channel,
1103     void **channel_ctx,
1104     const struct GNUNET_MessageHeader *msg)
1105 {
1106   const struct GNUNET_PeerIdentity *peer;
1107
1108   // (check the proof of work)
1109
1110   peer = (const struct GNUNET_PeerIdentity *) GNUNET_CADET_channel_get_info (channel, GNUNET_CADET_OPTION_PEER);
1111   // FIXME wait for cadet to change this function
1112   LOG (GNUNET_ERROR_TYPE_DEBUG, "PUSH received (%s)\n", GNUNET_i2s (peer));
1113
1114   /* Add the sending peer to the push_list */
1115   if (GNUNET_NO == in_arr (push_list, pull_list_size, peer))
1116     GNUNET_array_append (push_list, push_list_size, *peer);
1117
1118   return GNUNET_OK;
1119 }
1120
1121 /**
1122  * Handle PULL REQUEST request message from another peer.
1123  *
1124  * Reply with the gossip list of PeerIDs.
1125  *
1126  * @param cls Closure
1127  * @param channel The channel the PUSH was received over
1128  * @param channel_ctx The context associated with this channel
1129  * @param msg The message header
1130  */
1131 static int
1132 handle_peer_pull_request (void *cls,
1133     struct GNUNET_CADET_Channel *channel,
1134     void **channel_ctx,
1135     const struct GNUNET_MessageHeader *msg)
1136 {
1137   struct GNUNET_PeerIdentity *peer;
1138   uint32_t send_size;
1139   struct GNUNET_MQ_Handle *mq;
1140   struct GNUNET_MQ_Envelope *ev;
1141   struct GNUNET_RPS_P2P_PullReplyMessage *out_msg;
1142
1143
1144   peer = (struct GNUNET_PeerIdentity *) GNUNET_CADET_channel_get_info (channel,
1145                                                                        GNUNET_CADET_OPTION_PEER);
1146   // FIXME wait for cadet to change this function
1147
1148   /* Compute actual size */
1149   send_size = sizeof (struct GNUNET_RPS_P2P_PullReplyMessage) +
1150               gossip_list_size * sizeof (struct GNUNET_PeerIdentity);
1151
1152   if (GNUNET_CONSTANTS_MAX_CADET_MESSAGE_SIZE < send_size)
1153     /* Compute number of peers to send
1154      * If too long, simply truncate */
1155     send_size =
1156       (GNUNET_CONSTANTS_MAX_CADET_MESSAGE_SIZE -
1157        sizeof (struct GNUNET_RPS_P2P_PullReplyMessage)) /
1158        sizeof (struct GNUNET_PeerIdentity);
1159   else
1160     send_size = gossip_list_size;
1161
1162   LOG (GNUNET_ERROR_TYPE_DEBUG,
1163       "PULL REQUEST from peer %s received, going to send %u peers\n",
1164       GNUNET_i2s (peer), send_size);
1165
1166   mq = get_mq (peer_map, peer);
1167
1168   ev = GNUNET_MQ_msg_extra (out_msg,
1169                            send_size * sizeof (struct GNUNET_PeerIdentity),
1170                            GNUNET_MESSAGE_TYPE_RPS_PP_PULL_REPLY);
1171   //out_msg->num_peers = htonl (gossip_list_size);
1172   out_msg->num_peers = htonl (send_size);
1173   memcpy (&out_msg[1], gossip_list,
1174          send_size * sizeof (struct GNUNET_PeerIdentity));
1175
1176   GNUNET_MQ_send (mq, ev);
1177
1178   return GNUNET_OK;
1179 }
1180
1181 /**
1182  * Handle PULL REPLY message from another peer.
1183  *
1184  * Check whether we sent a corresponding request and
1185  * whether this reply is the first one.
1186  *
1187  * @param cls Closure
1188  * @param channel The channel the PUSH was received over
1189  * @param channel_ctx The context associated with this channel
1190  * @param msg The message header
1191  */
1192   static int
1193 handle_peer_pull_reply (void *cls,
1194     struct GNUNET_CADET_Channel *channel,
1195     void **channel_ctx,
1196     const struct GNUNET_MessageHeader *msg)
1197 {
1198   LOG (GNUNET_ERROR_TYPE_DEBUG, "PULL REPLY received\n");
1199
1200   struct GNUNET_RPS_P2P_PullReplyMessage *in_msg;
1201   struct GNUNET_PeerIdentity *peers;
1202   struct PeerContext *peer_ctx;
1203   struct GNUNET_PeerIdentity *sender;
1204   struct PeerContext *sender_ctx;
1205   struct PeerOutstandingOp out_op;
1206   uint32_t i;
1207
1208   /* Check for protocol violation */
1209   if (sizeof (struct GNUNET_RPS_P2P_PullReplyMessage) > ntohs (msg->size))
1210   {
1211     GNUNET_break_op (0);
1212     return GNUNET_SYSERR;
1213   }
1214   in_msg = (struct GNUNET_RPS_P2P_PullReplyMessage *) msg;
1215   if ((ntohs (msg->size) - sizeof (struct GNUNET_RPS_P2P_PullReplyMessage)) /
1216       sizeof (struct GNUNET_PeerIdentity) != ntohl (in_msg->num_peers))
1217   {
1218     LOG (GNUNET_ERROR_TYPE_ERROR,
1219         "message says it sends %" PRIu64 " peers, have space for %i peers\n",
1220         ntohl (in_msg->num_peers),
1221         (ntohs (msg->size) - sizeof (struct GNUNET_RPS_P2P_PullReplyMessage)) /
1222             sizeof (struct GNUNET_PeerIdentity));
1223     GNUNET_break_op (0);
1224     return GNUNET_SYSERR;
1225   }
1226
1227   /* Do actual logic */
1228   sender = (struct GNUNET_PeerIdentity *) GNUNET_CADET_channel_get_info (
1229       (struct GNUNET_CADET_Channel *) channel, GNUNET_CADET_OPTION_PEER);
1230        // Guess simply casting isn't the nicest way...
1231        // FIXME wait for cadet to change this function
1232   sender_ctx = get_peer_ctx (peer_map, sender);
1233
1234   if (GNUNET_YES == get_peer_flag (sender_ctx, PULL_REPLY_PENDING))
1235   {
1236     GNUNET_break_op (0);
1237     return GNUNET_OK;
1238   }
1239
1240   peers = (struct GNUNET_PeerIdentity *) &msg[1];
1241   for ( i = 0 ; i < ntohl (in_msg->num_peers) ; i++ )
1242   {
1243     peer_ctx = get_peer_ctx (peer_map, &peers[i]);
1244     if (NULL != peer_ctx->send_channel
1245         || NULL != peer_ctx->recv_channel)
1246     {
1247       if (GNUNET_NO == in_arr (pull_list, pull_list_size, &peers[i])
1248           && GNUNET_CRYPTO_cmp_peer_identity (&own_identity, &peers[i]))
1249         GNUNET_array_append (pull_list, pull_list_size, peers[i]);
1250     }
1251     else if (GNUNET_NO == insert_in_pull_list_scheduled (peer_ctx))
1252     {
1253       out_op.op = insert_in_pull_list;
1254       out_op.op_cls = NULL;
1255       GNUNET_array_append (peer_ctx->outstanding_ops,
1256                            peer_ctx->num_outstanding_ops,
1257                            out_op);
1258     }
1259   }
1260
1261   unset_peer_flag (sender_ctx, PULL_REPLY_PENDING);
1262   rem_from_list (&pending_pull_reply_list, &pending_pull_reply_list_size, sender);
1263
1264   return GNUNET_OK;
1265 }
1266
1267
1268 /**
1269  * Send out PUSHes and PULLs.
1270  *
1271  * This is executed regylary.
1272  */
1273 static void
1274 do_round (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1275 {
1276   LOG (GNUNET_ERROR_TYPE_DEBUG, "Going to execute next round\n");
1277
1278   uint32_t i;
1279   unsigned int *permut;
1280   unsigned int n_peers; /* Number of peers we send pushes/pulls to */
1281   struct GNUNET_MQ_Envelope *ev;
1282   struct GNUNET_PeerIdentity peer;
1283   struct GNUNET_PeerIdentity *tmp_peer;
1284   struct GNUNET_MQ_Handle *mq;
1285
1286   LOG (GNUNET_ERROR_TYPE_DEBUG,
1287        "Printing gossip list:\n");
1288   for (i = 0 ; i < gossip_list_size ; i++)
1289     LOG (GNUNET_ERROR_TYPE_DEBUG,
1290          "\t%s\n", GNUNET_i2s (&gossip_list[i]));
1291   // TODO log lists, ...
1292
1293   /* Would it make sense to have one shuffeled gossip list and then
1294    * to send PUSHes to first alpha peers, PULL requests to next beta peers and
1295    * use the rest to update sampler?
1296    * in essence get random peers with consumption */
1297
1298   /* Send PUSHes */
1299   if (0 < gossip_list_size)
1300   {
1301     permut = GNUNET_CRYPTO_random_permute (GNUNET_CRYPTO_QUALITY_STRONG,
1302                                            (unsigned int) gossip_list_size);
1303     n_peers = ceil (alpha * gossip_list_size);
1304     LOG (GNUNET_ERROR_TYPE_DEBUG,
1305          "Going to send pushes to %u ceil (%f * %u) peers.\n",
1306          n_peers, alpha, gossip_list_size);
1307     for (i = 0 ; i < n_peers ; i++)
1308     {
1309       peer = gossip_list[permut[i]];
1310       if (0 != GNUNET_CRYPTO_cmp_peer_identity (&own_identity, &peer)) // TODO
1311       { // FIXME if this fails schedule/loop this for later
1312         LOG (GNUNET_ERROR_TYPE_DEBUG,
1313              "Sending PUSH to peer %s of gossiped list.\n",
1314              GNUNET_i2s (&peer));
1315
1316         ev = GNUNET_MQ_msg_header (GNUNET_MESSAGE_TYPE_RPS_PP_PUSH);
1317         mq = get_mq (peer_map, &peer);
1318         GNUNET_MQ_send (mq, ev);
1319       }
1320     }
1321     GNUNET_free (permut);
1322   }
1323
1324
1325   /* Send PULL requests */
1326   //permut = GNUNET_CRYPTO_random_permute (GNUNET_CRYPTO_QUALITY_STRONG, (unsigned int) sampler_list->size);
1327   n_peers = ceil (beta * gossip_list_size);
1328   LOG (GNUNET_ERROR_TYPE_DEBUG,
1329        "Going to send pulls to %u ceil (%f * %u) peers.\n",
1330        n_peers, beta, gossip_list_size);
1331   for (i = 0 ; i < n_peers ; i++)
1332   {
1333     tmp_peer = get_rand_peer_ignore_list (gossip_list, gossip_list_size,
1334         pending_pull_reply_list, pending_pull_reply_list_size);
1335     if (NULL != tmp_peer)
1336     {
1337       peer = *tmp_peer;
1338       GNUNET_free (tmp_peer);
1339
1340       GNUNET_array_append (pending_pull_reply_list, pending_pull_reply_list_size, peer);
1341
1342       if (0 != GNUNET_CRYPTO_cmp_peer_identity (&own_identity, &peer))
1343       { // FIXME if this fails schedule/loop this for later
1344         LOG (GNUNET_ERROR_TYPE_DEBUG,
1345              "Sending PULL request to peer %s of gossiped list.\n",
1346              GNUNET_i2s (&peer));
1347
1348         ev = GNUNET_MQ_msg_header (GNUNET_MESSAGE_TYPE_RPS_PP_PULL_REQUEST);
1349         mq = get_mq (peer_map, &peer);
1350         GNUNET_MQ_send (mq, ev);
1351       }
1352     }
1353   }
1354
1355
1356   /* Update gossip list */
1357
1358   if ( push_list_size <= alpha * gossip_list_size &&
1359        push_list_size != 0 &&
1360        pull_list_size != 0 )
1361   {
1362     LOG (GNUNET_ERROR_TYPE_DEBUG, "Update of the gossip list.\n");
1363
1364     uint32_t first_border;
1365     uint32_t second_border;
1366     uint32_t r_index;
1367     uint32_t peers_to_clean_size;
1368     struct GNUNET_PeerIdentity *peers_to_clean;
1369
1370     peers_to_clean = NULL;
1371     peers_to_clean_size = 0;
1372     GNUNET_array_grow (peers_to_clean, peers_to_clean_size, gossip_list_size);
1373     memcpy (peers_to_clean,
1374             gossip_list,
1375             gossip_list_size * sizeof (struct GNUNET_PeerIdentity));
1376
1377     first_border  =                ceil (alpha * sampler_size_est_need);
1378     second_border = first_border + ceil (beta  * sampler_size_est_need);
1379
1380     GNUNET_array_grow (gossip_list, gossip_list_size, second_border);
1381
1382     for (i = 0 ; i < first_border ; i++)
1383     { // TODO use RPS_sampler_get_n_rand_peers
1384       /* Update gossip list with peers received through PUSHes */
1385       r_index = GNUNET_CRYPTO_random_u64 (GNUNET_CRYPTO_QUALITY_STRONG,
1386                                        push_list_size);
1387       gossip_list[i] = push_list[r_index];
1388       // TODO change the peer_flags accordingly
1389     }
1390
1391     for (i = first_border ; i < second_border ; i++)
1392     {
1393       /* Update gossip list with peers received through PULLs */
1394       r_index = GNUNET_CRYPTO_random_u64 (GNUNET_CRYPTO_QUALITY_STRONG,
1395                                        pull_list_size);
1396       gossip_list[i] = pull_list[r_index];
1397       // TODO change the peer_flags accordingly
1398     }
1399
1400     for (i = second_border ; i < sampler_size_est_need ; i++)
1401     {
1402       /* Update gossip list with peers from history */
1403       RPS_sampler_get_n_rand_peers (prot_sampler, hist_update, NULL, 1, GNUNET_NO);
1404       num_hist_update_tasks++;
1405       // TODO change the peer_flags accordingly
1406     }
1407
1408     for (i = 0 ; i < gossip_list_size ; i++)
1409       rem_from_list (&peers_to_clean, &peers_to_clean_size, &gossip_list[i]);
1410
1411     for (i = 0 ; i < peers_to_clean_size ; i++)
1412       peer_clean (&peers_to_clean[i]);
1413
1414     GNUNET_free (peers_to_clean);
1415   }
1416   else
1417   {
1418     LOG (GNUNET_ERROR_TYPE_DEBUG, "No update of the gossip list.\n");
1419   }
1420   // TODO independent of that also get some peers from CADET_get_peers()?
1421
1422
1423   /* Update samplers */
1424   for ( i = 0 ; i < push_list_size ; i++ )
1425   {
1426     RPS_sampler_update (prot_sampler,   &push_list[i]);
1427     RPS_sampler_update (client_sampler, &push_list[i]);
1428     // TODO set in_flag?
1429   }
1430
1431   for ( i = 0 ; i < pull_list_size ; i++ )
1432   {
1433     RPS_sampler_update (prot_sampler,   &push_list[i]);
1434     RPS_sampler_update (client_sampler, &push_list[i]);
1435     // TODO set in_flag?
1436   }
1437
1438
1439   /* Empty push/pull lists */
1440   GNUNET_array_grow (push_list, push_list_size, 0);
1441   GNUNET_array_grow (pull_list, pull_list_size, 0);
1442
1443   struct GNUNET_TIME_Relative time_next_round;
1444   struct GNUNET_TIME_Relative half_round_interval;
1445   unsigned int rand_delay;
1446
1447
1448   /* Compute random time value between .5 * round_interval and 1.5 *round_interval */
1449   half_round_interval = GNUNET_TIME_relative_divide (round_interval, 2);
1450   do
1451   {
1452   /*
1453    * Compute random value between (0 and 1) * round_interval
1454    * via multiplying round_interval with a 'fraction' (0 to value)/value
1455    */
1456   rand_delay = GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK, UINT_MAX/10);
1457   time_next_round = GNUNET_TIME_relative_multiply (round_interval,  rand_delay);
1458   time_next_round = GNUNET_TIME_relative_divide   (time_next_round, UINT_MAX/10);
1459   time_next_round = GNUNET_TIME_relative_add      (time_next_round, half_round_interval);
1460   } while (GNUNET_TIME_UNIT_FOREVER_REL.rel_value_us == time_next_round.rel_value_us);
1461
1462   /* Schedule next round */
1463   do_round_task = GNUNET_SCHEDULER_add_delayed (round_interval, &do_round, NULL);
1464   LOG (GNUNET_ERROR_TYPE_DEBUG, "Finished round\n");
1465 }
1466
1467
1468 static void
1469 rps_start (struct GNUNET_SERVER_Handle *server);
1470
1471
1472 /**
1473  * This is called from GNUNET_CADET_get_peers().
1474  *
1475  * It is called on every peer(ID) that cadet somehow has contact with.
1476  * We use those to initialise the sampler.
1477  */
1478 void
1479 init_peer_cb (void *cls,
1480               const struct GNUNET_PeerIdentity *peer,
1481               int tunnel, // "Do we have a tunnel towards this peer?"
1482               unsigned int n_paths, // "Number of known paths towards this peer"
1483               unsigned int best_path) // "How long is the best path?
1484                                       // (0 = unknown, 1 = ourselves, 2 = neighbor)"
1485 {
1486   struct GNUNET_SERVER_Handle *server;
1487   struct PeerOutstandingOp out_op;
1488   struct PeerContext *peer_ctx;
1489
1490   server = (struct GNUNET_SERVER_Handle *) cls;
1491   if (NULL != peer
1492       && 0 != GNUNET_CRYPTO_cmp_peer_identity (&own_identity, peer))
1493   {
1494     LOG (GNUNET_ERROR_TYPE_DEBUG,
1495         "Got peer %s (at %p) from CADET (gossip_list_size: %u)\n",
1496         GNUNET_i2s (peer), peer, gossip_list_size);
1497
1498     // maybe create a function for that
1499     peer_ctx = get_peer_ctx (peer_map, peer);
1500     // FIXME this peer might already be marked as LIVE
1501     if (GNUNET_NO == insert_in_sampler_scheduled (peer_ctx))
1502     {
1503       out_op.op = insert_in_sampler;
1504       out_op.op_cls = NULL;
1505       GNUNET_array_append (peer_ctx->outstanding_ops,
1506                            peer_ctx->num_outstanding_ops,
1507                            out_op);
1508     }
1509
1510     if (GNUNET_NO == insert_in_gossip_list_scheduled (peer_ctx))
1511     {
1512       out_op.op = insert_in_gossip_list;
1513       out_op.op_cls = NULL;
1514       GNUNET_array_append (peer_ctx->outstanding_ops,
1515                            peer_ctx->num_outstanding_ops,
1516                            out_op);
1517     }
1518
1519     /* Trigger livelyness test on peer */
1520     (void) get_channel (peer_map, peer);
1521
1522     // send push/pull to each of those peers?
1523   }
1524   else if (NULL == peer)
1525     rps_start (server);
1526 }
1527
1528
1529 /**
1530  * Clean the send channel of a peer
1531  */
1532 void
1533 peer_clean (const struct GNUNET_PeerIdentity *peer)
1534 {
1535   struct PeerContext *peer_ctx;
1536   struct GNUNET_CADET_Channel *channel;
1537
1538   if (GNUNET_YES != in_arr (gossip_list, gossip_list_size, peer)
1539       && GNUNET_YES == GNUNET_CONTAINER_multipeermap_contains (peer_map, peer))
1540   {
1541     peer_ctx = get_peer_ctx (peer_map, peer);
1542     if (NULL != peer_ctx->send_channel)
1543     {
1544       channel = peer_ctx->send_channel;
1545       peer_ctx->send_channel = NULL;
1546       GNUNET_CADET_channel_destroy (channel);
1547     }
1548   }
1549 }
1550
1551
1552 /**
1553  * Callback used to remove peers from the multipeermap.
1554  */
1555   int
1556 peer_remove_cb (void *cls, const struct GNUNET_PeerIdentity *key, void *value)
1557 {
1558   struct PeerContext *peer_ctx;
1559   const struct GNUNET_CADET_Channel *channel =
1560     (const struct GNUNET_CADET_Channel *) cls;
1561   struct GNUNET_CADET_Channel *recv;
1562   struct GNUNET_CADET_Channel *send;
1563
1564   if (GNUNET_YES == GNUNET_CONTAINER_multipeermap_contains (peer_map, value))
1565   {
1566     peer_ctx = (struct PeerContext *) value;
1567
1568     if (0 != peer_ctx->num_outstanding_ops)
1569       GNUNET_array_grow (peer_ctx->outstanding_ops,
1570                          peer_ctx->num_outstanding_ops,
1571                          0);
1572
1573     if (NULL != peer_ctx->mq)
1574       GNUNET_MQ_destroy (peer_ctx->mq);
1575
1576     if (NULL != peer_ctx->is_live_task)
1577     {
1578     LOG (GNUNET_ERROR_TYPE_DEBUG,
1579          "Trying to cancle is_live_task for peer %s\n",
1580          GNUNET_i2s (key));
1581       GNUNET_CADET_notify_transmit_ready_cancel (peer_ctx->is_live_task);
1582       peer_ctx->is_live_task = NULL;
1583     }
1584
1585     send = peer_ctx->send_channel;
1586     peer_ctx->send_channel = NULL;
1587     recv = peer_ctx->send_channel;
1588     peer_ctx->recv_channel = NULL;
1589
1590     if (NULL != send
1591         && channel != send)
1592     {
1593       GNUNET_CADET_channel_destroy (send);
1594     }
1595
1596     if (NULL != recv
1597         && channel != recv)
1598     {
1599       GNUNET_CADET_channel_destroy (recv);
1600     }
1601
1602     if (GNUNET_NO == GNUNET_CONTAINER_multipeermap_remove_all (peer_map, key))
1603       LOG (GNUNET_ERROR_TYPE_WARNING, "removing peer from peer_map failed\n");
1604     else
1605       GNUNET_free (peer_ctx);
1606   }
1607
1608   return GNUNET_YES;
1609 }
1610
1611
1612 /**
1613  * Task run during shutdown.
1614  *
1615  * @param cls unused
1616  * @param tc unused
1617  */
1618 static void
1619 shutdown_task (void *cls,
1620                const struct GNUNET_SCHEDULER_TaskContext *tc)
1621 {
1622   LOG (GNUNET_ERROR_TYPE_DEBUG, "RPS is going down\n");
1623
1624   if ( NULL != do_round_task )
1625   {
1626     GNUNET_SCHEDULER_cancel (do_round_task);
1627     do_round_task = NULL;
1628   }
1629
1630
1631   {
1632   if (GNUNET_SYSERR ==
1633         GNUNET_CONTAINER_multipeermap_iterate (peer_map, peer_remove_cb, NULL))
1634     LOG (GNUNET_ERROR_TYPE_WARNING,
1635         "Iterating over peers to disconnect from them was cancelled\n");
1636   }
1637
1638   GNUNET_NSE_disconnect (nse);
1639   GNUNET_CADET_disconnect (cadet_handle);
1640   RPS_sampler_destroy (prot_sampler);
1641   RPS_sampler_destroy (client_sampler);
1642   GNUNET_break (0 == GNUNET_CONTAINER_multipeermap_size (peer_map));
1643   GNUNET_CONTAINER_multipeermap_destroy (peer_map);
1644   GNUNET_array_grow (gossip_list, gossip_list_size, 0);
1645   GNUNET_array_grow (push_list, push_list_size, 0);
1646   GNUNET_array_grow (pull_list, pull_list_size, 0);
1647 }
1648
1649
1650 /**
1651  * A client disconnected.  Remove all of its data structure entries.
1652  *
1653  * @param cls closure, NULL
1654  * @param client identification of the client
1655  */
1656 static void
1657 handle_client_disconnect (void *cls,
1658                           struct GNUNET_SERVER_Client * client)
1659 {
1660 }
1661
1662
1663 /**
1664  * Handle the channel a peer opens to us.
1665  *
1666  * @param cls The closure
1667  * @param channel The channel the peer wants to establish
1668  * @param initiator The peer's peer ID
1669  * @param port The port the channel is being established over
1670  * @param options Further options
1671  */
1672   static void *
1673 handle_inbound_channel (void *cls,
1674                         struct GNUNET_CADET_Channel *channel,
1675                         const struct GNUNET_PeerIdentity *initiator,
1676                         uint32_t port,
1677                         enum GNUNET_CADET_ChannelOption options)
1678 {
1679   struct PeerContext *peer_ctx;
1680
1681   LOG (GNUNET_ERROR_TYPE_DEBUG,
1682       "New channel was established to us (Peer %s).\n",
1683       GNUNET_i2s (initiator));
1684
1685   GNUNET_assert (NULL != channel);
1686
1687   // we might not even store the recv_channel
1688
1689   peer_ctx = get_peer_ctx (peer_map, initiator);
1690   // FIXME what do we do if a channel is established twice?
1691   //       overwrite? Clean old channel? ...?
1692   //if (NULL != peer_ctx->recv_channel)
1693   //{
1694   //  peer_ctx->recv_channel = channel;
1695   //}
1696   peer_ctx->recv_channel = channel;
1697
1698   peer_ctx->mq = NULL;
1699
1700   (void) GNUNET_CONTAINER_multipeermap_put (peer_map, initiator, peer_ctx,
1701       GNUNET_CONTAINER_MULTIHASHMAPOPTION_REPLACE);
1702
1703   peer_is_live (peer_ctx);
1704
1705   return NULL; // TODO
1706 }
1707
1708
1709 /**
1710  * This is called when a remote peer destroys a channel.
1711  *
1712  * @param cls The closure
1713  * @param channel The channel being closed
1714  * @param channel_ctx The context associated with this channel
1715  */
1716   static void
1717 cleanup_channel (void *cls,
1718                 const struct GNUNET_CADET_Channel *channel,
1719                 void *channel_ctx)
1720 {
1721   struct GNUNET_PeerIdentity *peer;
1722   struct PeerContext *peer_ctx;
1723
1724   peer = (struct GNUNET_PeerIdentity *) GNUNET_CADET_channel_get_info (
1725       (struct GNUNET_CADET_Channel *) channel, GNUNET_CADET_OPTION_PEER);
1726        // Guess simply casting isn't the nicest way...
1727        // FIXME wait for cadet to change this function
1728   LOG (GNUNET_ERROR_TYPE_DEBUG, "Cleaning up channel to peer %s\n",
1729        GNUNET_i2s (peer));
1730
1731   if (GNUNET_YES == GNUNET_CONTAINER_multipeermap_contains (peer_map, peer))
1732   {
1733     peer_ctx = GNUNET_CONTAINER_multipeermap_get (peer_map, peer);
1734
1735     if (NULL == peer_ctx) /* It could have been removed by shutdown_task */
1736       return;
1737
1738     if (channel == peer_ctx->send_channel)
1739     { /* Peer probably went down */
1740       rem_from_list (&gossip_list, &gossip_list_size, peer);
1741       rem_from_list (&pending_pull_reply_list, &pending_pull_reply_list_size, peer);
1742
1743       /* Somwewhat {ab,re}use the iterator function */
1744       /* Cast to void is ok, because it's used as void in peer_remove_cb */
1745       (void) peer_remove_cb ((void *) channel, peer, peer_ctx);
1746     }
1747     else
1748       peer_ctx->recv_channel = NULL;
1749   }
1750 }
1751
1752
1753 /**
1754  * Actually start the service.
1755  */
1756   static void
1757 rps_start (struct GNUNET_SERVER_Handle *server)
1758 {
1759   static const struct GNUNET_SERVER_MessageHandler handlers[] = {
1760     {&handle_client_request, NULL, GNUNET_MESSAGE_TYPE_RPS_CS_REQUEST,
1761       sizeof (struct GNUNET_RPS_CS_RequestMessage)},
1762     {&handle_client_seed,    NULL, GNUNET_MESSAGE_TYPE_RPS_CS_SEED, 0},
1763     {NULL, NULL, 0, 0}
1764   };
1765
1766   GNUNET_SERVER_add_handlers (server, handlers);
1767   GNUNET_SERVER_disconnect_notify (server,
1768                                    &handle_client_disconnect,
1769                                    NULL);
1770   LOG (GNUNET_ERROR_TYPE_DEBUG, "Ready to receive requests from clients\n");
1771
1772
1773   num_hist_update_tasks = 0;
1774
1775   do_round_task = GNUNET_SCHEDULER_add_now (&do_round, NULL);
1776   LOG (GNUNET_ERROR_TYPE_DEBUG, "Scheduled first round\n");
1777
1778   GNUNET_SCHEDULER_add_delayed (GNUNET_TIME_UNIT_FOREVER_REL,
1779                                 &shutdown_task,
1780                                 NULL);
1781 }
1782
1783
1784 /**
1785  * Process statistics requests.
1786  *
1787  * @param cls closure
1788  * @param server the initialized server
1789  * @param c configuration to use
1790  */
1791   static void
1792 run (void *cls,
1793      struct GNUNET_SERVER_Handle *server,
1794      const struct GNUNET_CONFIGURATION_Handle *c)
1795 {
1796   // TODO check what this does -- copied from gnunet-boss
1797   // - seems to work as expected
1798   GNUNET_log_setup ("rps", GNUNET_error_type_to_string (GNUNET_ERROR_TYPE_DEBUG), NULL);
1799   cfg = c;
1800
1801
1802   /* Get own ID */
1803   GNUNET_CRYPTO_get_peer_identity (cfg, &own_identity); // TODO check return value
1804   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
1805               "STARTING SERVICE (rps) for peer [%s]\n",
1806               GNUNET_i2s (&own_identity));
1807
1808
1809   /* Get time interval from the configuration */
1810   if (GNUNET_OK != GNUNET_CONFIGURATION_get_value_time (cfg, "RPS",
1811                                                         "ROUNDINTERVAL",
1812                                                         &round_interval))
1813   {
1814     LOG (GNUNET_ERROR_TYPE_DEBUG, "Failed to read ROUNDINTERVAL from config\n");
1815     GNUNET_SCHEDULER_shutdown ();
1816     return;
1817   }
1818
1819   /* Get initial size of sampler/gossip list from the configuration */
1820   if (GNUNET_OK != GNUNET_CONFIGURATION_get_value_number (cfg, "RPS",
1821                                                          "INITSIZE",
1822                                                          (long long unsigned int *) &sampler_size_est_need))
1823   {
1824     LOG (GNUNET_ERROR_TYPE_DEBUG, "Failed to read INITSIZE from config\n");
1825     GNUNET_SCHEDULER_shutdown ();
1826     return;
1827   }
1828   LOG (GNUNET_ERROR_TYPE_DEBUG, "INITSIZE is %" PRIu64 "\n", sampler_size_est_need);
1829
1830
1831   gossip_list = NULL;
1832
1833
1834   /* connect to NSE */
1835   nse = GNUNET_NSE_connect (cfg, nse_callback, NULL);
1836   // TODO check whether that was successful
1837   LOG (GNUNET_ERROR_TYPE_DEBUG, "Connected to NSE\n");
1838
1839
1840   alpha = 0.45;
1841   beta  = 0.45;
1842
1843   peer_map = GNUNET_CONTAINER_multipeermap_create (sampler_size_est_need, GNUNET_NO);
1844
1845
1846   /* Initialise cadet */
1847   static const struct GNUNET_CADET_MessageHandler cadet_handlers[] = {
1848     {&handle_peer_push        , GNUNET_MESSAGE_TYPE_RPS_PP_PUSH        ,
1849       sizeof (struct GNUNET_MessageHeader)},
1850     {&handle_peer_pull_request, GNUNET_MESSAGE_TYPE_RPS_PP_PULL_REQUEST,
1851       sizeof (struct GNUNET_MessageHeader)},
1852     {&handle_peer_pull_reply  , GNUNET_MESSAGE_TYPE_RPS_PP_PULL_REPLY  , 0},
1853     {NULL, 0, 0}
1854   };
1855
1856   const uint32_t ports[] = {GNUNET_RPS_CADET_PORT, 0}; // _PORT specified in src/rps/rps.h
1857   cadet_handle = GNUNET_CADET_connect (cfg,
1858                                        cls,
1859                                        &handle_inbound_channel,
1860                                        &cleanup_channel,
1861                                        cadet_handlers,
1862                                        ports);
1863   LOG (GNUNET_ERROR_TYPE_DEBUG, "Connected to CADET\n");
1864
1865
1866   /* Initialise sampler */
1867   struct GNUNET_TIME_Relative half_round_interval;
1868   struct GNUNET_TIME_Relative  max_round_interval;
1869
1870   half_round_interval = GNUNET_TIME_relative_multiply (round_interval, .5);
1871   max_round_interval = GNUNET_TIME_relative_add (round_interval, half_round_interval);
1872
1873   prot_sampler =   RPS_sampler_init (sampler_size_est_need, max_round_interval);
1874   client_sampler = RPS_sampler_init (sampler_size_est_need, max_round_interval);
1875
1876   /* Initialise push and pull maps */
1877   push_list = NULL;
1878   push_list_size = 0;
1879   pull_list = NULL;
1880   pull_list_size = 0;
1881   pending_pull_reply_list = NULL;
1882   pending_pull_reply_list_size = 0;
1883
1884
1885   LOG (GNUNET_ERROR_TYPE_DEBUG, "Requesting peers from CADET\n");
1886   GNUNET_CADET_get_peers (cadet_handle, &init_peer_cb, server);
1887
1888   // TODO send push/pull to each of those peers?
1889 }
1890
1891
1892 /**
1893  * The main function for the rps service.
1894  *
1895  * @param argc number of arguments from the command line
1896  * @param argv command line arguments
1897  * @return 0 ok, 1 on error
1898  */
1899   int
1900 main (int argc, char *const *argv)
1901 {
1902   return (GNUNET_OK ==
1903           GNUNET_SERVICE_run (argc,
1904                               argv,
1905                               "rps",
1906                               GNUNET_SERVICE_OPTION_NONE,
1907                               &run, NULL)) ? 0 : 1;
1908 }
1909
1910 /* end of gnunet-service-rps.c */