towards better topology testing, still a kink or two
[oweals/gnunet.git] / src / testing / testing_group.c
1 /*
2       This file is part of GNUnet
3       (C) 2008, 2009 Christian Grothoff (and other contributing authors)
4
5       GNUnet is free software; you can redistribute it and/or modify
6       it under the terms of the GNU General Public License as published
7       by the Free Software Foundation; either version 2, or (at your
8       option) any later version.
9
10       GNUnet is distributed in the hope that it will be useful, but
11       WITHOUT ANY WARRANTY; without even the implied warranty of
12       MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13       General Public License for more details.
14
15       You should have received a copy of the GNU General Public License
16       along with GNUnet; see the file COPYING.  If not, write to the
17       Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18       Boston, MA 02111-1307, USA.
19  */
20
21 /**
22  * @file testing/testing_group.c
23  * @brief convenience API for writing testcases for GNUnet
24  * @author Christian Grothoff
25  */
26 #include "platform.h"
27 #include "gnunet_arm_service.h"
28 #include "gnunet_testing_lib.h"
29
30 #define VERBOSE_TESTING GNUNET_YES
31
32 /**
33  * Lowest port used for GNUnet testing.  Should be high enough to not
34  * conflict with other applications running on the hosts but be low
35  * enough to not conflict with client-ports (typically starting around
36  * 32k).
37  */
38 #define LOW_PORT 10000
39
40 /**
41  * Highest port used for GNUnet testing.  Should be low enough to not
42  * conflict with the port range for "local" ports (client apps; see
43  * /proc/sys/net/ipv4/ip_local_port_range on Linux for example).
44  */
45 #define HIGH_PORT 32000
46
47 #define CONNECT_TIMEOUT GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_SECONDS, 180)
48
49 struct PeerConnection
50 {
51   /*
52    * Linked list
53    */
54   struct PeerConnection *next;
55
56   /*
57    * Pointer to daemon handle
58    */
59   struct GNUNET_TESTING_Daemon *daemon;
60
61 };
62
63 /**
64  * Data we keep per peer.
65  */
66 struct PeerData
67 {
68   /**
69    * (Initial) configuration of the host.
70    * (initial because clients could change
71    *  it and we would not know about those
72    *  updates).
73    */
74   struct GNUNET_CONFIGURATION_Handle *cfg;
75
76   /**
77    * Handle for controlling the daemon.
78    */
79   struct GNUNET_TESTING_Daemon *daemon;
80
81   /*
82    * Linked list of peer connections (simply indexes of PeerGroup)
83    * FIXME: Question, store pointer or integer?  Pointer for now...
84    */
85   struct PeerConnection *connected_peers;
86 };
87
88
89 /**
90  * Data we keep per host.
91  */
92 struct HostData
93 {
94   /**
95    * Name of the host.
96    */
97   char *hostname;
98
99   /**
100    * Lowest port that we have not yet used
101    * for GNUnet.
102    */
103   uint16_t minport;
104 };
105
106
107 /**
108  * Handle to a group of GNUnet peers.
109  */
110 struct GNUNET_TESTING_PeerGroup
111 {
112   /**
113    * Our scheduler.
114    */
115   struct GNUNET_SCHEDULER_Handle *sched;
116
117   /**
118    * Configuration template.
119    */
120   const struct GNUNET_CONFIGURATION_Handle *cfg;
121
122   /**
123    * Function to call on each started daemon.
124    */
125   GNUNET_TESTING_NotifyDaemonRunning cb;
126
127   /**
128    * Closure for cb.
129    */
130   void *cb_cls;
131
132   /*
133    * Function to call on each topology connection created
134    */
135   GNUNET_TESTING_NotifyConnection notify_connection;
136
137   /*
138    * Callback for notify_connection
139    */
140   void *notify_connection_cls;
141
142   /**
143    * NULL-terminated array of information about
144    * hosts.
145    */
146   struct HostData *hosts;
147
148   /**
149    * Array of "total" peers.
150    */
151   struct PeerData *peers;
152
153   /**
154    * Number of peers in this group.
155    */
156   unsigned int total;
157
158 };
159
160
161 struct UpdateContext
162 {
163   struct GNUNET_CONFIGURATION_Handle *ret;
164   unsigned int nport;
165 };
166
167 /**
168  * Function to iterate over options.  Copies
169  * the options to the target configuration,
170  * updating PORT values as needed.
171  *
172  * @param cls closure
173  * @param section name of the section
174  * @param option name of the option
175  * @param value value of the option
176  */
177 static void
178 update_config (void *cls,
179                const char *section, const char *option, const char *value)
180 {
181   struct UpdateContext *ctx = cls;
182   unsigned int ival;
183   char cval[12];
184
185   if ((0 == strcmp (option, "PORT")) && (1 == sscanf (value, "%u", &ival)))
186     {
187       GNUNET_snprintf (cval, sizeof (cval), "%u", ctx->nport++);
188       value = cval;
189     }
190   GNUNET_CONFIGURATION_set_value_string (ctx->ret, section, option, value);
191 }
192
193
194 /**
195  * Create a new configuration using the given configuration
196  * as a template; however, each PORT in the existing cfg
197  * must be renumbered by incrementing "*port".  If we run
198  * out of "*port" numbers, return NULL. 
199  * 
200  * @param cfg template configuration
201  * @param port port numbers to use, update to reflect
202  *             port numbers that were used
203  * @return new configuration, NULL on error
204  */
205 static struct GNUNET_CONFIGURATION_Handle *
206 make_config (const struct GNUNET_CONFIGURATION_Handle *cfg, uint16_t * port)
207 {
208   struct UpdateContext uc;
209   uint16_t orig;
210
211   orig = *port;
212   uc.nport = *port;
213   uc.ret = GNUNET_CONFIGURATION_create ();
214   GNUNET_CONFIGURATION_iterate (cfg, &update_config, &uc);
215   if (uc.nport >= HIGH_PORT)
216     {
217       *port = orig;
218       GNUNET_CONFIGURATION_destroy (uc.ret);
219       return NULL;
220     }
221   *port = (uint16_t) uc.nport;
222   return uc.ret;
223 }
224
225 /*
226  * Add entries to the peers connected list
227  *
228  * @param pg the peer group we are working with
229  * @param first index of the first peer
230  * @param second index of the second peer
231  *
232  * @return the number of connections added (can be 0 1 or 2)
233  *
234  * FIXME: add both, or only add one?
235  *      - if both are added, then we have to keep track
236  *        when connecting so we don't double connect
237  *      - if only one is added, we need to iterate over
238  *        both lists to find out if connection already exists
239  *      - having both allows the whitelisting/friend file
240  *        creation to be easier
241  *
242  *      -- For now, add both, we have to iterate over each to
243  *         check for duplicates anyways, so we'll take the performance
244  *         hit assuming we don't have __too__ many connections
245  *
246  */
247 static int
248 add_connections(struct GNUNET_TESTING_PeerGroup *pg, unsigned int first, unsigned int second)
249 {
250   int added;
251   struct PeerConnection *first_iter;
252   struct PeerConnection *second_iter;
253   int add_first;
254   int add_second;
255   struct PeerConnection *new_first;
256   struct PeerConnection *new_second;
257
258   first_iter = pg->peers[first].connected_peers;
259   add_first = GNUNET_YES;
260   while (first_iter != NULL)
261     {
262       if (first_iter->daemon == pg->peers[second].daemon)
263         add_first = GNUNET_NO;
264       first_iter = first_iter->next;
265     }
266
267   second_iter = pg->peers[second].connected_peers;
268   add_second = GNUNET_YES;
269   while (second_iter != NULL)
270     {
271       if (second_iter->daemon == pg->peers[first].daemon)
272         add_second = GNUNET_NO;
273       second_iter = second_iter->next;
274     }
275
276   added = 0;
277   if (add_first)
278     {
279       new_first = GNUNET_malloc(sizeof(struct PeerConnection));
280       new_first->daemon = pg->peers[second].daemon;
281       new_first->next = pg->peers[first].connected_peers;
282       pg->peers[first].connected_peers = new_first;
283       added++;
284     }
285
286   if (add_second)
287     {
288       new_second = GNUNET_malloc(sizeof(struct PeerConnection));
289       new_second->daemon = pg->peers[first].daemon;
290       new_second->next = pg->peers[second].connected_peers;
291       pg->peers[second].connected_peers = new_second;
292       added++;
293     }
294
295   return added;
296 }
297
298 int
299 create_small_world_ring(struct GNUNET_TESTING_PeerGroup *pg)
300 {
301   unsigned int i, j;
302   int nodeToConnect;
303   unsigned int natLog;
304   unsigned int randomPeer;
305   double random, logNModifier, percentage;
306   unsigned int smallWorldConnections;
307   int connsPerPeer;
308   char *p_string;
309   int max;
310   int min;
311   unsigned int useAnd;
312   int connect_attempts;
313   struct GNUNET_TIME_Absolute time;
314
315   GNUNET_CONFIGURATION_get_value_string(pg->cfg, "TESTING", "LOGNMODIFIER", &p_string);
316   if (p_string != NULL)
317     logNModifier = atof(p_string);
318   else
319     logNModifier = 0.5; /* FIXME: default modifier? */
320
321   GNUNET_free_non_null(p_string);
322
323   GNUNET_CONFIGURATION_get_value_string(pg->cfg, "TESTING", "PERCENTAGE", &p_string);
324   if (p_string != NULL)
325     percentage = atof(p_string);
326   else
327     percentage = 0.5; /* FIXME: default percentage? */
328
329   GNUNET_free_non_null(p_string);
330
331   natLog = log (pg->total);
332   connsPerPeer = ceil (natLog * logNModifier);
333
334   if (connsPerPeer % 2 == 1)
335     connsPerPeer += 1;
336
337   time = GNUNET_TIME_absolute_get ();
338   srand ((unsigned int) time.value);
339   smallWorldConnections = 0;
340   connect_attempts = 0;
341   for (i = 0; i < pg->total; i++)
342     {
343       useAnd = 0;
344       max = i + connsPerPeer / 2;
345       min = i - connsPerPeer / 2;
346
347       if (max > pg->total - 1)
348         {
349           max = max - pg->total;
350           useAnd = 1;
351         }
352
353       if (min < 0)
354         {
355           min = pg->total - 1 + min;
356           useAnd = 1;
357         }
358
359       for (j = 0; j < connsPerPeer / 2; j++)
360         {
361           random = ((double) rand () / RAND_MAX);
362           if (random < percentage)
363             {
364               /* Connect to uniformly selected random peer */
365               randomPeer =
366                 GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK,
367                                    pg->total);
368               while ((((randomPeer < max) && (randomPeer > min))
369                       && (useAnd == 0)) || (((randomPeer > min)
370                                              || (randomPeer < max))
371                                             && (useAnd == 1)))
372                 {
373                   randomPeer =
374                       GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK,
375                                                          pg->total);
376                 }
377               smallWorldConnections +=
378                 add_connections (pg, i, randomPeer);
379             }
380           else
381             {
382               nodeToConnect = i + j + 1;
383               if (nodeToConnect > pg->total - 1)
384                 {
385                   nodeToConnect = nodeToConnect - pg->total;
386                 }
387               connect_attempts +=
388                 add_connections (pg, i, nodeToConnect);
389             }
390         }
391
392     }
393
394   connect_attempts += smallWorldConnections;
395
396   return connect_attempts;
397 }
398
399
400 static int
401 create_nated_internet (struct GNUNET_TESTING_PeerGroup *pg)
402 {
403   unsigned int outer_count, inner_count;
404   unsigned int cutoff;
405   int connect_attempts;
406   double nat_percentage;
407   char *p_string;
408
409   GNUNET_CONFIGURATION_get_value_string(pg->cfg, "TESTING", "NATPERCENTAGE", &p_string);
410   if (p_string != NULL)
411     nat_percentage = atof(p_string);
412   else
413     nat_percentage = 0.6; /* FIXME: default modifier? */
414
415   GNUNET_free_non_null(p_string);
416
417   cutoff = (unsigned int) (nat_percentage * pg->total);
418
419   connect_attempts = 0;
420
421   for (outer_count = 0; outer_count < pg->total - 1; outer_count++)
422     {
423       for (inner_count = outer_count + 1; inner_count < pg->total;
424            inner_count++)
425         {
426           if ((outer_count > cutoff) || (inner_count > cutoff))
427             {
428 #if VERBOSE_TESTING
429               GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
430                           "Connecting peer %d to peer %d\n",
431                           outer_count, inner_count);
432 #endif
433               connect_attempts += add_connections(pg, outer_count, inner_count);
434             }
435         }
436     }
437
438   return connect_attempts;
439
440 }
441
442
443
444 static int
445 create_small_world (struct GNUNET_TESTING_PeerGroup *pg)
446 {
447   unsigned int i, j, k;
448   unsigned int square;
449   unsigned int rows;
450   unsigned int cols;
451   unsigned int toggle = 1;
452   unsigned int nodeToConnect;
453   unsigned int natLog;
454   unsigned int node1Row;
455   unsigned int node1Col;
456   unsigned int node2Row;
457   unsigned int node2Col;
458   unsigned int distance;
459   double probability, random, percentage;
460   unsigned int smallWorldConnections;
461   char *p_string;
462   int connect_attempts;
463   square = floor (sqrt (pg->total));
464   rows = square;
465   cols = square;
466
467   GNUNET_CONFIGURATION_get_value_string(pg->cfg, "TESTING", "PERCENTAGE", &p_string);
468   if (p_string != NULL)
469     percentage = atof(p_string);
470   else
471     percentage = 0.5; /* FIXME: default percentage? */
472
473   GNUNET_free_non_null(p_string);
474
475   GNUNET_CONFIGURATION_get_value_string(pg->cfg, "TESTING", "PROBABILITY", &p_string);
476   if (p_string != NULL)
477     probability = atof(p_string);
478   else
479     probability = 0.5; /* FIXME: default probability? */
480
481   GNUNET_free_non_null(p_string);
482
483   if (square * square != pg->total)
484     {
485       while (rows * cols < pg->total)
486         {
487           if (toggle % 2 == 0)
488             rows++;
489           else
490             cols++;
491
492           toggle++;
493         }
494     }
495 #if VERBOSE_TESTING
496       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
497                   _("Connecting nodes in 2d torus topology: %u rows %u columns\n"),
498                   rows, cols);
499 #endif
500
501   connect_attempts = 0;
502   /* Rows and columns are all sorted out, now iterate over all nodes and connect each
503    * to the node to its right and above.  Once this is over, we'll have our torus!
504    * Special case for the last node (if the rows and columns are not equal), connect
505    * to the first in the row to maintain topology.
506    */
507   for (i = 0; i < pg->total; i++)
508     {
509       /* First connect to the node to the right */
510       if (((i + 1) % cols != 0) && (i + 1 != pg->total))
511         nodeToConnect = i + 1;
512       else if (i + 1 == pg->total)
513         nodeToConnect = rows * cols - cols;
514       else
515         nodeToConnect = i - cols + 1;
516
517       connect_attempts += add_connections (pg, i, nodeToConnect);
518
519       if (i < cols)
520         nodeToConnect = (rows * cols) - cols + i;
521       else
522         nodeToConnect = i - cols;
523
524       if (nodeToConnect < pg->total)
525         connect_attempts += add_connections (pg, i, nodeToConnect);
526     }
527   natLog = log (pg->total);
528 #if VERBOSE_TESTING
529   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
530               _("natural log of %d is %d, will run %d iterations\n"),
531              pg->total, natLog, (int) (natLog * percentage));
532   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, _("Total connections added thus far: %u!\n"), connect_attempts);
533 #endif
534   smallWorldConnections = 0;
535   for (i = 0; i < (int) (natLog * percentage); i++)
536     {
537       for (j = 0; j < pg->total; j++)
538         {
539           /* Determine the row and column of node at position j on the 2d torus */
540           node1Row = j / cols;
541           node1Col = j - (node1Row * cols);
542           for (k = 0; k < pg->total; k++)
543             {
544               /* Determine the row and column of node at position k on the 2d torus */
545               node2Row = k / cols;
546               node2Col = k - (node2Row * cols);
547               /* Simple Cartesian distance */
548               distance = abs (node1Row - node2Row) + abs (node1Col - node2Col);
549               if (distance > 1)
550                 {
551                   /* Calculate probability as 1 over the square of the distance */
552                   probability = 1.0 / (distance * distance);
553                   /* Choose a random, divide by RAND_MAX to get a number between 0 and 1 */
554                   random = ((double) rand () / RAND_MAX);
555                   /* If random < probability, then connect the two nodes */
556                   if (random < probability)
557                     smallWorldConnections += add_connections (pg, j, k);
558
559                 }
560             }
561         }
562     }
563   connect_attempts += smallWorldConnections;
564 #if VERBOSE_TESTING
565           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
566                       _("Total connections added for small world: %d!\n"),
567                       smallWorldConnections);
568 #endif
569   return connect_attempts;
570 }
571
572
573
574 static int
575 create_erdos_renyi (struct GNUNET_TESTING_PeerGroup *pg)
576 {
577   double temp_rand;
578   unsigned int outer_count;
579   unsigned int inner_count;
580   int connect_attempts;
581   double probability;
582   char *p_string;
583   connect_attempts = 0;
584
585   GNUNET_CONFIGURATION_get_value_string(pg->cfg, "TESTING", "PROBABILITY", &p_string);
586   if (p_string != NULL)
587     {
588       probability = atof(p_string);
589     }
590   else
591     {
592       probability = 0.5; /* FIXME: default probability? */
593     }
594   GNUNET_free_non_null (p_string);
595   for (outer_count = 0; outer_count < pg->total - 1; outer_count++)
596     {
597       for (inner_count = outer_count + 1; inner_count < pg->total;
598            inner_count++)
599         {
600           temp_rand = ((double) RANDOM () / RAND_MAX);
601 #if VERBOSE_TESTING
602           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
603                       _("rand is %f probability is %f\n"), temp_rand,
604                       probability);
605 #endif
606           if (temp_rand < probability)
607             {
608               connect_attempts += add_connections (pg, outer_count, inner_count);
609             }
610         }
611     }
612
613   return connect_attempts;
614 }
615
616 static int
617 create_2d_torus (struct GNUNET_TESTING_PeerGroup *pg)
618 {
619   unsigned int i;
620   unsigned int square;
621   unsigned int rows;
622   unsigned int cols;
623   unsigned int toggle = 1;
624   unsigned int nodeToConnect;
625   int connect_attempts;
626
627   connect_attempts = 0;
628
629   square = floor (sqrt (pg->total));
630   rows = square;
631   cols = square;
632
633   if (square * square != pg->total)
634     {
635       while (rows * cols < pg->total)
636         {
637           if (toggle % 2 == 0)
638             rows++;
639           else
640             cols++;
641
642           toggle++;
643         }
644     }
645 #if VERBOSE_TESTING
646       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
647                   _("Connecting nodes in 2d torus topology: %u rows %u columns\n"),
648                   rows, cols);
649 #endif
650   /* Rows and columns are all sorted out, now iterate over all nodes and connect each
651    * to the node to its right and above.  Once this is over, we'll have our torus!
652    * Special case for the last node (if the rows and columns are not equal), connect
653    * to the first in the row to maintain topology.
654    */
655   for (i = 0; i < pg->total; i++)
656     {
657       /* First connect to the node to the right */
658       if (((i + 1) % cols != 0) && (i + 1 != pg->total))
659         nodeToConnect = i + 1;
660       else if (i + 1 == pg->total)
661         nodeToConnect = rows * cols - cols;
662       else
663         nodeToConnect = i - cols + 1;
664 #if VERBOSE_TESTING
665           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
666                       "Connecting peer %d to peer %d\n",
667                       i, nodeToConnect);
668 #endif
669       connect_attempts += add_connections(pg, i, nodeToConnect);
670
671       /* Second connect to the node immediately above */
672       if (i < cols)
673         nodeToConnect = (rows * cols) - cols + i;
674       else
675         nodeToConnect = i - cols;
676
677       if (nodeToConnect < pg->total)
678         {
679 #if VERBOSE_TESTING
680           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
681                       "Connecting peer %d to peer %d\n",
682                       i, nodeToConnect);
683 #endif
684           connect_attempts += add_connections(pg, i, nodeToConnect);
685         }
686
687     }
688
689   return connect_attempts;
690 }
691
692
693
694 static int
695 create_clique (struct GNUNET_TESTING_PeerGroup *pg)
696 {
697   unsigned int outer_count;
698   unsigned int inner_count;
699   int connect_attempts;
700
701   connect_attempts = 0;
702
703   for (outer_count = 0; outer_count < pg->total - 1; outer_count++)
704     {
705       for (inner_count = outer_count + 1; inner_count < pg->total;
706            inner_count++)
707         {
708 #if VERBOSE_TESTING
709           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
710                       "Connecting peer %d to peer %d\n",
711                       outer_count, inner_count);
712 #endif
713           connect_attempts += add_connections(pg, outer_count, inner_count);
714         }
715     }
716
717   return connect_attempts;
718 }
719
720
721 static int
722 create_ring (struct GNUNET_TESTING_PeerGroup *pg)
723 {
724   unsigned int count;
725   int connect_attempts;
726
727   connect_attempts = 0;
728
729   /* Connect each peer to the next highest numbered peer */
730   for (count = 0; count < pg->total - 1; count++)
731     {
732 #if VERBOSE_TESTING
733           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
734                       "Connecting peer %d to peer %d\n",
735                       count, count + 1);
736 #endif
737       connect_attempts += add_connections(pg, count, count + 1);
738     }
739
740   /* Connect the last peer to the first peer */
741   connect_attempts += add_connections(pg, pg->total - 1, 0);
742
743   return connect_attempts;
744 }
745
746
747 /*
748  * Create the friend files based on the PeerConnection's
749  * of each peer in the peer group, and copy the files
750  * to the appropriate place
751  *
752  * @param pg the peer group we are dealing with
753  */
754 static void
755 create_and_copy_friend_files (struct GNUNET_TESTING_PeerGroup *pg)
756 {
757   FILE *temp_friend_handle;
758   unsigned int pg_iter;
759   struct PeerConnection *connection_iter;
760   struct GNUNET_CRYPTO_HashAsciiEncoded peer_enc;
761   char *temp_service_path;
762   pid_t pid;
763   char *arg;
764   struct GNUNET_PeerIdentity *temppeer;
765   char * mytemp;
766
767   for (pg_iter = 0; pg_iter < pg->total; pg_iter++)
768     {
769       mytemp = GNUNET_DISK_mktemp("friends");
770       temp_friend_handle = fopen (mytemp, "wt");
771       connection_iter = pg->peers[pg_iter].connected_peers;
772       while (connection_iter != NULL)
773         {
774           temppeer = &connection_iter->daemon->id;
775           GNUNET_CRYPTO_hash_to_enc(&temppeer->hashPubKey, &peer_enc);
776           fprintf(temp_friend_handle, "%s\n", (char *)&peer_enc);
777           connection_iter = connection_iter->next;
778         }
779
780       fclose(temp_friend_handle);
781
782       GNUNET_CONFIGURATION_get_value_string(pg->peers[pg_iter].daemon->cfg, "PATHS", "SERVICEHOME", &temp_service_path);
783
784       if (temp_service_path == NULL)
785         {
786           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
787                     _("No SERVICEHOME specified in peer configuration, can't copy friends file!\n"));
788           if (unlink(mytemp) != 0)
789             GNUNET_log_strerror_file (GNUNET_ERROR_TYPE_WARNING, "unlink", mytemp);
790           GNUNET_free (mytemp);
791           break;
792         }
793
794       if (pg->peers[pg_iter].daemon->hostname == NULL) /* Local, just copy the file */
795         {
796           GNUNET_asprintf (&arg, "%s/friends", temp_service_path);
797           pid = GNUNET_OS_start_process (NULL, NULL, "mv",
798                                          "mv", mytemp, arg, NULL);
799 #if VERBOSE_TESTING
800           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
801                       _("Copying file with command cp %s %s\n"), mytemp, arg);
802 #endif
803           GNUNET_free(arg);
804         }
805       else /* Remote, scp the file to the correct place */
806         {
807           if (NULL != pg->peers[pg_iter].daemon->username)
808             GNUNET_asprintf (&arg, "%s@%s:%s/friends", pg->peers[pg_iter].daemon->username, pg->peers[pg_iter].daemon->hostname, temp_service_path);
809           else
810             GNUNET_asprintf (&arg, "%s:%s/friends", pg->peers[pg_iter].daemon->hostname, temp_service_path);
811           pid = GNUNET_OS_start_process (NULL, NULL, "scp",
812                                          "scp", mytemp, arg, NULL);
813 #if VERBOSE_TESTING
814           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
815                       _("Copying file with command scp %s %s\n"), mytemp, arg);
816 #endif
817           GNUNET_free(arg);
818         }
819       GNUNET_free (temp_service_path);
820       GNUNET_free (mytemp);
821     }
822 }
823
824
825
826 /*
827  * Connect the topology as specified by the PeerConnection's
828  * of each peer in the peer group
829  *
830  * @param pg the peer group we are dealing with
831  */
832 static void
833 connect_topology (struct GNUNET_TESTING_PeerGroup *pg)
834 {
835   unsigned int pg_iter;
836   struct PeerConnection *connection_iter;
837
838   for (pg_iter = 0; pg_iter < pg->total; pg_iter++)
839     {
840       connection_iter = pg->peers[pg_iter].connected_peers;
841       while (connection_iter != NULL)
842         {
843           GNUNET_TESTING_daemons_connect (pg->peers[pg_iter].daemon,
844                                           connection_iter->daemon,
845                                           CONNECT_TIMEOUT,
846                                           pg->notify_connection,
847                                           pg->notify_connection_cls);
848           connection_iter = connection_iter->next;
849         }
850     }
851 }
852
853
854 /*
855  * Takes a peer group and attempts to create a topology based on the
856  * one specified in the configuration file.  Returns the number of connections
857  * that will attempt to be created, but this will happen asynchronously(?) so
858  * the caller will have to keep track (via the callback) of whether or not
859  * the connection actually happened.
860  *
861  * @param pg the peer group struct representing the running peers
862  *
863  */
864 int
865 GNUNET_TESTING_create_topology (struct GNUNET_TESTING_PeerGroup *pg)
866 {
867   unsigned long long topology_num;
868   int ret;
869
870   GNUNET_assert (pg->notify_connection != NULL);
871   ret = 0;
872   if (GNUNET_YES ==
873       GNUNET_CONFIGURATION_get_value_number (pg->cfg, "testing", "topology",
874                                              &topology_num))
875     {
876       switch (topology_num)
877         {
878         case GNUNET_TESTING_TOPOLOGY_CLIQUE:
879 #if VERBOSE_TESTING
880           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
881                       _("Creating clique topology (may take a bit!)\n"));
882 #endif
883           ret = create_clique (pg);
884           break;
885         case GNUNET_TESTING_TOPOLOGY_SMALL_WORLD_RING:
886 #if VERBOSE_TESTING
887           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
888                       _("Creating small world (ring) topology (may take a bit!)\n"));
889 #endif
890           ret = create_small_world_ring (pg);
891           break;
892         case GNUNET_TESTING_TOPOLOGY_SMALL_WORLD:
893 #if VERBOSE_TESTING
894           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
895                       _("Creating small world (2d-torus) topology (may take a bit!)\n"));
896 #endif
897           ret = create_small_world (pg);
898           break;
899         case GNUNET_TESTING_TOPOLOGY_RING:
900 #if VERBOSE_TESTING
901           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
902                       _("Creating ring topology (may take a bit!)\n"));
903 #endif
904           ret = create_ring (pg);
905           break;
906         case GNUNET_TESTING_TOPOLOGY_2D_TORUS:
907 #if VERBOSE_TESTING
908           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
909                       _("Creating 2d torus topology (may take a bit!)\n"));
910 #endif
911           ret = create_2d_torus (pg);
912           break;
913         case GNUNET_TESTING_TOPOLOGY_ERDOS_RENYI:
914 #if VERBOSE_TESTING
915           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
916                       _("Creating Erdos-Renyi topology (may take a bit!)\n"));
917 #endif
918           ret = create_erdos_renyi (pg);
919           break;
920         case GNUNET_TESTING_TOPOLOGY_INTERNAT:
921 #if VERBOSE_TESTING
922           GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
923                       _("Creating InterNAT topology (may take a bit!)\n"));
924 #endif
925           ret = create_nated_internet (pg);
926           break;
927         case GNUNET_TESTING_TOPOLOGY_NONE:
928           ret = 0;
929           break;
930         default:
931           ret = GNUNET_SYSERR;
932           break;
933         }
934
935       if (GNUNET_YES == GNUNET_CONFIGURATION_get_value_yesno (pg->cfg, "TESTING", "F2F"))
936         create_and_copy_friend_files(pg);
937
938       connect_topology(pg);
939     }
940   else
941     {
942       GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
943                   _("No topology specified, was one intended?\n"));
944     }
945
946   return ret;
947 }
948
949 /**
950  * Start count gnunetd processes with the same set of transports and
951  * applications.  The port numbers (any option called "PORT") will be
952  * adjusted to ensure that no two peers running on the same system
953  * have the same port(s) in their respective configurations.
954  *
955  * @param sched scheduler to use 
956  * @param cfg configuration template to use
957  * @param total number of daemons to start
958  * @param cb function to call on each daemon that was started
959  * @param cb_cls closure for cb
960  * @param connect_callback function to call each time two hosts are connected
961  * @param connect_callback_cls closure for connect_callback
962  * @param hostnames space-separated list of hostnames to use; can be NULL (to run
963  *        everything on localhost).
964  * @return NULL on error, otherwise handle to control peer group
965  */
966 struct GNUNET_TESTING_PeerGroup *
967 GNUNET_TESTING_daemons_start (struct GNUNET_SCHEDULER_Handle *sched,
968                               const struct GNUNET_CONFIGURATION_Handle *cfg,
969                               unsigned int total,
970                               GNUNET_TESTING_NotifyDaemonRunning cb,
971                               void *cb_cls,
972                               GNUNET_TESTING_NotifyConnection
973                               connect_callback, void *connect_callback_cls,
974                               const char *hostnames)
975 {
976   struct GNUNET_TESTING_PeerGroup *pg;
977   const char *rpos;
978   char *pos;
979   char *start;
980   const char *hostname;
981   char *baseservicehome;
982   char *newservicehome;
983   char *tmpdir;
984   struct GNUNET_CONFIGURATION_Handle *pcfg;
985   unsigned int off;
986   unsigned int hostcnt;
987   uint16_t minport;
988
989   if (0 == total)
990     {
991       GNUNET_break (0);
992       return NULL;
993     }
994   pg = GNUNET_malloc (sizeof (struct GNUNET_TESTING_PeerGroup));
995   pg->sched = sched;
996   pg->cfg = cfg;
997   pg->cb = cb;
998   pg->cb_cls = cb_cls;
999   pg->notify_connection = connect_callback;
1000   pg->notify_connection_cls = connect_callback_cls;
1001   pg->total = total;
1002   pg->peers = GNUNET_malloc (total * sizeof (struct PeerData));
1003   if (NULL != hostnames)
1004     {
1005       off = 2;
1006       /* skip leading spaces */
1007       while ((0 != *hostnames) && (isspace (*hostnames)))
1008         hostnames++;
1009       rpos = hostnames;
1010       while ('\0' != *rpos)
1011         {
1012           if (isspace (*rpos))
1013             off++;
1014           rpos++;
1015         }
1016       pg->hosts = GNUNET_malloc (off * sizeof (struct HostData));
1017       off = 0;
1018       start = GNUNET_strdup (hostnames);
1019       pos = start;
1020       while ('\0' != *pos)
1021         {
1022           if (isspace (*pos))
1023             {
1024               *pos = '\0';
1025               if (strlen (start) > 0)
1026                 {
1027                   pg->hosts[off].minport = LOW_PORT;
1028                   pg->hosts[off++].hostname = start;
1029                 }
1030               start = pos + 1;
1031             }
1032           pos++;
1033         }
1034       if (strlen (start) > 0)
1035         {
1036           pg->hosts[off].minport = LOW_PORT;
1037           pg->hosts[off++].hostname = start;
1038         }
1039       if (off == 0)
1040         {
1041           GNUNET_free (start);
1042           GNUNET_free (pg->hosts);
1043           pg->hosts = NULL;
1044         }
1045       hostcnt = off;
1046       minport = 0;              /* make gcc happy */
1047     }
1048   else
1049     {
1050       hostcnt = 0;
1051       minport = LOW_PORT;
1052     }
1053   for (off = 0; off < total; off++)
1054     {
1055       if (hostcnt > 0)
1056         {
1057           hostname = pg->hosts[off % hostcnt].hostname;
1058           pcfg = make_config (cfg, &pg->hosts[off % hostcnt].minport);
1059         }
1060       else
1061         {
1062           hostname = NULL;
1063           pcfg = make_config (cfg, &minport);
1064         }
1065       if (NULL == pcfg)
1066         {
1067           GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1068                       _
1069                       ("Could not create configuration for peer number %u on `%s'!\n"),
1070                       off, hostname == NULL ? "localhost" : hostname);
1071           continue;
1072         }
1073
1074       if (GNUNET_YES ==
1075           GNUNET_CONFIGURATION_get_value_string (pcfg, "PATHS", "SERVICEHOME",
1076                                                  &baseservicehome))
1077         {
1078           GNUNET_asprintf (&newservicehome,
1079                            "%s/%d/", baseservicehome, off);
1080           GNUNET_free (baseservicehome);
1081         }
1082       else
1083         {
1084           tmpdir = getenv ("TMPDIR");
1085           tmpdir = tmpdir ? tmpdir : "/tmp";
1086           GNUNET_asprintf (&newservicehome,
1087                            "%s/%s/%d/",
1088                            tmpdir,
1089                            "gnunet-testing-test-test", off);
1090         }
1091       GNUNET_CONFIGURATION_set_value_string (pcfg,
1092                                              "PATHS",
1093                                              "SERVICEHOME", newservicehome);
1094       GNUNET_free (newservicehome);
1095       pg->peers[off].cfg = pcfg;
1096       pg->peers[off].daemon = GNUNET_TESTING_daemon_start (sched,
1097                                                            pcfg,
1098                                                            hostname,
1099                                                            cb, cb_cls);
1100       if (NULL == pg->peers[off].daemon)
1101         GNUNET_log (GNUNET_ERROR_TYPE_WARNING,
1102                     _("Could not start peer number %u!\n"), off);
1103     }
1104   return pg;
1105 }
1106
1107 /*
1108  * Get a daemon by number, so callers don't have to do nasty
1109  * offsetting operation.
1110  */
1111 struct GNUNET_TESTING_Daemon *
1112 GNUNET_TESTING_daemon_get (struct GNUNET_TESTING_PeerGroup *pg, unsigned int position)
1113 {
1114   if (position < pg->total)
1115     return pg->peers[position].daemon;
1116   else
1117     return NULL;
1118 }
1119
1120 /**
1121  * Shutdown all peers started in the given group.
1122  * 
1123  * @param pg handle to the peer group
1124  */
1125 void
1126 GNUNET_TESTING_daemons_stop (struct GNUNET_TESTING_PeerGroup *pg)
1127 {
1128   unsigned int off;
1129
1130   for (off = 0; off < pg->total; off++)
1131     {
1132       /* FIXME: should we wait for our
1133          continuations to be called here? This
1134          would require us to take a continuation
1135          as well... */
1136
1137       if (NULL != pg->peers[off].daemon)
1138         GNUNET_TESTING_daemon_stop (pg->peers[off].daemon, NULL, NULL);
1139       if (NULL != pg->peers[off].cfg)
1140         GNUNET_CONFIGURATION_destroy (pg->peers[off].cfg);
1141     }
1142   GNUNET_free (pg->peers);
1143   if (NULL != pg->hosts)
1144     {
1145       GNUNET_free (pg->hosts[0].hostname);
1146       GNUNET_free (pg->hosts);
1147     }
1148   GNUNET_free (pg);
1149 }
1150
1151
1152 /* end of testing_group.c */