-updated documentation
[oweals/gnunet.git] / src / testing / testing.c
1 /*
2       This file is part of GNUnet
3       (C) 2008, 2009, 2012 Christian Grothoff (and other contributing authors)
4
5       GNUnet is free software; you can redistribute it and/or modify
6       it under the terms of the GNU General Public License as published
7       by the Free Software Foundation; either version 3, or (at your
8       option) any later version.
9
10       GNUnet is distributed in the hope that it will be useful, but
11       WITHOUT ANY WARRANTY; without even the implied warranty of
12       MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13       General Public License for more details.
14
15       You should have received a copy of the GNU General Public License
16       along with GNUnet; see the file COPYING.  If not, write to the
17       Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18       Boston, MA 02111-1307, USA.
19  */
20
21 /**
22  * @file testing/testing.c
23  * @brief convenience API for writing testcases for GNUnet
24  *        Many testcases need to start and stop a peer/service
25  *        and this library is supposed to make that easier
26  *        for TESTCASES.  Normal programs should always
27  *        use functions from gnunet_{util,arm}_lib.h.  This API is
28  *        ONLY for writing testcases (or internal use of the testbed).
29  * @author Christian Grothoff
30  *
31  */
32 #include "platform.h"
33 #include "gnunet_util_lib.h"
34 #include "gnunet_testing_lib-new.h"
35
36 #define LOG(kind,...)                                           \
37   GNUNET_log_from (kind, "gnunettestingnew", __VA_ARGS__)
38
39 /**
40  * Size of a hostkey when written to a file
41  */
42 #define HOSTKEYFILESIZE 914
43
44 /**
45  * Lowest port used for GNUnet testing.  Should be high enough to not
46  * conflict with other applications running on the hosts but be low
47  * enough to not conflict with client-ports (typically starting around
48  * 32k).
49  */
50 #define LOW_PORT 12000
51
52 /**
53  * Highest port used for GNUnet testing.  Should be low enough to not
54  * conflict with the port range for "local" ports (client apps; see
55  * /proc/sys/net/ipv4/ip_local_port_range on Linux for example).
56  */
57 #define HIGH_PORT 56000
58
59
60 /**
61  * Handle for a system on which GNUnet peers are executed;
62  * a system is used for reserving unique paths and ports.
63  */
64 struct GNUNET_TESTING_System
65 {
66   /**
67    * Prefix (i.e. "/tmp/gnunet-testing/") we prepend to each
68    * SERVICEHOME.    */
69   char *tmppath;
70
71   /**
72    * The hostname of the controller
73    */
74   char *controller;
75
76   /**
77    * Hostkeys data, contains "HOSTKEYFILESIZE * total_hostkeys" bytes.
78    */
79   char *hostkeys_data;
80
81   /**
82    * memory map for 'hostkeys_data'.
83    */
84   struct GNUNET_DISK_MapHandle *map;
85
86   /**
87    * File descriptor for the map.
88    */
89   struct GNUNET_DISK_FileHandle *map_fd;
90
91   /**
92    * Bitmap where each TCP port that has already been reserved for
93    * some GNUnet peer is recorded.  Note that we additionally need to
94    * test if a port is already in use by non-GNUnet components before
95    * assigning it to a peer/service.  If we detect that a port is
96    * already in use, we also mark it in this bitmap.  So all the bits
97    * that are zero merely indicate ports that MIGHT be available for
98    * peers.
99    */
100   uint32_t reserved_tcp_ports[65536 / 32];
101
102   /**
103    * Bitmap where each UDP port that has already been reserved for
104    * some GNUnet peer is recorded.  Note that we additionally need to
105    * test if a port is already in use by non-GNUnet components before
106    * assigning it to a peer/service.  If we detect that a port is
107    * already in use, we also mark it in this bitmap.  So all the bits
108    * that are zero merely indicate ports that MIGHT be available for
109    * peers.
110    */
111   uint32_t reserved_udp_ports[65536 / 32];
112
113   /**
114    * Counter we use to make service home paths unique on this system;
115    * the full path consists of the tmppath and this number.  Each
116    * UNIXPATH for a peer is also modified to include the respective
117    * path counter to ensure uniqueness.  This field is incremented
118    * by one for each configured peer.  Even if peers are destroyed,
119    * we never re-use path counters.
120    */
121   uint32_t path_counter;  
122
123   /**
124    * The number of hostkeys
125    */
126   uint32_t total_hostkeys;
127 };
128
129
130 /**
131  * Handle for a GNUnet peer controlled by testing.
132  */
133 struct GNUNET_TESTING_Peer
134 {
135
136   /**
137    * Path to the configuration file for this peer.
138    */
139   char *cfgfile;
140
141   /**
142    * Binary to be executed during 'GNUNET_TESTING_peer_start'.
143    * Typically 'gnunet-service-arm' (but can be set to a 
144    * specific service by 'GNUNET_TESTING_service_run' if
145    * necessary).
146    */ 
147   char *main_binary;
148   
149   /**
150    * Handle to the running binary of the service, NULL if the
151    * peer/service is currently not running.
152    */
153   struct GNUNET_OS_Process *main_process;
154 };
155
156
157 /**
158  * Testing includes a number of pre-created hostkeys for faster peer
159  * startup. This function loads such keys into memory from a file.
160  *
161  * @param system the testing system handle
162  * @return GNUNET_OK on success; GNUNET_SYSERR on error
163  */
164 static int
165 hostkeys_load (struct GNUNET_TESTING_System *system)
166 {
167   uint64_t fs; 
168   char *data_dir;
169   char *filename;
170   
171   GNUNET_assert (NULL == system->hostkeys_data);
172   data_dir = GNUNET_OS_installation_get_path (GNUNET_OS_IPK_DATADIR);
173   GNUNET_asprintf (&filename, "%s/testing_hostkeys.dat", data_dir);
174   GNUNET_free (data_dir);  
175
176   if (GNUNET_YES != GNUNET_DISK_file_test (filename))
177   {
178     LOG (GNUNET_ERROR_TYPE_ERROR,
179          _("Hostkeys file not found: %s\n"), filename);
180     GNUNET_free (filename);
181     return GNUNET_SYSERR;
182   }
183   /* Check hostkey file size, read entire thing into memory */
184   if (GNUNET_OK != 
185       GNUNET_DISK_file_size (filename, &fs, GNUNET_YES, GNUNET_YES))
186     fs = 0;
187   if (0 == fs)
188   {
189     GNUNET_free (filename);
190     return GNUNET_SYSERR;       /* File is empty */
191   }
192   if (0 != (fs % HOSTKEYFILESIZE))
193   {
194     LOG (GNUNET_ERROR_TYPE_ERROR,
195          _("Incorrect hostkey file format: %s\n"), filename);
196     GNUNET_free (filename);
197     return GNUNET_SYSERR;
198   }
199   system->map_fd = GNUNET_DISK_file_open (filename, GNUNET_DISK_OPEN_READ,
200                                          GNUNET_DISK_PERM_NONE);
201   if (NULL == system->map_fd)
202   {
203     GNUNET_log_strerror_file (GNUNET_ERROR_TYPE_ERROR, "open", filename);
204     GNUNET_free (filename);
205     return GNUNET_SYSERR;
206   }
207   system->total_hostkeys = fs / HOSTKEYFILESIZE;
208   system->hostkeys_data = GNUNET_DISK_file_map (system->map_fd,
209                                                 &system->map,
210                                                 GNUNET_DISK_MAP_TYPE_READ,
211                                                 fs);
212   GNUNET_free (filename);
213   return GNUNET_OK;
214 }
215
216
217 /**
218  * Function to remove the loaded hostkeys
219  *
220  * @param system the testing system handle
221  */
222 static void
223 hostkeys_unload (struct GNUNET_TESTING_System *system)
224 {
225   GNUNET_break (NULL != system->hostkeys_data);
226   system->hostkeys_data = NULL;
227   GNUNET_DISK_file_unmap (system->map);
228   system->map = NULL;
229   GNUNET_DISK_file_close (system->map_fd);
230   system->map_fd = NULL;
231   system->hostkeys_data = NULL;
232   system->total_hostkeys = 0;
233 }
234
235
236 /**
237  * Create a system handle.  There must only be one system
238  * handle per operating system.
239  *
240  * @param testdir only the directory name without any path. This is used for
241  *          all service homes; the directory will be created in a temporary
242  *          location depending on the underlying OS
243  *
244  * @param controller hostname of the controlling host, 
245  *        service configurations are modified to allow 
246  *        control connections from this host; can be NULL
247  * @return handle to this system, NULL on error
248  */
249 struct GNUNET_TESTING_System *
250 GNUNET_TESTING_system_create (const char *testdir,
251                               const char *controller)
252 {
253   struct GNUNET_TESTING_System *system;
254
255   GNUNET_assert (NULL != testdir);
256   system = GNUNET_malloc (sizeof (struct GNUNET_TESTING_System));
257   system->tmppath = GNUNET_DISK_mkdtemp (testdir);
258   if (NULL == system->tmppath)
259   {
260     GNUNET_free (system);
261     return NULL;
262   }
263   if (NULL != controller)
264     system->controller = GNUNET_strdup (controller);
265   if (GNUNET_OK != hostkeys_load (system))
266   {
267     GNUNET_TESTING_system_destroy (system, GNUNET_YES);
268     return NULL;
269   }
270   return system;
271 }
272
273
274 /**
275  * Free system resources.
276  *
277  * @param system system to be freed
278  * @param remove_paths should the 'testdir' and all subdirectories
279  *        be removed (clean up on shutdown)?
280  */
281 void
282 GNUNET_TESTING_system_destroy (struct GNUNET_TESTING_System *system,
283                                int remove_paths)
284 {
285   if (NULL != system->hostkeys_data)
286     hostkeys_unload (system);
287   if (GNUNET_YES == remove_paths)
288     GNUNET_DISK_directory_remove (system->tmppath);
289   GNUNET_free (system->tmppath);
290   GNUNET_free_non_null (system->controller);
291   GNUNET_free (system);
292 }
293
294
295 /**
296  * Reserve a TCP or UDP port for a peer.
297  *
298  * @param system system to use for reservation tracking
299  * @param is_tcp GNUNET_YES for TCP ports, GNUNET_NO for UDP
300  * @return 0 if no free port was available
301  */
302 uint16_t 
303 GNUNET_TESTING_reserve_port (struct GNUNET_TESTING_System *system,
304                              int is_tcp)
305 {
306   struct GNUNET_NETWORK_Handle *socket;
307   struct addrinfo hint;
308   struct addrinfo *ret;
309   uint32_t *port_buckets;
310   char *open_port_str;
311   int bind_status;
312   uint32_t xor_image;
313   uint16_t index;
314   uint16_t open_port;
315   uint16_t pos;
316
317   /*
318   FIXME: Instead of using getaddrinfo we should try to determine the port
319          status by the following heurestics.
320   
321          On systems which support both IPv4 and IPv6, only ports open on both
322          address families are considered open.
323          On system with either IPv4 or IPv6. A port is considered open if it's
324          open in the respective address family
325   */
326   hint.ai_family = AF_UNSPEC;   /* IPv4 and IPv6 */
327   hint.ai_socktype = (GNUNET_YES == is_tcp)? SOCK_STREAM : SOCK_DGRAM;
328   hint.ai_protocol = 0;
329   hint.ai_addrlen = 0;
330   hint.ai_addr = NULL;
331   hint.ai_canonname = NULL;
332   hint.ai_next = NULL;
333   hint.ai_flags = AI_PASSIVE | AI_NUMERICSERV;  /* Wild card address */
334   port_buckets = (GNUNET_YES == is_tcp) ?
335     system->reserved_tcp_ports : system->reserved_udp_ports;
336   for (index = (LOW_PORT / 32) + 1; index < (HIGH_PORT / 32); index++)
337   {
338     xor_image = (UINT32_MAX ^ port_buckets[index]);
339     if (0 == xor_image)        /* Ports in the bucket are full */
340       continue;
341     pos = 0;
342     while (pos < 32)
343     {
344       if (0 == ((xor_image >> pos) & 1U))
345       {
346         pos++;
347         continue;
348       }
349       open_port = (index * 32) + pos;
350       GNUNET_asprintf (&open_port_str, "%u", (unsigned int) open_port);
351       ret = NULL;
352       GNUNET_assert (0 == getaddrinfo (NULL, open_port_str, &hint, &ret));
353       GNUNET_free (open_port_str);  
354       socket = GNUNET_NETWORK_socket_create (ret->ai_family,
355                                              (GNUNET_YES == is_tcp) ?
356                                              SOCK_STREAM : SOCK_DGRAM,
357                                              0);
358       GNUNET_assert (NULL != socket);
359       bind_status = GNUNET_NETWORK_socket_bind (socket,
360                                                 ret->ai_addr,
361                                                 ret->ai_addrlen);
362       freeaddrinfo (ret);
363       GNUNET_NETWORK_socket_close (socket);
364       socket = NULL;
365       port_buckets[index] |= (1U << pos); /* Set the port bit */
366       if (GNUNET_OK == bind_status)
367       {
368         LOG (GNUNET_ERROR_TYPE_DEBUG,
369              "Found a free port %u\n", (unsigned int) open_port);
370         return open_port;
371       }
372       pos++;
373     }
374   }
375   return 0;
376 }
377
378
379 /**
380  * Release reservation of a TCP or UDP port for a peer
381  * (used during GNUNET_TESTING_peer_destroy).
382  *
383  * @param system system to use for reservation tracking
384  * @param is_tcp GNUNET_YES for TCP ports, GNUNET_NO for UDP
385  * @param port reserved port to release
386  */
387 void
388 GNUNET_TESTING_release_port (struct GNUNET_TESTING_System *system,
389                              int is_tcp,
390                              uint16_t port)
391 {
392   uint32_t *port_buckets;
393   uint16_t bucket;
394   uint16_t pos;
395
396   port_buckets = (GNUNET_YES == is_tcp) ?
397     system->reserved_tcp_ports : system->reserved_udp_ports;
398   bucket = port / 32;
399   pos = port % 32;
400   LOG (GNUNET_ERROR_TYPE_DEBUG, "Releasing port %u\n", port);
401   if (0 == (port_buckets[bucket] & (1U << pos)))
402   {
403     GNUNET_break(0); /* Port was not reserved by us using reserve_port() */
404     return;
405   }
406   port_buckets[bucket] &= ~(1U << pos);
407 }
408
409
410 /**
411  * Reserve a SERVICEHOME path for a peer.
412  *
413  * @param system system to use for reservation tracking
414  * @return NULL on error, otherwise fresh unique path to use
415  *         as the servicehome for the peer; must be freed by the caller
416  */
417 // static 
418 char *
419 reserve_path (struct GNUNET_TESTING_System *system)
420 {
421   char *reserved_path;
422
423   GNUNET_asprintf (&reserved_path,
424                    "%s/%u", system->tmppath, system->path_counter++);
425   return reserved_path;
426 }             
427
428
429 /**
430  * Testing includes a number of pre-created hostkeys for
431  * faster peer startup.  This function can be used to
432  * access the n-th key of those pre-created hostkeys; note
433  * that these keys are ONLY useful for testing and not
434  * secure as the private keys are part of the public 
435  * GNUnet source code.
436  *
437  * This is primarily a helper function used internally
438  * by 'GNUNET_TESTING_peer_configure'.
439  *
440  * @param system the testing system handle
441  * @param key_number desired pre-created hostkey to obtain
442  * @param id set to the peer's identity (hash of the public
443  *        key; if NULL, GNUNET_SYSERR is returned immediately
444  * @return GNUNET_SYSERR on error (not enough keys)
445  */
446 int
447 GNUNET_TESTING_hostkey_get (const struct GNUNET_TESTING_System *system,
448                             uint32_t key_number,
449                             struct GNUNET_PeerIdentity *id)
450 {  
451   struct GNUNET_CRYPTO_RsaPrivateKey *private_key;
452   struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded public_key;
453   
454   if ((NULL == id) || (NULL == system->hostkeys_data))
455     return GNUNET_SYSERR;
456   if (key_number >= system->total_hostkeys)
457   {
458     LOG (GNUNET_ERROR_TYPE_ERROR,
459          _("Key number %u does not exist\n"), key_number);
460     return GNUNET_SYSERR;
461   }   
462   private_key = GNUNET_CRYPTO_rsa_decode_key (system->hostkeys_data +
463                                               (key_number * HOSTKEYFILESIZE),
464                                               HOSTKEYFILESIZE);
465   if (NULL == private_key)
466   {
467     LOG (GNUNET_ERROR_TYPE_ERROR,
468          _("Error while decoding key %u\n"), key_number);
469     return GNUNET_SYSERR;
470   }
471   GNUNET_CRYPTO_rsa_key_get_public (private_key, &public_key);
472   GNUNET_CRYPTO_hash (&public_key,
473                       sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
474                       &(id->hashPubKey));
475   GNUNET_CRYPTO_rsa_key_free (private_key);
476   return GNUNET_OK;
477 }
478
479
480 /**
481  * Structure for holding data to build new configurations from a configuration
482  * template
483  */
484 struct UpdateContext
485 {
486   /**
487    * The system for which we are building configurations
488    */
489   struct GNUNET_TESTING_System *system;
490   
491   /**
492    * The configuration we are building
493    */
494   struct GNUNET_CONFIGURATION_Handle *cfg;
495
496   /**
497    * The customized service home path for this peer
498    */
499   char *service_home;
500
501   /**
502    * build status - to signal error while building a configuration
503    */
504   int status;
505 };
506
507
508 /**
509  * Function to iterate over options.  Copies
510  * the options to the target configuration,
511  * updating PORT values as needed.
512  *
513  * @param cls the UpdateContext
514  * @param section name of the section
515  * @param option name of the option
516  * @param value value of the option
517  */
518 static void
519 update_config (void *cls, const char *section, const char *option,
520                const char *value)
521 {
522   struct UpdateContext *uc = cls;
523   unsigned int ival;
524   char cval[12];
525   char uval[128];
526   char *single_variable;
527   char *per_host_variable;
528   unsigned long long num_per_host;
529   uint16_t new_port;
530
531   if (GNUNET_OK != uc->status)
532     return;
533   if (! ((0 == strcmp (option, "PORT"))
534          || (0 == strcmp (option, "UNIXPATH"))
535          || (0 == strcmp (option, "HOSTNAME"))))
536     return;
537   GNUNET_asprintf (&single_variable, "single_%s_per_host", section);
538   GNUNET_asprintf (&per_host_variable, "num_%s_per_host", section);
539   if ((0 == strcmp (option, "PORT")) && (1 == SSCANF (value, "%u", &ival)))
540   {
541     if ((ival != 0) &&
542         (GNUNET_YES !=
543          GNUNET_CONFIGURATION_get_value_yesno (uc->cfg, "testing",
544                                                single_variable)))
545     {
546       /* FIXME: What about UDP? */
547       new_port = GNUNET_TESTING_reserve_port (uc->system, GNUNET_YES);
548       if (0 == new_port)
549       {
550         uc->status = GNUNET_SYSERR;
551         return;
552       }
553       GNUNET_snprintf (cval, sizeof (cval), "%u", new_port);
554       value = cval;
555     }
556     else if ((ival != 0) &&
557              (GNUNET_YES ==
558               GNUNET_CONFIGURATION_get_value_yesno (uc->cfg, "testing",
559                                                     single_variable)) &&
560              GNUNET_CONFIGURATION_get_value_number (uc->cfg, "testing",
561                                                     per_host_variable,
562                                                     &num_per_host))
563     {
564       /* GNUNET_snprintf (cval, sizeof (cval), "%u", */
565       /*                  ival + ctx->fdnum % num_per_host); */
566       /* value = cval; */
567       GNUNET_break (0);         /* FIXME */
568     }
569   }
570   if (0 == strcmp (option, "UNIXPATH"))
571   {
572     if (GNUNET_YES !=
573         GNUNET_CONFIGURATION_get_value_yesno (uc->cfg, "testing",
574                                               single_variable))
575     {
576       GNUNET_snprintf (uval, sizeof (uval), "%s/%s.sock",
577                        uc->service_home, section);
578       value = uval;
579     }
580     else if ((GNUNET_YES ==
581               GNUNET_CONFIGURATION_get_value_number (uc->cfg, "testing",
582                                                      per_host_variable,
583                                                      &num_per_host)) &&
584              (num_per_host > 0))
585     {
586       GNUNET_break(0);          /* FIXME */
587     }
588   }
589   if ((0 == strcmp (option, "HOSTNAME")) && (NULL != uc->system->controller))
590   {
591     value = uc->system->controller;
592   }
593   GNUNET_free (single_variable);
594   GNUNET_free (per_host_variable);
595   GNUNET_CONFIGURATION_set_value_string (uc->cfg, section, option, value);
596 }
597
598
599 /**
600  * Section iterator to set ACCEPT_FROM in all sections
601  *
602  * @param cls the UpdateContext
603  * @param section name of the section
604  */
605 static void
606 update_config_sections (void *cls,
607                         const char *section)
608 {
609   struct UpdateContext *uc = cls;
610   char *orig_allowed_hosts;
611   char *allowed_hosts;
612
613   if (GNUNET_OK != 
614       GNUNET_CONFIGURATION_get_value_string (uc->cfg, section, "ACCEPT_FROM",
615                                              &orig_allowed_hosts))
616   {
617     orig_allowed_hosts = GNUNET_strdup ("127.0.0.1;");
618   }
619   if (NULL == uc->system->controller)
620     allowed_hosts = GNUNET_strdup (orig_allowed_hosts);
621   else
622     GNUNET_asprintf (&allowed_hosts, "%s%s;", orig_allowed_hosts,
623                      uc->system->controller);
624   GNUNET_free (orig_allowed_hosts);
625   GNUNET_CONFIGURATION_set_value_string (uc->cfg, section, "ACCEPT_FROM",
626                                          allowed_hosts);
627   GNUNET_free (allowed_hosts);  
628 }
629
630
631 /**
632  * Create a new configuration using the given configuration
633  * as a template; ports and paths will be modified to select
634  * available ports on the local system.  If we run
635  * out of "*port" numbers, return SYSERR.
636  *
637  * This is primarily a helper function used internally
638  * by 'GNUNET_TESTING_peer_configure'.
639  *
640  * @param system system to use to coordinate resource usage
641  * @param cfg template configuration to update
642  * @return GNUNET_OK on success, GNUNET_SYSERR on error - the configuration will
643  *           be incomplete and should not be used there upon
644  */
645 int
646 GNUNET_TESTING_configuration_create (struct GNUNET_TESTING_System *system,
647                                      struct GNUNET_CONFIGURATION_Handle *cfg)
648 {
649   struct UpdateContext uc;
650   char *default_config;
651   
652   uc.system = system;
653   uc.cfg = cfg;
654   uc.status = GNUNET_OK;
655   GNUNET_asprintf (&uc.service_home, "%s/%u", system->tmppath,
656                    system->path_counter++);
657   GNUNET_asprintf (&default_config, "%s/config", uc.service_home);
658   GNUNET_CONFIGURATION_set_value_string (cfg, "PATHS", "DEFAULTCONFIG",
659                                          default_config);
660   GNUNET_free (default_config);
661   GNUNET_CONFIGURATION_set_value_string (cfg, "PATHS", "SERVICEHOME",
662                                          uc.service_home);
663   /* make PORTs and UNIXPATHs unique */
664   GNUNET_CONFIGURATION_iterate (cfg, &update_config, &uc);
665   /* allow connections to services from system controller host */
666   GNUNET_CONFIGURATION_iterate_sections (cfg, &update_config_sections, &uc);
667   /* enable loopback-based connections between peers */
668   GNUNET_CONFIGURATION_set_value_string (cfg, 
669                                          "nat",
670                                          "USE_LOCALADDR", "YES");
671   GNUNET_free (uc.service_home);
672   return uc.status;
673 }
674
675
676 /**
677  * Configure a GNUnet peer.  GNUnet must be installed on the local
678  * system and available in the PATH. 
679  *
680  * @param system system to use to coordinate resource usage
681  * @param cfg configuration to use; will be UPDATED (to reflect needed
682  *            changes in port numbers and paths)
683  * @param key_number number of the hostkey to use for the peer
684  * @param id identifier for the daemon, will be set, can be NULL
685  * @param emsg set to error message (set to NULL on success), can be NULL
686  * @return handle to the peer, NULL on error
687  */
688 struct GNUNET_TESTING_Peer *
689 GNUNET_TESTING_peer_configure (struct GNUNET_TESTING_System *system,
690                                struct GNUNET_CONFIGURATION_Handle *cfg,
691                                uint32_t key_number,
692                                struct GNUNET_PeerIdentity *id,
693                                char **emsg)
694 {
695   struct GNUNET_TESTING_Peer *peer;
696   struct GNUNET_DISK_FileHandle *fd;
697   char *service_home;  
698   char hostkey_filename[128];
699   char *config_filename;
700   char *emsg_;
701
702   if (NULL != emsg)
703     *emsg = NULL;
704   if (GNUNET_OK != GNUNET_TESTING_configuration_create (system, cfg))
705   {
706     GNUNET_asprintf (&emsg_,
707                        _("Failed to create configuration for peer (not enough free ports?)\n"));
708     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "%s", *emsg_);
709     if (NULL != emsg)
710       *emsg = emsg_;
711     else
712       GNUNET_free (emsg_);
713     return NULL;
714   }
715   if (key_number >= system->total_hostkeys)
716   {
717     GNUNET_asprintf (&emsg_,
718                      _("You attempted to create a testbed with more than %u hosts.  Please precompute more hostkeys first.\n"),
719                      (unsigned int) system->total_hostkeys);    
720     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "%s", emsg_);
721     if (NULL != emsg)
722       *emsg = emsg_;
723     else
724       GNUNET_free (emsg_);
725     return NULL;
726   }
727   if ((NULL != id) &&
728       (GNUNET_SYSERR == GNUNET_TESTING_hostkey_get (system, key_number, id)))
729   {
730     GNUNET_asprintf (&emsg_,
731                      _("Failed to initialize hostkey for peer %u\n"),
732                      (unsigned int) key_number);
733     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "%s", *emsg_);
734     if (NULL != emsg)
735       *emsg = emsg_;
736     else
737       GNUNET_free (emsg_);
738     return NULL;
739   }
740   GNUNET_assert (GNUNET_OK == 
741                  GNUNET_CONFIGURATION_get_value_string (cfg, "PATHS",
742                                                         "SERVICEHOME",
743                                                         &service_home));
744   GNUNET_snprintf (hostkey_filename, sizeof (hostkey_filename), "%s/.hostkey",
745                    service_home);
746   GNUNET_free (service_home);
747   fd = GNUNET_DISK_file_open (hostkey_filename,
748                               GNUNET_DISK_OPEN_CREATE | GNUNET_DISK_OPEN_WRITE,
749                               GNUNET_DISK_PERM_USER_READ 
750                               | GNUNET_DISK_PERM_USER_WRITE);
751   if (NULL == fd)
752   {
753     GNUNET_break (0); 
754     return NULL;
755   }
756   if (HOSTKEYFILESIZE !=
757       GNUNET_DISK_file_write (fd, system->hostkeys_data 
758                               + (key_number * HOSTKEYFILESIZE),
759                               HOSTKEYFILESIZE))
760   {
761     GNUNET_asprintf (&emsg_,
762                      _("Failed to write hostkey file for peer %u: %s\n"),
763                      (unsigned int) key_number,
764                      STRERROR (errno));
765     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "%s", *emsg_);
766     if (NULL != emsg)
767       *emsg = emsg_;
768     else
769       GNUNET_free (emsg_);
770     GNUNET_DISK_file_close (fd);
771     return NULL;
772   }
773   GNUNET_DISK_file_close (fd);
774   GNUNET_assert (GNUNET_OK ==
775                  GNUNET_CONFIGURATION_get_value_string 
776                  (cfg, "PATHS", "DEFAULTCONFIG", &config_filename));  
777   if (GNUNET_OK != GNUNET_CONFIGURATION_write (cfg, config_filename))
778   {
779     GNUNET_asprintf (&emsg_,
780                      _("Failed to write configuration file `%s' for peer %u: %s\n"),
781                      config_filename,
782                      (unsigned int) key_number,
783                      STRERROR (errno));
784     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, "%s", *emsg_);
785     if (NULL != emsg)
786       *emsg = emsg_;
787     else
788       GNUNET_free (emsg_);
789     GNUNET_free (config_filename);
790     return NULL;
791   }
792   peer = GNUNET_malloc (sizeof (struct GNUNET_TESTING_Peer));
793   peer->cfgfile = config_filename; /* Free in peer_destroy */
794   peer->main_binary = GNUNET_strdup ("gnunet-service-arm");
795   return peer;
796 }
797
798
799 /**
800  * Start the peer. 
801  *
802  * @param peer peer to start
803  * @return GNUNET_OK on success, GNUNET_SYSERR on error (i.e. peer already running)
804  */
805 int
806 GNUNET_TESTING_peer_start (struct GNUNET_TESTING_Peer *peer)
807 {
808   if (NULL != peer->main_process)
809   {
810     GNUNET_break (0);
811     return GNUNET_SYSERR;
812   }
813   GNUNET_assert (NULL != peer->cfgfile);
814   peer->main_process = GNUNET_OS_start_process (GNUNET_YES, NULL, NULL,
815                                                 peer->main_binary,
816                                                 peer->main_binary,
817                                                 "-c",
818                                                 peer->cfgfile,
819                                                 NULL);
820   if (NULL == peer->main_process)
821   {
822     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
823                 _("Failed to start `%s': %s\n"),
824                 peer->main_binary,
825                 STRERROR (errno));
826     return GNUNET_SYSERR;
827   }
828   return GNUNET_OK;
829 }
830
831
832 /**
833  * Stop the peer. 
834  *
835  * @param peer peer to stop
836  * @return GNUNET_OK on success, GNUNET_SYSERR on error (i.e. peer not running)
837  */
838 int
839 GNUNET_TESTING_peer_stop (struct GNUNET_TESTING_Peer *peer)
840 {
841   if (NULL == peer->main_process)
842   {
843     GNUNET_break (0);
844     return GNUNET_SYSERR;
845   }
846   (void) GNUNET_OS_process_kill (peer->main_process, SIGTERM);
847   GNUNET_assert (GNUNET_OK == GNUNET_OS_process_wait (peer->main_process));
848   GNUNET_OS_process_destroy (peer->main_process);
849   peer->main_process = NULL;
850   return GNUNET_OK;
851 }
852
853
854 /**
855  * Destroy the peer.  Releases resources locked during peer configuration.
856  * If the peer is still running, it will be stopped AND a warning will be
857  * printed (users of the API should stop the peer explicitly first).
858  *
859  * @param peer peer to destroy
860  */
861 void
862 GNUNET_TESTING_peer_destroy (struct GNUNET_TESTING_Peer *peer)
863 {
864   if (NULL != peer->main_process)
865   {
866     GNUNET_break (0);
867     GNUNET_TESTING_peer_stop (peer);
868   }
869   GNUNET_free (peer->cfgfile);
870   GNUNET_free (peer->main_binary);
871   GNUNET_free (peer);
872 }
873
874
875 /**
876  * Start a single peer and run a test using the testing library.
877  * Starts a peer using the given configuration and then invokes the
878  * given callback.  This function ALSO initializes the scheduler loop
879  * and should thus be called directly from "main".  The testcase
880  * should self-terminate by invoking 'GNUNET_SCHEDULER_shutdown'.
881  *
882  * @param testdir only the directory name without any path. This is used for
883  *          all service homes; the directory will be created in a temporary
884  *          location depending on the underlying OS
885  * @param cfgfilename name of the configuration file to use;
886  *         use NULL to only run with defaults
887  * @param tm main function of the testcase
888  * @param tm_cls closure for 'tm'
889  * @return 0 on success, 1 on error
890  */
891 int
892 GNUNET_TESTING_peer_run (const char *testdir,
893                          const char *cfgfilename,
894                          GNUNET_TESTING_TestMain tm,
895                          void *tm_cls)
896 {
897   return GNUNET_TESTING_service_run (testdir, "arm",
898                                      cfgfilename, tm, tm_cls);
899 }
900
901
902 /**
903  * Structure for holding service data
904  */
905 struct ServiceContext
906 {
907   /**
908    * The configuration of the peer in which the service is run
909    */
910   const struct GNUNET_CONFIGURATION_Handle *cfg;
911
912   /**
913    * Callback to signal service startup
914    */
915   GNUNET_TESTING_TestMain tm;
916
917   /**
918    * Closure for the above callback
919    */
920   void *tm_cls;
921 };
922
923
924 /**
925  * Callback to be called when SCHEDULER has been started
926  *
927  * @param cls the ServiceContext
928  * @param tc the TaskContext
929  */
930 static void
931 service_run_main (void *cls,
932                   const struct GNUNET_SCHEDULER_TaskContext *tc)
933 {
934   struct ServiceContext *sc = cls;
935
936   sc->tm (sc->tm_cls, sc->cfg);
937 }
938
939
940 /**
941  * Start a single service (no ARM, except of course if the given
942  * service name is 'arm') and run a test using the testing library.
943  * Starts a service using the given configuration and then invokes the
944  * given callback.  This function ALSO initializes the scheduler loop
945  * and should thus be called directly from "main".  The testcase
946  * should self-terminate by invoking 'GNUNET_SCHEDULER_shutdown'.
947  *
948  * This function is useful if the testcase is for a single service
949  * and if that service doesn't itself depend on other services.
950  *
951  * @param testdir only the directory name without any path. This is used for
952  *          all service homes; the directory will be created in a temporary
953  *          location depending on the underlying OS
954  * @param service_name name of the service to run
955  * @param cfgfilename name of the configuration file to use;
956  *         use NULL to only run with defaults
957  * @param tm main function of the testcase
958  * @param tm_cls closure for 'tm'
959  * @return 0 on success, 1 on error
960  */
961 int
962 GNUNET_TESTING_service_run (const char *testdir,
963                             const char *service_name,
964                             const char *cfgfilename,
965                             GNUNET_TESTING_TestMain tm,
966                             void *tm_cls)
967 {
968   struct ServiceContext sc;
969   struct GNUNET_TESTING_System *system;
970   struct GNUNET_TESTING_Peer *peer;
971   struct GNUNET_CONFIGURATION_Handle *cfg;
972
973   GNUNET_log_setup (testdir,
974                     "WARNING",
975                     NULL);
976   system = GNUNET_TESTING_system_create (testdir, "127.0.0.1");
977   if (NULL == system)
978     return 1;
979   cfg = GNUNET_CONFIGURATION_create ();
980   if (GNUNET_OK != GNUNET_CONFIGURATION_load (cfg, cfgfilename))
981   {
982     LOG (GNUNET_ERROR_TYPE_ERROR,
983          _("Failed to load configuration from %s\n"), cfgfilename);
984     GNUNET_CONFIGURATION_destroy (cfg);
985     GNUNET_TESTING_system_destroy (system, GNUNET_YES);
986     return 1;
987   }
988   peer = GNUNET_TESTING_peer_configure (system, cfg, 0, NULL, NULL);
989   if (NULL == peer)
990   {
991     GNUNET_CONFIGURATION_destroy (cfg);
992     hostkeys_unload (system);
993     GNUNET_TESTING_system_destroy (system, GNUNET_YES);
994     return 1;
995   }
996   GNUNET_free (peer->main_binary);
997   GNUNET_asprintf (&peer->main_binary, "gnunet-service-%s", service_name);
998   if (GNUNET_OK != GNUNET_TESTING_peer_start (peer))
999   {    
1000     GNUNET_TESTING_peer_destroy (peer);
1001     GNUNET_CONFIGURATION_destroy (cfg);
1002     GNUNET_TESTING_system_destroy (system, GNUNET_YES);
1003     return 1;
1004   }
1005   sc.cfg = cfg;
1006   sc.tm = tm;
1007   sc.tm_cls = tm_cls;
1008   GNUNET_SCHEDULER_run (&service_run_main, &sc); /* Scheduler loop */
1009   if (GNUNET_OK != GNUNET_TESTING_peer_stop (peer))
1010   {
1011     GNUNET_TESTING_peer_destroy (peer);
1012     GNUNET_CONFIGURATION_destroy (cfg);
1013     GNUNET_TESTING_system_destroy (system, GNUNET_YES);
1014     return 1;
1015   }
1016   GNUNET_TESTING_peer_destroy (peer);
1017   GNUNET_CONFIGURATION_destroy (cfg);
1018   GNUNET_TESTING_system_destroy (system, GNUNET_YES);
1019   return 0;
1020 }
1021
1022
1023 /**
1024  * Sometimes we use the binary name to determine which specific
1025  * test to run.  In those cases, the string after the last "_"
1026  * in 'argv[0]' specifies a string that determines the configuration
1027  * file or plugin to use.  
1028  *
1029  * This function returns the respective substring, taking care
1030  * of issues such as binaries ending in '.exe' on W32.
1031  *
1032  * @param argv0 the name of the binary
1033  * @return string between the last '_' and the '.exe' (or the end of the string),
1034  *         NULL if argv0 has no '_' 
1035  */
1036 char *
1037 GNUNET_TESTING_get_testname_from_underscore (const char *argv0)
1038 {
1039   size_t slen = strlen (argv0) + 1;
1040   char sbuf[slen];
1041   char *ret;
1042   char *dot;
1043
1044   memcpy (sbuf, argv0, slen);
1045   ret = strrchr (sbuf, '_');
1046   if (NULL == ret)
1047     return NULL;
1048   ret++; /* skip underscore */
1049   dot = strchr (ret, '.');
1050   if (NULL != dot)
1051     *dot = '\0';
1052   return GNUNET_strdup (ret);
1053 }
1054
1055
1056 /* end of testing.c */