fix
[oweals/gnunet.git] / src / datastore / perf_plugin_datastore.c
index 4d39d85ac4f29c0f0a520c59cc560683c62a7ed3..6befa120c0bf319c1f5191dcad9a92f48a882fb5 100644 (file)
@@ -1,6 +1,6 @@
 /*
      This file is part of GNUnet.
-     (C) 2004, 2005, 2006, 2007, 2009 Christian Grothoff (and other contributing authors)
+     (C) 2004, 2005, 2006, 2007, 2009, 2011 Christian Grothoff (and other contributing authors)
 
      GNUnet is free software; you can redistribute it and/or modify
      it under the terms of the GNU General Public License as published
@@ -26,7 +26,8 @@
 #include "platform.h"
 #include "gnunet_util_lib.h"
 #include "gnunet_protocols.h"
-#include "plugin_datastore.h"
+#include "gnunet_datastore_plugin.h"
+#include <gauger.h>
 
 #define VERBOSE GNUNET_NO
 
  * those take too long to run them in the usual "make check"
  * sequence.  Hence the value used for shipping is tiny.
  */
-#define MAX_SIZE 1024LL * 1024 * 128
+#define MAX_SIZE 1024LL * 1024 * 32
 
-#define ITERATIONS 10
+#define ITERATIONS 2
 
 /**
  * Number of put operations equivalent to 1/10th of MAX_SIZE
  */
 #define PUT_10 (MAX_SIZE / 32 / 1024 / ITERATIONS)
 
+static char category[256];
+
+static unsigned int hits[PUT_10 / 8 + 1];
+
 static unsigned long long stored_bytes;
 
 static unsigned long long stored_entries;
@@ -57,13 +62,12 @@ static int ok;
 
 enum RunPhase
   {
-    RP_DONE = 0,
+    RP_ERROR = 0,
     RP_PUT,
-    RP_LP_GET,
-    RP_AE_GET,
+    RP_REP_GET,
     RP_ZA_GET,
-    RP_MO_GET,
-    RP_AN_GET
+    RP_EXP_GET,
+    RP_DONE
   };
 
 
@@ -72,12 +76,12 @@ struct CpsRunContext
   unsigned int i;
   struct GNUNET_TIME_Absolute start;
   struct GNUNET_TIME_Absolute end;
-  struct GNUNET_SCHEDULER_Handle *sched;
   const struct GNUNET_CONFIGURATION_Handle *cfg;
   struct GNUNET_DATASTORE_PluginFunctions * api;
-  const char *msg;
   enum RunPhase phase;
   unsigned int cnt;
+  unsigned int iter;
+  uint64_t offset;
 };
 
 
@@ -97,7 +101,8 @@ disk_utilization_change_cb (void *cls,
 
             
 static void
-putValue (struct GNUNET_DATASTORE_PluginFunctions * api, int i, int k)
+putValue (struct GNUNET_DATASTORE_PluginFunctions * api, 
+         int i, int k)
 {
   char value[65536];
   size_t size;
@@ -108,27 +113,28 @@ putValue (struct GNUNET_DATASTORE_PluginFunctions * api, int i, int k)
 
   /* most content is 32k */
   size = 32 * 1024;
-
   if (GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK, 16) == 0)  /* but some of it is less! */
-    size = GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK, 32 * 1024);
+    size = 8 + GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK, 32 * 1024);
   size = size - (size & 7);     /* always multiple of 8 */
 
   /* generate random key */
-  key.bits[0] = (unsigned int) GNUNET_TIME_absolute_get ().value;
+  key.bits[0] = (unsigned int) GNUNET_TIME_absolute_get ().abs_value;
   GNUNET_CRYPTO_hash (&key, sizeof (GNUNET_HashCode), &key);
   memset (value, i, size);
   if (i > 255)
     memset (value, i - 255, size / 2);
   value[0] = k;
+  memcpy (&value[4], &i, sizeof (i));
   msg = NULL;
   prio = GNUNET_CRYPTO_random_u32 (GNUNET_CRYPTO_QUALITY_WEAK, 100);
   if (GNUNET_OK != api->put (api->cls,
                             &key, 
                             size,
                             value,
-                            i,
+                            1 + i % 4 /* type */,
                             prio,
-                            i,
+                            i % 4 /* anonymity */,
+                            0 /* replication */,
                             GNUNET_TIME_relative_to_absolute 
                             (GNUNET_TIME_relative_multiply (GNUNET_TIME_UNIT_MILLISECONDS,
                                                             60 * 60 * 60 * 1000 +
@@ -151,8 +157,7 @@ test (void *cls,
 
 
 static int
-iterateDummy (void *cls,
-             void *next_cls,
+iterate_zeros (void *cls,
              const GNUNET_HashCode * key,
              uint32_t size,
              const void *data,
@@ -164,42 +169,155 @@ iterateDummy (void *cls,
              uint64_t uid)
 {
   struct CpsRunContext *crc = cls;
-  
-  if (key == NULL)
-    {
-      crc->end = GNUNET_TIME_absolute_get();
-      printf (crc->msg,
-             crc->i,
-             (unsigned long long) (crc->end.value - crc->start.value),
-             crc->cnt);
-      if (crc->phase != RP_AN_GET)
-       {
-         crc->phase++;
-       }
-      else
-       {
-         if (crc->i == ITERATIONS)
-           crc->phase = RP_DONE;
-         else
-           crc->phase = RP_PUT;
-       }
-      GNUNET_SCHEDULER_add_after (crc->sched,
-                                 GNUNET_SCHEDULER_NO_TASK,
-                                 &test, crc);
-      return GNUNET_OK;
-    }
-#if VERBOSE
+  int i;
+  const char *cdata = data;
+
+  GNUNET_assert (key != NULL);
+  GNUNET_assert (size >= 8);
+  memcpy (&i, &cdata[4], sizeof (i));
+  hits[i/8] |= (1 << (i % 8)); 
+
+#if VERBOSE 
   fprintf (stderr, "Found result type=%u, priority=%u, size=%u, expire=%llu\n",
           type, priority, size,
-          (unsigned long long) expiration.value);
+          (unsigned long long) expiration.abs_value);
 #endif
   crc->cnt++;
-  crc->api->next_request (next_cls,
-                         GNUNET_NO);
+  if (crc->cnt == PUT_10 / 4 - 1)
+    {
+      char buf[256];
+      unsigned int bc;
+
+      bc = 0;
+      for (i = 0;i<PUT_10;i++)
+       if (0 != (hits[i/8] & (1 << (i % 8))))
+         bc++;
+      
+      crc->end = GNUNET_TIME_absolute_get();
+      GNUNET_snprintf (buf, sizeof (buf),
+                      "Iteration over %u zero-anonymity items",
+                      crc->cnt);
+      printf ("%s took %llu ms yielding %u/%u items\n",
+             buf,
+             (unsigned long long) (crc->end.abs_value - crc->start.abs_value),
+             bc,
+             crc->cnt);
+      GAUGER (category, buf, crc->end.abs_value - crc->start.abs_value, "ms");
+      memset (hits, 0, sizeof (hits));
+      crc->phase++;
+      crc->cnt = 0;
+      crc->start = GNUNET_TIME_absolute_get ();      
+    }
+  GNUNET_SCHEDULER_add_now (&test, crc);
   return GNUNET_OK;
 }
 
 
+static int
+expiration_get (void *cls,
+               const GNUNET_HashCode * key,
+               uint32_t size,
+               const void *data,
+               enum GNUNET_BLOCK_Type type,
+               uint32_t priority,
+               uint32_t anonymity,
+               struct GNUNET_TIME_Absolute
+               expiration, 
+               uint64_t uid)
+{
+  struct CpsRunContext *crc = cls;
+  int i;
+  const char *cdata = data;
+
+  GNUNET_assert (size >= 8);
+  memcpy (&i, &cdata[4], sizeof (i));
+  hits[i/8] |= (1 << (i % 8));
+  crc->cnt++;
+  if (PUT_10 <= crc->cnt)
+    {
+      char buf[256];
+      unsigned int bc;
+
+      bc = 0;
+      for (i = 0;i<PUT_10;i++)
+       if (0 != (hits[i/8] & (1 << (i % 8))))
+         bc++;
+      
+      crc->end = GNUNET_TIME_absolute_get();
+      GNUNET_snprintf (buf, sizeof (buf),
+                      "Execution of %u expiration+deletion-GET requests",
+                      PUT_10);
+      printf ("%s took %llu ms yielding %u/%u items\n",
+             buf,
+             (unsigned long long) (crc->end.abs_value - crc->start.abs_value),
+             bc,
+             (unsigned int) PUT_10);
+      GAUGER (category, buf, crc->end.abs_value - crc->start.abs_value, "ms");
+      memset (hits, 0, sizeof (hits));
+      if (++crc->iter == ITERATIONS)
+       crc->phase++;
+      else
+       crc->phase = RP_PUT;
+      crc->cnt = 0;      
+      crc->start = GNUNET_TIME_absolute_get ();      
+    }  
+  GNUNET_SCHEDULER_add_now (&test, crc);
+  return GNUNET_NO;
+}
+
+
+static int
+replication_get (void *cls,
+                const GNUNET_HashCode * key,
+                uint32_t size,
+                const void *data,
+                enum GNUNET_BLOCK_Type type,
+                uint32_t priority,
+                uint32_t anonymity,
+                struct GNUNET_TIME_Absolute
+                expiration, 
+                uint64_t uid)
+{
+  struct CpsRunContext *crc = cls;
+  int i;
+  const char *cdata = data;
+
+  GNUNET_assert (NULL != key);
+  GNUNET_assert (size >= 8);
+  memcpy (&i, &cdata[4], sizeof (i));
+  hits[i/8] |= (1 << (i % 8));
+  crc->cnt++;
+  if (PUT_10 <= crc->cnt)
+    {
+      char buf[256];
+      unsigned int bc;
+
+      bc = 0;
+      for (i = 0;i<PUT_10;i++)
+       if (0 != (hits[i/8] & (1 << (i % 8))))
+         bc++;
+      
+      crc->end = GNUNET_TIME_absolute_get();
+      GNUNET_snprintf (buf, sizeof (buf),
+                      "Execution of %u replication-GET requests",
+                      PUT_10);
+      printf ("%s took %llu ms yielding %u/%u items\n",
+             buf,
+             (unsigned long long) (crc->end.abs_value - crc->start.abs_value),
+             bc,
+             (unsigned int) PUT_10);
+      GAUGER (category, buf, crc->end.abs_value - crc->start.abs_value, "ms");
+      memset (hits, 0, sizeof (hits));
+      crc->phase++;
+      crc->offset = 0;
+      crc->cnt = 0;      
+      crc->start = GNUNET_TIME_absolute_get ();      
+    }
+  
+  GNUNET_SCHEDULER_add_now (&test, crc);
+  return GNUNET_OK;
+}
+
 
 /**
  * Function called when the service shuts
@@ -254,68 +372,70 @@ test (void *cls,
   struct CpsRunContext *crc = cls;
   int j;
 
+  if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
+    {
+      GNUNET_break (0);
+      crc->phase = RP_ERROR;        
+    }
+#if VERBOSE
+  fprintf (stderr, "In phase %d, iteration %u\n",
+          crc->phase,
+          crc->cnt);
+#endif
   switch (crc->phase)
     {
+    case RP_ERROR:
+      GNUNET_break (0);
+      crc->api->drop (crc->api->cls);
+      ok = 1;
+      GNUNET_SCHEDULER_add_with_priority (GNUNET_SCHEDULER_PRIORITY_IDLE,
+                                         &cleaning_task, crc);
+      break;
     case RP_PUT:      
       crc->start = GNUNET_TIME_absolute_get ();
       for (j=0;j<PUT_10;j++)
        putValue (crc->api, j, crc->i);
       crc->end = GNUNET_TIME_absolute_get ();
-      printf ("%3u insertion took                      %20llums for %u\n",
-             crc->i,
-             (unsigned long long) (crc->end.value - crc->start.value),
-             (unsigned int) PUT_10);
+      {
+       char buf[256];      
+
+       GNUNET_snprintf (buf, sizeof (buf),
+                        "Execution of %u PUT requests",
+                        PUT_10);
+       printf ("%s took %llu ms\n",
+               buf,
+               (unsigned long long) (crc->end.abs_value - crc->start.abs_value));
+       GAUGER (category, 
+               buf, crc->end.abs_value - crc->start.abs_value, "ms");
+      }
       crc->i++;
-      crc->phase = RP_LP_GET;
-      GNUNET_SCHEDULER_add_after (crc->sched,
-                                 GNUNET_SCHEDULER_NO_TASK,
-                                 &test, crc);
-      break;
-    case RP_LP_GET:
-      crc->cnt = 0;
       crc->start = GNUNET_TIME_absolute_get ();      
-      crc->msg = "%3u low priority iteration took         %20llums for %u\n";
-      crc->api->iter_low_priority (crc->api->cls, 0, 
-                                  &iterateDummy,
-                                  crc);
+      crc->phase++;
+      GNUNET_SCHEDULER_add_now (&test, crc);
       break;
-    case RP_AE_GET:
-      crc->cnt = 0;
-      crc->start = GNUNET_TIME_absolute_get ();      
-      crc->msg = "%3u ascending expiration iteration took %20llums for %u\n";
-      crc->api->iter_ascending_expiration (crc->api->cls, 0, 
-                                     &iterateDummy,
-                                     crc);
+    case RP_REP_GET:
+      crc->api->get_replication (crc->api->cls, 
+                                &replication_get,
+                                crc);
       break;
     case RP_ZA_GET:
-      crc->cnt = 0;
-      crc->start = GNUNET_TIME_absolute_get ();      
-      crc->msg = "%3u zero anonymity iteration took       %20llums for %u\n";
-      crc->api->iter_zero_anonymity (crc->api->cls, 0, 
-                                    &iterateDummy,
-                                    crc);
-      break;
-    case RP_MO_GET:
-      crc->cnt = 0;
-      crc->start = GNUNET_TIME_absolute_get ();      
-      crc->msg = "%3u migration order iteration took      %20llums for %u\n";
-      crc->api->iter_migration_order (crc->api->cls, 0, 
-                                     &iterateDummy,
-                                     crc);
+      crc->api->get_zero_anonymity (crc->api->cls, 
+                                   crc->offset++,
+                                   1, 
+                                   &iterate_zeros,
+                                   crc);
       break;
-    case RP_AN_GET:
-      crc->cnt = 0;
-      crc->start = GNUNET_TIME_absolute_get ();      
-      crc->msg = "%3u all now iteration took              %20llums for %u\n";
-      crc->api->iter_all_now (crc->api->cls, 0,
-                             &iterateDummy,
-                             crc);
+    case RP_EXP_GET:
+      crc->api->get_expiration (crc->api->cls, 
+                               &expiration_get,
+                               crc);
       break;
     case RP_DONE:
+      exit (0);
       crc->api->drop (crc->api->cls);
-      GNUNET_SCHEDULER_add_with_priority (crc->sched,
-                                   GNUNET_SCHEDULER_PRIORITY_IDLE,
-                                   &cleaning_task, crc);
+      ok = 0;
+      GNUNET_SCHEDULER_add_with_priority (GNUNET_SCHEDULER_PRIORITY_IDLE,
+                                         &cleaning_task, crc);
       break;
     }
 }
@@ -325,8 +445,7 @@ test (void *cls,
  * Load the datastore plugin.
  */
 static struct GNUNET_DATASTORE_PluginFunctions *
-load_plugin (const struct GNUNET_CONFIGURATION_Handle *cfg,
-            struct GNUNET_SCHEDULER_Handle *sched)
+load_plugin (const struct GNUNET_CONFIGURATION_Handle *cfg)
 {
   static struct GNUNET_DATASTORE_PluginEnvironment env;
   struct GNUNET_DATASTORE_PluginFunctions * ret; 
@@ -344,7 +463,6 @@ load_plugin (const struct GNUNET_CONFIGURATION_Handle *cfg,
       return NULL;
     }
   env.cfg = cfg;
-  env.sched = sched;  
   env.duc = &disk_utilization_change_cb;
   env.cls = NULL;
   GNUNET_log (GNUNET_ERROR_TYPE_INFO,
@@ -365,7 +483,6 @@ load_plugin (const struct GNUNET_CONFIGURATION_Handle *cfg,
 
 static void
 run (void *cls,
-     struct GNUNET_SCHEDULER_Handle *s,
      char *const *args,
      const char *cfgfile,
      const struct GNUNET_CONFIGURATION_Handle *c)
@@ -373,7 +490,7 @@ run (void *cls,
   struct GNUNET_DATASTORE_PluginFunctions *api;
   struct CpsRunContext *crc;
 
-  api = load_plugin (c, s);
+  api = load_plugin (c);
   if (api == NULL)
     {
       fprintf (stderr, 
@@ -382,11 +499,10 @@ run (void *cls,
     }
   crc = GNUNET_malloc(sizeof(struct CpsRunContext));
   crc->api = api;
-  crc->sched = s;
   crc->cfg = c;
   crc->phase = RP_PUT;
-  GNUNET_SCHEDULER_add_now (crc->sched,
-                           &test, crc);
+  ok = 2;
+  GNUNET_SCHEDULER_add_now (&test, crc);
 }
 
 
@@ -407,6 +523,9 @@ check ()
     GNUNET_GETOPT_OPTION_END
   };
 
+  GNUNET_snprintf (category, sizeof (category),
+                  "DATASTORE-%s",
+                  plugin_name);
   GNUNET_snprintf (cfg_name,
                   sizeof (cfg_name),
                   "perf_plugin_datastore_data_%s.conf",
@@ -424,13 +543,17 @@ int
 main (int argc, char *argv[])
 {
   int ret;
-  const char *pos;
+  char *pos;
   char dir_name[128];
 
   /* determine name of plugin to use */
   plugin_name = argv[0];
   while (NULL != (pos = strstr(plugin_name, "_")))
     plugin_name = pos+1;
+  if (NULL != (pos = strstr(plugin_name, ".")))
+    pos[0] = 0;
+  else
+    pos = (char *) plugin_name;
 
   GNUNET_snprintf (dir_name,
                   sizeof (dir_name),
@@ -445,6 +568,8 @@ main (int argc, char *argv[])
 #endif
                     NULL);
   ret = check ();
+  if (pos != plugin_name)
+    pos[0] = '.';
   GNUNET_DISK_directory_remove (dir_name);
 
   return ret;