Implement and use GNUNET_CRYPTO_rsa_get_public_key_hash
[oweals/gnunet.git] / src / fs / fs_namespace.c
1 /*
2      This file is part of GNUnet
3      (C) 2003, 2004, 2005, 2006, 2007, 2008, 2009, 2010 Christian Grothoff (and other contributing authors)
4
5      GNUnet is free software; you can redistribute it and/or modify
6      it under the terms of the GNU General Public License as published
7      by the Free Software Foundation; either version 3, or (at your
8      option) any later version.
9
10      GNUnet is distributed in the hope that it will be useful, but
11      WITHOUT ANY WARRANTY; without even the implied warranty of
12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13      General Public License for more details.
14
15      You should have received a copy of the GNU General Public License
16      along with GNUnet; see the file COPYING.  If not, write to the
17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18      Boston, MA 02111-1307, USA.
19 */
20
21 /**
22  * @file fs/fs_namespace.c
23  * @brief create and destroy namespaces
24  * @author Christian Grothoff
25  */
26 #include "platform.h"
27 #include "gnunet_constants.h"
28 #include "gnunet_signatures.h"
29 #include "gnunet_util_lib.h"
30 #include "gnunet_fs_service.h"
31 #include "fs_api.h"
32
33
34 /**
35  * Maximum legal size for an sblock.
36  */
37 #define MAX_SBLOCK_SIZE (60 * 1024)
38
39
40 /**
41  * Context for creating a namespace asynchronously.
42  */
43 struct GNUNET_FS_NamespaceCreationContext
44 {
45   /**
46    * Context for asynchronous key creation.
47    */
48   struct GNUNET_CRYPTO_RsaKeyGenerationContext *keycreator;
49
50   /**
51    * Name of the file to store key in / read key from.
52    */
53   char *filename;
54
55   /**
56    * Name of the namespace.
57    */
58   char *name;
59
60   /**
61    * Global fs handle
62    */
63   struct GNUNET_FS_Handle *h;
64
65   /**
66    * Function to call when generation ends (successfully or not)
67    */
68   GNUNET_FS_NamespaceCreationCallback cont;
69
70   /**
71    * Client value to pass to continuation function.
72    */
73   void *cont_cls;
74 };
75
76
77 /**
78  * Return the name of the directory in which we store
79  * our local namespaces (or rather, their public keys).
80  *
81  * @param h global fs handle
82  * @return NULL on error, otherwise the name of the directory
83  */
84 static char *
85 get_namespace_directory (struct GNUNET_FS_Handle *h)
86 {
87   char *dn;
88
89   if (GNUNET_OK !=
90       GNUNET_CONFIGURATION_get_value_filename (h->cfg, "FS", "IDENTITY_DIR",
91                                                &dn))
92   {
93     GNUNET_log_config_missing (GNUNET_ERROR_TYPE_ERROR,
94                                "fs", "IDENTITY_DIR");
95     return NULL;
96   }
97   return dn;
98 }
99
100
101 /**
102  * Return the name of the directory in which we store
103  * the update information graph for the given local namespace.
104  *
105  * @param ns namespace handle
106  * @return NULL on error, otherwise the name of the directory
107  */
108 static char *
109 get_update_information_directory (struct GNUNET_FS_Namespace *ns)
110 {
111   char *dn;
112   char *ret;
113
114   if (GNUNET_OK !=
115       GNUNET_CONFIGURATION_get_value_filename (ns->h->cfg, "FS", "UPDATE_DIR",
116                                                &dn))
117   {
118     GNUNET_log_config_missing (GNUNET_ERROR_TYPE_ERROR,
119                                "fs", "UPDATE_DIR");
120     return NULL;
121   }
122   GNUNET_asprintf (&ret, "%s%s%s", dn, DIR_SEPARATOR_STR, ns->name);
123   GNUNET_free (dn);
124   return ret;
125 }
126
127
128 /**
129  * Write the namespace update node graph to a file.
130  *
131  * @param ns namespace to dump
132  */
133 static void
134 write_update_information_graph (struct GNUNET_FS_Namespace *ns)
135 {
136   char *fn;
137   struct GNUNET_BIO_WriteHandle *wh;
138   unsigned int i;
139   struct NamespaceUpdateNode *n;
140   char *uris;
141
142   fn = get_update_information_directory (ns);
143   wh = GNUNET_BIO_write_open (fn);
144   if (NULL == wh)
145   {
146     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
147                 _("Failed to open `%s' for writing: %s\n"), STRERROR (errno));
148     GNUNET_free (fn);
149     return;
150   }
151   if (GNUNET_OK != GNUNET_BIO_write_int32 (wh, ns->update_node_count))
152     goto END;
153   for (i = 0; i < ns->update_node_count; i++)
154   {
155     n = ns->update_nodes[i];
156     uris = GNUNET_FS_uri_to_string (n->uri);
157     if ((GNUNET_OK != GNUNET_BIO_write_string (wh, n->id)) ||
158         (GNUNET_OK != GNUNET_BIO_write_meta_data (wh, n->md)) ||
159         (GNUNET_OK != GNUNET_BIO_write_string (wh, n->update)) ||
160         (GNUNET_OK != GNUNET_BIO_write_string (wh, uris)))
161     {
162       GNUNET_free (uris);
163       break;
164     }
165     GNUNET_free (uris);
166   }
167 END:
168   if (GNUNET_OK != GNUNET_BIO_write_close (wh))
169     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, _("Failed to write `%s': %s\n"),
170                 STRERROR (errno));
171   GNUNET_free (fn);
172 }
173
174
175 /**
176  * Read the namespace update node graph from a file.
177  *
178  * @param ns namespace to read
179  */
180 static void
181 read_update_information_graph (struct GNUNET_FS_Namespace *ns)
182 {
183   char *fn;
184   struct GNUNET_BIO_ReadHandle *rh;
185   unsigned int i;
186   struct NamespaceUpdateNode *n;
187   char *uris;
188   uint32_t count;
189   char *emsg;
190
191   fn = get_update_information_directory (ns);
192   if (GNUNET_YES != GNUNET_DISK_file_test (fn))
193   {
194     GNUNET_free (fn);
195     return;
196   }
197   rh = GNUNET_BIO_read_open (fn);
198   if (NULL == rh)
199   {
200     GNUNET_free (fn);
201     return;
202   }
203   if (GNUNET_OK != GNUNET_BIO_read_int32 (rh, &count))
204   {
205     GNUNET_break (0);
206     goto END;
207   }
208   if (count > 1024 * 1024)
209   {
210     GNUNET_break (0);
211     goto END;
212   }
213   if (0 == count)
214   {
215     GNUNET_break (GNUNET_OK == GNUNET_BIO_read_close (rh, NULL));
216     GNUNET_free (fn);
217     return;
218   }
219   ns->update_nodes =
220       GNUNET_malloc (count * sizeof (struct NamespaceUpdateNode *));
221
222   for (i = 0; i < count; i++)
223   {
224     n = GNUNET_malloc (sizeof (struct NamespaceUpdateNode));
225     if ((GNUNET_OK != GNUNET_BIO_read_string (rh, "identifier", &n->id, 1024))
226         || (GNUNET_OK != GNUNET_BIO_read_meta_data (rh, "meta", &n->md)) ||
227         (GNUNET_OK !=
228          GNUNET_BIO_read_string (rh, "update-id", &n->update, 1024)) ||
229         (GNUNET_OK != GNUNET_BIO_read_string (rh, "uri", &uris, 1024 * 2)))
230     {
231       GNUNET_break (0);
232       GNUNET_free_non_null (n->id);
233       GNUNET_free_non_null (n->update);
234       if (n->md != NULL)
235         GNUNET_CONTAINER_meta_data_destroy (n->md);
236       GNUNET_free (n);
237       break;
238     }
239     n->uri = GNUNET_FS_uri_parse (uris, &emsg);
240     GNUNET_free (uris);
241     if (n->uri == NULL)
242     {
243       GNUNET_break (0);
244       GNUNET_free (emsg);
245       GNUNET_free (n->id);
246       GNUNET_free_non_null (n->update);
247       GNUNET_CONTAINER_meta_data_destroy (n->md);
248       GNUNET_free (n);
249       break;
250     }
251     ns->update_nodes[i] = n;
252   }
253   ns->update_node_count = i;
254 END:
255   if (GNUNET_OK != GNUNET_BIO_read_close (rh, &emsg))
256   {
257     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, _("Failed to write `%s': %s\n"), emsg);
258     GNUNET_free (emsg);
259   }
260   GNUNET_free (fn);
261 }
262
263
264 /**
265  * Create a namespace with the given name; if one already
266  * exists, return a handle to the existing namespace.
267  *
268  * @param h handle to the file sharing subsystem
269  * @param name name to use for the namespace
270  * @return handle to the namespace, NULL on error (i.e. invalid filename)
271  */
272 struct GNUNET_FS_Namespace *
273 GNUNET_FS_namespace_create (struct GNUNET_FS_Handle *h, const char *name)
274 {
275   char *dn;
276   char *fn;
277   struct GNUNET_FS_Namespace *ret;
278
279   dn = get_namespace_directory (h);
280   if (NULL == dn)
281   {
282     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
283                 _("Can't determine where namespace directory is\n"));
284     return NULL;
285   }
286   GNUNET_asprintf (&fn, "%s%s%s", dn, DIR_SEPARATOR_STR, name);
287   GNUNET_free (dn);
288   ret = GNUNET_malloc (sizeof (struct GNUNET_FS_Namespace));
289   ret->h = h;
290   ret->rc = 1;
291   ret->key = GNUNET_CRYPTO_rsa_key_create_from_file (fn);
292   if (NULL == ret->key)
293   {
294     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
295                 _("Failed to create or read private key for namespace `%s'\n"),
296                 name);
297     GNUNET_free (ret);
298     GNUNET_free (fn);
299     return NULL;
300   }
301   ret->name = GNUNET_strdup (name);
302   ret->filename = fn;
303   return ret;
304 }
305
306
307 /**
308  * Function called upon completion of 'GNUNET_CRYPTO_rsa_key_create_start'.
309  *
310  * @param cls closure
311  * @param pk NULL on error, otherwise the private key (which must be free'd by the callee)
312  * @param emsg NULL on success, otherwise an error message
313  */
314 static void
315 ns_key_created (void *cls, struct GNUNET_CRYPTO_RsaPrivateKey *pk,
316     const char *emsg)
317 {
318   struct GNUNET_FS_NamespaceCreationContext *ncc = cls;
319
320   ncc->keycreator = NULL;
321
322   if (pk)
323   {
324     struct GNUNET_FS_Namespace *ret;
325     ret = GNUNET_malloc (sizeof (struct GNUNET_FS_Namespace));
326     ret->rc = 1;
327     ret->key = pk;
328     ret->h = ncc->h;
329     ret->name = ncc->name;
330     ret->filename = ncc->filename;
331     ncc->cont (ncc->cont_cls, ret, NULL);
332   }
333   else
334   {
335     GNUNET_free (ncc->filename);
336     GNUNET_free (ncc->name);
337     ncc->cont (ncc->cont_cls, NULL, emsg);
338   }
339   GNUNET_free (ncc);
340 }
341
342
343 /**
344  * Create a namespace with the given name.
345  * If one already exists, the continuation will be called with a handle to
346  * the existing namespace.
347  * Otherwise creates a new namespace.
348  *
349  * @param h handle to the file sharing subsystem
350  * @param name name to use for the namespace
351  * @return namespace creation context, NULL on error (i.e. invalid filename)
352  */
353 struct GNUNET_FS_NamespaceCreationContext *
354 GNUNET_FS_namespace_create_start (struct GNUNET_FS_Handle *h, const char *name, 
355     GNUNET_FS_NamespaceCreationCallback cont, void *cont_cls)
356 {
357   char *dn;
358   char *fn;
359   struct GNUNET_FS_NamespaceCreationContext *ret;
360
361   dn = get_namespace_directory (h);
362   if (NULL == dn)
363   {
364     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
365                 _("Can't determine where namespace directory is\n"));
366     return NULL;
367   }
368   GNUNET_asprintf (&fn, "%s%s%s", dn, DIR_SEPARATOR_STR, name);
369   GNUNET_free (dn);
370
371   ret = GNUNET_malloc (sizeof (struct GNUNET_FS_NamespaceCreationContext));
372   ret->filename = fn;
373   ret->h = h;
374   ret->name = GNUNET_strdup (name);
375   ret->cont = cont;
376   ret->cont_cls = cont_cls;
377
378   ret->keycreator = GNUNET_CRYPTO_rsa_key_create_start (fn,
379       ns_key_created, ret);
380
381   if (NULL == ret->keycreator)
382   {
383     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
384         _("Failed to start creating or reading private key for namespace `%s'\n"),
385         name);
386     GNUNET_free (fn);
387     GNUNET_free (ret->name);
388     GNUNET_free (ret);
389     return NULL;
390   }
391   return ret;
392 }
393
394
395 /**
396  * Abort namespace creation.
397  *
398  * @param ncc namespace creation context to abort
399  */
400 void
401 GNUNET_FS_namespace_create_stop (struct GNUNET_FS_NamespaceCreationContext *ncc)
402 {
403   if (NULL != ncc->keycreator)
404   {
405     GNUNET_CRYPTO_rsa_key_create_stop (ncc->keycreator);
406     ncc->keycreator = NULL;
407   }
408   if (NULL != ncc->filename)
409   {
410     if (0 != UNLINK (ncc->filename))
411       GNUNET_log_strerror_file (GNUNET_ERROR_TYPE_WARNING, "unlink", ncc->filename);
412     GNUNET_free (ncc->filename);
413   }
414   GNUNET_free_non_null (ncc->name);
415   GNUNET_free (ncc);
416 }
417
418
419 /**
420  * Duplicate a namespace handle.
421  *
422  * @param ns namespace handle
423  * @return duplicated handle to the namespace
424  */
425 struct GNUNET_FS_Namespace *
426 GNUNET_FS_namespace_dup (struct GNUNET_FS_Namespace *ns)
427 {
428   ns->rc++;
429   return ns;
430 }
431
432
433 /**
434  * Delete a namespace handle.  Can be used for a clean shutdown (free
435  * memory) or also to freeze the namespace to prevent further
436  * insertions by anyone.
437  *
438  * @param ns handle to the namespace that should be deleted / freed
439  * @param freeze prevents future insertions; creating a namespace
440  *        with the same name again will create a fresh namespace instead
441  *
442  * @return GNUNET_OK on success, GNUNET_SYSERR on error
443  */
444 int
445 GNUNET_FS_namespace_delete (struct GNUNET_FS_Namespace *ns, int freeze)
446 {
447   unsigned int i;
448   struct NamespaceUpdateNode *nsn;
449
450   ns->rc--;
451   if (freeze)
452   {
453     if (0 != UNLINK (ns->filename))
454       GNUNET_log_strerror_file (GNUNET_ERROR_TYPE_ERROR, "unlink",
455                                 ns->filename);
456   }
457   if (0 != ns->rc)
458     return GNUNET_OK;
459   GNUNET_CRYPTO_rsa_key_free (ns->key);
460   GNUNET_free (ns->filename);
461   GNUNET_free (ns->name);
462   for (i = 0; i < ns->update_node_count; i++)
463   {
464     nsn = ns->update_nodes[i];
465     GNUNET_CONTAINER_meta_data_destroy (nsn->md);
466     GNUNET_FS_uri_destroy (nsn->uri);
467     GNUNET_free (nsn->id);
468     GNUNET_free (nsn->update);
469     GNUNET_free (nsn);
470   }
471   GNUNET_array_grow (ns->update_nodes, ns->update_node_count,
472                      0);
473   if (ns->update_map != NULL)
474     GNUNET_CONTAINER_multihashmap_destroy (ns->update_map);
475   GNUNET_free (ns);
476   return GNUNET_OK;
477 }
478
479
480 /**
481  * Context for the 'process_namespace' callback.
482  * Specifies a function to call on each namespace.
483  */
484 struct ProcessNamespaceContext
485 {
486   /**
487    * Function to call.
488    */
489   GNUNET_FS_NamespaceInfoProcessor cb;
490
491   /**
492    * Closure for 'cb'.
493    */
494   void *cb_cls;
495 };
496
497
498 /**
499  * Function called with a filename of a namespace. Reads the key and
500  * calls the callback.
501  *
502  * @param cls closure (struct ProcessNamespaceContext)
503  * @param filename complete filename (absolute path)
504  * @return GNUNET_OK to continue to iterate,
505  *  GNUNET_SYSERR to abort iteration with error!
506  */
507 static int
508 process_namespace (void *cls, const char *filename)
509 {
510   struct ProcessNamespaceContext *pnc = cls;
511   struct GNUNET_CRYPTO_RsaPrivateKey *key;
512   struct GNUNET_HashCode id;
513   const char *name;
514   const char *t;
515
516   key = GNUNET_CRYPTO_rsa_key_create_from_file (filename);
517   if (NULL == key)
518   {
519     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
520                 _
521                 ("Failed to read namespace private key file `%s', deleting it!\n"),
522                 filename);
523     if (0 != UNLINK (filename))
524       GNUNET_log_strerror_file (GNUNET_ERROR_TYPE_WARNING, "unlink", filename);
525     return GNUNET_OK;
526   }
527   GNUNET_CRYPTO_rsa_get_public_key_hash (key, &id);
528   GNUNET_CRYPTO_rsa_key_free (key);
529   name = filename;
530   while (NULL != (t = strstr (name, DIR_SEPARATOR_STR)))
531     name = t + 1;
532   pnc->cb (pnc->cb_cls, name, &id);
533   return GNUNET_OK;
534 }
535
536
537 /**
538  * Build a list of all available local (!) namespaces The returned
539  * names are only the nicknames since we only iterate over the local
540  * namespaces.
541  *
542  * @param h handle to the file sharing subsystem
543  * @param cb function to call on each known namespace
544  * @param cb_cls closure for cb
545  */
546 void
547 GNUNET_FS_namespace_list (struct GNUNET_FS_Handle *h,
548                           GNUNET_FS_NamespaceInfoProcessor cb, void *cb_cls)
549 {
550   char *dn;
551   struct ProcessNamespaceContext ctx;
552
553   dn = get_namespace_directory (h);
554   if (NULL == dn)
555     return;
556   ctx.cb = cb;
557   ctx.cb_cls = cb_cls;
558   GNUNET_DISK_directory_scan (dn, &process_namespace, &ctx);
559   GNUNET_free (dn);
560 }
561
562
563 /**
564  * Context for the SKS publication.
565  */
566 struct GNUNET_FS_PublishSksContext
567 {
568
569   /**
570    * URI of the new entry in the namespace.
571    */
572   struct GNUNET_FS_Uri *uri;
573
574   /**
575    * Namespace update node to add to namespace on success (or to be
576    * deleted if publishing failed).
577    */
578   struct NamespaceUpdateNode *nsn;
579
580   /**
581    * Namespace we're publishing to.
582    */
583   struct GNUNET_FS_Namespace *ns;
584
585   /**
586    * Handle to the datastore.
587    */
588   struct GNUNET_DATASTORE_Handle *dsh;
589
590   /**
591    * Function to call once we're done.
592    */
593   GNUNET_FS_PublishContinuation cont;
594
595   /**
596    * Closure for cont.
597    */
598   void *cont_cls;
599
600   /**
601    * Handle for our datastore request.
602    */
603   struct GNUNET_DATASTORE_QueueEntry *dqe;
604 };
605
606
607 /**
608  * Function called by the datastore API with
609  * the result from the PUT (SBlock) request.
610  *
611  * @param cls closure of type "struct GNUNET_FS_PublishSksContext*"
612  * @param success GNUNET_OK on success
613  * @param min_expiration minimum expiration time required for content to be stored
614  * @param msg error message (or NULL)
615  */
616 static void
617 sb_put_cont (void *cls, int success, 
618              struct GNUNET_TIME_Absolute min_expiration,
619              const char *msg)
620 {
621   struct GNUNET_FS_PublishSksContext *psc = cls;
622   struct GNUNET_HashCode hc;
623
624   psc->dqe = NULL;
625   if (GNUNET_OK != success)
626   {
627     if (NULL != psc->cont)
628       psc->cont (psc->cont_cls, NULL, msg);
629     GNUNET_FS_publish_sks_cancel (psc);
630     return;
631   }
632   if (NULL != psc->nsn)
633   {
634     /* FIXME: this can be done much more
635      * efficiently by simply appending to the
636      * file and overwriting the 4-byte header */
637     if (psc->ns->update_nodes == NULL)
638       read_update_information_graph (psc->ns);
639     GNUNET_array_append (psc->ns->update_nodes,
640                          psc->ns->update_node_count, psc->nsn);
641     if (psc->ns->update_map != NULL)
642     {
643       GNUNET_CRYPTO_hash (psc->nsn->id, strlen (psc->nsn->id), &hc);
644       GNUNET_CONTAINER_multihashmap_put (psc->ns->update_map, &hc,
645                                          psc->nsn,
646                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
647     }
648     psc->nsn = NULL;
649     write_update_information_graph (psc->ns);
650   }
651   if (NULL != psc->cont)
652     psc->cont (psc->cont_cls, psc->uri, NULL);
653   GNUNET_FS_publish_sks_cancel (psc);
654 }
655
656
657 /**
658  * Publish an SBlock on GNUnet.
659  *
660  * @param h handle to the file sharing subsystem
661  * @param ns namespace to publish in
662  * @param identifier identifier to use
663  * @param update update identifier to use
664  * @param meta metadata to use
665  * @param uri URI to refer to in the SBlock
666  * @param bo block options
667  * @param options publication options
668  * @param cont continuation
669  * @param cont_cls closure for cont
670  * @return NULL on error ('cont' will still be called)
671  */
672 struct GNUNET_FS_PublishSksContext *
673 GNUNET_FS_publish_sks (struct GNUNET_FS_Handle *h,
674                        struct GNUNET_FS_Namespace *ns,
675                        const char *identifier, const char *update,
676                        const struct GNUNET_CONTAINER_MetaData *meta,
677                        const struct GNUNET_FS_Uri *uri,
678                        const struct GNUNET_FS_BlockOptions *bo,
679                        enum GNUNET_FS_PublishOptions options,
680                        GNUNET_FS_PublishContinuation cont, void *cont_cls)
681 {
682   struct GNUNET_FS_PublishSksContext *psc;
683   struct GNUNET_CRYPTO_AesSessionKey sk;
684   struct GNUNET_CRYPTO_AesInitializationVector iv;
685   struct GNUNET_FS_Uri *sks_uri;
686   char *uris;
687   size_t size;
688   size_t slen;
689   size_t nidlen;
690   size_t idlen;
691   ssize_t mdsize;
692   struct SBlock *sb;
693   struct SBlock *sb_enc;
694   char *dest;
695   struct GNUNET_CONTAINER_MetaData *mmeta;
696   struct GNUNET_HashCode key;          /* hash of thisId = key */
697   struct GNUNET_HashCode id;           /* hash of hc = identifier */
698   struct GNUNET_HashCode query;        /* id ^ nsid = DB query */
699
700   idlen = strlen (identifier);
701   if (NULL != update)
702     nidlen = strlen (update) + 1;
703   else
704     nidlen = 1;
705   uris = GNUNET_FS_uri_to_string (uri);
706   slen = strlen (uris) + 1;
707   if ( (slen >= MAX_SBLOCK_SIZE - sizeof (struct SBlock)) ||
708        (nidlen >= MAX_SBLOCK_SIZE - sizeof (struct SBlock) - slen) )
709   {
710     GNUNET_log (GNUNET_ERROR_TYPE_ERROR,
711                 _("Identifiers or URI too long to create SBlock"));
712     GNUNET_free (uris);
713     return NULL;
714   }
715   if (NULL == meta)
716     mmeta = GNUNET_CONTAINER_meta_data_create ();
717   else
718     mmeta = GNUNET_CONTAINER_meta_data_duplicate (meta);
719   mdsize = GNUNET_CONTAINER_meta_data_get_serialized_size (mmeta);
720   size = sizeof (struct SBlock) + slen + nidlen + mdsize;
721   if ( (size > MAX_SBLOCK_SIZE) ||
722        (size < sizeof (struct SBlock) + slen + nidlen) )
723   {
724     size = MAX_SBLOCK_SIZE;
725     mdsize = MAX_SBLOCK_SIZE - (sizeof (struct SBlock) + slen + nidlen);
726   }
727   sb = GNUNET_malloc (sizeof (struct SBlock) + size);
728   dest = (char *) &sb[1];
729   if (NULL != update)
730     memcpy (dest, update, nidlen);
731   else
732     memset (dest, 0, 1);
733   dest += nidlen;
734   memcpy (dest, uris, slen);
735   GNUNET_free (uris);
736   dest += slen;
737   mdsize =
738       GNUNET_CONTAINER_meta_data_serialize (mmeta, &dest, mdsize,
739                                             GNUNET_CONTAINER_META_DATA_SERIALIZE_PART);
740   GNUNET_CONTAINER_meta_data_destroy (mmeta);
741   if (-1 == mdsize)
742   {
743     GNUNET_break (0);
744     GNUNET_free (sb);
745     if (NULL != cont)
746       cont (cont_cls, NULL, _("Internal error."));
747     return NULL;
748   }
749   size = sizeof (struct SBlock) + mdsize + slen + nidlen;
750   sb_enc = GNUNET_malloc (size);
751   GNUNET_CRYPTO_hash (identifier, idlen, &key);
752   GNUNET_CRYPTO_hash (&key, sizeof (struct GNUNET_HashCode), &id);
753   sks_uri = GNUNET_malloc (sizeof (struct GNUNET_FS_Uri));
754   sks_uri->type = GNUNET_FS_URI_SKS;
755   GNUNET_CRYPTO_rsa_key_get_public (ns->key, &sb_enc->subspace);
756   GNUNET_CRYPTO_hash (&sb_enc->subspace,
757                       sizeof (struct GNUNET_CRYPTO_RsaPublicKeyBinaryEncoded),
758                       &sks_uri->data.sks.ns);
759   sks_uri->data.sks.identifier = GNUNET_strdup (identifier);
760   GNUNET_CRYPTO_hash_xor (&id, &sks_uri->data.sks.ns,
761                           &sb_enc->identifier);
762   GNUNET_CRYPTO_hash_to_aes_key (&key, &sk, &iv);
763   GNUNET_CRYPTO_aes_encrypt (&sb[1], size - sizeof (struct SBlock), &sk, &iv,
764                              &sb_enc[1]);
765   sb_enc->purpose.purpose = htonl (GNUNET_SIGNATURE_PURPOSE_FS_SBLOCK);
766   sb_enc->purpose.size =
767       htonl (slen + mdsize + nidlen + sizeof (struct SBlock) -
768              sizeof (struct GNUNET_CRYPTO_RsaSignature));
769   GNUNET_assert (GNUNET_OK ==
770                  GNUNET_CRYPTO_rsa_sign (ns->key, &sb_enc->purpose,
771                                          &sb_enc->signature));
772   psc = GNUNET_malloc (sizeof (struct GNUNET_FS_PublishSksContext));
773   psc->uri = sks_uri;
774   psc->cont = cont;
775   psc->ns = GNUNET_FS_namespace_dup (ns);
776   psc->cont_cls = cont_cls;
777   if (0 != (options & GNUNET_FS_PUBLISH_OPTION_SIMULATE_ONLY))
778   {
779     GNUNET_free (sb_enc);
780     GNUNET_free (sb);
781     sb_put_cont (psc, GNUNET_OK, GNUNET_TIME_UNIT_ZERO_ABS, NULL);
782     return NULL;
783   }
784   psc->dsh = GNUNET_DATASTORE_connect (h->cfg);
785   if (NULL == psc->dsh)
786   {
787     GNUNET_free (sb_enc);
788     GNUNET_free (sb);
789     sb_put_cont (psc, GNUNET_NO, GNUNET_TIME_UNIT_ZERO_ABS, _("Failed to connect to datastore."));
790     return NULL;
791   }
792   GNUNET_CRYPTO_hash_xor (&sks_uri->data.sks.ns, &id, &query);
793   if (NULL != update)
794   {
795     psc->nsn = GNUNET_malloc (sizeof (struct NamespaceUpdateNode));
796     psc->nsn->id = GNUNET_strdup (identifier);
797     psc->nsn->update = GNUNET_strdup (update);
798     psc->nsn->md = GNUNET_CONTAINER_meta_data_duplicate (meta);
799     psc->nsn->uri = GNUNET_FS_uri_dup (uri);
800   }
801   psc->dqe = GNUNET_DATASTORE_put (psc->dsh, 0, &sb_enc->identifier, size, sb_enc,
802                                    GNUNET_BLOCK_TYPE_FS_SBLOCK, bo->content_priority,
803                                    bo->anonymity_level, bo->replication_level,
804                                    bo->expiration_time, -2, 1,
805                                    GNUNET_CONSTANTS_SERVICE_TIMEOUT, &sb_put_cont, psc);
806   GNUNET_free (sb);
807   GNUNET_free (sb_enc);
808   return psc;
809 }
810
811
812 /**
813  * Abort the SKS publishing operation.
814  *
815  * @param psc context of the operation to abort.
816  */
817 void
818 GNUNET_FS_publish_sks_cancel (struct GNUNET_FS_PublishSksContext *psc)
819 {
820   if (NULL != psc->dqe)
821   {
822     GNUNET_DATASTORE_cancel (psc->dqe);
823     psc->dqe = NULL;
824   }
825   if (NULL != psc->dsh)
826   {
827     GNUNET_DATASTORE_disconnect (psc->dsh, GNUNET_NO);
828     psc->dsh = NULL;
829   }
830   GNUNET_FS_namespace_delete (psc->ns, GNUNET_NO);
831   GNUNET_FS_uri_destroy (psc->uri);
832   if (NULL != psc->nsn)
833   {
834     GNUNET_CONTAINER_meta_data_destroy (psc->nsn->md);
835     GNUNET_FS_uri_destroy (psc->nsn->uri);
836     GNUNET_free (psc->nsn->id);
837     GNUNET_free (psc->nsn->update);
838     GNUNET_free (psc->nsn);
839   }
840   GNUNET_free (psc);
841 }
842
843
844 /**
845  * Closure for 'process_update_node'.
846  */
847 struct ProcessUpdateClosure
848 {
849   /**
850    * Function to call for each node.
851    */
852   GNUNET_FS_IdentifierProcessor ip;
853
854   /**
855    * Closure for 'ip'.
856    */
857   void *ip_cls;
858 };
859
860
861 /**
862  * Call the iterator in the closure for each node.
863  *
864  * @param cls closure (of type 'struct ProcessUpdateClosure *')
865  * @param key current key code
866  * @param value value in the hash map (of type 'struct NamespaceUpdateNode *')
867  * @return GNUNET_YES if we should continue to
868  *         iterate,
869  *         GNUNET_NO if not.
870  */
871 static int
872 process_update_node (void *cls, const struct GNUNET_HashCode * key, void *value)
873 {
874   struct ProcessUpdateClosure *pc = cls;
875   struct NamespaceUpdateNode *nsn = value;
876
877   pc->ip (pc->ip_cls, nsn->id, nsn->uri, nsn->md, nsn->update);
878   return GNUNET_YES;
879 }
880
881
882 /**
883  * Closure for 'find_trees'.
884  */
885 struct FindTreeClosure
886 {
887   /**
888    * Namespace we are operating on.
889    */
890   struct GNUNET_FS_Namespace *ns;
891
892   /**
893    * Array with 'head's of TREEs.
894    */
895   struct NamespaceUpdateNode **tree_array;
896
897   /**
898    * Size of 'tree_array'
899    */
900   unsigned int tree_array_size;
901
902   /**
903    * Current generational ID used.
904    */
905   unsigned int nug;
906
907   /**
908    * Identifier for the current TREE, or UINT_MAX for none yet.
909    */
910   unsigned int id;
911 };
912
913
914 /**
915  * Find all nodes reachable from the current node (including the
916  * current node itself).  If they are in no tree, add them to the
917  * current one.   If they are the head of another tree, merge the
918  * trees.  If they are in the middle of another tree, let them be.
919  * We can tell that a node is already in an tree by checking if
920  * its 'nug' field is set to the current 'nug' value.  It is the
921  * head of an tree if it is in the 'tree_array' under its respective
922  * 'tree_id'.
923  *
924  * In short, we're trying to find the smallest number of tree to
925  * cover a directed graph.
926  *
927  * @param cls closure (of type 'struct FindTreeClosure')
928  * @param key current key code
929  * @param value value in the hash map
930  * @return GNUNET_YES if we should continue to
931  *         iterate,
932  *         GNUNET_NO if not.
933  */
934 static int
935 find_trees (void *cls, const struct GNUNET_HashCode * key, void *value)
936 {
937   struct FindTreeClosure *fc = cls;
938   struct NamespaceUpdateNode *nsn = value;
939   struct GNUNET_HashCode hc;
940
941   if (nsn->nug == fc->nug)
942   {
943     if (UINT_MAX == nsn->tree_id)
944       return GNUNET_YES;        /* circular */
945     GNUNET_assert (nsn->tree_id < fc->tree_array_size);
946     if (fc->tree_array[nsn->tree_id] != nsn)
947       return GNUNET_YES;        /* part of "another" (directed) TREE,
948                                  * and not root of it, end trace */
949     if (nsn->tree_id == fc->id)
950       return GNUNET_YES;        /* that's our own root (can this be?) */
951     /* merge existing TREE, we have a root for both */
952     fc->tree_array[nsn->tree_id] = NULL;
953     if (UINT_MAX == fc->id)
954       fc->id = nsn->tree_id;    /* take over ID */
955   }
956   else
957   {
958     nsn->nug = fc->nug;
959     nsn->tree_id = UINT_MAX;    /* mark as undef */
960     /* trace */
961     GNUNET_CRYPTO_hash (nsn->update, strlen (nsn->update), &hc);
962     GNUNET_CONTAINER_multihashmap_get_multiple (fc->ns->update_map, &hc,
963                                                 &find_trees, fc);
964   }
965   return GNUNET_YES;
966 }
967
968
969 /**
970  * List all of the identifiers in the namespace for which we could
971  * produce an update.  Namespace updates form a graph where each node
972  * has a name.  Each node can have any number of URI/meta-data entries
973  * which can each be linked to other nodes.  Cycles are possible.
974  *
975  * Calling this function with "next_id" NULL will cause the library to
976  * call "ip" with a root for each strongly connected component of the
977  * graph (a root being a node from which all other nodes in the Tree
978  * are reachable).
979  *
980  * Calling this function with "next_id" being the name of a node will
981  * cause the library to call "ip" with all children of the node.  Note
982  * that cycles within the final tree are possible (including self-loops).
983  * I know, odd definition of a tree, but the GUI will display an actual
984  * tree (GtkTreeView), so that's what counts for the term here.
985  *
986  * @param ns namespace to inspect for updateable content
987  * @param next_id ID to look for; use NULL to look for tree roots
988  * @param ip function to call on each updateable identifier
989  * @param ip_cls closure for ip
990  */
991 void
992 GNUNET_FS_namespace_list_updateable (struct GNUNET_FS_Namespace *ns,
993                                      const char *next_id,
994                                      GNUNET_FS_IdentifierProcessor ip,
995                                      void *ip_cls)
996 {
997   unsigned int i;
998   unsigned int nug;
999   struct GNUNET_HashCode hc;
1000   struct NamespaceUpdateNode *nsn;
1001   struct ProcessUpdateClosure pc;
1002   struct FindTreeClosure fc;
1003
1004   if (NULL == ns->update_nodes)
1005     read_update_information_graph (ns);
1006   if (NULL == ns->update_nodes)
1007   {
1008     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1009                 "No updateable nodes found for ID `%s'\n", next_id);
1010     return;                     /* no nodes */
1011   }
1012   if (NULL == ns->update_map)
1013   {
1014     /* need to construct */
1015     ns->update_map =
1016         GNUNET_CONTAINER_multihashmap_create (2 +
1017                                               3 * ns->update_node_count /
1018                                               4,
1019                                               GNUNET_NO);
1020     for (i = 0; i < ns->update_node_count; i++)
1021     {
1022       nsn = ns->update_nodes[i];
1023       GNUNET_CRYPTO_hash (nsn->id, strlen (nsn->id), &hc);
1024       GNUNET_CONTAINER_multihashmap_put (ns->update_map, &hc, nsn,
1025                                          GNUNET_CONTAINER_MULTIHASHMAPOPTION_MULTIPLE);
1026     }
1027   }
1028   if (NULL != next_id)
1029   {
1030     GNUNET_CRYPTO_hash (next_id, strlen (next_id), &hc);
1031     pc.ip = ip;
1032     pc.ip_cls = ip_cls;
1033     GNUNET_CONTAINER_multihashmap_get_multiple (ns->update_map, &hc,
1034                                                 &process_update_node, &pc);
1035     return;
1036   }
1037   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1038               "Calculating TREEs to find roots of update trees\n");
1039   /* Find heads of TREEs in update graph */
1040   nug = ++ns->nug_gen;
1041   fc.tree_array = NULL;
1042   fc.tree_array_size = 0;
1043
1044   for (i = 0; i < ns->update_node_count; i++)
1045   {
1046     nsn = ns->update_nodes[i];
1047     if (nsn->nug == nug)
1048     {
1049       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "TREE of node `%s' is %u\n", nsn->id,
1050                   nsn->nug);
1051       continue;                 /* already placed in TREE */
1052     }
1053     GNUNET_CRYPTO_hash (nsn->update, strlen (nsn->update), &hc);
1054     nsn->nug = nug;
1055     nsn->tree_id = UINT_MAX;
1056     fc.id = UINT_MAX;
1057     fc.nug = nug;
1058     fc.ns = ns;
1059     GNUNET_CONTAINER_multihashmap_get_multiple (ns->update_map, &hc,
1060                                                 &find_trees, &fc);
1061     if (UINT_MAX == fc.id)
1062     {
1063       /* start new TREE */
1064       for (fc.id = 0; fc.id < fc.tree_array_size; fc.id++)
1065       {
1066         if (fc.tree_array[fc.id] == NULL)
1067         {
1068           fc.tree_array[fc.id] = nsn;
1069           nsn->tree_id = fc.id;
1070           break;
1071         }
1072       }
1073       if (fc.id == fc.tree_array_size)
1074       {
1075         GNUNET_array_append (fc.tree_array, fc.tree_array_size, nsn);
1076         nsn->tree_id = fc.id;
1077       }
1078       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1079                   "Starting new TREE %u with node `%s'\n", nsn->tree_id,
1080                   nsn->id);
1081       /* put all nodes with same identifier into this TREE */
1082       GNUNET_CRYPTO_hash (nsn->id, strlen (nsn->id), &hc);
1083       fc.id = nsn->tree_id;
1084       fc.nug = nug;
1085       fc.ns = ns;
1086       GNUNET_CONTAINER_multihashmap_get_multiple (ns->update_map, &hc,
1087                                                   &find_trees, &fc);
1088     }
1089     else
1090     {
1091       /* make head of TREE "id" */
1092       fc.tree_array[fc.id] = nsn;
1093       nsn->tree_id = fc.id;
1094     }
1095     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "TREE of node `%s' is %u\n", nsn->id,
1096                 fc.id);
1097   }
1098   for (i = 0; i < fc.tree_array_size; i++)
1099   {
1100     nsn = fc.tree_array[i];
1101     if (NULL != nsn)
1102     {
1103       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Root of TREE %u is node `%s'\n", i,
1104                   nsn->id);
1105       ip (ip_cls, nsn->id, nsn->uri, nsn->md, nsn->update);
1106     }
1107   }
1108   GNUNET_array_grow (fc.tree_array, fc.tree_array_size, 0);
1109   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Done processing TREEs\n");
1110 }
1111
1112
1113 /* end of fs_namespace.c */