backup previous changes before altering routing algorithm yet again
[oweals/gnunet.git] / TODO
diff --git a/TODO b/TODO
index 0a812b45a81b62bf4b36b00ddc29f5d267ff0e58..b4e4d26146cfb9cb8f95169617e7ac3f167a285f 100644 (file)
--- a/TODO
+++ b/TODO
-Implementable right now (but not necessarily important), with caveats
-(unavailable components that will limit what can be implemented right
-away), in order in which they will likely be done:
-* TESTING-TESTBED [Nate]
-* SETUP
-* DV [Nate]
-* TBENCH
-* TRACEKIT
-* FRAGMENTATION [Ji Lu]
-* HTTP transport
-* MySQL / Postgres plugins (datastore, datacache)
-* UPNP [Milan]
-* ARM [Safey]
-
-Urgent items (before announcing ng.gnunet.org):
-* Get IPv6 hooked up, change DNS
-
-0.9.0pre0:
-* UTIL:
-  - load: need way to determine network load (up/down)
-  - trust: need *fast* way to check/update trust in peers
-           (async peerinfo would not be right)
-* TRANSPORT:
-  - disconnect notifications from TCP not always as nice as we might want
-    them to be (but how can we do this cleanly given that UDP is connectionless?)
-  - TCP not used bi-directionally (especially important also for PONG!)
-  - hostlist testcase shows that (randomly) we jump to an address that
-    seems to be a plugin function *after* the plugin has been unloaded
-    (directly from scheduler); check that *all* plugin tasks are cancelled
-    after plugin is unloaded! (need better testcases for that...)
-* STATISTICS:
-  - synchronous/asynchronous API (& implementation) is not nice;
-    => provide notification-based API
-  - does not seem to work with timeouts (especially if service is not running)
-* ARM:
-  - need to get rid of synchronous API for service starts (cause all kinds of problems)
-    [=> eliminate for need to tell ARM about service starts most of the time!] [Safey]
-* HELLO:
-  - need function to test "equivalency" of HELLOs; use in topology!
-* TOPOLOGY:
-  - needs more testing (especially F2F topology)
+0.9.0pre2:
+ FS:
+  - measure latencies (core, datastore) => trust economy
+  - FS performance benchmarking
+  - integrate with DHT (need DHT API to fit block API better first; also, get rid of the continuation!)
+* DHT: [Nate]
+  - use new block lib in service
+  - provide block-lib compatible API in gnunet_dht_service.h
+  - eliminate continuations in DHT API (not needed, we have auto-retransmit!)
 * CORE:
-  - needs more testing
-* FS:
-  - gnunet-search cannot be aborted using CTRL-C (why?)
-  - 2-peer download is still too slow (why?)
-* Module features to implement:
-  - advanced FS API parts
-    + namespaces: fundamental namespace API
-    + search: SBlocks, KSBlocks, probes, notify FS-service of known results
-    + collection
-    + location URIs (publish, search, download)
-    + persistence support (publish, unindex, search, download)
-    + indexing: index-failure-cleanup
-    + download: management/bounding of parallel downloads (for recursive dl.)
-    + datastore reservation (publishing)
-    + gnunet-publish (URI args)
-    + gnunet-download (directory)
-    + gnunet-search (options, incl. namespace search)
-    + gnunet-download (many options)
-    + gnunet-directory (man page, options)
-    + gnunet-pseudonym (all of it)
-    + gnunet-service-fs (remove failing on-demand blocks, stats, hot-path routing, load-based routing, nitpicks)
-    + datastore: do active migration support here?   
-  - implement adv. FS testcases 
-    + getopt API
-    + insert: sblocks, loc uris
-    + download: loc uris
-    + search: sblocks, skblocks, loc uris
-    + namespaces
-    + collection
-  - implement FS performance tests (needs TESTING)
+  - derived key generation [Nils]
+  - Jun 27 11:51:54 core-7670 ERROR Assertion failed at gnunet-service-core.c:3616.
+    (transport notified us that we connected to ourselves!!!)
+  - transport-level disconnect (i.e. TCP) does not cause core-level
+    disconnect in a timely fashion (waits for connection timeout);
+    need to figure a way to make it near-instant in those cases 
+    (i.e. rapid reduction in timeout on transport-level disconnect) [CG]
+    => may have been fixed with instant-notification of disconnect
+       to core on session-oriented connection hick-up; not perfect but
+       likely good enough until we get ATS going; still should be tested...
+    => "peers connected (transport)" now instantly goes to ZERO (core statistic),
+       but "established sessions" stays up...
+
+0.9.0pre3:
+* Determine RC bugs and fix those (release should have no known real bugs)
+* DATASTORE: [LT]
+  - GNUNET_DATASTORE_cancel method not tested [LT]
+* TESTING: [Nate]
+  - test basic peer re-configure 
+* TOPOLOGY: [Nate]
+  - needs more testing (especially F2F topology) & transport blacklisting
+* TRANSPORT-TCP [MW]:
+  - should use hash map to look up sessions
+* NAT/UPNP: [Milan]
+  - finalize API design
+  - code clean up
+  - testing
+  - integration with transport service
+  - also do UPnP-based (external) IP detection
+    (Note: build library always, build UPnP service when dependencies like libxml2 are available)
+* FS: [CG]
+  - library:
+    + reconstruct IBLOCKS from DBLOCKS if possible (during download; see FIXME in fs_download)
+    + add support for pushing "already seen" search results to FS service for bloomfilter
+    + use different 'priority' for probe downloads vs. normal downloads
+  - service:
+    + trust: do not charge when "idle" / load considerations (migration, routing)
+    + artificial delays
+    + active reply route caching design & implementation; gap extension!
+  - non-anonymous FS service (needs DHT)
+    + DHT integration for search
+    + CS-DHT-functions (DHT-put of LOC)
+    + P2P-functions (DHT-get)
+  - implement FS performance tests
     + insert
     + download
     + search
     + unindex
-  - non-anonymous FS service (needs DHT)
-    + basic DHT integration
-    + CS-DHT-functions (DHT-put of LOC)
-    + P2P-functions (DHT-get)
-  - setup (RC-pre0)
-    + default generation
-    + need to settle basic design; do we want to keep guile?
-  - testing (RC-pre0)
-    + modify configuration to allow controlling connections for non-local starts
-    + testbed creation with topology (needs working F2F topology) [Nate]
-    + testbed with churn [Nate]
-    + implement library for distributed testing [Nate]
-    + implement testcases for distributed testing [Nate]
-    + test basic peer re-configure [Nate]
-    + test topology creation [Nate]
-    + test churn generation [Nate]
-
-0.9.0pre1:
-* Module features to implement:
-  - tbench (RC-pre1)
-    + good to have for DV evaluation!
-  - DV (RC-pre1)
-    + write DV API 
-    + implement DV service [Nate & CG]
-    + implement DV library [Nate]
-    + implement DV transport plugin [Nate & CG]
-    + implement testcases [Nate]
-    + implement performance tests [Nate]
-* GUIs to implement:
-  - gtk (RC-pre1)
-    + how to integrate scheduler with GTK event loop!
-
-0.9.0pre2:
-* Module features to implement:
-  - tracekit (RC-pre2)
-    + good to have for DV/DHT evaluation!
-  - DHT (RC-pre2)
-    + implement DHT service (needs DV, DATACACHE)
-    + implement DHT library
-    + implement testcases
-    + implement performance tests
-* GUIs to implement:
-  - fuse (RC-pre2)
-* Plugins to implement:
-  - UDP backend (RC-pre2)
-    + Fragmentation library 
-    + actual plugin
-  - HTTP backend (RC-pre2)
-
-0.9.0pre3:
-* GUIs to implement:
-  - qt (RC-pre3)
-    + see discussions @ FISL about integration with event loop!
-* Determine RC bugs and fix those!
+  - re-implement gnunet-auto-share
+* GNUNET-GTK:
+  - optimize meta-data for directories in 'add_dir_at_iter'
+  - finish publish dialog details:
+    + normalize keywords (edit subdialog)
+    + set/view previews (edit subdialog)
+  - implement download by URI dialog; figure out where to display those downloads!
+  - figure out where in the GUI we should show active uploads/unindex operations and allow aborts
+  - implement unindex operation (use dialog with all indexed files for selection)
+  - events:
+    + search error
+    + publish error
+    + unindex error
+* ARM: [CG/Safey]
+  - better tracking of which config changes actually need to cause process restarts by ARM.
+  - handle gnunet-arm -k in combination with auto-start magic (what is the right thing here?)
+  - discover dependencies between services
+* MONKEY: [Safey]
+  - better crash management (attach debugging support, capture and analyze
+    debug output, detect random vs. deterministic crashes)
+  - '-m EMAIL' option for alternative e-mail TO
+  - '-f FILENAME' option to write  report to file instead of e-mail (for testing!)
 
 0.9.0:
-* Documentation
-  - update man pages
-  - update webpage documentation
-* new webpage:
-  - expand bibliography
+* Determine RC bugs and fix those  (release should have no known real bugs)
+* UTIL:
+  - only connect() sockets that are ready (select()) [Nils]
+    [On W32, we need to select after calling socket before doing connect etc.]
+* new webpage: [BL]
   - convert documentation pages to books
   - update books (especially for developers)
-  - create good Drupal theme for GNUnet
-  - make a NICE download page and figure out how to 
-    enable developers to publish TGZs nicely
+  - make a NICE download page and figure out how to enable developers to publish TGZs nicely
   - port "contact" page
-  - add content type for "todo" items?
-  - DNS activation
-* Plugins to implement:
-  - MySQL database backends
-    + datacache
-    + datastore
-  - Postgres database backends
-    + datacache
-    + datastore
-  - vpn
-* Determine RC bugs and fix those!
+  - add content type for "todo" items
+* SETUP: [CG]
+  - design & implement new setup tool
+* TBENCH: [MW]
+  - good to have for transport/DV evaluation! 
+* TRACEKIT: [MW]
+  - good to have for DHT evaluation!
+* DHT: [Nate]
+  - performance tests
+* BLOCK:
+  - more testing (KBlock, SBlock, NBlock)
 
-
-0.9.x:
-* Plugins to implement:
-  - SMTP transport backend
-  - HTTPS transport backend
-    + improved HTTPS support in MHD
-    + actual plugin
-* Remove KBlocks in gnunet-unindex (see discussion with Kenneth Almquist on gnunet-devs in 9/2009)
-* Allow checking of presence of search results and/or content via command-line tools
-  (add options to gnunet-search / gnunet-download to limit search to local peer)
-* STATISTICS:
+0.9.1:
+* TRANSPORT: [MW]
+  - WiFi transport backend [DB]
+  - implement gnunet-transport (transport configurator / tester)
+  - Implement method of learning our external addresses from
+    other peers; need some kind of threshold-based
+    scheme, limiting both the total number of addresses that we accept 
+    this way as well as requiring multiple confirmations; also, we
+    should possibly try to confirm that the given address works for
+    us ourselves (loopback-style) before adding it to the list
+    + we may be able to simplify WELCOME messages (no need to add 
+      addresses there anymore, but may help to learn them there anyway...).
+    + we probably want some kind of voting/counting for learning IP addresses
+      (maybe including IP addresses in ads proportional to how often others
+       report them? we at least need some protection against >64k HELLOs!),
+    + provide a way to give the user a list of "learned" IP addresses and
+      a way to easily "veto" addresses off the list!
+      => If MiM attacker uses vetoed address, blacklist the specific IP for
+         the presumed neighbour!
+  - need to periodically probe latency/transport cost changes & possibly switch transport
+  - should use hash map to look up Neighbours (service AND plugins!)
+* DV: [Nate]
+  - proper bandwidth allocation
+  - performance tests
+* PEERINFO:    
+  - merge multiple HELLOs of the same peer in the transmission queue
+    (theoretically reduces overhead; bounds message queue size)
+  - merge multiple iteration requests over "all" peers in the queue
+    (theoretically reduces overhead; bounds messgae queue size)
+* STATISTICS: [CG]
   - should use BIO instead of mmap
-* PEERINFO:
+* FS: [CG]
+  - Remove KBlocks in gnunet-unindex (see discussion with Kenneth Almquist on gnunet-devs in 9/2009)
+  - use different queue prioritization for probe-downloads vs. normal downloads
+* UTIL: [CG]
+  - allow limiting UNIX socket access by UID/GID
+* GNUNET-GTK: [CG]
+  - add tool bar
+  - do meaningful update to status line (starting up, peer running, #connections, shutdown, ...)
+  - add progress dialog for 'add_dir_at_iter' scan (can take a while...)
+  - NS list in search dialog should use colors to offset our own namespaces from the others
+  - right-clicking on NS list in search dialog should open menu that allows 
+    * viewing full meta data 
+    * deletion of namespace info
+
+0.9.2:
+* PEERINFO: [NN]
   - expire 'ancient' HELLOs (those without valid addresses AND that 
     we have not 'used' (for their public keys) in a while; need a way
     to track actual 'use')
   - make sue we also trigger notifications whenever HELLOs expire
+* TCP:
+  - repeatedly resolve hostname and look up interfaces to determine our own IP
+  - [./transport/plugin_transport_tcp.c:391]: (style) struct or union member 'Plugin::address_update_task' is never used (related to issue above)
+* TRANSPORT:
+  - [./transport/gnunet-service-transport.c:173]: (style) struct or union member 'TransportPlugin::rebuild' is never used (related to TCP not refreshing external addresses?)
+  - WiFi transport backend
+    * nice signal strength adjustment [MW]
+    * energy cost in ATS [MW]
+* BLOCKS:
+  - testcase would be nice
+  - generic block support for DHT
+* STATISTICS:
+  - test notification-based statistics API [LT]
+  - implement statistics GUI (=> start from gnunet-gtk by button!)
+* PEERINFO: [NN]
+  - move peerinfo to new GUI (=> start from gnunet-gtk by button!)
+  - extend peer dialog with green-yellow-red connectivity status lights
+  - extend peer dialog with country flags and names
+
+0.9.3:
+* SMTP transport backend:
+  - sending (SMTP/SMTPS)
+  - receiving (IMAP/IMAPS/POP?)
+  - rate limiting
+  - improved batching
+  - resource limit integration with ATS
+* VPN [PT]
+  - DNS hijacking
+  - DNS exit
+  - TCP entry/exit
+  - UDP entry/exit
+  - internal services
+  - integration with DHT routing
+  - optimized routes (beyond DHT/DV)
+  - "DNS" .gnunet