88d5d2877c58b4381009c89b3cb7995cdae7093c
[oweals/gnunet.git] / TODO
1 0.9.0pre1:
2 * FS: [CG]
3   - implement linking of downloads to searches in syncing (serialize/deserialize) 
4   - actually call 'sync' functions (publish, unindex, search, download)
5   - code review:
6     => refactor fs.c to join common code segments!
7     => document directory structure (and use #define's for the directory names!)
8     => ensure all files & dirs are cleaned up! (at least during 'clean' runs)
9   - persistence testing (publish, unindex, search, download):
10     => need driver!
11     => schedule suspending tasks DURING event handler => good coverage!
12   - track top-level operations in FS_Handle (needed for SUSPEND signalling)
13   - generate SUSPEND events (publish, unindex, search, download) AND free memory!
14     => test SUSPEND events
15   - gnunet-service-fs (hot-path routing, load-based routing, nitpicks)  
16   - [gnunet-service-fs.c:208]: member 'LocalGetContext::results_bf_size' is never used
17   - [gnunet-service-fs.c:501]: member 'PendingRequest::used_pids_size' is never used
18   - [gnunet-service-fs.c:654]: member 'ConnectedPeer::last_client_replies' is never used
19   - [gnunet-service-fs.c:669]: member 'ConnectedPeer::avg_delay' is never used
20   - [gnunet-service-fs.c:675]: member 'ConnectedPeer::avg_priority' is never used
21   - [gnunet-service-fs.c:688]: member 'ConnectedPeer::pending_requests' is never used
22   - [gnunet-service-fs.c:694]: member 'ConnectedPeer::last_p2p_replies_woff' is never used
23   - [gnunet-service-fs.c:700]: member 'ConnectedPeer::last_client_replies_woff' is never used
24   - GAP improvements:
25     + active reply route caching design & implementation of service; gap extension!
26 * MIGRATION [CG]
27   - on-demand encoding => move logic to block-library!?
28   - peer selection => how to consider latency/bw/etc?
29   - content transmission => how often the same block?
30   - how to select delay before next migration? 
31   - migration to us
32   - testing
33   - integrate with FS or not? (peer list, index/on-demand encoding, block code,
34     inbound priority assignment; all would be easier with tight integration!)
35 * TBENCH: [MW]
36   - good to have for transport/DV evaluation! 
37 * DV: [Nate]
38   - write DV API (need to move declarations from dv_api.c to gnunet_dv_service.h!)
39   - implement DV service 
40   - implement DV library (looks done)
41   - implement DV transport plugin
42   - implement testcases 
43   - implement performance tests (needs tbench)
44 * TOPOLOGY:
45   - needs more testing (especially F2F topology) & transport blacklisting
46 * UTIL:
47   - only connect() sockets that are ready (select()) [Nils]
48     [On W32, we need to select after calling socket before doing connect etc.]
49 * GNUNET-GTK:
50   - use g_main_context_set_poll_func to integrate GTK with GNUnet Scheduler!? (YUCK!)
51   - OR: add scheduler API to enable integration with GTK main loop instead of doing our own select
52   - use g_main_context_pending, g_main_context_query / g_main_context_check / g_main_context_dispatch
53     and NEVER g_main_loop_run (can this be done? might be the clean way to do this! But how
54     to integrate this with "gtk_main"?  Docu says:
55     "It's OK to use the GLib main loop directly instead of gtk_main(), though it involves 
56      slightly more typing. See GMainLoop in the GLib documentation."
57     => so maybe it "just works"?
58 * SETUP:
59   - design & implement new setup tool
60
61 0.9.0pre2:
62 * TRACEKIT: [MW]
63   - good to have for DV/DHT evaluation!
64 * DHT: [Nate]
65   - implement DHT service 
66   - implement testcases
67   - implement performance tests
68 * TRANSPORT:
69   - HTTP backend [MW]
70 * ARM: [Safey]
71   - need to get rid of synchronous API for service starts (cause all kinds of problems)
72     [=> eliminate for need to tell ARM about service starts most of the time!] [Safey]
73   - better tracking of which config changes actually need to cause process restarts by ARM.
74   - listen for requests to discover dependencies between services (and avoid
75     having to explicitly program start requests)
76   - better crash management (attach debugging support, capture and analyze
77     debug output, detect random vs. deterministic crashes)
78   - shutdown sequence?
79 * FS: [CG]
80   - datastore reservation (publishing)
81   - location URIs (publish, search, download)
82   - utilize in-line files in meta data always (including in search results or
83     when download is triggered manually and for probes); currently the data is
84     only used when users do a general 'recursive' download
85   - non-anonymous FS service (needs DHT)
86     + DHT integration for search
87     + CS-DHT-functions (DHT-put of LOC)
88     + P2P-functions (DHT-get)
89   - collection API & tests
90     + gnunet-pseudonym (collection support)
91   - implement FS performance tests
92     + insert
93     + download
94     + search
95     + unindex
96 * MIGRATION:
97   - improved content selection (not just 'get_random')
98
99 0.9.0pre3:
100 * Determine RC bugs and fix those!
101 * TESTING: [Nate]
102   - modify configuration to allow controlling connections for non-local starts
103   - testbed creation with topology (needs working F2F topology) 
104   - testbed with churn 
105   - implement testcases for distributed testing
106   - test basic peer re-configure 
107   - test topology creation 
108   - test churn generation 
109   - consider changing API for peer-group termination to 
110     call continuation when done
111 * NAT/UPNP: [MW]
112   - finalize API design
113   - code clean up
114   - testing
115   - integration with transport service
116 * MYSQL database backends: [CG]
117   - datacache
118   - datastore
119 * FS:
120   - reconstruct IBLOCKS from DBLOCKS if possible (during download; see FIXME in fs_download)
121
122
123 0.9.0:
124 * new webpage:
125   - expand bibliography
126   - convert documentation pages to books
127   - update books (especially for developers)
128   - create good Drupal theme for GNUnet
129   - make a NICE download page and figure out how to enable developers to publish TGZs nicely
130   - port "contact" page
131   - add content type for "todo" items?
132 * POSTGRES database backends: [CG]
133   - datacache
134   - datastore
135 * Determine RC bugs and fix those!
136
137 0.9.x:
138 * TRANSPORT: [MW]
139   - SMTP transport backend
140   - HTTPS transport backend
141     + improved HTTPS support in MHD
142     + actual plugin
143   - Implement method of learning our external addresses from
144     other peers; need some kind of threshold-based
145     scheme, limiting both the total number of addresses that we accept 
146     this way as well as requiring multiple confirmations; also, we
147     should possibly try to confirm that the given address works for
148     us ourselves (loopback-style) before adding it to the list
149     + we may be able to simplify WELCOME messages (no need to add 
150       addresses there anymore, but may help to learn them there anyway...).
151     + we probably want some kind of voting/counting for learning IP addresses
152       (maybe including IP addresses in ads proportional to how often others
153        report them? we at least need some protection against >64k HELLOs!),
154     + provide a way to give the user a list of "learned" IP addresses and
155       a way to easily "veto" addresses off the list!
156       => If MiM attacker uses vetoed address, blacklist the specific IP for
157          the presumed neighbour!
158   - implement gnunet-transport (transport configurator / tester)
159   - UPnP-based IP detection
160     (Note: build library always, build service when libxml2/etc. are available)
161 * FS: [CG]
162   - Remove KBlocks in gnunet-unindex (see discussion with Kenneth Almquist on gnunet-devs in 9/2009)
163 * PEERINFO: [CG]
164   - expire 'ancient' HELLOs (those without valid addresses AND that 
165     we have not 'used' (for their public keys) in a while; need a way
166     to track actual 'use')
167   - make sue we also trigger notifications whenever HELLOs expire
168 * VPN
169
170
171
172 Optimizations:
173 * TCP:
174   - should use hash map to look up sessions
175 * STATISTICS:
176   - should use BIO instead of mmap
177 * TRANSPORT:
178   - need to periodically probe latency/transport cost changes & possibly switch transport
179   - should use hash map to look up Neighbours (service AND plugins!)
180 * DATASTORE (?):
181   - check for duplicates on insertion (currently, same content is frequently
182     stored again [seen with KBLOCKS and SBLOCKS]!)
183 * PEERINFO:
184   - merge multiple HELLOs of the same peer in the transmission queue
185     (theoretically reduces overhead; bounds message queue size)
186   - merge multiple iteration requests over "all" peers in the queue
187     (theoretically reduces overhead; bounds messgae queue size)
188 * FS:
189   - use different queue prioritization for probe-downloads vs. normal downloads (!?)
190
191 Minor features:
192 * TCP:
193   - repeatedly resolve hostname and look up interfaces to determine our own IP
194   - [./transport/plugin_transport_tcp.c:391]: (style) struct or union member 'Plugin::address_update_task' is never used (related to issue above)
195 * TRANSPORT:
196   - [./transport/gnunet-service-transport.c:173]: (style) struct or union member 'TransportPlugin::rebuild' is never used (related to TCP not refreshing external addresses?)
197 * BLOCKS:
198   - testcase would be nice...