25e3ea0dd4ef2d9716ea6b8f821b54cfe786f0b4
[oweals/gnunet.git] / TODO
1 0.9.0pre1:
2 * PEERINFO:
3   - trust: need *fast* way to check/update trust in peers
4            (async peerinfo would not be right; certainly not with the current API)
5 * STATISTICS:
6   - does not seem to work with timeouts (especially if service is not running)
7 * UTIL:
8   - only connect() sockets that are ready (select()) [Nils]
9     [On W32, we need to select after calling socket before
10      doing connect etc.]
11 * TOPOLOGY:
12   - needs more testing (especially F2F topology)
13   - needs to re-try connecting after disconnect (currently, it
14     initially triggers a connection request, but if that connection
15     fails / goes down, it does not retry in a timely fashion;
16     cause seems to be the 'blacklist_after_attempt' being set to 1h,
17     which is rather long -- and should probably be adjusted based on
18     the number of connections / known peers)
19   - If the topology daemon crashes, peers that were put on the
20     blacklist with transport will never be removed from it (until
21     transport service dies); we should use the blacklist notification
22     API to learn about the exact set of blacklisted peers at all times
23     (FIXME: the transport_api implementation of blacklisting
24      also does not work nicely for this since it won't let us know about
25      disconnect-reconnect events and the implicit whitelisting
26      that might happen here; that's not so bad since we will
27      re-blacklist on pre-connect attempts anyway, so this is 
28      a minor issue; OTOH, we might want to be more explicit about
29      allowing/forbidding connects on pre-connect to avoid 
30      entering connect attempts to just be blacklisted shortly afterwards).
31   - the code uses the term 'blacklist' for both peers that are forbidden
32     to connect (i.e. F2F mode) as well as peers that we currently
33     won't try to actively connect to ourselves (since we just tried);
34     This is confusing.  We need two distinct terms (greylist?).
35   - move code to use hash table instead of linked list
36   - instead of periodically discarding blacklisted entries,
37     simply add task that is triggered at the right time (earlier free,
38     more balanced load)
39   - check if new HELLO learned is different from old HELLO
40     before resetting entire state!
41 * DATASTORE:
42   - API lacks cancellation methods (needed? or is disconnect enough?); 
43     may also want to integrate request queuing here instead of gnunet-service-fs_drq.c 
44 * FS: [CG]
45   - support recursive download even if filename is NULL and we hence
46     do not generate files on disk (use temp_filename)
47   - bound parallelism (# fs downloads)
48   - distinguish in performance tracking and event signalling between
49     downloads that are actually running and those that are merely in the queue
50   - persistence support (publish, unindex, search, download)
51   - active migration support (in fs or in datastore or new daemon?)
52   - gnunet-service-fs (hot-path routing, load-based routing, nitpicks)
53   - [gnunet-service-fs.c:208]: member 'LocalGetContext::results_bf_size' is never used
54   - [gnunet-service-fs.c:501]: member 'PendingRequest::used_pids_size' is never used
55   - [gnunet-service-fs.c:654]: member 'ConnectedPeer::last_client_replies' is never used
56   - [gnunet-service-fs.c:669]: member 'ConnectedPeer::avg_delay' is never used
57   - [gnunet-service-fs.c:675]: member 'ConnectedPeer::avg_priority' is never used
58   - [gnunet-service-fs.c:688]: member 'ConnectedPeer::pending_requests' is never used
59   - [gnunet-service-fs.c:694]: member 'ConnectedPeer::last_p2p_replies_woff' is never used
60   - [gnunet-service-fs.c:700]: member 'ConnectedPeer::last_client_replies_woff' is never used
61   - GAP improvements:
62     + active reply route caching design & implementation of service; gap extension!
63 * TBENCH: [MW]
64   - good to have for transport/DV evaluation! 
65 * DV: [Nate]
66   - write DV API (need to move declarations from dv_api.c to gnunet_dv_service.h!)
67   - implement DV service 
68   - implement DV library (looks done)
69   - implement DV transport plugin
70   - implement testcases 
71   - implement performance tests
72 * GNUNET-GTK:
73   - use g_main_context_set_poll_func to integrate GTK with GNUnet Scheduler!? (YUCK!)
74   - OR: add scheduler API to enable integration with GTK main loop instead of doing our own select
75   - use g_main_context_pending, g_main_context_query / g_main_context_check / g_main_context_dispatch
76     and NEVER g_main_loop_run (can this be done? might be the clean way to do this! But how
77     to integrate this with "gtk_main"?  Docu says:
78     "It's OK to use the GLib main loop directly instead of gtk_main(), though it involves 
79      slightly more typing. See GMainLoop in the GLib documentation."
80     => so maybe it "just works"?
81 * SETUP:
82   - design & implement new setup tool
83
84 0.9.0pre2:
85 * TRACEKIT: [MW]
86   - good to have for DV/DHT evaluation!
87 * DHT: [Nate]
88   - implement DHT service 
89   - implement DHT library
90   - implement testcases
91   - implement performance tests
92 * TRANSPORT:
93   - HTTP backend [MW]
94 * ARM: [Safey]
95   - need to get rid of synchronous API for service starts (cause all kinds of problems)
96     [=> eliminate for need to tell ARM about service starts most of the time!] [Safey]
97   - better tracking of which config changes actually need to cause process restarts by ARM.
98   - listen for requests to discover dependencies between services (and avoid
99     having to explicitly program start requests)
100   - better crash management (attach debugging support, capture and analyze
101     debug output, detect random vs. deterministic crashes)
102   - shutdown sequence?
103 * FS: [CG]
104   - datastore reservation (publishing)
105   - search: availability probes
106   - location URIs (publish, search, download)
107   - non-anonymous FS service (needs DHT)
108     + DHT integration for search
109     + CS-DHT-functions (DHT-put of LOC)
110     + P2P-functions (DHT-get)
111   - collection API & tests
112     + gnunet-pseudonym (collection support)
113   - implement FS performance tests
114     + insert
115     + download
116     + search
117     + unindex
118
119 0.9.0pre3:
120 * Determine RC bugs and fix those!
121 * TESTING: [Nate]
122   - modify configuration to allow controlling connections for non-local starts
123   - testbed creation with topology (needs working F2F topology) 
124   - testbed with churn 
125   - implement testcases for distributed testing
126   - test basic peer re-configure 
127   - test topology creation 
128   - test churn generation 
129   - consider changing API for peer-group termination to 
130     call continuation when done
131 * NAT/UPNP: [MW]
132   - finalize API design
133   - code clean up
134   - testing
135   - integration with transport service
136 * MYSQL database backends: [CG]
137   - datacache
138   - datastore
139
140 0.9.0:
141 * new webpage:
142   - expand bibliography
143   - convert documentation pages to books
144   - update books (especially for developers)
145   - create good Drupal theme for GNUnet
146   - make a NICE download page and figure out how to 
147     enable developers to publish TGZs nicely
148   - port "contact" page
149   - add content type for "todo" items?
150 * POSTGRES database backends: [CG]
151   - datacache
152   - datastore
153 * Determine RC bugs and fix those!
154
155 0.9.x:
156 * TRANSPORT: [MW]
157   - SMTP transport backend
158   - HTTPS transport backend
159     + improved HTTPS support in MHD
160     + actual plugin
161   - Implement method of learning our external addresses from
162     other peers; need some kind of threshold-based
163     scheme, limiting both the total number of addresses that we accept 
164     this way as well as requiring multiple confirmations; also, we
165     should possibly try to confirm that the given address works for
166     us ourselves (loopback-style) before adding it to the list
167     + we may be able to simplify WELCOME messages (no need to add 
168       addresses there anymore, but may help to learn them there anyway...).
169     + we probably want some kind of voting/counting for learning IP addresses
170       (maybe including IP addresses in ads proportional to how often others
171        report them? we at least need some protection against >64k HELLOs!),
172     + provide a way to give the user a list of "learned" IP addresses and
173       a way to easily "veto" addresses off the list!
174       => If MiM attacker uses vetoed address, blacklist the specific IP for
175          the presumed neighbour!
176   - implement gnunet-transport (transport configurator / tester)
177   - UPnP-based IP detection
178     (Note: build library always, build service when libxml2/etc. are available)
179 * FS: [CG]
180   - Remove KBlocks in gnunet-unindex (see discussion with Kenneth Almquist on gnunet-devs in 9/2009)
181   - Allow checking of presence of search results and/or content via command-line tools
182     (add options to gnunet-search / gnunet-download to limit search to local peer)
183 * PEERINFO: [CG]
184   - expire 'ancient' HELLOs (those without valid addresses AND that 
185     we have not 'used' (for their public keys) in a while; need a way
186     to track actual 'use')
187   - make sue we also trigger notifications whenever HELLOs expire
188 * VPN
189
190
191
192 Optimizations:
193 * TCP:
194   - should use hash map to look up sessions
195 * PEERINFO:
196   - api creates many, many short-lived TCP connections; either some
197     clients should use the API differently or we need to change the
198     API to enable re-use of connections to the service
199 * STATISTICS:
200   - should use BIO instead of mmap
201 * TRANSPORT:
202   - need to periodically probe latency/transport cost changes & possibly switch transport
203   - instantly filter addresses from *other* peers that 
204     are *equal* to our own address + port (i.e., localhost:2086).  We 
205     no longer filter those for outgoing (helps with loopback testing
206     and keeps the code clean), but we should filter strictly *impossible*
207     incoming addresses!  This is for efficiency, not correctness.
208   - should use hash map to look up Neighbours
209 * HOSTLIST:
210   - 'server' uses 'GNUNET_PEERINFO_iterate', should probably switch to notification API
211     (for more instant / up-to-date hostlists at lower cost) [OPTIMIZATION]
212 * DATASTORE (?):
213   - check for duplicates on insertion (currently, same content is frequently
214     stored again [seen with KBLOCKS and SBLOCKS]!)
215
216 Minor features:
217 * TCP:
218   - repeatedly resolve hostname and look up interfaces to determine our own IP
219   - [./transport/plugin_transport_tcp.c:391]: (style) struct or union member 'Plugin::address_update_task' is never used (related to issue above)
220 * TRANSPORT:
221   - [./transport/gnunet-service-transport.c:173]: (style) struct or union member 'TransportPlugin::rebuild' is never used (related to TCP not refreshing external addresses?)
222 * DATACACHE:
223   - add stats (# bytes available, # bytes used, # PUTs, # GETs, # GETs satisfied)
224 * FS:
225   - support inline data in directories for recursive file downloads (fs_download)
226