work on HELLO
[oweals/gnunet.git] / TODO
1 0.9.0pre0 [April]:
2 * HOSTLIST: seems to have NO 'tcp' in it, so cannot have any addresses!? [CG]
3 * FS-acceptance testing [CG]
4 * Release checks:
5   - portability
6   - coverity
7   - clang
8   - cppcheck
9 * ChangeLog update
10 * WWW:
11   - Get IPv6 hooked up [AK, after April 12th]
12   - change DNS [CG, need DNS]
13
14 0.9.0pre1:
15 * PEERINFO:
16   - trust: need *fast* way to check/update trust in peers
17            (async peerinfo would not be right; certainly not with the
18             current API)
19 * UTIL:
20   - scheduler should change OS process priority based on task priority;   
21     should make better use of task priorities in general
22   - only connect() sockets that are ready (select()) [Nils]
23     [On W32, we need to select after calling socket before
24      doing connect etc.]
25 * SETUP:
26   - design & implement new setup tool
27 * TBENCH: [MW]
28   - good to have for transport/DV evaluation! 
29 * DV: [Nate]
30   - write DV API (need to move declarations from dv_api.c to gnunet_dv_service.h!)
31   - implement DV service 
32   - implement DV library (looks done)
33   - implement DV transport plugin
34   - implement testcases 
35   - implement performance tests
36 * STATISTICS:
37   - does not seem to work with timeouts (especially if service is not running)
38 * TOPOLOGY:
39   - needs more testing (especially F2F topology)
40   - needs to re-try connecting after disconnect (currently, it
41     initially triggers a connection request, but if that connection
42     fails / goes down, it does not retry in a timely fashion;
43     cause seems to be the 'blacklist_after_attempt' being set to 1h,
44     which is rather long -- and should probably be adjusted based on
45     the number of connections / known peers)
46   - If the topology daemon crashes, peers that were put on the
47     blacklist with transport will never be removed from it (until
48     transport service dies); we should use the blacklist notification
49     API to learn about the exact set of blacklisted peers at all times
50     (FIXME: the transport_api implementation of blacklisting
51      also does not work nicely for this since it won't let us know about
52      disconnect-reconnect events and the implicit whitelisting
53      that might happen here; that's not so bad since we will
54      re-blacklist on pre-connect attempts anyway, so this is 
55      a minor issue; OTOH, we might want to be more explicit about
56      allowing/forbidding connects on pre-connect to avoid 
57      entering connect attempts to just be blacklisted shortly afterwards).
58   - the code uses the term 'blacklist' for both peers that are forbidden
59     to connect (i.e. F2F mode) as well as peers that we currently
60     won't try to actively connect to ourselves (since we just tried);
61     This is confusing.  We need two distinct terms (greylist?).
62   - move code to use hash table instead of linked list
63   - instead of periodically discarding blacklisted entries,
64     simply add task that is triggered at the right time (earlier free,
65     more balanced load)
66   - check if new HELLO learned is different from old HELLO
67     before resetting entire state!
68 * FS: [CG]
69   - support recursive download even if filename is NULL and we hence
70     do not generate files on disk (use temp_filename)
71   - bound parallelism (# fs downloads)
72   - distinguish in performance tracking and event signalling between
73     downloads that are actually running and those that are merely in the queue
74   - persistence support (publish, unindex, search, download)
75   - active migration support (in fs or in datastore or new daemon?)
76   - gnunet-service-fs (hot-path routing, load-based routing, nitpicks)
77   - [gnunet-service-fs.c:208]: member 'LocalGetContext::results_bf_size' is never used
78   - [gnunet-service-fs.c:501]: member 'PendingRequest::used_pids_size' is never used
79   - [gnunet-service-fs.c:654]: member 'ConnectedPeer::last_client_replies' is never used
80   - [gnunet-service-fs.c:669]: member 'ConnectedPeer::avg_delay' is never used
81   - [gnunet-service-fs.c:675]: member 'ConnectedPeer::avg_priority' is never used
82   - [gnunet-service-fs.c:688]: member 'ConnectedPeer::pending_requests' is never used
83   - [gnunet-service-fs.c:694]: member 'ConnectedPeer::last_p2p_replies_woff' is never used
84   - [gnunet-service-fs.c:700]: member 'ConnectedPeer::last_client_replies_woff' is never used
85   - GAP improvements:
86     + active reply route caching design & implementation of service; gap extension!
87 * DATASTORE:
88   - API lacks cancellation methods (needed? or is disconnect enough?); 
89     may also want to integrate request queuing here instead of gnunet-service-fs_drq.c 
90 * GNUNET-GTK:
91   - how to integrate scheduler with GTK event loop!?
92
93 0.9.0pre2:
94 * TRACEKIT: [MW]
95   - good to have for DV/DHT evaluation!
96 * DHT: [Nate]
97   - implement DHT service 
98   - implement DHT library
99   - implement testcases
100   - implement performance tests
101 * TRANSPORT:
102   - HTTP backend [MW]
103 * ARM: [Safey]
104   - need to get rid of synchronous API for service starts (cause all kinds of problems)
105     [=> eliminate for need to tell ARM about service starts most of the time!] [Safey]
106   - better tracking of which config changes actually need to cause process restarts by ARM.
107   - listen for requests to discover dependencies between services (and avoid
108     having to explicitly program start requests)
109   - better crash management (attach debugging support, capture and analyze
110     debug output, detect random vs. deterministic crashes)
111   - shutdown sequence?
112 * FS: [CG]
113   - datastore reservation (publishing)
114   - search: availability probes
115   - location URIs (publish, search, download)
116   - non-anonymous FS service (needs DHT)
117     + DHT integration for search
118     + CS-DHT-functions (DHT-put of LOC)
119     + P2P-functions (DHT-get)
120   - collection API & tests
121     + gnunet-pseudonym (collection support)
122   - implement FS performance tests
123     + insert
124     + download
125     + search
126     + unindex
127
128 0.9.0pre3:
129 * Determine RC bugs and fix those!
130 * TESTING: [Nate]
131   - modify configuration to allow controlling connections for non-local starts
132   - testbed creation with topology (needs working F2F topology) 
133   - testbed with churn 
134   - implement testcases for distributed testing
135   - test basic peer re-configure 
136   - test topology creation 
137   - test churn generation 
138   - consider changing API for peer-group termination to 
139     call continuation when done
140 * NAT/UPNP: [MW]
141   - finalize API design
142   - code clean up
143   - testing
144   - integration with transport service
145 * MYSQL database backends: [CG]
146   - datacache
147   - datastore
148
149 0.9.0:
150 * new webpage:
151   - expand bibliography
152   - convert documentation pages to books
153   - update books (especially for developers)
154   - create good Drupal theme for GNUnet
155   - make a NICE download page and figure out how to 
156     enable developers to publish TGZs nicely
157   - port "contact" page
158   - add content type for "todo" items?
159 * POSTGRES database backends: [CG]
160   - datacache
161   - datastore
162 * Determine RC bugs and fix those!
163
164 0.9.x:
165 * TRANSPORT: [MW]
166   - SMTP transport backend
167   - HTTPS transport backend
168     + improved HTTPS support in MHD
169     + actual plugin
170   - Implement method of learning our external addresses from
171     other peers; need some kind of threshold-based
172     scheme, limiting both the total number of addresses that we accept 
173     this way as well as requiring multiple confirmations; also, we
174     should possibly try to confirm that the given address works for
175     us ourselves (loopback-style) before adding it to the list
176     + we may be able to simplify WELCOME messages (no need to add 
177       addresses there anymore, but may help to learn them there anyway...).
178     + we probably want some kind of voting/counting for learning IP addresses
179       (maybe including IP addresses in ads proportional to how often others
180        report them? we at least need some protection against >64k HELLOs!),
181     + provide a way to give the user a list of "learned" IP addresses and
182       a way to easily "veto" addresses off the list!
183       => If MiM attacker uses vetoed address, blacklist the specific IP for
184          the presumed neighbour!
185   - implement gnunet-transport (transport configurator / tester)
186   - UPnP-based IP detection
187     (Note: build library always, build service when libxml2/etc. are available)
188 * FS: [CG]
189   - Remove KBlocks in gnunet-unindex (see discussion with Kenneth Almquist on gnunet-devs in 9/2009)
190   - Allow checking of presence of search results and/or content via command-line tools
191     (add options to gnunet-search / gnunet-download to limit search to local peer)
192 * PEERINFO: [CG]
193   - expire 'ancient' HELLOs (those without valid addresses AND that 
194     we have not 'used' (for their public keys) in a while; need a way
195     to track actual 'use')
196   - make sue we also trigger notifications whenever HELLOs expire
197 * VPN
198
199
200
201 Optimizations:
202 * TCP:
203   - should use hash map to look up sessions
204 * PEERINFO:
205   - api creates many, many short-lived TCP connections; either some
206     clients should use the API differently or we need to change the
207     API to enable re-use of connections to the service
208 * STATISTICS:
209   - should use BIO instead of mmap
210 * TRANSPORT:
211   - need to periodically probe latency/transport cost changes & possibly switch transport
212   - instantly filter addresses from *other* peers that 
213     are *equal* to our own address + port (i.e., localhost:2086).  We 
214     no longer filter those for outgoing (helps with loopback testing
215     and keeps the code clean), but we should filter strictly *impossible*
216     incoming addresses!  This is for efficiency, not correctness.
217   - should use hash map to look up Neighbours
218 * HOSTLIST:
219   - 'server' uses 'GNUNET_PEERINFO_iterate', should probably switch to notification API
220     (for more instant / up-to-date hostlists at lower cost) [OPTIMIZATION]
221 * DATASTORE (?):
222   - check for duplicates on insertion (currently, same content is frequently
223     stored again [seen with KBLOCKS and SBLOCKS]!)
224
225 Minor features:
226 * TCP:
227   - repeatedly resolve hostname and look up interfaces to determine our own IP
228   - [./transport/plugin_transport_tcp.c:391]: (style) struct or union member 'Plugin::address_update_task' is never used (related to issue above)
229 * TRANSPORT:
230   - [./transport/gnunet-service-transport.c:173]: (style) struct or union member 'TransportPlugin::rebuild' is never used (related to TCP not refreshing external addresses?)
231 * DATACACHE:
232   - add stats (# bytes available, # bytes used, # PUTs, # GETs, # GETs satisfied)
233 * FS:
234   - support inline data in directories for recursive file downloads (fs_download)
235