fix
[oweals/gnunet.git] / TODO
1 0.9.0pre1:
2 * FS: [CG]
3   - test indexing
4   - test migration
5   - TTL/priority calculations
6   - hot-path routing, load considerations
7   - statistics
8   - active reply route caching design & implementation of service; gap extension!
9   - Indexing:
10 May 16 12:49:50 fs-13737 WARNING `open' failed on file `/home/grothoff/svn/gnunet/src/fs/H/\1a' at disk.c:1253 with error: No such file or directory
11 May 16 12:49:50 fs-13737 WARNING Could not access indexed file `ENUTBMBR' at offset 2064384: No such file or directory
12     NOTE: corrupted filename in open message
13     NOTE: odd directory name in open message
14
15 ==14995== 8 bytes in 1 blocks are definitely lost in loss record 1 of 12
16 ==14995==    at 0x4024C4C: malloc (vg_replace_malloc.c:195)
17 ==14995==    by 0x4068F05: GNUNET_xmalloc_unchecked_ (common_allocation.c:92)
18 ==14995==    by 0x4068E33: GNUNET_xmalloc_ (common_allocation.c:61)
19 ==14995==    by 0x40519F5: GNUNET_DATASTORE_get_random (datastore_api.c:1102)
20 ==14995==    by 0x804ADCF: gather_migration_blocks (gnunet-service-fs.c:969)
21 ==14995==    by 0x40864C8: run_ready (scheduler.c:514)
22 ==14995==    by 0x4086970: GNUNET_SCHEDULER_run (scheduler.c:642)
23 ==14995==    by 0x408CF1B: GNUNET_SERVICE_run (service.c:1404)
24 ==14995==    by 0x804F725: main (gnunet-service-fs.c:3506)
25 ==14995== 
26 ==14995== 8 bytes in 1 blocks are definitely lost in loss record 2 of 12
27 ==14995==    at 0x4024C4C: malloc (vg_replace_malloc.c:195)
28 ==14995==    by 0x4068F05: GNUNET_xmalloc_unchecked_ (common_allocation.c:92)
29 ==14995==    by 0x4068E33: GNUNET_xmalloc_ (common_allocation.c:61)
30 ==14995==    by 0x4051ACB: GNUNET_DATASTORE_get (datastore_api.c:1160)
31 ==14995==    by 0x804F39A: handle_start_search (gnunet-service-fs.c:3352)
32 ==14995==    by 0x4087F9A: GNUNET_SERVER_inject (server.c:653)
33 ==14995==    by 0x40880A8: process_client_buffer (server.c:714)
34 ==14995==    by 0x4088529: restart_processing (server.c:848)
35 ==14995==    by 0x40864C8: run_ready (scheduler.c:514)
36 ==14995==    by 0x4086970: GNUNET_SCHEDULER_run (scheduler.c:642)
37 ==14995==    by 0x408CF1B: GNUNET_SERVICE_run (service.c:1404)
38 ==14995==    by 0x804F725: main (gnunet-service-fs.c:3506)
39 ==14995== 
40 ==14995== 120 bytes in 15 blocks are definitely lost in loss record 5 of 12
41 ==14995==    at 0x4024C4C: malloc (vg_replace_malloc.c:195)
42 ==14995==    by 0x4068F05: GNUNET_xmalloc_unchecked_ (common_allocation.c:92)
43 ==14995==    by 0x4068E33: GNUNET_xmalloc_ (common_allocation.c:61)
44 ==14995==    by 0x4050DA1: GNUNET_DATASTORE_put (datastore_api.c:695)
45 ==14995==    by 0x804DD79: handle_p2p_put (gnunet-service-fs.c:2591)
46 ==14995==    by 0x40588B8: main_notify_handler (core_api.c:468)
47 ==14995==    by 0x4067DAE: receive_task (client.c:499)
48 ==14995==    by 0x40864C8: run_ready (scheduler.c:514)
49 ==14995==    by 0x4086970: GNUNET_SCHEDULER_run (scheduler.c:642)
50 ==14995==    by 0x408CF1B: GNUNET_SERVICE_run (service.c:1404)
51 ==14995==    by 0x804F725: main (gnunet-service-fs.c:3506)
52 ==14995== 
53
54 * TBENCH: [MW]
55   - good to have for transport/DV evaluation! 
56 * DV: [Nate]
57   - write DV API (need to move declarations from dv_api.c to gnunet_dv_service.h!)
58   - implement DV service 
59   - implement DV library (looks done)
60   - implement DV transport plugin
61   - implement testcases 
62   - implement performance tests (needs tbench)
63 * TOPOLOGY:
64   - needs more testing (especially F2F topology) & transport blacklisting
65 * UTIL:
66   - only connect() sockets that are ready (select()) [Nils]
67     [On W32, we need to select after calling socket before doing connect etc.]
68   - add support for UNIX domain sockets [CG]
69 * GNUNET-GTK:
70   - use g_main_context_set_poll_func to integrate GTK with GNUnet Scheduler!? (YUCK!)
71   - OR: add scheduler API to enable integration with GTK main loop instead of doing our own select
72   - use g_main_context_pending, g_main_context_query / g_main_context_check / g_main_context_dispatch
73     and NEVER g_main_loop_run (can this be done? might be the clean way to do this! But how
74     to integrate this with "gtk_main"?  Docu says:
75     "It's OK to use the GLib main loop directly instead of gtk_main(), though it involves 
76      slightly more typing. See GMainLoop in the GLib documentation."
77     => so maybe it "just works"?
78 * SETUP:
79   - design & implement new setup tool
80
81 0.9.0pre2:
82 * TRACEKIT: [MW]
83   - good to have for DV/DHT evaluation!
84 * DHT: [Nate]
85   - implement DHT service 
86   - implement testcases
87   - implement performance tests
88 * TRANSPORT:
89   - HTTP backend [MW]
90 * ARM: [Safey]
91   - better crash management (attach debugging support, capture and analyze
92     debug output, detect random vs. deterministic crashes)
93   - discover dependencies between services
94     => need UNIX domain sockets first!
95   - handle gnunet-arm -k in combination with auto-start magic (what is the right thing here?)
96 * FS: [CG]
97   - datastore reservation (publishing)
98   - location URIs (publish, search, download)
99   - unindex on index failure
100   - utilize in-line files in meta data always (including in search results or
101     when download is triggered manually and for probes); currently the data is
102     only used when users do a general 'recursive' download
103   - non-anonymous FS service (needs DHT)
104     + DHT integration for search
105     + CS-DHT-functions (DHT-put of LOC)
106     + P2P-functions (DHT-get)
107   - collection API & tests
108     + gnunet-pseudonym (collection support)
109   - implement FS performance tests
110     + insert
111     + download
112     + search
113     + unindex
114 * MIGRATION:
115   - improved content selection (not just 'get_random')
116
117 0.9.0pre3:
118 * Determine RC bugs and fix those!
119 * TESTING: [Nate]
120   - modify configuration to allow controlling connections for non-local starts
121   - testbed creation with topology (needs working F2F topology) 
122   - testbed with churn 
123   - implement testcases for distributed testing
124   - test basic peer re-configure 
125   - test topology creation 
126   - test churn generation 
127   - consider changing API for peer-group termination to 
128     call continuation when done
129 * NAT/UPNP: [MW]
130   - finalize API design
131   - code clean up
132   - testing
133   - integration with transport service
134 * MYSQL database backends: [CG]
135   - datacache
136   - datastore
137 * FS:
138   - reconstruct IBLOCKS from DBLOCKS if possible (during download; see FIXME in fs_download)
139   - add support for pushing "already seen" search results to FS service for bloomfilter (can wait)
140   - use different 'priority' for probe downloads vs. normal downloads
141 * ARM:
142   - better tracking of which config changes actually need to cause process restarts by ARM.
143
144 0.9.0:
145 * new webpage:
146   - expand bibliography
147   - convert documentation pages to books
148   - update books (especially for developers)
149   - create good Drupal theme for GNUnet
150   - make a NICE download page and figure out how to enable developers to publish TGZs nicely
151   - port "contact" page
152   - add content type for "todo" items?
153 * POSTGRES database backends: [CG]
154   - datacache
155   - datastore
156 * Determine RC bugs and fix those!
157
158 0.9.x:
159 * TRANSPORT: [MW]
160   - SMTP transport backend
161   - HTTPS transport backend
162     + improved HTTPS support in MHD
163     + actual plugin
164   - Implement method of learning our external addresses from
165     other peers; need some kind of threshold-based
166     scheme, limiting both the total number of addresses that we accept 
167     this way as well as requiring multiple confirmations; also, we
168     should possibly try to confirm that the given address works for
169     us ourselves (loopback-style) before adding it to the list
170     + we may be able to simplify WELCOME messages (no need to add 
171       addresses there anymore, but may help to learn them there anyway...).
172     + we probably want some kind of voting/counting for learning IP addresses
173       (maybe including IP addresses in ads proportional to how often others
174        report them? we at least need some protection against >64k HELLOs!),
175     + provide a way to give the user a list of "learned" IP addresses and
176       a way to easily "veto" addresses off the list!
177       => If MiM attacker uses vetoed address, blacklist the specific IP for
178          the presumed neighbour!
179   - implement gnunet-transport (transport configurator / tester)
180   - UPnP-based IP detection
181     (Note: build library always, build service when libxml2/etc. are available)
182 * FS: [CG]
183   - Remove KBlocks in gnunet-unindex (see discussion with Kenneth Almquist on gnunet-devs in 9/2009)
184 * PEERINFO: [CG]
185   - expire 'ancient' HELLOs (those without valid addresses AND that 
186     we have not 'used' (for their public keys) in a while; need a way
187     to track actual 'use')
188   - make sue we also trigger notifications whenever HELLOs expire
189 * VPN
190
191
192
193 Optimizations:
194 * TCP:
195   - should use hash map to look up sessions
196 * STATISTICS:
197   - should use BIO instead of mmap
198 * TRANSPORT:
199   - need to periodically probe latency/transport cost changes & possibly switch transport
200   - should use hash map to look up Neighbours (service AND plugins!)
201 * DATASTORE (?):
202   - check for duplicates on insertion (currently, same content is frequently
203     stored again [seen with KBLOCKS and SBLOCKS]!)
204 * PEERINFO:
205   - merge multiple HELLOs of the same peer in the transmission queue
206     (theoretically reduces overhead; bounds message queue size)
207   - merge multiple iteration requests over "all" peers in the queue
208     (theoretically reduces overhead; bounds messgae queue size)
209 * FS:
210   - use different queue prioritization for probe-downloads vs. normal downloads (!?)
211
212 Minor features:
213 * TCP:
214   - repeatedly resolve hostname and look up interfaces to determine our own IP
215   - [./transport/plugin_transport_tcp.c:391]: (style) struct or union member 'Plugin::address_update_task' is never used (related to issue above)
216 * TRANSPORT:
217   - [./transport/gnunet-service-transport.c:173]: (style) struct or union member 'TransportPlugin::rebuild' is never used (related to TCP not refreshing external addresses?)
218 * BLOCKS:
219   - testcase would be nice...