(no commit message)
[oweals/gnunet.git] / TODO
1 0.9.0pre1:
2 * FS: [CG]
3   - test migration
4   - TTL/priority calculations
5   - hot-path routing, load considerations
6   - statistics
7   - active reply route caching design & implementation of service; gap extension!
8   - Indexing:
9 May 16 12:49:50 fs-13737 WARNING `open' failed on file `/home/grothoff/svn/gnunet/src/fs/H/\1a' at disk.c:1253 with error: No such file or directory
10 May 16 12:49:50 fs-13737 WARNING Could not access indexed file `ENUTBMBR' at offset 2064384: No such file or directory
11     NOTE: corrupted filename in open message
12     NOTE: odd directory name in open message
13
14 ==14995== 8 bytes in 1 blocks are definitely lost in loss record 1 of 12
15 ==14995==    at 0x4024C4C: malloc (vg_replace_malloc.c:195)
16 ==14995==    by 0x4068F05: GNUNET_xmalloc_unchecked_ (common_allocation.c:92)
17 ==14995==    by 0x4068E33: GNUNET_xmalloc_ (common_allocation.c:61)
18 ==14995==    by 0x40519F5: GNUNET_DATASTORE_get_random (datastore_api.c:1102)
19 ==14995==    by 0x804ADCF: gather_migration_blocks (gnunet-service-fs.c:969)
20 ==14995==    by 0x40864C8: run_ready (scheduler.c:514)
21 ==14995==    by 0x4086970: GNUNET_SCHEDULER_run (scheduler.c:642)
22 ==14995==    by 0x408CF1B: GNUNET_SERVICE_run (service.c:1404)
23 ==14995==    by 0x804F725: main (gnunet-service-fs.c:3506)
24 ==14995== 
25 ==14995== 8 bytes in 1 blocks are definitely lost in loss record 2 of 12
26 ==14995==    at 0x4024C4C: malloc (vg_replace_malloc.c:195)
27 ==14995==    by 0x4068F05: GNUNET_xmalloc_unchecked_ (common_allocation.c:92)
28 ==14995==    by 0x4068E33: GNUNET_xmalloc_ (common_allocation.c:61)
29 ==14995==    by 0x4051ACB: GNUNET_DATASTORE_get (datastore_api.c:1160)
30 ==14995==    by 0x804F39A: handle_start_search (gnunet-service-fs.c:3352)
31 ==14995==    by 0x4087F9A: GNUNET_SERVER_inject (server.c:653)
32 ==14995==    by 0x40880A8: process_client_buffer (server.c:714)
33 ==14995==    by 0x4088529: restart_processing (server.c:848)
34 ==14995==    by 0x40864C8: run_ready (scheduler.c:514)
35 ==14995==    by 0x4086970: GNUNET_SCHEDULER_run (scheduler.c:642)
36 ==14995==    by 0x408CF1B: GNUNET_SERVICE_run (service.c:1404)
37 ==14995==    by 0x804F725: main (gnunet-service-fs.c:3506)
38 ==14995== 
39 ==14995== 120 bytes in 15 blocks are definitely lost in loss record 5 of 12
40 ==14995==    at 0x4024C4C: malloc (vg_replace_malloc.c:195)
41 ==14995==    by 0x4068F05: GNUNET_xmalloc_unchecked_ (common_allocation.c:92)
42 ==14995==    by 0x4068E33: GNUNET_xmalloc_ (common_allocation.c:61)
43 ==14995==    by 0x4050DA1: GNUNET_DATASTORE_put (datastore_api.c:695)
44 ==14995==    by 0x804DD79: handle_p2p_put (gnunet-service-fs.c:2591)
45 ==14995==    by 0x40588B8: main_notify_handler (core_api.c:468)
46 ==14995==    by 0x4067DAE: receive_task (client.c:499)
47 ==14995==    by 0x40864C8: run_ready (scheduler.c:514)
48 ==14995==    by 0x4086970: GNUNET_SCHEDULER_run (scheduler.c:642)
49 ==14995==    by 0x408CF1B: GNUNET_SERVICE_run (service.c:1404)
50 ==14995==    by 0x804F725: main (gnunet-service-fs.c:3506)
51 ==14995== 
52
53 * TBENCH: [MW]
54   - good to have for transport/DV evaluation! 
55 * DV: [Nate]
56   - write DV API (need to move declarations from dv_api.c to gnunet_dv_service.h!)
57   - implement DV service 
58   - implement DV library (looks done)
59   - implement DV transport plugin
60   - implement testcases 
61   - implement performance tests (needs tbench)
62 * TOPOLOGY:
63   - needs more testing (especially F2F topology) & transport blacklisting
64 * UTIL:
65   - only connect() sockets that are ready (select()) [Nils]
66     [On W32, we need to select after calling socket before doing connect etc.]
67   - add support for UNIX domain sockets [CG]
68 * GNUNET-GTK:
69   - use g_main_context_set_poll_func to integrate GTK with GNUnet Scheduler!? (YUCK!)
70   - OR: add scheduler API to enable integration with GTK main loop instead of doing our own select
71   - use g_main_context_pending, g_main_context_query / g_main_context_check / g_main_context_dispatch
72     and NEVER g_main_loop_run (can this be done? might be the clean way to do this! But how
73     to integrate this with "gtk_main"?  Docu says:
74     "It's OK to use the GLib main loop directly instead of gtk_main(), though it involves 
75      slightly more typing. See GMainLoop in the GLib documentation."
76     => so maybe it "just works"?
77 * SETUP:
78   - design & implement new setup tool
79
80 0.9.0pre2:
81 * TRACEKIT: [MW]
82   - good to have for DV/DHT evaluation!
83 * DHT: [Nate]
84   - implement DHT service 
85   - implement testcases
86   - implement performance tests
87 * TRANSPORT:
88   - HTTP backend [MW]
89 * ARM: [Safey]
90   - better crash management (attach debugging support, capture and analyze
91     debug output, detect random vs. deterministic crashes)
92   - discover dependencies between services
93     => need UNIX domain sockets first!
94   - handle gnunet-arm -k in combination with auto-start magic (what is the right thing here?)
95 * FS: [CG]
96   - datastore reservation (publishing)
97   - location URIs (publish, search, download)
98   - unindex on index failure
99   - utilize in-line files in meta data always (including in search results or
100     when download is triggered manually and for probes); currently the data is
101     only used when users do a general 'recursive' download
102   - non-anonymous FS service (needs DHT)
103     + DHT integration for search
104     + CS-DHT-functions (DHT-put of LOC)
105     + P2P-functions (DHT-get)
106   - collection API & tests
107     + gnunet-pseudonym (collection support)
108   - implement FS performance tests
109     + insert
110     + download
111     + search
112     + unindex
113 * MIGRATION:
114   - improved content selection (not just 'get_random')
115
116 0.9.0pre3:
117 * Determine RC bugs and fix those!
118 * TESTING: [Nate]
119   - modify configuration to allow controlling connections for non-local starts
120   - testbed creation with topology (needs working F2F topology) 
121   - testbed with churn 
122   - implement testcases for distributed testing
123   - test basic peer re-configure 
124   - test topology creation 
125   - test churn generation 
126   - consider changing API for peer-group termination to 
127     call continuation when done
128 * NAT/UPNP: [MW]
129   - finalize API design
130   - code clean up
131   - testing
132   - integration with transport service
133 * MYSQL database backends: [CG]
134   - datacache
135   - datastore
136 * FS:
137   - reconstruct IBLOCKS from DBLOCKS if possible (during download; see FIXME in fs_download)
138   - add support for pushing "already seen" search results to FS service for bloomfilter (can wait)
139   - use different 'priority' for probe downloads vs. normal downloads
140 * ARM:
141   - better tracking of which config changes actually need to cause process restarts by ARM.
142
143 0.9.0:
144 * new webpage:
145   - expand bibliography
146   - convert documentation pages to books
147   - update books (especially for developers)
148   - create good Drupal theme for GNUnet
149   - make a NICE download page and figure out how to enable developers to publish TGZs nicely
150   - port "contact" page
151   - add content type for "todo" items?
152 * POSTGRES database backends: [CG]
153   - datacache
154   - datastore
155 * Determine RC bugs and fix those!
156
157 0.9.x:
158 * TRANSPORT: [MW]
159   - SMTP transport backend
160   - HTTPS transport backend
161     + improved HTTPS support in MHD
162     + actual plugin
163   - Implement method of learning our external addresses from
164     other peers; need some kind of threshold-based
165     scheme, limiting both the total number of addresses that we accept 
166     this way as well as requiring multiple confirmations; also, we
167     should possibly try to confirm that the given address works for
168     us ourselves (loopback-style) before adding it to the list
169     + we may be able to simplify WELCOME messages (no need to add 
170       addresses there anymore, but may help to learn them there anyway...).
171     + we probably want some kind of voting/counting for learning IP addresses
172       (maybe including IP addresses in ads proportional to how often others
173        report them? we at least need some protection against >64k HELLOs!),
174     + provide a way to give the user a list of "learned" IP addresses and
175       a way to easily "veto" addresses off the list!
176       => If MiM attacker uses vetoed address, blacklist the specific IP for
177          the presumed neighbour!
178   - implement gnunet-transport (transport configurator / tester)
179   - UPnP-based IP detection
180     (Note: build library always, build service when libxml2/etc. are available)
181 * FS: [CG]
182   - Remove KBlocks in gnunet-unindex (see discussion with Kenneth Almquist on gnunet-devs in 9/2009)
183 * PEERINFO: [CG]
184   - expire 'ancient' HELLOs (those without valid addresses AND that 
185     we have not 'used' (for their public keys) in a while; need a way
186     to track actual 'use')
187   - make sue we also trigger notifications whenever HELLOs expire
188 * VPN
189
190
191
192 Optimizations:
193 * TCP:
194   - should use hash map to look up sessions
195 * STATISTICS:
196   - should use BIO instead of mmap
197 * TRANSPORT:
198   - need to periodically probe latency/transport cost changes & possibly switch transport
199   - should use hash map to look up Neighbours (service AND plugins!)
200 * DATASTORE (?):
201   - check for duplicates on insertion (currently, same content is frequently
202     stored again [seen with KBLOCKS and SBLOCKS]!)
203 * PEERINFO:
204   - merge multiple HELLOs of the same peer in the transmission queue
205     (theoretically reduces overhead; bounds message queue size)
206   - merge multiple iteration requests over "all" peers in the queue
207     (theoretically reduces overhead; bounds messgae queue size)
208 * FS:
209   - use different queue prioritization for probe-downloads vs. normal downloads (!?)
210
211 Minor features:
212 * TCP:
213   - repeatedly resolve hostname and look up interfaces to determine our own IP
214   - [./transport/plugin_transport_tcp.c:391]: (style) struct or union member 'Plugin::address_update_task' is never used (related to issue above)
215 * TRANSPORT:
216   - [./transport/gnunet-service-transport.c:173]: (style) struct or union member 'TransportPlugin::rebuild' is never used (related to TCP not refreshing external addresses?)
217 * BLOCKS:
218   - testcase would be nice...