0e6f5846af20312e8490d8e4c2a335a178313a43
[oweals/gnunet.git] / TODO
1 0.9.0pre1:
2 * FS: [CG]
3   - test migration
4   - TTL/priority calculations
5   - hot-path routing, load considerations
6   - statistics
7   - active reply route caching design & implementation of service; gap extension!
8   - Indexing:
9 May 16 12:49:50 fs-13737 WARNING `open' failed on file `/home/grothoff/svn/gnunet/src/fs/H/\1a' at disk.c:1253 with error: No such file or directory
10 May 16 12:49:50 fs-13737 WARNING Could not access indexed file `ENUTBMBR' at offset 2064384: No such file or directory
11     NOTE: corrupted filename in open message
12     NOTE: odd directory name in open message
13
14 ==14995== 8 bytes in 1 blocks are definitely lost in loss record 1 of 12
15 ==14995==    at 0x4024C4C: malloc (vg_replace_malloc.c:195)
16 ==14995==    by 0x4068F05: GNUNET_xmalloc_unchecked_ (common_allocation.c:92)
17 ==14995==    by 0x4068E33: GNUNET_xmalloc_ (common_allocation.c:61)
18 ==14995==    by 0x40519F5: GNUNET_DATASTORE_get_random (datastore_api.c:1102)
19 ==14995==    by 0x804ADCF: gather_migration_blocks (gnunet-service-fs.c:969)
20 ==14995==    by 0x40864C8: run_ready (scheduler.c:514)
21 ==14995==    by 0x4086970: GNUNET_SCHEDULER_run (scheduler.c:642)
22 ==14995==    by 0x408CF1B: GNUNET_SERVICE_run (service.c:1404)
23 ==14995==    by 0x804F725: main (gnunet-service-fs.c:3506)
24 ==14995== 
25 ==14995== 8 bytes in 1 blocks are definitely lost in loss record 2 of 12
26 ==14995==    at 0x4024C4C: malloc (vg_replace_malloc.c:195)
27 ==14995==    by 0x4068F05: GNUNET_xmalloc_unchecked_ (common_allocation.c:92)
28 ==14995==    by 0x4068E33: GNUNET_xmalloc_ (common_allocation.c:61)
29 ==14995==    by 0x4051ACB: GNUNET_DATASTORE_get (datastore_api.c:1160)
30 ==14995==    by 0x804F39A: handle_start_search (gnunet-service-fs.c:3352)
31 ==14995==    by 0x4087F9A: GNUNET_SERVER_inject (server.c:653)
32 ==14995==    by 0x40880A8: process_client_buffer (server.c:714)
33 ==14995==    by 0x4088529: restart_processing (server.c:848)
34 ==14995==    by 0x40864C8: run_ready (scheduler.c:514)
35 ==14995==    by 0x4086970: GNUNET_SCHEDULER_run (scheduler.c:642)
36 ==14995==    by 0x408CF1B: GNUNET_SERVICE_run (service.c:1404)
37 ==14995==    by 0x804F725: main (gnunet-service-fs.c:3506)
38 ==14995== 
39 ==14995== 120 bytes in 15 blocks are definitely lost in loss record 5 of 12
40 ==14995==    at 0x4024C4C: malloc (vg_replace_malloc.c:195)
41 ==14995==    by 0x4068F05: GNUNET_xmalloc_unchecked_ (common_allocation.c:92)
42 ==14995==    by 0x4068E33: GNUNET_xmalloc_ (common_allocation.c:61)
43 ==14995==    by 0x4050DA1: GNUNET_DATASTORE_put (datastore_api.c:695)
44 ==14995==    by 0x804DD79: handle_p2p_put (gnunet-service-fs.c:2591)
45 ==14995==    by 0x40588B8: main_notify_handler (core_api.c:468)
46 ==14995==    by 0x4067DAE: receive_task (client.c:499)
47 ==14995==    by 0x40864C8: run_ready (scheduler.c:514)
48 ==14995==    by 0x4086970: GNUNET_SCHEDULER_run (scheduler.c:642)
49 ==14995==    by 0x408CF1B: GNUNET_SERVICE_run (service.c:1404)
50 ==14995==    by 0x804F725: main (gnunet-service-fs.c:3506)
51 ==14995== 
52
53 * TESTING:
54 1206      if ((ctx->timeout_task != GNUNET_SCHEDULER_NO_TASK) && (tc->reason != GNUNET_SCHEDULER_R│
55    │1207        {                                                                                     │
56   >│1208          GNUNET_SCHEDULER_cancel(ctx->d1->sched, ctx->timeout_task);                         │
57    │1209          ctx->timeout_task = GNUNET_SCHEDULER_NO_TASK;                                       │
58    │1210        }                                                                                     │
59
60 (gdb) print tc->reason
61 $5 = GNUNET_SCHEDULER_REASON_SHUTDOWN
62
63   #0  0x00d4c422 in __kernel_vsyscall ()
64 #1  0x00148651 in raise () from /lib/tls/i686/cmov/libc.so.6
65 #2  0x0014ba82 in abort () from /lib/tls/i686/cmov/libc.so.6
66 #3  0x005fe4a5 in GNUNET_SCHEDULER_cancel (sched=0xbfb216ac, task=70) at scheduler.c:734
67 #4  0x00114fdd in notify_connect_result (cls=0x8b582c8, tc=0xbfb21648) at testing.c:1208
68 #5  0x005fde79 in run_ready (sched=0xbfb216ac) at scheduler.c:514
69 #6  0x005fe315 in GNUNET_SCHEDULER_run (task=0x5fa53c <program_main>, task_cls=0xbfb217e4)
70     at scheduler.c:642
71
72
73 * TBENCH: [MW]
74   - good to have for transport/DV evaluation! 
75 * DV: [Nate]
76   - write DV API (need to move declarations from dv_api.c to gnunet_dv_service.h!)
77   - implement DV service 
78   - implement DV library (looks done)
79   - implement DV transport plugin
80   - implement testcases 
81   - implement performance tests (needs tbench)
82 * TOPOLOGY:
83   - needs more testing (especially F2F topology) & transport blacklisting
84 * UTIL:
85   - only connect() sockets that are ready (select()) [Nils]
86     [On W32, we need to select after calling socket before doing connect etc.]
87   - add support for UNIX domain sockets [CG]
88 * GNUNET-GTK:
89   - use g_main_context_set_poll_func to integrate GTK with GNUnet Scheduler!? (YUCK!)
90   - OR: add scheduler API to enable integration with GTK main loop instead of doing our own select
91   - use g_main_context_pending, g_main_context_query / g_main_context_check / g_main_context_dispatch
92     and NEVER g_main_loop_run (can this be done? might be the clean way to do this! But how
93     to integrate this with "gtk_main"?  Docu says:
94     "It's OK to use the GLib main loop directly instead of gtk_main(), though it involves 
95      slightly more typing. See GMainLoop in the GLib documentation."
96     => so maybe it "just works"?
97 * SETUP:
98   - design & implement new setup tool
99
100 0.9.0pre2:
101 * TRACEKIT: [MW]
102   - good to have for DV/DHT evaluation!
103 * DHT: [Nate]
104   - implement DHT service 
105   - implement testcases
106   - implement performance tests
107 * TRANSPORT:
108   - HTTP backend [MW]
109 * ARM: [Safey]
110   - better crash management (attach debugging support, capture and analyze
111     debug output, detect random vs. deterministic crashes)
112   - discover dependencies between services
113     => need UNIX domain sockets first!
114   - handle gnunet-arm -k in combination with auto-start magic (what is the right thing here?)
115 * FS: [CG]
116   - datastore reservation (publishing)
117   - location URIs (publish, search, download)
118   - unindex on index failure
119   - utilize in-line files in meta data always (including in search results or
120     when download is triggered manually and for probes); currently the data is
121     only used when users do a general 'recursive' download
122   - non-anonymous FS service (needs DHT)
123     + DHT integration for search
124     + CS-DHT-functions (DHT-put of LOC)
125     + P2P-functions (DHT-get)
126   - collection API & tests
127     + gnunet-pseudonym (collection support)
128   - implement FS performance tests
129     + insert
130     + download
131     + search
132     + unindex
133 * MIGRATION:
134   - improved content selection (not just 'get_random')
135
136 0.9.0pre3:
137 * Determine RC bugs and fix those!
138 * TESTING: [Nate]
139   - modify configuration to allow controlling connections for non-local starts
140   - testbed creation with topology (needs working F2F topology) 
141   - testbed with churn 
142   - implement testcases for distributed testing
143   - test basic peer re-configure 
144   - test topology creation 
145   - test churn generation 
146   - consider changing API for peer-group termination to 
147     call continuation when done
148 * NAT/UPNP: [MW]
149   - finalize API design
150   - code clean up
151   - testing
152   - integration with transport service
153 * MYSQL database backends: [CG]
154   - datacache
155   - datastore
156 * FS:
157   - reconstruct IBLOCKS from DBLOCKS if possible (during download; see FIXME in fs_download)
158   - add support for pushing "already seen" search results to FS service for bloomfilter (can wait)
159   - use different 'priority' for probe downloads vs. normal downloads
160 * ARM:
161   - better tracking of which config changes actually need to cause process restarts by ARM.
162
163 0.9.0:
164 * new webpage:
165   - expand bibliography
166   - convert documentation pages to books
167   - update books (especially for developers)
168   - create good Drupal theme for GNUnet
169   - make a NICE download page and figure out how to enable developers to publish TGZs nicely
170   - port "contact" page
171   - add content type for "todo" items?
172 * POSTGRES database backends: [CG]
173   - datacache
174   - datastore
175 * Determine RC bugs and fix those!
176
177 0.9.x:
178 * TRANSPORT: [MW]
179   - SMTP transport backend
180   - HTTPS transport backend
181     + improved HTTPS support in MHD
182     + actual plugin
183   - Implement method of learning our external addresses from
184     other peers; need some kind of threshold-based
185     scheme, limiting both the total number of addresses that we accept 
186     this way as well as requiring multiple confirmations; also, we
187     should possibly try to confirm that the given address works for
188     us ourselves (loopback-style) before adding it to the list
189     + we may be able to simplify WELCOME messages (no need to add 
190       addresses there anymore, but may help to learn them there anyway...).
191     + we probably want some kind of voting/counting for learning IP addresses
192       (maybe including IP addresses in ads proportional to how often others
193        report them? we at least need some protection against >64k HELLOs!),
194     + provide a way to give the user a list of "learned" IP addresses and
195       a way to easily "veto" addresses off the list!
196       => If MiM attacker uses vetoed address, blacklist the specific IP for
197          the presumed neighbour!
198   - implement gnunet-transport (transport configurator / tester)
199   - UPnP-based IP detection
200     (Note: build library always, build service when libxml2/etc. are available)
201 * FS: [CG]
202   - Remove KBlocks in gnunet-unindex (see discussion with Kenneth Almquist on gnunet-devs in 9/2009)
203 * PEERINFO: [CG]
204   - expire 'ancient' HELLOs (those without valid addresses AND that 
205     we have not 'used' (for their public keys) in a while; need a way
206     to track actual 'use')
207   - make sue we also trigger notifications whenever HELLOs expire
208 * VPN
209
210
211
212 Optimizations:
213 * TCP:
214   - should use hash map to look up sessions
215 * STATISTICS:
216   - should use BIO instead of mmap
217 * TRANSPORT:
218   - need to periodically probe latency/transport cost changes & possibly switch transport
219   - should use hash map to look up Neighbours (service AND plugins!)
220 * DATASTORE (?):
221   - check for duplicates on insertion (currently, same content is frequently
222     stored again [seen with KBLOCKS and SBLOCKS]!)
223 * PEERINFO:
224   - merge multiple HELLOs of the same peer in the transmission queue
225     (theoretically reduces overhead; bounds message queue size)
226   - merge multiple iteration requests over "all" peers in the queue
227     (theoretically reduces overhead; bounds messgae queue size)
228 * FS:
229   - use different queue prioritization for probe-downloads vs. normal downloads (!?)
230
231 Minor features:
232 * TCP:
233   - repeatedly resolve hostname and look up interfaces to determine our own IP
234   - [./transport/plugin_transport_tcp.c:391]: (style) struct or union member 'Plugin::address_update_task' is never used (related to issue above)
235 * TRANSPORT:
236   - [./transport/gnunet-service-transport.c:173]: (style) struct or union member 'TransportPlugin::rebuild' is never used (related to TCP not refreshing external addresses?)
237 * BLOCKS:
238   - testcase would be nice...