6414e99efa17736b062108e2e74f60279660f845
[oweals/gnunet.git] / src / ats / plugin_ats_proportional.c
1 /*
2  This file is part of GNUnet.
3  (C) 2011 Christian Grothoff (and other contributing authors)
4
5  GNUnet is free software; you can redistribute it and/or modify
6  it under the terms of the GNU General Public License as published
7  by the Free Software Foundation; either version 3, or (at your
8  option) any later version.
9
10  GNUnet is distributed in the hope that it will be useful, but
11  WITHOUT ANY WARRANTY; without even the implied warranty of
12  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  General Public License for more details.
14
15  You should have received a copy of the GNU General Public License
16  along with GNUnet; see the file COPYING.  If not, write to the
17  Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18  Boston, MA 02111-1307, USA.
19  */
20
21 /**
22  * @file ats/plugin_ats_proportional.c
23  * @brief ATS proportional solver
24  * @author Matthias Wachs
25  * @author Christian Grothoff
26  */
27 #include "plugin_ats_proportional.h"
28
29 #define LOG(kind,...) GNUNET_log_from (kind, "ats-proportional",__VA_ARGS__)
30
31
32 /**
33  *
34  * NOTE: Do not change this documentation. This documentation is based
35  * on gnunet.org:/vcs/fsnsg/ats-paper.git/tech-doku/ats-tech-guide.tex
36  * use build_txt.sh to generate plaintext output
37  *
38  * ATS addresses : proportional solver
39  *
40  *    The proportional solver ("proportional") distributes the available
41  *    bandwidth fair over all the addresses influenced by the
42  *    preference values. For each available network type an in- and
43  *    outbound quota is configured and the bandwidth available in
44  *    these networks is distributed over the addresses.  The solver
45  *    first assigns every addresses the minimum amount of bandwidth
46  *    GNUNET_CONSTANTS_DEFAULT_BW_IN_OUT and then distributes the
47  *    remaining bandwidth available according to the preference
48  *    values. For each peer only a single address gets bandwidth
49  *    assigned and only one address marked as active.  The most
50  *    important functionality for the solver is implemented in: *
51  *    find_address_it is an hashmap iterator returning the prefered
52  *    address for an peer * update_quota_per_network distributes
53  *    available bandwidth for a network over active addresses
54  *
55  *    Changes to addresses automatically have an impact on the the
56  *    bandwidth assigned to other addresses in the same network since
57  *    the solver distributes the remaining bandwidth over the
58  *    addresses in the network.  When changes to the addresses occur,
59  *    the solver first performs the changes, like adding or deleting
60  *    addresses, and then updates bandwidth assignment for the
61  *    affected network. Bandwidth assignment is only recalculated on
62  *    demand when an address is requested by a client for a peer or
63  *    when the addresses available have changed or an address changed
64  *    the network it is located in. When the bandwidth assignment has
65  *    changed the callback is called with the new bandwidth
66  *    assignments. The bandwidth distribution for a network is
67  *    recalculated due to: * address suggestion requests * address
68  *    deletions * address switching networks during address update *
69  *    preference changes
70  *
71  *     3.1 Data structures used
72  *
73  *    For each ATS network (e.g. WAN, LAN, loopback) a struct Network
74  *    is used to specify network related information as total adresses
75  *    and active addresses in this network and the configured in- and
76  *    outbound quota. Each network also contains a list of addresses
77  *    added to the solver located in this network. The proportional
78  *    solver uses the addresses' solver_information field to store the
79  *    proportional network it belongs to for each address.
80  *
81  *     3.2 Initializing
82  *
83  *    When the proportional solver is initialized the solver creates a
84  *    new solver handle and initializes the network structures with
85  *    the quotas passed from addresses and returns the handle solver.
86  *
87  *     3.3 Adding an address
88  *
89  *    When a new address is added to the solver using s_add, a lookup
90  *    for the network for this address is done and the address is
91  *    enqueued in in the linked list of the network.
92  *
93  *     3.4 Updating an address
94  *
95  *    The main purpose of address updates is to update the ATS
96  *    information for addresse selection. Important for the proportional
97  *    solver is when an address switches network it is located
98  *    in. This is common because addresses added by transport's
99  *    validation mechanism are commonly located in
100  *    GNUNET_ATS_NET_UNSPECIFIED. Addresses in validation are located
101  *    in this network type and only if a connection is successful on
102  *    return of payload data transport switches to the real network
103  *    the address is located in.  When an address changes networks it
104  *    is first of all removed from the old network using the solver
105  *    API function GAS_proportional_address_delete and the network in
106  *    the address struct is updated. A lookup for the respective new
107  *    proportional network is done and stored in the addresse's
108  *    solver_information field. Next the address is re-added to the
109  *    solver using the solver API function
110  *    GAS_proportional_address_add. If the address was marked as in
111  *    active, the solver checks if bandwidth is available in the
112  *    network and if yes sets the address to active and updates the
113  *    bandwidth distribution in this network. If no bandwidth is
114  *    available it sets the bandwidth for this address to 0 and tries
115  *    to suggest an alternative address. If an alternative address was
116  *    found, addresses' callback is called for this address.
117  *
118  *     3.5 Deleting an address
119  *
120  *    When an address is removed from the solver, it removes the
121  *    respective address from the network and if the address was
122  *    marked as active, it updates the bandwidth distribution for this
123  *    network.
124  *
125  *     3.6 Requesting addresses
126  *
127  *    When an address is requested for a peer the solver performs a
128  *    lookup for the peer entry in addresses address hashmap and
129  *    selects the best address.  The selection of the most suitable
130  *    address is done in the find_address_it hashmap iterator
131  *    described in detail in section 3.7. If no address is returned,
132  *    no address can be suggested at the moment. If the address
133  *    returned is marked as active, the solver can return this
134  *    address. If the address is not marked as active, the solver
135  *    checks if another address belongign to this peer is marked as
136  *    active and marks the address as inactive, updates the bandwidth
137  *    for this address to 0, call the bandwidth changed callback for
138  *    this address due to the change and updates quota assignment for
139  *    the addresse's network. the now in-active address is belonging
140  *    to. The solver marks the new address as active and updates the
141  *    bandwidth assignment for this network.
142  *
143  *     3.7 Choosing addresses
144  *
145  *    Choosing the best possible address for suggestion is done by
146  *    iterating over all addresses of a peer stored in addresses'
147  *    hashmap and using the hashmap iterator find_address_it to select
148  *    the best available address.  Several checks are done when an
149  *    address is selected. First if this address is currently blocked
150  *    by addresses from being suggested. An address is blocked for the
151  *    duration of ATS_BLOCKING_DELTA when it is suggested to
152  *    transport. Next it is checked if at least
153  *    GNUNET_CONSTANTS_DEFAULT_BW_IN_OUT bytes bandwidth is available
154  *    in the addresse's network, because suggesting an address without
155  *    bandwidth does not make sense. This also ensures that all active
156  *    addresses in this network get at least the minimum amount of
157  *    bandwidth assigned. In the next step the solver ensures that for
158  *    tcp connections inbound connections are prefered over outbound
159  *    connections. In the next stet the solver ensures that
160  *    connections are prefered in the following order: * connections
161  *    are already established and have bandwidth assigned *
162  *    connections with a shorter distance * connectes have a shorter
163  *    latency
164  *
165  *     3.8 Changing preferences
166  *
167  *     3.9 Shutdown
168  *
169  *    During shutdown all network entries and aging processes are
170  *    destroyed and freed.
171  *
172  *
173  * OLD DOCUMENTATION
174  *
175  * This solver assigns in and outbound bandwidth equally for all
176  * addresses in specific network type (WAN, LAN) based on configured
177  * in and outbound quota for this network.
178  *
179  * The solver is notified by addresses about changes to the addresses
180  * and recalculates the bandwith assigned if required. The solver
181  * notifies addresses by calling the GAS_bandwidth_changed_cb
182  * callback.
183  *
184  * - Initialization
185  *
186  *
187  *
188  *
189  * For each peer only a single is selected and marked as "active" in the address
190  * struct.
191  *
192  * E.g.:
193  *
194  * You have the networks WAN and LAN and quotas
195  * WAN_TOTAL_IN, WAN_TOTAL_OUT
196  * LAN_TOTAL_IN, LAN_TOTAL_OUT
197  *
198  * If you have x addresses in the network segment LAN, the quotas are
199  * QUOTA_PER_ADDRESS = LAN_TOTAL_OUT / x
200  *
201  * Quotas are automatically recalculated and reported back when addresses are
202  * - requested
203  *
204  */
205
206 #define PROPORTIONALITY_FACTOR 2.0
207
208 /**
209  * A handle for the proportional solver
210  */
211 struct GAS_PROPORTIONAL_Handle
212 {
213    struct GNUNET_ATS_PluginEnvironment *env;
214
215   /**
216    * Statistics handle
217    */
218   struct GNUNET_STATISTICS_Handle *stats;
219
220   /**
221    * Hashmap containing all valid addresses
222    */
223   struct GNUNET_CONTAINER_MultiPeerMap *addresses;
224
225   /**
226    * Pending address requests
227    */
228   struct GNUNET_CONTAINER_MultiPeerMap *requests;
229
230   /**
231    * Bandwidth changed callback
232    */
233   GAS_bandwidth_changed_cb bw_changed;
234
235   /**
236    * Bandwidth changed callback cls
237    */
238   void *bw_changed_cls;
239
240   /**
241    * ATS function to get preferences
242    */
243   GAS_get_preferences get_preferences;
244
245   /**
246    * Closure for ATS function to get preferences
247    */
248   void *get_preferences_cls;
249
250   /**
251    * ATS function to get properties
252    */
253   GAS_get_properties get_properties;
254
255   /**
256    * Closure for ATS function to get properties
257    */
258   void *get_properties_cls;
259
260   /**
261    * Bulk lock
262    */
263   int bulk_lock;
264
265   /**
266    * Number of changes while solver was locked
267    */
268   int bulk_requests;
269
270   /**
271    * Total number of addresses for solver
272    */
273   unsigned int total_addresses;
274
275   /**
276    * Number of active addresses for solver
277    */
278   unsigned int active_addresses;
279
280   /**
281    * Networks array
282    */
283   struct Network *network_entries;
284
285   /**
286    * Number of networks
287    */
288   unsigned int network_count;
289
290   /**
291    * Proportionality factor
292    */
293   double prop_factor;
294
295   /**
296    * Stability factor
297    */
298   double stability_factor;
299 };
300
301 /**
302  * Representation of a network
303  */
304 struct Network
305 {
306   /**
307    * ATS network type
308    */
309   unsigned int type;
310
311   /**
312    * Network description
313    */
314   char *desc;
315
316   /**
317    * Total inbound quota
318    *
319    */
320   unsigned long long total_quota_in;
321
322   /**
323    * Total outbound quota
324    *
325    */
326   unsigned long long total_quota_out;
327
328   /**
329    * Number of active addresses for this network
330    */
331   unsigned int active_addresses;
332
333   /**
334    * Number of total addresses for this network
335    */
336   unsigned int total_addresses;
337
338   /**
339    * String for statistics total addresses
340    */
341   char *stat_total;
342
343   /**
344    * String for statistics active addresses
345    */
346   char *stat_active;
347
348   struct AddressWrapper *head;
349   struct AddressWrapper *tail;
350 };
351
352 /**
353  * Address information stored in the solver
354  */
355 struct AddressSolverInformation
356 {
357   struct Network *network;
358
359   /**
360    * Inbound quota
361    *
362    */
363   unsigned long long calculated_quota_in_NBO;
364
365   /**
366    * Outbound quota
367    *
368    */
369   unsigned long long calculated_quota_out_NBO;
370
371   /**
372    * When was this address activated
373    */
374   struct GNUNET_TIME_Absolute activated;
375
376 };
377
378 /**
379  * Wrapper for addresses to store them in network's linked list
380  */
381 struct AddressWrapper
382 {
383   /**
384    * Next in DLL
385    */
386   struct AddressWrapper *next;
387
388   /**
389    * Previous in DLL
390    */
391   struct AddressWrapper *prev;
392
393   /**
394    * The address
395    */
396   struct ATS_Address *addr;
397 };
398
399 /**
400  *  Important solver functions
401  *  ---------------------------
402  */
403
404 void *
405 libgnunet_plugin_ats_proportional_init (void *cls)
406 {
407   struct GNUNET_ATS_PluginEnvironment *env = cls;
408   struct GAS_PROPORTIONAL_Handle *s;
409   struct Network * cur;
410   char * net_str[GNUNET_ATS_NetworkTypeCount] = GNUNET_ATS_NetworkTypeString;
411   float f_tmp;
412   int c;
413
414   GNUNET_assert (NULL != env);
415   GNUNET_assert(NULL != env->cfg);
416   GNUNET_assert(NULL != env->bandwidth_changed_cb);
417   GNUNET_assert(NULL != env->get_preferences);
418   GNUNET_assert(NULL != env->get_property);
419
420   s = GNUNET_new (struct GAS_PROPORTIONAL_Handle);
421   s->env = env;
422   env->sf.s_add = &GAS_proportional_address_add;
423   env->sf.s_address_update_property = &GAS_proportional_address_property_changed;
424   env->sf.s_address_update_session = &GAS_proportional_address_session_changed;
425   env->sf.s_address_update_inuse = &GAS_proportional_address_inuse_changed;
426   env->sf.s_address_update_network = &GAS_proportional_address_change_network;
427   env->sf.s_get = &GAS_proportional_get_preferred_address;
428   env->sf.s_get_stop = &GAS_proportional_stop_get_preferred_address;
429   env->sf.s_pref = &GAS_proportional_address_change_preference;
430   env->sf.s_feedback = &GAS_proportional_address_preference_feedback;
431   env->sf.s_del = &GAS_proportional_address_delete;
432   env->sf.s_bulk_start = &GAS_proportional_bulk_start;
433   env->sf.s_bulk_stop = &GAS_proportional_bulk_stop;
434
435   s->stats = (struct GNUNET_STATISTICS_Handle *) env->stats;
436   s->bw_changed = env->bandwidth_changed_cb;
437   s->bw_changed_cls = env->bw_changed_cb_cls;
438   s->get_preferences = env->get_preferences;
439   s->get_preferences_cls = env->get_preference_cls;
440   s->get_properties = env->get_property;
441   s->get_properties_cls = env->get_property_cls;
442   s->network_count = env->network_count;
443   s->network_entries = GNUNET_malloc (env->network_count * sizeof (struct Network));
444
445   /* Init */
446   s->active_addresses = 0;
447   s->total_addresses = 0;
448   s->bulk_lock = GNUNET_NO;
449   s->addresses = env->addresses;
450   s->requests = GNUNET_CONTAINER_multipeermap_create (10, GNUNET_NO);
451
452   s->stability_factor = PROP_STABILITY_FACTOR;
453   if (GNUNET_SYSERR != GNUNET_CONFIGURATION_get_value_float (env->cfg, "ats",
454       "PROP_STABILITY_FACTOR", &f_tmp))
455   {
456     if ((f_tmp < 1.0) || (f_tmp > 2.0))
457     {
458       LOG (GNUNET_ERROR_TYPE_ERROR, _("Invalid %s configuration %f \n"),
459           "PROP_STABILITY_FACTOR", f_tmp);
460     }
461     else
462     {
463       s->stability_factor = f_tmp;
464       LOG (GNUNET_ERROR_TYPE_INFO, "Using %s of %.3f\n",
465           "PROP_STABILITY_FACTOR", f_tmp);
466     }
467   }
468
469   s->prop_factor = PROPORTIONALITY_FACTOR;
470   if (GNUNET_SYSERR != GNUNET_CONFIGURATION_get_value_float (env->cfg, "ats",
471       "PROP_STABILITY_FACTOR", &f_tmp))
472   {
473     if (f_tmp < 1.0)
474     {
475       LOG (GNUNET_ERROR_TYPE_ERROR, _("Invalid %s configuration %f \n"),
476           "PROP_PROPORTIONALITY_FACTOR", f_tmp);
477     }
478     else
479     {
480       s->prop_factor = f_tmp;
481       LOG (GNUNET_ERROR_TYPE_INFO, "Using %s of %.3f\n",
482           "PROP_PROPORTIONALITY_FACTOR", f_tmp);
483     }
484   }
485
486   for (c = 0; c < env->network_count; c++)
487   {
488     cur = &s->network_entries[c];
489     cur->total_addresses = 0;
490     cur->active_addresses = 0;
491     cur->type = env->networks[c];
492     cur->total_quota_in = env->in_quota[c];
493     cur->total_quota_out = env->out_quota[c];
494     cur->desc = net_str[c];
495     GNUNET_asprintf (&cur->stat_total,
496         "# ATS addresses %s total", cur->desc);
497     GNUNET_asprintf (&cur->stat_active,
498         "# ATS active addresses %s total", cur->desc);
499     LOG (GNUNET_ERROR_TYPE_INFO, "Added network %u `%s' (%llu/%llu)\n",
500         c, cur->desc, cur->total_quota_in, cur->total_quota_out);
501   }
502   return s;
503 }
504
505 void *
506 libgnunet_plugin_ats_proportional_done (void *cls)
507 {
508   struct GAS_PROPORTIONAL_Handle *s = cls;
509   struct AddressWrapper *cur;
510   struct AddressWrapper *next;
511   int c;
512   GNUNET_assert(s != NULL);
513   for (c = 0; c < s->network_count; c++)
514   {
515     if (s->network_entries[c].total_addresses > 0)
516     {
517       LOG(GNUNET_ERROR_TYPE_DEBUG,
518           "Had %u addresses for network `%s' not deleted during shutdown\n",
519           s->network_entries[c].total_addresses, s->network_entries[c].desc);
520       //GNUNET_break(0);
521     }
522
523     if (s->network_entries[c].active_addresses > 0)
524     {
525       LOG(GNUNET_ERROR_TYPE_DEBUG,
526           "Had %u active addresses for network `%s' not deleted during shutdown\n",
527           s->network_entries[c].active_addresses, s->network_entries[c].desc);
528       //GNUNET_break(0);
529     }
530
531     next = s->network_entries[c].head;
532     while (NULL != (cur = next))
533     {
534       next = cur->next;
535       GNUNET_CONTAINER_DLL_remove(s->network_entries[c].head,
536           s->network_entries[c].tail, cur);
537       GNUNET_free_non_null (cur->addr->solver_information);
538       GNUNET_free(cur);
539     }
540     GNUNET_free(s->network_entries[c].stat_total);
541     GNUNET_free(s->network_entries[c].stat_active);
542   }
543   if (s->total_addresses > 0)
544   {
545     LOG(GNUNET_ERROR_TYPE_DEBUG,
546         "Had %u addresses not deleted during shutdown\n", s->total_addresses);
547     // GNUNET_break(0);
548   }
549   if (s->active_addresses > 0)
550   {
551     LOG(GNUNET_ERROR_TYPE_DEBUG,
552         "Had %u active addresses not deleted during shutdown\n",
553         s->active_addresses);
554     // GNUNET_break (0);
555   }
556   GNUNET_free (s->network_entries);
557   GNUNET_CONTAINER_multipeermap_destroy (s->requests);
558   GNUNET_free (s);
559   return NULL;
560 }
561
562
563 /**
564  * Test if bandwidth is available in this network to add an additional address
565  *
566  * @param net the network type to update
567  * @return GNUNET_YES or GNUNET_NO
568  */
569 static int
570 is_bandwidth_available_in_network (struct Network *net)
571 {
572   GNUNET_assert(NULL != net);
573   unsigned int na = net->active_addresses + 1;
574   uint32_t min_bw = ntohl (GNUNET_CONSTANTS_DEFAULT_BW_IN_OUT.value__);
575   if (((net->total_quota_in / na) > min_bw)
576       && ((net->total_quota_out / na) > min_bw))
577   {
578     LOG(GNUNET_ERROR_TYPE_DEBUG,
579         "Enough bandwidth available for %u active addresses in network `%s'\n",
580         na, net->desc);
581
582     return GNUNET_YES;
583   }
584   LOG(GNUNET_ERROR_TYPE_DEBUG,
585       "Not enough bandwidth available for %u active addresses in network `%s'\n",
586       na, net->desc);
587   return GNUNET_NO;
588 }
589
590 /**
591  * Update bandwidth assigned to peers in this network
592  *
593  * @param s the solver handle
594  * @param net the network type to update
595  * this address
596  */
597 static void
598 distribute_bandwidth (struct GAS_PROPORTIONAL_Handle *s,
599     struct Network *net)
600 {
601   struct AddressSolverInformation *asi;
602   struct AddressWrapper *cur_address;
603
604   unsigned long long remaining_quota_in = 0;
605   unsigned long long quota_out_used = 0;
606   unsigned long long remaining_quota_out = 0;
607   unsigned long long quota_in_used = 0;
608   int count_addresses;
609   uint32_t min_bw = ntohl (GNUNET_CONSTANTS_DEFAULT_BW_IN_OUT.value__);
610   double relative_peer_prefence;
611   double sum_relative_peer_prefences; /* Important: has to be double not float due to precision */
612   double cur_pref; /* Important: has to be double not float due to precision */
613   double peer_weight;
614   double total_weight;
615   const double *peer_relative_prefs = NULL; /* Important: has to be double not float due to precision */
616
617   unsigned long long assigned_quota_in = 0;
618   unsigned long long assigned_quota_out = 0;
619
620
621   LOG(GNUNET_ERROR_TYPE_INFO,
622       "Recalculate quota for network type `%s' for %u addresses (in/out): %llu/%llu \n",
623       net->desc, net->active_addresses, net->total_quota_in,
624       net->total_quota_in);
625
626   if (net->active_addresses == 0)
627   {
628     return; /* no addresses to update */
629   }
630
631   /* Idea
632    * Assign every peer in network minimum Bandwidth
633    * Distribute bandwidth left according to preference
634    */
635
636   if ((net->active_addresses * min_bw) > net->total_quota_in)
637   {
638     GNUNET_break(0);
639     return;
640   }
641   if ((net->active_addresses * min_bw) > net->total_quota_out)
642   {
643     GNUNET_break(0);
644     return;
645   }
646
647   remaining_quota_in = net->total_quota_in - (net->active_addresses * min_bw);
648   remaining_quota_out = net->total_quota_out - (net->active_addresses * min_bw);
649   LOG(GNUNET_ERROR_TYPE_DEBUG, "Remaining bandwidth : (in/out): %llu/%llu \n",
650       remaining_quota_in, remaining_quota_out);
651   sum_relative_peer_prefences = 0.0;
652
653   /* Calculate sum of relative preference for active addresses in this network */
654   count_addresses = 0;
655   for (cur_address = net->head; NULL != cur_address; cur_address = cur_address->next)
656   {
657     if (GNUNET_YES != cur_address->addr->active)
658       continue;
659
660     GNUNET_assert( NULL != (peer_relative_prefs = s->get_preferences (s->get_preferences_cls,
661         &cur_address->addr->peer)));
662     relative_peer_prefence = 0.0;
663     relative_peer_prefence += peer_relative_prefs[GNUNET_ATS_PREFERENCE_BANDWIDTH];
664     sum_relative_peer_prefences += relative_peer_prefence;
665     count_addresses ++;
666   }
667
668   GNUNET_assert (count_addresses == net->active_addresses);
669
670   LOG (GNUNET_ERROR_TYPE_INFO,
671       "Total relative preference %.3f for %u addresses in network %s\n",
672       sum_relative_peer_prefences, net->active_addresses, net->desc);
673
674   for (cur_address = net->head; NULL != cur_address; cur_address = cur_address->next)
675   {
676     if (GNUNET_YES == cur_address->addr->active)
677     {
678       GNUNET_assert( NULL != (peer_relative_prefs =
679           s->get_preferences (s->get_preferences_cls, &cur_address->addr->peer)));
680
681       cur_pref = peer_relative_prefs[GNUNET_ATS_PREFERENCE_BANDWIDTH];
682       total_weight = net->active_addresses +
683           s->prop_factor * sum_relative_peer_prefences;
684       peer_weight = (1.0 + (s->prop_factor * cur_pref));
685
686       assigned_quota_in = min_bw
687           + ((peer_weight / total_weight) * remaining_quota_in);
688       assigned_quota_out = min_bw
689           + ((peer_weight / total_weight) * remaining_quota_out);
690
691       LOG (GNUNET_ERROR_TYPE_INFO,
692           "New quota for peer `%s' with weight (cur/total) %.3f/%.3f (in/out): %llu / %llu\n",
693           GNUNET_i2s (&cur_address->addr->peer), peer_weight, total_weight,
694           assigned_quota_in, assigned_quota_out);
695     }
696     else
697     {
698       assigned_quota_in = 0;
699       assigned_quota_out = 0;
700     }
701
702     quota_in_used += assigned_quota_in;
703     quota_out_used += assigned_quota_out;
704     /* Prevent overflow due to rounding errors */
705     if (assigned_quota_in > UINT32_MAX)
706       assigned_quota_in = UINT32_MAX;
707     if (assigned_quota_out > UINT32_MAX)
708       assigned_quota_out = UINT32_MAX;
709
710     /* Compare to current bandwidth assigned */
711     asi = cur_address->addr->solver_information;
712     asi->calculated_quota_in_NBO = htonl (assigned_quota_in);
713     asi->calculated_quota_out_NBO = htonl (assigned_quota_out);
714   }
715   LOG(GNUNET_ERROR_TYPE_DEBUG,
716       "Total bandwidth assigned is (in/out): %llu /%llu\n", quota_in_used,
717       quota_out_used);
718   if (quota_out_used > net->total_quota_out + 1) /* +1 is required due to rounding errors */
719   {
720     LOG(GNUNET_ERROR_TYPE_ERROR,
721         "Total outbound bandwidth assigned is larger than allowed (used/allowed) for %u active addresses: %llu / %llu\n",
722         net->active_addresses, quota_out_used, net->total_quota_out);
723   }
724   if (quota_in_used > net->total_quota_in + 1) /* +1 is required due to rounding errors */
725   {
726     LOG(GNUNET_ERROR_TYPE_ERROR,
727         "Total inbound bandwidth assigned is larger than allowed (used/allowed) for %u active addresses: %llu / %llu\n",
728         net->active_addresses, quota_in_used, net->total_quota_in);
729   }
730 }
731
732 struct FindBestAddressCtx
733 {
734   struct GAS_PROPORTIONAL_Handle *s;
735   struct ATS_Address *best;
736 };
737
738
739 static int
740 find_property_index (uint32_t type)
741 {
742   int existing_types[] = GNUNET_ATS_QualityProperties;
743   int c;
744
745   for (c = 0; c < GNUNET_ATS_QualityPropertiesCount; c++)
746     if (existing_types[c] == type)
747       return c;
748   return GNUNET_SYSERR;
749 }
750
751
752 /**
753  * Find a "good" address to use for a peer by iterating over the addresses for this peer.
754  * If we already have an existing address, we stick to it.
755  * Otherwise, we pick by lowest distance and then by lowest latency.
756  *
757  * @param cls the `struct FindBestAddressCtx *' where we store the result
758  * @param key unused
759  * @param value another `struct ATS_Address*` to consider using
760  * @return #GNUNET_OK (continue to iterate)
761  */
762 static int
763 find_best_address_it (void *cls,
764                       const struct GNUNET_PeerIdentity *key,
765                       void *value)
766 {
767   struct FindBestAddressCtx *ctx = cls;
768   struct ATS_Address *current = value;
769   struct ATS_Address *current_best = current;
770   struct GNUNET_TIME_Absolute now;
771   struct AddressSolverInformation *asi;
772   struct GNUNET_TIME_Relative active_time;
773   struct GNUNET_TIME_Relative min_active_time;
774   const double *norm_prop_cur;
775   const double *norm_prop_best;
776   double best_delay;
777   double best_distance;
778   double cur_delay;
779   double cur_distance;
780   int index;
781
782   current_best = NULL;
783   asi = current->solver_information;
784   now = GNUNET_TIME_absolute_get ();
785
786   if ((current->active == GNUNET_NO)
787       && (current->blocked_until.abs_value_us
788           == GNUNET_TIME_absolute_max (now, current->blocked_until).abs_value_us))
789   {
790     /* This address is blocked for suggestion */
791     LOG (GNUNET_ERROR_TYPE_DEBUG,
792          "Address %p blocked for suggestion for %s \n",
793          current,
794          GNUNET_STRINGS_relative_time_to_string (GNUNET_TIME_absolute_get_difference (now, current->blocked_until),
795                                                  GNUNET_YES));
796     return GNUNET_OK;
797   }
798   if (NULL == asi)
799   {
800     GNUNET_break (0);
801     return GNUNET_OK;
802   }
803
804   if (GNUNET_NO == is_bandwidth_available_in_network (asi->network))
805   {
806     return GNUNET_OK; /* There's no bandwidth available in this network */
807   }
808
809   if (NULL != ctx->best)
810   {
811     /* Compare current addresses with denominated 'best' address */
812     current_best = ctx->best;
813   }
814   else
815   {
816     /* We do not have a 'best' address so take this address */
817     LOG (GNUNET_ERROR_TYPE_DEBUG,
818          "Setting initial address %p\n",
819          current);
820     current_best = current;
821     goto end;
822   }
823
824   if (GNUNET_YES == current->active)
825   {
826     GNUNET_assert (asi->activated.abs_value_us != GNUNET_TIME_UNIT_ZERO_ABS.abs_value_us);
827     active_time = GNUNET_TIME_absolute_get_duration (asi->activated);
828     min_active_time.rel_value_us =  ((double) GNUNET_TIME_UNIT_SECONDS.rel_value_us) *
829         PROP_STABILITY_FACTOR;
830     if (active_time.rel_value_us <= min_active_time.rel_value_us)
831     {
832       /* Keep active address for stability reasons */
833       ctx->best = current;
834       return GNUNET_NO;
835     }
836   }
837
838   /* Now compare ATS information */
839   norm_prop_cur = ctx->s->get_properties (ctx->s->get_properties_cls,
840       (const struct ATS_Address *) current);
841   index = find_property_index (GNUNET_ATS_QUALITY_NET_DISTANCE);
842   cur_distance = norm_prop_cur[index];
843   index = find_property_index (GNUNET_ATS_QUALITY_NET_DELAY);
844   cur_delay = norm_prop_cur[index];
845
846   norm_prop_best = ctx->s->get_properties (ctx->s->get_properties_cls,
847       (const struct ATS_Address *) ctx->best);
848   index = find_property_index (GNUNET_ATS_QUALITY_NET_DISTANCE);
849   best_distance = norm_prop_best[index];
850   index = find_property_index (GNUNET_ATS_QUALITY_NET_DELAY);
851   best_delay = norm_prop_best[index];
852
853   /* user shorter distance */
854   if (cur_distance < best_distance)
855   {
856
857     if (GNUNET_NO == ctx->best->active)
858     {
859       current_best = current; /* Use current */
860     }
861     else if ((best_distance / cur_distance) > ctx->s->stability_factor)
862     {
863       /* Best and active address performs worse  */
864       current_best = current;
865     }
866   }
867   else
868   {
869     /* Use current best */
870     current_best = ctx->best;
871   }
872
873   /* User connection with less delay */
874   if (cur_delay < best_delay)
875   {
876
877     if (GNUNET_NO == ctx->best->active)
878     {
879       current_best = current; /* Use current */
880     }
881     else if ((best_delay / cur_delay) > ctx->s->stability_factor)
882     {
883       /* Best and active address performs worse  */
884       current_best = current;
885     }
886   }
887   else
888   {
889     /* Use current best */
890     current_best = ctx->best;
891   }
892
893 end:
894   ctx->best = current_best;
895   return GNUNET_OK;
896 }
897
898 struct ATS_Address *
899 get_best_address (struct GAS_PROPORTIONAL_Handle *s,
900     struct GNUNET_CONTAINER_MultiPeerMap *addresses,
901     const struct GNUNET_PeerIdentity *id)
902 {
903   struct FindBestAddressCtx fba_ctx;
904   fba_ctx.best = NULL;
905   fba_ctx.s = s;
906
907   GNUNET_CONTAINER_multipeermap_get_multiple (addresses, id,
908       &find_best_address_it, &fba_ctx);
909
910   return fba_ctx.best;
911 }
912
913 /**
914  * Hashmap Iterator to find current active address for peer
915  *
916  * @param cls last active address
917  * @param key peer's key
918  * @param value address to check
919  * @return #GNUNET_NO on double active address else #GNUNET_YES;
920  */
921 static int
922 get_active_address_it (void *cls,
923                        const struct GNUNET_PeerIdentity *key,
924                        void *value)
925 {
926   struct ATS_Address **dest = cls;
927   struct ATS_Address *aa = (struct ATS_Address *) value;
928
929   if (GNUNET_YES == aa->active)
930   {
931
932     if (NULL != (*dest))
933     {
934       /* should never happen */
935       LOG(GNUNET_ERROR_TYPE_ERROR, "Multiple active addresses for peer `%s'\n",
936           GNUNET_i2s (&aa->peer));
937       GNUNET_break(0);
938       return GNUNET_NO;
939     }
940     (*dest) = aa;
941   }
942   return GNUNET_OK;
943 }
944
945 /**
946  * Find current active address for peer
947  *
948  * @param solver the solver handle
949  * @param addresses the address set
950  * @param peer the peer
951  * @return active address or NULL
952  */
953 static struct ATS_Address *
954 get_active_address (void *solver,
955                     const struct GNUNET_CONTAINER_MultiPeerMap * addresses,
956                     const struct GNUNET_PeerIdentity *peer)
957 {
958   struct ATS_Address * dest = NULL;
959
960   GNUNET_CONTAINER_multipeermap_get_multiple (addresses, peer,
961                                               &get_active_address_it, &dest);
962   return dest;
963 }
964
965
966 /**
967  * Lookup network struct by type
968  *
969  * @param s the solver handle
970  * @param type the network type
971  * @return the network struct
972  */
973 static struct Network *
974 get_network (struct GAS_PROPORTIONAL_Handle *s, uint32_t type)
975 {
976   int c;
977   for (c = 0; c < s->network_count; c++)
978   {
979     if (s->network_entries[c].type == type)
980       return &s->network_entries[c];
981   }
982   return NULL ;
983 }
984
985
986 static void
987 addresse_increment (struct GAS_PROPORTIONAL_Handle *s, struct Network *net,
988     int total, int active)
989 {
990   if (GNUNET_YES == total)
991   {
992     s->total_addresses++;
993     net->total_addresses++;
994     GNUNET_STATISTICS_update (s->stats, "# ATS addresses total", 1, GNUNET_NO);
995     GNUNET_STATISTICS_update (s->stats, net->stat_total, 1, GNUNET_NO);
996   }
997   if (GNUNET_YES == active)
998   {
999     net->active_addresses++;
1000     s->active_addresses++;
1001     GNUNET_STATISTICS_update (s->stats, "# ATS active addresses total", 1,
1002         GNUNET_NO);
1003     GNUNET_STATISTICS_update (s->stats, net->stat_active, 1, GNUNET_NO);
1004   }
1005
1006 }
1007
1008
1009 static int
1010 addresse_decrement (struct GAS_PROPORTIONAL_Handle *s, struct Network *net,
1011     int total, int active)
1012 {
1013   int res = GNUNET_OK;
1014   if (GNUNET_YES == total)
1015   {
1016     if (s->total_addresses < 1)
1017     {
1018       GNUNET_break(0);
1019       res = GNUNET_SYSERR;
1020     }
1021     else
1022     {
1023       s->total_addresses--;
1024       GNUNET_STATISTICS_update (s->stats, "# ATS addresses total", -1,
1025           GNUNET_NO);
1026     }
1027     if (net->total_addresses < 1)
1028     {
1029       GNUNET_break(0);
1030       res = GNUNET_SYSERR;
1031     }
1032     else
1033     {
1034       net->total_addresses--;
1035       GNUNET_STATISTICS_update (s->stats, net->stat_total, -1, GNUNET_NO);
1036     }
1037   }
1038
1039   if (GNUNET_YES == active)
1040   {
1041     if (net->active_addresses < 1)
1042     {
1043       GNUNET_break(0);
1044       res = GNUNET_SYSERR;
1045     }
1046     else
1047     {
1048       net->active_addresses--;
1049       GNUNET_STATISTICS_update (s->stats, net->stat_active, -1, GNUNET_NO);
1050     }
1051     if (s->active_addresses < 1)
1052     {
1053       GNUNET_break(0);
1054       res = GNUNET_SYSERR;
1055     }
1056     else
1057     {
1058       s->active_addresses--;
1059       GNUNET_STATISTICS_update (s->stats, "# ATS addresses total", -1,
1060           GNUNET_NO);
1061     }
1062   }
1063   return res;
1064 }
1065
1066 static int
1067 address_eq (struct ATS_Address *a, struct ATS_Address *b)
1068 {
1069   GNUNET_assert (NULL != a);
1070   GNUNET_assert (NULL != b);
1071   if (0 != strcmp(a->plugin, b->plugin))
1072     return GNUNET_NO;
1073   if (a->addr_len != b->addr_len)
1074     return GNUNET_NO;
1075   if (0 != memcmp (a->addr, b->addr, b->addr_len))
1076     return GNUNET_NO;
1077   if (a->session_id != b->session_id)
1078     return GNUNET_NO;
1079   return GNUNET_YES;
1080 }
1081
1082 /**
1083  *  Helper functions
1084  *  ---------------------------
1085  */
1086 static void
1087 propagate_bandwidth (struct GAS_PROPORTIONAL_Handle *s,
1088     struct Network *net)
1089 {
1090   struct AddressWrapper *cur;
1091   struct AddressSolverInformation *asi;
1092   for (cur = net->head; NULL != cur; cur = cur->next)
1093   {
1094       asi = cur->addr->solver_information;
1095       if ( (cur->addr->assigned_bw_in.value__ != asi->calculated_quota_in_NBO) ||
1096            (cur->addr->assigned_bw_out.value__ != asi->calculated_quota_out_NBO) )
1097       {
1098         cur->addr->assigned_bw_in.value__ = asi->calculated_quota_in_NBO;
1099         cur->addr->assigned_bw_out.value__ = asi->calculated_quota_out_NBO;
1100
1101         /* Reset for next iteration */
1102         asi->calculated_quota_in_NBO = htonl (0);
1103         asi->calculated_quota_out_NBO = htonl (0);
1104
1105         LOG (GNUNET_ERROR_TYPE_DEBUG,
1106             "Bandwidth for %s address %p for peer `%s' changed to %u/%u\n",
1107             (GNUNET_NO == cur->addr->active) ? "inactive" : "active",
1108             cur->addr,
1109             GNUNET_i2s (&cur->addr->peer),
1110             ntohl (cur->addr->assigned_bw_in.value__),
1111             ntohl (cur->addr->assigned_bw_out.value__ ));
1112
1113         /* Notify on change */
1114         if ((GNUNET_YES == cur->addr->active))
1115         {
1116           s->bw_changed (s->bw_changed_cls, cur->addr);
1117         }
1118       }
1119   }
1120 }
1121
1122 /**
1123  * Distribibute bandwidth
1124  *
1125  * @param s the solver handle
1126  * @param n the network, can be NULL for all network
1127  * @param address_except do not notify for this address
1128  */
1129 static void
1130 distribute_bandwidth_in_network (struct GAS_PROPORTIONAL_Handle *s,
1131     struct Network *n)
1132 {
1133   if (GNUNET_YES == s->bulk_lock)
1134   {
1135     s->bulk_requests++;
1136     return;
1137   }
1138
1139   if (NULL != n)
1140   {
1141     LOG (GNUNET_ERROR_TYPE_INFO,
1142         "Redistributing bandwidth in network %s with %u active and %u total addresses\n",
1143         GNUNET_ATS_print_network_type(n->type),
1144         n->active_addresses, n->total_addresses);
1145
1146     if (NULL != s->env->info_cb)
1147       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_START,
1148           GAS_STAT_SUCCESS, GAS_INFO_PROP_SINGLE);
1149
1150     /* Distribute  */
1151     distribute_bandwidth(s, n);
1152
1153     if (NULL != s->env->info_cb)
1154       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_STOP,
1155           GAS_STAT_SUCCESS, GAS_INFO_PROP_SINGLE);
1156     if (NULL != s->env->info_cb)
1157       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_UPDATE_NOTIFICATION_START,
1158           GAS_STAT_SUCCESS, GAS_INFO_PROP_SINGLE);
1159
1160     /* Do propagation */
1161     propagate_bandwidth (s, n);
1162
1163     if (NULL != s->env->info_cb)
1164       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_UPDATE_NOTIFICATION_STOP,
1165           GAS_STAT_SUCCESS, GAS_INFO_PROP_SINGLE);
1166   }
1167   else
1168   {
1169     int i;
1170     if (NULL != s->env->info_cb)
1171       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_START,
1172           GAS_STAT_SUCCESS, GAS_INFO_PROP_ALL);
1173     for (i = 0; i < s->network_count; i++)
1174     {
1175       /* Distribute */
1176       distribute_bandwidth(s, &s->network_entries[i]);
1177     }
1178
1179     if (NULL != s->env->info_cb)
1180       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_STOP,
1181           GAS_STAT_SUCCESS, GAS_INFO_PROP_ALL);
1182     if (NULL != s->env->info_cb)
1183       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_UPDATE_NOTIFICATION_START,
1184           GAS_STAT_SUCCESS, GAS_INFO_PROP_ALL);
1185     for (i = 0; i < s->network_count; i++)
1186     {
1187       /* Do propagation */
1188       propagate_bandwidth(s, &s->network_entries[i]);
1189     }
1190     if (NULL != s->env->info_cb)
1191       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_UPDATE_NOTIFICATION_STOP,
1192           GAS_STAT_SUCCESS, GAS_INFO_PROP_ALL);
1193   }
1194 }
1195
1196 static const struct ATS_Address *
1197 update_active_address (struct GAS_PROPORTIONAL_Handle *s,
1198     const struct GNUNET_PeerIdentity *peer)
1199 {
1200   struct ATS_Address *best_address;
1201   struct ATS_Address *current_address;
1202   struct AddressSolverInformation *asi;
1203   struct Network *net;
1204
1205   LOG (GNUNET_ERROR_TYPE_INFO, "Updating active address for peer `%s'\n",
1206       GNUNET_i2s (peer));
1207
1208   /* Find active address */
1209   current_address = get_active_address (s, s->addresses, peer);
1210   /* Find best address */
1211   best_address = get_best_address (s,s->addresses, peer);
1212
1213   if (NULL != current_address)
1214   {
1215     if ((NULL == best_address) || ((NULL != best_address) && (GNUNET_NO == address_eq (current_address, best_address))))
1216     {
1217       /* We switch to a new address, mark old address as inactive */
1218       LOG (GNUNET_ERROR_TYPE_INFO,
1219           "Disabling previous %s address %p for peer `%s'\n",
1220           (GNUNET_NO == current_address->active) ? "inactive" : "active",
1221           current_address,
1222           GNUNET_i2s (peer));
1223
1224       asi = current_address->solver_information;
1225       GNUNET_assert (NULL != asi);
1226
1227       net = asi->network;
1228       asi->activated = GNUNET_TIME_UNIT_ZERO_ABS;
1229       current_address->active = GNUNET_NO; /* No active any longer */
1230       current_address->assigned_bw_in = BANDWIDTH_ZERO; /* no bandwidth assigned */
1231       current_address->assigned_bw_out = BANDWIDTH_ZERO; /* no bandwidth assigned */
1232
1233       if (GNUNET_SYSERR == addresse_decrement (s, net, GNUNET_NO, GNUNET_YES))
1234         GNUNET_break(0);
1235
1236       /* Update network of previous address */
1237       distribute_bandwidth_in_network (s, net);
1238     }
1239     if (NULL == best_address)
1240     {
1241       /* We previously had an active address, but now we cannot suggest one
1242        * Therefore we have to disconnect the peer */
1243
1244       LOG (GNUNET_ERROR_TYPE_INFO,
1245           "Disconnecting peer `%s' with previous %s address %p\n",
1246           GNUNET_i2s (peer),
1247           (GNUNET_NO == current_address->active) ? "inactive" : "active",
1248           current_address);
1249       s->bw_changed (s->bw_changed_cls, current_address);
1250     }
1251   }
1252
1253   if (NULL == best_address)
1254   {
1255     LOG (GNUNET_ERROR_TYPE_INFO, "Cannot suggest address for peer `%s'\n",
1256         GNUNET_i2s (peer));
1257     return NULL ;
1258   }
1259
1260   LOG (GNUNET_ERROR_TYPE_INFO, "Suggesting %s address %p for peer `%s'\n",
1261       (GNUNET_NO == best_address->active) ? "inactive" : "active", best_address,
1262       GNUNET_i2s (peer));
1263
1264   if ((NULL != current_address) &&
1265       (GNUNET_YES == address_eq (best_address, current_address)))
1266   {
1267     if (current_address->active == GNUNET_NO)
1268       GNUNET_break (0); /* Should never happen */
1269     return best_address; /* Same same */
1270   }
1271
1272   asi = best_address->solver_information;
1273   GNUNET_assert (NULL != asi);
1274   net = asi->network;
1275
1276   /* Mark address as active */
1277   asi->activated = GNUNET_TIME_absolute_get();
1278   best_address->active = GNUNET_YES;
1279   addresse_increment (s, net, GNUNET_NO, GNUNET_YES);
1280
1281   /* Distribute bandwidth */
1282   distribute_bandwidth_in_network (s, net);
1283   return best_address;
1284 }
1285
1286 /**
1287  *  Solver API functions
1288  *  ---------------------------
1289  */
1290
1291 /**
1292  * Changes the preferences for a peer in the problem
1293  *
1294  * @param solver the solver handle
1295  * @param peer the peer to change the preference for
1296  * @param kind the kind to change the preference
1297  * @param pref_rel the normalized preference value for this kind over all clients
1298  */
1299 void
1300 GAS_proportional_address_change_preference (void *solver,
1301                                             const struct GNUNET_PeerIdentity *peer,
1302                                             enum GNUNET_ATS_PreferenceKind kind,
1303                                             double pref_rel)
1304 {
1305   struct GAS_PROPORTIONAL_Handle *s = solver;
1306   struct ATS_Address *best_address;
1307   struct ATS_Address *active_address;
1308   struct AddressSolverInformation *asi;
1309
1310   GNUNET_assert(NULL != solver);
1311   GNUNET_assert(NULL != peer);
1312
1313   if (GNUNET_NO == GNUNET_CONTAINER_multipeermap_contains (s->requests, peer))
1314     return; /* Peer is not requested */
1315
1316   /* This peer is requested, find best address */
1317   active_address = get_active_address(s, s->addresses, peer);
1318   best_address = (struct ATS_Address *) update_active_address (s, peer);
1319
1320   if ((NULL != best_address) && ((NULL != active_address) &&
1321       (GNUNET_YES == address_eq (active_address, best_address))))
1322   {
1323     asi = best_address->solver_information;
1324     GNUNET_assert (NULL != asi);
1325
1326     /* We sticked to the same address, therefore redistribute  */
1327     distribute_bandwidth_in_network (s, asi->network);
1328   }
1329 }
1330
1331
1332 /**
1333  * Get application feedback for a peer
1334  *
1335  * @param solver the solver handle
1336  * @param application the application
1337  * @param peer the peer to change the preference for
1338  * @param scope the time interval for this feedback: [now - scope .. now]
1339  * @param kind the kind to change the preference
1340  * @param score the score
1341  */
1342 void
1343 GAS_proportional_address_preference_feedback (void *solver, void *application,
1344     const struct GNUNET_PeerIdentity *peer,
1345     const struct GNUNET_TIME_Relative scope,
1346     enum GNUNET_ATS_PreferenceKind kind, double score)
1347 {
1348   struct GAS_PROPORTIONAL_Handle *s = solver;
1349   GNUNET_assert(NULL != solver);
1350   GNUNET_assert(NULL != peer);
1351
1352   GNUNET_assert(NULL != s);
1353 }
1354
1355
1356 /**
1357  * Get the preferred address for a specific peer
1358  *
1359  *
1360  *
1361  * @param solver the solver handle
1362  * @param peer the identity of the peer
1363  */
1364 const struct ATS_Address *
1365 GAS_proportional_get_preferred_address (void *solver,
1366     const struct GNUNET_PeerIdentity *peer)
1367 {
1368   struct GAS_PROPORTIONAL_Handle *s = solver;
1369   const struct ATS_Address *best_address;
1370
1371
1372   GNUNET_assert(s != NULL);
1373   GNUNET_assert(peer != NULL);
1374
1375   /* Add to list of pending requests */
1376   if (GNUNET_NO == GNUNET_CONTAINER_multipeermap_contains (s->requests, peer))
1377   {
1378     GNUNET_assert(
1379         GNUNET_OK == GNUNET_CONTAINER_multipeermap_put (s->requests, peer, NULL,
1380             GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
1381     LOG (GNUNET_ERROR_TYPE_INFO, "Start suggesting addresses for peer `%s'\n",
1382           GNUNET_i2s (peer));
1383   }
1384
1385   best_address = update_active_address (s, peer);
1386   if (s->bulk_lock > 0)
1387     return NULL; /* Do not suggest since bulk lock is pending */
1388
1389   return best_address;
1390 }
1391
1392 /**
1393  * Stop notifying about address and bandwidth changes for this peer
1394  *
1395  * @param solver the solver handle
1396  * @param peer the peer
1397  */
1398 void
1399 GAS_proportional_stop_get_preferred_address (void *solver,
1400     const struct GNUNET_PeerIdentity *peer)
1401 {
1402   struct GAS_PROPORTIONAL_Handle *s = solver;
1403   struct ATS_Address *cur;
1404   struct AddressSolverInformation *asi;
1405   struct Network *cur_net;
1406
1407   if (GNUNET_YES == GNUNET_CONTAINER_multipeermap_contains (s->requests, peer))
1408     GNUNET_assert (GNUNET_OK == GNUNET_CONTAINER_multipeermap_remove (s->requests,
1409         peer, NULL));
1410
1411   cur = get_active_address (s, s->addresses, peer);
1412   if (NULL != cur)
1413   {
1414     LOG(GNUNET_ERROR_TYPE_INFO,
1415         "Disabling %s address %p for peer `%s'\n",
1416         (GNUNET_NO == cur->active) ? "inactive" : "active", cur,
1417         GNUNET_i2s (&cur->peer));
1418
1419     /* Disabling current address */
1420     asi = cur->solver_information;
1421     cur_net = asi->network ;
1422     asi->activated = GNUNET_TIME_UNIT_ZERO_ABS;
1423     cur->active = GNUNET_NO; /* No active any longer */
1424     cur->assigned_bw_in = BANDWIDTH_ZERO; /* no bandwidth assigned */
1425     cur->assigned_bw_out = BANDWIDTH_ZERO; /* no bandwidth assigned */
1426
1427     if (GNUNET_SYSERR == addresse_decrement (s, cur_net, GNUNET_NO, GNUNET_YES))
1428       GNUNET_break(0);
1429
1430     distribute_bandwidth_in_network (s, cur_net );
1431   }
1432   return;
1433 }
1434
1435 /**
1436  * Remove an address from the solver
1437  *
1438  * @param solver the solver handle
1439  * @param address the address to remove
1440  * @param session_only delete only session not whole address
1441  */
1442 void
1443 GAS_proportional_address_delete (void *solver, struct ATS_Address *address,
1444     int session_only)
1445 {
1446   struct GAS_PROPORTIONAL_Handle *s = solver;
1447   struct Network *net;
1448   struct AddressWrapper *aw;
1449   struct AddressSolverInformation *asi;
1450
1451   /* Remove an adress completely, we have to:
1452    * - Remove from specific network
1453    * - Decrease number of total addresses
1454    * - If active:
1455    *   - decrease number of active addreses
1456    *   - update quotas
1457    */
1458   asi = address->solver_information;
1459
1460   if (NULL == asi)
1461   {
1462     GNUNET_break (0);
1463     return;
1464   }
1465   net = asi->network;
1466
1467   if (GNUNET_NO == session_only)
1468   {
1469     LOG(GNUNET_ERROR_TYPE_INFO,
1470         "Deleting %s address %p for peer `%s' from network `%s' (total: %u/ active: %u)\n",
1471         (GNUNET_NO == address->active) ? "inactive" : "active", address,
1472         GNUNET_i2s (&address->peer), net->desc, net->total_addresses,
1473         net->active_addresses);
1474
1475     /* Remove address */
1476     addresse_decrement (s, net, GNUNET_YES, GNUNET_NO);
1477     for (aw = net->head; NULL != aw; aw = aw->next)
1478     {
1479       if (aw->addr == address)
1480         break;
1481     }
1482     if (NULL == aw)
1483     {
1484       GNUNET_break(0);
1485       return;
1486     }
1487     GNUNET_CONTAINER_DLL_remove(net->head, net->tail, aw);
1488     GNUNET_free(aw);
1489   }
1490   else
1491   {
1492     /* Remove session only: remove if active and update */
1493     LOG(GNUNET_ERROR_TYPE_INFO,
1494         "Deleting %s session %p for peer `%s' from network `%s' (total: %u/ active: %u)\n",
1495         (GNUNET_NO == address->active) ? "inactive" : "active", address,
1496         GNUNET_i2s (&address->peer), net->desc, net->total_addresses,
1497         net->active_addresses);
1498   }
1499
1500   if (GNUNET_YES == address->active)
1501   {
1502     /* Address was active, remove from network and update quotas*/
1503     address->active = GNUNET_NO;
1504     address->assigned_bw_in = BANDWIDTH_ZERO;
1505     address->assigned_bw_out = BANDWIDTH_ZERO;
1506     asi->calculated_quota_in_NBO = htonl (0);
1507     asi->calculated_quota_out_NBO = htonl (0);
1508
1509     if (GNUNET_SYSERR == addresse_decrement (s, net, GNUNET_NO, GNUNET_YES))
1510       GNUNET_break(0);
1511     distribute_bandwidth_in_network (s, net);
1512
1513     if (NULL == update_active_address (s, &address->peer))
1514     {
1515       /* No alternative address found, disconnect peer */
1516       LOG (GNUNET_ERROR_TYPE_INFO,
1517           "Disconnecting peer `%s' after deleting previous %s address %p\n",
1518           GNUNET_i2s (&address->peer),
1519           (GNUNET_NO == address->active) ? "inactive" : "active",
1520               address);
1521       s->bw_changed (s->bw_changed_cls, address);
1522     }
1523   }
1524   if (GNUNET_NO == session_only)
1525   {
1526     GNUNET_free_non_null (address->solver_information);
1527     address->solver_information = NULL;
1528   }
1529
1530   LOG(GNUNET_ERROR_TYPE_INFO,
1531       "After deleting address now total %u and active %u addresses in network `%s'\n",
1532       net->total_addresses, net->active_addresses, net->desc);
1533
1534 }
1535
1536 /**
1537  * Start a bulk operation
1538  *
1539  * @param solver the solver
1540  */
1541 void
1542 GAS_proportional_bulk_start (void *solver)
1543 {
1544   LOG(GNUNET_ERROR_TYPE_DEBUG, "Locking solver for bulk operation ...\n");
1545   struct GAS_PROPORTIONAL_Handle *s = (struct GAS_PROPORTIONAL_Handle *) solver;
1546
1547   GNUNET_assert(NULL != solver);
1548   s->bulk_lock++;
1549 }
1550
1551
1552 /**
1553  * Bulk operation done
1554  */
1555 void
1556 GAS_proportional_bulk_stop (void *solver)
1557 {
1558   LOG(GNUNET_ERROR_TYPE_DEBUG, "Unlocking solver from bulk operation ...\n");
1559
1560   struct GAS_PROPORTIONAL_Handle *s = (struct GAS_PROPORTIONAL_Handle *) solver;
1561   GNUNET_assert(NULL != solver);
1562
1563   if (s->bulk_lock < 1)
1564   {
1565     GNUNET_break(0);
1566     return;
1567   }
1568   s->bulk_lock--;
1569   if ((0 == s->bulk_lock) && (0 < s->bulk_requests))
1570   {
1571     LOG(GNUNET_ERROR_TYPE_INFO, "No lock pending, recalculating\n");
1572     distribute_bandwidth_in_network (s, NULL);
1573     s->bulk_requests = 0;
1574   }
1575 }
1576
1577
1578 /**
1579  * Add a new single address to a network
1580  *
1581  * @param solver the solver Handle
1582  * @param address the address to add
1583  * @param network network type of this address
1584  */
1585 void
1586 GAS_proportional_address_add (void *solver, struct ATS_Address *address,
1587     uint32_t network);
1588
1589 /**
1590  * Transport properties for this address have changed
1591  *
1592  * @param solver solver handle
1593  * @param address the address
1594  * @param type the ATSI type in HBO
1595  * @param abs_value the absolute value of the property
1596  * @param rel_value the normalized value
1597  */
1598 void
1599 GAS_proportional_address_property_changed (void *solver,
1600     struct ATS_Address *address, uint32_t type, uint32_t abs_value,
1601     double rel_value)
1602 {
1603   struct GAS_PROPORTIONAL_Handle *s;
1604   struct Network *n;
1605   struct AddressSolverInformation *asi;
1606   struct ATS_Address *best_address;
1607   struct ATS_Address *active_address;
1608
1609   GNUNET_assert(NULL != solver);
1610   GNUNET_assert(NULL != address);
1611
1612   s = (struct GAS_PROPORTIONAL_Handle *) solver;
1613   asi = address->solver_information;
1614   if (NULL == asi)
1615   {
1616     GNUNET_break(0);
1617     return;
1618   }
1619
1620   n = asi->network;
1621   if (NULL == n)
1622   {
1623     GNUNET_break(0);
1624     return;
1625   }
1626
1627   LOG(GNUNET_ERROR_TYPE_INFO,
1628       "Property `%s' for peer `%s' address %p changed to %.2f \n",
1629       GNUNET_ATS_print_property_type (type), GNUNET_i2s (&address->peer),
1630       address, rel_value);
1631
1632   if (GNUNET_NO == GNUNET_CONTAINER_multipeermap_contains (s->requests, &address->peer))
1633     return; /* Peer is not requested */
1634
1635   /* This peer is requested, find active and best address */
1636   active_address = get_active_address(s, s->addresses, &address->peer);
1637   best_address = (struct ATS_Address *) update_active_address (s, &address->peer);
1638
1639   if ((NULL != best_address) && ((NULL != active_address) &&
1640       (GNUNET_YES == address_eq (active_address, best_address))))
1641   {
1642     asi = best_address->solver_information;
1643     GNUNET_assert (NULL != asi);
1644
1645     /* We sticked to the same address, therefore redistribute  */
1646     distribute_bandwidth_in_network (s, asi->network);
1647   }
1648 }
1649
1650 /**
1651  * Transport session for this address has changed
1652  *
1653  * NOTE: values in addresses are already updated
1654  *
1655  * @param solver solver handle
1656  * @param address the address
1657  * @param cur_session the current session
1658  * @param new_session the new session
1659  */
1660 void
1661 GAS_proportional_address_session_changed (void *solver,
1662     struct ATS_Address *address, uint32_t cur_session, uint32_t new_session)
1663 {
1664   struct GAS_PROPORTIONAL_Handle *s = solver;
1665   struct ATS_Address *best_address;
1666   struct ATS_Address *active_address;
1667   struct AddressSolverInformation *asi;
1668
1669   s = (struct GAS_PROPORTIONAL_Handle *) solver;
1670   if (cur_session != new_session)
1671   {
1672     LOG(GNUNET_ERROR_TYPE_DEBUG, "Session changed from %u to %u\n", cur_session,
1673         new_session);
1674   }
1675
1676   if (NULL == address->solver_information)
1677   {
1678     GNUNET_break (0);
1679     return;
1680   }
1681
1682   if (GNUNET_NO == GNUNET_CONTAINER_multipeermap_contains (s->requests, &address->peer))
1683     return; /* Peer is not requested */
1684
1685   /* This peer is requested, find active and best address */
1686   active_address = get_active_address(s, s->addresses, &address->peer);
1687   best_address = (struct ATS_Address *) update_active_address (s, &address->peer);
1688
1689   if ((NULL != best_address) && ((NULL != active_address) &&
1690       (GNUNET_YES == address_eq (active_address, best_address))))
1691   {
1692     asi = best_address->solver_information;
1693     GNUNET_assert (NULL != asi);
1694
1695     /* We sticked to the same address, therefore redistribute  */
1696     distribute_bandwidth_in_network (s, asi->network);
1697   }
1698 }
1699
1700 /**
1701  * Usage for this address has changed
1702  *
1703  * NOTE: values in addresses are already updated
1704  *
1705  * @param solver solver handle
1706  * @param address the address
1707  * @param in_use usage state
1708  */
1709 void
1710 GAS_proportional_address_inuse_changed (void *solver,
1711     struct ATS_Address *address, int in_use)
1712 {
1713   struct GAS_PROPORTIONAL_Handle *s;
1714   struct Network *n;
1715   struct AddressSolverInformation *asi;
1716   struct ATS_Address *best_address;
1717   struct ATS_Address *active_address;
1718
1719   GNUNET_assert(NULL != solver);
1720   GNUNET_assert(NULL != address);
1721
1722   s = (struct GAS_PROPORTIONAL_Handle *) solver;
1723   asi = address->solver_information;
1724   if (NULL == asi)
1725   {
1726     GNUNET_break(0);
1727     return;
1728   }
1729
1730   n = asi->network;
1731   if (NULL == n)
1732   {
1733     GNUNET_break(0);
1734     return;
1735   }
1736
1737   LOG(GNUNET_ERROR_TYPE_INFO,
1738       "Usage of peer `%s' address %p changed to %s \n",
1739       GNUNET_i2s (&address->peer), address,
1740       (GNUNET_YES == in_use) ? "YES" : "NO");
1741
1742   if (GNUNET_NO == GNUNET_CONTAINER_multipeermap_contains (s->requests, &address->peer))
1743     return; /* Peer is not requested */
1744
1745   /* This peer is requested, find active and best address */
1746   active_address = get_active_address(s, s->addresses, &address->peer);
1747   best_address = (struct ATS_Address *) update_active_address (s, &address->peer);
1748
1749   if ((NULL != best_address) && ((NULL != active_address) &&
1750       (GNUNET_YES == address_eq (active_address, best_address))))
1751   {
1752     asi = best_address->solver_information;
1753     GNUNET_assert (NULL != asi);
1754
1755     /* We sticked to the same address, therefore redistribute  */
1756     distribute_bandwidth_in_network (s, asi->network);
1757   }
1758 }
1759
1760 /**
1761  * Network scope for this address has changed
1762  *
1763  * NOTE: values in addresses are already updated
1764  *
1765  * @param solver solver handle
1766  * @param address the address
1767  * @param current_network the current network
1768  * @param new_network the new network
1769  */
1770 void
1771 GAS_proportional_address_change_network (void *solver,
1772     struct ATS_Address *address, uint32_t current_network, uint32_t new_network)
1773 {
1774   struct GAS_PROPORTIONAL_Handle *s = (struct GAS_PROPORTIONAL_Handle *) solver;
1775   struct AddressSolverInformation *asi;
1776   int save_active = GNUNET_NO;
1777
1778   struct Network *new_net = NULL;
1779
1780   if (current_network == new_network)
1781   {
1782     GNUNET_break(0);
1783     return;
1784   }
1785
1786   asi = address->solver_information;
1787   if (NULL == asi)
1788   {
1789     GNUNET_break(0);
1790     return;
1791   }
1792
1793   /* Network changed */
1794   LOG(GNUNET_ERROR_TYPE_DEBUG,
1795       "Network type changed, moving %s address from `%s' to `%s'\n",
1796       (GNUNET_YES == address->active) ? "active" : "inactive",
1797       GNUNET_ATS_print_network_type (current_network),
1798       GNUNET_ATS_print_network_type (new_network));
1799
1800
1801   /* Start bulk to prevent disconnect */
1802   GAS_proportional_bulk_start(s);
1803
1804   save_active = address->active;
1805
1806   /* Disable and assign no bandwidth */
1807   address->active = GNUNET_NO;
1808   address->assigned_bw_in = BANDWIDTH_ZERO; /* no bandwidth assigned */
1809   address->assigned_bw_out = BANDWIDTH_ZERO; /* no bandwidth assigned */
1810
1811   /* Remove from old network */
1812   GAS_proportional_address_delete (solver, address, GNUNET_NO);
1813
1814   /* Set new network type */
1815   if (NULL == (new_net = get_network (solver, new_network)))
1816   {
1817     /* Address changed to invalid network... */
1818     LOG(GNUNET_ERROR_TYPE_ERROR,
1819         _("Invalid network type `%u' `%s': Disconnect!\n"), new_network,
1820         GNUNET_ATS_print_network_type (new_network));
1821     s->bw_changed (s->bw_changed_cls, address);
1822   }
1823   else
1824   {
1825     /* Add to new network and update*/
1826     GAS_proportional_address_add (solver, address, new_network);
1827   }
1828   GAS_proportional_bulk_stop (s);
1829
1830   if (GNUNET_NO == GNUNET_CONTAINER_multipeermap_contains (s->requests, &address->peer))
1831     return; /* Peer is not requested */
1832
1833   /* Find new address to suggest */
1834   if (GNUNET_YES == save_active)
1835   {
1836     /* No address available, therefore disconnect */
1837     if (NULL == update_active_address (s, &address->peer))
1838       s->bw_changed (s->bw_changed_cls, address);
1839   }
1840
1841 }
1842
1843 /**
1844  * Add a new single address to a network
1845  *
1846  * @param solver the solver Handle
1847  * @param address the address to add
1848  * @param network network type of this address
1849  */
1850 void
1851 GAS_proportional_address_add (void *solver, struct ATS_Address *address,
1852     uint32_t network)
1853 {
1854   struct GAS_PROPORTIONAL_Handle *s = solver;
1855   struct Network *net = NULL;
1856   struct AddressWrapper *aw = NULL;
1857   struct AddressSolverInformation *asi;
1858
1859   GNUNET_assert(NULL != s);
1860   net = get_network (s, network);
1861   if (NULL == net)
1862   {
1863     GNUNET_break(0);
1864
1865     LOG(GNUNET_ERROR_TYPE_ERROR,
1866         "Unknown network %u `%s' for new address %p for peer `%s'\n",
1867         network, GNUNET_ATS_print_network_type(network),
1868         address, GNUNET_i2s(&address->peer));
1869
1870     return;
1871   }
1872
1873   aw = GNUNET_new (struct AddressWrapper);
1874   aw->addr = address;
1875   GNUNET_CONTAINER_DLL_insert(net->head, net->tail, aw);
1876   addresse_increment (s, net, GNUNET_YES, GNUNET_NO);
1877
1878   asi = GNUNET_new (struct AddressSolverInformation);
1879   asi->network = net;
1880   asi->calculated_quota_in_NBO = htonl (0);
1881   asi->calculated_quota_out_NBO = htonl (0);
1882   aw->addr->solver_information = asi;
1883
1884   LOG(GNUNET_ERROR_TYPE_INFO,
1885       "Adding new address %p for peer `%s', now total %u and active %u addresses in network `%s'\n",
1886       address, GNUNET_i2s(&address->peer), net->total_addresses, net->active_addresses, net->desc);
1887
1888   if (GNUNET_NO == GNUNET_CONTAINER_multipeermap_contains (s->requests, &address->peer))
1889     return; /* Peer is not requested */
1890
1891   /* This peer is requested, find best address */
1892   update_active_address (s, &address->peer);
1893 }
1894
1895
1896 /* end of plugin_ats_proportional.c */