01993f47171a6653c51c5bc22aace41eaa425887
[oweals/gnunet.git] / src / ats / plugin_ats_proportional.c
1 /*
2  This file is part of GNUnet.
3  (C) 2011 Christian Grothoff (and other contributing authors)
4
5  GNUnet is free software; you can redistribute it and/or modify
6  it under the terms of the GNU General Public License as published
7  by the Free Software Foundation; either version 3, or (at your
8  option) any later version.
9
10  GNUnet is distributed in the hope that it will be useful, but
11  WITHOUT ANY WARRANTY; without even the implied warranty of
12  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  General Public License for more details.
14
15  You should have received a copy of the GNU General Public License
16  along with GNUnet; see the file COPYING.  If not, write to the
17  Free Software Foundation, Inc., 59 Temple Place - Suite 330,
18  Boston, MA 02111-1307, USA.
19  */
20
21 /**
22  * @file ats/plugin_ats_proportional.c
23  * @brief ATS proportional solver
24  * @author Matthias Wachs
25  * @author Christian Grothoff
26  */
27 #include "plugin_ats_proportional.h"
28
29 #define LOG(kind,...) GNUNET_log_from (kind, "ats-proportional",__VA_ARGS__)
30
31
32 /**
33  *
34  * NOTE: Do not change this documentation. This documentation is based
35  * on gnunet.org:/vcs/fsnsg/ats-paper.git/tech-doku/ats-tech-guide.tex
36  * use build_txt.sh to generate plaintext output
37  *
38  * ATS addresses : proportional solver
39  *
40  *    The proportional solver ("proportional") distributes the available
41  *    bandwidth fair over all the addresses influenced by the
42  *    preference values. For each available network type an in- and
43  *    outbound quota is configured and the bandwidth available in
44  *    these networks is distributed over the addresses.  The solver
45  *    first assigns every addresses the minimum amount of bandwidth
46  *    GNUNET_CONSTANTS_DEFAULT_BW_IN_OUT and then distributes the
47  *    remaining bandwidth available according to the preference
48  *    values. For each peer only a single address gets bandwidth
49  *    assigned and only one address marked as active.  The most
50  *    important functionality for the solver is implemented in: *
51  *    find_address_it is an hashmap iterator returning the prefered
52  *    address for an peer * update_quota_per_network distributes
53  *    available bandwidth for a network over active addresses
54  *
55  *    Changes to addresses automatically have an impact on the the
56  *    bandwidth assigned to other addresses in the same network since
57  *    the solver distributes the remaining bandwidth over the
58  *    addresses in the network.  When changes to the addresses occur,
59  *    the solver first performs the changes, like adding or deleting
60  *    addresses, and then updates bandwidth assignment for the
61  *    affected network. Bandwidth assignment is only recalculated on
62  *    demand when an address is requested by a client for a peer or
63  *    when the addresses available have changed or an address changed
64  *    the network it is located in. When the bandwidth assignment has
65  *    changed the callback is called with the new bandwidth
66  *    assignments. The bandwidth distribution for a network is
67  *    recalculated due to: * address suggestion requests * address
68  *    deletions * address switching networks during address update *
69  *    preference changes
70  *
71  *     3.1 Data structures used
72  *
73  *    For each ATS network (e.g. WAN, LAN, loopback) a struct Network
74  *    is used to specify network related information as total adresses
75  *    and active addresses in this network and the configured in- and
76  *    outbound quota. Each network also contains a list of addresses
77  *    added to the solver located in this network. The proportional
78  *    solver uses the addresses' solver_information field to store the
79  *    proportional network it belongs to for each address.
80  *
81  *     3.2 Initializing
82  *
83  *    When the proportional solver is initialized the solver creates a
84  *    new solver handle and initializes the network structures with
85  *    the quotas passed from addresses and returns the handle solver.
86  *
87  *     3.3 Adding an address
88  *
89  *    When a new address is added to the solver using s_add, a lookup
90  *    for the network for this address is done and the address is
91  *    enqueued in in the linked list of the network.
92  *
93  *     3.4 Updating an address
94  *
95  *    The main purpose of address updates is to update the ATS
96  *    information for addresse selection. Important for the proportional
97  *    solver is when an address switches network it is located
98  *    in. This is common because addresses added by transport's
99  *    validation mechanism are commonly located in
100  *    GNUNET_ATS_NET_UNSPECIFIED. Addresses in validation are located
101  *    in this network type and only if a connection is successful on
102  *    return of payload data transport switches to the real network
103  *    the address is located in.  When an address changes networks it
104  *    is first of all removed from the old network using the solver
105  *    API function GAS_proportional_address_delete and the network in
106  *    the address struct is updated. A lookup for the respective new
107  *    proportional network is done and stored in the addresse's
108  *    solver_information field. Next the address is re-added to the
109  *    solver using the solver API function
110  *    GAS_proportional_address_add. If the address was marked as in
111  *    active, the solver checks if bandwidth is available in the
112  *    network and if yes sets the address to active and updates the
113  *    bandwidth distribution in this network. If no bandwidth is
114  *    available it sets the bandwidth for this address to 0 and tries
115  *    to suggest an alternative address. If an alternative address was
116  *    found, addresses' callback is called for this address.
117  *
118  *     3.5 Deleting an address
119  *
120  *    When an address is removed from the solver, it removes the
121  *    respective address from the network and if the address was
122  *    marked as active, it updates the bandwidth distribution for this
123  *    network.
124  *
125  *     3.6 Requesting addresses
126  *
127  *    When an address is requested for a peer the solver performs a
128  *    lookup for the peer entry in addresses address hashmap and
129  *    selects the best address.  The selection of the most suitable
130  *    address is done in the find_address_it hashmap iterator
131  *    described in detail in section 3.7. If no address is returned,
132  *    no address can be suggested at the moment. If the address
133  *    returned is marked as active, the solver can return this
134  *    address. If the address is not marked as active, the solver
135  *    checks if another address belongign to this peer is marked as
136  *    active and marks the address as inactive, updates the bandwidth
137  *    for this address to 0, call the bandwidth changed callback for
138  *    this address due to the change and updates quota assignment for
139  *    the addresse's network. the now in-active address is belonging
140  *    to. The solver marks the new address as active and updates the
141  *    bandwidth assignment for this network.
142  *
143  *     3.7 Choosing addresses
144  *
145  *    Choosing the best possible address for suggestion is done by
146  *    iterating over all addresses of a peer stored in addresses'
147  *    hashmap and using the hashmap iterator find_address_it to select
148  *    the best available address.  Several checks are done when an
149  *    address is selected. First if this address is currently blocked
150  *    by addresses from being suggested. An address is blocked for the
151  *    duration of ATS_BLOCKING_DELTA when it is suggested to
152  *    transport. Next it is checked if at least
153  *    GNUNET_CONSTANTS_DEFAULT_BW_IN_OUT bytes bandwidth is available
154  *    in the addresse's network, because suggesting an address without
155  *    bandwidth does not make sense. This also ensures that all active
156  *    addresses in this network get at least the minimum amount of
157  *    bandwidth assigned. In the next step the solver ensures that for
158  *    tcp connections inbound connections are prefered over outbound
159  *    connections. In the next stet the solver ensures that
160  *    connections are prefered in the following order: * connections
161  *    are already established and have bandwidth assigned *
162  *    connections with a shorter distance * connectes have a shorter
163  *    latency
164  *
165  *     3.8 Changing preferences
166  *
167  *     3.9 Shutdown
168  *
169  *    During shutdown all network entries and aging processes are
170  *    destroyed and freed.
171  *
172  *
173  * OLD DOCUMENTATION
174  *
175  * This solver assigns in and outbound bandwidth equally for all
176  * addresses in specific network type (WAN, LAN) based on configured
177  * in and outbound quota for this network.
178  *
179  * The solver is notified by addresses about changes to the addresses
180  * and recalculates the bandwith assigned if required. The solver
181  * notifies addresses by calling the GAS_bandwidth_changed_cb
182  * callback.
183  *
184  * - Initialization
185  *
186  *
187  *
188  *
189  * For each peer only a single is selected and marked as "active" in the address
190  * struct.
191  *
192  * E.g.:
193  *
194  * You have the networks WAN and LAN and quotas
195  * WAN_TOTAL_IN, WAN_TOTAL_OUT
196  * LAN_TOTAL_IN, LAN_TOTAL_OUT
197  *
198  * If you have x addresses in the network segment LAN, the quotas are
199  * QUOTA_PER_ADDRESS = LAN_TOTAL_OUT / x
200  *
201  * Quotas are automatically recalculated and reported back when addresses are
202  * - requested
203  *
204  */
205
206 #define PROPORTIONALITY_FACTOR 2.0
207
208 /**
209  * A handle for the proportional solver
210  */
211 struct GAS_PROPORTIONAL_Handle
212 {
213    struct GNUNET_ATS_PluginEnvironment *env;
214
215   /**
216    * Statistics handle
217    */
218   struct GNUNET_STATISTICS_Handle *stats;
219
220   /**
221    * Hashmap containing all valid addresses
222    */
223   const struct GNUNET_CONTAINER_MultiPeerMap *addresses;
224
225   /**
226    * Pending address requests
227    */
228   struct GNUNET_CONTAINER_MultiPeerMap *requests;
229
230   /**
231    * Bandwidth changed callback
232    */
233   GAS_bandwidth_changed_cb bw_changed;
234
235   /**
236    * Bandwidth changed callback cls
237    */
238   void *bw_changed_cls;
239
240   /**
241    * ATS function to get preferences
242    */
243   GAS_get_preferences get_preferences;
244
245   /**
246    * Closure for ATS function to get preferences
247    */
248   void *get_preferences_cls;
249
250   /**
251    * ATS function to get properties
252    */
253   GAS_get_properties get_properties;
254
255   /**
256    * Closure for ATS function to get properties
257    */
258   void *get_properties_cls;
259
260   /**
261    * Bulk lock
262    */
263   int bulk_lock;
264
265   /**
266    * Number of changes while solver was locked
267    */
268   int bulk_requests;
269
270   /**
271    * Total number of addresses for solver
272    */
273   unsigned int total_addresses;
274
275   /**
276    * Number of active addresses for solver
277    */
278   unsigned int active_addresses;
279
280   /**
281    * Networks array
282    */
283   struct Network *network_entries;
284
285   /**
286    * Number of networks
287    */
288   unsigned int network_count;
289
290   /**
291    * Proportionality factor
292    */
293   double prop_factor;
294 };
295
296 /**
297  * Representation of a network
298  */
299 struct Network
300 {
301   /**
302    * ATS network type
303    */
304   unsigned int type;
305
306   /**
307    * Network description
308    */
309   char *desc;
310
311   /**
312    * Total inbound quota
313    *
314    */
315   unsigned long long total_quota_in;
316
317   /**
318    * Total outbound quota
319    *
320    */
321   unsigned long long total_quota_out;
322
323   /**
324    * Number of active addresses for this network
325    */
326   unsigned int active_addresses;
327
328   /**
329    * Number of total addresses for this network
330    */
331   unsigned int total_addresses;
332
333   /**
334    * String for statistics total addresses
335    */
336   char *stat_total;
337
338   /**
339    * String for statistics active addresses
340    */
341   char *stat_active;
342
343   struct AddressWrapper *head;
344   struct AddressWrapper *tail;
345 };
346
347 /**
348  * Address information stored in the solver
349  */
350 struct AddressSolverInformation
351 {
352   struct Network *network;
353
354   /**
355    * Inbound quota
356    *
357    */
358   unsigned long long calculated_quota_in_NBO;
359
360   /**
361    * Outbound quota
362    *
363    */
364   unsigned long long calculated_quota_out_NBO;
365
366
367 };
368
369 /**
370  * Wrapper for addresses to store them in network's linked list
371  */
372 struct AddressWrapper
373 {
374   /**
375    * Next in DLL
376    */
377   struct AddressWrapper *next;
378
379   /**
380    * Previous in DLL
381    */
382   struct AddressWrapper *prev;
383
384   /**
385    * The address
386    */
387   struct ATS_Address *addr;
388 };
389
390 /**
391  *  Important solver functions
392  *  ---------------------------
393  */
394
395 void *
396 libgnunet_plugin_ats_proportional_init (void *cls)
397 {
398   struct GNUNET_ATS_PluginEnvironment *env = cls;
399   struct GAS_PROPORTIONAL_Handle *s;
400   struct Network * cur;
401   char * net_str[GNUNET_ATS_NetworkTypeCount] = GNUNET_ATS_NetworkTypeString;
402   unsigned long long prop_factor;
403   int c;
404
405   GNUNET_assert (NULL != env);
406   GNUNET_assert(NULL != env->cfg);
407   GNUNET_assert(NULL != env->bandwidth_changed_cb);
408   GNUNET_assert(NULL != env->get_preferences);
409   GNUNET_assert(NULL != env->get_property);
410
411   s = GNUNET_new (struct GAS_PROPORTIONAL_Handle);
412   s->env = env;
413   env->sf.s_add = &GAS_proportional_address_add;
414   env->sf.s_address_update_property = &GAS_proportional_address_property_changed;
415   env->sf.s_address_update_session = &GAS_proportional_address_session_changed;
416   env->sf.s_address_update_inuse = &GAS_proportional_address_inuse_changed;
417   env->sf.s_address_update_network = &GAS_proportional_address_change_network;
418   env->sf.s_get = &GAS_proportional_get_preferred_address;
419   env->sf.s_get_stop = &GAS_proportional_stop_get_preferred_address;
420   env->sf.s_pref = &GAS_proportional_address_change_preference;
421   env->sf.s_feedback = &GAS_proportional_address_preference_feedback;
422   env->sf.s_del = &GAS_proportional_address_delete;
423   env->sf.s_bulk_start = &GAS_proportional_bulk_start;
424   env->sf.s_bulk_stop = &GAS_proportional_bulk_stop;
425
426   s->stats = (struct GNUNET_STATISTICS_Handle *) env->stats;
427   s->bw_changed = env->bandwidth_changed_cb;
428   s->bw_changed_cls = env->bw_changed_cb_cls;
429   s->get_preferences = env->get_preferences;
430   s->get_preferences_cls = env->get_preference_cls;
431   s->get_properties = env->get_property;
432   s->get_properties_cls = env->get_property_cls;
433   s->network_count = env->network_count;
434   s->network_entries = GNUNET_malloc (env->network_count * sizeof (struct Network));
435
436   /* Init */
437   s->active_addresses = 0;
438   s->total_addresses = 0;
439   s->bulk_lock = GNUNET_NO;
440   s->addresses = env->addresses;
441   s->requests = GNUNET_CONTAINER_multipeermap_create (10, GNUNET_NO);
442
443   if (GNUNET_SYSERR != GNUNET_CONFIGURATION_get_value_number(s->env->cfg, "ats",
444       "PROP_PROPORTIONALITY_FACTOR", &prop_factor))
445   {
446     if (prop_factor > 1)
447       s->prop_factor = (double) prop_factor;
448     else
449     {
450       GNUNET_break (0);
451       s->prop_factor = PROPORTIONALITY_FACTOR;
452     }
453   }
454   else
455     s->prop_factor = PROPORTIONALITY_FACTOR;
456   LOG (GNUNET_ERROR_TYPE_INFO, "Using proportionality factor %.0f\n",
457       s->prop_factor);
458
459
460   for (c = 0; c < env->network_count; c++)
461   {
462     cur = &s->network_entries[c];
463     cur->total_addresses = 0;
464     cur->active_addresses = 0;
465     cur->type = env->networks[c];
466     cur->total_quota_in = env->in_quota[c];
467     cur->total_quota_out = env->out_quota[c];
468     cur->desc = net_str[c];
469     GNUNET_asprintf (&cur->stat_total,
470         "# ATS addresses %s total", cur->desc);
471     GNUNET_asprintf (&cur->stat_active,
472         "# ATS active addresses %s total", cur->desc);
473     LOG (GNUNET_ERROR_TYPE_INFO, "Added network %u `%s' (%llu/%llu)\n",
474         c, cur->desc, cur->total_quota_in, cur->total_quota_out);
475   }
476   return s;
477 }
478
479 void *
480 libgnunet_plugin_ats_proportional_done (void *cls)
481 {
482   struct GAS_PROPORTIONAL_Handle *s = cls;
483   struct AddressWrapper *cur;
484   struct AddressWrapper *next;
485   int c;
486   GNUNET_assert(s != NULL);
487   for (c = 0; c < s->network_count; c++)
488   {
489     if (s->network_entries[c].total_addresses > 0)
490     {
491       LOG(GNUNET_ERROR_TYPE_DEBUG,
492           "Had %u addresses for network `%s' not deleted during shutdown\n",
493           s->network_entries[c].total_addresses, s->network_entries[c].desc);
494       //GNUNET_break(0);
495     }
496
497     if (s->network_entries[c].active_addresses > 0)
498     {
499       LOG(GNUNET_ERROR_TYPE_DEBUG,
500           "Had %u active addresses for network `%s' not deleted during shutdown\n",
501           s->network_entries[c].active_addresses, s->network_entries[c].desc);
502       //GNUNET_break(0);
503     }
504
505     next = s->network_entries[c].head;
506     while (NULL != (cur = next))
507     {
508       next = cur->next;
509       GNUNET_CONTAINER_DLL_remove(s->network_entries[c].head,
510           s->network_entries[c].tail, cur);
511       GNUNET_free_non_null (cur->addr->solver_information);
512       GNUNET_free(cur);
513     }
514     GNUNET_free(s->network_entries[c].stat_total);
515     GNUNET_free(s->network_entries[c].stat_active);
516   }
517   if (s->total_addresses > 0)
518   {
519     LOG(GNUNET_ERROR_TYPE_DEBUG,
520         "Had %u addresses not deleted during shutdown\n", s->total_addresses);
521     // GNUNET_break(0);
522   }
523   if (s->active_addresses > 0)
524   {
525     LOG(GNUNET_ERROR_TYPE_DEBUG,
526         "Had %u active addresses not deleted during shutdown\n",
527         s->active_addresses);
528     // GNUNET_break (0);
529   }
530   GNUNET_free (s->network_entries);
531   GNUNET_CONTAINER_multipeermap_destroy (s->requests);
532   GNUNET_free (s);
533   return NULL;
534 }
535
536
537 /**
538  * Test if bandwidth is available in this network to add an additional address
539  *
540  * @param net the network type to update
541  * @return GNUNET_YES or GNUNET_NO
542  */
543 static int
544 is_bandwidth_available_in_network (struct Network *net)
545 {
546   GNUNET_assert(NULL != net);
547   unsigned int na = net->active_addresses + 1;
548   uint32_t min_bw = ntohl (GNUNET_CONSTANTS_DEFAULT_BW_IN_OUT.value__);
549   if (((net->total_quota_in / na) > min_bw)
550       && ((net->total_quota_out / na) > min_bw))
551   {
552     LOG(GNUNET_ERROR_TYPE_DEBUG,
553         "Enough bandwidth available for %u active addresses in network `%s'\n",
554         na, net->desc);
555
556     return GNUNET_YES;
557   }
558   LOG(GNUNET_ERROR_TYPE_DEBUG,
559       "Not enough bandwidth available for %u active addresses in network `%s'\n",
560       na, net->desc);
561   return GNUNET_NO;
562 }
563
564 /**
565  * Update bandwidth assigned to peers in this network
566  *
567  * @param s the solver handle
568  * @param net the network type to update
569  * @param address_except address excluded from notification, since we suggest
570  * this address
571  */
572 static void
573 distribute_bandwidth (struct GAS_PROPORTIONAL_Handle *s,
574     struct Network *net, struct ATS_Address *address_except)
575 {
576   struct AddressSolverInformation *asi;
577   struct AddressWrapper *cur_address;
578
579   unsigned long long remaining_quota_in = 0;
580   unsigned long long quota_out_used = 0;
581   unsigned long long remaining_quota_out = 0;
582   unsigned long long quota_in_used = 0;
583   int count_addresses;
584   uint32_t min_bw = ntohl (GNUNET_CONSTANTS_DEFAULT_BW_IN_OUT.value__);
585   double relative_peer_prefence;
586   double sum_relative_peer_prefences; /* Important: has to be double not float due to precision */
587   double cur_pref; /* Important: has to be double not float due to precision */
588   double peer_weight;
589   double total_weight;
590   const double *peer_relative_prefs = NULL; /* Important: has to be double not float due to precision */
591
592   unsigned long long assigned_quota_in = 0;
593   unsigned long long assigned_quota_out = 0;
594
595
596   LOG(GNUNET_ERROR_TYPE_INFO,
597       "Recalculate quota for network type `%s' for %u addresses (in/out): %llu/%llu \n",
598       net->desc, net->active_addresses, net->total_quota_in,
599       net->total_quota_in);
600
601   if (net->active_addresses == 0)
602   {
603     return; /* no addresses to update */
604   }
605
606   /* Idea
607    * Assign every peer in network minimum Bandwidth
608    * Distribute bandwidth left according to preference
609    */
610
611   if ((net->active_addresses * min_bw) > net->total_quota_in)
612   {
613     GNUNET_break(0);
614     return;
615   }
616   if ((net->active_addresses * min_bw) > net->total_quota_out)
617   {
618     GNUNET_break(0);
619     return;
620   }
621
622   remaining_quota_in = net->total_quota_in - (net->active_addresses * min_bw);
623   remaining_quota_out = net->total_quota_out - (net->active_addresses * min_bw);
624   LOG(GNUNET_ERROR_TYPE_DEBUG, "Remaining bandwidth : (in/out): %llu/%llu \n",
625       remaining_quota_in, remaining_quota_out);
626   sum_relative_peer_prefences = 0.0;
627
628   /* Calculate sum of relative preference for active addresses in this network */
629   count_addresses = 0;
630   for (cur_address = net->head; NULL != cur_address; cur_address = cur_address->next)
631   {
632     if (GNUNET_YES != cur_address->addr->active)
633       continue;
634
635     GNUNET_assert( NULL != (peer_relative_prefs = s->get_preferences (s->get_preferences_cls,
636         &cur_address->addr->peer)));
637     relative_peer_prefence = 0.0;
638     relative_peer_prefence += peer_relative_prefs[GNUNET_ATS_PREFERENCE_BANDWIDTH];
639     sum_relative_peer_prefences += relative_peer_prefence;
640     count_addresses ++;
641   }
642
643   GNUNET_assert (count_addresses == net->active_addresses);
644
645   LOG (GNUNET_ERROR_TYPE_INFO,
646       "Total relative preference %.3f for %u addresses in network %s\n",
647       sum_relative_peer_prefences, net->active_addresses, net->desc);
648
649   for (cur_address = net->head; NULL != cur_address; cur_address = cur_address->next)
650   {
651     if (GNUNET_YES == cur_address->addr->active)
652     {
653       GNUNET_assert( NULL != (peer_relative_prefs =
654           s->get_preferences (s->get_preferences_cls, &cur_address->addr->peer)));
655
656       cur_pref = peer_relative_prefs[GNUNET_ATS_PREFERENCE_BANDWIDTH];
657       total_weight = net->active_addresses +
658           s->prop_factor * sum_relative_peer_prefences;
659       peer_weight = (1.0 + (s->prop_factor * cur_pref));
660
661       assigned_quota_in = min_bw
662           + ((peer_weight / total_weight) * remaining_quota_in);
663       assigned_quota_out = min_bw
664           + ((peer_weight / total_weight) * remaining_quota_out);
665
666       LOG (GNUNET_ERROR_TYPE_INFO,
667           "New quota for peer `%s' with weight (cur/total) %.3f/%.3f (in/out): %llu / %llu\n",
668           GNUNET_i2s (&cur_address->addr->peer), peer_weight, total_weight,
669           assigned_quota_in, assigned_quota_out);
670     }
671     else
672     {
673       assigned_quota_in = 0;
674       assigned_quota_out = 0;
675     }
676
677     quota_in_used += assigned_quota_in;
678     quota_out_used += assigned_quota_out;
679     /* Prevent overflow due to rounding errors */
680     if (assigned_quota_in > UINT32_MAX)
681       assigned_quota_in = UINT32_MAX;
682     if (assigned_quota_out > UINT32_MAX)
683       assigned_quota_out = UINT32_MAX;
684
685     /* Compare to current bandwidth assigned */
686     asi = cur_address->addr->solver_information;
687     asi->calculated_quota_in_NBO = htonl (assigned_quota_in);
688     asi->calculated_quota_out_NBO = htonl (assigned_quota_out);
689   }
690   LOG(GNUNET_ERROR_TYPE_DEBUG,
691       "Total bandwidth assigned is (in/out): %llu /%llu\n", quota_in_used,
692       quota_out_used);
693   if (quota_out_used > net->total_quota_out + 1) /* +1 is required due to rounding errors */
694   {
695     LOG(GNUNET_ERROR_TYPE_ERROR,
696         "Total outbound bandwidth assigned is larger than allowed (used/allowed) for %u active addresses: %llu / %llu\n",
697         net->active_addresses, quota_out_used, net->total_quota_out);
698   }
699   if (quota_in_used > net->total_quota_in + 1) /* +1 is required due to rounding errors */
700   {
701     LOG(GNUNET_ERROR_TYPE_ERROR,
702         "Total inbound bandwidth assigned is larger than allowed (used/allowed) for %u active addresses: %llu / %llu\n",
703         net->active_addresses, quota_in_used, net->total_quota_in);
704   }
705 }
706
707 struct FindBestAddressCtx
708 {
709   struct GAS_PROPORTIONAL_Handle *s;
710   struct ATS_Address *best;
711 };
712
713 static int
714 find_property_index (uint32_t type)
715 {
716   int existing_types[] = GNUNET_ATS_QualityProperties;
717   int c;
718   for (c = 0; c < GNUNET_ATS_QualityPropertiesCount; c++)
719     if (existing_types[c] == type)
720       return c;
721   return GNUNET_SYSERR;
722 }
723
724 /**
725  * Find a "good" address to use for a peer by iterating over the addresses for this peer.
726  * If we already have an existing address, we stick to it.
727  * Otherwise, we pick by lowest distance and then by lowest latency.
728  *
729  * @param cls the 'struct ATS_Address**' where we store the result
730  * @param key unused
731  * @param value another 'struct ATS_Address*' to consider using
732  * @return GNUNET_OK (continue to iterate)
733  */
734 static int
735 find_best_address_it (void *cls,
736                       const struct GNUNET_PeerIdentity *key,
737                       void *value)
738 {
739   struct FindBestAddressCtx *ctx = (struct FindBestAddressCtx *) cls;
740   struct ATS_Address *current = (struct ATS_Address *) value;
741   struct ATS_Address *current_best = (struct ATS_Address *) value;
742   struct GNUNET_TIME_Absolute now;
743   struct AddressSolverInformation *asi;
744   const double *norm_prop_cur;
745   const double *norm_prop_best;
746   int index;
747
748   current_best = NULL;
749   asi = current->solver_information;
750   now = GNUNET_TIME_absolute_get ();
751
752   if (current->blocked_until.abs_value_us
753       == GNUNET_TIME_absolute_max (now, current->blocked_until).abs_value_us)
754   {
755     /* This address is blocked for suggestion */
756     LOG(GNUNET_ERROR_TYPE_DEBUG, "Address %p blocked for suggestion for %s \n",
757         current,
758         GNUNET_STRINGS_relative_time_to_string (GNUNET_TIME_absolute_get_difference (now, current->blocked_until), GNUNET_YES));
759     return GNUNET_OK;
760   }
761   if (NULL == asi)
762   {
763     GNUNET_break (0);
764     return GNUNET_OK;
765   }
766
767   if (GNUNET_NO == is_bandwidth_available_in_network (asi->network))
768     return GNUNET_OK; /* There's no bandwidth available in this network */
769
770   if (NULL != ctx->best)
771   {
772     /* Compare current addresses with denominated 'best' address */
773
774     current_best = ctx->best;
775     if ((0 != ctx->best->addr_len) && (0 == current->addr_len))
776     {
777       /* saved address was an outbound address, but we have an inbound address */
778       current_best = current;
779       goto end;
780     }
781     if (ctx->best->t_last_activity.abs_value_us < current->t_last_activity.abs_value_us)
782     {
783       /* Current address is newer */
784       current_best = current;
785     }
786     if (ctx->best->t_added.abs_value_us < current->t_added.abs_value_us)
787     {
788       /* Current address is newer */
789       current_best = current;
790       goto end;
791     }
792   }
793   if (NULL == ctx->best)
794   {
795     /* We do not have a 'best' address so take this address */
796     current_best = current;
797     goto end;
798   }
799
800   if ( (ntohl (ctx->best->assigned_bw_in.value__) == 0) &&
801        (ntohl (current->assigned_bw_in.value__) > 0) )
802   {
803     /* stick to existing connection */
804     current_best = current;
805   }
806
807   /* Now compare ATS information */
808   norm_prop_cur = ctx->s->get_properties (ctx->s->get_properties_cls,
809       (const struct ATS_Address *) current);
810   norm_prop_best = ctx->s->get_properties (ctx->s->get_properties_cls,
811       (const struct ATS_Address *) ctx->best);
812
813   index = find_property_index (GNUNET_ATS_QUALITY_NET_DISTANCE);
814   if (GNUNET_SYSERR != index)
815   {
816     /* user shorter distance */
817     if (norm_prop_cur[index] < norm_prop_best[index])
818       current_best = current;
819     else
820       current_best = ctx->best;
821   }
822
823   index = find_property_index (GNUNET_ATS_QUALITY_NET_DELAY);
824   if (GNUNET_SYSERR != index)
825   {
826     /* User connection with less delay */
827     if (norm_prop_cur[index] < norm_prop_best[index])
828       current_best = current;
829     else
830       current_best = ctx->best;
831   }
832 end:
833   ctx->best = current_best;
834   return GNUNET_OK;
835 }
836
837 /**
838  *  Helper functions
839  *  ---------------------------
840  */
841 static void
842 propagate_bandwidth (struct GAS_PROPORTIONAL_Handle *s,
843     struct Network *net, struct ATS_Address *address_except)
844 {
845   struct AddressWrapper *cur;
846   struct AddressSolverInformation *asi;
847   for (cur = net->head; NULL != cur; cur = cur->next)
848   {
849       asi = cur->addr->solver_information;
850       if ( (cur->addr->assigned_bw_in.value__ != asi->calculated_quota_in_NBO) ||
851            (cur->addr->assigned_bw_out.value__ != asi->calculated_quota_out_NBO) )
852       {
853         cur->addr->assigned_bw_in.value__ = asi->calculated_quota_in_NBO;
854         cur->addr->assigned_bw_out.value__ = asi->calculated_quota_out_NBO;
855
856         /* Reset for next iteration */
857         asi->calculated_quota_in_NBO = htonl (0);
858         asi->calculated_quota_out_NBO = htonl (0);
859
860         LOG (GNUNET_ERROR_TYPE_DEBUG,
861             "Bandwidth for %s address %p for peer `%s' changed to %u/%u\n",
862             (GNUNET_NO == cur->addr->active) ? "inactive" : "active",
863             cur->addr,
864             GNUNET_i2s (&cur->addr->peer),
865             ntohl (cur->addr->assigned_bw_in.value__),
866             ntohl (cur->addr->assigned_bw_out.value__ ));
867
868         /* Notify on change */
869         if ((GNUNET_YES == cur->addr->active) && (cur->addr != address_except))
870           s->bw_changed (s->bw_changed_cls, cur->addr);
871       }
872   }
873 }
874
875 /**
876  * Distribibute bandwidth
877  *
878  * @param s the solver handle
879  * @param n the network, can be NULL for all network
880  * @param address_except do not notify for this address
881  */
882 static void
883 distribute_bandwidth_in_network (struct GAS_PROPORTIONAL_Handle *s,
884     struct Network *n, struct ATS_Address *address_except)
885 {
886   if (GNUNET_YES == s->bulk_lock)
887   {
888     s->bulk_requests++;
889     return;
890   }
891
892   if (NULL != n)
893   {
894     LOG (GNUNET_ERROR_TYPE_INFO,
895         "Redistributing bandwidth in network %s with %u active and %u total addresses\n",
896         GNUNET_ATS_print_network_type(n->type),
897         n->active_addresses, n->total_addresses);
898
899     if (NULL != s->env->info_cb)
900       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_START,
901           GAS_STAT_SUCCESS, GAS_INFO_PROP_SINGLE);
902     distribute_bandwidth(s, n, address_except);
903     if (NULL != s->env->info_cb)
904       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_STOP,
905           GAS_STAT_SUCCESS, GAS_INFO_PROP_SINGLE);
906     if (NULL != s->env->info_cb)
907       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_UPDATE_NOTIFICATION_START,
908           GAS_STAT_SUCCESS, GAS_INFO_PROP_SINGLE);
909     propagate_bandwidth(s, n, address_except);
910     if (NULL != s->env->info_cb)
911       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_UPDATE_NOTIFICATION_STOP,
912           GAS_STAT_SUCCESS, GAS_INFO_PROP_SINGLE);
913   }
914   else
915   {
916     int i;
917     if (NULL != s->env->info_cb)
918       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_START,
919           GAS_STAT_SUCCESS, GAS_INFO_PROP_ALL);
920     for (i = 0; i < s->network_count; i++)
921       distribute_bandwidth(s, &s->network_entries[i], NULL);
922     if (NULL != s->env->info_cb)
923       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_STOP,
924           GAS_STAT_SUCCESS, GAS_INFO_PROP_ALL);
925     if (NULL != s->env->info_cb)
926       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_UPDATE_NOTIFICATION_START,
927           GAS_STAT_SUCCESS, GAS_INFO_PROP_ALL);
928     for (i = 0; i < s->network_count; i++)
929     {
930       propagate_bandwidth(s, &s->network_entries[i], address_except);
931     }
932     if (NULL != s->env->info_cb)
933       s->env->info_cb(s->env->info_cb_cls, GAS_OP_SOLVE_UPDATE_NOTIFICATION_STOP,
934           GAS_STAT_SUCCESS, GAS_INFO_PROP_ALL);
935   }
936 }
937
938 /**
939  * Lookup network struct by type
940  *
941  * @param s the solver handle
942  * @param type the network type
943  * @return the network struct
944  */
945 static struct Network *
946 get_network (struct GAS_PROPORTIONAL_Handle *s, uint32_t type)
947 {
948   int c;
949   for (c = 0; c < s->network_count; c++)
950   {
951     if (s->network_entries[c].type == type)
952       return &s->network_entries[c];
953   }
954   return NULL ;
955 }
956
957 /**
958  * Hashmap Iterator to find current active address for peer
959  *
960  * @param cls last active address
961  * @param key peer's key
962  * @param value address to check
963  * @return #GNUNET_NO on double active address else #GNUNET_YES;
964  */
965 static int
966 get_active_address_it (void *cls,
967                        const struct GNUNET_PeerIdentity *key,
968                        void *value)
969 {
970   struct ATS_Address **dest = cls;
971   struct ATS_Address *aa = (struct ATS_Address *) value;
972
973   if (GNUNET_YES == aa->active)
974   {
975
976     if (NULL != (*dest))
977     {
978       /* should never happen */
979       LOG(GNUNET_ERROR_TYPE_ERROR, "Multiple active addresses for peer `%s'\n",
980           GNUNET_i2s (&aa->peer));
981       GNUNET_break(0);
982       return GNUNET_NO;
983     }
984     (*dest) = aa;
985   }
986   return GNUNET_OK;
987 }
988
989 /**
990  * Find current active address for peer
991  *
992  * @param solver the solver handle
993  * @param addresses the address set
994  * @param peer the peer
995  * @return active address or NULL
996  */
997 static struct ATS_Address *
998 get_active_address (void *solver,
999                     const struct GNUNET_CONTAINER_MultiPeerMap * addresses,
1000                     const struct GNUNET_PeerIdentity *peer)
1001 {
1002   struct ATS_Address * dest = NULL;
1003
1004   GNUNET_CONTAINER_multipeermap_get_multiple (addresses, peer,
1005                                               &get_active_address_it, &dest);
1006   return dest;
1007 }
1008
1009
1010 static void
1011 addresse_increment (struct GAS_PROPORTIONAL_Handle *s, struct Network *net,
1012     int total, int active)
1013 {
1014   if (GNUNET_YES == total)
1015   {
1016     s->total_addresses++;
1017     net->total_addresses++;
1018     GNUNET_STATISTICS_update (s->stats, "# ATS addresses total", 1, GNUNET_NO);
1019     GNUNET_STATISTICS_update (s->stats, net->stat_total, 1, GNUNET_NO);
1020   }
1021   if (GNUNET_YES == active)
1022   {
1023     net->active_addresses++;
1024     s->active_addresses++;
1025     GNUNET_STATISTICS_update (s->stats, "# ATS active addresses total", 1,
1026         GNUNET_NO);
1027     GNUNET_STATISTICS_update (s->stats, net->stat_active, 1, GNUNET_NO);
1028   }
1029
1030 }
1031
1032
1033 static int
1034 addresse_decrement (struct GAS_PROPORTIONAL_Handle *s, struct Network *net,
1035     int total, int active)
1036 {
1037   int res = GNUNET_OK;
1038   if (GNUNET_YES == total)
1039   {
1040     if (s->total_addresses < 1)
1041     {
1042       GNUNET_break(0);
1043       res = GNUNET_SYSERR;
1044     }
1045     else
1046     {
1047       s->total_addresses--;
1048       GNUNET_STATISTICS_update (s->stats, "# ATS addresses total", -1,
1049           GNUNET_NO);
1050     }
1051     if (net->total_addresses < 1)
1052     {
1053       GNUNET_break(0);
1054       res = GNUNET_SYSERR;
1055     }
1056     else
1057     {
1058       net->total_addresses--;
1059       GNUNET_STATISTICS_update (s->stats, net->stat_total, -1, GNUNET_NO);
1060     }
1061   }
1062
1063   if (GNUNET_YES == active)
1064   {
1065     if (net->active_addresses < 1)
1066     {
1067       GNUNET_break(0);
1068       res = GNUNET_SYSERR;
1069     }
1070     else
1071     {
1072       net->active_addresses--;
1073       GNUNET_STATISTICS_update (s->stats, net->stat_active, -1, GNUNET_NO);
1074     }
1075     if (s->active_addresses < 1)
1076     {
1077       GNUNET_break(0);
1078       res = GNUNET_SYSERR;
1079     }
1080     else
1081     {
1082       s->active_addresses--;
1083       GNUNET_STATISTICS_update (s->stats, "# ATS addresses total", -1,
1084           GNUNET_NO);
1085     }
1086   }
1087   return res;
1088 }
1089
1090 /**
1091  *  Solver API functions
1092  *  ---------------------------
1093  */
1094
1095 /**
1096  * Changes the preferences for a peer in the problem
1097  *
1098  * @param solver the solver handle
1099  * @param peer the peer to change the preference for
1100  * @param kind the kind to change the preference
1101  * @param pref_rel the normalized preference value for this kind over all clients
1102  */
1103 void
1104 GAS_proportional_address_change_preference (void *solver,
1105                                             const struct GNUNET_PeerIdentity *peer,
1106                                             enum GNUNET_ATS_PreferenceKind kind,
1107                                             double pref_rel)
1108 {
1109   struct GAS_PROPORTIONAL_Handle *s = solver;
1110   GNUNET_assert(NULL != solver);
1111   GNUNET_assert(NULL != peer);
1112
1113   distribute_bandwidth_in_network (s, NULL, NULL);
1114 }
1115
1116
1117 /**
1118  * Get application feedback for a peer
1119  *
1120  * @param solver the solver handle
1121  * @param application the application
1122  * @param peer the peer to change the preference for
1123  * @param scope the time interval for this feedback: [now - scope .. now]
1124  * @param kind the kind to change the preference
1125  * @param score the score
1126  */
1127 void
1128 GAS_proportional_address_preference_feedback (void *solver, void *application,
1129     const struct GNUNET_PeerIdentity *peer,
1130     const struct GNUNET_TIME_Relative scope,
1131     enum GNUNET_ATS_PreferenceKind kind, double score)
1132 {
1133   struct GAS_PROPORTIONAL_Handle *s = solver;
1134   GNUNET_assert(NULL != solver);
1135   GNUNET_assert(NULL != peer);
1136
1137   GNUNET_assert(NULL != s);
1138   GNUNET_break(0);
1139 }
1140
1141 /**
1142  * Get the preferred address for a specific peer
1143  *
1144  * @param solver the solver handle
1145  * @param peer the identity of the peer
1146  */
1147 const struct ATS_Address *
1148 GAS_proportional_get_preferred_address (void *solver,
1149     const struct GNUNET_PeerIdentity *peer)
1150 {
1151   struct GAS_PROPORTIONAL_Handle *s = solver;
1152   struct Network *net_prev;
1153   struct Network *net_cur;
1154   struct ATS_Address *prev;
1155   struct FindBestAddressCtx fba_ctx;
1156   struct AddressSolverInformation *asi;
1157   struct AddressSolverInformation *asi_prev;
1158
1159   GNUNET_assert(s != NULL);
1160   GNUNET_assert(peer != NULL);
1161
1162   /* Add to list of pending requests */
1163   if (GNUNET_NO == GNUNET_CONTAINER_multipeermap_contains (s->requests, peer))
1164   {
1165     GNUNET_assert(
1166         GNUNET_OK == GNUNET_CONTAINER_multipeermap_put (s->requests, peer, NULL,
1167             GNUNET_CONTAINER_MULTIHASHMAPOPTION_UNIQUE_ONLY));
1168   }
1169
1170   /* Get address with: stick to current address, lower distance, lower latency */
1171   fba_ctx.s = s;
1172   fba_ctx.best = NULL;
1173
1174   GNUNET_CONTAINER_multipeermap_get_multiple (s->addresses, peer,
1175                                               &find_best_address_it, &fba_ctx);
1176   if (NULL == fba_ctx.best)
1177   {
1178     LOG(GNUNET_ERROR_TYPE_INFO, "Cannot suggest address for peer `%s'\n",
1179         GNUNET_i2s (peer));
1180     return NULL ;
1181   }
1182
1183   LOG(GNUNET_ERROR_TYPE_INFO, "Suggesting %s address %p for peer `%s'\n",
1184       (GNUNET_NO == fba_ctx.best->active) ? "inactive" : "active", fba_ctx.best,
1185       GNUNET_i2s (peer));
1186   asi = fba_ctx.best->solver_information;
1187   net_cur = asi->network ;
1188   if (NULL == fba_ctx.best)
1189   {
1190     LOG(GNUNET_ERROR_TYPE_ERROR,
1191         "Trying to suggesting unknown address peer `%s'\n", GNUNET_i2s (peer));
1192     GNUNET_break(0);
1193     return NULL ;
1194   }
1195   if (GNUNET_YES == fba_ctx.best->active)
1196   {
1197     /* This address was selected previously, so no need to update quotas */
1198     return fba_ctx.best;
1199   }
1200
1201   /* This address was not active, so we have to:
1202    *
1203    * - mark previous active address as not active
1204    * - update quota for previous address network
1205    * - update quota for this address network
1206    */
1207   prev = get_active_address (s, s->addresses, peer);
1208   if (NULL != prev)
1209   {
1210     asi_prev = prev->solver_information;
1211     net_prev = (struct Network *) asi_prev->network;
1212     prev->active = GNUNET_NO; /* No active any longer */
1213     prev->assigned_bw_in = BANDWIDTH_ZERO; /* no bandwidth assigned */
1214     prev->assigned_bw_out = BANDWIDTH_ZERO; /* no bandwidth assigned */
1215
1216     if (GNUNET_SYSERR == addresse_decrement (s, net_prev, GNUNET_NO, GNUNET_YES))
1217       GNUNET_break(0);
1218     distribute_bandwidth_in_network (s, net_prev, NULL);
1219   }
1220
1221   if (GNUNET_NO == (is_bandwidth_available_in_network (net_cur)))
1222   {
1223     GNUNET_break(0); /* This should never happen*/
1224     return NULL ;
1225   }
1226
1227   fba_ctx.best->active = GNUNET_YES;
1228   addresse_increment (s, net_cur, GNUNET_NO, GNUNET_YES);
1229   distribute_bandwidth_in_network (s, net_cur, fba_ctx.best);
1230   return fba_ctx.best;
1231 }
1232
1233 /**
1234  * Stop notifying about address and bandwidth changes for this peer
1235  *
1236  * @param solver the solver handle
1237  * @param peer the peer
1238  */
1239 void
1240 GAS_proportional_stop_get_preferred_address (void *solver,
1241     const struct GNUNET_PeerIdentity *peer)
1242 {
1243   struct GAS_PROPORTIONAL_Handle *s = solver;
1244   struct ATS_Address *cur;
1245   struct AddressSolverInformation *asi;
1246   struct Network *cur_net;
1247
1248   if (GNUNET_YES
1249       == GNUNET_CONTAINER_multipeermap_contains (s->requests,
1250                                                  peer))
1251     GNUNET_assert (GNUNET_OK == GNUNET_CONTAINER_multipeermap_remove (s->requests, peer,
1252                                           NULL));
1253
1254   cur = get_active_address (s, s->addresses, peer);
1255   if (NULL != cur)
1256   {
1257     LOG(GNUNET_ERROR_TYPE_INFO,
1258         "Disabling %s address %p for peer `%s'\n",
1259         (GNUNET_NO == cur->active) ? "inactive" : "active", cur,
1260         GNUNET_i2s (&cur->peer));
1261
1262     /* Disabling current address */
1263     asi = cur->solver_information;
1264     cur_net = asi->network ;
1265     cur->active = GNUNET_NO; /* No active any longer */
1266     cur->assigned_bw_in = BANDWIDTH_ZERO; /* no bandwidth assigned */
1267     cur->assigned_bw_out = BANDWIDTH_ZERO; /* no bandwidth assigned */
1268
1269     if (GNUNET_SYSERR == addresse_decrement (s, cur_net, GNUNET_NO, GNUNET_YES))
1270       GNUNET_break(0);
1271
1272     distribute_bandwidth_in_network (s, cur_net, NULL );
1273   }
1274   return;
1275 }
1276
1277 /**
1278  * Remove an address from the solver
1279  *
1280  * @param solver the solver handle
1281  * @param address the address to remove
1282  * @param session_only delete only session not whole address
1283  */
1284 void
1285 GAS_proportional_address_delete (void *solver, struct ATS_Address *address,
1286     int session_only)
1287 {
1288   struct GAS_PROPORTIONAL_Handle *s = solver;
1289   struct Network *net;
1290   struct AddressWrapper *aw;
1291   struct AddressSolverInformation *asi;
1292   const struct ATS_Address *new_address;
1293
1294
1295   /* Remove an adress completely, we have to:
1296    * - Remove from specific network
1297    * - Decrease number of total addresses
1298    * - If active:
1299    *   - decrease number of active addreses
1300    *   - update quotas
1301    */
1302   asi = address->solver_information;
1303
1304   if (NULL == asi)
1305   {
1306     GNUNET_break (0);
1307     return;
1308   }
1309
1310   net = asi->network;
1311
1312   if (GNUNET_NO == session_only)
1313   {
1314     LOG(GNUNET_ERROR_TYPE_INFO,
1315         "Deleting %s address %p for peer `%s' from network `%s' (total: %u/ active: %u)\n",
1316         (GNUNET_NO == address->active) ? "inactive" : "active", address,
1317         GNUNET_i2s (&address->peer), net->desc, net->total_addresses,
1318         net->active_addresses);
1319
1320     /* Remove address */
1321     addresse_decrement (s, net, GNUNET_YES, GNUNET_NO);
1322     for (aw = net->head; NULL != aw; aw = aw->next)
1323     {
1324       if (aw->addr == address)
1325         break;
1326     }
1327     if (NULL == aw)
1328     {
1329       GNUNET_break(0);
1330       return;
1331     }
1332     GNUNET_CONTAINER_DLL_remove(net->head, net->tail, aw);
1333     GNUNET_free_non_null (aw->addr->solver_information);
1334     GNUNET_free(aw);
1335   }
1336   else
1337   {
1338     /* Remove session only: remove if active and update */
1339     LOG(GNUNET_ERROR_TYPE_INFO,
1340         "Deleting %s session %p for peer `%s' from network `%s' (total: %u/ active: %u)\n",
1341         (GNUNET_NO == address->active) ? "inactive" : "active", address,
1342         GNUNET_i2s (&address->peer), net->desc, net->total_addresses,
1343         net->active_addresses);
1344   }
1345
1346   if (GNUNET_YES == address->active)
1347   {
1348     /* Address was active, remove from network and update quotas*/
1349     address->active = GNUNET_NO;
1350     address->assigned_bw_in = BANDWIDTH_ZERO;
1351     address->assigned_bw_out = BANDWIDTH_ZERO;
1352     asi->calculated_quota_in_NBO = htonl (0);
1353     asi->calculated_quota_out_NBO = htonl (0);
1354
1355     if (GNUNET_SYSERR == addresse_decrement (s, net, GNUNET_NO, GNUNET_YES))
1356       GNUNET_break(0);
1357     distribute_bandwidth_in_network (s, net, NULL);
1358     if (NULL == (new_address = GAS_proportional_get_preferred_address (s, &address->peer)))
1359     {
1360       /* No alternative address found, disconnect peer */
1361       s->bw_changed (s->bw_changed_cls, address);
1362     }
1363     else
1364     {
1365       s->bw_changed (s->bw_changed_cls, (struct ATS_Address *) new_address);
1366     }
1367   }
1368   LOG(GNUNET_ERROR_TYPE_INFO,
1369       "After deleting address now total %u and active %u addresses in network `%s'\n",
1370       net->total_addresses, net->active_addresses, net->desc);
1371
1372 }
1373
1374 /**
1375  * Start a bulk operation
1376  *
1377  * @param solver the solver
1378  */
1379 void
1380 GAS_proportional_bulk_start (void *solver)
1381 {
1382   LOG(GNUNET_ERROR_TYPE_DEBUG, "Locking solver for bulk operation ...\n");
1383   struct GAS_PROPORTIONAL_Handle *s = (struct GAS_PROPORTIONAL_Handle *) solver;
1384
1385   GNUNET_assert(NULL != solver);
1386   s->bulk_lock++;
1387 }
1388
1389
1390 /**
1391  * Bulk operation done
1392  */
1393 void
1394 GAS_proportional_bulk_stop (void *solver)
1395 {
1396   LOG(GNUNET_ERROR_TYPE_DEBUG, "Unlocking solver from bulk operation ...\n");
1397
1398   struct GAS_PROPORTIONAL_Handle *s = (struct GAS_PROPORTIONAL_Handle *) solver;
1399   GNUNET_assert(NULL != solver);
1400
1401   if (s->bulk_lock < 1)
1402   {
1403     GNUNET_break(0);
1404     return;
1405   }
1406   s->bulk_lock--;
1407   if ((0 == s->bulk_lock) && (0 < s->bulk_requests))
1408   {
1409     LOG(GNUNET_ERROR_TYPE_DEBUG, "No lock pending, recalculating\n");
1410     distribute_bandwidth_in_network (s, NULL, NULL);
1411     s->bulk_requests = 0;
1412   }
1413 }
1414
1415
1416 /**
1417  * Add a new single address to a network
1418  *
1419  * @param solver the solver Handle
1420  * @param address the address to add
1421  * @param network network type of this address
1422  */
1423 void
1424 GAS_proportional_address_add (void *solver, struct ATS_Address *address,
1425     uint32_t network);
1426
1427 /**
1428  * Transport properties for this address have changed
1429  *
1430  * @param solver solver handle
1431  * @param address the address
1432  * @param type the ATSI type in HBO
1433  * @param abs_value the absolute value of the property
1434  * @param rel_value the normalized value
1435  */
1436 void
1437 GAS_proportional_address_property_changed (void *solver,
1438     struct ATS_Address *address, uint32_t type, uint32_t abs_value,
1439     double rel_value)
1440 {
1441   struct GAS_PROPORTIONAL_Handle *s;
1442   struct Network *n;
1443   struct AddressSolverInformation *asi;
1444
1445   GNUNET_assert(NULL != solver);
1446   GNUNET_assert(NULL != address);
1447
1448   s = (struct GAS_PROPORTIONAL_Handle *) solver;
1449   asi = address->solver_information;
1450   if (NULL == asi)
1451   {
1452     GNUNET_break(0);
1453     return;
1454   }
1455
1456   n = asi->network;
1457
1458   if (NULL == n)
1459   {
1460     GNUNET_break(0);
1461     return;
1462   }
1463
1464   LOG(GNUNET_ERROR_TYPE_DEBUG,
1465       "Property `%s' for peer `%s' address %p changed to %.2f \n",
1466       GNUNET_ATS_print_property_type (type), GNUNET_i2s (&address->peer),
1467       address, rel_value);
1468   switch (type)
1469   {
1470   case GNUNET_ATS_UTILIZATION_OUT:
1471   case GNUNET_ATS_UTILIZATION_IN:
1472   case GNUNET_ATS_UTILIZATION_PAYLOAD_IN:
1473   case GNUNET_ATS_UTILIZATION_PAYLOAD_OUT:
1474   case GNUNET_ATS_QUALITY_NET_DELAY:
1475   case GNUNET_ATS_QUALITY_NET_DISTANCE:
1476   case GNUNET_ATS_COST_WAN:
1477   case GNUNET_ATS_COST_LAN:
1478   case GNUNET_ATS_COST_WLAN:
1479     distribute_bandwidth_in_network (s, n, NULL);
1480     break;
1481   }
1482 }
1483
1484 /**
1485  * Transport session for this address has changed
1486  *
1487  * NOTE: values in addresses are already updated
1488  *
1489  * @param solver solver handle
1490  * @param address the address
1491  * @param cur_session the current session
1492  * @param new_session the new session
1493  */
1494 void
1495 GAS_proportional_address_session_changed (void *solver,
1496     struct ATS_Address *address, uint32_t cur_session, uint32_t new_session)
1497 {
1498   if (cur_session != new_session)
1499   {
1500     LOG(GNUNET_ERROR_TYPE_DEBUG, "Session changed from %u to %u\n", cur_session,
1501         new_session);
1502   }
1503 }
1504
1505 /**
1506  * Usage for this address has changed
1507  *
1508  * NOTE: values in addresses are already updated
1509  *
1510  * @param solver solver handle
1511  * @param address the address
1512  * @param in_use usage state
1513  */
1514 void
1515 GAS_proportional_address_inuse_changed (void *solver,
1516     struct ATS_Address *address, int in_use)
1517 {
1518   LOG(GNUNET_ERROR_TYPE_DEBUG, "Usage changed to %s\n",
1519       (GNUNET_YES == in_use) ? "USED" : "UNUSED");
1520 }
1521
1522 /**
1523  * Network scope for this address has changed
1524  *
1525  * NOTE: values in addresses are already updated
1526  *
1527  * @param solver solver handle
1528  * @param address the address
1529  * @param current_network the current network
1530  * @param new_network the new network
1531  */
1532 void
1533 GAS_proportional_address_change_network (void *solver,
1534     struct ATS_Address *address, uint32_t current_network, uint32_t new_network)
1535 {
1536   struct GAS_PROPORTIONAL_Handle *s = (struct GAS_PROPORTIONAL_Handle *) solver;
1537   struct AddressSolverInformation *asi;
1538   int save_active = GNUNET_NO;
1539
1540   struct Network *new_net = NULL;
1541
1542   if (current_network == new_network)
1543   {
1544     GNUNET_break(0);
1545     return;
1546   }
1547
1548   asi = address->solver_information;
1549   if (NULL == asi)
1550   {
1551     GNUNET_break(0);
1552     return;
1553   }
1554
1555
1556   /* Network changed */
1557   LOG(GNUNET_ERROR_TYPE_DEBUG,
1558       "Network type changed, moving %s address from `%s' to `%s'\n",
1559       (GNUNET_YES == address->active) ? "active" : "inactive",
1560       GNUNET_ATS_print_network_type (current_network),
1561       GNUNET_ATS_print_network_type (new_network));
1562
1563   save_active = address->active;
1564
1565   /* Disable and assign no bandwidth */
1566   address->active = GNUNET_NO;
1567   address->assigned_bw_in = BANDWIDTH_ZERO; /* no bandwidth assigned */
1568   address->assigned_bw_out = BANDWIDTH_ZERO; /* no bandwidth assigned */
1569
1570   /* Remove from old network */
1571   GAS_proportional_address_delete (solver, address, GNUNET_NO);
1572
1573   /* Set new network type */
1574   if (NULL == (new_net = get_network (solver, new_network)))
1575   {
1576     /* Address changed to invalid network... */
1577     LOG(GNUNET_ERROR_TYPE_ERROR,
1578         _("Invalid network type `%u' `%s': Disconnect!\n"), new_network,
1579         GNUNET_ATS_print_network_type (new_network));
1580
1581     /* Find new address to suggest since no bandwidth in network*/
1582     if (NULL == GAS_proportional_get_preferred_address (s, &address->peer))
1583     {
1584       /* No alternative address found, disconnect peer */
1585       s->bw_changed (s->bw_changed_cls, address);
1586     }
1587     return;
1588   }
1589
1590   /* Add to new network and update*/
1591   asi->network = new_net;
1592   GAS_proportional_address_add (solver, address, new_network);
1593   if (GNUNET_YES == save_active)
1594   {
1595     /* check if bandwidth available in new network */
1596     if (GNUNET_YES == (is_bandwidth_available_in_network (new_net)))
1597     {
1598       /* Assign bandwidth to updated address */
1599       address->active = GNUNET_YES;
1600       addresse_increment (s, new_net, GNUNET_NO, GNUNET_YES);
1601       distribute_bandwidth_in_network (solver, new_net, NULL);
1602     }
1603     else
1604     {
1605       LOG(GNUNET_ERROR_TYPE_DEBUG,
1606           "Not enough bandwidth in new network, suggesting alternative address ..\n");
1607       /* Find new address to suggest since no bandwidth in network*/
1608       if (NULL == GAS_proportional_get_preferred_address (s, &address->peer))
1609       {
1610         /* No alternative address found, disconnect peer */
1611         s->bw_changed (s->bw_changed_cls, address);
1612       }
1613     }
1614   }
1615 }
1616
1617 /**
1618  * Add a new single address to a network
1619  *
1620  * @param solver the solver Handle
1621  * @param address the address to add
1622  * @param network network type of this address
1623  */
1624 void
1625 GAS_proportional_address_add (void *solver, struct ATS_Address *address,
1626     uint32_t network)
1627 {
1628   struct GAS_PROPORTIONAL_Handle *s = solver;
1629   struct Network *net = NULL;
1630   struct AddressWrapper *aw = NULL;
1631   struct AddressSolverInformation *asi;
1632
1633   GNUNET_assert(NULL != s);
1634   net = get_network (s, network);
1635   if (NULL == net)
1636   {
1637     GNUNET_break(0);
1638
1639     LOG(GNUNET_ERROR_TYPE_ERROR,
1640         "Unknown network %u `%s' for new address %p for peer `%s'\n",
1641         network, GNUNET_ATS_print_network_type(network),
1642         address, GNUNET_i2s(&address->peer));
1643
1644     return;
1645   }
1646
1647   aw = GNUNET_new (struct AddressWrapper);
1648   aw->addr = address;
1649   GNUNET_CONTAINER_DLL_insert(net->head, net->tail, aw);
1650   addresse_increment (s, net, GNUNET_YES, GNUNET_NO);
1651
1652   asi = GNUNET_new (struct AddressSolverInformation);
1653   asi->network = net;
1654   asi->calculated_quota_in_NBO = htonl (0);
1655   asi->calculated_quota_out_NBO = htonl (0);
1656   aw->addr->solver_information = asi;
1657
1658   if (GNUNET_YES == GNUNET_CONTAINER_multipeermap_contains (s->requests, &address->peer))
1659   {
1660     if (NULL == get_active_address (s, s->addresses, &address->peer))
1661     {
1662       if (NULL != GAS_proportional_get_preferred_address (s, &address->peer))
1663           s->bw_changed (s->bw_changed_cls, (struct ATS_Address *) address);
1664     }
1665   }
1666
1667   LOG(GNUNET_ERROR_TYPE_INFO,
1668       "Adding new address %p for peer `%s', now total %u and active %u addresses in network `%s'\n",
1669       address, GNUNET_i2s(&address->peer), net->total_addresses, net->active_addresses, net->desc);
1670 }
1671
1672
1673 /* end of plugin_ats_proportional.c */