src/util/connection.c

   1 /*
   2      This file is part of GNUnet.
   3      (C) 2009 Christian Grothoff (and other contributing authors)
   4
   5      GNUnet is free software; you can redistribute it and/or modify
   6      it under the terms of the GNU General Public License as published
   7      by the Free Software Foundation; either version 2, or (at your
   8      option) any later version.
   9
  10      GNUnet is distributed in the hope that it will be useful, but
  11      WITHOUT ANY WARRANTY; without even the implied warranty of
  12      MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13      General Public License for more details.
  14
  15      You should have received a copy of the GNU General Public License
  16      along with GNUnet; see the file COPYING.  If not, write to the
  17      Free Software Foundation, Inc., 59 Temple Place - Suite 330,
  18      Boston, MA 02111-1307, USA.
  19 */
  20
  21 /**
  22  * @file util/connection.c
  23  * @brief  TCP connection management
  24  * @author Christian Grothoff
  25  *
  26  * This code is rather complex.  Only modify it if you
  27  * 1) Have a NEW testcase showing that the new code
  28  *    is needed and correct
  29  * 2) All EXISTING testcases pass with the new code
  30  * These rules should apply in general, but for this
  31  * module they are VERY, VERY important.
  32  */
  33
  34 #include "platform.h"
  35 #include "gnunet_common.h"
  36 #include "gnunet_connection_lib.h"
  37 #include "gnunet_container_lib.h"
  38 #include "gnunet_resolver_service.h"
  39 #include "gnunet_scheduler_lib.h"
  40 #include "gnunet_server_lib.h"
  41
  42 #define DEBUG_CONNECTION GNUNET_NO
  43
  44 /**
  45  * Possible functions to call after connect failed or succeeded.
  46  */
  47 enum ConnectContinuations
  48 {
  49     /**
  50      * Call nothing.
  51      */
  52   COCO_NONE = 0,
  53
  54     /**
  55      * Call "receive_again".
  56      */
  57   COCO_RECEIVE_AGAIN = 1,
  58
  59     /**
  60      * Call "transmit_ready".
  61      */
  62   COCO_TRANSMIT_READY = 2,
  63
  64     /**
  65      * Call "destroy_continuation".
  66      */
  67   COCO_DESTROY_CONTINUATION = 4
  68 };
  69
  70
  71 /**
  72  * Transmission handle.  There can only be one for each connection.
  73  */
  74 struct GNUNET_CONNECTION_TransmitHandle
  75 {
  76
  77   /**
  78    * Function to call if the send buffer has notify_size
  79    * bytes available.
  80    */
  81   GNUNET_CONNECTION_TransmitReadyNotify notify_ready;
  82
  83   /**
  84    * Closure for notify_ready.
  85    */
  86   void *notify_ready_cls;
  87
  88   /**
  89    * Our socket handle.
  90    */
  91   struct GNUNET_CONNECTION_Handle *sh;
  92
  93   /**
  94    * Timeout for receiving (in absolute time).
  95    */
  96   struct GNUNET_TIME_Absolute transmit_timeout;
  97
  98   /**
  99    * Task called on timeout.
 100    */
 101   GNUNET_SCHEDULER_TaskIdentifier timeout_task;
 102
 103   /**
 104    * At what number of bytes available in the
 105    * write buffer should the notify method be called?
 106    */
 107   size_t notify_size;
 108
 109 };
 110
 111
 112 /**
 113  * During connect, we try multiple possible IP addresses
 114  * to find out which one might work.
 115  */
 116 struct AddressProbe
 117 {
 118
 119   /**
 120    * This is a linked list.
 121    */
 122   struct AddressProbe *next;
 123
 124   /**
 125    * This is a doubly-linked list.
 126    */
 127   struct AddressProbe *prev;
 128
 129   /**
 130    * The address; do not free (allocated at the end of this struct).
 131    */
 132   const struct sockaddr *addr;
 133
 134   /**
 135    * Underlying OS's socket.
 136    */
 137   struct GNUNET_NETWORK_Handle *sock;
 138
 139   /**
 140    * Connection for which we are probing.
 141    */
 142   struct GNUNET_CONNECTION_Handle *h;
 143
 144   /**
 145    * Lenth of addr.
 146    */
 147   socklen_t addrlen;
 148
 149   /**
 150    * Task waiting for the socket to finish connecting.
 151    */
 152   GNUNET_SCHEDULER_TaskIdentifier task;
 153 };
 154
 155
 156 /**
 157  * @brief handle for a network socket
 158  */
 159 struct GNUNET_CONNECTION_Handle
 160 {
 161
 162   /**
 163    * Configuration to use.
 164    */
 165   const struct GNUNET_CONFIGURATION_Handle *cfg;
 166
 167   /**
 168    * Linked list of sockets we are currently trying out
 169    * (during connect).
 170    */
 171   struct AddressProbe *ap_head;
 172
 173   /**
 174    * Linked list of sockets we are currently trying out
 175    * (during connect).
 176    */
 177   struct AddressProbe *ap_tail;
 178
 179   /**
 180    * Network address of the other end-point, may be NULL.
 181    */
 182   struct sockaddr *addr;
 183
 184   /**
 185    * Pointer to the hostname if socket was
 186    * created using DNS lookup, otherwise NULL.
 187    */
 188   char *hostname;
 189
 190   /**
 191    * Underlying OS's socket, set to NULL after fatal errors.
 192    */
 193   struct GNUNET_NETWORK_Handle *sock;
 194
 195   /**
 196    * Function to call on data received, NULL if no receive is pending.
 197    */
 198   GNUNET_CONNECTION_Receiver receiver;
 199
 200   /**
 201    * Closure for receiver.
 202    */
 203   void *receiver_cls;
 204
 205   /**
 206    * Pointer to our write buffer.
 207    */
 208   char *write_buffer;
 209
 210   /**
 211    * Current size of our write buffer.
 212    */
 213   size_t write_buffer_size;
 214
 215   /**
 216    * Current write-offset in write buffer (where
 217    * would we write next).
 218    */
 219   size_t write_buffer_off;
 220
 221   /**
 222    * Current read-offset in write buffer (how many
 223    * bytes have already been sent).
 224    */
 225   size_t write_buffer_pos;
 226
 227   /**
 228    * Length of addr.
 229    */
 230   socklen_t addrlen;
 231
 232   /**
 233    * Read task that we may need to wait for.
 234    */
 235   GNUNET_SCHEDULER_TaskIdentifier read_task;
 236
 237   /**
 238    * Write task that we may need to wait for.
 239    */
 240   GNUNET_SCHEDULER_TaskIdentifier write_task;
 241
 242   /**
 243    * Destroy task (if already scheduled).
 244    */
 245   GNUNET_SCHEDULER_TaskIdentifier destroy_task;
 246
 247   /**
 248    * Handle to a pending DNS lookup request.
 249    */
 250   struct GNUNET_RESOLVER_RequestHandle *dns_active;
 251
 252   /**
 253    * The handle we return for GNUNET_CONNECTION_notify_transmit_ready.
 254    */
 255   struct GNUNET_CONNECTION_TransmitHandle nth;
 256
 257   /**
 258    * Timeout for receiving (in absolute time).
 259    */
 260   struct GNUNET_TIME_Absolute receive_timeout;
 261
 262   /**
 263    * Functions to call after connect failed or succeeded.
 264    */
 265   enum ConnectContinuations ccs;
 266
 267   /**
 268    * Maximum number of bytes to read (for receiving).
 269    */
 270   size_t max;
 271
 272   /**
 273    * Ignore GNUNET_SCHEDULER_REASON_SHUTDOWN for this socket.
 274    */
 275   int ignore_shutdown;
 276
 277   /**
 278    * Port to connect to.
 279    */
 280   uint16_t port;
 281
 282   /**
 283    * When shutdown, do not ever actually close the socket, but
 284    * free resources.  Only should ever be set if using program
 285    * termination as a signal (because only then will the leaked
 286    * socket be freed!)
 287    */
 288   int16_t persist;
 289
 290 };
 291
 292 /**
 293  * Set the persist option on this connection handle.  Indicates
 294  * that the underlying socket or fd should never really be closed.
 295  * Used for indicating process death.
 296  *
 297  * @param sock the connection to set persistent
 298  */
 299 void
 300 GNUNET_CONNECTION_persist_ (struct GNUNET_CONNECTION_Handle *sock)
 301 {
 302   sock->persist = GNUNET_YES;
 303 }
 304
 305
 306 /**
 307  * Disable the "CORK" feature for communication with the given socket,
 308  * forcing the OS to immediately flush the buffer on transmission
 309  * instead of potentially buffering multiple messages.  Essentially
 310  * reduces the OS send buffers to zero.
 311  * Used to make sure that the last messages sent through the connection
 312  * reach the other side before the process is terminated.
 313  *
 314  * @param sock the connection to make flushing and blocking
 315  * @return GNUNET_OK on success
 316  */
 317 int
 318 GNUNET_CONNECTION_disable_corking (struct GNUNET_CONNECTION_Handle *sock)
 319 {
 320   return GNUNET_NETWORK_socket_disable_corking (sock->sock);
 321 }
 322
 323 /**
 324  * Create a socket handle by boxing an existing OS socket.  The OS
 325  * socket should henceforth be no longer used directly.
 326  * GNUNET_socket_destroy will close it.
 327  *
 328  * @param osSocket existing socket to box
 329  * @return the boxed socket handle
 330  */
 331 struct GNUNET_CONNECTION_Handle *
 332 GNUNET_CONNECTION_create_from_existing (struct GNUNET_NETWORK_Handle *osSocket)
 333 {
 334   struct GNUNET_CONNECTION_Handle *ret;
 335
 336   ret = GNUNET_malloc (sizeof (struct GNUNET_CONNECTION_Handle));
 337   ret->write_buffer_size = GNUNET_SERVER_MIN_BUFFER_SIZE;
 338   ret->write_buffer = GNUNET_malloc (ret->write_buffer_size);
 339   ret->sock = osSocket;
 340   return ret;
 341 }
 342
 343
 344 /**
 345  * Create a socket handle by accepting on a listen socket.  This
 346  * function may block if the listen socket has no connection ready.
 347  *
 348  * @param access function to use to check if access is allowed
 349  * @param access_cls closure for access
 350  * @param lsock listen socket
 351  * @return the socket handle, NULL on error
 352  */
 353 struct GNUNET_CONNECTION_Handle *
 354 GNUNET_CONNECTION_create_from_accept (GNUNET_CONNECTION_AccessCheck access,
 355                                       void *access_cls,
 356                                       struct GNUNET_NETWORK_Handle *lsock)
 357 {
 358   struct GNUNET_CONNECTION_Handle *ret;
 359   char addr[128];
 360   socklen_t addrlen;
 361   struct GNUNET_NETWORK_Handle *sock;
 362   int aret;
 363   struct sockaddr_in *v4;
 364   struct sockaddr_in6 *v6;
 365   struct sockaddr *sa;
 366   void *uaddr;
 367   struct GNUNET_CONNECTION_Credentials *gcp;
 368   struct GNUNET_CONNECTION_Credentials gc;
 369
 370 #ifdef SO_PEERCRED
 371   struct ucred uc;
 372   socklen_t olen;
 373 #endif
 374
 375   addrlen = sizeof (addr);
 376   sock =
 377       GNUNET_NETWORK_socket_accept (lsock, (struct sockaddr *) &addr, &addrlen);
 378   if (NULL == sock)
 379   {
 380     GNUNET_log_strerror (GNUNET_ERROR_TYPE_WARNING, "accept");
 381     return NULL;
 382   }
 383   if ((addrlen > sizeof (addr)) || (addrlen < sizeof (sa_family_t)))
 384   {
 385     GNUNET_break (0);
 386     GNUNET_break (GNUNET_OK == GNUNET_NETWORK_socket_close (sock));
 387     return NULL;
 388   }
 389
 390   sa = (struct sockaddr *) addr;
 391   v6 = (struct sockaddr_in6 *) addr;
 392   if ((sa->sa_family == AF_INET6) && (IN6_IS_ADDR_V4MAPPED (&v6->sin6_addr)))
 393   {
 394     /* convert to V4 address */
 395     v4 = GNUNET_malloc (sizeof (struct sockaddr_in));
 396     memset (v4, 0, sizeof (struct sockaddr_in));
 397     v4->sin_family = AF_INET;
 398 #if HAVE_SOCKADDR_IN_SIN_LEN
 399     v4->sin_len = (u_char) sizeof (struct sockaddr_in);
 400 #endif
 401     memcpy (&v4->sin_addr,
 402             &((char *) &v6->sin6_addr)[sizeof (struct in6_addr) -
 403                                        sizeof (struct in_addr)],
 404             sizeof (struct in_addr));
 405     v4->sin_port = v6->sin6_port;
 406     uaddr = v4;
 407     addrlen = sizeof (struct sockaddr_in);
 408   }
 409   else
 410   {
 411     uaddr = GNUNET_malloc (addrlen);
 412     memcpy (uaddr, addr, addrlen);
 413   }
 414   gcp = NULL;
 415   gc.uid = 0;
 416   gc.gid = 0;
 417   if (sa->sa_family == AF_UNIX)
 418   {
 419 #if HAVE_GETPEEREID
 420     /* most BSDs */
 421     if (0 == getpeereid (GNUNET_NETWORK_get_fd (sock), &gc.uid, &gc.gid))
 422       gcp = &gc;
 423 #else
 424 #ifdef SO_PEERCRED
 425     /* largely traditional GNU/Linux */
 426     olen = sizeof (uc);
 427     if ((0 ==
 428          getsockopt (GNUNET_NETWORK_get_fd (sock), SOL_SOCKET, SO_PEERCRED, &uc,
 429                      &olen)) && (olen == sizeof (uc)))
 430     {
 431       gc.uid = uc.uid;
 432       gc.gid = uc.gid;
 433       gcp = &gc;
 434     }
 435 #else
 436 #if HAVE_GETPEERUCRED
 437     /* this is for Solaris 10 */
 438     ucred_t *uc;
 439
 440     uc = NULL;
 441     if (0 == getpeerucred (GNUNET_NETWORK_get_fd (sock), &uc))
 442     {
 443       gc.uid = ucred_geteuid (uc);
 444       gc.gid = ucred_getegid (uc);
 445       gcp = &gc;
 446     }
 447     ucred_free (uc);
 448 #endif
 449 #endif
 450 #endif
 451   }
 452
 453   if ((access != NULL) &&
 454       (GNUNET_YES != (aret = access (access_cls, gcp, uaddr, addrlen))))
 455   {
 456     if (aret == GNUNET_NO)
 457       GNUNET_log (GNUNET_ERROR_TYPE_INFO, _("Access denied to `%s'\n"),
 458                   GNUNET_a2s (uaddr, addrlen));
 459     GNUNET_break (GNUNET_OK ==
 460                   GNUNET_NETWORK_socket_shutdown (sock, SHUT_RDWR));
 461     GNUNET_break (GNUNET_OK == GNUNET_NETWORK_socket_close (sock));
 462     GNUNET_free (uaddr);
 463     return NULL;
 464   }
 465   ret = GNUNET_malloc (sizeof (struct GNUNET_CONNECTION_Handle));
 466   ret->write_buffer_size = GNUNET_SERVER_MIN_BUFFER_SIZE;
 467   ret->write_buffer = GNUNET_malloc (ret->write_buffer_size);
 468   ret->addr = uaddr;
 469   ret->addrlen = addrlen;
 470   ret->sock = sock;
 471 #if DEBUG_CONNECTION
 472   GNUNET_log (GNUNET_ERROR_TYPE_INFO, _("Accepting connection from `%s': %p\n"),
 473               GNUNET_a2s (uaddr, addrlen), ret);
 474 #endif
 475   return ret;
 476 }
 477
 478 /**
 479  * Obtain the network address of the other party.
 480  *
 481  * @param sock the client to get the address for
 482  * @param addr where to store the address
 483  * @param addrlen where to store the length of the address
 484  * @return GNUNET_OK on success
 485  */
 486 int
 487 GNUNET_CONNECTION_get_address (struct GNUNET_CONNECTION_Handle *sock,
 488                                void **addr, size_t * addrlen)
 489 {
 490   if ((sock->addr == NULL) || (sock->addrlen == 0))
 491     return GNUNET_NO;
 492   *addr = GNUNET_malloc (sock->addrlen);
 493   memcpy (*addr, sock->addr, sock->addrlen);
 494   *addrlen = sock->addrlen;
 495   return GNUNET_OK;
 496 }
 497
 498
 499 /**
 500  * This function is called after establishing a connection either has
 501  * succeeded or timed out.  Note that it is possible that the attempt
 502  * timed out and that we're immediately retrying.  If we are retrying,
 503  * we need to wait again (or timeout); if we succeeded, we need to
 504  * wait for data (or timeout).
 505  *
 506  * @param cls our connection handle
 507  * @param tc task context describing why we are here
 508  */
 509 static void
 510 receive_again (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc);
 511
 512
 513 /**
 514  * Scheduler let us know that the connect task is finished (or was
 515  * cancelled due to shutdown).  Now really clean up.
 516  *
 517  * @param cls our "struct GNUNET_CONNECTION_Handle *"
 518  * @param tc unused
 519  */
 520 static void
 521 destroy_continuation (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
 522 {
 523   struct GNUNET_CONNECTION_Handle *sock = cls;
 524   GNUNET_CONNECTION_TransmitReadyNotify notify;
 525   struct AddressProbe *pos;
 526
 527   sock->destroy_task = GNUNET_SCHEDULER_NO_TASK;
 528   GNUNET_assert (sock->dns_active == NULL);
 529   if (0 != (sock->ccs & COCO_TRANSMIT_READY))
 530   {
 531 #if DEBUG_CONNECTION
 532     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 533                 "Destroy waits for CCS-TR to be done (%p)\n", sock);
 534 #endif
 535     sock->ccs |= COCO_DESTROY_CONTINUATION;
 536     return;
 537   }
 538   if (sock->write_task != GNUNET_SCHEDULER_NO_TASK)
 539   {
 540 #if DEBUG_CONNECTION
 541     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 542                 "Destroy waits for write_task to be done (%p)\n", sock);
 543 #endif
 544     GNUNET_assert (GNUNET_SCHEDULER_NO_TASK == sock->destroy_task);
 545     sock->destroy_task =
 546         GNUNET_SCHEDULER_add_after (sock->write_task, &destroy_continuation,
 547                                     sock);
 548     return;
 549   }
 550   if (0 != (sock->ccs & COCO_RECEIVE_AGAIN))
 551   {
 552     sock->ccs |= COCO_DESTROY_CONTINUATION;
 553     return;
 554   }
 555   if (sock->sock != NULL)
 556   {
 557 #if DEBUG_CONNECTION
 558     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Shutting down socket (%p)\n", sock);
 559 #endif
 560     if (sock->persist != GNUNET_YES)
 561     {
 562       if ((GNUNET_YES != GNUNET_NETWORK_socket_shutdown (sock->sock, SHUT_RDWR))
 563           && (errno != ENOTCONN) && (errno != ECONNRESET))
 564         GNUNET_log_strerror (GNUNET_ERROR_TYPE_WARNING, "shutdown");
 565     }
 566   }
 567   if (sock->read_task != GNUNET_SCHEDULER_NO_TASK)
 568   {
 569     GNUNET_assert (GNUNET_SCHEDULER_NO_TASK == sock->destroy_task);
 570     sock->destroy_task =
 571         GNUNET_SCHEDULER_add_after (sock->read_task, &destroy_continuation,
 572                                     sock);
 573     return;
 574   }
 575 #if DEBUG_CONNECTION
 576   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Destroy actually runs (%p)!\n", sock);
 577 #endif
 578   while (NULL != (pos = sock->ap_head))
 579   {
 580     GNUNET_break (GNUNET_OK == GNUNET_NETWORK_socket_close (pos->sock));
 581     GNUNET_SCHEDULER_cancel (pos->task);
 582     GNUNET_CONTAINER_DLL_remove (sock->ap_head, sock->ap_tail, pos);
 583     GNUNET_free (pos);
 584   }
 585   GNUNET_assert (sock->nth.timeout_task == GNUNET_SCHEDULER_NO_TASK);
 586   GNUNET_assert (sock->ccs == COCO_NONE);
 587   if (NULL != (notify = sock->nth.notify_ready))
 588   {
 589     sock->nth.notify_ready = NULL;
 590     notify (sock->nth.notify_ready_cls, 0, NULL);
 591   }
 592
 593   if (sock->sock != NULL)
 594   {
 595     if (sock->persist != GNUNET_YES)
 596       GNUNET_break (GNUNET_OK == GNUNET_NETWORK_socket_close (sock->sock));
 597     else
 598       GNUNET_free (sock->sock); /* at least no memory leak (we deliberately
 599                                  * leak the socket in this special case) ... */
 600   }
 601   GNUNET_free_non_null (sock->addr);
 602   GNUNET_free_non_null (sock->hostname);
 603   GNUNET_assert (GNUNET_SCHEDULER_NO_TASK == sock->destroy_task);
 604 #if DEBUG_CONNECTION
 605   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Freeing memory of connection %p.\n",
 606               sock);
 607 #endif
 608   GNUNET_free (sock->write_buffer);
 609   GNUNET_free (sock);
 610 }
 611
 612
 613
 614 /**
 615  * See if we are now connected.  If not, wait longer for
 616  * connect to succeed.  If connected, we should be able
 617  * to write now as well, unless we timed out.
 618  *
 619  * @param cls our connection handle
 620  * @param tc task context describing why we are here
 621  */
 622 static void
 623 transmit_ready (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc);
 624
 625
 626 /**
 627  * We've failed for good to establish a connection.
 628  *
 629  * @param h the connection we tried to establish
 630  */
 631 static void
 632 connect_fail_continuation (struct GNUNET_CONNECTION_Handle *h)
 633 {
 634 #if DEBUG_CONNECTION
 635   GNUNET_log ((0 !=
 636                strncmp (h->hostname, "localhost:",
 637                         10)) ? GNUNET_ERROR_TYPE_INFO :
 638               GNUNET_ERROR_TYPE_WARNING,
 639               _
 640               ("Failed to establish TCP connection to `%s:%u', no further addresses to try.\n"),
 641               h->hostname, h->port);
 642 #endif
 643   /* connect failed / timed out */
 644   GNUNET_break (h->ap_head == NULL);
 645   GNUNET_break (h->ap_tail == NULL);
 646   GNUNET_break (h->dns_active == GNUNET_NO);
 647   GNUNET_break (h->sock == NULL);
 648
 649   /* trigger jobs that used to wait on "connect_task" */
 650   if (0 != (h->ccs & COCO_RECEIVE_AGAIN))
 651   {
 652 #if DEBUG_CONNECTION
 653     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 654                 "connect_fail_continuation triggers receive_again (%p)\n", h);
 655 #endif
 656     h->ccs -= COCO_RECEIVE_AGAIN;
 657     h->read_task = GNUNET_SCHEDULER_add_now (&receive_again, h);
 658   }
 659   if (0 != (h->ccs & COCO_TRANSMIT_READY))
 660   {
 661 #if DEBUG_CONNECTION
 662     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 663                 "connect_fail_continuation cancels timeout_task, triggers transmit_ready (%p)\n",
 664                 h);
 665 #endif
 666     GNUNET_assert (h->nth.timeout_task != GNUNET_SCHEDULER_NO_TASK);
 667     GNUNET_SCHEDULER_cancel (h->nth.timeout_task);
 668     h->nth.timeout_task = GNUNET_SCHEDULER_NO_TASK;
 669     h->ccs -= COCO_TRANSMIT_READY;
 670     GNUNET_assert (h->nth.notify_ready != NULL);
 671     GNUNET_assert (h->write_task == GNUNET_SCHEDULER_NO_TASK);
 672     h->write_task = GNUNET_SCHEDULER_add_now (&transmit_ready, h);
 673   }
 674   if (0 != (h->ccs & COCO_DESTROY_CONTINUATION))
 675   {
 676 #if DEBUG_CONNECTION
 677     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 678                 "connect_fail_continuation runs destroy_continuation (%p)\n",
 679                 h);
 680 #endif
 681     h->ccs -= COCO_DESTROY_CONTINUATION;
 682     GNUNET_assert (GNUNET_SCHEDULER_NO_TASK == h->destroy_task);
 683     h->destroy_task = GNUNET_SCHEDULER_add_now (&destroy_continuation, h);
 684   }
 685 }
 686
 687
 688 /**
 689  * We've succeeded in establishing a connection.
 690  *
 691  * @param h the connection we tried to establish
 692  */
 693 static void
 694 connect_success_continuation (struct GNUNET_CONNECTION_Handle *h)
 695 {
 696 #if DEBUG_CONNECTION
 697   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Connection to `%s' succeeded! (%p)\n",
 698               GNUNET_a2s (h->addr, h->addrlen), h);
 699 #endif
 700   /* trigger jobs that waited for the connection */
 701   if (0 != (h->ccs & COCO_RECEIVE_AGAIN))
 702   {
 703 #if DEBUG_CONNECTION
 704     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 705                 "connect_success_continuation runs receive_again (%p)\n", h);
 706 #endif
 707     h->ccs -= COCO_RECEIVE_AGAIN;
 708     h->read_task = GNUNET_SCHEDULER_add_now (&receive_again, h);
 709   }
 710   if (0 != (h->ccs & COCO_TRANSMIT_READY))
 711   {
 712 #if DEBUG_CONNECTION
 713     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 714                 "connect_success_continuation runs transmit_ready, cancels timeout_task (%p)\n",
 715                 h);
 716 #endif
 717     GNUNET_assert (h->nth.timeout_task != GNUNET_SCHEDULER_NO_TASK);
 718     GNUNET_SCHEDULER_cancel (h->nth.timeout_task);
 719     h->nth.timeout_task = GNUNET_SCHEDULER_NO_TASK;
 720     h->ccs -= COCO_TRANSMIT_READY;
 721     GNUNET_assert (h->write_task == GNUNET_SCHEDULER_NO_TASK);
 722     GNUNET_assert (h->nth.notify_ready != NULL);
 723     h->write_task =
 724         GNUNET_SCHEDULER_add_write_net (GNUNET_TIME_absolute_get_remaining
 725                                         (h->nth.transmit_timeout), h->sock,
 726                                         &transmit_ready, h);
 727   }
 728   if (0 != (h->ccs & COCO_DESTROY_CONTINUATION))
 729   {
 730 #if DEBUG_CONNECTION
 731     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 732                 "connect_success_continuation runs destroy_continuation (%p)\n",
 733                 h);
 734 #endif
 735     h->ccs -= COCO_DESTROY_CONTINUATION;
 736     GNUNET_assert (GNUNET_SCHEDULER_NO_TASK == h->destroy_task);
 737     h->destroy_task = GNUNET_SCHEDULER_add_now (&destroy_continuation, h);
 738   }
 739 }
 740
 741
 742 /**
 743  * Scheduler let us know that we're either ready to write on the
 744  * socket OR connect timed out.  Do the right thing.
 745  *
 746  * @param cls the "struct AddressProbe*" with the address that we are probing
 747  * @param tc success or failure info about the connect attempt.
 748  */
 749 static void
 750 connect_probe_continuation (void *cls,
 751                             const struct GNUNET_SCHEDULER_TaskContext *tc)
 752 {
 753   struct AddressProbe *ap = cls;
 754   struct GNUNET_CONNECTION_Handle *h = ap->h;
 755   struct AddressProbe *pos;
 756   int error;
 757   socklen_t len;
 758
 759   GNUNET_assert (ap->sock != NULL);
 760   GNUNET_CONTAINER_DLL_remove (h->ap_head, h->ap_tail, ap);
 761   len = sizeof (error);
 762   errno = 0;
 763   error = 0;
 764   if ((0 == (tc->reason & GNUNET_SCHEDULER_REASON_WRITE_READY)) ||
 765       (GNUNET_OK !=
 766        GNUNET_NETWORK_socket_getsockopt (ap->sock, SOL_SOCKET, SO_ERROR, &error,
 767                                          &len)) || (error != 0))
 768   {
 769     GNUNET_break (GNUNET_OK == GNUNET_NETWORK_socket_close (ap->sock));
 770     GNUNET_free (ap);
 771     if ((NULL == h->ap_head) && (h->dns_active == GNUNET_NO))
 772       connect_fail_continuation (h);
 773     return;
 774   }
 775   GNUNET_assert (h->sock == NULL);
 776   h->sock = ap->sock;
 777   GNUNET_assert (h->addr == NULL);
 778   h->addr = GNUNET_malloc (ap->addrlen);
 779   memcpy (h->addr, ap->addr, ap->addrlen);
 780   h->addrlen = ap->addrlen;
 781   GNUNET_free (ap);
 782   /* cancel all other attempts */
 783   while (NULL != (pos = h->ap_head))
 784   {
 785     GNUNET_break (GNUNET_OK == GNUNET_NETWORK_socket_close (pos->sock));
 786     GNUNET_SCHEDULER_cancel (pos->task);
 787     GNUNET_CONTAINER_DLL_remove (h->ap_head, h->ap_tail, pos);
 788     GNUNET_free (pos);
 789   }
 790   connect_success_continuation (h);
 791 }
 792
 793
 794 /**
 795  * Try to establish a socket connection given the specified address.
 796  * This function is called by the resolver once we have a DNS reply.
 797  *
 798  * @param cls our "struct GNUNET_CONNECTION_Handle *"
 799  * @param addr address to try, NULL for "last call"
 800  * @param addrlen length of addr
 801  */
 802 static void
 803 try_connect_using_address (void *cls, const struct sockaddr *addr,
 804                            socklen_t addrlen)
 805 {
 806   struct GNUNET_CONNECTION_Handle *h = cls;
 807   struct AddressProbe *ap;
 808   struct GNUNET_TIME_Relative delay;
 809
 810   if (addr == NULL)
 811   {
 812     h->dns_active = NULL;
 813     if (NULL == h->ap_head)
 814       connect_fail_continuation (h);
 815     return;
 816   }
 817   if (h->sock != NULL)
 818     return;                     /* already connected */
 819   GNUNET_assert (h->addr == NULL);
 820   /* try to connect */
 821 #if DEBUG_CONNECTION
 822   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
 823               "Trying to connect using address `%s:%u/%s:%u'\n", h->hostname,
 824               h->port, GNUNET_a2s (addr, addrlen), h->port);
 825 #endif
 826   ap = GNUNET_malloc (sizeof (struct AddressProbe) + addrlen);
 827   ap->addr = (const struct sockaddr *) &ap[1];
 828   memcpy (&ap[1], addr, addrlen);
 829   ap->addrlen = addrlen;
 830   ap->h = h;
 831
 832   switch (ap->addr->sa_family)
 833   {
 834   case AF_INET:
 835     ((struct sockaddr_in *) ap->addr)->sin_port = htons (h->port);
 836     break;
 837   case AF_INET6:
 838     ((struct sockaddr_in6 *) ap->addr)->sin6_port = htons (h->port);
 839     break;
 840   default:
 841     GNUNET_break (0);
 842     GNUNET_free (ap);
 843     return;                     /* not supported by us */
 844   }
 845   ap->sock = GNUNET_NETWORK_socket_create (ap->addr->sa_family, SOCK_STREAM, 0);
 846   if (ap->sock == NULL)
 847   {
 848     GNUNET_free (ap);
 849     return;                     /* not supported by OS */
 850   }
 851 #if DEBUG_CONNECTION
 852   GNUNET_log (GNUNET_ERROR_TYPE_INFO, _("Trying to connect to `%s' (%p)\n"),
 853               GNUNET_a2s (ap->addr, ap->addrlen), h);
 854 #endif
 855   if ((GNUNET_OK !=
 856        GNUNET_NETWORK_socket_connect (ap->sock, ap->addr, ap->addrlen)) &&
 857       (errno != EINPROGRESS))
 858   {
 859     /* maybe refused / unsupported address, try next */
 860     GNUNET_log_strerror (GNUNET_ERROR_TYPE_INFO, "connect");
 861 #if 0
 862     GNUNET_log (GNUNET_ERROR_TYPE_INFO,
 863                 _("Failed to connect to `%s' (%p)\n"),
 864                 GNUNET_a2s (ap->addr, ap->addrlen), h);
 865 #endif
 866     GNUNET_break (GNUNET_OK == GNUNET_NETWORK_socket_close (ap->sock));
 867     GNUNET_free (ap);
 868     return;
 869   }
 870   GNUNET_CONTAINER_DLL_insert (h->ap_head, h->ap_tail, ap);
 871   delay = GNUNET_CONNECTION_CONNECT_RETRY_TIMEOUT;
 872   if (h->nth.notify_ready != NULL)
 873     delay =
 874         GNUNET_TIME_relative_min (delay,
 875                                   GNUNET_TIME_absolute_get_remaining (h->
 876                                                                       nth.transmit_timeout));
 877   if (h->receiver != NULL)
 878     delay =
 879         GNUNET_TIME_relative_min (delay,
 880                                   GNUNET_TIME_absolute_get_remaining
 881                                   (h->receive_timeout));
 882   ap->task =
 883       GNUNET_SCHEDULER_add_write_net (delay, ap->sock,
 884                                       &connect_probe_continuation, ap);
 885 }
 886
 887
 888 /**
 889  * Create a socket handle by (asynchronously) connecting to a host.
 890  * This function returns immediately, even if the connection has not
 891  * yet been established.  This function only creates TCP connections.
 892  *
 893  * @param cfg configuration to use
 894  * @param hostname name of the host to connect to
 895  * @param port port to connect to
 896  * @return the socket handle
 897  */
 898 struct GNUNET_CONNECTION_Handle *
 899 GNUNET_CONNECTION_create_from_connect (const struct GNUNET_CONFIGURATION_Handle
 900                                        *cfg, const char *hostname,
 901                                        uint16_t port)
 902 {
 903   struct GNUNET_CONNECTION_Handle *ret;
 904
 905   GNUNET_assert (0 < strlen (hostname));        /* sanity check */
 906   ret = GNUNET_malloc (sizeof (struct GNUNET_CONNECTION_Handle));
 907   ret->cfg = cfg;
 908   ret->write_buffer_size = GNUNET_SERVER_MIN_BUFFER_SIZE;
 909   ret->write_buffer = GNUNET_malloc (ret->write_buffer_size);
 910   ret->port = port;
 911   ret->hostname = GNUNET_strdup (hostname);
 912   ret->dns_active =
 913       GNUNET_RESOLVER_ip_get (ret->hostname, AF_UNSPEC,
 914                               GNUNET_CONNECTION_CONNECT_RETRY_TIMEOUT,
 915                               &try_connect_using_address, ret);
 916   return ret;
 917 }
 918
 919
 920 /**
 921  * Create a socket handle by connecting to a UNIX domain service.
 922  * This function returns immediately, even if the connection has not
 923  * yet been established.  This function only creates UNIX connections.
 924  *
 925  * @param cfg configuration to use
 926  * @param unixpath path to connect to
 927  * @return the socket handle, NULL on systems without UNIX support
 928  */
 929 struct GNUNET_CONNECTION_Handle *
 930 GNUNET_CONNECTION_create_from_connect_to_unixpath (const struct
 931                                                    GNUNET_CONFIGURATION_Handle
 932                                                    *cfg, const char *unixpath)
 933 {
 934 #ifdef AF_UNIX
 935   struct GNUNET_CONNECTION_Handle *ret;
 936   struct sockaddr_un *un;
 937   size_t slen;
 938
 939   GNUNET_assert (0 < strlen (unixpath));        /* sanity check */
 940   un = GNUNET_malloc (sizeof (struct sockaddr_un));
 941   un->sun_family = AF_UNIX;
 942   slen = strlen (unixpath);
 943   if (slen >= sizeof (un->sun_path))
 944     slen = sizeof (un->sun_path) - 1;
 945   memcpy (un->sun_path, unixpath, slen);
 946   un->sun_path[slen] = '\0';
 947   slen = sizeof (struct sockaddr_un);
 948 #if HAVE_SOCKADDR_IN_SIN_LEN
 949   un->sun_len = (u_char) slen;
 950 #endif
 951 #if LINUX
 952   un->sun_path[0] = '\0';
 953 #endif
 954   ret = GNUNET_malloc (sizeof (struct GNUNET_CONNECTION_Handle));
 955   ret->cfg = cfg;
 956   ret->write_buffer_size = GNUNET_SERVER_MIN_BUFFER_SIZE;
 957   ret->write_buffer = GNUNET_malloc (ret->write_buffer_size);
 958   ret->port = 0;
 959   ret->hostname = NULL;
 960   ret->addr = (struct sockaddr *) un;
 961   ret->addrlen = slen;
 962   ret->sock = GNUNET_NETWORK_socket_create (AF_UNIX, SOCK_STREAM, 0);
 963   if (NULL == ret->sock)
 964   {
 965     GNUNET_free (ret->addr);
 966     GNUNET_free (ret->write_buffer);
 967     GNUNET_free (ret);
 968     return NULL;
 969   }
 970   if (GNUNET_OK !=
 971       GNUNET_NETWORK_socket_connect (ret->sock, ret->addr, ret->addrlen))
 972   {
 973     /* Just return; we expect everything to work eventually so don't fail HARD */
 974     GNUNET_break (GNUNET_OK == GNUNET_NETWORK_socket_close (ret->sock));
 975     ret->sock = NULL;
 976     return ret;
 977   }
 978   connect_success_continuation (ret);
 979   return ret;
 980 #else
 981   return NULL;
 982 #endif
 983 }
 984
 985
 986 /**
 987  * Create a socket handle by (asynchronously) connecting to a host.
 988  * This function returns immediately, even if the connection has not
 989  * yet been established.  This function only creates TCP connections.
 990  *
 991  * @param af_family address family to use
 992  * @param serv_addr server address
 993  * @param addrlen length of server address
 994  * @return the socket handle
 995  */
 996 struct GNUNET_CONNECTION_Handle *
 997 GNUNET_CONNECTION_create_from_sockaddr (int af_family,
 998                                         const struct sockaddr *serv_addr,
 999                                         socklen_t addrlen)
1000 {
1001   struct GNUNET_NETWORK_Handle *s;
1002   struct GNUNET_CONNECTION_Handle *ret;
1003
1004
1005   s = GNUNET_NETWORK_socket_create (af_family, SOCK_STREAM, 0);
1006   if (s == NULL)
1007   {
1008     GNUNET_log_strerror (GNUNET_ERROR_TYPE_WARNING | GNUNET_ERROR_TYPE_BULK,
1009                          "socket");
1010     return NULL;
1011   }
1012   if ((GNUNET_OK != GNUNET_NETWORK_socket_connect (s, serv_addr, addrlen)) &&
1013       (errno != EINPROGRESS))
1014   {
1015     /* maybe refused / unsupported address, try next */
1016     GNUNET_log_strerror (GNUNET_ERROR_TYPE_INFO, "connect");
1017     GNUNET_log (GNUNET_ERROR_TYPE_INFO,
1018                 _("Attempt to connect to `%s' failed\n"), GNUNET_a2s (serv_addr,
1019                                                                       addrlen));
1020     GNUNET_break (GNUNET_OK == GNUNET_NETWORK_socket_close (s));
1021     return NULL;
1022   }
1023   ret = GNUNET_CONNECTION_create_from_existing (s);
1024   ret->addr = GNUNET_malloc (addrlen);
1025   memcpy (ret->addr, serv_addr, addrlen);
1026   ret->addrlen = addrlen;
1027 #if DEBUG_CONNECTION
1028   GNUNET_log (GNUNET_ERROR_TYPE_INFO, _("Trying to connect to `%s' (%p)\n"),
1029               GNUNET_a2s (serv_addr, addrlen), ret);
1030 #endif
1031   return ret;
1032 }
1033
1034
1035 /**
1036  * Check if socket is valid (no fatal errors have happened so far).
1037  * Note that a socket that is still trying to connect is considered
1038  * valid.
1039  *
1040  * @param sock socket to check
1041  * @return GNUNET_YES if valid, GNUNET_NO otherwise
1042  */
1043 int
1044 GNUNET_CONNECTION_check (struct GNUNET_CONNECTION_Handle *sock)
1045 {
1046   if ((sock->ap_head != NULL) || (sock->dns_active != NULL))
1047     return GNUNET_YES;          /* still trying to connect */
1048   return (sock->sock == NULL) ? GNUNET_NO : GNUNET_YES;
1049 }
1050
1051
1052 /**
1053  * Close the socket and free associated resources. Pending
1054  * transmissions may be completed or dropped depending on the
1055  * arguments.   If a receive call is pending and should
1056  * NOT be completed, 'GNUNET_CONNECTION_receive_cancel'
1057  * should be called explicitly first.
1058  *
1059  * @param sock socket to destroy
1060  * @param finish_pending_write should pending writes be completed or aborted?
1061  *        (this applies to transmissions where the data has already been
1062  *        read from the application; all other transmissions should be
1063  *        aborted using 'GNUNET_CONNECTION_notify_transmit_ready_cancel').
1064  */
1065 void
1066 GNUNET_CONNECTION_destroy (struct GNUNET_CONNECTION_Handle *sock,
1067                            int finish_pending_write)
1068 {
1069   if (GNUNET_NO == finish_pending_write)
1070   {
1071     if (sock->write_task != GNUNET_SCHEDULER_NO_TASK)
1072     {
1073       GNUNET_SCHEDULER_cancel (sock->write_task);
1074       sock->write_task = GNUNET_SCHEDULER_NO_TASK;
1075       sock->write_buffer_off = 0;
1076     }
1077     sock->nth.notify_ready = NULL;
1078   }
1079   if ((sock->write_buffer_off == 0) && (sock->dns_active != NULL))
1080   {
1081     GNUNET_RESOLVER_request_cancel (sock->dns_active);
1082     sock->dns_active = NULL;
1083   }
1084
1085   GNUNET_assert (GNUNET_SCHEDULER_NO_TASK == sock->destroy_task);
1086   sock->destroy_task = GNUNET_SCHEDULER_add_now (&destroy_continuation, sock);
1087 }
1088
1089
1090 /**
1091  * Tell the receiver callback that a timeout was reached.
1092  */
1093 static void
1094 signal_timeout (struct GNUNET_CONNECTION_Handle *sh)
1095 {
1096   GNUNET_CONNECTION_Receiver receiver;
1097
1098 #if DEBUG_CONNECTION
1099   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1100               "Network signals time out to receiver (%p)!\n", sh);
1101 #endif
1102   GNUNET_assert (NULL != (receiver = sh->receiver));
1103   sh->receiver = NULL;
1104   receiver (sh->receiver_cls, NULL, 0, NULL, 0, 0);
1105 }
1106
1107
1108 /**
1109  * Tell the receiver callback that we had an IO error.
1110  */
1111 static void
1112 signal_error (struct GNUNET_CONNECTION_Handle *sh, int errcode)
1113 {
1114   GNUNET_CONNECTION_Receiver receiver;
1115
1116   GNUNET_assert (NULL != (receiver = sh->receiver));
1117   sh->receiver = NULL;
1118   receiver (sh->receiver_cls, NULL, 0, sh->addr, sh->addrlen, errcode);
1119 }
1120
1121
1122 /**
1123  * This function is called once we either timeout
1124  * or have data ready to read.
1125  */
1126 static void
1127 receive_ready (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1128 {
1129   struct GNUNET_CONNECTION_Handle *sh = cls;
1130   struct GNUNET_TIME_Absolute now;
1131   char buffer[sh->max];
1132   ssize_t ret;
1133   GNUNET_CONNECTION_Receiver receiver;
1134
1135   sh->read_task = GNUNET_SCHEDULER_NO_TASK;
1136   if ((GNUNET_YES == sh->ignore_shutdown) &&
1137       (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN)))
1138   {
1139     /* ignore shutdown request, go again immediately */
1140 #if DEBUG_CONNECTION
1141     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1142                 "Ignoring shutdown signal per configuration\n");
1143 #endif
1144     sh->read_task =
1145         GNUNET_SCHEDULER_add_read_net (GNUNET_TIME_absolute_get_remaining
1146                                        (sh->receive_timeout), sh->sock,
1147                                        &receive_ready, sh);
1148     return;
1149   }
1150   now = GNUNET_TIME_absolute_get ();
1151   if ((now.abs_value > sh->receive_timeout.abs_value) ||
1152       (0 != (tc->reason & GNUNET_SCHEDULER_REASON_TIMEOUT)) ||
1153       (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN)))
1154   {
1155 #if DEBUG_CONNECTION
1156     if (0 == (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1157       GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1158                   "Receive from `%s' encounters error: time out by %llums... (%p)\n",
1159                   GNUNET_a2s (sh->addr, sh->addrlen),
1160                   GNUNET_TIME_absolute_get_duration (sh->receive_timeout).
1161                   rel_value, sh);
1162 #endif
1163     signal_timeout (sh);
1164     return;
1165   }
1166   if (sh->sock == NULL)
1167   {
1168     /* connect failed for good */
1169 #if DEBUG_CONNECTION
1170     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1171                 "Receive encounters error, socket closed... (%p)\n", sh);
1172 #endif
1173     signal_error (sh, ECONNREFUSED);
1174     return;
1175   }
1176   GNUNET_assert (GNUNET_NETWORK_fdset_isset (tc->read_ready, sh->sock));
1177 RETRY:
1178   ret = GNUNET_NETWORK_socket_recv (sh->sock, buffer, sh->max);
1179   if (ret == -1)
1180   {
1181     if (errno == EINTR)
1182       goto RETRY;
1183 #if DEBUG_CONNECTION
1184     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Error receiving: %s\n",
1185                 STRERROR (errno));
1186 #endif
1187     signal_error (sh, errno);
1188     return;
1189   }
1190 #if DEBUG_CONNECTION
1191   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1192               "receive_ready read %u/%u bytes from `%s' (%p)!\n",
1193               (unsigned int) ret, sh->max, GNUNET_a2s (sh->addr, sh->addrlen),
1194               sh);
1195 #endif
1196   GNUNET_assert (NULL != (receiver = sh->receiver));
1197   sh->receiver = NULL;
1198   receiver (sh->receiver_cls, buffer, ret, sh->addr, sh->addrlen, 0);
1199 }
1200
1201
1202 /**
1203  * This function is called after establishing a connection either has
1204  * succeeded or timed out.  Note that it is possible that the attempt
1205  * timed out and that we're immediately retrying.  If we are retrying,
1206  * we need to wait again (or timeout); if we succeeded, we need to
1207  * wait for data (or timeout).
1208  *
1209  * @param cls our connection handle
1210  * @param tc task context describing why we are here
1211  */
1212 static void
1213 receive_again (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1214 {
1215   struct GNUNET_CONNECTION_Handle *sh = cls;
1216   struct GNUNET_TIME_Absolute now;
1217
1218   sh->read_task = GNUNET_SCHEDULER_NO_TASK;
1219   if (sh->sock == NULL)
1220   {
1221     /* not connected and no longer trying */
1222 #if DEBUG_CONNECTION
1223     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1224                 "Receive encounters error, socket closed (%p)...\n", sh);
1225 #endif
1226     signal_error (sh, ECONNREFUSED);
1227     return;
1228   }
1229   now = GNUNET_TIME_absolute_get ();
1230   if ((now.abs_value > sh->receive_timeout.abs_value) ||
1231       (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN)))
1232   {
1233 #if DEBUG_CONNECTION
1234     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1235                 "Receive encounters error: time out (%p)...\n", sh);
1236 #endif
1237     signal_timeout (sh);
1238     return;
1239   }
1240   GNUNET_assert (sh->sock != NULL);
1241   /* connect succeeded, wait for data! */
1242   sh->read_task =
1243       GNUNET_SCHEDULER_add_read_net (GNUNET_TIME_absolute_get_remaining
1244                                      (sh->receive_timeout), sh->sock,
1245                                      &receive_ready, sh);
1246 }
1247
1248
1249 /**
1250  * Receive data from the given socket.  Note that this function will
1251  * call "receiver" asynchronously using the scheduler.  It will
1252  * "immediately" return.  Note that there MUST only be one active
1253  * receive call per socket at any given point in time (so do not
1254  * call receive again until the receiver callback has been invoked).
1255  *
1256  * @param sock socket handle
1257  * @param max maximum number of bytes to read
1258  * @param timeout maximum amount of time to wait (use -1 for "forever")
1259  * @param receiver function to call with received data
1260  * @param receiver_cls closure for receiver
1261  */
1262 void
1263 GNUNET_CONNECTION_receive (struct GNUNET_CONNECTION_Handle *sock, size_t max,
1264                            struct GNUNET_TIME_Relative timeout,
1265                            GNUNET_CONNECTION_Receiver receiver,
1266                            void *receiver_cls)
1267 {
1268   struct GNUNET_SCHEDULER_TaskContext tc;
1269
1270   GNUNET_assert ((sock->read_task == GNUNET_SCHEDULER_NO_TASK) &&
1271                  (0 == (sock->ccs & COCO_RECEIVE_AGAIN)) &&
1272                  (sock->receiver == NULL));
1273   sock->receiver = receiver;
1274   sock->receiver_cls = receiver_cls;
1275   sock->receive_timeout = GNUNET_TIME_relative_to_absolute (timeout);
1276   sock->max = max;
1277   if (sock->sock != NULL)
1278   {
1279     memset (&tc, 0, sizeof (tc));
1280     tc.reason = GNUNET_SCHEDULER_REASON_PREREQ_DONE;
1281     receive_again (sock, &tc);
1282     return;
1283   }
1284   if ((sock->dns_active == NULL) && (sock->ap_head == NULL))
1285   {
1286     receiver (receiver_cls, NULL, 0, NULL, 0, ETIMEDOUT);
1287     return;
1288   }
1289   sock->ccs += COCO_RECEIVE_AGAIN;
1290 }
1291
1292
1293 /**
1294  * Configure this connection to ignore shutdown signals.
1295  *
1296  * @param sock socket handle
1297  * @param do_ignore GNUNET_YES to ignore, GNUNET_NO to restore default
1298  */
1299 void
1300 GNUNET_CONNECTION_ignore_shutdown (struct GNUNET_CONNECTION_Handle *sock,
1301                                    int do_ignore)
1302 {
1303   sock->ignore_shutdown = do_ignore;
1304 }
1305
1306
1307 /**
1308  * Cancel receive job on the given socket.  Note that the
1309  * receiver callback must not have been called yet in order
1310  * for the cancellation to be valid.
1311  *
1312  * @param sock socket handle
1313  * @return closure of the original receiver callback closure
1314  */
1315 void *
1316 GNUNET_CONNECTION_receive_cancel (struct GNUNET_CONNECTION_Handle *sock)
1317 {
1318   if (sock->read_task != GNUNET_SCHEDULER_NO_TASK)
1319   {
1320     GNUNET_assert (sock == GNUNET_SCHEDULER_cancel (sock->read_task));
1321     sock->read_task = GNUNET_SCHEDULER_NO_TASK;
1322   }
1323   else
1324   {
1325     GNUNET_assert (0 != (sock->ccs & COCO_RECEIVE_AGAIN));
1326     sock->ccs -= COCO_RECEIVE_AGAIN;
1327   }
1328   sock->receiver = NULL;
1329   return sock->receiver_cls;
1330 }
1331
1332
1333 /**
1334  * Try to call the transmit notify method (check if we do
1335  * have enough space available first)!
1336  *
1337  * @param sock socket for which we should do this processing
1338  * @return GNUNET_YES if we were able to call notify
1339  */
1340 static int
1341 process_notify (struct GNUNET_CONNECTION_Handle *sock)
1342 {
1343   size_t used;
1344   size_t avail;
1345   size_t size;
1346   GNUNET_CONNECTION_TransmitReadyNotify notify;
1347
1348   GNUNET_assert (sock->write_task == GNUNET_SCHEDULER_NO_TASK);
1349   if (NULL == (notify = sock->nth.notify_ready))
1350     return GNUNET_NO;
1351   used = sock->write_buffer_off - sock->write_buffer_pos;
1352   avail = sock->write_buffer_size - used;
1353   size = sock->nth.notify_size;
1354   if (size > avail)
1355     return GNUNET_NO;
1356   sock->nth.notify_ready = NULL;
1357   if (sock->write_buffer_size - sock->write_buffer_off < size)
1358   {
1359     /* need to compact */
1360     memmove (sock->write_buffer, &sock->write_buffer[sock->write_buffer_pos],
1361              used);
1362     sock->write_buffer_off -= sock->write_buffer_pos;
1363     sock->write_buffer_pos = 0;
1364   }
1365   avail = sock->write_buffer_size - sock->write_buffer_off;
1366   GNUNET_assert (avail >= size);
1367   size =
1368       notify (sock->nth.notify_ready_cls, avail,
1369               &sock->write_buffer[sock->write_buffer_off]);
1370   GNUNET_assert (size <= avail);
1371   sock->write_buffer_off += size;
1372   return GNUNET_YES;
1373 }
1374
1375
1376 /**
1377  * Task invoked by the scheduler when a call to transmit
1378  * is timing out (we never got enough buffer space to call
1379  * the callback function before the specified timeout
1380  * expired).
1381  *
1382  * This task notifies the client about the timeout.
1383  *
1384  * @param cls the 'struct GNUNET_CONNECTION_Handle'
1385  * @param tc scheduler context
1386  */
1387 static void
1388 transmit_timeout (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1389 {
1390   struct GNUNET_CONNECTION_Handle *sock = cls;
1391   GNUNET_CONNECTION_TransmitReadyNotify notify;
1392
1393 #if DEBUG_CONNECTION
1394   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "transmit_timeout running (%p)\n", sock);
1395 #endif
1396   sock->nth.timeout_task = GNUNET_SCHEDULER_NO_TASK;
1397 #if DEBUG_CONNECTION
1398   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1399               "Transmit to `%s:%u/%s' fails, time out reached (%p).\n",
1400               sock->hostname, sock->port, GNUNET_a2s (sock->addr,
1401                                                       sock->addrlen), sock);
1402 #endif
1403   GNUNET_assert (0 != (sock->ccs & COCO_TRANSMIT_READY));
1404   sock->ccs -= COCO_TRANSMIT_READY;     /* remove request */
1405   notify = sock->nth.notify_ready;
1406   sock->nth.notify_ready = NULL;
1407   notify (sock->nth.notify_ready_cls, 0, NULL);
1408 }
1409
1410
1411 /**
1412  * Task invoked by the scheduler when we failed to connect
1413  * at the time of being asked to transmit.
1414  *
1415  * This task notifies the client about the error.
1416  *
1417  * @param cls the 'struct GNUNET_CONNECTION_Handle'
1418  * @param tc scheduler context
1419  */
1420 static void
1421 connect_error (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1422 {
1423   struct GNUNET_CONNECTION_Handle *sock = cls;
1424   GNUNET_CONNECTION_TransmitReadyNotify notify;
1425
1426 #if DEBUG_CONNECTION
1427   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1428               "Transmission request of size %u fails (%s/%u), connection failed (%p).\n",
1429               sock->nth.notify_size, sock->hostname, sock->port, sock);
1430 #endif
1431   sock->write_task = GNUNET_SCHEDULER_NO_TASK;
1432   notify = sock->nth.notify_ready;
1433   sock->nth.notify_ready = NULL;
1434   notify (sock->nth.notify_ready_cls, 0, NULL);
1435 }
1436
1437
1438 /**
1439  * FIXME
1440  *
1441  * @param sock FIXME
1442  */
1443 static void
1444 transmit_error (struct GNUNET_CONNECTION_Handle *sock)
1445 {
1446   GNUNET_CONNECTION_TransmitReadyNotify notify;
1447
1448   if (NULL != sock->sock)
1449   {
1450     GNUNET_NETWORK_socket_shutdown (sock->sock, SHUT_RDWR);
1451     GNUNET_break (GNUNET_OK == GNUNET_NETWORK_socket_close (sock->sock));
1452     sock->sock = NULL;
1453   }
1454   if (sock->read_task != GNUNET_SCHEDULER_NO_TASK)
1455   {
1456     GNUNET_SCHEDULER_cancel (sock->read_task);
1457     sock->read_task = GNUNET_SCHEDULER_NO_TASK;
1458     signal_timeout (sock);
1459     return;
1460   }
1461   if (sock->nth.notify_ready == NULL)
1462     return;                     /* nobody to tell about it */
1463   notify = sock->nth.notify_ready;
1464   sock->nth.notify_ready = NULL;
1465   notify (sock->nth.notify_ready_cls, 0, NULL);
1466 }
1467
1468
1469 /**
1470  * See if we are now connected.  If not, wait longer for
1471  * connect to succeed.  If connected, we should be able
1472  * to write now as well, unless we timed out.
1473  *
1474  * @param cls our connection handle
1475  * @param tc task context describing why we are here
1476  */
1477 static void
1478 transmit_ready (void *cls, const struct GNUNET_SCHEDULER_TaskContext *tc)
1479 {
1480   struct GNUNET_CONNECTION_Handle *sock = cls;
1481   GNUNET_CONNECTION_TransmitReadyNotify notify;
1482   ssize_t ret;
1483   size_t have;
1484
1485 #if DEBUG_CONNECTION
1486   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "transmit_ready running (%p).\n", sock);
1487 #endif
1488   GNUNET_assert (sock->write_task != GNUNET_SCHEDULER_NO_TASK);
1489   sock->write_task = GNUNET_SCHEDULER_NO_TASK;
1490   GNUNET_assert (sock->nth.timeout_task == GNUNET_SCHEDULER_NO_TASK);
1491   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_SHUTDOWN))
1492   {
1493     if (sock->ignore_shutdown == GNUNET_YES)
1494       goto SCHEDULE_WRITE;      /* ignore shutdown, go again immediately */
1495 #if DEBUG_CONNECTION
1496     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1497                 "Transmit to `%s' fails, shutdown happened (%p).\n",
1498                 GNUNET_a2s (sock->addr, sock->addrlen), sock);
1499 #endif
1500     notify = sock->nth.notify_ready;
1501     if (NULL != notify)
1502     {
1503       sock->nth.notify_ready = NULL;
1504       notify (sock->nth.notify_ready_cls, 0, NULL);
1505     }
1506     return;
1507   }
1508   if (0 != (tc->reason & GNUNET_SCHEDULER_REASON_TIMEOUT))
1509   {
1510 #if DEBUG_CONNECTION
1511     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1512                 "Transmit to `%s' fails, time out reached (%p).\n",
1513                 GNUNET_a2s (sock->addr, sock->addrlen), sock);
1514 #endif
1515     notify = sock->nth.notify_ready;
1516     GNUNET_assert (NULL != notify);
1517     sock->nth.notify_ready = NULL;
1518     notify (sock->nth.notify_ready_cls, 0, NULL);
1519     return;
1520   }
1521   GNUNET_assert (NULL != sock->sock);
1522   if (tc->write_ready == NULL)
1523   {
1524     /* special circumstances (in particular,
1525      * PREREQ_DONE after connect): not yet ready to write,
1526      * but no "fatal" error either.  Hence retry.  */
1527     goto SCHEDULE_WRITE;
1528   }
1529   if (!GNUNET_NETWORK_fdset_isset (tc->write_ready, sock->sock))
1530   {
1531 #if DEBUG_CONNECTION
1532     GNUNET_log (GNUNET_ERROR_TYPE_INFO,
1533                 _
1534                 ("Could not satisfy pending transmission request, socket closed or connect failed (%p).\n"),
1535                 sock);
1536 #endif
1537     transmit_error (sock);
1538     return;                     /* connect failed for good, we're finished */
1539   }
1540   GNUNET_assert (sock->write_buffer_off >= sock->write_buffer_pos);
1541   if ((sock->nth.notify_ready != NULL) &&
1542       (sock->write_buffer_size < sock->nth.notify_size))
1543   {
1544     sock->write_buffer =
1545         GNUNET_realloc (sock->write_buffer, sock->nth.notify_size);
1546     sock->write_buffer_size = sock->nth.notify_size;
1547   }
1548   process_notify (sock);
1549   have = sock->write_buffer_off - sock->write_buffer_pos;
1550   if (have == 0)
1551   {
1552     /* no data ready for writing, terminate write loop */
1553     return;
1554   }
1555   GNUNET_assert (have <= sock->write_buffer_size);
1556   GNUNET_assert (have + sock->write_buffer_pos <= sock->write_buffer_size);
1557   GNUNET_assert (sock->write_buffer_pos <= sock->write_buffer_size);
1558 RETRY:
1559   ret =
1560       GNUNET_NETWORK_socket_send (sock->sock,
1561                                   &sock->write_buffer[sock->write_buffer_pos],
1562                                   have);
1563   if (ret == -1)
1564   {
1565     if (errno == EINTR)
1566       goto RETRY;
1567 #if 0
1568     int en = errno;
1569
1570     GNUNET_log (GNUNET_ERROR_TYPE_ERROR, _("Failed to send to `%s': %s\n"),
1571                 GNUNET_a2s (sock->addr, sock->addrlen), STRERROR (en));
1572 #endif
1573 #if DEBUG_CONNECTION
1574     GNUNET_log_strerror (GNUNET_ERROR_TYPE_DEBUG, "send");
1575 #endif
1576     transmit_error (sock);
1577     return;
1578   }
1579 #if DEBUG_CONNECTION
1580   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1581               "transmit_ready transmitted %u/%u bytes to `%s' (%p)\n",
1582               (unsigned int) ret, have, GNUNET_a2s (sock->addr, sock->addrlen),
1583               sock);
1584 #endif
1585   sock->write_buffer_pos += ret;
1586   if (sock->write_buffer_pos == sock->write_buffer_off)
1587   {
1588     /* transmitted all pending data */
1589     sock->write_buffer_pos = 0;
1590     sock->write_buffer_off = 0;
1591   }
1592   if ((sock->write_buffer_off == 0) && (NULL == sock->nth.notify_ready))
1593     return;                     /* all data sent! */
1594   /* not done writing, schedule more */
1595 SCHEDULE_WRITE:
1596 #if DEBUG_CONNECTION
1597   GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1598               "Re-scheduling transmit_ready (more to do) (%p).\n", sock);
1599 #endif
1600   have = sock->write_buffer_off - sock->write_buffer_pos;
1601   GNUNET_assert ((sock->nth.notify_ready != NULL) || (have > 0));
1602   if (sock->write_task == GNUNET_SCHEDULER_NO_TASK)
1603     sock->write_task =
1604         GNUNET_SCHEDULER_add_write_net ((sock->nth.notify_ready ==
1605                                          NULL) ? GNUNET_TIME_UNIT_FOREVER_REL :
1606                                         GNUNET_TIME_absolute_get_remaining
1607                                         (sock->nth.transmit_timeout),
1608                                         sock->sock, &transmit_ready, sock);
1609 }
1610
1611
1612 /**
1613  * Ask the socket to call us once the specified number of bytes
1614  * are free in the transmission buffer.  May call the notify
1615  * method immediately if enough space is available.
1616  *
1617  * @param sock socket
1618  * @param size number of bytes to send
1619  * @param timeout after how long should we give up (and call
1620  *        notify with buf NULL and size 0)?
1621  * @param notify function to call
1622  * @param notify_cls closure for notify
1623  * @return non-NULL if the notify callback was queued,
1624  *         NULL if we are already going to notify someone else (busy)
1625  */
1626 struct GNUNET_CONNECTION_TransmitHandle *
1627 GNUNET_CONNECTION_notify_transmit_ready (struct GNUNET_CONNECTION_Handle *sock,
1628                                          size_t size,
1629                                          struct GNUNET_TIME_Relative timeout,
1630                                          GNUNET_CONNECTION_TransmitReadyNotify
1631                                          notify, void *notify_cls)
1632 {
1633   if (sock->nth.notify_ready != NULL)
1634   {
1635     GNUNET_assert (0);
1636     return NULL;
1637   }
1638   GNUNET_assert (notify != NULL);
1639   GNUNET_assert (size < GNUNET_SERVER_MAX_MESSAGE_SIZE);
1640   GNUNET_assert (sock->write_buffer_off <= sock->write_buffer_size);
1641   GNUNET_assert (sock->write_buffer_pos <= sock->write_buffer_size);
1642   GNUNET_assert (sock->write_buffer_pos <= sock->write_buffer_off);
1643   sock->nth.notify_ready = notify;
1644   sock->nth.notify_ready_cls = notify_cls;
1645   sock->nth.sh = sock;
1646   sock->nth.notify_size = size;
1647   sock->nth.transmit_timeout = GNUNET_TIME_relative_to_absolute (timeout);
1648   GNUNET_assert (GNUNET_SCHEDULER_NO_TASK == sock->nth.timeout_task);
1649   if ((sock->sock == NULL) && (sock->ap_head == NULL) &&
1650       (sock->dns_active == NULL))
1651   {
1652     if (sock->write_task != GNUNET_SCHEDULER_NO_TASK)
1653       GNUNET_SCHEDULER_cancel (sock->write_task);
1654     sock->write_task = GNUNET_SCHEDULER_add_now (&connect_error, sock);
1655     return &sock->nth;
1656   }
1657   if (GNUNET_SCHEDULER_NO_TASK != sock->write_task)
1658     return &sock->nth;
1659   if (sock->sock != NULL)
1660   {
1661 #if DEBUG_CONNECTION
1662     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG, "Scheduling transmit_ready (%p).\n",
1663                 sock);
1664 #endif
1665     sock->write_task =
1666         GNUNET_SCHEDULER_add_write_net (GNUNET_TIME_absolute_get_remaining
1667                                         (sock->nth.transmit_timeout),
1668                                         sock->sock, &transmit_ready, sock);
1669   }
1670   else
1671   {
1672 #if DEBUG_CONNECTION
1673     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1674                 "CCS-Scheduling transmit_ready, adding timeout task (%p).\n",
1675                 sock);
1676 #endif
1677     sock->ccs |= COCO_TRANSMIT_READY;
1678     sock->nth.timeout_task =
1679         GNUNET_SCHEDULER_add_delayed (timeout, &transmit_timeout, sock);
1680   }
1681   return &sock->nth;
1682 }
1683
1684
1685 /**
1686  * Cancel the specified transmission-ready notification.
1687  *
1688  * @param th notification to cancel
1689  */
1690 void
1691 GNUNET_CONNECTION_notify_transmit_ready_cancel (struct
1692                                                 GNUNET_CONNECTION_TransmitHandle
1693                                                 *th)
1694 {
1695   GNUNET_assert (th->notify_ready != NULL);
1696   if (0 != (th->sh->ccs & COCO_TRANSMIT_READY))
1697   {
1698 #if DEBUG_CONNECTION
1699     GNUNET_log (GNUNET_ERROR_TYPE_DEBUG,
1700                 "notify_transmit_ready_cancel cancels timeout_task (%p)\n", th);
1701 #endif
1702     GNUNET_SCHEDULER_cancel (th->timeout_task);
1703     th->timeout_task = GNUNET_SCHEDULER_NO_TASK;
1704     th->sh->ccs -= COCO_TRANSMIT_READY;
1705   }
1706   else
1707   {
1708     if (th->sh->write_task != GNUNET_SCHEDULER_NO_TASK)
1709     {
1710       GNUNET_SCHEDULER_cancel (th->sh->write_task);
1711       th->sh->write_task = GNUNET_SCHEDULER_NO_TASK;
1712     }
1713   }
1714   th->notify_ready = NULL;
1715 }
1716
1717 /* end of connection.c */