cttyhack: move build system bits into cttyhack.c, no code changes
[oweals/busybox.git] / shell / cttyhack.c
1 /* vi: set sw=4 ts=4: */
2 /*
3  * Licensed under GPLv2
4  *
5  * Copyright (c) 2007 Denys Vlasenko <vda.linux@googlemail.com>
6  */
7 #include "libbb.h"
8
9 //applet:IF_CTTYHACK(APPLET(cttyhack, _BB_DIR_BIN, _BB_SUID_DROP))
10
11 //kbuild:lib-$(CONFIG_CTTYHACK) += cttyhack.o
12
13 //config:config CTTYHACK
14 //config:       bool "cttyhack"
15 //config:       default y
16 //config:       help
17 //config:         One common problem reported on the mailing list is "can't access tty;
18 //config:         job control turned off" error message which typically appears when
19 //config:         one tries to use shell with stdin/stdout opened to /dev/console.
20 //config:         This device is special - it cannot be a controlling tty.
21 //config:
22 //config:         Proper solution is to use correct device instead of /dev/console.
23 //config:
24 //config:         cttyhack provides "quick and dirty" solution to this problem.
25 //config:         It analyzes stdin with various ioctls, trying to determine whether
26 //config:         it is a /dev/ttyN or /dev/ttySN (virtual terminal or serial line).
27 //config:         If it detects one, it closes stdin/out/err and reopens that device.
28 //config:         Then it executes given program. Opening the device will make
29 //config:         that device a controlling tty. This may require cttyhack
30 //config:         to be a session leader.
31 //config:
32 //config:         Example for /etc/inittab (for busybox init):
33 //config:
34 //config:         ::respawn:/bin/cttyhack /bin/sh
35 //config:
36 //config:         Starting an interactive shell from boot shell script:
37 //config:
38 //config:         setsid cttyhack sh
39 //config:
40 //config:         Giving controlling tty to shell running with PID 1:
41 //config:
42 //config:         # exec cttyhack sh
43 //config:
44 //config:         Without cttyhack, you need to know exact tty name,
45 //config:         and do something like this:
46 //config:
47 //config:         # exec setsid sh -c 'exec sh </dev/tty1 >/dev/tty1 2>&1'
48 //config:
49
50 //usage:#define cttyhack_trivial_usage
51 //usage:       "PROG ARGS"
52 //usage:#define cttyhack_full_usage "\n\n"
53 //usage:       "Give PROG a controlling tty if possible."
54 //usage:     "\nExample for /etc/inittab (for busybox init):"
55 //usage:     "\n        ::respawn:/bin/cttyhack /bin/sh"
56 //usage:     "\nGiving controlling tty to shell running with PID 1:"
57 //usage:     "\n        $ exec cttyhack sh"
58 //usage:     "\nStarting interactive shell from boot shell script:"
59 //usage:     "\n        setsid cttyhack sh"
60
61 /* From <linux/vt.h> */
62 struct vt_stat {
63         unsigned short v_active;        /* active vt */
64         unsigned short v_signal;        /* signal to send */
65         unsigned short v_state;         /* vt bitmask */
66 };
67 enum { VT_GETSTATE = 0x5603 }; /* get global vt state info */
68
69 /* From <linux/serial.h> */
70 struct serial_struct {
71         int     type;
72         int     line;
73         unsigned int    port;
74         int     irq;
75         int     flags;
76         int     xmit_fifo_size;
77         int     custom_divisor;
78         int     baud_base;
79         unsigned short  close_delay;
80         char    io_type;
81         char    reserved_char[1];
82         int     hub6;
83         unsigned short  closing_wait;   /* time to wait before closing */
84         unsigned short  closing_wait2;  /* no longer used... */
85         unsigned char   *iomem_base;
86         unsigned short  iomem_reg_shift;
87         unsigned int    port_high;
88         unsigned long   iomap_base;     /* cookie passed into ioremap */
89         int     reserved[1];
90 };
91
92 int cttyhack_main(int argc, char **argv) MAIN_EXTERNALLY_VISIBLE;
93 int cttyhack_main(int argc UNUSED_PARAM, char **argv)
94 {
95         int fd;
96         char console[sizeof(int)*3 + 16];
97         union {
98                 struct vt_stat vt;
99                 struct serial_struct sr;
100                 char paranoia[sizeof(struct serial_struct) * 3];
101         } u;
102
103         if (!*++argv) {
104                 bb_show_usage();
105         }
106
107         strcpy(console, "/dev/tty");
108         fd = open(console, O_RDWR);
109         if (fd >= 0) {
110                 /* We already have ctty, nothing to do */
111                 close(fd);
112         } else {
113                 /* We don't have ctty (or don't have "/dev/tty" node...) */
114                 if (ioctl(0, TIOCGSERIAL, &u.sr) == 0) {
115                         /* this is a serial console */
116                         sprintf(console + 8, "S%d", u.sr.line);
117                 } else if (ioctl(0, VT_GETSTATE, &u.vt) == 0) {
118                         /* this is linux virtual tty */
119                         sprintf(console + 8, "S%d" + 1, u.vt.v_active);
120                 }
121                 if (console[8]) {
122                         fd = xopen(console, O_RDWR);
123                         //bb_error_msg("switching to '%s'", console);
124                         dup2(fd, 0);
125                         dup2(fd, 1);
126                         dup2(fd, 2);
127                         while (fd > 2)
128                                 close(fd--);
129                         /* Some other session may have it as ctty,
130                          * steal it from them:
131                          */
132                         ioctl(0, TIOCSCTTY, 1);
133                 }
134         }
135
136         BB_EXECVP_or_die(argv);
137 }