*: small code shrinks and compile fix for unicode
[oweals/busybox.git] / editors / diff.c
1 /* vi: set sw=4 ts=4: */
2 /*
3  * Mini diff implementation for busybox, adapted from OpenBSD diff.
4  *
5  * Copyright (C) 2010 by Matheus Izvekov <mizvekov@gmail.com>
6  * Copyright (C) 2006 by Robert Sullivan <cogito.ergo.cogito@hotmail.com>
7  * Copyright (c) 2003 Todd C. Miller <Todd.Miller@courtesan.com>
8  *
9  * Sponsored in part by the Defense Advanced Research Projects
10  * Agency (DARPA) and Air Force Research Laboratory, Air Force
11  * Materiel Command, USAF, under agreement number F39502-99-1-0512.
12  *
13  * Licensed under GPLv2 or later, see file LICENSE in this tarball for details.
14  */
15
16 /*
17  * The following code uses an algorithm due to Harold Stone,
18  * which finds a pair of longest identical subsequences in
19  * the two files.
20  *
21  * The major goal is to generate the match vector J.
22  * J[i] is the index of the line in file1 corresponding
23  * to line i in file0. J[i] = 0 if there is no
24  * such line in file1.
25  *
26  * Lines are hashed so as to work in core. All potential
27  * matches are located by sorting the lines of each file
28  * on the hash (called "value"). In particular, this
29  * collects the equivalence classes in file1 together.
30  * Subroutine equiv replaces the value of each line in
31  * file0 by the index of the first element of its
32  * matching equivalence in (the reordered) file1.
33  * To save space equiv squeezes file1 into a single
34  * array member in which the equivalence classes
35  * are simply concatenated, except that their first
36  * members are flagged by changing sign.
37  *
38  * Next the indices that point into member are unsorted into
39  * array class according to the original order of file0.
40  *
41  * The cleverness lies in routine stone. This marches
42  * through the lines of file0, developing a vector klist
43  * of "k-candidates". At step i a k-candidate is a matched
44  * pair of lines x,y (x in file0, y in file1) such that
45  * there is a common subsequence of length k
46  * between the first i lines of file0 and the first y
47  * lines of file1, but there is no such subsequence for
48  * any smaller y. x is the earliest possible mate to y
49  * that occurs in such a subsequence.
50  *
51  * Whenever any of the members of the equivalence class of
52  * lines in file1 matable to a line in file0 has serial number
53  * less than the y of some k-candidate, that k-candidate
54  * with the smallest such y is replaced. The new
55  * k-candidate is chained (via pred) to the current
56  * k-1 candidate so that the actual subsequence can
57  * be recovered. When a member has serial number greater
58  * that the y of all k-candidates, the klist is extended.
59  * At the end, the longest subsequence is pulled out
60  * and placed in the array J by unravel
61  *
62  * With J in hand, the matches there recorded are
63  * checked against reality to assure that no spurious
64  * matches have crept in due to hashing. If they have,
65  * they are broken, and "jackpot" is recorded--a harmless
66  * matter except that a true match for a spuriously
67  * mated line may now be unnecessarily reported as a change.
68  *
69  * Much of the complexity of the program comes simply
70  * from trying to minimize core utilization and
71  * maximize the range of doable problems by dynamically
72  * allocating what is needed and reusing what is not.
73  * The core requirements for problems larger than somewhat
74  * are (in words) 2*length(file0) + length(file1) +
75  * 3*(number of k-candidates installed), typically about
76  * 6n words for files of length n.
77  */
78
79 #include "libbb.h"
80
81 #if 0
82 //#define dbg_error_msg(...) bb_error_msg(__VA_ARGS__)
83 #else
84 #define dbg_error_msg(...) ((void)0)
85 #endif
86
87 enum {                  /* print_status() and diffreg() return values */
88         STATUS_SAME,    /* files are the same */
89         STATUS_DIFFER,  /* files differ */
90         STATUS_BINARY,  /* binary files differ */
91 };
92
93 enum {                  /* Commandline flags */
94         FLAG_a,
95         FLAG_b,
96         FLAG_d,
97         FLAG_i,
98         FLAG_L,         /* never used, handled by getopt32 */
99         FLAG_N,
100         FLAG_q,
101         FLAG_r,
102         FLAG_s,
103         FLAG_S,         /* never used, handled by getopt32 */
104         FLAG_t,
105         FLAG_T,
106         FLAG_U,         /* never used, handled by getopt32 */
107         FLAG_w,
108         FLAG_u,         /* ignored, this is the default */
109         FLAG_p,         /* not implemented */
110         FLAG_B,
111         FLAG_E,         /* not implemented */
112 };
113 #define FLAG(x) (1 << FLAG_##x)
114
115 /* We cache file position to avoid excessive seeking */
116 typedef struct FILE_and_pos_t {
117         FILE *ft_fp;
118         off_t ft_pos;
119 } FILE_and_pos_t;
120
121 struct globals {
122         smallint exit_status;
123         int opt_U_context;
124         char *label[2];
125         struct stat stb[2];
126 };
127 #define G (*ptr_to_globals)
128 #define exit_status        (G.exit_status       )
129 #define opt_U_context      (G.opt_U_context     )
130 #define label              (G.label             )
131 #define stb                (G.stb               )
132 #define INIT_G() do { \
133         SET_PTR_TO_GLOBALS(xzalloc(sizeof(G))); \
134         opt_U_context = 3; \
135 } while (0)
136
137 typedef int token_t;
138
139 enum {
140         /* Public */
141         TOK_EMPTY = 1 << 9,  /* Line fully processed, you can proceed to the next */
142         TOK_EOF   = 1 << 10, /* File ended */
143         /* Private (Only to be used by read_token() */
144         TOK_EOL   = 1 << 11, /* we saw EOL (sticky) */
145         TOK_SPACE = 1 << 12, /* used -b code, means we are skipping spaces */
146         SHIFT_EOF = (sizeof(token_t)*8 - 8) - 1,
147         CHAR_MASK = 0x1ff,   /* 8th bit is used to distinguish EOF from 0xff */
148 };
149
150 /* Restores full EOF from one 8th bit: */
151 //#define TOK2CHAR(t) (((t) << SHIFT_EOF) >> SHIFT_EOF)
152 /* We don't really need the above, we only need to have EOF != any_real_char: */
153 #define TOK2CHAR(t) ((t) & CHAR_MASK)
154
155 static void seek_ft(FILE_and_pos_t *ft, off_t pos)
156 {
157         if (ft->ft_pos != pos) {
158                 ft->ft_pos = pos;
159                 fseeko(ft->ft_fp, pos, SEEK_SET);
160         }
161 }
162
163 /* Reads tokens from given fp, handling -b and -w flags
164  * The user must reset tok every line start
165  */
166 static int read_token(FILE_and_pos_t *ft, token_t tok)
167 {
168         tok |= TOK_EMPTY;
169         while (!(tok & TOK_EOL)) {
170                 bool is_space;
171                 int t;
172
173                 t = fgetc(ft->ft_fp);
174                 if (t != EOF)
175                         ft->ft_pos++;
176                 is_space = (t == EOF || isspace(t));
177
178                 /* If t == EOF (-1), set both TOK_EOF and TOK_EOL */
179                 tok |= (t & (TOK_EOF + TOK_EOL));
180                 /* Only EOL? */
181                 if (t == '\n')
182                         tok |= TOK_EOL;
183
184                 if (option_mask32 & FLAG(i)) /* Handcoded tolower() */
185                         t = (t >= 'A' && t <= 'Z') ? t - ('A' - 'a') : t;
186
187                 if ((option_mask32 & FLAG(w)) && is_space)
188                         continue;
189
190                 /* Trim char value to low 9 bits */
191                 t &= CHAR_MASK;
192
193                 if (option_mask32 & FLAG(b)) {
194                         /* Was prev char whitespace? */
195                         if (tok & TOK_SPACE) { /* yes */
196                                 if (is_space) /* this one too, ignore it */
197                                         continue;
198                                 tok &= ~TOK_SPACE;
199                         } else if (is_space) {
200                                 /* 1st whitespace char.
201                                  * Set TOK_SPACE and replace char by ' ' */
202                                 t = TOK_SPACE + ' ';
203                         }
204                 }
205                 /* Clear EMPTY */
206                 tok &= ~(TOK_EMPTY + CHAR_MASK);
207                 /* Assign char value (low 9 bits) and maybe set TOK_SPACE */
208                 tok |= t;
209                 break;
210         }
211 #if 0
212         bb_error_msg("fp:%p tok:%x '%c'%s%s%s%s", fp, tok, tok & 0xff
213                 , tok & TOK_EOF ? " EOF" : ""
214                 , tok & TOK_EOL ? " EOL" : ""
215                 , tok & TOK_EMPTY ? " EMPTY" : ""
216                 , tok & TOK_SPACE ? " SPACE" : ""
217         );
218 #endif
219         return tok;
220 }
221
222 struct cand {
223         int x;
224         int y;
225         int pred;
226 };
227
228 static int search(const int *c, int k, int y, const struct cand *list)
229 {
230         if (list[c[k]].y < y)   /* quick look for typical case */
231                 return k + 1;
232
233         for (int i = 0, j = k + 1;;) {
234                 const int l = (i + j) >> 1;
235                 if (l > i) {
236                         const int t = list[c[l]].y;
237                         if (t > y)
238                                 j = l;
239                         else if (t < y)
240                                 i = l;
241                         else
242                                 return l;
243                 } else
244                         return l + 1;
245         }
246 }
247
248 static unsigned isqrt(unsigned n)
249 {
250         unsigned x = 1;
251         while (1) {
252                 const unsigned y = x;
253                 x = ((n / x) + x) >> 1;
254                 if (x <= (y + 1) && x >= (y - 1))
255                         return x;
256         }
257 }
258
259 static void stone(const int *a, int n, const int *b, int *J, int pref)
260 {
261         const unsigned isq = isqrt(n);
262         const unsigned bound =
263                 (option_mask32 & FLAG(d)) ? UINT_MAX : MAX(256, isq);
264         int clen = 1;
265         int clistlen = 100;
266         int k = 0;
267         struct cand *clist = xzalloc(clistlen * sizeof(clist[0]));
268         int *klist = xzalloc((n + 2) * sizeof(klist[0]));
269         /*clist[0] = (struct cand){0}; - xzalloc did it */
270         /*klist[0] = 0; */
271
272         for (struct cand cand = {1}; cand.x <= n; cand.x++) {
273                 int j = a[cand.x], oldl = 0;
274                 unsigned numtries = 0;
275                 if (j == 0)
276                         continue;
277                 cand.y = -b[j];
278                 cand.pred = klist[0];
279                 do {
280                         int l, tc;
281                         if (cand.y <= clist[cand.pred].y)
282                                 continue;
283                         l = search(klist, k, cand.y, clist);
284                         if (l != oldl + 1)
285                                 cand.pred = klist[l - 1];
286                         if (l <= k && clist[klist[l]].y <= cand.y)
287                                 continue;
288                         if (clen == clistlen) {
289                                 clistlen = clistlen * 11 / 10;
290                                 clist = xrealloc(clist, clistlen * sizeof(clist[0]));
291                         }
292                         clist[clen] = cand;
293                         tc = klist[l];
294                         klist[l] = clen++;
295                         if (l <= k) {
296                                 cand.pred = tc;
297                                 oldl = l;
298                                 numtries++;
299                         } else {
300                                 k++;
301                                 break;
302                         }
303                 } while ((cand.y = b[++j]) > 0 && numtries < bound);
304         }
305         /* Unravel */
306         for (struct cand *q = clist + klist[k]; q->y; q = clist + q->pred)
307                 J[q->x + pref] = q->y + pref;
308         free(klist);
309         free(clist);
310 }
311
312 struct line {
313         /* 'serial' is not used in the begining, so we reuse it
314          * to store line offsets, thus reducing memory pressure
315          */
316         union {
317                 unsigned serial;
318                 off_t offset;
319         };
320         unsigned value;
321 };
322
323 static void equiv(struct line *a, int n, struct line *b, int m, int *c)
324 {
325         int i = 1, j = 1;
326
327         while (i <= n && j <= m) {
328                 if (a[i].value < b[j].value)
329                         a[i++].value = 0;
330                 else if (a[i].value == b[j].value)
331                         a[i++].value = j;
332                 else
333                         j++;
334         }
335         while (i <= n)
336                 a[i++].value = 0;
337         b[m + 1].value = 0;
338         j = 0;
339         while (++j <= m) {
340                 c[j] = -b[j].serial;
341                 while (b[j + 1].value == b[j].value) {
342                         j++;
343                         c[j] = b[j].serial;
344                 }
345         }
346         c[j] = -1;
347 }
348
349 static void unsort(const struct line *f, int l, int *b)
350 {
351         int *a = xmalloc((l + 1) * sizeof(a[0]));
352         for (int i = 1; i <= l; i++)
353                 a[f[i].serial] = f[i].value;
354         for (int i = 1; i <= l; i++)
355                 b[i] = a[i];
356         free(a);
357 }
358
359 static int line_compar(const void *a, const void *b)
360 {
361 #define l0 ((const struct line*)a)
362 #define l1 ((const struct line*)b)
363         int r = l0->value - l1->value;
364         if (r)
365                 return r;
366         return l0->serial - l1->serial;
367 #undef l0
368 #undef l1
369 }
370
371 static void uni_range(int a, int b)
372 {
373         if (a < b)
374                 printf("%d,%d", a, b - a + 1);
375         else if (a == b)
376                 printf("%d", b);
377         else
378                 printf("%d,0", b);
379 }
380
381 static void fetch(FILE_and_pos_t *ft, const off_t *ix, int a, int b, int ch)
382 {
383         for (int i = a; i <= b; i++) {
384                 seek_ft(ft, ix[i - 1]);
385                 putchar(ch);
386                 if (option_mask32 & FLAG(T))
387                         putchar('\t');
388                 for (int j = 0, col = 0; j < ix[i] - ix[i - 1]; j++) {
389                         int c = fgetc(ft->ft_fp);
390                         if (c == EOF) {
391                                 printf("\n\\ No newline at end of file\n");
392                                 return;
393                         }
394                         ft->ft_pos++;
395                         if (c == '\t' && (option_mask32 & FLAG(t)))
396                                 do putchar(' '); while (++col & 7);
397                         else {
398                                 putchar(c);
399                                 col++;
400                         }
401                 }
402         }
403 }
404
405 /* Creates the match vector J, where J[i] is the index
406  * of the line in the new file corresponding to the line i
407  * in the old file. Lines start at 1 instead of 0, that value
408  * being used instead to denote no corresponding line.
409  * This vector is dynamically allocated and must be freed by the caller.
410  *
411  * * fp is an input parameter, where fp[0] and fp[1] are the open
412  *   old file and new file respectively.
413  * * nlen is an output variable, where nlen[0] and nlen[1]
414  *   gets the number of lines in the old and new file respectively.
415  * * ix is an output variable, where ix[0] and ix[1] gets
416  *   assigned dynamically allocated vectors of the offsets of the lines
417  *   of the old and new file respectively. These must be freed by the caller.
418  */
419 static NOINLINE int *create_J(FILE_and_pos_t ft[2], int nlen[2], off_t *ix[2])
420 {
421         int *J, slen[2], *class, *member;
422         struct line *nfile[2], *sfile[2];
423         int pref = 0, suff = 0;
424
425         /* Lines of both files are hashed, and in the process
426          * their offsets are stored in the array ix[fileno]
427          * where fileno == 0 points to the old file, and
428          * fileno == 1 points to the new one.
429          */
430         for (int i = 0; i < 2; i++) {
431                 unsigned hash;
432                 token_t tok;
433                 size_t sz = 100;
434                 nfile[i] = xmalloc((sz + 3) * sizeof(nfile[i][0]));
435                 /* ft gets here without the correct position, cant use seek_ft */
436                 fseeko(ft[i].ft_fp, 0, SEEK_SET);
437
438                 nlen[i] = 0;
439                 /* We could zalloc nfile, but then zalloc starts showing in gprof at ~1% */
440                 nfile[i][0].offset = 0;
441                 goto start; /* saves code */
442                 while (1) {
443                         tok = read_token(&ft[i], tok);
444                         if (!(tok & TOK_EMPTY)) {
445                                 /* Hash algorithm taken from Robert Sedgewick, Algorithms in C, 3d ed., p 578. */
446                                 /*hash = hash * 128 - hash + TOK2CHAR(tok);
447                                  * gcc insists on optimizing above to "hash * 127 + ...", thus... */
448                                 unsigned o = hash - TOK2CHAR(tok);
449                                 hash = hash * 128 - o; /* we want SPEED here */
450                                 continue;
451                         }
452                         if (nlen[i]++ == sz) {
453                                 sz = sz * 3 / 2;
454                                 nfile[i] = xrealloc(nfile[i], (sz + 3) * sizeof(nfile[i][0]));
455                         }
456                         /* line_compar needs hashes fit into positive int */
457                         nfile[i][nlen[i]].value = hash & INT_MAX;
458                         /* like ftello(ft[i].ft_fp) but faster (avoids lseek syscall) */
459                         nfile[i][nlen[i]].offset = ft[i].ft_pos;
460                         if (tok & TOK_EOF) {
461                                 /* EOF counts as a token, so we have to adjust it here */
462                                 nfile[i][nlen[i]].offset++;
463                                 break;
464                         }
465 start:
466                         hash = tok = 0;
467                 }
468                 /* Exclude lone EOF line from the end of the file, to make fetch()'s job easier */
469                 if (nfile[i][nlen[i]].offset - nfile[i][nlen[i] - 1].offset == 1)
470                         nlen[i]--;
471                 /* Now we copy the line offsets into ix */
472                 ix[i] = xmalloc((nlen[i] + 2) * sizeof(ix[i][0]));
473                 for (int j = 0; j < nlen[i] + 1; j++)
474                         ix[i][j] = nfile[i][j].offset;
475         }
476
477         /* lenght of prefix and suffix is calculated */
478         for (; pref < nlen[0] && pref < nlen[1] &&
479                nfile[0][pref + 1].value == nfile[1][pref + 1].value;
480                pref++);
481         for (; suff < nlen[0] - pref && suff < nlen[1] - pref &&
482                nfile[0][nlen[0] - suff].value == nfile[1][nlen[1] - suff].value;
483                suff++);
484         /* Arrays are pruned by the suffix and prefix lenght,
485          * the result being sorted and stored in sfile[fileno],
486          * and their sizes are stored in slen[fileno]
487          */
488         for (int j = 0; j < 2; j++) {
489                 sfile[j] = nfile[j] + pref;
490                 slen[j] = nlen[j] - pref - suff;
491                 for (int i = 0; i <= slen[j]; i++)
492                         sfile[j][i].serial = i;
493                 qsort(sfile[j] + 1, slen[j], sizeof(*sfile[j]), line_compar);
494         }
495         /* nfile arrays are reused to reduce memory pressure
496          * The #if zeroed out section performs the same task as the
497          * one in the #else section.
498          * Peak memory usage is higher, but one array copy is avoided
499          * by not using unsort()
500          */
501 #if 0
502         member = xmalloc((slen[1] + 2) * sizeof(member[0]));
503         equiv(sfile[0], slen[0], sfile[1], slen[1], member);
504         free(nfile[1]);
505
506         class = xmalloc((slen[0] + 1) * sizeof(class[0]));
507         for (int i = 1; i <= slen[0]; i++) /* Unsorting */
508                 class[sfile[0][i].serial] = sfile[0][i].value;
509         free(nfile[0]);
510 #else
511         member = (int *)nfile[1];
512         equiv(sfile[0], slen[0], sfile[1], slen[1], member);
513         member = xrealloc(member, (slen[1] + 2) * sizeof(member[0]));
514
515         class = (int *)nfile[0];
516         unsort(sfile[0], slen[0], (int *)nfile[0]);
517         class = xrealloc(class, (slen[0] + 2) * sizeof(class[0]));
518 #endif
519         J = xmalloc((nlen[0] + 2) * sizeof(J[0]));
520         /* The elements of J which fall inside the prefix and suffix regions
521          * are marked as unchanged, while the ones which fall outside
522          * are initialized with 0 (no matches), so that function stone can
523          * then assign them their right values
524          */
525         for (int i = 0, delta = nlen[1] - nlen[0]; i <= nlen[0]; i++)
526                 J[i] = i <= pref            ?  i :
527                        i > (nlen[0] - suff) ? (i + delta) : 0;
528         /* Here the magic is performed */
529         stone(class, slen[0], member, J, pref);
530         J[nlen[0] + 1] = nlen[1] + 1;
531
532         free(class);
533         free(member);
534
535         /* Both files are rescanned, in an effort to find any lines
536          * which, due to limitations intrinsic to any hashing algorithm,
537          * are different but ended up confounded as the same
538          */
539         for (int i = 1; i <= nlen[0]; i++) {
540                 if (!J[i])
541                         continue;
542
543                 seek_ft(&ft[0], ix[0][i - 1]);
544                 seek_ft(&ft[1], ix[1][J[i] - 1]);
545
546                 for (int j = J[i]; i <= nlen[0] && J[i] == j; i++, j++) {
547                         token_t tok0 = 0, tok1 = 0;
548                         do {
549                                 tok0 = read_token(&ft[0], tok0);
550                                 tok1 = read_token(&ft[1], tok1);
551
552                                 if (((tok0 ^ tok1) & TOK_EMPTY) != 0 /* one is empty (not both) */
553                                  || (!(tok0 & TOK_EMPTY) && TOK2CHAR(tok0) != TOK2CHAR(tok1))
554                                 ) {
555                                         J[i] = 0; /* Break the correspondence */
556                                 }
557                         } while (!(tok0 & tok1 & TOK_EMPTY));
558                 }
559         }
560
561         return J;
562 }
563
564 /*
565  * The following struct is used to record change information
566  * doing a "context" or "unified" diff.
567  */
568 struct context_vec {
569         int a;          /* start line in old file */
570         int b;          /* end line in old file */
571         int c;          /* start line in new file */
572         int d;          /* end line in new file */
573 };
574
575 static bool diff(FILE* fp[2], char *file[2])
576 {
577         int nlen[2];
578         off_t *ix[2];
579         FILE_and_pos_t ft[2] = { { fp[0] }, { fp[1] } };
580         int *J = create_J(ft, nlen, ix);
581
582         bool anychange = false;
583         struct context_vec *vec = NULL;
584         int idx = -1, i = 1;
585
586         do {
587                 bool nonempty = false;
588
589                 while (1) {
590                         struct context_vec v;
591
592                         for (v.a = i; v.a <= nlen[0] && J[v.a] == J[v.a - 1] + 1; v.a++)
593                                 continue;
594                         v.c = J[v.a - 1] + 1;
595
596                         for (v.b = v.a - 1; v.b < nlen[0] && !J[v.b + 1]; v.b++)
597                                 continue;
598                         v.d = J[v.b + 1] - 1;
599                         /*
600                          * Indicate that there is a difference between lines a and b of the 'from' file
601                          * to get to lines c to d of the 'to' file. If a is greater than b then there
602                          * are no lines in the 'from' file involved and this means that there were
603                          * lines appended (beginning at b).  If c is greater than d then there are
604                          * lines missing from the 'to' file.
605                          */
606                         if (v.a <= v.b || v.c <= v.d) {
607                                 /*
608                                  * If this change is more than 'context' lines from the
609                                  * previous change, dump the record and reset it.
610                                  */
611                                 if (idx >= 0
612                                  && v.a > vec[idx].b + (2 * opt_U_context) + 1
613                                  && v.c > vec[idx].d + (2 * opt_U_context) + 1
614                                 ) {
615                                         break;
616                                 }
617                                 nonempty |= (v.a >= v.b) && (v.c >= v.d);
618                                 vec = xrealloc_vector(vec, 6, ++idx);
619                                 vec[idx] = v;
620                         }
621
622                         i = v.b + 1;
623                         if (i > nlen[0])
624                                 break;
625                         J[v.b] = v.d;
626                 }
627                 if (idx < 0)
628                         continue;
629                 if (!(option_mask32 & (FLAG(q)+FLAG(B))) && !nonempty) {
630                         struct context_vec *cvp = vec;
631                         int lowa = MAX(1, cvp->a - opt_U_context);
632                         int upb  = MIN(nlen[0], vec[idx].b + opt_U_context);
633                         int lowc = MAX(1, cvp->c - opt_U_context);
634                         int upd  = MIN(nlen[1], vec[idx].d + opt_U_context);
635
636                         if (!anychange) {
637                                 /* Print the context/unidiff header first time through */
638                                 printf("--- %s\n", label[0] ? label[0] : file[0]);
639                                 printf("+++ %s\n", label[1] ? label[1] : file[1]);
640                         }
641
642                         printf("@@ -");
643                         uni_range(lowa, upb);
644                         printf(" +");
645                         uni_range(lowc, upd);
646                         printf(" @@\n");
647
648                         /*
649                          * Output changes in "unified" diff format--the old and new lines
650                          * are printed together.
651                          */
652                         while (1) {
653                                 bool end = cvp > &vec[idx];
654                                 fetch(&ft[0], ix[0], lowa, end ? upb : cvp->a - 1, ' ');
655                                 if (end)
656                                         break;
657                                 fetch(&ft[0], ix[0], cvp->a, cvp->b, '-');
658                                 fetch(&ft[1], ix[1], cvp->c, cvp->d, '+');
659                                 lowa = cvp++->b + 1;
660                         }
661                 }
662                 idx = -1;
663                 anychange = true;
664         } while (i <= nlen[0]);
665
666         free(vec);
667         free(ix[0]);
668         free(ix[1]);
669         free(J);
670         return anychange;
671 }
672
673 static int diffreg(char *file[2])
674 {
675         FILE *fp[2] = { stdin, stdin };
676         bool binary = false, differ = false;
677         int status = STATUS_SAME;
678
679         for (int i = 0; i < 2; i++) {
680                 int fd = open_or_warn_stdin(file[i]);
681                 if (fd == -1)
682                         goto out;
683                 /* Our diff implementation is using seek.
684                  * When we meet non-seekable file, we must make a temp copy.
685                  */
686                 if (lseek(fd, 0, SEEK_SET) == -1 && errno == ESPIPE) {
687                         char name[] = "/tmp/difXXXXXX";
688                         int fd_tmp = mkstemp(name);
689                         if (fd_tmp < 0)
690                                 bb_perror_msg_and_die("mkstemp");
691                         unlink(name);
692                         if (bb_copyfd_eof(fd, fd_tmp) < 0)
693                                 xfunc_die();
694                         if (fd) /* Prevents closing of stdin */
695                                 close(fd);
696                         fd = fd_tmp;
697                 }
698                 fp[i] = fdopen(fd, "r");
699         }
700
701         while (1) {
702                 const size_t sz = COMMON_BUFSIZE / 2;
703                 char *const buf0 = bb_common_bufsiz1;
704                 char *const buf1 = buf0 + sz;
705                 int i, j;
706                 i = fread(buf0, 1, sz, fp[0]);
707                 j = fread(buf1, 1, sz, fp[1]);
708                 if (i != j) {
709                         differ = true;
710                         i = MIN(i, j);
711                 }
712                 if (i == 0)
713                         break;
714                 for (int k = 0; k < i; k++) {
715                         if (!buf0[k] || !buf1[k])
716                                 binary = true;
717                         if (buf0[k] != buf1[k])
718                                 differ = true;
719                 }
720         }
721         if (differ) {
722                 if (binary && !(option_mask32 & FLAG(a)))
723                         status = STATUS_BINARY;
724                 else if (diff(fp, file))
725                         status = STATUS_DIFFER;
726         }
727         if (status != STATUS_SAME)
728                 exit_status |= 1;
729 out:
730         fclose_if_not_stdin(fp[0]);
731         fclose_if_not_stdin(fp[1]);
732
733         return status;
734 }
735
736 static void print_status(int status, char *path[2])
737 {
738         switch (status) {
739         case STATUS_BINARY:
740         case STATUS_DIFFER:
741                 if ((option_mask32 & FLAG(q)) || status == STATUS_BINARY)
742                         printf("Files %s and %s differ\n", path[0], path[1]);
743                 break;
744         case STATUS_SAME:
745                 if (option_mask32 & FLAG(s))
746                         printf("Files %s and %s are identical\n", path[0], path[1]);
747                 break;
748         }
749 }
750
751 #if ENABLE_FEATURE_DIFF_DIR
752 struct dlist {
753         size_t len;
754         int s, e;
755         char **dl;
756 };
757
758 /* This function adds a filename to dl, the directory listing. */
759 static int FAST_FUNC add_to_dirlist(const char *filename,
760                 struct stat *sb UNUSED_PARAM,
761                 void *userdata, int depth UNUSED_PARAM)
762 {
763         struct dlist *const l = userdata;
764         l->dl = xrealloc_vector(l->dl, 6, l->e);
765         /* + 1 skips "/" after dirname */
766         l->dl[l->e] = xstrdup(filename + l->len + 1);
767         l->e++;
768         return TRUE;
769 }
770
771 /* If recursion is not set, this function adds the directory
772  * to the list and prevents recursive_action from recursing into it.
773  */
774 static int FAST_FUNC skip_dir(const char *filename,
775                 struct stat *sb, void *userdata,
776                 int depth)
777 {
778         if (!(option_mask32 & FLAG(r)) && depth) {
779                 add_to_dirlist(filename, sb, userdata, depth);
780                 return SKIP;
781         }
782         return TRUE;
783 }
784
785 static void diffdir(char *p[2], const char *s_start)
786 {
787         struct dlist list[2];
788
789         memset(&list, 0, sizeof(list));
790         for (int i = 0; i < 2; i++) {
791                 /*list[i].s = list[i].e = 0; - memset did it */
792                 /*list[i].dl = NULL; */
793
794                 /* We need to trim root directory prefix.
795                  * Using list.len to specify its length,
796                  * add_to_dirlist will remove it. */
797                 list[i].len = strlen(p[i]);
798                 recursive_action(p[i], ACTION_RECURSE | ACTION_FOLLOWLINKS,
799                                  add_to_dirlist, skip_dir, &list[i], 0);
800                 /* Sort dl alphabetically.
801                  * GNU diff does this ignoring any number of trailing dots.
802                  * We don't, so for us dotted files almost always are
803                  * first on the list.
804                  */
805                 qsort_string_vector(list[i].dl, list[i].e);
806                 /* If -S was set, find the starting point. */
807                 if (!s_start)
808                         continue;
809                 while (list[i].s < list[i].e && strcmp(list[i].dl[list[i].s], s_start) < 0)
810                         list[i].s++;
811         }
812         /* Now that both dirlist1 and dirlist2 contain sorted directory
813          * listings, we can start to go through dirlist1. If both listings
814          * contain the same file, then do a normal diff. Otherwise, behaviour
815          * is determined by whether the -N flag is set. */
816         while (1) {
817                 char *dp[2];
818                 int pos;
819                 int k;
820
821                 dp[0] = list[0].s < list[0].e ? list[0].dl[list[0].s] : NULL;
822                 dp[1] = list[1].s < list[1].e ? list[1].dl[list[1].s] : NULL;
823                 if (!dp[0] && !dp[1])
824                         break;
825                 pos = !dp[0] ? 1 : (!dp[1] ? -1 : strcmp(dp[0], dp[1]));
826                 k = pos > 0;
827                 if (pos && !(option_mask32 & FLAG(N)))
828                         printf("Only in %s: %s\n", p[k], dp[k]);
829                 else {
830                         char *fullpath[2], *path[2]; /* if -N */
831
832                         for (int i = 0; i < 2; i++) {
833                                 if (pos == 0 || i == k) {
834                                         path[i] = fullpath[i] = concat_path_file(p[i], dp[i]);
835                                         stat(fullpath[i], &stb[i]);
836                                 } else {
837                                         fullpath[i] = concat_path_file(p[i], dp[1 - i]);
838                                         path[i] = (char *)bb_dev_null;
839                                 }
840                         }
841                         if (pos)
842                                 stat(fullpath[k], &stb[1 - k]);
843
844                         if (S_ISDIR(stb[0].st_mode) && S_ISDIR(stb[1].st_mode))
845                                 printf("Common subdirectories: %s and %s\n", fullpath[0], fullpath[1]);
846                         else if (!S_ISREG(stb[0].st_mode) && !S_ISDIR(stb[0].st_mode))
847                                 printf("File %s is not a regular file or directory and was skipped\n", fullpath[0]);
848                         else if (!S_ISREG(stb[1].st_mode) && !S_ISDIR(stb[1].st_mode))
849                                 printf("File %s is not a regular file or directory and was skipped\n", fullpath[1]);
850                         else if (S_ISDIR(stb[0].st_mode) != S_ISDIR(stb[1].st_mode)) {
851                                 if (S_ISDIR(stb[0].st_mode))
852                                         printf("File %s is a %s while file %s is a %s\n", fullpath[0], "directory", fullpath[1], "regular file");
853                                 else
854                                         printf("File %s is a %s while file %s is a %s\n", fullpath[0], "regular file", fullpath[1], "directory");
855                         } else
856                                 print_status(diffreg(path), fullpath);
857
858                         free(fullpath[0]);
859                         free(fullpath[1]);
860                 }
861                 free(dp[k]);
862                 list[k].s++;
863                 if (pos == 0) {
864                         free(dp[1 - k]);
865                         list[1 - k].s++;
866                 }
867         }
868         if (ENABLE_FEATURE_CLEAN_UP) {
869                 free(list[0].dl);
870                 free(list[1].dl);
871         }
872 }
873 #endif
874
875 #if ENABLE_FEATURE_DIFF_LONG_OPTIONS
876 static const char diff_longopts[] ALIGN1 =
877         "ignore-case\0"              No_argument       "i"
878         "ignore-tab-expansion\0"     No_argument       "E"
879         "ignore-space-change\0"      No_argument       "b"
880         "ignore-all-space\0"         No_argument       "w"
881         "ignore-blank-lines\0"       No_argument       "B"
882         "text\0"                     No_argument       "a"
883         "unified\0"                  Required_argument "U"
884         "label\0"                    Required_argument "L"
885         "show-c-function\0"          No_argument       "p"
886         "brief\0"                    No_argument       "q"
887         "expand-tabs\0"              No_argument       "t"
888         "initial-tab\0"              No_argument       "T"
889         "recursive\0"                No_argument       "r"
890         "new-file\0"                 No_argument       "N"
891         "report-identical-files\0"   No_argument       "s"
892         "starting-file\0"            Required_argument "S"
893         "minimal\0"                  No_argument       "d"
894         ;
895 #endif
896
897 int diff_main(int argc, char **argv) MAIN_EXTERNALLY_VISIBLE;
898 int diff_main(int argc UNUSED_PARAM, char **argv)
899 {
900         int gotstdin = 0;
901         char *file[2], *s_start = NULL;
902         llist_t *L_arg = NULL;
903
904         INIT_G();
905
906         /* exactly 2 params; collect multiple -L <label>; -U N */
907         opt_complementary = "=2:L::U+";
908 #if ENABLE_FEATURE_DIFF_LONG_OPTIONS
909         applet_long_options = diff_longopts;
910 #endif
911         getopt32(argv, "abdiL:NqrsS:tTU:wupBE",
912                         &L_arg, &s_start, &opt_U_context);
913         argv += optind;
914         while (L_arg)
915                 label[!!label[0]] = llist_pop(&L_arg);
916         xfunc_error_retval = 2;
917         for (int i = 0; i < 2; i++) {
918                 file[i] = argv[i];
919                 /* Compat: "diff file name_which_doesnt_exist" exits with 2 */
920                 if (LONE_DASH(file[i])) {
921                         fstat(STDIN_FILENO, &stb[i]);
922                         gotstdin++;
923                 } else
924                         xstat(file[i], &stb[i]);
925         }
926         xfunc_error_retval = 1;
927         if (gotstdin && (S_ISDIR(stb[0].st_mode) || S_ISDIR(stb[1].st_mode)))
928                 bb_error_msg_and_die("can't compare stdin to a directory");
929
930         if (S_ISDIR(stb[0].st_mode) && S_ISDIR(stb[1].st_mode)) {
931 #if ENABLE_FEATURE_DIFF_DIR
932                 diffdir(file, s_start);
933 #else
934                 bb_error_msg_and_die("no support for directory comparison");
935 #endif
936         } else {
937                 bool dirfile = S_ISDIR(stb[0].st_mode) || S_ISDIR(stb[1].st_mode);
938                 bool dir = S_ISDIR(stb[1].st_mode);
939                 if (dirfile) {
940                         const char *slash = strrchr(file[!dir], '/');
941                         file[dir] = concat_path_file(file[dir], slash ? slash + 1 : file[!dir]);
942                         xstat(file[dir], &stb[dir]);
943                 }
944                 /* diffreg can get non-regular files here */
945                 print_status(gotstdin > 1 ? STATUS_SAME : diffreg(file), file);
946
947                 if (dirfile)
948                         free(file[dir]);
949         }
950
951         return exit_status;
952 }