parse_pathspec: support stripping/checking submodule paths
[git] / dir.c
1 /*
2  * This handles recursive filename detection with exclude
3  * files, index knowledge etc..
4  *
5  * See Documentation/technical/api-directory-listing.txt
6  *
7  * Copyright (C) Linus Torvalds, 2005-2006
8  *               Junio Hamano, 2005-2006
9  */
10 #include "cache.h"
11 #include "dir.h"
12 #include "refs.h"
13 #include "wildmatch.h"
14 #include "pathspec.h"
15
16 struct path_simplify {
17         int len;
18         const char *path;
19 };
20
21 /*
22  * Tells read_directory_recursive how a file or directory should be treated.
23  * Values are ordered by significance, e.g. if a directory contains both
24  * excluded and untracked files, it is listed as untracked because
25  * path_untracked > path_excluded.
26  */
27 enum path_treatment {
28         path_none = 0,
29         path_recurse,
30         path_excluded,
31         path_untracked
32 };
33
34 static enum path_treatment read_directory_recursive(struct dir_struct *dir,
35         const char *path, int len,
36         int check_only, const struct path_simplify *simplify);
37 static int get_dtype(struct dirent *de, const char *path, int len);
38
39 /* helper string functions with support for the ignore_case flag */
40 int strcmp_icase(const char *a, const char *b)
41 {
42         return ignore_case ? strcasecmp(a, b) : strcmp(a, b);
43 }
44
45 int strncmp_icase(const char *a, const char *b, size_t count)
46 {
47         return ignore_case ? strncasecmp(a, b, count) : strncmp(a, b, count);
48 }
49
50 int fnmatch_icase(const char *pattern, const char *string, int flags)
51 {
52         return fnmatch(pattern, string, flags | (ignore_case ? FNM_CASEFOLD : 0));
53 }
54
55 inline int git_fnmatch(const char *pattern, const char *string,
56                        int flags, int prefix)
57 {
58         int fnm_flags = 0;
59         if (flags & GFNM_PATHNAME)
60                 fnm_flags |= FNM_PATHNAME;
61         if (prefix > 0) {
62                 if (strncmp(pattern, string, prefix))
63                         return FNM_NOMATCH;
64                 pattern += prefix;
65                 string += prefix;
66         }
67         if (flags & GFNM_ONESTAR) {
68                 int pattern_len = strlen(++pattern);
69                 int string_len = strlen(string);
70                 return string_len < pattern_len ||
71                        strcmp(pattern,
72                               string + string_len - pattern_len);
73         }
74         return fnmatch(pattern, string, fnm_flags);
75 }
76
77 static int fnmatch_icase_mem(const char *pattern, int patternlen,
78                              const char *string, int stringlen,
79                              int flags)
80 {
81         int match_status;
82         struct strbuf pat_buf = STRBUF_INIT;
83         struct strbuf str_buf = STRBUF_INIT;
84         const char *use_pat = pattern;
85         const char *use_str = string;
86
87         if (pattern[patternlen]) {
88                 strbuf_add(&pat_buf, pattern, patternlen);
89                 use_pat = pat_buf.buf;
90         }
91         if (string[stringlen]) {
92                 strbuf_add(&str_buf, string, stringlen);
93                 use_str = str_buf.buf;
94         }
95
96         if (ignore_case)
97                 flags |= WM_CASEFOLD;
98         match_status = wildmatch(use_pat, use_str, flags, NULL);
99
100         strbuf_release(&pat_buf);
101         strbuf_release(&str_buf);
102
103         return match_status;
104 }
105
106 static size_t common_prefix_len(const char **pathspec)
107 {
108         const char *n, *first;
109         size_t max = 0;
110         int literal = limit_pathspec_to_literal();
111
112         if (!pathspec)
113                 return max;
114
115         first = *pathspec;
116         while ((n = *pathspec++)) {
117                 size_t i, len = 0;
118                 for (i = 0; first == n || i < max; i++) {
119                         char c = n[i];
120                         if (!c || c != first[i] || (!literal && is_glob_special(c)))
121                                 break;
122                         if (c == '/')
123                                 len = i + 1;
124                 }
125                 if (first == n || len < max) {
126                         max = len;
127                         if (!max)
128                                 break;
129                 }
130         }
131         return max;
132 }
133
134 /*
135  * Returns a copy of the longest leading path common among all
136  * pathspecs.
137  */
138 char *common_prefix(const char **pathspec)
139 {
140         unsigned long len = common_prefix_len(pathspec);
141
142         return len ? xmemdupz(*pathspec, len) : NULL;
143 }
144
145 int fill_directory(struct dir_struct *dir, const char **pathspec)
146 {
147         size_t len;
148
149         /*
150          * Calculate common prefix for the pathspec, and
151          * use that to optimize the directory walk
152          */
153         len = common_prefix_len(pathspec);
154
155         /* Read the directory and prune it */
156         read_directory(dir, pathspec ? *pathspec : "", len, pathspec);
157         return len;
158 }
159
160 int within_depth(const char *name, int namelen,
161                         int depth, int max_depth)
162 {
163         const char *cp = name, *cpe = name + namelen;
164
165         while (cp < cpe) {
166                 if (*cp++ != '/')
167                         continue;
168                 depth++;
169                 if (depth > max_depth)
170                         return 0;
171         }
172         return 1;
173 }
174
175 /*
176  * Does 'match' match the given name?
177  * A match is found if
178  *
179  * (1) the 'match' string is leading directory of 'name', or
180  * (2) the 'match' string is a wildcard and matches 'name', or
181  * (3) the 'match' string is exactly the same as 'name'.
182  *
183  * and the return value tells which case it was.
184  *
185  * It returns 0 when there is no match.
186  */
187 static int match_one(const char *match, const char *name, int namelen)
188 {
189         int matchlen;
190         int literal = limit_pathspec_to_literal();
191
192         /* If the match was just the prefix, we matched */
193         if (!*match)
194                 return MATCHED_RECURSIVELY;
195
196         if (ignore_case) {
197                 for (;;) {
198                         unsigned char c1 = tolower(*match);
199                         unsigned char c2 = tolower(*name);
200                         if (c1 == '\0' || (!literal && is_glob_special(c1)))
201                                 break;
202                         if (c1 != c2)
203                                 return 0;
204                         match++;
205                         name++;
206                         namelen--;
207                 }
208         } else {
209                 for (;;) {
210                         unsigned char c1 = *match;
211                         unsigned char c2 = *name;
212                         if (c1 == '\0' || (!literal && is_glob_special(c1)))
213                                 break;
214                         if (c1 != c2)
215                                 return 0;
216                         match++;
217                         name++;
218                         namelen--;
219                 }
220         }
221
222         /*
223          * If we don't match the matchstring exactly,
224          * we need to match by fnmatch
225          */
226         matchlen = strlen(match);
227         if (strncmp_icase(match, name, matchlen)) {
228                 if (literal)
229                         return 0;
230                 return !fnmatch_icase(match, name, 0) ? MATCHED_FNMATCH : 0;
231         }
232
233         if (namelen == matchlen)
234                 return MATCHED_EXACTLY;
235         if (match[matchlen-1] == '/' || name[matchlen] == '/')
236                 return MATCHED_RECURSIVELY;
237         return 0;
238 }
239
240 /*
241  * Given a name and a list of pathspecs, returns the nature of the
242  * closest (i.e. most specific) match of the name to any of the
243  * pathspecs.
244  *
245  * The caller typically calls this multiple times with the same
246  * pathspec and seen[] array but with different name/namelen
247  * (e.g. entries from the index) and is interested in seeing if and
248  * how each pathspec matches all the names it calls this function
249  * with.  A mark is left in the seen[] array for each pathspec element
250  * indicating the closest type of match that element achieved, so if
251  * seen[n] remains zero after multiple invocations, that means the nth
252  * pathspec did not match any names, which could indicate that the
253  * user mistyped the nth pathspec.
254  */
255 int match_pathspec(const char **pathspec, const char *name, int namelen,
256                 int prefix, char *seen)
257 {
258         int i, retval = 0;
259
260         if (!pathspec)
261                 return 1;
262
263         name += prefix;
264         namelen -= prefix;
265
266         for (i = 0; pathspec[i] != NULL; i++) {
267                 int how;
268                 const char *match = pathspec[i] + prefix;
269                 if (seen && seen[i] == MATCHED_EXACTLY)
270                         continue;
271                 how = match_one(match, name, namelen);
272                 if (how) {
273                         if (retval < how)
274                                 retval = how;
275                         if (seen && seen[i] < how)
276                                 seen[i] = how;
277                 }
278         }
279         return retval;
280 }
281
282 /*
283  * Does 'match' match the given name?
284  * A match is found if
285  *
286  * (1) the 'match' string is leading directory of 'name', or
287  * (2) the 'match' string is a wildcard and matches 'name', or
288  * (3) the 'match' string is exactly the same as 'name'.
289  *
290  * and the return value tells which case it was.
291  *
292  * It returns 0 when there is no match.
293  */
294 static int match_pathspec_item(const struct pathspec_item *item, int prefix,
295                                const char *name, int namelen)
296 {
297         /* name/namelen has prefix cut off by caller */
298         const char *match = item->match + prefix;
299         int matchlen = item->len - prefix;
300
301         /* If the match was just the prefix, we matched */
302         if (!*match)
303                 return MATCHED_RECURSIVELY;
304
305         if (matchlen <= namelen && !strncmp(match, name, matchlen)) {
306                 if (matchlen == namelen)
307                         return MATCHED_EXACTLY;
308
309                 if (match[matchlen-1] == '/' || name[matchlen] == '/')
310                         return MATCHED_RECURSIVELY;
311         }
312
313         if (item->nowildcard_len < item->len &&
314             !git_fnmatch(match, name,
315                          item->flags & PATHSPEC_ONESTAR ? GFNM_ONESTAR : 0,
316                          item->nowildcard_len - prefix))
317                 return MATCHED_FNMATCH;
318
319         return 0;
320 }
321
322 /*
323  * Given a name and a list of pathspecs, returns the nature of the
324  * closest (i.e. most specific) match of the name to any of the
325  * pathspecs.
326  *
327  * The caller typically calls this multiple times with the same
328  * pathspec and seen[] array but with different name/namelen
329  * (e.g. entries from the index) and is interested in seeing if and
330  * how each pathspec matches all the names it calls this function
331  * with.  A mark is left in the seen[] array for each pathspec element
332  * indicating the closest type of match that element achieved, so if
333  * seen[n] remains zero after multiple invocations, that means the nth
334  * pathspec did not match any names, which could indicate that the
335  * user mistyped the nth pathspec.
336  */
337 int match_pathspec_depth(const struct pathspec *ps,
338                          const char *name, int namelen,
339                          int prefix, char *seen)
340 {
341         int i, retval = 0;
342
343         if (!ps->nr) {
344                 if (!ps->recursive ||
345                     !(ps->magic & PATHSPEC_MAXDEPTH) ||
346                     ps->max_depth == -1)
347                         return MATCHED_RECURSIVELY;
348
349                 if (within_depth(name, namelen, 0, ps->max_depth))
350                         return MATCHED_EXACTLY;
351                 else
352                         return 0;
353         }
354
355         name += prefix;
356         namelen -= prefix;
357
358         for (i = ps->nr - 1; i >= 0; i--) {
359                 int how;
360                 if (seen && seen[i] == MATCHED_EXACTLY)
361                         continue;
362                 how = match_pathspec_item(ps->items+i, prefix, name, namelen);
363                 if (ps->recursive &&
364                     (ps->magic & PATHSPEC_MAXDEPTH) &&
365                     ps->max_depth != -1 &&
366                     how && how != MATCHED_FNMATCH) {
367                         int len = ps->items[i].len;
368                         if (name[len] == '/')
369                                 len++;
370                         if (within_depth(name+len, namelen-len, 0, ps->max_depth))
371                                 how = MATCHED_EXACTLY;
372                         else
373                                 how = 0;
374                 }
375                 if (how) {
376                         if (retval < how)
377                                 retval = how;
378                         if (seen && seen[i] < how)
379                                 seen[i] = how;
380                 }
381         }
382         return retval;
383 }
384
385 /*
386  * Return the length of the "simple" part of a path match limiter.
387  */
388 int simple_length(const char *match)
389 {
390         int len = -1;
391
392         for (;;) {
393                 unsigned char c = *match++;
394                 len++;
395                 if (c == '\0' || is_glob_special(c))
396                         return len;
397         }
398 }
399
400 int no_wildcard(const char *string)
401 {
402         return string[simple_length(string)] == '\0';
403 }
404
405 void parse_exclude_pattern(const char **pattern,
406                            int *patternlen,
407                            int *flags,
408                            int *nowildcardlen)
409 {
410         const char *p = *pattern;
411         size_t i, len;
412
413         *flags = 0;
414         if (*p == '!') {
415                 *flags |= EXC_FLAG_NEGATIVE;
416                 p++;
417         }
418         len = strlen(p);
419         if (len && p[len - 1] == '/') {
420                 len--;
421                 *flags |= EXC_FLAG_MUSTBEDIR;
422         }
423         for (i = 0; i < len; i++) {
424                 if (p[i] == '/')
425                         break;
426         }
427         if (i == len)
428                 *flags |= EXC_FLAG_NODIR;
429         *nowildcardlen = simple_length(p);
430         /*
431          * we should have excluded the trailing slash from 'p' too,
432          * but that's one more allocation. Instead just make sure
433          * nowildcardlen does not exceed real patternlen
434          */
435         if (*nowildcardlen > len)
436                 *nowildcardlen = len;
437         if (*p == '*' && no_wildcard(p + 1))
438                 *flags |= EXC_FLAG_ENDSWITH;
439         *pattern = p;
440         *patternlen = len;
441 }
442
443 void add_exclude(const char *string, const char *base,
444                  int baselen, struct exclude_list *el, int srcpos)
445 {
446         struct exclude *x;
447         int patternlen;
448         int flags;
449         int nowildcardlen;
450
451         parse_exclude_pattern(&string, &patternlen, &flags, &nowildcardlen);
452         if (flags & EXC_FLAG_MUSTBEDIR) {
453                 char *s;
454                 x = xmalloc(sizeof(*x) + patternlen + 1);
455                 s = (char *)(x+1);
456                 memcpy(s, string, patternlen);
457                 s[patternlen] = '\0';
458                 x->pattern = s;
459         } else {
460                 x = xmalloc(sizeof(*x));
461                 x->pattern = string;
462         }
463         x->patternlen = patternlen;
464         x->nowildcardlen = nowildcardlen;
465         x->base = base;
466         x->baselen = baselen;
467         x->flags = flags;
468         x->srcpos = srcpos;
469         ALLOC_GROW(el->excludes, el->nr + 1, el->alloc);
470         el->excludes[el->nr++] = x;
471         x->el = el;
472 }
473
474 static void *read_skip_worktree_file_from_index(const char *path, size_t *size)
475 {
476         int pos, len;
477         unsigned long sz;
478         enum object_type type;
479         void *data;
480         struct index_state *istate = &the_index;
481
482         len = strlen(path);
483         pos = index_name_pos(istate, path, len);
484         if (pos < 0)
485                 return NULL;
486         if (!ce_skip_worktree(istate->cache[pos]))
487                 return NULL;
488         data = read_sha1_file(istate->cache[pos]->sha1, &type, &sz);
489         if (!data || type != OBJ_BLOB) {
490                 free(data);
491                 return NULL;
492         }
493         *size = xsize_t(sz);
494         return data;
495 }
496
497 /*
498  * Frees memory within el which was allocated for exclude patterns and
499  * the file buffer.  Does not free el itself.
500  */
501 void clear_exclude_list(struct exclude_list *el)
502 {
503         int i;
504
505         for (i = 0; i < el->nr; i++)
506                 free(el->excludes[i]);
507         free(el->excludes);
508         free(el->filebuf);
509
510         el->nr = 0;
511         el->excludes = NULL;
512         el->filebuf = NULL;
513 }
514
515 int add_excludes_from_file_to_list(const char *fname,
516                                    const char *base,
517                                    int baselen,
518                                    struct exclude_list *el,
519                                    int check_index)
520 {
521         struct stat st;
522         int fd, i, lineno = 1;
523         size_t size = 0;
524         char *buf, *entry;
525
526         fd = open(fname, O_RDONLY);
527         if (fd < 0 || fstat(fd, &st) < 0) {
528                 if (errno != ENOENT)
529                         warn_on_inaccessible(fname);
530                 if (0 <= fd)
531                         close(fd);
532                 if (!check_index ||
533                     (buf = read_skip_worktree_file_from_index(fname, &size)) == NULL)
534                         return -1;
535                 if (size == 0) {
536                         free(buf);
537                         return 0;
538                 }
539                 if (buf[size-1] != '\n') {
540                         buf = xrealloc(buf, size+1);
541                         buf[size++] = '\n';
542                 }
543         }
544         else {
545                 size = xsize_t(st.st_size);
546                 if (size == 0) {
547                         close(fd);
548                         return 0;
549                 }
550                 buf = xmalloc(size+1);
551                 if (read_in_full(fd, buf, size) != size) {
552                         free(buf);
553                         close(fd);
554                         return -1;
555                 }
556                 buf[size++] = '\n';
557                 close(fd);
558         }
559
560         el->filebuf = buf;
561         entry = buf;
562         for (i = 0; i < size; i++) {
563                 if (buf[i] == '\n') {
564                         if (entry != buf + i && entry[0] != '#') {
565                                 buf[i - (i && buf[i-1] == '\r')] = 0;
566                                 add_exclude(entry, base, baselen, el, lineno);
567                         }
568                         lineno++;
569                         entry = buf + i + 1;
570                 }
571         }
572         return 0;
573 }
574
575 struct exclude_list *add_exclude_list(struct dir_struct *dir,
576                                       int group_type, const char *src)
577 {
578         struct exclude_list *el;
579         struct exclude_list_group *group;
580
581         group = &dir->exclude_list_group[group_type];
582         ALLOC_GROW(group->el, group->nr + 1, group->alloc);
583         el = &group->el[group->nr++];
584         memset(el, 0, sizeof(*el));
585         el->src = src;
586         return el;
587 }
588
589 /*
590  * Used to set up core.excludesfile and .git/info/exclude lists.
591  */
592 void add_excludes_from_file(struct dir_struct *dir, const char *fname)
593 {
594         struct exclude_list *el;
595         el = add_exclude_list(dir, EXC_FILE, fname);
596         if (add_excludes_from_file_to_list(fname, "", 0, el, 0) < 0)
597                 die("cannot use %s as an exclude file", fname);
598 }
599
600 int match_basename(const char *basename, int basenamelen,
601                    const char *pattern, int prefix, int patternlen,
602                    int flags)
603 {
604         if (prefix == patternlen) {
605                 if (patternlen == basenamelen &&
606                     !strncmp_icase(pattern, basename, basenamelen))
607                         return 1;
608         } else if (flags & EXC_FLAG_ENDSWITH) {
609                 /* "*literal" matching against "fooliteral" */
610                 if (patternlen - 1 <= basenamelen &&
611                     !strncmp_icase(pattern + 1,
612                                    basename + basenamelen - (patternlen - 1),
613                                    patternlen - 1))
614                         return 1;
615         } else {
616                 if (fnmatch_icase_mem(pattern, patternlen,
617                                       basename, basenamelen,
618                                       0) == 0)
619                         return 1;
620         }
621         return 0;
622 }
623
624 int match_pathname(const char *pathname, int pathlen,
625                    const char *base, int baselen,
626                    const char *pattern, int prefix, int patternlen,
627                    int flags)
628 {
629         const char *name;
630         int namelen;
631
632         /*
633          * match with FNM_PATHNAME; the pattern has base implicitly
634          * in front of it.
635          */
636         if (*pattern == '/') {
637                 pattern++;
638                 patternlen--;
639                 prefix--;
640         }
641
642         /*
643          * baselen does not count the trailing slash. base[] may or
644          * may not end with a trailing slash though.
645          */
646         if (pathlen < baselen + 1 ||
647             (baselen && pathname[baselen] != '/') ||
648             strncmp_icase(pathname, base, baselen))
649                 return 0;
650
651         namelen = baselen ? pathlen - baselen - 1 : pathlen;
652         name = pathname + pathlen - namelen;
653
654         if (prefix) {
655                 /*
656                  * if the non-wildcard part is longer than the
657                  * remaining pathname, surely it cannot match.
658                  */
659                 if (prefix > namelen)
660                         return 0;
661
662                 if (strncmp_icase(pattern, name, prefix))
663                         return 0;
664                 pattern += prefix;
665                 patternlen -= prefix;
666                 name    += prefix;
667                 namelen -= prefix;
668
669                 /*
670                  * If the whole pattern did not have a wildcard,
671                  * then our prefix match is all we need; we
672                  * do not need to call fnmatch at all.
673                  */
674                 if (!patternlen && !namelen)
675                         return 1;
676         }
677
678         return fnmatch_icase_mem(pattern, patternlen,
679                                  name, namelen,
680                                  WM_PATHNAME) == 0;
681 }
682
683 /*
684  * Scan the given exclude list in reverse to see whether pathname
685  * should be ignored.  The first match (i.e. the last on the list), if
686  * any, determines the fate.  Returns the exclude_list element which
687  * matched, or NULL for undecided.
688  */
689 static struct exclude *last_exclude_matching_from_list(const char *pathname,
690                                                        int pathlen,
691                                                        const char *basename,
692                                                        int *dtype,
693                                                        struct exclude_list *el)
694 {
695         int i;
696
697         if (!el->nr)
698                 return NULL;    /* undefined */
699
700         for (i = el->nr - 1; 0 <= i; i--) {
701                 struct exclude *x = el->excludes[i];
702                 const char *exclude = x->pattern;
703                 int prefix = x->nowildcardlen;
704
705                 if (x->flags & EXC_FLAG_MUSTBEDIR) {
706                         if (*dtype == DT_UNKNOWN)
707                                 *dtype = get_dtype(NULL, pathname, pathlen);
708                         if (*dtype != DT_DIR)
709                                 continue;
710                 }
711
712                 if (x->flags & EXC_FLAG_NODIR) {
713                         if (match_basename(basename,
714                                            pathlen - (basename - pathname),
715                                            exclude, prefix, x->patternlen,
716                                            x->flags))
717                                 return x;
718                         continue;
719                 }
720
721                 assert(x->baselen == 0 || x->base[x->baselen - 1] == '/');
722                 if (match_pathname(pathname, pathlen,
723                                    x->base, x->baselen ? x->baselen - 1 : 0,
724                                    exclude, prefix, x->patternlen, x->flags))
725                         return x;
726         }
727         return NULL; /* undecided */
728 }
729
730 /*
731  * Scan the list and let the last match determine the fate.
732  * Return 1 for exclude, 0 for include and -1 for undecided.
733  */
734 int is_excluded_from_list(const char *pathname,
735                           int pathlen, const char *basename, int *dtype,
736                           struct exclude_list *el)
737 {
738         struct exclude *exclude;
739         exclude = last_exclude_matching_from_list(pathname, pathlen, basename, dtype, el);
740         if (exclude)
741                 return exclude->flags & EXC_FLAG_NEGATIVE ? 0 : 1;
742         return -1; /* undecided */
743 }
744
745 static struct exclude *last_exclude_matching_from_lists(struct dir_struct *dir,
746                 const char *pathname, int pathlen, const char *basename,
747                 int *dtype_p)
748 {
749         int i, j;
750         struct exclude_list_group *group;
751         struct exclude *exclude;
752         for (i = EXC_CMDL; i <= EXC_FILE; i++) {
753                 group = &dir->exclude_list_group[i];
754                 for (j = group->nr - 1; j >= 0; j--) {
755                         exclude = last_exclude_matching_from_list(
756                                 pathname, pathlen, basename, dtype_p,
757                                 &group->el[j]);
758                         if (exclude)
759                                 return exclude;
760                 }
761         }
762         return NULL;
763 }
764
765 /*
766  * Loads the per-directory exclude list for the substring of base
767  * which has a char length of baselen.
768  */
769 static void prep_exclude(struct dir_struct *dir, const char *base, int baselen)
770 {
771         struct exclude_list_group *group;
772         struct exclude_list *el;
773         struct exclude_stack *stk = NULL;
774         int current;
775
776         group = &dir->exclude_list_group[EXC_DIRS];
777
778         /* Pop the exclude lists from the EXCL_DIRS exclude_list_group
779          * which originate from directories not in the prefix of the
780          * path being checked. */
781         while ((stk = dir->exclude_stack) != NULL) {
782                 if (stk->baselen <= baselen &&
783                     !strncmp(dir->basebuf, base, stk->baselen))
784                         break;
785                 el = &group->el[dir->exclude_stack->exclude_ix];
786                 dir->exclude_stack = stk->prev;
787                 dir->exclude = NULL;
788                 free((char *)el->src); /* see strdup() below */
789                 clear_exclude_list(el);
790                 free(stk);
791                 group->nr--;
792         }
793
794         /* Skip traversing into sub directories if the parent is excluded */
795         if (dir->exclude)
796                 return;
797
798         /* Read from the parent directories and push them down. */
799         current = stk ? stk->baselen : -1;
800         while (current < baselen) {
801                 struct exclude_stack *stk = xcalloc(1, sizeof(*stk));
802                 const char *cp;
803
804                 if (current < 0) {
805                         cp = base;
806                         current = 0;
807                 }
808                 else {
809                         cp = strchr(base + current + 1, '/');
810                         if (!cp)
811                                 die("oops in prep_exclude");
812                         cp++;
813                 }
814                 stk->prev = dir->exclude_stack;
815                 stk->baselen = cp - base;
816                 stk->exclude_ix = group->nr;
817                 el = add_exclude_list(dir, EXC_DIRS, NULL);
818                 memcpy(dir->basebuf + current, base + current,
819                        stk->baselen - current);
820
821                 /* Abort if the directory is excluded */
822                 if (stk->baselen) {
823                         int dt = DT_DIR;
824                         dir->basebuf[stk->baselen - 1] = 0;
825                         dir->exclude = last_exclude_matching_from_lists(dir,
826                                 dir->basebuf, stk->baselen - 1,
827                                 dir->basebuf + current, &dt);
828                         dir->basebuf[stk->baselen - 1] = '/';
829                         if (dir->exclude &&
830                             dir->exclude->flags & EXC_FLAG_NEGATIVE)
831                                 dir->exclude = NULL;
832                         if (dir->exclude) {
833                                 dir->basebuf[stk->baselen] = 0;
834                                 dir->exclude_stack = stk;
835                                 return;
836                         }
837                 }
838
839                 /* Try to read per-directory file unless path is too long */
840                 if (dir->exclude_per_dir &&
841                     stk->baselen + strlen(dir->exclude_per_dir) < PATH_MAX) {
842                         strcpy(dir->basebuf + stk->baselen,
843                                         dir->exclude_per_dir);
844                         /*
845                          * dir->basebuf gets reused by the traversal, but we
846                          * need fname to remain unchanged to ensure the src
847                          * member of each struct exclude correctly
848                          * back-references its source file.  Other invocations
849                          * of add_exclude_list provide stable strings, so we
850                          * strdup() and free() here in the caller.
851                          */
852                         el->src = strdup(dir->basebuf);
853                         add_excludes_from_file_to_list(dir->basebuf,
854                                         dir->basebuf, stk->baselen, el, 1);
855                 }
856                 dir->exclude_stack = stk;
857                 current = stk->baselen;
858         }
859         dir->basebuf[baselen] = '\0';
860 }
861
862 /*
863  * Loads the exclude lists for the directory containing pathname, then
864  * scans all exclude lists to determine whether pathname is excluded.
865  * Returns the exclude_list element which matched, or NULL for
866  * undecided.
867  */
868 struct exclude *last_exclude_matching(struct dir_struct *dir,
869                                              const char *pathname,
870                                              int *dtype_p)
871 {
872         int pathlen = strlen(pathname);
873         const char *basename = strrchr(pathname, '/');
874         basename = (basename) ? basename+1 : pathname;
875
876         prep_exclude(dir, pathname, basename-pathname);
877
878         if (dir->exclude)
879                 return dir->exclude;
880
881         return last_exclude_matching_from_lists(dir, pathname, pathlen,
882                         basename, dtype_p);
883 }
884
885 /*
886  * Loads the exclude lists for the directory containing pathname, then
887  * scans all exclude lists to determine whether pathname is excluded.
888  * Returns 1 if true, otherwise 0.
889  */
890 int is_excluded(struct dir_struct *dir, const char *pathname, int *dtype_p)
891 {
892         struct exclude *exclude =
893                 last_exclude_matching(dir, pathname, dtype_p);
894         if (exclude)
895                 return exclude->flags & EXC_FLAG_NEGATIVE ? 0 : 1;
896         return 0;
897 }
898
899 static struct dir_entry *dir_entry_new(const char *pathname, int len)
900 {
901         struct dir_entry *ent;
902
903         ent = xmalloc(sizeof(*ent) + len + 1);
904         ent->len = len;
905         memcpy(ent->name, pathname, len);
906         ent->name[len] = 0;
907         return ent;
908 }
909
910 static struct dir_entry *dir_add_name(struct dir_struct *dir, const char *pathname, int len)
911 {
912         if (cache_name_exists(pathname, len, ignore_case))
913                 return NULL;
914
915         ALLOC_GROW(dir->entries, dir->nr+1, dir->alloc);
916         return dir->entries[dir->nr++] = dir_entry_new(pathname, len);
917 }
918
919 struct dir_entry *dir_add_ignored(struct dir_struct *dir, const char *pathname, int len)
920 {
921         if (!cache_name_is_other(pathname, len))
922                 return NULL;
923
924         ALLOC_GROW(dir->ignored, dir->ignored_nr+1, dir->ignored_alloc);
925         return dir->ignored[dir->ignored_nr++] = dir_entry_new(pathname, len);
926 }
927
928 enum exist_status {
929         index_nonexistent = 0,
930         index_directory,
931         index_gitdir
932 };
933
934 /*
935  * Do not use the alphabetically stored index to look up
936  * the directory name; instead, use the case insensitive
937  * name hash.
938  */
939 static enum exist_status directory_exists_in_index_icase(const char *dirname, int len)
940 {
941         struct cache_entry *ce = index_name_exists(&the_index, dirname, len + 1, ignore_case);
942         unsigned char endchar;
943
944         if (!ce)
945                 return index_nonexistent;
946         endchar = ce->name[len];
947
948         /*
949          * The cache_entry structure returned will contain this dirname
950          * and possibly additional path components.
951          */
952         if (endchar == '/')
953                 return index_directory;
954
955         /*
956          * If there are no additional path components, then this cache_entry
957          * represents a submodule.  Submodules, despite being directories,
958          * are stored in the cache without a closing slash.
959          */
960         if (!endchar && S_ISGITLINK(ce->ce_mode))
961                 return index_gitdir;
962
963         /* This should never be hit, but it exists just in case. */
964         return index_nonexistent;
965 }
966
967 /*
968  * The index sorts alphabetically by entry name, which
969  * means that a gitlink sorts as '\0' at the end, while
970  * a directory (which is defined not as an entry, but as
971  * the files it contains) will sort with the '/' at the
972  * end.
973  */
974 static enum exist_status directory_exists_in_index(const char *dirname, int len)
975 {
976         int pos;
977
978         if (ignore_case)
979                 return directory_exists_in_index_icase(dirname, len);
980
981         pos = cache_name_pos(dirname, len);
982         if (pos < 0)
983                 pos = -pos-1;
984         while (pos < active_nr) {
985                 struct cache_entry *ce = active_cache[pos++];
986                 unsigned char endchar;
987
988                 if (strncmp(ce->name, dirname, len))
989                         break;
990                 endchar = ce->name[len];
991                 if (endchar > '/')
992                         break;
993                 if (endchar == '/')
994                         return index_directory;
995                 if (!endchar && S_ISGITLINK(ce->ce_mode))
996                         return index_gitdir;
997         }
998         return index_nonexistent;
999 }
1000
1001 /*
1002  * When we find a directory when traversing the filesystem, we
1003  * have three distinct cases:
1004  *
1005  *  - ignore it
1006  *  - see it as a directory
1007  *  - recurse into it
1008  *
1009  * and which one we choose depends on a combination of existing
1010  * git index contents and the flags passed into the directory
1011  * traversal routine.
1012  *
1013  * Case 1: If we *already* have entries in the index under that
1014  * directory name, we always recurse into the directory to see
1015  * all the files.
1016  *
1017  * Case 2: If we *already* have that directory name as a gitlink,
1018  * we always continue to see it as a gitlink, regardless of whether
1019  * there is an actual git directory there or not (it might not
1020  * be checked out as a subproject!)
1021  *
1022  * Case 3: if we didn't have it in the index previously, we
1023  * have a few sub-cases:
1024  *
1025  *  (a) if "show_other_directories" is true, we show it as
1026  *      just a directory, unless "hide_empty_directories" is
1027  *      also true, in which case we need to check if it contains any
1028  *      untracked and / or ignored files.
1029  *  (b) if it looks like a git directory, and we don't have
1030  *      'no_gitlinks' set we treat it as a gitlink, and show it
1031  *      as a directory.
1032  *  (c) otherwise, we recurse into it.
1033  */
1034 static enum path_treatment treat_directory(struct dir_struct *dir,
1035         const char *dirname, int len, int exclude,
1036         const struct path_simplify *simplify)
1037 {
1038         /* The "len-1" is to strip the final '/' */
1039         switch (directory_exists_in_index(dirname, len-1)) {
1040         case index_directory:
1041                 return path_recurse;
1042
1043         case index_gitdir:
1044                 return path_none;
1045
1046         case index_nonexistent:
1047                 if (dir->flags & DIR_SHOW_OTHER_DIRECTORIES)
1048                         break;
1049                 if (!(dir->flags & DIR_NO_GITLINKS)) {
1050                         unsigned char sha1[20];
1051                         if (resolve_gitlink_ref(dirname, "HEAD", sha1) == 0)
1052                                 return path_untracked;
1053                 }
1054                 return path_recurse;
1055         }
1056
1057         /* This is the "show_other_directories" case */
1058
1059         if (!(dir->flags & DIR_HIDE_EMPTY_DIRECTORIES))
1060                 return exclude ? path_excluded : path_untracked;
1061
1062         return read_directory_recursive(dir, dirname, len, 1, simplify);
1063 }
1064
1065 /*
1066  * This is an inexact early pruning of any recursive directory
1067  * reading - if the path cannot possibly be in the pathspec,
1068  * return true, and we'll skip it early.
1069  */
1070 static int simplify_away(const char *path, int pathlen, const struct path_simplify *simplify)
1071 {
1072         if (simplify) {
1073                 for (;;) {
1074                         const char *match = simplify->path;
1075                         int len = simplify->len;
1076
1077                         if (!match)
1078                                 break;
1079                         if (len > pathlen)
1080                                 len = pathlen;
1081                         if (!memcmp(path, match, len))
1082                                 return 0;
1083                         simplify++;
1084                 }
1085                 return 1;
1086         }
1087         return 0;
1088 }
1089
1090 /*
1091  * This function tells us whether an excluded path matches a
1092  * list of "interesting" pathspecs. That is, whether a path matched
1093  * by any of the pathspecs could possibly be ignored by excluding
1094  * the specified path. This can happen if:
1095  *
1096  *   1. the path is mentioned explicitly in the pathspec
1097  *
1098  *   2. the path is a directory prefix of some element in the
1099  *      pathspec
1100  */
1101 static int exclude_matches_pathspec(const char *path, int len,
1102                 const struct path_simplify *simplify)
1103 {
1104         if (simplify) {
1105                 for (; simplify->path; simplify++) {
1106                         if (len == simplify->len
1107                             && !memcmp(path, simplify->path, len))
1108                                 return 1;
1109                         if (len < simplify->len
1110                             && simplify->path[len] == '/'
1111                             && !memcmp(path, simplify->path, len))
1112                                 return 1;
1113                 }
1114         }
1115         return 0;
1116 }
1117
1118 static int get_index_dtype(const char *path, int len)
1119 {
1120         int pos;
1121         struct cache_entry *ce;
1122
1123         ce = cache_name_exists(path, len, 0);
1124         if (ce) {
1125                 if (!ce_uptodate(ce))
1126                         return DT_UNKNOWN;
1127                 if (S_ISGITLINK(ce->ce_mode))
1128                         return DT_DIR;
1129                 /*
1130                  * Nobody actually cares about the
1131                  * difference between DT_LNK and DT_REG
1132                  */
1133                 return DT_REG;
1134         }
1135
1136         /* Try to look it up as a directory */
1137         pos = cache_name_pos(path, len);
1138         if (pos >= 0)
1139                 return DT_UNKNOWN;
1140         pos = -pos-1;
1141         while (pos < active_nr) {
1142                 ce = active_cache[pos++];
1143                 if (strncmp(ce->name, path, len))
1144                         break;
1145                 if (ce->name[len] > '/')
1146                         break;
1147                 if (ce->name[len] < '/')
1148                         continue;
1149                 if (!ce_uptodate(ce))
1150                         break;  /* continue? */
1151                 return DT_DIR;
1152         }
1153         return DT_UNKNOWN;
1154 }
1155
1156 static int get_dtype(struct dirent *de, const char *path, int len)
1157 {
1158         int dtype = de ? DTYPE(de) : DT_UNKNOWN;
1159         struct stat st;
1160
1161         if (dtype != DT_UNKNOWN)
1162                 return dtype;
1163         dtype = get_index_dtype(path, len);
1164         if (dtype != DT_UNKNOWN)
1165                 return dtype;
1166         if (lstat(path, &st))
1167                 return dtype;
1168         if (S_ISREG(st.st_mode))
1169                 return DT_REG;
1170         if (S_ISDIR(st.st_mode))
1171                 return DT_DIR;
1172         if (S_ISLNK(st.st_mode))
1173                 return DT_LNK;
1174         return dtype;
1175 }
1176
1177 static enum path_treatment treat_one_path(struct dir_struct *dir,
1178                                           struct strbuf *path,
1179                                           const struct path_simplify *simplify,
1180                                           int dtype, struct dirent *de)
1181 {
1182         int exclude;
1183         if (dtype == DT_UNKNOWN)
1184                 dtype = get_dtype(de, path->buf, path->len);
1185
1186         /* Always exclude indexed files */
1187         if (dtype != DT_DIR &&
1188             cache_name_exists(path->buf, path->len, ignore_case))
1189                 return path_none;
1190
1191         exclude = is_excluded(dir, path->buf, &dtype);
1192
1193         /*
1194          * Excluded? If we don't explicitly want to show
1195          * ignored files, ignore it
1196          */
1197         if (exclude && !(dir->flags & (DIR_SHOW_IGNORED|DIR_SHOW_IGNORED_TOO)))
1198                 return path_excluded;
1199
1200         switch (dtype) {
1201         default:
1202                 return path_none;
1203         case DT_DIR:
1204                 strbuf_addch(path, '/');
1205                 return treat_directory(dir, path->buf, path->len, exclude,
1206                         simplify);
1207         case DT_REG:
1208         case DT_LNK:
1209                 return exclude ? path_excluded : path_untracked;
1210         }
1211 }
1212
1213 static enum path_treatment treat_path(struct dir_struct *dir,
1214                                       struct dirent *de,
1215                                       struct strbuf *path,
1216                                       int baselen,
1217                                       const struct path_simplify *simplify)
1218 {
1219         int dtype;
1220
1221         if (is_dot_or_dotdot(de->d_name) || !strcmp(de->d_name, ".git"))
1222                 return path_none;
1223         strbuf_setlen(path, baselen);
1224         strbuf_addstr(path, de->d_name);
1225         if (simplify_away(path->buf, path->len, simplify))
1226                 return path_none;
1227
1228         dtype = DTYPE(de);
1229         return treat_one_path(dir, path, simplify, dtype, de);
1230 }
1231
1232 /*
1233  * Read a directory tree. We currently ignore anything but
1234  * directories, regular files and symlinks. That's because git
1235  * doesn't handle them at all yet. Maybe that will change some
1236  * day.
1237  *
1238  * Also, we ignore the name ".git" (even if it is not a directory).
1239  * That likely will not change.
1240  *
1241  * Returns the most significant path_treatment value encountered in the scan.
1242  */
1243 static enum path_treatment read_directory_recursive(struct dir_struct *dir,
1244                                     const char *base, int baselen,
1245                                     int check_only,
1246                                     const struct path_simplify *simplify)
1247 {
1248         DIR *fdir;
1249         enum path_treatment state, subdir_state, dir_state = path_none;
1250         struct dirent *de;
1251         struct strbuf path = STRBUF_INIT;
1252
1253         strbuf_add(&path, base, baselen);
1254
1255         fdir = opendir(path.len ? path.buf : ".");
1256         if (!fdir)
1257                 goto out;
1258
1259         while ((de = readdir(fdir)) != NULL) {
1260                 /* check how the file or directory should be treated */
1261                 state = treat_path(dir, de, &path, baselen, simplify);
1262                 if (state > dir_state)
1263                         dir_state = state;
1264
1265                 /* recurse into subdir if instructed by treat_path */
1266                 if (state == path_recurse) {
1267                         subdir_state = read_directory_recursive(dir, path.buf,
1268                                 path.len, check_only, simplify);
1269                         if (subdir_state > dir_state)
1270                                 dir_state = subdir_state;
1271                 }
1272
1273                 if (check_only) {
1274                         /* abort early if maximum state has been reached */
1275                         if (dir_state == path_untracked)
1276                                 break;
1277                         /* skip the dir_add_* part */
1278                         continue;
1279                 }
1280
1281                 /* add the path to the appropriate result list */
1282                 switch (state) {
1283                 case path_excluded:
1284                         if (dir->flags & DIR_SHOW_IGNORED)
1285                                 dir_add_name(dir, path.buf, path.len);
1286                         else if ((dir->flags & DIR_SHOW_IGNORED_TOO) ||
1287                                 ((dir->flags & DIR_COLLECT_IGNORED) &&
1288                                 exclude_matches_pathspec(path.buf, path.len,
1289                                         simplify)))
1290                                 dir_add_ignored(dir, path.buf, path.len);
1291                         break;
1292
1293                 case path_untracked:
1294                         if (!(dir->flags & DIR_SHOW_IGNORED))
1295                                 dir_add_name(dir, path.buf, path.len);
1296                         break;
1297
1298                 default:
1299                         break;
1300                 }
1301         }
1302         closedir(fdir);
1303  out:
1304         strbuf_release(&path);
1305
1306         return dir_state;
1307 }
1308
1309 static int cmp_name(const void *p1, const void *p2)
1310 {
1311         const struct dir_entry *e1 = *(const struct dir_entry **)p1;
1312         const struct dir_entry *e2 = *(const struct dir_entry **)p2;
1313
1314         return cache_name_compare(e1->name, e1->len,
1315                                   e2->name, e2->len);
1316 }
1317
1318 static struct path_simplify *create_simplify(const char **pathspec)
1319 {
1320         int nr, alloc = 0;
1321         struct path_simplify *simplify = NULL;
1322
1323         if (!pathspec)
1324                 return NULL;
1325
1326         for (nr = 0 ; ; nr++) {
1327                 const char *match;
1328                 if (nr >= alloc) {
1329                         alloc = alloc_nr(alloc);
1330                         simplify = xrealloc(simplify, alloc * sizeof(*simplify));
1331                 }
1332                 match = *pathspec++;
1333                 if (!match)
1334                         break;
1335                 simplify[nr].path = match;
1336                 simplify[nr].len = simple_length(match);
1337         }
1338         simplify[nr].path = NULL;
1339         simplify[nr].len = 0;
1340         return simplify;
1341 }
1342
1343 static void free_simplify(struct path_simplify *simplify)
1344 {
1345         free(simplify);
1346 }
1347
1348 static int treat_leading_path(struct dir_struct *dir,
1349                               const char *path, int len,
1350                               const struct path_simplify *simplify)
1351 {
1352         struct strbuf sb = STRBUF_INIT;
1353         int baselen, rc = 0;
1354         const char *cp;
1355         int old_flags = dir->flags;
1356
1357         while (len && path[len - 1] == '/')
1358                 len--;
1359         if (!len)
1360                 return 1;
1361         baselen = 0;
1362         dir->flags &= ~DIR_SHOW_OTHER_DIRECTORIES;
1363         while (1) {
1364                 cp = path + baselen + !!baselen;
1365                 cp = memchr(cp, '/', path + len - cp);
1366                 if (!cp)
1367                         baselen = len;
1368                 else
1369                         baselen = cp - path;
1370                 strbuf_setlen(&sb, 0);
1371                 strbuf_add(&sb, path, baselen);
1372                 if (!is_directory(sb.buf))
1373                         break;
1374                 if (simplify_away(sb.buf, sb.len, simplify))
1375                         break;
1376                 if (treat_one_path(dir, &sb, simplify,
1377                                    DT_DIR, NULL) == path_none)
1378                         break; /* do not recurse into it */
1379                 if (len <= baselen) {
1380                         rc = 1;
1381                         break; /* finished checking */
1382                 }
1383         }
1384         strbuf_release(&sb);
1385         dir->flags = old_flags;
1386         return rc;
1387 }
1388
1389 int read_directory(struct dir_struct *dir, const char *path, int len, const char **pathspec)
1390 {
1391         struct path_simplify *simplify;
1392
1393         if (has_symlink_leading_path(path, len))
1394                 return dir->nr;
1395
1396         simplify = create_simplify(pathspec);
1397         if (!len || treat_leading_path(dir, path, len, simplify))
1398                 read_directory_recursive(dir, path, len, 0, simplify);
1399         free_simplify(simplify);
1400         qsort(dir->entries, dir->nr, sizeof(struct dir_entry *), cmp_name);
1401         qsort(dir->ignored, dir->ignored_nr, sizeof(struct dir_entry *), cmp_name);
1402         return dir->nr;
1403 }
1404
1405 int file_exists(const char *f)
1406 {
1407         struct stat sb;
1408         return lstat(f, &sb) == 0;
1409 }
1410
1411 /*
1412  * Given two normalized paths (a trailing slash is ok), if subdir is
1413  * outside dir, return -1.  Otherwise return the offset in subdir that
1414  * can be used as relative path to dir.
1415  */
1416 int dir_inside_of(const char *subdir, const char *dir)
1417 {
1418         int offset = 0;
1419
1420         assert(dir && subdir && *dir && *subdir);
1421
1422         while (*dir && *subdir && *dir == *subdir) {
1423                 dir++;
1424                 subdir++;
1425                 offset++;
1426         }
1427
1428         /* hel[p]/me vs hel[l]/yeah */
1429         if (*dir && *subdir)
1430                 return -1;
1431
1432         if (!*subdir)
1433                 return !*dir ? offset : -1; /* same dir */
1434
1435         /* foo/[b]ar vs foo/[] */
1436         if (is_dir_sep(dir[-1]))
1437                 return is_dir_sep(subdir[-1]) ? offset : -1;
1438
1439         /* foo[/]bar vs foo[] */
1440         return is_dir_sep(*subdir) ? offset + 1 : -1;
1441 }
1442
1443 int is_inside_dir(const char *dir)
1444 {
1445         char cwd[PATH_MAX];
1446         if (!dir)
1447                 return 0;
1448         if (!getcwd(cwd, sizeof(cwd)))
1449                 die_errno("can't find the current directory");
1450         return dir_inside_of(cwd, dir) >= 0;
1451 }
1452
1453 int is_empty_dir(const char *path)
1454 {
1455         DIR *dir = opendir(path);
1456         struct dirent *e;
1457         int ret = 1;
1458
1459         if (!dir)
1460                 return 0;
1461
1462         while ((e = readdir(dir)) != NULL)
1463                 if (!is_dot_or_dotdot(e->d_name)) {
1464                         ret = 0;
1465                         break;
1466                 }
1467
1468         closedir(dir);
1469         return ret;
1470 }
1471
1472 static int remove_dir_recurse(struct strbuf *path, int flag, int *kept_up)
1473 {
1474         DIR *dir;
1475         struct dirent *e;
1476         int ret = 0, original_len = path->len, len, kept_down = 0;
1477         int only_empty = (flag & REMOVE_DIR_EMPTY_ONLY);
1478         int keep_toplevel = (flag & REMOVE_DIR_KEEP_TOPLEVEL);
1479         unsigned char submodule_head[20];
1480
1481         if ((flag & REMOVE_DIR_KEEP_NESTED_GIT) &&
1482             !resolve_gitlink_ref(path->buf, "HEAD", submodule_head)) {
1483                 /* Do not descend and nuke a nested git work tree. */
1484                 if (kept_up)
1485                         *kept_up = 1;
1486                 return 0;
1487         }
1488
1489         flag &= ~REMOVE_DIR_KEEP_TOPLEVEL;
1490         dir = opendir(path->buf);
1491         if (!dir) {
1492                 /* an empty dir could be removed even if it is unreadble */
1493                 if (!keep_toplevel)
1494                         return rmdir(path->buf);
1495                 else
1496                         return -1;
1497         }
1498         if (path->buf[original_len - 1] != '/')
1499                 strbuf_addch(path, '/');
1500
1501         len = path->len;
1502         while ((e = readdir(dir)) != NULL) {
1503                 struct stat st;
1504                 if (is_dot_or_dotdot(e->d_name))
1505                         continue;
1506
1507                 strbuf_setlen(path, len);
1508                 strbuf_addstr(path, e->d_name);
1509                 if (lstat(path->buf, &st))
1510                         ; /* fall thru */
1511                 else if (S_ISDIR(st.st_mode)) {
1512                         if (!remove_dir_recurse(path, flag, &kept_down))
1513                                 continue; /* happy */
1514                 } else if (!only_empty && !unlink(path->buf))
1515                         continue; /* happy, too */
1516
1517                 /* path too long, stat fails, or non-directory still exists */
1518                 ret = -1;
1519                 break;
1520         }
1521         closedir(dir);
1522
1523         strbuf_setlen(path, original_len);
1524         if (!ret && !keep_toplevel && !kept_down)
1525                 ret = rmdir(path->buf);
1526         else if (kept_up)
1527                 /*
1528                  * report the uplevel that it is not an error that we
1529                  * did not rmdir() our directory.
1530                  */
1531                 *kept_up = !ret;
1532         return ret;
1533 }
1534
1535 int remove_dir_recursively(struct strbuf *path, int flag)
1536 {
1537         return remove_dir_recurse(path, flag, NULL);
1538 }
1539
1540 void setup_standard_excludes(struct dir_struct *dir)
1541 {
1542         const char *path;
1543         char *xdg_path;
1544
1545         dir->exclude_per_dir = ".gitignore";
1546         path = git_path("info/exclude");
1547         if (!excludes_file) {
1548                 home_config_paths(NULL, &xdg_path, "ignore");
1549                 excludes_file = xdg_path;
1550         }
1551         if (!access_or_warn(path, R_OK, 0))
1552                 add_excludes_from_file(dir, path);
1553         if (excludes_file && !access_or_warn(excludes_file, R_OK, 0))
1554                 add_excludes_from_file(dir, excludes_file);
1555 }
1556
1557 int remove_path(const char *name)
1558 {
1559         char *slash;
1560
1561         if (unlink(name) && errno != ENOENT && errno != ENOTDIR)
1562                 return -1;
1563
1564         slash = strrchr(name, '/');
1565         if (slash) {
1566                 char *dirs = xstrdup(name);
1567                 slash = dirs + (slash - name);
1568                 do {
1569                         *slash = '\0';
1570                 } while (rmdir(dirs) == 0 && (slash = strrchr(dirs, '/')));
1571                 free(dirs);
1572         }
1573         return 0;
1574 }
1575
1576 static int pathspec_item_cmp(const void *a_, const void *b_)
1577 {
1578         struct pathspec_item *a, *b;
1579
1580         a = (struct pathspec_item *)a_;
1581         b = (struct pathspec_item *)b_;
1582         return strcmp(a->match, b->match);
1583 }
1584
1585 int init_pathspec(struct pathspec *pathspec, const char **paths)
1586 {
1587         const char **p = paths;
1588         int i;
1589
1590         memset(pathspec, 0, sizeof(*pathspec));
1591         if (!p)
1592                 return 0;
1593         while (*p)
1594                 p++;
1595         pathspec->raw = paths;
1596         pathspec->nr = p - paths;
1597         if (!pathspec->nr)
1598                 return 0;
1599
1600         pathspec->items = xmalloc(sizeof(struct pathspec_item)*pathspec->nr);
1601         for (i = 0; i < pathspec->nr; i++) {
1602                 struct pathspec_item *item = pathspec->items+i;
1603                 const char *path = paths[i];
1604
1605                 item->match = path;
1606                 item->original = path;
1607                 item->len = strlen(path);
1608                 item->flags = 0;
1609                 if (limit_pathspec_to_literal()) {
1610                         item->nowildcard_len = item->len;
1611                 } else {
1612                         item->nowildcard_len = simple_length(path);
1613                         if (item->nowildcard_len < item->len) {
1614                                 pathspec->has_wildcard = 1;
1615                                 if (path[item->nowildcard_len] == '*' &&
1616                                     no_wildcard(path + item->nowildcard_len + 1))
1617                                         item->flags |= PATHSPEC_ONESTAR;
1618                         }
1619                 }
1620         }
1621
1622         qsort(pathspec->items, pathspec->nr,
1623               sizeof(struct pathspec_item), pathspec_item_cmp);
1624
1625         return 0;
1626 }
1627
1628 void free_pathspec(struct pathspec *pathspec)
1629 {
1630         free(pathspec->items);
1631         pathspec->items = NULL;
1632 }
1633
1634 int limit_pathspec_to_literal(void)
1635 {
1636         static int flag = -1;
1637         if (flag < 0)
1638                 flag = git_env_bool(GIT_LITERAL_PATHSPECS_ENVIRONMENT, 0);
1639         return flag;
1640 }
1641
1642 /*
1643  * Frees memory within dir which was allocated for exclude lists and
1644  * the exclude_stack.  Does not free dir itself.
1645  */
1646 void clear_directory(struct dir_struct *dir)
1647 {
1648         int i, j;
1649         struct exclude_list_group *group;
1650         struct exclude_list *el;
1651         struct exclude_stack *stk;
1652
1653         for (i = EXC_CMDL; i <= EXC_FILE; i++) {
1654                 group = &dir->exclude_list_group[i];
1655                 for (j = 0; j < group->nr; j++) {
1656                         el = &group->el[j];
1657                         if (i == EXC_DIRS)
1658                                 free((char *)el->src);
1659                         clear_exclude_list(el);
1660                 }
1661                 free(group->el);
1662         }
1663
1664         stk = dir->exclude_stack;
1665         while (stk) {
1666                 struct exclude_stack *prev = stk->prev;
1667                 free(stk);
1668                 stk = prev;
1669         }
1670 }