block alloc: add lifecycle APIs for cache_entry structs
[git] / builtin / update-index.c
1 /*
2  * GIT - The information manager from hell
3  *
4  * Copyright (C) Linus Torvalds, 2005
5  */
6 #include "cache.h"
7 #include "config.h"
8 #include "lockfile.h"
9 #include "quote.h"
10 #include "cache-tree.h"
11 #include "tree-walk.h"
12 #include "builtin.h"
13 #include "refs.h"
14 #include "resolve-undo.h"
15 #include "parse-options.h"
16 #include "pathspec.h"
17 #include "dir.h"
18 #include "split-index.h"
19 #include "fsmonitor.h"
20
21 /*
22  * Default to not allowing changes to the list of files. The
23  * tool doesn't actually care, but this makes it harder to add
24  * files to the revision control by mistake by doing something
25  * like "git update-index *" and suddenly having all the object
26  * files be revision controlled.
27  */
28 static int allow_add;
29 static int allow_remove;
30 static int allow_replace;
31 static int info_only;
32 static int force_remove;
33 static int verbose;
34 static int mark_valid_only;
35 static int mark_skip_worktree_only;
36 static int mark_fsmonitor_only;
37 #define MARK_FLAG 1
38 #define UNMARK_FLAG 2
39 static struct strbuf mtime_dir = STRBUF_INIT;
40
41 /* Untracked cache mode */
42 enum uc_mode {
43         UC_UNSPECIFIED = -1,
44         UC_DISABLE = 0,
45         UC_ENABLE,
46         UC_TEST,
47         UC_FORCE
48 };
49
50 __attribute__((format (printf, 1, 2)))
51 static void report(const char *fmt, ...)
52 {
53         va_list vp;
54
55         if (!verbose)
56                 return;
57
58         va_start(vp, fmt);
59         vprintf(fmt, vp);
60         putchar('\n');
61         va_end(vp);
62 }
63
64 static void remove_test_directory(void)
65 {
66         if (mtime_dir.len)
67                 remove_dir_recursively(&mtime_dir, 0);
68 }
69
70 static const char *get_mtime_path(const char *path)
71 {
72         static struct strbuf sb = STRBUF_INIT;
73         strbuf_reset(&sb);
74         strbuf_addf(&sb, "%s/%s", mtime_dir.buf, path);
75         return sb.buf;
76 }
77
78 static void xmkdir(const char *path)
79 {
80         path = get_mtime_path(path);
81         if (mkdir(path, 0700))
82                 die_errno(_("failed to create directory %s"), path);
83 }
84
85 static int xstat_mtime_dir(struct stat *st)
86 {
87         if (stat(mtime_dir.buf, st))
88                 die_errno(_("failed to stat %s"), mtime_dir.buf);
89         return 0;
90 }
91
92 static int create_file(const char *path)
93 {
94         int fd;
95         path = get_mtime_path(path);
96         fd = open(path, O_CREAT | O_RDWR, 0644);
97         if (fd < 0)
98                 die_errno(_("failed to create file %s"), path);
99         return fd;
100 }
101
102 static void xunlink(const char *path)
103 {
104         path = get_mtime_path(path);
105         if (unlink(path))
106                 die_errno(_("failed to delete file %s"), path);
107 }
108
109 static void xrmdir(const char *path)
110 {
111         path = get_mtime_path(path);
112         if (rmdir(path))
113                 die_errno(_("failed to delete directory %s"), path);
114 }
115
116 static void avoid_racy(void)
117 {
118         /*
119          * not use if we could usleep(10) if USE_NSEC is defined. The
120          * field nsec could be there, but the OS could choose to
121          * ignore it?
122          */
123         sleep(1);
124 }
125
126 static int test_if_untracked_cache_is_supported(void)
127 {
128         struct stat st;
129         struct stat_data base;
130         int fd, ret = 0;
131         char *cwd;
132
133         strbuf_addstr(&mtime_dir, "mtime-test-XXXXXX");
134         if (!mkdtemp(mtime_dir.buf))
135                 die_errno("Could not make temporary directory");
136
137         cwd = xgetcwd();
138         fprintf(stderr, _("Testing mtime in '%s' "), cwd);
139         free(cwd);
140
141         atexit(remove_test_directory);
142         xstat_mtime_dir(&st);
143         fill_stat_data(&base, &st);
144         fputc('.', stderr);
145
146         avoid_racy();
147         fd = create_file("newfile");
148         xstat_mtime_dir(&st);
149         if (!match_stat_data(&base, &st)) {
150                 close(fd);
151                 fputc('\n', stderr);
152                 fprintf_ln(stderr,_("directory stat info does not "
153                                     "change after adding a new file"));
154                 goto done;
155         }
156         fill_stat_data(&base, &st);
157         fputc('.', stderr);
158
159         avoid_racy();
160         xmkdir("new-dir");
161         xstat_mtime_dir(&st);
162         if (!match_stat_data(&base, &st)) {
163                 close(fd);
164                 fputc('\n', stderr);
165                 fprintf_ln(stderr, _("directory stat info does not change "
166                                      "after adding a new directory"));
167                 goto done;
168         }
169         fill_stat_data(&base, &st);
170         fputc('.', stderr);
171
172         avoid_racy();
173         write_or_die(fd, "data", 4);
174         close(fd);
175         xstat_mtime_dir(&st);
176         if (match_stat_data(&base, &st)) {
177                 fputc('\n', stderr);
178                 fprintf_ln(stderr, _("directory stat info changes "
179                                      "after updating a file"));
180                 goto done;
181         }
182         fputc('.', stderr);
183
184         avoid_racy();
185         close(create_file("new-dir/new"));
186         xstat_mtime_dir(&st);
187         if (match_stat_data(&base, &st)) {
188                 fputc('\n', stderr);
189                 fprintf_ln(stderr, _("directory stat info changes after "
190                                      "adding a file inside subdirectory"));
191                 goto done;
192         }
193         fputc('.', stderr);
194
195         avoid_racy();
196         xunlink("newfile");
197         xstat_mtime_dir(&st);
198         if (!match_stat_data(&base, &st)) {
199                 fputc('\n', stderr);
200                 fprintf_ln(stderr, _("directory stat info does not "
201                                      "change after deleting a file"));
202                 goto done;
203         }
204         fill_stat_data(&base, &st);
205         fputc('.', stderr);
206
207         avoid_racy();
208         xunlink("new-dir/new");
209         xrmdir("new-dir");
210         xstat_mtime_dir(&st);
211         if (!match_stat_data(&base, &st)) {
212                 fputc('\n', stderr);
213                 fprintf_ln(stderr, _("directory stat info does not "
214                                      "change after deleting a directory"));
215                 goto done;
216         }
217
218         if (rmdir(mtime_dir.buf))
219                 die_errno(_("failed to delete directory %s"), mtime_dir.buf);
220         fprintf_ln(stderr, _(" OK"));
221         ret = 1;
222
223 done:
224         strbuf_release(&mtime_dir);
225         return ret;
226 }
227
228 static int mark_ce_flags(const char *path, int flag, int mark)
229 {
230         int namelen = strlen(path);
231         int pos = cache_name_pos(path, namelen);
232         if (0 <= pos) {
233                 mark_fsmonitor_invalid(&the_index, active_cache[pos]);
234                 if (mark)
235                         active_cache[pos]->ce_flags |= flag;
236                 else
237                         active_cache[pos]->ce_flags &= ~flag;
238                 active_cache[pos]->ce_flags |= CE_UPDATE_IN_BASE;
239                 cache_tree_invalidate_path(&the_index, path);
240                 active_cache_changed |= CE_ENTRY_CHANGED;
241                 return 0;
242         }
243         return -1;
244 }
245
246 static int remove_one_path(const char *path)
247 {
248         if (!allow_remove)
249                 return error("%s: does not exist and --remove not passed", path);
250         if (remove_file_from_cache(path))
251                 return error("%s: cannot remove from the index", path);
252         return 0;
253 }
254
255 /*
256  * Handle a path that couldn't be lstat'ed. It's either:
257  *  - missing file (ENOENT or ENOTDIR). That's ok if we're
258  *    supposed to be removing it and the removal actually
259  *    succeeds.
260  *  - permission error. That's never ok.
261  */
262 static int process_lstat_error(const char *path, int err)
263 {
264         if (is_missing_file_error(err))
265                 return remove_one_path(path);
266         return error("lstat(\"%s\"): %s", path, strerror(err));
267 }
268
269 static int add_one_path(const struct cache_entry *old, const char *path, int len, struct stat *st)
270 {
271         int option;
272         struct cache_entry *ce;
273
274         /* Was the old index entry already up-to-date? */
275         if (old && !ce_stage(old) && !ce_match_stat(old, st, 0))
276                 return 0;
277
278         ce = make_empty_cache_entry(&the_index, len);
279         memcpy(ce->name, path, len);
280         ce->ce_flags = create_ce_flags(0);
281         ce->ce_namelen = len;
282         fill_stat_cache_info(ce, st);
283         ce->ce_mode = ce_mode_from_stat(old, st->st_mode);
284
285         if (index_path(&ce->oid, path, st,
286                        info_only ? 0 : HASH_WRITE_OBJECT)) {
287                 discard_cache_entry(ce);
288                 return -1;
289         }
290         option = allow_add ? ADD_CACHE_OK_TO_ADD : 0;
291         option |= allow_replace ? ADD_CACHE_OK_TO_REPLACE : 0;
292         if (add_cache_entry(ce, option)) {
293                 discard_cache_entry(ce);
294                 return error("%s: cannot add to the index - missing --add option?", path);
295         }
296         return 0;
297 }
298
299 /*
300  * Handle a path that was a directory. Four cases:
301  *
302  *  - it's already a gitlink in the index, and we keep it that
303  *    way, and update it if we can (if we cannot find the HEAD,
304  *    we're going to keep it unchanged in the index!)
305  *
306  *  - it's a *file* in the index, in which case it should be
307  *    removed as a file if removal is allowed, since it doesn't
308  *    exist as such any more. If removal isn't allowed, it's
309  *    an error.
310  *
311  *    (NOTE! This is old and arguably fairly strange behaviour.
312  *    We might want to make this an error unconditionally, and
313  *    use "--force-remove" if you actually want to force removal).
314  *
315  *  - it used to exist as a subdirectory (ie multiple files with
316  *    this particular prefix) in the index, in which case it's wrong
317  *    to try to update it as a directory.
318  *
319  *  - it doesn't exist at all in the index, but it is a valid
320  *    git directory, and it should be *added* as a gitlink.
321  */
322 static int process_directory(const char *path, int len, struct stat *st)
323 {
324         struct object_id oid;
325         int pos = cache_name_pos(path, len);
326
327         /* Exact match: file or existing gitlink */
328         if (pos >= 0) {
329                 const struct cache_entry *ce = active_cache[pos];
330                 if (S_ISGITLINK(ce->ce_mode)) {
331
332                         /* Do nothing to the index if there is no HEAD! */
333                         if (resolve_gitlink_ref(path, "HEAD", &oid) < 0)
334                                 return 0;
335
336                         return add_one_path(ce, path, len, st);
337                 }
338                 /* Should this be an unconditional error? */
339                 return remove_one_path(path);
340         }
341
342         /* Inexact match: is there perhaps a subdirectory match? */
343         pos = -pos-1;
344         while (pos < active_nr) {
345                 const struct cache_entry *ce = active_cache[pos++];
346
347                 if (strncmp(ce->name, path, len))
348                         break;
349                 if (ce->name[len] > '/')
350                         break;
351                 if (ce->name[len] < '/')
352                         continue;
353
354                 /* Subdirectory match - error out */
355                 return error("%s: is a directory - add individual files instead", path);
356         }
357
358         /* No match - should we add it as a gitlink? */
359         if (!resolve_gitlink_ref(path, "HEAD", &oid))
360                 return add_one_path(NULL, path, len, st);
361
362         /* Error out. */
363         return error("%s: is a directory - add files inside instead", path);
364 }
365
366 static int process_path(const char *path, struct stat *st, int stat_errno)
367 {
368         int pos, len;
369         const struct cache_entry *ce;
370
371         len = strlen(path);
372         if (has_symlink_leading_path(path, len))
373                 return error("'%s' is beyond a symbolic link", path);
374
375         pos = cache_name_pos(path, len);
376         ce = pos < 0 ? NULL : active_cache[pos];
377         if (ce && ce_skip_worktree(ce)) {
378                 /*
379                  * working directory version is assumed "good"
380                  * so updating it does not make sense.
381                  * On the other hand, removing it from index should work
382                  */
383                 if (allow_remove && remove_file_from_cache(path))
384                         return error("%s: cannot remove from the index", path);
385                 return 0;
386         }
387
388         /*
389          * First things first: get the stat information, to decide
390          * what to do about the pathname!
391          */
392         if (stat_errno)
393                 return process_lstat_error(path, stat_errno);
394
395         if (S_ISDIR(st->st_mode))
396                 return process_directory(path, len, st);
397
398         return add_one_path(ce, path, len, st);
399 }
400
401 static int add_cacheinfo(unsigned int mode, const struct object_id *oid,
402                          const char *path, int stage)
403 {
404         int len, option;
405         struct cache_entry *ce;
406
407         if (!verify_path(path, mode))
408                 return error("Invalid path '%s'", path);
409
410         len = strlen(path);
411         ce = make_empty_cache_entry(&the_index, len);
412
413         oidcpy(&ce->oid, oid);
414         memcpy(ce->name, path, len);
415         ce->ce_flags = create_ce_flags(stage);
416         ce->ce_namelen = len;
417         ce->ce_mode = create_ce_mode(mode);
418         if (assume_unchanged)
419                 ce->ce_flags |= CE_VALID;
420         option = allow_add ? ADD_CACHE_OK_TO_ADD : 0;
421         option |= allow_replace ? ADD_CACHE_OK_TO_REPLACE : 0;
422         if (add_cache_entry(ce, option))
423                 return error("%s: cannot add to the index - missing --add option?",
424                              path);
425         report("add '%s'", path);
426         return 0;
427 }
428
429 static void chmod_path(char flip, const char *path)
430 {
431         int pos;
432         struct cache_entry *ce;
433
434         pos = cache_name_pos(path, strlen(path));
435         if (pos < 0)
436                 goto fail;
437         ce = active_cache[pos];
438         if (chmod_cache_entry(ce, flip) < 0)
439                 goto fail;
440
441         report("chmod %cx '%s'", flip, path);
442         return;
443  fail:
444         die("git update-index: cannot chmod %cx '%s'", flip, path);
445 }
446
447 static void update_one(const char *path)
448 {
449         int stat_errno = 0;
450         struct stat st;
451
452         if (mark_valid_only || mark_skip_worktree_only || force_remove ||
453             mark_fsmonitor_only)
454                 st.st_mode = 0;
455         else if (lstat(path, &st) < 0) {
456                 st.st_mode = 0;
457                 stat_errno = errno;
458         } /* else stat is valid */
459
460         if (!verify_path(path, st.st_mode)) {
461                 fprintf(stderr, "Ignoring path %s\n", path);
462                 return;
463         }
464         if (mark_valid_only) {
465                 if (mark_ce_flags(path, CE_VALID, mark_valid_only == MARK_FLAG))
466                         die("Unable to mark file %s", path);
467                 return;
468         }
469         if (mark_skip_worktree_only) {
470                 if (mark_ce_flags(path, CE_SKIP_WORKTREE, mark_skip_worktree_only == MARK_FLAG))
471                         die("Unable to mark file %s", path);
472                 return;
473         }
474         if (mark_fsmonitor_only) {
475                 if (mark_ce_flags(path, CE_FSMONITOR_VALID, mark_fsmonitor_only == MARK_FLAG))
476                         die("Unable to mark file %s", path);
477                 return;
478         }
479
480         if (force_remove) {
481                 if (remove_file_from_cache(path))
482                         die("git update-index: unable to remove %s", path);
483                 report("remove '%s'", path);
484                 return;
485         }
486         if (process_path(path, &st, stat_errno))
487                 die("Unable to process path %s", path);
488         report("add '%s'", path);
489 }
490
491 static void read_index_info(int nul_term_line)
492 {
493         struct strbuf buf = STRBUF_INIT;
494         struct strbuf uq = STRBUF_INIT;
495         strbuf_getline_fn getline_fn;
496
497         getline_fn = nul_term_line ? strbuf_getline_nul : strbuf_getline_lf;
498         while (getline_fn(&buf, stdin) != EOF) {
499                 char *ptr, *tab;
500                 char *path_name;
501                 struct object_id oid;
502                 unsigned int mode;
503                 unsigned long ul;
504                 int stage;
505
506                 /* This reads lines formatted in one of three formats:
507                  *
508                  * (1) mode         SP sha1          TAB path
509                  * The first format is what "git apply --index-info"
510                  * reports, and used to reconstruct a partial tree
511                  * that is used for phony merge base tree when falling
512                  * back on 3-way merge.
513                  *
514                  * (2) mode SP type SP sha1          TAB path
515                  * The second format is to stuff "git ls-tree" output
516                  * into the index file.
517                  *
518                  * (3) mode         SP sha1 SP stage TAB path
519                  * This format is to put higher order stages into the
520                  * index file and matches "git ls-files --stage" output.
521                  */
522                 errno = 0;
523                 ul = strtoul(buf.buf, &ptr, 8);
524                 if (ptr == buf.buf || *ptr != ' '
525                     || errno || (unsigned int) ul != ul)
526                         goto bad_line;
527                 mode = ul;
528
529                 tab = strchr(ptr, '\t');
530                 if (!tab || tab - ptr < GIT_SHA1_HEXSZ + 1)
531                         goto bad_line;
532
533                 if (tab[-2] == ' ' && '0' <= tab[-1] && tab[-1] <= '3') {
534                         stage = tab[-1] - '0';
535                         ptr = tab + 1; /* point at the head of path */
536                         tab = tab - 2; /* point at tail of sha1 */
537                 }
538                 else {
539                         stage = 0;
540                         ptr = tab + 1; /* point at the head of path */
541                 }
542
543                 if (get_oid_hex(tab - GIT_SHA1_HEXSZ, &oid) ||
544                         tab[-(GIT_SHA1_HEXSZ + 1)] != ' ')
545                         goto bad_line;
546
547                 path_name = ptr;
548                 if (!nul_term_line && path_name[0] == '"') {
549                         strbuf_reset(&uq);
550                         if (unquote_c_style(&uq, path_name, NULL)) {
551                                 die("git update-index: bad quoting of path name");
552                         }
553                         path_name = uq.buf;
554                 }
555
556                 if (!verify_path(path_name, mode)) {
557                         fprintf(stderr, "Ignoring path %s\n", path_name);
558                         continue;
559                 }
560
561                 if (!mode) {
562                         /* mode == 0 means there is no such path -- remove */
563                         if (remove_file_from_cache(path_name))
564                                 die("git update-index: unable to remove %s",
565                                     ptr);
566                 }
567                 else {
568                         /* mode ' ' sha1 '\t' name
569                          * ptr[-1] points at tab,
570                          * ptr[-41] is at the beginning of sha1
571                          */
572                         ptr[-(GIT_SHA1_HEXSZ + 2)] = ptr[-1] = 0;
573                         if (add_cacheinfo(mode, &oid, path_name, stage))
574                                 die("git update-index: unable to update %s",
575                                     path_name);
576                 }
577                 continue;
578
579         bad_line:
580                 die("malformed index info %s", buf.buf);
581         }
582         strbuf_release(&buf);
583         strbuf_release(&uq);
584 }
585
586 static const char * const update_index_usage[] = {
587         N_("git update-index [<options>] [--] [<file>...]"),
588         NULL
589 };
590
591 static struct object_id head_oid;
592 static struct object_id merge_head_oid;
593
594 static struct cache_entry *read_one_ent(const char *which,
595                                         struct object_id *ent, const char *path,
596                                         int namelen, int stage)
597 {
598         unsigned mode;
599         struct object_id oid;
600         struct cache_entry *ce;
601
602         if (get_tree_entry(ent, path, &oid, &mode)) {
603                 if (which)
604                         error("%s: not in %s branch.", path, which);
605                 return NULL;
606         }
607         if (mode == S_IFDIR) {
608                 if (which)
609                         error("%s: not a blob in %s branch.", path, which);
610                 return NULL;
611         }
612         ce = make_empty_cache_entry(&the_index, namelen);
613
614         oidcpy(&ce->oid, &oid);
615         memcpy(ce->name, path, namelen);
616         ce->ce_flags = create_ce_flags(stage);
617         ce->ce_namelen = namelen;
618         ce->ce_mode = create_ce_mode(mode);
619         return ce;
620 }
621
622 static int unresolve_one(const char *path)
623 {
624         int namelen = strlen(path);
625         int pos;
626         int ret = 0;
627         struct cache_entry *ce_2 = NULL, *ce_3 = NULL;
628
629         /* See if there is such entry in the index. */
630         pos = cache_name_pos(path, namelen);
631         if (0 <= pos) {
632                 /* already merged */
633                 pos = unmerge_cache_entry_at(pos);
634                 if (pos < active_nr) {
635                         const struct cache_entry *ce = active_cache[pos];
636                         if (ce_stage(ce) &&
637                             ce_namelen(ce) == namelen &&
638                             !memcmp(ce->name, path, namelen))
639                                 return 0;
640                 }
641                 /* no resolve-undo information; fall back */
642         } else {
643                 /* If there isn't, either it is unmerged, or
644                  * resolved as "removed" by mistake.  We do not
645                  * want to do anything in the former case.
646                  */
647                 pos = -pos-1;
648                 if (pos < active_nr) {
649                         const struct cache_entry *ce = active_cache[pos];
650                         if (ce_namelen(ce) == namelen &&
651                             !memcmp(ce->name, path, namelen)) {
652                                 fprintf(stderr,
653                                         "%s: skipping still unmerged path.\n",
654                                         path);
655                                 goto free_return;
656                         }
657                 }
658         }
659
660         /* Grab blobs from given path from HEAD and MERGE_HEAD,
661          * stuff HEAD version in stage #2,
662          * stuff MERGE_HEAD version in stage #3.
663          */
664         ce_2 = read_one_ent("our", &head_oid, path, namelen, 2);
665         ce_3 = read_one_ent("their", &merge_head_oid, path, namelen, 3);
666
667         if (!ce_2 || !ce_3) {
668                 ret = -1;
669                 goto free_return;
670         }
671         if (!oidcmp(&ce_2->oid, &ce_3->oid) &&
672             ce_2->ce_mode == ce_3->ce_mode) {
673                 fprintf(stderr, "%s: identical in both, skipping.\n",
674                         path);
675                 goto free_return;
676         }
677
678         remove_file_from_cache(path);
679         if (add_cache_entry(ce_2, ADD_CACHE_OK_TO_ADD)) {
680                 error("%s: cannot add our version to the index.", path);
681                 ret = -1;
682                 goto free_return;
683         }
684         if (!add_cache_entry(ce_3, ADD_CACHE_OK_TO_ADD))
685                 return 0;
686         error("%s: cannot add their version to the index.", path);
687         ret = -1;
688  free_return:
689         discard_cache_entry(ce_2);
690         discard_cache_entry(ce_3);
691         return ret;
692 }
693
694 static void read_head_pointers(void)
695 {
696         if (read_ref("HEAD", &head_oid))
697                 die("No HEAD -- no initial commit yet?");
698         if (read_ref("MERGE_HEAD", &merge_head_oid)) {
699                 fprintf(stderr, "Not in the middle of a merge.\n");
700                 exit(0);
701         }
702 }
703
704 static int do_unresolve(int ac, const char **av,
705                         const char *prefix, int prefix_length)
706 {
707         int i;
708         int err = 0;
709
710         /* Read HEAD and MERGE_HEAD; if MERGE_HEAD does not exist, we
711          * are not doing a merge, so exit with success status.
712          */
713         read_head_pointers();
714
715         for (i = 1; i < ac; i++) {
716                 const char *arg = av[i];
717                 char *p = prefix_path(prefix, prefix_length, arg);
718                 err |= unresolve_one(p);
719                 free(p);
720         }
721         return err;
722 }
723
724 static int do_reupdate(int ac, const char **av,
725                        const char *prefix, int prefix_length)
726 {
727         /* Read HEAD and run update-index on paths that are
728          * merged and already different between index and HEAD.
729          */
730         int pos;
731         int has_head = 1;
732         struct pathspec pathspec;
733
734         parse_pathspec(&pathspec, 0,
735                        PATHSPEC_PREFER_CWD,
736                        prefix, av + 1);
737
738         if (read_ref("HEAD", &head_oid))
739                 /* If there is no HEAD, that means it is an initial
740                  * commit.  Update everything in the index.
741                  */
742                 has_head = 0;
743  redo:
744         for (pos = 0; pos < active_nr; pos++) {
745                 const struct cache_entry *ce = active_cache[pos];
746                 struct cache_entry *old = NULL;
747                 int save_nr;
748                 char *path;
749
750                 if (ce_stage(ce) || !ce_path_match(ce, &pathspec, NULL))
751                         continue;
752                 if (has_head)
753                         old = read_one_ent(NULL, &head_oid,
754                                            ce->name, ce_namelen(ce), 0);
755                 if (old && ce->ce_mode == old->ce_mode &&
756                     !oidcmp(&ce->oid, &old->oid)) {
757                         discard_cache_entry(old);
758                         continue; /* unchanged */
759                 }
760                 /* Be careful.  The working tree may not have the
761                  * path anymore, in which case, under 'allow_remove',
762                  * or worse yet 'allow_replace', active_nr may decrease.
763                  */
764                 save_nr = active_nr;
765                 path = xstrdup(ce->name);
766                 update_one(path);
767                 free(path);
768                 discard_cache_entry(old);
769                 if (save_nr != active_nr)
770                         goto redo;
771         }
772         clear_pathspec(&pathspec);
773         return 0;
774 }
775
776 struct refresh_params {
777         unsigned int flags;
778         int *has_errors;
779 };
780
781 static int refresh(struct refresh_params *o, unsigned int flag)
782 {
783         setup_work_tree();
784         read_cache_preload(NULL);
785         *o->has_errors |= refresh_cache(o->flags | flag);
786         return 0;
787 }
788
789 static int refresh_callback(const struct option *opt,
790                                 const char *arg, int unset)
791 {
792         return refresh(opt->value, 0);
793 }
794
795 static int really_refresh_callback(const struct option *opt,
796                                 const char *arg, int unset)
797 {
798         return refresh(opt->value, REFRESH_REALLY);
799 }
800
801 static int chmod_callback(const struct option *opt,
802                                 const char *arg, int unset)
803 {
804         char *flip = opt->value;
805         if ((arg[0] != '-' && arg[0] != '+') || arg[1] != 'x' || arg[2])
806                 return error("option 'chmod' expects \"+x\" or \"-x\"");
807         *flip = arg[0];
808         return 0;
809 }
810
811 static int resolve_undo_clear_callback(const struct option *opt,
812                                 const char *arg, int unset)
813 {
814         resolve_undo_clear();
815         return 0;
816 }
817
818 static int parse_new_style_cacheinfo(const char *arg,
819                                      unsigned int *mode,
820                                      struct object_id *oid,
821                                      const char **path)
822 {
823         unsigned long ul;
824         char *endp;
825
826         if (!arg)
827                 return -1;
828
829         errno = 0;
830         ul = strtoul(arg, &endp, 8);
831         if (errno || endp == arg || *endp != ',' || (unsigned int) ul != ul)
832                 return -1; /* not a new-style cacheinfo */
833         *mode = ul;
834         endp++;
835         if (get_oid_hex(endp, oid) || endp[GIT_SHA1_HEXSZ] != ',')
836                 return -1;
837         *path = endp + GIT_SHA1_HEXSZ + 1;
838         return 0;
839 }
840
841 static int cacheinfo_callback(struct parse_opt_ctx_t *ctx,
842                                 const struct option *opt, int unset)
843 {
844         struct object_id oid;
845         unsigned int mode;
846         const char *path;
847
848         if (!parse_new_style_cacheinfo(ctx->argv[1], &mode, &oid, &path)) {
849                 if (add_cacheinfo(mode, &oid, path, 0))
850                         die("git update-index: --cacheinfo cannot add %s", path);
851                 ctx->argv++;
852                 ctx->argc--;
853                 return 0;
854         }
855         if (ctx->argc <= 3)
856                 return error("option 'cacheinfo' expects <mode>,<sha1>,<path>");
857         if (strtoul_ui(*++ctx->argv, 8, &mode) ||
858             get_oid_hex(*++ctx->argv, &oid) ||
859             add_cacheinfo(mode, &oid, *++ctx->argv, 0))
860                 die("git update-index: --cacheinfo cannot add %s", *ctx->argv);
861         ctx->argc -= 3;
862         return 0;
863 }
864
865 static int stdin_cacheinfo_callback(struct parse_opt_ctx_t *ctx,
866                               const struct option *opt, int unset)
867 {
868         int *nul_term_line = opt->value;
869
870         if (ctx->argc != 1)
871                 return error("option '%s' must be the last argument", opt->long_name);
872         allow_add = allow_replace = allow_remove = 1;
873         read_index_info(*nul_term_line);
874         return 0;
875 }
876
877 static int stdin_callback(struct parse_opt_ctx_t *ctx,
878                                 const struct option *opt, int unset)
879 {
880         int *read_from_stdin = opt->value;
881
882         if (ctx->argc != 1)
883                 return error("option '%s' must be the last argument", opt->long_name);
884         *read_from_stdin = 1;
885         return 0;
886 }
887
888 static int unresolve_callback(struct parse_opt_ctx_t *ctx,
889                                 const struct option *opt, int flags)
890 {
891         int *has_errors = opt->value;
892         const char *prefix = startup_info->prefix;
893
894         /* consume remaining arguments. */
895         *has_errors = do_unresolve(ctx->argc, ctx->argv,
896                                 prefix, prefix ? strlen(prefix) : 0);
897         if (*has_errors)
898                 active_cache_changed = 0;
899
900         ctx->argv += ctx->argc - 1;
901         ctx->argc = 1;
902         return 0;
903 }
904
905 static int reupdate_callback(struct parse_opt_ctx_t *ctx,
906                                 const struct option *opt, int flags)
907 {
908         int *has_errors = opt->value;
909         const char *prefix = startup_info->prefix;
910
911         /* consume remaining arguments. */
912         setup_work_tree();
913         *has_errors = do_reupdate(ctx->argc, ctx->argv,
914                                 prefix, prefix ? strlen(prefix) : 0);
915         if (*has_errors)
916                 active_cache_changed = 0;
917
918         ctx->argv += ctx->argc - 1;
919         ctx->argc = 1;
920         return 0;
921 }
922
923 int cmd_update_index(int argc, const char **argv, const char *prefix)
924 {
925         int newfd, entries, has_errors = 0, nul_term_line = 0;
926         enum uc_mode untracked_cache = UC_UNSPECIFIED;
927         int read_from_stdin = 0;
928         int prefix_length = prefix ? strlen(prefix) : 0;
929         int preferred_index_format = 0;
930         char set_executable_bit = 0;
931         struct refresh_params refresh_args = {0, &has_errors};
932         int lock_error = 0;
933         int split_index = -1;
934         int force_write = 0;
935         int fsmonitor = -1;
936         struct lock_file lock_file = LOCK_INIT;
937         struct parse_opt_ctx_t ctx;
938         strbuf_getline_fn getline_fn;
939         int parseopt_state = PARSE_OPT_UNKNOWN;
940         struct option options[] = {
941                 OPT_BIT('q', NULL, &refresh_args.flags,
942                         N_("continue refresh even when index needs update"),
943                         REFRESH_QUIET),
944                 OPT_BIT(0, "ignore-submodules", &refresh_args.flags,
945                         N_("refresh: ignore submodules"),
946                         REFRESH_IGNORE_SUBMODULES),
947                 OPT_SET_INT(0, "add", &allow_add,
948                         N_("do not ignore new files"), 1),
949                 OPT_SET_INT(0, "replace", &allow_replace,
950                         N_("let files replace directories and vice-versa"), 1),
951                 OPT_SET_INT(0, "remove", &allow_remove,
952                         N_("notice files missing from worktree"), 1),
953                 OPT_BIT(0, "unmerged", &refresh_args.flags,
954                         N_("refresh even if index contains unmerged entries"),
955                         REFRESH_UNMERGED),
956                 {OPTION_CALLBACK, 0, "refresh", &refresh_args, NULL,
957                         N_("refresh stat information"),
958                         PARSE_OPT_NOARG | PARSE_OPT_NONEG,
959                         refresh_callback},
960                 {OPTION_CALLBACK, 0, "really-refresh", &refresh_args, NULL,
961                         N_("like --refresh, but ignore assume-unchanged setting"),
962                         PARSE_OPT_NOARG | PARSE_OPT_NONEG,
963                         really_refresh_callback},
964                 {OPTION_LOWLEVEL_CALLBACK, 0, "cacheinfo", NULL,
965                         N_("<mode>,<object>,<path>"),
966                         N_("add the specified entry to the index"),
967                         PARSE_OPT_NOARG | /* disallow --cacheinfo=<mode> form */
968                         PARSE_OPT_NONEG | PARSE_OPT_LITERAL_ARGHELP,
969                         (parse_opt_cb *) cacheinfo_callback},
970                 {OPTION_CALLBACK, 0, "chmod", &set_executable_bit, N_("(+/-)x"),
971                         N_("override the executable bit of the listed files"),
972                         PARSE_OPT_NONEG | PARSE_OPT_LITERAL_ARGHELP,
973                         chmod_callback},
974                 {OPTION_SET_INT, 0, "assume-unchanged", &mark_valid_only, NULL,
975                         N_("mark files as \"not changing\""),
976                         PARSE_OPT_NOARG | PARSE_OPT_NONEG, NULL, MARK_FLAG},
977                 {OPTION_SET_INT, 0, "no-assume-unchanged", &mark_valid_only, NULL,
978                         N_("clear assumed-unchanged bit"),
979                         PARSE_OPT_NOARG | PARSE_OPT_NONEG, NULL, UNMARK_FLAG},
980                 {OPTION_SET_INT, 0, "skip-worktree", &mark_skip_worktree_only, NULL,
981                         N_("mark files as \"index-only\""),
982                         PARSE_OPT_NOARG | PARSE_OPT_NONEG, NULL, MARK_FLAG},
983                 {OPTION_SET_INT, 0, "no-skip-worktree", &mark_skip_worktree_only, NULL,
984                         N_("clear skip-worktree bit"),
985                         PARSE_OPT_NOARG | PARSE_OPT_NONEG, NULL, UNMARK_FLAG},
986                 OPT_SET_INT(0, "info-only", &info_only,
987                         N_("add to index only; do not add content to object database"), 1),
988                 OPT_SET_INT(0, "force-remove", &force_remove,
989                         N_("remove named paths even if present in worktree"), 1),
990                 OPT_BOOL('z', NULL, &nul_term_line,
991                          N_("with --stdin: input lines are terminated by null bytes")),
992                 {OPTION_LOWLEVEL_CALLBACK, 0, "stdin", &read_from_stdin, NULL,
993                         N_("read list of paths to be updated from standard input"),
994                         PARSE_OPT_NONEG | PARSE_OPT_NOARG,
995                         (parse_opt_cb *) stdin_callback},
996                 {OPTION_LOWLEVEL_CALLBACK, 0, "index-info", &nul_term_line, NULL,
997                         N_("add entries from standard input to the index"),
998                         PARSE_OPT_NONEG | PARSE_OPT_NOARG,
999                         (parse_opt_cb *) stdin_cacheinfo_callback},
1000                 {OPTION_LOWLEVEL_CALLBACK, 0, "unresolve", &has_errors, NULL,
1001                         N_("repopulate stages #2 and #3 for the listed paths"),
1002                         PARSE_OPT_NONEG | PARSE_OPT_NOARG,
1003                         (parse_opt_cb *) unresolve_callback},
1004                 {OPTION_LOWLEVEL_CALLBACK, 'g', "again", &has_errors, NULL,
1005                         N_("only update entries that differ from HEAD"),
1006                         PARSE_OPT_NONEG | PARSE_OPT_NOARG,
1007                         (parse_opt_cb *) reupdate_callback},
1008                 OPT_BIT(0, "ignore-missing", &refresh_args.flags,
1009                         N_("ignore files missing from worktree"),
1010                         REFRESH_IGNORE_MISSING),
1011                 OPT_SET_INT(0, "verbose", &verbose,
1012                         N_("report actions to standard output"), 1),
1013                 {OPTION_CALLBACK, 0, "clear-resolve-undo", NULL, NULL,
1014                         N_("(for porcelains) forget saved unresolved conflicts"),
1015                         PARSE_OPT_NOARG | PARSE_OPT_NONEG,
1016                         resolve_undo_clear_callback},
1017                 OPT_INTEGER(0, "index-version", &preferred_index_format,
1018                         N_("write index in this format")),
1019                 OPT_BOOL(0, "split-index", &split_index,
1020                         N_("enable or disable split index")),
1021                 OPT_BOOL(0, "untracked-cache", &untracked_cache,
1022                         N_("enable/disable untracked cache")),
1023                 OPT_SET_INT(0, "test-untracked-cache", &untracked_cache,
1024                             N_("test if the filesystem supports untracked cache"), UC_TEST),
1025                 OPT_SET_INT(0, "force-untracked-cache", &untracked_cache,
1026                             N_("enable untracked cache without testing the filesystem"), UC_FORCE),
1027                 OPT_SET_INT(0, "force-write-index", &force_write,
1028                         N_("write out the index even if is not flagged as changed"), 1),
1029                 OPT_BOOL(0, "fsmonitor", &fsmonitor,
1030                         N_("enable or disable file system monitor")),
1031                 {OPTION_SET_INT, 0, "fsmonitor-valid", &mark_fsmonitor_only, NULL,
1032                         N_("mark files as fsmonitor valid"),
1033                         PARSE_OPT_NOARG | PARSE_OPT_NONEG, NULL, MARK_FLAG},
1034                 {OPTION_SET_INT, 0, "no-fsmonitor-valid", &mark_fsmonitor_only, NULL,
1035                         N_("clear fsmonitor valid bit"),
1036                         PARSE_OPT_NOARG | PARSE_OPT_NONEG, NULL, UNMARK_FLAG},
1037                 OPT_END()
1038         };
1039
1040         if (argc == 2 && !strcmp(argv[1], "-h"))
1041                 usage_with_options(update_index_usage, options);
1042
1043         git_config(git_default_config, NULL);
1044
1045         /* we will diagnose later if it turns out that we need to update it */
1046         newfd = hold_locked_index(&lock_file, 0);
1047         if (newfd < 0)
1048                 lock_error = errno;
1049
1050         entries = read_cache();
1051         if (entries < 0)
1052                 die("cache corrupted");
1053
1054         /*
1055          * Custom copy of parse_options() because we want to handle
1056          * filename arguments as they come.
1057          */
1058         parse_options_start(&ctx, argc, argv, prefix,
1059                             options, PARSE_OPT_STOP_AT_NON_OPTION);
1060         while (ctx.argc) {
1061                 if (parseopt_state != PARSE_OPT_DONE)
1062                         parseopt_state = parse_options_step(&ctx, options,
1063                                                             update_index_usage);
1064                 if (!ctx.argc)
1065                         break;
1066                 switch (parseopt_state) {
1067                 case PARSE_OPT_HELP:
1068                 case PARSE_OPT_ERROR:
1069                         exit(129);
1070                 case PARSE_OPT_NON_OPTION:
1071                 case PARSE_OPT_DONE:
1072                 {
1073                         const char *path = ctx.argv[0];
1074                         char *p;
1075
1076                         setup_work_tree();
1077                         p = prefix_path(prefix, prefix_length, path);
1078                         update_one(p);
1079                         if (set_executable_bit)
1080                                 chmod_path(set_executable_bit, p);
1081                         free(p);
1082                         ctx.argc--;
1083                         ctx.argv++;
1084                         break;
1085                 }
1086                 case PARSE_OPT_UNKNOWN:
1087                         if (ctx.argv[0][1] == '-')
1088                                 error("unknown option '%s'", ctx.argv[0] + 2);
1089                         else
1090                                 error("unknown switch '%c'", *ctx.opt);
1091                         usage_with_options(update_index_usage, options);
1092                 }
1093         }
1094         argc = parse_options_end(&ctx);
1095
1096         getline_fn = nul_term_line ? strbuf_getline_nul : strbuf_getline_lf;
1097         if (preferred_index_format) {
1098                 if (preferred_index_format < INDEX_FORMAT_LB ||
1099                     INDEX_FORMAT_UB < preferred_index_format)
1100                         die("index-version %d not in range: %d..%d",
1101                             preferred_index_format,
1102                             INDEX_FORMAT_LB, INDEX_FORMAT_UB);
1103
1104                 if (the_index.version != preferred_index_format)
1105                         active_cache_changed |= SOMETHING_CHANGED;
1106                 the_index.version = preferred_index_format;
1107         }
1108
1109         if (read_from_stdin) {
1110                 struct strbuf buf = STRBUF_INIT;
1111                 struct strbuf unquoted = STRBUF_INIT;
1112
1113                 setup_work_tree();
1114                 while (getline_fn(&buf, stdin) != EOF) {
1115                         char *p;
1116                         if (!nul_term_line && buf.buf[0] == '"') {
1117                                 strbuf_reset(&unquoted);
1118                                 if (unquote_c_style(&unquoted, buf.buf, NULL))
1119                                         die("line is badly quoted");
1120                                 strbuf_swap(&buf, &unquoted);
1121                         }
1122                         p = prefix_path(prefix, prefix_length, buf.buf);
1123                         update_one(p);
1124                         if (set_executable_bit)
1125                                 chmod_path(set_executable_bit, p);
1126                         free(p);
1127                 }
1128                 strbuf_release(&unquoted);
1129                 strbuf_release(&buf);
1130         }
1131
1132         if (split_index > 0) {
1133                 if (git_config_get_split_index() == 0)
1134                         warning(_("core.splitIndex is set to false; "
1135                                   "remove or change it, if you really want to "
1136                                   "enable split index"));
1137                 if (the_index.split_index)
1138                         the_index.cache_changed |= SPLIT_INDEX_ORDERED;
1139                 else
1140                         add_split_index(&the_index);
1141         } else if (!split_index) {
1142                 if (git_config_get_split_index() == 1)
1143                         warning(_("core.splitIndex is set to true; "
1144                                   "remove or change it, if you really want to "
1145                                   "disable split index"));
1146                 remove_split_index(&the_index);
1147         }
1148
1149         switch (untracked_cache) {
1150         case UC_UNSPECIFIED:
1151                 break;
1152         case UC_DISABLE:
1153                 if (git_config_get_untracked_cache() == 1)
1154                         warning(_("core.untrackedCache is set to true; "
1155                                   "remove or change it, if you really want to "
1156                                   "disable the untracked cache"));
1157                 remove_untracked_cache(&the_index);
1158                 report(_("Untracked cache disabled"));
1159                 break;
1160         case UC_TEST:
1161                 setup_work_tree();
1162                 return !test_if_untracked_cache_is_supported();
1163         case UC_ENABLE:
1164         case UC_FORCE:
1165                 if (git_config_get_untracked_cache() == 0)
1166                         warning(_("core.untrackedCache is set to false; "
1167                                   "remove or change it, if you really want to "
1168                                   "enable the untracked cache"));
1169                 add_untracked_cache(&the_index);
1170                 report(_("Untracked cache enabled for '%s'"), get_git_work_tree());
1171                 break;
1172         default:
1173                 BUG("bad untracked_cache value: %d", untracked_cache);
1174         }
1175
1176         if (fsmonitor > 0) {
1177                 if (git_config_get_fsmonitor() == 0)
1178                         warning(_("core.fsmonitor is unset; "
1179                                 "set it if you really want to "
1180                                 "enable fsmonitor"));
1181                 add_fsmonitor(&the_index);
1182                 report(_("fsmonitor enabled"));
1183         } else if (!fsmonitor) {
1184                 if (git_config_get_fsmonitor() == 1)
1185                         warning(_("core.fsmonitor is set; "
1186                                 "remove it if you really want to "
1187                                 "disable fsmonitor"));
1188                 remove_fsmonitor(&the_index);
1189                 report(_("fsmonitor disabled"));
1190         }
1191
1192         if (active_cache_changed || force_write) {
1193                 if (newfd < 0) {
1194                         if (refresh_args.flags & REFRESH_QUIET)
1195                                 exit(128);
1196                         unable_to_lock_die(get_index_file(), lock_error);
1197                 }
1198                 if (write_locked_index(&the_index, &lock_file, COMMIT_LOCK))
1199                         die("Unable to write new index file");
1200         }
1201
1202         rollback_lock_file(&lock_file);
1203
1204         return has_errors ? 1 : 0;
1205 }