Merge branch 'nd/per-worktree-ref-iteration'
[git] / t / t0410-partial-clone.sh
1 #!/bin/sh
2
3 test_description='partial clone'
4
5 . ./test-lib.sh
6
7 delete_object () {
8         rm $1/.git/objects/$(echo $2 | sed -e 's|^..|&/|')
9 }
10
11 pack_as_from_promisor () {
12         HASH=$(git -C repo pack-objects .git/objects/pack/pack) &&
13         >repo/.git/objects/pack/pack-$HASH.promisor &&
14         echo $HASH
15 }
16
17 promise_and_delete () {
18         HASH=$(git -C repo rev-parse "$1") &&
19         git -C repo tag -a -m message my_annotated_tag "$HASH" &&
20         git -C repo rev-parse my_annotated_tag | pack_as_from_promisor &&
21         # tag -d prints a message to stdout, so redirect it
22         git -C repo tag -d my_annotated_tag >/dev/null &&
23         delete_object repo "$HASH"
24 }
25
26 test_expect_success 'extensions.partialclone without filter' '
27         test_create_repo server &&
28         git clone --filter="blob:none" "file://$(pwd)/server" client &&
29         git -C client config --unset core.partialclonefilter &&
30         git -C client fetch origin
31 '
32
33 test_expect_success 'missing reflog object, but promised by a commit, passes fsck' '
34         rm -rf repo &&
35         test_create_repo repo &&
36         test_commit -C repo my_commit &&
37
38         A=$(git -C repo commit-tree -m a HEAD^{tree}) &&
39         C=$(git -C repo commit-tree -m c -p $A HEAD^{tree}) &&
40
41         # Reference $A only from reflog, and delete it
42         git -C repo branch my_branch "$A" &&
43         git -C repo branch -f my_branch my_commit &&
44         delete_object repo "$A" &&
45
46         # State that we got $C, which refers to $A, from promisor
47         printf "$C\n" | pack_as_from_promisor &&
48
49         # Normally, it fails
50         test_must_fail git -C repo fsck &&
51
52         # But with the extension, it succeeds
53         git -C repo config core.repositoryformatversion 1 &&
54         git -C repo config extensions.partialclone "arbitrary string" &&
55         git -C repo fsck
56 '
57
58 test_expect_success 'missing reflog object, but promised by a tag, passes fsck' '
59         rm -rf repo &&
60         test_create_repo repo &&
61         test_commit -C repo my_commit &&
62
63         A=$(git -C repo commit-tree -m a HEAD^{tree}) &&
64         git -C repo tag -a -m d my_tag_name $A &&
65         T=$(git -C repo rev-parse my_tag_name) &&
66         git -C repo tag -d my_tag_name &&
67
68         # Reference $A only from reflog, and delete it
69         git -C repo branch my_branch "$A" &&
70         git -C repo branch -f my_branch my_commit &&
71         delete_object repo "$A" &&
72
73         # State that we got $T, which refers to $A, from promisor
74         printf "$T\n" | pack_as_from_promisor &&
75
76         git -C repo config core.repositoryformatversion 1 &&
77         git -C repo config extensions.partialclone "arbitrary string" &&
78         git -C repo fsck
79 '
80
81 test_expect_success 'missing reflog object alone fails fsck, even with extension set' '
82         rm -rf repo &&
83         test_create_repo repo &&
84         test_commit -C repo my_commit &&
85
86         A=$(git -C repo commit-tree -m a HEAD^{tree}) &&
87         B=$(git -C repo commit-tree -m b HEAD^{tree}) &&
88
89         # Reference $A only from reflog, and delete it
90         git -C repo branch my_branch "$A" &&
91         git -C repo branch -f my_branch my_commit &&
92         delete_object repo "$A" &&
93
94         git -C repo config core.repositoryformatversion 1 &&
95         git -C repo config extensions.partialclone "arbitrary string" &&
96         test_must_fail git -C repo fsck
97 '
98
99 test_expect_success 'missing ref object, but promised, passes fsck' '
100         rm -rf repo &&
101         test_create_repo repo &&
102         test_commit -C repo my_commit &&
103
104         A=$(git -C repo commit-tree -m a HEAD^{tree}) &&
105
106         # Reference $A only from ref
107         git -C repo branch my_branch "$A" &&
108         promise_and_delete "$A" &&
109
110         git -C repo config core.repositoryformatversion 1 &&
111         git -C repo config extensions.partialclone "arbitrary string" &&
112         git -C repo fsck
113 '
114
115 test_expect_success 'missing object, but promised, passes fsck' '
116         rm -rf repo &&
117         test_create_repo repo &&
118         test_commit -C repo 1 &&
119         test_commit -C repo 2 &&
120         test_commit -C repo 3 &&
121         git -C repo tag -a annotated_tag -m "annotated tag" &&
122
123         C=$(git -C repo rev-parse 1) &&
124         T=$(git -C repo rev-parse 2^{tree}) &&
125         B=$(git hash-object repo/3.t) &&
126         AT=$(git -C repo rev-parse annotated_tag) &&
127
128         promise_and_delete "$C" &&
129         promise_and_delete "$T" &&
130         promise_and_delete "$B" &&
131         promise_and_delete "$AT" &&
132
133         git -C repo config core.repositoryformatversion 1 &&
134         git -C repo config extensions.partialclone "arbitrary string" &&
135         git -C repo fsck
136 '
137
138 test_expect_success 'missing CLI object, but promised, passes fsck' '
139         rm -rf repo &&
140         test_create_repo repo &&
141         test_commit -C repo my_commit &&
142
143         A=$(git -C repo commit-tree -m a HEAD^{tree}) &&
144         promise_and_delete "$A" &&
145
146         git -C repo config core.repositoryformatversion 1 &&
147         git -C repo config extensions.partialclone "arbitrary string" &&
148         git -C repo fsck "$A"
149 '
150
151 test_expect_success 'fetching of missing objects' '
152         rm -rf repo &&
153         test_create_repo server &&
154         test_commit -C server foo &&
155         git -C server repack -a -d --write-bitmap-index &&
156
157         git clone "file://$(pwd)/server" repo &&
158         HASH=$(git -C repo rev-parse foo) &&
159         rm -rf repo/.git/objects/* &&
160
161         git -C repo config core.repositoryformatversion 1 &&
162         git -C repo config extensions.partialclone "origin" &&
163         git -C repo cat-file -p "$HASH" &&
164
165         # Ensure that the .promisor file is written, and check that its
166         # associated packfile contains the object
167         ls repo/.git/objects/pack/pack-*.promisor >promisorlist &&
168         test_line_count = 1 promisorlist &&
169         IDX=$(cat promisorlist | sed "s/promisor$/idx/") &&
170         git verify-pack --verbose "$IDX" | grep "$HASH"
171 '
172
173 test_expect_success 'fetching of missing objects works with ref-in-want enabled' '
174         # ref-in-want requires protocol version 2
175         git -C server config protocol.version 2 &&
176         git -C server config uploadpack.allowrefinwant 1 &&
177         git -C repo config protocol.version 2 &&
178
179         rm -rf repo/.git/objects/* &&
180         rm -f trace &&
181         GIT_TRACE_PACKET="$(pwd)/trace" git -C repo cat-file -p "$HASH" &&
182         grep "git< fetch=.*ref-in-want" trace
183 '
184
185 test_expect_success 'fetching of missing blobs works' '
186         rm -rf server repo &&
187         test_create_repo server &&
188         test_commit -C server foo &&
189         git -C server repack -a -d --write-bitmap-index &&
190
191         git clone "file://$(pwd)/server" repo &&
192         git hash-object repo/foo.t >blobhash &&
193         rm -rf repo/.git/objects/* &&
194
195         git -C server config uploadpack.allowanysha1inwant 1 &&
196         git -C server config uploadpack.allowfilter 1 &&
197         git -C repo config core.repositoryformatversion 1 &&
198         git -C repo config extensions.partialclone "origin" &&
199
200         git -C repo cat-file -p $(cat blobhash)
201 '
202
203 test_expect_success 'fetching of missing trees does not fetch blobs' '
204         rm -rf server repo &&
205         test_create_repo server &&
206         test_commit -C server foo &&
207         git -C server repack -a -d --write-bitmap-index &&
208
209         git clone "file://$(pwd)/server" repo &&
210         git -C repo rev-parse foo^{tree} >treehash &&
211         git hash-object repo/foo.t >blobhash &&
212         rm -rf repo/.git/objects/* &&
213
214         git -C server config uploadpack.allowanysha1inwant 1 &&
215         git -C server config uploadpack.allowfilter 1 &&
216         git -C repo config core.repositoryformatversion 1 &&
217         git -C repo config extensions.partialclone "origin" &&
218         git -C repo cat-file -p $(cat treehash) &&
219
220         # Ensure that the tree, but not the blob, is fetched
221         git -C repo rev-list --objects --missing=print $(cat treehash) >objects &&
222         grep "^$(cat treehash)" objects &&
223         grep "^[?]$(cat blobhash)" objects
224 '
225
226 test_expect_success 'rev-list stops traversal at missing and promised commit' '
227         rm -rf repo &&
228         test_create_repo repo &&
229         test_commit -C repo foo &&
230         test_commit -C repo bar &&
231
232         FOO=$(git -C repo rev-parse foo) &&
233         promise_and_delete "$FOO" &&
234
235         git -C repo config core.repositoryformatversion 1 &&
236         git -C repo config extensions.partialclone "arbitrary string" &&
237         GIT_TEST_COMMIT_GRAPH=0 git -C repo rev-list --exclude-promisor-objects --objects bar >out &&
238         grep $(git -C repo rev-parse bar) out &&
239         ! grep $FOO out
240 '
241
242 test_expect_success 'missing tree objects with --missing=allow-promisor and --exclude-promisor-objects' '
243         rm -rf repo &&
244         test_create_repo repo &&
245         test_commit -C repo foo &&
246         test_commit -C repo bar &&
247         test_commit -C repo baz &&
248
249         promise_and_delete $(git -C repo rev-parse bar^{tree}) &&
250         promise_and_delete $(git -C repo rev-parse foo^{tree}) &&
251
252         git -C repo config core.repositoryformatversion 1 &&
253         git -C repo config extensions.partialclone "arbitrary string" &&
254
255         git -C repo rev-list --missing=allow-promisor --objects HEAD >objs 2>rev_list_err &&
256         test_must_be_empty rev_list_err &&
257         # 3 commits, 3 blobs, and 1 tree
258         test_line_count = 7 objs &&
259
260         # Do the same for --exclude-promisor-objects, but with all trees gone.
261         promise_and_delete $(git -C repo rev-parse baz^{tree}) &&
262         git -C repo rev-list --exclude-promisor-objects --objects HEAD >objs 2>rev_list_err &&
263         test_must_be_empty rev_list_err &&
264         # 3 commits, no blobs or trees
265         test_line_count = 3 objs
266 '
267
268 test_expect_success 'missing non-root tree object and rev-list' '
269         rm -rf repo &&
270         test_create_repo repo &&
271         mkdir repo/dir &&
272         echo foo >repo/dir/foo &&
273         git -C repo add dir/foo &&
274         git -C repo commit -m "commit dir/foo" &&
275
276         promise_and_delete $(git -C repo rev-parse HEAD:dir) &&
277
278         git -C repo config core.repositoryformatversion 1 &&
279         git -C repo config extensions.partialclone "arbitrary string" &&
280
281         git -C repo rev-list --missing=allow-any --objects HEAD >objs 2>rev_list_err &&
282         test_must_be_empty rev_list_err &&
283         # 1 commit and 1 tree
284         test_line_count = 2 objs
285 '
286
287 test_expect_success 'rev-list stops traversal at missing and promised tree' '
288         rm -rf repo &&
289         test_create_repo repo &&
290         test_commit -C repo foo &&
291         mkdir repo/a_dir &&
292         echo something >repo/a_dir/something &&
293         git -C repo add a_dir/something &&
294         git -C repo commit -m bar &&
295
296         # foo^{tree} (tree referenced from commit)
297         TREE=$(git -C repo rev-parse foo^{tree}) &&
298
299         # a tree referenced by HEAD^{tree} (tree referenced from tree)
300         TREE2=$(git -C repo ls-tree HEAD^{tree} | grep " tree " | head -1 | cut -b13-52) &&
301
302         promise_and_delete "$TREE" &&
303         promise_and_delete "$TREE2" &&
304
305         git -C repo config core.repositoryformatversion 1 &&
306         git -C repo config extensions.partialclone "arbitrary string" &&
307         git -C repo rev-list --exclude-promisor-objects --objects HEAD >out &&
308         grep $(git -C repo rev-parse foo) out &&
309         ! grep $TREE out &&
310         grep $(git -C repo rev-parse HEAD) out &&
311         ! grep $TREE2 out
312 '
313
314 test_expect_success 'rev-list stops traversal at missing and promised blob' '
315         rm -rf repo &&
316         test_create_repo repo &&
317         echo something >repo/something &&
318         git -C repo add something &&
319         git -C repo commit -m foo &&
320
321         BLOB=$(git -C repo hash-object -w something) &&
322         promise_and_delete "$BLOB" &&
323
324         git -C repo config core.repositoryformatversion 1 &&
325         git -C repo config extensions.partialclone "arbitrary string" &&
326         git -C repo rev-list --exclude-promisor-objects --objects HEAD >out &&
327         grep $(git -C repo rev-parse HEAD) out &&
328         ! grep $BLOB out
329 '
330
331 test_expect_success 'rev-list stops traversal at promisor commit, tree, and blob' '
332         rm -rf repo &&
333         test_create_repo repo &&
334         test_commit -C repo foo &&
335         test_commit -C repo bar &&
336         test_commit -C repo baz &&
337
338         COMMIT=$(git -C repo rev-parse foo) &&
339         TREE=$(git -C repo rev-parse bar^{tree}) &&
340         BLOB=$(git hash-object repo/baz.t) &&
341         printf "%s\n%s\n%s\n" $COMMIT $TREE $BLOB | pack_as_from_promisor &&
342
343         git -C repo config core.repositoryformatversion 1 &&
344         git -C repo config extensions.partialclone "arbitrary string" &&
345         git -C repo rev-list --exclude-promisor-objects --objects HEAD >out &&
346         ! grep $COMMIT out &&
347         ! grep $TREE out &&
348         ! grep $BLOB out &&
349         grep $(git -C repo rev-parse bar) out  # sanity check that some walking was done
350 '
351
352 test_expect_success 'rev-list accepts missing and promised objects on command line' '
353         rm -rf repo &&
354         test_create_repo repo &&
355         test_commit -C repo foo &&
356         test_commit -C repo bar &&
357         test_commit -C repo baz &&
358
359         COMMIT=$(git -C repo rev-parse foo) &&
360         TREE=$(git -C repo rev-parse bar^{tree}) &&
361         BLOB=$(git hash-object repo/baz.t) &&
362
363         promise_and_delete $COMMIT &&
364         promise_and_delete $TREE &&
365         promise_and_delete $BLOB &&
366
367         git -C repo config core.repositoryformatversion 1 &&
368         git -C repo config extensions.partialclone "arbitrary string" &&
369         git -C repo rev-list --exclude-promisor-objects --objects "$COMMIT" "$TREE" "$BLOB"
370 '
371
372 test_expect_success 'gc repacks promisor objects separately from non-promisor objects' '
373         rm -rf repo &&
374         test_create_repo repo &&
375         test_commit -C repo one &&
376         test_commit -C repo two &&
377
378         TREE_ONE=$(git -C repo rev-parse one^{tree}) &&
379         printf "$TREE_ONE\n" | pack_as_from_promisor &&
380         TREE_TWO=$(git -C repo rev-parse two^{tree}) &&
381         printf "$TREE_TWO\n" | pack_as_from_promisor &&
382
383         git -C repo config core.repositoryformatversion 1 &&
384         git -C repo config extensions.partialclone "arbitrary string" &&
385         git -C repo gc &&
386
387         # Ensure that exactly one promisor packfile exists, and that it
388         # contains the trees but not the commits
389         ls repo/.git/objects/pack/pack-*.promisor >promisorlist &&
390         test_line_count = 1 promisorlist &&
391         PROMISOR_PACKFILE=$(sed "s/.promisor/.pack/" <promisorlist) &&
392         git verify-pack $PROMISOR_PACKFILE -v >out &&
393         grep "$TREE_ONE" out &&
394         grep "$TREE_TWO" out &&
395         ! grep "$(git -C repo rev-parse one)" out &&
396         ! grep "$(git -C repo rev-parse two)" out &&
397
398         # Remove the promisor packfile and associated files
399         rm $(sed "s/.promisor//" <promisorlist).* &&
400
401         # Ensure that the single other pack contains the commits, but not the
402         # trees
403         ls repo/.git/objects/pack/pack-*.pack >packlist &&
404         test_line_count = 1 packlist &&
405         git verify-pack repo/.git/objects/pack/pack-*.pack -v >out &&
406         grep "$(git -C repo rev-parse one)" out &&
407         grep "$(git -C repo rev-parse two)" out &&
408         ! grep "$TREE_ONE" out &&
409         ! grep "$TREE_TWO" out
410 '
411
412 test_expect_success 'gc does not repack promisor objects if there are none' '
413         rm -rf repo &&
414         test_create_repo repo &&
415         test_commit -C repo one &&
416
417         git -C repo config core.repositoryformatversion 1 &&
418         git -C repo config extensions.partialclone "arbitrary string" &&
419         git -C repo gc &&
420
421         # Ensure that only one pack exists
422         ls repo/.git/objects/pack/pack-*.pack >packlist &&
423         test_line_count = 1 packlist
424 '
425
426 repack_and_check () {
427         rm -rf repo2 &&
428         cp -r repo repo2 &&
429         git -C repo2 repack $1 -d &&
430         git -C repo2 fsck &&
431
432         git -C repo2 cat-file -e $2 &&
433         git -C repo2 cat-file -e $3
434 }
435
436 test_expect_success 'repack -d does not irreversibly delete promisor objects' '
437         rm -rf repo &&
438         test_create_repo repo &&
439         git -C repo config core.repositoryformatversion 1 &&
440         git -C repo config extensions.partialclone "arbitrary string" &&
441
442         git -C repo commit --allow-empty -m one &&
443         git -C repo commit --allow-empty -m two &&
444         git -C repo commit --allow-empty -m three &&
445         git -C repo commit --allow-empty -m four &&
446         ONE=$(git -C repo rev-parse HEAD^^^) &&
447         TWO=$(git -C repo rev-parse HEAD^^) &&
448         THREE=$(git -C repo rev-parse HEAD^) &&
449
450         printf "$TWO\n" | pack_as_from_promisor &&
451         printf "$THREE\n" | pack_as_from_promisor &&
452         delete_object repo "$ONE" &&
453
454         repack_and_check -a "$TWO" "$THREE" &&
455         repack_and_check -A "$TWO" "$THREE" &&
456         repack_and_check -l "$TWO" "$THREE"
457 '
458
459 test_expect_success 'gc stops traversal when a missing but promised object is reached' '
460         rm -rf repo &&
461         test_create_repo repo &&
462         test_commit -C repo my_commit &&
463
464         TREE_HASH=$(git -C repo rev-parse HEAD^{tree}) &&
465         HASH=$(promise_and_delete $TREE_HASH) &&
466
467         git -C repo config core.repositoryformatversion 1 &&
468         git -C repo config extensions.partialclone "arbitrary string" &&
469         git -C repo gc &&
470
471         # Ensure that the promisor packfile still exists, and remove it
472         test -e repo/.git/objects/pack/pack-$HASH.pack &&
473         rm repo/.git/objects/pack/pack-$HASH.* &&
474
475         # Ensure that the single other pack contains the commit, but not the tree
476         ls repo/.git/objects/pack/pack-*.pack >packlist &&
477         test_line_count = 1 packlist &&
478         git verify-pack repo/.git/objects/pack/pack-*.pack -v >out &&
479         grep "$(git -C repo rev-parse HEAD)" out &&
480         ! grep "$TREE_HASH" out
481 '
482
483 LIB_HTTPD_PORT=12345  # default port, 410, cannot be used as non-root
484 . "$TEST_DIRECTORY"/lib-httpd.sh
485 start_httpd
486
487 test_expect_success 'fetching of missing objects from an HTTP server' '
488         rm -rf repo &&
489         SERVER="$HTTPD_DOCUMENT_ROOT_PATH/server" &&
490         test_create_repo "$SERVER" &&
491         test_commit -C "$SERVER" foo &&
492         git -C "$SERVER" repack -a -d --write-bitmap-index &&
493
494         git clone $HTTPD_URL/smart/server repo &&
495         HASH=$(git -C repo rev-parse foo) &&
496         rm -rf repo/.git/objects/* &&
497
498         git -C repo config core.repositoryformatversion 1 &&
499         git -C repo config extensions.partialclone "origin" &&
500         git -C repo cat-file -p "$HASH" &&
501
502         # Ensure that the .promisor file is written, and check that its
503         # associated packfile contains the object
504         ls repo/.git/objects/pack/pack-*.promisor >promisorlist &&
505         test_line_count = 1 promisorlist &&
506         IDX=$(cat promisorlist | sed "s/promisor$/idx/") &&
507         git verify-pack --verbose "$IDX" | grep "$HASH"
508 '
509
510 stop_httpd
511
512 test_done