convert: add round trip check based on 'core.checkRoundtripEncoding'
[git] / Documentation / gitattributes.txt
1 gitattributes(5)
2 ================
3
4 NAME
5 ----
6 gitattributes - defining attributes per path
7
8 SYNOPSIS
9 --------
10 $GIT_DIR/info/attributes, .gitattributes
11
12
13 DESCRIPTION
14 -----------
15
16 A `gitattributes` file is a simple text file that gives
17 `attributes` to pathnames.
18
19 Each line in `gitattributes` file is of form:
20
21         pattern attr1 attr2 ...
22
23 That is, a pattern followed by an attributes list,
24 separated by whitespaces. Leading and trailing whitespaces are
25 ignored. Lines that begin with '#' are ignored. Patterns
26 that begin with a double quote are quoted in C style.
27 When the pattern matches the path in question, the attributes
28 listed on the line are given to the path.
29
30 Each attribute can be in one of these states for a given path:
31
32 Set::
33
34         The path has the attribute with special value "true";
35         this is specified by listing only the name of the
36         attribute in the attribute list.
37
38 Unset::
39
40         The path has the attribute with special value "false";
41         this is specified by listing the name of the attribute
42         prefixed with a dash `-` in the attribute list.
43
44 Set to a value::
45
46         The path has the attribute with specified string value;
47         this is specified by listing the name of the attribute
48         followed by an equal sign `=` and its value in the
49         attribute list.
50
51 Unspecified::
52
53         No pattern matches the path, and nothing says if
54         the path has or does not have the attribute, the
55         attribute for the path is said to be Unspecified.
56
57 When more than one pattern matches the path, a later line
58 overrides an earlier line.  This overriding is done per
59 attribute.  The rules how the pattern matches paths are the
60 same as in `.gitignore` files; see linkgit:gitignore[5].
61 Unlike `.gitignore`, negative patterns are forbidden.
62
63 When deciding what attributes are assigned to a path, Git
64 consults `$GIT_DIR/info/attributes` file (which has the highest
65 precedence), `.gitattributes` file in the same directory as the
66 path in question, and its parent directories up to the toplevel of the
67 work tree (the further the directory that contains `.gitattributes`
68 is from the path in question, the lower its precedence). Finally
69 global and system-wide files are considered (they have the lowest
70 precedence).
71
72 When the `.gitattributes` file is missing from the work tree, the
73 path in the index is used as a fall-back.  During checkout process,
74 `.gitattributes` in the index is used and then the file in the
75 working tree is used as a fall-back.
76
77 If you wish to affect only a single repository (i.e., to assign
78 attributes to files that are particular to
79 one user's workflow for that repository), then
80 attributes should be placed in the `$GIT_DIR/info/attributes` file.
81 Attributes which should be version-controlled and distributed to other
82 repositories (i.e., attributes of interest to all users) should go into
83 `.gitattributes` files. Attributes that should affect all repositories
84 for a single user should be placed in a file specified by the
85 `core.attributesFile` configuration option (see linkgit:git-config[1]).
86 Its default value is $XDG_CONFIG_HOME/git/attributes. If $XDG_CONFIG_HOME
87 is either not set or empty, $HOME/.config/git/attributes is used instead.
88 Attributes for all users on a system should be placed in the
89 `$(prefix)/etc/gitattributes` file.
90
91 Sometimes you would need to override a setting of an attribute
92 for a path to `Unspecified` state.  This can be done by listing
93 the name of the attribute prefixed with an exclamation point `!`.
94
95
96 EFFECTS
97 -------
98
99 Certain operations by Git can be influenced by assigning
100 particular attributes to a path.  Currently, the following
101 operations are attributes-aware.
102
103 Checking-out and checking-in
104 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~
105
106 These attributes affect how the contents stored in the
107 repository are copied to the working tree files when commands
108 such as 'git checkout' and 'git merge' run.  They also affect how
109 Git stores the contents you prepare in the working tree in the
110 repository upon 'git add' and 'git commit'.
111
112 `text`
113 ^^^^^^
114
115 This attribute enables and controls end-of-line normalization.  When a
116 text file is normalized, its line endings are converted to LF in the
117 repository.  To control what line ending style is used in the working
118 directory, use the `eol` attribute for a single file and the
119 `core.eol` configuration variable for all text files.
120 Note that `core.autocrlf` overrides `core.eol`
121
122 Set::
123
124         Setting the `text` attribute on a path enables end-of-line
125         normalization and marks the path as a text file.  End-of-line
126         conversion takes place without guessing the content type.
127
128 Unset::
129
130         Unsetting the `text` attribute on a path tells Git not to
131         attempt any end-of-line conversion upon checkin or checkout.
132
133 Set to string value "auto"::
134
135         When `text` is set to "auto", the path is marked for automatic
136         end-of-line conversion.  If Git decides that the content is
137         text, its line endings are converted to LF on checkin.
138         When the file has been committed with CRLF, no conversion is done.
139
140 Unspecified::
141
142         If the `text` attribute is unspecified, Git uses the
143         `core.autocrlf` configuration variable to determine if the
144         file should be converted.
145
146 Any other value causes Git to act as if `text` has been left
147 unspecified.
148
149 `eol`
150 ^^^^^
151
152 This attribute sets a specific line-ending style to be used in the
153 working directory.  It enables end-of-line conversion without any
154 content checks, effectively setting the `text` attribute.  Note that
155 setting this attribute on paths which are in the index with CRLF line
156 endings may make the paths to be considered dirty.  Adding the path to
157 the index again will normalize the line endings in the index.
158
159 Set to string value "crlf"::
160
161         This setting forces Git to normalize line endings for this
162         file on checkin and convert them to CRLF when the file is
163         checked out.
164
165 Set to string value "lf"::
166
167         This setting forces Git to normalize line endings to LF on
168         checkin and prevents conversion to CRLF when the file is
169         checked out.
170
171 Backwards compatibility with `crlf` attribute
172 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
173
174 For backwards compatibility, the `crlf` attribute is interpreted as
175 follows:
176
177 ------------------------
178 crlf            text
179 -crlf           -text
180 crlf=input      eol=lf
181 ------------------------
182
183 End-of-line conversion
184 ^^^^^^^^^^^^^^^^^^^^^^
185
186 While Git normally leaves file contents alone, it can be configured to
187 normalize line endings to LF in the repository and, optionally, to
188 convert them to CRLF when files are checked out.
189
190 If you simply want to have CRLF line endings in your working directory
191 regardless of the repository you are working with, you can set the
192 config variable "core.autocrlf" without using any attributes.
193
194 ------------------------
195 [core]
196         autocrlf = true
197 ------------------------
198
199 This does not force normalization of text files, but does ensure
200 that text files that you introduce to the repository have their line
201 endings normalized to LF when they are added, and that files that are
202 already normalized in the repository stay normalized.
203
204 If you want to ensure that text files that any contributor introduces to
205 the repository have their line endings normalized, you can set the
206 `text` attribute to "auto" for _all_ files.
207
208 ------------------------
209 *       text=auto
210 ------------------------
211
212 The attributes allow a fine-grained control, how the line endings
213 are converted.
214 Here is an example that will make Git normalize .txt, .vcproj and .sh
215 files, ensure that .vcproj files have CRLF and .sh files have LF in
216 the working directory, and prevent .jpg files from being normalized
217 regardless of their content.
218
219 ------------------------
220 *               text=auto
221 *.txt           text
222 *.vcproj        text eol=crlf
223 *.sh            text eol=lf
224 *.jpg           -text
225 ------------------------
226
227 NOTE: When `text=auto` conversion is enabled in a cross-platform
228 project using push and pull to a central repository the text files
229 containing CRLFs should be normalized.
230
231 From a clean working directory:
232
233 -------------------------------------------------
234 $ echo "* text=auto" >.gitattributes
235 $ git add --renormalize .
236 $ git status        # Show files that will be normalized
237 $ git commit -m "Introduce end-of-line normalization"
238 -------------------------------------------------
239
240 If any files that should not be normalized show up in 'git status',
241 unset their `text` attribute before running 'git add -u'.
242
243 ------------------------
244 manual.pdf      -text
245 ------------------------
246
247 Conversely, text files that Git does not detect can have normalization
248 enabled manually.
249
250 ------------------------
251 weirdchars.txt  text
252 ------------------------
253
254 If `core.safecrlf` is set to "true" or "warn", Git verifies if
255 the conversion is reversible for the current setting of
256 `core.autocrlf`.  For "true", Git rejects irreversible
257 conversions; for "warn", Git only prints a warning but accepts
258 an irreversible conversion.  The safety triggers to prevent such
259 a conversion done to the files in the work tree, but there are a
260 few exceptions.  Even though...
261
262 - 'git add' itself does not touch the files in the work tree, the
263   next checkout would, so the safety triggers;
264
265 - 'git apply' to update a text file with a patch does touch the files
266   in the work tree, but the operation is about text files and CRLF
267   conversion is about fixing the line ending inconsistencies, so the
268   safety does not trigger;
269
270 - 'git diff' itself does not touch the files in the work tree, it is
271   often run to inspect the changes you intend to next 'git add'.  To
272   catch potential problems early, safety triggers.
273
274
275 `working-tree-encoding`
276 ^^^^^^^^^^^^^^^^^^^^^^^
277
278 Git recognizes files encoded in ASCII or one of its supersets (e.g.
279 UTF-8, ISO-8859-1, ...) as text files. Files encoded in certain other
280 encodings (e.g. UTF-16) are interpreted as binary and consequently
281 built-in Git text processing tools (e.g. 'git diff') as well as most Git
282 web front ends do not visualize the contents of these files by default.
283
284 In these cases you can tell Git the encoding of a file in the working
285 directory with the `working-tree-encoding` attribute. If a file with this
286 attribute is added to Git, then Git reencodes the content from the
287 specified encoding to UTF-8. Finally, Git stores the UTF-8 encoded
288 content in its internal data structure (called "the index"). On checkout
289 the content is reencoded back to the specified encoding.
290
291 Please note that using the `working-tree-encoding` attribute may have a
292 number of pitfalls:
293
294 - Alternative Git implementations (e.g. JGit or libgit2) and older Git
295   versions (as of March 2018) do not support the `working-tree-encoding`
296   attribute. If you decide to use the `working-tree-encoding` attribute
297   in your repository, then it is strongly recommended to ensure that all
298   clients working with the repository support it.
299
300   For example, Microsoft Visual Studio resources files (`*.rc`) or
301   PowerShell script files (`*.ps1`) are sometimes encoded in UTF-16.
302   If you declare `*.ps1` as files as UTF-16 and you add `foo.ps1` with
303   a `working-tree-encoding` enabled Git client, then `foo.ps1` will be
304   stored as UTF-8 internally. A client without `working-tree-encoding`
305   support will checkout `foo.ps1` as UTF-8 encoded file. This will
306   typically cause trouble for the users of this file.
307
308   If a Git client, that does not support the `working-tree-encoding`
309   attribute, adds a new file `bar.ps1`, then `bar.ps1` will be
310   stored "as-is" internally (in this example probably as UTF-16).
311   A client with `working-tree-encoding` support will interpret the
312   internal contents as UTF-8 and try to convert it to UTF-16 on checkout.
313   That operation will fail and cause an error.
314
315 - Reencoding content to non-UTF encodings can cause errors as the
316   conversion might not be UTF-8 round trip safe. If you suspect your
317   encoding to not be round trip safe, then add it to
318   `core.checkRoundtripEncoding` to make Git check the round trip
319   encoding (see linkgit:git-config[1]). SHIFT-JIS (Japanese character
320   set) is known to have round trip issues with UTF-8 and is checked by
321   default.
322
323 - Reencoding content requires resources that might slow down certain
324   Git operations (e.g 'git checkout' or 'git add').
325
326 Use the `working-tree-encoding` attribute only if you cannot store a file
327 in UTF-8 encoding and if you want Git to be able to process the content
328 as text.
329
330 As an example, use the following attributes if your '*.ps1' files are
331 UTF-16 encoded with byte order mark (BOM) and you want Git to perform
332 automatic line ending conversion based on your platform.
333
334 ------------------------
335 *.ps1           text working-tree-encoding=UTF-16
336 ------------------------
337
338 Use the following attributes if your '*.ps1' files are UTF-16 little
339 endian encoded without BOM and you want Git to use Windows line endings
340 in the working directory. Please note, it is highly recommended to
341 explicitly define the line endings with `eol` if the `working-tree-encoding`
342 attribute is used to avoid ambiguity.
343
344 ------------------------
345 *.ps1           text working-tree-encoding=UTF-16LE eol=CRLF
346 ------------------------
347
348 You can get a list of all available encodings on your platform with the
349 following command:
350
351 ------------------------
352 iconv --list
353 ------------------------
354
355 If you do not know the encoding of a file, then you can use the `file`
356 command to guess the encoding:
357
358 ------------------------
359 file foo.ps1
360 ------------------------
361
362
363 `ident`
364 ^^^^^^^
365
366 When the attribute `ident` is set for a path, Git replaces
367 `$Id$` in the blob object with `$Id:`, followed by the
368 40-character hexadecimal blob object name, followed by a dollar
369 sign `$` upon checkout.  Any byte sequence that begins with
370 `$Id:` and ends with `$` in the worktree file is replaced
371 with `$Id$` upon check-in.
372
373
374 `filter`
375 ^^^^^^^^
376
377 A `filter` attribute can be set to a string value that names a
378 filter driver specified in the configuration.
379
380 A filter driver consists of a `clean` command and a `smudge`
381 command, either of which can be left unspecified.  Upon
382 checkout, when the `smudge` command is specified, the command is
383 fed the blob object from its standard input, and its standard
384 output is used to update the worktree file.  Similarly, the
385 `clean` command is used to convert the contents of worktree file
386 upon checkin. By default these commands process only a single
387 blob and terminate. If a long running `process` filter is used
388 in place of `clean` and/or `smudge` filters, then Git can process
389 all blobs with a single filter command invocation for the entire
390 life of a single Git command, for example `git add --all`. If a
391 long running `process` filter is configured then it always takes
392 precedence over a configured single blob filter. See section
393 below for the description of the protocol used to communicate with
394 a `process` filter.
395
396 One use of the content filtering is to massage the content into a shape
397 that is more convenient for the platform, filesystem, and the user to use.
398 For this mode of operation, the key phrase here is "more convenient" and
399 not "turning something unusable into usable".  In other words, the intent
400 is that if someone unsets the filter driver definition, or does not have
401 the appropriate filter program, the project should still be usable.
402
403 Another use of the content filtering is to store the content that cannot
404 be directly used in the repository (e.g. a UUID that refers to the true
405 content stored outside Git, or an encrypted content) and turn it into a
406 usable form upon checkout (e.g. download the external content, or decrypt
407 the encrypted content).
408
409 These two filters behave differently, and by default, a filter is taken as
410 the former, massaging the contents into more convenient shape.  A missing
411 filter driver definition in the config, or a filter driver that exits with
412 a non-zero status, is not an error but makes the filter a no-op passthru.
413
414 You can declare that a filter turns a content that by itself is unusable
415 into a usable content by setting the filter.<driver>.required configuration
416 variable to `true`.
417
418 Note: Whenever the clean filter is changed, the repo should be renormalized:
419 $ git add --renormalize .
420
421 For example, in .gitattributes, you would assign the `filter`
422 attribute for paths.
423
424 ------------------------
425 *.c     filter=indent
426 ------------------------
427
428 Then you would define a "filter.indent.clean" and "filter.indent.smudge"
429 configuration in your .git/config to specify a pair of commands to
430 modify the contents of C programs when the source files are checked
431 in ("clean" is run) and checked out (no change is made because the
432 command is "cat").
433
434 ------------------------
435 [filter "indent"]
436         clean = indent
437         smudge = cat
438 ------------------------
439
440 For best results, `clean` should not alter its output further if it is
441 run twice ("clean->clean" should be equivalent to "clean"), and
442 multiple `smudge` commands should not alter `clean`'s output
443 ("smudge->smudge->clean" should be equivalent to "clean").  See the
444 section on merging below.
445
446 The "indent" filter is well-behaved in this regard: it will not modify
447 input that is already correctly indented.  In this case, the lack of a
448 smudge filter means that the clean filter _must_ accept its own output
449 without modifying it.
450
451 If a filter _must_ succeed in order to make the stored contents usable,
452 you can declare that the filter is `required`, in the configuration:
453
454 ------------------------
455 [filter "crypt"]
456         clean = openssl enc ...
457         smudge = openssl enc -d ...
458         required
459 ------------------------
460
461 Sequence "%f" on the filter command line is replaced with the name of
462 the file the filter is working on.  A filter might use this in keyword
463 substitution.  For example:
464
465 ------------------------
466 [filter "p4"]
467         clean = git-p4-filter --clean %f
468         smudge = git-p4-filter --smudge %f
469 ------------------------
470
471 Note that "%f" is the name of the path that is being worked on. Depending
472 on the version that is being filtered, the corresponding file on disk may
473 not exist, or may have different contents. So, smudge and clean commands
474 should not try to access the file on disk, but only act as filters on the
475 content provided to them on standard input.
476
477 Long Running Filter Process
478 ^^^^^^^^^^^^^^^^^^^^^^^^^^^
479
480 If the filter command (a string value) is defined via
481 `filter.<driver>.process` then Git can process all blobs with a
482 single filter invocation for the entire life of a single Git
483 command. This is achieved by using a packet format (pkt-line,
484 see technical/protocol-common.txt) based protocol over standard
485 input and standard output as follows. All packets, except for the
486 "*CONTENT" packets and the "0000" flush packet, are considered
487 text and therefore are terminated by a LF.
488
489 Git starts the filter when it encounters the first file
490 that needs to be cleaned or smudged. After the filter started
491 Git sends a welcome message ("git-filter-client"), a list of supported
492 protocol version numbers, and a flush packet. Git expects to read a welcome
493 response message ("git-filter-server"), exactly one protocol version number
494 from the previously sent list, and a flush packet. All further
495 communication will be based on the selected version. The remaining
496 protocol description below documents "version=2". Please note that
497 "version=42" in the example below does not exist and is only there
498 to illustrate how the protocol would look like with more than one
499 version.
500
501 After the version negotiation Git sends a list of all capabilities that
502 it supports and a flush packet. Git expects to read a list of desired
503 capabilities, which must be a subset of the supported capabilities list,
504 and a flush packet as response:
505 ------------------------
506 packet:          git> git-filter-client
507 packet:          git> version=2
508 packet:          git> version=42
509 packet:          git> 0000
510 packet:          git< git-filter-server
511 packet:          git< version=2
512 packet:          git< 0000
513 packet:          git> capability=clean
514 packet:          git> capability=smudge
515 packet:          git> capability=not-yet-invented
516 packet:          git> 0000
517 packet:          git< capability=clean
518 packet:          git< capability=smudge
519 packet:          git< 0000
520 ------------------------
521 Supported filter capabilities in version 2 are "clean", "smudge",
522 and "delay".
523
524 Afterwards Git sends a list of "key=value" pairs terminated with
525 a flush packet. The list will contain at least the filter command
526 (based on the supported capabilities) and the pathname of the file
527 to filter relative to the repository root. Right after the flush packet
528 Git sends the content split in zero or more pkt-line packets and a
529 flush packet to terminate content. Please note, that the filter
530 must not send any response before it received the content and the
531 final flush packet. Also note that the "value" of a "key=value" pair
532 can contain the "=" character whereas the key would never contain
533 that character.
534 ------------------------
535 packet:          git> command=smudge
536 packet:          git> pathname=path/testfile.dat
537 packet:          git> 0000
538 packet:          git> CONTENT
539 packet:          git> 0000
540 ------------------------
541
542 The filter is expected to respond with a list of "key=value" pairs
543 terminated with a flush packet. If the filter does not experience
544 problems then the list must contain a "success" status. Right after
545 these packets the filter is expected to send the content in zero
546 or more pkt-line packets and a flush packet at the end. Finally, a
547 second list of "key=value" pairs terminated with a flush packet
548 is expected. The filter can change the status in the second list
549 or keep the status as is with an empty list. Please note that the
550 empty list must be terminated with a flush packet regardless.
551
552 ------------------------
553 packet:          git< status=success
554 packet:          git< 0000
555 packet:          git< SMUDGED_CONTENT
556 packet:          git< 0000
557 packet:          git< 0000  # empty list, keep "status=success" unchanged!
558 ------------------------
559
560 If the result content is empty then the filter is expected to respond
561 with a "success" status and a flush packet to signal the empty content.
562 ------------------------
563 packet:          git< status=success
564 packet:          git< 0000
565 packet:          git< 0000  # empty content!
566 packet:          git< 0000  # empty list, keep "status=success" unchanged!
567 ------------------------
568
569 In case the filter cannot or does not want to process the content,
570 it is expected to respond with an "error" status.
571 ------------------------
572 packet:          git< status=error
573 packet:          git< 0000
574 ------------------------
575
576 If the filter experiences an error during processing, then it can
577 send the status "error" after the content was (partially or
578 completely) sent.
579 ------------------------
580 packet:          git< status=success
581 packet:          git< 0000
582 packet:          git< HALF_WRITTEN_ERRONEOUS_CONTENT
583 packet:          git< 0000
584 packet:          git< status=error
585 packet:          git< 0000
586 ------------------------
587
588 In case the filter cannot or does not want to process the content
589 as well as any future content for the lifetime of the Git process,
590 then it is expected to respond with an "abort" status at any point
591 in the protocol.
592 ------------------------
593 packet:          git< status=abort
594 packet:          git< 0000
595 ------------------------
596
597 Git neither stops nor restarts the filter process in case the
598 "error"/"abort" status is set. However, Git sets its exit code
599 according to the `filter.<driver>.required` flag, mimicking the
600 behavior of the `filter.<driver>.clean` / `filter.<driver>.smudge`
601 mechanism.
602
603 If the filter dies during the communication or does not adhere to
604 the protocol then Git will stop the filter process and restart it
605 with the next file that needs to be processed. Depending on the
606 `filter.<driver>.required` flag Git will interpret that as error.
607
608 After the filter has processed a command it is expected to wait for
609 a "key=value" list containing the next command. Git will close
610 the command pipe on exit. The filter is expected to detect EOF
611 and exit gracefully on its own. Git will wait until the filter
612 process has stopped.
613
614 Delay
615 ^^^^^
616
617 If the filter supports the "delay" capability, then Git can send the
618 flag "can-delay" after the filter command and pathname. This flag
619 denotes that the filter can delay filtering the current blob (e.g. to
620 compensate network latencies) by responding with no content but with
621 the status "delayed" and a flush packet.
622 ------------------------
623 packet:          git> command=smudge
624 packet:          git> pathname=path/testfile.dat
625 packet:          git> can-delay=1
626 packet:          git> 0000
627 packet:          git> CONTENT
628 packet:          git> 0000
629 packet:          git< status=delayed
630 packet:          git< 0000
631 ------------------------
632
633 If the filter supports the "delay" capability then it must support the
634 "list_available_blobs" command. If Git sends this command, then the
635 filter is expected to return a list of pathnames representing blobs
636 that have been delayed earlier and are now available.
637 The list must be terminated with a flush packet followed
638 by a "success" status that is also terminated with a flush packet. If
639 no blobs for the delayed paths are available, yet, then the filter is
640 expected to block the response until at least one blob becomes
641 available. The filter can tell Git that it has no more delayed blobs
642 by sending an empty list. As soon as the filter responds with an empty
643 list, Git stops asking. All blobs that Git has not received at this
644 point are considered missing and will result in an error.
645
646 ------------------------
647 packet:          git> command=list_available_blobs
648 packet:          git> 0000
649 packet:          git< pathname=path/testfile.dat
650 packet:          git< pathname=path/otherfile.dat
651 packet:          git< 0000
652 packet:          git< status=success
653 packet:          git< 0000
654 ------------------------
655
656 After Git received the pathnames, it will request the corresponding
657 blobs again. These requests contain a pathname and an empty content
658 section. The filter is expected to respond with the smudged content
659 in the usual way as explained above.
660 ------------------------
661 packet:          git> command=smudge
662 packet:          git> pathname=path/testfile.dat
663 packet:          git> 0000
664 packet:          git> 0000  # empty content!
665 packet:          git< status=success
666 packet:          git< 0000
667 packet:          git< SMUDGED_CONTENT
668 packet:          git< 0000
669 packet:          git< 0000  # empty list, keep "status=success" unchanged!
670 ------------------------
671
672 Example
673 ^^^^^^^
674
675 A long running filter demo implementation can be found in
676 `contrib/long-running-filter/example.pl` located in the Git
677 core repository. If you develop your own long running filter
678 process then the `GIT_TRACE_PACKET` environment variables can be
679 very helpful for debugging (see linkgit:git[1]).
680
681 Please note that you cannot use an existing `filter.<driver>.clean`
682 or `filter.<driver>.smudge` command with `filter.<driver>.process`
683 because the former two use a different inter process communication
684 protocol than the latter one.
685
686
687 Interaction between checkin/checkout attributes
688 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
689
690 In the check-in codepath, the worktree file is first converted
691 with `filter` driver (if specified and corresponding driver
692 defined), then the result is processed with `ident` (if
693 specified), and then finally with `text` (again, if specified
694 and applicable).
695
696 In the check-out codepath, the blob content is first converted
697 with `text`, and then `ident` and fed to `filter`.
698
699
700 Merging branches with differing checkin/checkout attributes
701 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
702
703 If you have added attributes to a file that cause the canonical
704 repository format for that file to change, such as adding a
705 clean/smudge filter or text/eol/ident attributes, merging anything
706 where the attribute is not in place would normally cause merge
707 conflicts.
708
709 To prevent these unnecessary merge conflicts, Git can be told to run a
710 virtual check-out and check-in of all three stages of a file when
711 resolving a three-way merge by setting the `merge.renormalize`
712 configuration variable.  This prevents changes caused by check-in
713 conversion from causing spurious merge conflicts when a converted file
714 is merged with an unconverted file.
715
716 As long as a "smudge->clean" results in the same output as a "clean"
717 even on files that are already smudged, this strategy will
718 automatically resolve all filter-related conflicts.  Filters that do
719 not act in this way may cause additional merge conflicts that must be
720 resolved manually.
721
722
723 Generating diff text
724 ~~~~~~~~~~~~~~~~~~~~
725
726 `diff`
727 ^^^^^^
728
729 The attribute `diff` affects how Git generates diffs for particular
730 files. It can tell Git whether to generate a textual patch for the path
731 or to treat the path as a binary file.  It can also affect what line is
732 shown on the hunk header `@@ -k,l +n,m @@` line, tell Git to use an
733 external command to generate the diff, or ask Git to convert binary
734 files to a text format before generating the diff.
735
736 Set::
737
738         A path to which the `diff` attribute is set is treated
739         as text, even when they contain byte values that
740         normally never appear in text files, such as NUL.
741
742 Unset::
743
744         A path to which the `diff` attribute is unset will
745         generate `Binary files differ` (or a binary patch, if
746         binary patches are enabled).
747
748 Unspecified::
749
750         A path to which the `diff` attribute is unspecified
751         first gets its contents inspected, and if it looks like
752         text and is smaller than core.bigFileThreshold, it is treated
753         as text. Otherwise it would generate `Binary files differ`.
754
755 String::
756
757         Diff is shown using the specified diff driver.  Each driver may
758         specify one or more options, as described in the following
759         section. The options for the diff driver "foo" are defined
760         by the configuration variables in the "diff.foo" section of the
761         Git config file.
762
763
764 Defining an external diff driver
765 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
766
767 The definition of a diff driver is done in `gitconfig`, not
768 `gitattributes` file, so strictly speaking this manual page is a
769 wrong place to talk about it.  However...
770
771 To define an external diff driver `jcdiff`, add a section to your
772 `$GIT_DIR/config` file (or `$HOME/.gitconfig` file) like this:
773
774 ----------------------------------------------------------------
775 [diff "jcdiff"]
776         command = j-c-diff
777 ----------------------------------------------------------------
778
779 When Git needs to show you a diff for the path with `diff`
780 attribute set to `jcdiff`, it calls the command you specified
781 with the above configuration, i.e. `j-c-diff`, with 7
782 parameters, just like `GIT_EXTERNAL_DIFF` program is called.
783 See linkgit:git[1] for details.
784
785
786 Defining a custom hunk-header
787 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
788
789 Each group of changes (called a "hunk") in the textual diff output
790 is prefixed with a line of the form:
791
792         @@ -k,l +n,m @@ TEXT
793
794 This is called a 'hunk header'.  The "TEXT" portion is by default a line
795 that begins with an alphabet, an underscore or a dollar sign; this
796 matches what GNU 'diff -p' output uses.  This default selection however
797 is not suited for some contents, and you can use a customized pattern
798 to make a selection.
799
800 First, in .gitattributes, you would assign the `diff` attribute
801 for paths.
802
803 ------------------------
804 *.tex   diff=tex
805 ------------------------
806
807 Then, you would define a "diff.tex.xfuncname" configuration to
808 specify a regular expression that matches a line that you would
809 want to appear as the hunk header "TEXT". Add a section to your
810 `$GIT_DIR/config` file (or `$HOME/.gitconfig` file) like this:
811
812 ------------------------
813 [diff "tex"]
814         xfuncname = "^(\\\\(sub)*section\\{.*)$"
815 ------------------------
816
817 Note.  A single level of backslashes are eaten by the
818 configuration file parser, so you would need to double the
819 backslashes; the pattern above picks a line that begins with a
820 backslash, and zero or more occurrences of `sub` followed by
821 `section` followed by open brace, to the end of line.
822
823 There are a few built-in patterns to make this easier, and `tex`
824 is one of them, so you do not have to write the above in your
825 configuration file (you still need to enable this with the
826 attribute mechanism, via `.gitattributes`).  The following built in
827 patterns are available:
828
829 - `ada` suitable for source code in the Ada language.
830
831 - `bibtex` suitable for files with BibTeX coded references.
832
833 - `cpp` suitable for source code in the C and C++ languages.
834
835 - `csharp` suitable for source code in the C# language.
836
837 - `css` suitable for cascading style sheets.
838
839 - `fortran` suitable for source code in the Fortran language.
840
841 - `fountain` suitable for Fountain documents.
842
843 - `html` suitable for HTML/XHTML documents.
844
845 - `java` suitable for source code in the Java language.
846
847 - `matlab` suitable for source code in the MATLAB language.
848
849 - `objc` suitable for source code in the Objective-C language.
850
851 - `pascal` suitable for source code in the Pascal/Delphi language.
852
853 - `perl` suitable for source code in the Perl language.
854
855 - `php` suitable for source code in the PHP language.
856
857 - `python` suitable for source code in the Python language.
858
859 - `ruby` suitable for source code in the Ruby language.
860
861 - `tex` suitable for source code for LaTeX documents.
862
863
864 Customizing word diff
865 ^^^^^^^^^^^^^^^^^^^^^
866
867 You can customize the rules that `git diff --word-diff` uses to
868 split words in a line, by specifying an appropriate regular expression
869 in the "diff.*.wordRegex" configuration variable.  For example, in TeX
870 a backslash followed by a sequence of letters forms a command, but
871 several such commands can be run together without intervening
872 whitespace.  To separate them, use a regular expression in your
873 `$GIT_DIR/config` file (or `$HOME/.gitconfig` file) like this:
874
875 ------------------------
876 [diff "tex"]
877         wordRegex = "\\\\[a-zA-Z]+|[{}]|\\\\.|[^\\{}[:space:]]+"
878 ------------------------
879
880 A built-in pattern is provided for all languages listed in the
881 previous section.
882
883
884 Performing text diffs of binary files
885 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
886
887 Sometimes it is desirable to see the diff of a text-converted
888 version of some binary files. For example, a word processor
889 document can be converted to an ASCII text representation, and
890 the diff of the text shown. Even though this conversion loses
891 some information, the resulting diff is useful for human
892 viewing (but cannot be applied directly).
893
894 The `textconv` config option is used to define a program for
895 performing such a conversion. The program should take a single
896 argument, the name of a file to convert, and produce the
897 resulting text on stdout.
898
899 For example, to show the diff of the exif information of a
900 file instead of the binary information (assuming you have the
901 exif tool installed), add the following section to your
902 `$GIT_DIR/config` file (or `$HOME/.gitconfig` file):
903
904 ------------------------
905 [diff "jpg"]
906         textconv = exif
907 ------------------------
908
909 NOTE: The text conversion is generally a one-way conversion;
910 in this example, we lose the actual image contents and focus
911 just on the text data. This means that diffs generated by
912 textconv are _not_ suitable for applying. For this reason,
913 only `git diff` and the `git log` family of commands (i.e.,
914 log, whatchanged, show) will perform text conversion. `git
915 format-patch` will never generate this output. If you want to
916 send somebody a text-converted diff of a binary file (e.g.,
917 because it quickly conveys the changes you have made), you
918 should generate it separately and send it as a comment _in
919 addition to_ the usual binary diff that you might send.
920
921 Because text conversion can be slow, especially when doing a
922 large number of them with `git log -p`, Git provides a mechanism
923 to cache the output and use it in future diffs.  To enable
924 caching, set the "cachetextconv" variable in your diff driver's
925 config. For example:
926
927 ------------------------
928 [diff "jpg"]
929         textconv = exif
930         cachetextconv = true
931 ------------------------
932
933 This will cache the result of running "exif" on each blob
934 indefinitely. If you change the textconv config variable for a
935 diff driver, Git will automatically invalidate the cache entries
936 and re-run the textconv filter. If you want to invalidate the
937 cache manually (e.g., because your version of "exif" was updated
938 and now produces better output), you can remove the cache
939 manually with `git update-ref -d refs/notes/textconv/jpg` (where
940 "jpg" is the name of the diff driver, as in the example above).
941
942 Choosing textconv versus external diff
943 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
944
945 If you want to show differences between binary or specially-formatted
946 blobs in your repository, you can choose to use either an external diff
947 command, or to use textconv to convert them to a diff-able text format.
948 Which method you choose depends on your exact situation.
949
950 The advantage of using an external diff command is flexibility. You are
951 not bound to find line-oriented changes, nor is it necessary for the
952 output to resemble unified diff. You are free to locate and report
953 changes in the most appropriate way for your data format.
954
955 A textconv, by comparison, is much more limiting. You provide a
956 transformation of the data into a line-oriented text format, and Git
957 uses its regular diff tools to generate the output. There are several
958 advantages to choosing this method:
959
960 1. Ease of use. It is often much simpler to write a binary to text
961    transformation than it is to perform your own diff. In many cases,
962    existing programs can be used as textconv filters (e.g., exif,
963    odt2txt).
964
965 2. Git diff features. By performing only the transformation step
966    yourself, you can still utilize many of Git's diff features,
967    including colorization, word-diff, and combined diffs for merges.
968
969 3. Caching. Textconv caching can speed up repeated diffs, such as those
970    you might trigger by running `git log -p`.
971
972
973 Marking files as binary
974 ^^^^^^^^^^^^^^^^^^^^^^^
975
976 Git usually guesses correctly whether a blob contains text or binary
977 data by examining the beginning of the contents. However, sometimes you
978 may want to override its decision, either because a blob contains binary
979 data later in the file, or because the content, while technically
980 composed of text characters, is opaque to a human reader. For example,
981 many postscript files contain only ASCII characters, but produce noisy
982 and meaningless diffs.
983
984 The simplest way to mark a file as binary is to unset the diff
985 attribute in the `.gitattributes` file:
986
987 ------------------------
988 *.ps -diff
989 ------------------------
990
991 This will cause Git to generate `Binary files differ` (or a binary
992 patch, if binary patches are enabled) instead of a regular diff.
993
994 However, one may also want to specify other diff driver attributes. For
995 example, you might want to use `textconv` to convert postscript files to
996 an ASCII representation for human viewing, but otherwise treat them as
997 binary files. You cannot specify both `-diff` and `diff=ps` attributes.
998 The solution is to use the `diff.*.binary` config option:
999
1000 ------------------------
1001 [diff "ps"]
1002   textconv = ps2ascii
1003   binary = true
1004 ------------------------
1005
1006 Performing a three-way merge
1007 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~
1008
1009 `merge`
1010 ^^^^^^^
1011
1012 The attribute `merge` affects how three versions of a file are
1013 merged when a file-level merge is necessary during `git merge`,
1014 and other commands such as `git revert` and `git cherry-pick`.
1015
1016 Set::
1017
1018         Built-in 3-way merge driver is used to merge the
1019         contents in a way similar to 'merge' command of `RCS`
1020         suite.  This is suitable for ordinary text files.
1021
1022 Unset::
1023
1024         Take the version from the current branch as the
1025         tentative merge result, and declare that the merge has
1026         conflicts.  This is suitable for binary files that do
1027         not have a well-defined merge semantics.
1028
1029 Unspecified::
1030
1031         By default, this uses the same built-in 3-way merge
1032         driver as is the case when the `merge` attribute is set.
1033         However, the `merge.default` configuration variable can name
1034         different merge driver to be used with paths for which the
1035         `merge` attribute is unspecified.
1036
1037 String::
1038
1039         3-way merge is performed using the specified custom
1040         merge driver.  The built-in 3-way merge driver can be
1041         explicitly specified by asking for "text" driver; the
1042         built-in "take the current branch" driver can be
1043         requested with "binary".
1044
1045
1046 Built-in merge drivers
1047 ^^^^^^^^^^^^^^^^^^^^^^
1048
1049 There are a few built-in low-level merge drivers defined that
1050 can be asked for via the `merge` attribute.
1051
1052 text::
1053
1054         Usual 3-way file level merge for text files.  Conflicted
1055         regions are marked with conflict markers `<<<<<<<`,
1056         `=======` and `>>>>>>>`.  The version from your branch
1057         appears before the `=======` marker, and the version
1058         from the merged branch appears after the `=======`
1059         marker.
1060
1061 binary::
1062
1063         Keep the version from your branch in the work tree, but
1064         leave the path in the conflicted state for the user to
1065         sort out.
1066
1067 union::
1068
1069         Run 3-way file level merge for text files, but take
1070         lines from both versions, instead of leaving conflict
1071         markers.  This tends to leave the added lines in the
1072         resulting file in random order and the user should
1073         verify the result. Do not use this if you do not
1074         understand the implications.
1075
1076
1077 Defining a custom merge driver
1078 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
1079
1080 The definition of a merge driver is done in the `.git/config`
1081 file, not in the `gitattributes` file, so strictly speaking this
1082 manual page is a wrong place to talk about it.  However...
1083
1084 To define a custom merge driver `filfre`, add a section to your
1085 `$GIT_DIR/config` file (or `$HOME/.gitconfig` file) like this:
1086
1087 ----------------------------------------------------------------
1088 [merge "filfre"]
1089         name = feel-free merge driver
1090         driver = filfre %O %A %B %L %P
1091         recursive = binary
1092 ----------------------------------------------------------------
1093
1094 The `merge.*.name` variable gives the driver a human-readable
1095 name.
1096
1097 The `merge.*.driver` variable's value is used to construct a
1098 command to run to merge ancestor's version (`%O`), current
1099 version (`%A`) and the other branches' version (`%B`).  These
1100 three tokens are replaced with the names of temporary files that
1101 hold the contents of these versions when the command line is
1102 built. Additionally, %L will be replaced with the conflict marker
1103 size (see below).
1104
1105 The merge driver is expected to leave the result of the merge in
1106 the file named with `%A` by overwriting it, and exit with zero
1107 status if it managed to merge them cleanly, or non-zero if there
1108 were conflicts.
1109
1110 The `merge.*.recursive` variable specifies what other merge
1111 driver to use when the merge driver is called for an internal
1112 merge between common ancestors, when there are more than one.
1113 When left unspecified, the driver itself is used for both
1114 internal merge and the final merge.
1115
1116 The merge driver can learn the pathname in which the merged result
1117 will be stored via placeholder `%P`.
1118
1119
1120 `conflict-marker-size`
1121 ^^^^^^^^^^^^^^^^^^^^^^
1122
1123 This attribute controls the length of conflict markers left in
1124 the work tree file during a conflicted merge.  Only setting to
1125 the value to a positive integer has any meaningful effect.
1126
1127 For example, this line in `.gitattributes` can be used to tell the merge
1128 machinery to leave much longer (instead of the usual 7-character-long)
1129 conflict markers when merging the file `Documentation/git-merge.txt`
1130 results in a conflict.
1131
1132 ------------------------
1133 Documentation/git-merge.txt     conflict-marker-size=32
1134 ------------------------
1135
1136
1137 Checking whitespace errors
1138 ~~~~~~~~~~~~~~~~~~~~~~~~~~
1139
1140 `whitespace`
1141 ^^^^^^^^^^^^
1142
1143 The `core.whitespace` configuration variable allows you to define what
1144 'diff' and 'apply' should consider whitespace errors for all paths in
1145 the project (See linkgit:git-config[1]).  This attribute gives you finer
1146 control per path.
1147
1148 Set::
1149
1150         Notice all types of potential whitespace errors known to Git.
1151         The tab width is taken from the value of the `core.whitespace`
1152         configuration variable.
1153
1154 Unset::
1155
1156         Do not notice anything as error.
1157
1158 Unspecified::
1159
1160         Use the value of the `core.whitespace` configuration variable to
1161         decide what to notice as error.
1162
1163 String::
1164
1165         Specify a comma separate list of common whitespace problems to
1166         notice in the same format as the `core.whitespace` configuration
1167         variable.
1168
1169
1170 Creating an archive
1171 ~~~~~~~~~~~~~~~~~~~
1172
1173 `export-ignore`
1174 ^^^^^^^^^^^^^^^
1175
1176 Files and directories with the attribute `export-ignore` won't be added to
1177 archive files.
1178
1179 `export-subst`
1180 ^^^^^^^^^^^^^^
1181
1182 If the attribute `export-subst` is set for a file then Git will expand
1183 several placeholders when adding this file to an archive.  The
1184 expansion depends on the availability of a commit ID, i.e., if
1185 linkgit:git-archive[1] has been given a tree instead of a commit or a
1186 tag then no replacement will be done.  The placeholders are the same
1187 as those for the option `--pretty=format:` of linkgit:git-log[1],
1188 except that they need to be wrapped like this: `$Format:PLACEHOLDERS$`
1189 in the file.  E.g. the string `$Format:%H$` will be replaced by the
1190 commit hash.
1191
1192
1193 Packing objects
1194 ~~~~~~~~~~~~~~~
1195
1196 `delta`
1197 ^^^^^^^
1198
1199 Delta compression will not be attempted for blobs for paths with the
1200 attribute `delta` set to false.
1201
1202
1203 Viewing files in GUI tools
1204 ~~~~~~~~~~~~~~~~~~~~~~~~~~
1205
1206 `encoding`
1207 ^^^^^^^^^^
1208
1209 The value of this attribute specifies the character encoding that should
1210 be used by GUI tools (e.g. linkgit:gitk[1] and linkgit:git-gui[1]) to
1211 display the contents of the relevant file. Note that due to performance
1212 considerations linkgit:gitk[1] does not use this attribute unless you
1213 manually enable per-file encodings in its options.
1214
1215 If this attribute is not set or has an invalid value, the value of the
1216 `gui.encoding` configuration variable is used instead
1217 (See linkgit:git-config[1]).
1218
1219
1220 USING MACRO ATTRIBUTES
1221 ----------------------
1222
1223 You do not want any end-of-line conversions applied to, nor textual diffs
1224 produced for, any binary file you track.  You would need to specify e.g.
1225
1226 ------------
1227 *.jpg -text -diff
1228 ------------
1229
1230 but that may become cumbersome, when you have many attributes.  Using
1231 macro attributes, you can define an attribute that, when set, also
1232 sets or unsets a number of other attributes at the same time.  The
1233 system knows a built-in macro attribute, `binary`:
1234
1235 ------------
1236 *.jpg binary
1237 ------------
1238
1239 Setting the "binary" attribute also unsets the "text" and "diff"
1240 attributes as above.  Note that macro attributes can only be "Set",
1241 though setting one might have the effect of setting or unsetting other
1242 attributes or even returning other attributes to the "Unspecified"
1243 state.
1244
1245
1246 DEFINING MACRO ATTRIBUTES
1247 -------------------------
1248
1249 Custom macro attributes can be defined only in top-level gitattributes
1250 files (`$GIT_DIR/info/attributes`, the `.gitattributes` file at the
1251 top level of the working tree, or the global or system-wide
1252 gitattributes files), not in `.gitattributes` files in working tree
1253 subdirectories.  The built-in macro attribute "binary" is equivalent
1254 to:
1255
1256 ------------
1257 [attr]binary -diff -merge -text
1258 ------------
1259
1260
1261 EXAMPLE
1262 -------
1263
1264 If you have these three `gitattributes` file:
1265
1266 ----------------------------------------------------------------
1267 (in $GIT_DIR/info/attributes)
1268
1269 a*      foo !bar -baz
1270
1271 (in .gitattributes)
1272 abc     foo bar baz
1273
1274 (in t/.gitattributes)
1275 ab*     merge=filfre
1276 abc     -foo -bar
1277 *.c     frotz
1278 ----------------------------------------------------------------
1279
1280 the attributes given to path `t/abc` are computed as follows:
1281
1282 1. By examining `t/.gitattributes` (which is in the same
1283    directory as the path in question), Git finds that the first
1284    line matches.  `merge` attribute is set.  It also finds that
1285    the second line matches, and attributes `foo` and `bar`
1286    are unset.
1287
1288 2. Then it examines `.gitattributes` (which is in the parent
1289    directory), and finds that the first line matches, but
1290    `t/.gitattributes` file already decided how `merge`, `foo`
1291    and `bar` attributes should be given to this path, so it
1292    leaves `foo` and `bar` unset.  Attribute `baz` is set.
1293
1294 3. Finally it examines `$GIT_DIR/info/attributes`.  This file
1295    is used to override the in-tree settings.  The first line is
1296    a match, and `foo` is set, `bar` is reverted to unspecified
1297    state, and `baz` is unset.
1298
1299 As the result, the attributes assignment to `t/abc` becomes:
1300
1301 ----------------------------------------------------------------
1302 foo     set to true
1303 bar     unspecified
1304 baz     set to false
1305 merge   set to string value "filfre"
1306 frotz   unspecified
1307 ----------------------------------------------------------------
1308
1309
1310 SEE ALSO
1311 --------
1312 linkgit:git-check-attr[1].
1313
1314 GIT
1315 ---
1316 Part of the linkgit:git[1] suite