Merge branch 'oprofile-for-linus' of git://git.kernel.org/pub/scm/linux/kernel/git...
[linux-2.6] / arch / sparc / lib / rwsem_32.S
1 /*
2  * Assembly part of rw semaphores.
3  *
4  * Copyright (C) 1999 Jakub Jelinek (jakub@redhat.com)
5  */
6
7 #include <asm/ptrace.h>
8 #include <asm/psr.h>
9
10         .section .sched.text, "ax"
11         .align  4
12
13         .globl          ___down_read
14 ___down_read:
15         rd              %psr, %g3
16         nop
17         nop
18         nop
19         or              %g3, PSR_PIL, %g7
20         wr              %g7, 0, %psr
21         nop
22         nop
23         nop
24 #ifdef CONFIG_SMP
25 1:      ldstub          [%g1 + 4], %g7
26         tst             %g7
27         bne             1b
28          ld             [%g1], %g7
29         sub             %g7, 1, %g7
30         st              %g7, [%g1]
31         stb             %g0, [%g1 + 4]
32 #else
33         ld              [%g1], %g7
34         sub             %g7, 1, %g7
35         st              %g7, [%g1]
36 #endif
37         wr              %g3, 0, %psr
38         add             %g7, 1, %g7
39         nop
40         nop
41         subcc           %g7, 1, %g7
42         bneg            3f
43          nop
44 2:      jmpl            %o7, %g0
45          mov            %g4, %o7
46 3:      save            %sp, -64, %sp
47         mov             %g1, %l1
48         mov             %g4, %l4
49         bcs             4f
50          mov            %g5, %l5
51         call            down_read_failed
52          mov            %l1, %o0
53         mov             %l1, %g1
54         mov             %l4, %g4
55         ba              ___down_read
56          restore        %l5, %g0, %g5
57 4:      call            down_read_failed_biased
58          mov            %l1, %o0
59         mov             %l1, %g1
60         mov             %l4, %g4
61         ba              2b
62          restore        %l5, %g0, %g5
63
64         .globl          ___down_write
65 ___down_write:
66         rd              %psr, %g3
67         nop
68         nop
69         nop
70         or              %g3, PSR_PIL, %g7
71         wr              %g7, 0, %psr
72         sethi           %hi(0x01000000), %g2
73         nop
74         nop
75 #ifdef CONFIG_SMP
76 1:      ldstub          [%g1 + 4], %g7
77         tst             %g7
78         bne             1b
79          ld             [%g1], %g7
80         sub             %g7, %g2, %g7
81         st              %g7, [%g1]
82         stb             %g0, [%g1 + 4]
83 #else
84         ld              [%g1], %g7
85         sub             %g7, %g2, %g7
86         st              %g7, [%g1]
87 #endif
88         wr              %g3, 0, %psr
89         add             %g7, %g2, %g7
90         nop
91         nop
92         subcc           %g7, %g2, %g7
93         bne             3f
94          nop
95 2:      jmpl            %o7, %g0
96          mov            %g4, %o7
97 3:      save            %sp, -64, %sp
98         mov             %g1, %l1
99         mov             %g4, %l4
100         bcs             4f
101          mov            %g5, %l5
102         call            down_write_failed
103          mov            %l1, %o0
104         mov             %l1, %g1
105         mov             %l4, %g4
106         ba              ___down_write
107          restore        %l5, %g0, %g5
108 4:      call            down_write_failed_biased
109          mov            %l1, %o0
110         mov             %l1, %g1
111         mov             %l4, %g4
112         ba              2b
113          restore        %l5, %g0, %g5
114
115         .text
116         .globl          ___up_read
117 ___up_read:
118         rd              %psr, %g3
119         nop
120         nop
121         nop
122         or              %g3, PSR_PIL, %g7
123         wr              %g7, 0, %psr
124         nop
125         nop
126         nop
127 #ifdef CONFIG_SMP
128 1:      ldstub          [%g1 + 4], %g7
129         tst             %g7
130         bne             1b
131          ld             [%g1], %g7
132         add             %g7, 1, %g7
133         st              %g7, [%g1]
134         stb             %g0, [%g1 + 4]
135 #else
136         ld              [%g1], %g7
137         add             %g7, 1, %g7
138         st              %g7, [%g1]
139 #endif
140         wr              %g3, 0, %psr
141         nop
142         nop
143         nop
144         cmp             %g7, 0
145         be              3f
146          nop
147 2:      jmpl            %o7, %g0
148          mov            %g4, %o7
149 3:      save            %sp, -64, %sp
150         mov             %g1, %l1
151         mov             %g4, %l4
152         mov             %g5, %l5
153         clr             %o1
154         call            __rwsem_wake
155          mov            %l1, %o0
156         mov             %l1, %g1
157         mov             %l4, %g4
158         ba              2b
159          restore        %l5, %g0, %g5
160
161         .globl          ___up_write
162 ___up_write:
163         rd              %psr, %g3
164         nop
165         nop
166         nop
167         or              %g3, PSR_PIL, %g7
168         wr              %g7, 0, %psr
169         sethi           %hi(0x01000000), %g2
170         nop
171         nop
172 #ifdef CONFIG_SMP
173 1:      ldstub          [%g1 + 4], %g7
174         tst             %g7
175         bne             1b
176          ld             [%g1], %g7
177         add             %g7, %g2, %g7
178         st              %g7, [%g1]
179         stb             %g0, [%g1 + 4]
180 #else
181         ld              [%g1], %g7
182         add             %g7, %g2, %g7
183         st              %g7, [%g1]
184 #endif
185         wr              %g3, 0, %psr
186         sub             %g7, %g2, %g7
187         nop
188         nop
189         addcc           %g7, %g2, %g7
190         bcs             3f
191          nop
192 2:      jmpl            %o7, %g0
193          mov            %g4, %o7
194 3:      save            %sp, -64, %sp
195         mov             %g1, %l1
196         mov             %g4, %l4
197         mov             %g5, %l5
198         mov             %g7, %o1
199         call            __rwsem_wake
200          mov            %l1, %o0
201         mov             %l1, %g1
202         mov             %l4, %g4
203         ba              2b
204          restore        %l5, %g0, %g5