Merge branch 'hotfixes' of git://git.linux-nfs.org/projects/trondmy/nfs-2.6
[linux-2.6] / arch / arm / mm / proc-arm946.S
1 /*
2  *  linux/arch/arm/mm/arm946.S: utility functions for ARM946E-S
3  *
4  *  Copyright (C) 2004-2006 Hyok S. Choi (hyok.choi@samsung.com)
5  *
6  *  (Many of cache codes are from proc-arm926.S)
7  *
8  * This program is free software; you can redistribute it and/or modify
9  * it under the terms of the GNU General Public License version 2 as
10  * published by the Free Software Foundation.
11  *
12  */
13 #include <linux/linkage.h>
14 #include <linux/init.h>
15 #include <asm/assembler.h>
16 #include <asm/elf.h>
17 #include <asm/pgtable-hwdef.h>
18 #include <asm/pgtable.h>
19 #include <asm/ptrace.h>
20
21 /*
22  * ARM946E-S is synthesizable to have 0KB to 1MB sized D-Cache,
23  * comprising 256 lines of 32 bytes (8 words).
24  */
25 #define CACHE_DSIZE     (CONFIG_CPU_DCACHE_SIZE) /* typically 8KB. */
26 #define CACHE_DLINESIZE 32                      /* fixed */
27 #define CACHE_DSEGMENTS 4                       /* fixed */
28 #define CACHE_DENTRIES  (CACHE_DSIZE / CACHE_DSEGMENTS / CACHE_DLINESIZE)
29 #define CACHE_DLIMIT    (CACHE_DSIZE * 4)       /* benchmark needed */
30
31         .text
32 /*
33  * cpu_arm946_proc_init()
34  * cpu_arm946_switch_mm()
35  *
36  * These are not required.
37  */
38 ENTRY(cpu_arm946_proc_init)
39 ENTRY(cpu_arm946_switch_mm)
40         mov     pc, lr
41
42 /*
43  * cpu_arm946_proc_fin()
44  */
45 ENTRY(cpu_arm946_proc_fin)
46         stmfd   sp!, {lr}
47         mov     ip, #PSR_F_BIT | PSR_I_BIT | SVC_MODE
48         msr     cpsr_c, ip
49         bl      arm946_flush_kern_cache_all
50         mrc     p15, 0, r0, c1, c0, 0           @ ctrl register
51         bic     r0, r0, #0x00001000             @ i-cache
52         bic     r0, r0, #0x00000004             @ d-cache
53         mcr     p15, 0, r0, c1, c0, 0           @ disable caches
54         ldmfd   sp!, {pc}
55
56 /*
57  * cpu_arm946_reset(loc)
58  * Params  : r0 = address to jump to
59  * Notes   : This sets up everything for a reset
60  */
61 ENTRY(cpu_arm946_reset)
62         mov     ip, #0
63         mcr     p15, 0, ip, c7, c5, 0           @ flush I cache
64         mcr     p15, 0, ip, c7, c6, 0           @ flush D cache
65         mcr     p15, 0, ip, c7, c10, 4          @ drain WB
66         mrc     p15, 0, ip, c1, c0, 0           @ ctrl register
67         bic     ip, ip, #0x00000005             @ .............c.p
68         bic     ip, ip, #0x00001000             @ i-cache
69         mcr     p15, 0, ip, c1, c0, 0           @ ctrl register
70         mov     pc, r0
71
72 /*
73  * cpu_arm946_do_idle()
74  */
75         .align  5
76 ENTRY(cpu_arm946_do_idle)
77         mcr     p15, 0, r0, c7, c0, 4           @ Wait for interrupt
78         mov     pc, lr
79
80 /*
81  *      flush_user_cache_all()
82  */
83 ENTRY(arm946_flush_user_cache_all)
84         /* FALLTHROUGH */
85
86 /*
87  *      flush_kern_cache_all()
88  *
89  *      Clean and invalidate the entire cache.
90  */
91 ENTRY(arm946_flush_kern_cache_all)
92         mov     r2, #VM_EXEC
93         mov     ip, #0
94 __flush_whole_cache:
95 #ifdef CONFIG_CPU_DCACHE_WRITETHROUGH
96         mcr     p15, 0, ip, c7, c6, 0           @ flush D cache
97 #else
98         mov     r1, #(CACHE_DSEGMENTS - 1) << 29 @ 4 segments
99 1:      orr     r3, r1, #(CACHE_DENTRIES - 1) << 4 @ n entries
100 2:      mcr     p15, 0, r3, c7, c14, 2          @ clean/flush D index
101         subs    r3, r3, #1 << 4
102         bcs     2b                              @ entries n to 0
103         subs    r1, r1, #1 << 29
104         bcs     1b                              @ segments 3 to 0
105 #endif
106         tst     r2, #VM_EXEC
107         mcrne   p15, 0, ip, c7, c5, 0           @ flush I cache
108         mcrne   p15, 0, ip, c7, c10, 4          @ drain WB
109         mov     pc, lr
110
111 /*
112  *      flush_user_cache_range(start, end, flags)
113  *
114  *      Clean and invalidate a range of cache entries in the
115  *      specified address range.
116  *
117  *      - start - start address (inclusive)
118  *      - end   - end address (exclusive)
119  *      - flags - vm_flags describing address space
120  * (same as arm926)
121  */
122 ENTRY(arm946_flush_user_cache_range)
123         mov     ip, #0
124         sub     r3, r1, r0                      @ calculate total size
125         cmp     r3, #CACHE_DLIMIT
126         bhs     __flush_whole_cache
127
128 1:      tst     r2, #VM_EXEC
129 #ifdef CONFIG_CPU_DCACHE_WRITETHROUGH
130         mcr     p15, 0, r0, c7, c6, 1           @ invalidate D entry
131         mcrne   p15, 0, r0, c7, c5, 1           @ invalidate I entry
132         add     r0, r0, #CACHE_DLINESIZE
133         mcr     p15, 0, r0, c7, c6, 1           @ invalidate D entry
134         mcrne   p15, 0, r0, c7, c5, 1           @ invalidate I entry
135         add     r0, r0, #CACHE_DLINESIZE
136 #else
137         mcr     p15, 0, r0, c7, c14, 1          @ clean and invalidate D entry
138         mcrne   p15, 0, r0, c7, c5, 1           @ invalidate I entry
139         add     r0, r0, #CACHE_DLINESIZE
140         mcr     p15, 0, r0, c7, c14, 1          @ clean and invalidate D entry
141         mcrne   p15, 0, r0, c7, c5, 1           @ invalidate I entry
142         add     r0, r0, #CACHE_DLINESIZE
143 #endif
144         cmp     r0, r1
145         blo     1b
146         tst     r2, #VM_EXEC
147         mcrne   p15, 0, ip, c7, c10, 4          @ drain WB
148         mov     pc, lr
149
150 /*
151  *      coherent_kern_range(start, end)
152  *
153  *      Ensure coherency between the Icache and the Dcache in the
154  *      region described by start, end.  If you have non-snooping
155  *      Harvard caches, you need to implement this function.
156  *
157  *      - start - virtual start address
158  *      - end   - virtual end address
159  */
160 ENTRY(arm946_coherent_kern_range)
161         /* FALLTHROUGH */
162
163 /*
164  *      coherent_user_range(start, end)
165  *
166  *      Ensure coherency between the Icache and the Dcache in the
167  *      region described by start, end.  If you have non-snooping
168  *      Harvard caches, you need to implement this function.
169  *
170  *      - start - virtual start address
171  *      - end   - virtual end address
172  * (same as arm926)
173  */
174 ENTRY(arm946_coherent_user_range)
175         bic     r0, r0, #CACHE_DLINESIZE - 1
176 1:      mcr     p15, 0, r0, c7, c10, 1          @ clean D entry
177         mcr     p15, 0, r0, c7, c5, 1           @ invalidate I entry
178         add     r0, r0, #CACHE_DLINESIZE
179         cmp     r0, r1
180         blo     1b
181         mcr     p15, 0, r0, c7, c10, 4          @ drain WB
182         mov     pc, lr
183
184 /*
185  *      flush_kern_dcache_page(void *page)
186  *
187  *      Ensure no D cache aliasing occurs, either with itself or
188  *      the I cache
189  *
190  *      - addr  - page aligned address
191  * (same as arm926)
192  */
193 ENTRY(arm946_flush_kern_dcache_page)
194         add     r1, r0, #PAGE_SZ
195 1:      mcr     p15, 0, r0, c7, c14, 1          @ clean+invalidate D entry
196         add     r0, r0, #CACHE_DLINESIZE
197         cmp     r0, r1
198         blo     1b
199         mov     r0, #0
200         mcr     p15, 0, r0, c7, c5, 0           @ invalidate I cache
201         mcr     p15, 0, r0, c7, c10, 4          @ drain WB
202         mov     pc, lr
203
204 /*
205  *      dma_inv_range(start, end)
206  *
207  *      Invalidate (discard) the specified virtual address range.
208  *      May not write back any entries.  If 'start' or 'end'
209  *      are not cache line aligned, those lines must be written
210  *      back.
211  *
212  *      - start - virtual start address
213  *      - end   - virtual end address
214  * (same as arm926)
215  */
216 ENTRY(arm946_dma_inv_range)
217 #ifndef CONFIG_CPU_DCACHE_WRITETHROUGH
218         tst     r0, #CACHE_DLINESIZE - 1
219         mcrne   p15, 0, r0, c7, c10, 1          @ clean D entry
220         tst     r1, #CACHE_DLINESIZE - 1
221         mcrne   p15, 0, r1, c7, c10, 1          @ clean D entry
222 #endif
223         bic     r0, r0, #CACHE_DLINESIZE - 1
224 1:      mcr     p15, 0, r0, c7, c6, 1           @ invalidate D entry
225         add     r0, r0, #CACHE_DLINESIZE
226         cmp     r0, r1
227         blo     1b
228         mcr     p15, 0, r0, c7, c10, 4          @ drain WB
229         mov     pc, lr
230
231 /*
232  *      dma_clean_range(start, end)
233  *
234  *      Clean the specified virtual address range.
235  *
236  *      - start - virtual start address
237  *      - end   - virtual end address
238  *
239  * (same as arm926)
240  */
241 ENTRY(arm946_dma_clean_range)
242 #ifndef CONFIG_CPU_DCACHE_WRITETHROUGH
243         bic     r0, r0, #CACHE_DLINESIZE - 1
244 1:      mcr     p15, 0, r0, c7, c10, 1          @ clean D entry
245         add     r0, r0, #CACHE_DLINESIZE
246         cmp     r0, r1
247         blo     1b
248 #endif
249         mcr     p15, 0, r0, c7, c10, 4          @ drain WB
250         mov     pc, lr
251
252 /*
253  *      dma_flush_range(start, end)
254  *
255  *      Clean and invalidate the specified virtual address range.
256  *
257  *      - start - virtual start address
258  *      - end   - virtual end address
259  *
260  * (same as arm926)
261  */
262 ENTRY(arm946_dma_flush_range)
263         bic     r0, r0, #CACHE_DLINESIZE - 1
264 1:
265 #ifndef CONFIG_CPU_DCACHE_WRITETHROUGH
266         mcr     p15, 0, r0, c7, c14, 1          @ clean+invalidate D entry
267 #else
268         mcr     p15, 0, r0, c7, c10, 1          @ clean D entry
269 #endif
270         add     r0, r0, #CACHE_DLINESIZE
271         cmp     r0, r1
272         blo     1b
273         mcr     p15, 0, r0, c7, c10, 4          @ drain WB
274         mov     pc, lr
275
276 ENTRY(arm946_cache_fns)
277         .long   arm946_flush_kern_cache_all
278         .long   arm946_flush_user_cache_all
279         .long   arm946_flush_user_cache_range
280         .long   arm946_coherent_kern_range
281         .long   arm946_coherent_user_range
282         .long   arm946_flush_kern_dcache_page
283         .long   arm946_dma_inv_range
284         .long   arm946_dma_clean_range
285         .long   arm946_dma_flush_range
286
287
288 ENTRY(cpu_arm946_dcache_clean_area)
289 #ifndef CONFIG_CPU_DCACHE_WRITETHROUGH
290 1:      mcr     p15, 0, r0, c7, c10, 1          @ clean D entry
291         add     r0, r0, #CACHE_DLINESIZE
292         subs    r1, r1, #CACHE_DLINESIZE
293         bhi     1b
294 #endif
295         mcr     p15, 0, r0, c7, c10, 4          @ drain WB
296         mov     pc, lr
297
298         __INIT
299
300         .type   __arm946_setup, #function
301 __arm946_setup:
302         mov     r0, #0
303         mcr     p15, 0, r0, c7, c5, 0           @ invalidate I cache
304         mcr     p15, 0, r0, c7, c6, 0           @ invalidate D cache
305         mcr     p15, 0, r0, c7, c10, 4          @ drain WB
306
307         mcr     p15, 0, r0, c6, c3, 0           @ disable memory region 3~7
308         mcr     p15, 0, r0, c6, c4, 0
309         mcr     p15, 0, r0, c6, c5, 0
310         mcr     p15, 0, r0, c6, c6, 0
311         mcr     p15, 0, r0, c6, c7, 0
312
313         mov     r0, #0x0000003F                 @ base = 0, size = 4GB
314         mcr     p15, 0, r0, c6, c0, 0           @ set region 0, default
315
316         ldr     r0, =(CONFIG_DRAM_BASE & 0xFFFFF000) @ base[31:12] of RAM
317         ldr     r1, =(CONFIG_DRAM_SIZE >> 12)   @ size of RAM (must be >= 4KB)
318         mov     r2, #10                         @ 11 is the minimum (4KB)
319 1:      add     r2, r2, #1                      @ area size *= 2
320         mov     r1, r1, lsr #1
321         bne     1b                              @ count not zero r-shift
322         orr     r0, r0, r2, lsl #1              @ the region register value
323         orr     r0, r0, #1                      @ set enable bit
324         mcr     p15, 0, r0, c6, c1, 0           @ set region 1, RAM
325
326         ldr     r0, =(CONFIG_FLASH_MEM_BASE & 0xFFFFF000) @ base[31:12] of FLASH
327         ldr     r1, =(CONFIG_FLASH_SIZE >> 12)  @ size of FLASH (must be >= 4KB)
328         mov     r2, #10                         @ 11 is the minimum (4KB)
329 1:      add     r2, r2, #1                      @ area size *= 2
330         mov     r1, r1, lsr #1
331         bne     1b                              @ count not zero r-shift
332         orr     r0, r0, r2, lsl #1              @ the region register value
333         orr     r0, r0, #1                      @ set enable bit
334         mcr     p15, 0, r0, c6, c2, 0           @ set region 2, ROM/FLASH
335
336         mov     r0, #0x06
337         mcr     p15, 0, r0, c2, c0, 0           @ region 1,2 d-cacheable
338         mcr     p15, 0, r0, c2, c0, 1           @ region 1,2 i-cacheable
339 #ifdef CONFIG_CPU_DCACHE_WRITETHROUGH
340         mov     r0, #0x00                       @ disable whole write buffer
341 #else
342         mov     r0, #0x02                       @ region 1 write bufferred
343 #endif
344         mcr     p15, 0, r0, c3, c0, 0
345
346 /*
347  *  Access Permission Settings for future permission control by PU.
348  *
349  *                              priv.   user
350  *      region 0 (whole)        rw      --      : b0001
351  *      region 1 (RAM)          rw      rw      : b0011
352  *      region 2 (FLASH)        rw      r-      : b0010
353  *      region 3~7 (none)       --      --      : b0000
354  */
355         mov     r0, #0x00000031
356         orr     r0, r0, #0x00000200
357         mcr     p15, 0, r0, c5, c0, 2           @ set data access permission
358         mcr     p15, 0, r0, c5, c0, 3           @ set inst. access permission
359
360         mrc     p15, 0, r0, c1, c0              @ get control register
361         orr     r0, r0, #0x00001000             @ I-cache
362         orr     r0, r0, #0x00000005             @ MPU/D-cache
363 #ifdef CONFIG_CPU_CACHE_ROUND_ROBIN
364         orr     r0, r0, #0x00004000             @ .1.. .... .... ....
365 #endif
366         mov     pc, lr
367
368         .size   __arm946_setup, . - __arm946_setup
369
370         __INITDATA
371
372 /*
373  * Purpose : Function pointers used to access above functions - all calls
374  *           come through these
375  */
376         .type   arm946_processor_functions, #object
377 ENTRY(arm946_processor_functions)
378         .word   nommu_early_abort
379         .word   cpu_arm946_proc_init
380         .word   cpu_arm946_proc_fin
381         .word   cpu_arm946_reset
382         .word   cpu_arm946_do_idle
383
384         .word   cpu_arm946_dcache_clean_area
385         .word   cpu_arm946_switch_mm
386         .word   0               @ cpu_*_set_pte
387         .size   arm946_processor_functions, . - arm946_processor_functions
388
389         .section ".rodata"
390
391         .type   cpu_arch_name, #object
392 cpu_arch_name:
393         .asciz  "armv5te"
394         .size   cpu_arch_name, . - cpu_arch_name
395
396         .type   cpu_elf_name, #object
397 cpu_elf_name:
398         .asciz  "v5t"
399         .size   cpu_elf_name, . - cpu_elf_name
400
401         .type   cpu_arm946_name, #object
402 cpu_arm946_name:
403         .ascii  "ARM946E-S"
404         .size   cpu_arm946_name, . - cpu_arm946_name
405
406         .align
407
408         .section ".proc.info.init", #alloc, #execinstr
409         .type   __arm946_proc_info,#object
410 __arm946_proc_info:
411         .long   0x41009460
412         .long   0xff00fff0
413         .long   0
414         b       __arm946_setup
415         .long   cpu_arch_name
416         .long   cpu_elf_name
417         .long   HWCAP_SWP | HWCAP_HALF | HWCAP_THUMB
418         .long   cpu_arm946_name
419         .long   arm946_processor_functions
420         .long   0
421         .long   0
422         .long   arm940_cache_fns
423         .size   __arm946_proc_info, . - __arm946_proc_info
424