Merge branch '83xx' into for_paulus
[linux-2.6] / arch / sparc / kernel / entry.S
1 /* $Id: entry.S,v 1.170 2001/11/13 00:57:05 davem Exp $
2  * arch/sparc/kernel/entry.S:  Sparc trap low-level entry points.
3  *
4  * Copyright (C) 1995 David S. Miller (davem@caip.rutgers.edu)
5  * Copyright (C) 1996 Eddie C. Dost   (ecd@skynet.be)
6  * Copyright (C) 1996 Miguel de Icaza (miguel@nuclecu.unam.mx)
7  * Copyright (C) 1996-1999 Jakub Jelinek   (jj@sunsite.mff.cuni.cz)
8  * Copyright (C) 1997 Anton Blanchard (anton@progsoc.uts.edu.au)
9  */
10
11 #include <linux/errno.h>
12
13 #include <asm/head.h>
14 #include <asm/asi.h>
15 #include <asm/smp.h>
16 #include <asm/kgdb.h>
17 #include <asm/contregs.h>
18 #include <asm/ptrace.h>
19 #include <asm/asm-offsets.h>
20 #include <asm/psr.h>
21 #include <asm/vaddrs.h>
22 #include <asm/memreg.h>
23 #include <asm/page.h>
24 #ifdef CONFIG_SUN4
25 #include <asm/pgtsun4.h>
26 #else
27 #include <asm/pgtsun4c.h>
28 #endif
29 #include <asm/winmacro.h>
30 #include <asm/signal.h>
31 #include <asm/obio.h>
32 #include <asm/mxcc.h>
33 #include <asm/thread_info.h>
34 #include <asm/param.h>
35
36 #include <asm/asmmacro.h>
37
38 #define curptr      g6
39
40 #define NR_SYSCALLS 300      /* Each OS is different... */
41
42 /* These are just handy. */
43 #define _SV     save    %sp, -STACKFRAME_SZ, %sp
44 #define _RS     restore 
45
46 #define FLUSH_ALL_KERNEL_WINDOWS \
47         _SV; _SV; _SV; _SV; _SV; _SV; _SV; \
48         _RS; _RS; _RS; _RS; _RS; _RS; _RS;
49
50 /* First, KGDB low level things.  This is a rewrite
51  * of the routines found in the sparc-stub.c asm() statement
52  * from the gdb distribution.  This is also dual-purpose
53  * as a software trap for userlevel programs.
54  */
55         .data
56         .align  4
57
58 in_trap_handler:
59         .word   0
60
61         .text
62         .align  4
63
64 #if 0 /* kgdb is dropped from 2.5.33 */
65 ! This function is called when any SPARC trap (except window overflow or
66 ! underflow) occurs.  It makes sure that the invalid register window is still
67 ! available before jumping into C code.  It will also restore the world if you
68 ! return from handle_exception.
69
70         .globl  trap_low
71 trap_low:
72         rd      %wim, %l3
73         SAVE_ALL
74
75         sethi   %hi(in_trap_handler), %l4
76         ld      [%lo(in_trap_handler) + %l4], %l5
77         inc     %l5
78         st      %l5, [%lo(in_trap_handler) + %l4]
79
80         /* Make sure kgdb sees the same state we just saved. */
81         LOAD_PT_GLOBALS(sp)
82         LOAD_PT_INS(sp)
83         ld      [%sp + STACKFRAME_SZ + PT_Y], %l4
84         ld      [%sp + STACKFRAME_SZ + PT_WIM], %l3
85         ld      [%sp + STACKFRAME_SZ + PT_PSR], %l0
86         ld      [%sp + STACKFRAME_SZ + PT_PC], %l1
87         ld      [%sp + STACKFRAME_SZ + PT_NPC], %l2
88         rd      %tbr, %l5       /* Never changes... */
89
90         /* Make kgdb exception frame. */        
91         sub     %sp,(16+1+6+1+72)*4,%sp ! Make room for input & locals
92                                         ! + hidden arg + arg spill
93                                         ! + doubleword alignment
94                                         ! + registers[72] local var
95         SAVE_KGDB_GLOBALS(sp)
96         SAVE_KGDB_INS(sp)
97         SAVE_KGDB_SREGS(sp, l4, l0, l3, l5, l1, l2)
98
99         /* We are increasing PIL, so two writes. */
100         or      %l0, PSR_PIL, %l0
101         wr      %l0, 0, %psr
102         WRITE_PAUSE
103         wr      %l0, PSR_ET, %psr
104         WRITE_PAUSE
105
106         call    handle_exception
107          add    %sp, STACKFRAME_SZ, %o0 ! Pass address of registers
108
109         /* Load new kgdb register set. */
110         LOAD_KGDB_GLOBALS(sp)
111         LOAD_KGDB_INS(sp)
112         LOAD_KGDB_SREGS(sp, l4, l0, l3, l5, l1, l2)
113         wr      %l4, 0x0, %y
114
115         sethi   %hi(in_trap_handler), %l4
116         ld      [%lo(in_trap_handler) + %l4], %l5
117         dec     %l5
118         st      %l5, [%lo(in_trap_handler) + %l4]
119
120         add     %sp,(16+1+6+1+72)*4,%sp ! Undo the kgdb trap frame.
121
122         /* Now take what kgdb did and place it into the pt_regs
123          * frame which SparcLinux RESTORE_ALL understands.,
124          */
125         STORE_PT_INS(sp)
126         STORE_PT_GLOBALS(sp)
127         STORE_PT_YREG(sp, g2)
128         STORE_PT_PRIV(sp, l0, l1, l2)
129
130         RESTORE_ALL
131 #endif
132
133 #ifdef CONFIG_BLK_DEV_FD
134         .text
135         .align  4
136         .globl  floppy_hardint
137 floppy_hardint:
138         /*
139          * This code cannot touch registers %l0 %l1 and %l2
140          * because SAVE_ALL depends on their values. It depends
141          * on %l3 also, but we regenerate it before a call.
142          * Other registers are:
143          * %l3 -- base address of fdc registers
144          * %l4 -- pdma_vaddr
145          * %l5 -- scratch for ld/st address
146          * %l6 -- pdma_size
147          * %l7 -- scratch [floppy byte, ld/st address, aux. data]
148          */
149
150         /* Do we have work to do? */
151         sethi   %hi(doing_pdma), %l7
152         ld      [%l7 + %lo(doing_pdma)], %l7
153         cmp     %l7, 0
154         be      floppy_dosoftint
155          nop
156
157         /* Load fdc register base */
158         sethi   %hi(fdc_status), %l3
159         ld      [%l3 + %lo(fdc_status)], %l3
160
161         /* Setup register addresses */
162         sethi   %hi(pdma_vaddr), %l5    ! transfer buffer
163         ld      [%l5 + %lo(pdma_vaddr)], %l4
164         sethi   %hi(pdma_size), %l5     ! bytes to go
165         ld      [%l5 + %lo(pdma_size)], %l6
166 next_byte:
167         ldub    [%l3], %l7
168
169         andcc   %l7, 0x80, %g0          ! Does fifo still have data
170         bz      floppy_fifo_emptied     ! fifo has been emptied...
171          andcc  %l7, 0x20, %g0          ! in non-dma mode still?
172         bz      floppy_overrun          ! nope, overrun
173          andcc  %l7, 0x40, %g0          ! 0=write 1=read
174         bz      floppy_write
175          sub    %l6, 0x1, %l6
176
177         /* Ok, actually read this byte */
178         ldub    [%l3 + 1], %l7
179         orcc    %g0, %l6, %g0
180         stb     %l7, [%l4]
181         bne     next_byte
182          add    %l4, 0x1, %l4
183
184         b       floppy_tdone
185          nop
186
187 floppy_write:
188         /* Ok, actually write this byte */
189         ldub    [%l4], %l7
190         orcc    %g0, %l6, %g0
191         stb     %l7, [%l3 + 1]
192         bne     next_byte
193          add    %l4, 0x1, %l4
194
195         /* fall through... */
196 floppy_tdone:
197         sethi   %hi(pdma_vaddr), %l5
198         st      %l4, [%l5 + %lo(pdma_vaddr)]
199         sethi   %hi(pdma_size), %l5
200         st      %l6, [%l5 + %lo(pdma_size)]
201         /* Flip terminal count pin */
202         set     auxio_register, %l7
203         ld      [%l7], %l7
204
205         set     sparc_cpu_model, %l5
206         ld      [%l5], %l5
207         subcc   %l5, 1, %g0             /* enum { sun4c = 1 }; */
208         be      1f
209          ldub   [%l7], %l5
210
211         or      %l5, 0xc2, %l5
212         stb     %l5, [%l7]
213         andn    %l5, 0x02, %l5
214         b       2f
215          nop
216
217 1:
218         or      %l5, 0xf4, %l5
219         stb     %l5, [%l7]
220         andn    %l5, 0x04, %l5
221
222 2:
223         /* Kill some time so the bits set */
224         WRITE_PAUSE
225         WRITE_PAUSE
226
227         stb     %l5, [%l7]
228
229         /* Prevent recursion */
230         sethi   %hi(doing_pdma), %l7
231         b       floppy_dosoftint
232          st     %g0, [%l7 + %lo(doing_pdma)]
233
234         /* We emptied the FIFO, but we haven't read everything
235          * as of yet.  Store the current transfer address and
236          * bytes left to read so we can continue when the next
237          * fast IRQ comes in.
238          */
239 floppy_fifo_emptied:
240         sethi   %hi(pdma_vaddr), %l5
241         st      %l4, [%l5 + %lo(pdma_vaddr)]
242         sethi   %hi(pdma_size), %l7
243         st      %l6, [%l7 + %lo(pdma_size)]
244
245         /* Restore condition codes */
246         wr      %l0, 0x0, %psr
247         WRITE_PAUSE
248
249         jmp     %l1
250         rett    %l2
251
252 floppy_overrun:
253         sethi   %hi(pdma_vaddr), %l5
254         st      %l4, [%l5 + %lo(pdma_vaddr)]
255         sethi   %hi(pdma_size), %l5
256         st      %l6, [%l5 + %lo(pdma_size)]
257         /* Prevent recursion */
258         sethi   %hi(doing_pdma), %l7
259         st      %g0, [%l7 + %lo(doing_pdma)]
260
261         /* fall through... */
262 floppy_dosoftint:
263         rd      %wim, %l3
264         SAVE_ALL
265
266         /* Set all IRQs off. */
267         or      %l0, PSR_PIL, %l4
268         wr      %l4, 0x0, %psr
269         WRITE_PAUSE
270         wr      %l4, PSR_ET, %psr
271         WRITE_PAUSE
272
273         mov     11, %o0                 ! floppy irq level (unused anyway)
274         mov     %g0, %o1                ! devid is not used in fast interrupts
275         call    sparc_floppy_irq
276          add    %sp, STACKFRAME_SZ, %o2 ! struct pt_regs *regs
277
278         RESTORE_ALL
279         
280 #endif /* (CONFIG_BLK_DEV_FD) */
281
282         /* Bad trap handler */
283         .globl  bad_trap_handler
284 bad_trap_handler:
285         SAVE_ALL
286
287         wr      %l0, PSR_ET, %psr
288         WRITE_PAUSE
289
290         add     %sp, STACKFRAME_SZ, %o0 ! pt_regs
291         call    do_hw_interrupt
292          mov    %l7, %o1                ! trap number
293
294         RESTORE_ALL
295         
296 /* For now all IRQ's not registered get sent here. handler_irq() will
297  * see if a routine is registered to handle this interrupt and if not
298  * it will say so on the console.
299  */
300
301         .align  4
302         .globl  real_irq_entry, patch_handler_irq
303 real_irq_entry:
304         SAVE_ALL
305
306 #ifdef CONFIG_SMP
307         .globl  patchme_maybe_smp_msg
308
309         cmp     %l7, 12
310 patchme_maybe_smp_msg:
311         bgu     maybe_smp4m_msg
312          nop
313 #endif
314
315 real_irq_continue:
316         or      %l0, PSR_PIL, %g2
317         wr      %g2, 0x0, %psr
318         WRITE_PAUSE
319         wr      %g2, PSR_ET, %psr
320         WRITE_PAUSE
321         mov     %l7, %o0                ! irq level
322 patch_handler_irq:
323         call    handler_irq
324          add    %sp, STACKFRAME_SZ, %o1 ! pt_regs ptr
325         or      %l0, PSR_PIL, %g2       ! restore PIL after handler_irq
326         wr      %g2, PSR_ET, %psr       ! keep ET up
327         WRITE_PAUSE
328
329         RESTORE_ALL
330
331 #ifdef CONFIG_SMP
332         /* SMP per-cpu ticker interrupts are handled specially. */
333 smp4m_ticker:
334         bne     real_irq_continue+4
335          or     %l0, PSR_PIL, %g2
336         wr      %g2, 0x0, %psr
337         WRITE_PAUSE
338         wr      %g2, PSR_ET, %psr
339         WRITE_PAUSE
340         call    smp4m_percpu_timer_interrupt
341          add    %sp, STACKFRAME_SZ, %o0
342         wr      %l0, PSR_ET, %psr
343         WRITE_PAUSE
344         RESTORE_ALL
345
346         /* Here is where we check for possible SMP IPI passed to us
347          * on some level other than 15 which is the NMI and only used
348          * for cross calls.  That has a separate entry point below.
349          */
350 maybe_smp4m_msg:
351         GET_PROCESSOR4M_ID(o3)
352         set     sun4m_interrupts, %l5
353         ld      [%l5], %o5
354         sethi   %hi(0x40000000), %o2
355         sll     %o3, 12, %o3
356         ld      [%o5 + %o3], %o1
357         andcc   %o1, %o2, %g0
358         be,a    smp4m_ticker
359          cmp    %l7, 14
360         st      %o2, [%o5 + 0x4]
361         WRITE_PAUSE
362         ld      [%o5], %g0
363         WRITE_PAUSE
364         or      %l0, PSR_PIL, %l4
365         wr      %l4, 0x0, %psr
366         WRITE_PAUSE
367         wr      %l4, PSR_ET, %psr
368         WRITE_PAUSE
369         call    smp_reschedule_irq
370          nop
371
372         RESTORE_ALL
373
374         .align  4
375         .globl  linux_trap_ipi15_sun4m
376 linux_trap_ipi15_sun4m:
377         SAVE_ALL
378         sethi   %hi(0x80000000), %o2
379         GET_PROCESSOR4M_ID(o0)
380         set     sun4m_interrupts, %l5
381         ld      [%l5], %o5
382         sll     %o0, 12, %o0
383         add     %o5, %o0, %o5
384         ld      [%o5], %o3
385         andcc   %o3, %o2, %g0
386         be      1f                      ! Must be an NMI async memory error
387          st     %o2, [%o5 + 4]
388         WRITE_PAUSE
389         ld      [%o5], %g0
390         WRITE_PAUSE
391         or      %l0, PSR_PIL, %l4
392         wr      %l4, 0x0, %psr
393         WRITE_PAUSE
394         wr      %l4, PSR_ET, %psr
395         WRITE_PAUSE
396         call    smp4m_cross_call_irq
397          nop
398         b       ret_trap_lockless_ipi
399          clr    %l6
400 1:
401         /* NMI async memory error handling. */
402         sethi   %hi(0x80000000), %l4
403         sethi   %hi(0x4000), %o3
404         sub     %o5, %o0, %o5
405         add     %o5, %o3, %l5
406         st      %l4, [%l5 + 0xc]
407         WRITE_PAUSE
408         ld      [%l5], %g0
409         WRITE_PAUSE
410         or      %l0, PSR_PIL, %l4
411         wr      %l4, 0x0, %psr
412         WRITE_PAUSE
413         wr      %l4, PSR_ET, %psr
414         WRITE_PAUSE
415         call    sun4m_nmi
416          nop
417         st      %l4, [%l5 + 0x8]
418         WRITE_PAUSE
419         ld      [%l5], %g0
420         WRITE_PAUSE
421         RESTORE_ALL
422
423         .globl  smp4d_ticker
424         /* SMP per-cpu ticker interrupts are handled specially. */
425 smp4d_ticker:
426         SAVE_ALL
427         or      %l0, PSR_PIL, %g2
428         sethi   %hi(CC_ICLR), %o0
429         sethi   %hi(1 << 14), %o1
430         or      %o0, %lo(CC_ICLR), %o0
431         stha    %o1, [%o0] ASI_M_MXCC   /* Clear PIL 14 in MXCC's ICLR */
432         wr      %g2, 0x0, %psr
433         WRITE_PAUSE
434         wr      %g2, PSR_ET, %psr
435         WRITE_PAUSE
436         call    smp4d_percpu_timer_interrupt
437          add    %sp, STACKFRAME_SZ, %o0
438         wr      %l0, PSR_ET, %psr
439         WRITE_PAUSE
440         RESTORE_ALL
441
442         .align  4
443         .globl  linux_trap_ipi15_sun4d
444 linux_trap_ipi15_sun4d:
445         SAVE_ALL
446         sethi   %hi(CC_BASE), %o4
447         sethi   %hi(MXCC_ERR_ME|MXCC_ERR_PEW|MXCC_ERR_ASE|MXCC_ERR_PEE), %o2
448         or      %o4, (CC_EREG - CC_BASE), %o0
449         ldda    [%o0] ASI_M_MXCC, %o0
450         andcc   %o0, %o2, %g0
451         bne     1f
452          sethi  %hi(BB_STAT2), %o2
453         lduba   [%o2] ASI_M_CTL, %o2
454         andcc   %o2, BB_STAT2_MASK, %g0
455         bne     2f
456          or     %o4, (CC_ICLR - CC_BASE), %o0
457         sethi   %hi(1 << 15), %o1
458         stha    %o1, [%o0] ASI_M_MXCC   /* Clear PIL 15 in MXCC's ICLR */
459         or      %l0, PSR_PIL, %l4
460         wr      %l4, 0x0, %psr
461         WRITE_PAUSE
462         wr      %l4, PSR_ET, %psr
463         WRITE_PAUSE
464         call    smp4d_cross_call_irq
465          nop
466         b       ret_trap_lockless_ipi
467          clr    %l6
468
469 1:      /* MXCC error */
470 2:      /* BB error */
471         /* Disable PIL 15 */
472         set     CC_IMSK, %l4
473         lduha   [%l4] ASI_M_MXCC, %l5
474         sethi   %hi(1 << 15), %l7
475         or      %l5, %l7, %l5
476         stha    %l5, [%l4] ASI_M_MXCC
477         /* FIXME */
478 1:      b,a     1b
479
480 #endif /* CONFIG_SMP */
481
482         /* This routine handles illegal instructions and privileged
483          * instruction attempts from user code.
484          */
485         .align  4
486         .globl  bad_instruction
487 bad_instruction:
488         sethi   %hi(0xc1f80000), %l4
489         ld      [%l1], %l5
490         sethi   %hi(0x81d80000), %l7
491         and     %l5, %l4, %l5
492         cmp     %l5, %l7
493         be      1f
494         SAVE_ALL
495
496         wr      %l0, PSR_ET, %psr               ! re-enable traps
497         WRITE_PAUSE
498
499         add     %sp, STACKFRAME_SZ, %o0
500         mov     %l1, %o1
501         mov     %l2, %o2
502         call    do_illegal_instruction
503          mov    %l0, %o3
504
505         RESTORE_ALL
506
507 1:      /* unimplemented flush - just skip */
508         jmpl    %l2, %g0
509          rett   %l2 + 4
510
511         .align  4
512         .globl  priv_instruction
513 priv_instruction:
514         SAVE_ALL
515
516         wr      %l0, PSR_ET, %psr
517         WRITE_PAUSE
518
519         add     %sp, STACKFRAME_SZ, %o0
520         mov     %l1, %o1
521         mov     %l2, %o2
522         call    do_priv_instruction
523          mov    %l0, %o3
524
525         RESTORE_ALL
526
527         /* This routine handles unaligned data accesses. */
528         .align  4
529         .globl  mna_handler
530 mna_handler:
531         andcc   %l0, PSR_PS, %g0
532         be      mna_fromuser
533          nop
534
535         SAVE_ALL
536
537         wr      %l0, PSR_ET, %psr
538         WRITE_PAUSE
539
540         ld      [%l1], %o1
541         call    kernel_unaligned_trap
542          add    %sp, STACKFRAME_SZ, %o0
543
544         RESTORE_ALL
545
546 mna_fromuser:
547         SAVE_ALL
548
549         wr      %l0, PSR_ET, %psr               ! re-enable traps
550         WRITE_PAUSE
551
552         ld      [%l1], %o1
553         call    user_unaligned_trap
554          add    %sp, STACKFRAME_SZ, %o0
555
556         RESTORE_ALL
557
558         /* This routine handles floating point disabled traps. */
559         .align  4
560         .globl  fpd_trap_handler
561 fpd_trap_handler:
562         SAVE_ALL
563
564         wr      %l0, PSR_ET, %psr               ! re-enable traps
565         WRITE_PAUSE
566
567         add     %sp, STACKFRAME_SZ, %o0
568         mov     %l1, %o1
569         mov     %l2, %o2
570         call    do_fpd_trap
571          mov    %l0, %o3
572
573         RESTORE_ALL
574
575         /* This routine handles Floating Point Exceptions. */
576         .align  4
577         .globl  fpe_trap_handler
578 fpe_trap_handler:
579         set     fpsave_magic, %l5
580         cmp     %l1, %l5
581         be      1f
582          sethi  %hi(fpsave), %l5
583         or      %l5, %lo(fpsave), %l5
584         cmp     %l1, %l5
585         bne     2f
586          sethi  %hi(fpsave_catch2), %l5
587         or      %l5, %lo(fpsave_catch2), %l5
588         wr      %l0, 0x0, %psr
589         WRITE_PAUSE
590         jmp     %l5
591          rett   %l5 + 4
592 1:      
593         sethi   %hi(fpsave_catch), %l5
594         or      %l5, %lo(fpsave_catch), %l5
595         wr      %l0, 0x0, %psr
596         WRITE_PAUSE
597         jmp     %l5
598          rett   %l5 + 4
599
600 2:
601         SAVE_ALL
602
603         wr      %l0, PSR_ET, %psr               ! re-enable traps
604         WRITE_PAUSE
605
606         add     %sp, STACKFRAME_SZ, %o0
607         mov     %l1, %o1
608         mov     %l2, %o2
609         call    do_fpe_trap
610          mov    %l0, %o3
611
612         RESTORE_ALL
613
614         /* This routine handles Tag Overflow Exceptions. */
615         .align  4
616         .globl  do_tag_overflow
617 do_tag_overflow:
618         SAVE_ALL
619
620         wr      %l0, PSR_ET, %psr               ! re-enable traps
621         WRITE_PAUSE
622
623         add     %sp, STACKFRAME_SZ, %o0
624         mov     %l1, %o1
625         mov     %l2, %o2
626         call    handle_tag_overflow
627          mov    %l0, %o3
628
629         RESTORE_ALL
630
631         /* This routine handles Watchpoint Exceptions. */
632         .align  4
633         .globl  do_watchpoint
634 do_watchpoint:
635         SAVE_ALL
636
637         wr      %l0, PSR_ET, %psr               ! re-enable traps
638         WRITE_PAUSE
639
640         add     %sp, STACKFRAME_SZ, %o0
641         mov     %l1, %o1
642         mov     %l2, %o2
643         call    handle_watchpoint
644          mov    %l0, %o3
645
646         RESTORE_ALL
647
648         /* This routine handles Register Access Exceptions. */
649         .align  4
650         .globl  do_reg_access
651 do_reg_access:
652         SAVE_ALL
653
654         wr      %l0, PSR_ET, %psr               ! re-enable traps
655         WRITE_PAUSE
656
657         add     %sp, STACKFRAME_SZ, %o0
658         mov     %l1, %o1
659         mov     %l2, %o2
660         call    handle_reg_access
661          mov    %l0, %o3
662
663         RESTORE_ALL
664
665         /* This routine handles Co-Processor Disabled Exceptions. */
666         .align  4
667         .globl  do_cp_disabled
668 do_cp_disabled:
669         SAVE_ALL
670
671         wr      %l0, PSR_ET, %psr               ! re-enable traps
672         WRITE_PAUSE
673
674         add     %sp, STACKFRAME_SZ, %o0
675         mov     %l1, %o1
676         mov     %l2, %o2
677         call    handle_cp_disabled
678          mov    %l0, %o3
679
680         RESTORE_ALL
681
682         /* This routine handles Co-Processor Exceptions. */
683         .align  4
684         .globl  do_cp_exception
685 do_cp_exception:
686         SAVE_ALL
687
688         wr      %l0, PSR_ET, %psr               ! re-enable traps
689         WRITE_PAUSE
690
691         add     %sp, STACKFRAME_SZ, %o0
692         mov     %l1, %o1
693         mov     %l2, %o2
694         call    handle_cp_exception
695          mov    %l0, %o3
696
697         RESTORE_ALL
698
699         /* This routine handles Hardware Divide By Zero Exceptions. */
700         .align  4
701         .globl  do_hw_divzero
702 do_hw_divzero:
703         SAVE_ALL
704
705         wr      %l0, PSR_ET, %psr               ! re-enable traps
706         WRITE_PAUSE
707
708         add     %sp, STACKFRAME_SZ, %o0
709         mov     %l1, %o1
710         mov     %l2, %o2
711         call    handle_hw_divzero
712          mov    %l0, %o3
713
714         RESTORE_ALL
715
716         .align  4
717         .globl  do_flush_windows
718 do_flush_windows:
719         SAVE_ALL
720
721         wr      %l0, PSR_ET, %psr
722         WRITE_PAUSE
723
724         andcc   %l0, PSR_PS, %g0
725         bne     dfw_kernel
726          nop
727
728         call    flush_user_windows
729          nop
730
731         /* Advance over the trap instruction. */
732         ld      [%sp + STACKFRAME_SZ + PT_NPC], %l1
733         add     %l1, 0x4, %l2
734         st      %l1, [%sp + STACKFRAME_SZ + PT_PC]
735         st      %l2, [%sp + STACKFRAME_SZ + PT_NPC]
736
737         RESTORE_ALL
738
739         .globl  flush_patch_one
740
741         /* We get these for debugging routines using __builtin_return_address() */
742 dfw_kernel:
743 flush_patch_one:
744         FLUSH_ALL_KERNEL_WINDOWS
745
746         /* Advance over the trap instruction. */
747         ld      [%sp + STACKFRAME_SZ + PT_NPC], %l1
748         add     %l1, 0x4, %l2
749         st      %l1, [%sp + STACKFRAME_SZ + PT_PC]
750         st      %l2, [%sp + STACKFRAME_SZ + PT_NPC]
751
752         RESTORE_ALL
753
754         /* The getcc software trap.  The user wants the condition codes from
755          * the %psr in register %g1.
756          */
757
758         .align  4
759         .globl  getcc_trap_handler
760 getcc_trap_handler:
761         srl     %l0, 20, %g1    ! give user
762         and     %g1, 0xf, %g1   ! only ICC bits in %psr
763         jmp     %l2             ! advance over trap instruction
764         rett    %l2 + 0x4       ! like this...
765
766         /* The setcc software trap.  The user has condition codes in %g1
767          * that it would like placed in the %psr.  Be careful not to flip
768          * any unintentional bits!
769          */
770
771         .align  4
772         .globl  setcc_trap_handler
773 setcc_trap_handler:
774         sll     %g1, 0x14, %l4
775         set     PSR_ICC, %l5
776         andn    %l0, %l5, %l0   ! clear ICC bits in %psr
777         and     %l4, %l5, %l4   ! clear non-ICC bits in user value
778         or      %l4, %l0, %l4   ! or them in... mix mix mix
779
780         wr      %l4, 0x0, %psr  ! set new %psr
781         WRITE_PAUSE             ! TI scumbags...
782
783         jmp     %l2             ! advance over trap instruction
784         rett    %l2 + 0x4       ! like this...
785
786         .align  4
787         .globl  linux_trap_nmi_sun4c
788 linux_trap_nmi_sun4c:
789         SAVE_ALL
790
791         /* Ugh, we need to clear the IRQ line.  This is now
792          * a very sun4c specific trap handler...
793          */
794         sethi   %hi(interrupt_enable), %l5
795         ld      [%l5 + %lo(interrupt_enable)], %l5
796         ldub    [%l5], %l6
797         andn    %l6, INTS_ENAB, %l6
798         stb     %l6, [%l5]
799
800         /* Now it is safe to re-enable traps without recursion. */
801         or      %l0, PSR_PIL, %l0
802         wr      %l0, PSR_ET, %psr
803         WRITE_PAUSE
804
805         /* Now call the c-code with the pt_regs frame ptr and the
806          * memory error registers as arguments.  The ordering chosen
807          * here is due to unlatching semantics.
808          */
809         sethi   %hi(AC_SYNC_ERR), %o0
810         add     %o0, 0x4, %o0
811         lda     [%o0] ASI_CONTROL, %o2  ! sync vaddr
812         sub     %o0, 0x4, %o0
813         lda     [%o0] ASI_CONTROL, %o1  ! sync error
814         add     %o0, 0xc, %o0
815         lda     [%o0] ASI_CONTROL, %o4  ! async vaddr
816         sub     %o0, 0x4, %o0
817         lda     [%o0] ASI_CONTROL, %o3  ! async error
818         call    sparc_lvl15_nmi
819          add    %sp, STACKFRAME_SZ, %o0
820
821         RESTORE_ALL
822
823         .align  4
824         .globl  invalid_segment_patch1_ff
825         .globl  invalid_segment_patch2_ff
826 invalid_segment_patch1_ff:      cmp     %l4, 0xff
827 invalid_segment_patch2_ff:      mov     0xff, %l3
828
829         .align  4
830         .globl  invalid_segment_patch1_1ff
831         .globl  invalid_segment_patch2_1ff
832 invalid_segment_patch1_1ff:     cmp     %l4, 0x1ff
833 invalid_segment_patch2_1ff:     mov     0x1ff, %l3
834
835         .align  4
836         .globl  num_context_patch1_16, num_context_patch2_16
837 num_context_patch1_16:          mov     0x10, %l7
838 num_context_patch2_16:          mov     0x10, %l7
839
840         .align  4
841         .globl  vac_linesize_patch_32
842 vac_linesize_patch_32:          subcc   %l7, 32, %l7
843
844         .align  4
845         .globl  vac_hwflush_patch1_on, vac_hwflush_patch2_on
846
847 /*
848  * Ugly, but we cant use hardware flushing on the sun4 and we'd require
849  * two instructions (Anton)
850  */
851 #ifdef CONFIG_SUN4
852 vac_hwflush_patch1_on:          nop
853 #else
854 vac_hwflush_patch1_on:          addcc   %l7, -PAGE_SIZE, %l7
855 #endif
856
857 vac_hwflush_patch2_on:          sta     %g0, [%l3 + %l7] ASI_HWFLUSHSEG
858
859         .globl  invalid_segment_patch1, invalid_segment_patch2
860         .globl  num_context_patch1
861         .globl  vac_linesize_patch, vac_hwflush_patch1
862         .globl  vac_hwflush_patch2
863
864         .align  4
865         .globl  sun4c_fault
866
867 ! %l0 = %psr
868 ! %l1 = %pc
869 ! %l2 = %npc
870 ! %l3 = %wim
871 ! %l7 = 1 for textfault
872 ! We want error in %l5, vaddr in %l6
873 sun4c_fault:
874 #ifdef CONFIG_SUN4
875         sethi   %hi(sun4c_memerr_reg), %l4
876         ld      [%l4+%lo(sun4c_memerr_reg)], %l4  ! memerr ctrl reg addr
877         ld      [%l4], %l6              ! memerr ctrl reg
878         ld      [%l4 + 4], %l5          ! memerr vaddr reg
879         andcc   %l6, 0x80, %g0          ! check for error type
880         st      %g0, [%l4 + 4]          ! clear the error
881         be      0f                      ! normal error
882          sethi  %hi(AC_BUS_ERROR), %l4  ! bus err reg addr
883
884         call    prom_halt       ! something weird happened
885                                         ! what exactly did happen?
886                                         ! what should we do here?
887
888 0:      or      %l4, %lo(AC_BUS_ERROR), %l4     ! bus err reg addr
889         lduba   [%l4] ASI_CONTROL, %l6  ! bus err reg
890
891         cmp    %l7, 1                   ! text fault?
892         be      1f                      ! yes
893          nop
894
895         ld     [%l1], %l4               ! load instruction that caused fault
896         srl     %l4, 21, %l4
897         andcc   %l4, 1, %g0             ! store instruction?
898
899         be      1f                      ! no
900          sethi  %hi(SUN4C_SYNC_BADWRITE), %l4 ! yep
901                                         ! %lo(SUN4C_SYNC_BADWRITE) = 0
902         or      %l4, %l6, %l6           ! set write bit to emulate sun4c
903 1:
904 #else
905         sethi   %hi(AC_SYNC_ERR), %l4
906         add     %l4, 0x4, %l6                   ! AC_SYNC_VA in %l6
907         lda     [%l6] ASI_CONTROL, %l5          ! Address
908         lda     [%l4] ASI_CONTROL, %l6          ! Error, retained for a bit
909 #endif
910
911         andn    %l5, 0xfff, %l5                 ! Encode all info into l7
912         srl     %l6, 14, %l4
913
914         and     %l4, 2, %l4
915         or      %l5, %l4, %l4
916
917         or      %l4, %l7, %l7                   ! l7 = [addr,write,txtfault]
918
919         andcc   %l0, PSR_PS, %g0
920         be      sun4c_fault_fromuser
921          andcc  %l7, 1, %g0                     ! Text fault?
922
923         be      1f
924          sethi  %hi(KERNBASE), %l4
925
926         mov     %l1, %l5                        ! PC
927
928 1:
929         cmp     %l5, %l4
930         blu     sun4c_fault_fromuser
931          sethi  %hi(~((1 << SUN4C_REAL_PGDIR_SHIFT) - 1)), %l4
932
933         /* If the kernel references a bum kernel pointer, or a pte which
934          * points to a non existant page in ram, we will run this code
935          * _forever_ and lock up the machine!!!!! So we must check for
936          * this condition, the AC_SYNC_ERR bits are what we must examine.
937          * Also a parity error would make this happen as well.  So we just
938          * check that we are in fact servicing a tlb miss and not some
939          * other type of fault for the kernel.
940          */
941         andcc   %l6, 0x80, %g0
942         be      sun4c_fault_fromuser
943          and    %l5, %l4, %l5
944
945         /* Test for NULL pte_t * in vmalloc area. */
946         sethi   %hi(VMALLOC_START), %l4
947         cmp     %l5, %l4
948         blu,a   invalid_segment_patch1
949          lduXa  [%l5] ASI_SEGMAP, %l4
950
951         sethi   %hi(swapper_pg_dir), %l4
952         srl     %l5, SUN4C_PGDIR_SHIFT, %l6
953         or      %l4, %lo(swapper_pg_dir), %l4
954         sll     %l6, 2, %l6
955         ld      [%l4 + %l6], %l4
956 #ifdef CONFIG_SUN4
957         sethi   %hi(PAGE_MASK), %l6
958         andcc   %l4, %l6, %g0
959 #else
960         andcc   %l4, PAGE_MASK, %g0
961 #endif
962         be      sun4c_fault_fromuser
963          lduXa  [%l5] ASI_SEGMAP, %l4
964
965 invalid_segment_patch1:
966         cmp     %l4, 0x7f
967         bne     1f
968          sethi  %hi(sun4c_kfree_ring), %l4
969         or      %l4, %lo(sun4c_kfree_ring), %l4
970         ld      [%l4 + 0x18], %l3
971         deccc   %l3                     ! do we have a free entry?
972         bcs,a   2f                      ! no, unmap one.
973          sethi  %hi(sun4c_kernel_ring), %l4
974
975         st      %l3, [%l4 + 0x18]       ! sun4c_kfree_ring.num_entries--
976
977         ld      [%l4 + 0x00], %l6       ! entry = sun4c_kfree_ring.ringhd.next
978         st      %l5, [%l6 + 0x08]       ! entry->vaddr = address
979
980         ld      [%l6 + 0x00], %l3       ! next = entry->next
981         ld      [%l6 + 0x04], %l7       ! entry->prev
982
983         st      %l7, [%l3 + 0x04]       ! next->prev = entry->prev
984         st      %l3, [%l7 + 0x00]       ! entry->prev->next = next
985
986         sethi   %hi(sun4c_kernel_ring), %l4
987         or      %l4, %lo(sun4c_kernel_ring), %l4
988                                         ! head = &sun4c_kernel_ring.ringhd
989
990         ld      [%l4 + 0x00], %l7       ! head->next
991
992         st      %l4, [%l6 + 0x04]       ! entry->prev = head
993         st      %l7, [%l6 + 0x00]       ! entry->next = head->next
994         st      %l6, [%l7 + 0x04]       ! head->next->prev = entry
995
996         st      %l6, [%l4 + 0x00]       ! head->next = entry
997
998         ld      [%l4 + 0x18], %l3
999         inc     %l3                     ! sun4c_kernel_ring.num_entries++
1000         st      %l3, [%l4 + 0x18]
1001         b       4f
1002          ld     [%l6 + 0x08], %l5
1003
1004 2:
1005         or      %l4, %lo(sun4c_kernel_ring), %l4
1006                                         ! head = &sun4c_kernel_ring.ringhd
1007
1008         ld      [%l4 + 0x04], %l6       ! entry = head->prev
1009
1010         ld      [%l6 + 0x08], %l3       ! tmp = entry->vaddr
1011
1012         ! Flush segment from the cache.
1013 #ifdef CONFIG_SUN4
1014         sethi   %hi((128 * 1024)), %l7
1015 #else
1016         sethi   %hi((64 * 1024)), %l7
1017 #endif
1018 9:
1019 vac_hwflush_patch1:
1020 vac_linesize_patch:
1021         subcc   %l7, 16, %l7
1022         bne     9b
1023 vac_hwflush_patch2:
1024          sta    %g0, [%l3 + %l7] ASI_FLUSHSEG
1025
1026         st      %l5, [%l6 + 0x08]       ! entry->vaddr = address
1027
1028         ld      [%l6 + 0x00], %l5       ! next = entry->next
1029         ld      [%l6 + 0x04], %l7       ! entry->prev
1030
1031         st      %l7, [%l5 + 0x04]       ! next->prev = entry->prev
1032         st      %l5, [%l7 + 0x00]       ! entry->prev->next = next
1033         st      %l4, [%l6 + 0x04]       ! entry->prev = head
1034
1035         ld      [%l4 + 0x00], %l7       ! head->next
1036
1037         st      %l7, [%l6 + 0x00]       ! entry->next = head->next
1038         st      %l6, [%l7 + 0x04]       ! head->next->prev = entry
1039         st      %l6, [%l4 + 0x00]       ! head->next = entry
1040
1041         mov     %l3, %l5                ! address = tmp
1042
1043 4:
1044 num_context_patch1:
1045         mov     0x08, %l7
1046
1047         ld      [%l6 + 0x08], %l4
1048         ldub    [%l6 + 0x0c], %l3
1049         or      %l4, %l3, %l4           ! encode new vaddr/pseg into l4
1050
1051         sethi   %hi(AC_CONTEXT), %l3
1052         lduba   [%l3] ASI_CONTROL, %l6
1053
1054         /* Invalidate old mapping, instantiate new mapping,
1055          * for each context.  Registers l6/l7 are live across
1056          * this loop.
1057          */
1058 3:      deccc   %l7
1059         sethi   %hi(AC_CONTEXT), %l3
1060         stba    %l7, [%l3] ASI_CONTROL
1061 invalid_segment_patch2:
1062         mov     0x7f, %l3
1063         stXa    %l3, [%l5] ASI_SEGMAP
1064         andn    %l4, 0x1ff, %l3
1065         bne     3b
1066          stXa   %l4, [%l3] ASI_SEGMAP
1067
1068         sethi   %hi(AC_CONTEXT), %l3
1069         stba    %l6, [%l3] ASI_CONTROL
1070
1071         andn    %l4, 0x1ff, %l5
1072
1073 1:
1074         sethi   %hi(VMALLOC_START), %l4
1075         cmp     %l5, %l4
1076
1077         bgeu    1f
1078          mov    1 << (SUN4C_REAL_PGDIR_SHIFT - PAGE_SHIFT), %l7
1079
1080         sethi   %hi(KERNBASE), %l6
1081
1082         sub     %l5, %l6, %l4
1083         srl     %l4, PAGE_SHIFT, %l4
1084         sethi   %hi((SUN4C_PAGE_KERNEL & 0xf4000000)), %l3
1085         or      %l3, %l4, %l3
1086
1087         sethi   %hi(PAGE_SIZE), %l4
1088
1089 2:
1090         sta     %l3, [%l5] ASI_PTE
1091         deccc   %l7
1092         inc     %l3
1093         bne     2b
1094          add    %l5, %l4, %l5
1095
1096         b       7f
1097          sethi  %hi(sun4c_kernel_faults), %l4
1098
1099 1:
1100         srl     %l5, SUN4C_PGDIR_SHIFT, %l3
1101         sethi   %hi(swapper_pg_dir), %l4
1102         or      %l4, %lo(swapper_pg_dir), %l4
1103         sll     %l3, 2, %l3
1104         ld      [%l4 + %l3], %l4
1105 #ifndef CONFIG_SUN4
1106         and     %l4, PAGE_MASK, %l4
1107 #else
1108         sethi   %hi(PAGE_MASK), %l6
1109         and     %l4, %l6, %l4
1110 #endif
1111
1112         srl     %l5, (PAGE_SHIFT - 2), %l6
1113         and     %l6, ((SUN4C_PTRS_PER_PTE - 1) << 2), %l6
1114         add     %l6, %l4, %l6
1115
1116         sethi   %hi(PAGE_SIZE), %l4
1117
1118 2:
1119         ld      [%l6], %l3
1120         deccc   %l7
1121         sta     %l3, [%l5] ASI_PTE
1122         add     %l6, 0x4, %l6
1123         bne     2b
1124          add    %l5, %l4, %l5
1125
1126         sethi   %hi(sun4c_kernel_faults), %l4
1127 7:
1128         ld      [%l4 + %lo(sun4c_kernel_faults)], %l3
1129         inc     %l3
1130         st      %l3, [%l4 + %lo(sun4c_kernel_faults)]
1131
1132         /* Restore condition codes */
1133         wr      %l0, 0x0, %psr
1134         WRITE_PAUSE
1135         jmp     %l1
1136          rett   %l2
1137
1138 sun4c_fault_fromuser:
1139         SAVE_ALL
1140          nop
1141         
1142         mov     %l7, %o1                ! Decode the info from %l7
1143         mov     %l7, %o2
1144         and     %o1, 1, %o1             ! arg2 = text_faultp
1145         mov     %l7, %o3
1146         and     %o2, 2, %o2             ! arg3 = writep
1147         andn    %o3, 0xfff, %o3         ! arg4 = faulting address
1148
1149         wr      %l0, PSR_ET, %psr
1150         WRITE_PAUSE
1151
1152         call    do_sun4c_fault
1153          add    %sp, STACKFRAME_SZ, %o0 ! arg1 = pt_regs ptr
1154
1155         RESTORE_ALL
1156
1157         .align  4
1158         .globl  srmmu_fault
1159 srmmu_fault:
1160         mov     0x400, %l5
1161         mov     0x300, %l4
1162
1163         lda     [%l5] ASI_M_MMUREGS, %l6        ! read sfar first
1164         lda     [%l4] ASI_M_MMUREGS, %l5        ! read sfsr last
1165
1166         andn    %l6, 0xfff, %l6
1167         srl     %l5, 6, %l5                     ! and encode all info into l7
1168
1169         and     %l5, 2, %l5
1170         or      %l5, %l6, %l6
1171
1172         or      %l6, %l7, %l7                   ! l7 = [addr,write,txtfault]
1173
1174         SAVE_ALL
1175
1176         mov     %l7, %o1
1177         mov     %l7, %o2
1178         and     %o1, 1, %o1             ! arg2 = text_faultp
1179         mov     %l7, %o3
1180         and     %o2, 2, %o2             ! arg3 = writep
1181         andn    %o3, 0xfff, %o3         ! arg4 = faulting address
1182
1183         wr      %l0, PSR_ET, %psr
1184         WRITE_PAUSE
1185
1186         call    do_sparc_fault
1187          add    %sp, STACKFRAME_SZ, %o0 ! arg1 = pt_regs ptr
1188
1189         RESTORE_ALL
1190
1191 #ifdef CONFIG_SUNOS_EMUL
1192         /* SunOS uses syscall zero as the 'indirect syscall' it looks
1193          * like indir_syscall(scall_num, arg0, arg1, arg2...);  etc.
1194          * This is complete brain damage.
1195          */
1196         .globl  sunos_indir
1197 sunos_indir:
1198         mov     %o7, %l4
1199         cmp     %o0, NR_SYSCALLS
1200         blu,a   1f
1201          sll    %o0, 0x2, %o0
1202
1203         sethi   %hi(sunos_nosys), %l6
1204         b       2f
1205          or     %l6, %lo(sunos_nosys), %l6
1206
1207 1:
1208         set     sunos_sys_table, %l7
1209         ld      [%l7 + %o0], %l6
1210
1211 2:      
1212         mov     %o1, %o0
1213         mov     %o2, %o1
1214         mov     %o3, %o2
1215         mov     %o4, %o3
1216         mov     %o5, %o4
1217         call    %l6
1218          mov    %l4, %o7
1219 #endif
1220
1221         .align  4
1222         .globl  sys_nis_syscall
1223 sys_nis_syscall:
1224         mov     %o7, %l5
1225         add     %sp, STACKFRAME_SZ, %o0         ! pt_regs *regs arg
1226         call    c_sys_nis_syscall
1227          mov    %l5, %o7
1228
1229         .align 4
1230         .globl  sys_ptrace
1231 sys_ptrace:
1232         call    do_ptrace
1233          add    %sp, STACKFRAME_SZ, %o0
1234
1235         ld      [%curptr + TI_FLAGS], %l5
1236         andcc   %l5, _TIF_SYSCALL_TRACE, %g0
1237         be      1f
1238          nop
1239
1240         call    syscall_trace
1241          nop
1242
1243 1:
1244         RESTORE_ALL
1245
1246         .align  4
1247         .globl  sys_execve
1248 sys_execve:
1249         mov     %o7, %l5
1250         add     %sp, STACKFRAME_SZ, %o0         ! pt_regs *regs arg
1251         call    sparc_execve
1252          mov    %l5, %o7
1253
1254         .align  4
1255         .globl  sys_pipe
1256 sys_pipe:
1257         mov     %o7, %l5
1258         add     %sp, STACKFRAME_SZ, %o0         ! pt_regs *regs arg
1259         call    sparc_pipe
1260          mov    %l5, %o7
1261
1262         .align  4
1263         .globl  sys_sigaltstack
1264 sys_sigaltstack:
1265         mov     %o7, %l5
1266         mov     %fp, %o2
1267         call    do_sigaltstack
1268          mov    %l5, %o7
1269
1270         .align  4
1271         .globl  sys_sigstack
1272 sys_sigstack:
1273         mov     %o7, %l5
1274         mov     %fp, %o2
1275         call    do_sys_sigstack
1276          mov    %l5, %o7
1277
1278         .align  4
1279         .globl  sys_sigreturn
1280 sys_sigreturn:
1281         call    do_sigreturn
1282          add    %sp, STACKFRAME_SZ, %o0
1283
1284         ld      [%curptr + TI_FLAGS], %l5
1285         andcc   %l5, _TIF_SYSCALL_TRACE, %g0
1286         be      1f
1287          nop
1288
1289         call    syscall_trace
1290          nop
1291
1292 1:
1293         /* We don't want to muck with user registers like a
1294          * normal syscall, just return.
1295          */
1296         RESTORE_ALL
1297
1298         .align  4
1299         .globl  sys_rt_sigreturn
1300 sys_rt_sigreturn:
1301         call    do_rt_sigreturn
1302          add    %sp, STACKFRAME_SZ, %o0
1303
1304         ld      [%curptr + TI_FLAGS], %l5
1305         andcc   %l5, _TIF_SYSCALL_TRACE, %g0
1306         be      1f
1307          nop
1308
1309         call    syscall_trace
1310          nop
1311
1312 1:
1313         /* We are returning to a signal handler. */
1314         RESTORE_ALL
1315
1316         /* Now that we have a real sys_clone, sys_fork() is
1317          * implemented in terms of it.  Our _real_ implementation
1318          * of SunOS vfork() will use sys_vfork().
1319          *
1320          * XXX These three should be consolidated into mostly shared
1321          * XXX code just like on sparc64... -DaveM
1322          */
1323         .align  4
1324         .globl  sys_fork, flush_patch_two
1325 sys_fork:
1326         mov     %o7, %l5
1327 flush_patch_two:
1328         FLUSH_ALL_KERNEL_WINDOWS;
1329         ld      [%curptr + TI_TASK], %o4
1330         rd      %psr, %g4
1331         WRITE_PAUSE
1332         mov     SIGCHLD, %o0                    ! arg0: clone flags
1333         rd      %wim, %g5
1334         WRITE_PAUSE
1335         mov     %fp, %o1                        ! arg1: usp
1336         std     %g4, [%o4 + AOFF_task_thread + AOFF_thread_fork_kpsr]
1337         add     %sp, STACKFRAME_SZ, %o2         ! arg2: pt_regs ptr
1338         mov     0, %o3
1339         call    sparc_do_fork
1340          mov    %l5, %o7
1341
1342         /* Whee, kernel threads! */
1343         .globl  sys_clone, flush_patch_three
1344 sys_clone:
1345         mov     %o7, %l5
1346 flush_patch_three:
1347         FLUSH_ALL_KERNEL_WINDOWS;
1348         ld      [%curptr + TI_TASK], %o4
1349         rd      %psr, %g4
1350         WRITE_PAUSE
1351
1352         /* arg0,1: flags,usp  -- loaded already */
1353         cmp     %o1, 0x0                        ! Is new_usp NULL?
1354         rd      %wim, %g5
1355         WRITE_PAUSE
1356         be,a    1f
1357          mov    %fp, %o1                        ! yes, use callers usp
1358         andn    %o1, 7, %o1                     ! no, align to 8 bytes
1359 1:
1360         std     %g4, [%o4 + AOFF_task_thread + AOFF_thread_fork_kpsr]
1361         add     %sp, STACKFRAME_SZ, %o2         ! arg2: pt_regs ptr
1362         mov     0, %o3
1363         call    sparc_do_fork
1364          mov    %l5, %o7
1365
1366         /* Whee, real vfork! */
1367         .globl  sys_vfork, flush_patch_four
1368 sys_vfork:
1369 flush_patch_four:
1370         FLUSH_ALL_KERNEL_WINDOWS;
1371         ld      [%curptr + TI_TASK], %o4
1372         rd      %psr, %g4
1373         WRITE_PAUSE
1374         rd      %wim, %g5
1375         WRITE_PAUSE
1376         std     %g4, [%o4 + AOFF_task_thread + AOFF_thread_fork_kpsr]
1377         sethi   %hi(0x4000 | 0x0100 | SIGCHLD), %o0
1378         mov     %fp, %o1
1379         or      %o0, %lo(0x4000 | 0x0100 | SIGCHLD), %o0
1380         sethi   %hi(sparc_do_fork), %l1
1381         mov     0, %o3
1382         jmpl    %l1 + %lo(sparc_do_fork), %g0
1383          add    %sp, STACKFRAME_SZ, %o2
1384
1385         .align  4
1386 linux_sparc_ni_syscall:
1387         sethi   %hi(sys_ni_syscall), %l7
1388         b       syscall_is_too_hard
1389          or     %l7, %lo(sys_ni_syscall), %l7
1390
1391 linux_fast_syscall:
1392         andn    %l7, 3, %l7
1393         mov     %i0, %o0
1394         mov     %i1, %o1
1395         mov     %i2, %o2
1396         jmpl    %l7 + %g0, %g0
1397          mov    %i3, %o3
1398
1399 linux_syscall_trace:
1400         call    syscall_trace
1401          nop
1402         mov     %i0, %o0
1403         mov     %i1, %o1
1404         mov     %i2, %o2
1405         mov     %i3, %o3
1406         b       2f
1407          mov    %i4, %o4
1408
1409         .globl  ret_from_fork
1410 ret_from_fork:
1411         call    schedule_tail
1412          mov    %g3, %o0
1413         b       ret_sys_call
1414          ld     [%sp + STACKFRAME_SZ + PT_I0], %o0
1415
1416         /* Linux native and SunOS system calls enter here... */
1417         .align  4
1418         .globl  linux_sparc_syscall
1419 linux_sparc_syscall:
1420         /* Direct access to user regs, must faster. */
1421         cmp     %g1, NR_SYSCALLS
1422         bgeu    linux_sparc_ni_syscall
1423          sll    %g1, 2, %l4
1424         ld      [%l7 + %l4], %l7
1425         andcc   %l7, 1, %g0
1426         bne     linux_fast_syscall
1427          /* Just do first insn from SAVE_ALL in the delay slot */
1428
1429         .globl  syscall_is_too_hard
1430 syscall_is_too_hard:
1431         SAVE_ALL_HEAD
1432          rd     %wim, %l3
1433
1434         wr      %l0, PSR_ET, %psr
1435         mov     %i0, %o0
1436         mov     %i1, %o1
1437         mov     %i2, %o2
1438
1439         ld      [%curptr + TI_FLAGS], %l5
1440         mov     %i3, %o3
1441         andcc   %l5, _TIF_SYSCALL_TRACE, %g0
1442         mov     %i4, %o4
1443         bne     linux_syscall_trace
1444          mov    %i0, %l5
1445 2:
1446         call    %l7
1447          mov    %i5, %o5
1448
1449         st      %o0, [%sp + STACKFRAME_SZ + PT_I0]
1450
1451         .globl  ret_sys_call
1452 ret_sys_call:
1453         ld      [%curptr + TI_FLAGS], %l6
1454         cmp     %o0, -ERESTART_RESTARTBLOCK
1455         ld      [%sp + STACKFRAME_SZ + PT_PSR], %g3
1456         set     PSR_C, %g2
1457         bgeu    1f
1458          andcc  %l6, _TIF_SYSCALL_TRACE, %g0
1459
1460         /* System call success, clear Carry condition code. */
1461         andn    %g3, %g2, %g3
1462         clr     %l6
1463         st      %g3, [%sp + STACKFRAME_SZ + PT_PSR]     
1464         bne     linux_syscall_trace2
1465          ld     [%sp + STACKFRAME_SZ + PT_NPC], %l1 /* pc = npc */
1466         add     %l1, 0x4, %l2                   /* npc = npc+4 */
1467         st      %l1, [%sp + STACKFRAME_SZ + PT_PC]
1468         b       ret_trap_entry
1469          st     %l2, [%sp + STACKFRAME_SZ + PT_NPC]
1470 1:
1471         /* System call failure, set Carry condition code.
1472          * Also, get abs(errno) to return to the process.
1473          */
1474         sub     %g0, %o0, %o0
1475         or      %g3, %g2, %g3
1476         st      %o0, [%sp + STACKFRAME_SZ + PT_I0]
1477         mov     1, %l6
1478         st      %g3, [%sp + STACKFRAME_SZ + PT_PSR]
1479         bne     linux_syscall_trace2
1480          ld     [%sp + STACKFRAME_SZ + PT_NPC], %l1 /* pc = npc */
1481         add     %l1, 0x4, %l2                   /* npc = npc+4 */
1482         st      %l1, [%sp + STACKFRAME_SZ + PT_PC]
1483         b       ret_trap_entry
1484          st     %l2, [%sp + STACKFRAME_SZ + PT_NPC]
1485
1486 linux_syscall_trace2:
1487         call    syscall_trace
1488          add    %l1, 0x4, %l2                   /* npc = npc+4 */
1489         st      %l1, [%sp + STACKFRAME_SZ + PT_PC]
1490         b       ret_trap_entry
1491          st     %l2, [%sp + STACKFRAME_SZ + PT_NPC]
1492
1493
1494         /*
1495          * Solaris system calls and indirect system calls enter here.
1496          *
1497          * I have named the solaris indirect syscalls like that because
1498          * it seems like Solaris has some fast path syscalls that can
1499          * be handled as indirect system calls. - mig
1500          */
1501
1502 linux_syscall_for_solaris:
1503         sethi   %hi(sys_call_table), %l7
1504         b       linux_sparc_syscall
1505          or     %l7, %lo(sys_call_table), %l7
1506         
1507         .align  4
1508         .globl  solaris_syscall
1509 solaris_syscall:
1510         cmp     %g1,59
1511         be      linux_syscall_for_solaris
1512          cmp    %g1,2
1513         be      linux_syscall_for_solaris
1514          cmp    %g1,42
1515         be      linux_syscall_for_solaris
1516          cmp    %g1,119
1517         be,a    linux_syscall_for_solaris
1518          mov    2, %g1
1519 1:      
1520         SAVE_ALL_HEAD
1521          rd     %wim, %l3
1522
1523         wr      %l0, PSR_ET, %psr
1524         nop
1525         nop
1526         mov     %i0, %l5
1527
1528         call    do_solaris_syscall
1529          add    %sp, STACKFRAME_SZ, %o0
1530
1531         st      %o0, [%sp + STACKFRAME_SZ + PT_I0]
1532         set     PSR_C, %g2
1533         cmp     %o0, -ERESTART_RESTARTBLOCK
1534         bgeu    1f
1535          ld     [%sp + STACKFRAME_SZ + PT_PSR], %g3
1536
1537         /* System call success, clear Carry condition code. */          
1538         andn    %g3, %g2, %g3
1539         clr     %l6
1540         b       2f
1541          st     %g3, [%sp + STACKFRAME_SZ + PT_PSR]     
1542
1543 1:
1544         /* System call failure, set Carry condition code.
1545          * Also, get abs(errno) to return to the process.
1546          */
1547         sub     %g0, %o0, %o0
1548         mov     1, %l6
1549         st      %o0, [%sp + STACKFRAME_SZ + PT_I0]
1550         or      %g3, %g2, %g3
1551         st      %g3, [%sp + STACKFRAME_SZ + PT_PSR]
1552
1553         /* Advance the pc and npc over the trap instruction.
1554          * If the npc is unaligned (has a 1 in the lower byte), it means
1555          * the kernel does not want us to play magic (ie, skipping over
1556          * traps).  Mainly when the Solaris code wants to set some PC and
1557          * nPC (setcontext).
1558          */
1559 2:
1560         ld      [%sp + STACKFRAME_SZ + PT_NPC], %l1     /* pc  = npc   */
1561         andcc   %l1, 1, %g0
1562         bne     1f
1563          add    %l1, 0x4, %l2                   /* npc = npc+4 */
1564         st      %l1, [%sp + STACKFRAME_SZ + PT_PC]
1565         b       ret_trap_entry
1566          st     %l2, [%sp + STACKFRAME_SZ + PT_NPC]
1567
1568         /* kernel knows what it is doing, fixup npc and continue */
1569 1:
1570         sub     %l1, 1, %l1
1571         b       ret_trap_entry  
1572          st     %l1, [%sp + STACKFRAME_SZ + PT_NPC]
1573
1574 #ifndef CONFIG_SUNOS_EMUL
1575         .align  4
1576         .globl  sunos_syscall
1577 sunos_syscall:
1578         SAVE_ALL_HEAD
1579          rd     %wim, %l3
1580         wr      %l0, PSR_ET, %psr
1581         nop
1582         nop
1583         mov     %i0, %l5
1584         call    do_sunos_syscall
1585          add    %sp, STACKFRAME_SZ, %o0
1586 #endif
1587
1588         /* {net, open}bsd system calls enter here... */
1589         .align  4
1590         .globl  bsd_syscall
1591 bsd_syscall:
1592         /* Direct access to user regs, must faster. */
1593         cmp     %g1, NR_SYSCALLS
1594         blu,a   1f
1595          sll    %g1, 2, %l4
1596
1597         set     sys_ni_syscall, %l7
1598         b       bsd_is_too_hard
1599          nop
1600
1601 1:
1602         ld      [%l7 + %l4], %l7
1603
1604         .globl  bsd_is_too_hard
1605 bsd_is_too_hard:
1606         rd      %wim, %l3
1607         SAVE_ALL
1608
1609         wr      %l0, PSR_ET, %psr
1610         WRITE_PAUSE
1611
1612 2:
1613         mov     %i0, %o0
1614         mov     %i1, %o1
1615         mov     %i2, %o2
1616         mov     %i0, %l5
1617         mov     %i3, %o3
1618         mov     %i4, %o4
1619         call    %l7
1620          mov    %i5, %o5
1621
1622         st      %o0, [%sp + STACKFRAME_SZ + PT_I0]
1623         set     PSR_C, %g2
1624         cmp     %o0, -ERESTART_RESTARTBLOCK
1625         bgeu    1f
1626          ld     [%sp + STACKFRAME_SZ + PT_PSR], %g3
1627
1628         /* System call success, clear Carry condition code. */          
1629         andn    %g3, %g2, %g3
1630         clr     %l6
1631         b       2f
1632          st     %g3, [%sp + STACKFRAME_SZ + PT_PSR]     
1633
1634 1:
1635         /* System call failure, set Carry condition code.
1636          * Also, get abs(errno) to return to the process.
1637          */
1638         sub     %g0, %o0, %o0
1639 #if 0 /* XXX todo XXX */
1640         sethi   %hi(bsd_xlatb_rorl), %o3
1641         or      %o3, %lo(bsd_xlatb_rorl), %o3
1642         sll     %o0, 2, %o0
1643         ld      [%o3 + %o0], %o0
1644 #endif
1645         mov     1, %l6
1646         st      %o0, [%sp + STACKFRAME_SZ + PT_I0]
1647         or      %g3, %g2, %g3
1648         st      %g3, [%sp + STACKFRAME_SZ + PT_PSR]
1649
1650         /* Advance the pc and npc over the trap instruction. */
1651 2:
1652         ld      [%sp + STACKFRAME_SZ + PT_NPC], %l1     /* pc  = npc   */
1653         add     %l1, 0x4, %l2                   /* npc = npc+4 */
1654         st      %l1, [%sp + STACKFRAME_SZ + PT_PC]
1655         b       ret_trap_entry
1656          st     %l2, [%sp + STACKFRAME_SZ + PT_NPC]
1657
1658 /* Saving and restoring the FPU state is best done from lowlevel code.
1659  *
1660  * void fpsave(unsigned long *fpregs, unsigned long *fsr,
1661  *             void *fpqueue, unsigned long *fpqdepth)
1662  */
1663
1664         .globl  fpsave
1665 fpsave:
1666         st      %fsr, [%o1]     ! this can trap on us if fpu is in bogon state
1667         ld      [%o1], %g1
1668         set     0x2000, %g4
1669         andcc   %g1, %g4, %g0
1670         be      2f
1671          mov    0, %g2
1672
1673         /* We have an fpqueue to save. */
1674 1:
1675         std     %fq, [%o2]
1676 fpsave_magic:
1677         st      %fsr, [%o1]
1678         ld      [%o1], %g3
1679         andcc   %g3, %g4, %g0
1680         add     %g2, 1, %g2
1681         bne     1b
1682          add    %o2, 8, %o2
1683
1684 2:
1685         st      %g2, [%o3]
1686
1687         std     %f0, [%o0 + 0x00]
1688         std     %f2, [%o0 + 0x08]
1689         std     %f4, [%o0 + 0x10]
1690         std     %f6, [%o0 + 0x18]
1691         std     %f8, [%o0 + 0x20]
1692         std     %f10, [%o0 + 0x28]
1693         std     %f12, [%o0 + 0x30]
1694         std     %f14, [%o0 + 0x38]
1695         std     %f16, [%o0 + 0x40]
1696         std     %f18, [%o0 + 0x48]
1697         std     %f20, [%o0 + 0x50]
1698         std     %f22, [%o0 + 0x58]
1699         std     %f24, [%o0 + 0x60]
1700         std     %f26, [%o0 + 0x68]
1701         std     %f28, [%o0 + 0x70]
1702         retl
1703          std    %f30, [%o0 + 0x78]
1704
1705         /* Thanks for Theo Deraadt and the authors of the Sprite/netbsd/openbsd
1706          * code for pointing out this possible deadlock, while we save state
1707          * above we could trap on the fsr store so our low level fpu trap
1708          * code has to know how to deal with this.
1709          */
1710 fpsave_catch:
1711         b       fpsave_magic + 4
1712          st     %fsr, [%o1]
1713
1714 fpsave_catch2:
1715         b       fpsave + 4
1716          st     %fsr, [%o1]
1717
1718         /* void fpload(unsigned long *fpregs, unsigned long *fsr); */
1719
1720         .globl  fpload
1721 fpload:
1722         ldd     [%o0 + 0x00], %f0
1723         ldd     [%o0 + 0x08], %f2
1724         ldd     [%o0 + 0x10], %f4
1725         ldd     [%o0 + 0x18], %f6
1726         ldd     [%o0 + 0x20], %f8
1727         ldd     [%o0 + 0x28], %f10
1728         ldd     [%o0 + 0x30], %f12
1729         ldd     [%o0 + 0x38], %f14
1730         ldd     [%o0 + 0x40], %f16
1731         ldd     [%o0 + 0x48], %f18
1732         ldd     [%o0 + 0x50], %f20
1733         ldd     [%o0 + 0x58], %f22
1734         ldd     [%o0 + 0x60], %f24
1735         ldd     [%o0 + 0x68], %f26
1736         ldd     [%o0 + 0x70], %f28
1737         ldd     [%o0 + 0x78], %f30
1738         ld      [%o1], %fsr
1739         retl
1740          nop
1741
1742         /* __ndelay and __udelay take two arguments:
1743          * 0 - nsecs or usecs to delay
1744          * 1 - per_cpu udelay_val (loops per jiffy)
1745          *
1746          * Note that ndelay gives HZ times higher resolution but has a 10ms
1747          * limit.  udelay can handle up to 1s.
1748          */
1749         .globl  __ndelay
1750 __ndelay:
1751         save    %sp, -STACKFRAME_SZ, %sp
1752         mov     %i0, %o0
1753         call    .umul
1754          mov    0x1ad, %o1              ! 2**32 / (1 000 000 000 / HZ)
1755         call    .umul
1756          mov    %i1, %o1                ! udelay_val
1757         ba      delay_continue
1758          mov    %o1, %o0                ! >>32 later for better resolution
1759
1760         .globl  __udelay
1761 __udelay:
1762         save    %sp, -STACKFRAME_SZ, %sp
1763         mov     %i0, %o0
1764         sethi   %hi(0x10c6), %o1
1765         call    .umul
1766          or     %o1, %lo(0x10c6), %o1   ! 2**32 / 1 000 000
1767         call    .umul
1768          mov    %i1, %o1                ! udelay_val
1769         call    .umul
1770          mov    HZ, %o0                 ! >>32 earlier for wider range
1771
1772 delay_continue:
1773         cmp     %o0, 0x0
1774 1:
1775         bne     1b
1776          subcc  %o0, 1, %o0
1777         
1778         ret
1779         restore
1780
1781         /* Handle a software breakpoint */
1782         /* We have to inform parent that child has stopped */
1783         .align 4
1784         .globl breakpoint_trap
1785 breakpoint_trap:
1786         rd      %wim,%l3
1787         SAVE_ALL
1788         wr      %l0, PSR_ET, %psr
1789         WRITE_PAUSE
1790
1791         st      %i0, [%sp + STACKFRAME_SZ + PT_G0] ! for restarting syscalls
1792         call    sparc_breakpoint
1793          add    %sp, STACKFRAME_SZ, %o0
1794
1795         RESTORE_ALL
1796
1797         .align  4
1798         .globl  __handle_exception, flush_patch_exception
1799 __handle_exception:
1800 flush_patch_exception:
1801         FLUSH_ALL_KERNEL_WINDOWS;
1802         ldd     [%o0], %o6
1803         jmpl    %o7 + 0xc, %g0                  ! see asm-sparc/processor.h
1804          mov    1, %g1                          ! signal EFAULT condition
1805
1806         .align  4
1807         .globl  kill_user_windows, kuw_patch1_7win
1808         .globl  kuw_patch1
1809 kuw_patch1_7win:        sll     %o3, 6, %o3
1810
1811         /* No matter how much overhead this routine has in the worst
1812          * case scenerio, it is several times better than taking the
1813          * traps with the old method of just doing flush_user_windows().
1814          */
1815 kill_user_windows:
1816         ld      [%g6 + TI_UWINMASK], %o0        ! get current umask
1817         orcc    %g0, %o0, %g0                   ! if no bits set, we are done
1818         be      3f                              ! nothing to do
1819          rd     %psr, %o5                       ! must clear interrupts
1820         or      %o5, PSR_PIL, %o4               ! or else that could change
1821         wr      %o4, 0x0, %psr                  ! the uwinmask state
1822         WRITE_PAUSE                             ! burn them cycles
1823 1:
1824         ld      [%g6 + TI_UWINMASK], %o0        ! get consistent state
1825         orcc    %g0, %o0, %g0                   ! did an interrupt come in?
1826         be      4f                              ! yep, we are done
1827          rd     %wim, %o3                       ! get current wim
1828         srl     %o3, 1, %o4                     ! simulate a save
1829 kuw_patch1:
1830         sll     %o3, 7, %o3                     ! compute next wim
1831         or      %o4, %o3, %o3                   ! result
1832         andncc  %o0, %o3, %o0                   ! clean this bit in umask
1833         bne     kuw_patch1                      ! not done yet
1834          srl    %o3, 1, %o4                     ! begin another save simulation
1835         wr      %o3, 0x0, %wim                  ! set the new wim
1836         st      %g0, [%g6 + TI_UWINMASK]        ! clear uwinmask
1837 4:
1838         wr      %o5, 0x0, %psr                  ! re-enable interrupts
1839         WRITE_PAUSE                             ! burn baby burn
1840 3:
1841         retl                                    ! return
1842          st     %g0, [%g6 + TI_W_SAVED]         ! no windows saved
1843
1844         .align  4
1845         .globl  restore_current
1846 restore_current:
1847         LOAD_CURRENT(g6, o0)
1848         retl
1849          nop
1850
1851 #ifdef CONFIG_PCI
1852 #include <asm/pcic.h>
1853
1854         .align  4
1855         .globl  linux_trap_ipi15_pcic
1856 linux_trap_ipi15_pcic:
1857         rd      %wim, %l3
1858         SAVE_ALL
1859
1860         /*
1861          * First deactivate NMI
1862          * or we cannot drop ET, cannot get window spill traps.
1863          * The busy loop is necessary because the PIO error
1864          * sometimes does not go away quickly and we trap again.
1865          */
1866         sethi   %hi(pcic_regs), %o1
1867         ld      [%o1 + %lo(pcic_regs)], %o2
1868
1869         ! Get pending status for printouts later.
1870         ld      [%o2 + PCI_SYS_INT_PENDING], %o0
1871
1872         mov     PCI_SYS_INT_PENDING_CLEAR_ALL, %o1
1873         stb     %o1, [%o2 + PCI_SYS_INT_PENDING_CLEAR]
1874 1:
1875         ld      [%o2 + PCI_SYS_INT_PENDING], %o1
1876         andcc   %o1, ((PCI_SYS_INT_PENDING_PIO|PCI_SYS_INT_PENDING_PCI)>>24), %g0
1877         bne     1b
1878          nop
1879
1880         or      %l0, PSR_PIL, %l4
1881         wr      %l4, 0x0, %psr
1882         WRITE_PAUSE
1883         wr      %l4, PSR_ET, %psr
1884         WRITE_PAUSE
1885
1886         call    pcic_nmi
1887          add    %sp, STACKFRAME_SZ, %o1 ! struct pt_regs *regs
1888         RESTORE_ALL
1889
1890         .globl  pcic_nmi_trap_patch
1891 pcic_nmi_trap_patch:
1892         sethi   %hi(linux_trap_ipi15_pcic), %l3
1893         jmpl    %l3 + %lo(linux_trap_ipi15_pcic), %g0
1894          rd     %psr, %l0
1895         .word   0
1896
1897 #endif /* CONFIG_PCI */
1898
1899 /* End of entry.S */