x86 kdump: make kdump_nmi_callback() a function ptr on crash_nmi_callback()
[linux-2.6] / arch / x86 / kernel / crash.c
1 /*
2  * Architecture specific (i386/x86_64) functions for kexec based crash dumps.
3  *
4  * Created by: Hariprasad Nellitheertha (hari@in.ibm.com)
5  *
6  * Copyright (C) IBM Corporation, 2004. All rights reserved.
7  *
8  */
9
10 #include <linux/init.h>
11 #include <linux/types.h>
12 #include <linux/kernel.h>
13 #include <linux/smp.h>
14 #include <linux/reboot.h>
15 #include <linux/kexec.h>
16 #include <linux/delay.h>
17 #include <linux/elf.h>
18 #include <linux/elfcore.h>
19
20 #include <asm/processor.h>
21 #include <asm/hardirq.h>
22 #include <asm/nmi.h>
23 #include <asm/hw_irq.h>
24 #include <asm/apic.h>
25 #include <asm/hpet.h>
26 #include <linux/kdebug.h>
27 #include <asm/smp.h>
28 #include <asm/reboot.h>
29
30 #include <mach_ipi.h>
31
32 typedef void (*nmi_shootdown_cb)(int, struct die_args*);
33
34 #if defined(CONFIG_SMP) && defined(CONFIG_X86_LOCAL_APIC)
35
36 /* This keeps a track of which one is crashing cpu. */
37 static int crashing_cpu;
38 static nmi_shootdown_cb shootdown_callback;
39
40 static atomic_t waiting_for_crash_ipi;
41
42 static void kdump_nmi_callback(int cpu, struct die_args *args)
43 {
44         struct pt_regs *regs;
45 #ifdef CONFIG_X86_32
46         struct pt_regs fixed_regs;
47 #endif
48
49         regs = args->regs;
50
51 #ifdef CONFIG_X86_32
52         if (!user_mode_vm(regs)) {
53                 crash_fixup_ss_esp(&fixed_regs, regs);
54                 regs = &fixed_regs;
55         }
56 #endif
57         crash_save_cpu(regs, cpu);
58
59         disable_local_APIC();
60 }
61
62 static int crash_nmi_callback(struct notifier_block *self,
63                         unsigned long val, void *data)
64 {
65         int cpu;
66
67         if (val != DIE_NMI_IPI)
68                 return NOTIFY_OK;
69
70         cpu = raw_smp_processor_id();
71
72         /* Don't do anything if this handler is invoked on crashing cpu.
73          * Otherwise, system will completely hang. Crashing cpu can get
74          * an NMI if system was initially booted with nmi_watchdog parameter.
75          */
76         if (cpu == crashing_cpu)
77                 return NOTIFY_STOP;
78         local_irq_disable();
79
80         shootdown_callback(cpu, (struct die_args *)data);
81
82         atomic_dec(&waiting_for_crash_ipi);
83         /* Assume hlt works */
84         halt();
85         for (;;)
86                 cpu_relax();
87
88         return 1;
89 }
90
91 static void smp_send_nmi_allbutself(void)
92 {
93         cpumask_t mask = cpu_online_map;
94         cpu_clear(safe_smp_processor_id(), mask);
95         if (!cpus_empty(mask))
96                 send_IPI_mask(mask, NMI_VECTOR);
97 }
98
99 static struct notifier_block crash_nmi_nb = {
100         .notifier_call = crash_nmi_callback,
101 };
102
103 static void nmi_shootdown_cpus(nmi_shootdown_cb callback)
104 {
105         unsigned long msecs;
106
107         /* Make a note of crashing cpu. Will be used in NMI callback.*/
108         crashing_cpu = safe_smp_processor_id();
109
110         shootdown_callback = callback;
111
112         atomic_set(&waiting_for_crash_ipi, num_online_cpus() - 1);
113         /* Would it be better to replace the trap vector here? */
114         if (register_die_notifier(&crash_nmi_nb))
115                 return;         /* return what? */
116         /* Ensure the new callback function is set before sending
117          * out the NMI
118          */
119         wmb();
120
121         smp_send_nmi_allbutself();
122
123         msecs = 1000; /* Wait at most a second for the other cpus to stop */
124         while ((atomic_read(&waiting_for_crash_ipi) > 0) && msecs) {
125                 mdelay(1);
126                 msecs--;
127         }
128
129         /* Leave the nmi callback set */
130 }
131
132 static void kdump_nmi_shootdown_cpus(void)
133 {
134         nmi_shootdown_cpus(kdump_nmi_callback);
135
136         disable_local_APIC();
137 }
138
139 #else
140 static void kdump_nmi_shootdown_cpus(void)
141 {
142         /* There are no cpus to shootdown */
143 }
144 #endif
145
146 void native_machine_crash_shutdown(struct pt_regs *regs)
147 {
148         /* This function is only called after the system
149          * has panicked or is otherwise in a critical state.
150          * The minimum amount of code to allow a kexec'd kernel
151          * to run successfully needs to happen here.
152          *
153          * In practice this means shooting down the other cpus in
154          * an SMP system.
155          */
156         /* The kernel is broken so disable interrupts */
157         local_irq_disable();
158
159         kdump_nmi_shootdown_cpus();
160         lapic_shutdown();
161 #if defined(CONFIG_X86_IO_APIC)
162         disable_IO_APIC();
163 #endif
164 #ifdef CONFIG_HPET_TIMER
165         hpet_disable();
166 #endif
167         crash_save_cpu(regs, safe_smp_processor_id());
168 }