Merge branch 'sched-fixes-for-linus' of git://git.kernel.org/pub/scm/linux/kernel...
[linux-2.6] / include / asm-powerpc / time.h
1 /*
2  * Common time prototypes and such for all ppc machines.
3  *
4  * Written by Cort Dougan (cort@cs.nmt.edu) to merge
5  * Paul Mackerras' version and mine for PReP and Pmac.
6  *
7  * This program is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU General Public License
9  * as published by the Free Software Foundation; either version
10  * 2 of the License, or (at your option) any later version.
11  */
12
13 #ifndef __POWERPC_TIME_H
14 #define __POWERPC_TIME_H
15
16 #ifdef __KERNEL__
17 #include <linux/types.h>
18 #include <linux/percpu.h>
19
20 #include <asm/processor.h>
21 #ifdef CONFIG_PPC_ISERIES
22 #include <asm/paca.h>
23 #include <asm/firmware.h>
24 #include <asm/iseries/hv_call.h>
25 #endif
26
27 /* time.c */
28 extern unsigned long tb_ticks_per_jiffy;
29 extern unsigned long tb_ticks_per_usec;
30 extern unsigned long tb_ticks_per_sec;
31 extern u64 tb_to_xs;
32 extern unsigned      tb_to_us;
33
34 struct rtc_time;
35 extern void to_tm(int tim, struct rtc_time * tm);
36 extern time_t last_rtc_update;
37
38 extern void generic_calibrate_decr(void);
39 extern void wakeup_decrementer(void);
40 extern void snapshot_timebase(void);
41
42 extern void set_dec_cpu6(unsigned int val);
43
44 /* Some sane defaults: 125 MHz timebase, 1GHz processor */
45 extern unsigned long ppc_proc_freq;
46 #define DEFAULT_PROC_FREQ       (DEFAULT_TB_FREQ * 8)
47 extern unsigned long ppc_tb_freq;
48 #define DEFAULT_TB_FREQ         125000000UL
49
50 /*
51  * By putting all of this stuff into a single struct we 
52  * reduce the number of cache lines touched by do_gettimeofday.
53  * Both by collecting all of the data in one cache line and
54  * by touching only one TOC entry on ppc64.
55  */
56 struct gettimeofday_vars {
57         u64 tb_to_xs;
58         u64 stamp_xsec;
59         u64 tb_orig_stamp;
60 };
61
62 struct gettimeofday_struct {
63         unsigned long tb_ticks_per_sec;
64         struct gettimeofday_vars vars[2];
65         struct gettimeofday_vars * volatile varp;
66         unsigned      var_idx;
67         unsigned      tb_to_us;
68 };
69
70 struct div_result {
71         u64 result_high;
72         u64 result_low;
73 };
74
75 /* Accessor functions for the timebase (RTC on 601) registers. */
76 /* If one day CONFIG_POWER is added just define __USE_RTC as 1 */
77 #ifdef CONFIG_6xx
78 #define __USE_RTC()     (!cpu_has_feature(CPU_FTR_USE_TB))
79 #else
80 #define __USE_RTC()     0
81 #endif
82
83 #ifdef CONFIG_PPC64
84
85 /* For compatibility, get_tbl() is defined as get_tb() on ppc64 */
86 #define get_tbl         get_tb
87
88 #else
89
90 static inline unsigned long get_tbl(void)
91 {
92 #if defined(CONFIG_403GCX)
93         unsigned long tbl;
94         asm volatile("mfspr %0, 0x3dd" : "=r" (tbl));
95         return tbl;
96 #else
97         return mftbl();
98 #endif
99 }
100
101 static inline unsigned int get_tbu(void)
102 {
103 #ifdef CONFIG_403GCX
104         unsigned int tbu;
105         asm volatile("mfspr %0, 0x3dc" : "=r" (tbu));
106         return tbu;
107 #else
108         return mftbu();
109 #endif
110 }
111 #endif /* !CONFIG_PPC64 */
112
113 static inline unsigned int get_rtcl(void)
114 {
115         unsigned int rtcl;
116
117         asm volatile("mfrtcl %0" : "=r" (rtcl));
118         return rtcl;
119 }
120
121 static inline u64 get_rtc(void)
122 {
123         unsigned int hi, lo, hi2;
124
125         do {
126                 asm volatile("mfrtcu %0; mfrtcl %1; mfrtcu %2"
127                              : "=r" (hi), "=r" (lo), "=r" (hi2));
128         } while (hi2 != hi);
129         return (u64)hi * 1000000000 + lo;
130 }
131
132 #ifdef CONFIG_PPC64
133 static inline u64 get_tb(void)
134 {
135         return mftb();
136 }
137 #else /* CONFIG_PPC64 */
138 static inline u64 get_tb(void)
139 {
140         unsigned int tbhi, tblo, tbhi2;
141
142         do {
143                 tbhi = get_tbu();
144                 tblo = get_tbl();
145                 tbhi2 = get_tbu();
146         } while (tbhi != tbhi2);
147
148         return ((u64)tbhi << 32) | tblo;
149 }
150 #endif /* !CONFIG_PPC64 */
151
152 static inline u64 get_tb_or_rtc(void)
153 {
154         return __USE_RTC() ? get_rtc() : get_tb();
155 }
156
157 static inline void set_tb(unsigned int upper, unsigned int lower)
158 {
159         mtspr(SPRN_TBWL, 0);
160         mtspr(SPRN_TBWU, upper);
161         mtspr(SPRN_TBWL, lower);
162 }
163
164 /* Accessor functions for the decrementer register.
165  * The 4xx doesn't even have a decrementer.  I tried to use the
166  * generic timer interrupt code, which seems OK, with the 4xx PIT
167  * in auto-reload mode.  The problem is PIT stops counting when it
168  * hits zero.  If it would wrap, we could use it just like a decrementer.
169  */
170 static inline unsigned int get_dec(void)
171 {
172 #if defined(CONFIG_40x)
173         return (mfspr(SPRN_PIT));
174 #else
175         return (mfspr(SPRN_DEC));
176 #endif
177 }
178
179 /*
180  * Note: Book E and 4xx processors differ from other PowerPC processors
181  * in when the decrementer generates its interrupt: on the 1 to 0
182  * transition for Book E/4xx, but on the 0 to -1 transition for others.
183  */
184 static inline void set_dec(int val)
185 {
186 #if defined(CONFIG_40x)
187         mtspr(SPRN_PIT, val);
188 #elif defined(CONFIG_8xx_CPU6)
189         set_dec_cpu6(val - 1);
190 #else
191 #ifndef CONFIG_BOOKE
192         --val;
193 #endif
194 #ifdef CONFIG_PPC_ISERIES
195         if (firmware_has_feature(FW_FEATURE_ISERIES) &&
196                         get_lppaca()->shared_proc) {
197                 get_lppaca()->virtual_decr = val;
198                 if (get_dec() > val)
199                         HvCall_setVirtualDecr();
200                 return;
201         }
202 #endif
203         mtspr(SPRN_DEC, val);
204 #endif /* not 40x or 8xx_CPU6 */
205 }
206
207 static inline unsigned long tb_ticks_since(unsigned long tstamp)
208 {
209         if (__USE_RTC()) {
210                 int delta = get_rtcl() - (unsigned int) tstamp;
211                 return delta < 0 ? delta + 1000000000 : delta;
212         }
213         return get_tbl() - tstamp;
214 }
215
216 #define mulhwu(x,y) \
217 ({unsigned z; asm ("mulhwu %0,%1,%2" : "=r" (z) : "r" (x), "r" (y)); z;})
218
219 #ifdef CONFIG_PPC64
220 #define mulhdu(x,y) \
221 ({unsigned long z; asm ("mulhdu %0,%1,%2" : "=r" (z) : "r" (x), "r" (y)); z;})
222 #else
223 extern u64 mulhdu(u64, u64);
224 #endif
225
226 extern void smp_space_timers(unsigned int);
227
228 extern unsigned mulhwu_scale_factor(unsigned, unsigned);
229 extern void div128_by_32(u64 dividend_high, u64 dividend_low,
230                          unsigned divisor, struct div_result *dr);
231
232 /* Used to store Processor Utilization register (purr) values */
233
234 struct cpu_usage {
235         u64 current_tb;  /* Holds the current purr register values */
236 };
237
238 DECLARE_PER_CPU(struct cpu_usage, cpu_usage_array);
239
240 #if defined(CONFIG_VIRT_CPU_ACCOUNTING)
241 extern void calculate_steal_time(void);
242 extern void snapshot_timebases(void);
243 #define account_process_vtime(tsk)              account_process_tick(tsk, 0)
244 #else
245 #define calculate_steal_time()                  do { } while (0)
246 #define snapshot_timebases()                    do { } while (0)
247 #define account_process_vtime(tsk)              do { } while (0)
248 #endif
249
250 extern void secondary_cpu_time_init(void);
251 extern void iSeries_time_init_early(void);
252
253 #endif /* __KERNEL__ */
254 #endif /* __POWERPC_TIME_H */