git.oblomov.eu Git - linux-2.6/blob - arch/x86_64/kernel/time.c

   1 /*
   2  *  linux/arch/x86-64/kernel/time.c
   3  *
   4  *  "High Precision Event Timer" based timekeeping.
   5  *
   6  *  Copyright (c) 1991,1992,1995  Linus Torvalds
   7  *  Copyright (c) 1994  Alan Modra
   8  *  Copyright (c) 1995  Markus Kuhn
   9  *  Copyright (c) 1996  Ingo Molnar
  10  *  Copyright (c) 1998  Andrea Arcangeli
  11  *  Copyright (c) 2002,2006  Vojtech Pavlik
  12  *  Copyright (c) 2003  Andi Kleen
  13  *  RTC support code taken from arch/i386/kernel/timers/time_hpet.c
  14  */
  15
  16 #include <linux/kernel.h>
  17 #include <linux/sched.h>
  18 #include <linux/interrupt.h>
  19 #include <linux/init.h>
  20 #include <linux/mc146818rtc.h>
  21 #include <linux/time.h>
  22 #include <linux/ioport.h>
  23 #include <linux/module.h>
  24 #include <linux/device.h>
  25 #include <linux/sysdev.h>
  26 #include <linux/bcd.h>
  27 #include <linux/notifier.h>
  28 #include <linux/cpu.h>
  29 #include <linux/kallsyms.h>
  30 #include <linux/acpi.h>
  31 #ifdef CONFIG_ACPI
  32 #include <acpi/achware.h>       /* for PM timer frequency */
  33 #include <acpi/acpi_bus.h>
  34 #endif
  35 #include <asm/8253pit.h>
  36 #include <asm/pgtable.h>
  37 #include <asm/vsyscall.h>
  38 #include <asm/timex.h>
  39 #include <asm/proto.h>
  40 #include <asm/hpet.h>
  41 #include <asm/sections.h>
  42 #include <linux/hpet.h>
  43 #include <asm/apic.h>
  44 #include <asm/hpet.h>
  45 #include <asm/mpspec.h>
  46 #include <asm/nmi.h>
  47 #include <asm/vgtod.h>
  48
  49 static char *timename = NULL;
  50
  51 DEFINE_SPINLOCK(rtc_lock);
  52 EXPORT_SYMBOL(rtc_lock);
  53 DEFINE_SPINLOCK(i8253_lock);
  54
  55 volatile unsigned long __jiffies __section_jiffies = INITIAL_JIFFIES;
  56
  57 unsigned long profile_pc(struct pt_regs *regs)
  58 {
  59         unsigned long pc = instruction_pointer(regs);
  60
  61         /* Assume the lock function has either no stack frame or a copy
  62            of eflags from PUSHF
  63            Eflags always has bits 22 and up cleared unlike kernel addresses. */
  64         if (!user_mode(regs) && in_lock_functions(pc)) {
  65                 unsigned long *sp = (unsigned long *)regs->rsp;
  66                 if (sp[0] >> 22)
  67                         return sp[0];
  68                 if (sp[1] >> 22)
  69                         return sp[1];
  70         }
  71         return pc;
  72 }
  73 EXPORT_SYMBOL(profile_pc);
  74
  75 /*
  76  * In order to set the CMOS clock precisely, set_rtc_mmss has to be called 500
  77  * ms after the second nowtime has started, because when nowtime is written
  78  * into the registers of the CMOS clock, it will jump to the next second
  79  * precisely 500 ms later. Check the Motorola MC146818A or Dallas DS12887 data
  80  * sheet for details.
  81  */
  82
  83 static void set_rtc_mmss(unsigned long nowtime)
  84 {
  85         int real_seconds, real_minutes, cmos_minutes;
  86         unsigned char control, freq_select;
  87
  88 /*
  89  * IRQs are disabled when we're called from the timer interrupt,
  90  * no need for spin_lock_irqsave()
  91  */
  92
  93         spin_lock(&rtc_lock);
  94
  95 /*
  96  * Tell the clock it's being set and stop it.
  97  */
  98
  99         control = CMOS_READ(RTC_CONTROL);
 100         CMOS_WRITE(control | RTC_SET, RTC_CONTROL);
 101
 102         freq_select = CMOS_READ(RTC_FREQ_SELECT);
 103         CMOS_WRITE(freq_select | RTC_DIV_RESET2, RTC_FREQ_SELECT);
 104
 105         cmos_minutes = CMOS_READ(RTC_MINUTES);
 106                 BCD_TO_BIN(cmos_minutes);
 107
 108 /*
 109  * since we're only adjusting minutes and seconds, don't interfere with hour
 110  * overflow. This avoids messing with unknown time zones but requires your RTC
 111  * not to be off by more than 15 minutes. Since we're calling it only when
 112  * our clock is externally synchronized using NTP, this shouldn't be a problem.
 113  */
 114
 115         real_seconds = nowtime % 60;
 116         real_minutes = nowtime / 60;
 117         if (((abs(real_minutes - cmos_minutes) + 15) / 30) & 1)
 118                 real_minutes += 30;             /* correct for half hour time zone */
 119         real_minutes %= 60;
 120
 121         if (abs(real_minutes - cmos_minutes) >= 30) {
 122                 printk(KERN_WARNING "time.c: can't update CMOS clock "
 123                        "from %d to %d\n", cmos_minutes, real_minutes);
 124         } else {
 125                 BIN_TO_BCD(real_seconds);
 126                 BIN_TO_BCD(real_minutes);
 127                 CMOS_WRITE(real_seconds, RTC_SECONDS);
 128                 CMOS_WRITE(real_minutes, RTC_MINUTES);
 129         }
 130
 131 /*
 132  * The following flags have to be released exactly in this order, otherwise the
 133  * DS12887 (popular MC146818A clone with integrated battery and quartz) will
 134  * not reset the oscillator and will not update precisely 500 ms later. You
 135  * won't find this mentioned in the Dallas Semiconductor data sheets, but who
 136  * believes data sheets anyway ... -- Markus Kuhn
 137  */
 138
 139         CMOS_WRITE(control, RTC_CONTROL);
 140         CMOS_WRITE(freq_select, RTC_FREQ_SELECT);
 141
 142         spin_unlock(&rtc_lock);
 143 }
 144
 145
 146 void main_timer_handler(void)
 147 {
 148         static unsigned long rtc_update = 0;
 149 /*
 150  * Here we are in the timer irq handler. We have irqs locally disabled (so we
 151  * don't need spin_lock_irqsave()) but we don't know if the timer_bh is running
 152  * on the other CPU, so we need a lock. We also need to lock the vsyscall
 153  * variables, because both do_timer() and us change them -arca+vojtech
 154  */
 155
 156         write_seqlock(&xtime_lock);
 157
 158 /*
 159  * Do the timer stuff.
 160  */
 161
 162         do_timer(1);
 163 #ifndef CONFIG_SMP
 164         update_process_times(user_mode(get_irq_regs()));
 165 #endif
 166
 167 /*
 168  * In the SMP case we use the local APIC timer interrupt to do the profiling,
 169  * except when we simulate SMP mode on a uniprocessor system, in that case we
 170  * have to call the local interrupt handler.
 171  */
 172
 173         if (!using_apic_timer)
 174                 smp_local_timer_interrupt();
 175
 176 /*
 177  * If we have an externally synchronized Linux clock, then update CMOS clock
 178  * accordingly every ~11 minutes. set_rtc_mmss() will be called in the jiffy
 179  * closest to exactly 500 ms before the next second. If the update fails, we
 180  * don't care, as it'll be updated on the next turn, and the problem (time way
 181  * off) isn't likely to go away much sooner anyway.
 182  */
 183
 184         if (ntp_synced() && xtime.tv_sec > rtc_update &&
 185                 abs(xtime.tv_nsec - 500000000) <= tick_nsec / 2) {
 186                 set_rtc_mmss(xtime.tv_sec);
 187                 rtc_update = xtime.tv_sec + 660;
 188         }
 189
 190         write_sequnlock(&xtime_lock);
 191 }
 192
 193 static irqreturn_t timer_interrupt(int irq, void *dev_id)
 194 {
 195         if (apic_runs_main_timer > 1)
 196                 return IRQ_HANDLED;
 197         main_timer_handler();
 198         if (using_apic_timer)
 199                 smp_send_timer_broadcast_ipi();
 200         return IRQ_HANDLED;
 201 }
 202
 203 static unsigned long get_cmos_time(void)
 204 {
 205         unsigned int year, mon, day, hour, min, sec;
 206         unsigned long flags;
 207         unsigned century = 0;
 208
 209         spin_lock_irqsave(&rtc_lock, flags);
 210
 211         do {
 212                 sec = CMOS_READ(RTC_SECONDS);
 213                 min = CMOS_READ(RTC_MINUTES);
 214                 hour = CMOS_READ(RTC_HOURS);
 215                 day = CMOS_READ(RTC_DAY_OF_MONTH);
 216                 mon = CMOS_READ(RTC_MONTH);
 217                 year = CMOS_READ(RTC_YEAR);
 218 #ifdef CONFIG_ACPI
 219                 if (acpi_gbl_FADT.header.revision >= FADT2_REVISION_ID &&
 220                                         acpi_gbl_FADT.century)
 221                         century = CMOS_READ(acpi_gbl_FADT.century);
 222 #endif
 223         } while (sec != CMOS_READ(RTC_SECONDS));
 224
 225         spin_unlock_irqrestore(&rtc_lock, flags);
 226
 227         /*
 228          * We know that x86-64 always uses BCD format, no need to check the
 229          * config register.
 230          */
 231
 232         BCD_TO_BIN(sec);
 233         BCD_TO_BIN(min);
 234         BCD_TO_BIN(hour);
 235         BCD_TO_BIN(day);
 236         BCD_TO_BIN(mon);
 237         BCD_TO_BIN(year);
 238
 239         if (century) {
 240                 BCD_TO_BIN(century);
 241                 year += century * 100;
 242                 printk(KERN_INFO "Extended CMOS year: %d\n", century * 100);
 243         } else {
 244                 /*
 245                  * x86-64 systems only exists since 2002.
 246                  * This will work up to Dec 31, 2100
 247                  */
 248                 year += 2000;
 249         }
 250
 251         return mktime(year, mon, day, hour, min, sec);
 252 }
 253
 254 /* calibrate_cpu is used on systems with fixed rate TSCs to determine
 255  * processor frequency */
 256 #define TICK_COUNT 100000000
 257 static unsigned int __init tsc_calibrate_cpu_khz(void)
 258 {
 259        int tsc_start, tsc_now;
 260        int i, no_ctr_free;
 261        unsigned long evntsel3 = 0, pmc3 = 0, pmc_now = 0;
 262        unsigned long flags;
 263
 264        for (i = 0; i < 4; i++)
 265                if (avail_to_resrv_perfctr_nmi_bit(i))
 266                        break;
 267        no_ctr_free = (i == 4);
 268        if (no_ctr_free) {
 269                i = 3;
 270                rdmsrl(MSR_K7_EVNTSEL3, evntsel3);
 271                wrmsrl(MSR_K7_EVNTSEL3, 0);
 272                rdmsrl(MSR_K7_PERFCTR3, pmc3);
 273        } else {
 274                reserve_perfctr_nmi(MSR_K7_PERFCTR0 + i);
 275                reserve_evntsel_nmi(MSR_K7_EVNTSEL0 + i);
 276        }
 277        local_irq_save(flags);
 278        /* start meauring cycles, incrementing from 0 */
 279        wrmsrl(MSR_K7_PERFCTR0 + i, 0);
 280        wrmsrl(MSR_K7_EVNTSEL0 + i, 1 << 22 | 3 << 16 | 0x76);
 281        rdtscl(tsc_start);
 282        do {
 283                rdmsrl(MSR_K7_PERFCTR0 + i, pmc_now);
 284                tsc_now = get_cycles_sync();
 285        } while ((tsc_now - tsc_start) < TICK_COUNT);
 286
 287        local_irq_restore(flags);
 288        if (no_ctr_free) {
 289                wrmsrl(MSR_K7_EVNTSEL3, 0);
 290                wrmsrl(MSR_K7_PERFCTR3, pmc3);
 291                wrmsrl(MSR_K7_EVNTSEL3, evntsel3);
 292        } else {
 293                release_perfctr_nmi(MSR_K7_PERFCTR0 + i);
 294                release_evntsel_nmi(MSR_K7_EVNTSEL0 + i);
 295        }
 296
 297        return pmc_now * tsc_khz / (tsc_now - tsc_start);
 298 }
 299
 300 /*
 301  * pit_calibrate_tsc() uses the speaker output (channel 2) of
 302  * the PIT. This is better than using the timer interrupt output,
 303  * because we can read the value of the speaker with just one inb(),
 304  * where we need three i/o operations for the interrupt channel.
 305  * We count how many ticks the TSC does in 50 ms.
 306  */
 307
 308 static unsigned int __init pit_calibrate_tsc(void)
 309 {
 310         unsigned long start, end;
 311         unsigned long flags;
 312
 313         spin_lock_irqsave(&i8253_lock, flags);
 314
 315         outb((inb(0x61) & ~0x02) | 0x01, 0x61);
 316
 317         outb(0xb0, 0x43);
 318         outb((PIT_TICK_RATE / (1000 / 50)) & 0xff, 0x42);
 319         outb((PIT_TICK_RATE / (1000 / 50)) >> 8, 0x42);
 320         start = get_cycles_sync();
 321         while ((inb(0x61) & 0x20) == 0);
 322         end = get_cycles_sync();
 323
 324         spin_unlock_irqrestore(&i8253_lock, flags);
 325
 326         return (end - start) / 50;
 327 }
 328
 329 #define PIT_MODE 0x43
 330 #define PIT_CH0  0x40
 331
 332 static void __pit_init(int val, u8 mode)
 333 {
 334         unsigned long flags;
 335
 336         spin_lock_irqsave(&i8253_lock, flags);
 337         outb_p(mode, PIT_MODE);
 338         outb_p(val & 0xff, PIT_CH0);    /* LSB */
 339         outb_p(val >> 8, PIT_CH0);      /* MSB */
 340         spin_unlock_irqrestore(&i8253_lock, flags);
 341 }
 342
 343 void __init pit_init(void)
 344 {
 345         __pit_init(LATCH, 0x34); /* binary, mode 2, LSB/MSB, ch 0 */
 346 }
 347
 348 void pit_stop_interrupt(void)
 349 {
 350         __pit_init(0, 0x30); /* mode 0 */
 351 }
 352
 353 void stop_timer_interrupt(void)
 354 {
 355         char *name;
 356         if (hpet_address) {
 357                 name = "HPET";
 358                 hpet_timer_stop_set_go(0);
 359         } else {
 360                 name = "PIT";
 361                 pit_stop_interrupt();
 362         }
 363         printk(KERN_INFO "timer: %s interrupt stopped.\n", name);
 364 }
 365
 366 static struct irqaction irq0 = {
 367         .handler        = timer_interrupt,
 368         .flags          = IRQF_DISABLED | IRQF_IRQPOLL,
 369         .mask           = CPU_MASK_NONE,
 370         .name           = "timer"
 371 };
 372
 373 void __init time_init(void)
 374 {
 375         if (nohpet)
 376                 hpet_address = 0;
 377         xtime.tv_sec = get_cmos_time();
 378         xtime.tv_nsec = 0;
 379
 380         set_normalized_timespec(&wall_to_monotonic,
 381                                 -xtime.tv_sec, -xtime.tv_nsec);
 382
 383         if (hpet_arch_init())
 384                 hpet_address = 0;
 385
 386         if (hpet_use_timer) {
 387                 /* set tick_nsec to use the proper rate for HPET */
 388                 tick_nsec = TICK_NSEC_HPET;
 389                 tsc_khz = hpet_calibrate_tsc();
 390                 timename = "HPET";
 391         } else {
 392                 pit_init();
 393                 tsc_khz = pit_calibrate_tsc();
 394                 timename = "PIT";
 395         }
 396
 397         cpu_khz = tsc_khz;
 398         if (cpu_has(&boot_cpu_data, X86_FEATURE_CONSTANT_TSC) &&
 399                 boot_cpu_data.x86_vendor == X86_VENDOR_AMD &&
 400                 boot_cpu_data.x86 == 16)
 401                 cpu_khz = tsc_calibrate_cpu_khz();
 402
 403         if (unsynchronized_tsc())
 404                 mark_tsc_unstable("TSCs unsynchronized");
 405
 406         if (cpu_has(&boot_cpu_data, X86_FEATURE_RDTSCP))
 407                 vgetcpu_mode = VGETCPU_RDTSCP;
 408         else
 409                 vgetcpu_mode = VGETCPU_LSL;
 410
 411         set_cyc2ns_scale(tsc_khz);
 412         printk(KERN_INFO "time.c: Detected %d.%03d MHz processor.\n",
 413                 cpu_khz / 1000, cpu_khz % 1000);
 414         init_tsc_clocksource();
 415
 416         setup_irq(0, &irq0);
 417 }
 418
 419
 420 static long clock_cmos_diff;
 421 static unsigned long sleep_start;
 422
 423 /*
 424  * sysfs support for the timer.
 425  */
 426
 427 static int timer_suspend(struct sys_device *dev, pm_message_t state)
 428 {
 429         /*
 430          * Estimate time zone so that set_time can update the clock
 431          */
 432         long cmos_time =  get_cmos_time();
 433
 434         clock_cmos_diff = -cmos_time;
 435         clock_cmos_diff += get_seconds();
 436         sleep_start = cmos_time;
 437         return 0;
 438 }
 439
 440 static int timer_resume(struct sys_device *dev)
 441 {
 442         unsigned long flags;
 443         unsigned long sec;
 444         unsigned long ctime = get_cmos_time();
 445         long sleep_length = (ctime - sleep_start) * HZ;
 446
 447         if (sleep_length < 0) {
 448                 printk(KERN_WARNING "Time skew detected in timer resume!\n");
 449                 /* The time after the resume must not be earlier than the time
 450                  * before the suspend or some nasty things will happen
 451                  */
 452                 sleep_length = 0;
 453                 ctime = sleep_start;
 454         }
 455         if (hpet_address)
 456                 hpet_reenable();
 457         else
 458                 i8254_timer_resume();
 459
 460         sec = ctime + clock_cmos_diff;
 461         write_seqlock_irqsave(&xtime_lock,flags);
 462         xtime.tv_sec = sec;
 463         xtime.tv_nsec = 0;
 464         jiffies += sleep_length;
 465         write_sequnlock_irqrestore(&xtime_lock,flags);
 466         touch_softlockup_watchdog();
 467         return 0;
 468 }
 469
 470 static struct sysdev_class timer_sysclass = {
 471         .resume = timer_resume,
 472         .suspend = timer_suspend,
 473         set_kset_name("timer"),
 474 };
 475
 476 /* XXX this sysfs stuff should probably go elsewhere later -john */
 477 static struct sys_device device_timer = {
 478         .id     = 0,
 479         .cls    = &timer_sysclass,
 480 };
 481
 482 static int time_init_device(void)
 483 {
 484         int error = sysdev_class_register(&timer_sysclass);
 485         if (!error)
 486                 error = sysdev_register(&device_timer);
 487         return error;
 488 }
 489
 490 device_initcall(time_init_device);