Merge git://git.kernel.org/pub/scm/linux/kernel/git/davem/net-2.6
[linux-2.6] / drivers / ide / pci / hpt366.c
1 /*
2  * Copyright (C) 1999-2003              Andre Hedrick <andre@linux-ide.org>
3  * Portions Copyright (C) 2001          Sun Microsystems, Inc.
4  * Portions Copyright (C) 2003          Red Hat Inc
5  * Portions Copyright (C) 2007          Bartlomiej Zolnierkiewicz
6  * Portions Copyright (C) 2005-2007     MontaVista Software, Inc.
7  *
8  * Thanks to HighPoint Technologies for their assistance, and hardware.
9  * Special Thanks to Jon Burchmore in SanDiego for the deep pockets, his
10  * donation of an ABit BP6 mainboard, processor, and memory acellerated
11  * development and support.
12  *
13  *
14  * HighPoint has its own drivers (open source except for the RAID part)
15  * available from http://www.highpoint-tech.com/BIOS%20+%20Driver/.
16  * This may be useful to anyone wanting to work on this driver, however  do not
17  * trust  them too much since the code tends to become less and less meaningful
18  * as the time passes... :-/
19  *
20  * Note that final HPT370 support was done by force extraction of GPL.
21  *
22  * - add function for getting/setting power status of drive
23  * - the HPT370's state machine can get confused. reset it before each dma 
24  *   xfer to prevent that from happening.
25  * - reset state engine whenever we get an error.
26  * - check for busmaster state at end of dma. 
27  * - use new highpoint timings.
28  * - detect bus speed using highpoint register.
29  * - use pll if we don't have a clock table. added a 66MHz table that's
30  *   just 2x the 33MHz table.
31  * - removed turnaround. NOTE: we never want to switch between pll and
32  *   pci clocks as the chip can glitch in those cases. the highpoint
33  *   approved workaround slows everything down too much to be useful. in
34  *   addition, we would have to serialize access to each chip.
35  *      Adrian Sun <a.sun@sun.com>
36  *
37  * add drive timings for 66MHz PCI bus,
38  * fix ATA Cable signal detection, fix incorrect /proc info
39  * add /proc display for per-drive PIO/DMA/UDMA mode and
40  * per-channel ATA-33/66 Cable detect.
41  *      Duncan Laurie <void@sun.com>
42  *
43  * fixup /proc output for multiple controllers
44  *      Tim Hockin <thockin@sun.com>
45  *
46  * On hpt366: 
47  * Reset the hpt366 on error, reset on dma
48  * Fix disabling Fast Interrupt hpt366.
49  *      Mike Waychison <crlf@sun.com>
50  *
51  * Added support for 372N clocking and clock switching. The 372N needs
52  * different clocks on read/write. This requires overloading rw_disk and
53  * other deeply crazy things. Thanks to <http://www.hoerstreich.de> for
54  * keeping me sane. 
55  *              Alan Cox <alan@redhat.com>
56  *
57  * - fix the clock turnaround code: it was writing to the wrong ports when
58  *   called for the secondary channel, caching the current clock mode per-
59  *   channel caused the cached register value to get out of sync with the
60  *   actual one, the channels weren't serialized, the turnaround shouldn't
61  *   be done on 66 MHz PCI bus
62  * - disable UltraATA/100 for HPT370 by default as the 33 MHz clock being used
63  *   does not allow for this speed anyway
64  * - avoid touching disabled channels (e.g. HPT371/N are single channel chips,
65  *   their primary channel is kind of virtual, it isn't tied to any pins)
66  * - fix/remove bad/unused timing tables and use one set of tables for the whole
67  *   HPT37x chip family; save space by introducing the separate transfer mode
68  *   table in which the mode lookup is done
69  * - use f_CNT value saved by  the HighPoint BIOS as reading it directly gives
70  *   the wrong PCI frequency since DPLL has already been calibrated by BIOS;
71  *   read it only from the function 0 of HPT374 chips
72  * - fix the hotswap code:  it caused RESET- to glitch when tristating the bus,
73  *   and for HPT36x the obsolete HDIO_TRISTATE_HWIF handler was called instead
74  * - pass to init_chipset() handlers a copy of the IDE PCI device structure as
75  *   they tamper with its fields
76  * - pass  to the init_setup handlers a copy of the ide_pci_device_t structure
77  *   since they may tamper with its fields
78  * - prefix the driver startup messages with the real chip name
79  * - claim the extra 240 bytes of I/O space for all chips
80  * - optimize the UltraDMA filtering and the drive list lookup code
81  * - use pci_get_slot() to get to the function 1 of HPT36x/374
82  * - cache offset of the channel's misc. control registers (MCRs) being used
83  *   throughout the driver
84  * - only touch the relevant MCR when detecting the cable type on HPT374's
85  *   function 1
86  * - rename all the register related variables consistently
87  * - move all the interrupt twiddling code from the speedproc handlers into
88  *   init_hwif_hpt366(), also grouping all the DMA related code together there
89  * - merge HPT36x/HPT37x speedproc handlers, fix PIO timing register mask and
90  *   separate the UltraDMA and MWDMA masks there to avoid changing PIO timings
91  *   when setting an UltraDMA mode
92  * - fix hpt3xx_tune_drive() to set the PIO mode requested, not always select
93  *   the best possible one
94  * - clean up DMA timeout handling for HPT370
95  * - switch to using the enumeration type to differ between the numerous chip
96  *   variants, matching PCI device/revision ID with the chip type early, at the
97  *   init_setup stage
98  * - extend the hpt_info structure to hold the DPLL and PCI clock frequencies,
99  *   stop duplicating it for each channel by storing the pointer in the pci_dev
100  *   structure: first, at the init_setup stage, point it to a static "template"
101  *   with only the chip type and its specific base DPLL frequency, the highest
102  *   UltraDMA mode, and the chip settings table pointer filled,  then, at the
103  *   init_chipset stage, allocate per-chip instance  and fill it with the rest
104  *   of the necessary information
105  * - get rid of the constant thresholds in the HPT37x PCI clock detection code,
106  *   switch  to calculating  PCI clock frequency based on the chip's base DPLL
107  *   frequency
108  * - switch to using the  DPLL clock and enable UltraATA/133 mode by default on
109  *   anything  newer than HPT370/A (except HPT374 that is not capable of this
110  *   mode according to the manual)
111  * - fold PCI clock detection and DPLL setup code into init_chipset_hpt366(),
112  *   also fixing the interchanged 25/40 MHz PCI clock cases for HPT36x chips;
113  *   unify HPT36x/37x timing setup code and the speedproc handlers by joining
114  *   the register setting lists into the table indexed by the clock selected
115  * - set the correct hwif->ultra_mask for each individual chip
116  * - add Ultra and MW DMA mode filtering for the HPT37[24] based SATA cards
117  *      Sergei Shtylyov, <sshtylyov@ru.mvista.com> or <source@mvista.com>
118  */
119
120 #include <linux/types.h>
121 #include <linux/module.h>
122 #include <linux/kernel.h>
123 #include <linux/delay.h>
124 #include <linux/blkdev.h>
125 #include <linux/hdreg.h>
126 #include <linux/interrupt.h>
127 #include <linux/pci.h>
128 #include <linux/init.h>
129 #include <linux/ide.h>
130
131 #include <asm/uaccess.h>
132 #include <asm/io.h>
133
134 /* various tuning parameters */
135 #define HPT_RESET_STATE_ENGINE
136 #undef  HPT_DELAY_INTERRUPT
137 #define HPT_SERIALIZE_IO        0
138
139 static const char *quirk_drives[] = {
140         "QUANTUM FIREBALLlct08 08",
141         "QUANTUM FIREBALLP KA6.4",
142         "QUANTUM FIREBALLP LM20.4",
143         "QUANTUM FIREBALLP LM20.5",
144         NULL
145 };
146
147 static const char *bad_ata100_5[] = {
148         "IBM-DTLA-307075",
149         "IBM-DTLA-307060",
150         "IBM-DTLA-307045",
151         "IBM-DTLA-307030",
152         "IBM-DTLA-307020",
153         "IBM-DTLA-307015",
154         "IBM-DTLA-305040",
155         "IBM-DTLA-305030",
156         "IBM-DTLA-305020",
157         "IC35L010AVER07-0",
158         "IC35L020AVER07-0",
159         "IC35L030AVER07-0",
160         "IC35L040AVER07-0",
161         "IC35L060AVER07-0",
162         "WDC AC310200R",
163         NULL
164 };
165
166 static const char *bad_ata66_4[] = {
167         "IBM-DTLA-307075",
168         "IBM-DTLA-307060",
169         "IBM-DTLA-307045",
170         "IBM-DTLA-307030",
171         "IBM-DTLA-307020",
172         "IBM-DTLA-307015",
173         "IBM-DTLA-305040",
174         "IBM-DTLA-305030",
175         "IBM-DTLA-305020",
176         "IC35L010AVER07-0",
177         "IC35L020AVER07-0",
178         "IC35L030AVER07-0",
179         "IC35L040AVER07-0",
180         "IC35L060AVER07-0",
181         "WDC AC310200R",
182         "MAXTOR STM3320620A",
183         NULL
184 };
185
186 static const char *bad_ata66_3[] = {
187         "WDC AC310200R",
188         NULL
189 };
190
191 static const char *bad_ata33[] = {
192         "Maxtor 92720U8", "Maxtor 92040U6", "Maxtor 91360U4", "Maxtor 91020U3", "Maxtor 90845U3", "Maxtor 90650U2",
193         "Maxtor 91360D8", "Maxtor 91190D7", "Maxtor 91020D6", "Maxtor 90845D5", "Maxtor 90680D4", "Maxtor 90510D3", "Maxtor 90340D2",
194         "Maxtor 91152D8", "Maxtor 91008D7", "Maxtor 90845D6", "Maxtor 90840D6", "Maxtor 90720D5", "Maxtor 90648D5", "Maxtor 90576D4",
195         "Maxtor 90510D4",
196         "Maxtor 90432D3", "Maxtor 90288D2", "Maxtor 90256D2",
197         "Maxtor 91000D8", "Maxtor 90910D8", "Maxtor 90875D7", "Maxtor 90840D7", "Maxtor 90750D6", "Maxtor 90625D5", "Maxtor 90500D4",
198         "Maxtor 91728D8", "Maxtor 91512D7", "Maxtor 91303D6", "Maxtor 91080D5", "Maxtor 90845D4", "Maxtor 90680D4", "Maxtor 90648D3", "Maxtor 90432D2",
199         NULL
200 };
201
202 static u8 xfer_speeds[] = {
203         XFER_UDMA_6,
204         XFER_UDMA_5,
205         XFER_UDMA_4,
206         XFER_UDMA_3,
207         XFER_UDMA_2,
208         XFER_UDMA_1,
209         XFER_UDMA_0,
210
211         XFER_MW_DMA_2,
212         XFER_MW_DMA_1,
213         XFER_MW_DMA_0,
214
215         XFER_PIO_4,
216         XFER_PIO_3,
217         XFER_PIO_2,
218         XFER_PIO_1,
219         XFER_PIO_0
220 };
221
222 /* Key for bus clock timings
223  * 36x   37x
224  * bits  bits
225  * 0:3   0:3    data_high_time. Inactive time of DIOW_/DIOR_ for PIO and MW DMA.
226  *              cycles = value + 1
227  * 4:7   4:8    data_low_time. Active time of DIOW_/DIOR_ for PIO and MW DMA.
228  *              cycles = value + 1
229  * 8:11  9:12   cmd_high_time. Inactive time of DIOW_/DIOR_ during task file
230  *              register access.
231  * 12:15 13:17  cmd_low_time. Active time of DIOW_/DIOR_ during task file
232  *              register access.
233  * 16:18 18:20  udma_cycle_time. Clock cycles for UDMA xfer.
234  * -     21     CLK frequency: 0=ATA clock, 1=dual ATA clock.
235  * 19:21 22:24  pre_high_time. Time to initialize the 1st cycle for PIO and
236  *              MW DMA xfer.
237  * 22:24 25:27  cmd_pre_high_time. Time to initialize the 1st PIO cycle for
238  *              task file register access.
239  * 28    28     UDMA enable.
240  * 29    29     DMA  enable.
241  * 30    30     PIO MST enable. If set, the chip is in bus master mode during
242  *              PIO xfer.
243  * 31    31     FIFO enable.
244  */
245
246 static u32 forty_base_hpt36x[] = {
247         /* XFER_UDMA_6 */       0x900fd943,
248         /* XFER_UDMA_5 */       0x900fd943,
249         /* XFER_UDMA_4 */       0x900fd943,
250         /* XFER_UDMA_3 */       0x900ad943,
251         /* XFER_UDMA_2 */       0x900bd943,
252         /* XFER_UDMA_1 */       0x9008d943,
253         /* XFER_UDMA_0 */       0x9008d943,
254
255         /* XFER_MW_DMA_2 */     0xa008d943,
256         /* XFER_MW_DMA_1 */     0xa010d955,
257         /* XFER_MW_DMA_0 */     0xa010d9fc,
258
259         /* XFER_PIO_4 */        0xc008d963,
260         /* XFER_PIO_3 */        0xc010d974,
261         /* XFER_PIO_2 */        0xc010d997,
262         /* XFER_PIO_1 */        0xc010d9c7,
263         /* XFER_PIO_0 */        0xc018d9d9
264 };
265
266 static u32 thirty_three_base_hpt36x[] = {
267         /* XFER_UDMA_6 */       0x90c9a731,
268         /* XFER_UDMA_5 */       0x90c9a731,
269         /* XFER_UDMA_4 */       0x90c9a731,
270         /* XFER_UDMA_3 */       0x90cfa731,
271         /* XFER_UDMA_2 */       0x90caa731,
272         /* XFER_UDMA_1 */       0x90cba731,
273         /* XFER_UDMA_0 */       0x90c8a731,
274
275         /* XFER_MW_DMA_2 */     0xa0c8a731,
276         /* XFER_MW_DMA_1 */     0xa0c8a732,     /* 0xa0c8a733 */
277         /* XFER_MW_DMA_0 */     0xa0c8a797,
278
279         /* XFER_PIO_4 */        0xc0c8a731,
280         /* XFER_PIO_3 */        0xc0c8a742,
281         /* XFER_PIO_2 */        0xc0d0a753,
282         /* XFER_PIO_1 */        0xc0d0a7a3,     /* 0xc0d0a793 */
283         /* XFER_PIO_0 */        0xc0d0a7aa      /* 0xc0d0a7a7 */
284 };
285
286 static u32 twenty_five_base_hpt36x[] = {
287         /* XFER_UDMA_6 */       0x90c98521,
288         /* XFER_UDMA_5 */       0x90c98521,
289         /* XFER_UDMA_4 */       0x90c98521,
290         /* XFER_UDMA_3 */       0x90cf8521,
291         /* XFER_UDMA_2 */       0x90cf8521,
292         /* XFER_UDMA_1 */       0x90cb8521,
293         /* XFER_UDMA_0 */       0x90cb8521,
294
295         /* XFER_MW_DMA_2 */     0xa0ca8521,
296         /* XFER_MW_DMA_1 */     0xa0ca8532,
297         /* XFER_MW_DMA_0 */     0xa0ca8575,
298
299         /* XFER_PIO_4 */        0xc0ca8521,
300         /* XFER_PIO_3 */        0xc0ca8532,
301         /* XFER_PIO_2 */        0xc0ca8542,
302         /* XFER_PIO_1 */        0xc0d08572,
303         /* XFER_PIO_0 */        0xc0d08585
304 };
305
306 #if 0
307 /* These are the timing tables from the HighPoint open source drivers... */
308 static u32 thirty_three_base_hpt37x[] = {
309         /* XFER_UDMA_6 */       0x12446231,     /* 0x12646231 ?? */
310         /* XFER_UDMA_5 */       0x12446231,
311         /* XFER_UDMA_4 */       0x12446231,
312         /* XFER_UDMA_3 */       0x126c6231,
313         /* XFER_UDMA_2 */       0x12486231,
314         /* XFER_UDMA_1 */       0x124c6233,
315         /* XFER_UDMA_0 */       0x12506297,
316
317         /* XFER_MW_DMA_2 */     0x22406c31,
318         /* XFER_MW_DMA_1 */     0x22406c33,
319         /* XFER_MW_DMA_0 */     0x22406c97,
320
321         /* XFER_PIO_4 */        0x06414e31,
322         /* XFER_PIO_3 */        0x06414e42,
323         /* XFER_PIO_2 */        0x06414e53,
324         /* XFER_PIO_1 */        0x06814e93,
325         /* XFER_PIO_0 */        0x06814ea7
326 };
327
328 static u32 fifty_base_hpt37x[] = {
329         /* XFER_UDMA_6 */       0x12848242,
330         /* XFER_UDMA_5 */       0x12848242,
331         /* XFER_UDMA_4 */       0x12ac8242,
332         /* XFER_UDMA_3 */       0x128c8242,
333         /* XFER_UDMA_2 */       0x120c8242,
334         /* XFER_UDMA_1 */       0x12148254,
335         /* XFER_UDMA_0 */       0x121882ea,
336
337         /* XFER_MW_DMA_2 */     0x22808242,
338         /* XFER_MW_DMA_1 */     0x22808254,
339         /* XFER_MW_DMA_0 */     0x228082ea,
340
341         /* XFER_PIO_4 */        0x0a81f442,
342         /* XFER_PIO_3 */        0x0a81f443,
343         /* XFER_PIO_2 */        0x0a81f454,
344         /* XFER_PIO_1 */        0x0ac1f465,
345         /* XFER_PIO_0 */        0x0ac1f48a
346 };
347
348 static u32 sixty_six_base_hpt37x[] = {
349         /* XFER_UDMA_6 */       0x1c869c62,
350         /* XFER_UDMA_5 */       0x1cae9c62,     /* 0x1c8a9c62 */
351         /* XFER_UDMA_4 */       0x1c8a9c62,
352         /* XFER_UDMA_3 */       0x1c8e9c62,
353         /* XFER_UDMA_2 */       0x1c929c62,
354         /* XFER_UDMA_1 */       0x1c9a9c62,
355         /* XFER_UDMA_0 */       0x1c829c62,
356
357         /* XFER_MW_DMA_2 */     0x2c829c62,
358         /* XFER_MW_DMA_1 */     0x2c829c66,
359         /* XFER_MW_DMA_0 */     0x2c829d2e,
360
361         /* XFER_PIO_4 */        0x0c829c62,
362         /* XFER_PIO_3 */        0x0c829c84,
363         /* XFER_PIO_2 */        0x0c829ca6,
364         /* XFER_PIO_1 */        0x0d029d26,
365         /* XFER_PIO_0 */        0x0d029d5e
366 };
367 #else
368 /*
369  * The following are the new timing tables with PIO mode data/taskfile transfer
370  * overclocking fixed...
371  */
372
373 /* This table is taken from the HPT370 data manual rev. 1.02 */
374 static u32 thirty_three_base_hpt37x[] = {
375         /* XFER_UDMA_6 */       0x16455031,     /* 0x16655031 ?? */
376         /* XFER_UDMA_5 */       0x16455031,
377         /* XFER_UDMA_4 */       0x16455031,
378         /* XFER_UDMA_3 */       0x166d5031,
379         /* XFER_UDMA_2 */       0x16495031,
380         /* XFER_UDMA_1 */       0x164d5033,
381         /* XFER_UDMA_0 */       0x16515097,
382
383         /* XFER_MW_DMA_2 */     0x26515031,
384         /* XFER_MW_DMA_1 */     0x26515033,
385         /* XFER_MW_DMA_0 */     0x26515097,
386
387         /* XFER_PIO_4 */        0x06515021,
388         /* XFER_PIO_3 */        0x06515022,
389         /* XFER_PIO_2 */        0x06515033,
390         /* XFER_PIO_1 */        0x06915065,
391         /* XFER_PIO_0 */        0x06d1508a
392 };
393
394 static u32 fifty_base_hpt37x[] = {
395         /* XFER_UDMA_6 */       0x1a861842,
396         /* XFER_UDMA_5 */       0x1a861842,
397         /* XFER_UDMA_4 */       0x1aae1842,
398         /* XFER_UDMA_3 */       0x1a8e1842,
399         /* XFER_UDMA_2 */       0x1a0e1842,
400         /* XFER_UDMA_1 */       0x1a161854,
401         /* XFER_UDMA_0 */       0x1a1a18ea,
402
403         /* XFER_MW_DMA_2 */     0x2a821842,
404         /* XFER_MW_DMA_1 */     0x2a821854,
405         /* XFER_MW_DMA_0 */     0x2a8218ea,
406
407         /* XFER_PIO_4 */        0x0a821842,
408         /* XFER_PIO_3 */        0x0a821843,
409         /* XFER_PIO_2 */        0x0a821855,
410         /* XFER_PIO_1 */        0x0ac218a8,
411         /* XFER_PIO_0 */        0x0b02190c
412 };
413
414 static u32 sixty_six_base_hpt37x[] = {
415         /* XFER_UDMA_6 */       0x1c86fe62,
416         /* XFER_UDMA_5 */       0x1caefe62,     /* 0x1c8afe62 */
417         /* XFER_UDMA_4 */       0x1c8afe62,
418         /* XFER_UDMA_3 */       0x1c8efe62,
419         /* XFER_UDMA_2 */       0x1c92fe62,
420         /* XFER_UDMA_1 */       0x1c9afe62,
421         /* XFER_UDMA_0 */       0x1c82fe62,
422
423         /* XFER_MW_DMA_2 */     0x2c82fe62,
424         /* XFER_MW_DMA_1 */     0x2c82fe66,
425         /* XFER_MW_DMA_0 */     0x2c82ff2e,
426
427         /* XFER_PIO_4 */        0x0c82fe62,
428         /* XFER_PIO_3 */        0x0c82fe84,
429         /* XFER_PIO_2 */        0x0c82fea6,
430         /* XFER_PIO_1 */        0x0d02ff26,
431         /* XFER_PIO_0 */        0x0d42ff7f
432 };
433 #endif
434
435 #define HPT366_DEBUG_DRIVE_INFO         0
436 #define HPT371_ALLOW_ATA133_6           1
437 #define HPT302_ALLOW_ATA133_6           1
438 #define HPT372_ALLOW_ATA133_6           1
439 #define HPT370_ALLOW_ATA100_5           0
440 #define HPT366_ALLOW_ATA66_4            1
441 #define HPT366_ALLOW_ATA66_3            1
442 #define HPT366_MAX_DEVS                 8
443
444 /* Supported ATA clock frequencies */
445 enum ata_clock {
446         ATA_CLOCK_25MHZ,
447         ATA_CLOCK_33MHZ,
448         ATA_CLOCK_40MHZ,
449         ATA_CLOCK_50MHZ,
450         ATA_CLOCK_66MHZ,
451         NUM_ATA_CLOCKS
452 };
453
454 struct hpt_timings {
455         u32 pio_mask;
456         u32 dma_mask;
457         u32 ultra_mask;
458         u32 *clock_table[NUM_ATA_CLOCKS];
459 };
460
461 /*
462  *      Hold all the HighPoint chip information in one place.
463  */
464
465 struct hpt_info {
466         char *chip_name;        /* Chip name */
467         u8 chip_type;           /* Chip type */
468         u8 udma_mask;           /* Allowed UltraDMA modes mask. */
469         u8 dpll_clk;            /* DPLL clock in MHz */
470         u8 pci_clk;             /* PCI  clock in MHz */
471         struct hpt_timings *timings; /* Chipset timing data */
472         u8 clock;               /* ATA clock selected */
473 };
474
475 /* Supported HighPoint chips */
476 enum {
477         HPT36x,
478         HPT370,
479         HPT370A,
480         HPT374,
481         HPT372,
482         HPT372A,
483         HPT302,
484         HPT371,
485         HPT372N,
486         HPT302N,
487         HPT371N
488 };
489
490 static struct hpt_timings hpt36x_timings = {
491         .pio_mask       = 0xc1f8ffff,
492         .dma_mask       = 0x303800ff,
493         .ultra_mask     = 0x30070000,
494         .clock_table    = {
495                 [ATA_CLOCK_25MHZ] = twenty_five_base_hpt36x,
496                 [ATA_CLOCK_33MHZ] = thirty_three_base_hpt36x,
497                 [ATA_CLOCK_40MHZ] = forty_base_hpt36x,
498                 [ATA_CLOCK_50MHZ] = NULL,
499                 [ATA_CLOCK_66MHZ] = NULL
500         }
501 };
502
503 static struct hpt_timings hpt37x_timings = {
504         .pio_mask       = 0xcfc3ffff,
505         .dma_mask       = 0x31c001ff,
506         .ultra_mask     = 0x303c0000,
507         .clock_table    = {
508                 [ATA_CLOCK_25MHZ] = NULL,
509                 [ATA_CLOCK_33MHZ] = thirty_three_base_hpt37x,
510                 [ATA_CLOCK_40MHZ] = NULL,
511                 [ATA_CLOCK_50MHZ] = fifty_base_hpt37x,
512                 [ATA_CLOCK_66MHZ] = sixty_six_base_hpt37x
513         }
514 };
515
516 static const struct hpt_info hpt36x __devinitdata = {
517         .chip_name      = "HPT36x",
518         .chip_type      = HPT36x,
519         .udma_mask      = HPT366_ALLOW_ATA66_3 ? (HPT366_ALLOW_ATA66_4 ? ATA_UDMA4 : ATA_UDMA3) : ATA_UDMA2,
520         .dpll_clk       = 0,    /* no DPLL */
521         .timings        = &hpt36x_timings
522 };
523
524 static const struct hpt_info hpt370 __devinitdata = {
525         .chip_name      = "HPT370",
526         .chip_type      = HPT370,
527         .udma_mask      = HPT370_ALLOW_ATA100_5 ? ATA_UDMA5 : ATA_UDMA4,
528         .dpll_clk       = 48,
529         .timings        = &hpt37x_timings
530 };
531
532 static const struct hpt_info hpt370a __devinitdata = {
533         .chip_name      = "HPT370A",
534         .chip_type      = HPT370A,
535         .udma_mask      = HPT370_ALLOW_ATA100_5 ? ATA_UDMA5 : ATA_UDMA4,
536         .dpll_clk       = 48,
537         .timings        = &hpt37x_timings
538 };
539
540 static const struct hpt_info hpt374 __devinitdata = {
541         .chip_name      = "HPT374",
542         .chip_type      = HPT374,
543         .udma_mask      = ATA_UDMA5,
544         .dpll_clk       = 48,
545         .timings        = &hpt37x_timings
546 };
547
548 static const struct hpt_info hpt372 __devinitdata = {
549         .chip_name      = "HPT372",
550         .chip_type      = HPT372,
551         .udma_mask      = HPT372_ALLOW_ATA133_6 ? ATA_UDMA6 : ATA_UDMA5,
552         .dpll_clk       = 55,
553         .timings        = &hpt37x_timings
554 };
555
556 static const struct hpt_info hpt372a __devinitdata = {
557         .chip_name      = "HPT372A",
558         .chip_type      = HPT372A,
559         .udma_mask      = HPT372_ALLOW_ATA133_6 ? ATA_UDMA6 : ATA_UDMA5,
560         .dpll_clk       = 66,
561         .timings        = &hpt37x_timings
562 };
563
564 static const struct hpt_info hpt302 __devinitdata = {
565         .chip_name      = "HPT302",
566         .chip_type      = HPT302,
567         .udma_mask      = HPT302_ALLOW_ATA133_6 ? ATA_UDMA6 : ATA_UDMA5,
568         .dpll_clk       = 66,
569         .timings        = &hpt37x_timings
570 };
571
572 static const struct hpt_info hpt371 __devinitdata = {
573         .chip_name      = "HPT371",
574         .chip_type      = HPT371,
575         .udma_mask      = HPT371_ALLOW_ATA133_6 ? ATA_UDMA6 : ATA_UDMA5,
576         .dpll_clk       = 66,
577         .timings        = &hpt37x_timings
578 };
579
580 static const struct hpt_info hpt372n __devinitdata = {
581         .chip_name      = "HPT372N",
582         .chip_type      = HPT372N,
583         .udma_mask      = HPT372_ALLOW_ATA133_6 ? ATA_UDMA6 : ATA_UDMA5,
584         .dpll_clk       = 77,
585         .timings        = &hpt37x_timings
586 };
587
588 static const struct hpt_info hpt302n __devinitdata = {
589         .chip_name      = "HPT302N",
590         .chip_type      = HPT302N,
591         .udma_mask      = HPT302_ALLOW_ATA133_6 ? ATA_UDMA6 : ATA_UDMA5,
592         .dpll_clk       = 77,
593         .timings        = &hpt37x_timings
594 };
595
596 static const struct hpt_info hpt371n __devinitdata = {
597         .chip_name      = "HPT371N",
598         .chip_type      = HPT371N,
599         .udma_mask      = HPT371_ALLOW_ATA133_6 ? ATA_UDMA6 : ATA_UDMA5,
600         .dpll_clk       = 77,
601         .timings        = &hpt37x_timings
602 };
603
604 static int check_in_drive_list(ide_drive_t *drive, const char **list)
605 {
606         struct hd_driveid *id = drive->id;
607
608         while (*list)
609                 if (!strcmp(*list++,id->model))
610                         return 1;
611         return 0;
612 }
613
614 /*
615  * The Marvell bridge chips used on the HighPoint SATA cards do not seem
616  * to support the UltraDMA modes 1, 2, and 3 as well as any MWDMA modes...
617  */
618
619 static u8 hpt3xx_udma_filter(ide_drive_t *drive)
620 {
621         ide_hwif_t *hwif        = HWIF(drive);
622         struct pci_dev *dev     = to_pci_dev(hwif->dev);
623         struct hpt_info *info   = pci_get_drvdata(dev);
624         u8 mask                 = hwif->ultra_mask;
625
626         switch (info->chip_type) {
627         case HPT36x:
628                 if (!HPT366_ALLOW_ATA66_4 ||
629                     check_in_drive_list(drive, bad_ata66_4))
630                         mask = ATA_UDMA3;
631
632                 if (!HPT366_ALLOW_ATA66_3 ||
633                     check_in_drive_list(drive, bad_ata66_3))
634                         mask = ATA_UDMA2;
635                 break;
636         case HPT370:
637                 if (!HPT370_ALLOW_ATA100_5 ||
638                     check_in_drive_list(drive, bad_ata100_5))
639                         mask = ATA_UDMA4;
640                 break;
641         case HPT370A:
642                 if (!HPT370_ALLOW_ATA100_5 ||
643                     check_in_drive_list(drive, bad_ata100_5))
644                         return ATA_UDMA4;
645         case HPT372 :
646         case HPT372A:
647         case HPT372N:
648         case HPT374 :
649                 if (ide_dev_is_sata(drive->id))
650                         mask &= ~0x0e;
651                 /* Fall thru */
652         default:
653                 return mask;
654         }
655
656         return check_in_drive_list(drive, bad_ata33) ? 0x00 : mask;
657 }
658
659 static u8 hpt3xx_mdma_filter(ide_drive_t *drive)
660 {
661         ide_hwif_t *hwif        = HWIF(drive);
662         struct pci_dev *dev     = to_pci_dev(hwif->dev);
663         struct hpt_info *info   = pci_get_drvdata(dev);
664
665         switch (info->chip_type) {
666         case HPT372 :
667         case HPT372A:
668         case HPT372N:
669         case HPT374 :
670                 if (ide_dev_is_sata(drive->id))
671                         return 0x00;
672                 /* Fall thru */
673         default:
674                 return 0x07;
675         }
676 }
677
678 static u32 get_speed_setting(u8 speed, struct hpt_info *info)
679 {
680         int i;
681
682         /*
683          * Lookup the transfer mode table to get the index into
684          * the timing table.
685          *
686          * NOTE: For XFER_PIO_SLOW, PIO mode 0 timings will be used.
687          */
688         for (i = 0; i < ARRAY_SIZE(xfer_speeds) - 1; i++)
689                 if (xfer_speeds[i] == speed)
690                         break;
691
692         return info->timings->clock_table[info->clock][i];
693 }
694
695 static void hpt3xx_set_mode(ide_drive_t *drive, const u8 speed)
696 {
697         struct pci_dev  *dev    = to_pci_dev(drive->hwif->dev);
698         struct hpt_info *info   = pci_get_drvdata(dev);
699         struct hpt_timings *t   = info->timings;
700         u8  itr_addr            = 0x40 + (drive->dn * 4);
701         u32 old_itr             = 0;
702         u32 new_itr             = get_speed_setting(speed, info);
703         u32 itr_mask            = speed < XFER_MW_DMA_0 ? t->pio_mask :
704                                  (speed < XFER_UDMA_0   ? t->dma_mask :
705                                                           t->ultra_mask);
706
707         pci_read_config_dword(dev, itr_addr, &old_itr);
708         new_itr = (old_itr & ~itr_mask) | (new_itr & itr_mask);
709         /*
710          * Disable on-chip PIO FIFO/buffer (and PIO MST mode as well)
711          * to avoid problems handling I/O errors later
712          */
713         new_itr &= ~0xc0000000;
714
715         pci_write_config_dword(dev, itr_addr, new_itr);
716 }
717
718 static void hpt3xx_set_pio_mode(ide_drive_t *drive, const u8 pio)
719 {
720         hpt3xx_set_mode(drive, XFER_PIO_0 + pio);
721 }
722
723 static void hpt3xx_quirkproc(ide_drive_t *drive)
724 {
725         struct hd_driveid *id   = drive->id;
726         const  char **list      = quirk_drives;
727
728         while (*list)
729                 if (strstr(id->model, *list++)) {
730                         drive->quirk_list = 1;
731                         return;
732                 }
733
734         drive->quirk_list = 0;
735 }
736
737 static void hpt3xx_maskproc(ide_drive_t *drive, int mask)
738 {
739         ide_hwif_t *hwif        = HWIF(drive);
740         struct pci_dev  *dev    = to_pci_dev(hwif->dev);
741         struct hpt_info *info   = pci_get_drvdata(dev);
742
743         if (drive->quirk_list) {
744                 if (info->chip_type >= HPT370) {
745                         u8 scr1 = 0;
746
747                         pci_read_config_byte(dev, 0x5a, &scr1);
748                         if (((scr1 & 0x10) >> 4) != mask) {
749                                 if (mask)
750                                         scr1 |=  0x10;
751                                 else
752                                         scr1 &= ~0x10;
753                                 pci_write_config_byte(dev, 0x5a, scr1);
754                         }
755                 } else {
756                         if (mask)
757                                 disable_irq(hwif->irq);
758                         else
759                                 enable_irq (hwif->irq);
760                 }
761         } else
762                 outb(mask ? (drive->ctl | 2) : (drive->ctl & ~2),
763                      hwif->io_ports.ctl_addr);
764 }
765
766 /*
767  * This is specific to the HPT366 UDMA chipset
768  * by HighPoint|Triones Technologies, Inc.
769  */
770 static void hpt366_dma_lost_irq(ide_drive_t *drive)
771 {
772         struct pci_dev *dev = to_pci_dev(drive->hwif->dev);
773         u8 mcr1 = 0, mcr3 = 0, scr1 = 0;
774
775         pci_read_config_byte(dev, 0x50, &mcr1);
776         pci_read_config_byte(dev, 0x52, &mcr3);
777         pci_read_config_byte(dev, 0x5a, &scr1);
778         printk("%s: (%s)  mcr1=0x%02x, mcr3=0x%02x, scr1=0x%02x\n",
779                 drive->name, __func__, mcr1, mcr3, scr1);
780         if (scr1 & 0x10)
781                 pci_write_config_byte(dev, 0x5a, scr1 & ~0x10);
782         ide_dma_lost_irq(drive);
783 }
784
785 static void hpt370_clear_engine(ide_drive_t *drive)
786 {
787         ide_hwif_t *hwif = HWIF(drive);
788         struct pci_dev *dev = to_pci_dev(hwif->dev);
789
790         pci_write_config_byte(dev, hwif->select_data, 0x37);
791         udelay(10);
792 }
793
794 static void hpt370_irq_timeout(ide_drive_t *drive)
795 {
796         ide_hwif_t *hwif        = HWIF(drive);
797         struct pci_dev *dev     = to_pci_dev(hwif->dev);
798         u16 bfifo               = 0;
799         u8  dma_cmd;
800
801         pci_read_config_word(dev, hwif->select_data + 2, &bfifo);
802         printk(KERN_DEBUG "%s: %d bytes in FIFO\n", drive->name, bfifo & 0x1ff);
803
804         /* get DMA command mode */
805         dma_cmd = inb(hwif->dma_command);
806         /* stop DMA */
807         outb(dma_cmd & ~0x1, hwif->dma_command);
808         hpt370_clear_engine(drive);
809 }
810
811 static void hpt370_dma_start(ide_drive_t *drive)
812 {
813 #ifdef HPT_RESET_STATE_ENGINE
814         hpt370_clear_engine(drive);
815 #endif
816         ide_dma_start(drive);
817 }
818
819 static int hpt370_dma_end(ide_drive_t *drive)
820 {
821         ide_hwif_t *hwif        = HWIF(drive);
822         u8  dma_stat            = inb(hwif->dma_status);
823
824         if (dma_stat & 0x01) {
825                 /* wait a little */
826                 udelay(20);
827                 dma_stat = inb(hwif->dma_status);
828                 if (dma_stat & 0x01)
829                         hpt370_irq_timeout(drive);
830         }
831         return __ide_dma_end(drive);
832 }
833
834 static void hpt370_dma_timeout(ide_drive_t *drive)
835 {
836         hpt370_irq_timeout(drive);
837         ide_dma_timeout(drive);
838 }
839
840 /* returns 1 if DMA IRQ issued, 0 otherwise */
841 static int hpt374_dma_test_irq(ide_drive_t *drive)
842 {
843         ide_hwif_t *hwif        = HWIF(drive);
844         struct pci_dev *dev     = to_pci_dev(hwif->dev);
845         u16 bfifo               = 0;
846         u8  dma_stat;
847
848         pci_read_config_word(dev, hwif->select_data + 2, &bfifo);
849         if (bfifo & 0x1FF) {
850 //              printk("%s: %d bytes in FIFO\n", drive->name, bfifo);
851                 return 0;
852         }
853
854         dma_stat = inb(hwif->dma_status);
855         /* return 1 if INTR asserted */
856         if (dma_stat & 4)
857                 return 1;
858
859         if (!drive->waiting_for_dma)
860                 printk(KERN_WARNING "%s: (%s) called while not waiting\n",
861                                 drive->name, __func__);
862         return 0;
863 }
864
865 static int hpt374_dma_end(ide_drive_t *drive)
866 {
867         ide_hwif_t *hwif        = HWIF(drive);
868         struct pci_dev *dev     = to_pci_dev(hwif->dev);
869         u8 mcr  = 0, mcr_addr   = hwif->select_data;
870         u8 bwsr = 0, mask       = hwif->channel ? 0x02 : 0x01;
871
872         pci_read_config_byte(dev, 0x6a, &bwsr);
873         pci_read_config_byte(dev, mcr_addr, &mcr);
874         if (bwsr & mask)
875                 pci_write_config_byte(dev, mcr_addr, mcr | 0x30);
876         return __ide_dma_end(drive);
877 }
878
879 /**
880  *      hpt3xxn_set_clock       -       perform clock switching dance
881  *      @hwif: hwif to switch
882  *      @mode: clocking mode (0x21 for write, 0x23 otherwise)
883  *
884  *      Switch the DPLL clock on the HPT3xxN devices. This is a right mess.
885  */
886
887 static void hpt3xxn_set_clock(ide_hwif_t *hwif, u8 mode)
888 {
889         unsigned long base = hwif->extra_base;
890         u8 scr2 = inb(base + 0x6b);
891
892         if ((scr2 & 0x7f) == mode)
893                 return;
894
895         /* Tristate the bus */
896         outb(0x80, base + 0x63);
897         outb(0x80, base + 0x67);
898
899         /* Switch clock and reset channels */
900         outb(mode, base + 0x6b);
901         outb(0xc0, base + 0x69);
902
903         /*
904          * Reset the state machines.
905          * NOTE: avoid accidentally enabling the disabled channels.
906          */
907         outb(inb(base + 0x60) | 0x32, base + 0x60);
908         outb(inb(base + 0x64) | 0x32, base + 0x64);
909
910         /* Complete reset */
911         outb(0x00, base + 0x69);
912
913         /* Reconnect channels to bus */
914         outb(0x00, base + 0x63);
915         outb(0x00, base + 0x67);
916 }
917
918 /**
919  *      hpt3xxn_rw_disk         -       prepare for I/O
920  *      @drive: drive for command
921  *      @rq: block request structure
922  *
923  *      This is called when a disk I/O is issued to HPT3xxN.
924  *      We need it because of the clock switching.
925  */
926
927 static void hpt3xxn_rw_disk(ide_drive_t *drive, struct request *rq)
928 {
929         hpt3xxn_set_clock(HWIF(drive), rq_data_dir(rq) ? 0x23 : 0x21);
930 }
931
932 /**
933  *      hpt37x_calibrate_dpll   -       calibrate the DPLL
934  *      @dev: PCI device
935  *
936  *      Perform a calibration cycle on the DPLL.
937  *      Returns 1 if this succeeds
938  */
939 static int __devinit hpt37x_calibrate_dpll(struct pci_dev *dev, u16 f_low, u16 f_high)
940 {
941         u32 dpll = (f_high << 16) | f_low | 0x100;
942         u8  scr2;
943         int i;
944
945         pci_write_config_dword(dev, 0x5c, dpll);
946
947         /* Wait for oscillator ready */
948         for(i = 0; i < 0x5000; ++i) {
949                 udelay(50);
950                 pci_read_config_byte(dev, 0x5b, &scr2);
951                 if (scr2 & 0x80)
952                         break;
953         }
954         /* See if it stays ready (we'll just bail out if it's not yet) */
955         for(i = 0; i < 0x1000; ++i) {
956                 pci_read_config_byte(dev, 0x5b, &scr2);
957                 /* DPLL destabilized? */
958                 if(!(scr2 & 0x80))
959                         return 0;
960         }
961         /* Turn off tuning, we have the DPLL set */
962         pci_read_config_dword (dev, 0x5c, &dpll);
963         pci_write_config_dword(dev, 0x5c, (dpll & ~0x100));
964         return 1;
965 }
966
967 static unsigned int __devinit init_chipset_hpt366(struct pci_dev *dev, const char *name)
968 {
969         struct hpt_info *info   = kmalloc(sizeof(struct hpt_info), GFP_KERNEL);
970         unsigned long io_base   = pci_resource_start(dev, 4);
971         u8 pci_clk,  dpll_clk   = 0;    /* PCI and DPLL clock in MHz */
972         u8 chip_type;
973         enum ata_clock  clock;
974
975         if (info == NULL) {
976                 printk(KERN_ERR "%s: out of memory!\n", name);
977                 return -ENOMEM;
978         }
979
980         /*
981          * Copy everything from a static "template" structure
982          * to just allocated per-chip hpt_info structure.
983          */
984         memcpy(info, pci_get_drvdata(dev), sizeof(struct hpt_info));
985         chip_type = info->chip_type;
986
987         pci_write_config_byte(dev, PCI_CACHE_LINE_SIZE, (L1_CACHE_BYTES / 4));
988         pci_write_config_byte(dev, PCI_LATENCY_TIMER, 0x78);
989         pci_write_config_byte(dev, PCI_MIN_GNT, 0x08);
990         pci_write_config_byte(dev, PCI_MAX_LAT, 0x08);
991
992         /*
993          * First, try to estimate the PCI clock frequency...
994          */
995         if (chip_type >= HPT370) {
996                 u8  scr1  = 0;
997                 u16 f_cnt = 0;
998                 u32 temp  = 0;
999
1000                 /* Interrupt force enable. */
1001                 pci_read_config_byte(dev, 0x5a, &scr1);
1002                 if (scr1 & 0x10)
1003                         pci_write_config_byte(dev, 0x5a, scr1 & ~0x10);
1004
1005                 /*
1006                  * HighPoint does this for HPT372A.
1007                  * NOTE: This register is only writeable via I/O space.
1008                  */
1009                 if (chip_type == HPT372A)
1010                         outb(0x0e, io_base + 0x9c);
1011
1012                 /*
1013                  * Default to PCI clock. Make sure MA15/16 are set to output
1014                  * to prevent drives having problems with 40-pin cables.
1015                  */
1016                 pci_write_config_byte(dev, 0x5b, 0x23);
1017
1018                 /*
1019                  * We'll have to read f_CNT value in order to determine
1020                  * the PCI clock frequency according to the following ratio:
1021                  *
1022                  * f_CNT = Fpci * 192 / Fdpll
1023                  *
1024                  * First try reading the register in which the HighPoint BIOS
1025                  * saves f_CNT value before  reprogramming the DPLL from its
1026                  * default setting (which differs for the various chips).
1027                  *
1028                  * NOTE: This register is only accessible via I/O space;
1029                  * HPT374 BIOS only saves it for the function 0, so we have to
1030                  * always read it from there -- no need to check the result of
1031                  * pci_get_slot() for the function 0 as the whole device has
1032                  * been already "pinned" (via function 1) in init_setup_hpt374()
1033                  */
1034                 if (chip_type == HPT374 && (PCI_FUNC(dev->devfn) & 1)) {
1035                         struct pci_dev  *dev1 = pci_get_slot(dev->bus,
1036                                                              dev->devfn - 1);
1037                         unsigned long io_base = pci_resource_start(dev1, 4);
1038
1039                         temp =  inl(io_base + 0x90);
1040                         pci_dev_put(dev1);
1041                 } else
1042                         temp =  inl(io_base + 0x90);
1043
1044                 /*
1045                  * In case the signature check fails, we'll have to
1046                  * resort to reading the f_CNT register itself in hopes
1047                  * that nobody has touched the DPLL yet...
1048                  */
1049                 if ((temp & 0xFFFFF000) != 0xABCDE000) {
1050                         int i;
1051
1052                         printk(KERN_WARNING "%s: no clock data saved by BIOS\n",
1053                                name);
1054
1055                         /* Calculate the average value of f_CNT. */
1056                         for (temp = i = 0; i < 128; i++) {
1057                                 pci_read_config_word(dev, 0x78, &f_cnt);
1058                                 temp += f_cnt & 0x1ff;
1059                                 mdelay(1);
1060                         }
1061                         f_cnt = temp / 128;
1062                 } else
1063                         f_cnt = temp & 0x1ff;
1064
1065                 dpll_clk = info->dpll_clk;
1066                 pci_clk  = (f_cnt * dpll_clk) / 192;
1067
1068                 /* Clamp PCI clock to bands. */
1069                 if (pci_clk < 40)
1070                         pci_clk = 33;
1071                 else if(pci_clk < 45)
1072                         pci_clk = 40;
1073                 else if(pci_clk < 55)
1074                         pci_clk = 50;
1075                 else
1076                         pci_clk = 66;
1077
1078                 printk(KERN_INFO "%s: DPLL base: %d MHz, f_CNT: %d, "
1079                        "assuming %d MHz PCI\n", name, dpll_clk, f_cnt, pci_clk);
1080         } else {
1081                 u32 itr1 = 0;
1082
1083                 pci_read_config_dword(dev, 0x40, &itr1);
1084
1085                 /* Detect PCI clock by looking at cmd_high_time. */
1086                 switch((itr1 >> 8) & 0x07) {
1087                         case 0x09:
1088                                 pci_clk = 40;
1089                                 break;
1090                         case 0x05:
1091                                 pci_clk = 25;
1092                                 break;
1093                         case 0x07:
1094                         default:
1095                                 pci_clk = 33;
1096                                 break;
1097                 }
1098         }
1099
1100         /* Let's assume we'll use PCI clock for the ATA clock... */
1101         switch (pci_clk) {
1102                 case 25:
1103                         clock = ATA_CLOCK_25MHZ;
1104                         break;
1105                 case 33:
1106                 default:
1107                         clock = ATA_CLOCK_33MHZ;
1108                         break;
1109                 case 40:
1110                         clock = ATA_CLOCK_40MHZ;
1111                         break;
1112                 case 50:
1113                         clock = ATA_CLOCK_50MHZ;
1114                         break;
1115                 case 66:
1116                         clock = ATA_CLOCK_66MHZ;
1117                         break;
1118         }
1119
1120         /*
1121          * Only try the DPLL if we don't have a table for the PCI clock that
1122          * we are running at for HPT370/A, always use it  for anything newer...
1123          *
1124          * NOTE: Using the internal DPLL results in slow reads on 33 MHz PCI.
1125          * We also  don't like using  the DPLL because this causes glitches
1126          * on PRST-/SRST- when the state engine gets reset...
1127          */
1128         if (chip_type >= HPT374 || info->timings->clock_table[clock] == NULL) {
1129                 u16 f_low, delta = pci_clk < 50 ? 2 : 4;
1130                 int adjust;
1131
1132                  /*
1133                   * Select 66 MHz DPLL clock only if UltraATA/133 mode is
1134                   * supported/enabled, use 50 MHz DPLL clock otherwise...
1135                   */
1136                 if (info->udma_mask == ATA_UDMA6) {
1137                         dpll_clk = 66;
1138                         clock = ATA_CLOCK_66MHZ;
1139                 } else if (dpll_clk) {  /* HPT36x chips don't have DPLL */
1140                         dpll_clk = 50;
1141                         clock = ATA_CLOCK_50MHZ;
1142                 }
1143
1144                 if (info->timings->clock_table[clock] == NULL) {
1145                         printk(KERN_ERR "%s: unknown bus timing!\n", name);
1146                         kfree(info);
1147                         return -EIO;
1148                 }
1149
1150                 /* Select the DPLL clock. */
1151                 pci_write_config_byte(dev, 0x5b, 0x21);
1152
1153                 /*
1154                  * Adjust the DPLL based upon PCI clock, enable it,
1155                  * and wait for stabilization...
1156                  */
1157                 f_low = (pci_clk * 48) / dpll_clk;
1158
1159                 for (adjust = 0; adjust < 8; adjust++) {
1160                         if(hpt37x_calibrate_dpll(dev, f_low, f_low + delta))
1161                                 break;
1162
1163                         /*
1164                          * See if it'll settle at a fractionally different clock
1165                          */
1166                         if (adjust & 1)
1167                                 f_low -= adjust >> 1;
1168                         else
1169                                 f_low += adjust >> 1;
1170                 }
1171                 if (adjust == 8) {
1172                         printk(KERN_ERR "%s: DPLL did not stabilize!\n", name);
1173                         kfree(info);
1174                         return -EIO;
1175                 }
1176
1177                 printk("%s: using %d MHz DPLL clock\n", name, dpll_clk);
1178         } else {
1179                 /* Mark the fact that we're not using the DPLL. */
1180                 dpll_clk = 0;
1181
1182                 printk("%s: using %d MHz PCI clock\n", name, pci_clk);
1183         }
1184
1185         /* Store the clock frequencies. */
1186         info->dpll_clk  = dpll_clk;
1187         info->pci_clk   = pci_clk;
1188         info->clock     = clock;
1189
1190         /* Point to this chip's own instance of the hpt_info structure. */
1191         pci_set_drvdata(dev, info);
1192
1193         if (chip_type >= HPT370) {
1194                 u8  mcr1, mcr4;
1195
1196                 /*
1197                  * Reset the state engines.
1198                  * NOTE: Avoid accidentally enabling the disabled channels.
1199                  */
1200                 pci_read_config_byte (dev, 0x50, &mcr1);
1201                 pci_read_config_byte (dev, 0x54, &mcr4);
1202                 pci_write_config_byte(dev, 0x50, (mcr1 | 0x32));
1203                 pci_write_config_byte(dev, 0x54, (mcr4 | 0x32));
1204                 udelay(100);
1205         }
1206
1207         /*
1208          * On  HPT371N, if ATA clock is 66 MHz we must set bit 2 in
1209          * the MISC. register to stretch the UltraDMA Tss timing.
1210          * NOTE: This register is only writeable via I/O space.
1211          */
1212         if (chip_type == HPT371N && clock == ATA_CLOCK_66MHZ)
1213
1214                 outb(inb(io_base + 0x9c) | 0x04, io_base + 0x9c);
1215
1216         return dev->irq;
1217 }
1218
1219 static u8 __devinit hpt3xx_cable_detect(ide_hwif_t *hwif)
1220 {
1221         struct pci_dev  *dev    = to_pci_dev(hwif->dev);
1222         struct hpt_info *info   = pci_get_drvdata(dev);
1223         u8 chip_type            = info->chip_type;
1224         u8 scr1 = 0, ata66      = hwif->channel ? 0x01 : 0x02;
1225
1226         /*
1227          * The HPT37x uses the CBLID pins as outputs for MA15/MA16
1228          * address lines to access an external EEPROM.  To read valid
1229          * cable detect state the pins must be enabled as inputs.
1230          */
1231         if (chip_type == HPT374 && (PCI_FUNC(dev->devfn) & 1)) {
1232                 /*
1233                  * HPT374 PCI function 1
1234                  * - set bit 15 of reg 0x52 to enable TCBLID as input
1235                  * - set bit 15 of reg 0x56 to enable FCBLID as input
1236                  */
1237                 u8  mcr_addr = hwif->select_data + 2;
1238                 u16 mcr;
1239
1240                 pci_read_config_word(dev, mcr_addr, &mcr);
1241                 pci_write_config_word(dev, mcr_addr, (mcr | 0x8000));
1242                 /* now read cable id register */
1243                 pci_read_config_byte(dev, 0x5a, &scr1);
1244                 pci_write_config_word(dev, mcr_addr, mcr);
1245         } else if (chip_type >= HPT370) {
1246                 /*
1247                  * HPT370/372 and 374 pcifn 0
1248                  * - clear bit 0 of reg 0x5b to enable P/SCBLID as inputs
1249                  */
1250                 u8 scr2 = 0;
1251
1252                 pci_read_config_byte(dev, 0x5b, &scr2);
1253                 pci_write_config_byte(dev, 0x5b, (scr2 & ~1));
1254                 /* now read cable id register */
1255                 pci_read_config_byte(dev, 0x5a, &scr1);
1256                 pci_write_config_byte(dev, 0x5b,  scr2);
1257         } else
1258                 pci_read_config_byte(dev, 0x5a, &scr1);
1259
1260         return (scr1 & ata66) ? ATA_CBL_PATA40 : ATA_CBL_PATA80;
1261 }
1262
1263 static void __devinit init_hwif_hpt366(ide_hwif_t *hwif)
1264 {
1265         struct pci_dev *dev     = to_pci_dev(hwif->dev);
1266         struct hpt_info *info   = pci_get_drvdata(dev);
1267         int serialize           = HPT_SERIALIZE_IO;
1268         u8  chip_type           = info->chip_type;
1269         u8  new_mcr, old_mcr    = 0;
1270
1271         /* Cache the channel's MISC. control registers' offset */
1272         hwif->select_data       = hwif->channel ? 0x54 : 0x50;
1273
1274         /*
1275          * HPT3xxN chips have some complications:
1276          *
1277          * - on 33 MHz PCI we must clock switch
1278          * - on 66 MHz PCI we must NOT use the PCI clock
1279          */
1280         if (chip_type >= HPT372N && info->dpll_clk && info->pci_clk < 66) {
1281                 /*
1282                  * Clock is shared between the channels,
1283                  * so we'll have to serialize them... :-(
1284                  */
1285                 serialize = 1;
1286                 hwif->rw_disk = &hpt3xxn_rw_disk;
1287         }
1288
1289         /* Serialize access to this device if needed */
1290         if (serialize && hwif->mate)
1291                 hwif->serialized = hwif->mate->serialized = 1;
1292
1293         /*
1294          * Disable the "fast interrupt" prediction.  Don't hold off
1295          * on interrupts. (== 0x01 despite what the docs say)
1296          */
1297         pci_read_config_byte(dev, hwif->select_data + 1, &old_mcr);
1298
1299         if (info->chip_type >= HPT374)
1300                 new_mcr = old_mcr & ~0x07;
1301         else if (info->chip_type >= HPT370) {
1302                 new_mcr = old_mcr;
1303                 new_mcr &= ~0x02;
1304
1305 #ifdef HPT_DELAY_INTERRUPT
1306                 new_mcr &= ~0x01;
1307 #else
1308                 new_mcr |=  0x01;
1309 #endif
1310         } else                                  /* HPT366 and HPT368  */
1311                 new_mcr = old_mcr & ~0x80;
1312
1313         if (new_mcr != old_mcr)
1314                 pci_write_config_byte(dev, hwif->select_data + 1, new_mcr);
1315 }
1316
1317 static int __devinit init_dma_hpt366(ide_hwif_t *hwif,
1318                                      const struct ide_port_info *d)
1319 {
1320         struct pci_dev *dev = to_pci_dev(hwif->dev);
1321         unsigned long flags, base = ide_pci_dma_base(hwif, d);
1322         u8 dma_old, dma_new, masterdma = 0, slavedma = 0;
1323
1324         if (base == 0 || ide_pci_set_master(dev, d->name) < 0)
1325                 return -1;
1326
1327         dma_old = inb(base + 2);
1328
1329         local_irq_save(flags);
1330
1331         dma_new = dma_old;
1332         pci_read_config_byte(dev, hwif->channel ? 0x4b : 0x43, &masterdma);
1333         pci_read_config_byte(dev, hwif->channel ? 0x4f : 0x47,  &slavedma);
1334
1335         if (masterdma & 0x30)   dma_new |= 0x20;
1336         if ( slavedma & 0x30)   dma_new |= 0x40;
1337         if (dma_new != dma_old)
1338                 outb(dma_new, base + 2);
1339
1340         local_irq_restore(flags);
1341
1342         printk(KERN_INFO "    %s: BM-DMA at 0x%04lx-0x%04lx\n",
1343                          hwif->name, base, base + 7);
1344
1345         hwif->extra_base = base + (hwif->channel ? 8 : 16);
1346
1347         if (ide_allocate_dma_engine(hwif))
1348                 return -1;
1349
1350         ide_setup_dma(hwif, base);
1351
1352         return 0;
1353 }
1354
1355 static void __devinit hpt374_init(struct pci_dev *dev, struct pci_dev *dev2)
1356 {
1357         if (dev2->irq != dev->irq) {
1358                 /* FIXME: we need a core pci_set_interrupt() */
1359                 dev2->irq = dev->irq;
1360                 printk(KERN_INFO "HPT374: PCI config space interrupt fixed\n");
1361         }
1362 }
1363
1364 static void __devinit hpt371_init(struct pci_dev *dev)
1365 {
1366         u8 mcr1 = 0;
1367
1368         /*
1369          * HPT371 chips physically have only one channel, the secondary one,
1370          * but the primary channel registers do exist!  Go figure...
1371          * So,  we manually disable the non-existing channel here
1372          * (if the BIOS hasn't done this already).
1373          */
1374         pci_read_config_byte(dev, 0x50, &mcr1);
1375         if (mcr1 & 0x04)
1376                 pci_write_config_byte(dev, 0x50, mcr1 & ~0x04);
1377 }
1378
1379 static int __devinit hpt36x_init(struct pci_dev *dev, struct pci_dev *dev2)
1380 {
1381         u8 mcr1 = 0, pin1 = 0, pin2 = 0;
1382
1383         /*
1384          * Now we'll have to force both channels enabled if
1385          * at least one of them has been enabled by BIOS...
1386          */
1387         pci_read_config_byte(dev, 0x50, &mcr1);
1388         if (mcr1 & 0x30)
1389                 pci_write_config_byte(dev, 0x50, mcr1 | 0x30);
1390
1391         pci_read_config_byte(dev,  PCI_INTERRUPT_PIN, &pin1);
1392         pci_read_config_byte(dev2, PCI_INTERRUPT_PIN, &pin2);
1393
1394         if (pin1 != pin2 && dev->irq == dev2->irq) {
1395                 printk(KERN_INFO "HPT36x: onboard version of chipset, "
1396                                  "pin1=%d pin2=%d\n", pin1, pin2);
1397                 return 1;
1398         }
1399
1400         return 0;
1401 }
1402
1403 #define IDE_HFLAGS_HPT3XX \
1404         (IDE_HFLAG_NO_ATAPI_DMA | \
1405          IDE_HFLAG_ABUSE_SET_DMA_MODE | \
1406          IDE_HFLAG_OFF_BOARD)
1407
1408 static const struct ide_port_ops hpt3xx_port_ops = {
1409         .set_pio_mode           = hpt3xx_set_pio_mode,
1410         .set_dma_mode           = hpt3xx_set_mode,
1411         .quirkproc              = hpt3xx_quirkproc,
1412         .maskproc               = hpt3xx_maskproc,
1413         .mdma_filter            = hpt3xx_mdma_filter,
1414         .udma_filter            = hpt3xx_udma_filter,
1415         .cable_detect           = hpt3xx_cable_detect,
1416 };
1417
1418 static const struct ide_dma_ops hpt37x_dma_ops = {
1419         .dma_host_set           = ide_dma_host_set,
1420         .dma_setup              = ide_dma_setup,
1421         .dma_exec_cmd           = ide_dma_exec_cmd,
1422         .dma_start              = ide_dma_start,
1423         .dma_end                = hpt374_dma_end,
1424         .dma_test_irq           = hpt374_dma_test_irq,
1425         .dma_lost_irq           = ide_dma_lost_irq,
1426         .dma_timeout            = ide_dma_timeout,
1427 };
1428
1429 static const struct ide_dma_ops hpt370_dma_ops = {
1430         .dma_host_set           = ide_dma_host_set,
1431         .dma_setup              = ide_dma_setup,
1432         .dma_exec_cmd           = ide_dma_exec_cmd,
1433         .dma_start              = hpt370_dma_start,
1434         .dma_end                = hpt370_dma_end,
1435         .dma_test_irq           = ide_dma_test_irq,
1436         .dma_lost_irq           = ide_dma_lost_irq,
1437         .dma_timeout            = hpt370_dma_timeout,
1438 };
1439
1440 static const struct ide_dma_ops hpt36x_dma_ops = {
1441         .dma_host_set           = ide_dma_host_set,
1442         .dma_setup              = ide_dma_setup,
1443         .dma_exec_cmd           = ide_dma_exec_cmd,
1444         .dma_start              = ide_dma_start,
1445         .dma_end                = __ide_dma_end,
1446         .dma_test_irq           = ide_dma_test_irq,
1447         .dma_lost_irq           = hpt366_dma_lost_irq,
1448         .dma_timeout            = ide_dma_timeout,
1449 };
1450
1451 static const struct ide_port_info hpt366_chipsets[] __devinitdata = {
1452         {       /* 0 */
1453                 .name           = "HPT36x",
1454                 .init_chipset   = init_chipset_hpt366,
1455                 .init_hwif      = init_hwif_hpt366,
1456                 .init_dma       = init_dma_hpt366,
1457                 /*
1458                  * HPT36x chips have one channel per function and have
1459                  * both channel enable bits located differently and visible
1460                  * to both functions -- really stupid design decision... :-(
1461                  * Bit 4 is for the primary channel, bit 5 for the secondary.
1462                  */
1463                 .enablebits     = {{0x50,0x10,0x10}, {0x54,0x04,0x04}},
1464                 .port_ops       = &hpt3xx_port_ops,
1465                 .dma_ops        = &hpt36x_dma_ops,
1466                 .host_flags     = IDE_HFLAGS_HPT3XX | IDE_HFLAG_SINGLE,
1467                 .pio_mask       = ATA_PIO4,
1468                 .mwdma_mask     = ATA_MWDMA2,
1469         },{     /* 1 */
1470                 .name           = "HPT372A",
1471                 .init_chipset   = init_chipset_hpt366,
1472                 .init_hwif      = init_hwif_hpt366,
1473                 .init_dma       = init_dma_hpt366,
1474                 .enablebits     = {{0x50,0x04,0x04}, {0x54,0x04,0x04}},
1475                 .port_ops       = &hpt3xx_port_ops,
1476                 .dma_ops        = &hpt37x_dma_ops,
1477                 .host_flags     = IDE_HFLAGS_HPT3XX,
1478                 .pio_mask       = ATA_PIO4,
1479                 .mwdma_mask     = ATA_MWDMA2,
1480         },{     /* 2 */
1481                 .name           = "HPT302",
1482                 .init_chipset   = init_chipset_hpt366,
1483                 .init_hwif      = init_hwif_hpt366,
1484                 .init_dma       = init_dma_hpt366,
1485                 .enablebits     = {{0x50,0x04,0x04}, {0x54,0x04,0x04}},
1486                 .port_ops       = &hpt3xx_port_ops,
1487                 .dma_ops        = &hpt37x_dma_ops,
1488                 .host_flags     = IDE_HFLAGS_HPT3XX,
1489                 .pio_mask       = ATA_PIO4,
1490                 .mwdma_mask     = ATA_MWDMA2,
1491         },{     /* 3 */
1492                 .name           = "HPT371",
1493                 .init_chipset   = init_chipset_hpt366,
1494                 .init_hwif      = init_hwif_hpt366,
1495                 .init_dma       = init_dma_hpt366,
1496                 .enablebits     = {{0x50,0x04,0x04}, {0x54,0x04,0x04}},
1497                 .port_ops       = &hpt3xx_port_ops,
1498                 .dma_ops        = &hpt37x_dma_ops,
1499                 .host_flags     = IDE_HFLAGS_HPT3XX,
1500                 .pio_mask       = ATA_PIO4,
1501                 .mwdma_mask     = ATA_MWDMA2,
1502         },{     /* 4 */
1503                 .name           = "HPT374",
1504                 .init_chipset   = init_chipset_hpt366,
1505                 .init_hwif      = init_hwif_hpt366,
1506                 .init_dma       = init_dma_hpt366,
1507                 .enablebits     = {{0x50,0x04,0x04}, {0x54,0x04,0x04}},
1508                 .udma_mask      = ATA_UDMA5,
1509                 .port_ops       = &hpt3xx_port_ops,
1510                 .dma_ops        = &hpt37x_dma_ops,
1511                 .host_flags     = IDE_HFLAGS_HPT3XX,
1512                 .pio_mask       = ATA_PIO4,
1513                 .mwdma_mask     = ATA_MWDMA2,
1514         },{     /* 5 */
1515                 .name           = "HPT372N",
1516                 .init_chipset   = init_chipset_hpt366,
1517                 .init_hwif      = init_hwif_hpt366,
1518                 .init_dma       = init_dma_hpt366,
1519                 .enablebits     = {{0x50,0x04,0x04}, {0x54,0x04,0x04}},
1520                 .port_ops       = &hpt3xx_port_ops,
1521                 .dma_ops        = &hpt37x_dma_ops,
1522                 .host_flags     = IDE_HFLAGS_HPT3XX,
1523                 .pio_mask       = ATA_PIO4,
1524                 .mwdma_mask     = ATA_MWDMA2,
1525         }
1526 };
1527
1528 /**
1529  *      hpt366_init_one -       called when an HPT366 is found
1530  *      @dev: the hpt366 device
1531  *      @id: the matching pci id
1532  *
1533  *      Called when the PCI registration layer (or the IDE initialization)
1534  *      finds a device matching our IDE device tables.
1535  */
1536 static int __devinit hpt366_init_one(struct pci_dev *dev, const struct pci_device_id *id)
1537 {
1538         const struct hpt_info *info = NULL;
1539         struct pci_dev *dev2 = NULL;
1540         struct ide_port_info d;
1541         u8 idx = id->driver_data;
1542         u8 rev = dev->revision;
1543
1544         if ((idx == 0 || idx == 4) && (PCI_FUNC(dev->devfn) & 1))
1545                 return -ENODEV;
1546
1547         switch (idx) {
1548         case 0:
1549                 if (rev < 3)
1550                         info = &hpt36x;
1551                 else {
1552                         switch (min_t(u8, rev, 6)) {
1553                         case 3: info = &hpt370;  break;
1554                         case 4: info = &hpt370a; break;
1555                         case 5: info = &hpt372;  break;
1556                         case 6: info = &hpt372n; break;
1557                         }
1558                         idx++;
1559                 }
1560                 break;
1561         case 1:
1562                 info = (rev > 1) ? &hpt372n : &hpt372a;
1563                 break;
1564         case 2:
1565                 info = (rev > 1) ? &hpt302n : &hpt302;
1566                 break;
1567         case 3:
1568                 hpt371_init(dev);
1569                 info = (rev > 1) ? &hpt371n : &hpt371;
1570                 break;
1571         case 4:
1572                 info = &hpt374;
1573                 break;
1574         case 5:
1575                 info = &hpt372n;
1576                 break;
1577         }
1578
1579         d = hpt366_chipsets[idx];
1580
1581         d.name = info->chip_name;
1582         d.udma_mask = info->udma_mask;
1583
1584         /* fixup ->dma_ops for HPT370/HPT370A */
1585         if (info == &hpt370 || info == &hpt370a)
1586                 d.dma_ops = &hpt370_dma_ops;
1587
1588         pci_set_drvdata(dev, (void *)info);
1589
1590         if (info == &hpt36x || info == &hpt374)
1591                 dev2 = pci_get_slot(dev->bus, dev->devfn + 1);
1592
1593         if (dev2) {
1594                 int ret;
1595
1596                 pci_set_drvdata(dev2, (void *)info);
1597
1598                 if (info == &hpt374)
1599                         hpt374_init(dev, dev2);
1600                 else {
1601                         if (hpt36x_init(dev, dev2))
1602                                 d.host_flags &= ~IDE_HFLAG_NON_BOOTABLE;
1603                 }
1604
1605                 ret = ide_setup_pci_devices(dev, dev2, &d);
1606                 if (ret < 0)
1607                         pci_dev_put(dev2);
1608                 return ret;
1609         }
1610
1611         return ide_setup_pci_device(dev, &d);
1612 }
1613
1614 static const struct pci_device_id hpt366_pci_tbl[] __devinitconst = {
1615         { PCI_VDEVICE(TTI, PCI_DEVICE_ID_TTI_HPT366),  0 },
1616         { PCI_VDEVICE(TTI, PCI_DEVICE_ID_TTI_HPT372),  1 },
1617         { PCI_VDEVICE(TTI, PCI_DEVICE_ID_TTI_HPT302),  2 },
1618         { PCI_VDEVICE(TTI, PCI_DEVICE_ID_TTI_HPT371),  3 },
1619         { PCI_VDEVICE(TTI, PCI_DEVICE_ID_TTI_HPT374),  4 },
1620         { PCI_VDEVICE(TTI, PCI_DEVICE_ID_TTI_HPT372N), 5 },
1621         { 0, },
1622 };
1623 MODULE_DEVICE_TABLE(pci, hpt366_pci_tbl);
1624
1625 static struct pci_driver driver = {
1626         .name           = "HPT366_IDE",
1627         .id_table       = hpt366_pci_tbl,
1628         .probe          = hpt366_init_one,
1629 };
1630
1631 static int __init hpt366_ide_init(void)
1632 {
1633         return ide_pci_register_driver(&driver);
1634 }
1635
1636 module_init(hpt366_ide_init);
1637
1638 MODULE_AUTHOR("Andre Hedrick");
1639 MODULE_DESCRIPTION("PCI driver module for Highpoint HPT366 IDE");
1640 MODULE_LICENSE("GPL");