Merge branch 'core/percpu' into stackprotector
[linux-2.6] / arch / sh / drivers / dma / dma-sh.c
1 /*
2  * arch/sh/drivers/dma/dma-sh.c
3  *
4  * SuperH On-chip DMAC Support
5  *
6  * Copyright (C) 2000 Takashi YOSHII
7  * Copyright (C) 2003, 2004 Paul Mundt
8  * Copyright (C) 2005 Andriy Skulysh
9  *
10  * This file is subject to the terms and conditions of the GNU General Public
11  * License.  See the file "COPYING" in the main directory of this archive
12  * for more details.
13  */
14 #include <linux/init.h>
15 #include <linux/interrupt.h>
16 #include <linux/module.h>
17 #include <mach-dreamcast/mach/dma.h>
18 #include <asm/dma.h>
19 #include <asm/io.h>
20 #include "dma-sh.h"
21
22 static int dmte_irq_map[] = {
23         DMTE0_IRQ,
24         DMTE1_IRQ,
25         DMTE2_IRQ,
26         DMTE3_IRQ,
27 #if defined(CONFIG_CPU_SUBTYPE_SH7720)  ||      \
28     defined(CONFIG_CPU_SUBTYPE_SH7721)  ||      \
29     defined(CONFIG_CPU_SUBTYPE_SH7751R) ||      \
30     defined(CONFIG_CPU_SUBTYPE_SH7760)  ||      \
31     defined(CONFIG_CPU_SUBTYPE_SH7709)  ||      \
32     defined(CONFIG_CPU_SUBTYPE_SH7780)
33         DMTE4_IRQ,
34         DMTE5_IRQ,
35 #endif
36 #if defined(CONFIG_CPU_SUBTYPE_SH7751R) ||      \
37     defined(CONFIG_CPU_SUBTYPE_SH7760)  ||      \
38     defined(CONFIG_CPU_SUBTYPE_SH7780)
39         DMTE6_IRQ,
40         DMTE7_IRQ,
41 #endif
42 };
43
44 static inline unsigned int get_dmte_irq(unsigned int chan)
45 {
46         unsigned int irq = 0;
47         if (chan < ARRAY_SIZE(dmte_irq_map))
48                 irq = dmte_irq_map[chan];
49         return irq;
50 }
51
52 /*
53  * We determine the correct shift size based off of the CHCR transmit size
54  * for the given channel. Since we know that it will take:
55  *
56  *      info->count >> ts_shift[transmit_size]
57  *
58  * iterations to complete the transfer.
59  */
60 static inline unsigned int calc_xmit_shift(struct dma_channel *chan)
61 {
62         u32 chcr = ctrl_inl(CHCR[chan->chan]);
63
64         return ts_shift[(chcr & CHCR_TS_MASK)>>CHCR_TS_SHIFT];
65 }
66
67 /*
68  * The transfer end interrupt must read the chcr register to end the
69  * hardware interrupt active condition.
70  * Besides that it needs to waken any waiting process, which should handle
71  * setting up the next transfer.
72  */
73 static irqreturn_t dma_tei(int irq, void *dev_id)
74 {
75         struct dma_channel *chan = dev_id;
76         u32 chcr;
77
78         chcr = ctrl_inl(CHCR[chan->chan]);
79
80         if (!(chcr & CHCR_TE))
81                 return IRQ_NONE;
82
83         chcr &= ~(CHCR_IE | CHCR_DE);
84         ctrl_outl(chcr, CHCR[chan->chan]);
85
86         wake_up(&chan->wait_queue);
87
88         return IRQ_HANDLED;
89 }
90
91 static int sh_dmac_request_dma(struct dma_channel *chan)
92 {
93         if (unlikely(!(chan->flags & DMA_TEI_CAPABLE)))
94                 return 0;
95
96         return request_irq(get_dmte_irq(chan->chan), dma_tei,
97                            IRQF_DISABLED, chan->dev_id, chan);
98 }
99
100 static void sh_dmac_free_dma(struct dma_channel *chan)
101 {
102         free_irq(get_dmte_irq(chan->chan), chan);
103 }
104
105 static int
106 sh_dmac_configure_channel(struct dma_channel *chan, unsigned long chcr)
107 {
108         if (!chcr)
109                 chcr = RS_DUAL | CHCR_IE;
110
111         if (chcr & CHCR_IE) {
112                 chcr &= ~CHCR_IE;
113                 chan->flags |= DMA_TEI_CAPABLE;
114         } else {
115                 chan->flags &= ~DMA_TEI_CAPABLE;
116         }
117
118         ctrl_outl(chcr, CHCR[chan->chan]);
119
120         chan->flags |= DMA_CONFIGURED;
121         return 0;
122 }
123
124 static void sh_dmac_enable_dma(struct dma_channel *chan)
125 {
126         int irq;
127         u32 chcr;
128
129         chcr = ctrl_inl(CHCR[chan->chan]);
130         chcr |= CHCR_DE;
131
132         if (chan->flags & DMA_TEI_CAPABLE)
133                 chcr |= CHCR_IE;
134
135         ctrl_outl(chcr, CHCR[chan->chan]);
136
137         if (chan->flags & DMA_TEI_CAPABLE) {
138                 irq = get_dmte_irq(chan->chan);
139                 enable_irq(irq);
140         }
141 }
142
143 static void sh_dmac_disable_dma(struct dma_channel *chan)
144 {
145         int irq;
146         u32 chcr;
147
148         if (chan->flags & DMA_TEI_CAPABLE) {
149                 irq = get_dmte_irq(chan->chan);
150                 disable_irq(irq);
151         }
152
153         chcr = ctrl_inl(CHCR[chan->chan]);
154         chcr &= ~(CHCR_DE | CHCR_TE | CHCR_IE);
155         ctrl_outl(chcr, CHCR[chan->chan]);
156 }
157
158 static int sh_dmac_xfer_dma(struct dma_channel *chan)
159 {
160         /*
161          * If we haven't pre-configured the channel with special flags, use
162          * the defaults.
163          */
164         if (unlikely(!(chan->flags & DMA_CONFIGURED)))
165                 sh_dmac_configure_channel(chan, 0);
166
167         sh_dmac_disable_dma(chan);
168
169         /*
170          * Single-address mode usage note!
171          *
172          * It's important that we don't accidentally write any value to SAR/DAR
173          * (this includes 0) that hasn't been directly specified by the user if
174          * we're in single-address mode.
175          *
176          * In this case, only one address can be defined, anything else will
177          * result in a DMA address error interrupt (at least on the SH-4),
178          * which will subsequently halt the transfer.
179          *
180          * Channel 2 on the Dreamcast is a special case, as this is used for
181          * cascading to the PVR2 DMAC. In this case, we still need to write
182          * SAR and DAR, regardless of value, in order for cascading to work.
183          */
184         if (chan->sar || (mach_is_dreamcast() &&
185                           chan->chan == PVR2_CASCADE_CHAN))
186                 ctrl_outl(chan->sar, SAR[chan->chan]);
187         if (chan->dar || (mach_is_dreamcast() &&
188                           chan->chan == PVR2_CASCADE_CHAN))
189                 ctrl_outl(chan->dar, DAR[chan->chan]);
190
191         ctrl_outl(chan->count >> calc_xmit_shift(chan), DMATCR[chan->chan]);
192
193         sh_dmac_enable_dma(chan);
194
195         return 0;
196 }
197
198 static int sh_dmac_get_dma_residue(struct dma_channel *chan)
199 {
200         if (!(ctrl_inl(CHCR[chan->chan]) & CHCR_DE))
201                 return 0;
202
203         return ctrl_inl(DMATCR[chan->chan]) << calc_xmit_shift(chan);
204 }
205
206 #if defined(CONFIG_CPU_SUBTYPE_SH7720) || \
207     defined(CONFIG_CPU_SUBTYPE_SH7721) || \
208     defined(CONFIG_CPU_SUBTYPE_SH7780) || \
209     defined(CONFIG_CPU_SUBTYPE_SH7709)
210 #define dmaor_read_reg()        ctrl_inw(DMAOR)
211 #define dmaor_write_reg(data)   ctrl_outw(data, DMAOR)
212 #else
213 #define dmaor_read_reg()        ctrl_inl(DMAOR)
214 #define dmaor_write_reg(data)   ctrl_outl(data, DMAOR)
215 #endif
216
217 static inline int dmaor_reset(void)
218 {
219         unsigned long dmaor = dmaor_read_reg();
220
221         /* Try to clear the error flags first, incase they are set */
222         dmaor &= ~(DMAOR_NMIF | DMAOR_AE);
223         dmaor_write_reg(dmaor);
224
225         dmaor |= DMAOR_INIT;
226         dmaor_write_reg(dmaor);
227
228         /* See if we got an error again */
229         if ((dmaor_read_reg() & (DMAOR_AE | DMAOR_NMIF))) {
230                 printk(KERN_ERR "dma-sh: Can't initialize DMAOR.\n");
231                 return -EINVAL;
232         }
233
234         return 0;
235 }
236
237 #if defined(CONFIG_CPU_SH4)
238 static irqreturn_t dma_err(int irq, void *dummy)
239 {
240         dmaor_reset();
241         disable_irq(irq);
242
243         return IRQ_HANDLED;
244 }
245 #endif
246
247 static struct dma_ops sh_dmac_ops = {
248         .request        = sh_dmac_request_dma,
249         .free           = sh_dmac_free_dma,
250         .get_residue    = sh_dmac_get_dma_residue,
251         .xfer           = sh_dmac_xfer_dma,
252         .configure      = sh_dmac_configure_channel,
253 };
254
255 static struct dma_info sh_dmac_info = {
256         .name           = "sh_dmac",
257         .nr_channels    = CONFIG_NR_ONCHIP_DMA_CHANNELS,
258         .ops            = &sh_dmac_ops,
259         .flags          = DMAC_CHANNELS_TEI_CAPABLE,
260 };
261
262 static int __init sh_dmac_init(void)
263 {
264         struct dma_info *info = &sh_dmac_info;
265         int i;
266
267 #ifdef CONFIG_CPU_SH4
268         i = request_irq(DMAE_IRQ, dma_err, IRQF_DISABLED, "DMAC Address Error", 0);
269         if (unlikely(i < 0))
270                 return i;
271 #endif
272
273         /*
274          * Initialize DMAOR, and clean up any error flags that may have
275          * been set.
276          */
277         i = dmaor_reset();
278         if (unlikely(i != 0))
279                 return i;
280
281         return register_dmac(info);
282 }
283
284 static void __exit sh_dmac_exit(void)
285 {
286 #ifdef CONFIG_CPU_SH4
287         free_irq(DMAE_IRQ, 0);
288 #endif
289         unregister_dmac(&sh_dmac_info);
290 }
291
292 subsys_initcall(sh_dmac_init);
293 module_exit(sh_dmac_exit);
294
295 MODULE_AUTHOR("Takashi YOSHII, Paul Mundt, Andriy Skulysh");
296 MODULE_DESCRIPTION("SuperH On-Chip DMAC Support");
297 MODULE_LICENSE("GPL");