[PATCH] move cnodeid_to_nasid_table out of pda
[linux-2.6] / arch / ia64 / sn / kernel / io_init.c
1 /*
2  * This file is subject to the terms and conditions of the GNU General Public
3  * License.  See the file "COPYING" in the main directory of this archive
4  * for more details.
5  *
6  * Copyright (C) 1992 - 1997, 2000-2004 Silicon Graphics, Inc. All rights reserved.
7  */
8
9 #include <linux/bootmem.h>
10 #include <linux/nodemask.h>
11 #include <asm/sn/types.h>
12 #include <asm/sn/sn_sal.h>
13 #include <asm/sn/addrs.h>
14 #include <asm/sn/pcibus_provider_defs.h>
15 #include <asm/sn/pcidev.h>
16 #include "pci/pcibr_provider.h"
17 #include "xtalk/xwidgetdev.h"
18 #include <asm/sn/geo.h>
19 #include "xtalk/hubdev.h"
20 #include <asm/sn/io.h>
21 #include <asm/sn/simulator.h>
22 #include <asm/sn/tioca_provider.h>
23
24 char master_baseio_wid;
25 nasid_t master_nasid = INVALID_NASID;   /* Partition Master */
26
27 struct slab_info {
28         struct hubdev_info hubdev;
29 };
30
31 struct brick {
32         moduleid_t id;          /* Module ID of this module        */
33         struct slab_info slab_info[MAX_SLABS + 1];
34 };
35
36 int sn_ioif_inited = 0;         /* SN I/O infrastructure initialized? */
37
38 struct sn_pcibus_provider *sn_pci_provider[PCIIO_ASIC_MAX_TYPES];       /* indexed by asic type */
39
40 /*
41  * Hooks and struct for unsupported pci providers
42  */
43
44 static dma_addr_t
45 sn_default_pci_map(struct pci_dev *pdev, unsigned long paddr, size_t size)
46 {
47         return 0;
48 }
49
50 static void
51 sn_default_pci_unmap(struct pci_dev *pdev, dma_addr_t addr, int direction)
52 {
53         return;
54 }
55
56 static void *
57 sn_default_pci_bus_fixup(struct pcibus_bussoft *soft)
58 {
59         return NULL;
60 }
61
62 static struct sn_pcibus_provider sn_pci_default_provider = {
63         .dma_map = sn_default_pci_map,
64         .dma_map_consistent = sn_default_pci_map,
65         .dma_unmap = sn_default_pci_unmap,
66         .bus_fixup = sn_default_pci_bus_fixup,
67 };
68
69 /*
70  * Retrieve the DMA Flush List given nasid.  This list is needed 
71  * to implement the WAR - Flush DMA data on PIO Reads.
72  */
73 static inline uint64_t
74 sal_get_widget_dmaflush_list(u64 nasid, u64 widget_num, u64 address)
75 {
76
77         struct ia64_sal_retval ret_stuff;
78         ret_stuff.status = 0;
79         ret_stuff.v0 = 0;
80
81         SAL_CALL_NOLOCK(ret_stuff,
82                         (u64) SN_SAL_IOIF_GET_WIDGET_DMAFLUSH_LIST,
83                         (u64) nasid, (u64) widget_num, (u64) address, 0, 0, 0,
84                         0);
85         return ret_stuff.v0;
86
87 }
88
89 /*
90  * Retrieve the hub device info structure for the given nasid.
91  */
92 static inline uint64_t sal_get_hubdev_info(u64 handle, u64 address)
93 {
94
95         struct ia64_sal_retval ret_stuff;
96         ret_stuff.status = 0;
97         ret_stuff.v0 = 0;
98
99         SAL_CALL_NOLOCK(ret_stuff,
100                         (u64) SN_SAL_IOIF_GET_HUBDEV_INFO,
101                         (u64) handle, (u64) address, 0, 0, 0, 0, 0);
102         return ret_stuff.v0;
103 }
104
105 /*
106  * Retrieve the pci bus information given the bus number.
107  */
108 static inline uint64_t sal_get_pcibus_info(u64 segment, u64 busnum, u64 address)
109 {
110
111         struct ia64_sal_retval ret_stuff;
112         ret_stuff.status = 0;
113         ret_stuff.v0 = 0;
114
115         SAL_CALL_NOLOCK(ret_stuff,
116                         (u64) SN_SAL_IOIF_GET_PCIBUS_INFO,
117                         (u64) segment, (u64) busnum, (u64) address, 0, 0, 0, 0);
118         return ret_stuff.v0;
119 }
120
121 /*
122  * Retrieve the pci device information given the bus and device|function number.
123  */
124 static inline uint64_t
125 sal_get_pcidev_info(u64 segment, u64 bus_number, u64 devfn, u64 pci_dev, 
126                         u64 sn_irq_info)
127 {
128         struct ia64_sal_retval ret_stuff;
129         ret_stuff.status = 0;
130         ret_stuff.v0 = 0;
131
132         SAL_CALL_NOLOCK(ret_stuff,
133                         (u64) SN_SAL_IOIF_GET_PCIDEV_INFO,
134                         (u64) segment, (u64) bus_number, (u64) devfn, 
135                         (u64) pci_dev,
136                         sn_irq_info, 0, 0);
137         return ret_stuff.v0;
138 }
139
140 /*
141  * sn_alloc_pci_sysdata() - This routine allocates a pci controller
142  *      which is expected as the pci_dev and pci_bus sysdata by the Linux
143  *      PCI infrastructure.
144  */
145 static inline struct pci_controller *sn_alloc_pci_sysdata(void)
146 {
147         struct pci_controller *pci_sysdata;
148
149         pci_sysdata = kmalloc(sizeof(*pci_sysdata), GFP_KERNEL);
150         if (!pci_sysdata)
151                 BUG();
152
153         memset(pci_sysdata, 0, sizeof(*pci_sysdata));
154         return pci_sysdata;
155 }
156
157 /*
158  * sn_fixup_ionodes() - This routine initializes the HUB data strcuture for 
159  *      each node in the system.
160  */
161 static void sn_fixup_ionodes(void)
162 {
163
164         struct sn_flush_device_list *sn_flush_device_list;
165         struct hubdev_info *hubdev;
166         uint64_t status;
167         uint64_t nasid;
168         int i, widget;
169
170         for (i = 0; i < numionodes; i++) {
171                 hubdev = (struct hubdev_info *)(NODEPDA(i)->pdinfo);
172                 nasid = cnodeid_to_nasid(i);
173                 status = sal_get_hubdev_info(nasid, (uint64_t) __pa(hubdev));
174                 if (status)
175                         continue;
176
177                 for (widget = 0; widget <= HUB_WIDGET_ID_MAX; widget++)
178                         hubdev->hdi_xwidget_info[widget].xwi_hubinfo = hubdev;
179
180                 if (!hubdev->hdi_flush_nasid_list.widget_p)
181                         continue;
182
183                 hubdev->hdi_flush_nasid_list.widget_p =
184                     kmalloc((HUB_WIDGET_ID_MAX + 1) *
185                             sizeof(struct sn_flush_device_list *), GFP_KERNEL);
186
187                 memset(hubdev->hdi_flush_nasid_list.widget_p, 0x0,
188                        (HUB_WIDGET_ID_MAX + 1) *
189                        sizeof(struct sn_flush_device_list *));
190
191                 for (widget = 0; widget <= HUB_WIDGET_ID_MAX; widget++) {
192                         sn_flush_device_list = kmalloc(DEV_PER_WIDGET *
193                                                        sizeof(struct
194                                                               sn_flush_device_list),
195                                                        GFP_KERNEL);
196                         memset(sn_flush_device_list, 0x0,
197                                DEV_PER_WIDGET *
198                                sizeof(struct sn_flush_device_list));
199
200                         status =
201                             sal_get_widget_dmaflush_list(nasid, widget,
202                                                          (uint64_t)
203                                                          __pa
204                                                          (sn_flush_device_list));
205                         if (status) {
206                                 kfree(sn_flush_device_list);
207                                 continue;
208                         }
209
210                         hubdev->hdi_flush_nasid_list.widget_p[widget] =
211                             sn_flush_device_list;
212                 }
213
214                 if (!(i & 1))
215                         hub_error_init(hubdev);
216                 else
217                         ice_error_init(hubdev);
218         }
219
220 }
221
222 /*
223  * sn_pci_fixup_slot() - This routine sets up a slot's resources
224  * consistent with the Linux PCI abstraction layer.  Resources acquired
225  * from our PCI provider include PIO maps to BAR space and interrupt
226  * objects.
227  */
228 static void sn_pci_fixup_slot(struct pci_dev *dev)
229 {
230         int idx;
231         int segment = 0;
232         uint64_t size;
233         struct sn_irq_info *sn_irq_info;
234         struct pci_dev *host_pci_dev;
235         int status = 0;
236         struct pcibus_bussoft *bs;
237
238         dev->sysdata = kmalloc(sizeof(struct pcidev_info), GFP_KERNEL);
239         if (SN_PCIDEV_INFO(dev) <= 0)
240                 BUG();          /* Cannot afford to run out of memory */
241         memset(SN_PCIDEV_INFO(dev), 0, sizeof(struct pcidev_info));
242
243         sn_irq_info = kmalloc(sizeof(struct sn_irq_info), GFP_KERNEL);
244         if (sn_irq_info <= 0)
245                 BUG();          /* Cannot afford to run out of memory */
246         memset(sn_irq_info, 0, sizeof(struct sn_irq_info));
247
248         /* Call to retrieve pci device information needed by kernel. */
249         status = sal_get_pcidev_info((u64) segment, (u64) dev->bus->number, 
250                                      dev->devfn,
251                                      (u64) __pa(SN_PCIDEV_INFO(dev)),
252                                      (u64) __pa(sn_irq_info));
253         if (status)
254                 BUG();          /* Cannot get platform pci device information information */
255
256         /* Copy over PIO Mapped Addresses */
257         for (idx = 0; idx <= PCI_ROM_RESOURCE; idx++) {
258                 unsigned long start, end, addr;
259
260                 if (!SN_PCIDEV_INFO(dev)->pdi_pio_mapped_addr[idx])
261                         continue;
262
263                 start = dev->resource[idx].start;
264                 end = dev->resource[idx].end;
265                 size = end - start;
266                 addr = SN_PCIDEV_INFO(dev)->pdi_pio_mapped_addr[idx];
267                 addr = ((addr << 4) >> 4) | __IA64_UNCACHED_OFFSET;
268                 dev->resource[idx].start = addr;
269                 dev->resource[idx].end = addr + size;
270                 if (dev->resource[idx].flags & IORESOURCE_IO)
271                         dev->resource[idx].parent = &ioport_resource;
272                 else
273                         dev->resource[idx].parent = &iomem_resource;
274         }
275
276         /* set up host bus linkages */
277         bs = SN_PCIBUS_BUSSOFT(dev->bus);
278         host_pci_dev =
279             pci_find_slot(SN_PCIDEV_INFO(dev)->pdi_slot_host_handle >> 32,
280                           SN_PCIDEV_INFO(dev)->
281                           pdi_slot_host_handle & 0xffffffff);
282         SN_PCIDEV_INFO(dev)->pdi_host_pcidev_info =
283             SN_PCIDEV_INFO(host_pci_dev);
284         SN_PCIDEV_INFO(dev)->pdi_linux_pcidev = dev;
285         SN_PCIDEV_INFO(dev)->pdi_pcibus_info = bs;
286
287         if (bs && bs->bs_asic_type < PCIIO_ASIC_MAX_TYPES) {
288                 SN_PCIDEV_BUSPROVIDER(dev) = sn_pci_provider[bs->bs_asic_type];
289         } else {
290                 SN_PCIDEV_BUSPROVIDER(dev) = &sn_pci_default_provider;
291         }
292
293         /* Only set up IRQ stuff if this device has a host bus context */
294         if (bs && sn_irq_info->irq_irq) {
295                 SN_PCIDEV_INFO(dev)->pdi_sn_irq_info = sn_irq_info;
296                 dev->irq = SN_PCIDEV_INFO(dev)->pdi_sn_irq_info->irq_irq;
297                 sn_irq_fixup(dev, sn_irq_info);
298         }
299 }
300
301 /*
302  * sn_pci_controller_fixup() - This routine sets up a bus's resources
303  * consistent with the Linux PCI abstraction layer.
304  */
305 static void sn_pci_controller_fixup(int segment, int busnum)
306 {
307         int status = 0;
308         int nasid, cnode;
309         struct pci_bus *bus;
310         struct pci_controller *controller;
311         struct pcibus_bussoft *prom_bussoft_ptr;
312         struct hubdev_info *hubdev_info;
313         void *provider_soft;
314         struct sn_pcibus_provider *provider;
315
316         status =
317             sal_get_pcibus_info((u64) segment, (u64) busnum,
318                                 (u64) ia64_tpa(&prom_bussoft_ptr));
319         if (status > 0) {
320                 return;         /* bus # does not exist */
321         }
322
323         prom_bussoft_ptr = __va(prom_bussoft_ptr);
324         controller = sn_alloc_pci_sysdata();
325         /* controller non-zero is BUG'd in sn_alloc_pci_sysdata */
326
327         bus = pci_scan_bus(busnum, &pci_root_ops, controller);
328         if (bus == NULL) {
329                 return;         /* error, or bus already scanned */
330         }
331
332         /*
333          * Per-provider fixup.  Copies the contents from prom to local
334          * area and links SN_PCIBUS_BUSSOFT().
335          */
336
337         if (prom_bussoft_ptr->bs_asic_type >= PCIIO_ASIC_MAX_TYPES) {
338                 return;         /* unsupported asic type */
339         }
340
341         provider = sn_pci_provider[prom_bussoft_ptr->bs_asic_type];
342         if (provider == NULL) {
343                 return;         /* no provider registerd for this asic */
344         }
345
346         provider_soft = NULL;
347         if (provider->bus_fixup) {
348                 provider_soft = (*provider->bus_fixup) (prom_bussoft_ptr);
349         }
350
351         if (provider_soft == NULL) {
352                 return;         /* fixup failed or not applicable */
353         }
354
355         /*
356          * Generic bus fixup goes here.  Don't reference prom_bussoft_ptr
357          * after this point.
358          */
359
360         bus->sysdata = controller;
361         PCI_CONTROLLER(bus)->platform_data = provider_soft;
362
363         nasid = NASID_GET(SN_PCIBUS_BUSSOFT(bus)->bs_base);
364         cnode = nasid_to_cnodeid(nasid);
365         hubdev_info = (struct hubdev_info *)(NODEPDA(cnode)->pdinfo);
366         SN_PCIBUS_BUSSOFT(bus)->bs_xwidget_info =
367             &(hubdev_info->hdi_xwidget_info[SN_PCIBUS_BUSSOFT(bus)->bs_xid]);
368 }
369
370 /*
371  * Ugly hack to get PCI setup until we have a proper ACPI namespace.
372  */
373
374 #define PCI_BUSES_TO_SCAN 256
375
376 static int __init sn_pci_init(void)
377 {
378         int i = 0;
379         struct pci_dev *pci_dev = NULL;
380         extern void sn_init_cpei_timer(void);
381 #ifdef CONFIG_PROC_FS
382         extern void register_sn_procfs(void);
383 #endif
384
385         if (!ia64_platform_is("sn2") || IS_RUNNING_ON_SIMULATOR())
386                 return 0;
387
388         /*
389          * prime sn_pci_provider[].  Individial provider init routines will
390          * override their respective default entries.
391          */
392
393         for (i = 0; i < PCIIO_ASIC_MAX_TYPES; i++)
394                 sn_pci_provider[i] = &sn_pci_default_provider;
395
396         pcibr_init_provider();
397         tioca_init_provider();
398
399         /*
400          * This is needed to avoid bounce limit checks in the blk layer
401          */
402         ia64_max_iommu_merge_mask = ~PAGE_MASK;
403         sn_fixup_ionodes();
404         sn_irq = kmalloc(sizeof(struct sn_irq_info *) * NR_IRQS, GFP_KERNEL);
405         if (sn_irq <= 0)
406                 BUG();          /* Canno afford to run out of memory. */
407         memset(sn_irq, 0, sizeof(struct sn_irq_info *) * NR_IRQS);
408
409         sn_init_cpei_timer();
410
411 #ifdef CONFIG_PROC_FS
412         register_sn_procfs();
413 #endif
414
415         for (i = 0; i < PCI_BUSES_TO_SCAN; i++) {
416                 sn_pci_controller_fixup(0, i);
417         }
418
419         /*
420          * Generic Linux PCI Layer has created the pci_bus and pci_dev 
421          * structures - time for us to add our SN PLatform specific 
422          * information.
423          */
424
425         while ((pci_dev =
426                 pci_find_device(PCI_ANY_ID, PCI_ANY_ID, pci_dev)) != NULL) {
427                 sn_pci_fixup_slot(pci_dev);
428         }
429
430         sn_ioif_inited = 1;     /* sn I/O infrastructure now initialized */
431
432         return 0;
433 }
434
435 /*
436  * hubdev_init_node() - Creates the HUB data structure and link them to it's 
437  *      own NODE specific data area.
438  */
439 void hubdev_init_node(nodepda_t * npda, cnodeid_t node)
440 {
441
442         struct hubdev_info *hubdev_info;
443
444         if (node >= num_online_nodes()) /* Headless/memless IO nodes */
445                 hubdev_info =
446                     (struct hubdev_info *)alloc_bootmem_node(NODE_DATA(0),
447                                                              sizeof(struct
448                                                                     hubdev_info));
449         else
450                 hubdev_info =
451                     (struct hubdev_info *)alloc_bootmem_node(NODE_DATA(node),
452                                                              sizeof(struct
453                                                                     hubdev_info));
454         npda->pdinfo = (void *)hubdev_info;
455
456 }
457
458 geoid_t
459 cnodeid_get_geoid(cnodeid_t cnode)
460 {
461
462         struct hubdev_info *hubdev;
463
464         hubdev = (struct hubdev_info *)(NODEPDA(cnode)->pdinfo);
465         return hubdev->hdi_geoid;
466
467 }
468
469 subsys_initcall(sn_pci_init);