git.oblomov.eu Git - linux-2.6/blob - arch/powerpc/platforms/cell/iommu.c

   1 /*
   2  * IOMMU implementation for Cell Broadband Processor Architecture
   3  * We just establish a linear mapping at boot by setting all the
   4  * IOPT cache entries in the CPU.
   5  * The mapping functions should be identical to pci_direct_iommu,
   6  * except for the handling of the high order bit that is required
   7  * by the Spider bridge. These should be split into a separate
   8  * file at the point where we get a different bridge chip.
   9  *
  10  * Copyright (C) 2005 IBM Deutschland Entwicklung GmbH,
  11  *                       Arnd Bergmann <arndb@de.ibm.com>
  12  *
  13  * Based on linear mapping
  14  * Copyright (C) 2003 Benjamin Herrenschmidt (benh@kernel.crashing.org)
  15  *
  16  * This program is free software; you can redistribute it and/or
  17  * modify it under the terms of the GNU General Public License
  18  * as published by the Free Software Foundation; either version
  19  * 2 of the License, or (at your option) any later version.
  20  */
  21
  22 #undef DEBUG
  23
  24 #include <linux/kernel.h>
  25 #include <linux/pci.h>
  26 #include <linux/delay.h>
  27 #include <linux/string.h>
  28 #include <linux/init.h>
  29 #include <linux/bootmem.h>
  30 #include <linux/mm.h>
  31 #include <linux/dma-mapping.h>
  32 #include <linux/kernel.h>
  33 #include <linux/compiler.h>
  34
  35 #include <asm/sections.h>
  36 #include <asm/iommu.h>
  37 #include <asm/io.h>
  38 #include <asm/prom.h>
  39 #include <asm/pci-bridge.h>
  40 #include <asm/machdep.h>
  41 #include <asm/pmac_feature.h>
  42 #include <asm/abs_addr.h>
  43 #include <asm/system.h>
  44 #include <asm/ppc-pci.h>
  45 #include <asm/udbg.h>
  46
  47 #include "iommu.h"
  48
  49 static inline unsigned long
  50 get_iopt_entry(unsigned long real_address, unsigned long ioid,
  51                          unsigned long prot)
  52 {
  53         return (prot & IOPT_PROT_MASK)
  54              | (IOPT_COHERENT)
  55              | (IOPT_ORDER_VC)
  56              | (real_address & IOPT_RPN_MASK)
  57              | (ioid & IOPT_IOID_MASK);
  58 }
  59
  60 typedef struct {
  61         unsigned long val;
  62 } ioste;
  63
  64 static inline ioste
  65 mk_ioste(unsigned long val)
  66 {
  67         ioste ioste = { .val = val, };
  68         return ioste;
  69 }
  70
  71 static inline ioste
  72 get_iost_entry(unsigned long iopt_base, unsigned long io_address, unsigned page_size)
  73 {
  74         unsigned long ps;
  75         unsigned long iostep;
  76         unsigned long nnpt;
  77         unsigned long shift;
  78
  79         switch (page_size) {
  80         case 0x1000000:
  81                 ps = IOST_PS_16M;
  82                 nnpt = 0;  /* one page per segment */
  83                 shift = 5; /* segment has 16 iopt entries */
  84                 break;
  85
  86         case 0x100000:
  87                 ps = IOST_PS_1M;
  88                 nnpt = 0;  /* one page per segment */
  89                 shift = 1; /* segment has 256 iopt entries */
  90                 break;
  91
  92         case 0x10000:
  93                 ps = IOST_PS_64K;
  94                 nnpt = 0x07; /* 8 pages per io page table */
  95                 shift = 0;   /* all entries are used */
  96                 break;
  97
  98         case 0x1000:
  99                 ps = IOST_PS_4K;
 100                 nnpt = 0x7f; /* 128 pages per io page table */
 101                 shift = 0;   /* all entries are used */
 102                 break;
 103
 104         default: /* not a known compile time constant */
 105                 {
 106                         /* BUILD_BUG_ON() is not usable here */
 107                         extern void __get_iost_entry_bad_page_size(void);
 108                         __get_iost_entry_bad_page_size();
 109                 }
 110                 break;
 111         }
 112
 113         iostep = iopt_base +
 114                          /* need 8 bytes per iopte */
 115                         (((io_address / page_size * 8)
 116                          /* align io page tables on 4k page boundaries */
 117                                  << shift)
 118                          /* nnpt+1 pages go into each iopt */
 119                                  & ~(nnpt << 12));
 120
 121         nnpt++; /* this seems to work, but the documentation is not clear
 122                    about wether we put nnpt or nnpt-1 into the ioste bits.
 123                    In theory, this can't work for 4k pages. */
 124         return mk_ioste(IOST_VALID_MASK
 125                         | (iostep & IOST_PT_BASE_MASK)
 126                         | ((nnpt << 5) & IOST_NNPT_MASK)
 127                         | (ps & IOST_PS_MASK));
 128 }
 129
 130 /* compute the address of an io pte */
 131 static inline unsigned long
 132 get_ioptep(ioste iost_entry, unsigned long io_address)
 133 {
 134         unsigned long iopt_base;
 135         unsigned long page_size;
 136         unsigned long page_number;
 137         unsigned long iopt_offset;
 138
 139         iopt_base = iost_entry.val & IOST_PT_BASE_MASK;
 140         page_size = iost_entry.val & IOST_PS_MASK;
 141
 142         /* decode page size to compute page number */
 143         page_number = (io_address & 0x0fffffff) >> (10 + 2 * page_size);
 144         /* page number is an offset into the io page table */
 145         iopt_offset = (page_number << 3) & 0x7fff8ul;
 146         return iopt_base + iopt_offset;
 147 }
 148
 149 /* compute the tag field of the iopt cache entry */
 150 static inline unsigned long
 151 get_ioc_tag(ioste iost_entry, unsigned long io_address)
 152 {
 153         unsigned long iopte = get_ioptep(iost_entry, io_address);
 154
 155         return IOPT_VALID_MASK
 156              | ((iopte & 0x00000000000000ff8ul) >> 3)
 157              | ((iopte & 0x0000003fffffc0000ul) >> 9);
 158 }
 159
 160 /* compute the hashed 6 bit index for the 4-way associative pte cache */
 161 static inline unsigned long
 162 get_ioc_hash(ioste iost_entry, unsigned long io_address)
 163 {
 164         unsigned long iopte = get_ioptep(iost_entry, io_address);
 165
 166         return ((iopte & 0x000000000000001f8ul) >> 3)
 167              ^ ((iopte & 0x00000000000020000ul) >> 17)
 168              ^ ((iopte & 0x00000000000010000ul) >> 15)
 169              ^ ((iopte & 0x00000000000008000ul) >> 13)
 170              ^ ((iopte & 0x00000000000004000ul) >> 11)
 171              ^ ((iopte & 0x00000000000002000ul) >> 9)
 172              ^ ((iopte & 0x00000000000001000ul) >> 7);
 173 }
 174
 175 /* same as above, but pretend that we have a simpler 1-way associative
 176    pte cache with an 8 bit index */
 177 static inline unsigned long
 178 get_ioc_hash_1way(ioste iost_entry, unsigned long io_address)
 179 {
 180         unsigned long iopte = get_ioptep(iost_entry, io_address);
 181
 182         return ((iopte & 0x000000000000001f8ul) >> 3)
 183              ^ ((iopte & 0x00000000000020000ul) >> 17)
 184              ^ ((iopte & 0x00000000000010000ul) >> 15)
 185              ^ ((iopte & 0x00000000000008000ul) >> 13)
 186              ^ ((iopte & 0x00000000000004000ul) >> 11)
 187              ^ ((iopte & 0x00000000000002000ul) >> 9)
 188              ^ ((iopte & 0x00000000000001000ul) >> 7)
 189              ^ ((iopte & 0x0000000000000c000ul) >> 8);
 190 }
 191
 192 static inline ioste
 193 get_iost_cache(void __iomem *base, unsigned long index)
 194 {
 195         unsigned long __iomem *p = (base + IOC_ST_CACHE_DIR);
 196         return mk_ioste(in_be64(&p[index]));
 197 }
 198
 199 static inline void
 200 set_iost_cache(void __iomem *base, unsigned long index, ioste ste)
 201 {
 202         unsigned long __iomem *p = (base + IOC_ST_CACHE_DIR);
 203         pr_debug("ioste %02lx was %016lx, store %016lx", index,
 204                         get_iost_cache(base, index).val, ste.val);
 205         out_be64(&p[index], ste.val);
 206         pr_debug(" now %016lx\n", get_iost_cache(base, index).val);
 207 }
 208
 209 static inline unsigned long
 210 get_iopt_cache(void __iomem *base, unsigned long index, unsigned long *tag)
 211 {
 212         unsigned long __iomem *tags = (void *)(base + IOC_PT_CACHE_DIR);
 213         unsigned long __iomem *p = (void *)(base + IOC_PT_CACHE_REG);
 214
 215         *tag = tags[index];
 216         rmb();
 217         return *p;
 218 }
 219
 220 static inline void
 221 set_iopt_cache(void __iomem *base, unsigned long index,
 222                  unsigned long tag, unsigned long val)
 223 {
 224         unsigned long __iomem *tags = base + IOC_PT_CACHE_DIR;
 225         unsigned long __iomem *p = base + IOC_PT_CACHE_REG;
 226
 227         out_be64(p, val);
 228         out_be64(&tags[index], tag);
 229 }
 230
 231 static inline void
 232 set_iost_origin(void __iomem *base)
 233 {
 234         unsigned long __iomem *p = base + IOC_ST_ORIGIN;
 235         unsigned long origin = IOSTO_ENABLE | IOSTO_SW;
 236
 237         pr_debug("iost_origin %016lx, now %016lx\n", in_be64(p), origin);
 238         out_be64(p, origin);
 239 }
 240
 241 static inline void
 242 set_iocmd_config(void __iomem *base)
 243 {
 244         unsigned long __iomem *p = base + 0xc00;
 245         unsigned long conf;
 246
 247         conf = in_be64(p);
 248         pr_debug("iost_conf %016lx, now %016lx\n", conf, conf | IOCMD_CONF_TE);
 249         out_be64(p, conf | IOCMD_CONF_TE);
 250 }
 251
 252 static void enable_mapping(void __iomem *base, void __iomem *mmio_base)
 253 {
 254         set_iocmd_config(base);
 255         set_iost_origin(mmio_base);
 256 }
 257
 258 struct cell_iommu {
 259         unsigned long base;
 260         unsigned long mmio_base;
 261         void __iomem *mapped_base;
 262         void __iomem *mapped_mmio_base;
 263 };
 264
 265 static struct cell_iommu cell_iommus[NR_CPUS];
 266
 267 /* initialize the iommu to support a simple linear mapping
 268  * for each DMA window used by any device. For now, we
 269  * happen to know that there is only one DMA window in use,
 270  * starting at iopt_phys_offset. */
 271 static void cell_do_map_iommu(struct cell_iommu *iommu,
 272                               unsigned int ioid,
 273                               unsigned long map_start,
 274                               unsigned long map_size)
 275 {
 276         unsigned long io_address, real_address;
 277         void __iomem *ioc_base, *ioc_mmio_base;
 278         ioste ioste;
 279         unsigned long index;
 280
 281         /* we pretend the io page table was at a very high address */
 282         const unsigned long fake_iopt = 0x10000000000ul;
 283         const unsigned long io_page_size = 0x1000000; /* use 16M pages */
 284         const unsigned long io_segment_size = 0x10000000; /* 256M */
 285
 286         ioc_base = iommu->mapped_base;
 287         ioc_mmio_base = iommu->mapped_mmio_base;
 288
 289         for (real_address = 0, io_address = map_start;
 290              io_address <= map_start + map_size;
 291              real_address += io_page_size, io_address += io_page_size) {
 292                 ioste = get_iost_entry(fake_iopt, io_address, io_page_size);
 293                 if ((real_address % io_segment_size) == 0) /* segment start */
 294                         set_iost_cache(ioc_mmio_base,
 295                                        io_address >> 28, ioste);
 296                 index = get_ioc_hash_1way(ioste, io_address);
 297                 pr_debug("addr %08lx, index %02lx, ioste %016lx\n",
 298                                          io_address, index, ioste.val);
 299                 set_iopt_cache(ioc_mmio_base,
 300                         get_ioc_hash_1way(ioste, io_address),
 301                         get_ioc_tag(ioste, io_address),
 302                         get_iopt_entry(real_address, ioid, IOPT_PROT_RW));
 303         }
 304 }
 305
 306 static void pci_dma_cell_bus_setup(struct pci_bus *b)
 307 {
 308         const unsigned int *ioid;
 309         unsigned long map_start, map_size, token;
 310         const unsigned long *dma_window;
 311         struct cell_iommu *iommu;
 312         struct device_node *d;
 313
 314         d = pci_bus_to_OF_node(b);
 315
 316         ioid = get_property(d, "ioid", NULL);
 317         if (!ioid)
 318                 pr_debug("No ioid entry found !\n");
 319
 320         dma_window = get_property(d, "ibm,dma-window", NULL);
 321         if (!dma_window)
 322                 pr_debug("No ibm,dma-window entry found !\n");
 323
 324         map_start = dma_window[1];
 325         map_size = dma_window[2];
 326         token = dma_window[0] >> 32;
 327
 328         iommu = &cell_iommus[token];
 329
 330         cell_do_map_iommu(iommu, *ioid, map_start, map_size);
 331 }
 332
 333
 334 static int cell_map_iommu_hardcoded(int num_nodes)
 335 {
 336         struct cell_iommu *iommu = NULL;
 337
 338         pr_debug("%s(%d): Using hardcoded defaults\n", __FUNCTION__, __LINE__);
 339
 340         /* node 0 */
 341         iommu = &cell_iommus[0];
 342         iommu->mapped_base = ioremap(0x20000511000ul, 0x1000);
 343         iommu->mapped_mmio_base = ioremap(0x20000510000ul, 0x1000);
 344
 345         enable_mapping(iommu->mapped_base, iommu->mapped_mmio_base);
 346
 347         cell_do_map_iommu(iommu, 0x048a,
 348                           0x20000000ul,0x20000000ul);
 349
 350         if (num_nodes < 2)
 351                 return 0;
 352
 353         /* node 1 */
 354         iommu = &cell_iommus[1];
 355         iommu->mapped_base = ioremap(0x30000511000ul, 0x1000);
 356         iommu->mapped_mmio_base = ioremap(0x30000510000ul, 0x1000);
 357
 358         enable_mapping(iommu->mapped_base, iommu->mapped_mmio_base);
 359
 360         cell_do_map_iommu(iommu, 0x048a,
 361                           0x20000000,0x20000000ul);
 362
 363         return 0;
 364 }
 365
 366
 367 static int cell_map_iommu(void)
 368 {
 369         unsigned int num_nodes = 0;
 370         const unsigned int *node_id;
 371         const unsigned long *base, *mmio_base;
 372         struct device_node *dn;
 373         struct cell_iommu *iommu = NULL;
 374
 375         /* determine number of nodes (=iommus) */
 376         pr_debug("%s(%d): determining number of nodes...", __FUNCTION__, __LINE__);
 377         for(dn = of_find_node_by_type(NULL, "cpu");
 378             dn;
 379             dn = of_find_node_by_type(dn, "cpu")) {
 380                 node_id = get_property(dn, "node-id", NULL);
 381
 382                 if (num_nodes < *node_id)
 383                         num_nodes = *node_id;
 384                 }
 385
 386         num_nodes++;
 387         pr_debug("%i found.\n", num_nodes);
 388
 389         /* map the iommu registers for each node */
 390         pr_debug("%s(%d): Looping through nodes\n", __FUNCTION__, __LINE__);
 391         for(dn = of_find_node_by_type(NULL, "cpu");
 392             dn;
 393             dn = of_find_node_by_type(dn, "cpu")) {
 394
 395                 node_id = get_property(dn, "node-id", NULL);
 396                 base = get_property(dn, "ioc-cache", NULL);
 397                 mmio_base = get_property(dn, "ioc-translation", NULL);
 398
 399                 if (!base || !mmio_base || !node_id)
 400                         return cell_map_iommu_hardcoded(num_nodes);
 401
 402                 iommu = &cell_iommus[*node_id];
 403                 iommu->base = *base;
 404                 iommu->mmio_base = *mmio_base;
 405
 406                 iommu->mapped_base = ioremap(*base, 0x1000);
 407                 iommu->mapped_mmio_base = ioremap(*mmio_base, 0x1000);
 408
 409                 enable_mapping(iommu->mapped_base,
 410                                iommu->mapped_mmio_base);
 411
 412                 /* everything else will be done in iommu_bus_setup */
 413         }
 414
 415         return 1;
 416 }
 417
 418 void cell_init_iommu(void)
 419 {
 420         int setup_bus = 0;
 421
 422         if (of_find_node_by_path("/mambo")) {
 423                 pr_info("Not using iommu on systemsim\n");
 424         } else {
 425                 /* If we don't have an Axon bridge, we assume we have a
 426                  * spider which requires a DMA offset
 427                  */
 428                 if (of_find_node_by_name(NULL, "axon") == NULL)
 429                         dma_direct_offset = SPIDER_DMA_VALID;
 430
 431                 if (!(of_chosen &&
 432                       get_property(of_chosen, "linux,iommu-off", NULL)))
 433                         setup_bus = cell_map_iommu();
 434
 435                 if (setup_bus) {
 436                         pr_debug("%s: IOMMU mapping activated\n", __FUNCTION__);
 437                         ppc_md.pci_dma_bus_setup = pci_dma_cell_bus_setup;
 438                 } else {
 439                         pr_debug("%s: IOMMU mapping activated, "
 440                                  "no device action necessary\n", __FUNCTION__);
 441                         /* Direct I/O, IOMMU off */
 442                 }
 443         }
 444
 445         pci_dma_ops = &dma_direct_ops;
 446 }