[PATCH] libertas: single out mesh code
[linux-2.6] / drivers / net / spider_net.c
1 /*
2  * Network device driver for Cell Processor-Based Blade and Celleb platform
3  *
4  * (C) Copyright IBM Corp. 2005
5  * (C) Copyright 2006 TOSHIBA CORPORATION
6  *
7  * Authors : Utz Bacher <utz.bacher@de.ibm.com>
8  *           Jens Osterkamp <Jens.Osterkamp@de.ibm.com>
9  *
10  * This program is free software; you can redistribute it and/or modify
11  * it under the terms of the GNU General Public License as published by
12  * the Free Software Foundation; either version 2, or (at your option)
13  * any later version.
14  *
15  * This program is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18  * GNU General Public License for more details.
19  *
20  * You should have received a copy of the GNU General Public License
21  * along with this program; if not, write to the Free Software
22  * Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
23  */
24
25 #include <linux/compiler.h>
26 #include <linux/crc32.h>
27 #include <linux/delay.h>
28 #include <linux/etherdevice.h>
29 #include <linux/ethtool.h>
30 #include <linux/firmware.h>
31 #include <linux/if_vlan.h>
32 #include <linux/in.h>
33 #include <linux/init.h>
34 #include <linux/ioport.h>
35 #include <linux/ip.h>
36 #include <linux/kernel.h>
37 #include <linux/mii.h>
38 #include <linux/module.h>
39 #include <linux/netdevice.h>
40 #include <linux/device.h>
41 #include <linux/pci.h>
42 #include <linux/skbuff.h>
43 #include <linux/slab.h>
44 #include <linux/tcp.h>
45 #include <linux/types.h>
46 #include <linux/vmalloc.h>
47 #include <linux/wait.h>
48 #include <linux/workqueue.h>
49 #include <asm/bitops.h>
50 #include <asm/pci-bridge.h>
51 #include <net/checksum.h>
52
53 #include "spider_net.h"
54
55 MODULE_AUTHOR("Utz Bacher <utz.bacher@de.ibm.com> and Jens Osterkamp " \
56               "<Jens.Osterkamp@de.ibm.com>");
57 MODULE_DESCRIPTION("Spider Southbridge Gigabit Ethernet driver");
58 MODULE_LICENSE("GPL");
59 MODULE_VERSION(VERSION);
60
61 static int rx_descriptors = SPIDER_NET_RX_DESCRIPTORS_DEFAULT;
62 static int tx_descriptors = SPIDER_NET_TX_DESCRIPTORS_DEFAULT;
63
64 module_param(rx_descriptors, int, 0444);
65 module_param(tx_descriptors, int, 0444);
66
67 MODULE_PARM_DESC(rx_descriptors, "number of descriptors used " \
68                  "in rx chains");
69 MODULE_PARM_DESC(tx_descriptors, "number of descriptors used " \
70                  "in tx chain");
71
72 char spider_net_driver_name[] = "spidernet";
73
74 static struct pci_device_id spider_net_pci_tbl[] = {
75         { PCI_VENDOR_ID_TOSHIBA_2, PCI_DEVICE_ID_TOSHIBA_SPIDER_NET,
76           PCI_ANY_ID, PCI_ANY_ID, 0, 0, 0UL },
77         { 0, }
78 };
79
80 MODULE_DEVICE_TABLE(pci, spider_net_pci_tbl);
81
82 /**
83  * spider_net_read_reg - reads an SMMIO register of a card
84  * @card: device structure
85  * @reg: register to read from
86  *
87  * returns the content of the specified SMMIO register.
88  */
89 static inline u32
90 spider_net_read_reg(struct spider_net_card *card, u32 reg)
91 {
92         /* We use the powerpc specific variants instead of readl_be() because
93          * we know spidernet is not a real PCI device and we can thus avoid the
94          * performance hit caused by the PCI workarounds.
95          */
96         return in_be32(card->regs + reg);
97 }
98
99 /**
100  * spider_net_write_reg - writes to an SMMIO register of a card
101  * @card: device structure
102  * @reg: register to write to
103  * @value: value to write into the specified SMMIO register
104  */
105 static inline void
106 spider_net_write_reg(struct spider_net_card *card, u32 reg, u32 value)
107 {
108         /* We use the powerpc specific variants instead of writel_be() because
109          * we know spidernet is not a real PCI device and we can thus avoid the
110          * performance hit caused by the PCI workarounds.
111          */
112         out_be32(card->regs + reg, value);
113 }
114
115 /** spider_net_write_phy - write to phy register
116  * @netdev: adapter to be written to
117  * @mii_id: id of MII
118  * @reg: PHY register
119  * @val: value to be written to phy register
120  *
121  * spider_net_write_phy_register writes to an arbitrary PHY
122  * register via the spider GPCWOPCMD register. We assume the queue does
123  * not run full (not more than 15 commands outstanding).
124  **/
125 static void
126 spider_net_write_phy(struct net_device *netdev, int mii_id,
127                      int reg, int val)
128 {
129         struct spider_net_card *card = netdev_priv(netdev);
130         u32 writevalue;
131
132         writevalue = ((u32)mii_id << 21) |
133                 ((u32)reg << 16) | ((u32)val);
134
135         spider_net_write_reg(card, SPIDER_NET_GPCWOPCMD, writevalue);
136 }
137
138 /** spider_net_read_phy - read from phy register
139  * @netdev: network device to be read from
140  * @mii_id: id of MII
141  * @reg: PHY register
142  *
143  * Returns value read from PHY register
144  *
145  * spider_net_write_phy reads from an arbitrary PHY
146  * register via the spider GPCROPCMD register
147  **/
148 static int
149 spider_net_read_phy(struct net_device *netdev, int mii_id, int reg)
150 {
151         struct spider_net_card *card = netdev_priv(netdev);
152         u32 readvalue;
153
154         readvalue = ((u32)mii_id << 21) | ((u32)reg << 16);
155         spider_net_write_reg(card, SPIDER_NET_GPCROPCMD, readvalue);
156
157         /* we don't use semaphores to wait for an SPIDER_NET_GPROPCMPINT
158          * interrupt, as we poll for the completion of the read operation
159          * in spider_net_read_phy. Should take about 50 us */
160         do {
161                 readvalue = spider_net_read_reg(card, SPIDER_NET_GPCROPCMD);
162         } while (readvalue & SPIDER_NET_GPREXEC);
163
164         readvalue &= SPIDER_NET_GPRDAT_MASK;
165
166         return readvalue;
167 }
168
169 /**
170  * spider_net_setup_aneg - initial auto-negotiation setup
171  * @card: device structure
172  **/
173 static void
174 spider_net_setup_aneg(struct spider_net_card *card)
175 {
176         struct mii_phy *phy = &card->phy;
177         u32 advertise = 0;
178         u16 bmsr, estat;
179
180         bmsr  = spider_net_read_phy(card->netdev, phy->mii_id, MII_BMSR);
181         estat = spider_net_read_phy(card->netdev, phy->mii_id, MII_ESTATUS);
182
183         if (bmsr & BMSR_10HALF)
184                 advertise |= ADVERTISED_10baseT_Half;
185         if (bmsr & BMSR_10FULL)
186                 advertise |= ADVERTISED_10baseT_Full;
187         if (bmsr & BMSR_100HALF)
188                 advertise |= ADVERTISED_100baseT_Half;
189         if (bmsr & BMSR_100FULL)
190                 advertise |= ADVERTISED_100baseT_Full;
191
192         if ((bmsr & BMSR_ESTATEN) && (estat & ESTATUS_1000_TFULL))
193                 advertise |= SUPPORTED_1000baseT_Full;
194         if ((bmsr & BMSR_ESTATEN) && (estat & ESTATUS_1000_THALF))
195                 advertise |= SUPPORTED_1000baseT_Half;
196
197         mii_phy_probe(phy, phy->mii_id);
198         phy->def->ops->setup_aneg(phy, advertise);
199
200 }
201
202 /**
203  * spider_net_rx_irq_off - switch off rx irq on this spider card
204  * @card: device structure
205  *
206  * switches off rx irq by masking them out in the GHIINTnMSK register
207  */
208 static void
209 spider_net_rx_irq_off(struct spider_net_card *card)
210 {
211         u32 regvalue;
212
213         regvalue = SPIDER_NET_INT0_MASK_VALUE & (~SPIDER_NET_RXINT);
214         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK, regvalue);
215 }
216
217 /**
218  * spider_net_rx_irq_on - switch on rx irq on this spider card
219  * @card: device structure
220  *
221  * switches on rx irq by enabling them in the GHIINTnMSK register
222  */
223 static void
224 spider_net_rx_irq_on(struct spider_net_card *card)
225 {
226         u32 regvalue;
227
228         regvalue = SPIDER_NET_INT0_MASK_VALUE | SPIDER_NET_RXINT;
229         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK, regvalue);
230 }
231
232 /**
233  * spider_net_set_promisc - sets the unicast address or the promiscuous mode
234  * @card: card structure
235  *
236  * spider_net_set_promisc sets the unicast destination address filter and
237  * thus either allows for non-promisc mode or promisc mode
238  */
239 static void
240 spider_net_set_promisc(struct spider_net_card *card)
241 {
242         u32 macu, macl;
243         struct net_device *netdev = card->netdev;
244
245         if (netdev->flags & IFF_PROMISC) {
246                 /* clear destination entry 0 */
247                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR, 0);
248                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR + 0x04, 0);
249                 spider_net_write_reg(card, SPIDER_NET_GMRUA0FIL15R,
250                                      SPIDER_NET_PROMISC_VALUE);
251         } else {
252                 macu = netdev->dev_addr[0];
253                 macu <<= 8;
254                 macu |= netdev->dev_addr[1];
255                 memcpy(&macl, &netdev->dev_addr[2], sizeof(macl));
256
257                 macu |= SPIDER_NET_UA_DESCR_VALUE;
258                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR, macu);
259                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR + 0x04, macl);
260                 spider_net_write_reg(card, SPIDER_NET_GMRUA0FIL15R,
261                                      SPIDER_NET_NONPROMISC_VALUE);
262         }
263 }
264
265 /**
266  * spider_net_get_mac_address - read mac address from spider card
267  * @card: device structure
268  *
269  * reads MAC address from GMACUNIMACU and GMACUNIMACL registers
270  */
271 static int
272 spider_net_get_mac_address(struct net_device *netdev)
273 {
274         struct spider_net_card *card = netdev_priv(netdev);
275         u32 macl, macu;
276
277         macl = spider_net_read_reg(card, SPIDER_NET_GMACUNIMACL);
278         macu = spider_net_read_reg(card, SPIDER_NET_GMACUNIMACU);
279
280         netdev->dev_addr[0] = (macu >> 24) & 0xff;
281         netdev->dev_addr[1] = (macu >> 16) & 0xff;
282         netdev->dev_addr[2] = (macu >> 8) & 0xff;
283         netdev->dev_addr[3] = macu & 0xff;
284         netdev->dev_addr[4] = (macl >> 8) & 0xff;
285         netdev->dev_addr[5] = macl & 0xff;
286
287         if (!is_valid_ether_addr(&netdev->dev_addr[0]))
288                 return -EINVAL;
289
290         return 0;
291 }
292
293 /**
294  * spider_net_get_descr_status -- returns the status of a descriptor
295  * @descr: descriptor to look at
296  *
297  * returns the status as in the dmac_cmd_status field of the descriptor
298  */
299 static inline int
300 spider_net_get_descr_status(struct spider_net_hw_descr *hwdescr)
301 {
302         return hwdescr->dmac_cmd_status & SPIDER_NET_DESCR_IND_PROC_MASK;
303 }
304
305 /**
306  * spider_net_free_chain - free descriptor chain
307  * @card: card structure
308  * @chain: address of chain
309  *
310  */
311 static void
312 spider_net_free_chain(struct spider_net_card *card,
313                       struct spider_net_descr_chain *chain)
314 {
315         struct spider_net_descr *descr;
316
317         descr = chain->ring;
318         do {
319                 descr->bus_addr = 0;
320                 descr->hwdescr->next_descr_addr = 0;
321                 descr = descr->next;
322         } while (descr != chain->ring);
323
324         dma_free_coherent(&card->pdev->dev, chain->num_desc,
325             chain->hwring, chain->dma_addr);
326 }
327
328 /**
329  * spider_net_init_chain - alloc and link descriptor chain
330  * @card: card structure
331  * @chain: address of chain
332  *
333  * We manage a circular list that mirrors the hardware structure,
334  * except that the hardware uses bus addresses.
335  *
336  * Returns 0 on success, <0 on failure
337  */
338 static int
339 spider_net_init_chain(struct spider_net_card *card,
340                        struct spider_net_descr_chain *chain)
341 {
342         int i;
343         struct spider_net_descr *descr;
344         struct spider_net_hw_descr *hwdescr;
345         dma_addr_t buf;
346         size_t alloc_size;
347
348         alloc_size = chain->num_desc * sizeof(struct spider_net_hw_descr);
349
350         chain->hwring = dma_alloc_coherent(&card->pdev->dev, alloc_size,
351                 &chain->dma_addr, GFP_KERNEL);
352
353         if (!chain->hwring)
354                 return -ENOMEM;
355
356         memset(chain->ring, 0, chain->num_desc * sizeof(struct spider_net_descr));
357
358         /* Set up the hardware pointers in each descriptor */
359         descr = chain->ring;
360         hwdescr = chain->hwring;
361         buf = chain->dma_addr;
362         for (i=0; i < chain->num_desc; i++, descr++, hwdescr++) {
363                 hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
364                 hwdescr->next_descr_addr = 0;
365
366                 descr->hwdescr = hwdescr;
367                 descr->bus_addr = buf;
368                 descr->next = descr + 1;
369                 descr->prev = descr - 1;
370
371                 buf += sizeof(struct spider_net_hw_descr);
372         }
373         /* do actual circular list */
374         (descr-1)->next = chain->ring;
375         chain->ring->prev = descr-1;
376
377         spin_lock_init(&chain->lock);
378         chain->head = chain->ring;
379         chain->tail = chain->ring;
380         return 0;
381 }
382
383 /**
384  * spider_net_free_rx_chain_contents - frees descr contents in rx chain
385  * @card: card structure
386  *
387  * returns 0 on success, <0 on failure
388  */
389 static void
390 spider_net_free_rx_chain_contents(struct spider_net_card *card)
391 {
392         struct spider_net_descr *descr;
393
394         descr = card->rx_chain.head;
395         do {
396                 if (descr->skb) {
397                         pci_unmap_single(card->pdev, descr->hwdescr->buf_addr,
398                                          SPIDER_NET_MAX_FRAME,
399                                          PCI_DMA_BIDIRECTIONAL);
400                         dev_kfree_skb(descr->skb);
401                         descr->skb = NULL;
402                 }
403                 descr = descr->next;
404         } while (descr != card->rx_chain.head);
405 }
406
407 /**
408  * spider_net_prepare_rx_descr - Reinitialize RX descriptor
409  * @card: card structure
410  * @descr: descriptor to re-init
411  *
412  * Return 0 on succes, <0 on failure.
413  *
414  * Allocates a new rx skb, iommu-maps it and attaches it to the
415  * descriptor. Mark the descriptor as activated, ready-to-use.
416  */
417 static int
418 spider_net_prepare_rx_descr(struct spider_net_card *card,
419                             struct spider_net_descr *descr)
420 {
421         struct spider_net_hw_descr *hwdescr = descr->hwdescr;
422         dma_addr_t buf;
423         int offset;
424         int bufsize;
425
426         /* we need to round up the buffer size to a multiple of 128 */
427         bufsize = (SPIDER_NET_MAX_FRAME + SPIDER_NET_RXBUF_ALIGN - 1) &
428                 (~(SPIDER_NET_RXBUF_ALIGN - 1));
429
430         /* and we need to have it 128 byte aligned, therefore we allocate a
431          * bit more */
432         /* allocate an skb */
433         descr->skb = netdev_alloc_skb(card->netdev,
434                                       bufsize + SPIDER_NET_RXBUF_ALIGN - 1);
435         if (!descr->skb) {
436                 if (netif_msg_rx_err(card) && net_ratelimit())
437                         pr_err("Not enough memory to allocate rx buffer\n");
438                 card->spider_stats.alloc_rx_skb_error++;
439                 return -ENOMEM;
440         }
441         hwdescr->buf_size = bufsize;
442         hwdescr->result_size = 0;
443         hwdescr->valid_size = 0;
444         hwdescr->data_status = 0;
445         hwdescr->data_error = 0;
446
447         offset = ((unsigned long)descr->skb->data) &
448                 (SPIDER_NET_RXBUF_ALIGN - 1);
449         if (offset)
450                 skb_reserve(descr->skb, SPIDER_NET_RXBUF_ALIGN - offset);
451         /* iommu-map the skb */
452         buf = pci_map_single(card->pdev, descr->skb->data,
453                         SPIDER_NET_MAX_FRAME, PCI_DMA_FROMDEVICE);
454         if (pci_dma_mapping_error(buf)) {
455                 dev_kfree_skb_any(descr->skb);
456                 descr->skb = NULL;
457                 if (netif_msg_rx_err(card) && net_ratelimit())
458                         pr_err("Could not iommu-map rx buffer\n");
459                 card->spider_stats.rx_iommu_map_error++;
460                 hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
461         } else {
462                 hwdescr->buf_addr = buf;
463                 hwdescr->next_descr_addr = 0;
464                 wmb();
465                 hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_CARDOWNED |
466                                          SPIDER_NET_DMAC_NOINTR_COMPLETE;
467
468                 wmb();
469                 descr->prev->hwdescr->next_descr_addr = descr->bus_addr;
470         }
471
472         return 0;
473 }
474
475 /**
476  * spider_net_enable_rxchtails - sets RX dmac chain tail addresses
477  * @card: card structure
478  *
479  * spider_net_enable_rxchtails sets the RX DMAC chain tail adresses in the
480  * chip by writing to the appropriate register. DMA is enabled in
481  * spider_net_enable_rxdmac.
482  */
483 static inline void
484 spider_net_enable_rxchtails(struct spider_net_card *card)
485 {
486         /* assume chain is aligned correctly */
487         spider_net_write_reg(card, SPIDER_NET_GDADCHA ,
488                              card->rx_chain.tail->bus_addr);
489 }
490
491 /**
492  * spider_net_enable_rxdmac - enables a receive DMA controller
493  * @card: card structure
494  *
495  * spider_net_enable_rxdmac enables the DMA controller by setting RX_DMA_EN
496  * in the GDADMACCNTR register
497  */
498 static inline void
499 spider_net_enable_rxdmac(struct spider_net_card *card)
500 {
501         wmb();
502         spider_net_write_reg(card, SPIDER_NET_GDADMACCNTR,
503                              SPIDER_NET_DMA_RX_VALUE);
504 }
505
506 /**
507  * spider_net_refill_rx_chain - refills descriptors/skbs in the rx chains
508  * @card: card structure
509  *
510  * refills descriptors in the rx chain: allocates skbs and iommu-maps them.
511  */
512 static void
513 spider_net_refill_rx_chain(struct spider_net_card *card)
514 {
515         struct spider_net_descr_chain *chain = &card->rx_chain;
516         unsigned long flags;
517
518         /* one context doing the refill (and a second context seeing that
519          * and omitting it) is ok. If called by NAPI, we'll be called again
520          * as spider_net_decode_one_descr is called several times. If some
521          * interrupt calls us, the NAPI is about to clean up anyway. */
522         if (!spin_trylock_irqsave(&chain->lock, flags))
523                 return;
524
525         while (spider_net_get_descr_status(chain->head->hwdescr) ==
526                         SPIDER_NET_DESCR_NOT_IN_USE) {
527                 if (spider_net_prepare_rx_descr(card, chain->head))
528                         break;
529                 chain->head = chain->head->next;
530         }
531
532         spin_unlock_irqrestore(&chain->lock, flags);
533 }
534
535 /**
536  * spider_net_alloc_rx_skbs - Allocates rx skbs in rx descriptor chains
537  * @card: card structure
538  *
539  * Returns 0 on success, <0 on failure.
540  */
541 static int
542 spider_net_alloc_rx_skbs(struct spider_net_card *card)
543 {
544         int result;
545         struct spider_net_descr_chain *chain;
546
547         result = -ENOMEM;
548
549         chain = &card->rx_chain;
550         /* Put at least one buffer into the chain. if this fails,
551          * we've got a problem. If not, spider_net_refill_rx_chain
552          * will do the rest at the end of this function. */
553         if (spider_net_prepare_rx_descr(card, chain->head))
554                 goto error;
555         else
556                 chain->head = chain->head->next;
557
558         /* This will allocate the rest of the rx buffers;
559          * if not, it's business as usual later on. */
560         spider_net_refill_rx_chain(card);
561         spider_net_enable_rxdmac(card);
562         return 0;
563
564 error:
565         spider_net_free_rx_chain_contents(card);
566         return result;
567 }
568
569 /**
570  * spider_net_get_multicast_hash - generates hash for multicast filter table
571  * @addr: multicast address
572  *
573  * returns the hash value.
574  *
575  * spider_net_get_multicast_hash calculates a hash value for a given multicast
576  * address, that is used to set the multicast filter tables
577  */
578 static u8
579 spider_net_get_multicast_hash(struct net_device *netdev, __u8 *addr)
580 {
581         u32 crc;
582         u8 hash;
583         char addr_for_crc[ETH_ALEN] = { 0, };
584         int i, bit;
585
586         for (i = 0; i < ETH_ALEN * 8; i++) {
587                 bit = (addr[i / 8] >> (i % 8)) & 1;
588                 addr_for_crc[ETH_ALEN - 1 - i / 8] += bit << (7 - (i % 8));
589         }
590
591         crc = crc32_be(~0, addr_for_crc, netdev->addr_len);
592
593         hash = (crc >> 27);
594         hash <<= 3;
595         hash |= crc & 7;
596         hash &= 0xff;
597
598         return hash;
599 }
600
601 /**
602  * spider_net_set_multi - sets multicast addresses and promisc flags
603  * @netdev: interface device structure
604  *
605  * spider_net_set_multi configures multicast addresses as needed for the
606  * netdev interface. It also sets up multicast, allmulti and promisc
607  * flags appropriately
608  */
609 static void
610 spider_net_set_multi(struct net_device *netdev)
611 {
612         struct dev_mc_list *mc;
613         u8 hash;
614         int i;
615         u32 reg;
616         struct spider_net_card *card = netdev_priv(netdev);
617         unsigned long bitmask[SPIDER_NET_MULTICAST_HASHES / BITS_PER_LONG] =
618                 {0, };
619
620         spider_net_set_promisc(card);
621
622         if (netdev->flags & IFF_ALLMULTI) {
623                 for (i = 0; i < SPIDER_NET_MULTICAST_HASHES; i++) {
624                         set_bit(i, bitmask);
625                 }
626                 goto write_hash;
627         }
628
629         /* well, we know, what the broadcast hash value is: it's xfd
630         hash = spider_net_get_multicast_hash(netdev, netdev->broadcast); */
631         set_bit(0xfd, bitmask);
632
633         for (mc = netdev->mc_list; mc; mc = mc->next) {
634                 hash = spider_net_get_multicast_hash(netdev, mc->dmi_addr);
635                 set_bit(hash, bitmask);
636         }
637
638 write_hash:
639         for (i = 0; i < SPIDER_NET_MULTICAST_HASHES / 4; i++) {
640                 reg = 0;
641                 if (test_bit(i * 4, bitmask))
642                         reg += 0x08;
643                 reg <<= 8;
644                 if (test_bit(i * 4 + 1, bitmask))
645                         reg += 0x08;
646                 reg <<= 8;
647                 if (test_bit(i * 4 + 2, bitmask))
648                         reg += 0x08;
649                 reg <<= 8;
650                 if (test_bit(i * 4 + 3, bitmask))
651                         reg += 0x08;
652
653                 spider_net_write_reg(card, SPIDER_NET_GMRMHFILnR + i * 4, reg);
654         }
655 }
656
657 /**
658  * spider_net_disable_rxdmac - disables the receive DMA controller
659  * @card: card structure
660  *
661  * spider_net_disable_rxdmac terminates processing on the DMA controller by
662  * turing off DMA and issueing a force end
663  */
664 static void
665 spider_net_disable_rxdmac(struct spider_net_card *card)
666 {
667         spider_net_write_reg(card, SPIDER_NET_GDADMACCNTR,
668                              SPIDER_NET_DMA_RX_FEND_VALUE);
669 }
670
671 /**
672  * spider_net_prepare_tx_descr - fill tx descriptor with skb data
673  * @card: card structure
674  * @descr: descriptor structure to fill out
675  * @skb: packet to use
676  *
677  * returns 0 on success, <0 on failure.
678  *
679  * fills out the descriptor structure with skb data and len. Copies data,
680  * if needed (32bit DMA!)
681  */
682 static int
683 spider_net_prepare_tx_descr(struct spider_net_card *card,
684                             struct sk_buff *skb)
685 {
686         struct spider_net_descr_chain *chain = &card->tx_chain;
687         struct spider_net_descr *descr;
688         struct spider_net_hw_descr *hwdescr;
689         dma_addr_t buf;
690         unsigned long flags;
691
692         buf = pci_map_single(card->pdev, skb->data, skb->len, PCI_DMA_TODEVICE);
693         if (pci_dma_mapping_error(buf)) {
694                 if (netif_msg_tx_err(card) && net_ratelimit())
695                         pr_err("could not iommu-map packet (%p, %i). "
696                                   "Dropping packet\n", skb->data, skb->len);
697                 card->spider_stats.tx_iommu_map_error++;
698                 return -ENOMEM;
699         }
700
701         spin_lock_irqsave(&chain->lock, flags);
702         descr = card->tx_chain.head;
703         if (descr->next == chain->tail->prev) {
704                 spin_unlock_irqrestore(&chain->lock, flags);
705                 pci_unmap_single(card->pdev, buf, skb->len, PCI_DMA_TODEVICE);
706                 return -ENOMEM;
707         }
708         hwdescr = descr->hwdescr;
709         chain->head = descr->next;
710
711         descr->skb = skb;
712         hwdescr->buf_addr = buf;
713         hwdescr->buf_size = skb->len;
714         hwdescr->next_descr_addr = 0;
715         hwdescr->data_status = 0;
716
717         hwdescr->dmac_cmd_status =
718                         SPIDER_NET_DESCR_CARDOWNED | SPIDER_NET_DMAC_NOCS;
719         spin_unlock_irqrestore(&chain->lock, flags);
720
721         if (skb->protocol == htons(ETH_P_IP) && skb->ip_summed == CHECKSUM_PARTIAL)
722                 switch (ip_hdr(skb)->protocol) {
723                 case IPPROTO_TCP:
724                         hwdescr->dmac_cmd_status |= SPIDER_NET_DMAC_TCP;
725                         break;
726                 case IPPROTO_UDP:
727                         hwdescr->dmac_cmd_status |= SPIDER_NET_DMAC_UDP;
728                         break;
729                 }
730
731         /* Chain the bus address, so that the DMA engine finds this descr. */
732         wmb();
733         descr->prev->hwdescr->next_descr_addr = descr->bus_addr;
734
735         card->netdev->trans_start = jiffies; /* set netdev watchdog timer */
736         return 0;
737 }
738
739 static int
740 spider_net_set_low_watermark(struct spider_net_card *card)
741 {
742         struct spider_net_descr *descr = card->tx_chain.tail;
743         struct spider_net_hw_descr *hwdescr;
744         unsigned long flags;
745         int status;
746         int cnt=0;
747         int i;
748
749         /* Measure the length of the queue. Measurement does not
750          * need to be precise -- does not need a lock. */
751         while (descr != card->tx_chain.head) {
752                 status = descr->hwdescr->dmac_cmd_status & SPIDER_NET_DESCR_NOT_IN_USE;
753                 if (status == SPIDER_NET_DESCR_NOT_IN_USE)
754                         break;
755                 descr = descr->next;
756                 cnt++;
757         }
758
759         /* If TX queue is short, don't even bother with interrupts */
760         if (cnt < card->tx_chain.num_desc/4)
761                 return cnt;
762
763         /* Set low-watermark 3/4th's of the way into the queue. */
764         descr = card->tx_chain.tail;
765         cnt = (cnt*3)/4;
766         for (i=0;i<cnt; i++)
767                 descr = descr->next;
768
769         /* Set the new watermark, clear the old watermark */
770         spin_lock_irqsave(&card->tx_chain.lock, flags);
771         descr->hwdescr->dmac_cmd_status |= SPIDER_NET_DESCR_TXDESFLG;
772         if (card->low_watermark && card->low_watermark != descr) {
773                 hwdescr = card->low_watermark->hwdescr;
774                 hwdescr->dmac_cmd_status =
775                      hwdescr->dmac_cmd_status & ~SPIDER_NET_DESCR_TXDESFLG;
776         }
777         card->low_watermark = descr;
778         spin_unlock_irqrestore(&card->tx_chain.lock, flags);
779         return cnt;
780 }
781
782 /**
783  * spider_net_release_tx_chain - processes sent tx descriptors
784  * @card: adapter structure
785  * @brutal: if set, don't care about whether descriptor seems to be in use
786  *
787  * returns 0 if the tx ring is empty, otherwise 1.
788  *
789  * spider_net_release_tx_chain releases the tx descriptors that spider has
790  * finished with (if non-brutal) or simply release tx descriptors (if brutal).
791  * If some other context is calling this function, we return 1 so that we're
792  * scheduled again (if we were scheduled) and will not loose initiative.
793  */
794 static int
795 spider_net_release_tx_chain(struct spider_net_card *card, int brutal)
796 {
797         struct spider_net_descr_chain *chain = &card->tx_chain;
798         struct spider_net_descr *descr;
799         struct spider_net_hw_descr *hwdescr;
800         struct sk_buff *skb;
801         u32 buf_addr;
802         unsigned long flags;
803         int status;
804
805         while (1) {
806                 spin_lock_irqsave(&chain->lock, flags);
807                 if (chain->tail == chain->head) {
808                         spin_unlock_irqrestore(&chain->lock, flags);
809                         return 0;
810                 }
811                 descr = chain->tail;
812                 hwdescr = descr->hwdescr;
813
814                 status = spider_net_get_descr_status(hwdescr);
815                 switch (status) {
816                 case SPIDER_NET_DESCR_COMPLETE:
817                         card->netdev_stats.tx_packets++;
818                         card->netdev_stats.tx_bytes += descr->skb->len;
819                         break;
820
821                 case SPIDER_NET_DESCR_CARDOWNED:
822                         if (!brutal) {
823                                 spin_unlock_irqrestore(&chain->lock, flags);
824                                 return 1;
825                         }
826
827                         /* fallthrough, if we release the descriptors
828                          * brutally (then we don't care about
829                          * SPIDER_NET_DESCR_CARDOWNED) */
830
831                 case SPIDER_NET_DESCR_RESPONSE_ERROR:
832                 case SPIDER_NET_DESCR_PROTECTION_ERROR:
833                 case SPIDER_NET_DESCR_FORCE_END:
834                         if (netif_msg_tx_err(card))
835                                 pr_err("%s: forcing end of tx descriptor "
836                                        "with status x%02x\n",
837                                        card->netdev->name, status);
838                         card->netdev_stats.tx_errors++;
839                         break;
840
841                 default:
842                         card->netdev_stats.tx_dropped++;
843                         if (!brutal) {
844                                 spin_unlock_irqrestore(&chain->lock, flags);
845                                 return 1;
846                         }
847                 }
848
849                 chain->tail = descr->next;
850                 hwdescr->dmac_cmd_status |= SPIDER_NET_DESCR_NOT_IN_USE;
851                 skb = descr->skb;
852                 descr->skb = NULL;
853                 buf_addr = hwdescr->buf_addr;
854                 spin_unlock_irqrestore(&chain->lock, flags);
855
856                 /* unmap the skb */
857                 if (skb) {
858                         pci_unmap_single(card->pdev, buf_addr, skb->len,
859                                         PCI_DMA_TODEVICE);
860                         dev_kfree_skb(skb);
861                 }
862         }
863         return 0;
864 }
865
866 /**
867  * spider_net_kick_tx_dma - enables TX DMA processing
868  * @card: card structure
869  * @descr: descriptor address to enable TX processing at
870  *
871  * This routine will start the transmit DMA running if
872  * it is not already running. This routine ned only be
873  * called when queueing a new packet to an empty tx queue.
874  * Writes the current tx chain head as start address
875  * of the tx descriptor chain and enables the transmission
876  * DMA engine.
877  */
878 static inline void
879 spider_net_kick_tx_dma(struct spider_net_card *card)
880 {
881         struct spider_net_descr *descr;
882
883         if (spider_net_read_reg(card, SPIDER_NET_GDTDMACCNTR) &
884                         SPIDER_NET_TX_DMA_EN)
885                 goto out;
886
887         descr = card->tx_chain.tail;
888         for (;;) {
889                 if (spider_net_get_descr_status(descr->hwdescr) ==
890                                 SPIDER_NET_DESCR_CARDOWNED) {
891                         spider_net_write_reg(card, SPIDER_NET_GDTDCHA,
892                                         descr->bus_addr);
893                         spider_net_write_reg(card, SPIDER_NET_GDTDMACCNTR,
894                                         SPIDER_NET_DMA_TX_VALUE);
895                         break;
896                 }
897                 if (descr == card->tx_chain.head)
898                         break;
899                 descr = descr->next;
900         }
901
902 out:
903         mod_timer(&card->tx_timer, jiffies + SPIDER_NET_TX_TIMER);
904 }
905
906 /**
907  * spider_net_xmit - transmits a frame over the device
908  * @skb: packet to send out
909  * @netdev: interface device structure
910  *
911  * returns 0 on success, !0 on failure
912  */
913 static int
914 spider_net_xmit(struct sk_buff *skb, struct net_device *netdev)
915 {
916         int cnt;
917         struct spider_net_card *card = netdev_priv(netdev);
918
919         spider_net_release_tx_chain(card, 0);
920
921         if (spider_net_prepare_tx_descr(card, skb) != 0) {
922                 card->netdev_stats.tx_dropped++;
923                 netif_stop_queue(netdev);
924                 return NETDEV_TX_BUSY;
925         }
926
927         cnt = spider_net_set_low_watermark(card);
928         if (cnt < 5)
929                 spider_net_kick_tx_dma(card);
930         return NETDEV_TX_OK;
931 }
932
933 /**
934  * spider_net_cleanup_tx_ring - cleans up the TX ring
935  * @card: card structure
936  *
937  * spider_net_cleanup_tx_ring is called by either the tx_timer
938  * or from the NAPI polling routine.
939  * This routine releases resources associted with transmitted
940  * packets, including updating the queue tail pointer.
941  */
942 static void
943 spider_net_cleanup_tx_ring(struct spider_net_card *card)
944 {
945         if ((spider_net_release_tx_chain(card, 0) != 0) &&
946             (card->netdev->flags & IFF_UP)) {
947                 spider_net_kick_tx_dma(card);
948                 netif_wake_queue(card->netdev);
949         }
950 }
951
952 /**
953  * spider_net_do_ioctl - called for device ioctls
954  * @netdev: interface device structure
955  * @ifr: request parameter structure for ioctl
956  * @cmd: command code for ioctl
957  *
958  * returns 0 on success, <0 on failure. Currently, we have no special ioctls.
959  * -EOPNOTSUPP is returned, if an unknown ioctl was requested
960  */
961 static int
962 spider_net_do_ioctl(struct net_device *netdev, struct ifreq *ifr, int cmd)
963 {
964         switch (cmd) {
965         default:
966                 return -EOPNOTSUPP;
967         }
968 }
969
970 /**
971  * spider_net_pass_skb_up - takes an skb from a descriptor and passes it on
972  * @descr: descriptor to process
973  * @card: card structure
974  *
975  * Fills out skb structure and passes the data to the stack.
976  * The descriptor state is not changed.
977  */
978 static void
979 spider_net_pass_skb_up(struct spider_net_descr *descr,
980                        struct spider_net_card *card)
981 {
982         struct spider_net_hw_descr *hwdescr= descr->hwdescr;
983         struct sk_buff *skb;
984         struct net_device *netdev;
985         u32 data_status, data_error;
986
987         data_status = hwdescr->data_status;
988         data_error = hwdescr->data_error;
989         netdev = card->netdev;
990
991         skb = descr->skb;
992         skb_put(skb, hwdescr->valid_size);
993
994         /* the card seems to add 2 bytes of junk in front
995          * of the ethernet frame */
996 #define SPIDER_MISALIGN         2
997         skb_pull(skb, SPIDER_MISALIGN);
998         skb->protocol = eth_type_trans(skb, netdev);
999
1000         /* checksum offload */
1001         if (card->options.rx_csum) {
1002                 if ( ( (data_status & SPIDER_NET_DATA_STATUS_CKSUM_MASK) ==
1003                        SPIDER_NET_DATA_STATUS_CKSUM_MASK) &&
1004                      !(data_error & SPIDER_NET_DATA_ERR_CKSUM_MASK))
1005                         skb->ip_summed = CHECKSUM_UNNECESSARY;
1006                 else
1007                         skb->ip_summed = CHECKSUM_NONE;
1008         } else
1009                 skb->ip_summed = CHECKSUM_NONE;
1010
1011         if (data_status & SPIDER_NET_VLAN_PACKET) {
1012                 /* further enhancements: HW-accel VLAN
1013                  * vlan_hwaccel_receive_skb
1014                  */
1015         }
1016
1017         /* update netdevice statistics */
1018         card->netdev_stats.rx_packets++;
1019         card->netdev_stats.rx_bytes += skb->len;
1020
1021         /* pass skb up to stack */
1022         netif_receive_skb(skb);
1023 }
1024
1025 #ifdef DEBUG
1026 static void show_rx_chain(struct spider_net_card *card)
1027 {
1028         struct spider_net_descr_chain *chain = &card->rx_chain;
1029         struct spider_net_descr *start= chain->tail;
1030         struct spider_net_descr *descr= start;
1031         int status;
1032
1033         int cnt = 0;
1034         int cstat = spider_net_get_descr_status(descr);
1035         printk(KERN_INFO "RX chain tail at descr=%ld\n",
1036              (start - card->descr) - card->tx_chain.num_desc);
1037         status = cstat;
1038         do
1039         {
1040                 status = spider_net_get_descr_status(descr);
1041                 if (cstat != status) {
1042                         printk(KERN_INFO "Have %d descrs with stat=x%08x\n", cnt, cstat);
1043                         cstat = status;
1044                         cnt = 0;
1045                 }
1046                 cnt ++;
1047                 descr = descr->next;
1048         } while (descr != start);
1049         printk(KERN_INFO "Last %d descrs with stat=x%08x\n", cnt, cstat);
1050 }
1051 #endif
1052
1053 /**
1054  * spider_net_decode_one_descr - processes an RX descriptor
1055  * @card: card structure
1056  *
1057  * Returns 1 if a packet has been sent to the stack, otherwise 0.
1058  *
1059  * Processes an RX descriptor by iommu-unmapping the data buffer
1060  * and passing the packet up to the stack. This function is called
1061  * in softirq context, e.g. either bottom half from interrupt or
1062  * NAPI polling context.
1063  */
1064 static int
1065 spider_net_decode_one_descr(struct spider_net_card *card)
1066 {
1067         struct spider_net_descr_chain *chain = &card->rx_chain;
1068         struct spider_net_descr *descr = chain->tail;
1069         struct spider_net_hw_descr *hwdescr = descr->hwdescr;
1070         int status;
1071
1072         status = spider_net_get_descr_status(hwdescr);
1073
1074         /* Nothing in the descriptor, or ring must be empty */
1075         if ((status == SPIDER_NET_DESCR_CARDOWNED) ||
1076             (status == SPIDER_NET_DESCR_NOT_IN_USE))
1077                 return 0;
1078
1079         /* descriptor definitively used -- move on tail */
1080         chain->tail = descr->next;
1081
1082         /* unmap descriptor */
1083         pci_unmap_single(card->pdev, hwdescr->buf_addr,
1084                         SPIDER_NET_MAX_FRAME, PCI_DMA_FROMDEVICE);
1085
1086         if ( (status == SPIDER_NET_DESCR_RESPONSE_ERROR) ||
1087              (status == SPIDER_NET_DESCR_PROTECTION_ERROR) ||
1088              (status == SPIDER_NET_DESCR_FORCE_END) ) {
1089                 if (netif_msg_rx_err(card))
1090                         pr_err("%s: dropping RX descriptor with state %d\n",
1091                                card->netdev->name, status);
1092                 card->netdev_stats.rx_dropped++;
1093                 goto bad_desc;
1094         }
1095
1096         if ( (status != SPIDER_NET_DESCR_COMPLETE) &&
1097              (status != SPIDER_NET_DESCR_FRAME_END) ) {
1098                 if (netif_msg_rx_err(card))
1099                         pr_err("%s: RX descriptor with unknown state %d\n",
1100                                card->netdev->name, status);
1101                 card->spider_stats.rx_desc_unk_state++;
1102                 goto bad_desc;
1103         }
1104
1105         /* The cases we'll throw away the packet immediately */
1106         if (hwdescr->data_error & SPIDER_NET_DESTROY_RX_FLAGS) {
1107                 if (netif_msg_rx_err(card))
1108                         pr_err("%s: error in received descriptor found, "
1109                                "data_status=x%08x, data_error=x%08x\n",
1110                                card->netdev->name,
1111                                hwdescr->data_status, hwdescr->data_error);
1112                 goto bad_desc;
1113         }
1114
1115         if (hwdescr->dmac_cmd_status & 0xfefe) {
1116                 pr_err("%s: bad status, cmd_status=x%08x\n",
1117                                card->netdev->name,
1118                                hwdescr->dmac_cmd_status);
1119                 pr_err("buf_addr=x%08x\n", hwdescr->buf_addr);
1120                 pr_err("buf_size=x%08x\n", hwdescr->buf_size);
1121                 pr_err("next_descr_addr=x%08x\n", hwdescr->next_descr_addr);
1122                 pr_err("result_size=x%08x\n", hwdescr->result_size);
1123                 pr_err("valid_size=x%08x\n", hwdescr->valid_size);
1124                 pr_err("data_status=x%08x\n", hwdescr->data_status);
1125                 pr_err("data_error=x%08x\n", hwdescr->data_error);
1126                 pr_err("which=%ld\n", descr - card->rx_chain.ring);
1127
1128                 card->spider_stats.rx_desc_error++;
1129                 goto bad_desc;
1130         }
1131
1132         /* Ok, we've got a packet in descr */
1133         spider_net_pass_skb_up(descr, card);
1134         hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
1135         return 1;
1136
1137 bad_desc:
1138         dev_kfree_skb_irq(descr->skb);
1139         descr->skb = NULL;
1140         hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
1141         return 0;
1142 }
1143
1144 /**
1145  * spider_net_poll - NAPI poll function called by the stack to return packets
1146  * @netdev: interface device structure
1147  * @budget: number of packets we can pass to the stack at most
1148  *
1149  * returns 0 if no more packets available to the driver/stack. Returns 1,
1150  * if the quota is exceeded, but the driver has still packets.
1151  *
1152  * spider_net_poll returns all packets from the rx descriptors to the stack
1153  * (using netif_receive_skb). If all/enough packets are up, the driver
1154  * reenables interrupts and returns 0. If not, 1 is returned.
1155  */
1156 static int
1157 spider_net_poll(struct net_device *netdev, int *budget)
1158 {
1159         struct spider_net_card *card = netdev_priv(netdev);
1160         int packets_to_do, packets_done = 0;
1161         int no_more_packets = 0;
1162
1163         spider_net_cleanup_tx_ring(card);
1164         packets_to_do = min(*budget, netdev->quota);
1165
1166         while (packets_to_do) {
1167                 if (spider_net_decode_one_descr(card)) {
1168                         packets_done++;
1169                         packets_to_do--;
1170                 } else {
1171                         /* no more packets for the stack */
1172                         no_more_packets = 1;
1173                         break;
1174                 }
1175         }
1176
1177         netdev->quota -= packets_done;
1178         *budget -= packets_done;
1179         spider_net_refill_rx_chain(card);
1180         spider_net_enable_rxdmac(card);
1181
1182         /* if all packets are in the stack, enable interrupts and return 0 */
1183         /* if not, return 1 */
1184         if (no_more_packets) {
1185                 netif_rx_complete(netdev);
1186                 spider_net_rx_irq_on(card);
1187                 return 0;
1188         }
1189
1190         return 1;
1191 }
1192
1193 /**
1194  * spider_net_get_stats - get interface statistics
1195  * @netdev: interface device structure
1196  *
1197  * returns the interface statistics residing in the spider_net_card struct
1198  */
1199 static struct net_device_stats *
1200 spider_net_get_stats(struct net_device *netdev)
1201 {
1202         struct spider_net_card *card = netdev_priv(netdev);
1203         struct net_device_stats *stats = &card->netdev_stats;
1204         return stats;
1205 }
1206
1207 /**
1208  * spider_net_change_mtu - changes the MTU of an interface
1209  * @netdev: interface device structure
1210  * @new_mtu: new MTU value
1211  *
1212  * returns 0 on success, <0 on failure
1213  */
1214 static int
1215 spider_net_change_mtu(struct net_device *netdev, int new_mtu)
1216 {
1217         /* no need to re-alloc skbs or so -- the max mtu is about 2.3k
1218          * and mtu is outbound only anyway */
1219         if ( (new_mtu < SPIDER_NET_MIN_MTU ) ||
1220                 (new_mtu > SPIDER_NET_MAX_MTU) )
1221                 return -EINVAL;
1222         netdev->mtu = new_mtu;
1223         return 0;
1224 }
1225
1226 /**
1227  * spider_net_set_mac - sets the MAC of an interface
1228  * @netdev: interface device structure
1229  * @ptr: pointer to new MAC address
1230  *
1231  * Returns 0 on success, <0 on failure. Currently, we don't support this
1232  * and will always return EOPNOTSUPP.
1233  */
1234 static int
1235 spider_net_set_mac(struct net_device *netdev, void *p)
1236 {
1237         struct spider_net_card *card = netdev_priv(netdev);
1238         u32 macl, macu, regvalue;
1239         struct sockaddr *addr = p;
1240
1241         if (!is_valid_ether_addr(addr->sa_data))
1242                 return -EADDRNOTAVAIL;
1243
1244         /* switch off GMACTPE and GMACRPE */
1245         regvalue = spider_net_read_reg(card, SPIDER_NET_GMACOPEMD);
1246         regvalue &= ~((1 << 5) | (1 << 6));
1247         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD, regvalue);
1248
1249         /* write mac */
1250         macu = (addr->sa_data[0]<<24) + (addr->sa_data[1]<<16) +
1251                 (addr->sa_data[2]<<8) + (addr->sa_data[3]);
1252         macl = (addr->sa_data[4]<<8) + (addr->sa_data[5]);
1253         spider_net_write_reg(card, SPIDER_NET_GMACUNIMACU, macu);
1254         spider_net_write_reg(card, SPIDER_NET_GMACUNIMACL, macl);
1255
1256         /* switch GMACTPE and GMACRPE back on */
1257         regvalue = spider_net_read_reg(card, SPIDER_NET_GMACOPEMD);
1258         regvalue |= ((1 << 5) | (1 << 6));
1259         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD, regvalue);
1260
1261         spider_net_set_promisc(card);
1262
1263         /* look up, whether we have been successful */
1264         if (spider_net_get_mac_address(netdev))
1265                 return -EADDRNOTAVAIL;
1266         if (memcmp(netdev->dev_addr,addr->sa_data,netdev->addr_len))
1267                 return -EADDRNOTAVAIL;
1268
1269         return 0;
1270 }
1271
1272 /**
1273  * spider_net_link_reset
1274  * @netdev: net device structure
1275  *
1276  * This is called when the PHY_LINK signal is asserted. For the blade this is
1277  * not connected so we should never get here.
1278  *
1279  */
1280 static void
1281 spider_net_link_reset(struct net_device *netdev)
1282 {
1283
1284         struct spider_net_card *card = netdev_priv(netdev);
1285
1286         del_timer_sync(&card->aneg_timer);
1287
1288         /* clear interrupt, block further interrupts */
1289         spider_net_write_reg(card, SPIDER_NET_GMACST,
1290                              spider_net_read_reg(card, SPIDER_NET_GMACST));
1291         spider_net_write_reg(card, SPIDER_NET_GMACINTEN, 0);
1292
1293         /* reset phy and setup aneg */
1294         spider_net_setup_aneg(card);
1295         mod_timer(&card->aneg_timer, jiffies + SPIDER_NET_ANEG_TIMER);
1296
1297 }
1298
1299 /**
1300  * spider_net_handle_error_irq - handles errors raised by an interrupt
1301  * @card: card structure
1302  * @status_reg: interrupt status register 0 (GHIINT0STS)
1303  *
1304  * spider_net_handle_error_irq treats or ignores all error conditions
1305  * found when an interrupt is presented
1306  */
1307 static void
1308 spider_net_handle_error_irq(struct spider_net_card *card, u32 status_reg)
1309 {
1310         u32 error_reg1, error_reg2;
1311         u32 i;
1312         int show_error = 1;
1313
1314         error_reg1 = spider_net_read_reg(card, SPIDER_NET_GHIINT1STS);
1315         error_reg2 = spider_net_read_reg(card, SPIDER_NET_GHIINT2STS);
1316
1317         /* check GHIINT0STS ************************************/
1318         if (status_reg)
1319                 for (i = 0; i < 32; i++)
1320                         if (status_reg & (1<<i))
1321                                 switch (i)
1322         {
1323         /* let error_reg1 and error_reg2 evaluation decide, what to do
1324         case SPIDER_NET_PHYINT:
1325         case SPIDER_NET_GMAC2INT:
1326         case SPIDER_NET_GMAC1INT:
1327         case SPIDER_NET_GFIFOINT:
1328         case SPIDER_NET_DMACINT:
1329         case SPIDER_NET_GSYSINT:
1330                 break; */
1331
1332         case SPIDER_NET_GIPSINT:
1333                 show_error = 0;
1334                 break;
1335
1336         case SPIDER_NET_GPWOPCMPINT:
1337                 /* PHY write operation completed */
1338                 show_error = 0;
1339                 break;
1340         case SPIDER_NET_GPROPCMPINT:
1341                 /* PHY read operation completed */
1342                 /* we don't use semaphores, as we poll for the completion
1343                  * of the read operation in spider_net_read_phy. Should take
1344                  * about 50 us */
1345                 show_error = 0;
1346                 break;
1347         case SPIDER_NET_GPWFFINT:
1348                 /* PHY command queue full */
1349                 if (netif_msg_intr(card))
1350                         pr_err("PHY write queue full\n");
1351                 show_error = 0;
1352                 break;
1353
1354         /* case SPIDER_NET_GRMDADRINT: not used. print a message */
1355         /* case SPIDER_NET_GRMARPINT: not used. print a message */
1356         /* case SPIDER_NET_GRMMPINT: not used. print a message */
1357
1358         case SPIDER_NET_GDTDEN0INT:
1359                 /* someone has set TX_DMA_EN to 0 */
1360                 show_error = 0;
1361                 break;
1362
1363         case SPIDER_NET_GDDDEN0INT: /* fallthrough */
1364         case SPIDER_NET_GDCDEN0INT: /* fallthrough */
1365         case SPIDER_NET_GDBDEN0INT: /* fallthrough */
1366         case SPIDER_NET_GDADEN0INT:
1367                 /* someone has set RX_DMA_EN to 0 */
1368                 show_error = 0;
1369                 break;
1370
1371         /* RX interrupts */
1372         case SPIDER_NET_GDDFDCINT:
1373         case SPIDER_NET_GDCFDCINT:
1374         case SPIDER_NET_GDBFDCINT:
1375         case SPIDER_NET_GDAFDCINT:
1376         /* case SPIDER_NET_GDNMINT: not used. print a message */
1377         /* case SPIDER_NET_GCNMINT: not used. print a message */
1378         /* case SPIDER_NET_GBNMINT: not used. print a message */
1379         /* case SPIDER_NET_GANMINT: not used. print a message */
1380         /* case SPIDER_NET_GRFNMINT: not used. print a message */
1381                 show_error = 0;
1382                 break;
1383
1384         /* TX interrupts */
1385         case SPIDER_NET_GDTFDCINT:
1386                 show_error = 0;
1387                 break;
1388         case SPIDER_NET_GTTEDINT:
1389                 show_error = 0;
1390                 break;
1391         case SPIDER_NET_GDTDCEINT:
1392                 /* chain end. If a descriptor should be sent, kick off
1393                  * tx dma
1394                 if (card->tx_chain.tail != card->tx_chain.head)
1395                         spider_net_kick_tx_dma(card);
1396                 */
1397                 show_error = 0;
1398                 break;
1399
1400         /* case SPIDER_NET_G1TMCNTINT: not used. print a message */
1401         /* case SPIDER_NET_GFREECNTINT: not used. print a message */
1402         }
1403
1404         /* check GHIINT1STS ************************************/
1405         if (error_reg1)
1406                 for (i = 0; i < 32; i++)
1407                         if (error_reg1 & (1<<i))
1408                                 switch (i)
1409         {
1410         case SPIDER_NET_GTMFLLINT:
1411                 /* TX RAM full may happen on a usual case.
1412                  * Logging is not needed. */
1413                 show_error = 0;
1414                 break;
1415         case SPIDER_NET_GRFDFLLINT: /* fallthrough */
1416         case SPIDER_NET_GRFCFLLINT: /* fallthrough */
1417         case SPIDER_NET_GRFBFLLINT: /* fallthrough */
1418         case SPIDER_NET_GRFAFLLINT: /* fallthrough */
1419         case SPIDER_NET_GRMFLLINT:
1420                 if (netif_msg_intr(card) && net_ratelimit())
1421                         pr_err("Spider RX RAM full, incoming packets "
1422                                "might be discarded!\n");
1423                 spider_net_rx_irq_off(card);
1424                 netif_rx_schedule(card->netdev);
1425                 show_error = 0;
1426                 break;
1427
1428         /* case SPIDER_NET_GTMSHTINT: problem, print a message */
1429         case SPIDER_NET_GDTINVDINT:
1430                 /* allrighty. tx from previous descr ok */
1431                 show_error = 0;
1432                 break;
1433
1434         /* chain end */
1435         case SPIDER_NET_GDDDCEINT: /* fallthrough */
1436         case SPIDER_NET_GDCDCEINT: /* fallthrough */
1437         case SPIDER_NET_GDBDCEINT: /* fallthrough */
1438         case SPIDER_NET_GDADCEINT:
1439                 if (netif_msg_intr(card) && net_ratelimit())
1440                         pr_err("got descriptor chain end interrupt, "
1441                                "restarting DMAC %c.\n",
1442                                'D'-(i-SPIDER_NET_GDDDCEINT)/3);
1443                 spider_net_refill_rx_chain(card);
1444                 spider_net_enable_rxdmac(card);
1445                 show_error = 0;
1446                 break;
1447
1448         /* invalid descriptor */
1449         case SPIDER_NET_GDDINVDINT: /* fallthrough */
1450         case SPIDER_NET_GDCINVDINT: /* fallthrough */
1451         case SPIDER_NET_GDBINVDINT: /* fallthrough */
1452         case SPIDER_NET_GDAINVDINT:
1453                 /* could happen when rx chain is full */
1454                 spider_net_refill_rx_chain(card);
1455                 spider_net_enable_rxdmac(card);
1456                 show_error = 0;
1457                 break;
1458
1459         /* case SPIDER_NET_GDTRSERINT: problem, print a message */
1460         /* case SPIDER_NET_GDDRSERINT: problem, print a message */
1461         /* case SPIDER_NET_GDCRSERINT: problem, print a message */
1462         /* case SPIDER_NET_GDBRSERINT: problem, print a message */
1463         /* case SPIDER_NET_GDARSERINT: problem, print a message */
1464         /* case SPIDER_NET_GDSERINT: problem, print a message */
1465         /* case SPIDER_NET_GDTPTERINT: problem, print a message */
1466         /* case SPIDER_NET_GDDPTERINT: problem, print a message */
1467         /* case SPIDER_NET_GDCPTERINT: problem, print a message */
1468         /* case SPIDER_NET_GDBPTERINT: problem, print a message */
1469         /* case SPIDER_NET_GDAPTERINT: problem, print a message */
1470         default:
1471                 show_error = 1;
1472                 break;
1473         }
1474
1475         /* check GHIINT2STS ************************************/
1476         if (error_reg2)
1477                 for (i = 0; i < 32; i++)
1478                         if (error_reg2 & (1<<i))
1479                                 switch (i)
1480         {
1481         /* there is nothing we can (want  to) do at this time. Log a
1482          * message, we can switch on and off the specific values later on
1483         case SPIDER_NET_GPROPERINT:
1484         case SPIDER_NET_GMCTCRSNGINT:
1485         case SPIDER_NET_GMCTLCOLINT:
1486         case SPIDER_NET_GMCTTMOTINT:
1487         case SPIDER_NET_GMCRCAERINT:
1488         case SPIDER_NET_GMCRCALERINT:
1489         case SPIDER_NET_GMCRALNERINT:
1490         case SPIDER_NET_GMCROVRINT:
1491         case SPIDER_NET_GMCRRNTINT:
1492         case SPIDER_NET_GMCRRXERINT:
1493         case SPIDER_NET_GTITCSERINT:
1494         case SPIDER_NET_GTIFMTERINT:
1495         case SPIDER_NET_GTIPKTRVKINT:
1496         case SPIDER_NET_GTISPINGINT:
1497         case SPIDER_NET_GTISADNGINT:
1498         case SPIDER_NET_GTISPDNGINT:
1499         case SPIDER_NET_GRIFMTERINT:
1500         case SPIDER_NET_GRIPKTRVKINT:
1501         case SPIDER_NET_GRISPINGINT:
1502         case SPIDER_NET_GRISADNGINT:
1503         case SPIDER_NET_GRISPDNGINT:
1504                 break;
1505         */
1506                 default:
1507                         break;
1508         }
1509
1510         if ((show_error) && (netif_msg_intr(card)) && net_ratelimit())
1511                 pr_err("Got error interrupt on %s, GHIINT0STS = 0x%08x, "
1512                        "GHIINT1STS = 0x%08x, GHIINT2STS = 0x%08x\n",
1513                        card->netdev->name,
1514                        status_reg, error_reg1, error_reg2);
1515
1516         /* clear interrupt sources */
1517         spider_net_write_reg(card, SPIDER_NET_GHIINT1STS, error_reg1);
1518         spider_net_write_reg(card, SPIDER_NET_GHIINT2STS, error_reg2);
1519 }
1520
1521 /**
1522  * spider_net_interrupt - interrupt handler for spider_net
1523  * @irq: interupt number
1524  * @ptr: pointer to net_device
1525  * @regs: PU registers
1526  *
1527  * returns IRQ_HANDLED, if interrupt was for driver, or IRQ_NONE, if no
1528  * interrupt found raised by card.
1529  *
1530  * This is the interrupt handler, that turns off
1531  * interrupts for this device and makes the stack poll the driver
1532  */
1533 static irqreturn_t
1534 spider_net_interrupt(int irq, void *ptr)
1535 {
1536         struct net_device *netdev = ptr;
1537         struct spider_net_card *card = netdev_priv(netdev);
1538         u32 status_reg;
1539
1540         status_reg = spider_net_read_reg(card, SPIDER_NET_GHIINT0STS);
1541
1542         if (!status_reg)
1543                 return IRQ_NONE;
1544
1545         if (status_reg & SPIDER_NET_RXINT ) {
1546                 spider_net_rx_irq_off(card);
1547                 netif_rx_schedule(netdev);
1548         }
1549         if (status_reg & SPIDER_NET_TXINT)
1550                 netif_rx_schedule(netdev);
1551
1552         if (status_reg & SPIDER_NET_LINKINT)
1553                 spider_net_link_reset(netdev);
1554
1555         if (status_reg & SPIDER_NET_ERRINT )
1556                 spider_net_handle_error_irq(card, status_reg);
1557
1558         /* clear interrupt sources */
1559         spider_net_write_reg(card, SPIDER_NET_GHIINT0STS, status_reg);
1560
1561         return IRQ_HANDLED;
1562 }
1563
1564 #ifdef CONFIG_NET_POLL_CONTROLLER
1565 /**
1566  * spider_net_poll_controller - artificial interrupt for netconsole etc.
1567  * @netdev: interface device structure
1568  *
1569  * see Documentation/networking/netconsole.txt
1570  */
1571 static void
1572 spider_net_poll_controller(struct net_device *netdev)
1573 {
1574         disable_irq(netdev->irq);
1575         spider_net_interrupt(netdev->irq, netdev);
1576         enable_irq(netdev->irq);
1577 }
1578 #endif /* CONFIG_NET_POLL_CONTROLLER */
1579
1580 /**
1581  * spider_net_init_card - initializes the card
1582  * @card: card structure
1583  *
1584  * spider_net_init_card initializes the card so that other registers can
1585  * be used
1586  */
1587 static void
1588 spider_net_init_card(struct spider_net_card *card)
1589 {
1590         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
1591                              SPIDER_NET_CKRCTRL_STOP_VALUE);
1592
1593         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
1594                              SPIDER_NET_CKRCTRL_RUN_VALUE);
1595
1596         /* trigger ETOMOD signal */
1597         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD,
1598                 spider_net_read_reg(card, SPIDER_NET_GMACOPEMD) | 0x4);
1599
1600 }
1601
1602 /**
1603  * spider_net_enable_card - enables the card by setting all kinds of regs
1604  * @card: card structure
1605  *
1606  * spider_net_enable_card sets a lot of SMMIO registers to enable the device
1607  */
1608 static void
1609 spider_net_enable_card(struct spider_net_card *card)
1610 {
1611         int i;
1612         /* the following array consists of (register),(value) pairs
1613          * that are set in this function. A register of 0 ends the list */
1614         u32 regs[][2] = {
1615                 { SPIDER_NET_GRESUMINTNUM, 0 },
1616                 { SPIDER_NET_GREINTNUM, 0 },
1617
1618                 /* set interrupt frame number registers */
1619                 /* clear the single DMA engine registers first */
1620                 { SPIDER_NET_GFAFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1621                 { SPIDER_NET_GFBFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1622                 { SPIDER_NET_GFCFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1623                 { SPIDER_NET_GFDFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1624                 /* then set, what we really need */
1625                 { SPIDER_NET_GFFRMNUM, SPIDER_NET_FRAMENUM_VALUE },
1626
1627                 /* timer counter registers and stuff */
1628                 { SPIDER_NET_GFREECNNUM, 0 },
1629                 { SPIDER_NET_GONETIMENUM, 0 },
1630                 { SPIDER_NET_GTOUTFRMNUM, 0 },
1631
1632                 /* RX mode setting */
1633                 { SPIDER_NET_GRXMDSET, SPIDER_NET_RXMODE_VALUE },
1634                 /* TX mode setting */
1635                 { SPIDER_NET_GTXMDSET, SPIDER_NET_TXMODE_VALUE },
1636                 /* IPSEC mode setting */
1637                 { SPIDER_NET_GIPSECINIT, SPIDER_NET_IPSECINIT_VALUE },
1638
1639                 { SPIDER_NET_GFTRESTRT, SPIDER_NET_RESTART_VALUE },
1640
1641                 { SPIDER_NET_GMRWOLCTRL, 0 },
1642                 { SPIDER_NET_GTESTMD, 0x10000000 },
1643                 { SPIDER_NET_GTTQMSK, 0x00400040 },
1644
1645                 { SPIDER_NET_GMACINTEN, 0 },
1646
1647                 /* flow control stuff */
1648                 { SPIDER_NET_GMACAPAUSE, SPIDER_NET_MACAPAUSE_VALUE },
1649                 { SPIDER_NET_GMACTXPAUSE, SPIDER_NET_TXPAUSE_VALUE },
1650
1651                 { SPIDER_NET_GMACBSTLMT, SPIDER_NET_BURSTLMT_VALUE },
1652                 { 0, 0}
1653         };
1654
1655         i = 0;
1656         while (regs[i][0]) {
1657                 spider_net_write_reg(card, regs[i][0], regs[i][1]);
1658                 i++;
1659         }
1660
1661         /* clear unicast filter table entries 1 to 14 */
1662         for (i = 1; i <= 14; i++) {
1663                 spider_net_write_reg(card,
1664                                      SPIDER_NET_GMRUAFILnR + i * 8,
1665                                      0x00080000);
1666                 spider_net_write_reg(card,
1667                                      SPIDER_NET_GMRUAFILnR + i * 8 + 4,
1668                                      0x00000000);
1669         }
1670
1671         spider_net_write_reg(card, SPIDER_NET_GMRUA0FIL15R, 0x08080000);
1672
1673         spider_net_write_reg(card, SPIDER_NET_ECMODE, SPIDER_NET_ECMODE_VALUE);
1674
1675         /* set chain tail adress for RX chains and
1676          * enable DMA */
1677         spider_net_enable_rxchtails(card);
1678         spider_net_enable_rxdmac(card);
1679
1680         spider_net_write_reg(card, SPIDER_NET_GRXDMAEN, SPIDER_NET_WOL_VALUE);
1681
1682         spider_net_write_reg(card, SPIDER_NET_GMACLENLMT,
1683                              SPIDER_NET_LENLMT_VALUE);
1684         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD,
1685                              SPIDER_NET_OPMODE_VALUE);
1686
1687         /* set interrupt mask registers */
1688         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK,
1689                              SPIDER_NET_INT0_MASK_VALUE);
1690         spider_net_write_reg(card, SPIDER_NET_GHIINT1MSK,
1691                              SPIDER_NET_INT1_MASK_VALUE);
1692         spider_net_write_reg(card, SPIDER_NET_GHIINT2MSK,
1693                              SPIDER_NET_INT2_MASK_VALUE);
1694
1695         spider_net_write_reg(card, SPIDER_NET_GDTDMACCNTR,
1696                              SPIDER_NET_GDTBSTA);
1697 }
1698
1699 /**
1700  * spider_net_download_firmware - loads firmware into the adapter
1701  * @card: card structure
1702  * @firmware_ptr: pointer to firmware data
1703  *
1704  * spider_net_download_firmware loads the firmware data into the
1705  * adapter. It assumes the length etc. to be allright.
1706  */
1707 static int
1708 spider_net_download_firmware(struct spider_net_card *card,
1709                              const void *firmware_ptr)
1710 {
1711         int sequencer, i;
1712         const u32 *fw_ptr = firmware_ptr;
1713
1714         /* stop sequencers */
1715         spider_net_write_reg(card, SPIDER_NET_GSINIT,
1716                              SPIDER_NET_STOP_SEQ_VALUE);
1717
1718         for (sequencer = 0; sequencer < SPIDER_NET_FIRMWARE_SEQS;
1719              sequencer++) {
1720                 spider_net_write_reg(card,
1721                                      SPIDER_NET_GSnPRGADR + sequencer * 8, 0);
1722                 for (i = 0; i < SPIDER_NET_FIRMWARE_SEQWORDS; i++) {
1723                         spider_net_write_reg(card, SPIDER_NET_GSnPRGDAT +
1724                                              sequencer * 8, *fw_ptr);
1725                         fw_ptr++;
1726                 }
1727         }
1728
1729         if (spider_net_read_reg(card, SPIDER_NET_GSINIT))
1730                 return -EIO;
1731
1732         spider_net_write_reg(card, SPIDER_NET_GSINIT,
1733                              SPIDER_NET_RUN_SEQ_VALUE);
1734
1735         return 0;
1736 }
1737
1738 /**
1739  * spider_net_init_firmware - reads in firmware parts
1740  * @card: card structure
1741  *
1742  * Returns 0 on success, <0 on failure
1743  *
1744  * spider_net_init_firmware opens the sequencer firmware and does some basic
1745  * checks. This function opens and releases the firmware structure. A call
1746  * to download the firmware is performed before the release.
1747  *
1748  * Firmware format
1749  * ===============
1750  * spider_fw.bin is expected to be a file containing 6*1024*4 bytes, 4k being
1751  * the program for each sequencer. Use the command
1752  *    tail -q -n +2 Seq_code1_0x088.txt Seq_code2_0x090.txt              \
1753  *         Seq_code3_0x098.txt Seq_code4_0x0A0.txt Seq_code5_0x0A8.txt   \
1754  *         Seq_code6_0x0B0.txt | xxd -r -p -c4 > spider_fw.bin
1755  *
1756  * to generate spider_fw.bin, if you have sequencer programs with something
1757  * like the following contents for each sequencer:
1758  *    <ONE LINE COMMENT>
1759  *    <FIRST 4-BYTES-WORD FOR SEQUENCER>
1760  *    <SECOND 4-BYTES-WORD FOR SEQUENCER>
1761  *     ...
1762  *    <1024th 4-BYTES-WORD FOR SEQUENCER>
1763  */
1764 static int
1765 spider_net_init_firmware(struct spider_net_card *card)
1766 {
1767         struct firmware *firmware = NULL;
1768         struct device_node *dn;
1769         const u8 *fw_prop = NULL;
1770         int err = -ENOENT;
1771         int fw_size;
1772
1773         if (request_firmware((const struct firmware **)&firmware,
1774                              SPIDER_NET_FIRMWARE_NAME, &card->pdev->dev) == 0) {
1775                 if ( (firmware->size != SPIDER_NET_FIRMWARE_LEN) &&
1776                      netif_msg_probe(card) ) {
1777                         pr_err("Incorrect size of spidernet firmware in " \
1778                                "filesystem. Looking in host firmware...\n");
1779                         goto try_host_fw;
1780                 }
1781                 err = spider_net_download_firmware(card, firmware->data);
1782
1783                 release_firmware(firmware);
1784                 if (err)
1785                         goto try_host_fw;
1786
1787                 goto done;
1788         }
1789
1790 try_host_fw:
1791         dn = pci_device_to_OF_node(card->pdev);
1792         if (!dn)
1793                 goto out_err;
1794
1795         fw_prop = of_get_property(dn, "firmware", &fw_size);
1796         if (!fw_prop)
1797                 goto out_err;
1798
1799         if ( (fw_size != SPIDER_NET_FIRMWARE_LEN) &&
1800              netif_msg_probe(card) ) {
1801                 pr_err("Incorrect size of spidernet firmware in " \
1802                        "host firmware\n");
1803                 goto done;
1804         }
1805
1806         err = spider_net_download_firmware(card, fw_prop);
1807
1808 done:
1809         return err;
1810 out_err:
1811         if (netif_msg_probe(card))
1812                 pr_err("Couldn't find spidernet firmware in filesystem " \
1813                        "or host firmware\n");
1814         return err;
1815 }
1816
1817 /**
1818  * spider_net_open - called upon ifonfig up
1819  * @netdev: interface device structure
1820  *
1821  * returns 0 on success, <0 on failure
1822  *
1823  * spider_net_open allocates all the descriptors and memory needed for
1824  * operation, sets up multicast list and enables interrupts
1825  */
1826 int
1827 spider_net_open(struct net_device *netdev)
1828 {
1829         struct spider_net_card *card = netdev_priv(netdev);
1830         int result;
1831
1832         result = spider_net_init_firmware(card);
1833         if (result)
1834                 goto init_firmware_failed;
1835
1836         /* start probing with copper */
1837         spider_net_setup_aneg(card);
1838         if (card->phy.def->phy_id)
1839                 mod_timer(&card->aneg_timer, jiffies + SPIDER_NET_ANEG_TIMER);
1840
1841         result = spider_net_init_chain(card, &card->tx_chain);
1842         if (result)
1843                 goto alloc_tx_failed;
1844         card->low_watermark = NULL;
1845
1846         result = spider_net_init_chain(card, &card->rx_chain);
1847         if (result)
1848                 goto alloc_rx_failed;
1849
1850         /* Allocate rx skbs */
1851         if (spider_net_alloc_rx_skbs(card))
1852                 goto alloc_skbs_failed;
1853
1854         spider_net_set_multi(netdev);
1855
1856         /* further enhancement: setup hw vlan, if needed */
1857
1858         result = -EBUSY;
1859         if (request_irq(netdev->irq, spider_net_interrupt,
1860                              IRQF_SHARED, netdev->name, netdev))
1861                 goto register_int_failed;
1862
1863         spider_net_enable_card(card);
1864
1865         netif_start_queue(netdev);
1866         netif_carrier_on(netdev);
1867         netif_poll_enable(netdev);
1868
1869         return 0;
1870
1871 register_int_failed:
1872         spider_net_free_rx_chain_contents(card);
1873 alloc_skbs_failed:
1874         spider_net_free_chain(card, &card->rx_chain);
1875 alloc_rx_failed:
1876         spider_net_free_chain(card, &card->tx_chain);
1877 alloc_tx_failed:
1878         del_timer_sync(&card->aneg_timer);
1879 init_firmware_failed:
1880         return result;
1881 }
1882
1883 /**
1884  * spider_net_link_phy
1885  * @data: used for pointer to card structure
1886  *
1887  */
1888 static void spider_net_link_phy(unsigned long data)
1889 {
1890         struct spider_net_card *card = (struct spider_net_card *)data;
1891         struct mii_phy *phy = &card->phy;
1892
1893         /* if link didn't come up after SPIDER_NET_ANEG_TIMEOUT tries, setup phy again */
1894         if (card->aneg_count > SPIDER_NET_ANEG_TIMEOUT) {
1895
1896                 pr_info("%s: link is down trying to bring it up\n", card->netdev->name);
1897
1898                 switch (card->medium) {
1899                 case BCM54XX_COPPER:
1900                         /* enable fiber with autonegotiation first */
1901                         if (phy->def->ops->enable_fiber)
1902                                 phy->def->ops->enable_fiber(phy, 1);
1903                         card->medium = BCM54XX_FIBER;
1904                         break;
1905
1906                 case BCM54XX_FIBER:
1907                         /* fiber didn't come up, try to disable fiber autoneg */
1908                         if (phy->def->ops->enable_fiber)
1909                                 phy->def->ops->enable_fiber(phy, 0);
1910                         card->medium = BCM54XX_UNKNOWN;
1911                         break;
1912
1913                 case BCM54XX_UNKNOWN:
1914                         /* copper, fiber with and without failed,
1915                          * retry from beginning */
1916                         spider_net_setup_aneg(card);
1917                         card->medium = BCM54XX_COPPER;
1918                         break;
1919                 }
1920
1921                 card->aneg_count = 0;
1922                 mod_timer(&card->aneg_timer, jiffies + SPIDER_NET_ANEG_TIMER);
1923                 return;
1924         }
1925
1926         /* link still not up, try again later */
1927         if (!(phy->def->ops->poll_link(phy))) {
1928                 card->aneg_count++;
1929                 mod_timer(&card->aneg_timer, jiffies + SPIDER_NET_ANEG_TIMER);
1930                 return;
1931         }
1932
1933         /* link came up, get abilities */
1934         phy->def->ops->read_link(phy);
1935
1936         spider_net_write_reg(card, SPIDER_NET_GMACST,
1937                              spider_net_read_reg(card, SPIDER_NET_GMACST));
1938         spider_net_write_reg(card, SPIDER_NET_GMACINTEN, 0x4);
1939
1940         if (phy->speed == 1000)
1941                 spider_net_write_reg(card, SPIDER_NET_GMACMODE, 0x00000001);
1942         else
1943                 spider_net_write_reg(card, SPIDER_NET_GMACMODE, 0);
1944
1945         card->aneg_count = 0;
1946
1947         pr_debug("Found %s with %i Mbps, %s-duplex %sautoneg.\n",
1948                 phy->def->name, phy->speed, phy->duplex==1 ? "Full" : "Half",
1949                 phy->autoneg==1 ? "" : "no ");
1950
1951         return;
1952 }
1953
1954 /**
1955  * spider_net_setup_phy - setup PHY
1956  * @card: card structure
1957  *
1958  * returns 0 on success, <0 on failure
1959  *
1960  * spider_net_setup_phy is used as part of spider_net_probe.
1961  **/
1962 static int
1963 spider_net_setup_phy(struct spider_net_card *card)
1964 {
1965         struct mii_phy *phy = &card->phy;
1966
1967         spider_net_write_reg(card, SPIDER_NET_GDTDMASEL,
1968                              SPIDER_NET_DMASEL_VALUE);
1969         spider_net_write_reg(card, SPIDER_NET_GPCCTRL,
1970                              SPIDER_NET_PHY_CTRL_VALUE);
1971
1972         phy->dev = card->netdev;
1973         phy->mdio_read = spider_net_read_phy;
1974         phy->mdio_write = spider_net_write_phy;
1975
1976         for (phy->mii_id = 1; phy->mii_id <= 31; phy->mii_id++) {
1977                 unsigned short id;
1978                 id = spider_net_read_phy(card->netdev, phy->mii_id, MII_BMSR);
1979                 if (id != 0x0000 && id != 0xffff) {
1980                         if (!mii_phy_probe(phy, phy->mii_id)) {
1981                                 pr_info("Found %s.\n", phy->def->name);
1982                                 break;
1983                         }
1984                 }
1985         }
1986
1987         return 0;
1988 }
1989
1990 /**
1991  * spider_net_workaround_rxramfull - work around firmware bug
1992  * @card: card structure
1993  *
1994  * no return value
1995  **/
1996 static void
1997 spider_net_workaround_rxramfull(struct spider_net_card *card)
1998 {
1999         int i, sequencer = 0;
2000
2001         /* cancel reset */
2002         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
2003                              SPIDER_NET_CKRCTRL_RUN_VALUE);
2004
2005         /* empty sequencer data */
2006         for (sequencer = 0; sequencer < SPIDER_NET_FIRMWARE_SEQS;
2007              sequencer++) {
2008                 spider_net_write_reg(card, SPIDER_NET_GSnPRGADR +
2009                                      sequencer * 8, 0x0);
2010                 for (i = 0; i < SPIDER_NET_FIRMWARE_SEQWORDS; i++) {
2011                         spider_net_write_reg(card, SPIDER_NET_GSnPRGDAT +
2012                                              sequencer * 8, 0x0);
2013                 }
2014         }
2015
2016         /* set sequencer operation */
2017         spider_net_write_reg(card, SPIDER_NET_GSINIT, 0x000000fe);
2018
2019         /* reset */
2020         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
2021                              SPIDER_NET_CKRCTRL_STOP_VALUE);
2022 }
2023
2024 /**
2025  * spider_net_stop - called upon ifconfig down
2026  * @netdev: interface device structure
2027  *
2028  * always returns 0
2029  */
2030 int
2031 spider_net_stop(struct net_device *netdev)
2032 {
2033         struct spider_net_card *card = netdev_priv(netdev);
2034
2035         netif_poll_disable(netdev);
2036         netif_carrier_off(netdev);
2037         netif_stop_queue(netdev);
2038         del_timer_sync(&card->tx_timer);
2039         del_timer_sync(&card->aneg_timer);
2040
2041         /* disable/mask all interrupts */
2042         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK, 0);
2043         spider_net_write_reg(card, SPIDER_NET_GHIINT1MSK, 0);
2044         spider_net_write_reg(card, SPIDER_NET_GHIINT2MSK, 0);
2045         spider_net_write_reg(card, SPIDER_NET_GMACINTEN, 0);
2046
2047         free_irq(netdev->irq, netdev);
2048
2049         spider_net_write_reg(card, SPIDER_NET_GDTDMACCNTR,
2050                              SPIDER_NET_DMA_TX_FEND_VALUE);
2051
2052         /* turn off DMA, force end */
2053         spider_net_disable_rxdmac(card);
2054
2055         /* release chains */
2056         spider_net_release_tx_chain(card, 1);
2057         spider_net_free_rx_chain_contents(card);
2058
2059         spider_net_free_chain(card, &card->tx_chain);
2060         spider_net_free_chain(card, &card->rx_chain);
2061
2062         return 0;
2063 }
2064
2065 /**
2066  * spider_net_tx_timeout_task - task scheduled by the watchdog timeout
2067  * function (to be called not under interrupt status)
2068  * @data: data, is interface device structure
2069  *
2070  * called as task when tx hangs, resets interface (if interface is up)
2071  */
2072 static void
2073 spider_net_tx_timeout_task(struct work_struct *work)
2074 {
2075         struct spider_net_card *card =
2076                 container_of(work, struct spider_net_card, tx_timeout_task);
2077         struct net_device *netdev = card->netdev;
2078
2079         if (!(netdev->flags & IFF_UP))
2080                 goto out;
2081
2082         netif_device_detach(netdev);
2083         spider_net_stop(netdev);
2084
2085         spider_net_workaround_rxramfull(card);
2086         spider_net_init_card(card);
2087
2088         if (spider_net_setup_phy(card))
2089                 goto out;
2090
2091         spider_net_open(netdev);
2092         spider_net_kick_tx_dma(card);
2093         netif_device_attach(netdev);
2094
2095 out:
2096         atomic_dec(&card->tx_timeout_task_counter);
2097 }
2098
2099 /**
2100  * spider_net_tx_timeout - called when the tx timeout watchdog kicks in.
2101  * @netdev: interface device structure
2102  *
2103  * called, if tx hangs. Schedules a task that resets the interface
2104  */
2105 static void
2106 spider_net_tx_timeout(struct net_device *netdev)
2107 {
2108         struct spider_net_card *card;
2109
2110         card = netdev_priv(netdev);
2111         atomic_inc(&card->tx_timeout_task_counter);
2112         if (netdev->flags & IFF_UP)
2113                 schedule_work(&card->tx_timeout_task);
2114         else
2115                 atomic_dec(&card->tx_timeout_task_counter);
2116         card->spider_stats.tx_timeouts++;
2117 }
2118
2119 /**
2120  * spider_net_setup_netdev_ops - initialization of net_device operations
2121  * @netdev: net_device structure
2122  *
2123  * fills out function pointers in the net_device structure
2124  */
2125 static void
2126 spider_net_setup_netdev_ops(struct net_device *netdev)
2127 {
2128         netdev->open = &spider_net_open;
2129         netdev->stop = &spider_net_stop;
2130         netdev->hard_start_xmit = &spider_net_xmit;
2131         netdev->get_stats = &spider_net_get_stats;
2132         netdev->set_multicast_list = &spider_net_set_multi;
2133         netdev->set_mac_address = &spider_net_set_mac;
2134         netdev->change_mtu = &spider_net_change_mtu;
2135         netdev->do_ioctl = &spider_net_do_ioctl;
2136         /* tx watchdog */
2137         netdev->tx_timeout = &spider_net_tx_timeout;
2138         netdev->watchdog_timeo = SPIDER_NET_WATCHDOG_TIMEOUT;
2139         /* NAPI */
2140         netdev->poll = &spider_net_poll;
2141         netdev->weight = SPIDER_NET_NAPI_WEIGHT;
2142         /* HW VLAN */
2143 #ifdef CONFIG_NET_POLL_CONTROLLER
2144         /* poll controller */
2145         netdev->poll_controller = &spider_net_poll_controller;
2146 #endif /* CONFIG_NET_POLL_CONTROLLER */
2147         /* ethtool ops */
2148         netdev->ethtool_ops = &spider_net_ethtool_ops;
2149 }
2150
2151 /**
2152  * spider_net_setup_netdev - initialization of net_device
2153  * @card: card structure
2154  *
2155  * Returns 0 on success or <0 on failure
2156  *
2157  * spider_net_setup_netdev initializes the net_device structure
2158  **/
2159 static int
2160 spider_net_setup_netdev(struct spider_net_card *card)
2161 {
2162         int result;
2163         struct net_device *netdev = card->netdev;
2164         struct device_node *dn;
2165         struct sockaddr addr;
2166         const u8 *mac;
2167
2168         SET_MODULE_OWNER(netdev);
2169         SET_NETDEV_DEV(netdev, &card->pdev->dev);
2170
2171         pci_set_drvdata(card->pdev, netdev);
2172
2173         init_timer(&card->tx_timer);
2174         card->tx_timer.function =
2175                 (void (*)(unsigned long)) spider_net_cleanup_tx_ring;
2176         card->tx_timer.data = (unsigned long) card;
2177         netdev->irq = card->pdev->irq;
2178
2179         card->aneg_count = 0;
2180         init_timer(&card->aneg_timer);
2181         card->aneg_timer.function = spider_net_link_phy;
2182         card->aneg_timer.data = (unsigned long) card;
2183
2184         card->options.rx_csum = SPIDER_NET_RX_CSUM_DEFAULT;
2185
2186         spider_net_setup_netdev_ops(netdev);
2187
2188         netdev->features = NETIF_F_HW_CSUM | NETIF_F_LLTX;
2189         /* some time: NETIF_F_HW_VLAN_TX | NETIF_F_HW_VLAN_RX |
2190          *              NETIF_F_HW_VLAN_FILTER */
2191
2192         netdev->irq = card->pdev->irq;
2193
2194         dn = pci_device_to_OF_node(card->pdev);
2195         if (!dn)
2196                 return -EIO;
2197
2198         mac = of_get_property(dn, "local-mac-address", NULL);
2199         if (!mac)
2200                 return -EIO;
2201         memcpy(addr.sa_data, mac, ETH_ALEN);
2202
2203         result = spider_net_set_mac(netdev, &addr);
2204         if ((result) && (netif_msg_probe(card)))
2205                 pr_err("Failed to set MAC address: %i\n", result);
2206
2207         result = register_netdev(netdev);
2208         if (result) {
2209                 if (netif_msg_probe(card))
2210                         pr_err("Couldn't register net_device: %i\n",
2211                                   result);
2212                 return result;
2213         }
2214
2215         if (netif_msg_probe(card))
2216                 pr_info("Initialized device %s.\n", netdev->name);
2217
2218         return 0;
2219 }
2220
2221 /**
2222  * spider_net_alloc_card - allocates net_device and card structure
2223  *
2224  * returns the card structure or NULL in case of errors
2225  *
2226  * the card and net_device structures are linked to each other
2227  */
2228 static struct spider_net_card *
2229 spider_net_alloc_card(void)
2230 {
2231         struct net_device *netdev;
2232         struct spider_net_card *card;
2233         size_t alloc_size;
2234
2235         alloc_size = sizeof(struct spider_net_card) +
2236            (tx_descriptors + rx_descriptors) * sizeof(struct spider_net_descr);
2237         netdev = alloc_etherdev(alloc_size);
2238         if (!netdev)
2239                 return NULL;
2240
2241         card = netdev_priv(netdev);
2242         card->netdev = netdev;
2243         card->msg_enable = SPIDER_NET_DEFAULT_MSG;
2244         INIT_WORK(&card->tx_timeout_task, spider_net_tx_timeout_task);
2245         init_waitqueue_head(&card->waitq);
2246         atomic_set(&card->tx_timeout_task_counter, 0);
2247
2248         card->rx_chain.num_desc = rx_descriptors;
2249         card->rx_chain.ring = card->darray;
2250         card->tx_chain.num_desc = tx_descriptors;
2251         card->tx_chain.ring = card->darray + rx_descriptors;
2252
2253         return card;
2254 }
2255
2256 /**
2257  * spider_net_undo_pci_setup - releases PCI ressources
2258  * @card: card structure
2259  *
2260  * spider_net_undo_pci_setup releases the mapped regions
2261  */
2262 static void
2263 spider_net_undo_pci_setup(struct spider_net_card *card)
2264 {
2265         iounmap(card->regs);
2266         pci_release_regions(card->pdev);
2267 }
2268
2269 /**
2270  * spider_net_setup_pci_dev - sets up the device in terms of PCI operations
2271  * @card: card structure
2272  * @pdev: PCI device
2273  *
2274  * Returns the card structure or NULL if any errors occur
2275  *
2276  * spider_net_setup_pci_dev initializes pdev and together with the
2277  * functions called in spider_net_open configures the device so that
2278  * data can be transferred over it
2279  * The net_device structure is attached to the card structure, if the
2280  * function returns without error.
2281  **/
2282 static struct spider_net_card *
2283 spider_net_setup_pci_dev(struct pci_dev *pdev)
2284 {
2285         struct spider_net_card *card;
2286         unsigned long mmio_start, mmio_len;
2287
2288         if (pci_enable_device(pdev)) {
2289                 pr_err("Couldn't enable PCI device\n");
2290                 return NULL;
2291         }
2292
2293         if (!(pci_resource_flags(pdev, 0) & IORESOURCE_MEM)) {
2294                 pr_err("Couldn't find proper PCI device base address.\n");
2295                 goto out_disable_dev;
2296         }
2297
2298         if (pci_request_regions(pdev, spider_net_driver_name)) {
2299                 pr_err("Couldn't obtain PCI resources, aborting.\n");
2300                 goto out_disable_dev;
2301         }
2302
2303         pci_set_master(pdev);
2304
2305         card = spider_net_alloc_card();
2306         if (!card) {
2307                 pr_err("Couldn't allocate net_device structure, "
2308                           "aborting.\n");
2309                 goto out_release_regions;
2310         }
2311         card->pdev = pdev;
2312
2313         /* fetch base address and length of first resource */
2314         mmio_start = pci_resource_start(pdev, 0);
2315         mmio_len = pci_resource_len(pdev, 0);
2316
2317         card->netdev->mem_start = mmio_start;
2318         card->netdev->mem_end = mmio_start + mmio_len;
2319         card->regs = ioremap(mmio_start, mmio_len);
2320
2321         if (!card->regs) {
2322                 pr_err("Couldn't obtain PCI resources, aborting.\n");
2323                 goto out_release_regions;
2324         }
2325
2326         return card;
2327
2328 out_release_regions:
2329         pci_release_regions(pdev);
2330 out_disable_dev:
2331         pci_disable_device(pdev);
2332         pci_set_drvdata(pdev, NULL);
2333         return NULL;
2334 }
2335
2336 /**
2337  * spider_net_probe - initialization of a device
2338  * @pdev: PCI device
2339  * @ent: entry in the device id list
2340  *
2341  * Returns 0 on success, <0 on failure
2342  *
2343  * spider_net_probe initializes pdev and registers a net_device
2344  * structure for it. After that, the device can be ifconfig'ed up
2345  **/
2346 static int __devinit
2347 spider_net_probe(struct pci_dev *pdev, const struct pci_device_id *ent)
2348 {
2349         int err = -EIO;
2350         struct spider_net_card *card;
2351
2352         card = spider_net_setup_pci_dev(pdev);
2353         if (!card)
2354                 goto out;
2355
2356         spider_net_workaround_rxramfull(card);
2357         spider_net_init_card(card);
2358
2359         err = spider_net_setup_phy(card);
2360         if (err)
2361                 goto out_undo_pci;
2362
2363         err = spider_net_setup_netdev(card);
2364         if (err)
2365                 goto out_undo_pci;
2366
2367         return 0;
2368
2369 out_undo_pci:
2370         spider_net_undo_pci_setup(card);
2371         free_netdev(card->netdev);
2372 out:
2373         return err;
2374 }
2375
2376 /**
2377  * spider_net_remove - removal of a device
2378  * @pdev: PCI device
2379  *
2380  * Returns 0 on success, <0 on failure
2381  *
2382  * spider_net_remove is called to remove the device and unregisters the
2383  * net_device
2384  **/
2385 static void __devexit
2386 spider_net_remove(struct pci_dev *pdev)
2387 {
2388         struct net_device *netdev;
2389         struct spider_net_card *card;
2390
2391         netdev = pci_get_drvdata(pdev);
2392         card = netdev_priv(netdev);
2393
2394         wait_event(card->waitq,
2395                    atomic_read(&card->tx_timeout_task_counter) == 0);
2396
2397         unregister_netdev(netdev);
2398
2399         /* switch off card */
2400         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
2401                              SPIDER_NET_CKRCTRL_STOP_VALUE);
2402         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
2403                              SPIDER_NET_CKRCTRL_RUN_VALUE);
2404
2405         spider_net_undo_pci_setup(card);
2406         free_netdev(netdev);
2407 }
2408
2409 static struct pci_driver spider_net_driver = {
2410         .name           = spider_net_driver_name,
2411         .id_table       = spider_net_pci_tbl,
2412         .probe          = spider_net_probe,
2413         .remove         = __devexit_p(spider_net_remove)
2414 };
2415
2416 /**
2417  * spider_net_init - init function when the driver is loaded
2418  *
2419  * spider_net_init registers the device driver
2420  */
2421 static int __init spider_net_init(void)
2422 {
2423         printk(KERN_INFO "Spidernet version %s.\n", VERSION);
2424
2425         if (rx_descriptors < SPIDER_NET_RX_DESCRIPTORS_MIN) {
2426                 rx_descriptors = SPIDER_NET_RX_DESCRIPTORS_MIN;
2427                 pr_info("adjusting rx descriptors to %i.\n", rx_descriptors);
2428         }
2429         if (rx_descriptors > SPIDER_NET_RX_DESCRIPTORS_MAX) {
2430                 rx_descriptors = SPIDER_NET_RX_DESCRIPTORS_MAX;
2431                 pr_info("adjusting rx descriptors to %i.\n", rx_descriptors);
2432         }
2433         if (tx_descriptors < SPIDER_NET_TX_DESCRIPTORS_MIN) {
2434                 tx_descriptors = SPIDER_NET_TX_DESCRIPTORS_MIN;
2435                 pr_info("adjusting tx descriptors to %i.\n", tx_descriptors);
2436         }
2437         if (tx_descriptors > SPIDER_NET_TX_DESCRIPTORS_MAX) {
2438                 tx_descriptors = SPIDER_NET_TX_DESCRIPTORS_MAX;
2439                 pr_info("adjusting tx descriptors to %i.\n", tx_descriptors);
2440         }
2441
2442         return pci_register_driver(&spider_net_driver);
2443 }
2444
2445 /**
2446  * spider_net_cleanup - exit function when driver is unloaded
2447  *
2448  * spider_net_cleanup unregisters the device driver
2449  */
2450 static void __exit spider_net_cleanup(void)
2451 {
2452         pci_unregister_driver(&spider_net_driver);
2453 }
2454
2455 module_init(spider_net_init);
2456 module_exit(spider_net_cleanup);