spidernet: null out skb pointer after its been used.
[linux-2.6] / drivers / net / spider_net.c
1 /*
2  * Network device driver for Cell Processor-Based Blade and Celleb platform
3  *
4  * (C) Copyright IBM Corp. 2005
5  * (C) Copyright 2006 TOSHIBA CORPORATION
6  *
7  * Authors : Utz Bacher <utz.bacher@de.ibm.com>
8  *           Jens Osterkamp <Jens.Osterkamp@de.ibm.com>
9  *
10  * This program is free software; you can redistribute it and/or modify
11  * it under the terms of the GNU General Public License as published by
12  * the Free Software Foundation; either version 2, or (at your option)
13  * any later version.
14  *
15  * This program is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18  * GNU General Public License for more details.
19  *
20  * You should have received a copy of the GNU General Public License
21  * along with this program; if not, write to the Free Software
22  * Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
23  */
24
25 #include <linux/compiler.h>
26 #include <linux/crc32.h>
27 #include <linux/delay.h>
28 #include <linux/etherdevice.h>
29 #include <linux/ethtool.h>
30 #include <linux/firmware.h>
31 #include <linux/if_vlan.h>
32 #include <linux/in.h>
33 #include <linux/init.h>
34 #include <linux/ioport.h>
35 #include <linux/ip.h>
36 #include <linux/kernel.h>
37 #include <linux/mii.h>
38 #include <linux/module.h>
39 #include <linux/netdevice.h>
40 #include <linux/device.h>
41 #include <linux/pci.h>
42 #include <linux/skbuff.h>
43 #include <linux/slab.h>
44 #include <linux/tcp.h>
45 #include <linux/types.h>
46 #include <linux/vmalloc.h>
47 #include <linux/wait.h>
48 #include <linux/workqueue.h>
49 #include <asm/bitops.h>
50 #include <asm/pci-bridge.h>
51 #include <net/checksum.h>
52
53 #include "spider_net.h"
54
55 MODULE_AUTHOR("Utz Bacher <utz.bacher@de.ibm.com> and Jens Osterkamp " \
56               "<Jens.Osterkamp@de.ibm.com>");
57 MODULE_DESCRIPTION("Spider Southbridge Gigabit Ethernet driver");
58 MODULE_LICENSE("GPL");
59 MODULE_VERSION(VERSION);
60
61 static int rx_descriptors = SPIDER_NET_RX_DESCRIPTORS_DEFAULT;
62 static int tx_descriptors = SPIDER_NET_TX_DESCRIPTORS_DEFAULT;
63
64 module_param(rx_descriptors, int, 0444);
65 module_param(tx_descriptors, int, 0444);
66
67 MODULE_PARM_DESC(rx_descriptors, "number of descriptors used " \
68                  "in rx chains");
69 MODULE_PARM_DESC(tx_descriptors, "number of descriptors used " \
70                  "in tx chain");
71
72 char spider_net_driver_name[] = "spidernet";
73
74 static struct pci_device_id spider_net_pci_tbl[] = {
75         { PCI_VENDOR_ID_TOSHIBA_2, PCI_DEVICE_ID_TOSHIBA_SPIDER_NET,
76           PCI_ANY_ID, PCI_ANY_ID, 0, 0, 0UL },
77         { 0, }
78 };
79
80 MODULE_DEVICE_TABLE(pci, spider_net_pci_tbl);
81
82 /**
83  * spider_net_read_reg - reads an SMMIO register of a card
84  * @card: device structure
85  * @reg: register to read from
86  *
87  * returns the content of the specified SMMIO register.
88  */
89 static inline u32
90 spider_net_read_reg(struct spider_net_card *card, u32 reg)
91 {
92         /* We use the powerpc specific variants instead of readl_be() because
93          * we know spidernet is not a real PCI device and we can thus avoid the
94          * performance hit caused by the PCI workarounds.
95          */
96         return in_be32(card->regs + reg);
97 }
98
99 /**
100  * spider_net_write_reg - writes to an SMMIO register of a card
101  * @card: device structure
102  * @reg: register to write to
103  * @value: value to write into the specified SMMIO register
104  */
105 static inline void
106 spider_net_write_reg(struct spider_net_card *card, u32 reg, u32 value)
107 {
108         /* We use the powerpc specific variants instead of writel_be() because
109          * we know spidernet is not a real PCI device and we can thus avoid the
110          * performance hit caused by the PCI workarounds.
111          */
112         out_be32(card->regs + reg, value);
113 }
114
115 /** spider_net_write_phy - write to phy register
116  * @netdev: adapter to be written to
117  * @mii_id: id of MII
118  * @reg: PHY register
119  * @val: value to be written to phy register
120  *
121  * spider_net_write_phy_register writes to an arbitrary PHY
122  * register via the spider GPCWOPCMD register. We assume the queue does
123  * not run full (not more than 15 commands outstanding).
124  **/
125 static void
126 spider_net_write_phy(struct net_device *netdev, int mii_id,
127                      int reg, int val)
128 {
129         struct spider_net_card *card = netdev_priv(netdev);
130         u32 writevalue;
131
132         writevalue = ((u32)mii_id << 21) |
133                 ((u32)reg << 16) | ((u32)val);
134
135         spider_net_write_reg(card, SPIDER_NET_GPCWOPCMD, writevalue);
136 }
137
138 /** spider_net_read_phy - read from phy register
139  * @netdev: network device to be read from
140  * @mii_id: id of MII
141  * @reg: PHY register
142  *
143  * Returns value read from PHY register
144  *
145  * spider_net_write_phy reads from an arbitrary PHY
146  * register via the spider GPCROPCMD register
147  **/
148 static int
149 spider_net_read_phy(struct net_device *netdev, int mii_id, int reg)
150 {
151         struct spider_net_card *card = netdev_priv(netdev);
152         u32 readvalue;
153
154         readvalue = ((u32)mii_id << 21) | ((u32)reg << 16);
155         spider_net_write_reg(card, SPIDER_NET_GPCROPCMD, readvalue);
156
157         /* we don't use semaphores to wait for an SPIDER_NET_GPROPCMPINT
158          * interrupt, as we poll for the completion of the read operation
159          * in spider_net_read_phy. Should take about 50 us */
160         do {
161                 readvalue = spider_net_read_reg(card, SPIDER_NET_GPCROPCMD);
162         } while (readvalue & SPIDER_NET_GPREXEC);
163
164         readvalue &= SPIDER_NET_GPRDAT_MASK;
165
166         return readvalue;
167 }
168
169 /**
170  * spider_net_setup_aneg - initial auto-negotiation setup
171  * @card: device structure
172  **/
173 static void
174 spider_net_setup_aneg(struct spider_net_card *card)
175 {
176         struct mii_phy *phy = &card->phy;
177         u32 advertise = 0;
178         u16 bmsr, estat;
179
180         bmsr  = spider_net_read_phy(card->netdev, phy->mii_id, MII_BMSR);
181         estat = spider_net_read_phy(card->netdev, phy->mii_id, MII_ESTATUS);
182
183         if (bmsr & BMSR_10HALF)
184                 advertise |= ADVERTISED_10baseT_Half;
185         if (bmsr & BMSR_10FULL)
186                 advertise |= ADVERTISED_10baseT_Full;
187         if (bmsr & BMSR_100HALF)
188                 advertise |= ADVERTISED_100baseT_Half;
189         if (bmsr & BMSR_100FULL)
190                 advertise |= ADVERTISED_100baseT_Full;
191
192         if ((bmsr & BMSR_ESTATEN) && (estat & ESTATUS_1000_TFULL))
193                 advertise |= SUPPORTED_1000baseT_Full;
194         if ((bmsr & BMSR_ESTATEN) && (estat & ESTATUS_1000_THALF))
195                 advertise |= SUPPORTED_1000baseT_Half;
196
197         mii_phy_probe(phy, phy->mii_id);
198         phy->def->ops->setup_aneg(phy, advertise);
199
200 }
201
202 /**
203  * spider_net_rx_irq_off - switch off rx irq on this spider card
204  * @card: device structure
205  *
206  * switches off rx irq by masking them out in the GHIINTnMSK register
207  */
208 static void
209 spider_net_rx_irq_off(struct spider_net_card *card)
210 {
211         u32 regvalue;
212
213         regvalue = SPIDER_NET_INT0_MASK_VALUE & (~SPIDER_NET_RXINT);
214         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK, regvalue);
215 }
216
217 /**
218  * spider_net_rx_irq_on - switch on rx irq on this spider card
219  * @card: device structure
220  *
221  * switches on rx irq by enabling them in the GHIINTnMSK register
222  */
223 static void
224 spider_net_rx_irq_on(struct spider_net_card *card)
225 {
226         u32 regvalue;
227
228         regvalue = SPIDER_NET_INT0_MASK_VALUE | SPIDER_NET_RXINT;
229         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK, regvalue);
230 }
231
232 /**
233  * spider_net_set_promisc - sets the unicast address or the promiscuous mode
234  * @card: card structure
235  *
236  * spider_net_set_promisc sets the unicast destination address filter and
237  * thus either allows for non-promisc mode or promisc mode
238  */
239 static void
240 spider_net_set_promisc(struct spider_net_card *card)
241 {
242         u32 macu, macl;
243         struct net_device *netdev = card->netdev;
244
245         if (netdev->flags & IFF_PROMISC) {
246                 /* clear destination entry 0 */
247                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR, 0);
248                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR + 0x04, 0);
249                 spider_net_write_reg(card, SPIDER_NET_GMRUA0FIL15R,
250                                      SPIDER_NET_PROMISC_VALUE);
251         } else {
252                 macu = netdev->dev_addr[0];
253                 macu <<= 8;
254                 macu |= netdev->dev_addr[1];
255                 memcpy(&macl, &netdev->dev_addr[2], sizeof(macl));
256
257                 macu |= SPIDER_NET_UA_DESCR_VALUE;
258                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR, macu);
259                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR + 0x04, macl);
260                 spider_net_write_reg(card, SPIDER_NET_GMRUA0FIL15R,
261                                      SPIDER_NET_NONPROMISC_VALUE);
262         }
263 }
264
265 /**
266  * spider_net_get_mac_address - read mac address from spider card
267  * @card: device structure
268  *
269  * reads MAC address from GMACUNIMACU and GMACUNIMACL registers
270  */
271 static int
272 spider_net_get_mac_address(struct net_device *netdev)
273 {
274         struct spider_net_card *card = netdev_priv(netdev);
275         u32 macl, macu;
276
277         macl = spider_net_read_reg(card, SPIDER_NET_GMACUNIMACL);
278         macu = spider_net_read_reg(card, SPIDER_NET_GMACUNIMACU);
279
280         netdev->dev_addr[0] = (macu >> 24) & 0xff;
281         netdev->dev_addr[1] = (macu >> 16) & 0xff;
282         netdev->dev_addr[2] = (macu >> 8) & 0xff;
283         netdev->dev_addr[3] = macu & 0xff;
284         netdev->dev_addr[4] = (macl >> 8) & 0xff;
285         netdev->dev_addr[5] = macl & 0xff;
286
287         if (!is_valid_ether_addr(&netdev->dev_addr[0]))
288                 return -EINVAL;
289
290         return 0;
291 }
292
293 /**
294  * spider_net_get_descr_status -- returns the status of a descriptor
295  * @descr: descriptor to look at
296  *
297  * returns the status as in the dmac_cmd_status field of the descriptor
298  */
299 static inline int
300 spider_net_get_descr_status(struct spider_net_hw_descr *hwdescr)
301 {
302         return hwdescr->dmac_cmd_status & SPIDER_NET_DESCR_IND_PROC_MASK;
303 }
304
305 /**
306  * spider_net_free_chain - free descriptor chain
307  * @card: card structure
308  * @chain: address of chain
309  *
310  */
311 static void
312 spider_net_free_chain(struct spider_net_card *card,
313                       struct spider_net_descr_chain *chain)
314 {
315         struct spider_net_descr *descr;
316
317         descr = chain->ring;
318         do {
319                 descr->bus_addr = 0;
320                 descr->hwdescr->next_descr_addr = 0;
321                 descr = descr->next;
322         } while (descr != chain->ring);
323
324         dma_free_coherent(&card->pdev->dev, chain->num_desc,
325             chain->hwring, chain->dma_addr);
326 }
327
328 /**
329  * spider_net_init_chain - alloc and link descriptor chain
330  * @card: card structure
331  * @chain: address of chain
332  *
333  * We manage a circular list that mirrors the hardware structure,
334  * except that the hardware uses bus addresses.
335  *
336  * Returns 0 on success, <0 on failure
337  */
338 static int
339 spider_net_init_chain(struct spider_net_card *card,
340                        struct spider_net_descr_chain *chain)
341 {
342         int i;
343         struct spider_net_descr *descr;
344         struct spider_net_hw_descr *hwdescr;
345         dma_addr_t buf;
346         size_t alloc_size;
347
348         alloc_size = chain->num_desc * sizeof(struct spider_net_hw_descr);
349
350         chain->hwring = dma_alloc_coherent(&card->pdev->dev, alloc_size,
351                 &chain->dma_addr, GFP_KERNEL);
352
353         if (!chain->hwring)
354                 return -ENOMEM;
355
356         memset(chain->ring, 0, chain->num_desc * sizeof(struct spider_net_descr));
357
358         /* Set up the hardware pointers in each descriptor */
359         descr = chain->ring;
360         hwdescr = chain->hwring;
361         buf = chain->dma_addr;
362         for (i=0; i < chain->num_desc; i++, descr++, hwdescr++) {
363                 hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
364                 hwdescr->next_descr_addr = 0;
365
366                 descr->hwdescr = hwdescr;
367                 descr->bus_addr = buf;
368                 descr->next = descr + 1;
369                 descr->prev = descr - 1;
370
371                 buf += sizeof(struct spider_net_hw_descr);
372         }
373         /* do actual circular list */
374         (descr-1)->next = chain->ring;
375         chain->ring->prev = descr-1;
376
377         spin_lock_init(&chain->lock);
378         chain->head = chain->ring;
379         chain->tail = chain->ring;
380         return 0;
381 }
382
383 /**
384  * spider_net_free_rx_chain_contents - frees descr contents in rx chain
385  * @card: card structure
386  *
387  * returns 0 on success, <0 on failure
388  */
389 static void
390 spider_net_free_rx_chain_contents(struct spider_net_card *card)
391 {
392         struct spider_net_descr *descr;
393
394         descr = card->rx_chain.head;
395         do {
396                 if (descr->skb) {
397                         pci_unmap_single(card->pdev, descr->hwdescr->buf_addr,
398                                          SPIDER_NET_MAX_FRAME,
399                                          PCI_DMA_BIDIRECTIONAL);
400                         dev_kfree_skb(descr->skb);
401                         descr->skb = NULL;
402                 }
403                 descr = descr->next;
404         } while (descr != card->rx_chain.head);
405 }
406
407 /**
408  * spider_net_prepare_rx_descr - Reinitialize RX descriptor
409  * @card: card structure
410  * @descr: descriptor to re-init
411  *
412  * Return 0 on succes, <0 on failure.
413  *
414  * Allocates a new rx skb, iommu-maps it and attaches it to the
415  * descriptor. Mark the descriptor as activated, ready-to-use.
416  */
417 static int
418 spider_net_prepare_rx_descr(struct spider_net_card *card,
419                             struct spider_net_descr *descr)
420 {
421         struct spider_net_hw_descr *hwdescr = descr->hwdescr;
422         dma_addr_t buf;
423         int offset;
424         int bufsize;
425
426         /* we need to round up the buffer size to a multiple of 128 */
427         bufsize = (SPIDER_NET_MAX_FRAME + SPIDER_NET_RXBUF_ALIGN - 1) &
428                 (~(SPIDER_NET_RXBUF_ALIGN - 1));
429
430         /* and we need to have it 128 byte aligned, therefore we allocate a
431          * bit more */
432         /* allocate an skb */
433         descr->skb = netdev_alloc_skb(card->netdev,
434                                       bufsize + SPIDER_NET_RXBUF_ALIGN - 1);
435         if (!descr->skb) {
436                 if (netif_msg_rx_err(card) && net_ratelimit())
437                         pr_err("Not enough memory to allocate rx buffer\n");
438                 card->spider_stats.alloc_rx_skb_error++;
439                 return -ENOMEM;
440         }
441         hwdescr->buf_size = bufsize;
442         hwdescr->result_size = 0;
443         hwdescr->valid_size = 0;
444         hwdescr->data_status = 0;
445         hwdescr->data_error = 0;
446
447         offset = ((unsigned long)descr->skb->data) &
448                 (SPIDER_NET_RXBUF_ALIGN - 1);
449         if (offset)
450                 skb_reserve(descr->skb, SPIDER_NET_RXBUF_ALIGN - offset);
451         /* iommu-map the skb */
452         buf = pci_map_single(card->pdev, descr->skb->data,
453                         SPIDER_NET_MAX_FRAME, PCI_DMA_FROMDEVICE);
454         if (pci_dma_mapping_error(buf)) {
455                 dev_kfree_skb_any(descr->skb);
456                 descr->skb = NULL;
457                 if (netif_msg_rx_err(card) && net_ratelimit())
458                         pr_err("Could not iommu-map rx buffer\n");
459                 card->spider_stats.rx_iommu_map_error++;
460                 hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
461         } else {
462                 hwdescr->buf_addr = buf;
463                 hwdescr->next_descr_addr = 0;
464                 wmb();
465                 hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_CARDOWNED |
466                                          SPIDER_NET_DMAC_NOINTR_COMPLETE;
467
468                 wmb();
469                 descr->prev->hwdescr->next_descr_addr = descr->bus_addr;
470         }
471
472         return 0;
473 }
474
475 /**
476  * spider_net_enable_rxchtails - sets RX dmac chain tail addresses
477  * @card: card structure
478  *
479  * spider_net_enable_rxchtails sets the RX DMAC chain tail adresses in the
480  * chip by writing to the appropriate register. DMA is enabled in
481  * spider_net_enable_rxdmac.
482  */
483 static inline void
484 spider_net_enable_rxchtails(struct spider_net_card *card)
485 {
486         /* assume chain is aligned correctly */
487         spider_net_write_reg(card, SPIDER_NET_GDADCHA ,
488                              card->rx_chain.tail->bus_addr);
489 }
490
491 /**
492  * spider_net_enable_rxdmac - enables a receive DMA controller
493  * @card: card structure
494  *
495  * spider_net_enable_rxdmac enables the DMA controller by setting RX_DMA_EN
496  * in the GDADMACCNTR register
497  */
498 static inline void
499 spider_net_enable_rxdmac(struct spider_net_card *card)
500 {
501         wmb();
502         spider_net_write_reg(card, SPIDER_NET_GDADMACCNTR,
503                              SPIDER_NET_DMA_RX_VALUE);
504 }
505
506 /**
507  * spider_net_refill_rx_chain - refills descriptors/skbs in the rx chains
508  * @card: card structure
509  *
510  * refills descriptors in the rx chain: allocates skbs and iommu-maps them.
511  */
512 static void
513 spider_net_refill_rx_chain(struct spider_net_card *card)
514 {
515         struct spider_net_descr_chain *chain = &card->rx_chain;
516         unsigned long flags;
517
518         /* one context doing the refill (and a second context seeing that
519          * and omitting it) is ok. If called by NAPI, we'll be called again
520          * as spider_net_decode_one_descr is called several times. If some
521          * interrupt calls us, the NAPI is about to clean up anyway. */
522         if (!spin_trylock_irqsave(&chain->lock, flags))
523                 return;
524
525         while (spider_net_get_descr_status(chain->head->hwdescr) ==
526                         SPIDER_NET_DESCR_NOT_IN_USE) {
527                 if (spider_net_prepare_rx_descr(card, chain->head))
528                         break;
529                 chain->head = chain->head->next;
530         }
531
532         spin_unlock_irqrestore(&chain->lock, flags);
533 }
534
535 /**
536  * spider_net_alloc_rx_skbs - Allocates rx skbs in rx descriptor chains
537  * @card: card structure
538  *
539  * Returns 0 on success, <0 on failure.
540  */
541 static int
542 spider_net_alloc_rx_skbs(struct spider_net_card *card)
543 {
544         int result;
545         struct spider_net_descr_chain *chain;
546
547         result = -ENOMEM;
548
549         chain = &card->rx_chain;
550         /* Put at least one buffer into the chain. if this fails,
551          * we've got a problem. If not, spider_net_refill_rx_chain
552          * will do the rest at the end of this function. */
553         if (spider_net_prepare_rx_descr(card, chain->head))
554                 goto error;
555         else
556                 chain->head = chain->head->next;
557
558         /* This will allocate the rest of the rx buffers;
559          * if not, it's business as usual later on. */
560         spider_net_refill_rx_chain(card);
561         spider_net_enable_rxdmac(card);
562         return 0;
563
564 error:
565         spider_net_free_rx_chain_contents(card);
566         return result;
567 }
568
569 /**
570  * spider_net_get_multicast_hash - generates hash for multicast filter table
571  * @addr: multicast address
572  *
573  * returns the hash value.
574  *
575  * spider_net_get_multicast_hash calculates a hash value for a given multicast
576  * address, that is used to set the multicast filter tables
577  */
578 static u8
579 spider_net_get_multicast_hash(struct net_device *netdev, __u8 *addr)
580 {
581         u32 crc;
582         u8 hash;
583         char addr_for_crc[ETH_ALEN] = { 0, };
584         int i, bit;
585
586         for (i = 0; i < ETH_ALEN * 8; i++) {
587                 bit = (addr[i / 8] >> (i % 8)) & 1;
588                 addr_for_crc[ETH_ALEN - 1 - i / 8] += bit << (7 - (i % 8));
589         }
590
591         crc = crc32_be(~0, addr_for_crc, netdev->addr_len);
592
593         hash = (crc >> 27);
594         hash <<= 3;
595         hash |= crc & 7;
596         hash &= 0xff;
597
598         return hash;
599 }
600
601 /**
602  * spider_net_set_multi - sets multicast addresses and promisc flags
603  * @netdev: interface device structure
604  *
605  * spider_net_set_multi configures multicast addresses as needed for the
606  * netdev interface. It also sets up multicast, allmulti and promisc
607  * flags appropriately
608  */
609 static void
610 spider_net_set_multi(struct net_device *netdev)
611 {
612         struct dev_mc_list *mc;
613         u8 hash;
614         int i;
615         u32 reg;
616         struct spider_net_card *card = netdev_priv(netdev);
617         unsigned long bitmask[SPIDER_NET_MULTICAST_HASHES / BITS_PER_LONG] =
618                 {0, };
619
620         spider_net_set_promisc(card);
621
622         if (netdev->flags & IFF_ALLMULTI) {
623                 for (i = 0; i < SPIDER_NET_MULTICAST_HASHES; i++) {
624                         set_bit(i, bitmask);
625                 }
626                 goto write_hash;
627         }
628
629         /* well, we know, what the broadcast hash value is: it's xfd
630         hash = spider_net_get_multicast_hash(netdev, netdev->broadcast); */
631         set_bit(0xfd, bitmask);
632
633         for (mc = netdev->mc_list; mc; mc = mc->next) {
634                 hash = spider_net_get_multicast_hash(netdev, mc->dmi_addr);
635                 set_bit(hash, bitmask);
636         }
637
638 write_hash:
639         for (i = 0; i < SPIDER_NET_MULTICAST_HASHES / 4; i++) {
640                 reg = 0;
641                 if (test_bit(i * 4, bitmask))
642                         reg += 0x08;
643                 reg <<= 8;
644                 if (test_bit(i * 4 + 1, bitmask))
645                         reg += 0x08;
646                 reg <<= 8;
647                 if (test_bit(i * 4 + 2, bitmask))
648                         reg += 0x08;
649                 reg <<= 8;
650                 if (test_bit(i * 4 + 3, bitmask))
651                         reg += 0x08;
652
653                 spider_net_write_reg(card, SPIDER_NET_GMRMHFILnR + i * 4, reg);
654         }
655 }
656
657 /**
658  * spider_net_disable_rxdmac - disables the receive DMA controller
659  * @card: card structure
660  *
661  * spider_net_disable_rxdmac terminates processing on the DMA controller by
662  * turing off DMA and issueing a force end
663  */
664 static void
665 spider_net_disable_rxdmac(struct spider_net_card *card)
666 {
667         spider_net_write_reg(card, SPIDER_NET_GDADMACCNTR,
668                              SPIDER_NET_DMA_RX_FEND_VALUE);
669 }
670
671 /**
672  * spider_net_prepare_tx_descr - fill tx descriptor with skb data
673  * @card: card structure
674  * @descr: descriptor structure to fill out
675  * @skb: packet to use
676  *
677  * returns 0 on success, <0 on failure.
678  *
679  * fills out the descriptor structure with skb data and len. Copies data,
680  * if needed (32bit DMA!)
681  */
682 static int
683 spider_net_prepare_tx_descr(struct spider_net_card *card,
684                             struct sk_buff *skb)
685 {
686         struct spider_net_descr_chain *chain = &card->tx_chain;
687         struct spider_net_descr *descr;
688         struct spider_net_hw_descr *hwdescr;
689         dma_addr_t buf;
690         unsigned long flags;
691
692         buf = pci_map_single(card->pdev, skb->data, skb->len, PCI_DMA_TODEVICE);
693         if (pci_dma_mapping_error(buf)) {
694                 if (netif_msg_tx_err(card) && net_ratelimit())
695                         pr_err("could not iommu-map packet (%p, %i). "
696                                   "Dropping packet\n", skb->data, skb->len);
697                 card->spider_stats.tx_iommu_map_error++;
698                 return -ENOMEM;
699         }
700
701         spin_lock_irqsave(&chain->lock, flags);
702         descr = card->tx_chain.head;
703         if (descr->next == chain->tail->prev) {
704                 spin_unlock_irqrestore(&chain->lock, flags);
705                 pci_unmap_single(card->pdev, buf, skb->len, PCI_DMA_TODEVICE);
706                 return -ENOMEM;
707         }
708         hwdescr = descr->hwdescr;
709         chain->head = descr->next;
710
711         descr->skb = skb;
712         hwdescr->buf_addr = buf;
713         hwdescr->buf_size = skb->len;
714         hwdescr->next_descr_addr = 0;
715         hwdescr->data_status = 0;
716
717         hwdescr->dmac_cmd_status =
718                         SPIDER_NET_DESCR_CARDOWNED | SPIDER_NET_DMAC_NOCS;
719         spin_unlock_irqrestore(&chain->lock, flags);
720
721         if (skb->protocol == htons(ETH_P_IP) && skb->ip_summed == CHECKSUM_PARTIAL)
722                 switch (ip_hdr(skb)->protocol) {
723                 case IPPROTO_TCP:
724                         hwdescr->dmac_cmd_status |= SPIDER_NET_DMAC_TCP;
725                         break;
726                 case IPPROTO_UDP:
727                         hwdescr->dmac_cmd_status |= SPIDER_NET_DMAC_UDP;
728                         break;
729                 }
730
731         /* Chain the bus address, so that the DMA engine finds this descr. */
732         wmb();
733         descr->prev->hwdescr->next_descr_addr = descr->bus_addr;
734
735         card->netdev->trans_start = jiffies; /* set netdev watchdog timer */
736         return 0;
737 }
738
739 static int
740 spider_net_set_low_watermark(struct spider_net_card *card)
741 {
742         struct spider_net_descr *descr = card->tx_chain.tail;
743         struct spider_net_hw_descr *hwdescr;
744         unsigned long flags;
745         int status;
746         int cnt=0;
747         int i;
748
749         /* Measure the length of the queue. Measurement does not
750          * need to be precise -- does not need a lock. */
751         while (descr != card->tx_chain.head) {
752                 status = descr->hwdescr->dmac_cmd_status & SPIDER_NET_DESCR_NOT_IN_USE;
753                 if (status == SPIDER_NET_DESCR_NOT_IN_USE)
754                         break;
755                 descr = descr->next;
756                 cnt++;
757         }
758
759         /* If TX queue is short, don't even bother with interrupts */
760         if (cnt < card->tx_chain.num_desc/4)
761                 return cnt;
762
763         /* Set low-watermark 3/4th's of the way into the queue. */
764         descr = card->tx_chain.tail;
765         cnt = (cnt*3)/4;
766         for (i=0;i<cnt; i++)
767                 descr = descr->next;
768
769         /* Set the new watermark, clear the old watermark */
770         spin_lock_irqsave(&card->tx_chain.lock, flags);
771         descr->hwdescr->dmac_cmd_status |= SPIDER_NET_DESCR_TXDESFLG;
772         if (card->low_watermark && card->low_watermark != descr) {
773                 hwdescr = card->low_watermark->hwdescr;
774                 hwdescr->dmac_cmd_status =
775                      hwdescr->dmac_cmd_status & ~SPIDER_NET_DESCR_TXDESFLG;
776         }
777         card->low_watermark = descr;
778         spin_unlock_irqrestore(&card->tx_chain.lock, flags);
779         return cnt;
780 }
781
782 /**
783  * spider_net_release_tx_chain - processes sent tx descriptors
784  * @card: adapter structure
785  * @brutal: if set, don't care about whether descriptor seems to be in use
786  *
787  * returns 0 if the tx ring is empty, otherwise 1.
788  *
789  * spider_net_release_tx_chain releases the tx descriptors that spider has
790  * finished with (if non-brutal) or simply release tx descriptors (if brutal).
791  * If some other context is calling this function, we return 1 so that we're
792  * scheduled again (if we were scheduled) and will not loose initiative.
793  */
794 static int
795 spider_net_release_tx_chain(struct spider_net_card *card, int brutal)
796 {
797         struct spider_net_descr_chain *chain = &card->tx_chain;
798         struct spider_net_descr *descr;
799         struct spider_net_hw_descr *hwdescr;
800         struct sk_buff *skb;
801         u32 buf_addr;
802         unsigned long flags;
803         int status;
804
805         while (1) {
806                 spin_lock_irqsave(&chain->lock, flags);
807                 if (chain->tail == chain->head) {
808                         spin_unlock_irqrestore(&chain->lock, flags);
809                         return 0;
810                 }
811                 descr = chain->tail;
812                 hwdescr = descr->hwdescr;
813
814                 status = spider_net_get_descr_status(hwdescr);
815                 switch (status) {
816                 case SPIDER_NET_DESCR_COMPLETE:
817                         card->netdev_stats.tx_packets++;
818                         card->netdev_stats.tx_bytes += descr->skb->len;
819                         break;
820
821                 case SPIDER_NET_DESCR_CARDOWNED:
822                         if (!brutal) {
823                                 spin_unlock_irqrestore(&chain->lock, flags);
824                                 return 1;
825                         }
826
827                         /* fallthrough, if we release the descriptors
828                          * brutally (then we don't care about
829                          * SPIDER_NET_DESCR_CARDOWNED) */
830
831                 case SPIDER_NET_DESCR_RESPONSE_ERROR:
832                 case SPIDER_NET_DESCR_PROTECTION_ERROR:
833                 case SPIDER_NET_DESCR_FORCE_END:
834                         if (netif_msg_tx_err(card))
835                                 pr_err("%s: forcing end of tx descriptor "
836                                        "with status x%02x\n",
837                                        card->netdev->name, status);
838                         card->netdev_stats.tx_errors++;
839                         break;
840
841                 default:
842                         card->netdev_stats.tx_dropped++;
843                         if (!brutal) {
844                                 spin_unlock_irqrestore(&chain->lock, flags);
845                                 return 1;
846                         }
847                 }
848
849                 chain->tail = descr->next;
850                 hwdescr->dmac_cmd_status |= SPIDER_NET_DESCR_NOT_IN_USE;
851                 skb = descr->skb;
852                 descr->skb = NULL;
853                 buf_addr = hwdescr->buf_addr;
854                 spin_unlock_irqrestore(&chain->lock, flags);
855
856                 /* unmap the skb */
857                 if (skb) {
858                         pci_unmap_single(card->pdev, buf_addr, skb->len,
859                                         PCI_DMA_TODEVICE);
860                         dev_kfree_skb(skb);
861                 }
862         }
863         return 0;
864 }
865
866 /**
867  * spider_net_kick_tx_dma - enables TX DMA processing
868  * @card: card structure
869  * @descr: descriptor address to enable TX processing at
870  *
871  * This routine will start the transmit DMA running if
872  * it is not already running. This routine ned only be
873  * called when queueing a new packet to an empty tx queue.
874  * Writes the current tx chain head as start address
875  * of the tx descriptor chain and enables the transmission
876  * DMA engine.
877  */
878 static inline void
879 spider_net_kick_tx_dma(struct spider_net_card *card)
880 {
881         struct spider_net_descr *descr;
882
883         if (spider_net_read_reg(card, SPIDER_NET_GDTDMACCNTR) &
884                         SPIDER_NET_TX_DMA_EN)
885                 goto out;
886
887         descr = card->tx_chain.tail;
888         for (;;) {
889                 if (spider_net_get_descr_status(descr->hwdescr) ==
890                                 SPIDER_NET_DESCR_CARDOWNED) {
891                         spider_net_write_reg(card, SPIDER_NET_GDTDCHA,
892                                         descr->bus_addr);
893                         spider_net_write_reg(card, SPIDER_NET_GDTDMACCNTR,
894                                         SPIDER_NET_DMA_TX_VALUE);
895                         break;
896                 }
897                 if (descr == card->tx_chain.head)
898                         break;
899                 descr = descr->next;
900         }
901
902 out:
903         mod_timer(&card->tx_timer, jiffies + SPIDER_NET_TX_TIMER);
904 }
905
906 /**
907  * spider_net_xmit - transmits a frame over the device
908  * @skb: packet to send out
909  * @netdev: interface device structure
910  *
911  * returns 0 on success, !0 on failure
912  */
913 static int
914 spider_net_xmit(struct sk_buff *skb, struct net_device *netdev)
915 {
916         int cnt;
917         struct spider_net_card *card = netdev_priv(netdev);
918
919         spider_net_release_tx_chain(card, 0);
920
921         if (spider_net_prepare_tx_descr(card, skb) != 0) {
922                 card->netdev_stats.tx_dropped++;
923                 netif_stop_queue(netdev);
924                 return NETDEV_TX_BUSY;
925         }
926
927         cnt = spider_net_set_low_watermark(card);
928         if (cnt < 5)
929                 spider_net_kick_tx_dma(card);
930         return NETDEV_TX_OK;
931 }
932
933 /**
934  * spider_net_cleanup_tx_ring - cleans up the TX ring
935  * @card: card structure
936  *
937  * spider_net_cleanup_tx_ring is called by either the tx_timer
938  * or from the NAPI polling routine.
939  * This routine releases resources associted with transmitted
940  * packets, including updating the queue tail pointer.
941  */
942 static void
943 spider_net_cleanup_tx_ring(struct spider_net_card *card)
944 {
945         if ((spider_net_release_tx_chain(card, 0) != 0) &&
946             (card->netdev->flags & IFF_UP)) {
947                 spider_net_kick_tx_dma(card);
948                 netif_wake_queue(card->netdev);
949         }
950 }
951
952 /**
953  * spider_net_do_ioctl - called for device ioctls
954  * @netdev: interface device structure
955  * @ifr: request parameter structure for ioctl
956  * @cmd: command code for ioctl
957  *
958  * returns 0 on success, <0 on failure. Currently, we have no special ioctls.
959  * -EOPNOTSUPP is returned, if an unknown ioctl was requested
960  */
961 static int
962 spider_net_do_ioctl(struct net_device *netdev, struct ifreq *ifr, int cmd)
963 {
964         switch (cmd) {
965         default:
966                 return -EOPNOTSUPP;
967         }
968 }
969
970 /**
971  * spider_net_pass_skb_up - takes an skb from a descriptor and passes it on
972  * @descr: descriptor to process
973  * @card: card structure
974  *
975  * Fills out skb structure and passes the data to the stack.
976  * The descriptor state is not changed.
977  */
978 static void
979 spider_net_pass_skb_up(struct spider_net_descr *descr,
980                        struct spider_net_card *card)
981 {
982         struct spider_net_hw_descr *hwdescr= descr->hwdescr;
983         struct sk_buff *skb;
984         struct net_device *netdev;
985         u32 data_status, data_error;
986
987         data_status = hwdescr->data_status;
988         data_error = hwdescr->data_error;
989         netdev = card->netdev;
990
991         skb = descr->skb;
992         skb_put(skb, hwdescr->valid_size);
993
994         /* the card seems to add 2 bytes of junk in front
995          * of the ethernet frame */
996 #define SPIDER_MISALIGN         2
997         skb_pull(skb, SPIDER_MISALIGN);
998         skb->protocol = eth_type_trans(skb, netdev);
999
1000         /* checksum offload */
1001         if (card->options.rx_csum) {
1002                 if ( ( (data_status & SPIDER_NET_DATA_STATUS_CKSUM_MASK) ==
1003                        SPIDER_NET_DATA_STATUS_CKSUM_MASK) &&
1004                      !(data_error & SPIDER_NET_DATA_ERR_CKSUM_MASK))
1005                         skb->ip_summed = CHECKSUM_UNNECESSARY;
1006                 else
1007                         skb->ip_summed = CHECKSUM_NONE;
1008         } else
1009                 skb->ip_summed = CHECKSUM_NONE;
1010
1011         if (data_status & SPIDER_NET_VLAN_PACKET) {
1012                 /* further enhancements: HW-accel VLAN
1013                  * vlan_hwaccel_receive_skb
1014                  */
1015         }
1016
1017         /* update netdevice statistics */
1018         card->netdev_stats.rx_packets++;
1019         card->netdev_stats.rx_bytes += skb->len;
1020
1021         /* pass skb up to stack */
1022         netif_receive_skb(skb);
1023 }
1024
1025 #ifdef DEBUG
1026 static void show_rx_chain(struct spider_net_card *card)
1027 {
1028         struct spider_net_descr_chain *chain = &card->rx_chain;
1029         struct spider_net_descr *start= chain->tail;
1030         struct spider_net_descr *descr= start;
1031         int status;
1032
1033         int cnt = 0;
1034         int cstat = spider_net_get_descr_status(descr);
1035         printk(KERN_INFO "RX chain tail at descr=%ld\n",
1036              (start - card->descr) - card->tx_chain.num_desc);
1037         status = cstat;
1038         do
1039         {
1040                 status = spider_net_get_descr_status(descr);
1041                 if (cstat != status) {
1042                         printk(KERN_INFO "Have %d descrs with stat=x%08x\n", cnt, cstat);
1043                         cstat = status;
1044                         cnt = 0;
1045                 }
1046                 cnt ++;
1047                 descr = descr->next;
1048         } while (descr != start);
1049         printk(KERN_INFO "Last %d descrs with stat=x%08x\n", cnt, cstat);
1050 }
1051 #endif
1052
1053 /**
1054  * spider_net_decode_one_descr - processes an RX descriptor
1055  * @card: card structure
1056  *
1057  * Returns 1 if a packet has been sent to the stack, otherwise 0.
1058  *
1059  * Processes an RX descriptor by iommu-unmapping the data buffer
1060  * and passing the packet up to the stack. This function is called
1061  * in softirq context, e.g. either bottom half from interrupt or
1062  * NAPI polling context.
1063  */
1064 static int
1065 spider_net_decode_one_descr(struct spider_net_card *card)
1066 {
1067         struct spider_net_descr_chain *chain = &card->rx_chain;
1068         struct spider_net_descr *descr = chain->tail;
1069         struct spider_net_hw_descr *hwdescr = descr->hwdescr;
1070         int status;
1071
1072         status = spider_net_get_descr_status(hwdescr);
1073
1074         /* Nothing in the descriptor, or ring must be empty */
1075         if ((status == SPIDER_NET_DESCR_CARDOWNED) ||
1076             (status == SPIDER_NET_DESCR_NOT_IN_USE))
1077                 return 0;
1078
1079         /* descriptor definitively used -- move on tail */
1080         chain->tail = descr->next;
1081
1082         /* unmap descriptor */
1083         pci_unmap_single(card->pdev, hwdescr->buf_addr,
1084                         SPIDER_NET_MAX_FRAME, PCI_DMA_FROMDEVICE);
1085
1086         if ( (status == SPIDER_NET_DESCR_RESPONSE_ERROR) ||
1087              (status == SPIDER_NET_DESCR_PROTECTION_ERROR) ||
1088              (status == SPIDER_NET_DESCR_FORCE_END) ) {
1089                 if (netif_msg_rx_err(card))
1090                         pr_err("%s: dropping RX descriptor with state %d\n",
1091                                card->netdev->name, status);
1092                 card->netdev_stats.rx_dropped++;
1093                 goto bad_desc;
1094         }
1095
1096         if ( (status != SPIDER_NET_DESCR_COMPLETE) &&
1097              (status != SPIDER_NET_DESCR_FRAME_END) ) {
1098                 if (netif_msg_rx_err(card))
1099                         pr_err("%s: RX descriptor with unknown state %d\n",
1100                                card->netdev->name, status);
1101                 card->spider_stats.rx_desc_unk_state++;
1102                 goto bad_desc;
1103         }
1104
1105         /* The cases we'll throw away the packet immediately */
1106         if (hwdescr->data_error & SPIDER_NET_DESTROY_RX_FLAGS) {
1107                 if (netif_msg_rx_err(card))
1108                         pr_err("%s: error in received descriptor found, "
1109                                "data_status=x%08x, data_error=x%08x\n",
1110                                card->netdev->name,
1111                                hwdescr->data_status, hwdescr->data_error);
1112                 goto bad_desc;
1113         }
1114
1115         if (hwdescr->dmac_cmd_status & 0xfefe) {
1116                 pr_err("%s: bad status, cmd_status=x%08x\n",
1117                                card->netdev->name,
1118                                hwdescr->dmac_cmd_status);
1119                 pr_err("buf_addr=x%08x\n", hwdescr->buf_addr);
1120                 pr_err("buf_size=x%08x\n", hwdescr->buf_size);
1121                 pr_err("next_descr_addr=x%08x\n", hwdescr->next_descr_addr);
1122                 pr_err("result_size=x%08x\n", hwdescr->result_size);
1123                 pr_err("valid_size=x%08x\n", hwdescr->valid_size);
1124                 pr_err("data_status=x%08x\n", hwdescr->data_status);
1125                 pr_err("data_error=x%08x\n", hwdescr->data_error);
1126                 pr_err("which=%ld\n", descr - card->rx_chain.ring);
1127
1128                 card->spider_stats.rx_desc_error++;
1129                 goto bad_desc;
1130         }
1131
1132         /* Ok, we've got a packet in descr */
1133         spider_net_pass_skb_up(descr, card);
1134         descr->skb = NULL;
1135         hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
1136         return 1;
1137
1138 bad_desc:
1139         dev_kfree_skb_irq(descr->skb);
1140         descr->skb = NULL;
1141         hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
1142         return 0;
1143 }
1144
1145 /**
1146  * spider_net_poll - NAPI poll function called by the stack to return packets
1147  * @netdev: interface device structure
1148  * @budget: number of packets we can pass to the stack at most
1149  *
1150  * returns 0 if no more packets available to the driver/stack. Returns 1,
1151  * if the quota is exceeded, but the driver has still packets.
1152  *
1153  * spider_net_poll returns all packets from the rx descriptors to the stack
1154  * (using netif_receive_skb). If all/enough packets are up, the driver
1155  * reenables interrupts and returns 0. If not, 1 is returned.
1156  */
1157 static int
1158 spider_net_poll(struct net_device *netdev, int *budget)
1159 {
1160         struct spider_net_card *card = netdev_priv(netdev);
1161         int packets_to_do, packets_done = 0;
1162         int no_more_packets = 0;
1163
1164         spider_net_cleanup_tx_ring(card);
1165         packets_to_do = min(*budget, netdev->quota);
1166
1167         while (packets_to_do) {
1168                 if (spider_net_decode_one_descr(card)) {
1169                         packets_done++;
1170                         packets_to_do--;
1171                 } else {
1172                         /* no more packets for the stack */
1173                         no_more_packets = 1;
1174                         break;
1175                 }
1176         }
1177
1178         netdev->quota -= packets_done;
1179         *budget -= packets_done;
1180         spider_net_refill_rx_chain(card);
1181         spider_net_enable_rxdmac(card);
1182
1183         /* if all packets are in the stack, enable interrupts and return 0 */
1184         /* if not, return 1 */
1185         if (no_more_packets) {
1186                 netif_rx_complete(netdev);
1187                 spider_net_rx_irq_on(card);
1188                 return 0;
1189         }
1190
1191         return 1;
1192 }
1193
1194 /**
1195  * spider_net_get_stats - get interface statistics
1196  * @netdev: interface device structure
1197  *
1198  * returns the interface statistics residing in the spider_net_card struct
1199  */
1200 static struct net_device_stats *
1201 spider_net_get_stats(struct net_device *netdev)
1202 {
1203         struct spider_net_card *card = netdev_priv(netdev);
1204         struct net_device_stats *stats = &card->netdev_stats;
1205         return stats;
1206 }
1207
1208 /**
1209  * spider_net_change_mtu - changes the MTU of an interface
1210  * @netdev: interface device structure
1211  * @new_mtu: new MTU value
1212  *
1213  * returns 0 on success, <0 on failure
1214  */
1215 static int
1216 spider_net_change_mtu(struct net_device *netdev, int new_mtu)
1217 {
1218         /* no need to re-alloc skbs or so -- the max mtu is about 2.3k
1219          * and mtu is outbound only anyway */
1220         if ( (new_mtu < SPIDER_NET_MIN_MTU ) ||
1221                 (new_mtu > SPIDER_NET_MAX_MTU) )
1222                 return -EINVAL;
1223         netdev->mtu = new_mtu;
1224         return 0;
1225 }
1226
1227 /**
1228  * spider_net_set_mac - sets the MAC of an interface
1229  * @netdev: interface device structure
1230  * @ptr: pointer to new MAC address
1231  *
1232  * Returns 0 on success, <0 on failure. Currently, we don't support this
1233  * and will always return EOPNOTSUPP.
1234  */
1235 static int
1236 spider_net_set_mac(struct net_device *netdev, void *p)
1237 {
1238         struct spider_net_card *card = netdev_priv(netdev);
1239         u32 macl, macu, regvalue;
1240         struct sockaddr *addr = p;
1241
1242         if (!is_valid_ether_addr(addr->sa_data))
1243                 return -EADDRNOTAVAIL;
1244
1245         /* switch off GMACTPE and GMACRPE */
1246         regvalue = spider_net_read_reg(card, SPIDER_NET_GMACOPEMD);
1247         regvalue &= ~((1 << 5) | (1 << 6));
1248         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD, regvalue);
1249
1250         /* write mac */
1251         macu = (addr->sa_data[0]<<24) + (addr->sa_data[1]<<16) +
1252                 (addr->sa_data[2]<<8) + (addr->sa_data[3]);
1253         macl = (addr->sa_data[4]<<8) + (addr->sa_data[5]);
1254         spider_net_write_reg(card, SPIDER_NET_GMACUNIMACU, macu);
1255         spider_net_write_reg(card, SPIDER_NET_GMACUNIMACL, macl);
1256
1257         /* switch GMACTPE and GMACRPE back on */
1258         regvalue = spider_net_read_reg(card, SPIDER_NET_GMACOPEMD);
1259         regvalue |= ((1 << 5) | (1 << 6));
1260         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD, regvalue);
1261
1262         spider_net_set_promisc(card);
1263
1264         /* look up, whether we have been successful */
1265         if (spider_net_get_mac_address(netdev))
1266                 return -EADDRNOTAVAIL;
1267         if (memcmp(netdev->dev_addr,addr->sa_data,netdev->addr_len))
1268                 return -EADDRNOTAVAIL;
1269
1270         return 0;
1271 }
1272
1273 /**
1274  * spider_net_link_reset
1275  * @netdev: net device structure
1276  *
1277  * This is called when the PHY_LINK signal is asserted. For the blade this is
1278  * not connected so we should never get here.
1279  *
1280  */
1281 static void
1282 spider_net_link_reset(struct net_device *netdev)
1283 {
1284
1285         struct spider_net_card *card = netdev_priv(netdev);
1286
1287         del_timer_sync(&card->aneg_timer);
1288
1289         /* clear interrupt, block further interrupts */
1290         spider_net_write_reg(card, SPIDER_NET_GMACST,
1291                              spider_net_read_reg(card, SPIDER_NET_GMACST));
1292         spider_net_write_reg(card, SPIDER_NET_GMACINTEN, 0);
1293
1294         /* reset phy and setup aneg */
1295         spider_net_setup_aneg(card);
1296         mod_timer(&card->aneg_timer, jiffies + SPIDER_NET_ANEG_TIMER);
1297
1298 }
1299
1300 /**
1301  * spider_net_handle_error_irq - handles errors raised by an interrupt
1302  * @card: card structure
1303  * @status_reg: interrupt status register 0 (GHIINT0STS)
1304  *
1305  * spider_net_handle_error_irq treats or ignores all error conditions
1306  * found when an interrupt is presented
1307  */
1308 static void
1309 spider_net_handle_error_irq(struct spider_net_card *card, u32 status_reg)
1310 {
1311         u32 error_reg1, error_reg2;
1312         u32 i;
1313         int show_error = 1;
1314
1315         error_reg1 = spider_net_read_reg(card, SPIDER_NET_GHIINT1STS);
1316         error_reg2 = spider_net_read_reg(card, SPIDER_NET_GHIINT2STS);
1317
1318         /* check GHIINT0STS ************************************/
1319         if (status_reg)
1320                 for (i = 0; i < 32; i++)
1321                         if (status_reg & (1<<i))
1322                                 switch (i)
1323         {
1324         /* let error_reg1 and error_reg2 evaluation decide, what to do
1325         case SPIDER_NET_PHYINT:
1326         case SPIDER_NET_GMAC2INT:
1327         case SPIDER_NET_GMAC1INT:
1328         case SPIDER_NET_GFIFOINT:
1329         case SPIDER_NET_DMACINT:
1330         case SPIDER_NET_GSYSINT:
1331                 break; */
1332
1333         case SPIDER_NET_GIPSINT:
1334                 show_error = 0;
1335                 break;
1336
1337         case SPIDER_NET_GPWOPCMPINT:
1338                 /* PHY write operation completed */
1339                 show_error = 0;
1340                 break;
1341         case SPIDER_NET_GPROPCMPINT:
1342                 /* PHY read operation completed */
1343                 /* we don't use semaphores, as we poll for the completion
1344                  * of the read operation in spider_net_read_phy. Should take
1345                  * about 50 us */
1346                 show_error = 0;
1347                 break;
1348         case SPIDER_NET_GPWFFINT:
1349                 /* PHY command queue full */
1350                 if (netif_msg_intr(card))
1351                         pr_err("PHY write queue full\n");
1352                 show_error = 0;
1353                 break;
1354
1355         /* case SPIDER_NET_GRMDADRINT: not used. print a message */
1356         /* case SPIDER_NET_GRMARPINT: not used. print a message */
1357         /* case SPIDER_NET_GRMMPINT: not used. print a message */
1358
1359         case SPIDER_NET_GDTDEN0INT:
1360                 /* someone has set TX_DMA_EN to 0 */
1361                 show_error = 0;
1362                 break;
1363
1364         case SPIDER_NET_GDDDEN0INT: /* fallthrough */
1365         case SPIDER_NET_GDCDEN0INT: /* fallthrough */
1366         case SPIDER_NET_GDBDEN0INT: /* fallthrough */
1367         case SPIDER_NET_GDADEN0INT:
1368                 /* someone has set RX_DMA_EN to 0 */
1369                 show_error = 0;
1370                 break;
1371
1372         /* RX interrupts */
1373         case SPIDER_NET_GDDFDCINT:
1374         case SPIDER_NET_GDCFDCINT:
1375         case SPIDER_NET_GDBFDCINT:
1376         case SPIDER_NET_GDAFDCINT:
1377         /* case SPIDER_NET_GDNMINT: not used. print a message */
1378         /* case SPIDER_NET_GCNMINT: not used. print a message */
1379         /* case SPIDER_NET_GBNMINT: not used. print a message */
1380         /* case SPIDER_NET_GANMINT: not used. print a message */
1381         /* case SPIDER_NET_GRFNMINT: not used. print a message */
1382                 show_error = 0;
1383                 break;
1384
1385         /* TX interrupts */
1386         case SPIDER_NET_GDTFDCINT:
1387                 show_error = 0;
1388                 break;
1389         case SPIDER_NET_GTTEDINT:
1390                 show_error = 0;
1391                 break;
1392         case SPIDER_NET_GDTDCEINT:
1393                 /* chain end. If a descriptor should be sent, kick off
1394                  * tx dma
1395                 if (card->tx_chain.tail != card->tx_chain.head)
1396                         spider_net_kick_tx_dma(card);
1397                 */
1398                 show_error = 0;
1399                 break;
1400
1401         /* case SPIDER_NET_G1TMCNTINT: not used. print a message */
1402         /* case SPIDER_NET_GFREECNTINT: not used. print a message */
1403         }
1404
1405         /* check GHIINT1STS ************************************/
1406         if (error_reg1)
1407                 for (i = 0; i < 32; i++)
1408                         if (error_reg1 & (1<<i))
1409                                 switch (i)
1410         {
1411         case SPIDER_NET_GTMFLLINT:
1412                 /* TX RAM full may happen on a usual case.
1413                  * Logging is not needed. */
1414                 show_error = 0;
1415                 break;
1416         case SPIDER_NET_GRFDFLLINT: /* fallthrough */
1417         case SPIDER_NET_GRFCFLLINT: /* fallthrough */
1418         case SPIDER_NET_GRFBFLLINT: /* fallthrough */
1419         case SPIDER_NET_GRFAFLLINT: /* fallthrough */
1420         case SPIDER_NET_GRMFLLINT:
1421                 if (netif_msg_intr(card) && net_ratelimit())
1422                         pr_err("Spider RX RAM full, incoming packets "
1423                                "might be discarded!\n");
1424                 spider_net_rx_irq_off(card);
1425                 netif_rx_schedule(card->netdev);
1426                 show_error = 0;
1427                 break;
1428
1429         /* case SPIDER_NET_GTMSHTINT: problem, print a message */
1430         case SPIDER_NET_GDTINVDINT:
1431                 /* allrighty. tx from previous descr ok */
1432                 show_error = 0;
1433                 break;
1434
1435         /* chain end */
1436         case SPIDER_NET_GDDDCEINT: /* fallthrough */
1437         case SPIDER_NET_GDCDCEINT: /* fallthrough */
1438         case SPIDER_NET_GDBDCEINT: /* fallthrough */
1439         case SPIDER_NET_GDADCEINT:
1440                 if (netif_msg_intr(card) && net_ratelimit())
1441                         pr_err("got descriptor chain end interrupt, "
1442                                "restarting DMAC %c.\n",
1443                                'D'-(i-SPIDER_NET_GDDDCEINT)/3);
1444                 spider_net_refill_rx_chain(card);
1445                 spider_net_enable_rxdmac(card);
1446                 show_error = 0;
1447                 break;
1448
1449         /* invalid descriptor */
1450         case SPIDER_NET_GDDINVDINT: /* fallthrough */
1451         case SPIDER_NET_GDCINVDINT: /* fallthrough */
1452         case SPIDER_NET_GDBINVDINT: /* fallthrough */
1453         case SPIDER_NET_GDAINVDINT:
1454                 /* could happen when rx chain is full */
1455                 spider_net_refill_rx_chain(card);
1456                 spider_net_enable_rxdmac(card);
1457                 show_error = 0;
1458                 break;
1459
1460         /* case SPIDER_NET_GDTRSERINT: problem, print a message */
1461         /* case SPIDER_NET_GDDRSERINT: problem, print a message */
1462         /* case SPIDER_NET_GDCRSERINT: problem, print a message */
1463         /* case SPIDER_NET_GDBRSERINT: problem, print a message */
1464         /* case SPIDER_NET_GDARSERINT: problem, print a message */
1465         /* case SPIDER_NET_GDSERINT: problem, print a message */
1466         /* case SPIDER_NET_GDTPTERINT: problem, print a message */
1467         /* case SPIDER_NET_GDDPTERINT: problem, print a message */
1468         /* case SPIDER_NET_GDCPTERINT: problem, print a message */
1469         /* case SPIDER_NET_GDBPTERINT: problem, print a message */
1470         /* case SPIDER_NET_GDAPTERINT: problem, print a message */
1471         default:
1472                 show_error = 1;
1473                 break;
1474         }
1475
1476         /* check GHIINT2STS ************************************/
1477         if (error_reg2)
1478                 for (i = 0; i < 32; i++)
1479                         if (error_reg2 & (1<<i))
1480                                 switch (i)
1481         {
1482         /* there is nothing we can (want  to) do at this time. Log a
1483          * message, we can switch on and off the specific values later on
1484         case SPIDER_NET_GPROPERINT:
1485         case SPIDER_NET_GMCTCRSNGINT:
1486         case SPIDER_NET_GMCTLCOLINT:
1487         case SPIDER_NET_GMCTTMOTINT:
1488         case SPIDER_NET_GMCRCAERINT:
1489         case SPIDER_NET_GMCRCALERINT:
1490         case SPIDER_NET_GMCRALNERINT:
1491         case SPIDER_NET_GMCROVRINT:
1492         case SPIDER_NET_GMCRRNTINT:
1493         case SPIDER_NET_GMCRRXERINT:
1494         case SPIDER_NET_GTITCSERINT:
1495         case SPIDER_NET_GTIFMTERINT:
1496         case SPIDER_NET_GTIPKTRVKINT:
1497         case SPIDER_NET_GTISPINGINT:
1498         case SPIDER_NET_GTISADNGINT:
1499         case SPIDER_NET_GTISPDNGINT:
1500         case SPIDER_NET_GRIFMTERINT:
1501         case SPIDER_NET_GRIPKTRVKINT:
1502         case SPIDER_NET_GRISPINGINT:
1503         case SPIDER_NET_GRISADNGINT:
1504         case SPIDER_NET_GRISPDNGINT:
1505                 break;
1506         */
1507                 default:
1508                         break;
1509         }
1510
1511         if ((show_error) && (netif_msg_intr(card)) && net_ratelimit())
1512                 pr_err("Got error interrupt on %s, GHIINT0STS = 0x%08x, "
1513                        "GHIINT1STS = 0x%08x, GHIINT2STS = 0x%08x\n",
1514                        card->netdev->name,
1515                        status_reg, error_reg1, error_reg2);
1516
1517         /* clear interrupt sources */
1518         spider_net_write_reg(card, SPIDER_NET_GHIINT1STS, error_reg1);
1519         spider_net_write_reg(card, SPIDER_NET_GHIINT2STS, error_reg2);
1520 }
1521
1522 /**
1523  * spider_net_interrupt - interrupt handler for spider_net
1524  * @irq: interupt number
1525  * @ptr: pointer to net_device
1526  * @regs: PU registers
1527  *
1528  * returns IRQ_HANDLED, if interrupt was for driver, or IRQ_NONE, if no
1529  * interrupt found raised by card.
1530  *
1531  * This is the interrupt handler, that turns off
1532  * interrupts for this device and makes the stack poll the driver
1533  */
1534 static irqreturn_t
1535 spider_net_interrupt(int irq, void *ptr)
1536 {
1537         struct net_device *netdev = ptr;
1538         struct spider_net_card *card = netdev_priv(netdev);
1539         u32 status_reg;
1540
1541         status_reg = spider_net_read_reg(card, SPIDER_NET_GHIINT0STS);
1542
1543         if (!status_reg)
1544                 return IRQ_NONE;
1545
1546         if (status_reg & SPIDER_NET_RXINT ) {
1547                 spider_net_rx_irq_off(card);
1548                 netif_rx_schedule(netdev);
1549         }
1550         if (status_reg & SPIDER_NET_TXINT)
1551                 netif_rx_schedule(netdev);
1552
1553         if (status_reg & SPIDER_NET_LINKINT)
1554                 spider_net_link_reset(netdev);
1555
1556         if (status_reg & SPIDER_NET_ERRINT )
1557                 spider_net_handle_error_irq(card, status_reg);
1558
1559         /* clear interrupt sources */
1560         spider_net_write_reg(card, SPIDER_NET_GHIINT0STS, status_reg);
1561
1562         return IRQ_HANDLED;
1563 }
1564
1565 #ifdef CONFIG_NET_POLL_CONTROLLER
1566 /**
1567  * spider_net_poll_controller - artificial interrupt for netconsole etc.
1568  * @netdev: interface device structure
1569  *
1570  * see Documentation/networking/netconsole.txt
1571  */
1572 static void
1573 spider_net_poll_controller(struct net_device *netdev)
1574 {
1575         disable_irq(netdev->irq);
1576         spider_net_interrupt(netdev->irq, netdev);
1577         enable_irq(netdev->irq);
1578 }
1579 #endif /* CONFIG_NET_POLL_CONTROLLER */
1580
1581 /**
1582  * spider_net_init_card - initializes the card
1583  * @card: card structure
1584  *
1585  * spider_net_init_card initializes the card so that other registers can
1586  * be used
1587  */
1588 static void
1589 spider_net_init_card(struct spider_net_card *card)
1590 {
1591         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
1592                              SPIDER_NET_CKRCTRL_STOP_VALUE);
1593
1594         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
1595                              SPIDER_NET_CKRCTRL_RUN_VALUE);
1596
1597         /* trigger ETOMOD signal */
1598         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD,
1599                 spider_net_read_reg(card, SPIDER_NET_GMACOPEMD) | 0x4);
1600
1601 }
1602
1603 /**
1604  * spider_net_enable_card - enables the card by setting all kinds of regs
1605  * @card: card structure
1606  *
1607  * spider_net_enable_card sets a lot of SMMIO registers to enable the device
1608  */
1609 static void
1610 spider_net_enable_card(struct spider_net_card *card)
1611 {
1612         int i;
1613         /* the following array consists of (register),(value) pairs
1614          * that are set in this function. A register of 0 ends the list */
1615         u32 regs[][2] = {
1616                 { SPIDER_NET_GRESUMINTNUM, 0 },
1617                 { SPIDER_NET_GREINTNUM, 0 },
1618
1619                 /* set interrupt frame number registers */
1620                 /* clear the single DMA engine registers first */
1621                 { SPIDER_NET_GFAFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1622                 { SPIDER_NET_GFBFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1623                 { SPIDER_NET_GFCFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1624                 { SPIDER_NET_GFDFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1625                 /* then set, what we really need */
1626                 { SPIDER_NET_GFFRMNUM, SPIDER_NET_FRAMENUM_VALUE },
1627
1628                 /* timer counter registers and stuff */
1629                 { SPIDER_NET_GFREECNNUM, 0 },
1630                 { SPIDER_NET_GONETIMENUM, 0 },
1631                 { SPIDER_NET_GTOUTFRMNUM, 0 },
1632
1633                 /* RX mode setting */
1634                 { SPIDER_NET_GRXMDSET, SPIDER_NET_RXMODE_VALUE },
1635                 /* TX mode setting */
1636                 { SPIDER_NET_GTXMDSET, SPIDER_NET_TXMODE_VALUE },
1637                 /* IPSEC mode setting */
1638                 { SPIDER_NET_GIPSECINIT, SPIDER_NET_IPSECINIT_VALUE },
1639
1640                 { SPIDER_NET_GFTRESTRT, SPIDER_NET_RESTART_VALUE },
1641
1642                 { SPIDER_NET_GMRWOLCTRL, 0 },
1643                 { SPIDER_NET_GTESTMD, 0x10000000 },
1644                 { SPIDER_NET_GTTQMSK, 0x00400040 },
1645
1646                 { SPIDER_NET_GMACINTEN, 0 },
1647
1648                 /* flow control stuff */
1649                 { SPIDER_NET_GMACAPAUSE, SPIDER_NET_MACAPAUSE_VALUE },
1650                 { SPIDER_NET_GMACTXPAUSE, SPIDER_NET_TXPAUSE_VALUE },
1651
1652                 { SPIDER_NET_GMACBSTLMT, SPIDER_NET_BURSTLMT_VALUE },
1653                 { 0, 0}
1654         };
1655
1656         i = 0;
1657         while (regs[i][0]) {
1658                 spider_net_write_reg(card, regs[i][0], regs[i][1]);
1659                 i++;
1660         }
1661
1662         /* clear unicast filter table entries 1 to 14 */
1663         for (i = 1; i <= 14; i++) {
1664                 spider_net_write_reg(card,
1665                                      SPIDER_NET_GMRUAFILnR + i * 8,
1666                                      0x00080000);
1667                 spider_net_write_reg(card,
1668                                      SPIDER_NET_GMRUAFILnR + i * 8 + 4,
1669                                      0x00000000);
1670         }
1671
1672         spider_net_write_reg(card, SPIDER_NET_GMRUA0FIL15R, 0x08080000);
1673
1674         spider_net_write_reg(card, SPIDER_NET_ECMODE, SPIDER_NET_ECMODE_VALUE);
1675
1676         /* set chain tail adress for RX chains and
1677          * enable DMA */
1678         spider_net_enable_rxchtails(card);
1679         spider_net_enable_rxdmac(card);
1680
1681         spider_net_write_reg(card, SPIDER_NET_GRXDMAEN, SPIDER_NET_WOL_VALUE);
1682
1683         spider_net_write_reg(card, SPIDER_NET_GMACLENLMT,
1684                              SPIDER_NET_LENLMT_VALUE);
1685         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD,
1686                              SPIDER_NET_OPMODE_VALUE);
1687
1688         /* set interrupt mask registers */
1689         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK,
1690                              SPIDER_NET_INT0_MASK_VALUE);
1691         spider_net_write_reg(card, SPIDER_NET_GHIINT1MSK,
1692                              SPIDER_NET_INT1_MASK_VALUE);
1693         spider_net_write_reg(card, SPIDER_NET_GHIINT2MSK,
1694                              SPIDER_NET_INT2_MASK_VALUE);
1695
1696         spider_net_write_reg(card, SPIDER_NET_GDTDMACCNTR,
1697                              SPIDER_NET_GDTBSTA);
1698 }
1699
1700 /**
1701  * spider_net_download_firmware - loads firmware into the adapter
1702  * @card: card structure
1703  * @firmware_ptr: pointer to firmware data
1704  *
1705  * spider_net_download_firmware loads the firmware data into the
1706  * adapter. It assumes the length etc. to be allright.
1707  */
1708 static int
1709 spider_net_download_firmware(struct spider_net_card *card,
1710                              const void *firmware_ptr)
1711 {
1712         int sequencer, i;
1713         const u32 *fw_ptr = firmware_ptr;
1714
1715         /* stop sequencers */
1716         spider_net_write_reg(card, SPIDER_NET_GSINIT,
1717                              SPIDER_NET_STOP_SEQ_VALUE);
1718
1719         for (sequencer = 0; sequencer < SPIDER_NET_FIRMWARE_SEQS;
1720              sequencer++) {
1721                 spider_net_write_reg(card,
1722                                      SPIDER_NET_GSnPRGADR + sequencer * 8, 0);
1723                 for (i = 0; i < SPIDER_NET_FIRMWARE_SEQWORDS; i++) {
1724                         spider_net_write_reg(card, SPIDER_NET_GSnPRGDAT +
1725                                              sequencer * 8, *fw_ptr);
1726                         fw_ptr++;
1727                 }
1728         }
1729
1730         if (spider_net_read_reg(card, SPIDER_NET_GSINIT))
1731                 return -EIO;
1732
1733         spider_net_write_reg(card, SPIDER_NET_GSINIT,
1734                              SPIDER_NET_RUN_SEQ_VALUE);
1735
1736         return 0;
1737 }
1738
1739 /**
1740  * spider_net_init_firmware - reads in firmware parts
1741  * @card: card structure
1742  *
1743  * Returns 0 on success, <0 on failure
1744  *
1745  * spider_net_init_firmware opens the sequencer firmware and does some basic
1746  * checks. This function opens and releases the firmware structure. A call
1747  * to download the firmware is performed before the release.
1748  *
1749  * Firmware format
1750  * ===============
1751  * spider_fw.bin is expected to be a file containing 6*1024*4 bytes, 4k being
1752  * the program for each sequencer. Use the command
1753  *    tail -q -n +2 Seq_code1_0x088.txt Seq_code2_0x090.txt              \
1754  *         Seq_code3_0x098.txt Seq_code4_0x0A0.txt Seq_code5_0x0A8.txt   \
1755  *         Seq_code6_0x0B0.txt | xxd -r -p -c4 > spider_fw.bin
1756  *
1757  * to generate spider_fw.bin, if you have sequencer programs with something
1758  * like the following contents for each sequencer:
1759  *    <ONE LINE COMMENT>
1760  *    <FIRST 4-BYTES-WORD FOR SEQUENCER>
1761  *    <SECOND 4-BYTES-WORD FOR SEQUENCER>
1762  *     ...
1763  *    <1024th 4-BYTES-WORD FOR SEQUENCER>
1764  */
1765 static int
1766 spider_net_init_firmware(struct spider_net_card *card)
1767 {
1768         struct firmware *firmware = NULL;
1769         struct device_node *dn;
1770         const u8 *fw_prop = NULL;
1771         int err = -ENOENT;
1772         int fw_size;
1773
1774         if (request_firmware((const struct firmware **)&firmware,
1775                              SPIDER_NET_FIRMWARE_NAME, &card->pdev->dev) == 0) {
1776                 if ( (firmware->size != SPIDER_NET_FIRMWARE_LEN) &&
1777                      netif_msg_probe(card) ) {
1778                         pr_err("Incorrect size of spidernet firmware in " \
1779                                "filesystem. Looking in host firmware...\n");
1780                         goto try_host_fw;
1781                 }
1782                 err = spider_net_download_firmware(card, firmware->data);
1783
1784                 release_firmware(firmware);
1785                 if (err)
1786                         goto try_host_fw;
1787
1788                 goto done;
1789         }
1790
1791 try_host_fw:
1792         dn = pci_device_to_OF_node(card->pdev);
1793         if (!dn)
1794                 goto out_err;
1795
1796         fw_prop = of_get_property(dn, "firmware", &fw_size);
1797         if (!fw_prop)
1798                 goto out_err;
1799
1800         if ( (fw_size != SPIDER_NET_FIRMWARE_LEN) &&
1801              netif_msg_probe(card) ) {
1802                 pr_err("Incorrect size of spidernet firmware in " \
1803                        "host firmware\n");
1804                 goto done;
1805         }
1806
1807         err = spider_net_download_firmware(card, fw_prop);
1808
1809 done:
1810         return err;
1811 out_err:
1812         if (netif_msg_probe(card))
1813                 pr_err("Couldn't find spidernet firmware in filesystem " \
1814                        "or host firmware\n");
1815         return err;
1816 }
1817
1818 /**
1819  * spider_net_open - called upon ifonfig up
1820  * @netdev: interface device structure
1821  *
1822  * returns 0 on success, <0 on failure
1823  *
1824  * spider_net_open allocates all the descriptors and memory needed for
1825  * operation, sets up multicast list and enables interrupts
1826  */
1827 int
1828 spider_net_open(struct net_device *netdev)
1829 {
1830         struct spider_net_card *card = netdev_priv(netdev);
1831         int result;
1832
1833         result = spider_net_init_firmware(card);
1834         if (result)
1835                 goto init_firmware_failed;
1836
1837         /* start probing with copper */
1838         spider_net_setup_aneg(card);
1839         if (card->phy.def->phy_id)
1840                 mod_timer(&card->aneg_timer, jiffies + SPIDER_NET_ANEG_TIMER);
1841
1842         result = spider_net_init_chain(card, &card->tx_chain);
1843         if (result)
1844                 goto alloc_tx_failed;
1845         card->low_watermark = NULL;
1846
1847         result = spider_net_init_chain(card, &card->rx_chain);
1848         if (result)
1849                 goto alloc_rx_failed;
1850
1851         /* Allocate rx skbs */
1852         if (spider_net_alloc_rx_skbs(card))
1853                 goto alloc_skbs_failed;
1854
1855         spider_net_set_multi(netdev);
1856
1857         /* further enhancement: setup hw vlan, if needed */
1858
1859         result = -EBUSY;
1860         if (request_irq(netdev->irq, spider_net_interrupt,
1861                              IRQF_SHARED, netdev->name, netdev))
1862                 goto register_int_failed;
1863
1864         spider_net_enable_card(card);
1865
1866         netif_start_queue(netdev);
1867         netif_carrier_on(netdev);
1868         netif_poll_enable(netdev);
1869
1870         return 0;
1871
1872 register_int_failed:
1873         spider_net_free_rx_chain_contents(card);
1874 alloc_skbs_failed:
1875         spider_net_free_chain(card, &card->rx_chain);
1876 alloc_rx_failed:
1877         spider_net_free_chain(card, &card->tx_chain);
1878 alloc_tx_failed:
1879         del_timer_sync(&card->aneg_timer);
1880 init_firmware_failed:
1881         return result;
1882 }
1883
1884 /**
1885  * spider_net_link_phy
1886  * @data: used for pointer to card structure
1887  *
1888  */
1889 static void spider_net_link_phy(unsigned long data)
1890 {
1891         struct spider_net_card *card = (struct spider_net_card *)data;
1892         struct mii_phy *phy = &card->phy;
1893
1894         /* if link didn't come up after SPIDER_NET_ANEG_TIMEOUT tries, setup phy again */
1895         if (card->aneg_count > SPIDER_NET_ANEG_TIMEOUT) {
1896
1897                 pr_info("%s: link is down trying to bring it up\n", card->netdev->name);
1898
1899                 switch (card->medium) {
1900                 case BCM54XX_COPPER:
1901                         /* enable fiber with autonegotiation first */
1902                         if (phy->def->ops->enable_fiber)
1903                                 phy->def->ops->enable_fiber(phy, 1);
1904                         card->medium = BCM54XX_FIBER;
1905                         break;
1906
1907                 case BCM54XX_FIBER:
1908                         /* fiber didn't come up, try to disable fiber autoneg */
1909                         if (phy->def->ops->enable_fiber)
1910                                 phy->def->ops->enable_fiber(phy, 0);
1911                         card->medium = BCM54XX_UNKNOWN;
1912                         break;
1913
1914                 case BCM54XX_UNKNOWN:
1915                         /* copper, fiber with and without failed,
1916                          * retry from beginning */
1917                         spider_net_setup_aneg(card);
1918                         card->medium = BCM54XX_COPPER;
1919                         break;
1920                 }
1921
1922                 card->aneg_count = 0;
1923                 mod_timer(&card->aneg_timer, jiffies + SPIDER_NET_ANEG_TIMER);
1924                 return;
1925         }
1926
1927         /* link still not up, try again later */
1928         if (!(phy->def->ops->poll_link(phy))) {
1929                 card->aneg_count++;
1930                 mod_timer(&card->aneg_timer, jiffies + SPIDER_NET_ANEG_TIMER);
1931                 return;
1932         }
1933
1934         /* link came up, get abilities */
1935         phy->def->ops->read_link(phy);
1936
1937         spider_net_write_reg(card, SPIDER_NET_GMACST,
1938                              spider_net_read_reg(card, SPIDER_NET_GMACST));
1939         spider_net_write_reg(card, SPIDER_NET_GMACINTEN, 0x4);
1940
1941         if (phy->speed == 1000)
1942                 spider_net_write_reg(card, SPIDER_NET_GMACMODE, 0x00000001);
1943         else
1944                 spider_net_write_reg(card, SPIDER_NET_GMACMODE, 0);
1945
1946         card->aneg_count = 0;
1947
1948         pr_debug("Found %s with %i Mbps, %s-duplex %sautoneg.\n",
1949                 phy->def->name, phy->speed, phy->duplex==1 ? "Full" : "Half",
1950                 phy->autoneg==1 ? "" : "no ");
1951
1952         return;
1953 }
1954
1955 /**
1956  * spider_net_setup_phy - setup PHY
1957  * @card: card structure
1958  *
1959  * returns 0 on success, <0 on failure
1960  *
1961  * spider_net_setup_phy is used as part of spider_net_probe.
1962  **/
1963 static int
1964 spider_net_setup_phy(struct spider_net_card *card)
1965 {
1966         struct mii_phy *phy = &card->phy;
1967
1968         spider_net_write_reg(card, SPIDER_NET_GDTDMASEL,
1969                              SPIDER_NET_DMASEL_VALUE);
1970         spider_net_write_reg(card, SPIDER_NET_GPCCTRL,
1971                              SPIDER_NET_PHY_CTRL_VALUE);
1972
1973         phy->dev = card->netdev;
1974         phy->mdio_read = spider_net_read_phy;
1975         phy->mdio_write = spider_net_write_phy;
1976
1977         for (phy->mii_id = 1; phy->mii_id <= 31; phy->mii_id++) {
1978                 unsigned short id;
1979                 id = spider_net_read_phy(card->netdev, phy->mii_id, MII_BMSR);
1980                 if (id != 0x0000 && id != 0xffff) {
1981                         if (!mii_phy_probe(phy, phy->mii_id)) {
1982                                 pr_info("Found %s.\n", phy->def->name);
1983                                 break;
1984                         }
1985                 }
1986         }
1987
1988         return 0;
1989 }
1990
1991 /**
1992  * spider_net_workaround_rxramfull - work around firmware bug
1993  * @card: card structure
1994  *
1995  * no return value
1996  **/
1997 static void
1998 spider_net_workaround_rxramfull(struct spider_net_card *card)
1999 {
2000         int i, sequencer = 0;
2001
2002         /* cancel reset */
2003         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
2004                              SPIDER_NET_CKRCTRL_RUN_VALUE);
2005
2006         /* empty sequencer data */
2007         for (sequencer = 0; sequencer < SPIDER_NET_FIRMWARE_SEQS;
2008              sequencer++) {
2009                 spider_net_write_reg(card, SPIDER_NET_GSnPRGADR +
2010                                      sequencer * 8, 0x0);
2011                 for (i = 0; i < SPIDER_NET_FIRMWARE_SEQWORDS; i++) {
2012                         spider_net_write_reg(card, SPIDER_NET_GSnPRGDAT +
2013                                              sequencer * 8, 0x0);
2014                 }
2015         }
2016
2017         /* set sequencer operation */
2018         spider_net_write_reg(card, SPIDER_NET_GSINIT, 0x000000fe);
2019
2020         /* reset */
2021         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
2022                              SPIDER_NET_CKRCTRL_STOP_VALUE);
2023 }
2024
2025 /**
2026  * spider_net_stop - called upon ifconfig down
2027  * @netdev: interface device structure
2028  *
2029  * always returns 0
2030  */
2031 int
2032 spider_net_stop(struct net_device *netdev)
2033 {
2034         struct spider_net_card *card = netdev_priv(netdev);
2035
2036         netif_poll_disable(netdev);
2037         netif_carrier_off(netdev);
2038         netif_stop_queue(netdev);
2039         del_timer_sync(&card->tx_timer);
2040         del_timer_sync(&card->aneg_timer);
2041
2042         /* disable/mask all interrupts */
2043         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK, 0);
2044         spider_net_write_reg(card, SPIDER_NET_GHIINT1MSK, 0);
2045         spider_net_write_reg(card, SPIDER_NET_GHIINT2MSK, 0);
2046         spider_net_write_reg(card, SPIDER_NET_GMACINTEN, 0);
2047
2048         free_irq(netdev->irq, netdev);
2049
2050         spider_net_write_reg(card, SPIDER_NET_GDTDMACCNTR,
2051                              SPIDER_NET_DMA_TX_FEND_VALUE);
2052
2053         /* turn off DMA, force end */
2054         spider_net_disable_rxdmac(card);
2055
2056         /* release chains */
2057         spider_net_release_tx_chain(card, 1);
2058         spider_net_free_rx_chain_contents(card);
2059
2060         spider_net_free_chain(card, &card->tx_chain);
2061         spider_net_free_chain(card, &card->rx_chain);
2062
2063         return 0;
2064 }
2065
2066 /**
2067  * spider_net_tx_timeout_task - task scheduled by the watchdog timeout
2068  * function (to be called not under interrupt status)
2069  * @data: data, is interface device structure
2070  *
2071  * called as task when tx hangs, resets interface (if interface is up)
2072  */
2073 static void
2074 spider_net_tx_timeout_task(struct work_struct *work)
2075 {
2076         struct spider_net_card *card =
2077                 container_of(work, struct spider_net_card, tx_timeout_task);
2078         struct net_device *netdev = card->netdev;
2079
2080         if (!(netdev->flags & IFF_UP))
2081                 goto out;
2082
2083         netif_device_detach(netdev);
2084         spider_net_stop(netdev);
2085
2086         spider_net_workaround_rxramfull(card);
2087         spider_net_init_card(card);
2088
2089         if (spider_net_setup_phy(card))
2090                 goto out;
2091
2092         spider_net_open(netdev);
2093         spider_net_kick_tx_dma(card);
2094         netif_device_attach(netdev);
2095
2096 out:
2097         atomic_dec(&card->tx_timeout_task_counter);
2098 }
2099
2100 /**
2101  * spider_net_tx_timeout - called when the tx timeout watchdog kicks in.
2102  * @netdev: interface device structure
2103  *
2104  * called, if tx hangs. Schedules a task that resets the interface
2105  */
2106 static void
2107 spider_net_tx_timeout(struct net_device *netdev)
2108 {
2109         struct spider_net_card *card;
2110
2111         card = netdev_priv(netdev);
2112         atomic_inc(&card->tx_timeout_task_counter);
2113         if (netdev->flags & IFF_UP)
2114                 schedule_work(&card->tx_timeout_task);
2115         else
2116                 atomic_dec(&card->tx_timeout_task_counter);
2117         card->spider_stats.tx_timeouts++;
2118 }
2119
2120 /**
2121  * spider_net_setup_netdev_ops - initialization of net_device operations
2122  * @netdev: net_device structure
2123  *
2124  * fills out function pointers in the net_device structure
2125  */
2126 static void
2127 spider_net_setup_netdev_ops(struct net_device *netdev)
2128 {
2129         netdev->open = &spider_net_open;
2130         netdev->stop = &spider_net_stop;
2131         netdev->hard_start_xmit = &spider_net_xmit;
2132         netdev->get_stats = &spider_net_get_stats;
2133         netdev->set_multicast_list = &spider_net_set_multi;
2134         netdev->set_mac_address = &spider_net_set_mac;
2135         netdev->change_mtu = &spider_net_change_mtu;
2136         netdev->do_ioctl = &spider_net_do_ioctl;
2137         /* tx watchdog */
2138         netdev->tx_timeout = &spider_net_tx_timeout;
2139         netdev->watchdog_timeo = SPIDER_NET_WATCHDOG_TIMEOUT;
2140         /* NAPI */
2141         netdev->poll = &spider_net_poll;
2142         netdev->weight = SPIDER_NET_NAPI_WEIGHT;
2143         /* HW VLAN */
2144 #ifdef CONFIG_NET_POLL_CONTROLLER
2145         /* poll controller */
2146         netdev->poll_controller = &spider_net_poll_controller;
2147 #endif /* CONFIG_NET_POLL_CONTROLLER */
2148         /* ethtool ops */
2149         netdev->ethtool_ops = &spider_net_ethtool_ops;
2150 }
2151
2152 /**
2153  * spider_net_setup_netdev - initialization of net_device
2154  * @card: card structure
2155  *
2156  * Returns 0 on success or <0 on failure
2157  *
2158  * spider_net_setup_netdev initializes the net_device structure
2159  **/
2160 static int
2161 spider_net_setup_netdev(struct spider_net_card *card)
2162 {
2163         int result;
2164         struct net_device *netdev = card->netdev;
2165         struct device_node *dn;
2166         struct sockaddr addr;
2167         const u8 *mac;
2168
2169         SET_MODULE_OWNER(netdev);
2170         SET_NETDEV_DEV(netdev, &card->pdev->dev);
2171
2172         pci_set_drvdata(card->pdev, netdev);
2173
2174         init_timer(&card->tx_timer);
2175         card->tx_timer.function =
2176                 (void (*)(unsigned long)) spider_net_cleanup_tx_ring;
2177         card->tx_timer.data = (unsigned long) card;
2178         netdev->irq = card->pdev->irq;
2179
2180         card->aneg_count = 0;
2181         init_timer(&card->aneg_timer);
2182         card->aneg_timer.function = spider_net_link_phy;
2183         card->aneg_timer.data = (unsigned long) card;
2184
2185         card->options.rx_csum = SPIDER_NET_RX_CSUM_DEFAULT;
2186
2187         spider_net_setup_netdev_ops(netdev);
2188
2189         netdev->features = NETIF_F_HW_CSUM | NETIF_F_LLTX;
2190         /* some time: NETIF_F_HW_VLAN_TX | NETIF_F_HW_VLAN_RX |
2191          *              NETIF_F_HW_VLAN_FILTER */
2192
2193         netdev->irq = card->pdev->irq;
2194
2195         dn = pci_device_to_OF_node(card->pdev);
2196         if (!dn)
2197                 return -EIO;
2198
2199         mac = of_get_property(dn, "local-mac-address", NULL);
2200         if (!mac)
2201                 return -EIO;
2202         memcpy(addr.sa_data, mac, ETH_ALEN);
2203
2204         result = spider_net_set_mac(netdev, &addr);
2205         if ((result) && (netif_msg_probe(card)))
2206                 pr_err("Failed to set MAC address: %i\n", result);
2207
2208         result = register_netdev(netdev);
2209         if (result) {
2210                 if (netif_msg_probe(card))
2211                         pr_err("Couldn't register net_device: %i\n",
2212                                   result);
2213                 return result;
2214         }
2215
2216         if (netif_msg_probe(card))
2217                 pr_info("Initialized device %s.\n", netdev->name);
2218
2219         return 0;
2220 }
2221
2222 /**
2223  * spider_net_alloc_card - allocates net_device and card structure
2224  *
2225  * returns the card structure or NULL in case of errors
2226  *
2227  * the card and net_device structures are linked to each other
2228  */
2229 static struct spider_net_card *
2230 spider_net_alloc_card(void)
2231 {
2232         struct net_device *netdev;
2233         struct spider_net_card *card;
2234         size_t alloc_size;
2235
2236         alloc_size = sizeof(struct spider_net_card) +
2237            (tx_descriptors + rx_descriptors) * sizeof(struct spider_net_descr);
2238         netdev = alloc_etherdev(alloc_size);
2239         if (!netdev)
2240                 return NULL;
2241
2242         card = netdev_priv(netdev);
2243         card->netdev = netdev;
2244         card->msg_enable = SPIDER_NET_DEFAULT_MSG;
2245         INIT_WORK(&card->tx_timeout_task, spider_net_tx_timeout_task);
2246         init_waitqueue_head(&card->waitq);
2247         atomic_set(&card->tx_timeout_task_counter, 0);
2248
2249         card->rx_chain.num_desc = rx_descriptors;
2250         card->rx_chain.ring = card->darray;
2251         card->tx_chain.num_desc = tx_descriptors;
2252         card->tx_chain.ring = card->darray + rx_descriptors;
2253
2254         return card;
2255 }
2256
2257 /**
2258  * spider_net_undo_pci_setup - releases PCI ressources
2259  * @card: card structure
2260  *
2261  * spider_net_undo_pci_setup releases the mapped regions
2262  */
2263 static void
2264 spider_net_undo_pci_setup(struct spider_net_card *card)
2265 {
2266         iounmap(card->regs);
2267         pci_release_regions(card->pdev);
2268 }
2269
2270 /**
2271  * spider_net_setup_pci_dev - sets up the device in terms of PCI operations
2272  * @card: card structure
2273  * @pdev: PCI device
2274  *
2275  * Returns the card structure or NULL if any errors occur
2276  *
2277  * spider_net_setup_pci_dev initializes pdev and together with the
2278  * functions called in spider_net_open configures the device so that
2279  * data can be transferred over it
2280  * The net_device structure is attached to the card structure, if the
2281  * function returns without error.
2282  **/
2283 static struct spider_net_card *
2284 spider_net_setup_pci_dev(struct pci_dev *pdev)
2285 {
2286         struct spider_net_card *card;
2287         unsigned long mmio_start, mmio_len;
2288
2289         if (pci_enable_device(pdev)) {
2290                 pr_err("Couldn't enable PCI device\n");
2291                 return NULL;
2292         }
2293
2294         if (!(pci_resource_flags(pdev, 0) & IORESOURCE_MEM)) {
2295                 pr_err("Couldn't find proper PCI device base address.\n");
2296                 goto out_disable_dev;
2297         }
2298
2299         if (pci_request_regions(pdev, spider_net_driver_name)) {
2300                 pr_err("Couldn't obtain PCI resources, aborting.\n");
2301                 goto out_disable_dev;
2302         }
2303
2304         pci_set_master(pdev);
2305
2306         card = spider_net_alloc_card();
2307         if (!card) {
2308                 pr_err("Couldn't allocate net_device structure, "
2309                           "aborting.\n");
2310                 goto out_release_regions;
2311         }
2312         card->pdev = pdev;
2313
2314         /* fetch base address and length of first resource */
2315         mmio_start = pci_resource_start(pdev, 0);
2316         mmio_len = pci_resource_len(pdev, 0);
2317
2318         card->netdev->mem_start = mmio_start;
2319         card->netdev->mem_end = mmio_start + mmio_len;
2320         card->regs = ioremap(mmio_start, mmio_len);
2321
2322         if (!card->regs) {
2323                 pr_err("Couldn't obtain PCI resources, aborting.\n");
2324                 goto out_release_regions;
2325         }
2326
2327         return card;
2328
2329 out_release_regions:
2330         pci_release_regions(pdev);
2331 out_disable_dev:
2332         pci_disable_device(pdev);
2333         pci_set_drvdata(pdev, NULL);
2334         return NULL;
2335 }
2336
2337 /**
2338  * spider_net_probe - initialization of a device
2339  * @pdev: PCI device
2340  * @ent: entry in the device id list
2341  *
2342  * Returns 0 on success, <0 on failure
2343  *
2344  * spider_net_probe initializes pdev and registers a net_device
2345  * structure for it. After that, the device can be ifconfig'ed up
2346  **/
2347 static int __devinit
2348 spider_net_probe(struct pci_dev *pdev, const struct pci_device_id *ent)
2349 {
2350         int err = -EIO;
2351         struct spider_net_card *card;
2352
2353         card = spider_net_setup_pci_dev(pdev);
2354         if (!card)
2355                 goto out;
2356
2357         spider_net_workaround_rxramfull(card);
2358         spider_net_init_card(card);
2359
2360         err = spider_net_setup_phy(card);
2361         if (err)
2362                 goto out_undo_pci;
2363
2364         err = spider_net_setup_netdev(card);
2365         if (err)
2366                 goto out_undo_pci;
2367
2368         return 0;
2369
2370 out_undo_pci:
2371         spider_net_undo_pci_setup(card);
2372         free_netdev(card->netdev);
2373 out:
2374         return err;
2375 }
2376
2377 /**
2378  * spider_net_remove - removal of a device
2379  * @pdev: PCI device
2380  *
2381  * Returns 0 on success, <0 on failure
2382  *
2383  * spider_net_remove is called to remove the device and unregisters the
2384  * net_device
2385  **/
2386 static void __devexit
2387 spider_net_remove(struct pci_dev *pdev)
2388 {
2389         struct net_device *netdev;
2390         struct spider_net_card *card;
2391
2392         netdev = pci_get_drvdata(pdev);
2393         card = netdev_priv(netdev);
2394
2395         wait_event(card->waitq,
2396                    atomic_read(&card->tx_timeout_task_counter) == 0);
2397
2398         unregister_netdev(netdev);
2399
2400         /* switch off card */
2401         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
2402                              SPIDER_NET_CKRCTRL_STOP_VALUE);
2403         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
2404                              SPIDER_NET_CKRCTRL_RUN_VALUE);
2405
2406         spider_net_undo_pci_setup(card);
2407         free_netdev(netdev);
2408 }
2409
2410 static struct pci_driver spider_net_driver = {
2411         .name           = spider_net_driver_name,
2412         .id_table       = spider_net_pci_tbl,
2413         .probe          = spider_net_probe,
2414         .remove         = __devexit_p(spider_net_remove)
2415 };
2416
2417 /**
2418  * spider_net_init - init function when the driver is loaded
2419  *
2420  * spider_net_init registers the device driver
2421  */
2422 static int __init spider_net_init(void)
2423 {
2424         printk(KERN_INFO "Spidernet version %s.\n", VERSION);
2425
2426         if (rx_descriptors < SPIDER_NET_RX_DESCRIPTORS_MIN) {
2427                 rx_descriptors = SPIDER_NET_RX_DESCRIPTORS_MIN;
2428                 pr_info("adjusting rx descriptors to %i.\n", rx_descriptors);
2429         }
2430         if (rx_descriptors > SPIDER_NET_RX_DESCRIPTORS_MAX) {
2431                 rx_descriptors = SPIDER_NET_RX_DESCRIPTORS_MAX;
2432                 pr_info("adjusting rx descriptors to %i.\n", rx_descriptors);
2433         }
2434         if (tx_descriptors < SPIDER_NET_TX_DESCRIPTORS_MIN) {
2435                 tx_descriptors = SPIDER_NET_TX_DESCRIPTORS_MIN;
2436                 pr_info("adjusting tx descriptors to %i.\n", tx_descriptors);
2437         }
2438         if (tx_descriptors > SPIDER_NET_TX_DESCRIPTORS_MAX) {
2439                 tx_descriptors = SPIDER_NET_TX_DESCRIPTORS_MAX;
2440                 pr_info("adjusting tx descriptors to %i.\n", tx_descriptors);
2441         }
2442
2443         return pci_register_driver(&spider_net_driver);
2444 }
2445
2446 /**
2447  * spider_net_cleanup - exit function when driver is unloaded
2448  *
2449  * spider_net_cleanup unregisters the device driver
2450  */
2451 static void __exit spider_net_cleanup(void)
2452 {
2453         pci_unregister_driver(&spider_net_driver);
2454 }
2455
2456 module_init(spider_net_init);
2457 module_exit(spider_net_cleanup);