Merge git://git.kernel.org/pub/scm/linux/kernel/git/davem/sparc-2.6
[linux-2.6] / drivers / net / netxen / netxen_nic_hw.c
1 /*
2  * Copyright (C) 2003 - 2006 NetXen, Inc.
3  * All rights reserved.
4  *
5  * This program is free software; you can redistribute it and/or
6  * modify it under the terms of the GNU General Public License
7  * as published by the Free Software Foundation; either version 2
8  * of the License, or (at your option) any later version.
9  *
10  * This program is distributed in the hope that it will be useful, but
11  * WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13  * GNU General Public License for more details.
14  *
15  * You should have received a copy of the GNU General Public License
16  * along with this program; if not, write to the Free Software
17  * Foundation, Inc., 59 Temple Place - Suite 330, Boston,
18  * MA  02111-1307, USA.
19  *
20  * The full GNU General Public License is included in this distribution
21  * in the file called LICENSE.
22  *
23  * Contact Information:
24  *    info@netxen.com
25  * NetXen,
26  * 3965 Freedom Circle, Fourth floor,
27  * Santa Clara, CA 95054
28  *
29  *
30  * Source file for NIC routines to access the Phantom hardware
31  *
32  */
33
34 #include "netxen_nic.h"
35 #include "netxen_nic_hw.h"
36 #include "netxen_nic_phan_reg.h"
37
38
39 #include <net/ip.h>
40
41 #define MASK(n) ((1ULL<<(n))-1)
42 #define MN_WIN(addr) (((addr & 0x1fc0000) >> 1) | ((addr >> 25) & 0x3ff))
43 #define OCM_WIN(addr) (((addr & 0x1ff0000) >> 1) | ((addr >> 25) & 0x3ff))
44 #define MS_WIN(addr) (addr & 0x0ffc0000)
45
46 #define GET_MEM_OFFS_2M(addr) (addr & MASK(18))
47
48 #define CRB_BLK(off)    ((off >> 20) & 0x3f)
49 #define CRB_SUBBLK(off) ((off >> 16) & 0xf)
50 #define CRB_WINDOW_2M   (0x130060)
51 #define CRB_HI(off)     ((crb_hub_agt[CRB_BLK(off)] << 20) | ((off) & 0xf0000))
52 #define CRB_INDIRECT_2M (0x1e0000UL)
53
54 #define CRB_WIN_LOCK_TIMEOUT 100000000
55 static crb_128M_2M_block_map_t crb_128M_2M_map[64] = {
56     {{{0, 0,         0,         0} } },         /* 0: PCI */
57     {{{1, 0x0100000, 0x0102000, 0x120000},      /* 1: PCIE */
58           {1, 0x0110000, 0x0120000, 0x130000},
59           {1, 0x0120000, 0x0122000, 0x124000},
60           {1, 0x0130000, 0x0132000, 0x126000},
61           {1, 0x0140000, 0x0142000, 0x128000},
62           {1, 0x0150000, 0x0152000, 0x12a000},
63           {1, 0x0160000, 0x0170000, 0x110000},
64           {1, 0x0170000, 0x0172000, 0x12e000},
65           {0, 0x0000000, 0x0000000, 0x000000},
66           {0, 0x0000000, 0x0000000, 0x000000},
67           {0, 0x0000000, 0x0000000, 0x000000},
68           {0, 0x0000000, 0x0000000, 0x000000},
69           {0, 0x0000000, 0x0000000, 0x000000},
70           {0, 0x0000000, 0x0000000, 0x000000},
71           {1, 0x01e0000, 0x01e0800, 0x122000},
72           {0, 0x0000000, 0x0000000, 0x000000} } },
73         {{{1, 0x0200000, 0x0210000, 0x180000} } },/* 2: MN */
74     {{{0, 0,         0,         0} } },     /* 3: */
75     {{{1, 0x0400000, 0x0401000, 0x169000} } },/* 4: P2NR1 */
76     {{{1, 0x0500000, 0x0510000, 0x140000} } },/* 5: SRE   */
77     {{{1, 0x0600000, 0x0610000, 0x1c0000} } },/* 6: NIU   */
78     {{{1, 0x0700000, 0x0704000, 0x1b8000} } },/* 7: QM    */
79     {{{1, 0x0800000, 0x0802000, 0x170000},  /* 8: SQM0  */
80       {0, 0x0000000, 0x0000000, 0x000000},
81       {0, 0x0000000, 0x0000000, 0x000000},
82       {0, 0x0000000, 0x0000000, 0x000000},
83       {0, 0x0000000, 0x0000000, 0x000000},
84       {0, 0x0000000, 0x0000000, 0x000000},
85       {0, 0x0000000, 0x0000000, 0x000000},
86       {0, 0x0000000, 0x0000000, 0x000000},
87       {0, 0x0000000, 0x0000000, 0x000000},
88       {0, 0x0000000, 0x0000000, 0x000000},
89       {0, 0x0000000, 0x0000000, 0x000000},
90       {0, 0x0000000, 0x0000000, 0x000000},
91       {0, 0x0000000, 0x0000000, 0x000000},
92       {0, 0x0000000, 0x0000000, 0x000000},
93       {0, 0x0000000, 0x0000000, 0x000000},
94       {1, 0x08f0000, 0x08f2000, 0x172000} } },
95     {{{1, 0x0900000, 0x0902000, 0x174000},      /* 9: SQM1*/
96       {0, 0x0000000, 0x0000000, 0x000000},
97       {0, 0x0000000, 0x0000000, 0x000000},
98       {0, 0x0000000, 0x0000000, 0x000000},
99       {0, 0x0000000, 0x0000000, 0x000000},
100       {0, 0x0000000, 0x0000000, 0x000000},
101       {0, 0x0000000, 0x0000000, 0x000000},
102       {0, 0x0000000, 0x0000000, 0x000000},
103       {0, 0x0000000, 0x0000000, 0x000000},
104       {0, 0x0000000, 0x0000000, 0x000000},
105       {0, 0x0000000, 0x0000000, 0x000000},
106       {0, 0x0000000, 0x0000000, 0x000000},
107       {0, 0x0000000, 0x0000000, 0x000000},
108       {0, 0x0000000, 0x0000000, 0x000000},
109       {0, 0x0000000, 0x0000000, 0x000000},
110       {1, 0x09f0000, 0x09f2000, 0x176000} } },
111     {{{0, 0x0a00000, 0x0a02000, 0x178000},      /* 10: SQM2*/
112       {0, 0x0000000, 0x0000000, 0x000000},
113       {0, 0x0000000, 0x0000000, 0x000000},
114       {0, 0x0000000, 0x0000000, 0x000000},
115       {0, 0x0000000, 0x0000000, 0x000000},
116       {0, 0x0000000, 0x0000000, 0x000000},
117       {0, 0x0000000, 0x0000000, 0x000000},
118       {0, 0x0000000, 0x0000000, 0x000000},
119       {0, 0x0000000, 0x0000000, 0x000000},
120       {0, 0x0000000, 0x0000000, 0x000000},
121       {0, 0x0000000, 0x0000000, 0x000000},
122       {0, 0x0000000, 0x0000000, 0x000000},
123       {0, 0x0000000, 0x0000000, 0x000000},
124       {0, 0x0000000, 0x0000000, 0x000000},
125       {0, 0x0000000, 0x0000000, 0x000000},
126       {1, 0x0af0000, 0x0af2000, 0x17a000} } },
127     {{{0, 0x0b00000, 0x0b02000, 0x17c000},      /* 11: SQM3*/
128       {0, 0x0000000, 0x0000000, 0x000000},
129       {0, 0x0000000, 0x0000000, 0x000000},
130       {0, 0x0000000, 0x0000000, 0x000000},
131       {0, 0x0000000, 0x0000000, 0x000000},
132       {0, 0x0000000, 0x0000000, 0x000000},
133       {0, 0x0000000, 0x0000000, 0x000000},
134       {0, 0x0000000, 0x0000000, 0x000000},
135       {0, 0x0000000, 0x0000000, 0x000000},
136       {0, 0x0000000, 0x0000000, 0x000000},
137       {0, 0x0000000, 0x0000000, 0x000000},
138       {0, 0x0000000, 0x0000000, 0x000000},
139       {0, 0x0000000, 0x0000000, 0x000000},
140       {0, 0x0000000, 0x0000000, 0x000000},
141       {0, 0x0000000, 0x0000000, 0x000000},
142       {1, 0x0bf0000, 0x0bf2000, 0x17e000} } },
143         {{{1, 0x0c00000, 0x0c04000, 0x1d4000} } },/* 12: I2Q */
144         {{{1, 0x0d00000, 0x0d04000, 0x1a4000} } },/* 13: TMR */
145         {{{1, 0x0e00000, 0x0e04000, 0x1a0000} } },/* 14: ROMUSB */
146         {{{1, 0x0f00000, 0x0f01000, 0x164000} } },/* 15: PEG4 */
147         {{{0, 0x1000000, 0x1004000, 0x1a8000} } },/* 16: XDMA */
148         {{{1, 0x1100000, 0x1101000, 0x160000} } },/* 17: PEG0 */
149         {{{1, 0x1200000, 0x1201000, 0x161000} } },/* 18: PEG1 */
150         {{{1, 0x1300000, 0x1301000, 0x162000} } },/* 19: PEG2 */
151         {{{1, 0x1400000, 0x1401000, 0x163000} } },/* 20: PEG3 */
152         {{{1, 0x1500000, 0x1501000, 0x165000} } },/* 21: P2ND */
153         {{{1, 0x1600000, 0x1601000, 0x166000} } },/* 22: P2NI */
154         {{{0, 0,         0,         0} } },     /* 23: */
155         {{{0, 0,         0,         0} } },     /* 24: */
156         {{{0, 0,         0,         0} } },     /* 25: */
157         {{{0, 0,         0,         0} } },     /* 26: */
158         {{{0, 0,         0,         0} } },     /* 27: */
159         {{{0, 0,         0,         0} } },     /* 28: */
160         {{{1, 0x1d00000, 0x1d10000, 0x190000} } },/* 29: MS */
161     {{{1, 0x1e00000, 0x1e01000, 0x16a000} } },/* 30: P2NR2 */
162     {{{1, 0x1f00000, 0x1f10000, 0x150000} } },/* 31: EPG */
163         {{{0} } },                              /* 32: PCI */
164         {{{1, 0x2100000, 0x2102000, 0x120000},  /* 33: PCIE */
165           {1, 0x2110000, 0x2120000, 0x130000},
166           {1, 0x2120000, 0x2122000, 0x124000},
167           {1, 0x2130000, 0x2132000, 0x126000},
168           {1, 0x2140000, 0x2142000, 0x128000},
169           {1, 0x2150000, 0x2152000, 0x12a000},
170           {1, 0x2160000, 0x2170000, 0x110000},
171           {1, 0x2170000, 0x2172000, 0x12e000},
172           {0, 0x0000000, 0x0000000, 0x000000},
173           {0, 0x0000000, 0x0000000, 0x000000},
174           {0, 0x0000000, 0x0000000, 0x000000},
175           {0, 0x0000000, 0x0000000, 0x000000},
176           {0, 0x0000000, 0x0000000, 0x000000},
177           {0, 0x0000000, 0x0000000, 0x000000},
178           {0, 0x0000000, 0x0000000, 0x000000},
179           {0, 0x0000000, 0x0000000, 0x000000} } },
180         {{{1, 0x2200000, 0x2204000, 0x1b0000} } },/* 34: CAM */
181         {{{0} } },                              /* 35: */
182         {{{0} } },                              /* 36: */
183         {{{0} } },                              /* 37: */
184         {{{0} } },                              /* 38: */
185         {{{0} } },                              /* 39: */
186         {{{1, 0x2800000, 0x2804000, 0x1a4000} } },/* 40: TMR */
187         {{{1, 0x2900000, 0x2901000, 0x16b000} } },/* 41: P2NR3 */
188         {{{1, 0x2a00000, 0x2a00400, 0x1ac400} } },/* 42: RPMX1 */
189         {{{1, 0x2b00000, 0x2b00400, 0x1ac800} } },/* 43: RPMX2 */
190         {{{1, 0x2c00000, 0x2c00400, 0x1acc00} } },/* 44: RPMX3 */
191         {{{1, 0x2d00000, 0x2d00400, 0x1ad000} } },/* 45: RPMX4 */
192         {{{1, 0x2e00000, 0x2e00400, 0x1ad400} } },/* 46: RPMX5 */
193         {{{1, 0x2f00000, 0x2f00400, 0x1ad800} } },/* 47: RPMX6 */
194         {{{1, 0x3000000, 0x3000400, 0x1adc00} } },/* 48: RPMX7 */
195         {{{0, 0x3100000, 0x3104000, 0x1a8000} } },/* 49: XDMA */
196         {{{1, 0x3200000, 0x3204000, 0x1d4000} } },/* 50: I2Q */
197         {{{1, 0x3300000, 0x3304000, 0x1a0000} } },/* 51: ROMUSB */
198         {{{0} } },                              /* 52: */
199         {{{1, 0x3500000, 0x3500400, 0x1ac000} } },/* 53: RPMX0 */
200         {{{1, 0x3600000, 0x3600400, 0x1ae000} } },/* 54: RPMX8 */
201         {{{1, 0x3700000, 0x3700400, 0x1ae400} } },/* 55: RPMX9 */
202         {{{1, 0x3800000, 0x3804000, 0x1d0000} } },/* 56: OCM0 */
203         {{{1, 0x3900000, 0x3904000, 0x1b4000} } },/* 57: CRYPTO */
204         {{{1, 0x3a00000, 0x3a04000, 0x1d8000} } },/* 58: SMB */
205         {{{0} } },                              /* 59: I2C0 */
206         {{{0} } },                              /* 60: I2C1 */
207         {{{1, 0x3d00000, 0x3d04000, 0x1d8000} } },/* 61: LPC */
208         {{{1, 0x3e00000, 0x3e01000, 0x167000} } },/* 62: P2NC */
209         {{{1, 0x3f00000, 0x3f01000, 0x168000} } }       /* 63: P2NR0 */
210 };
211
212 /*
213  * top 12 bits of crb internal address (hub, agent)
214  */
215 static unsigned crb_hub_agt[64] =
216 {
217         0,
218         NETXEN_HW_CRB_HUB_AGT_ADR_PS,
219         NETXEN_HW_CRB_HUB_AGT_ADR_MN,
220         NETXEN_HW_CRB_HUB_AGT_ADR_MS,
221         0,
222         NETXEN_HW_CRB_HUB_AGT_ADR_SRE,
223         NETXEN_HW_CRB_HUB_AGT_ADR_NIU,
224         NETXEN_HW_CRB_HUB_AGT_ADR_QMN,
225         NETXEN_HW_CRB_HUB_AGT_ADR_SQN0,
226         NETXEN_HW_CRB_HUB_AGT_ADR_SQN1,
227         NETXEN_HW_CRB_HUB_AGT_ADR_SQN2,
228         NETXEN_HW_CRB_HUB_AGT_ADR_SQN3,
229         NETXEN_HW_CRB_HUB_AGT_ADR_I2Q,
230         NETXEN_HW_CRB_HUB_AGT_ADR_TIMR,
231         NETXEN_HW_CRB_HUB_AGT_ADR_ROMUSB,
232         NETXEN_HW_CRB_HUB_AGT_ADR_PGN4,
233         NETXEN_HW_CRB_HUB_AGT_ADR_XDMA,
234         NETXEN_HW_CRB_HUB_AGT_ADR_PGN0,
235         NETXEN_HW_CRB_HUB_AGT_ADR_PGN1,
236         NETXEN_HW_CRB_HUB_AGT_ADR_PGN2,
237         NETXEN_HW_CRB_HUB_AGT_ADR_PGN3,
238         NETXEN_HW_CRB_HUB_AGT_ADR_PGND,
239         NETXEN_HW_CRB_HUB_AGT_ADR_PGNI,
240         NETXEN_HW_CRB_HUB_AGT_ADR_PGS0,
241         NETXEN_HW_CRB_HUB_AGT_ADR_PGS1,
242         NETXEN_HW_CRB_HUB_AGT_ADR_PGS2,
243         NETXEN_HW_CRB_HUB_AGT_ADR_PGS3,
244         0,
245         NETXEN_HW_CRB_HUB_AGT_ADR_PGSI,
246         NETXEN_HW_CRB_HUB_AGT_ADR_SN,
247         0,
248         NETXEN_HW_CRB_HUB_AGT_ADR_EG,
249         0,
250         NETXEN_HW_CRB_HUB_AGT_ADR_PS,
251         NETXEN_HW_CRB_HUB_AGT_ADR_CAM,
252         0,
253         0,
254         0,
255         0,
256         0,
257         NETXEN_HW_CRB_HUB_AGT_ADR_TIMR,
258         0,
259         NETXEN_HW_CRB_HUB_AGT_ADR_RPMX1,
260         NETXEN_HW_CRB_HUB_AGT_ADR_RPMX2,
261         NETXEN_HW_CRB_HUB_AGT_ADR_RPMX3,
262         NETXEN_HW_CRB_HUB_AGT_ADR_RPMX4,
263         NETXEN_HW_CRB_HUB_AGT_ADR_RPMX5,
264         NETXEN_HW_CRB_HUB_AGT_ADR_RPMX6,
265         NETXEN_HW_CRB_HUB_AGT_ADR_RPMX7,
266         NETXEN_HW_CRB_HUB_AGT_ADR_XDMA,
267         NETXEN_HW_CRB_HUB_AGT_ADR_I2Q,
268         NETXEN_HW_CRB_HUB_AGT_ADR_ROMUSB,
269         0,
270         NETXEN_HW_CRB_HUB_AGT_ADR_RPMX0,
271         NETXEN_HW_CRB_HUB_AGT_ADR_RPMX8,
272         NETXEN_HW_CRB_HUB_AGT_ADR_RPMX9,
273         NETXEN_HW_CRB_HUB_AGT_ADR_OCM0,
274         0,
275         NETXEN_HW_CRB_HUB_AGT_ADR_SMB,
276         NETXEN_HW_CRB_HUB_AGT_ADR_I2C0,
277         NETXEN_HW_CRB_HUB_AGT_ADR_I2C1,
278         0,
279         NETXEN_HW_CRB_HUB_AGT_ADR_PGNC,
280         0,
281 };
282
283 /*  PCI Windowing for DDR regions.  */
284
285 #define ADDR_IN_RANGE(addr, low, high)  \
286         (((addr) <= (high)) && ((addr) >= (low)))
287
288 #define NETXEN_WINDOW_ONE       0x2000000 /*CRB Window: bit 25 of CRB address */
289
290 #define NETXEN_NIC_ZERO_PAUSE_ADDR     0ULL
291 #define NETXEN_NIC_UNIT_PAUSE_ADDR     0x200ULL
292 #define NETXEN_NIC_EPG_PAUSE_ADDR1     0x2200010000c28001ULL
293 #define NETXEN_NIC_EPG_PAUSE_ADDR2     0x0100088866554433ULL
294
295 #define NETXEN_NIC_WINDOW_MARGIN 0x100000
296
297 int netxen_nic_set_mac(struct net_device *netdev, void *p)
298 {
299         struct netxen_adapter *adapter = netdev_priv(netdev);
300         struct sockaddr *addr = p;
301
302         if (netif_running(netdev))
303                 return -EBUSY;
304
305         if (!is_valid_ether_addr(addr->sa_data))
306                 return -EADDRNOTAVAIL;
307
308         memcpy(netdev->dev_addr, addr->sa_data, netdev->addr_len);
309
310         /* For P3, MAC addr is not set in NIU */
311         if (NX_IS_REVISION_P2(adapter->ahw.revision_id))
312                 if (adapter->macaddr_set)
313                         adapter->macaddr_set(adapter, addr->sa_data);
314
315         return 0;
316 }
317
318 #define NETXEN_UNICAST_ADDR(port, index) \
319         (NETXEN_UNICAST_ADDR_BASE+(port*32)+(index*8))
320 #define NETXEN_MCAST_ADDR(port, index) \
321         (NETXEN_MULTICAST_ADDR_BASE+(port*0x80)+(index*8))
322 #define MAC_HI(addr) \
323         ((addr[2] << 16) | (addr[1] << 8) | (addr[0]))
324 #define MAC_LO(addr) \
325         ((addr[5] << 16) | (addr[4] << 8) | (addr[3]))
326
327 static int
328 netxen_nic_enable_mcast_filter(struct netxen_adapter *adapter)
329 {
330         u32     val = 0;
331         u16 port = adapter->physical_port;
332         u8 *addr = adapter->netdev->dev_addr;
333
334         if (adapter->mc_enabled)
335                 return 0;
336
337         adapter->hw_read_wx(adapter, NETXEN_MAC_ADDR_CNTL_REG, &val, 4);
338         val |= (1UL << (28+port));
339         adapter->hw_write_wx(adapter, NETXEN_MAC_ADDR_CNTL_REG, &val, 4);
340
341         /* add broadcast addr to filter */
342         val = 0xffffff;
343         netxen_crb_writelit_adapter(adapter, NETXEN_UNICAST_ADDR(port, 0), val);
344         netxen_crb_writelit_adapter(adapter,
345                         NETXEN_UNICAST_ADDR(port, 0)+4, val);
346
347         /* add station addr to filter */
348         val = MAC_HI(addr);
349         netxen_crb_writelit_adapter(adapter, NETXEN_UNICAST_ADDR(port, 1), val);
350         val = MAC_LO(addr);
351         netxen_crb_writelit_adapter(adapter,
352                         NETXEN_UNICAST_ADDR(port, 1)+4, val);
353
354         adapter->mc_enabled = 1;
355         return 0;
356 }
357
358 static int
359 netxen_nic_disable_mcast_filter(struct netxen_adapter *adapter)
360 {
361         u32     val = 0;
362         u16 port = adapter->physical_port;
363         u8 *addr = adapter->netdev->dev_addr;
364
365         if (!adapter->mc_enabled)
366                 return 0;
367
368         adapter->hw_read_wx(adapter, NETXEN_MAC_ADDR_CNTL_REG, &val, 4);
369         val &= ~(1UL << (28+port));
370         adapter->hw_write_wx(adapter, NETXEN_MAC_ADDR_CNTL_REG, &val, 4);
371
372         val = MAC_HI(addr);
373         netxen_crb_writelit_adapter(adapter, NETXEN_UNICAST_ADDR(port, 0), val);
374         val = MAC_LO(addr);
375         netxen_crb_writelit_adapter(adapter,
376                         NETXEN_UNICAST_ADDR(port, 0)+4, val);
377
378         netxen_crb_writelit_adapter(adapter, NETXEN_UNICAST_ADDR(port, 1), 0);
379         netxen_crb_writelit_adapter(adapter, NETXEN_UNICAST_ADDR(port, 1)+4, 0);
380
381         adapter->mc_enabled = 0;
382         return 0;
383 }
384
385 static int
386 netxen_nic_set_mcast_addr(struct netxen_adapter *adapter,
387                 int index, u8 *addr)
388 {
389         u32 hi = 0, lo = 0;
390         u16 port = adapter->physical_port;
391
392         lo = MAC_LO(addr);
393         hi = MAC_HI(addr);
394
395         netxen_crb_writelit_adapter(adapter,
396                         NETXEN_MCAST_ADDR(port, index), hi);
397         netxen_crb_writelit_adapter(adapter,
398                         NETXEN_MCAST_ADDR(port, index)+4, lo);
399
400         return 0;
401 }
402
403 void netxen_p2_nic_set_multi(struct net_device *netdev)
404 {
405         struct netxen_adapter *adapter = netdev_priv(netdev);
406         struct dev_mc_list *mc_ptr;
407         u8 null_addr[6];
408         int index = 0;
409
410         memset(null_addr, 0, 6);
411
412         if (netdev->flags & IFF_PROMISC) {
413
414                 adapter->set_promisc(adapter,
415                                 NETXEN_NIU_PROMISC_MODE);
416
417                 /* Full promiscuous mode */
418                 netxen_nic_disable_mcast_filter(adapter);
419
420                 return;
421         }
422
423         if (netdev->mc_count == 0) {
424                 adapter->set_promisc(adapter,
425                                 NETXEN_NIU_NON_PROMISC_MODE);
426                 netxen_nic_disable_mcast_filter(adapter);
427                 return;
428         }
429
430         adapter->set_promisc(adapter, NETXEN_NIU_ALLMULTI_MODE);
431         if (netdev->flags & IFF_ALLMULTI ||
432                         netdev->mc_count > adapter->max_mc_count) {
433                 netxen_nic_disable_mcast_filter(adapter);
434                 return;
435         }
436
437         netxen_nic_enable_mcast_filter(adapter);
438
439         for (mc_ptr = netdev->mc_list; mc_ptr; mc_ptr = mc_ptr->next, index++)
440                 netxen_nic_set_mcast_addr(adapter, index, mc_ptr->dmi_addr);
441
442         if (index != netdev->mc_count)
443                 printk(KERN_WARNING "%s: %s multicast address count mismatch\n",
444                         netxen_nic_driver_name, netdev->name);
445
446         /* Clear out remaining addresses */
447         for (; index < adapter->max_mc_count; index++)
448                 netxen_nic_set_mcast_addr(adapter, index, null_addr);
449 }
450
451 static int nx_p3_nic_add_mac(struct netxen_adapter *adapter,
452                 u8 *addr, nx_mac_list_t **add_list, nx_mac_list_t **del_list)
453 {
454         nx_mac_list_t *cur, *prev;
455
456         /* if in del_list, move it to adapter->mac_list */
457         for (cur = *del_list, prev = NULL; cur;) {
458                 if (memcmp(addr, cur->mac_addr, ETH_ALEN) == 0) {
459                         if (prev == NULL)
460                                 *del_list = cur->next;
461                         else
462                                 prev->next = cur->next;
463                         cur->next = adapter->mac_list;
464                         adapter->mac_list = cur;
465                         return 0;
466                 }
467                 prev = cur;
468                 cur = cur->next;
469         }
470
471         /* make sure to add each mac address only once */
472         for (cur = adapter->mac_list; cur; cur = cur->next) {
473                 if (memcmp(addr, cur->mac_addr, ETH_ALEN) == 0)
474                         return 0;
475         }
476         /* not in del_list, create new entry and add to add_list */
477         cur = kmalloc(sizeof(*cur), in_atomic()? GFP_ATOMIC : GFP_KERNEL);
478         if (cur == NULL) {
479                 printk(KERN_ERR "%s: cannot allocate memory. MAC filtering may"
480                                 "not work properly from now.\n", __func__);
481                 return -1;
482         }
483
484         memcpy(cur->mac_addr, addr, ETH_ALEN);
485         cur->next = *add_list;
486         *add_list = cur;
487         return 0;
488 }
489
490 static int
491 netxen_send_cmd_descs(struct netxen_adapter *adapter,
492                 struct cmd_desc_type0 *cmd_desc_arr, int nr_elements)
493 {
494         uint32_t i, producer;
495         struct netxen_cmd_buffer *pbuf;
496         struct cmd_desc_type0 *cmd_desc;
497
498         if (nr_elements > MAX_PENDING_DESC_BLOCK_SIZE || nr_elements == 0) {
499                 printk(KERN_WARNING "%s: Too many command descriptors in a "
500                               "request\n", __func__);
501                 return -EINVAL;
502         }
503
504         i = 0;
505
506         netif_tx_lock_bh(adapter->netdev);
507
508         producer = adapter->cmd_producer;
509         do {
510                 cmd_desc = &cmd_desc_arr[i];
511
512                 pbuf = &adapter->cmd_buf_arr[producer];
513                 pbuf->skb = NULL;
514                 pbuf->frag_count = 0;
515
516                 /* adapter->ahw.cmd_desc_head[producer] = *cmd_desc; */
517                 memcpy(&adapter->ahw.cmd_desc_head[producer],
518                         &cmd_desc_arr[i], sizeof(struct cmd_desc_type0));
519
520                 producer = get_next_index(producer,
521                                 adapter->max_tx_desc_count);
522                 i++;
523
524         } while (i != nr_elements);
525
526         adapter->cmd_producer = producer;
527
528         /* write producer index to start the xmit */
529
530         netxen_nic_update_cmd_producer(adapter, adapter->cmd_producer);
531
532         netif_tx_unlock_bh(adapter->netdev);
533
534         return 0;
535 }
536
537 static int nx_p3_sre_macaddr_change(struct net_device *dev,
538                 u8 *addr, unsigned op)
539 {
540         struct netxen_adapter *adapter = netdev_priv(dev);
541         nx_nic_req_t req;
542         nx_mac_req_t *mac_req;
543         u64 word;
544         int rv;
545
546         memset(&req, 0, sizeof(nx_nic_req_t));
547         req.qhdr = cpu_to_le64(NX_NIC_REQUEST << 23);
548
549         word = NX_MAC_EVENT | ((u64)adapter->portnum << 16);
550         req.req_hdr = cpu_to_le64(word);
551
552         mac_req = (nx_mac_req_t *)&req.words[0];
553         mac_req->op = op;
554         memcpy(mac_req->mac_addr, addr, 6);
555
556         rv = netxen_send_cmd_descs(adapter, (struct cmd_desc_type0 *)&req, 1);
557         if (rv != 0) {
558                 printk(KERN_ERR "ERROR. Could not send mac update\n");
559                 return rv;
560         }
561
562         return 0;
563 }
564
565 void netxen_p3_nic_set_multi(struct net_device *netdev)
566 {
567         struct netxen_adapter *adapter = netdev_priv(netdev);
568         nx_mac_list_t *cur, *next, *del_list, *add_list = NULL;
569         struct dev_mc_list *mc_ptr;
570         u8 bcast_addr[ETH_ALEN] = { 0xff, 0xff, 0xff, 0xff, 0xff, 0xff };
571         u32 mode = VPORT_MISS_MODE_DROP;
572
573         del_list = adapter->mac_list;
574         adapter->mac_list = NULL;
575
576         nx_p3_nic_add_mac(adapter, netdev->dev_addr, &add_list, &del_list);
577         nx_p3_nic_add_mac(adapter, bcast_addr, &add_list, &del_list);
578
579         if (netdev->flags & IFF_PROMISC) {
580                 mode = VPORT_MISS_MODE_ACCEPT_ALL;
581                 goto send_fw_cmd;
582         }
583
584         if ((netdev->flags & IFF_ALLMULTI) ||
585                         (netdev->mc_count > adapter->max_mc_count)) {
586                 mode = VPORT_MISS_MODE_ACCEPT_MULTI;
587                 goto send_fw_cmd;
588         }
589
590         if (netdev->mc_count > 0) {
591                 for (mc_ptr = netdev->mc_list; mc_ptr;
592                      mc_ptr = mc_ptr->next) {
593                         nx_p3_nic_add_mac(adapter, mc_ptr->dmi_addr,
594                                           &add_list, &del_list);
595                 }
596         }
597
598 send_fw_cmd:
599         adapter->set_promisc(adapter, mode);
600         for (cur = del_list; cur;) {
601                 nx_p3_sre_macaddr_change(netdev, cur->mac_addr, NETXEN_MAC_DEL);
602                 next = cur->next;
603                 kfree(cur);
604                 cur = next;
605         }
606         for (cur = add_list; cur;) {
607                 nx_p3_sre_macaddr_change(netdev, cur->mac_addr, NETXEN_MAC_ADD);
608                 next = cur->next;
609                 cur->next = adapter->mac_list;
610                 adapter->mac_list = cur;
611                 cur = next;
612         }
613 }
614
615 int netxen_p3_nic_set_promisc(struct netxen_adapter *adapter, u32 mode)
616 {
617         nx_nic_req_t req;
618         u64 word;
619
620         memset(&req, 0, sizeof(nx_nic_req_t));
621
622         req.qhdr = cpu_to_le64(NX_HOST_REQUEST << 23);
623
624         word = NX_NIC_H2C_OPCODE_PROXY_SET_VPORT_MISS_MODE |
625                         ((u64)adapter->portnum << 16);
626         req.req_hdr = cpu_to_le64(word);
627
628         req.words[0] = cpu_to_le64(mode);
629
630         return netxen_send_cmd_descs(adapter,
631                                 (struct cmd_desc_type0 *)&req, 1);
632 }
633
634 void netxen_p3_free_mac_list(struct netxen_adapter *adapter)
635 {
636         nx_mac_list_t *cur, *next;
637
638         cur = adapter->mac_list;
639
640         while (cur) {
641                 next = cur->next;
642                 kfree(cur);
643                 cur = next;
644         }
645 }
646
647 #define NETXEN_CONFIG_INTR_COALESCE     3
648
649 /*
650  * Send the interrupt coalescing parameter set by ethtool to the card.
651  */
652 int netxen_config_intr_coalesce(struct netxen_adapter *adapter)
653 {
654         nx_nic_req_t req;
655         u64 word;
656         int rv;
657
658         memset(&req, 0, sizeof(nx_nic_req_t));
659
660         req.qhdr = cpu_to_le64(NX_NIC_REQUEST << 23);
661
662         word = NETXEN_CONFIG_INTR_COALESCE | ((u64)adapter->portnum << 16);
663         req.req_hdr = cpu_to_le64(word);
664
665         memcpy(&req.words[0], &adapter->coal, sizeof(adapter->coal));
666
667         rv = netxen_send_cmd_descs(adapter, (struct cmd_desc_type0 *)&req, 1);
668         if (rv != 0) {
669                 printk(KERN_ERR "ERROR. Could not send "
670                         "interrupt coalescing parameters\n");
671         }
672
673         return rv;
674 }
675
676 /*
677  * netxen_nic_change_mtu - Change the Maximum Transfer Unit
678  * @returns 0 on success, negative on failure
679  */
680
681 #define MTU_FUDGE_FACTOR        100
682
683 int netxen_nic_change_mtu(struct net_device *netdev, int mtu)
684 {
685         struct netxen_adapter *adapter = netdev_priv(netdev);
686         int max_mtu;
687         int rc = 0;
688
689         if (NX_IS_REVISION_P3(adapter->ahw.revision_id))
690                 max_mtu = P3_MAX_MTU;
691         else
692                 max_mtu = P2_MAX_MTU;
693
694         if (mtu > max_mtu) {
695                 printk(KERN_ERR "%s: mtu > %d bytes unsupported\n",
696                                 netdev->name, max_mtu);
697                 return -EINVAL;
698         }
699
700         if (adapter->set_mtu)
701                 rc = adapter->set_mtu(adapter, mtu);
702
703         if (!rc)
704                 netdev->mtu = mtu;
705
706         return rc;
707 }
708
709 int netxen_is_flash_supported(struct netxen_adapter *adapter)
710 {
711         const int locs[] = { 0, 0x4, 0x100, 0x4000, 0x4128 };
712         int addr, val01, val02, i, j;
713
714         /* if the flash size less than 4Mb, make huge war cry and die */
715         for (j = 1; j < 4; j++) {
716                 addr = j * NETXEN_NIC_WINDOW_MARGIN;
717                 for (i = 0; i < ARRAY_SIZE(locs); i++) {
718                         if (netxen_rom_fast_read(adapter, locs[i], &val01) == 0
719                             && netxen_rom_fast_read(adapter, (addr + locs[i]),
720                                                     &val02) == 0) {
721                                 if (val01 == val02)
722                                         return -1;
723                         } else
724                                 return -1;
725                 }
726         }
727
728         return 0;
729 }
730
731 static int netxen_get_flash_block(struct netxen_adapter *adapter, int base,
732                                   int size, __le32 * buf)
733 {
734         int i, addr;
735         __le32 *ptr32;
736         u32 v;
737
738         addr = base;
739         ptr32 = buf;
740         for (i = 0; i < size / sizeof(u32); i++) {
741                 if (netxen_rom_fast_read(adapter, addr, &v) == -1)
742                         return -1;
743                 *ptr32 = cpu_to_le32(v);
744                 ptr32++;
745                 addr += sizeof(u32);
746         }
747         if ((char *)buf + size > (char *)ptr32) {
748                 __le32 local;
749                 if (netxen_rom_fast_read(adapter, addr, &v) == -1)
750                         return -1;
751                 local = cpu_to_le32(v);
752                 memcpy(ptr32, &local, (char *)buf + size - (char *)ptr32);
753         }
754
755         return 0;
756 }
757
758 int netxen_get_flash_mac_addr(struct netxen_adapter *adapter, __le64 *mac)
759 {
760         __le32 *pmac = (__le32 *) mac;
761         u32 offset;
762
763         offset = NETXEN_USER_START +
764                 offsetof(struct netxen_new_user_info, mac_addr) +
765                 adapter->portnum * sizeof(u64);
766
767         if (netxen_get_flash_block(adapter, offset, sizeof(u64), pmac) == -1)
768                 return -1;
769
770         if (*mac == cpu_to_le64(~0ULL)) {
771
772                 offset = NETXEN_USER_START_OLD +
773                         offsetof(struct netxen_user_old_info, mac_addr) +
774                         adapter->portnum * sizeof(u64);
775
776                 if (netxen_get_flash_block(adapter,
777                                         offset, sizeof(u64), pmac) == -1)
778                         return -1;
779
780                 if (*mac == cpu_to_le64(~0ULL))
781                         return -1;
782         }
783         return 0;
784 }
785
786 int netxen_p3_get_mac_addr(struct netxen_adapter *adapter, __le64 *mac)
787 {
788         uint32_t crbaddr, mac_hi, mac_lo;
789         int pci_func = adapter->ahw.pci_func;
790
791         crbaddr = CRB_MAC_BLOCK_START +
792                 (4 * ((pci_func/2) * 3)) + (4 * (pci_func & 1));
793
794         adapter->hw_read_wx(adapter, crbaddr, &mac_lo, 4);
795         adapter->hw_read_wx(adapter, crbaddr+4, &mac_hi, 4);
796
797         if (pci_func & 1)
798                 *mac = le64_to_cpu((mac_lo >> 16) | ((u64)mac_hi << 16));
799         else
800                 *mac = le64_to_cpu((u64)mac_lo | ((u64)mac_hi << 32));
801
802         return 0;
803 }
804
805 #define CRB_WIN_LOCK_TIMEOUT 100000000
806
807 static int crb_win_lock(struct netxen_adapter *adapter)
808 {
809         int done = 0, timeout = 0;
810
811         while (!done) {
812                 /* acquire semaphore3 from PCI HW block */
813                 adapter->hw_read_wx(adapter,
814                                 NETXEN_PCIE_REG(PCIE_SEM7_LOCK), &done, 4);
815                 if (done == 1)
816                         break;
817                 if (timeout >= CRB_WIN_LOCK_TIMEOUT)
818                         return -1;
819                 timeout++;
820                 udelay(1);
821         }
822         netxen_crb_writelit_adapter(adapter,
823                         NETXEN_CRB_WIN_LOCK_ID, adapter->portnum);
824         return 0;
825 }
826
827 static void crb_win_unlock(struct netxen_adapter *adapter)
828 {
829         int val;
830
831         adapter->hw_read_wx(adapter,
832                         NETXEN_PCIE_REG(PCIE_SEM7_UNLOCK), &val, 4);
833 }
834
835 /*
836  * Changes the CRB window to the specified window.
837  */
838 void
839 netxen_nic_pci_change_crbwindow_128M(struct netxen_adapter *adapter, u32 wndw)
840 {
841         void __iomem *offset;
842         u32 tmp;
843         int count = 0;
844         uint8_t func = adapter->ahw.pci_func;
845
846         if (adapter->curr_window == wndw)
847                 return;
848         /*
849          * Move the CRB window.
850          * We need to write to the "direct access" region of PCI
851          * to avoid a race condition where the window register has
852          * not been successfully written across CRB before the target
853          * register address is received by PCI. The direct region bypasses
854          * the CRB bus.
855          */
856         offset = PCI_OFFSET_SECOND_RANGE(adapter,
857                         NETXEN_PCIX_PH_REG(PCIE_CRB_WINDOW_REG(func)));
858
859         if (wndw & 0x1)
860                 wndw = NETXEN_WINDOW_ONE;
861
862         writel(wndw, offset);
863
864         /* MUST make sure window is set before we forge on... */
865         while ((tmp = readl(offset)) != wndw) {
866                 printk(KERN_WARNING "%s: %s WARNING: CRB window value not "
867                        "registered properly: 0x%08x.\n",
868                        netxen_nic_driver_name, __func__, tmp);
869                 mdelay(1);
870                 if (count >= 10)
871                         break;
872                 count++;
873         }
874
875         if (wndw == NETXEN_WINDOW_ONE)
876                 adapter->curr_window = 1;
877         else
878                 adapter->curr_window = 0;
879 }
880
881 /*
882  * Return -1 if off is not valid,
883  *       1 if window access is needed. 'off' is set to offset from
884  *         CRB space in 128M pci map
885  *       0 if no window access is needed. 'off' is set to 2M addr
886  * In: 'off' is offset from base in 128M pci map
887  */
888 static int
889 netxen_nic_pci_get_crb_addr_2M(struct netxen_adapter *adapter,
890                 ulong *off, int len)
891 {
892         unsigned long end = *off + len;
893         crb_128M_2M_sub_block_map_t *m;
894
895
896         if (*off >= NETXEN_CRB_MAX)
897                 return -1;
898
899         if (*off >= NETXEN_PCI_CAMQM && (end <= NETXEN_PCI_CAMQM_2M_END)) {
900                 *off = (*off - NETXEN_PCI_CAMQM) + NETXEN_PCI_CAMQM_2M_BASE +
901                         (ulong)adapter->ahw.pci_base0;
902                 return 0;
903         }
904
905         if (*off < NETXEN_PCI_CRBSPACE)
906                 return -1;
907
908         *off -= NETXEN_PCI_CRBSPACE;
909         end = *off + len;
910
911         /*
912          * Try direct map
913          */
914         m = &crb_128M_2M_map[CRB_BLK(*off)].sub_block[CRB_SUBBLK(*off)];
915
916         if (m->valid && (m->start_128M <= *off) && (m->end_128M >= end)) {
917                 *off = *off + m->start_2M - m->start_128M +
918                         (ulong)adapter->ahw.pci_base0;
919                 return 0;
920         }
921
922         /*
923          * Not in direct map, use crb window
924          */
925         return 1;
926 }
927
928 /*
929  * In: 'off' is offset from CRB space in 128M pci map
930  * Out: 'off' is 2M pci map addr
931  * side effect: lock crb window
932  */
933 static void
934 netxen_nic_pci_set_crbwindow_2M(struct netxen_adapter *adapter, ulong *off)
935 {
936         u32 win_read;
937
938         adapter->crb_win = CRB_HI(*off);
939         writel(adapter->crb_win, (void *)(CRB_WINDOW_2M +
940                 adapter->ahw.pci_base0));
941         /*
942          * Read back value to make sure write has gone through before trying
943          * to use it.
944          */
945         win_read = readl((void *)(CRB_WINDOW_2M + adapter->ahw.pci_base0));
946         if (win_read != adapter->crb_win) {
947                 printk(KERN_ERR "%s: Written crbwin (0x%x) != "
948                                 "Read crbwin (0x%x), off=0x%lx\n",
949                                 __func__, adapter->crb_win, win_read, *off);
950         }
951         *off = (*off & MASK(16)) + CRB_INDIRECT_2M +
952                 (ulong)adapter->ahw.pci_base0;
953 }
954
955 int netxen_load_firmware(struct netxen_adapter *adapter)
956 {
957         int i;
958         u32 data, size = 0;
959         u32 flashaddr = NETXEN_BOOTLD_START;
960
961         size = (NETXEN_IMAGE_START - NETXEN_BOOTLD_START)/4;
962
963         if (NX_IS_REVISION_P2(adapter->ahw.revision_id))
964                 adapter->pci_write_normalize(adapter,
965                                 NETXEN_ROMUSB_GLB_CAS_RST, 1);
966
967         for (i = 0; i < size; i++) {
968                 if (netxen_rom_fast_read(adapter, flashaddr, (int *)&data) != 0)
969                         return -EIO;
970
971                 adapter->pci_mem_write(adapter, flashaddr, &data, 4);
972                 flashaddr += 4;
973         }
974         msleep(1);
975
976         if (NX_IS_REVISION_P3(adapter->ahw.revision_id))
977                 adapter->pci_write_normalize(adapter,
978                                 NETXEN_ROMUSB_GLB_SW_RESET, 0x80001d);
979         else {
980                 adapter->pci_write_normalize(adapter,
981                                 NETXEN_ROMUSB_GLB_CHIP_CLK_CTRL, 0x3fff);
982                 adapter->pci_write_normalize(adapter,
983                                 NETXEN_ROMUSB_GLB_CAS_RST, 0);
984         }
985
986         return 0;
987 }
988
989 int
990 netxen_nic_hw_write_wx_128M(struct netxen_adapter *adapter,
991                 ulong off, void *data, int len)
992 {
993         void __iomem *addr;
994
995         if (ADDR_IN_WINDOW1(off)) {
996                 addr = NETXEN_CRB_NORMALIZE(adapter, off);
997         } else {                /* Window 0 */
998                 addr = pci_base_offset(adapter, off);
999                 netxen_nic_pci_change_crbwindow_128M(adapter, 0);
1000         }
1001
1002         DPRINTK(INFO, "writing to base %lx offset %llx addr %p"
1003                 " data %llx len %d\n",
1004                 pci_base(adapter, off), off, addr,
1005                 *(unsigned long long *)data, len);
1006         if (!addr) {
1007                 netxen_nic_pci_change_crbwindow_128M(adapter, 1);
1008                 return 1;
1009         }
1010
1011         switch (len) {
1012         case 1:
1013                 writeb(*(u8 *) data, addr);
1014                 break;
1015         case 2:
1016                 writew(*(u16 *) data, addr);
1017                 break;
1018         case 4:
1019                 writel(*(u32 *) data, addr);
1020                 break;
1021         case 8:
1022                 writeq(*(u64 *) data, addr);
1023                 break;
1024         default:
1025                 DPRINTK(INFO,
1026                         "writing data %lx to offset %llx, num words=%d\n",
1027                         *(unsigned long *)data, off, (len >> 3));
1028
1029                 netxen_nic_hw_block_write64((u64 __iomem *) data, addr,
1030                                             (len >> 3));
1031                 break;
1032         }
1033         if (!ADDR_IN_WINDOW1(off))
1034                 netxen_nic_pci_change_crbwindow_128M(adapter, 1);
1035
1036         return 0;
1037 }
1038
1039 int
1040 netxen_nic_hw_read_wx_128M(struct netxen_adapter *adapter,
1041                 ulong off, void *data, int len)
1042 {
1043         void __iomem *addr;
1044
1045         if (ADDR_IN_WINDOW1(off)) {     /* Window 1 */
1046                 addr = NETXEN_CRB_NORMALIZE(adapter, off);
1047         } else {                /* Window 0 */
1048                 addr = pci_base_offset(adapter, off);
1049                 netxen_nic_pci_change_crbwindow_128M(adapter, 0);
1050         }
1051
1052         DPRINTK(INFO, "reading from base %lx offset %llx addr %p\n",
1053                 pci_base(adapter, off), off, addr);
1054         if (!addr) {
1055                 netxen_nic_pci_change_crbwindow_128M(adapter, 1);
1056                 return 1;
1057         }
1058         switch (len) {
1059         case 1:
1060                 *(u8 *) data = readb(addr);
1061                 break;
1062         case 2:
1063                 *(u16 *) data = readw(addr);
1064                 break;
1065         case 4:
1066                 *(u32 *) data = readl(addr);
1067                 break;
1068         case 8:
1069                 *(u64 *) data = readq(addr);
1070                 break;
1071         default:
1072                 netxen_nic_hw_block_read64((u64 __iomem *) data, addr,
1073                                            (len >> 3));
1074                 break;
1075         }
1076         DPRINTK(INFO, "read %lx\n", *(unsigned long *)data);
1077
1078         if (!ADDR_IN_WINDOW1(off))
1079                 netxen_nic_pci_change_crbwindow_128M(adapter, 1);
1080
1081         return 0;
1082 }
1083
1084 int
1085 netxen_nic_hw_write_wx_2M(struct netxen_adapter *adapter,
1086                 ulong off, void *data, int len)
1087 {
1088         unsigned long flags = 0;
1089         int rv;
1090
1091         rv = netxen_nic_pci_get_crb_addr_2M(adapter, &off, len);
1092
1093         if (rv == -1) {
1094                 printk(KERN_ERR "%s: invalid offset: 0x%016lx\n",
1095                                 __func__, off);
1096                 dump_stack();
1097                 return -1;
1098         }
1099
1100         if (rv == 1) {
1101                 write_lock_irqsave(&adapter->adapter_lock, flags);
1102                 crb_win_lock(adapter);
1103                 netxen_nic_pci_set_crbwindow_2M(adapter, &off);
1104         }
1105
1106         DPRINTK(1, INFO, "write data %lx to offset %llx, len=%d\n",
1107                         *(unsigned long *)data, off, len);
1108
1109         switch (len) {
1110         case 1:
1111                 writeb(*(uint8_t *)data, (void *)off);
1112                 break;
1113         case 2:
1114                 writew(*(uint16_t *)data, (void *)off);
1115                 break;
1116         case 4:
1117                 writel(*(uint32_t *)data, (void *)off);
1118                 break;
1119         case 8:
1120                 writeq(*(uint64_t *)data, (void *)off);
1121                 break;
1122         default:
1123                 DPRINTK(1, INFO,
1124                         "writing data %lx to offset %llx, num words=%d\n",
1125                         *(unsigned long *)data, off, (len>>3));
1126                 break;
1127         }
1128         if (rv == 1) {
1129                 crb_win_unlock(adapter);
1130                 write_unlock_irqrestore(&adapter->adapter_lock, flags);
1131         }
1132
1133         return 0;
1134 }
1135
1136 int
1137 netxen_nic_hw_read_wx_2M(struct netxen_adapter *adapter,
1138                 ulong off, void *data, int len)
1139 {
1140         unsigned long flags = 0;
1141         int rv;
1142
1143         rv = netxen_nic_pci_get_crb_addr_2M(adapter, &off, len);
1144
1145         if (rv == -1) {
1146                 printk(KERN_ERR "%s: invalid offset: 0x%016lx\n",
1147                                 __func__, off);
1148                 dump_stack();
1149                 return -1;
1150         }
1151
1152         if (rv == 1) {
1153                 write_lock_irqsave(&adapter->adapter_lock, flags);
1154                 crb_win_lock(adapter);
1155                 netxen_nic_pci_set_crbwindow_2M(adapter, &off);
1156         }
1157
1158         DPRINTK(1, INFO, "read from offset %lx, len=%d\n", off, len);
1159
1160         switch (len) {
1161         case 1:
1162                 *(uint8_t *)data = readb((void *)off);
1163                 break;
1164         case 2:
1165                 *(uint16_t *)data = readw((void *)off);
1166                 break;
1167         case 4:
1168                 *(uint32_t *)data = readl((void *)off);
1169                 break;
1170         case 8:
1171                 *(uint64_t *)data = readq((void *)off);
1172                 break;
1173         default:
1174                 break;
1175         }
1176
1177         DPRINTK(1, INFO, "read %lx\n", *(unsigned long *)data);
1178
1179         if (rv == 1) {
1180                 crb_win_unlock(adapter);
1181                 write_unlock_irqrestore(&adapter->adapter_lock, flags);
1182         }
1183
1184         return 0;
1185 }
1186
1187 void netxen_nic_reg_write(struct netxen_adapter *adapter, u64 off, u32 val)
1188 {
1189         adapter->hw_write_wx(adapter, off, &val, 4);
1190 }
1191
1192 int netxen_nic_reg_read(struct netxen_adapter *adapter, u64 off)
1193 {
1194         int val;
1195         adapter->hw_read_wx(adapter, off, &val, 4);
1196         return val;
1197 }
1198
1199 /* Change the window to 0, write and change back to window 1. */
1200 void netxen_nic_write_w0(struct netxen_adapter *adapter, u32 index, u32 value)
1201 {
1202         adapter->hw_write_wx(adapter, index, &value, 4);
1203 }
1204
1205 /* Change the window to 0, read and change back to window 1. */
1206 void netxen_nic_read_w0(struct netxen_adapter *adapter, u32 index, u32 *value)
1207 {
1208         adapter->hw_read_wx(adapter, index, value, 4);
1209 }
1210
1211 void netxen_nic_write_w1(struct netxen_adapter *adapter, u32 index, u32 value)
1212 {
1213         adapter->hw_write_wx(adapter, index, &value, 4);
1214 }
1215
1216 void netxen_nic_read_w1(struct netxen_adapter *adapter, u32 index, u32 *value)
1217 {
1218         adapter->hw_read_wx(adapter, index, value, 4);
1219 }
1220
1221 /*
1222  * check memory access boundary.
1223  * used by test agent. support ddr access only for now
1224  */
1225 static unsigned long
1226 netxen_nic_pci_mem_bound_check(struct netxen_adapter *adapter,
1227                 unsigned long long addr, int size)
1228 {
1229         if (!ADDR_IN_RANGE(addr,
1230                         NETXEN_ADDR_DDR_NET, NETXEN_ADDR_DDR_NET_MAX) ||
1231                 !ADDR_IN_RANGE(addr+size-1,
1232                         NETXEN_ADDR_DDR_NET, NETXEN_ADDR_DDR_NET_MAX) ||
1233                 ((size != 1) && (size != 2) && (size != 4) && (size != 8))) {
1234                 return 0;
1235         }
1236
1237         return 1;
1238 }
1239
1240 static int netxen_pci_set_window_warning_count;
1241
1242 unsigned long
1243 netxen_nic_pci_set_window_128M(struct netxen_adapter *adapter,
1244                 unsigned long long addr)
1245 {
1246         void __iomem *offset;
1247         int window;
1248         unsigned long long      qdr_max;
1249         uint8_t func = adapter->ahw.pci_func;
1250
1251         if (NX_IS_REVISION_P2(adapter->ahw.revision_id)) {
1252                 qdr_max = NETXEN_ADDR_QDR_NET_MAX_P2;
1253         } else {
1254                 qdr_max = NETXEN_ADDR_QDR_NET_MAX_P3;
1255         }
1256
1257         if (ADDR_IN_RANGE(addr, NETXEN_ADDR_DDR_NET, NETXEN_ADDR_DDR_NET_MAX)) {
1258                 /* DDR network side */
1259                 addr -= NETXEN_ADDR_DDR_NET;
1260                 window = (addr >> 25) & 0x3ff;
1261                 if (adapter->ahw.ddr_mn_window != window) {
1262                         adapter->ahw.ddr_mn_window = window;
1263                         offset = PCI_OFFSET_SECOND_RANGE(adapter,
1264                                 NETXEN_PCIX_PH_REG(PCIE_MN_WINDOW_REG(func)));
1265                         writel(window, offset);
1266                         /* MUST make sure window is set before we forge on... */
1267                         readl(offset);
1268                 }
1269                 addr -= (window * NETXEN_WINDOW_ONE);
1270                 addr += NETXEN_PCI_DDR_NET;
1271         } else if (ADDR_IN_RANGE(addr, NETXEN_ADDR_OCM0, NETXEN_ADDR_OCM0_MAX)) {
1272                 addr -= NETXEN_ADDR_OCM0;
1273                 addr += NETXEN_PCI_OCM0;
1274         } else if (ADDR_IN_RANGE(addr, NETXEN_ADDR_OCM1, NETXEN_ADDR_OCM1_MAX)) {
1275                 addr -= NETXEN_ADDR_OCM1;
1276                 addr += NETXEN_PCI_OCM1;
1277         } else if (ADDR_IN_RANGE(addr, NETXEN_ADDR_QDR_NET, qdr_max)) {
1278                 /* QDR network side */
1279                 addr -= NETXEN_ADDR_QDR_NET;
1280                 window = (addr >> 22) & 0x3f;
1281                 if (adapter->ahw.qdr_sn_window != window) {
1282                         adapter->ahw.qdr_sn_window = window;
1283                         offset = PCI_OFFSET_SECOND_RANGE(adapter,
1284                                 NETXEN_PCIX_PH_REG(PCIE_SN_WINDOW_REG(func)));
1285                         writel((window << 22), offset);
1286                         /* MUST make sure window is set before we forge on... */
1287                         readl(offset);
1288                 }
1289                 addr -= (window * 0x400000);
1290                 addr += NETXEN_PCI_QDR_NET;
1291         } else {
1292                 /*
1293                  * peg gdb frequently accesses memory that doesn't exist,
1294                  * this limits the chit chat so debugging isn't slowed down.
1295                  */
1296                 if ((netxen_pci_set_window_warning_count++ < 8)
1297                     || (netxen_pci_set_window_warning_count % 64 == 0))
1298                         printk("%s: Warning:netxen_nic_pci_set_window()"
1299                                " Unknown address range!\n",
1300                                netxen_nic_driver_name);
1301                 addr = -1UL;
1302         }
1303         return addr;
1304 }
1305
1306 /*
1307  * Note : only 32-bit writes!
1308  */
1309 int netxen_nic_pci_write_immediate_128M(struct netxen_adapter *adapter,
1310                 u64 off, u32 data)
1311 {
1312         writel(data, (void __iomem *)(PCI_OFFSET_SECOND_RANGE(adapter, off)));
1313         return 0;
1314 }
1315
1316 u32 netxen_nic_pci_read_immediate_128M(struct netxen_adapter *adapter, u64 off)
1317 {
1318         return readl((void __iomem *)(pci_base_offset(adapter, off)));
1319 }
1320
1321 void netxen_nic_pci_write_normalize_128M(struct netxen_adapter *adapter,
1322                 u64 off, u32 data)
1323 {
1324         writel(data, NETXEN_CRB_NORMALIZE(adapter, off));
1325 }
1326
1327 u32 netxen_nic_pci_read_normalize_128M(struct netxen_adapter *adapter, u64 off)
1328 {
1329         return readl(NETXEN_CRB_NORMALIZE(adapter, off));
1330 }
1331
1332 unsigned long
1333 netxen_nic_pci_set_window_2M(struct netxen_adapter *adapter,
1334                 unsigned long long addr)
1335 {
1336         int window;
1337         u32 win_read;
1338
1339         if (ADDR_IN_RANGE(addr, NETXEN_ADDR_DDR_NET, NETXEN_ADDR_DDR_NET_MAX)) {
1340                 /* DDR network side */
1341                 window = MN_WIN(addr);
1342                 adapter->ahw.ddr_mn_window = window;
1343                 adapter->hw_write_wx(adapter,
1344                                 adapter->ahw.mn_win_crb | NETXEN_PCI_CRBSPACE,
1345                                 &window, 4);
1346                 adapter->hw_read_wx(adapter,
1347                                 adapter->ahw.mn_win_crb | NETXEN_PCI_CRBSPACE,
1348                                 &win_read, 4);
1349                 if ((win_read << 17) != window) {
1350                         printk(KERN_INFO "Written MNwin (0x%x) != "
1351                                 "Read MNwin (0x%x)\n", window, win_read);
1352                 }
1353                 addr = GET_MEM_OFFS_2M(addr) + NETXEN_PCI_DDR_NET;
1354         } else if (ADDR_IN_RANGE(addr,
1355                                 NETXEN_ADDR_OCM0, NETXEN_ADDR_OCM0_MAX)) {
1356                 if ((addr & 0x00ff800) == 0xff800) {
1357                         printk("%s: QM access not handled.\n", __func__);
1358                         addr = -1UL;
1359                 }
1360
1361                 window = OCM_WIN(addr);
1362                 adapter->ahw.ddr_mn_window = window;
1363                 adapter->hw_write_wx(adapter,
1364                                 adapter->ahw.mn_win_crb | NETXEN_PCI_CRBSPACE,
1365                                 &window, 4);
1366                 adapter->hw_read_wx(adapter,
1367                                 adapter->ahw.mn_win_crb | NETXEN_PCI_CRBSPACE,
1368                                 &win_read, 4);
1369                 if ((win_read >> 7) != window) {
1370                         printk(KERN_INFO "%s: Written OCMwin (0x%x) != "
1371                                         "Read OCMwin (0x%x)\n",
1372                                         __func__, window, win_read);
1373                 }
1374                 addr = GET_MEM_OFFS_2M(addr) + NETXEN_PCI_OCM0_2M;
1375
1376         } else if (ADDR_IN_RANGE(addr,
1377                         NETXEN_ADDR_QDR_NET, NETXEN_ADDR_QDR_NET_MAX_P3)) {
1378                 /* QDR network side */
1379                 window = MS_WIN(addr);
1380                 adapter->ahw.qdr_sn_window = window;
1381                 adapter->hw_write_wx(adapter,
1382                                 adapter->ahw.ms_win_crb | NETXEN_PCI_CRBSPACE,
1383                                 &window, 4);
1384                 adapter->hw_read_wx(adapter,
1385                                 adapter->ahw.ms_win_crb | NETXEN_PCI_CRBSPACE,
1386                                 &win_read, 4);
1387                 if (win_read != window) {
1388                         printk(KERN_INFO "%s: Written MSwin (0x%x) != "
1389                                         "Read MSwin (0x%x)\n",
1390                                         __func__, window, win_read);
1391                 }
1392                 addr = GET_MEM_OFFS_2M(addr) + NETXEN_PCI_QDR_NET;
1393
1394         } else {
1395                 /*
1396                  * peg gdb frequently accesses memory that doesn't exist,
1397                  * this limits the chit chat so debugging isn't slowed down.
1398                  */
1399                 if ((netxen_pci_set_window_warning_count++ < 8)
1400                         || (netxen_pci_set_window_warning_count%64 == 0)) {
1401                         printk("%s: Warning:%s Unknown address range!\n",
1402                                         __func__, netxen_nic_driver_name);
1403 }
1404                 addr = -1UL;
1405         }
1406         return addr;
1407 }
1408
1409 static int netxen_nic_pci_is_same_window(struct netxen_adapter *adapter,
1410                                       unsigned long long addr)
1411 {
1412         int window;
1413         unsigned long long qdr_max;
1414
1415         if (NX_IS_REVISION_P2(adapter->ahw.revision_id))
1416                 qdr_max = NETXEN_ADDR_QDR_NET_MAX_P2;
1417         else
1418                 qdr_max = NETXEN_ADDR_QDR_NET_MAX_P3;
1419
1420         if (ADDR_IN_RANGE(addr,
1421                         NETXEN_ADDR_DDR_NET, NETXEN_ADDR_DDR_NET_MAX)) {
1422                 /* DDR network side */
1423                 BUG();  /* MN access can not come here */
1424         } else if (ADDR_IN_RANGE(addr,
1425                         NETXEN_ADDR_OCM0, NETXEN_ADDR_OCM0_MAX)) {
1426                 return 1;
1427         } else if (ADDR_IN_RANGE(addr,
1428                                 NETXEN_ADDR_OCM1, NETXEN_ADDR_OCM1_MAX)) {
1429                 return 1;
1430         } else if (ADDR_IN_RANGE(addr, NETXEN_ADDR_QDR_NET, qdr_max)) {
1431                 /* QDR network side */
1432                 window = ((addr - NETXEN_ADDR_QDR_NET) >> 22) & 0x3f;
1433                 if (adapter->ahw.qdr_sn_window == window)
1434                         return 1;
1435         }
1436
1437         return 0;
1438 }
1439
1440 static int netxen_nic_pci_mem_read_direct(struct netxen_adapter *adapter,
1441                         u64 off, void *data, int size)
1442 {
1443         unsigned long flags;
1444         void *addr;
1445         int ret = 0;
1446         u64 start;
1447         uint8_t *mem_ptr = NULL;
1448         unsigned long mem_base;
1449         unsigned long mem_page;
1450
1451         write_lock_irqsave(&adapter->adapter_lock, flags);
1452
1453         /*
1454          * If attempting to access unknown address or straddle hw windows,
1455          * do not access.
1456          */
1457         start = adapter->pci_set_window(adapter, off);
1458         if ((start == -1UL) ||
1459                 (netxen_nic_pci_is_same_window(adapter, off+size-1) == 0)) {
1460                 write_unlock_irqrestore(&adapter->adapter_lock, flags);
1461                 printk(KERN_ERR "%s out of bound pci memory access. "
1462                         "offset is 0x%llx\n", netxen_nic_driver_name,
1463                         (unsigned long long)off);
1464                 return -1;
1465         }
1466
1467         addr = (void *)(pci_base_offset(adapter, start));
1468         if (!addr) {
1469                 write_unlock_irqrestore(&adapter->adapter_lock, flags);
1470                 mem_base = pci_resource_start(adapter->pdev, 0);
1471                 mem_page = start & PAGE_MASK;
1472                 /* Map two pages whenever user tries to access addresses in two
1473                 consecutive pages.
1474                 */
1475                 if (mem_page != ((start + size - 1) & PAGE_MASK))
1476                         mem_ptr = ioremap(mem_base + mem_page, PAGE_SIZE * 2);
1477                 else
1478                         mem_ptr = ioremap(mem_base + mem_page, PAGE_SIZE);
1479                 if (mem_ptr == NULL) {
1480                         *(uint8_t  *)data = 0;
1481                         return -1;
1482                 }
1483                 addr = mem_ptr;
1484                 addr += start & (PAGE_SIZE - 1);
1485                 write_lock_irqsave(&adapter->adapter_lock, flags);
1486         }
1487
1488         switch (size) {
1489         case 1:
1490                 *(uint8_t  *)data = readb(addr);
1491                 break;
1492         case 2:
1493                 *(uint16_t *)data = readw(addr);
1494                 break;
1495         case 4:
1496                 *(uint32_t *)data = readl(addr);
1497                 break;
1498         case 8:
1499                 *(uint64_t *)data = readq(addr);
1500                 break;
1501         default:
1502                 ret = -1;
1503                 break;
1504         }
1505         write_unlock_irqrestore(&adapter->adapter_lock, flags);
1506         DPRINTK(1, INFO, "read %llx\n", *(unsigned long long *)data);
1507
1508         if (mem_ptr)
1509                 iounmap(mem_ptr);
1510         return ret;
1511 }
1512
1513 static int
1514 netxen_nic_pci_mem_write_direct(struct netxen_adapter *adapter, u64 off,
1515                 void *data, int size)
1516 {
1517         unsigned long flags;
1518         void *addr;
1519         int ret = 0;
1520         u64 start;
1521         uint8_t *mem_ptr = NULL;
1522         unsigned long mem_base;
1523         unsigned long mem_page;
1524
1525         write_lock_irqsave(&adapter->adapter_lock, flags);
1526
1527         /*
1528          * If attempting to access unknown address or straddle hw windows,
1529          * do not access.
1530          */
1531         start = adapter->pci_set_window(adapter, off);
1532         if ((start == -1UL) ||
1533                 (netxen_nic_pci_is_same_window(adapter, off+size-1) == 0)) {
1534                 write_unlock_irqrestore(&adapter->adapter_lock, flags);
1535                 printk(KERN_ERR "%s out of bound pci memory access. "
1536                         "offset is 0x%llx\n", netxen_nic_driver_name,
1537                         (unsigned long long)off);
1538                 return -1;
1539         }
1540
1541         addr = (void *)(pci_base_offset(adapter, start));
1542         if (!addr) {
1543                 write_unlock_irqrestore(&adapter->adapter_lock, flags);
1544                 mem_base = pci_resource_start(adapter->pdev, 0);
1545                 mem_page = start & PAGE_MASK;
1546                 /* Map two pages whenever user tries to access addresses in two
1547                  * consecutive pages.
1548                  */
1549                 if (mem_page != ((start + size - 1) & PAGE_MASK))
1550                         mem_ptr = ioremap(mem_base + mem_page, PAGE_SIZE*2);
1551                 else
1552                         mem_ptr = ioremap(mem_base + mem_page, PAGE_SIZE);
1553                 if (mem_ptr == NULL)
1554                         return -1;
1555                 addr = mem_ptr;
1556                 addr += start & (PAGE_SIZE - 1);
1557                 write_lock_irqsave(&adapter->adapter_lock, flags);
1558         }
1559
1560         switch (size) {
1561         case 1:
1562                 writeb(*(uint8_t *)data, addr);
1563                 break;
1564         case 2:
1565                 writew(*(uint16_t *)data, addr);
1566                 break;
1567         case 4:
1568                 writel(*(uint32_t *)data, addr);
1569                 break;
1570         case 8:
1571                 writeq(*(uint64_t *)data, addr);
1572                 break;
1573         default:
1574                 ret = -1;
1575                 break;
1576         }
1577         write_unlock_irqrestore(&adapter->adapter_lock, flags);
1578         DPRINTK(1, INFO, "writing data %llx to offset %llx\n",
1579                         *(unsigned long long *)data, start);
1580         if (mem_ptr)
1581                 iounmap(mem_ptr);
1582         return ret;
1583 }
1584
1585 #define MAX_CTL_CHECK   1000
1586
1587 int
1588 netxen_nic_pci_mem_write_128M(struct netxen_adapter *adapter,
1589                 u64 off, void *data, int size)
1590 {
1591         unsigned long   flags, mem_crb;
1592         int          i, j, ret = 0, loop, sz[2], off0;
1593         uint32_t      temp;
1594         uint64_t      off8, tmpw, word[2] = {0, 0};
1595
1596         /*
1597          * If not MN, go check for MS or invalid.
1598          */
1599         if (netxen_nic_pci_mem_bound_check(adapter, off, size) == 0)
1600                 return netxen_nic_pci_mem_write_direct(adapter,
1601                                 off, data, size);
1602
1603         off8 = off & 0xfffffff8;
1604         off0 = off & 0x7;
1605         sz[0] = (size < (8 - off0)) ? size : (8 - off0);
1606         sz[1] = size - sz[0];
1607         loop = ((off0 + size - 1) >> 3) + 1;
1608         mem_crb = (unsigned long)pci_base_offset(adapter, NETXEN_CRB_DDR_NET);
1609
1610         if ((size != 8) || (off0 != 0))  {
1611                 for (i = 0; i < loop; i++) {
1612                         if (adapter->pci_mem_read(adapter,
1613                                 off8 + (i << 3), &word[i], 8))
1614                                 return -1;
1615                 }
1616         }
1617
1618         switch (size) {
1619         case 1:
1620                 tmpw = *((uint8_t *)data);
1621                 break;
1622         case 2:
1623                 tmpw = *((uint16_t *)data);
1624                 break;
1625         case 4:
1626                 tmpw = *((uint32_t *)data);
1627                 break;
1628         case 8:
1629         default:
1630                 tmpw = *((uint64_t *)data);
1631                 break;
1632         }
1633         word[0] &= ~((~(~0ULL << (sz[0] * 8))) << (off0 * 8));
1634         word[0] |= tmpw << (off0 * 8);
1635
1636         if (loop == 2) {
1637                 word[1] &= ~(~0ULL << (sz[1] * 8));
1638                 word[1] |= tmpw >> (sz[0] * 8);
1639         }
1640
1641         write_lock_irqsave(&adapter->adapter_lock, flags);
1642         netxen_nic_pci_change_crbwindow_128M(adapter, 0);
1643
1644         for (i = 0; i < loop; i++) {
1645                 writel((uint32_t)(off8 + (i << 3)),
1646                         (void *)(mem_crb+MIU_TEST_AGT_ADDR_LO));
1647                 writel(0,
1648                         (void *)(mem_crb+MIU_TEST_AGT_ADDR_HI));
1649                 writel(word[i] & 0xffffffff,
1650                         (void *)(mem_crb+MIU_TEST_AGT_WRDATA_LO));
1651                 writel((word[i] >> 32) & 0xffffffff,
1652                         (void *)(mem_crb+MIU_TEST_AGT_WRDATA_HI));
1653                 writel(MIU_TA_CTL_ENABLE|MIU_TA_CTL_WRITE,
1654                         (void *)(mem_crb+MIU_TEST_AGT_CTRL));
1655                 writel(MIU_TA_CTL_START|MIU_TA_CTL_ENABLE|MIU_TA_CTL_WRITE,
1656                         (void *)(mem_crb+MIU_TEST_AGT_CTRL));
1657
1658                 for (j = 0; j < MAX_CTL_CHECK; j++) {
1659                         temp = readl(
1660                              (void *)(mem_crb+MIU_TEST_AGT_CTRL));
1661                         if ((temp & MIU_TA_CTL_BUSY) == 0)
1662                                 break;
1663                 }
1664
1665                 if (j >= MAX_CTL_CHECK) {
1666                         printk("%s: %s Fail to write through agent\n",
1667                                         __func__, netxen_nic_driver_name);
1668                         ret = -1;
1669                         break;
1670                 }
1671         }
1672
1673         netxen_nic_pci_change_crbwindow_128M(adapter, 1);
1674         write_unlock_irqrestore(&adapter->adapter_lock, flags);
1675         return ret;
1676 }
1677
1678 int
1679 netxen_nic_pci_mem_read_128M(struct netxen_adapter *adapter,
1680                 u64 off, void *data, int size)
1681 {
1682         unsigned long   flags, mem_crb;
1683         int          i, j = 0, k, start, end, loop, sz[2], off0[2];
1684         uint32_t      temp;
1685         uint64_t      off8, val, word[2] = {0, 0};
1686
1687
1688         /*
1689          * If not MN, go check for MS or invalid.
1690          */
1691         if (netxen_nic_pci_mem_bound_check(adapter, off, size) == 0)
1692                 return netxen_nic_pci_mem_read_direct(adapter, off, data, size);
1693
1694         off8 = off & 0xfffffff8;
1695         off0[0] = off & 0x7;
1696         off0[1] = 0;
1697         sz[0] = (size < (8 - off0[0])) ? size : (8 - off0[0]);
1698         sz[1] = size - sz[0];
1699         loop = ((off0[0] + size - 1) >> 3) + 1;
1700         mem_crb = (unsigned long)pci_base_offset(adapter, NETXEN_CRB_DDR_NET);
1701
1702         write_lock_irqsave(&adapter->adapter_lock, flags);
1703         netxen_nic_pci_change_crbwindow_128M(adapter, 0);
1704
1705         for (i = 0; i < loop; i++) {
1706                 writel((uint32_t)(off8 + (i << 3)),
1707                         (void *)(mem_crb+MIU_TEST_AGT_ADDR_LO));
1708                 writel(0,
1709                         (void *)(mem_crb+MIU_TEST_AGT_ADDR_HI));
1710                 writel(MIU_TA_CTL_ENABLE,
1711                         (void *)(mem_crb+MIU_TEST_AGT_CTRL));
1712                 writel(MIU_TA_CTL_START|MIU_TA_CTL_ENABLE,
1713                         (void *)(mem_crb+MIU_TEST_AGT_CTRL));
1714
1715                 for (j = 0; j < MAX_CTL_CHECK; j++) {
1716                         temp = readl(
1717                               (void *)(mem_crb+MIU_TEST_AGT_CTRL));
1718                         if ((temp & MIU_TA_CTL_BUSY) == 0)
1719                                 break;
1720                 }
1721
1722                 if (j >= MAX_CTL_CHECK) {
1723                         printk(KERN_ERR "%s: %s Fail to read through agent\n",
1724                                         __func__, netxen_nic_driver_name);
1725                         break;
1726                 }
1727
1728                 start = off0[i] >> 2;
1729                 end   = (off0[i] + sz[i] - 1) >> 2;
1730                 for (k = start; k <= end; k++) {
1731                         word[i] |= ((uint64_t) readl(
1732                                     (void *)(mem_crb +
1733                                     MIU_TEST_AGT_RDDATA(k))) << (32*k));
1734                 }
1735         }
1736
1737         netxen_nic_pci_change_crbwindow_128M(adapter, 1);
1738         write_unlock_irqrestore(&adapter->adapter_lock, flags);
1739
1740         if (j >= MAX_CTL_CHECK)
1741                 return -1;
1742
1743         if (sz[0] == 8) {
1744                 val = word[0];
1745         } else {
1746                 val = ((word[0] >> (off0[0] * 8)) & (~(~0ULL << (sz[0] * 8)))) |
1747                         ((word[1] & (~(~0ULL << (sz[1] * 8)))) << (sz[0] * 8));
1748         }
1749
1750         switch (size) {
1751         case 1:
1752                 *(uint8_t  *)data = val;
1753                 break;
1754         case 2:
1755                 *(uint16_t *)data = val;
1756                 break;
1757         case 4:
1758                 *(uint32_t *)data = val;
1759                 break;
1760         case 8:
1761                 *(uint64_t *)data = val;
1762                 break;
1763         }
1764         DPRINTK(1, INFO, "read %llx\n", *(unsigned long long *)data);
1765         return 0;
1766 }
1767
1768 int
1769 netxen_nic_pci_mem_write_2M(struct netxen_adapter *adapter,
1770                 u64 off, void *data, int size)
1771 {
1772         int i, j, ret = 0, loop, sz[2], off0;
1773         uint32_t temp;
1774         uint64_t off8, mem_crb, tmpw, word[2] = {0, 0};
1775
1776         /*
1777          * If not MN, go check for MS or invalid.
1778          */
1779         if (off >= NETXEN_ADDR_QDR_NET && off <= NETXEN_ADDR_QDR_NET_MAX_P3)
1780                 mem_crb = NETXEN_CRB_QDR_NET;
1781         else {
1782                 mem_crb = NETXEN_CRB_DDR_NET;
1783                 if (netxen_nic_pci_mem_bound_check(adapter, off, size) == 0)
1784                         return netxen_nic_pci_mem_write_direct(adapter,
1785                                         off, data, size);
1786         }
1787
1788         off8 = off & 0xfffffff8;
1789         off0 = off & 0x7;
1790         sz[0] = (size < (8 - off0)) ? size : (8 - off0);
1791         sz[1] = size - sz[0];
1792         loop = ((off0 + size - 1) >> 3) + 1;
1793
1794         if ((size != 8) || (off0 != 0)) {
1795                 for (i = 0; i < loop; i++) {
1796                         if (adapter->pci_mem_read(adapter, off8 + (i << 3),
1797                                                 &word[i], 8))
1798                                 return -1;
1799                 }
1800         }
1801
1802         switch (size) {
1803         case 1:
1804                 tmpw = *((uint8_t *)data);
1805                 break;
1806         case 2:
1807                 tmpw = *((uint16_t *)data);
1808                 break;
1809         case 4:
1810                 tmpw = *((uint32_t *)data);
1811                 break;
1812         case 8:
1813         default:
1814                 tmpw = *((uint64_t *)data);
1815         break;
1816         }
1817
1818         word[0] &= ~((~(~0ULL << (sz[0] * 8))) << (off0 * 8));
1819         word[0] |= tmpw << (off0 * 8);
1820
1821         if (loop == 2) {
1822                 word[1] &= ~(~0ULL << (sz[1] * 8));
1823                 word[1] |= tmpw >> (sz[0] * 8);
1824         }
1825
1826         /*
1827          * don't lock here - write_wx gets the lock if each time
1828          * write_lock_irqsave(&adapter->adapter_lock, flags);
1829          * netxen_nic_pci_change_crbwindow_128M(adapter, 0);
1830          */
1831
1832         for (i = 0; i < loop; i++) {
1833                 temp = off8 + (i << 3);
1834                 adapter->hw_write_wx(adapter,
1835                                 mem_crb+MIU_TEST_AGT_ADDR_LO, &temp, 4);
1836                 temp = 0;
1837                 adapter->hw_write_wx(adapter,
1838                                 mem_crb+MIU_TEST_AGT_ADDR_HI, &temp, 4);
1839                 temp = word[i] & 0xffffffff;
1840                 adapter->hw_write_wx(adapter,
1841                                 mem_crb+MIU_TEST_AGT_WRDATA_LO, &temp, 4);
1842                 temp = (word[i] >> 32) & 0xffffffff;
1843                 adapter->hw_write_wx(adapter,
1844                                 mem_crb+MIU_TEST_AGT_WRDATA_HI, &temp, 4);
1845                 temp = MIU_TA_CTL_ENABLE | MIU_TA_CTL_WRITE;
1846                 adapter->hw_write_wx(adapter,
1847                                 mem_crb+MIU_TEST_AGT_CTRL, &temp, 4);
1848                 temp = MIU_TA_CTL_START | MIU_TA_CTL_ENABLE | MIU_TA_CTL_WRITE;
1849                 adapter->hw_write_wx(adapter,
1850                                 mem_crb+MIU_TEST_AGT_CTRL, &temp, 4);
1851
1852                 for (j = 0; j < MAX_CTL_CHECK; j++) {
1853                         adapter->hw_read_wx(adapter,
1854                                         mem_crb + MIU_TEST_AGT_CTRL, &temp, 4);
1855                         if ((temp & MIU_TA_CTL_BUSY) == 0)
1856                                 break;
1857                 }
1858
1859                 if (j >= MAX_CTL_CHECK) {
1860                         printk(KERN_ERR "%s: Fail to write through agent\n",
1861                                         netxen_nic_driver_name);
1862                         ret = -1;
1863                         break;
1864                 }
1865         }
1866
1867         /*
1868          * netxen_nic_pci_change_crbwindow_128M(adapter, 1);
1869          * write_unlock_irqrestore(&adapter->adapter_lock, flags);
1870          */
1871         return ret;
1872 }
1873
1874 int
1875 netxen_nic_pci_mem_read_2M(struct netxen_adapter *adapter,
1876                 u64 off, void *data, int size)
1877 {
1878         int i, j = 0, k, start, end, loop, sz[2], off0[2];
1879         uint32_t      temp;
1880         uint64_t      off8, val, mem_crb, word[2] = {0, 0};
1881
1882         /*
1883          * If not MN, go check for MS or invalid.
1884          */
1885
1886         if (off >= NETXEN_ADDR_QDR_NET && off <= NETXEN_ADDR_QDR_NET_MAX_P3)
1887                 mem_crb = NETXEN_CRB_QDR_NET;
1888         else {
1889                 mem_crb = NETXEN_CRB_DDR_NET;
1890                 if (netxen_nic_pci_mem_bound_check(adapter, off, size) == 0)
1891                         return netxen_nic_pci_mem_read_direct(adapter,
1892                                         off, data, size);
1893         }
1894
1895         off8 = off & 0xfffffff8;
1896         off0[0] = off & 0x7;
1897         off0[1] = 0;
1898         sz[0] = (size < (8 - off0[0])) ? size : (8 - off0[0]);
1899         sz[1] = size - sz[0];
1900         loop = ((off0[0] + size - 1) >> 3) + 1;
1901
1902         /*
1903          * don't lock here - write_wx gets the lock if each time
1904          * write_lock_irqsave(&adapter->adapter_lock, flags);
1905          * netxen_nic_pci_change_crbwindow_128M(adapter, 0);
1906          */
1907
1908         for (i = 0; i < loop; i++) {
1909                 temp = off8 + (i << 3);
1910                 adapter->hw_write_wx(adapter,
1911                                 mem_crb + MIU_TEST_AGT_ADDR_LO, &temp, 4);
1912                 temp = 0;
1913                 adapter->hw_write_wx(adapter,
1914                                 mem_crb + MIU_TEST_AGT_ADDR_HI, &temp, 4);
1915                 temp = MIU_TA_CTL_ENABLE;
1916                 adapter->hw_write_wx(adapter,
1917                                 mem_crb + MIU_TEST_AGT_CTRL, &temp, 4);
1918                 temp = MIU_TA_CTL_START | MIU_TA_CTL_ENABLE;
1919                 adapter->hw_write_wx(adapter,
1920                                 mem_crb + MIU_TEST_AGT_CTRL, &temp, 4);
1921
1922                 for (j = 0; j < MAX_CTL_CHECK; j++) {
1923                         adapter->hw_read_wx(adapter,
1924                                         mem_crb + MIU_TEST_AGT_CTRL, &temp, 4);
1925                         if ((temp & MIU_TA_CTL_BUSY) == 0)
1926                                 break;
1927                 }
1928
1929                 if (j >= MAX_CTL_CHECK) {
1930                         printk(KERN_ERR "%s: Fail to read through agent\n",
1931                                         netxen_nic_driver_name);
1932                         break;
1933                 }
1934
1935                 start = off0[i] >> 2;
1936                 end   = (off0[i] + sz[i] - 1) >> 2;
1937                 for (k = start; k <= end; k++) {
1938                         adapter->hw_read_wx(adapter,
1939                                 mem_crb + MIU_TEST_AGT_RDDATA(k), &temp, 4);
1940                         word[i] |= ((uint64_t)temp << (32 * k));
1941                 }
1942         }
1943
1944         /*
1945          * netxen_nic_pci_change_crbwindow_128M(adapter, 1);
1946          * write_unlock_irqrestore(&adapter->adapter_lock, flags);
1947          */
1948
1949         if (j >= MAX_CTL_CHECK)
1950                 return -1;
1951
1952         if (sz[0] == 8) {
1953                 val = word[0];
1954         } else {
1955                 val = ((word[0] >> (off0[0] * 8)) & (~(~0ULL << (sz[0] * 8)))) |
1956                 ((word[1] & (~(~0ULL << (sz[1] * 8)))) << (sz[0] * 8));
1957         }
1958
1959         switch (size) {
1960         case 1:
1961                 *(uint8_t  *)data = val;
1962                 break;
1963         case 2:
1964                 *(uint16_t *)data = val;
1965                 break;
1966         case 4:
1967                 *(uint32_t *)data = val;
1968                 break;
1969         case 8:
1970                 *(uint64_t *)data = val;
1971                 break;
1972         }
1973         DPRINTK(1, INFO, "read %llx\n", *(unsigned long long *)data);
1974         return 0;
1975 }
1976
1977 /*
1978  * Note : only 32-bit writes!
1979  */
1980 int netxen_nic_pci_write_immediate_2M(struct netxen_adapter *adapter,
1981                 u64 off, u32 data)
1982 {
1983         adapter->hw_write_wx(adapter, off, &data, 4);
1984
1985         return 0;
1986 }
1987
1988 u32 netxen_nic_pci_read_immediate_2M(struct netxen_adapter *adapter, u64 off)
1989 {
1990         u32 temp;
1991         adapter->hw_read_wx(adapter, off, &temp, 4);
1992         return temp;
1993 }
1994
1995 void netxen_nic_pci_write_normalize_2M(struct netxen_adapter *adapter,
1996                 u64 off, u32 data)
1997 {
1998         adapter->hw_write_wx(adapter, off, &data, 4);
1999 }
2000
2001 u32 netxen_nic_pci_read_normalize_2M(struct netxen_adapter *adapter, u64 off)
2002 {
2003         u32 temp;
2004         adapter->hw_read_wx(adapter, off, &temp, 4);
2005         return temp;
2006 }
2007
2008 #if 0
2009 int
2010 netxen_nic_erase_pxe(struct netxen_adapter *adapter)
2011 {
2012         if (netxen_rom_fast_write(adapter, NETXEN_PXE_START, 0) == -1) {
2013                 printk(KERN_ERR "%s: erase pxe failed\n",
2014                         netxen_nic_driver_name);
2015                 return -1;
2016         }
2017         return 0;
2018 }
2019 #endif  /*  0  */
2020
2021 int netxen_nic_get_board_info(struct netxen_adapter *adapter)
2022 {
2023         int rv = 0;
2024         int addr = NETXEN_BRDCFG_START;
2025         struct netxen_board_info *boardinfo;
2026         int index;
2027         u32 *ptr32;
2028
2029         boardinfo = &adapter->ahw.boardcfg;
2030         ptr32 = (u32 *) boardinfo;
2031
2032         for (index = 0; index < sizeof(struct netxen_board_info) / sizeof(u32);
2033              index++) {
2034                 if (netxen_rom_fast_read(adapter, addr, ptr32) == -1) {
2035                         return -EIO;
2036                 }
2037                 ptr32++;
2038                 addr += sizeof(u32);
2039         }
2040         if (boardinfo->magic != NETXEN_BDINFO_MAGIC) {
2041                 printk("%s: ERROR reading %s board config."
2042                        " Read %x, expected %x\n", netxen_nic_driver_name,
2043                        netxen_nic_driver_name,
2044                        boardinfo->magic, NETXEN_BDINFO_MAGIC);
2045                 rv = -1;
2046         }
2047         if (boardinfo->header_version != NETXEN_BDINFO_VERSION) {
2048                 printk("%s: Unknown board config version."
2049                        " Read %x, expected %x\n", netxen_nic_driver_name,
2050                        boardinfo->header_version, NETXEN_BDINFO_VERSION);
2051                 rv = -1;
2052         }
2053
2054         if (boardinfo->board_type == NETXEN_BRDTYPE_P3_4_GB_MM) {
2055                 u32 gpio = netxen_nic_reg_read(adapter,
2056                                 NETXEN_ROMUSB_GLB_PAD_GPIO_I);
2057                 if ((gpio & 0x8000) == 0)
2058                         boardinfo->board_type = NETXEN_BRDTYPE_P3_10G_TP;
2059         }
2060
2061         switch ((netxen_brdtype_t) boardinfo->board_type) {
2062         case NETXEN_BRDTYPE_P2_SB35_4G:
2063                 adapter->ahw.board_type = NETXEN_NIC_GBE;
2064                 break;
2065         case NETXEN_BRDTYPE_P2_SB31_10G:
2066         case NETXEN_BRDTYPE_P2_SB31_10G_IMEZ:
2067         case NETXEN_BRDTYPE_P2_SB31_10G_HMEZ:
2068         case NETXEN_BRDTYPE_P2_SB31_10G_CX4:
2069         case NETXEN_BRDTYPE_P3_HMEZ:
2070         case NETXEN_BRDTYPE_P3_XG_LOM:
2071         case NETXEN_BRDTYPE_P3_10G_CX4:
2072         case NETXEN_BRDTYPE_P3_10G_CX4_LP:
2073         case NETXEN_BRDTYPE_P3_IMEZ:
2074         case NETXEN_BRDTYPE_P3_10G_SFP_PLUS:
2075         case NETXEN_BRDTYPE_P3_10G_SFP_CT:
2076         case NETXEN_BRDTYPE_P3_10G_SFP_QT:
2077         case NETXEN_BRDTYPE_P3_10G_XFP:
2078         case NETXEN_BRDTYPE_P3_10000_BASE_T:
2079                 adapter->ahw.board_type = NETXEN_NIC_XGBE;
2080                 break;
2081         case NETXEN_BRDTYPE_P1_BD:
2082         case NETXEN_BRDTYPE_P1_SB:
2083         case NETXEN_BRDTYPE_P1_SMAX:
2084         case NETXEN_BRDTYPE_P1_SOCK:
2085         case NETXEN_BRDTYPE_P3_REF_QG:
2086         case NETXEN_BRDTYPE_P3_4_GB:
2087         case NETXEN_BRDTYPE_P3_4_GB_MM:
2088                 adapter->ahw.board_type = NETXEN_NIC_GBE;
2089                 break;
2090         case NETXEN_BRDTYPE_P3_10G_TP:
2091                 adapter->ahw.board_type = (adapter->portnum < 2) ?
2092                         NETXEN_NIC_XGBE : NETXEN_NIC_GBE;
2093                 break;
2094         default:
2095                 printk("%s: Unknown(%x)\n", netxen_nic_driver_name,
2096                        boardinfo->board_type);
2097                 rv = -ENODEV;
2098                 break;
2099         }
2100
2101         return rv;
2102 }
2103
2104 /* NIU access sections */
2105
2106 int netxen_nic_set_mtu_gb(struct netxen_adapter *adapter, int new_mtu)
2107 {
2108         new_mtu += MTU_FUDGE_FACTOR;
2109         netxen_nic_write_w0(adapter,
2110                 NETXEN_NIU_GB_MAX_FRAME_SIZE(adapter->physical_port),
2111                 new_mtu);
2112         return 0;
2113 }
2114
2115 int netxen_nic_set_mtu_xgb(struct netxen_adapter *adapter, int new_mtu)
2116 {
2117         new_mtu += MTU_FUDGE_FACTOR;
2118         if (adapter->physical_port == 0)
2119                 netxen_nic_write_w0(adapter, NETXEN_NIU_XGE_MAX_FRAME_SIZE,
2120                                 new_mtu);
2121         else
2122                 netxen_nic_write_w0(adapter, NETXEN_NIU_XG1_MAX_FRAME_SIZE,
2123                                 new_mtu);
2124         return 0;
2125 }
2126
2127 void
2128 netxen_crb_writelit_adapter(struct netxen_adapter *adapter,
2129                 unsigned long off, int data)
2130 {
2131         adapter->hw_write_wx(adapter, off, &data, 4);
2132 }
2133
2134 void netxen_nic_set_link_parameters(struct netxen_adapter *adapter)
2135 {
2136         __u32 status;
2137         __u32 autoneg;
2138         __u32 port_mode;
2139
2140         if (!netif_carrier_ok(adapter->netdev)) {
2141                 adapter->link_speed   = 0;
2142                 adapter->link_duplex  = -1;
2143                 adapter->link_autoneg = AUTONEG_ENABLE;
2144                 return;
2145         }
2146
2147         if (adapter->ahw.board_type == NETXEN_NIC_GBE) {
2148                 adapter->hw_read_wx(adapter,
2149                                 NETXEN_PORT_MODE_ADDR, &port_mode, 4);
2150                 if (port_mode == NETXEN_PORT_MODE_802_3_AP) {
2151                         adapter->link_speed   = SPEED_1000;
2152                         adapter->link_duplex  = DUPLEX_FULL;
2153                         adapter->link_autoneg = AUTONEG_DISABLE;
2154                         return;
2155                 }
2156
2157                 if (adapter->phy_read
2158                     && adapter->phy_read(adapter,
2159                              NETXEN_NIU_GB_MII_MGMT_ADDR_PHY_STATUS,
2160                              &status) == 0) {
2161                         if (netxen_get_phy_link(status)) {
2162                                 switch (netxen_get_phy_speed(status)) {
2163                                 case 0:
2164                                         adapter->link_speed = SPEED_10;
2165                                         break;
2166                                 case 1:
2167                                         adapter->link_speed = SPEED_100;
2168                                         break;
2169                                 case 2:
2170                                         adapter->link_speed = SPEED_1000;
2171                                         break;
2172                                 default:
2173                                         adapter->link_speed = 0;
2174                                         break;
2175                                 }
2176                                 switch (netxen_get_phy_duplex(status)) {
2177                                 case 0:
2178                                         adapter->link_duplex = DUPLEX_HALF;
2179                                         break;
2180                                 case 1:
2181                                         adapter->link_duplex = DUPLEX_FULL;
2182                                         break;
2183                                 default:
2184                                         adapter->link_duplex = -1;
2185                                         break;
2186                                 }
2187                                 if (adapter->phy_read
2188                                     && adapter->phy_read(adapter,
2189                                              NETXEN_NIU_GB_MII_MGMT_ADDR_AUTONEG,
2190                                              &autoneg) != 0)
2191                                         adapter->link_autoneg = autoneg;
2192                         } else
2193                                 goto link_down;
2194                 } else {
2195                       link_down:
2196                         adapter->link_speed = 0;
2197                         adapter->link_duplex = -1;
2198                 }
2199         }
2200 }
2201
2202 void netxen_nic_flash_print(struct netxen_adapter *adapter)
2203 {
2204         u32 fw_major = 0;
2205         u32 fw_minor = 0;
2206         u32 fw_build = 0;
2207         char brd_name[NETXEN_MAX_SHORT_NAME];
2208         char serial_num[32];
2209         int i, addr;
2210         __le32 *ptr32;
2211
2212         struct netxen_board_info *board_info = &(adapter->ahw.boardcfg);
2213
2214         adapter->driver_mismatch = 0;
2215
2216         ptr32 = (u32 *)&serial_num;
2217         addr = NETXEN_USER_START +
2218                offsetof(struct netxen_new_user_info, serial_num);
2219         for (i = 0; i < 8; i++) {
2220                 if (netxen_rom_fast_read(adapter, addr, ptr32) == -1) {
2221                         printk("%s: ERROR reading %s board userarea.\n",
2222                                netxen_nic_driver_name,
2223                                netxen_nic_driver_name);
2224                         adapter->driver_mismatch = 1;
2225                         return;
2226                 }
2227                 ptr32++;
2228                 addr += sizeof(u32);
2229         }
2230
2231         adapter->hw_read_wx(adapter, NETXEN_FW_VERSION_MAJOR, &fw_major, 4);
2232         adapter->hw_read_wx(adapter, NETXEN_FW_VERSION_MINOR, &fw_minor, 4);
2233         adapter->hw_read_wx(adapter, NETXEN_FW_VERSION_SUB, &fw_build, 4);
2234
2235         adapter->fw_major = fw_major;
2236
2237         if (adapter->portnum == 0) {
2238                 get_brd_name_by_type(board_info->board_type, brd_name);
2239
2240                 printk(KERN_INFO "NetXen %s Board S/N %s  Chip rev 0x%x\n",
2241                                 brd_name, serial_num, adapter->ahw.revision_id);
2242                 printk(KERN_INFO "NetXen Firmware version %d.%d.%d\n",
2243                                 fw_major, fw_minor, fw_build);
2244         }
2245
2246         if (NETXEN_VERSION_CODE(fw_major, fw_minor, fw_build) <
2247                         NETXEN_VERSION_CODE(3, 4, 216)) {
2248                 adapter->driver_mismatch = 1;
2249                 printk(KERN_ERR "%s: firmware version %d.%d.%d unsupported\n",
2250                                 netxen_nic_driver_name,
2251                                 fw_major, fw_minor, fw_build);
2252                 return;
2253         }
2254 }
2255