target/linux/mcs814x/files-3.3/drivers/net/ethernet/mcs8140/nuport_mac.c

   1 /*
   2  * Moschip MCS8140 Ethernet MAC driver
   3  *
   4  * Copyright (C) 2003, Moschip Semiconductors
   5  * Copyright (C) 2012, Florian Fainelli <florian@openwrt.org>
   6  *
   7  * Licensed under GPLv2
   8  */
   9 #include <linux/module.h>
  10 #include <linux/slab.h>
  11 #include <linux/kernel.h>
  12 #include <linux/init.h>
  13 #include <linux/netdevice.h>
  14 #include <linux/etherdevice.h>
  15 #include <linux/delay.h>
  16 #include <linux/ethtool.h>
  17 #include <linux/mii.h>
  18 #include <linux/io.h>
  19 #include <linux/interrupt.h>
  20 #include <linux/platform_device.h>
  21 #include <linux/of.h>
  22 #include <linux/irq.h>
  23 #include <linux/err.h>
  24 #include <linux/phy.h>
  25 #include <linux/clk.h>
  26 #include <linux/dma-mapping.h>
  27
  28 #include <asm/unaligned.h>
  29 #include <asm/sizes.h>
  30
  31 /* Hardware registers */
  32 #define MAC_BASE_ADDR           ((priv->mac_base))
  33
  34 #define CTRL_REG                (MAC_BASE_ADDR)
  35 #define  MII_BUSY               (1 << 0)
  36 #define  MII_WRITE              (1 << 1)
  37 #define  RX_ENABLE              (1 << 2)
  38 #define  TX_ENABLE              (1 << 3)
  39 #define  DEFER_CHECK            (1 << 5)
  40 #define  STRIP_PAD              (1 << 8)
  41 #define  DRTRY_DISABLE          (1 << 10)
  42 #define  FULL_DUPLEX            (1 << 20)
  43 #define  HBD_DISABLE            (1 << 28)
  44 #define MAC_ADDR_HIGH_REG       (MAC_BASE_ADDR + 0x04)
  45 #define MAC_ADDR_LOW_REG        (MAC_BASE_ADDR + 0x08)
  46 #define MII_ADDR_REG            (MAC_BASE_ADDR + 0x14)
  47 #define  MII_ADDR_SHIFT         (11)
  48 #define  MII_REG_SHIFT          (6)
  49 #define MII_DATA_REG            (MAC_BASE_ADDR + 0x18)
  50 /* Link interrupt registers */
  51 #define LINK_INT_CSR            (MAC_BASE_ADDR + 0xD0)
  52 #define  LINK_INT_EN            (1 << 0)
  53 #define  LINK_PHY_ADDR_SHIFT    (1)
  54 #define  LINK_PHY_REG_SHIFT     (6)
  55 #define  LINK_BIT_UP_SHIFT      (11)
  56 #define  LINK_UP                (1 << 16)
  57 #define LINK_INT_POLL_TIME      (MAC_BASE_ADDR + 0xD4)
  58 #define  LINK_POLL_MASK         ((1 << 20) - 1)
  59
  60 #define DMA_CHAN_WIDTH          32
  61 #define DMA_RX_CHAN             0
  62 #define DMA_TX_CHAN             2
  63
  64 /* Receive DMA registers */
  65 #define RX_DMA_BASE             ((priv->dma_base) + \
  66                                 (DMA_CHAN_WIDTH * DMA_RX_CHAN))
  67 #define RX_BUFFER_ADDR          (RX_DMA_BASE + 0x00)
  68 #define RX_MAX_BYTES            (RX_DMA_BASE + 0x04)
  69 #define RX_ACT_BYTES            (RX_DMA_BASE + 0x08)
  70 #define RX_START_DMA            (RX_DMA_BASE + 0x0C)
  71 #define  RX_DMA_ENABLE          (1 << 0)
  72 #define  RX_DMA_RESET           (1 << 1)
  73 #define  RX_DMA_STATUS_FIFO     (1 << 12)
  74 #define RX_DMA_ENH              (RX_DMA_BASE + 0x14)
  75 #define  RX_DMA_INT_ENABLE      (1 << 1)
  76
  77 /* Transmit DMA registers */
  78 #define TX_DMA_BASE             ((priv->dma_base) + \
  79                                 (DMA_CHAN_WIDTH * DMA_TX_CHAN))
  80 #define TX_BUFFER_ADDR          (TX_DMA_BASE + 0x00)
  81 #define TX_PKT_BYTES            (TX_DMA_BASE + 0x04)
  82 #define TX_BYTES_SENT           (TX_DMA_BASE + 0x08)
  83 #define TX_START_DMA            (TX_DMA_BASE + 0x0C)
  84 #define  TX_DMA_ENABLE          (1 << 0)
  85 #define  TX_DMA_START_FRAME     (1 << 2)
  86 #define  TX_DMA_END_FRAME       (1 << 3)
  87 #define  TX_DMA_PAD_DISABLE     (1 << 8)
  88 #define  TX_DMA_CRC_DISABLE     (1 << 9)
  89 #define  TX_DMA_FIFO_FULL       (1 << 16)
  90 #define  TX_DMA_FIFO_EMPTY      (1 << 17)
  91 #define  TX_DMA_STATUS_AVAIL    (1 << 18)
  92 #define  TX_DMA_RESET           (1 << 24)
  93 #define TX_DMA_STATUS           (TX_DMA_BASE + 0x10)
  94 #define TX_DMA_ENH              (TX_DMA_BASE + 0x14)
  95 #define  TX_DMA_ENH_ENABLE      (1 << 0)
  96 #define  TX_DMA_INT_FIFO        (1 << 1)
  97
  98 #define RX_ALLOC_SIZE           SZ_2K
  99 #define MAX_ETH_FRAME_SIZE      1536
 100 #define RX_SKB_TAILROOM         128
 101 #define RX_SKB_HEADROOM         (RX_ALLOC_SIZE  - \
 102                                 (MAX_ETH_FRAME_SIZE + RX_SKB_TAILROOM) + 0)
 103
 104                         /* WDT     Late COL    Lenght     COL      Type */
 105 #define ERROR_FILTER_MASK ((1<<14) | (1<<15) | (1<<16) | (1<<17) | (0<<18) | \
 106                         /* MII    Dribbling    CRC    Len/type   Control */\
 107                         (1<<19) | (1<<20) | (1<<21) | (0<<24) | (1<<25) | \
 108                         /* Unsup   Missed */\
 109                         (1<<26) | (0<<31))
 110 #define  TX_RING_SIZE  30
 111 #define  RX_RING_SIZE  30
 112
 113 static inline u32 nuport_mac_readl(void __iomem *reg)
 114 {
 115         return __raw_readl(reg);
 116 }
 117
 118 static inline u8 nuport_mac_readb(void __iomem *reg)
 119 {
 120         return __raw_readb(reg);
 121 }
 122
 123 static inline void nuport_mac_writel(u32 value, void __iomem *reg)
 124 {
 125         __raw_writel(value, reg);
 126 }
 127
 128 static inline void nuport_mac_writeb(u8 value, void __iomem *reg)
 129 {
 130         __raw_writel(value, reg);
 131 }
 132
 133 /* MAC private data */
 134 struct nuport_mac_priv {
 135         spinlock_t lock;
 136
 137         void __iomem    *mac_base;
 138         void __iomem    *dma_base;
 139
 140         int             rx_irq;
 141         int             tx_irq;
 142         int             link_irq;
 143         struct clk      *emac_clk;
 144         struct clk      *ephy_clk;
 145
 146         /* Transmit buffers */
 147         struct sk_buff *tx_skb[TX_RING_SIZE];
 148         dma_addr_t tx_addr;
 149         unsigned int valid_txskb[TX_RING_SIZE];
 150         unsigned int cur_tx;
 151         unsigned int dma_tx;
 152         unsigned int tx_full;
 153
 154         /* Receive buffers */
 155         struct sk_buff *rx_skb[RX_RING_SIZE];
 156         dma_addr_t rx_addr;
 157         unsigned int irq_rxskb[RX_RING_SIZE];
 158         int pkt_len[RX_RING_SIZE];
 159         unsigned int cur_rx;
 160         unsigned int dma_rx;
 161         unsigned int rx_full;
 162
 163         unsigned int first_pkt;
 164
 165         /* Private data */
 166         struct napi_struct napi;
 167         struct net_device       *dev;
 168         struct platform_device  *pdev;
 169         struct mii_bus          *mii_bus;
 170         struct phy_device       *phydev;
 171         int                     old_link;
 172         int                     old_duplex;
 173         u32                     msg_level;
 174         unsigned int            buffer_shifting_len;
 175 };
 176
 177 static inline int nuport_mac_mii_busy_wait(struct nuport_mac_priv *priv)
 178 {
 179         unsigned long curr;
 180         unsigned long finish = jiffies + 3 * HZ;
 181
 182         do {
 183                 curr = jiffies;
 184                 if (!(nuport_mac_readl(MII_ADDR_REG) & MII_BUSY))
 185                         return 0;
 186                 cpu_relax();
 187         } while (!time_after_eq(curr, finish));
 188
 189         return -EBUSY;
 190 }
 191
 192 /* Read from PHY registers */
 193 static int nuport_mac_mii_read(struct mii_bus *bus,
 194                                 int mii_id, int regnum)
 195 {
 196         struct net_device *dev = bus->priv;
 197         struct nuport_mac_priv *priv = netdev_priv(dev);
 198         int ret;
 199         u32 val = 0;
 200
 201         ret = nuport_mac_mii_busy_wait(priv);
 202         if (ret)
 203                 return ret;
 204
 205         val |= (mii_id << MII_ADDR_SHIFT) | (regnum << MII_REG_SHIFT) | MII_BUSY;
 206         nuport_mac_writel(val, MII_ADDR_REG);
 207         ret = nuport_mac_mii_busy_wait(priv);
 208         if (ret)
 209                 return ret;
 210
 211         return nuport_mac_readl(MII_DATA_REG);
 212 }
 213
 214 static int nuport_mac_mii_write(struct mii_bus *bus, int mii_id,
 215                                 int regnum, u16 value)
 216 {
 217         struct net_device *dev = bus->priv;
 218         struct nuport_mac_priv *priv = netdev_priv(dev);
 219         int ret;
 220         u32 val = 0;
 221
 222         ret = nuport_mac_mii_busy_wait(priv);
 223         if (ret)
 224                 return ret;
 225
 226         val |= (mii_id << MII_ADDR_SHIFT) | (regnum << MII_REG_SHIFT);
 227         val |= MII_BUSY | MII_WRITE;
 228         nuport_mac_writel(value, MII_DATA_REG);
 229         nuport_mac_writel(val, MII_ADDR_REG);
 230
 231         return nuport_mac_mii_busy_wait(priv);
 232 }
 233
 234 static int nuport_mac_mii_reset(struct mii_bus *bus)
 235 {
 236         return 0;
 237 }
 238
 239 static int nuport_mac_start_tx_dma(struct nuport_mac_priv *priv,
 240                                         struct sk_buff *skb)
 241 {
 242         u32 reg;
 243         unsigned int timeout = 2048;
 244
 245         while (timeout--) {
 246                 reg = nuport_mac_readl(TX_START_DMA);
 247                 if (!(reg & TX_DMA_ENABLE)) {
 248                         netdev_dbg(priv->dev, "dma ready\n");
 249                         break;
 250                 }
 251                 cpu_relax();
 252         }
 253
 254         if (!timeout)
 255                 return -EBUSY;
 256
 257         priv->tx_addr = dma_map_single(&priv->pdev->dev, skb->data,
 258                         skb->len, DMA_TO_DEVICE);
 259
 260         /* enable enhanced mode */
 261         nuport_mac_writel(TX_DMA_ENH_ENABLE, TX_DMA_ENH);
 262         nuport_mac_writel(priv->tx_addr, TX_BUFFER_ADDR);
 263         nuport_mac_writel((skb->len) - 1, TX_PKT_BYTES);
 264         wmb();
 265         reg = TX_DMA_ENABLE | TX_DMA_START_FRAME | TX_DMA_END_FRAME;
 266         nuport_mac_writel(reg, TX_START_DMA);
 267
 268         return 0;
 269 }
 270
 271 static void nuport_mac_reset_tx_dma(struct nuport_mac_priv *priv)
 272 {
 273         u32 reg;
 274
 275         reg = nuport_mac_readl(TX_START_DMA);
 276         reg |= TX_DMA_RESET;
 277         nuport_mac_writel(reg, TX_START_DMA);
 278 }
 279
 280 static int nuport_mac_start_rx_dma(struct nuport_mac_priv *priv,
 281                                         struct sk_buff *skb)
 282 {
 283         u32 reg;
 284         unsigned int timeout = 2048;
 285
 286         while (timeout--) {
 287                 reg = nuport_mac_readl(RX_START_DMA);
 288                 if (!(reg & RX_DMA_ENABLE)) {
 289                         netdev_dbg(priv->dev, "dma ready\n");
 290                         break;
 291                 }
 292                 cpu_relax();
 293         }
 294
 295         if (!timeout)
 296                 return -EBUSY;
 297
 298         priv->rx_addr = dma_map_single(&priv->pdev->dev, skb->data,
 299                                 RX_ALLOC_SIZE, DMA_FROM_DEVICE);
 300
 301         nuport_mac_writel(priv->rx_addr, RX_BUFFER_ADDR);
 302         wmb();
 303         nuport_mac_writel(RX_DMA_ENABLE, RX_START_DMA);
 304
 305         return 0;
 306 }
 307
 308 static void nuport_mac_reset_rx_dma(struct nuport_mac_priv *priv)
 309 {
 310         u32 reg;
 311
 312         reg = nuport_mac_readl(RX_START_DMA);
 313         reg |= RX_DMA_RESET;
 314         nuport_mac_writel(reg, RX_START_DMA);
 315 }
 316
 317 /* I suppose this might do something, but I am not sure actually */
 318 static void nuport_mac_disable_rx_dma(struct nuport_mac_priv *priv)
 319 {
 320         u32 reg;
 321
 322         reg = nuport_mac_readl(RX_DMA_ENH);
 323         reg &= ~RX_DMA_INT_ENABLE;
 324         nuport_mac_writel(reg, RX_DMA_ENH);
 325 }
 326
 327 static void nuport_mac_enable_rx_dma(struct nuport_mac_priv *priv)
 328 {
 329         u32 reg;
 330
 331         reg = nuport_mac_readl(RX_DMA_ENH);
 332         reg |= RX_DMA_INT_ENABLE;
 333         nuport_mac_writel(reg, RX_DMA_ENH);
 334 }
 335
 336 /* Add packets to the transmit queue */
 337 static int nuport_mac_start_xmit(struct sk_buff *skb, struct net_device *dev)
 338 {
 339         unsigned long flags;
 340         struct nuport_mac_priv *priv = netdev_priv(dev);
 341         int ret;
 342
 343         if (netif_queue_stopped(dev)) {
 344                 netdev_warn(dev, "netif queue was stopped, restarting\n");
 345                 netif_start_queue(dev);
 346         }
 347
 348         spin_lock_irqsave(&priv->lock, flags);
 349         if (priv->first_pkt) {
 350                 ret = nuport_mac_start_tx_dma(priv, skb);
 351                 if (ret) {
 352                         netif_stop_queue(dev);
 353                         spin_unlock_irqrestore(&priv->lock, flags);
 354                         netdev_err(dev, "transmit path busy\n");
 355                         return NETDEV_TX_BUSY;
 356                 }
 357                 priv->first_pkt = 0;
 358         }
 359
 360         priv->tx_skb[priv->cur_tx] = skb;
 361         dev->stats.tx_bytes += skb->len;
 362         dev->stats.tx_packets++;
 363         priv->valid_txskb[priv->cur_tx] = 1;
 364         priv->cur_tx++;
 365         dev->trans_start = jiffies;
 366
 367         if (priv->cur_tx >= TX_RING_SIZE)
 368                 priv->cur_tx = 0;
 369
 370         spin_unlock_irqrestore(&priv->lock, flags);
 371
 372         if (priv->valid_txskb[priv->cur_tx]) {
 373                 priv->tx_full = 1;
 374                 netdev_err(dev, "stopping queue\n");
 375                 netif_stop_queue(dev);
 376         }
 377
 378         return NETDEV_TX_OK;
 379 }
 380
 381 static void nuport_mac_adjust_link(struct net_device *dev)
 382 {
 383         struct nuport_mac_priv *priv = netdev_priv(dev);
 384         struct phy_device *phydev = priv->phydev;
 385         unsigned int status_changed = 0;
 386         u32 reg;
 387
 388         BUG_ON(!phydev);
 389
 390         if (priv->old_link != phydev->link) {
 391                 status_changed = 1;
 392                 priv->old_link = phydev->link;
 393         }
 394
 395         if (phydev->link & (priv->old_duplex != phydev->duplex)) {
 396                 reg = nuport_mac_readl(CTRL_REG);
 397                 if (phydev->duplex == DUPLEX_FULL)
 398                         reg |= DUPLEX_FULL;
 399                 else
 400                         reg &= ~DUPLEX_FULL;
 401                 nuport_mac_writel(reg, CTRL_REG);
 402
 403                 status_changed = 1;
 404                 priv->old_duplex = phydev->duplex;
 405         }
 406
 407         if (!status_changed)
 408                 return;
 409
 410         pr_info("%s: link %s", dev->name, phydev->link ?
 411                 "UP" : "DOWN");
 412         if (phydev->link) {
 413                 pr_cont(" - %d/%s", phydev->speed,
 414                 phydev->duplex == DUPLEX_FULL ? "full" : "half");
 415         }
 416         pr_cont("\n");
 417 }
 418
 419 static irqreturn_t nuport_mac_link_interrupt(int irq, void *dev_id)
 420 {
 421         struct net_device *dev = dev_id;
 422         struct nuport_mac_priv *priv = netdev_priv(dev);
 423         u32 reg;
 424         u8 phy_addr;
 425         unsigned long flags;
 426         irqreturn_t ret = IRQ_HANDLED;
 427
 428         spin_lock_irqsave(&priv->lock, flags);
 429         reg = nuport_mac_readl(LINK_INT_CSR);
 430         phy_addr = (reg >> LINK_PHY_ADDR_SHIFT) & (PHY_MAX_ADDR - 1);
 431
 432         if (phy_addr != priv->phydev->addr) {
 433                 netdev_err(dev, "spurious PHY irq (phy: %d)\n", phy_addr);
 434                 ret = IRQ_NONE;
 435                 goto out;
 436         }
 437
 438         priv->phydev->link = (reg & LINK_UP);
 439         nuport_mac_adjust_link(dev);
 440
 441 out:
 442         spin_unlock_irqrestore(&priv->lock, flags);
 443         return ret;
 444 }
 445
 446 static irqreturn_t nuport_mac_tx_interrupt(int irq, void *dev_id)
 447 {
 448         struct net_device *dev = (struct net_device *)dev_id;
 449         struct nuport_mac_priv *priv = netdev_priv(dev);
 450         struct sk_buff *skb;
 451         unsigned long flags;
 452         int ret;
 453         u32 reg;
 454
 455         spin_lock_irqsave(&priv->lock, flags);
 456         /* clear status word available if ready */
 457         reg = nuport_mac_readl(TX_START_DMA);
 458         if (reg & TX_DMA_STATUS_AVAIL) {
 459                 nuport_mac_writel(reg, TX_START_DMA);
 460                 reg = nuport_mac_readl(TX_DMA_STATUS);
 461
 462                 if (reg & 1)
 463                         dev->stats.tx_errors++;
 464         } else
 465                 netdev_dbg(dev, "no status word: %08x\n", reg);
 466
 467         skb = priv->tx_skb[priv->dma_tx];
 468         priv->tx_skb[priv->dma_tx] = NULL;
 469         priv->valid_txskb[priv->dma_tx] = 0;
 470         dma_unmap_single(&priv->pdev->dev, priv->rx_addr, skb->len,
 471                                 DMA_TO_DEVICE);
 472         dev_kfree_skb_irq(skb);
 473
 474         priv->dma_tx++;
 475         if (priv->dma_tx >= TX_RING_SIZE)
 476                 priv->dma_tx = 0;
 477
 478         if (!priv->valid_txskb[priv->dma_tx])
 479                 priv->first_pkt = 1;
 480         else {
 481                 ret = nuport_mac_start_tx_dma(priv, priv->tx_skb[priv->dma_tx]);
 482                 if (ret)
 483                         netdev_err(dev, "failed to restart TX dma\n");
 484         }
 485
 486         if (priv->tx_full) {
 487                 netdev_dbg(dev, "restarting transmit queue\n");
 488                 netif_wake_queue(dev);
 489                 priv->tx_full = 0;
 490         }
 491
 492         spin_unlock_irqrestore(&priv->lock, flags);
 493
 494         return IRQ_HANDLED;
 495 }
 496
 497 static unsigned int nuport_mac_has_work(struct nuport_mac_priv *priv)
 498 {
 499         unsigned int i;
 500
 501         for (i = 0; i < RX_RING_SIZE; i++)
 502                 if (priv->rx_skb[i])
 503                         return 1;
 504
 505         return 0;
 506 }
 507
 508 static irqreturn_t nuport_mac_rx_interrupt(int irq, void *dev_id)
 509 {
 510         struct net_device *dev = (struct net_device *)dev_id;
 511         struct nuport_mac_priv *priv = netdev_priv(dev);
 512         unsigned long flags;
 513         int ret;
 514
 515         spin_lock_irqsave(&priv->lock, flags);
 516         if (!priv->rx_full) {
 517                 priv->pkt_len[priv->dma_rx] = nuport_mac_readl(RX_ACT_BYTES) - 4;
 518                 priv->irq_rxskb[priv->dma_rx] = 0;
 519                 priv->dma_rx++;
 520
 521                 if (priv->dma_rx >= RX_RING_SIZE)
 522                         priv->dma_rx = 0;
 523         } else
 524                 priv->rx_full = 0;
 525
 526         if (priv->irq_rxskb[priv->dma_rx] == 1) {
 527                 ret = nuport_mac_start_rx_dma(priv, priv->rx_skb[priv->dma_rx]);
 528                 if (ret)
 529                         netdev_err(dev, "failed to start rx dma\n");
 530         } else {
 531                 priv->rx_full = 1;
 532                 netdev_dbg(dev, "RX ring full\n");
 533         }
 534
 535         if (likely(nuport_mac_has_work(priv))) {
 536                 /* find a way to disable DMA rx irq */
 537                 nuport_mac_disable_rx_dma(priv);
 538                 napi_schedule(&priv->napi);
 539         }
 540         spin_unlock_irqrestore(&priv->lock, flags);
 541
 542         return IRQ_HANDLED;
 543 }
 544
 545 /* Process received packets in tasklet */
 546 static int nuport_mac_rx(struct net_device *dev, int limit)
 547 {
 548         struct nuport_mac_priv *priv = netdev_priv(dev);
 549         struct sk_buff *skb;
 550         int len, status;
 551         int count = 0;
 552
 553         while (count < limit && !priv->irq_rxskb[priv->cur_rx]) {
 554                 skb = priv->rx_skb[priv->cur_rx];
 555                 len = priv->pkt_len[priv->cur_rx];
 556
 557                 /* Remove 2 bytes added by RX buffer shifting */
 558                 len = len - priv->buffer_shifting_len;
 559                 skb->data = skb->data + priv->buffer_shifting_len;
 560
 561                 /* Get packet status */
 562                 status = get_unaligned((u32 *) (skb->data + len));
 563                 skb->dev = dev;
 564
 565                 dma_unmap_single(&priv->pdev->dev, priv->rx_addr, skb->len,
 566                                 DMA_FROM_DEVICE);
 567
 568                 /* packet filter failed */
 569                 if (!(status & (1 << 30))) {
 570                         dev_kfree_skb_irq(skb);
 571                         goto exit;
 572                 }
 573
 574                 /* missed frame */
 575                 if (status & (1 << 31)) {
 576                         dev->stats.rx_missed_errors++;
 577                         dev_kfree_skb_irq(skb);
 578                         goto exit;
 579                 }
 580
 581                 /* Not ethernet type */
 582                 if ((!(status & (1 << 18))) || (status & ERROR_FILTER_MASK))
 583                         dev->stats.rx_errors++;
 584
 585                 if (len > MAX_ETH_FRAME_SIZE) {
 586                         dev_kfree_skb_irq(skb);
 587                         goto exit;
 588                 } else
 589                         skb_put(skb, len);
 590
 591                 skb->protocol = eth_type_trans(skb, dev);
 592                 dev->stats.rx_packets++;
 593
 594                 if (status & (1 << 29))
 595                         skb->pkt_type = PACKET_OTHERHOST;
 596                 if (status & (1 << 27))
 597                         skb->pkt_type = PACKET_MULTICAST;
 598                 if (status & (1 << 28))
 599                         skb->pkt_type = PACKET_BROADCAST;
 600
 601                 skb->ip_summed = CHECKSUM_UNNECESSARY;
 602
 603                 /* Pass the received packet to network layer */
 604                 status = netif_receive_skb(skb);
 605                 if (status != NET_RX_DROP)
 606                         dev->stats.rx_bytes += len - 4; /* Without CRC */
 607                 else
 608                         dev->stats.rx_dropped++;
 609
 610                 dev->last_rx = jiffies;
 611
 612 exit:
 613                 skb = netdev_alloc_skb(dev, RX_ALLOC_SIZE);
 614                 skb_reserve(skb, RX_SKB_HEADROOM);
 615                 priv->rx_skb[priv->cur_rx] = skb;
 616                 priv->irq_rxskb[priv->cur_rx] = 1;
 617                 priv->cur_rx++;
 618
 619                 if (priv->cur_rx >= RX_RING_SIZE)
 620                         priv->cur_rx = 0;
 621                 count++;
 622         }
 623
 624         return count;
 625 }
 626
 627 static int nuport_mac_poll(struct napi_struct *napi, int budget)
 628 {
 629         struct nuport_mac_priv *priv =
 630                 container_of(napi, struct nuport_mac_priv, napi);
 631         struct net_device *dev = priv->dev;
 632         int work_done;
 633
 634         work_done = nuport_mac_rx(dev, budget);
 635
 636         if (work_done < budget) {
 637                 napi_complete(napi);
 638                 nuport_mac_enable_rx_dma(priv);
 639         }
 640
 641         return work_done;
 642 }
 643
 644 static void nuport_mac_init_tx_ring(struct nuport_mac_priv *priv)
 645 {
 646         int i;
 647
 648         priv->cur_tx = priv->dma_tx = priv->tx_full = 0;
 649         for (i = 0; i < TX_RING_SIZE; i++) {
 650                 priv->tx_skb[i] = NULL;
 651                 priv->valid_txskb[i] = 0;
 652         }
 653         priv->first_pkt = 1;
 654 }
 655
 656 static int nuport_mac_init_rx_ring(struct net_device *dev)
 657 {
 658         struct nuport_mac_priv *priv = netdev_priv(dev);
 659         struct sk_buff *skb;
 660         int i;
 661
 662         priv->cur_rx = priv->dma_rx = priv->rx_full = 0;
 663
 664         for (i = 0; i < RX_RING_SIZE; i++) {
 665                 skb = netdev_alloc_skb(dev, RX_ALLOC_SIZE);
 666                 if (!skb)
 667                         return -ENOMEM;
 668                 skb_reserve(skb, RX_SKB_HEADROOM);
 669                 priv->rx_skb[i] = skb;
 670                 priv->irq_rxskb[i] = 1;
 671         }
 672
 673         return 0;
 674 }
 675
 676 static void nuport_mac_free_rx_ring(struct nuport_mac_priv *priv)
 677 {
 678         int i;
 679
 680         for (i = 0; i < RX_RING_SIZE; i++) {
 681                 if (!priv->rx_skb[i])
 682                         continue;
 683
 684                 dev_kfree_skb(priv->rx_skb[i]);
 685                 priv->rx_skb[i] = NULL;
 686         }
 687 }
 688
 689 static void nuport_mac_read_mac_address(struct net_device *dev)
 690 {
 691         struct nuport_mac_priv *priv = netdev_priv(dev);
 692         int i;
 693
 694         for (i = 0; i < 4; i++)
 695                 dev->dev_addr[i] = nuport_mac_readb(MAC_ADDR_LOW_REG + i);
 696         dev->dev_addr[4] = nuport_mac_readb(MAC_ADDR_HIGH_REG);
 697         dev->dev_addr[5] = nuport_mac_readb(MAC_ADDR_HIGH_REG + 1);
 698
 699         if (!is_valid_ether_addr(dev->dev_addr)) {
 700                 dev_info(&priv->pdev->dev, "using random address\n");
 701                 random_ether_addr(dev->dev_addr);
 702         }
 703 }
 704
 705 static int nuport_mac_change_mac_address(struct net_device *dev, void *mac_addr)
 706 {
 707         struct sockaddr *addr = mac_addr;
 708         struct nuport_mac_priv *priv = netdev_priv(dev);
 709         unsigned long *temp = (unsigned long *)dev->dev_addr;
 710         u32 high, low;
 711
 712         if (netif_running(dev))
 713                 return -EBUSY;
 714
 715         memcpy(dev->dev_addr, addr->sa_data, ETH_ALEN);
 716
 717         spin_lock_irq(&priv->lock);
 718
 719         nuport_mac_writel(*temp, MAC_ADDR_LOW_REG);
 720         temp = (unsigned long *)(dev->dev_addr + 4);
 721         nuport_mac_writel(*temp, MAC_ADDR_HIGH_REG);
 722
 723         low = nuport_mac_readl(MAC_ADDR_LOW_REG);
 724         high = nuport_mac_readl(MAC_ADDR_HIGH_REG);
 725
 726         spin_unlock_irq(&priv->lock);
 727
 728         return 0;
 729 }
 730
 731 static int nuport_mac_open(struct net_device *dev)
 732 {
 733         int ret;
 734         struct nuport_mac_priv *priv = netdev_priv(dev);
 735         unsigned long flags;
 736         u32 reg = 0;
 737
 738         ret = clk_enable(priv->emac_clk);
 739         if (ret) {
 740                 netdev_err(dev, "failed to enable EMAC clock\n");
 741                 return ret;
 742         }
 743
 744         /* Set MAC into full duplex mode by default */
 745         reg |= RX_ENABLE | TX_ENABLE;
 746         reg |= DEFER_CHECK | STRIP_PAD | DRTRY_DISABLE;
 747         reg |= FULL_DUPLEX | HBD_DISABLE;
 748         nuport_mac_writel(reg, CTRL_REG);
 749
 750         /* set mac address in hardware in case it was not already */
 751         nuport_mac_change_mac_address(dev, dev->dev_addr);
 752
 753         ret = request_irq(priv->link_irq, &nuport_mac_link_interrupt,
 754                                 0, dev->name, dev);
 755         if (ret) {
 756                 netdev_err(dev, "unable to request link interrupt\n");
 757                 goto out_emac_clk;
 758         }
 759
 760         phy_start(priv->phydev);
 761
 762         /* Enable link interrupt monitoring for our PHY address */
 763         reg = LINK_INT_EN | (priv->phydev->addr << LINK_PHY_ADDR_SHIFT);
 764         /* MII_BMSR register to be watched */
 765         reg |= (1 << LINK_PHY_REG_SHIFT);
 766         /* BMSR_STATUS to be watched in particular */
 767         reg |= (2 << LINK_BIT_UP_SHIFT);
 768
 769         spin_lock_irqsave(&priv->lock, flags);
 770         nuport_mac_writel(reg, LINK_INT_CSR);
 771         nuport_mac_writel(LINK_POLL_MASK, LINK_INT_POLL_TIME);
 772         spin_unlock_irqrestore(&priv->lock, flags);
 773
 774         ret = request_irq(priv->tx_irq, &nuport_mac_tx_interrupt,
 775                                 0, dev->name, dev);
 776         if (ret) {
 777                 netdev_err(dev, "unable to request rx interrupt\n");
 778                 goto out_link_irq;
 779         }
 780
 781         napi_enable(&priv->napi);
 782
 783         ret = request_irq(priv->rx_irq, &nuport_mac_rx_interrupt,
 784                                 0, dev->name, dev);
 785         if (ret) {
 786                 netdev_err(dev, "unable to request tx interrupt\n");
 787                 goto out_tx_irq;
 788         }
 789
 790         netif_start_queue(dev);
 791
 792         nuport_mac_init_tx_ring(priv);
 793
 794         ret = nuport_mac_init_rx_ring(dev);
 795         if (ret) {
 796                 netdev_err(dev, "rx ring init failed\n");
 797                 goto out_rx_skb;
 798         }
 799
 800         nuport_mac_reset_tx_dma(priv);
 801         nuport_mac_reset_rx_dma(priv);
 802
 803         /* Start RX DMA */
 804         return nuport_mac_start_rx_dma(priv, priv->rx_skb[0]);
 805
 806 out_rx_skb:
 807         nuport_mac_free_rx_ring(priv);
 808         free_irq(priv->rx_irq, dev);
 809 out_tx_irq:
 810         free_irq(priv->tx_irq, dev);
 811 out_link_irq:
 812         free_irq(priv->link_irq, dev);
 813 out_emac_clk:
 814         clk_disable(priv->emac_clk);
 815         return ret;
 816 }
 817
 818 static int nuport_mac_close(struct net_device *dev)
 819 {
 820         struct nuport_mac_priv *priv = netdev_priv(dev);
 821
 822         spin_lock_irq(&priv->lock);
 823         napi_disable(&priv->napi);
 824         netif_stop_queue(dev);
 825
 826         free_irq(priv->link_irq, dev);
 827         /* disable PHY polling */
 828         nuport_mac_writel(0, LINK_INT_CSR);
 829         nuport_mac_writel(0, LINK_INT_POLL_TIME);
 830         phy_stop(priv->phydev);
 831
 832         free_irq(priv->tx_irq, dev);
 833         free_irq(priv->rx_irq, dev);
 834         spin_unlock_irq(&priv->lock);
 835
 836         nuport_mac_free_rx_ring(priv);
 837
 838         clk_disable(priv->emac_clk);
 839
 840         return 0;
 841 }
 842
 843 static void nuport_mac_tx_timeout(struct net_device *dev)
 844 {
 845         struct nuport_mac_priv *priv = netdev_priv(dev);
 846         unsigned int i;
 847
 848         netdev_warn(dev, "transmit timeout, attempting recovery\n");
 849
 850         netdev_info(dev, "TX DMA regs\n");
 851         for (i = 0; i < DMA_CHAN_WIDTH; i += 4)
 852                 netdev_info(dev, "[%02x]: 0x%08x\n", i, nuport_mac_readl(TX_DMA_BASE + i));
 853         netdev_info(dev, "RX DMA regs\n");
 854         for (i = 0; i < DMA_CHAN_WIDTH; i += 4)
 855                 netdev_info(dev, "[%02x]: 0x%08x\n", i, nuport_mac_readl(RX_DMA_BASE + i));
 856
 857         nuport_mac_init_tx_ring(priv);
 858         nuport_mac_reset_tx_dma(priv);
 859
 860         netif_wake_queue(dev);
 861 }
 862
 863 static int nuport_mac_mii_probe(struct net_device *dev)
 864 {
 865         struct nuport_mac_priv *priv = netdev_priv(dev);
 866         struct phy_device *phydev = NULL;
 867         int ret;
 868
 869         ret = clk_enable(priv->ephy_clk);
 870         if (ret) {
 871                 netdev_err(dev, "unable to enable ePHY clk\n");
 872                 return ret;
 873         }
 874
 875         phydev = phy_find_first(priv->mii_bus);
 876         if (!phydev) {
 877                 netdev_err(dev, "no PHYs found\n");
 878                 ret = -ENODEV;
 879                 goto out;
 880         }
 881
 882         phydev = phy_connect(dev, dev_name(&phydev->dev),
 883                         nuport_mac_adjust_link, 0,
 884                         PHY_INTERFACE_MODE_MII);
 885         if (IS_ERR(phydev)) {
 886                 netdev_err(dev, "could not attach PHY\n");
 887                 ret = PTR_ERR(phydev);
 888                 goto out;
 889         }
 890
 891         phydev->supported &= PHY_BASIC_FEATURES;
 892         phydev->advertising = phydev->supported;
 893         priv->phydev = phydev;
 894         priv->old_link = 1;
 895         priv->old_duplex = DUPLEX_FULL;
 896
 897         dev_info(&priv->pdev->dev, "attached PHY driver [%s] "
 898                 "(mii_bus:phy_addr=%d)\n",
 899                 phydev->drv->name, phydev->addr);
 900
 901         return 0;
 902
 903 out:
 904         /* disable the Ethernet PHY clock for the moment */
 905         clk_disable(priv->ephy_clk);
 906
 907         return ret;
 908 }
 909
 910 static void nuport_mac_ethtool_drvinfo(struct net_device *dev,
 911                                         struct ethtool_drvinfo *info)
 912 {
 913         strncpy(info->driver, "nuport-mac", sizeof(info->driver));
 914         strncpy(info->version, "0.1", sizeof(info->version));
 915         strncpy(info->fw_version, "N/A", sizeof(info->fw_version));
 916         strncpy(info->bus_info, "internal", sizeof(info->bus_info));
 917         info->n_stats = 0;
 918         info->testinfo_len = 0;
 919         info->regdump_len = 0;
 920         info->eedump_len = 0;
 921 }
 922
 923 static int nuport_mac_ethtool_get_settings(struct net_device *dev,
 924                                         struct ethtool_cmd *cmd)
 925 {
 926         struct nuport_mac_priv *priv = netdev_priv(dev);
 927
 928         if (priv->phydev)
 929                 return phy_ethtool_gset(priv->phydev, cmd);
 930
 931         return -EINVAL;
 932 }
 933
 934 static int nuport_mac_ethtool_set_settings(struct net_device *dev,
 935                                         struct ethtool_cmd *cmd)
 936 {
 937         struct nuport_mac_priv *priv = netdev_priv(dev);
 938
 939         if (priv->phydev)
 940                 return phy_ethtool_sset(priv->phydev, cmd);
 941
 942         return -EINVAL;
 943 }
 944
 945 static void nuport_mac_set_msglevel(struct net_device *dev, u32 msg_level)
 946 {
 947         struct nuport_mac_priv *priv = netdev_priv(dev);
 948
 949         priv->msg_level = msg_level;
 950 }
 951
 952 static u32 nuport_mac_get_msglevel(struct net_device *dev)
 953 {
 954         struct nuport_mac_priv *priv = netdev_priv(dev);
 955
 956         return priv->msg_level;
 957 }
 958
 959 static const struct ethtool_ops nuport_mac_ethtool_ops = {
 960         .get_drvinfo            = nuport_mac_ethtool_drvinfo,
 961         .get_link               = ethtool_op_get_link,
 962         .get_settings           = nuport_mac_ethtool_get_settings,
 963         .set_settings           = nuport_mac_ethtool_set_settings,
 964         .set_msglevel           = nuport_mac_set_msglevel,
 965         .get_msglevel           = nuport_mac_get_msglevel,
 966 };
 967
 968 static const struct net_device_ops nuport_mac_ops = {
 969         .ndo_open               = nuport_mac_open,
 970         .ndo_stop               = nuport_mac_close,
 971         .ndo_start_xmit         = nuport_mac_start_xmit,
 972         .ndo_change_mtu         = eth_change_mtu,
 973         .ndo_validate_addr      = eth_validate_addr,
 974         .ndo_set_mac_address    = nuport_mac_change_mac_address,
 975         .ndo_tx_timeout         = nuport_mac_tx_timeout,
 976 };
 977
 978 static int __init nuport_mac_probe(struct platform_device *pdev)
 979 {
 980         struct net_device *dev;
 981         struct nuport_mac_priv *priv = NULL;
 982         struct resource *regs, *dma;
 983         int ret = 0;
 984         int rx_irq, tx_irq, link_irq;
 985         int i;
 986         const unsigned int *intspec;
 987
 988         dev = alloc_etherdev(sizeof(struct nuport_mac_priv));
 989         if (!dev) {
 990                 dev_err(&pdev->dev, "no memory for net_device\n");
 991                 return -ENOMEM;
 992         }
 993
 994         regs = platform_get_resource(pdev, IORESOURCE_MEM, 0);
 995         dma = platform_get_resource(pdev, IORESOURCE_MEM, 1);
 996         if (!regs || !dma) {
 997                 dev_err(&pdev->dev, "failed to get regs resources\n");
 998                 ret = -ENODEV;
 999                 goto out;
1000         }
1001
1002         rx_irq = platform_get_irq(pdev, 0);
1003         tx_irq = platform_get_irq(pdev, 1);
1004         link_irq = platform_get_irq(pdev, 2);
1005         if (rx_irq < 0 || tx_irq < 0 || link_irq < 0) {
1006                 ret = -ENODEV;
1007                 goto out;
1008         }
1009
1010         platform_set_drvdata(pdev, dev);
1011         SET_NETDEV_DEV(dev, &pdev->dev);
1012         priv = netdev_priv(dev);
1013         priv->pdev = pdev;
1014         priv->dev = dev;
1015         spin_lock_init(&priv->lock);
1016
1017         intspec = of_get_property(pdev->dev.of_node,
1018                                 "nuport-mac,buffer-shifting", NULL);
1019         if (!intspec)
1020                 priv->buffer_shifting_len = 0;
1021         else
1022                 priv->buffer_shifting_len = 2;
1023
1024         priv->mac_base = devm_ioremap(&pdev->dev,
1025                                 regs->start, resource_size(regs));
1026         if (!priv->mac_base) {
1027                 dev_err(&pdev->dev, "failed to remap regs\n");
1028                 ret = -ENOMEM;
1029                 goto out_platform;
1030         }
1031
1032         priv->dma_base = devm_ioremap(&pdev->dev,
1033                                 dma->start, resource_size(dma));
1034         if (!priv->dma_base) {
1035                 dev_err(&pdev->dev, "failed to remap dma-regs\n");
1036                 ret = -ENOMEM;
1037                 goto out_platform;
1038         }
1039
1040         priv->emac_clk = clk_get(&pdev->dev, "emac");
1041         if (IS_ERR_OR_NULL(priv->emac_clk)) {
1042                 dev_err(&pdev->dev, "failed to get emac clk\n");
1043                 ret = PTR_ERR(priv->emac_clk);
1044                 goto out_platform;
1045         }
1046
1047         priv->ephy_clk = clk_get(&pdev->dev, "ephy");
1048         if (IS_ERR_OR_NULL(priv->ephy_clk)) {
1049                 dev_err(&pdev->dev, "failed to get ephy clk\n");
1050                 ret = PTR_ERR(priv->ephy_clk);
1051                 goto out_platform;
1052         }
1053
1054         priv->link_irq = link_irq;
1055         priv->rx_irq = rx_irq;
1056         priv->tx_irq = tx_irq;
1057         priv->msg_level = NETIF_MSG_DRV | NETIF_MSG_PROBE | NETIF_MSG_LINK;
1058         dev->netdev_ops = &nuport_mac_ops;
1059         dev->ethtool_ops = &nuport_mac_ethtool_ops;
1060         dev->watchdog_timeo = HZ;
1061         dev->flags = IFF_BROADCAST;     /* Supports Broadcast */
1062         dev->tx_queue_len = TX_RING_SIZE / 2;
1063
1064         netif_napi_add(dev, &priv->napi, nuport_mac_poll, 64);
1065
1066         priv->mii_bus = mdiobus_alloc();
1067         if (!priv->mii_bus) {
1068                 dev_err(&pdev->dev, "mii bus allocation failed\n");
1069                 goto out;
1070         }
1071
1072         priv->mii_bus->priv = dev;
1073         priv->mii_bus->read = nuport_mac_mii_read;
1074         priv->mii_bus->write = nuport_mac_mii_write;
1075         priv->mii_bus->reset = nuport_mac_mii_reset;
1076         priv->mii_bus->name = "nuport-mac-mii";
1077         priv->mii_bus->phy_mask = (1 << 0);
1078         snprintf(priv->mii_bus->id, MII_BUS_ID_SIZE, "%s", pdev->name);
1079         priv->mii_bus->irq = kzalloc(PHY_MAX_ADDR * sizeof(int), GFP_KERNEL);
1080         if (!priv->mii_bus->irq) {
1081                 dev_err(&pdev->dev, "failed to allocate mii_bus irqs\n");
1082                 ret = -ENOMEM;
1083                 goto out_mdio;
1084         }
1085
1086         /* We support PHY interrupts routed back to the MAC */
1087         for (i = 0; i < PHY_MAX_ADDR; i++)
1088                 priv->mii_bus->irq[i] = PHY_IGNORE_INTERRUPT;
1089
1090         ret = mdiobus_register(priv->mii_bus);
1091         if (ret) {
1092                 dev_err(&pdev->dev, "failed to register mii_bus\n");
1093                 goto out_mdio_irq;
1094         }
1095
1096         ret = nuport_mac_mii_probe(dev);
1097         if (ret) {
1098                 dev_err(&pdev->dev, "failed to probe MII bus\n");
1099                 goto out_mdio_unregister;
1100         }
1101
1102         ret = register_netdev(dev);
1103         if (ret) {
1104                 dev_err(&pdev->dev, "failed to register net_device\n");
1105                 goto out_mdio_probe;
1106         }
1107
1108         /* read existing mac address */
1109         nuport_mac_read_mac_address(dev);
1110
1111         dev_info(&pdev->dev, "registered (MAC: %pM)\n", dev->dev_addr);
1112
1113         return ret;
1114
1115 out_mdio_probe:
1116         phy_disconnect(priv->phydev);
1117 out_mdio_unregister:
1118         mdiobus_unregister(priv->mii_bus);
1119 out_mdio_irq:
1120         kfree(priv->mii_bus->irq);
1121 out_mdio:
1122         mdiobus_free(priv->mii_bus);
1123 out_platform:
1124         platform_set_drvdata(pdev, NULL);
1125 out:
1126         clk_put(priv->ephy_clk);
1127         clk_put(priv->emac_clk);
1128         free_netdev(dev);
1129         platform_set_drvdata(pdev, NULL);
1130         return ret;
1131 }
1132
1133 static int nuport_mac_remove(struct platform_device *pdev)
1134 {
1135         struct net_device *dev = platform_get_drvdata(pdev);
1136         struct nuport_mac_priv *priv = netdev_priv(dev);
1137
1138         unregister_netdev(dev);
1139         phy_disconnect(priv->phydev);
1140         mdiobus_unregister(priv->mii_bus);
1141         kfree(priv->mii_bus->irq);
1142         mdiobus_free(priv->mii_bus);
1143         clk_put(priv->ephy_clk);
1144         clk_put(priv->emac_clk);
1145         free_netdev(dev);
1146
1147         platform_set_drvdata(pdev, NULL);
1148
1149         return 0;
1150 }
1151
1152 static struct of_device_id nuport_eth_ids[] __initdata = {
1153         {.compatible = "moschip,nuport-mac",},
1154         { /* sentinel */ },
1155 };
1156
1157 static struct platform_driver nuport_eth_driver = {
1158         .driver = {
1159                 .name = "nuport-mac",
1160                 .owner = THIS_MODULE,
1161                 .of_match_table = nuport_eth_ids,
1162         },
1163         .probe  = nuport_mac_probe,
1164         .remove = __devexit_p(nuport_mac_remove),
1165 };
1166
1167 module_platform_driver(nuport_eth_driver);
1168
1169 MODULE_AUTHOR("Moschip Semiconductors Ltd.");
1170 MODULE_DESCRIPTION("Moschip MCS8140 Ethernet MAC driver");
1171 MODULE_LICENSE("GPL");