drivers/mtd/spi/spi-nor-core.c

   1 // SPDX-License-Identifier: GPL-2.0
   2 /*
   3  * Based on m25p80.c, by Mike Lavender (mike@steroidmicros.com), with
   4  * influence from lart.c (Abraham Van Der Merwe) and mtd_dataflash.c
   5  *
   6  * Copyright (C) 2005, Intec Automation Inc.
   7  * Copyright (C) 2014, Freescale Semiconductor, Inc.
   8  *
   9  * Synced from Linux v4.19
  10  */
  11
  12 #include <common.h>
  13 #include <dm/device_compat.h>
  14 #include <dm/devres.h>
  15 #include <linux/err.h>
  16 #include <linux/errno.h>
  17 #include <linux/log2.h>
  18 #include <linux/math64.h>
  19 #include <linux/sizes.h>
  20
  21 #include <linux/mtd/mtd.h>
  22 #include <linux/mtd/spi-nor.h>
  23 #include <spi-mem.h>
  24 #include <spi.h>
  25
  26 #include "sf_internal.h"
  27
  28 /* Define max times to check status register before we give up. */
  29
  30 /*
  31  * For everything but full-chip erase; probably could be much smaller, but kept
  32  * around for safety for now
  33  */
  34
  35 #define HZ                                      CONFIG_SYS_HZ
  36
  37 #define DEFAULT_READY_WAIT_JIFFIES              (40UL * HZ)
  38
  39 static int spi_nor_read_write_reg(struct spi_nor *nor, struct spi_mem_op
  40                 *op, void *buf)
  41 {
  42         if (op->data.dir == SPI_MEM_DATA_IN)
  43                 op->data.buf.in = buf;
  44         else
  45                 op->data.buf.out = buf;
  46         return spi_mem_exec_op(nor->spi, op);
  47 }
  48
  49 static int spi_nor_read_reg(struct spi_nor *nor, u8 code, u8 *val, int len)
  50 {
  51         struct spi_mem_op op = SPI_MEM_OP(SPI_MEM_OP_CMD(code, 1),
  52                                           SPI_MEM_OP_NO_ADDR,
  53                                           SPI_MEM_OP_NO_DUMMY,
  54                                           SPI_MEM_OP_DATA_IN(len, NULL, 1));
  55         int ret;
  56
  57         ret = spi_nor_read_write_reg(nor, &op, val);
  58         if (ret < 0)
  59                 dev_dbg(&flash->spimem->spi->dev, "error %d reading %x\n", ret,
  60                         code);
  61
  62         return ret;
  63 }
  64
  65 static int spi_nor_write_reg(struct spi_nor *nor, u8 opcode, u8 *buf, int len)
  66 {
  67         struct spi_mem_op op = SPI_MEM_OP(SPI_MEM_OP_CMD(opcode, 1),
  68                                           SPI_MEM_OP_NO_ADDR,
  69                                           SPI_MEM_OP_NO_DUMMY,
  70                                           SPI_MEM_OP_DATA_OUT(len, NULL, 1));
  71
  72         return spi_nor_read_write_reg(nor, &op, buf);
  73 }
  74
  75 static ssize_t spi_nor_read_data(struct spi_nor *nor, loff_t from, size_t len,
  76                                  u_char *buf)
  77 {
  78         struct spi_mem_op op =
  79                         SPI_MEM_OP(SPI_MEM_OP_CMD(nor->read_opcode, 1),
  80                                    SPI_MEM_OP_ADDR(nor->addr_width, from, 1),
  81                                    SPI_MEM_OP_DUMMY(nor->read_dummy, 1),
  82                                    SPI_MEM_OP_DATA_IN(len, buf, 1));
  83         size_t remaining = len;
  84         int ret;
  85
  86         /* get transfer protocols. */
  87         op.cmd.buswidth = spi_nor_get_protocol_inst_nbits(nor->read_proto);
  88         op.addr.buswidth = spi_nor_get_protocol_addr_nbits(nor->read_proto);
  89         op.dummy.buswidth = op.addr.buswidth;
  90         op.data.buswidth = spi_nor_get_protocol_data_nbits(nor->read_proto);
  91
  92         /* convert the dummy cycles to the number of bytes */
  93         op.dummy.nbytes = (nor->read_dummy * op.dummy.buswidth) / 8;
  94
  95         while (remaining) {
  96                 op.data.nbytes = remaining < UINT_MAX ? remaining : UINT_MAX;
  97                 ret = spi_mem_adjust_op_size(nor->spi, &op);
  98                 if (ret)
  99                         return ret;
 100
 101                 ret = spi_mem_exec_op(nor->spi, &op);
 102                 if (ret)
 103                         return ret;
 104
 105                 op.addr.val += op.data.nbytes;
 106                 remaining -= op.data.nbytes;
 107                 op.data.buf.in += op.data.nbytes;
 108         }
 109
 110         return len;
 111 }
 112
 113 static ssize_t spi_nor_write_data(struct spi_nor *nor, loff_t to, size_t len,
 114                                   const u_char *buf)
 115 {
 116         struct spi_mem_op op =
 117                         SPI_MEM_OP(SPI_MEM_OP_CMD(nor->program_opcode, 1),
 118                                    SPI_MEM_OP_ADDR(nor->addr_width, to, 1),
 119                                    SPI_MEM_OP_NO_DUMMY,
 120                                    SPI_MEM_OP_DATA_OUT(len, buf, 1));
 121         int ret;
 122
 123         /* get transfer protocols. */
 124         op.cmd.buswidth = spi_nor_get_protocol_inst_nbits(nor->write_proto);
 125         op.addr.buswidth = spi_nor_get_protocol_addr_nbits(nor->write_proto);
 126         op.data.buswidth = spi_nor_get_protocol_data_nbits(nor->write_proto);
 127
 128         if (nor->program_opcode == SPINOR_OP_AAI_WP && nor->sst_write_second)
 129                 op.addr.nbytes = 0;
 130
 131         ret = spi_mem_adjust_op_size(nor->spi, &op);
 132         if (ret)
 133                 return ret;
 134         op.data.nbytes = len < op.data.nbytes ? len : op.data.nbytes;
 135
 136         ret = spi_mem_exec_op(nor->spi, &op);
 137         if (ret)
 138                 return ret;
 139
 140         return op.data.nbytes;
 141 }
 142
 143 /*
 144  * Read the status register, returning its value in the location
 145  * Return the status register value.
 146  * Returns negative if error occurred.
 147  */
 148 static int read_sr(struct spi_nor *nor)
 149 {
 150         int ret;
 151         u8 val;
 152
 153         ret = nor->read_reg(nor, SPINOR_OP_RDSR, &val, 1);
 154         if (ret < 0) {
 155                 pr_debug("error %d reading SR\n", (int)ret);
 156                 return ret;
 157         }
 158
 159         return val;
 160 }
 161
 162 /*
 163  * Read the flag status register, returning its value in the location
 164  * Return the status register value.
 165  * Returns negative if error occurred.
 166  */
 167 static int read_fsr(struct spi_nor *nor)
 168 {
 169         int ret;
 170         u8 val;
 171
 172         ret = nor->read_reg(nor, SPINOR_OP_RDFSR, &val, 1);
 173         if (ret < 0) {
 174                 pr_debug("error %d reading FSR\n", ret);
 175                 return ret;
 176         }
 177
 178         return val;
 179 }
 180
 181 /*
 182  * Read configuration register, returning its value in the
 183  * location. Return the configuration register value.
 184  * Returns negative if error occurred.
 185  */
 186 #if defined(CONFIG_SPI_FLASH_SPANSION) || defined(CONFIG_SPI_FLASH_WINBOND)
 187 static int read_cr(struct spi_nor *nor)
 188 {
 189         int ret;
 190         u8 val;
 191
 192         ret = nor->read_reg(nor, SPINOR_OP_RDCR, &val, 1);
 193         if (ret < 0) {
 194                 dev_dbg(nor->dev, "error %d reading CR\n", ret);
 195                 return ret;
 196         }
 197
 198         return val;
 199 }
 200 #endif
 201
 202 /*
 203  * Write status register 1 byte
 204  * Returns negative if error occurred.
 205  */
 206 static int write_sr(struct spi_nor *nor, u8 val)
 207 {
 208         nor->cmd_buf[0] = val;
 209         return nor->write_reg(nor, SPINOR_OP_WRSR, nor->cmd_buf, 1);
 210 }
 211
 212 /*
 213  * Set write enable latch with Write Enable command.
 214  * Returns negative if error occurred.
 215  */
 216 static int write_enable(struct spi_nor *nor)
 217 {
 218         return nor->write_reg(nor, SPINOR_OP_WREN, NULL, 0);
 219 }
 220
 221 /*
 222  * Send write disable instruction to the chip.
 223  */
 224 static int write_disable(struct spi_nor *nor)
 225 {
 226         return nor->write_reg(nor, SPINOR_OP_WRDI, NULL, 0);
 227 }
 228
 229 static struct spi_nor *mtd_to_spi_nor(struct mtd_info *mtd)
 230 {
 231         return mtd->priv;
 232 }
 233
 234 #ifndef CONFIG_SPI_FLASH_BAR
 235 static u8 spi_nor_convert_opcode(u8 opcode, const u8 table[][2], size_t size)
 236 {
 237         size_t i;
 238
 239         for (i = 0; i < size; i++)
 240                 if (table[i][0] == opcode)
 241                         return table[i][1];
 242
 243         /* No conversion found, keep input op code. */
 244         return opcode;
 245 }
 246
 247 static u8 spi_nor_convert_3to4_read(u8 opcode)
 248 {
 249         static const u8 spi_nor_3to4_read[][2] = {
 250                 { SPINOR_OP_READ,       SPINOR_OP_READ_4B },
 251                 { SPINOR_OP_READ_FAST,  SPINOR_OP_READ_FAST_4B },
 252                 { SPINOR_OP_READ_1_1_2, SPINOR_OP_READ_1_1_2_4B },
 253                 { SPINOR_OP_READ_1_2_2, SPINOR_OP_READ_1_2_2_4B },
 254                 { SPINOR_OP_READ_1_1_4, SPINOR_OP_READ_1_1_4_4B },
 255                 { SPINOR_OP_READ_1_4_4, SPINOR_OP_READ_1_4_4_4B },
 256                 { SPINOR_OP_READ_1_1_8, SPINOR_OP_READ_1_1_8_4B },
 257                 { SPINOR_OP_READ_1_8_8, SPINOR_OP_READ_1_8_8_4B },
 258
 259                 { SPINOR_OP_READ_1_1_1_DTR,     SPINOR_OP_READ_1_1_1_DTR_4B },
 260                 { SPINOR_OP_READ_1_2_2_DTR,     SPINOR_OP_READ_1_2_2_DTR_4B },
 261                 { SPINOR_OP_READ_1_4_4_DTR,     SPINOR_OP_READ_1_4_4_DTR_4B },
 262         };
 263
 264         return spi_nor_convert_opcode(opcode, spi_nor_3to4_read,
 265                                       ARRAY_SIZE(spi_nor_3to4_read));
 266 }
 267
 268 static u8 spi_nor_convert_3to4_program(u8 opcode)
 269 {
 270         static const u8 spi_nor_3to4_program[][2] = {
 271                 { SPINOR_OP_PP,         SPINOR_OP_PP_4B },
 272                 { SPINOR_OP_PP_1_1_4,   SPINOR_OP_PP_1_1_4_4B },
 273                 { SPINOR_OP_PP_1_4_4,   SPINOR_OP_PP_1_4_4_4B },
 274                 { SPINOR_OP_PP_1_1_8,   SPINOR_OP_PP_1_1_8_4B },
 275                 { SPINOR_OP_PP_1_8_8,   SPINOR_OP_PP_1_8_8_4B },
 276         };
 277
 278         return spi_nor_convert_opcode(opcode, spi_nor_3to4_program,
 279                                       ARRAY_SIZE(spi_nor_3to4_program));
 280 }
 281
 282 static u8 spi_nor_convert_3to4_erase(u8 opcode)
 283 {
 284         static const u8 spi_nor_3to4_erase[][2] = {
 285                 { SPINOR_OP_BE_4K,      SPINOR_OP_BE_4K_4B },
 286                 { SPINOR_OP_BE_32K,     SPINOR_OP_BE_32K_4B },
 287                 { SPINOR_OP_SE,         SPINOR_OP_SE_4B },
 288         };
 289
 290         return spi_nor_convert_opcode(opcode, spi_nor_3to4_erase,
 291                                       ARRAY_SIZE(spi_nor_3to4_erase));
 292 }
 293
 294 static void spi_nor_set_4byte_opcodes(struct spi_nor *nor,
 295                                       const struct flash_info *info)
 296 {
 297         /* Do some manufacturer fixups first */
 298         switch (JEDEC_MFR(info)) {
 299         case SNOR_MFR_SPANSION:
 300                 /* No small sector erase for 4-byte command set */
 301                 nor->erase_opcode = SPINOR_OP_SE;
 302                 nor->mtd.erasesize = info->sector_size;
 303                 break;
 304
 305         default:
 306                 break;
 307         }
 308
 309         nor->read_opcode = spi_nor_convert_3to4_read(nor->read_opcode);
 310         nor->program_opcode = spi_nor_convert_3to4_program(nor->program_opcode);
 311         nor->erase_opcode = spi_nor_convert_3to4_erase(nor->erase_opcode);
 312 }
 313 #endif /* !CONFIG_SPI_FLASH_BAR */
 314
 315 /* Enable/disable 4-byte addressing mode. */
 316 static int set_4byte(struct spi_nor *nor, const struct flash_info *info,
 317                      int enable)
 318 {
 319         int status;
 320         bool need_wren = false;
 321         u8 cmd;
 322
 323         switch (JEDEC_MFR(info)) {
 324         case SNOR_MFR_ST:
 325         case SNOR_MFR_MICRON:
 326                 /* Some Micron need WREN command; all will accept it */
 327                 need_wren = true;
 328         case SNOR_MFR_MACRONIX:
 329         case SNOR_MFR_WINBOND:
 330                 if (need_wren)
 331                         write_enable(nor);
 332
 333                 cmd = enable ? SPINOR_OP_EN4B : SPINOR_OP_EX4B;
 334                 status = nor->write_reg(nor, cmd, NULL, 0);
 335                 if (need_wren)
 336                         write_disable(nor);
 337
 338                 if (!status && !enable &&
 339                     JEDEC_MFR(info) == SNOR_MFR_WINBOND) {
 340                         /*
 341                          * On Winbond W25Q256FV, leaving 4byte mode causes
 342                          * the Extended Address Register to be set to 1, so all
 343                          * 3-byte-address reads come from the second 16M.
 344                          * We must clear the register to enable normal behavior.
 345                          */
 346                         write_enable(nor);
 347                         nor->cmd_buf[0] = 0;
 348                         nor->write_reg(nor, SPINOR_OP_WREAR, nor->cmd_buf, 1);
 349                         write_disable(nor);
 350                 }
 351
 352                 return status;
 353         default:
 354                 /* Spansion style */
 355                 nor->cmd_buf[0] = enable << 7;
 356                 return nor->write_reg(nor, SPINOR_OP_BRWR, nor->cmd_buf, 1);
 357         }
 358 }
 359
 360 static int spi_nor_sr_ready(struct spi_nor *nor)
 361 {
 362         int sr = read_sr(nor);
 363
 364         if (sr < 0)
 365                 return sr;
 366
 367         if (nor->flags & SNOR_F_USE_CLSR && sr & (SR_E_ERR | SR_P_ERR)) {
 368                 if (sr & SR_E_ERR)
 369                         dev_dbg(nor->dev, "Erase Error occurred\n");
 370                 else
 371                         dev_dbg(nor->dev, "Programming Error occurred\n");
 372
 373                 nor->write_reg(nor, SPINOR_OP_CLSR, NULL, 0);
 374                 return -EIO;
 375         }
 376
 377         return !(sr & SR_WIP);
 378 }
 379
 380 static int spi_nor_fsr_ready(struct spi_nor *nor)
 381 {
 382         int fsr = read_fsr(nor);
 383
 384         if (fsr < 0)
 385                 return fsr;
 386
 387         if (fsr & (FSR_E_ERR | FSR_P_ERR)) {
 388                 if (fsr & FSR_E_ERR)
 389                         dev_err(nor->dev, "Erase operation failed.\n");
 390                 else
 391                         dev_err(nor->dev, "Program operation failed.\n");
 392
 393                 if (fsr & FSR_PT_ERR)
 394                         dev_err(nor->dev,
 395                                 "Attempted to modify a protected sector.\n");
 396
 397                 nor->write_reg(nor, SPINOR_OP_CLFSR, NULL, 0);
 398                 return -EIO;
 399         }
 400
 401         return fsr & FSR_READY;
 402 }
 403
 404 static int spi_nor_ready(struct spi_nor *nor)
 405 {
 406         int sr, fsr;
 407
 408         sr = spi_nor_sr_ready(nor);
 409         if (sr < 0)
 410                 return sr;
 411         fsr = nor->flags & SNOR_F_USE_FSR ? spi_nor_fsr_ready(nor) : 1;
 412         if (fsr < 0)
 413                 return fsr;
 414         return sr && fsr;
 415 }
 416
 417 /*
 418  * Service routine to read status register until ready, or timeout occurs.
 419  * Returns non-zero if error.
 420  */
 421 static int spi_nor_wait_till_ready_with_timeout(struct spi_nor *nor,
 422                                                 unsigned long timeout)
 423 {
 424         unsigned long timebase;
 425         int ret;
 426
 427         timebase = get_timer(0);
 428
 429         while (get_timer(timebase) < timeout) {
 430                 ret = spi_nor_ready(nor);
 431                 if (ret < 0)
 432                         return ret;
 433                 if (ret)
 434                         return 0;
 435         }
 436
 437         dev_err(nor->dev, "flash operation timed out\n");
 438
 439         return -ETIMEDOUT;
 440 }
 441
 442 static int spi_nor_wait_till_ready(struct spi_nor *nor)
 443 {
 444         return spi_nor_wait_till_ready_with_timeout(nor,
 445                                                     DEFAULT_READY_WAIT_JIFFIES);
 446 }
 447
 448 #ifdef CONFIG_SPI_FLASH_BAR
 449 /*
 450  * This "clean_bar" is necessary in a situation when one was accessing
 451  * spi flash memory > 16 MiB by using Bank Address Register's BA24 bit.
 452  *
 453  * After it the BA24 bit shall be cleared to allow access to correct
 454  * memory region after SW reset (by calling "reset" command).
 455  *
 456  * Otherwise, the BA24 bit may be left set and then after reset, the
 457  * ROM would read/write/erase SPL from 16 MiB * bank_sel address.
 458  */
 459 static int clean_bar(struct spi_nor *nor)
 460 {
 461         u8 cmd, bank_sel = 0;
 462
 463         if (nor->bank_curr == 0)
 464                 return 0;
 465         cmd = nor->bank_write_cmd;
 466         nor->bank_curr = 0;
 467         write_enable(nor);
 468
 469         return nor->write_reg(nor, cmd, &bank_sel, 1);
 470 }
 471
 472 static int write_bar(struct spi_nor *nor, u32 offset)
 473 {
 474         u8 cmd, bank_sel;
 475         int ret;
 476
 477         bank_sel = offset / SZ_16M;
 478         if (bank_sel == nor->bank_curr)
 479                 goto bar_end;
 480
 481         cmd = nor->bank_write_cmd;
 482         write_enable(nor);
 483         ret = nor->write_reg(nor, cmd, &bank_sel, 1);
 484         if (ret < 0) {
 485                 debug("SF: fail to write bank register\n");
 486                 return ret;
 487         }
 488
 489 bar_end:
 490         nor->bank_curr = bank_sel;
 491         return nor->bank_curr;
 492 }
 493
 494 static int read_bar(struct spi_nor *nor, const struct flash_info *info)
 495 {
 496         u8 curr_bank = 0;
 497         int ret;
 498
 499         switch (JEDEC_MFR(info)) {
 500         case SNOR_MFR_SPANSION:
 501                 nor->bank_read_cmd = SPINOR_OP_BRRD;
 502                 nor->bank_write_cmd = SPINOR_OP_BRWR;
 503                 break;
 504         default:
 505                 nor->bank_read_cmd = SPINOR_OP_RDEAR;
 506                 nor->bank_write_cmd = SPINOR_OP_WREAR;
 507         }
 508
 509         ret = nor->read_reg(nor, nor->bank_read_cmd,
 510                                     &curr_bank, 1);
 511         if (ret) {
 512                 debug("SF: fail to read bank addr register\n");
 513                 return ret;
 514         }
 515         nor->bank_curr = curr_bank;
 516
 517         return 0;
 518 }
 519 #endif
 520
 521 /*
 522  * Initiate the erasure of a single sector
 523  */
 524 static int spi_nor_erase_sector(struct spi_nor *nor, u32 addr)
 525 {
 526         struct spi_mem_op op =
 527                 SPI_MEM_OP(SPI_MEM_OP_CMD(nor->erase_opcode, 1),
 528                            SPI_MEM_OP_ADDR(nor->addr_width, addr, 1),
 529                            SPI_MEM_OP_NO_DUMMY,
 530                            SPI_MEM_OP_NO_DATA);
 531
 532         if (nor->erase)
 533                 return nor->erase(nor, addr);
 534
 535         /*
 536          * Default implementation, if driver doesn't have a specialized HW
 537          * control
 538          */
 539         return spi_mem_exec_op(nor->spi, &op);
 540 }
 541
 542 /*
 543  * Erase an address range on the nor chip.  The address range may extend
 544  * one or more erase sectors.  Return an error is there is a problem erasing.
 545  */
 546 static int spi_nor_erase(struct mtd_info *mtd, struct erase_info *instr)
 547 {
 548         struct spi_nor *nor = mtd_to_spi_nor(mtd);
 549         u32 addr, len, rem;
 550         int ret;
 551
 552         dev_dbg(nor->dev, "at 0x%llx, len %lld\n", (long long)instr->addr,
 553                 (long long)instr->len);
 554
 555         if (!instr->len)
 556                 return 0;
 557
 558         div_u64_rem(instr->len, mtd->erasesize, &rem);
 559         if (rem)
 560                 return -EINVAL;
 561
 562         addr = instr->addr;
 563         len = instr->len;
 564
 565         while (len) {
 566 #ifdef CONFIG_SPI_FLASH_BAR
 567                 ret = write_bar(nor, addr);
 568                 if (ret < 0)
 569                         return ret;
 570 #endif
 571                 write_enable(nor);
 572
 573                 ret = spi_nor_erase_sector(nor, addr);
 574                 if (ret)
 575                         goto erase_err;
 576
 577                 addr += mtd->erasesize;
 578                 len -= mtd->erasesize;
 579
 580                 ret = spi_nor_wait_till_ready(nor);
 581                 if (ret)
 582                         goto erase_err;
 583         }
 584
 585 erase_err:
 586 #ifdef CONFIG_SPI_FLASH_BAR
 587         ret = clean_bar(nor);
 588 #endif
 589         write_disable(nor);
 590
 591         return ret;
 592 }
 593
 594 #if defined(CONFIG_SPI_FLASH_STMICRO) || defined(CONFIG_SPI_FLASH_SST)
 595 /* Write status register and ensure bits in mask match written values */
 596 static int write_sr_and_check(struct spi_nor *nor, u8 status_new, u8 mask)
 597 {
 598         int ret;
 599
 600         write_enable(nor);
 601         ret = write_sr(nor, status_new);
 602         if (ret)
 603                 return ret;
 604
 605         ret = spi_nor_wait_till_ready(nor);
 606         if (ret)
 607                 return ret;
 608
 609         ret = read_sr(nor);
 610         if (ret < 0)
 611                 return ret;
 612
 613         return ((ret & mask) != (status_new & mask)) ? -EIO : 0;
 614 }
 615
 616 static void stm_get_locked_range(struct spi_nor *nor, u8 sr, loff_t *ofs,
 617                                  uint64_t *len)
 618 {
 619         struct mtd_info *mtd = &nor->mtd;
 620         u8 mask = SR_BP2 | SR_BP1 | SR_BP0;
 621         int shift = ffs(mask) - 1;
 622         int pow;
 623
 624         if (!(sr & mask)) {
 625                 /* No protection */
 626                 *ofs = 0;
 627                 *len = 0;
 628         } else {
 629                 pow = ((sr & mask) ^ mask) >> shift;
 630                 *len = mtd->size >> pow;
 631                 if (nor->flags & SNOR_F_HAS_SR_TB && sr & SR_TB)
 632                         *ofs = 0;
 633                 else
 634                         *ofs = mtd->size - *len;
 635         }
 636 }
 637
 638 /*
 639  * Return 1 if the entire region is locked (if @locked is true) or unlocked (if
 640  * @locked is false); 0 otherwise
 641  */
 642 static int stm_check_lock_status_sr(struct spi_nor *nor, loff_t ofs, u64 len,
 643                                     u8 sr, bool locked)
 644 {
 645         loff_t lock_offs;
 646         uint64_t lock_len;
 647
 648         if (!len)
 649                 return 1;
 650
 651         stm_get_locked_range(nor, sr, &lock_offs, &lock_len);
 652
 653         if (locked)
 654                 /* Requested range is a sub-range of locked range */
 655                 return (ofs + len <= lock_offs + lock_len) && (ofs >= lock_offs);
 656         else
 657                 /* Requested range does not overlap with locked range */
 658                 return (ofs >= lock_offs + lock_len) || (ofs + len <= lock_offs);
 659 }
 660
 661 static int stm_is_locked_sr(struct spi_nor *nor, loff_t ofs, uint64_t len,
 662                             u8 sr)
 663 {
 664         return stm_check_lock_status_sr(nor, ofs, len, sr, true);
 665 }
 666
 667 static int stm_is_unlocked_sr(struct spi_nor *nor, loff_t ofs, uint64_t len,
 668                               u8 sr)
 669 {
 670         return stm_check_lock_status_sr(nor, ofs, len, sr, false);
 671 }
 672
 673 /*
 674  * Lock a region of the flash. Compatible with ST Micro and similar flash.
 675  * Supports the block protection bits BP{0,1,2} in the status register
 676  * (SR). Does not support these features found in newer SR bitfields:
 677  *   - SEC: sector/block protect - only handle SEC=0 (block protect)
 678  *   - CMP: complement protect - only support CMP=0 (range is not complemented)
 679  *
 680  * Support for the following is provided conditionally for some flash:
 681  *   - TB: top/bottom protect
 682  *
 683  * Sample table portion for 8MB flash (Winbond w25q64fw):
 684  *
 685  *   SEC  |  TB   |  BP2  |  BP1  |  BP0  |  Prot Length  | Protected Portion
 686  *  --------------------------------------------------------------------------
 687  *    X   |   X   |   0   |   0   |   0   |  NONE         | NONE
 688  *    0   |   0   |   0   |   0   |   1   |  128 KB       | Upper 1/64
 689  *    0   |   0   |   0   |   1   |   0   |  256 KB       | Upper 1/32
 690  *    0   |   0   |   0   |   1   |   1   |  512 KB       | Upper 1/16
 691  *    0   |   0   |   1   |   0   |   0   |  1 MB         | Upper 1/8
 692  *    0   |   0   |   1   |   0   |   1   |  2 MB         | Upper 1/4
 693  *    0   |   0   |   1   |   1   |   0   |  4 MB         | Upper 1/2
 694  *    X   |   X   |   1   |   1   |   1   |  8 MB         | ALL
 695  *  ------|-------|-------|-------|-------|---------------|-------------------
 696  *    0   |   1   |   0   |   0   |   1   |  128 KB       | Lower 1/64
 697  *    0   |   1   |   0   |   1   |   0   |  256 KB       | Lower 1/32
 698  *    0   |   1   |   0   |   1   |   1   |  512 KB       | Lower 1/16
 699  *    0   |   1   |   1   |   0   |   0   |  1 MB         | Lower 1/8
 700  *    0   |   1   |   1   |   0   |   1   |  2 MB         | Lower 1/4
 701  *    0   |   1   |   1   |   1   |   0   |  4 MB         | Lower 1/2
 702  *
 703  * Returns negative on errors, 0 on success.
 704  */
 705 static int stm_lock(struct spi_nor *nor, loff_t ofs, uint64_t len)
 706 {
 707         struct mtd_info *mtd = &nor->mtd;
 708         int status_old, status_new;
 709         u8 mask = SR_BP2 | SR_BP1 | SR_BP0;
 710         u8 shift = ffs(mask) - 1, pow, val;
 711         loff_t lock_len;
 712         bool can_be_top = true, can_be_bottom = nor->flags & SNOR_F_HAS_SR_TB;
 713         bool use_top;
 714
 715         status_old = read_sr(nor);
 716         if (status_old < 0)
 717                 return status_old;
 718
 719         /* If nothing in our range is unlocked, we don't need to do anything */
 720         if (stm_is_locked_sr(nor, ofs, len, status_old))
 721                 return 0;
 722
 723         /* If anything below us is unlocked, we can't use 'bottom' protection */
 724         if (!stm_is_locked_sr(nor, 0, ofs, status_old))
 725                 can_be_bottom = false;
 726
 727         /* If anything above us is unlocked, we can't use 'top' protection */
 728         if (!stm_is_locked_sr(nor, ofs + len, mtd->size - (ofs + len),
 729                               status_old))
 730                 can_be_top = false;
 731
 732         if (!can_be_bottom && !can_be_top)
 733                 return -EINVAL;
 734
 735         /* Prefer top, if both are valid */
 736         use_top = can_be_top;
 737
 738         /* lock_len: length of region that should end up locked */
 739         if (use_top)
 740                 lock_len = mtd->size - ofs;
 741         else
 742                 lock_len = ofs + len;
 743
 744         /*
 745          * Need smallest pow such that:
 746          *
 747          *   1 / (2^pow) <= (len / size)
 748          *
 749          * so (assuming power-of-2 size) we do:
 750          *
 751          *   pow = ceil(log2(size / len)) = log2(size) - floor(log2(len))
 752          */
 753         pow = ilog2(mtd->size) - ilog2(lock_len);
 754         val = mask - (pow << shift);
 755         if (val & ~mask)
 756                 return -EINVAL;
 757         /* Don't "lock" with no region! */
 758         if (!(val & mask))
 759                 return -EINVAL;
 760
 761         status_new = (status_old & ~mask & ~SR_TB) | val;
 762
 763         /* Disallow further writes if WP pin is asserted */
 764         status_new |= SR_SRWD;
 765
 766         if (!use_top)
 767                 status_new |= SR_TB;
 768
 769         /* Don't bother if they're the same */
 770         if (status_new == status_old)
 771                 return 0;
 772
 773         /* Only modify protection if it will not unlock other areas */
 774         if ((status_new & mask) < (status_old & mask))
 775                 return -EINVAL;
 776
 777         return write_sr_and_check(nor, status_new, mask);
 778 }
 779
 780 /*
 781  * Unlock a region of the flash. See stm_lock() for more info
 782  *
 783  * Returns negative on errors, 0 on success.
 784  */
 785 static int stm_unlock(struct spi_nor *nor, loff_t ofs, uint64_t len)
 786 {
 787         struct mtd_info *mtd = &nor->mtd;
 788         int status_old, status_new;
 789         u8 mask = SR_BP2 | SR_BP1 | SR_BP0;
 790         u8 shift = ffs(mask) - 1, pow, val;
 791         loff_t lock_len;
 792         bool can_be_top = true, can_be_bottom = nor->flags & SNOR_F_HAS_SR_TB;
 793         bool use_top;
 794
 795         status_old = read_sr(nor);
 796         if (status_old < 0)
 797                 return status_old;
 798
 799         /* If nothing in our range is locked, we don't need to do anything */
 800         if (stm_is_unlocked_sr(nor, ofs, len, status_old))
 801                 return 0;
 802
 803         /* If anything below us is locked, we can't use 'top' protection */
 804         if (!stm_is_unlocked_sr(nor, 0, ofs, status_old))
 805                 can_be_top = false;
 806
 807         /* If anything above us is locked, we can't use 'bottom' protection */
 808         if (!stm_is_unlocked_sr(nor, ofs + len, mtd->size - (ofs + len),
 809                                 status_old))
 810                 can_be_bottom = false;
 811
 812         if (!can_be_bottom && !can_be_top)
 813                 return -EINVAL;
 814
 815         /* Prefer top, if both are valid */
 816         use_top = can_be_top;
 817
 818         /* lock_len: length of region that should remain locked */
 819         if (use_top)
 820                 lock_len = mtd->size - (ofs + len);
 821         else
 822                 lock_len = ofs;
 823
 824         /*
 825          * Need largest pow such that:
 826          *
 827          *   1 / (2^pow) >= (len / size)
 828          *
 829          * so (assuming power-of-2 size) we do:
 830          *
 831          *   pow = floor(log2(size / len)) = log2(size) - ceil(log2(len))
 832          */
 833         pow = ilog2(mtd->size) - order_base_2(lock_len);
 834         if (lock_len == 0) {
 835                 val = 0; /* fully unlocked */
 836         } else {
 837                 val = mask - (pow << shift);
 838                 /* Some power-of-two sizes are not supported */
 839                 if (val & ~mask)
 840                         return -EINVAL;
 841         }
 842
 843         status_new = (status_old & ~mask & ~SR_TB) | val;
 844
 845         /* Don't protect status register if we're fully unlocked */
 846         if (lock_len == 0)
 847                 status_new &= ~SR_SRWD;
 848
 849         if (!use_top)
 850                 status_new |= SR_TB;
 851
 852         /* Don't bother if they're the same */
 853         if (status_new == status_old)
 854                 return 0;
 855
 856         /* Only modify protection if it will not lock other areas */
 857         if ((status_new & mask) > (status_old & mask))
 858                 return -EINVAL;
 859
 860         return write_sr_and_check(nor, status_new, mask);
 861 }
 862
 863 /*
 864  * Check if a region of the flash is (completely) locked. See stm_lock() for
 865  * more info.
 866  *
 867  * Returns 1 if entire region is locked, 0 if any portion is unlocked, and
 868  * negative on errors.
 869  */
 870 static int stm_is_locked(struct spi_nor *nor, loff_t ofs, uint64_t len)
 871 {
 872         int status;
 873
 874         status = read_sr(nor);
 875         if (status < 0)
 876                 return status;
 877
 878         return stm_is_locked_sr(nor, ofs, len, status);
 879 }
 880 #endif /* CONFIG_SPI_FLASH_STMICRO */
 881
 882 static const struct flash_info *spi_nor_read_id(struct spi_nor *nor)
 883 {
 884         int                     tmp;
 885         u8                      id[SPI_NOR_MAX_ID_LEN];
 886         const struct flash_info *info;
 887
 888         tmp = nor->read_reg(nor, SPINOR_OP_RDID, id, SPI_NOR_MAX_ID_LEN);
 889         if (tmp < 0) {
 890                 dev_dbg(nor->dev, "error %d reading JEDEC ID\n", tmp);
 891                 return ERR_PTR(tmp);
 892         }
 893
 894         info = spi_nor_ids;
 895         for (; info->name; info++) {
 896                 if (info->id_len) {
 897                         if (!memcmp(info->id, id, info->id_len))
 898                                 return info;
 899                 }
 900         }
 901
 902         dev_err(nor->dev, "unrecognized JEDEC id bytes: %02x, %02x, %02x\n",
 903                 id[0], id[1], id[2]);
 904         return ERR_PTR(-ENODEV);
 905 }
 906
 907 static int spi_nor_read(struct mtd_info *mtd, loff_t from, size_t len,
 908                         size_t *retlen, u_char *buf)
 909 {
 910         struct spi_nor *nor = mtd_to_spi_nor(mtd);
 911         int ret;
 912
 913         dev_dbg(nor->dev, "from 0x%08x, len %zd\n", (u32)from, len);
 914
 915         while (len) {
 916                 loff_t addr = from;
 917                 size_t read_len = len;
 918
 919 #ifdef CONFIG_SPI_FLASH_BAR
 920                 u32 remain_len;
 921
 922                 ret = write_bar(nor, addr);
 923                 if (ret < 0)
 924                         return log_ret(ret);
 925                 remain_len = (SZ_16M * (nor->bank_curr + 1)) - addr;
 926
 927                 if (len < remain_len)
 928                         read_len = len;
 929                 else
 930                         read_len = remain_len;
 931 #endif
 932
 933                 ret = nor->read(nor, addr, read_len, buf);
 934                 if (ret == 0) {
 935                         /* We shouldn't see 0-length reads */
 936                         ret = -EIO;
 937                         goto read_err;
 938                 }
 939                 if (ret < 0)
 940                         goto read_err;
 941
 942                 *retlen += ret;
 943                 buf += ret;
 944                 from += ret;
 945                 len -= ret;
 946         }
 947         ret = 0;
 948
 949 read_err:
 950 #ifdef CONFIG_SPI_FLASH_BAR
 951         ret = clean_bar(nor);
 952 #endif
 953         return ret;
 954 }
 955
 956 #ifdef CONFIG_SPI_FLASH_SST
 957 /*
 958  * sst26 flash series has its own block protection implementation:
 959  * 4x   - 8  KByte blocks - read & write protection bits - upper addresses
 960  * 1x   - 32 KByte blocks - write protection bits
 961  * rest - 64 KByte blocks - write protection bits
 962  * 1x   - 32 KByte blocks - write protection bits
 963  * 4x   - 8  KByte blocks - read & write protection bits - lower addresses
 964  *
 965  * We'll support only per 64k lock/unlock so lower and upper 64 KByte region
 966  * will be treated as single block.
 967  */
 968 #define SST26_BPR_8K_NUM                4
 969 #define SST26_MAX_BPR_REG_LEN           (18 + 1)
 970 #define SST26_BOUND_REG_SIZE            ((32 + SST26_BPR_8K_NUM * 8) * SZ_1K)
 971
 972 enum lock_ctl {
 973         SST26_CTL_LOCK,
 974         SST26_CTL_UNLOCK,
 975         SST26_CTL_CHECK
 976 };
 977
 978 static bool sst26_process_bpr(u32 bpr_size, u8 *cmd, u32 bit, enum lock_ctl ctl)
 979 {
 980         switch (ctl) {
 981         case SST26_CTL_LOCK:
 982                 cmd[bpr_size - (bit / 8) - 1] |= BIT(bit % 8);
 983                 break;
 984         case SST26_CTL_UNLOCK:
 985                 cmd[bpr_size - (bit / 8) - 1] &= ~BIT(bit % 8);
 986                 break;
 987         case SST26_CTL_CHECK:
 988                 return !!(cmd[bpr_size - (bit / 8) - 1] & BIT(bit % 8));
 989         }
 990
 991         return false;
 992 }
 993
 994 /*
 995  * Lock, unlock or check lock status of the flash region of the flash (depending
 996  * on the lock_ctl value)
 997  */
 998 static int sst26_lock_ctl(struct spi_nor *nor, loff_t ofs, uint64_t len, enum lock_ctl ctl)
 999 {
1000         struct mtd_info *mtd = &nor->mtd;
1001         u32 i, bpr_ptr, rptr_64k, lptr_64k, bpr_size;
1002         bool lower_64k = false, upper_64k = false;
1003         u8 bpr_buff[SST26_MAX_BPR_REG_LEN] = {};
1004         int ret;
1005
1006         /* Check length and offset for 64k alignment */
1007         if ((ofs & (SZ_64K - 1)) || (len & (SZ_64K - 1))) {
1008                 dev_err(nor->dev, "length or offset is not 64KiB allighned\n");
1009                 return -EINVAL;
1010         }
1011
1012         if (ofs + len > mtd->size) {
1013                 dev_err(nor->dev, "range is more than device size: %#llx + %#llx > %#llx\n",
1014                         ofs, len, mtd->size);
1015                 return -EINVAL;
1016         }
1017
1018         /* SST26 family has only 16 Mbit, 32 Mbit and 64 Mbit IC */
1019         if (mtd->size != SZ_2M &&
1020             mtd->size != SZ_4M &&
1021             mtd->size != SZ_8M)
1022                 return -EINVAL;
1023
1024         bpr_size = 2 + (mtd->size / SZ_64K / 8);
1025
1026         ret = nor->read_reg(nor, SPINOR_OP_READ_BPR, bpr_buff, bpr_size);
1027         if (ret < 0) {
1028                 dev_err(nor->dev, "fail to read block-protection register\n");
1029                 return ret;
1030         }
1031
1032         rptr_64k = min_t(u32, ofs + len, mtd->size - SST26_BOUND_REG_SIZE);
1033         lptr_64k = max_t(u32, ofs, SST26_BOUND_REG_SIZE);
1034
1035         upper_64k = ((ofs + len) > (mtd->size - SST26_BOUND_REG_SIZE));
1036         lower_64k = (ofs < SST26_BOUND_REG_SIZE);
1037
1038         /* Lower bits in block-protection register are about 64k region */
1039         bpr_ptr = lptr_64k / SZ_64K - 1;
1040
1041         /* Process 64K blocks region */
1042         while (lptr_64k < rptr_64k) {
1043                 if (sst26_process_bpr(bpr_size, bpr_buff, bpr_ptr, ctl))
1044                         return EACCES;
1045
1046                 bpr_ptr++;
1047                 lptr_64k += SZ_64K;
1048         }
1049
1050         /* 32K and 8K region bits in BPR are after 64k region bits */
1051         bpr_ptr = (mtd->size - 2 * SST26_BOUND_REG_SIZE) / SZ_64K;
1052
1053         /* Process lower 32K block region */
1054         if (lower_64k)
1055                 if (sst26_process_bpr(bpr_size, bpr_buff, bpr_ptr, ctl))
1056                         return EACCES;
1057
1058         bpr_ptr++;
1059
1060         /* Process upper 32K block region */
1061         if (upper_64k)
1062                 if (sst26_process_bpr(bpr_size, bpr_buff, bpr_ptr, ctl))
1063                         return EACCES;
1064
1065         bpr_ptr++;
1066
1067         /* Process lower 8K block regions */
1068         for (i = 0; i < SST26_BPR_8K_NUM; i++) {
1069                 if (lower_64k)
1070                         if (sst26_process_bpr(bpr_size, bpr_buff, bpr_ptr, ctl))
1071                                 return EACCES;
1072
1073                 /* In 8K area BPR has both read and write protection bits */
1074                 bpr_ptr += 2;
1075         }
1076
1077         /* Process upper 8K block regions */
1078         for (i = 0; i < SST26_BPR_8K_NUM; i++) {
1079                 if (upper_64k)
1080                         if (sst26_process_bpr(bpr_size, bpr_buff, bpr_ptr, ctl))
1081                                 return EACCES;
1082
1083                 /* In 8K area BPR has both read and write protection bits */
1084                 bpr_ptr += 2;
1085         }
1086
1087         /* If we check region status we don't need to write BPR back */
1088         if (ctl == SST26_CTL_CHECK)
1089                 return 0;
1090
1091         ret = nor->write_reg(nor, SPINOR_OP_WRITE_BPR, bpr_buff, bpr_size);
1092         if (ret < 0) {
1093                 dev_err(nor->dev, "fail to write block-protection register\n");
1094                 return ret;
1095         }
1096
1097         return 0;
1098 }
1099
1100 static int sst26_unlock(struct spi_nor *nor, loff_t ofs, uint64_t len)
1101 {
1102         return sst26_lock_ctl(nor, ofs, len, SST26_CTL_UNLOCK);
1103 }
1104
1105 static int sst26_lock(struct spi_nor *nor, loff_t ofs, uint64_t len)
1106 {
1107         return sst26_lock_ctl(nor, ofs, len, SST26_CTL_LOCK);
1108 }
1109
1110 /*
1111  * Returns EACCES (positive value) if region is locked, 0 if region is unlocked,
1112  * and negative on errors.
1113  */
1114 static int sst26_is_locked(struct spi_nor *nor, loff_t ofs, uint64_t len)
1115 {
1116         /*
1117          * is_locked function is used for check before reading or erasing flash
1118          * region, so offset and length might be not 64k allighned, so adjust
1119          * them to be 64k allighned as sst26_lock_ctl works only with 64k
1120          * allighned regions.
1121          */
1122         ofs -= ofs & (SZ_64K - 1);
1123         len = len & (SZ_64K - 1) ? (len & ~(SZ_64K - 1)) + SZ_64K : len;
1124
1125         return sst26_lock_ctl(nor, ofs, len, SST26_CTL_CHECK);
1126 }
1127
1128 static int sst_write_byteprogram(struct spi_nor *nor, loff_t to, size_t len,
1129                                  size_t *retlen, const u_char *buf)
1130 {
1131         size_t actual;
1132         int ret = 0;
1133
1134         for (actual = 0; actual < len; actual++) {
1135                 nor->program_opcode = SPINOR_OP_BP;
1136
1137                 write_enable(nor);
1138                 /* write one byte. */
1139                 ret = nor->write(nor, to, 1, buf + actual);
1140                 if (ret < 0)
1141                         goto sst_write_err;
1142                 ret = spi_nor_wait_till_ready(nor);
1143                 if (ret)
1144                         goto sst_write_err;
1145                 to++;
1146         }
1147
1148 sst_write_err:
1149         write_disable(nor);
1150         return ret;
1151 }
1152
1153 static int sst_write(struct mtd_info *mtd, loff_t to, size_t len,
1154                      size_t *retlen, const u_char *buf)
1155 {
1156         struct spi_nor *nor = mtd_to_spi_nor(mtd);
1157         struct spi_slave *spi = nor->spi;
1158         size_t actual;
1159         int ret;
1160
1161         dev_dbg(nor->dev, "to 0x%08x, len %zd\n", (u32)to, len);
1162         if (spi->mode & SPI_TX_BYTE)
1163                 return sst_write_byteprogram(nor, to, len, retlen, buf);
1164
1165         write_enable(nor);
1166
1167         nor->sst_write_second = false;
1168
1169         actual = to % 2;
1170         /* Start write from odd address. */
1171         if (actual) {
1172                 nor->program_opcode = SPINOR_OP_BP;
1173
1174                 /* write one byte. */
1175                 ret = nor->write(nor, to, 1, buf);
1176                 if (ret < 0)
1177                         goto sst_write_err;
1178                 ret = spi_nor_wait_till_ready(nor);
1179                 if (ret)
1180                         goto sst_write_err;
1181         }
1182         to += actual;
1183
1184         /* Write out most of the data here. */
1185         for (; actual < len - 1; actual += 2) {
1186                 nor->program_opcode = SPINOR_OP_AAI_WP;
1187
1188                 /* write two bytes. */
1189                 ret = nor->write(nor, to, 2, buf + actual);
1190                 if (ret < 0)
1191                         goto sst_write_err;
1192                 ret = spi_nor_wait_till_ready(nor);
1193                 if (ret)
1194                         goto sst_write_err;
1195                 to += 2;
1196                 nor->sst_write_second = true;
1197         }
1198         nor->sst_write_second = false;
1199
1200         write_disable(nor);
1201         ret = spi_nor_wait_till_ready(nor);
1202         if (ret)
1203                 goto sst_write_err;
1204
1205         /* Write out trailing byte if it exists. */
1206         if (actual != len) {
1207                 write_enable(nor);
1208
1209                 nor->program_opcode = SPINOR_OP_BP;
1210                 ret = nor->write(nor, to, 1, buf + actual);
1211                 if (ret < 0)
1212                         goto sst_write_err;
1213                 ret = spi_nor_wait_till_ready(nor);
1214                 if (ret)
1215                         goto sst_write_err;
1216                 write_disable(nor);
1217                 actual += 1;
1218         }
1219 sst_write_err:
1220         *retlen += actual;
1221         return ret;
1222 }
1223 #endif
1224 /*
1225  * Write an address range to the nor chip.  Data must be written in
1226  * FLASH_PAGESIZE chunks.  The address range may be any size provided
1227  * it is within the physical boundaries.
1228  */
1229 static int spi_nor_write(struct mtd_info *mtd, loff_t to, size_t len,
1230         size_t *retlen, const u_char *buf)
1231 {
1232         struct spi_nor *nor = mtd_to_spi_nor(mtd);
1233         size_t page_offset, page_remain, i;
1234         ssize_t ret;
1235
1236         dev_dbg(nor->dev, "to 0x%08x, len %zd\n", (u32)to, len);
1237
1238         if (!len)
1239                 return 0;
1240
1241         for (i = 0; i < len; ) {
1242                 ssize_t written;
1243                 loff_t addr = to + i;
1244
1245                 /*
1246                  * If page_size is a power of two, the offset can be quickly
1247                  * calculated with an AND operation. On the other cases we
1248                  * need to do a modulus operation (more expensive).
1249                  */
1250                 if (is_power_of_2(nor->page_size)) {
1251                         page_offset = addr & (nor->page_size - 1);
1252                 } else {
1253                         u64 aux = addr;
1254
1255                         page_offset = do_div(aux, nor->page_size);
1256                 }
1257                 /* the size of data remaining on the first page */
1258                 page_remain = min_t(size_t,
1259                                     nor->page_size - page_offset, len - i);
1260
1261 #ifdef CONFIG_SPI_FLASH_BAR
1262                 ret = write_bar(nor, addr);
1263                 if (ret < 0)
1264                         return ret;
1265 #endif
1266                 write_enable(nor);
1267                 ret = nor->write(nor, addr, page_remain, buf + i);
1268                 if (ret < 0)
1269                         goto write_err;
1270                 written = ret;
1271
1272                 ret = spi_nor_wait_till_ready(nor);
1273                 if (ret)
1274                         goto write_err;
1275                 *retlen += written;
1276                 i += written;
1277         }
1278
1279 write_err:
1280 #ifdef CONFIG_SPI_FLASH_BAR
1281         ret = clean_bar(nor);
1282 #endif
1283         return ret;
1284 }
1285
1286 #ifdef CONFIG_SPI_FLASH_MACRONIX
1287 /**
1288  * macronix_quad_enable() - set QE bit in Status Register.
1289  * @nor:        pointer to a 'struct spi_nor'
1290  *
1291  * Set the Quad Enable (QE) bit in the Status Register.
1292  *
1293  * bit 6 of the Status Register is the QE bit for Macronix like QSPI memories.
1294  *
1295  * Return: 0 on success, -errno otherwise.
1296  */
1297 static int macronix_quad_enable(struct spi_nor *nor)
1298 {
1299         int ret, val;
1300
1301         val = read_sr(nor);
1302         if (val < 0)
1303                 return val;
1304         if (val & SR_QUAD_EN_MX)
1305                 return 0;
1306
1307         write_enable(nor);
1308
1309         write_sr(nor, val | SR_QUAD_EN_MX);
1310
1311         ret = spi_nor_wait_till_ready(nor);
1312         if (ret)
1313                 return ret;
1314
1315         ret = read_sr(nor);
1316         if (!(ret > 0 && (ret & SR_QUAD_EN_MX))) {
1317                 dev_err(nor->dev, "Macronix Quad bit not set\n");
1318                 return -EINVAL;
1319         }
1320
1321         return 0;
1322 }
1323 #endif
1324
1325 #if defined(CONFIG_SPI_FLASH_SPANSION) || defined(CONFIG_SPI_FLASH_WINBOND)
1326 /*
1327  * Write status Register and configuration register with 2 bytes
1328  * The first byte will be written to the status register, while the
1329  * second byte will be written to the configuration register.
1330  * Return negative if error occurred.
1331  */
1332 static int write_sr_cr(struct spi_nor *nor, u8 *sr_cr)
1333 {
1334         int ret;
1335
1336         write_enable(nor);
1337
1338         ret = nor->write_reg(nor, SPINOR_OP_WRSR, sr_cr, 2);
1339         if (ret < 0) {
1340                 dev_dbg(nor->dev,
1341                         "error while writing configuration register\n");
1342                 return -EINVAL;
1343         }
1344
1345         ret = spi_nor_wait_till_ready(nor);
1346         if (ret) {
1347                 dev_dbg(nor->dev,
1348                         "timeout while writing configuration register\n");
1349                 return ret;
1350         }
1351
1352         return 0;
1353 }
1354
1355 /**
1356  * spansion_read_cr_quad_enable() - set QE bit in Configuration Register.
1357  * @nor:        pointer to a 'struct spi_nor'
1358  *
1359  * Set the Quad Enable (QE) bit in the Configuration Register.
1360  * This function should be used with QSPI memories supporting the Read
1361  * Configuration Register (35h) instruction.
1362  *
1363  * bit 1 of the Configuration Register is the QE bit for Spansion like QSPI
1364  * memories.
1365  *
1366  * Return: 0 on success, -errno otherwise.
1367  */
1368 static int spansion_read_cr_quad_enable(struct spi_nor *nor)
1369 {
1370         u8 sr_cr[2];
1371         int ret;
1372
1373         /* Check current Quad Enable bit value. */
1374         ret = read_cr(nor);
1375         if (ret < 0) {
1376                 dev_dbg(dev, "error while reading configuration register\n");
1377                 return -EINVAL;
1378         }
1379
1380         if (ret & CR_QUAD_EN_SPAN)
1381                 return 0;
1382
1383         sr_cr[1] = ret | CR_QUAD_EN_SPAN;
1384
1385         /* Keep the current value of the Status Register. */
1386         ret = read_sr(nor);
1387         if (ret < 0) {
1388                 dev_dbg(dev, "error while reading status register\n");
1389                 return -EINVAL;
1390         }
1391         sr_cr[0] = ret;
1392
1393         ret = write_sr_cr(nor, sr_cr);
1394         if (ret)
1395                 return ret;
1396
1397         /* Read back and check it. */
1398         ret = read_cr(nor);
1399         if (!(ret > 0 && (ret & CR_QUAD_EN_SPAN))) {
1400                 dev_dbg(nor->dev, "Spansion Quad bit not set\n");
1401                 return -EINVAL;
1402         }
1403
1404         return 0;
1405 }
1406
1407 #if CONFIG_IS_ENABLED(SPI_FLASH_SFDP_SUPPORT)
1408 /**
1409  * spansion_no_read_cr_quad_enable() - set QE bit in Configuration Register.
1410  * @nor:        pointer to a 'struct spi_nor'
1411  *
1412  * Set the Quad Enable (QE) bit in the Configuration Register.
1413  * This function should be used with QSPI memories not supporting the Read
1414  * Configuration Register (35h) instruction.
1415  *
1416  * bit 1 of the Configuration Register is the QE bit for Spansion like QSPI
1417  * memories.
1418  *
1419  * Return: 0 on success, -errno otherwise.
1420  */
1421 static int spansion_no_read_cr_quad_enable(struct spi_nor *nor)
1422 {
1423         u8 sr_cr[2];
1424         int ret;
1425
1426         /* Keep the current value of the Status Register. */
1427         ret = read_sr(nor);
1428         if (ret < 0) {
1429                 dev_dbg(nor->dev, "error while reading status register\n");
1430                 return -EINVAL;
1431         }
1432         sr_cr[0] = ret;
1433         sr_cr[1] = CR_QUAD_EN_SPAN;
1434
1435         return write_sr_cr(nor, sr_cr);
1436 }
1437
1438 #endif /* CONFIG_SPI_FLASH_SFDP_SUPPORT */
1439 #endif /* CONFIG_SPI_FLASH_SPANSION */
1440
1441 struct spi_nor_read_command {
1442         u8                      num_mode_clocks;
1443         u8                      num_wait_states;
1444         u8                      opcode;
1445         enum spi_nor_protocol   proto;
1446 };
1447
1448 struct spi_nor_pp_command {
1449         u8                      opcode;
1450         enum spi_nor_protocol   proto;
1451 };
1452
1453 enum spi_nor_read_command_index {
1454         SNOR_CMD_READ,
1455         SNOR_CMD_READ_FAST,
1456         SNOR_CMD_READ_1_1_1_DTR,
1457
1458         /* Dual SPI */
1459         SNOR_CMD_READ_1_1_2,
1460         SNOR_CMD_READ_1_2_2,
1461         SNOR_CMD_READ_2_2_2,
1462         SNOR_CMD_READ_1_2_2_DTR,
1463
1464         /* Quad SPI */
1465         SNOR_CMD_READ_1_1_4,
1466         SNOR_CMD_READ_1_4_4,
1467         SNOR_CMD_READ_4_4_4,
1468         SNOR_CMD_READ_1_4_4_DTR,
1469
1470         /* Octo SPI */
1471         SNOR_CMD_READ_1_1_8,
1472         SNOR_CMD_READ_1_8_8,
1473         SNOR_CMD_READ_8_8_8,
1474         SNOR_CMD_READ_1_8_8_DTR,
1475
1476         SNOR_CMD_READ_MAX
1477 };
1478
1479 enum spi_nor_pp_command_index {
1480         SNOR_CMD_PP,
1481
1482         /* Quad SPI */
1483         SNOR_CMD_PP_1_1_4,
1484         SNOR_CMD_PP_1_4_4,
1485         SNOR_CMD_PP_4_4_4,
1486
1487         /* Octo SPI */
1488         SNOR_CMD_PP_1_1_8,
1489         SNOR_CMD_PP_1_8_8,
1490         SNOR_CMD_PP_8_8_8,
1491
1492         SNOR_CMD_PP_MAX
1493 };
1494
1495 struct spi_nor_flash_parameter {
1496         u64                             size;
1497         u32                             page_size;
1498
1499         struct spi_nor_hwcaps           hwcaps;
1500         struct spi_nor_read_command     reads[SNOR_CMD_READ_MAX];
1501         struct spi_nor_pp_command       page_programs[SNOR_CMD_PP_MAX];
1502
1503         int (*quad_enable)(struct spi_nor *nor);
1504 };
1505
1506 static void
1507 spi_nor_set_read_settings(struct spi_nor_read_command *read,
1508                           u8 num_mode_clocks,
1509                           u8 num_wait_states,
1510                           u8 opcode,
1511                           enum spi_nor_protocol proto)
1512 {
1513         read->num_mode_clocks = num_mode_clocks;
1514         read->num_wait_states = num_wait_states;
1515         read->opcode = opcode;
1516         read->proto = proto;
1517 }
1518
1519 static void
1520 spi_nor_set_pp_settings(struct spi_nor_pp_command *pp,
1521                         u8 opcode,
1522                         enum spi_nor_protocol proto)
1523 {
1524         pp->opcode = opcode;
1525         pp->proto = proto;
1526 }
1527
1528 #if CONFIG_IS_ENABLED(SPI_FLASH_SFDP_SUPPORT)
1529 /*
1530  * Serial Flash Discoverable Parameters (SFDP) parsing.
1531  */
1532
1533 /**
1534  * spi_nor_read_sfdp() - read Serial Flash Discoverable Parameters.
1535  * @nor:        pointer to a 'struct spi_nor'
1536  * @addr:       offset in the SFDP area to start reading data from
1537  * @len:        number of bytes to read
1538  * @buf:        buffer where the SFDP data are copied into (dma-safe memory)
1539  *
1540  * Whatever the actual numbers of bytes for address and dummy cycles are
1541  * for (Fast) Read commands, the Read SFDP (5Ah) instruction is always
1542  * followed by a 3-byte address and 8 dummy clock cycles.
1543  *
1544  * Return: 0 on success, -errno otherwise.
1545  */
1546 static int spi_nor_read_sfdp(struct spi_nor *nor, u32 addr,
1547                              size_t len, void *buf)
1548 {
1549         u8 addr_width, read_opcode, read_dummy;
1550         int ret;
1551
1552         read_opcode = nor->read_opcode;
1553         addr_width = nor->addr_width;
1554         read_dummy = nor->read_dummy;
1555
1556         nor->read_opcode = SPINOR_OP_RDSFDP;
1557         nor->addr_width = 3;
1558         nor->read_dummy = 8;
1559
1560         while (len) {
1561                 ret = nor->read(nor, addr, len, (u8 *)buf);
1562                 if (!ret || ret > len) {
1563                         ret = -EIO;
1564                         goto read_err;
1565                 }
1566                 if (ret < 0)
1567                         goto read_err;
1568
1569                 buf += ret;
1570                 addr += ret;
1571                 len -= ret;
1572         }
1573         ret = 0;
1574
1575 read_err:
1576         nor->read_opcode = read_opcode;
1577         nor->addr_width = addr_width;
1578         nor->read_dummy = read_dummy;
1579
1580         return ret;
1581 }
1582
1583 struct sfdp_parameter_header {
1584         u8              id_lsb;
1585         u8              minor;
1586         u8              major;
1587         u8              length; /* in double words */
1588         u8              parameter_table_pointer[3]; /* byte address */
1589         u8              id_msb;
1590 };
1591
1592 #define SFDP_PARAM_HEADER_ID(p) (((p)->id_msb << 8) | (p)->id_lsb)
1593 #define SFDP_PARAM_HEADER_PTP(p) \
1594         (((p)->parameter_table_pointer[2] << 16) | \
1595          ((p)->parameter_table_pointer[1] <<  8) | \
1596          ((p)->parameter_table_pointer[0] <<  0))
1597
1598 #define SFDP_BFPT_ID            0xff00  /* Basic Flash Parameter Table */
1599 #define SFDP_SECTOR_MAP_ID      0xff81  /* Sector Map Table */
1600 #define SFDP_SST_ID             0x01bf  /* Manufacturer specific Table */
1601
1602 #define SFDP_SIGNATURE          0x50444653U
1603 #define SFDP_JESD216_MAJOR      1
1604 #define SFDP_JESD216_MINOR      0
1605 #define SFDP_JESD216A_MINOR     5
1606 #define SFDP_JESD216B_MINOR     6
1607
1608 struct sfdp_header {
1609         u32             signature; /* Ox50444653U <=> "SFDP" */
1610         u8              minor;
1611         u8              major;
1612         u8              nph; /* 0-base number of parameter headers */
1613         u8              unused;
1614
1615         /* Basic Flash Parameter Table. */
1616         struct sfdp_parameter_header    bfpt_header;
1617 };
1618
1619 /* Basic Flash Parameter Table */
1620
1621 /*
1622  * JESD216 rev B defines a Basic Flash Parameter Table of 16 DWORDs.
1623  * They are indexed from 1 but C arrays are indexed from 0.
1624  */
1625 #define BFPT_DWORD(i)           ((i) - 1)
1626 #define BFPT_DWORD_MAX          16
1627
1628 /* The first version of JESB216 defined only 9 DWORDs. */
1629 #define BFPT_DWORD_MAX_JESD216                  9
1630
1631 /* 1st DWORD. */
1632 #define BFPT_DWORD1_FAST_READ_1_1_2             BIT(16)
1633 #define BFPT_DWORD1_ADDRESS_BYTES_MASK          GENMASK(18, 17)
1634 #define BFPT_DWORD1_ADDRESS_BYTES_3_ONLY        (0x0UL << 17)
1635 #define BFPT_DWORD1_ADDRESS_BYTES_3_OR_4        (0x1UL << 17)
1636 #define BFPT_DWORD1_ADDRESS_BYTES_4_ONLY        (0x2UL << 17)
1637 #define BFPT_DWORD1_DTR                         BIT(19)
1638 #define BFPT_DWORD1_FAST_READ_1_2_2             BIT(20)
1639 #define BFPT_DWORD1_FAST_READ_1_4_4             BIT(21)
1640 #define BFPT_DWORD1_FAST_READ_1_1_4             BIT(22)
1641
1642 /* 5th DWORD. */
1643 #define BFPT_DWORD5_FAST_READ_2_2_2             BIT(0)
1644 #define BFPT_DWORD5_FAST_READ_4_4_4             BIT(4)
1645
1646 /* 11th DWORD. */
1647 #define BFPT_DWORD11_PAGE_SIZE_SHIFT            4
1648 #define BFPT_DWORD11_PAGE_SIZE_MASK             GENMASK(7, 4)
1649
1650 /* 15th DWORD. */
1651
1652 /*
1653  * (from JESD216 rev B)
1654  * Quad Enable Requirements (QER):
1655  * - 000b: Device does not have a QE bit. Device detects 1-1-4 and 1-4-4
1656  *         reads based on instruction. DQ3/HOLD# functions are hold during
1657  *         instruction phase.
1658  * - 001b: QE is bit 1 of status register 2. It is set via Write Status with
1659  *         two data bytes where bit 1 of the second byte is one.
1660  *         [...]
1661  *         Writing only one byte to the status register has the side-effect of
1662  *         clearing status register 2, including the QE bit. The 100b code is
1663  *         used if writing one byte to the status register does not modify
1664  *         status register 2.
1665  * - 010b: QE is bit 6 of status register 1. It is set via Write Status with
1666  *         one data byte where bit 6 is one.
1667  *         [...]
1668  * - 011b: QE is bit 7 of status register 2. It is set via Write status
1669  *         register 2 instruction 3Eh with one data byte where bit 7 is one.
1670  *         [...]
1671  *         The status register 2 is read using instruction 3Fh.
1672  * - 100b: QE is bit 1 of status register 2. It is set via Write Status with
1673  *         two data bytes where bit 1 of the second byte is one.
1674  *         [...]
1675  *         In contrast to the 001b code, writing one byte to the status
1676  *         register does not modify status register 2.
1677  * - 101b: QE is bit 1 of status register 2. Status register 1 is read using
1678  *         Read Status instruction 05h. Status register2 is read using
1679  *         instruction 35h. QE is set via Writ Status instruction 01h with
1680  *         two data bytes where bit 1 of the second byte is one.
1681  *         [...]
1682  */
1683 #define BFPT_DWORD15_QER_MASK                   GENMASK(22, 20)
1684 #define BFPT_DWORD15_QER_NONE                   (0x0UL << 20) /* Micron */
1685 #define BFPT_DWORD15_QER_SR2_BIT1_BUGGY         (0x1UL << 20)
1686 #define BFPT_DWORD15_QER_SR1_BIT6               (0x2UL << 20) /* Macronix */
1687 #define BFPT_DWORD15_QER_SR2_BIT7               (0x3UL << 20)
1688 #define BFPT_DWORD15_QER_SR2_BIT1_NO_RD         (0x4UL << 20)
1689 #define BFPT_DWORD15_QER_SR2_BIT1               (0x5UL << 20) /* Spansion */
1690
1691 struct sfdp_bfpt {
1692         u32     dwords[BFPT_DWORD_MAX];
1693 };
1694
1695 /* Fast Read settings. */
1696
1697 static void
1698 spi_nor_set_read_settings_from_bfpt(struct spi_nor_read_command *read,
1699                                     u16 half,
1700                                     enum spi_nor_protocol proto)
1701 {
1702         read->num_mode_clocks = (half >> 5) & 0x07;
1703         read->num_wait_states = (half >> 0) & 0x1f;
1704         read->opcode = (half >> 8) & 0xff;
1705         read->proto = proto;
1706 }
1707
1708 struct sfdp_bfpt_read {
1709         /* The Fast Read x-y-z hardware capability in params->hwcaps.mask. */
1710         u32                     hwcaps;
1711
1712         /*
1713          * The <supported_bit> bit in <supported_dword> BFPT DWORD tells us
1714          * whether the Fast Read x-y-z command is supported.
1715          */
1716         u32                     supported_dword;
1717         u32                     supported_bit;
1718
1719         /*
1720          * The half-word at offset <setting_shift> in <setting_dword> BFPT DWORD
1721          * encodes the op code, the number of mode clocks and the number of wait
1722          * states to be used by Fast Read x-y-z command.
1723          */
1724         u32                     settings_dword;
1725         u32                     settings_shift;
1726
1727         /* The SPI protocol for this Fast Read x-y-z command. */
1728         enum spi_nor_protocol   proto;
1729 };
1730
1731 static const struct sfdp_bfpt_read sfdp_bfpt_reads[] = {
1732         /* Fast Read 1-1-2 */
1733         {
1734                 SNOR_HWCAPS_READ_1_1_2,
1735                 BFPT_DWORD(1), BIT(16), /* Supported bit */
1736                 BFPT_DWORD(4), 0,       /* Settings */
1737                 SNOR_PROTO_1_1_2,
1738         },
1739
1740         /* Fast Read 1-2-2 */
1741         {
1742                 SNOR_HWCAPS_READ_1_2_2,
1743                 BFPT_DWORD(1), BIT(20), /* Supported bit */
1744                 BFPT_DWORD(4), 16,      /* Settings */
1745                 SNOR_PROTO_1_2_2,
1746         },
1747
1748         /* Fast Read 2-2-2 */
1749         {
1750                 SNOR_HWCAPS_READ_2_2_2,
1751                 BFPT_DWORD(5),  BIT(0), /* Supported bit */
1752                 BFPT_DWORD(6), 16,      /* Settings */
1753                 SNOR_PROTO_2_2_2,
1754         },
1755
1756         /* Fast Read 1-1-4 */
1757         {
1758                 SNOR_HWCAPS_READ_1_1_4,
1759                 BFPT_DWORD(1), BIT(22), /* Supported bit */
1760                 BFPT_DWORD(3), 16,      /* Settings */
1761                 SNOR_PROTO_1_1_4,
1762         },
1763
1764         /* Fast Read 1-4-4 */
1765         {
1766                 SNOR_HWCAPS_READ_1_4_4,
1767                 BFPT_DWORD(1), BIT(21), /* Supported bit */
1768                 BFPT_DWORD(3), 0,       /* Settings */
1769                 SNOR_PROTO_1_4_4,
1770         },
1771
1772         /* Fast Read 4-4-4 */
1773         {
1774                 SNOR_HWCAPS_READ_4_4_4,
1775                 BFPT_DWORD(5), BIT(4),  /* Supported bit */
1776                 BFPT_DWORD(7), 16,      /* Settings */
1777                 SNOR_PROTO_4_4_4,
1778         },
1779 };
1780
1781 struct sfdp_bfpt_erase {
1782         /*
1783          * The half-word at offset <shift> in DWORD <dwoard> encodes the
1784          * op code and erase sector size to be used by Sector Erase commands.
1785          */
1786         u32                     dword;
1787         u32                     shift;
1788 };
1789
1790 static const struct sfdp_bfpt_erase sfdp_bfpt_erases[] = {
1791         /* Erase Type 1 in DWORD8 bits[15:0] */
1792         {BFPT_DWORD(8), 0},
1793
1794         /* Erase Type 2 in DWORD8 bits[31:16] */
1795         {BFPT_DWORD(8), 16},
1796
1797         /* Erase Type 3 in DWORD9 bits[15:0] */
1798         {BFPT_DWORD(9), 0},
1799
1800         /* Erase Type 4 in DWORD9 bits[31:16] */
1801         {BFPT_DWORD(9), 16},
1802 };
1803
1804 static int spi_nor_hwcaps_read2cmd(u32 hwcaps);
1805
1806 /**
1807  * spi_nor_parse_bfpt() - read and parse the Basic Flash Parameter Table.
1808  * @nor:                pointer to a 'struct spi_nor'
1809  * @bfpt_header:        pointer to the 'struct sfdp_parameter_header' describing
1810  *                      the Basic Flash Parameter Table length and version
1811  * @params:             pointer to the 'struct spi_nor_flash_parameter' to be
1812  *                      filled
1813  *
1814  * The Basic Flash Parameter Table is the main and only mandatory table as
1815  * defined by the SFDP (JESD216) specification.
1816  * It provides us with the total size (memory density) of the data array and
1817  * the number of address bytes for Fast Read, Page Program and Sector Erase
1818  * commands.
1819  * For Fast READ commands, it also gives the number of mode clock cycles and
1820  * wait states (regrouped in the number of dummy clock cycles) for each
1821  * supported instruction op code.
1822  * For Page Program, the page size is now available since JESD216 rev A, however
1823  * the supported instruction op codes are still not provided.
1824  * For Sector Erase commands, this table stores the supported instruction op
1825  * codes and the associated sector sizes.
1826  * Finally, the Quad Enable Requirements (QER) are also available since JESD216
1827  * rev A. The QER bits encode the manufacturer dependent procedure to be
1828  * executed to set the Quad Enable (QE) bit in some internal register of the
1829  * Quad SPI memory. Indeed the QE bit, when it exists, must be set before
1830  * sending any Quad SPI command to the memory. Actually, setting the QE bit
1831  * tells the memory to reassign its WP# and HOLD#/RESET# pins to functions IO2
1832  * and IO3 hence enabling 4 (Quad) I/O lines.
1833  *
1834  * Return: 0 on success, -errno otherwise.
1835  */
1836 static int spi_nor_parse_bfpt(struct spi_nor *nor,
1837                               const struct sfdp_parameter_header *bfpt_header,
1838                               struct spi_nor_flash_parameter *params)
1839 {
1840         struct mtd_info *mtd = &nor->mtd;
1841         struct sfdp_bfpt bfpt;
1842         size_t len;
1843         int i, cmd, err;
1844         u32 addr;
1845         u16 half;
1846
1847         /* JESD216 Basic Flash Parameter Table length is at least 9 DWORDs. */
1848         if (bfpt_header->length < BFPT_DWORD_MAX_JESD216)
1849                 return -EINVAL;
1850
1851         /* Read the Basic Flash Parameter Table. */
1852         len = min_t(size_t, sizeof(bfpt),
1853                     bfpt_header->length * sizeof(u32));
1854         addr = SFDP_PARAM_HEADER_PTP(bfpt_header);
1855         memset(&bfpt, 0, sizeof(bfpt));
1856         err = spi_nor_read_sfdp(nor,  addr, len, &bfpt);
1857         if (err < 0)
1858                 return err;
1859
1860         /* Fix endianness of the BFPT DWORDs. */
1861         for (i = 0; i < BFPT_DWORD_MAX; i++)
1862                 bfpt.dwords[i] = le32_to_cpu(bfpt.dwords[i]);
1863
1864         /* Number of address bytes. */
1865         switch (bfpt.dwords[BFPT_DWORD(1)] & BFPT_DWORD1_ADDRESS_BYTES_MASK) {
1866         case BFPT_DWORD1_ADDRESS_BYTES_3_ONLY:
1867                 nor->addr_width = 3;
1868                 break;
1869
1870         case BFPT_DWORD1_ADDRESS_BYTES_4_ONLY:
1871                 nor->addr_width = 4;
1872                 break;
1873
1874         default:
1875                 break;
1876         }
1877
1878         /* Flash Memory Density (in bits). */
1879         params->size = bfpt.dwords[BFPT_DWORD(2)];
1880         if (params->size & BIT(31)) {
1881                 params->size &= ~BIT(31);
1882
1883                 /*
1884                  * Prevent overflows on params->size. Anyway, a NOR of 2^64
1885                  * bits is unlikely to exist so this error probably means
1886                  * the BFPT we are reading is corrupted/wrong.
1887                  */
1888                 if (params->size > 63)
1889                         return -EINVAL;
1890
1891                 params->size = 1ULL << params->size;
1892         } else {
1893                 params->size++;
1894         }
1895         params->size >>= 3; /* Convert to bytes. */
1896
1897         /* Fast Read settings. */
1898         for (i = 0; i < ARRAY_SIZE(sfdp_bfpt_reads); i++) {
1899                 const struct sfdp_bfpt_read *rd = &sfdp_bfpt_reads[i];
1900                 struct spi_nor_read_command *read;
1901
1902                 if (!(bfpt.dwords[rd->supported_dword] & rd->supported_bit)) {
1903                         params->hwcaps.mask &= ~rd->hwcaps;
1904                         continue;
1905                 }
1906
1907                 params->hwcaps.mask |= rd->hwcaps;
1908                 cmd = spi_nor_hwcaps_read2cmd(rd->hwcaps);
1909                 read = &params->reads[cmd];
1910                 half = bfpt.dwords[rd->settings_dword] >> rd->settings_shift;
1911                 spi_nor_set_read_settings_from_bfpt(read, half, rd->proto);
1912         }
1913
1914         /* Sector Erase settings. */
1915         for (i = 0; i < ARRAY_SIZE(sfdp_bfpt_erases); i++) {
1916                 const struct sfdp_bfpt_erase *er = &sfdp_bfpt_erases[i];
1917                 u32 erasesize;
1918                 u8 opcode;
1919
1920                 half = bfpt.dwords[er->dword] >> er->shift;
1921                 erasesize = half & 0xff;
1922
1923                 /* erasesize == 0 means this Erase Type is not supported. */
1924                 if (!erasesize)
1925                         continue;
1926
1927                 erasesize = 1U << erasesize;
1928                 opcode = (half >> 8) & 0xff;
1929 #ifdef CONFIG_SPI_FLASH_USE_4K_SECTORS
1930                 if (erasesize == SZ_4K) {
1931                         nor->erase_opcode = opcode;
1932                         mtd->erasesize = erasesize;
1933                         break;
1934                 }
1935 #endif
1936                 if (!mtd->erasesize || mtd->erasesize < erasesize) {
1937                         nor->erase_opcode = opcode;
1938                         mtd->erasesize = erasesize;
1939                 }
1940         }
1941
1942         /* Stop here if not JESD216 rev A or later. */
1943         if (bfpt_header->length < BFPT_DWORD_MAX)
1944                 return 0;
1945
1946         /* Page size: this field specifies 'N' so the page size = 2^N bytes. */
1947         params->page_size = bfpt.dwords[BFPT_DWORD(11)];
1948         params->page_size &= BFPT_DWORD11_PAGE_SIZE_MASK;
1949         params->page_size >>= BFPT_DWORD11_PAGE_SIZE_SHIFT;
1950         params->page_size = 1U << params->page_size;
1951
1952         /* Quad Enable Requirements. */
1953         switch (bfpt.dwords[BFPT_DWORD(15)] & BFPT_DWORD15_QER_MASK) {
1954         case BFPT_DWORD15_QER_NONE:
1955                 params->quad_enable = NULL;
1956                 break;
1957 #if defined(CONFIG_SPI_FLASH_SPANSION) || defined(CONFIG_SPI_FLASH_WINBOND)
1958         case BFPT_DWORD15_QER_SR2_BIT1_BUGGY:
1959         case BFPT_DWORD15_QER_SR2_BIT1_NO_RD:
1960                 params->quad_enable = spansion_no_read_cr_quad_enable;
1961                 break;
1962 #endif
1963 #ifdef CONFIG_SPI_FLASH_MACRONIX
1964         case BFPT_DWORD15_QER_SR1_BIT6:
1965                 params->quad_enable = macronix_quad_enable;
1966                 break;
1967 #endif
1968 #if defined(CONFIG_SPI_FLASH_SPANSION) || defined(CONFIG_SPI_FLASH_WINBOND)
1969         case BFPT_DWORD15_QER_SR2_BIT1:
1970                 params->quad_enable = spansion_read_cr_quad_enable;
1971                 break;
1972 #endif
1973         default:
1974                 return -EINVAL;
1975         }
1976
1977         return 0;
1978 }
1979
1980 /**
1981  * spi_nor_parse_microchip_sfdp() - parse the Microchip manufacturer specific
1982  * SFDP table.
1983  * @nor:                pointer to a 'struct spi_nor'.
1984  * @param_header:       pointer to the SFDP parameter header.
1985  *
1986  * Return: 0 on success, -errno otherwise.
1987  */
1988 static int
1989 spi_nor_parse_microchip_sfdp(struct spi_nor *nor,
1990                              const struct sfdp_parameter_header *param_header)
1991 {
1992         size_t size;
1993         u32 addr;
1994         int ret;
1995
1996         size = param_header->length * sizeof(u32);
1997         addr = SFDP_PARAM_HEADER_PTP(param_header);
1998
1999         nor->manufacturer_sfdp = devm_kmalloc(nor->dev, size, GFP_KERNEL);
2000         if (!nor->manufacturer_sfdp)
2001                 return -ENOMEM;
2002
2003         ret = spi_nor_read_sfdp(nor, addr, size, nor->manufacturer_sfdp);
2004
2005         return ret;
2006 }
2007
2008 /**
2009  * spi_nor_parse_sfdp() - parse the Serial Flash Discoverable Parameters.
2010  * @nor:                pointer to a 'struct spi_nor'
2011  * @params:             pointer to the 'struct spi_nor_flash_parameter' to be
2012  *                      filled
2013  *
2014  * The Serial Flash Discoverable Parameters are described by the JEDEC JESD216
2015  * specification. This is a standard which tends to supported by almost all
2016  * (Q)SPI memory manufacturers. Those hard-coded tables allow us to learn at
2017  * runtime the main parameters needed to perform basic SPI flash operations such
2018  * as Fast Read, Page Program or Sector Erase commands.
2019  *
2020  * Return: 0 on success, -errno otherwise.
2021  */
2022 static int spi_nor_parse_sfdp(struct spi_nor *nor,
2023                               struct spi_nor_flash_parameter *params)
2024 {
2025         const struct sfdp_parameter_header *param_header, *bfpt_header;
2026         struct sfdp_parameter_header *param_headers = NULL;
2027         struct sfdp_header header;
2028         size_t psize;
2029         int i, err;
2030
2031         /* Get the SFDP header. */
2032         err = spi_nor_read_sfdp(nor, 0, sizeof(header), &header);
2033         if (err < 0)
2034                 return err;
2035
2036         /* Check the SFDP header version. */
2037         if (le32_to_cpu(header.signature) != SFDP_SIGNATURE ||
2038             header.major != SFDP_JESD216_MAJOR)
2039                 return -EINVAL;
2040
2041         /*
2042          * Verify that the first and only mandatory parameter header is a
2043          * Basic Flash Parameter Table header as specified in JESD216.
2044          */
2045         bfpt_header = &header.bfpt_header;
2046         if (SFDP_PARAM_HEADER_ID(bfpt_header) != SFDP_BFPT_ID ||
2047             bfpt_header->major != SFDP_JESD216_MAJOR)
2048                 return -EINVAL;
2049
2050         /*
2051          * Allocate memory then read all parameter headers with a single
2052          * Read SFDP command. These parameter headers will actually be parsed
2053          * twice: a first time to get the latest revision of the basic flash
2054          * parameter table, then a second time to handle the supported optional
2055          * tables.
2056          * Hence we read the parameter headers once for all to reduce the
2057          * processing time. Also we use kmalloc() instead of devm_kmalloc()
2058          * because we don't need to keep these parameter headers: the allocated
2059          * memory is always released with kfree() before exiting this function.
2060          */
2061         if (header.nph) {
2062                 psize = header.nph * sizeof(*param_headers);
2063
2064                 param_headers = kmalloc(psize, GFP_KERNEL);
2065                 if (!param_headers)
2066                         return -ENOMEM;
2067
2068                 err = spi_nor_read_sfdp(nor, sizeof(header),
2069                                         psize, param_headers);
2070                 if (err < 0) {
2071                         dev_err(dev, "failed to read SFDP parameter headers\n");
2072                         goto exit;
2073                 }
2074         }
2075
2076         /*
2077          * Check other parameter headers to get the latest revision of
2078          * the basic flash parameter table.
2079          */
2080         for (i = 0; i < header.nph; i++) {
2081                 param_header = &param_headers[i];
2082
2083                 if (SFDP_PARAM_HEADER_ID(param_header) == SFDP_BFPT_ID &&
2084                     param_header->major == SFDP_JESD216_MAJOR &&
2085                     (param_header->minor > bfpt_header->minor ||
2086                      (param_header->minor == bfpt_header->minor &&
2087                       param_header->length > bfpt_header->length)))
2088                         bfpt_header = param_header;
2089         }
2090
2091         err = spi_nor_parse_bfpt(nor, bfpt_header, params);
2092         if (err)
2093                 goto exit;
2094
2095         /* Parse other parameter headers. */
2096         for (i = 0; i < header.nph; i++) {
2097                 param_header = &param_headers[i];
2098
2099                 switch (SFDP_PARAM_HEADER_ID(param_header)) {
2100                 case SFDP_SECTOR_MAP_ID:
2101                         dev_info(dev, "non-uniform erase sector maps are not supported yet.\n");
2102                         break;
2103
2104                 case SFDP_SST_ID:
2105                         err = spi_nor_parse_microchip_sfdp(nor, param_header);
2106                         break;
2107
2108                 default:
2109                         break;
2110                 }
2111
2112                 if (err) {
2113                         dev_warn(dev, "Failed to parse optional parameter table: %04x\n",
2114                                  SFDP_PARAM_HEADER_ID(param_header));
2115                         /*
2116                          * Let's not drop all information we extracted so far
2117                          * if optional table parsers fail. In case of failing,
2118                          * each optional parser is responsible to roll back to
2119                          * the previously known spi_nor data.
2120                          */
2121                         err = 0;
2122                 }
2123         }
2124
2125 exit:
2126         kfree(param_headers);
2127         return err;
2128 }
2129 #else
2130 static int spi_nor_parse_sfdp(struct spi_nor *nor,
2131                               struct spi_nor_flash_parameter *params)
2132 {
2133         return -EINVAL;
2134 }
2135 #endif /* SPI_FLASH_SFDP_SUPPORT */
2136
2137 static int spi_nor_init_params(struct spi_nor *nor,
2138                                const struct flash_info *info,
2139                                struct spi_nor_flash_parameter *params)
2140 {
2141         /* Set legacy flash parameters as default. */
2142         memset(params, 0, sizeof(*params));
2143
2144         /* Set SPI NOR sizes. */
2145         params->size = info->sector_size * info->n_sectors;
2146         params->page_size = info->page_size;
2147
2148         /* (Fast) Read settings. */
2149         params->hwcaps.mask |= SNOR_HWCAPS_READ;
2150         spi_nor_set_read_settings(&params->reads[SNOR_CMD_READ],
2151                                   0, 0, SPINOR_OP_READ,
2152                                   SNOR_PROTO_1_1_1);
2153
2154         if (!(info->flags & SPI_NOR_NO_FR)) {
2155                 params->hwcaps.mask |= SNOR_HWCAPS_READ_FAST;
2156                 spi_nor_set_read_settings(&params->reads[SNOR_CMD_READ_FAST],
2157                                           0, 8, SPINOR_OP_READ_FAST,
2158                                           SNOR_PROTO_1_1_1);
2159         }
2160
2161         if (info->flags & SPI_NOR_DUAL_READ) {
2162                 params->hwcaps.mask |= SNOR_HWCAPS_READ_1_1_2;
2163                 spi_nor_set_read_settings(&params->reads[SNOR_CMD_READ_1_1_2],
2164                                           0, 8, SPINOR_OP_READ_1_1_2,
2165                                           SNOR_PROTO_1_1_2);
2166         }
2167
2168         if (info->flags & SPI_NOR_QUAD_READ) {
2169                 params->hwcaps.mask |= SNOR_HWCAPS_READ_1_1_4;
2170                 spi_nor_set_read_settings(&params->reads[SNOR_CMD_READ_1_1_4],
2171                                           0, 8, SPINOR_OP_READ_1_1_4,
2172                                           SNOR_PROTO_1_1_4);
2173         }
2174
2175         if (info->flags & SPI_NOR_OCTAL_READ) {
2176                 params->hwcaps.mask |= SNOR_HWCAPS_READ_1_1_8;
2177                 spi_nor_set_read_settings(&params->reads[SNOR_CMD_READ_1_1_8],
2178                                           0, 8, SPINOR_OP_READ_1_1_8,
2179                                           SNOR_PROTO_1_1_8);
2180         }
2181
2182         /* Page Program settings. */
2183         params->hwcaps.mask |= SNOR_HWCAPS_PP;
2184         spi_nor_set_pp_settings(&params->page_programs[SNOR_CMD_PP],
2185                                 SPINOR_OP_PP, SNOR_PROTO_1_1_1);
2186
2187         if (info->flags & SPI_NOR_QUAD_READ) {
2188                 params->hwcaps.mask |= SNOR_HWCAPS_PP_1_1_4;
2189                 spi_nor_set_pp_settings(&params->page_programs[SNOR_CMD_PP_1_1_4],
2190                                         SPINOR_OP_PP_1_1_4, SNOR_PROTO_1_1_4);
2191         }
2192
2193         /* Select the procedure to set the Quad Enable bit. */
2194         if (params->hwcaps.mask & (SNOR_HWCAPS_READ_QUAD |
2195                                    SNOR_HWCAPS_PP_QUAD)) {
2196                 switch (JEDEC_MFR(info)) {
2197 #ifdef CONFIG_SPI_FLASH_MACRONIX
2198                 case SNOR_MFR_MACRONIX:
2199                         params->quad_enable = macronix_quad_enable;
2200                         break;
2201 #endif
2202                 case SNOR_MFR_ST:
2203                 case SNOR_MFR_MICRON:
2204                         break;
2205
2206                 default:
2207 #if defined(CONFIG_SPI_FLASH_SPANSION) || defined(CONFIG_SPI_FLASH_WINBOND)
2208                         /* Kept only for backward compatibility purpose. */
2209                         params->quad_enable = spansion_read_cr_quad_enable;
2210 #endif
2211                         break;
2212                 }
2213         }
2214
2215         /* Override the parameters with data read from SFDP tables. */
2216         nor->addr_width = 0;
2217         nor->mtd.erasesize = 0;
2218         if ((info->flags & (SPI_NOR_DUAL_READ | SPI_NOR_QUAD_READ)) &&
2219             !(info->flags & SPI_NOR_SKIP_SFDP)) {
2220                 struct spi_nor_flash_parameter sfdp_params;
2221
2222                 memcpy(&sfdp_params, params, sizeof(sfdp_params));
2223                 if (spi_nor_parse_sfdp(nor, &sfdp_params)) {
2224                         nor->addr_width = 0;
2225                         nor->mtd.erasesize = 0;
2226                 } else {
2227                         memcpy(params, &sfdp_params, sizeof(*params));
2228                 }
2229         }
2230
2231         return 0;
2232 }
2233
2234 static int spi_nor_hwcaps2cmd(u32 hwcaps, const int table[][2], size_t size)
2235 {
2236         size_t i;
2237
2238         for (i = 0; i < size; i++)
2239                 if (table[i][0] == (int)hwcaps)
2240                         return table[i][1];
2241
2242         return -EINVAL;
2243 }
2244
2245 static int spi_nor_hwcaps_read2cmd(u32 hwcaps)
2246 {
2247         static const int hwcaps_read2cmd[][2] = {
2248                 { SNOR_HWCAPS_READ,             SNOR_CMD_READ },
2249                 { SNOR_HWCAPS_READ_FAST,        SNOR_CMD_READ_FAST },
2250                 { SNOR_HWCAPS_READ_1_1_1_DTR,   SNOR_CMD_READ_1_1_1_DTR },
2251                 { SNOR_HWCAPS_READ_1_1_2,       SNOR_CMD_READ_1_1_2 },
2252                 { SNOR_HWCAPS_READ_1_2_2,       SNOR_CMD_READ_1_2_2 },
2253                 { SNOR_HWCAPS_READ_2_2_2,       SNOR_CMD_READ_2_2_2 },
2254                 { SNOR_HWCAPS_READ_1_2_2_DTR,   SNOR_CMD_READ_1_2_2_DTR },
2255                 { SNOR_HWCAPS_READ_1_1_4,       SNOR_CMD_READ_1_1_4 },
2256                 { SNOR_HWCAPS_READ_1_4_4,       SNOR_CMD_READ_1_4_4 },
2257                 { SNOR_HWCAPS_READ_4_4_4,       SNOR_CMD_READ_4_4_4 },
2258                 { SNOR_HWCAPS_READ_1_4_4_DTR,   SNOR_CMD_READ_1_4_4_DTR },
2259                 { SNOR_HWCAPS_READ_1_1_8,       SNOR_CMD_READ_1_1_8 },
2260                 { SNOR_HWCAPS_READ_1_8_8,       SNOR_CMD_READ_1_8_8 },
2261                 { SNOR_HWCAPS_READ_8_8_8,       SNOR_CMD_READ_8_8_8 },
2262                 { SNOR_HWCAPS_READ_1_8_8_DTR,   SNOR_CMD_READ_1_8_8_DTR },
2263         };
2264
2265         return spi_nor_hwcaps2cmd(hwcaps, hwcaps_read2cmd,
2266                                   ARRAY_SIZE(hwcaps_read2cmd));
2267 }
2268
2269 static int spi_nor_hwcaps_pp2cmd(u32 hwcaps)
2270 {
2271         static const int hwcaps_pp2cmd[][2] = {
2272                 { SNOR_HWCAPS_PP,               SNOR_CMD_PP },
2273                 { SNOR_HWCAPS_PP_1_1_4,         SNOR_CMD_PP_1_1_4 },
2274                 { SNOR_HWCAPS_PP_1_4_4,         SNOR_CMD_PP_1_4_4 },
2275                 { SNOR_HWCAPS_PP_4_4_4,         SNOR_CMD_PP_4_4_4 },
2276                 { SNOR_HWCAPS_PP_1_1_8,         SNOR_CMD_PP_1_1_8 },
2277                 { SNOR_HWCAPS_PP_1_8_8,         SNOR_CMD_PP_1_8_8 },
2278                 { SNOR_HWCAPS_PP_8_8_8,         SNOR_CMD_PP_8_8_8 },
2279         };
2280
2281         return spi_nor_hwcaps2cmd(hwcaps, hwcaps_pp2cmd,
2282                                   ARRAY_SIZE(hwcaps_pp2cmd));
2283 }
2284
2285 static int spi_nor_select_read(struct spi_nor *nor,
2286                                const struct spi_nor_flash_parameter *params,
2287                                u32 shared_hwcaps)
2288 {
2289         int cmd, best_match = fls(shared_hwcaps & SNOR_HWCAPS_READ_MASK) - 1;
2290         const struct spi_nor_read_command *read;
2291
2292         if (best_match < 0)
2293                 return -EINVAL;
2294
2295         cmd = spi_nor_hwcaps_read2cmd(BIT(best_match));
2296         if (cmd < 0)
2297                 return -EINVAL;
2298
2299         read = &params->reads[cmd];
2300         nor->read_opcode = read->opcode;
2301         nor->read_proto = read->proto;
2302
2303         /*
2304          * In the spi-nor framework, we don't need to make the difference
2305          * between mode clock cycles and wait state clock cycles.
2306          * Indeed, the value of the mode clock cycles is used by a QSPI
2307          * flash memory to know whether it should enter or leave its 0-4-4
2308          * (Continuous Read / XIP) mode.
2309          * eXecution In Place is out of the scope of the mtd sub-system.
2310          * Hence we choose to merge both mode and wait state clock cycles
2311          * into the so called dummy clock cycles.
2312          */
2313         nor->read_dummy = read->num_mode_clocks + read->num_wait_states;
2314         return 0;
2315 }
2316
2317 static int spi_nor_select_pp(struct spi_nor *nor,
2318                              const struct spi_nor_flash_parameter *params,
2319                              u32 shared_hwcaps)
2320 {
2321         int cmd, best_match = fls(shared_hwcaps & SNOR_HWCAPS_PP_MASK) - 1;
2322         const struct spi_nor_pp_command *pp;
2323
2324         if (best_match < 0)
2325                 return -EINVAL;
2326
2327         cmd = spi_nor_hwcaps_pp2cmd(BIT(best_match));
2328         if (cmd < 0)
2329                 return -EINVAL;
2330
2331         pp = &params->page_programs[cmd];
2332         nor->program_opcode = pp->opcode;
2333         nor->write_proto = pp->proto;
2334         return 0;
2335 }
2336
2337 static int spi_nor_select_erase(struct spi_nor *nor,
2338                                 const struct flash_info *info)
2339 {
2340         struct mtd_info *mtd = &nor->mtd;
2341
2342         /* Do nothing if already configured from SFDP. */
2343         if (mtd->erasesize)
2344                 return 0;
2345
2346 #ifdef CONFIG_SPI_FLASH_USE_4K_SECTORS
2347         /* prefer "small sector" erase if possible */
2348         if (info->flags & SECT_4K) {
2349                 nor->erase_opcode = SPINOR_OP_BE_4K;
2350                 mtd->erasesize = 4096;
2351         } else if (info->flags & SECT_4K_PMC) {
2352                 nor->erase_opcode = SPINOR_OP_BE_4K_PMC;
2353                 mtd->erasesize = 4096;
2354         } else
2355 #endif
2356         {
2357                 nor->erase_opcode = SPINOR_OP_SE;
2358                 mtd->erasesize = info->sector_size;
2359         }
2360         return 0;
2361 }
2362
2363 static int spi_nor_setup(struct spi_nor *nor, const struct flash_info *info,
2364                          const struct spi_nor_flash_parameter *params,
2365                          const struct spi_nor_hwcaps *hwcaps)
2366 {
2367         u32 ignored_mask, shared_mask;
2368         bool enable_quad_io;
2369         int err;
2370
2371         /*
2372          * Keep only the hardware capabilities supported by both the SPI
2373          * controller and the SPI flash memory.
2374          */
2375         shared_mask = hwcaps->mask & params->hwcaps.mask;
2376
2377         /* SPI n-n-n protocols are not supported yet. */
2378         ignored_mask = (SNOR_HWCAPS_READ_2_2_2 |
2379                         SNOR_HWCAPS_READ_4_4_4 |
2380                         SNOR_HWCAPS_READ_8_8_8 |
2381                         SNOR_HWCAPS_PP_4_4_4 |
2382                         SNOR_HWCAPS_PP_8_8_8);
2383         if (shared_mask & ignored_mask) {
2384                 dev_dbg(nor->dev,
2385                         "SPI n-n-n protocols are not supported yet.\n");
2386                 shared_mask &= ~ignored_mask;
2387         }
2388
2389         /* Select the (Fast) Read command. */
2390         err = spi_nor_select_read(nor, params, shared_mask);
2391         if (err) {
2392                 dev_dbg(nor->dev,
2393                         "can't select read settings supported by both the SPI controller and memory.\n");
2394                 return err;
2395         }
2396
2397         /* Select the Page Program command. */
2398         err = spi_nor_select_pp(nor, params, shared_mask);
2399         if (err) {
2400                 dev_dbg(nor->dev,
2401                         "can't select write settings supported by both the SPI controller and memory.\n");
2402                 return err;
2403         }
2404
2405         /* Select the Sector Erase command. */
2406         err = spi_nor_select_erase(nor, info);
2407         if (err) {
2408                 dev_dbg(nor->dev,
2409                         "can't select erase settings supported by both the SPI controller and memory.\n");
2410                 return err;
2411         }
2412
2413         /* Enable Quad I/O if needed. */
2414         enable_quad_io = (spi_nor_get_protocol_width(nor->read_proto) == 4 ||
2415                           spi_nor_get_protocol_width(nor->write_proto) == 4);
2416         if (enable_quad_io && params->quad_enable)
2417                 nor->quad_enable = params->quad_enable;
2418         else
2419                 nor->quad_enable = NULL;
2420
2421         return 0;
2422 }
2423
2424 static int spi_nor_init(struct spi_nor *nor)
2425 {
2426         int err;
2427
2428         /*
2429          * Atmel, SST, Intel/Numonyx, and others serial NOR tend to power up
2430          * with the software protection bits set
2431          */
2432         if (JEDEC_MFR(nor->info) == SNOR_MFR_ATMEL ||
2433             JEDEC_MFR(nor->info) == SNOR_MFR_INTEL ||
2434             JEDEC_MFR(nor->info) == SNOR_MFR_SST ||
2435             nor->info->flags & SPI_NOR_HAS_LOCK) {
2436                 write_enable(nor);
2437                 write_sr(nor, 0);
2438                 spi_nor_wait_till_ready(nor);
2439         }
2440
2441         if (nor->quad_enable) {
2442                 err = nor->quad_enable(nor);
2443                 if (err) {
2444                         dev_dbg(nor->dev, "quad mode not supported\n");
2445                         return err;
2446                 }
2447         }
2448
2449         if (nor->addr_width == 4 &&
2450             (JEDEC_MFR(nor->info) != SNOR_MFR_SPANSION) &&
2451             !(nor->info->flags & SPI_NOR_4B_OPCODES)) {
2452                 /*
2453                  * If the RESET# pin isn't hooked up properly, or the system
2454                  * otherwise doesn't perform a reset command in the boot
2455                  * sequence, it's impossible to 100% protect against unexpected
2456                  * reboots (e.g., crashes). Warn the user (or hopefully, system
2457                  * designer) that this is bad.
2458                  */
2459                 if (nor->flags & SNOR_F_BROKEN_RESET)
2460                         printf("enabling reset hack; may not recover from unexpected reboots\n");
2461                 set_4byte(nor, nor->info, 1);
2462         }
2463
2464         return 0;
2465 }
2466
2467 int spi_nor_scan(struct spi_nor *nor)
2468 {
2469         struct spi_nor_flash_parameter params;
2470         const struct flash_info *info = NULL;
2471         struct mtd_info *mtd = &nor->mtd;
2472         struct spi_nor_hwcaps hwcaps = {
2473                 .mask = SNOR_HWCAPS_READ |
2474                         SNOR_HWCAPS_READ_FAST |
2475                         SNOR_HWCAPS_PP,
2476         };
2477         struct spi_slave *spi = nor->spi;
2478         int ret;
2479
2480         /* Reset SPI protocol for all commands. */
2481         nor->reg_proto = SNOR_PROTO_1_1_1;
2482         nor->read_proto = SNOR_PROTO_1_1_1;
2483         nor->write_proto = SNOR_PROTO_1_1_1;
2484         nor->read = spi_nor_read_data;
2485         nor->write = spi_nor_write_data;
2486         nor->read_reg = spi_nor_read_reg;
2487         nor->write_reg = spi_nor_write_reg;
2488
2489         if (spi->mode & SPI_RX_OCTAL) {
2490                 hwcaps.mask |= SNOR_HWCAPS_READ_1_1_8;
2491
2492                 if (spi->mode & SPI_TX_OCTAL)
2493                         hwcaps.mask |= (SNOR_HWCAPS_READ_1_8_8 |
2494                                         SNOR_HWCAPS_PP_1_1_8 |
2495                                         SNOR_HWCAPS_PP_1_8_8);
2496         } else if (spi->mode & SPI_RX_QUAD) {
2497                 hwcaps.mask |= SNOR_HWCAPS_READ_1_1_4;
2498
2499                 if (spi->mode & SPI_TX_QUAD)
2500                         hwcaps.mask |= (SNOR_HWCAPS_READ_1_4_4 |
2501                                         SNOR_HWCAPS_PP_1_1_4 |
2502                                         SNOR_HWCAPS_PP_1_4_4);
2503         } else if (spi->mode & SPI_RX_DUAL) {
2504                 hwcaps.mask |= SNOR_HWCAPS_READ_1_1_2;
2505
2506                 if (spi->mode & SPI_TX_DUAL)
2507                         hwcaps.mask |= SNOR_HWCAPS_READ_1_2_2;
2508         }
2509
2510         info = spi_nor_read_id(nor);
2511         if (IS_ERR_OR_NULL(info))
2512                 return -ENOENT;
2513         /* Parse the Serial Flash Discoverable Parameters table. */
2514         ret = spi_nor_init_params(nor, info, &params);
2515         if (ret)
2516                 return ret;
2517
2518         if (!mtd->name)
2519                 mtd->name = info->name;
2520         mtd->priv = nor;
2521         mtd->type = MTD_NORFLASH;
2522         mtd->writesize = 1;
2523         mtd->flags = MTD_CAP_NORFLASH;
2524         mtd->size = params.size;
2525         mtd->_erase = spi_nor_erase;
2526         mtd->_read = spi_nor_read;
2527
2528 #if defined(CONFIG_SPI_FLASH_STMICRO) || defined(CONFIG_SPI_FLASH_SST)
2529         /* NOR protection support for STmicro/Micron chips and similar */
2530         if (JEDEC_MFR(info) == SNOR_MFR_ST ||
2531             JEDEC_MFR(info) == SNOR_MFR_MICRON ||
2532             JEDEC_MFR(info) == SNOR_MFR_SST ||
2533                         info->flags & SPI_NOR_HAS_LOCK) {
2534                 nor->flash_lock = stm_lock;
2535                 nor->flash_unlock = stm_unlock;
2536                 nor->flash_is_locked = stm_is_locked;
2537         }
2538 #endif
2539
2540 #ifdef CONFIG_SPI_FLASH_SST
2541         /*
2542          * sst26 series block protection implementation differs from other
2543          * series.
2544          */
2545         if (info->flags & SPI_NOR_HAS_SST26LOCK) {
2546                 nor->flash_lock = sst26_lock;
2547                 nor->flash_unlock = sst26_unlock;
2548                 nor->flash_is_locked = sst26_is_locked;
2549         }
2550
2551         /* sst nor chips use AAI word program */
2552         if (info->flags & SST_WRITE)
2553                 mtd->_write = sst_write;
2554         else
2555 #endif
2556                 mtd->_write = spi_nor_write;
2557
2558         if (info->flags & USE_FSR)
2559                 nor->flags |= SNOR_F_USE_FSR;
2560         if (info->flags & SPI_NOR_HAS_TB)
2561                 nor->flags |= SNOR_F_HAS_SR_TB;
2562         if (info->flags & NO_CHIP_ERASE)
2563                 nor->flags |= SNOR_F_NO_OP_CHIP_ERASE;
2564         if (info->flags & USE_CLSR)
2565                 nor->flags |= SNOR_F_USE_CLSR;
2566
2567         if (info->flags & SPI_NOR_NO_ERASE)
2568                 mtd->flags |= MTD_NO_ERASE;
2569
2570         nor->page_size = params.page_size;
2571         mtd->writebufsize = nor->page_size;
2572
2573         /* Some devices cannot do fast-read, no matter what DT tells us */
2574         if ((info->flags & SPI_NOR_NO_FR) || (spi->mode & SPI_RX_SLOW))
2575                 params.hwcaps.mask &= ~SNOR_HWCAPS_READ_FAST;
2576
2577         /*
2578          * Configure the SPI memory:
2579          * - select op codes for (Fast) Read, Page Program and Sector Erase.
2580          * - set the number of dummy cycles (mode cycles + wait states).
2581          * - set the SPI protocols for register and memory accesses.
2582          * - set the Quad Enable bit if needed (required by SPI x-y-4 protos).
2583          */
2584         ret = spi_nor_setup(nor, info, &params, &hwcaps);
2585         if (ret)
2586                 return ret;
2587
2588         if (nor->addr_width) {
2589                 /* already configured from SFDP */
2590         } else if (info->addr_width) {
2591                 nor->addr_width = info->addr_width;
2592         } else if (mtd->size > SZ_16M) {
2593 #ifndef CONFIG_SPI_FLASH_BAR
2594                 /* enable 4-byte addressing if the device exceeds 16MiB */
2595                 nor->addr_width = 4;
2596                 if (JEDEC_MFR(info) == SNOR_MFR_SPANSION ||
2597                     info->flags & SPI_NOR_4B_OPCODES)
2598                         spi_nor_set_4byte_opcodes(nor, info);
2599 #else
2600         /* Configure the BAR - discover bank cmds and read current bank */
2601         nor->addr_width = 3;
2602         ret = read_bar(nor, info);
2603         if (ret < 0)
2604                 return ret;
2605 #endif
2606         } else {
2607                 nor->addr_width = 3;
2608         }
2609
2610         if (nor->addr_width > SPI_NOR_MAX_ADDR_WIDTH) {
2611                 dev_dbg(dev, "address width is too large: %u\n",
2612                         nor->addr_width);
2613                 return -EINVAL;
2614         }
2615
2616         /* Send all the required SPI flash commands to initialize device */
2617         nor->info = info;
2618         ret = spi_nor_init(nor);
2619         if (ret)
2620                 return ret;
2621
2622         nor->name = mtd->name;
2623         nor->size = mtd->size;
2624         nor->erase_size = mtd->erasesize;
2625         nor->sector_size = mtd->erasesize;
2626
2627 #ifndef CONFIG_SPL_BUILD
2628         printf("SF: Detected %s with page size ", nor->name);
2629         print_size(nor->page_size, ", erase size ");
2630         print_size(nor->erase_size, ", total ");
2631         print_size(nor->size, "");
2632         puts("\n");
2633 #endif
2634
2635         return 0;
2636 }
2637
2638 /* U-Boot specific functions, need to extend MTD to support these */
2639 int spi_flash_cmd_get_sw_write_prot(struct spi_nor *nor)
2640 {
2641         int sr = read_sr(nor);
2642
2643         if (sr < 0)
2644                 return sr;
2645
2646         return (sr >> 2) & 7;
2647 }