nanddump: correct rounding to next page (lead to infinite loop)
authorRichard Genoud <richard.genoud@gmail.com>
Tue, 24 Jun 2014 10:12:58 +0000 (12:12 +0200)
committerDenys Vlasenko <vda.linux@googlemail.com>
Wed, 25 Jun 2014 14:37:37 +0000 (16:37 +0200)
The rounding to next page formula was wrong:
ex: (len | ~(meminfo->writesize - 1)) + 1;
len=128K
writesize=4K
(len | ~(meminfo->writesize - 1)) + 1 => 4 294 963 201 ?!

correct rounding formula:
((len - 1) | (meminfo->writesize - 1)) + 1 => 128K
len = 130K
((len - 1) | (meminfo->writesize - 1)) + 1 => 132K

modprobe nandsim parts="20,20" badblocks="22,23"

without patch:
nanddump  /dev/mtd1 | wc -c
[...] infinite loop

with the patch:
nanddump /dev/mtd1 | wc -c
327680

Signed-off-by: Richard Genoud <richard.genoud@gmail.com>
Signed-off-by: Denys Vlasenko <vda.linux@googlemail.com>
miscutils/nandwrite.c

index e3f9b565dae41214e2843835ff3c90bd389d53a2..8c4da802f6b33ef285ecc5533ccc525133f0988e 100644 (file)
@@ -64,8 +64,8 @@ static void dump_bad(struct mtd_info_user *meminfo, unsigned len, int oob)
        unsigned char buf[meminfo->writesize];
        unsigned count;
 
-       /* round len to the next page */
-       len = (len | ~(meminfo->writesize - 1)) + 1;
+       /* round len to the next page only if len is not already on a page */
+       len = ((len - 1) | (meminfo->writesize - 1)) + 1;
 
        memset(buf, 0xff, sizeof(buf));
        for (count = 0; count < len; count += meminfo->writesize) {