fix buffer overflow in vfprintf on long writes to unbuffered files
authorRich Felker <dalias@aerifal.cx>
Tue, 17 Apr 2012 14:58:02 +0000 (10:58 -0400)
committerRich Felker <dalias@aerifal.cx>
Tue, 17 Apr 2012 14:58:02 +0000 (10:58 -0400)
commitb5a8b28915aad17b6f49ccacd6d3fef3890844d1
tree4e99ccfebc80ef47789e1457fa675381f6514492
parentcc3a4466605fe8dfc31f3b75779110ac93055bc1
fix buffer overflow in vfprintf on long writes to unbuffered files

vfprintf temporarily swaps in a local buffer (for the duration of the
operation) when the target stream is unbuffered; this both simplifies
the implementation of functions like dprintf (they don't need their
own buffers) and eliminates the pathologically bad performance of
writing the formatted output with one or more write syscalls per
formatting field.

in cases like dprintf where we are dealing with a virgin FILE
structure, everything worked correctly. however for long-lived files
(like stderr), it's possible that the buffer bounds were already set
for the internal zero-size buffer. on the next write, __stdio_write
would pick up and use the new buffer provided by vfprintf, but the
bound (wend) field was still pointing at the internal zero-size
buffer's end. this in turn allowed unbounded writes to the temporary
buffer.
src/stdio/vfprintf.c