byte-based C locale, phase 1: multibyte character handling functions
authorRich Felker <dalias@aerifal.cx>
Tue, 16 Jun 2015 04:44:17 +0000 (04:44 +0000)
committerRich Felker <dalias@aerifal.cx>
Tue, 16 Jun 2015 05:28:48 +0000 (05:28 +0000)
commit1507ebf837334e9e07cfab1ca1c2e88449069a80
tree92bad1f861e442f7e2d2fa4e178f471f4371509a
parent38e2f727237230300fea6aff68802db04625fd23
byte-based C locale, phase 1: multibyte character handling functions

this patch makes the functions which work directly on multibyte
characters treat the high bytes as individual abstract code units
rather than as multibyte sequences when MB_CUR_MAX is 1. since
MB_CUR_MAX is presently defined as a constant 4, all of the new code
added is dead code, and optimizing compilers' code generation should
not be affected at all. a future commit will activate the new code.

as abstract code units, bytes 0x80 to 0xff are represented by wchar_t
values 0xdf80 to 0xdfff, at the end of the surrogates range. this
ensures that they will never be misinterpreted as Unicode characters,
and that all wctype functions return false for these "characters"
without needing locale-specific logic. a high range outside of Unicode
such as 0x7fffff80 to 0x7fffffff was also considered, but since C11's
char16_t also needs to be able to represent conversions of these
bytes, the surrogate range was the natural choice.
src/ctype/__ctype_get_mb_cur_max.c
src/locale/langinfo.c
src/multibyte/btowc.c
src/multibyte/internal.h
src/multibyte/mbrtowc.c
src/multibyte/mbsrtowcs.c
src/multibyte/mbtowc.c
src/multibyte/wcrtomb.c
src/multibyte/wctob.c
src/regex/fnmatch.c