Mysql 中的 utf8

最近遇到了一个奇怪的问题，在向  Mysql 插入一个 UTF-8 字符串时，字符串被截断了。打印 执行的 SQL 发现，是断在了一个无法显示的字符上。一开始怀疑是非法 UTF-8 编码，但通过 hexdump 发现，它是一个合法的 utf-8 字符，编码长度是 4 个字节。然后将其解码为 Unicode 编码，google 了一下，原来是一个 Emoji 表情（Emoji 是一种特殊的 Unicode 编码，常见于 ios 和 android 手机上）。

为什么遇到 Emoji 表情会被截断呢，在我的理解中，Mysql 的 utf8 应该可以接受任何合法的 UTF-8 字符串的。经同事提醒，Mysql 早期版本只支持最长 3 个字节的 UTF-8。查了下文档，果然如此：

• utf8, a UTF-8 encoding of the Unicode character set using one to three bytes per character.

不只是老版本的 Mysql，最新版本的 Mysql 仍是如此。三个字节的 UTF-8 最大能编码的 Unicode 字符是 0xffff，也就是 Unicode 中的基本多文种平面（BMP）。也就是说，任何不在基本多文本平面的 Unicode字符，都无法使用 Mysql 的 utf8 字符集存储。包括上述的 Emoji 表情，和很多不常用的汉字，以及任何新增的 Unicode 字符等等。

此 utf8 非彼 UTF-8.

UTF-8 是 Unicode 的一种传输编码格式（8-bit Unicode Transformation Format）。最初的 UTF-8 格式使用一至六个字节，最大能编码 31 位字符。最新的 UTF-8 规范只使用一到四个字节，最大能编码21位，正好能够表示所有的 17个 Unicode 平面。

utf8 是 Mysql 中的一种字符集，只支持最长三个字节的 UTF-8字符，也就是 Unicode 中的基本多文本平面。

Mysql 中的 utf8 为什么只支持持最长三个字节的 UTF-8字符呢？我想了一下，可能是因为 Mysql 刚开始开发那会，Unicode 还没有辅助平面这一说呢。那时候，Unicode 委员会还做着 “65535 个字符足够全世界用了”的美梦。Mysql 中的字符串长度算的是字符数而非字节数，对于 CHAR 数据类型来说，需要为字符串保留足够的长。当使用 utf8 字符集时，需要保留的长度就是 utf8 最长字符长度乘以字符串长度，所以这里理所当然的限制了 utf8 最大长度为 3，比如 CHAR(100)  Mysql 会保留 300字节长度。至于后续的版本为什么不对 4 字节长度的 UTF-8 字符提供支持，我想一个是为了向后兼容性的考虑，还有就是基本多文种平面之外的字符确实很少用到。

要在 Mysql 中保存 4 字节长度的 UTF-8 字符，需要使用 utf8mb4 字符集，但只有 5.5 版本以后的才支持。我觉得，为了获取更好的兼容性，应该总是使用 utf8mb4 而非 utf8.  对于 CHAR 类型数据，utf8mb4 会多消耗一些空间，根据 Mysql 官方建议，使用 VARCHAR  替代 CHAR。

转自：http://blog.haipo.me/?p=1149