让 MySQL 支持 emoji 存储
在导入 twitter 内容的时候,发现有部分内容会出错。开始以为是编码问题,但文本全部为 utf8 也会出现这个问题,后来定位到 emoji 字符。
其原因是 utf8 是不定长的,根据左侧位来决定占用了几个字节。emoji 表情是 4 个字节,而 MySQL 的 utf8 编码最多支持 3 个字节,所以插入会出错。
为了解决这个问题,MySQL 开始支持 utf8mb4
utf8mb4 可支持 4 个字节 utf 编码,从而支持更大的字符集,并且兼容 utf8。简单来说,utf8mb4 是 utf8 的超集。
要让 MySQL 开启 utf8mb4 支持,需要一些额外的设置。
1. 检查 MySQL Server 版本
-
utf8mb4 支持需要 MySQL Server v5.5.3+
2. 设置表的 CHARSET
-
创建表的时候指定 CHARSET 为 utf8mb4
CREATE TABLE IF NOT EXISTS table_name (
...
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE utf8mb4_general_ci;
-
或者修改已存在的表 CHARSET 为 utf8mb4
ALTER TABLE table_name CONVERT TO CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;
3. 修改 MySQL 配置文件
4. 检查是否生效
5. 指定 MySQL 连接时的 charset
-
以 mysql-python 为例:
MySQLdb.connect(
host=config.DB_HOST,
port=config.DB_PORT,
user=config.DB_USR,
passwd=config.DB_PSW,
db=config.DB_NAME,
use_unicode=True,
charset="utf8mb4")
(责任编辑:最模板) |