我以前分享过一篇《MySQL 大对象一例》,今天就来详细说下大对象的优缺点以及使用场景。
我们把 MySQL 的大对象类型分 TEXT / BLOB 和 JSON 两部分来说明。
一、TEXT / BLOB 类型
TEXT 和 BLOB 的区别非常简单。TEXT 存储以明文存储,有对应的字符集和校验规则;BLOB 则以二进制存储,没有字符集和排序规则,所有的对比都是以二进制来进行。
示例 1
创建一张表 c1 字段 f1,f2 分别为 tinytext 和 tinyblob。
mysql> create table c1 (f1 tinytext, f2 tinyblob);
Query OK, 0 rows affected (0.03 sec)
插入示例数据。
insert into c1 values ('a','a'),('b','b'),('B','B'),('d','d'),('F','F'),('你','你'),('我','我'),('是吧','是吧');
根据字段 f1 排序。
mysql> select * from c1 order by f1;
+--------+--------+
| f1 | f2 |
+--------+--------+
| a | a |
| b | b |
| B | B |
| d | d |
| F | F |
| 你 | 你 |
| 我 | 我 |
| 是吧 | 是吧 |
+--------+--------+
8 rows in set (0.01 sec)
根据字段 f2 排序。
mysql> select * from c1 order by f2;
+--------+--------+
| f1 | f2 |
+--------+--------+
| B | B |
| F | F |
| a | a |
| b | b |
| d | d |
| 你 | 你 |
| 我 | 我 |
| 是吧 | 是吧 |
+--------+--------+
8 rows in set (0.00 sec)
f1,f2 字段各自排序的结果都不一致。f1 是按照不区分大小写的校验规则,f2 直接二进制检验。
MySQL 的大对象类型,我从以下几类详细说明:
1.1 磁盘空间占用
1.2 表的存储格式
-
1.2.1 redundant/compact
对 redundant 格式来说,保存大对象的前 768 字节在 InnoDB 数据页,多出来的放在溢出页。如果有多个 TEXT/BLOB 字段,那数据页将会变得臃肿不堪,性能影响很大。数据页里几乎全是无用的数据,导致额外的资源消耗。同时如果是主从架构,也会把数据全部同步到从机,对网络也是额外的消耗。所以这种场景下,一般都只是保存大对象的路径到数据库,真实的数据则放在磁盘上。
-
1.2.2 dynamic/compressed
对 dynamic 格式来说,如果大对象字段存储数据大小小于 40 字节,那全部放在数据页,剩余的场景,数据页只保留一个 20 字节的指针指向溢出页。 这种场景下,如果每个大对象字段保存的数据小于 40 个字节,也就和 varchar(40),效果一样。所以用不用大对象不能一概而论。
1.3 表引擎相关
NDB 引擎不推荐使用大对象。涉及的细节比较多,比如含有大对象的关联字段不支持引擎关联数据下推;含有大对象的表需要额外的加锁等等。
1.4 索引相关
在大对象字段上建立索引必须是前缀,比如字段 f1 为 text,给前 10 个字符建立索引 idx_f1(f1(10))。
mysql> alter table t2 add key idx_f100(f100);
ERROR 1170 (42000): BLOB/TEXT column 'f100' used in key specification without a key length
1.5 分区表相关
分区表分区字段不支持大对象。
mysql> create table p1(f1 text) partition by list columns(f1) (partition p0 values in ('1','2'));
ERROR 1502 (HY000): A BLOB field is not allowed in partition function
1.6 参数相关
mysql_allowed_packet,这个参数代表 MySQL 服务端和客户端传输的单次数据包上限,如果有 text/blob 字段,此参数设置为最大值 1GB。当然了,必须同时设置客户端和服务端。
1.7 如何插入/获取
示例 2
插入一个 /var/lib/mysql-files
目录下的所有文件内容。
root@ytt-pc:/var/lib/mysql-files# ll
总用量 32M
1324681 14M -rw-r--r-- 1 root root 14M 12月 30 17:23 test3
1311598 6.6M -rw-r--r-- 1 root root 6.6M 12月 30 17:23 test
1316840 6.6M -rw-r--r-- 1 root root 6.6M 12月 30 17:23 test2
1316693 5.5M -rw-r--r-- 1 root root 5.4M 12月 30 17:26 random_test
1315066 4.0K -rw-r--r-- 1 root root 1.9K 12月 30 14:56 sample_y1.txt.nl
1311256 4.0K -rw-r----- 1 mysql mysql 1.7K 12月 30 16:23 y1.txt
1316129 4.0K -rw-r--r-- 1 root root 1.5K 12月 30 15:28 sample_y1.txt.nl2
1312042 4.0K -rw-r--r-- 1 root root 1.5K 12月 30 15:07 sample_y1.txt.awk
1316691 4.0K -rw-rw-rw- 1 mysql mysql 1.4K 12月 30 16:25 y1_older.txt
1316168 4.0K -rw-r----- 1 mysql mysql 874 12月 30 14:41 sample_y1.txt
1315893 4.0K -rw-r----- 1 root root 874 12月 30 14:45 sample_y1.txt.bak
1311076 4.0K -rw-r----- 1 mysql mysql 662 12月 30 13:56 ascii.txt
1312152 4.0K -rw-r--r-- 1 root root 648 12月 30 14:37 sample.txt
1325161 4.0K -rw-r--r-- 1 root root 403 12月 31 10:59 y1111.txt.10
1312256 4.0K -rw-r----- 1 mysql mysql 164 12月 31 09:49 y111.txt
1311248 4.0K -rw-r----- 1 mysql mysql 159 12月 31 09:42 y11.txt
1327711 4.0K -rw-r--r-- 1 root root 126 12月 5 09:56 performance_schema_enable.sql
1326639 4.0K -rw-r--r-- 1 root root 22 1月 10 11:32 系统名称
存放文件内容的表结构。
mysql-(ytt/3305)->create table file_list_upload_dir(file_name varchar(100) not null primary key,content longtext, updated datetime);
Query OK, 0 rows affected (0.03 sec)
插入文件内容。
root@ytt-pc:/var/lib/mysql-files# for i in $(ls); \
do mysql -uytt -pytt -P3305 -h127.0.0.1 \
-e "use ytt;insert into file_list_upload_dir \
values ('$i',load_file('$(pwd)/$i'),now())";done;
二、JSON 类型
JSON 类型相比大家都非常熟悉了,轻量级的文本交互格式,不依赖于任何语句。
制定信息参考:
https://tools.ietf.org/html/rfc7159
https://tools.ietf.org/html/rfc7396
JSON 类型在 MySQL 内部以特殊的二进制方式存放,类似于 PostgreSQL 的 JSONB 类型。最大占用空间和 longtext 或者 longblob 一样。text 其实也能存储 JSON 对象,但是没有 JSON 类型的格式校验以及内部提供的众多函数。比如以下例子:
示例 3
变量 @a 和 @b 分别为标准 JSON 格式和非 JSON 格式。创建 json1 表。
mysql-(ytt/3305)->set @a='{"a":1,"b":2,"c":3,"d":4}';
Query OK, 0 rows affected (0.00 sec)
mysql-(ytt/3305)->set @b="{'a':1,'b':2,'c':3,'d':4}";
Query OK, 0 rows affected (0.00 sec)
mysql-(ytt/3305)->create table json1 (str1 json,str2 longtext);
Query OK, 0 rows affected (0.02 sec)
给 str1 插入 @a 成功,@b 失败;str2 任何字符都能插入。
mysql-(ytt/3305)->insert into json1 values (@a,@a);
Query OK, 1 row affected (0.00 sec)
mysql-(ytt/3305)->insert into json1 values (@b,@b);
ERROR 3140 (22032): Invalid JSON text: "Missing a name for object member." at position 1 in value for column 'json1.str1'.
mysql-(ytt/3305)->insert into json1 values (@a,@b);
Query OK, 1 row affected (0.01 sec)
又比如说检索部分。对 JSON 的检索比对 text 的检索容易太多。还是拿刚才的例子,需要拿出 a 对应的值 1,对 @b 来说,可能比较麻烦,但是换成 @a 就容易多了。json_extract 函数即可。
mysql-(ytt/3305)->select json_extract(@a,'$.a') as 'a';
+------+
| a |
+------+
| 1 |
+------+
1 row in set (0.00 sec)
但是有一点比较幸运的时,针对 @b 这种格式,可以把单个字段拆分为多个,这样就可以利用 SQL 语句简单的检索出结果来了。关于拆或者不拆的优劣暂时不在本篇讨论范围内,将会在表设计理念篇来详细介绍。好了,本篇关于 MySQL 的大对象类型就介绍就到此为止,希望对大家有所帮助。
关于 MySQL 的技术内容,你们还有什么想知道的吗?赶紧留言告诉小编吧!