MySQL数据全量导入PG的方法

MySQL数据全量导入PG的方法

1 导出mysql的数据

# 导出结构
mysqldump bx_cmdb_37 --master-data=2  --skip-opt --default-character-set=utf8 --no-data --compact --skip-dump-date --set-gtid-purged=OFF > /tmp/struct.sql

# 导出数据
mysqldump bx_cmdb_37 --master-data=2  --skip-opt --default-character-set=utf8 --no-create-info  --compact --skip-dump-date --set-gtid-purged=OFF > /tmp/data.sql1.2.3.4.5.

2 使用perl脚本，将上一步骤中的2个sql转为pg格式的，命令类似如下

下载 到 /root/目录下
chmod +x /root/mysql2pgsql.perl

cd /tmp/

/root/mysql2pgsql.perl struct.sql struct_pg.sql
/root/mysql2pgsql.perl data.sql data_pg.sql

sed -i.bak 's# int # bigint #g' struct_pg.sql
sed -i.bak 's# smallint # int #g' struct_pg.sql
sed -i.bak 's# datetime(6) # timestamp #g' struct_pg.sql

做上面的几个sed替换操作的原因是： 这里我遇到几个问题（我下面的操作处理的不够优雅）：
1 部分int unsigned的数据，perl脚本给转成了int signed，导致范围缩小了，后续插入数据可能溢出，因此我这里将全部建表语句中的int 替换为bigint
2 注意 datetime的列，在PG里面我们需要人工改成 timestamp 类型的，不然会报错
3 smallint 都改成 int类型，防止到PG中插入溢出1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.

3 将文件导入到PG库中（注意可能有些不兼容的报错）

chown postgres.postgres /tmp/bbb.sql
psql --port 5434 -d testdb -f /tmp/bbb.sql   即可导入到PG的testdb库中1.2.

4 后续的增量数据同步，可以使用 go-mysql-postgresql来进行（下一篇blog介绍用法）

我们 导出data.sql 的时候， 已经带上 master-data了，很容易就知道最后复制的binlog位置。