sql 中大数据问题;表有上百万数据,导入百万数据,存在修改,无侧添加

遇到表有500w条数据,导入execl有30w条数据,用身份证号判断,存在修改,否侧添加的功能?

A、insert into select 与select into from 区别

1,INSERT INTO SELECT语句
语句形式为:Insert into Table2(field1,field2,...) select value1,value2,... from Table1
要求目标表Table2必须存 如果不存在,系统则会提示对象无效。

2,SELECT INTO FROM语句
语句形式为:SELECT vale1, value2 into Table2 from Table1
要求目标表Table2不存在,因为在插入时会自动创建表Table2,好处:将Table1中指定字段数据复制到Table2中。

4.批量导入某表中的某列数据

INSERT INTO db.t (证件号码) SELECT 证件号码 FROM db.t

B、mysql并不没有oracle、mssql的merge into语法,但是有个on duplicate key update语法(不是标准的sql语法)可以实现merge into语法
实验一:更新所有字段
mysql> select * from dup;
+------+--------+-------+
| id   | name   | phone |
+------+--------+-------+
|    1 | wujian |   123 |
|    2 | xiay   |  1234 |
|    3 | wangj  | 12345 |
+------+--------+-------+
3 rows in set (0.00 sec)
 
mysql> select * from dupnew;
+------+------+-------+
| id   | name | phone |
+------+------+-------+
|    1 | xyr  |   128 |
|    2 | sy   |     0 |
|    5 | wsj  |  8684 |
+------+------+-------+
3 rows in set (0.00 sec)
 
mysql>  insert into dup(id,name,phone ) select * from dupnew on duplicate key update name=values(name);
Query OK, 3 rows affected (0.06 sec)
Records: 3  Duplicates: 0  Warnings: 0
 
mysql> select * from dup;
+----+-------+-------+
| id | name  | phone |
+----+-------+-------+
|  1 | xyr   |   123 |
|  2 | sy    |  1234 |
|  3 | wangj | 12345 |
|  5 | wsj   |  8684 |
+----+-------+-------+
4 rows in set (0.00 sec)
结果:实现了将表dupnew更新到表dup中去,存在就更新,不存在就插入
注意:id字段是主键或UNIQUE索引,不然只会插入dupnew表所有行数据
 
实验二:更新部分字段
mysql> select * from dupagn;
+------+------+-------+
| id   | name | phone |
+------+------+-------+
|    1 | myy  |  1888 |
|   10 | wz   |   556 |
+------+------+-------+
2 rows in set (0.00 sec)
 
mysql> insert into dup(id,name) select id,name from dupagn on duplicate key update name=values(name);
Query OK, 3 rows affected (0.06 sec)
Records: 2  Duplicates: 1  Warnings: 0
 
mysql> select * from dup;
+----+-------+-------+
| id | name  | phone |
+----+-------+-------+
|  1 | myy   |   123 |
|  2 | sy    |  1234 |
|  3 | wangj | 12345 |
|  5 | wsj   |  8684 |
| 10 | wz    |  NULL |
+----+-------+-------+
5 rows in set (0.00 sec)
结果:实现了只更新name字段,但是插入的记录中其他字段就为空了

你可能感兴趣的:(数据库)