数据库依据指定字段去重
需求:对一张会员表按照name/email/card_num字段去除反复数据;
思绪:用group by办法可以查询出'去重'后的数据,将这些数据储备到一张暂时表中,然后将暂时表的数据储备到指定的表中;
误区及解决方案:group by办法只能猎取部分字段(去重指定字段),不克不及一次猎取到完全的数据,但是可以通过max函数猎取group by结果集中的id,再按照id汇合查询出全部的记载。
测试思绪
- 查询去重后的数据
SELECT max(id) as id,name,email,card_num FROM users GROUP BY name,email,card_num;
- 从去重后的数据中猎取id汇合
SELECT ID from (SELECT max(id) as id,name,email,card_num FROM users GROUP BY name,email,card_num) as T;
- 按照去重后的数据中猎取id汇合,从源数据中获得记载列表
SELECT * from users where id in (SELECT ID from (SELECT max(id) as id,name,email,card_num FROM users GROUP BY name,email,card_num) as T);
实际办法
- 按照去重后的数据中猎取id汇合,从源数据中获得记载列表,将这些列表数据存入一个暂时表中
create TEMP TABLE tmp_data as SELECT * from users where id in (SELECT ID from (SELECT max(id) as id,name,email,card_num FROM users GROUP BY name,email,card_num) as T);
- 将暂时表中的数据存入指定的数据表中,完毕
insert into users_copy1 select * from tmp_data;
检测
- 检测结果是不是和第一步查询去重后的数据总数雷同
select count(*) from users_copy1;
测试结果:1.4w条数据中有2300条数据反复,实际运转结果为0.7s,根本知足此刻的需求。
更多MySQL相关技术文章,请拜访MySQL教程栏目停止学习!
以上就是数据库按照指定字段去重的具体内容,更多请关注百分百源码网其它相关文章!