mysql从一张表查询批量数据并插入到另一表中的完整实例

说在前面

nodejs 读取数据库是一个异步操作,所以在数据库还未读取到数据之前,就会继续往下执行代码。
最近写东西时,需要对数据库进行批量数据的查询后,insert到另一表中。
说到批量操作,让人最容易想到的是for循环。

错误的 for 循环版本

先放出代码,提前说明一下,在这里封装了sql操作:sql.sever(数据库连接池,sql语句拼接函数,回调函数)

for(let i=0;i<views.xuehao.length;i++){
	sql.sever(pool,sql.select(["name"],"registryinformation",["xuehao="+sql.escape(views.xuehao[i])]),function(data){
  sql.sever(pool,sql.insert("personnelqueue",["xuehao","name","selfgroup","time"],[sql.escape(views.xuehao[i]),data[0].name,selfgroup,'NOW()'],true),function(){
  let allGroup = ['Android', 'ios', 'Web', '后台','产品'];	//这里是邮件相关代码
  let group = allGroup[selfgroup - 1];
  let mailmsg = "您好," + group + "组通过人员表已提交,请您尽快审核!";
  mail.mailepass(mailmsg);
  res.write(JSON.stringify({
   style:1,
   msg:"已将名单提交,待管理员审核!"
  }));
  res.end();
  })
 })
}

上面代码中,是先进行数据查询再进行数据的插入,(在这里假定有2条数据)按照常理,我们想的执行顺序是:查询 插入 查询 插入。然而,并非我们所想那么简单,虽然插入操作也确实在数据库查询的回调中写的,但是实际的顺序是:查询 查询,一旦直接进行了两次查询,想当然后面的代码直接报错了。没来得及回调时,已经执行了第二次循环。

改进的 for 循环版本

mysql 用一条语句可以完成查询并插入,格式为:INSERT IGNORE INTO 插入表表名 (item1,item2) SELECT item1,item2 FROM 查询表表名 WHERE,于是乎,便想到了下面的解决方案。

for (let i = 0; i < views.xuehao.length; i++) {
 sql.sever(pool, 'INSERT IGNORE INTO personnelqueue (xuehao,name,selfgroup,time) SELECT xuehao,name,selfgroup,NOW() FROM registryinformation WHERE xuehao=' + sql.escape(views.xuehao[i]) + ' and pass=' + state, function () {
  if (i == views.xuehao.length - 1) {
   let allGroup = ['Android', 'ios', 'Web', '后台', '产品'];
   let group = allGroup[selfgroup - 1];
   let mailmsg = "您好," + group + "组通过人员表已提交,请您尽快审核!";
   mail.mailepass(mailmsg);
   res.write(JSON.stringify({
    style: 1,
    msg: "已将名单提交,待管理员审核!"
   }));
   res.end();
  }
 })
} 

这样,数据库操作正确,目的达到了。但是仔细想来,这样做还是有缺陷的。如果数据量小还好说,但若数据量大时,这样导致程序和数据库建立多次连接,会增加服务器负荷。

改进版

结合上一次的缺陷,顾名思义,这次我们要减少程序与数据库连接次数。于是,我们不再将插入和查询写到一起,而是将其分开,进行批量的插询,从而利用所查数据批量插入。代码如下:

let sqlString = 'SELECT xuehao,name,selfgroup FROM registryinformation WHERE pass=' + state + ' AND (xuehao=' + sql.escape(views.xuehao[0]);
for (let i = 1; i < views.xuehao.length; i++) {
 sqlString += ' OR xuehao=' + sql.escape(views.xuehao[i]);
}
sqlString = sqlString + ')';
sql.sever(pool, sqlString, function (data) {
 //拼接插入sql语句
 let istSqlStr = 'INSERT IGNORE INTO personnelqueue (xuehao,name,selfgroup,time) VALUES (' + data[0].xuehao + ',' + sql.escape(data[0].name) + ',' + data[0].selfgroup + ',NOW())';
 for (let j = 1; j < data.length; j++) {
 istSqlStr += ',(' + data[j].xuehao + ',' + sql.escape(data[j].name) + ',' + data[j].selfgroup + ',' + 'NOW())';
 }
 sql.sever(pool, istSqlStr, function () {
 let allGroup = ['Android', 'ios', 'Web', '后台', '产品'];
 let group = allGroup[selfgroup - 1];
 let mailmsg = "您好," + group + "组通过人员表已提交,请您尽快审核!";
 mail.mailepass(mailmsg);
 res.write(JSON.stringify({
  style: 1,
  msg: "已将名单提交,待管理员审核!"
 }));
 res.end();
 })
})

补充

批量查询语法(在这里and与or进行了混用) SELECT 列名,列名 FROM 表名 WHERE 条件 AND (item1=‘xxx' OR item1=‘yyy');
一条语句进行批量插入语法 INSERT INTO [ 表名 ]([ 列名] ,[ 列名 ]) VALUES([列值],[列值])),([列值],[列值])),([列值],[列值]));

总结