SSM Mybatis 批量插入 采用分批处理一次500条

男娘i 2024-04-17 05:24 108阅读 0赞

在我们操作批量插入的时候,最直接的就是传入list进行批量插入(拼接sql),那么以这种方式进行批量操作,如果在数据量特别大的情况下,拼接的sql 的packet数据包大小是非常大的,也是很难预估的。

批量插入可以参考上篇文章:(https://blog.csdn.net/qq_35387940/article/details/100007472)

那么下面,提供一种简单的分批处理,也就是把我们需要批量插入的list数据,假设是1万条数据, 我们分开500条一次批量插入:

  1. List<AgentRechargeOrder> list=mapper.getList(XXXX); //从数据库查询出来的list,也就是需要进行批量插入的总list
  2. //一次插入的条数,也就是分批的list大小
  3. int pointsDataLimit = 500;
  4. int listSize=list.size();
  5. int maxSize=listSize - 1;
  6. List<AgentRechargeOrder> newList = new ArrayList<AgentRechargeOrder>();//新建一个载体list
  7. for (int i = 0; i < listSize; i++) {
  8. //分批次处理
  9. newList.add(list.get(i));//循环将数据填入载体list
  10. if (pointsDataLimit == newList.size() || i == maxSize) { //载体list达到要求,进行批量操作
  11. //调用批量插入
  12. mapper.insertList(newList);
  13. newList.clear();//每次批量操作后,清空载体list,等待下次的数据填入
  14. }
  15. }

可以根据总数据量的大小,调整分批的list的size:
int pointsDataLimit = 500;

示例:
下面是当总数据list为1293条时的运行日志,可以看到500条数据一次,分了两批次,最后剩余的293条数据单独一次:

20190822095522527.png

发表评论

表情:
评论列表 (有 0 条评论,108人围观)

还没有评论,来说两句吧...

相关阅读

    相关 java批量执行之分批处理

    相关: 在处理一些与数据库相关的操作的时候,通常把一些操作合并能够起到优化的效果,并且数量越大,批量执行的效率比一条一条执行的效率要快的多。 批量插入比单次插入快 比