Mysql 快速生成百千万条测试数据

柔情只为你懂 2022-06-01 07:52 347阅读 0赞

1、生成思路

利用mysql内存表插入速度快的特点，先利用函数和存储过程在内存表中生成数据，然后再从内存表插入普通表中

2、创建内存表及普通表

[sql] view plain copy

  1. CREATE TABLE `vote_record_memory` (
  2. `id` INT (11) NOT NULL AUTO_INCREMENT,
  3. `user_id` VARCHAR (20) NOT NULL,
  4. `vote_id` INT (11) NOT NULL,
  5. `group_id` INT (11) NOT NULL,
  6. `create_time` datetime NOT NULL,
  7. PRIMARY KEY (`id`),
  8. KEY `index_id` (`user_id`) USING HASH
  9. ) ENGINE = MEMORY AUTO_INCREMENT = 1 DEFAULT CHARSET = utf8

[sql] view plain copy

  1. CREATE TABLE `vote_record` (
  2. `id` INT (11) NOT NULL AUTO_INCREMENT,
  3. `user_id` VARCHAR (20) NOT NULL,
  4. `vote_id` INT (11) NOT NULL,
  5. `group_id` INT (11) NOT NULL,
  6. `create_time` datetime NOT NULL,
  7. PRIMARY KEY (`id`),
  8. KEY `index_user_id` (`user_id`) USING HASH
  9. ) ENGINE = INNODB AUTO_INCREMENT = 1 DEFAULT CHARSET = utf8

3、创建函数及存储过程

[sql] view plain copy

  1. CREATE FUNCTION `rand_string`(n INT) RETURNS varchar(255) CHARSET latin1
  2. BEGIN
  3. DECLARE chars_str varchar(100) DEFAULT ‘abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ0123456789’;
  4. DECLARE return_str varchar(255) DEFAULT ‘’ ;
  5. DECLARE i INT DEFAULT 0;
  6. WHILE i < n DO
  7. SET return_str = concat(return_str,substring(chars_str , FLOOR(1 + RAND()*62 ),1));
  8. SET i = i +1;
  9. END WHILE;
  10. RETURN return_str;
  11. END

[sql] view plain copy

  1. CREATE PROCEDURE `add_vote_memory`(IN n int)
  2. BEGIN
  3. DECLARE i INT DEFAULT 1;
  4. WHILE (i <= n ) DO
  5. INSERT into vote_record_memory (user_id,vote_id,group_id,create_time ) VALUEs (rand_string(20),FLOOR(RAND() * 1000),FLOOR(RAND() * 100) ,now() );
  6. set i=i+1;
  7. END WHILE;
  8. END

4、调用存储过程

[sql] view plain copy

  1. CALL add_vote_memory(1000000)

根据电脑性能不能所花时间不一样，大概时间在小时级别，如果报错内存满了，只在修改max_heap_table_size 个参数即可，win7修改位置如下，linux，修改my.cnf文件，修改后要重启mysql，重启后内存表数据会丢失

Center

5、插入普通表中

[sql] view plain copy

  1. INSERT into vote_record SELECT * from vote_record_memory

6、结果

Center 1

Center 2

发表评论

表情：
评论列表 （有 0 条评论，347人围观）

还没有评论，来说两句吧...

相关阅读

    相关 MySQL 添加千万条数据

    前言 平时学习过程中经常会看到千万级数据库索引优化，千万级数据查询优化等，但是我们平时很少会有千万级数据的场景，这篇文章可以用来生成千万级数据用作学习。后续将数据表连接到

    忘是亡心i忘是亡心i/ 0 赞/ 149 阅读