mysql大批量插入資料的4種方法示例
阿新 • • 發佈:2020-01-09
前言
本文主要給大家介紹了關於mysql大批量插入資料的4種方法,分享出來供大家參考學習,下面話不多說了,來一起看看詳細的介紹吧
方法一:迴圈插入
這個也是最普通的方式,如果資料量不是很大,可以使用,但是每次都要消耗連線資料庫的資源。
大致思維如下
(我這裡寫虛擬碼,具體編寫可以結合自己的業務邏輯或者框架語法編寫)
for($i=1;$i<=100;$i++){ $sql = 'insert...............'; //querysql } foreach($arr as $key => $value){ $sql = 'insert...............'; //querysql } while($i <= 100){ $sql = 'insert...............'; //querysql $i++ }
因為太過普通同時也沒什麼難度同時也不是我今天主要寫的所以這裡我不多說
方法二:減少連線資源,拼接一條sql
虛擬碼如下
//這裡假設arr的key和資料庫欄位同步,其實大多數框架中在php操作資料庫的時候都是這麼設計的 $arr_keys = array_keys($arr); $sql = 'INSERT INTO tablename (' . implode(',',$arr_keys) . ') values'; $arr_values = array_values($arr); $sql .= " ('" . implode("','",$arr_values) . "'),"; $sql = substr($sql,-1); //拼接之後大概就是 INSERT INTO tablename ('username','password') values ('xxx','xxx'),('xxx','xxx') ....... //querysql
這樣寫正常插入一萬條基本問題不大,除非資料很長,應付普通的批量插入夠用了,比如:批量生成卡號,批量生成隨機碼等等。。。
方法三:使用儲存過程
這個我手裡正好再用這個就把sql付出來,具體業務邏輯大家自己組合一下就可以。
delimiter $$$ create procedure zqtest() begin declare i int default 0; set i=0; start transaction; while i<80000 do //your insert sql set i=i+1; end while; commit; end $$$ delimiter; call zqtest();
這個也只是個測試程式碼,具體引數大家自行定義
我這裡是一次插入8萬條,雖然不多但是,每一條資料量都很大,有很多varchar4000 和text欄位
耗時 6.524s
方法四:使用MYSQL LOCAL_INFILE
這個我目前正在使用,所以順便把pdo的程式碼也覆上來,以便大家參考
//設定pdo開啟MYSQL_ATTR_LOCAL_INFILE /*[email protected] public function pdo_local_info () { global $system_dbserver; $dbname = '[email protected]'; $ip = '[email protected]'; $user = '[email protected]'; $pwd = '[email protected]'; $dsn = 'mysql:dbname=' . $dbname . ';host=' . $ip . ';port=3306'; $options = [PDO::MYSQL_ATTR_LOCAL_INFILE => true]; $db = new PDO($dsn,$user,$pwd,$options); return $db; } //虛擬碼如下 public function test(){ $arr_keys = array_keys($arr); $root_dir = $_SERVER["DOCUMENT_ROOT"] . '/'; $my_file = $root_dir . "[email protected]/sql_cache/" . $order['OrderNo'] . '.sql'; $fhandler = fopen($my_file,'a+'); if ($fhandler) { $sql = implode("\t",$arr); $i = 1; while ($i <= 80000) { $i++; fwrite($fhandler,$sql . "\r\n"); } $sql = "LOAD DATA local INFILE '" . $myFile . "' INTO TABLE "; $sql .= "tablename (" . implode(',$arr_keys) . ")"; $pdo = $this->pdo_local_info (); $res = $pdo->exec($sql); if (!$res) { //TODO 插入失敗 } @unlink($my_file); } }
這個同樣每一條資料量都很大,有很多varchar4000 和text欄位
耗時 2.160s
以上滿足基本需求,100萬資料問題不大,要不資料實在太大也涉及分庫分表了,或者使用佇列插入了。
總結
以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,謝謝大家對我們的支援。