濮阳杆衣贸易有限公司

主頁 > 知識庫 > mysql大批量插入數(shù)據(jù)的4種方法示例

mysql大批量插入數(shù)據(jù)的4種方法示例

熱門標(biāo)簽:電話機器人的價格多少錢一個月 400電話申請廠家現(xiàn)貨 百度地圖標(biāo)注要什么軟件 昌德訊外呼系統(tǒng) 福建外呼電銷機器人加盟 自己做地圖標(biāo)注需要些什么 天津公司外呼系統(tǒng)軟件 徐涇鎮(zhèn)騰訊地圖標(biāo)注 中國地圖標(biāo)注公司

前言

本文主要給大家介紹了關(guān)于mysql大批量插入數(shù)據(jù)的4種方法,分享出來供大家參考學(xué)習(xí),下面話不多說了,來一起看看詳細(xì)的介紹吧

方法一:循環(huán)插入

這個也是最普通的方式,如果數(shù)據(jù)量不是很大,可以使用,但是每次都要消耗連接數(shù)據(jù)庫的資源。

大致思維如下

(我這里寫偽代碼,具體編寫可以結(jié)合自己的業(yè)務(wù)邏輯或者框架語法編寫)

for($i=1;$i=100;$i++){
 $sql = 'insert...............';
 //querysql
}
foreach($arr as $key => $value){
$sql = 'insert...............';
 //querysql
}
while($i = 100){
$sql = 'insert...............';
 //querysql
 $i++
}

因為太過普通同時也沒什么難度同時也不是我今天主要寫的所以這里我不多說

方法二:減少連接資源,拼接一條sql

偽代碼如下

//這里假設(shè)arr的key和數(shù)據(jù)庫字段同步,其實大多數(shù)框架中在php操作數(shù)據(jù)庫的時候都是這么設(shè)計的
$arr_keys  = array_keys($arr);
$sql    = 'INSERT INTO tablename (' . implode(',' ,$arr_keys) . ') values';
$arr_values  = array_values($arr);
$sql    .= " ('" . implode("','" ,$arr_values) . "'),";
$sql    = substr($sql ,0 ,-1);
//拼接之后大概就是 INSERT INTO tablename ('username','password') values 
('xxx','xxx'),('xxx','xxx'),('xxx','xxx'),('xxx','xxx'),('xxx','xxx'),('xxx','xxx')
.......
//querysql

這樣寫正常插入一萬條基本問題不大,除非數(shù)據(jù)很長,應(yīng)付普通的批量插入夠用了,比如:批量生成卡號,批量生成隨機碼等等。。。

方法三:使用存儲過程

這個我手里正好再用這個就把sql付出來,具體業(yè)務(wù)邏輯大家自己組合一下就可以。

delimiter $$$
create procedure zqtest()
begin
declare i int default 0;
set i=0;
start transaction;
while i80000 do
 //your insert sql 
set i=i+1;
end while;
commit;
end
$$$
delimiter;
call zqtest();

這個也只是個測試代碼,具體參數(shù)大家自行定義

我這里是一次插入8萬條,雖然不多但是,每一條數(shù)據(jù)量都很大,有很多varchar4000 和text字段
耗時 6.524s

方法四:使用MYSQL LOCAL_INFILE

這個我目前正在使用,所以順便把pdo的代碼也復(fù)上來,以便大家參考

//設(shè)置pdo開啟MYSQL_ATTR_LOCAL_INFILE
/*hs96.cn@gmail.com
public function pdo_local_info ()
{
  global $system_dbserver;
  $dbname = 'hs96.cn@gmail.com';
  $ip  = 'hs96.cn@gmail.com';
  $user = 'hs96.cn@gmail.com';
  $pwd  = 'hs96.cn@gmail.com';
  $dsn  = 'mysql:dbname=' . $dbname . ';host=' . $ip . ';port=3306';
  $options = [PDO::MYSQL_ATTR_LOCAL_INFILE => true];
  $db  = new PDO($dsn ,$user ,$pwd ,$options);
  return $db;
 }
//偽代碼如下
public function test(){
  $arr_keys   = array_keys($arr);
  $root_dir   = $_SERVER["DOCUMENT_ROOT"] . '/';
  $my_file   = $root_dir . "hs96.cn@gmail.com/sql_cache/" . $order['OrderNo'] . '.sql';
  $fhandler   = fopen($my_file,'a+');
  if ($fhandler) {
  $sql = implode("\t" ,$arr);
   $i = 1;
   while ($i = 80000)
   {
    $i++;
    fwrite($fhandler ,$sql . "\r\n");
   }
   $sql = "LOAD DATA local INFILE '" . $myFile . "' INTO TABLE ";
   $sql .= "tablename (" . implode(',' ,$arr_keys) . ")";
   $pdo = $this->pdo_local_info ();
   $res = $pdo->exec($sql);
   if (!$res) {
    //TODO 插入失敗
   }
   @unlink($my_file);
  }
}

這個同樣每一條數(shù)據(jù)量都很大,有很多varchar4000 和text字段

耗時 2.160s

以上滿足基本需求,100萬數(shù)據(jù)問題不大,要不數(shù)據(jù)實在太大也涉及分庫分表了,或者使用隊列插入了。

總結(jié)

以上就是這篇文章的全部內(nèi)容了,希望本文的內(nèi)容對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,謝謝大家對腳本之家的支持。

您可能感興趣的文章:
  • MYSQL批量插入數(shù)據(jù)的實現(xiàn)代碼
  • MySQL實現(xiàn)批量插入以優(yōu)化性能的教程
  • MySQL批量插入遇上唯一索引避免方法
  • MySQL批量插入數(shù)據(jù)腳本
  • MySQL批量SQL插入性能優(yōu)化詳解
  • MySQL批量插入和唯一索引問題的解決方法
  • MySQL如何快速批量插入1000w條數(shù)據(jù)
  • MySQL中幾種插入和批量語句實例詳解

標(biāo)簽:陜西 北京 駐馬店 鄂爾多斯 梅河口 昌都 黔西 荊門

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《mysql大批量插入數(shù)據(jù)的4種方法示例》,本文關(guān)鍵詞  mysql,大批量,插入,數(shù)據(jù),;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《mysql大批量插入數(shù)據(jù)的4種方法示例》相關(guān)的同類信息!
  • 本頁收集關(guān)于mysql大批量插入數(shù)據(jù)的4種方法示例的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章
    榕江县| 盘锦市| 中超| 临泉县| 乐陵市| 高密市| 朔州市| 云霄县| 洛南县| 洪雅县| 建德市| 沙湾县| 新津县| 白山市| 酒泉市| 来凤县| 化隆| 南部县| 百色市| 景泰县| 阿图什市| 霍州市| 南靖县| 芦溪县| 仙桃市| 虞城县| 汕尾市| 循化| 阿拉善右旗| 神农架林区| 安陆市| 台山市| 陈巴尔虎旗| 新乐市| 黔江区| 威远县| 玛纳斯县| 井冈山市| 海兴县| 宜黄县| 渑池县|