欢乐颂第一季,已完本玄幻小说排行榜

主頁(yè) > 知識(shí)庫(kù) > php使用fputcsv實(shí)現(xiàn)大數(shù)據(jù)的導(dǎo)出操作詳解

php使用fputcsv實(shí)現(xiàn)大數(shù)據(jù)的導(dǎo)出操作詳解

本文實(shí)例講述了php使用fputcsv實(shí)現(xiàn)大數(shù)據(jù)的導(dǎo)出操作。分享給大家供大家參考，具體如下：

為了實(shí)驗(yàn)大數(shù)據(jù)的導(dǎo)出，我們這里先自已創(chuàng)建一張大表，表結(jié)構(gòu)如下:

CREATE TABLE `tb_users` (
 `id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT '用戶(hù)ID',
 `name` varchar(32) DEFAULT '' COMMENT '用戶(hù)名',
 `age` tinyint(3) DEFAULT '0' COMMENT '用戶(hù)年齡',
 `desc` varchar(255) DEFAULT '' COMMENT '用戶(hù)描述',
 `phone` varchar(11) DEFAULT '' COMMENT '用戶(hù)手機(jī)',
 `qq` varchar(16) DEFAULT '' COMMENT '用戶(hù)QQ',
 `email` varchar(64) DEFAULT '' COMMENT '用戶(hù)郵箱',
 `addr` varchar(255) DEFAULT '' COMMENT '用戶(hù)地址',
 PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

然后寫(xiě)個(gè)php腳本往這個(gè)表插入數(shù)據(jù)，代碼如下:

?php
set_time_limit(0);
ini_set('memory_limit', '128M');

//使用TP3.2的String類(lèi)，php7下會(huì)報(bào)錯(cuò)，注意把類(lèi)名換一下
require './String.class.php';
use Org\Util\NewString;

$begin = microtime(true);

$db = new mysqli('127.0.0.1', 'root', '', 'test');

if($db->connect_error) {
  die('connect error');
}
//數(shù)據(jù)插入語(yǔ)句
$insSql = '';

//一百萬(wàn)數(shù)據(jù)，分200步，每步插入5000條
$step = 200;
$nums = 5000;

for($s = 0; $s  $step; ++$s) {
  $insSql = 'INSERT INTO tb_users VALUES';
  for($n = 0; $n  $nums; ++$n) {
    $name = NewString::randString(3, 4);
    $age = mt_rand(1, 120);
    $desc = NewString::randString(64, 4);
    $phone = NewString::randString(11, 1);
    $qq = NewString::randString(13, 1);
    $email = $qq . '@qq.com';
    $addr = NewString::randString(128, 4);
    $insSql .= "(NULL, '{$name}', $age, '{$desc}', '{$phone}', '{$qq}', '{$email}', '{$addr}'),";
  }
  $insSql = rtrim($insSql, ',');
  $db->query($insSql);
}
$end = microtime(true);
echo '用時(shí):', $end - $begin;

$db->close();

里面用到的TP3.2的String類(lèi)大家自行上TP官網(wǎng)下載。整個(gè)用時(shí)2個(gè)多小時(shí)，最后數(shù)據(jù)大小662M。

現(xiàn)在我們用php提供的fputcsv來(lái)導(dǎo)出這一百萬(wàn)的數(shù)據(jù)，原理就是打開(kāi)一個(gè)標(biāo)準(zhǔn)輸出流，然后把數(shù)據(jù)按一萬(wàn)條來(lái)分割，每一萬(wàn)條就刷新緩沖區(qū)。

?php
set_time_limit(0);
ini_set('memory_limit', '128M');

$fileName = date('YmdHis', time());
header('Content-Type: application/vnd.ms-execl');
header('Content-Disposition: attachment;filename="' . $fileName . '.csv"');

$begin = microtime(true);

//打開(kāi)php標(biāo)準(zhǔn)輸出流
//以寫(xiě)入追加的方式打開(kāi)
$fp = fopen('php://output', 'a');

$db = new mysqli('127.0.0.1', 'root', '', 'test');

if($db->connect_error) {
  die('connect error');
}

//我們?cè)囍胒putcsv從數(shù)據(jù)庫(kù)中導(dǎo)出1百萬(wàn)的數(shù)據(jù)
//我們每次取1萬(wàn)條數(shù)據(jù)，分100步來(lái)執(zhí)行
//如果線(xiàn)上環(huán)境無(wú)法支持一次性讀取1萬(wàn)條數(shù)據(jù)，可把$nums調(diào)小，$step相應(yīng)增大。
$step = 100;
$nums = 10000;

//設(shè)置標(biāo)題
$title = array('ID', '用戶(hù)名', '用戶(hù)年齡', '用戶(hù)描述', '用戶(hù)手機(jī)', '用戶(hù)QQ', '用戶(hù)郵箱', '用戶(hù)地址');
foreach($title as $key => $item) {
  $title[$key] = iconv('UTF-8', 'GBK', $item);
}
//將標(biāo)題寫(xiě)到標(biāo)準(zhǔn)輸出中
fputcsv($fp, $title);

for($s = 1; $s = $step; ++$s) {
  $start = ($s - 1) * $nums;
  $result = $db->query("SELECT * FROM tb_users ORDER BY id LIMIT {$start},{$nums}");
  
  if($result) {
    while($row = $result->fetch_assoc()) {
      foreach($row as $key => $item) {
        //這里必須轉(zhuǎn)碼，不然會(huì)亂碼
        $row[$key] = iconv('UTF-8', 'GBK', $item);
      }
      fputcsv($fp, $row);
    }
    $result->free();
    
    //每1萬(wàn)條數(shù)據(jù)就刷新緩沖區(qū)
    ob_flush();
    flush();
  }
}

$end = microtime(true);
echo '用時(shí)：', $end - $begin;

整個(gè)過(guò)程用時(shí)5分鐘，最終生成的csv文件大小420M。

對(duì)于如何用phpexcel導(dǎo)出大數(shù)據(jù)，并沒(méi)有什么比較好的方案，phpexcel提供的一些緩存方法，數(shù)據(jù)壓縮，雖然內(nèi)存使用小了，但所用時(shí)間則加長(zhǎng)了，時(shí)間換空間，顯然并不是最好的方案。比較靠譜的方法還是生成多個(gè)下載鏈接地址，把你要下載的數(shù)據(jù)，以get形式傳遞當(dāng)前頁(yè)數(shù)，后臺(tái)進(jìn)行數(shù)據(jù)分頁(yè)然后導(dǎo)出。

a href="/downSearchData.php?參數(shù)1=值1參數(shù)2=值2page=1" rel="external nofollow" >下載匯總結(jié)果1/a>
a href="/downSearchData.php?參數(shù)1=值1參數(shù)2=值2page=2" rel="external nofollow" >下載匯總結(jié)果2/a>
a href="/downSearchData.php?參數(shù)1=值1參數(shù)2=值2page=3" rel="external nofollow" >下載匯總結(jié)果3/a>

比如你有一個(gè)查詢(xún)數(shù)據(jù)表單，ID為searchFrm，然后你想把導(dǎo)出數(shù)據(jù)按1萬(wàn)條分割(phpexcel一次導(dǎo)出1萬(wàn)條是沒(méi)有問(wèn)題的，效率還行)

form id="searchFrm">
  姓名input type="text" name="uname">
  input type="button" id="searchDataBtn" value="導(dǎo)出匯總結(jié)果">
/form>
div id="searchDataList">/div>

script type="script">
  $("#searchDataBtn").on("click", function() {
    var params = $("#searchFrm").serialize();
    
    //獲取查詢(xún)數(shù)據(jù)的條數(shù)
    $.get("/getSearchDataRows?" + params, function(data) {
      var downDataList = "";
      if(data["rows"]) {
        //rows是數(shù)據(jù)總條數(shù)，pageSize是一頁(yè)多少條
        var pageNum = Math.ceil(data["rows"] / data["pageSize"]);
        for(var i = 1; i = pageNum; ++i) {
          downDataList += "a href='/downSearchData.php?'" + params + "page=" + i + ">下載匯總結(jié)果" + i + "/a>nbsp;nbsp;";
        }
        $("#searchDataList").html(downDataList);
      } else {
        $("#searchDataList").text("沒(méi)有數(shù)據(jù)");
      }
    }, "json");
    return false;
  });
/script>

更多關(guān)于PHP相關(guān)內(nèi)容感興趣的讀者可查看本站專(zhuān)題：《php+mysql數(shù)據(jù)庫(kù)操作入門(mén)教程》、《php+redis數(shù)據(jù)庫(kù)程序設(shè)計(jì)技巧總結(jié)》、《php面向?qū)ο蟪绦蛟O(shè)計(jì)入門(mén)教程》及《php常見(jiàn)數(shù)據(jù)庫(kù)操作技巧匯總》

希望本文所述對(duì)大家PHP程序設(shè)計(jì)有所幫助。

您可能感興趣的文章:

使用Python pandas讀取CSV文件應(yīng)該注意什么?
使用python把json文件轉(zhuǎn)換為csv文件
使用pandas庫(kù)對(duì)csv文件進(jìn)行篩選保存
Python CSV文件模塊的使用案例分析
使用opencsv文件讀寫(xiě)CSV文件
python csv一些基本操作總結(jié)

標(biāo)簽：宜賓湛江寶雞南陽(yáng) 銅川婁底黃南鎮(zhèn)江

巨人網(wǎng)絡(luò)通訊聲明：本文標(biāo)題《php使用fputcsv實(shí)現(xiàn)大數(shù)據(jù)的導(dǎo)出操作詳解》，本文關(guān)鍵詞 php,使用,fputcsv,實(shí)現(xiàn),大,；如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問(wèn)題，煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們，我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò)，涉及言論、版權(quán)與本站無(wú)關(guān)。