這個問題在PHP的官方網站上叫緩沖查詢和非緩沖查詢(Buffered and Unbuffered queries)。PHP的查詢缺省模式是緩沖模式。也就是說,查詢數據結果會一次全部提取到內存里供PHP程序處理。這樣給了PHP程序額外的功能,比如說,計算行數,將指針指向某一行等。更重要的是程序可以對數據集反復進行二次查詢和過濾等操作。但這種緩沖查詢模式的缺陷就是消耗內存,也就是用空間換速度。
專注于為中小企業(yè)提供網站設計、網站制作服務,電腦端+手機端+微信端的三站合一,更高效的管理,為中小企業(yè)肥城免費做網站提供優(yōu)質的服務。我們立足成都,凝聚了一批互聯(lián)網行業(yè)人才,有力地推動了上千余家企業(yè)的穩(wěn)健成長,幫助中小企業(yè)通過網站建設實現規(guī)模擴充和轉變。
相對的,另外一種PHP查詢模式是非緩沖查詢,數據庫服務器會一條一條的返回數據,而不是一次全部返回,這樣的結果就是PHP程序消耗較少的內存,但卻增加了數據庫服務器的壓力,因為數據庫會一直等待PHP來取數據,一直到數據全部取完。
很顯然,緩沖查詢模式適用于小數據量查詢,而非緩沖查詢適應于大數據量查詢。
1、首先我們準備一個含有數據的Excel表格,表頭和數據表中的表字段相對應。
2、在ThinkPHP中引入PHPExcel類庫。
3、然后我們編寫導入的PHP代碼。
4、然后我們編寫導出的PHP代碼。
5、然后我們進行導出測試發(fā)現可以導出即可。
php處理數據時會有一個等待時間,就是所說的超時時間,而且如果使用mysql的話,它也有一個超時時間,運行一串代碼時間如果超過配置文件的時間,會被中斷不運行。第一種你可以修改php配置文件timeout的運行時間,第二你可以分批處理大量數據,注意是分批處理,就OK了。
mysql_query函數查詢的方式是查詢出全部結果后緩存到內存中,這樣就會出現超內存的現象,使用另外一個函數mysql_unbuffered_query可以解決這個問題,mysql_unbuffered_query不會緩存結果集,而是查詢出來數據后立馬對結果集進行操作,也就是便查詢邊返回,這樣就不會出現超出內存的現象,但是使用mysql_unbuffered_query的是時候不能使用 mysql_num_rows() 和 mysql_data_seek()。并且向 MySQL 發(fā)送一條新的 SQL 查詢之前,必須提取掉所有未緩存的 SQL 查詢所產生的結果行。例如:
使用緩存結果集的代碼:
function selecttest()
{
try {
$pdo = new PDO("mysql:host=localhost;dbname=test", 'root', '123456');
// 不使用緩存結果集方式
// $pdo-setAttribute(PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false);
$sth = $pdo-prepare('select * from test');
$sth-execute();
echo '最初占用內存大小:' . memory_get_usage() . "\n";
$i = 0;
while ($result = $sth-fetch(PDO::FETCH_ASSOC)) {
$i += 1;
if ($i 10) {
break;
}
sleep(1);
print_r($result);
echo '占用內存大小:' . memory_get_usage() . "\n";
}
} catch (Exception $e) {
echo $e-getMessage();
}
}
執(zhí)行時將會報超出內存的錯誤:
Fatal error: Allowed memory size of 134217728 bytes exhausted (tried to allocate 204800000 bytes) in E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php on line 56
Call Stack:
0.0005 135392 1. {main}() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:0
0.0005 135568 2. test-selecttest() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:85
0.0050 142528 3. PDOStatement-execute() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:56
將上面代碼中的$pdo-setAttribute(PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false);一行的注釋去掉后將不在緩存結果集,這時運行該函數的結果如下:
最初占用內存大小:144808
Array
(
[id] = 1
[a] = v
[b] = w
[c] = i
)
占用內存大小:145544
Array
(
[id] = 2
[a] = b
[b] = l
[c] = q
)
占用內存大小:145544
Array
(
[id] = 3
[a] = m
[b] = p
[c] = h
)
占用內存大小:145536
Array
(
[id] = 4
[a] = j
[b] = i
[c] = b
)
占用內存大小:145536
可以看到,這時返回一條數據內存占用非常的小,也就700多字節(jié),這樣就不會出現超出內存的錯誤了。
php導出大量數據Excel的具體操作步驟如下:
1、使用phpstudy搭建一個測試平臺,直接訪問數據庫。
2、下載的phpcms安裝包拷貝到IIS目錄,開通訪問,即可搭建成功。
3、登錄網站后臺,系統(tǒng)權限,文件目錄以及數據庫等功能,進行管理。
4、在phpcms后臺,擴展,數據庫工具,數據庫導出,程序池選擇phpcmsv9,開始備份數據。
5、打開IIS網站目錄,在D:\wwwroot\kmxy\wwwroot\caches\bakup\default文件夾,查看導出的數據庫文件。
6、登錄phpmyadmin,選擇數據庫導出,選擇Excel格式,即可導出。
分享題目:php并大量數據 php大量數據處理慢
文章來源:http://www.chinadenli.net/article42/doodhec.html
成都網站建設公司_創(chuàng)新互聯(lián),為您提供網頁設計公司、網站內鏈、網站建設、軟件開發(fā)、品牌網站設計、品牌網站建設
聲明:本網站發(fā)布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創(chuàng)新互聯(lián)