php读取大数据 php大数据导出

PHP实现在有限内存中的大文件读取

方法一：通过yield的生成器实现有限内存中的大文件读取

方法二：使用SPL 库 提供的 SplFileObject 类

相关问答

Q1: php如何读取CSV大文件并且将其导入数据库示例

思路：

读取csv文件，每读取一行数据，就插入数据库

示例

文件夹结构

/

 file.csv    //csv大文件，这里只模拟三行数据，不考虑运行效率（PS：csv文件格式很简单，文件一般较小，解析很快，运行效率的瓶颈主要在写入数据库操作）

 index.php    //php文件

file.csv

singi,20

lily,19

daming,23

index.php

/**

 * 读取csv文件，每读取一行数据，就插入数据库

 */

//获取数据库实例

$dsn = 'mysql:dbname=test;host=127.0.0.1';

$user = 'root';

$password = '';

try {

    $db = new PDO($dsn, $user, $password);

} catch (PDOException $e) {

    echo 'Connection failed: ' . $e-getMessage();

}

//读取file.csv文件

if (($handle = fopen("file.csv", "r")) !== FALSE) {

    while (($row = fgetcsv($handle, 1000, ",")) !== FALSE) {

        //写入数据库

        $sth = $db-prepare('insert into test set name=:name,age=:age');

        $sth-bindParam(':name',$row[0],PDO::PARAM_STR,255);

        $sth-bindParam(':age',$row[1],PDO::PARAM_INT);

        $sth-execute();

    }

    fclose($handle);

}

数据表

CREATE TABLE `test` (

`id` INT(10) UNSIGNED NOT NULL AUTO_INCREMENT,

`name` VARCHAR(255) NULL DEFAULT '' COLLATE 'utf8mb4_bin',

`age` INT(10) NULL DEFAULT '0',

PRIMARY KEY (`id`)

)

COLLATE='utf8mb4_bin'

ENGINE=InnoDB;

运行结束后，数据库中会插入csv中的三行数据

Q2: 如何解决PHP查询大量数据内存耗尽的问题

这个问题在PHP的官方网站上叫缓冲查询和非缓冲查询(Buffered and Unbuffered queries)。PHP的查询缺省模式是缓冲模式。也就是说，查询数据结果会一次全部提取到内存里供PHP程序处理。这样给了PHP程序额外的功能，比如说，计算行数，将指针指向某一行等。更重要的是程序可以对数据集反复进行二次查询和过滤等操作。但这种缓冲查询模式的缺陷就是消耗内存，也就是用空间换速度。

相对的，另外一种PHP查询模式是非缓冲查询，数据库服务器会一条一条的返回数据，而不是一次全部返回，这样的结果就是PHP程序消耗较少的内存，但却增加了数据库服务器的压力，因为数据库会一直等待PHP来取数据，一直到数据全部取完。

很显然，缓冲查询模式适用于小数据量查询，而非缓冲查询适应于大数据量查询。

Q3: php怎么导出大量数据的Excel

php导出大量数据Excel的具体操作步骤如下：

1、使用phpstudy搭建一个测试平台，直接访问数据库。

2、下载的phpcms安装包拷贝到IIS目录，开通访问，即可搭建成功。

3、登录网站后台，系统权限，文件目录以及数据库等功能，进行管理。

4、在phpcms后台，扩展，数据库工具，数据库导出，程序池选择phpcmsv9，开始备份数据。

5、打开IIS网站目录，在D:\wwwroot\kmxy\wwwroot\caches\bakup\default文件夹，查看导出的数据库文件。

6、登录phpmyadmin，选择数据库导出，选择Excel格式，即可导出。

Q4: php中向mysql取数据，如果数据库中的数据量大于10w，后面的数据就取不到，如何解决？

应该是你的数据库配置限制了内存使用量导致的.建议查找下相关mysql配置资料.

直接倒序取一部分,如果可以就应该是配置的问题.

如果慢的话要考虑字段优化

问题需要具体.不铭感的话可以把数据发来我调试一下看看.

php读取大数据的介绍就聊到这里吧，感谢你花时间阅读本站内容，更多关于php大数据导出、php读取大数据的信息别忘了在本站进行查找喔。