php实时数据采集 php数据采集实验

php curl 大量数据采集

这个需要配合js，打开一个html页面，首先js用ajax请求页面，返回第一个页面信息确定处理完毕（ajax有强制同步功能），ajax再访问第二个页面。（或者根据服务器状况，你可以同时提交几个URL，跑几个相同的页面）

参数可以由js产生并传递url，php后台页面根据URL抓页面。然后ajax通过php，在数据库或者是哪里设一个标量，标明检测到哪里。由于前台的html页面执行多少时候都没问题，这样php的内存限制和执行时间限制就解决了。

因为不会浪费大量的资源用一个页面来跑一个瞬间500次的for循环了。（你的500次for循环死了原因可能是获取的数据太多，大过了php限制的内存）

不过印象中curl好像也有强制同步的选项，就是等待一个抓取后再执行下一步。但是这个500次都是用一个页面线程处理，也就是说肯定会远远大于30秒的默认执行时间。

相关问答

Q1: php中如何实现实时更新数据呢？jQuery？

网页一般是单向主动短链接php实时数据采集，实时更新实在有些不便php实时数据采集，即使一方掉线php实时数据采集，另一方也不能及时感知。一般所谓php实时数据采集的实时刷新，大多采用定时刷新（轮询），或长轮询的方式做，ajax用于更新数据确实是比较简单方便的。

轮询你就settimeout，长轮询你就每次接收数据成功后，再来一次长轮询。但你链接别人的数据，了解一下供应商的刷新机制、周期再做考虑。

当然这些都是伪实时，真的实时用http协议是不合适的，你得用flash插件做。而你用的是api供应商的东西，这条路就基本走不通了。

Q2: 怎样用php 采集百度地图的数据

一般来说php实时数据采集，PHP采集数据最简单php实时数据采集的办法是使用file_get_content函数，功能更强大的推荐使用cURL函数库。

Q3: 怎么用php采集网站数据

简单的分php实时数据采集了几个步骤：

1、确定采集目标

2、获取目标远程页面内容（curl、file_get_contents）

3、分析页面html源码php实时数据采集，正则匹配你需要的内容（preg_match、preg_match_all），这一步最为重要，不同页面正则匹配规则不一样

4、入库

Q4: 怎么用phpquery抓取网页实时数据？使用CI框架

phpquery和框架并无关系，我现在也是用CI的

先将pq引入进来

$content = file_get_content('');

phpQuery::newDocumentHTML($content);

$containers = pq("xxxx");就可以了，但你要抓取这个网站数据，他数据是js加载的，所以你只需要

$content = file_get_content(';dataSet.nd=1440145968553dataSet.rows=100dataSet.page=1dataSet.sidx=dataSet.sord=asc');这个地址返回是json数据，你直接json_decode()就OK

Q5: php 百度 知道数据采集

问题其实不难，自己都能写。给你几个思路吧：

1.在百度知道中，输入linux，然后会出现列表。复制浏览器地址栏内容。

然后翻页，在复制地址栏内容，看看有什么不同，不同之处，就是你要循环分页的i值。

当然这个是笨方法。

2.使用php的file或者file_get_contents函数，获取链接URL的内容。

3.通过php正则表达式，获取你需要的3个字段内容。

4.写入数据库。

需要注意的是，百度知道有可能做了防抓取的功能，你刚一抓几个页面，可能会被禁止。

建议也就抓10页数据。

其实不难，你肯定写的出来。 还有，网上应该有很多抓取工具，你找找看，然后将抓下来的数据

在做分析。写入数据库。

关于php实时数据采集和php数据采集实验的介绍到此就结束了，不知道你从中找到你需要的信息了吗 ？如果你还想了解更多这方面的信息，记得收藏关注本站。