php爬虫数据量太大 爬虫数据量最少需要多少

php curl 大量数据采集

这个需要配合js，打开一个html页面，首先js用ajax请求页面，返回第一个页面信息确定处理完毕（ajax有强制同步功能），ajax再访问第二个页面。（或者根据服务器状况，你可以同时提交几个URL，跑几个相同的页面）

参数可以由js产生并传递url，php后台页面根据URL抓页面。然后ajax通过php，在数据库或者是哪里设一个标量，标明检测到哪里。由于前台的html页面执行多少时候都没问题，这样php的内存限制和执行时间限制就解决了。

因为不会浪费大量的资源用一个页面来跑一个瞬间500次的for循环了。（你的500次for循环死了原因可能是获取的数据太多，大过了php限制的内存）

不过印象中curl好像也有强制同步的选项，就是等待一个抓取后再执行下一步。但是这个500次都是用一个页面线程处理，也就是说肯定会远远大于30秒的默认执行时间。

相关问答

Q1: 如何应对网站反爬虫策略？如何高效地爬大量数据

应对反爬策略的方法：1、模拟正常用户。反爬虫机制还会利用检测用户的行为来判断，例如Cookies来判断是不是有效的用户。

2、动态页面限制。有时候发现抓取的信息内容空白，这是因为这个网站的信息是通过用户的XHR动态返回内容信息。解决这种问题就要爬虫程序对网站进行分析，找到内容信息并抓取，才能获取内容。

3、降低IP访问频率。有时候平台为了阻止频繁访问，会设置IP在规定时间内的访问次数，超过次数就会禁止访问。所以绕过反爬虫机制可以降低爬虫的访问频率，还可以用IPIDEA代理IP换IP解决限制。

Q2: PHP-大数据量怎么处理优化

大数据的话可以进行以下操作：

减少对数据库的读取，也就是减少调用数据库，

进行数据缓存，

利用数据库的自身优化技术，如索引等

精确查询条件，有利于提高查找速度

Q3: phpcms数据量较大怎么办呢？过几十万级了，每次生成都很累，官方有什么解决不？

回复 5# freshcn 一般资讯站点，新闻量肯定大，动不动都是万级以上的，所以，而且经常改动页面某一部分，这就涉及到重新生成的问题了如果还是用传统的HTML，那这个速度。。。是吧，肯定不行的，所以，希望官方是否在AJAX，XML以及SHTML方面考虑一下呢毕竟现在的网站哪个不采集，一采集就是上万万的，生成很耗时间的

php爬虫数据量太大的介绍就聊到这里吧，感谢你花时间阅读本站内容，更多关于爬虫数据量最少需要多少、php爬虫数据量太大的信息别忘了在本站进行查找喔。