php怎么采集网站数据,自动采集网站php源码

php怎么抓取其它网站数据

可以用以下4个方法来抓取网站 的数据：

1. 用 file_get_contents 以 get 方式获取内容：

?

$url = '';

$html = file_get_contents($url);

echo $html;

2. 用fopen打开url，以get方式获取内容

?

$url = '';

$fp = fopen($url, 'r');

stream_get_meta_data($fp);

$result = '';

while(!feof($fp))

{

$result .= fgets($fp, 1024);

}

echo "url body: $result";

fclose($fp);

3. 用file_get_contents函数,以post方式获取url

?

$data = array(

'foo'='bar',

'baz'='boom',

'site'='',

'name'='nowa magic');

$data = http_build_query($data);

//$postdata = http_build_query($data);

$options = array(

'http' = array(

'method' = 'POST',

'header' = 'Content-type:application/x-www-form-urlencoded',

'content' = $data

//'timeout' = 60 * 60 // 超时时间（单位:s）

)

);

$url = "";

$context = stream_context_create($options);

$result = file_get_contents($url, false, $context);

echo $result;

4、使用curl库，使用curl库之前，可能需要查看一下php.ini是否已经打开了curl扩展

$url = '';

$ch = curl_init();

$timeout = 5;

curl_setopt ($ch, CURLOPT_URL, $url);

curl_setopt ($ch, CURLOPT_RETURNTRANSFER, 1);

curl_setopt ($ch, CURLOPT_CONNECTTIMEOUT, $timeout);

$file_contents = curl_exec($ch);

curl_close($ch);

echo $file_contents;

相关问答

Q1: 怎么用php采集网站数据

简单的分了几个步骤：

1、确定采集目标

2、获取目标远程页面内容（curl、file_get_contents）

3、分析页面html源码，正则匹配你需要的内容（preg_match、preg_match_all），这一步最为重要，不同页面正则匹配规则不一样

4、入库

Q2: phpstudy怎么抓取网页数据

什么网页数据？

是打开 本地网页还是打开网上网页

如果是本地网页的话  在浏览器上输入127.0.0.1或者localhost进行访问

如果是外网我理解的是你要获取外网的一个网页，可以用代码或者程序来实现

（一般称为采集程序，或者小偷程序）

//个人认为curl好一点，因为curl可以模拟浏览器，有的网站会过滤机器人

//1.php代码

//把网页读入一个字符串

$contone = file_get_contents('url');

print_r($contone);

//curl采集

#初始化curl  （true/false）

        $ch=curl_init();

        #请求url地址

        $params[CURLOPT_URL]='网址';

        #是否返回响应头信息

        $params[CURLOPT_HEADER] = true;

        #是否将结果返回

        $params[CURLOPT_RETURNTRANSFER] = true;

        #是否重定向

        $params[CURLOPT_FOLLOWLOCATION] = true;

        #伪造浏览器

        $params[CURLOPT_USERAGENT] = 'Mozilla/5.0 (Windows NT 5.1; rv:9.0.1) Gecko/20100101 Firefox/9.0.1';

        curl_setopt_array($ch, $params);

        $content=curl_exec($ch);

        //输出网页内容

        print_r($content);

        

//下面是整个curl采集类

class Curl{

    #采集的地址

    public $url;

    #匹配的正则

    public $preg;

    #模拟登录需要的用户名

    public $username;

    #模拟登录需要的密码;

    public $pwd;

    #cookie存储的路径

    private $cookie_path;

    #采集数据的字符集

    public $charset;

    /**

     * 构造方法，初始化采集基本信息

     * @param $url  采集的url

     * @param $preg 匹配的正则

     * @param string $username  用户名

     * @param string $pwd  密码

     * @param string $charset 字符集

     */

    public function __construct($info){

        extract($info);

        $this-url=$url;

        $this-preg=$preg;

        if(isset($charset)){

            header("content-type:text/html;charset=".$this-charset);

        }else{

            header("content-type:text/html;charset=utf-8");

        }

        if(isset($username)){

            $this-username=$username;

        }

        if(isset($pwd)){

            $this-pwd=$pwd;

        }

    }

    /*

     * 采集数据，非表单提交方式，直接采集的

     */

    public function get_info(){

        #初始化curl

        $ch=curl_init();

        #请求url地址

        $params[CURLOPT_URL]=$this-url;

        #是否返回响应头信息

        $params[CURLOPT_HEADER] = true;

        #是否将结果返回

        $params[CURLOPT_RETURNTRANSFER] = true;

        #是否重定向

        $params[CURLOPT_FOLLOWLOCATION] = true;

        #伪造浏览器

        $params[CURLOPT_USERAGENT] = 'Mozilla/5.0 (Windows NT 5.1; rv:9.0.1) Gecko/20100101 Firefox/9.0.1';

        //判断是否有cookie,有的话直接使用

        //if (isset($_COOKIE['cookie_jar']) ($_COOKIE['cookie_jar'] || is_file($_COOKIE['cookie_jar']))){

        //    $params[CURLOPT_COOKIEFILE] = $_COOKIE['cookie_jar']; //这里判断cookie

        //} else {

        //    $cookie_jar = tempnam($this-cookie_path, 'cookie');                  //产生一个cookie文件

        //    $params[CURLOPT_COOKIEJAR] = $cookie_jar;                       //写入cookie信息

        //    setcookie('cookie_jar', $cookie_jar); //保存cookie路径

        //}

        #开始发送请求，传入curl参数

        curl_setopt_array($ch, $params);

        $content=curl_exec($ch);

            preg_match_all($this-preg,$content,$arr);

        return $arr;

    }

    /**

     * 采集远程图片

     * @param $img  图片路径  是一个数组

     * @param $save_path   图片保存在你本地的路径

     * @return bool

     */

    public function get_img($img,$save_path){

        for($i=0;$icount($img);$i++) {

            $res=@file_get_contents($img[$i]);

            $img_type=substr($img[$i], strrpos($img[$i], "."));

            $path=$save_path.time().rand(1,9999999).mt_rand() .$img_type;

            $img[$i] = $path;

            file_put_contents($path,$res);

        }

        return $img;

    }

    //登录后采集

    public function register_info(){

        //采集的信息需要先登录的就要先模拟登录

        //设置cookie保存路径

        $ch = curl_init();

        //组装用户名和密码

        $info['username'] = $this-username;

        $info['password'] = $this-pwd;

        //模拟表单提交

        $params[CURLOPT_URL] = $this-url;    //请求url地址

        $params[CURLOPT_HEADER] = true; //是否返回响应头信息

        $params[CURLOPT_RETURNTRANSFER] = true; //是否将结果返回

        $params[CURLOPT_FOLLOWLOCATION] = true; //是否重定向

        $params[CURLOPT_USERAGENT] = 'Mozilla/5.0 (Windows NT 5.1; rv:9.0.1) Gecko/20100101 Firefox/9.0.1';

        $postfields = '';

//将表单要提交的数据编程URL拼接方式

        foreach ($info as $key = $value){

            $postfields .= urlencode($key) . '=' . urlencode($value) . '';

        }

        $params[CURLOPT_POST] = true;

        $params[CURLOPT_POSTFIELDS] = $postfields;

//判断是否有cookie,有的话直接使用

        if (isset($_COOKIE['cookie_jar'])($_COOKIE['cookie_jar']||is_file($_COOKIE['cookie_jar']))){

            $params[CURLOPT_COOKIEFILE] = $_COOKIE['cookie_jar']; //这里判断cookie

        }else{

            $cookie_jar = tempnam($this-cookie_path, 'cookie'); //产生一个cookie文件

            $params[CURLOPT_COOKIEJAR] = $cookie_jar; //写入cookie信息

            setcookie('cookie_jar', $cookie_jar); //保存cookie路径

        }

        curl_setopt_array($ch, $params); //传入curl参数

        $content = curl_exec($ch); //执行

        return $content;

    }

}

Q3: 怎么用PHP采集别的网上的数据

简单的有个file_get_content函数，然后写正则规则匹配内容，存数据库。

如果需要登陆的，用curl，还有可以用PHP的DOM库替换正则表达式

Python和Java等都有beautifulsoup这个第三方库，用来采集非常棒

Q4: php采集数据怎么做啊？

用fopen/file/file_get_contents/curl之类的函数将远程页面获得内容， 采用正则或过滤之类的获得自己所需要的东西， 最好写入相应的数据库保存起来。