php模拟登录抓取数据 php模拟post请求

我用PHP模拟登陆了然后抓取了数据 怎么提前内容保存到数据库，看下面截图是抓取的网页数据

登陆后抓取所有的html代码。

然后通过正则匹配html标签来获取自己需要的东西，最主要的是你获取到html源码后，想要什么不就是看你需求了嘛，正则有问题可以继续问我。

相关问答

Q1: php模拟登录 采集数据

用curlphp模拟登录抓取数据，file_get_contents,不过对方设置php模拟登录抓取数据了防采集就比较麻烦。

Q2: phpstudy怎么抓取网页数据

什么网页数据？

是打开 本地网页还是打开网上网页

如果是本地网页的话  在浏览器上输入127.0.0.1或者localhost进行访问

如果是外网我理解的是你要获取外网的一个网页，可以用代码或者程序来实现

（一般称为采集程序，或者小偷程序）

//个人认为curl好一点，因为curl可以模拟浏览器，有的网站会过滤机器人

//1.php代码

//把网页读入一个字符串

$contone = file_get_contents('url');

print_r($contone);

//curl采集

#初始化curl  （true/false）

        $ch=curl_init();

        #请求url地址

        $params[CURLOPT_URL]='网址';

        #是否返回响应头信息

        $params[CURLOPT_HEADER] = true;

        #是否将结果返回

        $params[CURLOPT_RETURNTRANSFER] = true;

        #是否重定向

        $params[CURLOPT_FOLLOWLOCATION] = true;

        #伪造浏览器

        $params[CURLOPT_USERAGENT] = 'Mozilla/5.0 (Windows NT 5.1; rv:9.0.1) Gecko/20100101 Firefox/9.0.1';

        curl_setopt_array($ch, $params);

        $content=curl_exec($ch);

        //输出网页内容

        print_r($content);

        

//下面是整个curl采集类

class Curl{

    #采集的地址

    public $url;

    #匹配的正则

    public $preg;

    #模拟登录需要的用户名

    public $username;

    #模拟登录需要的密码;

    public $pwd;

    #cookie存储的路径

    private $cookie_path;

    #采集数据的字符集

    public $charset;

    /**

     * 构造方法，初始化采集基本信息

     * @param $url  采集的url

     * @param $preg 匹配的正则

     * @param string $username  用户名

     * @param string $pwd  密码

     * @param string $charset 字符集

     */

    public function __construct($info){

        extract($info);

        $this-url=$url;

        $this-preg=$preg;

        if(isset($charset)){

            header("content-type:text/html;charset=".$this-charset);

        }else{

            header("content-type:text/html;charset=utf-8");

        }

        if(isset($username)){

            $this-username=$username;

        }

        if(isset($pwd)){

            $this-pwd=$pwd;

        }

    }

    /*

     * 采集数据，非表单提交方式，直接采集的

     */

    public function get_info(){

        #初始化curl

        $ch=curl_init();

        #请求url地址

        $params[CURLOPT_URL]=$this-url;

        #是否返回响应头信息

        $params[CURLOPT_HEADER] = true;

        #是否将结果返回

        $params[CURLOPT_RETURNTRANSFER] = true;

        #是否重定向

        $params[CURLOPT_FOLLOWLOCATION] = true;

        #伪造浏览器

        $params[CURLOPT_USERAGENT] = 'Mozilla/5.0 (Windows NT 5.1; rv:9.0.1) Gecko/20100101 Firefox/9.0.1';

        //判断是否有cookie,有的话直接使用

        //if (isset($_COOKIE['cookie_jar']) ($_COOKIE['cookie_jar'] || is_file($_COOKIE['cookie_jar']))){

        //    $params[CURLOPT_COOKIEFILE] = $_COOKIE['cookie_jar']; //这里判断cookie

        //} else {

        //    $cookie_jar = tempnam($this-cookie_path, 'cookie');                  //产生一个cookie文件

        //    $params[CURLOPT_COOKIEJAR] = $cookie_jar;                       //写入cookie信息

        //    setcookie('cookie_jar', $cookie_jar); //保存cookie路径

        //}

        #开始发送请求，传入curl参数

        curl_setopt_array($ch, $params);

        $content=curl_exec($ch);

            preg_match_all($this-preg,$content,$arr);

        return $arr;

    }

    /**

     * 采集远程图片

     * @param $img  图片路径  是一个数组

     * @param $save_path   图片保存在你本地的路径

     * @return bool

     */

    public function get_img($img,$save_path){

        for($i=0;$icount($img);$i++) {

            $res=@file_get_contents($img[$i]);

            $img_type=substr($img[$i], strrpos($img[$i], "."));

            $path=$save_path.time().rand(1,9999999).mt_rand() .$img_type;

            $img[$i] = $path;

            file_put_contents($path,$res);

        }

        return $img;

    }

    //登录后采集

    public function register_info(){

        //采集的信息需要先登录的就要先模拟登录

        //设置cookie保存路径

        $ch = curl_init();

        //组装用户名和密码

        $info['username'] = $this-username;

        $info['password'] = $this-pwd;

        //模拟表单提交

        $params[CURLOPT_URL] = $this-url;    //请求url地址

        $params[CURLOPT_HEADER] = true; //是否返回响应头信息

        $params[CURLOPT_RETURNTRANSFER] = true; //是否将结果返回

        $params[CURLOPT_FOLLOWLOCATION] = true; //是否重定向

        $params[CURLOPT_USERAGENT] = 'Mozilla/5.0 (Windows NT 5.1; rv:9.0.1) Gecko/20100101 Firefox/9.0.1';

        $postfields = '';

//将表单要提交的数据编程URL拼接方式

        foreach ($info as $key = $value){

            $postfields .= urlencode($key) . '=' . urlencode($value) . '';

        }

        $params[CURLOPT_POST] = true;

        $params[CURLOPT_POSTFIELDS] = $postfields;

//判断是否有cookie,有的话直接使用

        if (isset($_COOKIE['cookie_jar'])($_COOKIE['cookie_jar']||is_file($_COOKIE['cookie_jar']))){

            $params[CURLOPT_COOKIEFILE] = $_COOKIE['cookie_jar']; //这里判断cookie

        }else{

            $cookie_jar = tempnam($this-cookie_path, 'cookie'); //产生一个cookie文件

            $params[CURLOPT_COOKIEJAR] = $cookie_jar; //写入cookie信息

            setcookie('cookie_jar', $cookie_jar); //保存cookie路径

        }

        curl_setopt_array($ch, $params); //传入curl参数

        $content = curl_exec($ch); //执行

        return $content;

    }

}

Q3: PHP 模拟登陆后如何抓取分页页面信息？

curl基本特性

模拟浏览器传输数据

实现post/get方式传输

支持多种协议：HTTP、HTTPS、FTP上传

支持cookie，用户名/密码的认证

使用curl完成请求的简单步骤

初始化一个curl句柄

resource curl_init ([ string $url = NULL ] )

设置curl选项

bool curl_setopt ( resource $ch , int $option , mixed $value )

执行curl请求

mixed curl_exec ( resource $ch )

释放curl资源

void curl_close ( resource $ch )

Q4: php模拟登陆抓取数据，无法用正则表达式匹配中文

header()函数是输出到HTTP头，和你这个问题是没有关系的。

真正相关的，是你的源代码的编码方式。

我举个例子，若源代码文件是采用UTF8编码，那么你在抓取到页面后，先要进行编码转换到UTF8！

如，使用iconv：

若抓取到的页面存放在$contents中：那么运行$contents=iconv('gb2312','utf-8//IGNORE',$contents);//参数中的IGNORE是忽略错误

这样再进行正则匹配才行。

当然匹配出来的结果也需要用UTF8来正常显示，所以header()那部分就不用去掉了。

php模拟登录抓取数据的介绍就聊到这里吧，感谢你花时间阅读本站内容，更多关于php模拟post请求、php模拟登录抓取数据的信息别忘了在本站进行查找喔。