PHP curl抓取数据经典应用方法6则 HTTPS/代理/POST/页面控制/模拟登陆

php curl主要是抓取数据,当然我们可以用其他的方法来抓取,比如fsockopen,file_get_contents等。但是只能抓那些能直接访问的页面,如果要抓取有页面访问控制的页面,或者是登录以后的页面就比较困难了。这里就教你如何用PHP CURL来突破这些限制

php curl经典最常用的6个例子:

1,抓取https协议下的资源

<?php
    /***
    *   php curl 案例
    *   下载网络上一个HTTPS资源
    */
    //初始化
    $curlobj = curl_init(); 
     //设置访问的url
    curl_setopt($curlobj, CURLOPT_URL, "https://www.bnxb.com" );
    //执行后不直接打印出
    curl_setopt($curlobj, CURLOPT_RETURNTRANSFER, true); 
 
    //设置https 支持
    date_default_timezone_get('PRC');   //使用cookies时,必须先设置时区，防止过期时间异常
    curl_setopt($curlobj, CURLOPT_SSL_VERIFYPEER, 0);  //终止从服务端验证
 
    $output = curl_exec($curlobj);  //执行获取内容
    curl_close($curlobj);          //关闭curl
 
    //创建一个文件
    $myfile = fopen('testfile.html', 'w');    //将获取的网站内容保存到文件中
    fwrite($myfile, $output);    //关闭文件资源
    fclose($myfile);
?>

2,最基础的抓取方法

<?php 
     $ch = curl_init(); 
     curl_setopt($ch, CURLOPT_URL, "http://localhost/mytest/phpinfo.php"); 
     curl_setopt($ch, CURLOPT_HEADER, false); 
     curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //如果把这行注释掉的话,就会直接输出 
     $result=curl_exec($ch); 
     curl_close($ch); 
     echi $result;
     ?>

3,使用代理IP进行抓取,用于IP被源站给屏蔽的情况

为什么要使用代理进行抓取呢?以淘宝为例吧,如果去抓淘宝的数据,短时间内大量抓取，你的IP就会上黑名单，ip地址被限制，需要输入验证码才能继续访问，这个时候,就无法直接访问了，需要换代理IP重新抓。 

<?php 
     $ch = curl_init(); 
     curl_setopt($ch, CURLOPT_URL, "https://www.bnxb.com"); 
     curl_setopt($ch, CURLOPT_HEADER, false); 
     curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     curl_setopt($ch, CURLOPT_HTTPPROXYTUNNEL, TRUE); 
     curl_setopt($ch, CURLOPT_PROXY, 125.21.23.6:8080); 
     //url_setopt($ch, CURLOPT_PROXYUSERPWD, 'user:password');如果要密码的话,加上这个 
     $result=curl_exec($ch); 
     curl_close($ch); 
     ?>

4,post数据后,抓取数据

单独说一下数据提交数据,因为用 curl的时候,很多时候会有数据交互的,所以比较重要的。

<?php 
    $ch = curl_init(); 
    /***在这里需要注意的是,要提交的数据不能是二维数组或者更高
    *例如array('name'=>serialize(array('tank','zhang')),'sex'=>1,'birth'=>'20101010')
    *例如array('name'=>array('tank','zhang'),'sex'=>1,'birth'=>'20101010')这样会报错的*/
    $data = array('name' => 'test', 'sex'=>1,'birth'=>'20101010'); 
    curl_setopt($ch, CURLOPT_URL, 'http://localhost/mytest/curl/upload.php'); 
    curl_setopt($ch, CURLOPT_POST, 1); 
    curl_setopt($ch, CURLOPT_POSTFIELDS, $data); 
    curl_exec($ch); 
    ?>

在 upload.php文件中,print_r($_POST);利用curl就能抓取出upload.php输出的内容Array ( [name] => test [sex] => 1 [birth] => 20101010 )

5,抓取一些有页面访问控制的页面(需要输入密码才能访问的页面)

对于服务器上设置了目录权限或者页面权限，需要输入密码才能访问的，如果用上面提到的方法抓的话,会报以下错误

You are not authorized to view this page 
You do not have permission to view this directory or page using the credentials that you supplied because your Web browser is sending a WWW-Authenticate header field that the Web server is not configured to accept.

这个时候,我们就要用CURLOPT_USERPWD来进行验证了

<?php 
   $ch = curl_init(); 
   curl_setopt($ch, CURLOPT_URL, "http://www.bnxb.com/dd"); 
   /*CURLOPT_USERPWD主要用来破解页面访问控制的
   *例如平时我们所以htpasswd产生页面控制等。*/
   //curl_setopt($ch, CURLOPT_USERPWD, '231144:2091XTAjmd='); 
   curl_setopt($ch, CURLOPT_HTTPGET, 1); 
   curl_setopt($ch, CURLOPT_REFERER, "http://www.bnxb.com/dd"); 
   curl_setopt($ch, CURLOPT_HEADER, 0); 
   $result=curl_exec($ch); 
   curl_close($ch); 
   ?>

6,模拟登录到sina

我们要抓取数据,可能是登录以后的内容,这个时候我们就要用到curl的模拟登录功能了。

<?php  
 
    function checklogin( $user, $password ) 
     { 
     if ( emptyempty( $user ) || emptyempty( $password ) ) 
     { 
     return 0; 
     } 
     $ch = curl_init( ); 
     curl_setopt( $ch, CURLOPT_REFERER, "http://mail.sina.com.cn/index.html" ); 
     curl_setopt( $ch, CURLOPT_HEADER, true ); 
     curl_setopt( $ch, CURLOPT_RETURNTRANSFER, true ); 
     curl_setopt( $ch, CURLOPT_USERAGENT, USERAGENT ); 
     curl_setopt( $ch, CURLOPT_COOKIEJAR, COOKIEJAR ); 
     curl_setopt( $ch, CURLOPT_TIMEOUT, TIMEOUT ); 
     curl_setopt( $ch, CURLOPT_URL, "http://mail.sina.com.cn/cgi-bin/login.cgi" ); 
     curl_setopt( $ch, CURLOPT_POST, true ); 
     curl_setopt( $ch, CURLOPT_POSTFIELDS, "&logintype=uid&u=".urlencode( $user )."&psw=".$password); 
     $contents = curl_exec( $ch ); 
     curl_close( $ch ); 
     if ( !preg_match( "/Location: (.*)\\/cgi\\/index\\.php\\?check_time=(.*)\n/", $contents, $matches ) ) 
     { 
     return 0; 
     }else{ 
     return 1; 
     } 
     }  
 
     define( "USERAGENT", $_SERVER['HTTP_USER_AGENT'] ); 
     define( "COOKIEJAR", tempnam( "/tmp", "cookie" ) ); 
     define( "TIMEOUT", 500 );  
 
     echo checklogin("bnxbcom","password123456"); 
     ?>

打开/tmp下面的cookie文件看一下

# Netscape HTTP Cookie File

# http://curl.haxx.se/rfc/cookie_spec.html# This file was generated by libcurl! Edit at your own risk.

mail.sina.com.cn    FALSE    /    FALSE    0    SINAMAIL-WEBFACE-SESSID    65223c4bd8900284ed463d2a3e1ac182

#HttpOnly_.sina.com.cn    TRUE    /    FALSE    0    SUE    es%3D8d96db0820c6c79922ad57d422f575e8%26ev%3Dv0%26es2%3Dcddfb8400dc5ca95902367ddcd7f57dd.sina.com.cn    TRUE    /    FALSE    0    SUP    cv%3D1%26bt%3D1286900433%26et%3D1286986833%26lt%3D1%26uid%3D1445632344%26user%3D%25E5%25BC%25A0%25E6%2598%25A02001%26ag%3D2%26name%3Dzhangying20015%2540sina.com%26nick%3D%25E5%25BC%25A0%25E6%2598%25A02001%26sex%3D1%26ps%3D0%26email%3Dzhangying20015%2540sina.com%26dob%3D1982-07-18#HttpOnly_.sina.com.cn    TRUE    /    FALSE    0    SID    BihcallomxMx-QZxzGrOlcSQx%2F0B%2F0cmr.NyQ%2F0B%2FcmGGalmarlmcHrcGlSmrmxmfxal_CBZ%2F_afugCmmGirBYHm0Bc%40fr5ciZiGG5i#HttpOnly_.sina.com.cn    TRUE    /    FALSE    0    SPRIAL    bfb4102951fd5892a3fd5b42d442cd26

#HttpOnly_.sina.com.cn    TRUE    /    FALSE    0    SINA_USER    %D5%C5%D2001

当然还有模拟IP，模拟来源，模拟浏览器等应用，上一期已经有提到，详见：https://www.bnxb.com/php/27462.html

另外还有php curl参数大全，详见https://www.bnxb.com/php/26911.html