用户名:
密 码: 记住
您当前的位置:首页 > 网络编程 > php教程

PHP抓取网页内容的方法

时间:2015-01-23  来源:西部数据  作者:西部数据

PHP抓取页面的内容在实际的开发当中是非常有用的,如作一个简单的内容采集器,提取网页中的部分内容等等,抓取到的内容在通过正则表达式做一下过滤就得到了你想要的内容,至于如何用正则表达式过滤,在这里就不做介绍了,以下就是几种常用的用php抓取网页中的内容的方法.

1.file_get_contents,PHP代码如下:

  1. <?php     
  2. $url = "http://www.phpfensi.com";  
  3. $contents = file_get_contents($url);  
  4. //如果出现中文乱码使用下面代码  
  5. //$getcontent = iconv("gb2312", "utf-8",$contents);   
  6. echo $contents;  
  7. ?> 

2.curl,PHP代码如下:

  1. <?php 
  2. $url = "http://www.phpfensi.com";  
  3. $ch = curl_init();  
  4. $timeout = 5;  
  5. curl_setopt($ch, CURLOPT_URL, $url);  
  6. curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);  
  7. curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);  
  8. //在需要用户检测的网页里需要增加下面两行  
  9. //curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_ANY);  
  10. //curl_setopt($ch, CURLOPT_USERPWD, US_NAME.":".US_PWD);  
  11. $contents = curl_exec($ch);  
  12. curl_close($ch);  
  13. echo $contents;  
  14. ?> 

3.fopen->fread->fclose,PHP代码如下:

  1. <?php 
  2. $handle = fopen ("http://www.phpfensi.com""rb");  
  3. $contents = "";  
  4. do {  
  5.    $data = fread($handle, 1024);  
  6.    if (strlen($data) == 0) {  
  7.    break;  
  8.    }  
  9.    $contents .= $data;  
  10. while(true);  
  11. fclose ($handle);  
  12. echo $contents;  
  13. ?> 

注:

1.使用file_get_contents和fopen必须空间开启allow_url_fopen。方法:编辑php.ini,设置allow_url_fopen = On,allow_url_fopen关闭时fopen和file_get_contents都不能打开远程文件。

2.使用curl必须空间开启curl。方法:windows下修改php.ini,将extension=php_curl.dll前面的分号去掉,而且需要拷贝ssleay32.dll和libeay32.dll到C:WINDOWSsystem32下;Linux下要安装curl扩展。

方法一,安装cURL

  1. wget http://curl.haxx.se/download/curl-7.17.1.tar.gz 
  2.  
  3.  tar -zxf curl-7.17.1.tar.gz 
  4.  
  5. ./configure --prefix=/usr/local/curl 
  6.  
  7. make & make install 

安装php,只要打开开关 --with-curl=/usr/local/curl,就可以了,这个扩展库还是非常棒,是fsockopen等等相关的有效的替代品.

方法二,进入安装原php的源码目录.

  1. cd ext
  2. cd curl
  3. phpize
  4. ./configure --with-curl=DIR
  5. make & make install 

就会在PHPDIR/ext/curl/moudles/下生成curl.so的文件,复制curl.so文件到extensions的配置目录,修改php.ini就好了.

extension=curl.so

第一种方法试了N遍一直在失败中,于是放弃,使用第二种方法安装,phpize提示找不到,其实命令在/usr/local/php/bin/目标下:

# /usr/local/php/bin/phpize

./configure --with-curl=DIR需要指定php的配置路径,应该如下:

# ./configure --with-php-config=/usr/local/php/bin/php-config --with-curl=DIR

注:上面的资料中错把--with-php-config写成了--with-php-php-config,然后就是编译安装:

# make

# make install

到这里会提示生成文件curl.so的路径: /usr/local/php/lib/php/extensions/no-debug-non-zts-20060613/

进入到这个路径下,复制curl到extension_dir目录下(本目录路径可以看phpinfo可是直接看php.int).

修改php.ini

extension=curl.so

# /usr/local/php/bin/php -m

如果看到有curl项表示成功。

重启apache

# /usr/local/apache2/bin/apachectl stop

# /usr/local/apache2/bin/apachectl start

到此成功了,在phpinfo中可以看到CURL的项.

来顶一下
返回首页
返回首页
推荐资讯
WiFi太不安全:7岁女孩11分钟内入侵公共网络 WiFi太不安全:7岁女孩11分钟内入侵近期刚刚发布研究说WiFi网络能获得人们手机里多少私人信息,
不服跑个分?人工智能也出现“刷分”乱象 不服跑个分?人工智能也出现“刷分2014年,人工智能领域突然爆发,成为了科研和科技创业的热门
相关文章
栏目更新
栏目热门