PHP获取网页内容方法总结

将远程抓取到的内容通过正则表达式进行一下过滤就得到了自己想要的内容,采集和小偷程序就是基于这种原理。以下就是几种常用的用php
抓取网页中的内容的方法。
1.file_get_contents
PHP代码:

<?php
$url = “http://www.xxx.net“;
$contents = file_get_contents($url);
//如果出现中文乱码使用下面代码
//$getcontent = iconv(“gb2312″, “utf-8″,$contents);
echo $contents;
?>


2.curl
PHP代码:

<?php
$url = “http://www.xxx.net“;
$ch = curl_init();
$timeout = 5;
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
//在需要用户检测的网页里需要增加下面两行
//curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_ANY);
//curl_setopt($ch, CURLOPT_USERPWD, US_NAME.”:”.US_PWD);
$contents = curl_exec($ch);
curl_close($ch);
echo $contents;
?>

3.fopen->fread->fclose
PHP代码:

<?php
$handle = fopen (“http://www.xxx.net“, “rb”);
$contents = “”;
do {
$data = fread($handle, 1024);
if (strlen($data) == 0) {
break;
}
$contents .= $data;
} while(true);
fclose ($handle);
echo $contents;
?>

注:
1. 使用file_get_contents和fopen必须空间开启allow_url_fopen。
方法:编辑php.ini,设置allow_url_fopen = On,allow_url_fopen关闭时fopen和file_get_contents都不能打开远程文件。
2.使用curl必须空间开启curl。
方法:windows下修改php.ini,将extension=php_curl.dll前面的分号去掉,而且需要拷贝ssleay32.dll和libeay32.dll到

C:/WINDOWS/system32下;Linux下要安装curl扩展。安装好以后需要重启apache。

发表评论

电子邮件地址不会被公开。 必填项已用*标注