好好学习,天天向上,学习网欢迎您!
当前位置:首页 > > 考试 > > 计算机类 > 内容页

PHP实现抓取HTTPS内容

2021-05-21 01:13:10计算机类访问手机版407

  PHP实现抓取HTTPS内容

  文章主要介绍了PHP实现抓取HTTPS内容,以及遇到的问题的解决方法,需要的朋友可以参考下。

  最近在研究Hacker News API时遇到一个HTTPS问题。因为所有的Hacker News API都是通过加密的HTTPS协议访问的,跟普通的.HTTP协议不同,当使用PHP里的函数 file_get_contents 来获取API里提供的数据时,出现错误,使用的代码是这样的:

  <?php

  $data = file_get_contents"https://hacker-news.firebaseio.com/v0/topstories.json?print=pretty";

  ......

  当运行上面的代码是遇到下面的错误提示:

  PHP Warning: file_get_contents: Unable to find the wrapper "https" - did you forget to enable it when you configured PHP?

  下面是截图:

  php https error

  为什么会出现这样的错误?

  在网上经过一番搜索,发现遇到这样错误的人还不少,问题很直接,是因为在PHP的配置文件里没有开启一个参数,在我本机上是 /apache/bin/php.ini 里的 ;extension=php_openssl.dll 这一项,需要将前面的分号去掉。你可以用下面的脚本来检查你的PHP环境的配置:

  $w = stream_get_wrappers;

  echo 'openssl: ', extension_loaded 'openssl' ? 'yes':'no', "\n";

  echo 'http wrapper: ', in_array'http', $w ? 'yes':'no', "\n";

  echo 'https wrapper: ', in_array'https', $w ? 'yes':'no', "\n";

  echo 'wrappers: ', var_dump$w;

  运行上面的这个脚本片段,在我的机器上得到的结果是:

  openssl: no

  http wrapper: yes

  https wrapper: no

  wrappers: array10

  [0]=>

  string3 "php"

  [1]=>

  string4 "file"

  [2]=>

  string4 "glob"

  [3]=>

  string4 "data"

  [4]=>

  string4 "http"

  [5]=>

  string3 "ftp"

  [6]=>

  string3 "zip"

  [7]=>

  string13 "compress.zlib"

  [8]=>

  string14 "compress.bzip2"

  [9]=>

  string4 "phar"

  替代方案

  发现错误,改正错误,这很简单,困难的是,发现错误后无法改正错误。我原本是想将这个脚本方法远程主机上,但我无法修改远程主机的PHP配置,结果是,我无法使用这一方案,但我们不能在一棵树上吊死,这条路走不通,看看有没有其它路。

  另外一个我经常用的PHP里抓取内容的函数是 curl ,它比 file_get_contents 更强大,提供了很多的可选参数。对于访问 HTTPS 内容的问题,我们需要使用的 CURL 配置参数是:

  curl_setopt$ch, CURLOPT_SSL_VERIFYPEER, FALSE;

  你可以从语义上看出,它是忽略/跳过了SSL安全验证。也许这不是一个很好的做法,但对于普通的场景中,这几经足够了。

  下面是利用 Curl 封装的一个能访问HTTPS内容的函数:

  function getHTTPS$url

  $ch = curl_init;

  curl_setopt$ch, CURLOPT_SSL_VERIFYPEER, FALSE;

  curl_setopt$ch, CURLOPT_HEADER, false;

  curl_setopt$ch, CURLOPT_FOLLOWLOCATION, true;

  curl_setopt$ch, CURLOPT_URL, $url;

  curl_setopt$ch, CURLOPT_REFERER, $url;

  curl_setopt$ch, CURLOPT_RETURNTRANSFER, TRUE;

  $result = curl_exec$ch;

  curl_close$ch;

  return $result;

TAG标签: 抓取内容phpHTTPS