说PHP不适合做爬虫的人，看这里

news/2024/7/19 8:39:44 标签: php, 爬虫, 开发语言

文章目录

  • 一、关于PHP爬虫框架—Goutte
    • 1.1 什么是Goutte
    • 1.2 Goutte的优点
    • 1.3 Goutte的安装
  • 二、Goutte的使用
    • 2.1 基本用法
    • 2.2 获取页面内容
    • 2.3 表单提交
    • 2.4 AJAX请求
    • 2.5 登录并抓取数据
  • 三、15个Goutte爬虫示例
    • 3.1 简单示例
    • 3.2 获取表格内容
    • 3.3 登录并获取数据
    • 3.4 处理JavaScript渲染的内容
    • 3.5 使用代理访问网页
    • 3.6 提交表单并获取重定向后的页面内容
    • 3.7 处理XML数据
    • 3.8 获取多个页面的数据
    • 3.9 使用cookie访问网页
    • 3.10 处理AJAX响应
    • 3.11 从JSON数据中获取内容
    • 3.12 使用队列爬取网页
    • 3.13 处理下载文件
    • 3.14 获取图片链接并下载图片
    • 3.15. 关闭自动重定向
  • 总结

一、关于PHP爬虫框架—Goutte

本文已收录于PHP全栈系列专栏：PHP快速入门与实战

近年来，互联网上数据信息的更新迅速，而在很多情况下，我们需要获取某些特定的数据来分析或者用于其他用途。这时候就需要用到爬虫。PHP作为一种流行的编程语言，自然有相应的爬虫框架出现。今天，我们就来介绍一款常用的PHP爬虫框架——Goutte，并给出15个实例供读者参考。

在这里插入图片描述

1.1 什么是Goutte

Goutte是基于Symfony Components开发的一个PHP Web爬虫库，主要用于爬取网站HTML页面。它使用了 Guzzle HTTP客户端库和Symfony DomCrawler组件，能够模拟用户访问网站，获取网页的内容，并执行抓取任务。

1.2 Goutte的优点

Goutte具有以下优点：

  1. 简单易用：不需要掌握底层的爬虫原理和算法，只需了解一定的PHP语言和HTML基础即可上手。

  2. 兼容性强：能够适应不同的网站结构和页面布局，支持JavaScript、Cookies、Session等。

  3. 灵活性高：用户可以自定义HTTP请求及响应处理逻辑，如HTTP头部设置、页面截断、代理支持等等。

  4. 集成度高：Goutte可以结合其他Symfony组件使用，如表单组件、验证组件、视图组件等。

1.3 Goutte的安装

Goutte支持Composer安装，只需执行以下命令即可：

php">composer require fabpot/goutte

二、Goutte的使用

2.1 基本用法

下面是一个简单的Goutte使用实例：

php">use Goutte\Client;

$client = new Client();

$crawler = $client->request('GET', 'http://www.baidu.com/');

$crawler->filter('a')->each(function ($node) {
    print $node->attr('href')."\n";
});

该实例访问百度首页，获取所有链接的地址并输出。首先我们创建了一个Client实例，然后使用request方法获取百度首页HTML内容，接着使用filter方法选择DOM节点，并使用each方法进行循环处理每个节点。

2.2 获取页面内容

通过Goutte可以获取网页的所有内容，如标题、Meta标签、CSS样式、JavaScript脚本等。下面是一个实例：

php">$client = new Client();
$crawler = $client->request('GET', 'https://www.sina.com.cn/');
$title = $crawler->filterXPath('//title')->text();
$meta = $crawler->filterXPath('//meta[@name="description"]')->attr('content');
$css = $crawler->filterXPath('//link[@rel="stylesheet"]')->attr('href');
$script = $crawler->filterXPath('//script[@src]')->attr('src');
echo "title: ".$title."\n";
echo "meta_description: ".$meta."\n";
echo "css: ".$css."\n";
echo "script: ".$script."\n";

上述实例获取了新浪网首页的标题、Meta标签中的description、CSS样式文件和JavaScript脚本文件，并输出到控制台中。

2.3 表单提交

在某些情况下，我们需要模拟用户登录并提交表单来获取目标数据。Goutte可以通过类似用户行为的方式提交表单。下面是一个实例：

php">use Symfony\Component\DomCrawler\Form;

$client = new Client();
$crawler = $client->request('GET', 'http://localhost/login.php');

$form = $crawler->selectButton('login')->form();

$form['username'] = 'admin';
$form['password'] = '123456';

$crawler = $client->submit($form);

echo $crawler->filterXPath('//div[@class="alert alert-success"]')->text()."\n";

该实例模拟用户通过POST方式提交了用户名和密码，登录了本地服务器的一个测试站点，并获取了登录后的页面内容。

2.4 AJAX请求

现如今，越来越多的网页采用了AJAX的技术，动态更新数据。Goutte同样也支持模拟AJAX请求并抓取返回的结果。下面是一个实例：

php">$client = new Client();
$crawler = $client->request('GET', 'https://www.taobao.com/');
$ajax_url = $crawler->filterXPath('//a[@data-ajax]');
$response = $client->request('GET', $ajax_url->attr('href'));
echo $response->filterXPath('//title')->text()."\n";

该实例获取了淘宝首页中带data-ajax属性的链接地址，并使用Goutte进行AJAX请求，并输出返回的页面标题。

2.5 登录并抓取数据

在某些情况下，我们需要先登录才能抓取到目标数据。下面是一个实例：

php">$client = new Client();

// login first
$crawler = $client->request('GET', 'http://localhost/login.php');
$form = $crawler->selectButton('login')->form();
$form['username'] = 'admin';
$form['password'] = '123456';
$crawler = $client->submit($form);

// then visit the page you want
$crawler = $client->request('GET', 'http://localhost/data.php');
echo $crawler->filterXPath('//table')->text()."\n";

该实例先模拟用户登录操作，然后再访问数据页面，并输出数据表格内容。

三、15个Goutte爬虫示例

3.1 简单示例

php">use Goutte\Client;

$client = new Client();

$crawler = $client->request('GET', 'http://www.example.com');

$crawler->filter('h1')->each(function ($node) {
    echo $node->text()."\n";
});

3.2 获取表格内容

php">use Goutte\Client;

$client = new Client();

$crawler = $client->request('GET', 'http://www.example.com/table.html');

$tableRows = $crawler->filter('table tr')->each(function ($row) {
    return $row->filter('td')->each(function ($cell) {
        return $cell->text();
    });
});

var_dump($tableRows);

3.3 登录并获取数据

php">use Goutte\Client;

$client = new Client();

// 登录页面
$crawler = $client->request('GET', 'http://www.example.com/login');

// 填充表单并提交
$form = $crawler->selectButton('Login')->form();
$form['username'] = 'user';
$form['password'] = 'pass';
$crawler = $client->submit($form);

// 获取需要的数据
$crawler->filter('div.content')->each(function ($node) {
    echo $node->text()."\n";
});

3.4 处理JavaScript渲染的内容

php">use Goutte\Client;
use Symfony\Component\DomCrawler\Crawler;

$client = new Client();

$crawler = $client->request('GET', 'http://www.example.com');

// 等待JavaScript加载完成
$client->wait(5000, "document.readyState === 'complete'");

// 使用Crawler对象解析JavaScript渲染后的HTML内容
$javascriptRenderedHtml = $client->executeScript('return document.documentElement.outerHTML;');
$crawler = new Crawler($javascriptRenderedHtml);

$crawler->filter('h1')->each(function ($node) {
    echo $node->text()."\n";
});

3.5 使用代理访问网页

php">use Goutte\Client;

$client = new Client();

// 设置代理服务器
$client->setProxy('http://proxy.example.com:8080');

// 访问需要使用代理的页面
$crawler = $client->request('GET', 'http://www.example.com');

$crawler->filter('h1')->each(function ($node) {
    echo $node->text()."\n";
});

3.6 提交表单并获取重定向后的页面内容

php">use Goutte\Client;

$client = new Client();

// 访问包含表单的页面
$crawler = $client->request('GET', 'http://www.example.com/form');

// 填充表单并提交
$form = $crawler->selectButton('Submit')->form();
$form['name'] = 'John';
$crawler = $client->submit($form);

// 获取重定向后的页面内容
$url = $crawler->getUri();
$crawler = $client->request('GET', $url);

$crawler->filter('h1')->each(function ($node) {
    echo $node->text()."\n";
});

3.7 处理XML数据

php">use Goutte\Client;

$client = new Client();

$crawler = $client->request('GET', 'http://www.example.com/xml');

$xml = simplexml_load_string($crawler->html());

foreach ($xml->item as $item) {
    echo $item->title."\n";
    echo $item->description."\n";
}

3.8 获取多个页面的数据

php">use Goutte\Client;

$client = new Client();

$urls = [
    'http://www.example.com/page1',
    'http://www.example.com/page2',
    'http://www.example.com/page3',
];

foreach ($urls as $url) {
    $crawler = $client->request('GET', $url);

    $crawler->filter('h1')->each(function ($node) {
        echo $node->text()."\n";
    });
}

3.9 使用cookie访问网页

php">use Goutte\Client;

$client = new Client();

// 设置cookie
$client->getCookieJar()->set(new \Symfony\Component\BrowserKit\Cookie('session_id', '123'));

$crawler = $client->request('GET', 'http://www.example.com');

$crawler->filter('h1')->each(function ($node) {
    echo $node->text()."\n";
});

3.10 处理AJAX响应

php">use Goutte\Client;

$client = new Client();
$client->request('GET', 'http://www.example.com');

// 发送异步请求获取数据
$response = $client->getClient()->request('POST', 'http://www.example.com/ajax', [
    'headers' => ['X-Requested-With' => 'XMLHttpRequest'],
    'json' => ['key' => 'value'],
]);

// 处理响应
$data = json_decode($response->getBody(), true);
echo $data['name']."\n";
echo $data['age']."\n";

3.11 从JSON数据中获取内容

php">use Goutte\Client;

$client = new Client();
$crawler = $client->request('GET', 'http://www.example.com/api');

$jsonData = json_decode($crawler->html());

foreach ($jsonData as $item) {
    echo $item->name."\n";
    echo $item->age."\n";
}

3.12 使用队列爬取网页

php">use Goutte\Client;
use Symfony\Component\DomCrawler\Link;

$client = new Client();

$queue = new \SplQueue();
$queue->enqueue('http://www.example.com/');

while (!$queue->isEmpty()) {
    $url = $queue->dequeue();

    $crawler = $client->request('GET', $url);

    $crawler->filter('a')->each(function (Link $link) use ($queue) {
        $url = $link->getUri();
        if (strpos($url, 'http://www.example.com/') === 0) {
            $queue->enqueue($url);
        }
    });

    $crawler->filter('h1')->each(function ($node) {
        echo $node->text()."\n";
    });
}

3.13 处理下载文件

php">use Goutte\Client;

$client = new Client();

// 访问包含文件下载链接的页面
$crawler = $client->request('GET', 'http://www.example.com/files');

// 获取下载链接并下载文件
$link = $crawler->filter('a')->eq(0)->link();
$fileContent = $client->click($link)->getContent();

// 写入文件
file_put_contents('/path/to/downloaded/file', $fileContent);

3.14 获取图片链接并下载图片

php">use Goutte\Client;

$client = new Client();

$crawler = $client->request('GET', 'http://www.example.com/images');

// 获取图片链接并下载图片
$crawler->filter('img')->each(function ($image) use ($client) {
    $imageUrl = $image->attr('src');
    $imageContent = $client->request('GET', $imageUrl)->getContent();

    // 写入文件
    file_put_contents('/path/to/downloaded/image.jpg', $imageContent);
});

3.15. 关闭自动重定向

php">use Goutte\Client;

$client = new Client(['allow_redirects' => false]);

$crawler = $client->request('GET', 'http://www.example.com');

if ($client->getResponse()->getStatusCode() == 301) {
    $redirectUrl = $client->getResponse()->getHeader('location')[0];
    $crawler = $client->request('GET', $redirectUrl);
}

$crawler->filter('h1')->each(function ($node) {
    echo $node->text()."\n";
});

总结

Goutte是一款优秀的PHP爬虫框架，具有简单易用、兼容性强、灵活性高、集成度高等优点。通过以上实例，相信读者对Goutte的使用有了一定的了解，并可以在实际应用中灵活运用此框架来完成爬虫任务。

后续更多内容将收录在专栏PHP快速入门与实战中，感谢大家支持。


http://www.niftyadmin.cn/n/245792.html

相关文章

发布第三方jar包到远程仓库

发布第三方jar包到远程仓库

mvn deploy:deploy-file -Dversion4.3.3 -DgroupIdcom.xxx.sdk -DartifactIdxxx-java-sdk-biz -Dpackagingjar -Dfilelib/xxx-sdk-biz-4.3.3.jar -DpomFilepom.xml -Durlhttp://xxx/repositories/thirdparty -DrepositoryIdthirdparty 报错：Return code is: 401, R…
阅读更多...
为什么机械硬盘上和SSD上储存同样的文件大小差这么多？

为什么机械硬盘上和SSD上储存同样的文件大小差这么多？

这可能是因为机械硬盘和SSD之间的存储介质不同所导致的。 固态硬盘和机械硬盘的存储原理 传统的机械硬盘是以机械磁盘为存储介质，通过磁臂和磁头、磁盘之间的机械构造进行数据存储。而NAND闪存则是以半导体技术支撑，在单位面积PCB板上，集成…
阅读更多...
Crash工具介绍和常见命令使用

Crash工具介绍和常见命令使用

1. 介绍 本文主要介绍crash工具的使用以及常用的命令。crash工具，常用来分析内核的coredump以及应用的coredump，功能非常强大。 crash工具官方介绍 使用crash分析内核crash情况，需要准备以下内容： 内核crash时生成的coredump文…
阅读更多...
pinctrl 子系统

pinctrl 子系统

什么是 pinctrl 子系统？ pinctrl（Pin Control）子系统是 Linux 内核中的一个子系统，它用于管理系统上的引脚并为设备驱动程序提供通用的引脚控制 API。该子系统允许设备驱动程序配置和控制其所需的引脚，而不必关心底层…
阅读更多...
Python基础之类

Python基础之类

一：什么是类 类即类别/种类，是面向对象分析和设计的基石，如果多个对象有相似的数据与功能，那么该多个对象就属于同一种类。有了类的好处是：我们可以把同一类对象相同的数据与功能存放到类里，而无需每个对象…
阅读更多...
springboot+vue职称评审管理系统（源码+文档）

springboot+vue职称评审管理系统（源码+文档）

风定落花生，歌声逐流水，大家好我是风歌，混迹在java圈的辛苦码农。今天要和大家聊的是一款基于springboot的职称评审管理系统。项目源码请联系风歌，文末附上联系信息 。 目前有各类成品java毕设，需要请看文末联系方式 …
阅读更多...
瑞吉外卖：软件开发基础和项目介绍

瑞吉外卖：软件开发基础和项目介绍

文章目录 软件开发基础软件开发流程角色分工软件环境 瑞吉外卖项目介绍项目介绍开发流程技术选型功能架构角色 软件开发基础 软件开发流程 需求分析：产品原型（大体结构、页面、功能等）和需求规格说明书设计：产品文档、UI界面设计…
阅读更多...
m1下利用dockerdesktop安装ELK

m1下利用dockerdesktop安装ELK

一、背景：公司有一个需求，就是将txt中的数据加载到es中，之前没用过es，想着先在本地安装一个，然后再做测试。 二、安装docker desktop 打开docker的官网，下载苹果芯片的docker 网址：https://ww…
阅读更多...
最新文章

Copyright @ 2022~2023