Python3,爬虫有多简单,一个库,一行代码,就OK, 你确定不来试试?

news/2024/7/19 10:34:56 标签: 爬虫, python, 开发语言

爬虫进阶库:Scrapeasy

  • 1、 引言
  • 2、Scrapeasy
    • 2.1 简介
      • 2.1.1 Scrap
      • 2.1.2 Scrapeasy
    • 2.2 安装
    • 2.3 代码示例
  • 3、总结

1、 引言

小屌丝:鱼哥, 我最近在练习写爬虫, 你有没有什么便捷的方式…
小鱼:比如呢?
小屌丝:比如,一句话就可以搞得定爬取整个网站。
小鱼:我不是写过挺多的爬虫案例嘛,你咋还问这个问题,
小屌丝:你写的哪些教程,像我这种比较懒散的人,不适用!
小鱼:我擦~ ~ 你这…
小屌丝:鱼哥,你就像这篇《只用1行代码就下载全网视频》,就一行代码, 我保证妥妥的会。
小鱼:Let me 想一下。
在这里插入图片描述

2、Scrapeasy

按照小屌丝的想法, 我想到了一个库:Scrapeasy
小屌丝:这是不是第三方库。
小鱼:必须的,python自带库,能有这么强大的功能吗?
在这里插入图片描述

2.1 简介

2.1.1 Scrap

关于Scrapeasy 大家可能了解的不多,
但是 Scrap 爬虫大佬肯定了解。
那什么是Scrap呢?

Scrapy

Scrapy是一个功能强大的网络爬虫类库,通过命令pip install scrapy进行安装,爬取的海量数据可以通过MongoDB进行存储。

我上一个架构图:

在这里插入图片描述
关于Scrap的其他功能,
可以移步 Scrap官网进行阅读,这里不做过多介绍。

2.1.2 Scrapeasy

我们再来了解 Scrapeasy。
Scrapeay 是Python的一个第三方库,主要功能:

  • 可以抓取网页数据;
    • 从单网页提取数据;
    • 多网页提取数据;
  • 可以从PDF和HTML表格中提取数据;

听着是很牛的样子,
接下来,我们就去代码中实践,看看到底有多牛。

2.2 安装

涉及到第三方库,肯定就需要安装
老规矩,pip 安装

pip install scrapeasy

其它安装方式,直接看这两篇:

  • Python3,选择Python自动安装第三方库,从此跟pip说拜拜!!
  • Python3:我低调的只用一行代码,就导入Python所有库!

2.3 代码示例

代码示例

python"># -*- coding:utf-8 -*-
# @Time   : 2022-10-31
# @Author : Carl_DJ

'''
实现功能:
    通过scrapeasy 来实现爬取数据

'''

from scrapeasy import Website,Page

#创建网站对象

#这里我就以我博客的地址为例子
webs = Website("https://blog.csdn.net/wuyoudeyuer?type=blog")

#获取所有子链接
urls = webs.getSubpagesLinks()
#输出信息
print(f'打印所有链接信息:{urls}')


#查找图片

images = webs.getImages()

print(f'打印所有的图片信息:{images}')

#下载图片
webs.download('img','./data')

#下载pdf
webs.download('pdf','./data')


#获取链接
main_urls = webs.getLinks(intern=False,extern=False,domain=True)

#获取链接域
domain = webs.getLinks(intern=False,extern=True,domain=False)

# 下载其他类型的文件
cal_urls = webs.get("php")


解析

  • 下载所有链接: getSubpagesLinks() 方法;
  • 查找图片:getImages()方法;
  • 下载:webs.download()方法;
  • 下载其他格式文件:get(“文件类型”);

3、总结

看到这里,今天的分享差不多就该结束了。
今天主要是针对scrapeasy这个库进行简单的分享。
学会scrapeasy,你算是迈入的爬虫的 门槛。
其实关于爬虫,我也写过一些教程和案例,例如:

  • Python3:我只用1行代码就下载全网视频,我被我的才华和颜值征服了!!
  • Python3,20行代码,通过微信电脑版爬取朋友圈数据,老板再也抓不到我上班看手机了!!!
  • Python3,多线程爬完B站UP主的视频弹幕及评论,我飘了~ ~ ~
  • Pyhotn3,爬取B站up主的信息!

这里就不过多列举了,更多的示例,可以看小鱼的爬虫实战专栏的

我是小鱼

  • CSDN博客专家
  • 51Testing认证讲师
  • 金牌面试官
  • 商务合作|面试培训|职场规划,可以扫码咨询

关注我,带你学习Python领域更多更专业的技能。


http://www.niftyadmin.cn/n/3085.html

相关文章

Flask快速白嫖

一、快速搭建 有前面Flask的学习,相信大家对flask已经有一个不错的了解,今天教大家如何快速搭建一个web网页!!!. 博主不是专门做软件的,但是需求里又有网站的需要,所以怎么办呢? 那…

STM32实现光照强度传感器(BH1750)(标准库与HAL库实现)

目录 元器件类型选择 接线表设计 实现过程 标准库实现 HAL库实现 代码下载 元器件类型选择 单片机选择:STM32F103 光照度模块:维特智能出品的 BH1750 模块被企业封装过,将采集的光照度数据直接串口显示,显示效果如下&#xf…

毕业设计 基于大数据的高校校园学生一卡通数据分析

文章目录0 项目简介任务 1数据导入与预处理任务 1.1 探查数据质量并进行缺失值和异常值处理1.1.2检查重复值1.1.3数据内容总览1.1.4数据分布总览1.1.5消费金额和消费次数观察消费金额和消费次数的散点图1.1.6观察 CardCount 特征的分布情况任务2 食堂就餐行为分析任务 2.2 食堂…

【变化检测】国土资源典型要素变化遥感智能监测关键技术及应用

引文格式:丁 忆,李朋龙,张 觅,等.国土资源典型要素变化遥感智能监测关键技术及应用[J].地理信息世界,2021,28(6):65-71. 作者信息: 丁 忆1,李朋龙1,3,张 觅2,4,张泽烈1,李海峰3,胡 艳1,马泽忠1,敖 影1 1.重庆市地理信息和遥感应用中心,重庆 401147;2.武汉大学,…

搭建一个springboot项目的基本流程

今天是我毕业设计开工大吉的日子,刚一开工就遇到了致命性的坎,我才发现之前对着视频建项目,敲代码,自己对搭建springboot项目的流程并不熟悉。导致频繁踩坑、持续报错。以下是从创建一个项目到连接数据库,测试controll…

2000-2013年工企专利匹配数据库

2000-2013年工业企业专利匹配数据库 1、时间:2000-2013年 2、指标: 工业企业标识码、创新企业标识码、省地县码、省(自治区、直辖市)、地(区、市、州、盟)、乡(镇)、街道办事处、…

计算机网络-数据链路层(广域网及相关协议(PPP协议帧格式,HDLC协议)数据链路层设备(网桥,交换机))

文章目录1. 广域网的概念2. PPP协议(面向字节的协议)PPP协议组成部分PPP协议的帧格式3. HDLC协议(面向比特的协议)HDLC站(主站,从站,复合站)HDLC协议帧格式4. 数据链路层设备&#x…

计算机毕业设计(附源码)python银行服务评价系统

项目运行 环境配置: Pychram社区版 python3.7.7 Mysql5.7 HBuilderXlist pipNavicat11Djangonodejs。 项目技术: django python Vue 等等组成,B/S模式 pychram管理等等。 环境需要 1.运行环境:最好是python3.7.7,…