入门学习爬取贴吧图片(附完整代码),2021/1/27有效

news/2024/7/19 9:53:09 标签: 爬虫

记录一下爬虫学习爬取贴吧图片,按照以下b站视频教学,2021/1/27亲测有效,不会被封ip。
Python爬虫实战讲解:爬取百度贴吧全站图片

结果如下(手动打码):
在这里插入图片描述

源代码和笔记如下:

#多页爬取

'''
需要环境
requests,parsel(xpath)

步骤
1.确定url地址
2.发送请求
3.解析数据(数据筛选)<两层数据解析>
4.保存数据(本地文件)
'''

#requests实现帮助请求数据的要求
import requests
import parsel

page_num = 0
#换页
for page in range(0,55000+1,50):
    page_num+=1
    print('===========================正在爬取第{}页数据===================='.format(str(page_num)))
    #1.确定url地址
    #先确定它是静态网页还是动态网页
    #静态网页:源代码都有网页的数据,并且没有经过浏览器的渲染以及加载
    #判断静态数据:在源代码中搜索的到
    url = 'https://tieba.baidu.com/f?ie=utf-8&kw=%E7%BA%A6%E4%BC%9A%E5%90%A7&fr=search&pn={}'.format(str(page))
    #之后准备请求参数
    #刷新页面后,Chrome的Network栏所有的数据包都可以呈现
    #user-agent更换为了ie浏览器,方便后面的操作
    headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WoW64; Trident/7.0; rv:11.0) like Gecko'}

    #2.发送请求
    response = requests.get(url,headers=headers)
    #状态码:200左右表示请求成功,300左右表示重定向,400左右表示URL地址有错误,500左右表示服务器错误
    html_data = response.text #字符串类型数据,只能使用正则表达式
    #print(html_data)

    #3.解析数据(数据筛选)<两层数据解析>
    #为了获得最高清的图片,而不是缩略图
    #数据解析第一层:解析所有帖子的《链接》
    #将字符串数据转换成Selector对象;该对象有re(正则表达式),css选择器,xpath路径选择器
    html = parsel.Selector(html_data)
    #print(html)
    #两个/(双斜杠)表示跨节点提取,[@...]通过标签的属性值进行精确定位,标签层级递增的关系/div/a...,取到标签后获得href属性
    #同样也返回Selector对象,getall提取出解析到的数据
    title_url = html.xpath('//div[@class="threadlist_lz clearfix"]/div/a/@href').getall()
    #部分url的地址,和前面的地址拼接起来去实现
    #print(title_url) #['/p/7203233304', '/p/7197583050'...]

    #拼接url地址
    #前半部分的url
    second_url = 'https://tieba.baidu.com'
    for url in title_url:
        all_url = second_url + url
        print('当前的帖子链接为:', all_url)

        # 第二层:再发送一次url请求,获得页面数据,随后解析出图片地址
        #再次发送请求,请求帖子内部的数据
        response_2 = requests.get(url=all_url,headers=headers).text
        #第二次解析
        response_2_data = parsel.Selector(response_2)
        result_list = response_2_data.xpath('//cc/div/img[@class="BDE_Image"]/@src').getall()
        #print(result_list) #['http://tiebapic.baidu.com/forum/w%3D580/sign=d941e7678413b07ebdbd50003cd69113/4d456709c93d70cf1974ca4befdcd100bba12b60.jpg', 'http://tiebapic.baidu.com/forum/w%3D580/sign=b6dbbb9a1ffa513d51aa6cd60d6c554c/b74ee5dde71190ef5192bc99d91b9d16fcfa6081.jpg']

        for li in result_list:
            #图片数据,需要content(二进制数据)
            img_data = requests.get(url=li,headers=headers).content
            #4.保存数据(本地文件)
            #图片的文件名和后缀
            #'http://tiebapic.baidu.com/forum/w%3D580/sign=d941e7678413b07ebdbd50003cd69113/4d456709c93d70cf1974ca4befdcd100bba12b60.jpg'
            file_name = li.split('/')[-1]
            #\\表示把文件保存到该文件夹下,mode文件写入方式(二进制wb)
            with open('img\\'+file_name,mode='wb') as f:
                f.write(img_data)
                print("正在保存:",file_name)

http://www.niftyadmin.cn/n/1363932.html

相关文章

ASP.NET 跨域

#region 支持跨域请求//Response.ClearHeaders();string origin Request.Headers["Origin"];Response.AppendHeader("Access-Control-Allow-Origin",string.IsNullOrEmpty(origin) ? "*" : origin);string requestHeaders Request.Headers[&q…

爬虫_01_爬虫概述

课程概述 博客地址 波晓张-博客园 随笔有分类&#xff1a; 爬虫数据分析金融策略数据结构算法 爬虫对应都有章节 爬虫的学习内容 requests模块 数据解析动态加载数据的爬取selenium移动端数据的爬取异步的爬虫10中反爬机制 scrapy框架 异步的爬虫框架 爬虫岗位&#x…

【Leetcode】【Easy】Roman to Integer

Given a roman numeral, convert it to an integer. Input is guaranteed to be within the range from 1 to 3999. 解题&#xff1a; 将字符形式的罗马数字&#xff0c;转化为整形。输入在1~3999之间。罗马数字的书写规范&#xff0c;请参见罗马数字_百度百科&#xff1b; 本题…

爬虫_02_requests模块

request模块 爬虫中一个基于网络请求的模块作用&#xff1a;模拟浏览器发起请求编码流程&#xff1a; 指定url发起请求获取响应数据&#xff08;爬取到的页面源码数据&#xff09;持久化存储 爬取搜狗首页的页面源码数据1️⃣ 见ipynb 实现一个简易网页采集器2️⃣ 见ipy…

爬虫_03_数据解析_正则bs4xpath

数据解析 正则bs4xpathpyquery&#xff08;自学&#xff0c;通用性不强&#xff09; 正则解析 格式&#xff08;规范&#xff09; 使用正则进行图片数据的批量解析爬取1️⃣ 前提知识&#xff1a;爬取图片数据的两种方式 方式1&#xff1a;基于requests img_url"https…

stack、queue实现

//SGI STL以deque作为缺省情况下的stack底部结构,stack没有迭代器&#xff0c;不提供遍历功能 //queue的实现类似stack&#xff0c;也是以deque作为缺省底层结构 template <class T,class Sequencedeque<T>> class stack {friend bool operator__STL_NULL_TMPL_ARG…

爬虫_05_线程池多任务异步协程selenium

线程池&多任务异步协程&selenium 异步爬虫 特点&#xff1a;应付面试 基于线程池基于单线程多任务的异步爬虫 线程池 import requests import time #**************************************** #线程池库 form multiprocessing.dumpy import Pool #**************…

爬虫_07_12306模拟登录

07_12306模拟登录 网站地址&#xff1a;https://kyfw.12306.cn/otn/resources/login.html/init 使用selenium打开登录页面对当前selenium打开的这张页面进行截图对当前图片局部区域&#xff08;验证码图片&#xff09;进行裁剪 好处&#xff1a;将验证码图片和模拟登录进行一…