实用爬虫-02-爬虫真正使用代理 ip

news/2024/7/19 9:59:27 标签: 爬虫, python

爬虫-02-爬虫真正使用代理-ip">实用爬虫-02-爬虫真正使用代理 ip

  • 因为这里呢,是实用爬虫,想要仔细学习一些基础的,可以去查看:
    • Python 爬虫教程:https://www.cnblogs.com/xpwi/category/1295282.html
  • 获取代理 ip 的网站:
    • www.goubanjia.com
    • www.xicidaili.com
  • 【注意事项】:
    • 1.如果测出来的 ip 是你本机的 ip,99% 的原因是:你找的代理 ip 不能用,更换其他 ip
    • 2.测 ip 的地址的地址可能会变,一般不会更新,万一是这个 url 失效,参照:实用爬虫-01-检测爬虫的 IP
  • 代码 proxy.py 文件:https://xpwi.github.io/py/spider/proxy.py
# coding:utf-8
# 爬虫使用代理IP

from urllib import request,error

if __name__ == '__main__':

    # 0.设置测 ip 的地址
    url = "http://2018.ip138.com/ic.asp"
    # 1.设置代理 ip,获取方法参照:https://www.cnblogs.com/xpwi/p/9600727.html
    proxy = {'http':'189.201.142.129:57815'}
    # 2.创建ProxyHandler
    proxy_handler = request.ProxyHandler(proxy)
    # 3.创建Opener
    opener = request.build_opener(proxy_handler)
    # 4.安装Opener
    request.install_opener(opener)

    # 下面再进行访问url就会使用代理服务器
    try:
        rsp = request.urlopen(url)
        html = rsp.read().decode('GBK')
        print(html)

    except error.HTTPError as e:
        print(e)
    except Exception as e:
        print(e)

运行结果

1483449-20180908225529621-2075630791.jpg

  • 什么墨西哥,我在天津

爬虫">更多文章链接:实用爬虫


  • 本笔记不允许任何个人和组织转载

转载于:https://www.cnblogs.com/xpwi/p/9610984.html


http://www.niftyadmin.cn/n/530725.html

相关文章

山东中医药计算机考研,山东中医药大学考研难吗?一般要什么水平才可以进入?...

问:从山东中医药大学毕业的学生就业怎么样?值不值得报考?答:2020年山东中医药大学就业质量报告未公布,依据2019年山东中医药大学就业质量报告来看:2019届硕士毕业生就业率为95.14%。研究生各学科门类中&…

R_Studio读取xls文件

百度经验  传送门 需要包xlsx 依赖包rjava 需要安装java编译环境 在R Console中执行命令install.packages("rjava"),install.packages("xlsx") (附:文章最后解决读取xsl文件出现乱码问题) 读取Gary.xls文件 在D盘data文件夹下放一个Gary.xls文…

计算机病毒主要造成内存损坏,内存故障导致电脑频繁死机 内存损坏后的几种直接表现...

我们在使用电脑的时候,可能会遇到电脑频繁死机的故障,导致电脑死机的原因很多,比如电脑中了病毒,CPU温度过高,内存松动或者损伤,电源供电不足等都会出现电脑频繁死机,其中内存故障较为常见&…

计算机文化节闭幕式祝福语,快讯 | 第十三届计算机文化节闭幕式暨专家讲座圆满落幕...

原标题:快讯 | 第十三届计算机文化节闭幕式暨专家讲座圆满落幕12月4日中午,由统计与信息学院主办的上海对外经贸大学第十三届计算机文化节闭幕式暨专家讲座在图文信息大楼526报告厅举行。校党委副书记、纪委书记许玫,特邀嘉宾华东师范大学科学…

上海小学 计算机课,上海小学信息技术课程标准.pdf

究室 员会办公室 学研究室会教学研程改革委 委员会教会办公室员 课 育 员委 ) 教 委教育 幼儿园 海市 改革市 ( 上 程海 学 课上 小 )市中 幼儿园海 (上 上海市中小学室 会办公室 会办公室学研究革委员 革委员学研究室员会教课程改 课程改 会教委 ) ) 员教育 幼儿园 幼儿园 育委…

学车比学计算机简单,考驾照时科目三比科目二简单吗?看了你就知道了!

原标题:考驾照时科目三比科目二简单吗?看了你就知道了!很多考驾照的学员都说科三比科二困难,科目二一把就能过,但是却在科目三上栽了跟头。从驾考数据上可以看出,科目三的合格率明显低于科目二。科目三真的…

php openssl相关加密解密 验签代码

<?php//生成公钥 私钥 /*** 用 OpenSSL&#xff0c; Linux 上自带&#xff0c;常用命令如下&#xff1a;-- 生成 RSA 私钥&#xff08;传统格式的&#xff09;openssl genrsa -out rsa_private_key.pem 1024-- 将传统格式的私钥转换成 PKCS#8 格式的&#xff08;JAVA需要使…

高级会计师考计算机吗四川,2020四川高会考试方式你了解吗?

距离了高会考试没有多少日子了&#xff0c;大家要调整好心态&#xff0c;太阳再热烈&#xff0c;心情再烦躁&#xff0c;各位也要积极的备考高会&#xff0c;2020四川高会考试方式你了解吗&#xff1f;参加2020年高会考试的小伙伴们&#xff0c;快来了解一下吧&#xff01;2020…