修改配置nginx,限制无良爬虫频率

news/2024/7/19 10:37:23 标签: 数据库, 爬虫, 运维
#全局配置
limit_req_zone $anti_spider zone=anti_spider:10m rate=15r/m;

#某个server中
 limit_req zone=anti_spider burst=30 nodelay;
 if ($http_user_agent ~* "xxspider|xxbot") {
 set $anti_spider $http_user_agent;
}

超过设置的限定频率,就会给spider一个503。
上述配置详细解释请自行google下,具体的spider/bot名称请自定义。


--------------------------------------分割线--------------------------------------

知数堂 (http://zhishuedu.com)培训是由资深MySQL专家叶金荣、吴炳锡联合推出的专业优质培训品牌,主要有MySQL DBA实战优化和Python运维开发课程,是业内最有良心、最有品质的培训课程。



http://www.niftyadmin.cn/n/976692.html

相关文章

VNC Viewer for windows 连接服务器centos6.8后出现方块乱码

一、环境操作系统:[rootbogon zhi]# uname -a Linux bogon 2.6.32-642.11.1.el6.i686 #1 SMP Fri Nov 18 18:48:28 UTC 2016 i686 i686 i386 GNU/Linux [rootbogon zhi]# cat /etc/redhat-release CentOS release 6.8 (Final)VNC Viewer : 二、故…

20165231 结对编程四则运算第二阶段总结

一、需求分析 我们这门课是讲面向对象的程序设计,以对象为主,以使用者即以人为本是我们数据结构和程序设计的出发点需要一个给测试对象自主选择的对象:难度level、确定concontinue或output等。需要一个针对每个level设计出的计算method&#…

Anaconda的下载和安装步骤

一、首先打开下载地址https://www.anaconda.com/download/#windows,如下图所示。二、下载完成后根据红色箭头提示进行安装操作,具体安装步骤如下图所示;注意:安装路径最好安装在Python下。以防止日后编写代码时出错。

阿里王坚:数据大航海时代为什么中国人可能是第一个出海互联网的?

2016-12-07 来源:水煮通信 作者:陈志刚如果把互联网比作“大海”,那么可能中国人将是第一个出海能够发现“新大陆”的人!这个观点略微有点令人惊讶。这是阿里巴巴集团技术委员会主席王坚博士在12月5日于清华大学举办的他的新书《在…

山东省第八届ACM赛后总结

没有打铁,拿了个铜牌,真的是意外之喜。对比赛没太大感觉,赢了当然好,输了没关系,全当出去浪了一把,只要不坑队友就好。头天的热身赛没有全A,整队还是有点紧张的;再加上Java环境没找到…

第七届蓝桥杯国赛Java B组 愤怒小鸟

愤怒小鸟X星球愤怒的小鸟喜欢撞火车!一根平直的铁轨上两火车间相距 1000 米两火车 (不妨称A和B) 以时速 10米/秒 相对行驶。愤怒的小鸟从A车出发,时速50米/秒,撞向B车,然后返回去撞A车,再返回去…

简单的Python编程范例

美女征婚1.对方必须是男的2.对方房子面积不能小于1003.对方的工资不能少于20w4.对方的车子价值不能少于50w如果对方存款超过1000w 以上条件无视如果对方存款超过500w 车子 工资条件无视如果对方存款不超过100w 结束相亲要求:男方所有条件 以input形式输入sex inp…

第七届(16年)蓝桥杯java B组决赛 反幻方

反幻方我国古籍很早就记载着2 9 47 5 36 1 8这是一个三阶幻方。每行每列以及对角线上的数字相加都相等。下面考虑一个相反的问题。可不可以用 1~9 的数字填入九宫格。使得:每行每列每个对角线上的数字和都互不相等呢?这应该能做到。比如:9 1 …