首页
注册
登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请
登录
V2EX 提问指南
广告
V2EX
›
问与答
关于爬虫的几个疑问
klxq15
·
2016-10-17 08:52:22 +08:00
via Android · 1755 次点击
这是一个创建于 2765 天前的主题,其中的信息可能已经有所发展或是发生改变。
大家都知道如果爬虫爬取速度过快的话会被封 ip ,如果是移动宽带对外进行大量 NAT 的 ip 会不会封呢?如果爬取的时候命中了小运营商的缓存(比如长城宽带的内网缓存),是不是就不会被封 ip 了?
缓存
爬取
宽带
NAT
2 条回复
•
2016-10-17 08:55:20 +08:00
1
mhycy
2016-10-17 08:54:03 +08:00
1 、内网缓存一般外网无法命中
2 、就移动宽带对外 NAT 在网站看来就是一普通 IP ,你被封掉那么这个片区一堆人都会被封掉
3 、如果需要快速爬取请购买代理服务器
2
howeroc
2016-10-17 08:55:20 +08:00 via Android
用 tor 代理, stem 可以切换代理地址
关于
·
帮助文档
·
博客
·
API
·
FAQ
·
实用小工具
·
5656 人在线
最高记录 6547
·
Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 29ms ·
UTC 08:30
·
PVG 16:30
·
LAX 01:30
·
JFK 04:30
Developed with
CodeLauncher
♥ Do have faith in what you're doing.