V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
delia
V2EX  ›  问与答

采集万能宝 1000 条商品的共计 10 万条评论,难么?

  •  
  •   delia · 2020-02-28 12:36:51 +08:00 · 1047 次点击
    这是一个创建于 1520 天前的主题,其中的信息可能已经有所发展或是发生改变。

    就是想针对一些商品的评论,做一些数据分析

    大概需要 1000 个商品,每个商品 100 条的话,就是 10 万条评论,,,,可能更多,因为评论里,很多无效的。

    请问下,难么?

    之前只写过很简单的爬虫,抽取一些简单 html 的文章什么的

    3 条回复    2020-02-28 13:21:56 +08:00
    dremy
        1
    dremy  
       2020-02-28 13:04:51 +08:00 via iPhone
    劝放弃,各种反爬策略会让没有太多经验的小白欲死欲仙
    yujiang
        2
    yujiang  
       2020-02-28 13:15:58 +08:00 via Android
    反爬已经很先进了,小白建议退坑吧。。。
    Vegetable
        3
    Vegetable  
       2020-02-28 13:21:56 +08:00
    1000 个而已,你写爬虫的时间,手动+代理已经采集完了
    浏览器+mitmproxy 脚本

    自己刷一天 1000 个肯定能刷完。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2827 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 15:04 · PVG 23:04 · LAX 08:04 · JFK 11:04
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.