• 请不要在回答技术问题时复制粘贴 AI 生成的内容
AsaDong
V2EX  ›  程序员

搭建一个技术类的垂直搜索引擎有什么方案?

  •  
  •   AsaDong · Mar 31, 2017 · 3819 views
    This topic created in 3340 days ago, the information mentioned may be changed or developed.
    呃 如题。

    有哪些开源方案可以组合起来实现,包含爬虫 存储 检索 排名算法。
    只定向收录一些网站即可。
    6 replies    2017-04-03 11:17:22 +08:00
    ss098
        1
    ss098  
       Mar 31, 2017
    爬虫得自己写,搜索可以用 ElasticSearch 。
    dreampuf
        2
    dreampuf  
       Mar 31, 2017
    自定义爬虫 + ES
    规模几十 T 不是问题
    murmur
        3
    murmur  
       Mar 31, 2017
    垂直搜索的问题不是你底层抗不扛得住 是你抓别人数据能抓多少
    你能想到的可以聚合的内容基本都有反爬虫设计
    gwind
        4
    gwind  
       Mar 31, 2017
    你需要的是:

    1. scrapy 抓
    2. elasticsearch 搜
    jackroyal
        5
    jackroyal  
       Apr 1, 2017 via Android
    最简单的, google 自定义搜索,直接限定域名,哈哈
    AsaDong
        6
    AsaDong  
    OP
       Apr 3, 2017
    @jackroyal 自己用倒是可以
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2698 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 11:45 · PVG 19:45 · LAX 04:45 · JFK 07:45
    ♥ Do have faith in what you're doing.