V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Livid
V2EX  ›  RQ

RQ 对提高整个应用的性能很有帮助

  •  
  •   Livid · 2013-09-02 10:47:24 +08:00 via iPhone · 7019 次点击
    这是一个创建于 3860 天前的主题,其中的信息可能已经有所发展或是发生改变。
    某些复杂的运算,可以切割为数个小的任务,然后并发执行,这样的话,整个程序的并行化程度也就越来越高了。
    9 条回复    1970-01-01 08:00:00 +08:00
    huafang
        1
    huafang  
       2013-09-02 21:46:53 +08:00
    不觉则历
    no13bus
        2
    no13bus  
       2013-09-02 22:19:44 +08:00
    rq不是redis队列吗?
    Numbcoder
        3
    Numbcoder  
       2013-09-02 23:15:11 +08:00
    对于并发量小的,应该还不如直接写吧
    并发量大的话,应该能提高不少
    webflier
        4
    webflier  
       2013-09-02 23:46:20 +08:00
    我用rabbitmq干这个事,我有个job,切成32个小任务在n台机器上一起跑,用rabbitmq调度,性能提高了有几十倍。。。。。
    VYSE
        5
    VYSE  
       2013-09-03 00:23:17 +08:00
    但不敢切割成单个JOB来做,怕网络开销更大,分一定数量的批次来做就很好。RMQ+CELERY太需要折腾了。
    ipconfiger
        6
    ipconfiger  
       2013-09-03 00:39:18 +08:00
    @VYSE celery 3.0 配置起来已经没有这么纠结了。
    VYSE
        7
    VYSE  
       2013-09-03 00:54:45 +08:00
    @ipconfiger RMQ很纠结,还碰到过这货CRASH的情况
    ipconfiger
        8
    ipconfiger  
       2013-09-03 01:13:50 +08:00
    @VYSE 我们用Redis的backend,还好了
    0bit
        9
    0bit  
       2013-09-28 23:22:00 +08:00
    在把RQ这个“锤子”用熟练之后,我就满世界在寻找钉子,确实比手动用multiprocessing来写多进程方便多了。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   3470 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 10:56 · PVG 18:56 · LAX 03:56 · JFK 06:56
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.