V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
herozzm
V2EX  ›  TensorFlow

普通的 Linux 服务器怎么跑 tensorflow?

  •  
  •   herozzm · 2020-04-09 14:39:15 +08:00 · 4483 次点击
    这是一个创建于 1687 天前的主题,其中的信息可能已经有所发展或是发生改变。

    已经是训练好的模型了,投入生产环境也很吃算力,一般的服务器没有独立显卡啊,难道只能跑 cpu 版本,cpu 速度很慢,没法用啊,或者给服务器搞一块强劲显卡?

    9 条回复    2020-04-15 11:37:29 +08:00
    ZRS
        1
    ZRS  
       2020-04-09 14:43:42 +08:00   ❤️ 1
    配显卡或者专门做 Inference 的硬件,有不少做解决方案的公司
    herozzm
        2
    herozzm  
    OP
       2020-04-09 14:51:18 +08:00
    @ZRS 有专门的 gpu 服务器吗?二手的是否可用?
    ZRS
        3
    ZRS  
       2020-04-09 14:52:59 +08:00   ❤️ 1
    @herozzm 有啊,不过生产环境捡二手不合适吧...有生产环境有需求不如考虑租云服务商的服务,比自己配硬件弹性好也更可靠
    tomczhen
        4
    tomczhen  
       2020-04-09 14:56:12 +08:00 via Android   ❤️ 1
    老黄不让数据中心用游戏卡,捡二手专业卡真的性价比有点低,虚拟化也是一堆坑等着。
    herozzm
        5
    herozzm  
    OP
       2020-04-09 15:15:22 +08:00
    @tomczhen
    @ZRS
    准备上一个 Quadro K620 二手显卡试试
    formaxin
        6
    formaxin  
       2020-04-09 23:11:50 +08:00 via Android
    cpu 慢那就只能上 gpu 了,nvidia-docker 蛮香的
    formaxin
        7
    formaxin  
       2020-04-09 23:13:17 +08:00 via Android   ❤️ 1
    再就是优化下模型,减枝蒸馏之类的
    herozzm
        8
    herozzm  
    OP
       2020-04-09 23:54:35 +08:00
    @formaxin docker 19.3 以后都集成了,不用单独 nvidia-docker
    q428202849
        9
    q428202849  
       2020-04-15 11:37:29 +08:00
    独立显卡服务器了解一下
    1 、I3-2100 8G 500G 5M 2IP GTX730 2G 显卡
    2 、I5-3470 8G 1T 10M 2IP GTX730 2G 显卡
    3 、I7-3770 8G 1T 10M 2IP GTX730 2G 显卡
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4715 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 20ms · UTC 09:52 · PVG 17:52 · LAX 01:52 · JFK 04:52
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.