V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
longbo666
V2EX  ›  问与答

做 AI 相关的朋友说一下, AMD 与英伟达的差距有多大?有追赶上的可能吗

  •  
  •   longbo666 · 248 天前 · 1397 次点击
    这是一个创建于 248 天前的主题,其中的信息可能已经有所发展或是发生改变。
    9 条回复    2023-08-24 18:23:35 +08:00
    nomagick
        1
    nomagick  
       248 天前
    犹如易语言追上 C++
    CocoCoding
        2
    CocoCoding  
       248 天前
    不知道,我擦,我想换显卡了,几个月前的 6750xt 想换成 3080ti 了,玩玩英伟达的 ai 生成
    Champa9ne
        3
    Champa9ne  
       248 天前
    看 B 站主播翼王和苏打的最新动态,英特尔做了新的 AICG Demo ,文中称推理速度还可以,且据说 13 代酷睿最多可以跑 13B 模型。

    不知道这类 demo 在 AMD 的 CPU 上能不能跑。如果用上霄龙推理速度咋样。蹲一个懂哥说道说道。∠( ᐛ 」∠)_
    murmur
        4
    murmur  
       248 天前
    以前总吹生态,这次真的是生态垄断,NV 亲自下场制定规则、优化驱动、适配框架,本来卡能打社区维护还勤快你让 A 怎么追
    glfpes
        5
    glfpes  
       248 天前
    cuda 是壁垒
    liprais
        6
    liprais  
       248 天前
    这两家都没正眼瞧过桌面用户,老黄拿你当凯子 AMD 当你不存在,追不追赶上也跟普通用户没关系
    HaydenYe
        7
    HaydenYe  
       248 天前
    除了 cuda ,还有 infiniband 也是壁垒
    ysc3839
        8
    ysc3839  
       248 天前 via Android   ❤️ 1
    你说 A 卡有用,但绝大多数用户都选 N 卡。你说 A 卡没用,PyTorch 官方支持 ROCm ,AMD 平台的超算都建了好几个了,性能排名还靠前,也有用户宣布使用,大公司也有采购 AMD 的计算卡。
    N 卡用户多的主要原因还是 A 卡没生态,需要自己修改、移植代码,但绝大多数搞 AI 的用户都是没有底层代码开发能力的,为了避免遇到潜在的问题,就不选 AMD 了。而对于一些大公司来说,自己已经有了顶级开发团队,为了节约硬件成本自然会选择 AMD ,相比之下开发成本并不高。
    目前要做正经的 AI 训练的话,N 和 A 应该是唯二的选择了。所以要嘲讽的话还不如嘲讽 I 和 A 的差距。
    Vneix
        9
    Vneix  
       248 天前 via Android   ❤️ 1
    对标 N 卡 CUDA 的是 A 卡 ROCm ,ROCm 之前只在 linux 平台有完整支持,但是最近已经推出了 AMD HIP SDK(在 Win 平台支持的 ROCm),可以在 Win 下运行 CUDA 应用。

    但如果想玩 ai 画图时比较完整的发挥显卡性能,目前 A 卡最好的方案还是切换到 linux 系统使用成熟的 ROCm ,因为 Win 下的 ROCm 支持刚刚起步,目前还不支持 PyTorch 。

    综上,A 卡战未来。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   3767 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 36ms · UTC 10:28 · PVG 18:28 · LAX 03:28 · JFK 06:28
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.