首页 注册 登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
treblex
V2EX  ›  OpenAI

开源的大模型看文档性能要求都挺高的 ，所以提供的是炼丹炉，还是练好的模型，难道运行起来就要那么高的性能吗？

  •   
  •   treblex ·
    lazyfury · 180 天前 · 304 次点击
    这是一个创建于 180 天前的主题，其中的信息可能已经有所发展或是发生改变。
  • 炼丹炉
  • 模型
  • 开源
  • 性能
    3 条回复
    treblex
        1
    treblex  
    OP
       180 天前
    好像也都需要 cuda ，没英伟达显卡
    me221
        2
    me221  
       179 天前
    都是提供训练好的模型
    me221
        3
    me221  
       179 天前   ❤️ 1
    小参数模型用 3090 ，4090 也能跑推理，训练够呛
    65B 之类的大参数模型就只能用 A100 这种专业卡了
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   4088 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 36ms · UTC 05:18 · PVG 13:18 · LAX 22:18 · JFK 01:18
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.