Carson089 最近的时间轴更新
Carson089

Carson089

V2EX 第 463459 号会员,加入于 2020-01-06 16:13:38 +08:00
今日活跃度排名 15591
Carson089 最近回复了
23 小时 49 分钟前
回复了 faoisdjioga 创建的主题 Linux Linux 如何保持 Nvidia 驱动稳定
1. 宿主机的 nvidia 驱动支持最新的 cuda 版本就好,不要随意更新 nvidia 驱动
2. 不同的项目可能需要不同的 cuda 版本,在 docker 中安装 cuda 与 cudnn
3. 还有个选择是,anaconda/conda 等使用虚拟环境。安装需要的 gpu 的项目时候会自动下载 cuda/cudnn 相关到环境中
@mightybruce 你说的也对。gradio 可以快速搭建出活,去做 demo 的话很合适。但是如果开发产品级应用,增加插件、功能等,感觉不好拓展。
@horizon cursor 对吧,我上次使用要我付费,我再看看能不能用。。。
@hackyuan 我也有自己部署开源项目,类似于大模型应用的 demo ,RAG 、Agent 这种。但是大部分都很重,整个框架很大,看不懂前端部分的内容。还有最近部署了一个简单一点的项目,里面是直接是 flask 读取 assert.py (里面包含 html 、js 等字符串内容),直接看懵了
@woodytang 流式这个,大模型部署框架一般都支持流式,对于前端请求我想处理应该不难吧?(不懂)。 其实我的想法是考虑,前后端分离这样的架构,大模型 API 封装好,写一个后端的程序,收到前端的问题后,结合各种 prompt 选择与拼接,RAG 向量数据召回,对轮对话等。 问题是前端布局感觉很难懂,一个小按钮、对话框,我看到需要比较多 html 代码,以及 js 请求 api 后需要相应的处理,这部分感觉复杂。
图片看不到,chatgpt 使用的也是 react?
142 天前
回复了 tsohgdivil 创建的主题 Apple Zed Editor:最完美的快速启动编辑器
vscode 可以 python 、c++,所有系统,做算法就很爽
168 天前
回复了 dododada 创建的主题 程序员 算法工程师的工程能力问题
算法每一项要做精就很难,你确定你公司需要找 1 个人全部做完,然后薪水比你们 cto 还高的人?
329 天前
回复了 forrestchang 创建的主题 分享发现 Devv AI 是如何构建高效的 RAG 系统的
牛逼。感觉产品的优势在于,用户是在联网的环境下使用是,而联网的话就可以使用 gpt4 墙大模型
2023-05-05 12:35:36 +08:00
回复了 doraemon0711 创建的主题 Python 最近在用 Python ,有些混乱请教一下大家
算法的最佳实践是 anaconda/miniconda 的 python 版本 与 docker
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4520 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 12ms · UTC 10:01 · PVG 18:01 · LAX 02:01 · JFK 05:01
Developed with CodeLauncher
♥ Do have faith in what you're doing.