keakon

@kenvix 算错了，800 GB 。

@afxcn 正常的机器跑不起来，半精度 405B 需要超过 8TB 显存，100 多张 A100 80G ，大概 1 千万人民币吧。

@DIMOJANG numpy 是有的

单纯是因为 cv2 没有写 docstring ，只是转发到 c 的接口而已。

双 4090 用 vllm 部署 qwen2:72b-int4 ，最低大概要 42GB 显存。占满 48GB 显存的情况下，32 并发下大概每秒 300 tokens 。
用 ollama 部署，大概要 40GB 显存。2 并发大概每秒 30 tokens ，再增加并发性能反而下降。
但是具体到单个请求，只有 15 tokens/s 的样子，大概是 gpt-4o 的 1/4 。

友情提醒，最好换个框架，不然每秒几十个订单可能就扛不住了。

然后通知是什么场景呢？用户刷卡时，pos 机发到 server 端，处理完通知么？这个不是秒级就完成了么，还需要轮询？

这 2 者作用不一样啊，CORS 是跨域的安全设置，你没跨域使用 xhr 、fetch 时不受影响。

计算挺奇怪的，60 万用户全在一分钟内访问，这是主动发起的，还是定时任务啊？

平时还能有 1000 qps ，他们是有多闲，每 10 分钟都会查询一次…

说实话你这问题靠扩容没法解决，比如 8:59 时还是 1000 qps ，假设 1 台机器刚好。9:00 突然到 1 万 qps ，立刻再起 9 台机器，启动要半分钟，同步数据几分钟，然后发现 qps 回到 1000 了，它们又可以下线了。