自己写了一个轻量的 AI 网关, 感觉适合拼车用户, 拿来分享一下

[lx0758]

本来是给自己做的, 前两天公司内网需要一个, 就给开源了.

主要用途是管理众多大模型提供商, 提供二次分发的 ApiKey. 附带 OpenAI 和 Anthropic 协议互转能力.

网上有同类的产品, 但是觉得都比较重, 不适合个人用户部署.

项目地址: https://github.com/lx0758/AI-Gateway

最重要的: 各位大哥们, 求个 Star 啊!!!

[LRWF]

看着还行，已 star ，跟其它同类项目相比，有什么特别的优势不？

[ezioswj]

star 学习学习，最近才开始研究这方面，感觉我有点慢了/(ㄒoㄒ)/~~

[FakerLeung]

octopus ？

[vonsdite]

我也来一个： https://github.com/VonSdite/LLM_Proxy

- 支持一个上游对接多个下游（当前还是 1:1 ，正在修改）。比如上游 openai 接口，下游可对接 openai_chat\claude\codex 协议客户端
- 支持 Hook 扩展，有些 provider 需要 cookie 或者 token 才能访问，并且需要动态更新，这个时候可以写 hook 来扩展，hook 有 header_hook 、request_guard 、response_guard ，后面两个 guard 可以来做内容检测
- 支持白名单控制用户管理，不开的时候所有 IP 均能访问，开了之后只有允许的 IP 才可访问 provider ，支持对模型粒度的用户控制
- 支持 Provider 设置多个 api key 的策略，可控制单独 key 的使用量、请求数等

[lcry2023]

和 new-api 和 one-api 这类区别是？