AI 编程 / MCP / 开发者工具 / 自托管应用
litellm
统一调用 100+ LLM 的开源网关，OpenAI 兼容 API，支持自托管和代理
质量分85
0 Stars
unknown
easy
中文速读
LiteLLM 是一个开源的 AI 模型网关，统一 OpenAI 兼容 API 调用 100+ 大语言模型。支持负载均衡、缓存、密钥管理、速率限制和 MCP Gateway。
快速试用
暂未发现稳定的 Demo 或视频入口。
适合
- 需要多模型接入的开发者
- AI 应用基础设施
- 成本控制
不适合
- 只需单一模型的简单项目
选型答案
litellm 适合什么场景？需要多模型接入的开发者；AI 应用基础设施；成本控制
litellm 的试用和部署门槛如何？暂未发现稳定的 Demo、视频或文档入口，适合先从 GitHub README 和 issues 判断成熟度。 当前难度标记为“上手简单”，许可证记录为“unknown”。
选择 litellm 时要注意什么？只需单一模型的简单项目
数据来源和更新时间GitHub 仓库 BerriAI/litellm，最近记录的推送时间为 。
标签
LLM网关API多模型基础设施