AI 编程 / MCP / 开发者工具 / 自托管应用
litellm
统一调用 100+ LLM 的开源网关，OpenAI 兼容 API，支持自托管和代理
质量分85
0 Stars
unknown
easy
中文速读
LiteLLM 是一个开源的 AI 模型网关，统一 OpenAI 兼容 API 调用 100+ 大语言模型。支持负载均衡、缓存、密钥管理、速率限制和 MCP Gateway。
快速试用
暂未发现稳定的 Demo 或视频入口。
适合
- 需要多模型接入的开发者
- AI 应用基础设施
- 成本控制
不适合
- 只需单一模型的简单项目
标签
LLM网关API多模型基础设施