Claude 教程:LiteLLM(多模型网关/代理,常用于接入 Claude)
项目:BerriAI/litellm
1. 这个项目解决什么问题?
多模型网关(OpenAI-compatible),可做路由/降级/限流/成本统计,常用于统一接入 Claude。
2. 适用场景(什么时候用它)
-
你需要把 Claude 能力落地到具体工程/工作流里,而不是只停留在对话层。
-
你希望“可复用、可观测、可控成本”的方式使用 Claude(尤其是团队/企业环境)。
3. 最小上手(建议做法)
-
当你需要:多供应商容灾、统一鉴权、统一计费与成本控制时引入。
-
推荐作为“公司内网 LLM Gateway”,上游应用不要直连供应商 API。
5. 实战建议(踩坑点)
-
先把“最小可用链路”跑通,再逐步补齐鉴权/限流/日志/脱敏/审计。
-
能标准化就标准化:把输入输出 schema、错误处理、重试策略固化成模板。
6. 参考链接
-
BerriAI/litellm: https://github.com/BerriAI/litellm