LLM 网关在 Claude Code 和模型提供商之间提供集中的代理层，提供：

  • 集中身份验证 - API 密钥管理的单一入口点
  • 使用跟踪 - 监控团队和项目的使用情况
  • 成本控制 - 实施预算和速率限制
  • 审计日志 - 跟踪所有模型交互以确保合规性
  • 模型路由 - 无需更改代码即可在提供商之间切换

​
LiteLLM 配置

LiteLLM 是第三方代理服务。Anthropic 不认可、维护或审计 LiteLLM 的安全性或功能。本指南仅供参考，可能会过时。使用时请自行判断。

​
先决条件

  • Claude Code 已更新到最新版本
  • LiteLLM 代理服务器已部署且可访问
  • 通过您选择的提供商访问 Claude 模型

​
基本 LiteLLM 设置

配置 Claude Code：

​
身份验证方法

静态 API 密钥

使用固定 API 密钥的最简单方法：

# 在环境中设置
export ANTHROPIC_AUTH_TOKEN=sk-litellm-static-key

# 或在 Claude Code 设置中
{
  "env": {
    "ANTHROPIC_AUTH_TOKEN": "sk-litellm-static-key"
  }
}

此值将作为 Authorization 和 Proxy-Authorization 标头发送，尽管 Authorization 可能会被覆盖（请参阅下面的 Vertex “客户端指定凭据”）。

使用助手的动态 API 密钥

用于轮换密钥或按用户身份验证：

  1. 创建 API 密钥助手脚本：
#!/bin/bash
# ~/bin/get-litellm-key.sh

# 示例：从保险库获取密钥
vault kv get -field=api_key secret/litellm/claude-code

# 示例：生成 JWT 令牌
jwt encode \
  --secret="${JWT_SECRET}" \
  --exp="+1h" \
  '{"user":"'${USER}'","team":"engineering"}'
  1. 配置 Claude Code 设置以使用助手：
{
  "apiKeyHelper": "~/bin/get-litellm-key.sh"
}
  1. 设置令牌刷新间隔：
# 每小时刷新一次（3600000 毫秒）
export CLAUDE_CODE_API_KEY_HELPER_TTL_MS=3600000

此值将作为 Authorization、Proxy-Authorization 和 X-Api-Key 标头发送，尽管 Authorization 可能会被覆盖（请参阅通过 LiteLLM 使用 Google Vertex AI）。apiKeyHelper 的优先级低于 ANTHROPIC_AUTH_TOKEN 或 ANTHROPIC_API_KEY。

​
特定提供商配置

通过 LiteLLM 使用 Anthropic API

使用直通端点：

export ANTHROPIC_BASE_URL=https://litellm-server:4000/anthropic
通过 LiteLLM 使用 Amazon Bedrock

使用直通端点：

export ANTHROPIC_BEDROCK_BASE_URL=https://litellm-server:4000/bedrock
export CLAUDE_CODE_SKIP_BEDROCK_AUTH=1
export CLAUDE_CODE_USE_BEDROCK=1
通过 LiteLLM 使用 Google Vertex AI

使用直通端点：

推荐：代理指定凭据

export ANTHROPIC_VERTEX_BASE_URL=https://litellm-server:4000/vertex_ai/v1
export ANTHROPIC_VERTEX_PROJECT_ID=your-gcp-project-id
export CLAUDE_CODE_SKIP_VERTEX_AUTH=1
export CLAUDE_CODE_USE_VERTEX=1
export CLOUD_ML_REGION=us-east5

替代方案：客户端指定凭据

如果您更喜欢使用本地 GCP 凭据：

  1. 在本地使用 GCP 进行身份验证：
gcloud auth application-default login
  1. 设置 Claude Code 环境：
export ANTHROPIC_VERTEX_BASE_URL=https://litellm-server:4000/vertex_ai/v1
export ANTHROPIC_VERTEX_PROJECT_ID=your-gcp-project-id
export CLAUDE_CODE_USE_VERTEX=1
export CLOUD_ML_REGION=us-east5
  1. 更新 LiteLLM 标头配置：

确保您的 LiteLLM 配置将 general_settings.litellm_key_header_name 设置为 Proxy-Authorization，因为直通 GCP 令牌将位于 Authorization 标头上。

​
统一端点

使用 LiteLLM 的 Anthropic 格式端点：

export ANTHROPIC_BASE_URL=https://litellm-server:4000

​
模型选择

默认情况下，模型将使用模型配置中指定的模型。

如果您在 LiteLLM 中配置了自定义模型名称，请将上述环境变量设置为这些自定义名称。

有关更详细的信息，请参阅 LiteLLM 文档。

​
其他资源