Bedrock, Vertex 和代理
設定 Claude Code 以與 Amazon Bedrock 和 Google Vertex AI 配合使用,並通過代理連接。
模型配置
默認情況下,Claude Code 使用 claude-opus-4-20250514
。您可以使用以下環境變數覆蓋此設定:
您也可以使用全局配置設定這些變數:
請參閱我們的模型名稱參考,了解所有不同提供商可用的模型。
與第三方 API 一起使用
無論您使用哪個 API 提供商,Claude Code 都需要同時訪問 Claude Sonnet 3.7 和 Claude Haiku 3.5 模型。
連接到 Amazon Bedrock
如果您沒有啟用提示快取,還需要設置:
請聯繫 Amazon Bedrock 以獲取提示快取,以降低成本並提高速率限制。
需要標準 AWS SDK 憑證(例如,~/.aws/credentials
或相關環境變數,如 AWS_ACCESS_KEY_ID
、AWS_SECRET_ACCESS_KEY
)。要設置 AWS 憑證,請運行:
如果您想通過代理訪問 Claude Code,可以使用 ANTHROPIC_BEDROCK_BASE_URL
環境變數:
如果您的代理維護自己的 AWS 憑證,可以使用 CLAUDE_CODE_SKIP_BEDROCK_AUTH
環境變數來移除 Claude Code 對 AWS 憑證的要求。
用戶需要在其 AWS 帳戶中同時訪問 Claude Sonnet 3.7 和 Claude Haiku 3.5 模型。如果您有模型訪問角色,如果這些模型尚未可用,您可能需要請求訪問這些模型。在每個區域中訪問 Bedrock 是必要的,因為推理配置文件需要跨區域能力。
連接到 Google Vertex AI
如果您沒有啟用提示快取,還需要設置:
Vertex AI 上的 Claude Code 目前僅支持 us-east5
區域。確保您的項目在這個特定區域有配額分配。
用戶需要在其 Vertex AI 項目中同時訪問 Claude Sonnet 3.7 和 Claude Haiku 3.5 模型。
需要通過 google-auth-library 配置的標準 GCP 憑證。要設置 GCP 憑證,請運行:
如果您想通過代理訪問 Claude Code,可以使用 ANTHROPIC_VERTEX_BASE_URL
環境變數:
如果您的代理維護自己的 GCP 憑證,可以使用 CLAUDE_CODE_SKIP_VERTEX_AUTH
環境變數來移除 Claude Code 對 GCP 憑證的要求。
為了獲得最佳體驗,請聯繫 Google 以提高速率限制。
通過代理連接
當使用 Claude Code 與 LLM 代理時,您可以使用以下環境變數和配置來控制身份驗證行為。請注意,您可以將這些設置與 Bedrock 和 Vertex 特定設置混合使用。
設置
Claude Code 支持通過環境變數控制的多種設置,以配置與 Bedrock 和 Vertex 的使用。有關完整參考,請參見環境變數。
如果您更喜歡通過文件而不是環境變數進行配置,可以將這些設置添加到Claude Code 設置文件中的 env
對象中。
您還可以配置 apiKeyHelper
設置,設置一個自定義 shell 腳本來獲取 API 密鑰(在啟動時調用一次,並在每個會話期間緩存,或直到 CLAUDE_CODE_API_KEY_HELPER_TTL_MS
過期)。
LiteLLM
LiteLLM 是第三方代理服務。Anthropic 不認可、維護或審核 LiteLLM 的安全性或功能。本指南僅供參考,可能會過時。請自行斟酌使用。
本節展示了 Claude Code 與 LiteLLM Proxy Server 的配置,LiteLLM Proxy Server 是一個第三方 LLM 代理,提供使用和支出跟踪、集中身份驗證、每用戶預算等功能。
步驟 1:先決條件
- Claude Code 更新到最新版本
- LiteLLM Proxy Server 正在運行並可被 Claude Code 網絡訪問
- 您的 LiteLLM 代理密鑰
步驟 2:設置代理身份驗證
選擇以下身份驗證方法之一:
選項 A:靜態代理密鑰 將您的代理密鑰設置為環境變數:
選項 B:動態代理密鑰 如果您的組織使用輪換密鑰或動態身份驗證:
- 不要設置
ANTHROPIC_AUTH_TOKEN
環境變數 - 編寫一個密鑰幫助腳本來提供身份驗證令牌
- 在 Claude Code 設置中的
apiKeyHelper
配置下註冊該腳本 - 設置令牌生命週期以啟用自動刷新:
將其設置為
apiKeyHelper
返回的令牌的生命週期(以毫秒為單位)。
步驟 3:配置您的部署
選擇您想通過 LiteLLM 使用的 Claude 部署:
- Anthropic API:直接連接到 Anthropic 的 API
- Bedrock:帶有 Claude 模型的 Amazon Bedrock
- Vertex AI:帶有 Claude 模型的 Google Cloud Vertex AI
選項 A:通過 LiteLLM 使用 Anthropic API
- 配置 LiteLLM 端點:
選項 B:通過 LiteLLM 使用 Bedrock
- 配置 Bedrock 設置:
選項 C:通過 LiteLLM 使用 Vertex AI
推薦:代理指定的憑證
- 配置 Vertex 設置:
替代方案:客戶端指定的憑證
如果您更喜歡使用本地 GCP 憑證:
-
在本地驗證 GCP:
-
配置 Vertex 設置:
-
更新 LiteLLM 頭部配置:
確保您的 LiteLLM 配置將
general_settings.litellm_key_header_name
設置為Proxy-Authorization
,因為傳遞的 GCP 令牌將位於Authorization
頭部。
步驟 4. 選擇模型
默認情況下,模型將使用模型配置中指定的模型。
如果您在 LiteLLM 中配置了自定義模型名稱,請將上述環境變數設置為這些自定義名稱。
有關更詳細的信息,請參考 LiteLLM 文檔。