用於存取 Claude 的 Vertex API 與 Messages API 幾乎完全相同,並支援所有相同的選項,但有兩個關鍵差異:

  • 在 Vertex 中,model 不在請求主體中傳遞。相反,它在 Google Cloud 端點 URL 中指定。
  • 在 Vertex 中,anthropic_version 在請求主體中傳遞(而不是作為標頭),並且必須設定為值 vertex-2023-10-16

Vertex 也受到 Anthropic 官方客戶端 SDK 的支援。本指南將引導您完成在 Vertex AI 上使用 Python 或 TypeScript 向 Claude 發出請求的過程。

請注意,本指南假設您已經擁有可以使用 Vertex AI 的 GCP 專案。有關所需設定的更多信息,以及完整的操作指南,請參閱使用來自 Anthropic 的 Claude 3 模型

安裝用於存取 Vertex AI 的 SDK

首先,為您選擇的語言安裝 Anthropic 的客戶端 SDK

pip install -U google-cloud-aiplatform "anthropic[vertex]"

存取 Vertex AI

模型可用性

請注意,Anthropic 模型的可用性因地區而異。在 Vertex AI Model Garden 中搜尋 “Claude” 或前往 使用 Claude 3 獲取最新信息。

API 模型名稱

模型Vertex AI API 模型名稱
Claude Opus 4claude-opus-4@20250514
Claude Sonnet 4claude-sonnet-4@20250514
Claude Sonnet 3.7claude-3-7-sonnet@20250219
Claude Haiku 3.5claude-3-5-haiku@20241022
Claude Sonnet 3.5claude-3-5-sonnet-v2@20241022
Claude Opus 3 (公開預覽版)claude-3-opus@20240229
Claude Sonnet 3claude-3-sonnet@20240229
Claude Haiku 3claude-3-haiku@20240307

發出請求

在運行請求之前,您可能需要運行 gcloud auth application-default login 來與 GCP 進行身份驗證。

以下示例展示了如何在 Vertex AI 上從 Claude 生成文本:

from anthropic import AnthropicVertex

project_id = "MY_PROJECT_ID"
# 模型運行的位置
region = "us-east5"

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-opus-4@20250514",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Hey Claude!",
        }
    ],
)
print(message)

有關更多詳細信息,請參閱我們的客戶端 SDK 和官方 Vertex AI 文檔

活動記錄

Vertex 提供請求-回應記錄服務,允許客戶記錄與您的使用相關的提示和完成內容。

Anthropic 建議您至少在 30 天的滾動基礎上記錄您的活動,以了解您的活動並調查任何潛在的濫用。

開啟此服務不會給予 Google 或 Anthropic 任何訪問您內容的權限。