用於存取 Claude 的 Vertex API 與 Messages API 幾乎完全相同,並支援所有相同的選項,但有兩個主要區別:

  • 在 Vertex 中,model 不會在請求主體中傳遞。相反,它是在 Google Cloud 端點 URL 中指定。
  • 在 Vertex 中,anthropic_version 是在請求主體中傳遞(而不是作為標頭),且必須設定為值 vertex-2023-10-16

Vertex 也受到 Anthropic 官方客戶端 SDK 的支援。本指南將引導您完成在 Python 或 TypeScript 中向 Vertex AI 上的 Claude 發出請求的過程。

請注意,本指南假設您已經有一個可以使用 Vertex AI 的 GCP 專案。有關所需設定的更多資訊以及完整的操作指南,請參閱使用來自 Anthropic 的 Claude 3 模型

安裝用於存取 Vertex AI 的 SDK

首先,為您選擇的程式語言安裝 Anthropic 的客戶端 SDK

存取 Vertex AI

模型可用性

請注意,Anthropic 模型的可用性因地區而異。在 Vertex AI Model Garden 中搜尋 “Claude” 或前往使用 Claude 3 以獲取最新資訊。

API 模型名稱

模型Vertex AI API 模型名稱
Claude 3 Haikuclaude-3-haiku@20240307
Claude 3 Sonnetclaude-3-sonnet@20240229
Claude 3 Opus (公開預覽版)claude-3-opus@20240229
Claude 3.5 Sonnetclaude-3-5-sonnet-v2@20241022

發出請求

在執行請求之前,您可能需要執行 gcloud auth application-default login 來驗證 GCP。

以下範例展示如何在 Vertex AI 上使用 Claude 3 Haiku 生成文字:

有關更多詳細資訊,請參閱我們的客戶端 SDK 和官方 Vertex AI 文件