Vertex AI
Vertex AI API
Anthropic 的 Claude 模型現已通過 Vertex AI 全面提供。
用於存取 Claude 的 Vertex API 與 Messages API 幾乎完全相同,並支援所有相同的選項,但有兩個主要區別:
- 在 Vertex 中,
model
不會在請求主體中傳遞。相反,它是在 Google Cloud 端點 URL 中指定。 - 在 Vertex 中,
anthropic_version
是在請求主體中傳遞(而不是作為標頭),且必須設定為值vertex-2023-10-16
。
Vertex 也受到 Anthropic 官方客戶端 SDK 的支援。本指南將引導您完成在 Python 或 TypeScript 中向 Vertex AI 上的 Claude 發出請求的過程。
請注意,本指南假設您已經有一個可以使用 Vertex AI 的 GCP 專案。有關所需設定的更多資訊以及完整的操作指南,請參閱使用來自 Anthropic 的 Claude 3 模型。
安裝用於存取 Vertex AI 的 SDK
首先,為您選擇的程式語言安裝 Anthropic 的客戶端 SDK。
存取 Vertex AI
模型可用性
請注意,Anthropic 模型的可用性因地區而異。在 Vertex AI Model Garden 中搜尋 “Claude” 或前往使用 Claude 3 以獲取最新資訊。
API 模型名稱
模型 | Vertex AI API 模型名稱 |
---|---|
Claude 3 Haiku | claude-3-haiku@20240307 |
Claude 3 Sonnet | claude-3-sonnet@20240229 |
Claude 3 Opus (公開預覽版) | claude-3-opus@20240229 |
Claude 3.5 Sonnet | claude-3-5-sonnet-v2@20241022 |
發出請求
在執行請求之前,您可能需要執行 gcloud auth application-default login
來驗證 GCP。
以下範例展示如何在 Vertex AI 上使用 Claude 3 Haiku 生成文字:
有關更多詳細資訊,請參閱我們的客戶端 SDK 和官方 Vertex AI 文件。