Vertex AI
Vertex AI API
Anthropic的Claude模型现在通过Vertex AI正式提供。
用于访问Claude的Vertex API与Messages API几乎相同,并支持所有相同的选项,但有两个主要区别:
- 在Vertex中,
model
不在请求体中传递。相反,它在Google Cloud端点URL中指定。 - 在Vertex中,
anthropic_version
在请求体中传递(而不是作为头部),并且必须设置为值vertex-2023-10-16
。
Vertex也受Anthropic官方客户端SDK支持。本指南将引导您完成在Vertex AI上使用Python或TypeScript向Claude发出请求的过程。
请注意,本指南假设您已经有一个能够使用Vertex AI的GCP项目。有关所需设置的更多信息以及完整的演练,请参阅使用来自Anthropic的Claude 3模型。
安装用于访问Vertex AI的SDK
首先,安装Anthropic的客户端SDK,选择您喜欢的语言。
访问Vertex AI
模型可用性
请注意,Anthropic模型的可用性因地区而异。在Vertex AI Model Garden中搜索”Claude”或访问使用Claude 3以获取最新信息。
API模型名称
模型 | Vertex AI API模型名称 |
---|---|
Claude 3 Haiku | claude-3-haiku@20240307 |
Claude 3 Sonnet | claude-3-sonnet@20240229 |
Claude 3 Opus (公开预览版) | claude-3-opus@20240229 |
Claude 3.5 Sonnet | claude-3-5-sonnet@20240620 |
发出请求
在运行请求之前,您可能需要运行gcloud auth application-default login
以通过GCP进行身份验证。
以下示例展示了如何在Vertex AI上使用Claude 3 Haiku生成文本:
有关更多详细信息,请参阅我们的客户端SDK和官方Vertex AI文档。