用于访问Claude的Vertex API与Messages API几乎相同,并支持所有相同的选项,但有两个主要区别:

  • 在Vertex中,model不在请求体中传递。相反,它在Google Cloud端点URL中指定。
  • 在Vertex中,anthropic_version在请求体中传递(而不是作为头部),并且必须设置为值vertex-2023-10-16

Vertex也受Anthropic官方客户端SDK支持。本指南将引导您完成在Vertex AI上使用Python或TypeScript向Claude发出请求的过程。

请注意,本指南假设您已经有一个能够使用Vertex AI的GCP项目。有关所需设置的更多信息以及完整的演练,请参阅使用来自Anthropic的Claude 3模型

安装用于访问Vertex AI的SDK

首先,安装Anthropic的客户端SDK,选择您喜欢的语言。

访问Vertex AI

模型可用性

请注意,Anthropic模型的可用性因地区而异。在Vertex AI Model Garden中搜索”Claude”或访问使用Claude 3以获取最新信息。

API模型名称

模型Vertex AI API模型名称
Claude 3 Haikuclaude-3-haiku@20240307
Claude 3 Sonnetclaude-3-sonnet@20240229
Claude 3 Opus (公开预览版)claude-3-opus@20240229
Claude 3.5 Sonnetclaude-3-5-sonnet@20240620

发出请求

在运行请求之前,您可能需要运行gcloud auth application-default login以通过GCP进行身份验证。

以下示例展示了如何在Vertex AI上使用Claude 3 Haiku生成文本:

有关更多详细信息,请参阅我们的客户端SDK和官方Vertex AI文档