A API do Vertex para acessar o Claude é praticamente idêntica à API de Mensagens e suporta todas as mesmas opções, com duas diferenças principais:

  • No Vertex, model não é passado no corpo da requisição. Em vez disso, é especificado na URL do endpoint do Google Cloud.
  • No Vertex, anthropic_version é passado no corpo da requisição (em vez de como um cabeçalho), e deve ser definido com o valor vertex-2023-10-16.

O Vertex também é suportado pelos SDKs de cliente oficiais da Anthropic. Este guia irá orientá-lo através do processo de fazer uma requisição ao Claude no Vertex AI em Python ou TypeScript.

Observe que este guia assume que você já tem um projeto GCP que pode usar o Vertex AI. Veja usando os modelos Claude 3 da Anthropic para mais informações sobre a configuração necessária, bem como um passo a passo completo.

Instale um SDK para acessar o Vertex AI

Primeiro, instale o SDK de cliente da Anthropic para a linguagem de sua escolha.

Acessando o Vertex AI

Disponibilidade de Modelos

Observe que a disponibilidade dos modelos Anthropic varia por região. Procure por “Claude” no Vertex AI Model Garden ou acesse Use Claude 3 para as informações mais recentes.

Nomes dos modelos na API

ModeloNome do modelo na API do Vertex AI
Claude 3 Haikuclaude-3-haiku@20240307
Claude 3 Sonnetclaude-3-sonnet@20240229
Claude 3 Opus (Preview Público)claude-3-opus@20240229
Claude 3.5 Sonnetclaude-3-5-sonnet-v2@20241022

Fazendo requisições

Antes de executar as requisições, você pode precisar executar gcloud auth application-default login para autenticar com o GCP.

Os exemplos a seguir mostram como gerar texto do Claude 3 Haiku no Vertex AI:

Veja nossos SDKs de cliente e a documentação oficial do Vertex AI para mais detalhes.