A API do Vertex para acessar o Claude é quase idêntica à API de Mensagens e suporta todas as mesmas opções, com duas diferenças principais:

  • No Vertex, model não é passado no corpo da requisição. Em vez disso, é especificado na URL do endpoint do Google Cloud.
  • No Vertex, anthropic_version é passado no corpo da requisição (em vez de como um cabeçalho) e deve ser definido como o valor vertex-2023-10-16.

O Vertex também é suportado pelos SDKs de cliente oficiais da Anthropic. Este guia irá orientá-lo através do processo de fazer uma requisição ao Claude no Vertex AI em Python ou TypeScript.

Note que este guia assume que você já tem um projeto do GCP que é capaz de usar o Vertex AI. Veja usando os modelos Claude 3 da Anthropic para mais informações sobre a configuração necessária, bem como um tutorial completo.

Instale um SDK para acessar o Vertex AI

Primeiro, instale o SDK de cliente da Anthropic para a linguagem de sua escolha.

Acessando o Vertex AI

Disponibilidade do Modelo

Note que a disponibilidade dos modelos da Anthropic varia por região. Procure por “Claude” no Vertex AI Model Garden ou vá para Use Claude 3 para as informações mais recentes.

Nomes de modelo da API

ModeloNome do modelo na API do Vertex AI
Claude 3 Haikuclaude-3-haiku@20240307
Claude 3 Sonnetclaude-3-sonnet@20240229
Claude 3 Opus (Pré-visualização Pública)claude-3-opus@20240229
Claude 3.5 Sonnetclaude-3-5-sonnet@20240620

Fazendo requisições

Antes de executar requisições, você pode precisar executar gcloud auth application-default login para se autenticar no GCP.

Os exemplos a seguir mostram como gerar texto a partir do Claude 3 Haiku no Vertex AI:

Veja nossos SDKs de cliente e a documentação oficial do Vertex AI para mais detalhes.