API do Vertex AI
Os modelos Claude da Anthropic agora estão geralmente disponíveis através do Vertex AI.
A API do Vertex para acessar o Claude é praticamente idêntica à API de Mensagens e suporta todas as mesmas opções, com duas diferenças principais:
- No Vertex,
model
não é passado no corpo da requisição. Em vez disso, é especificado na URL do endpoint do Google Cloud. - No Vertex,
anthropic_version
é passado no corpo da requisição (em vez de como um cabeçalho), e deve ser definido com o valorvertex-2023-10-16
.
O Vertex também é suportado pelos SDKs de cliente oficiais da Anthropic. Este guia irá orientá-lo através do processo de fazer uma requisição ao Claude no Vertex AI em Python ou TypeScript.
Observe que este guia assume que você já tem um projeto GCP que pode usar o Vertex AI. Veja usando os modelos Claude 3 da Anthropic para mais informações sobre a configuração necessária, bem como um passo a passo completo.
Instale um SDK para acessar o Vertex AI
Primeiro, instale o SDK de cliente da Anthropic para a linguagem de sua escolha.
Acessando o Vertex AI
Disponibilidade de Modelos
Observe que a disponibilidade dos modelos Anthropic varia por região. Procure por “Claude” no Vertex AI Model Garden ou acesse Use Claude 3 para as informações mais recentes.
Nomes dos modelos na API
Modelo | Nome do modelo na API do Vertex AI |
---|---|
Claude 3 Haiku | claude-3-haiku@20240307 |
Claude 3 Sonnet | claude-3-sonnet@20240229 |
Claude 3 Opus (Preview Público) | claude-3-opus@20240229 |
Claude 3.5 Sonnet | claude-3-5-sonnet-v2@20241022 |
Fazendo requisições
Antes de executar as requisições, você pode precisar executar gcloud auth application-default login
para autenticar com o GCP.
Os exemplos a seguir mostram como gerar texto do Claude 3 Haiku no Vertex AI:
Veja nossos SDKs de cliente e a documentação oficial do Vertex AI para mais detalhes.