Vertex AI API
Os modelos Claude da Anthropic agora estão disponíveis através do Vertex AI.
A API do Vertex para acessar o Claude é quase idêntica à API de Mensagens e suporta todas as mesmas opções, com duas diferenças principais:
- No Vertex,
model
não é passado no corpo da requisição. Em vez disso, é especificado na URL do endpoint do Google Cloud. - No Vertex,
anthropic_version
é passado no corpo da requisição (em vez de como um cabeçalho) e deve ser definido como o valorvertex-2023-10-16
.
O Vertex também é suportado pelos SDKs de cliente oficiais da Anthropic. Este guia irá orientá-lo através do processo de fazer uma requisição ao Claude no Vertex AI em Python ou TypeScript.
Note que este guia assume que você já tem um projeto do GCP que é capaz de usar o Vertex AI. Veja usando os modelos Claude 3 da Anthropic para mais informações sobre a configuração necessária, bem como um tutorial completo.
Instale um SDK para acessar o Vertex AI
Primeiro, instale o SDK de cliente da Anthropic para a linguagem de sua escolha.
Acessando o Vertex AI
Disponibilidade do Modelo
Note que a disponibilidade dos modelos da Anthropic varia por região. Procure por “Claude” no Vertex AI Model Garden ou vá para Use Claude 3 para as informações mais recentes.
Nomes de modelo da API
Modelo | Nome do modelo na API do Vertex AI |
---|---|
Claude 3 Haiku | claude-3-haiku@20240307 |
Claude 3 Sonnet | claude-3-sonnet@20240229 |
Claude 3 Opus (Pré-visualização Pública) | claude-3-opus@20240229 |
Claude 3.5 Sonnet | claude-3-5-sonnet@20240620 |
Fazendo requisições
Antes de executar requisições, você pode precisar executar gcloud auth application-default login
para se autenticar no GCP.
Os exemplos a seguir mostram como gerar texto a partir do Claude 3 Haiku no Vertex AI:
Veja nossos SDKs de cliente e a documentação oficial do Vertex AI para mais detalhes.