Vertex AI API

A API do Vertex para acessar o Claude é quase idêntica à API de Mensagens e suporta todas as mesmas opções, com duas diferenças principais:

• No Vertex, model não é passado no corpo da requisição. Em vez disso, é especificado na URL do endpoint do Google Cloud.
• No Vertex, anthropic_version é passado no corpo da requisição (em vez de como um cabeçalho) e deve ser definido como o valor vertex-2023-10-16.

O Vertex também é suportado pelos SDKs de cliente oficiais da Anthropic. Este guia irá orientá-lo através do processo de fazer uma requisição ao Claude no Vertex AI em Python ou TypeScript.

Observe que este guia assume que você já tem um projeto do GCP que é capaz de usar o Vertex AI. Veja usando os modelos Claude 3 da Anthropic para mais informações sobre a configuração necessária, bem como um tutorial completo.

​

Instale um SDK para acessar o Vertex AI

Primeiro, instale o SDK de cliente da Anthropic para a linguagem de sua escolha.

pip install -U google-cloud-aiplatform "anthropic[vertex]"

​

Acessando o Vertex AI

​

Disponibilidade do Modelo

Observe que a disponibilidade do modelo Anthropic varia por região. Procure por “Claude” no Vertex AI Model Garden ou vá para Use Claude 3 para obter as informações mais recentes.

​

Nomes de modelo da API

​

Fazendo requisições

Antes de executar requisições, você pode precisar executar gcloud auth application-default login para se autenticar no GCP.

Os exemplos a seguir mostram como gerar texto a partir do Claude 3 Haiku no Vertex AI:

from anthropic import AnthropicVertex

project_id = "MEU_ID_DE_PROJETO"
# Onde o modelo está sendo executado. por exemplo, us-central1 ou europe-west4 para haiku
region = "MINHA_REGIAO"

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-3-haiku@20240307",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Olá Claude!",
        }
    ],
)
print(message)

Veja nossos SDKs de cliente e a documentação oficial do Vertex AI para mais detalhes.