Vertex AI API

L’API Vertex per accedere a Claude è quasi identica all’API Messages e supporta tutte le stesse opzioni, con due differenze chiave:

• In Vertex, model non viene passato nel corpo della richiesta. Invece, viene specificato nell’URL dell’endpoint di Google Cloud.
• In Vertex, anthropic_version viene passato nel corpo della richiesta (anziché come intestazione) e deve essere impostato sul valore vertex-2023-10-16.

Vertex è supportato anche dalle SDK client ufficiali di Anthropic. Questa guida ti guiderà attraverso il processo di effettuare una richiesta a Claude su Vertex AI in Python o TypeScript.

Nota che questa guida presuppone che tu abbia già un progetto GCP in grado di utilizzare Vertex AI. Consulta utilizzare i modelli Claude 3 di Anthropic per ulteriori informazioni sulla configurazione richiesta, nonché una guida completa.

​

Installa un SDK per accedere a Vertex AI

Innanzitutto, installa l’SDK client di Anthropic per il linguaggio di tua scelta.

pip install -U google-cloud-aiplatform "anthropic[vertex]"

​

Accesso a Vertex AI

​

Disponibilità dei modelli

Nota che la disponibilità dei modelli Anthropic varia in base alla regione. Cerca “Claude” nel Vertex AI Model Garden o vai a Usa Claude 3 per le informazioni più recenti.

​

Nomi dei modelli API

​

Effettuare richieste

Prima di eseguire le richieste, potrebbe essere necessario eseguire gcloud auth application-default login per autenticarsi con GCP.

I seguenti esempi mostrano come generare testo da Claude 3 Haiku su Vertex AI:

from anthropic import AnthropicVertex

project_id = "MY_PROJECT_ID"
# Dove il modello è in esecuzione. ad esempio us-central1 o europe-west4 per haiku
region = "MY_REGION"

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-3-haiku@20240307",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Ciao Claude!",
        }
    ],
)
print(message)

Consulta le nostre SDK client e la documentazione ufficiale di Vertex AI per ulteriori dettagli.