Vertex AI API
I modelli Claude di Anthropic sono ora generalmente disponibili tramite Vertex AI.
L’API Vertex per accedere a Claude è quasi identica all’API Messages e supporta tutte le stesse opzioni, con due differenze chiave:
- In Vertex,
model
non viene passato nel corpo della richiesta. Invece, viene specificato nell’URL dell’endpoint di Google Cloud. - In Vertex,
anthropic_version
viene passato nel corpo della richiesta (anziché come intestazione) e deve essere impostato sul valorevertex-2023-10-16
.
Vertex è supportato anche dalle SDK client ufficiali di Anthropic. Questa guida ti guiderà attraverso il processo di effettuare una richiesta a Claude su Vertex AI in Python o TypeScript.
Nota che questa guida presuppone che tu abbia già un progetto GCP in grado di utilizzare Vertex AI. Consulta utilizzare i modelli Claude 3 di Anthropic per ulteriori informazioni sulla configurazione richiesta, nonché una guida completa.
Installa un SDK per accedere a Vertex AI
Innanzitutto, installa l’SDK client di Anthropic per il linguaggio di tua scelta.
Accesso a Vertex AI
Disponibilità dei modelli
Nota che la disponibilità dei modelli Anthropic varia in base alla regione. Cerca “Claude” nel Vertex AI Model Garden o vai a Usa Claude 3 per le informazioni più recenti.
Nomi dei modelli API
Modello | Nome del modello API Vertex AI |
---|---|
Claude 3 Haiku | claude-3-haiku@20240307 |
Claude 3 Sonnet | claude-3-sonnet@20240229 |
Claude 3 Opus (Anteprima pubblica) | claude-3-opus@20240229 |
Claude 3.5 Sonnet | claude-3-5-sonnet@20240620 |
Effettuare richieste
Prima di eseguire le richieste, potrebbe essere necessario eseguire gcloud auth application-default login
per autenticarsi con GCP.
I seguenti esempi mostrano come generare testo da Claude 3 Haiku su Vertex AI:
Consulta le nostre SDK client e la documentazione ufficiale di Vertex AI per ulteriori dettagli.