L’API Vertex per accedere a Claude è quasi identica all’API Messages e supporta tutte le stesse opzioni, con due differenze chiave:

  • In Vertex, model non viene passato nel corpo della richiesta. Invece, viene specificato nell’URL dell’endpoint di Google Cloud.
  • In Vertex, anthropic_version viene passato nel corpo della richiesta (anziché come intestazione) e deve essere impostato sul valore vertex-2023-10-16.

Vertex è supportato anche dalle SDK client ufficiali di Anthropic. Questa guida ti guiderà attraverso il processo di effettuare una richiesta a Claude su Vertex AI in Python o TypeScript.

Nota che questa guida presuppone che tu abbia già un progetto GCP in grado di utilizzare Vertex AI. Consulta utilizzare i modelli Claude 3 di Anthropic per ulteriori informazioni sulla configurazione richiesta, nonché una guida completa.

Installa un SDK per accedere a Vertex AI

Innanzitutto, installa l’SDK client di Anthropic per il linguaggio di tua scelta.

Accesso a Vertex AI

Disponibilità dei modelli

Nota che la disponibilità dei modelli Anthropic varia in base alla regione. Cerca “Claude” nel Vertex AI Model Garden o vai a Usa Claude 3 per le informazioni più recenti.

Nomi dei modelli API

ModelloNome del modello API Vertex AI
Claude 3 Haikuclaude-3-haiku@20240307
Claude 3 Sonnetclaude-3-sonnet@20240229
Claude 3 Opus (Anteprima pubblica)claude-3-opus@20240229
Claude 3.5 Sonnetclaude-3-5-sonnet@20240620

Effettuare richieste

Prima di eseguire le richieste, potrebbe essere necessario eseguire gcloud auth application-default login per autenticarsi con GCP.

I seguenti esempi mostrano come generare testo da Claude 3 Haiku su Vertex AI:

Consulta le nostre SDK client e la documentazione ufficiale di Vertex AI per ulteriori dettagli.