L’API Vertex per accedere a Claude è quasi identica all’API Messages e supporta tutte le stesse opzioni, con due differenze chiave:

  • In Vertex, model non viene passato nel corpo della richiesta. Invece, viene specificato nell’URL dell’endpoint di Google Cloud.
  • In Vertex, anthropic_version viene passato nel corpo della richiesta (anziché come header), e deve essere impostato al valore vertex-2023-10-16.

Vertex è supportato anche dagli SDK client ufficiali di Anthropic. Questa guida ti accompagnerà attraverso il processo di invio di una richiesta a Claude su Vertex AI in Python o TypeScript.

Nota che questa guida presuppone che tu abbia già un progetto GCP in grado di utilizzare Vertex AI. Consulta utilizzo dei modelli Claude 3 di Anthropic per ulteriori informazioni sulla configurazione richiesta, nonché una guida completa.

Installa un SDK per accedere a Vertex AI

Innanzitutto, installa l’SDK client di Anthropic per il linguaggio di tua scelta.

Accesso a Vertex AI

Disponibilità dei modelli

Nota che la disponibilità dei modelli Anthropic varia per regione. Cerca “Claude” nel Vertex AI Model Garden o vai su Usa Claude 3 per le informazioni più aggiornate.

Nomi dei modelli API

ModelloNome del modello API Vertex AI
Claude 3 Haikuclaude-3-haiku@20240307
Claude 3 Sonnetclaude-3-sonnet@20240229
Claude 3 Opus (Anteprima pubblica)claude-3-opus@20240229
Claude 3.5 Sonnetclaude-3-5-sonnet@20240620

Invio di richieste

Prima di eseguire le richieste potrebbe essere necessario eseguire gcloud auth application-default login per autenticarsi con GCP.

I seguenti esempi mostrano come generare testo da Claude 3 Haiku su Vertex AI:

Consulta i nostri SDK client e la documentazione ufficiale di Vertex AI per ulteriori dettagli.