Vertex AI API
Anthropics Claude-Modelle sind jetzt über Vertex AI allgemein verfügbar.
Die Vertex API für den Zugriff auf Claude ist nahezu identisch mit der Messages API und unterstützt alle gleichen Optionen, mit zwei wesentlichen Unterschieden:
- In Vertex wird
model
nicht im Request-Body übergeben. Stattdessen wird es in der Google Cloud Endpoint-URL spezifiziert. - In Vertex wird
anthropic_version
im Request-Body übergeben (anstatt als Header) und muss auf den Wertvertex-2023-10-16
gesetzt werden.
Vertex wird auch von Anthropics offiziellen Client SDKs unterstützt. Diese Anleitung führt Sie durch den Prozess, eine Anfrage an Claude auf Vertex AI entweder in Python oder TypeScript zu stellen.
Beachten Sie, dass diese Anleitung davon ausgeht, dass Sie bereits ein GCP-Projekt haben, das Vertex AI nutzen kann. Weitere Informationen zu den erforderlichen Einrichtungsschritten sowie eine vollständige Anleitung finden Sie unter Verwendung der Claude 3 Modelle von Anthropic.
Installation eines SDKs für den Zugriff auf Vertex AI
Installieren Sie zunächst Anthropics Client SDK für Ihre bevorzugte Programmiersprache.
Zugriff auf Vertex AI
Modellverfügbarkeit
Beachten Sie, dass die Verfügbarkeit von Anthropic-Modellen je nach Region variiert. Suchen Sie nach “Claude” im Vertex AI Model Garden oder besuchen Sie Claude 3 verwenden für die aktuellsten Informationen.
API-Modellnamen
Modell | Vertex AI API Modellname |
---|---|
Claude 3 Haiku | claude-3-haiku@20240307 |
Claude 3 Sonnet | claude-3-sonnet@20240229 |
Claude 3 Opus (Public Preview) | claude-3-opus@20240229 |
Claude 3.5 Sonnet | claude-3-5-sonnet-v2@20241022 |
Anfragen stellen
Bevor Sie Anfragen ausführen, müssen Sie möglicherweise gcloud auth application-default login
ausführen, um sich bei GCP zu authentifizieren.
Die folgenden Beispiele zeigen, wie man Text von Claude 3 Haiku auf Vertex AI generiert:
Weitere Details finden Sie in unseren Client SDKs und der offiziellen Vertex AI Dokumentation.