Die Vertex API für den Zugriff auf Claude ist nahezu identisch mit der Messages API und unterstützt alle gleichen Optionen, mit zwei wesentlichen Unterschieden:

  • In Vertex wird model nicht im Request-Body übergeben. Stattdessen wird es in der Google Cloud Endpoint-URL angegeben.
  • In Vertex wird anthropic_version im Request-Body übergeben (anstatt als Header) und muss auf den Wert vertex-2023-10-16 gesetzt werden.

Vertex wird auch von Anthropics offiziellen Client SDKs unterstützt. Diese Anleitung führt Sie durch den Prozess, eine Anfrage an Claude auf Vertex AI entweder in Python oder TypeScript zu stellen.

Beachten Sie, dass diese Anleitung davon ausgeht, dass Sie bereits ein GCP-Projekt haben, das Vertex AI nutzen kann. Weitere Informationen zur erforderlichen Einrichtung sowie eine vollständige Anleitung finden Sie unter Verwendung der Claude 3-Modelle von Anthropic.

Installation eines SDKs für den Zugriff auf Vertex AI

Installieren Sie zunächst Anthropics Client SDK für Ihre bevorzugte Programmiersprache.

pip install -U google-cloud-aiplatform "anthropic[vertex]"

Zugriff auf Vertex AI

Modellverfügbarkeit

Beachten Sie, dass die Verfügbarkeit von Anthropic-Modellen je nach Region variiert. Suchen Sie nach “Claude” im Vertex AI Model Garden oder gehen Sie zu Use Claude 3 für die neuesten Informationen.

API-Modellnamen

ModellVertex AI API-Modellname
Claude Opus 4claude-opus-4@20250514
Claude Sonnet 4claude-sonnet-4@20250514
Claude Sonnet 3.7claude-3-7-sonnet@20250219
Claude Haiku 3.5claude-3-5-haiku@20241022
Claude Sonnet 3.5claude-3-5-sonnet-v2@20241022
Claude Opus 3 (Public Preview)claude-3-opus@20240229
Claude Sonnet 3claude-3-sonnet@20240229
Claude Haiku 3claude-3-haiku@20240307

Anfragen stellen

Bevor Sie Anfragen ausführen, müssen Sie möglicherweise gcloud auth application-default login ausführen, um sich bei GCP zu authentifizieren.

Die folgenden Beispiele zeigen, wie man Text von Claude auf Vertex AI generiert:

from anthropic import AnthropicVertex

project_id = "MY_PROJECT_ID"
# Wo das Modell läuft
region = "us-east5"

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-opus-4@20250514",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Hey Claude!",
        }
    ],
)
print(message)

Weitere Details finden Sie in unseren Client SDKs und der offiziellen Vertex AI-Dokumentation.

Aktivitätsprotokollierung

Vertex bietet einen Request-Response-Protokollierungsdienst, der es Kunden ermöglicht, die mit Ihrer Nutzung verbundenen Prompts und Antworten zu protokollieren.

Anthropic empfiehlt, Ihre Aktivitäten mindestens auf einer 30-tägigen rollierenden Basis zu protokollieren, um Ihre Aktivitäten zu verstehen und möglichen Missbrauch zu untersuchen.

Das Aktivieren dieses Dienstes gibt weder Google noch Anthropic Zugriff auf Ihre Inhalte.