ClaudeにアクセスするためのVertex APIは、Messages APIとほぼ同じで、同じオプションをすべてサポートしていますが、2つの重要な違いがあります。

  • Vertexでは、modelはリクエストボディに渡されません。代わりに、Google CloudエンドポイントURLで指定されます。
  • Vertexでは、anthropic_versionはリクエストボディに渡され(ヘッダーとしてではなく)、値をvertex-2023-10-16に設定する必要があります。

VertexはAnthropicの公式クライアントSDKでもサポートされています。このガイドでは、PythonまたはTypeScriptのいずれかを使用して、Vertex AI上のClaudeにリクエストを行うプロセスについて説明します。

このガイドでは、Vertex AIを使用できるGCPプロジェクトがすでにあることを前提としています。必要なセットアップの詳細と完全なチュートリアルについては、Anthropicから提供されるClaude 3モデルの使用を参照してください。

Vertex AIにアクセスするためのSDKのインストール

まず、選択した言語用のAnthropicのクライアントSDKをインストールします。

pip install -U google-cloud-aiplatform "anthropic[vertex]"

Vertex AIへのアクセス

モデルの可用性

Anthropicモデルの可用性は地域によって異なることに注意してください。Vertex AI Model Gardenで「Claude」を検索するか、Claude 3の使用にアクセスして、最新の情報を確認してください。

APIモデル名

モデルVertex AI APIモデル名
Claude 3 Haikuclaude-3-haiku@20240307
Claude 3 Sonnetclaude-3-sonnet@20240229
Claude 3 Opus (Public Preview)claude-3-opus@20240229

リクエストの実行

リクエストを実行する前に、gcloud auth application-default loginを実行してGCPで認証する必要がある場合があります。

次の例は、Vertex AI上のClaude 3 Haikuからテキストを生成する方法を示しています。

from anthropic import AnthropicVertex

project_id = "MY_PROJECT_ID"
# モデルが実行されている場所。例: haikuの場合はus-central1またはeurope-west4
region = "MY_REGION"

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-3-haiku@20240307",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Hey Claude!",
        }
    ],
)
print(message)

詳細については、クライアントSDKと公式のVertex AIドキュメントを参照してください。