Vertex AI API

API Vertex для доступа к Claude практически идентичен API сообщений и поддерживает все те же опции, с двумя ключевыми отличиями:

• В Vertex model не передается в теле запроса. Вместо этого он указывается в URL-адресе конечной точки Google Cloud.
• В Vertex anthropic_version передается в теле запроса (а не в заголовке) и должен иметь значение vertex-2023-10-16.

Vertex также поддерживается официальными клиентскими SDK от Anthropic. Это руководство проведет вас через процесс отправки запроса к Claude на Vertex AI на Python или TypeScript.

Обратите внимание, что это руководство предполагает, что у вас уже есть проект GCP, который может использовать Vertex AI. Смотрите использование моделей Claude 3 от Anthropic для получения дополнительной информации о необходимой настройке, а также полное пошаговое руководство.

​

Установите SDK для доступа к Vertex AI

Сначала установите клиентский SDK от Anthropic для выбранного вами языка.

pip install -U google-cloud-aiplatform "anthropic[vertex]"

​

Доступ к Vertex AI

​

Доступность моделей

Обратите внимание, что доступность моделей Anthropic различается в зависимости от региона. Ищите “Claude” в Vertex AI Model Garden или перейдите к Использование Claude 3 для получения последней информации.

​

Имена моделей API

​

Выполнение запросов

Перед выполнением запросов вам может потребоваться выполнить gcloud auth application-default login для аутентификации в GCP.

Следующие примеры показывают, как генерировать текст из Claude 3 Haiku на Vertex AI:

from anthropic import AnthropicVertex

project_id = "MY_PROJECT_ID"
# Где запущена модель. например, us-central1 или europe-west4 для haiku
region = "MY_REGION"

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-3-haiku@20240307",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Привет, Claude!",
        }
    ],
)
print(message)

Смотрите наши клиентские SDK и официальную документацию Vertex AI для получения дополнительных деталей.