API Vertex для доступа к Claude практически идентичен API сообщений и поддерживает все те же опции, с двумя ключевыми отличиями:

  • В Vertex model не передается в теле запроса. Вместо этого он указывается в URL-адресе конечной точки Google Cloud.
  • В Vertex anthropic_version передается в теле запроса (а не в заголовке) и должен иметь значение vertex-2023-10-16.

Vertex также поддерживается официальными клиентскими SDK от Anthropic. Это руководство проведет вас через процесс отправки запроса к Claude на Vertex AI на Python или TypeScript.

Обратите внимание, что это руководство предполагает, что у вас уже есть проект GCP, который может использовать Vertex AI. Смотрите использование моделей Claude 3 от Anthropic для получения дополнительной информации о необходимой настройке, а также полное пошаговое руководство.

Установите SDK для доступа к Vertex AI

Сначала установите клиентский SDK от Anthropic для выбранного вами языка.

Доступ к Vertex AI

Доступность моделей

Обратите внимание, что доступность моделей Anthropic различается в зависимости от региона. Ищите “Claude” в Vertex AI Model Garden или перейдите к Использование Claude 3 для получения последней информации.

Имена моделей API

МодельИмя модели Vertex AI API
Claude 3 Haikuclaude-3-haiku@20240307
Claude 3 Sonnetclaude-3-sonnet@20240229
Claude 3 Opus (Public Preview)claude-3-opus@20240229
Claude 3.5 Sonnetclaude-3-5-sonnet@20240620

Выполнение запросов

Перед выполнением запросов вам может потребоваться выполнить gcloud auth application-default login для аутентификации в GCP.

Следующие примеры показывают, как генерировать текст из Claude 3 Haiku на Vertex AI:

Смотрите наши клиентские SDK и официальную документацию Vertex AI для получения дополнительных деталей.