Vertex AI API

API Vertex для доступа к Claude практически идентичен API сообщений и поддерживает все те же опции, с двумя ключевыми отличиями:

• В Vertex параметр model не передается в теле запроса. Вместо этого он указывается в URL-адресе конечной точки Google Cloud.
• В Vertex параметр anthropic_version передается в теле запроса (а не как заголовок) и должен иметь значение vertex-2023-10-16.

Vertex также поддерживается официальными клиентскими SDK от Anthropic. Это руководство проведет вас через процесс отправки запроса к Claude на Vertex AI как на Python, так и на TypeScript.

Обратите внимание, что это руководство предполагает, что у вас уже есть проект GCP, который может использовать Vertex AI. Смотрите использование моделей Claude 3 от Anthropic для получения дополнительной информации о необходимой настройке, а также полного пошагового руководства.

​

Установка SDK для доступа к Vertex AI

Сначала установите клиентский SDK от Anthropic для выбранного вами языка.

​

Доступ к Vertex AI

​

Доступность моделей

Обратите внимание, что доступность моделей Anthropic варьируется по регионам. Выполните поиск “Claude” в Vertex AI Model Garden или перейдите к Use Claude 3 для получения актуальной информации.

​

Названия моделей API

​

Отправка запросов

Перед выполнением запросов вам может потребоваться выполнить gcloud auth application-default login для аутентификации в GCP.

Следующие примеры показывают, как генерировать текст с помощью Claude 3 Haiku на Vertex AI:

Смотрите наши клиентские SDK и официальную документацию Vertex AI для получения дополнительной информации.