Vertex AI API
Модели Claude от Anthropic теперь общедоступны через Vertex AI.
API Vertex для доступа к Claude практически идентичен API сообщений и поддерживает все те же опции, с двумя ключевыми отличиями:
- В Vertex
model
не передается в теле запроса. Вместо этого он указывается в URL-адресе конечной точки Google Cloud. - В Vertex
anthropic_version
передается в теле запроса (а не в заголовке) и должен иметь значениеvertex-2023-10-16
.
Vertex также поддерживается официальными клиентскими SDK от Anthropic. Это руководство проведет вас через процесс отправки запроса к Claude на Vertex AI на Python или TypeScript.
Обратите внимание, что это руководство предполагает, что у вас уже есть проект GCP, который может использовать Vertex AI. Смотрите использование моделей Claude 3 от Anthropic для получения дополнительной информации о необходимой настройке, а также полное пошаговое руководство.
Установите SDK для доступа к Vertex AI
Сначала установите клиентский SDK от Anthropic для выбранного вами языка.
Доступ к Vertex AI
Доступность моделей
Обратите внимание, что доступность моделей Anthropic различается в зависимости от региона. Ищите “Claude” в Vertex AI Model Garden или перейдите к Использование Claude 3 для получения последней информации.
Имена моделей API
Модель | Имя модели Vertex AI API |
---|---|
Claude 3 Haiku | claude-3-haiku@20240307 |
Claude 3 Sonnet | claude-3-sonnet@20240229 |
Claude 3 Opus (Public Preview) | claude-3-opus@20240229 |
Claude 3.5 Sonnet | claude-3-5-sonnet@20240620 |
Выполнение запросов
Перед выполнением запросов вам может потребоваться выполнить gcloud auth application-default login
для аутентификации в GCP.
Следующие примеры показывают, как генерировать текст из Claude 3 Haiku на Vertex AI:
Смотрите наши клиентские SDK и официальную документацию Vertex AI для получения дополнительных деталей.