Vertex AI
Vertex AI API
Anthropic의 Claude 모델이 이제 Vertex AI를 통해 일반적으로 사용 가능합니다.
Claude에 접근하기 위한 Vertex API는 Messages API와 거의 동일하며 두 가지 주요 차이점을 제외하고 모든 동일한 옵션을 지원합니다:
- Vertex에서는
model
이 요청 본문에 전달되지 않습니다. 대신 Google Cloud 엔드포인트 URL에서 지정됩니다. - Vertex에서는
anthropic_version
이 요청 본문에 전달되며(헤더가 아님),vertex-2023-10-16
값으로 설정되어야 합니다.
Vertex는 또한 Anthropic의 공식 클라이언트 SDK에서도 지원됩니다. 이 가이드에서는 Python 또는 TypeScript에서 Vertex AI의 Claude에 요청하는 과정을 안내합니다.
이 가이드는 이미 Vertex AI를 사용할 수 있는 GCP 프로젝트가 있다고 가정합니다. 설정에 대한 자세한 정보와 전체 안내는 Anthropic의 Claude 3 모델 사용하기를 참조하세요.
Vertex AI 접근을 위한 SDK 설치
먼저 선택한 언어에 맞는 Anthropic의 클라이언트 SDK를 설치하세요.
Vertex AI 접근하기
모델 가용성
Anthropic 모델의 가용성은 지역에 따라 다릅니다. Vertex AI Model Garden에서 “Claude”를 검색하거나 최신 정보를 위해 Claude 3 사용하기로 이동하세요.
API 모델 이름
모델 | Vertex AI API 모델 이름 |
---|---|
Claude 3 Haiku | claude-3-haiku@20240307 |
Claude 3 Sonnet | claude-3-sonnet@20240229 |
Claude 3 Opus (공개 프리뷰) | claude-3-opus@20240229 |
Claude 3.5 Sonnet | claude-3-5-sonnet-v2@20241022 |
요청하기
요청을 실행하기 전에 GCP 인증을 위해 gcloud auth application-default login
을 실행해야 할 수 있습니다.
다음 예제는 Vertex AI에서 Claude 3 Haiku를 사용하여 텍스트를 생성하는 방법을 보여줍니다:
자세한 내용은 클라이언트 SDK와 공식 Vertex AI 문서를 참조하세요.