API de Vertex AI
Los modelos Claude de Anthropic ahora están generalmente disponibles a través de Vertex AI.
La API de Vertex para acceder a Claude es casi idéntica a la API de Mensajes y admite todas las mismas opciones, con dos diferencias clave:
- En Vertex,
model
no se pasa en el cuerpo de la solicitud. En su lugar, se especifica en la URL del punto final de Google Cloud. - En Vertex,
anthropic_version
se pasa en el cuerpo de la solicitud (en lugar de como un encabezado), y debe establecerse con el valorvertex-2023-10-16
.
Vertex también es compatible con los SDK de cliente oficiales de Anthropic. Esta guía te llevará a través del proceso de realizar una solicitud a Claude en Vertex AI ya sea en Python o TypeScript.
Ten en cuenta que esta guía asume que ya tienes un proyecto de GCP que puede usar Vertex AI. Consulta usando los modelos Claude 3 de Anthropic para obtener más información sobre la configuración requerida, así como una guía completa.
Instalar un SDK para acceder a Vertex AI
Primero, instala el SDK de cliente de Anthropic para el lenguaje de tu elección.
Accediendo a Vertex AI
Disponibilidad de Modelos
Ten en cuenta que la disponibilidad de modelos de Anthropic varía según la región. Busca “Claude” en el Vertex AI Model Garden o ve a Usar Claude 3 para obtener la información más reciente.
Nombres de modelos de API
Modelo | Nombre del modelo en Vertex AI |
---|---|
Claude 3 Haiku | claude-3-haiku@20240307 |
Claude 3 Sonnet | claude-3-sonnet@20240229 |
Claude 3 Opus (Vista Previa Pública) | claude-3-opus@20240229 |
Claude 3.5 Sonnet | claude-3-5-sonnet-v2@20241022 |
Realizando solicitudes
Antes de ejecutar solicitudes, es posible que necesites ejecutar gcloud auth application-default login
para autenticarte con GCP.
Los siguientes ejemplos muestran cómo generar texto desde Claude 3 Haiku en Vertex AI:
Consulta nuestros SDK de cliente y la documentación oficial de Vertex AI para más detalles.