La API de Vertex para acceder a Claude es casi idéntica a la API de Mensajes y admite todas las mismas opciones, con dos diferencias clave:

  • En Vertex, model no se pasa en el cuerpo de la solicitud. En su lugar, se especifica en la URL del punto de conexión de Google Cloud.
  • En Vertex, anthropic_version se pasa en el cuerpo de la solicitud (en lugar de como un encabezado), y debe establecerse con el valor vertex-2023-10-16.

Vertex también es compatible con los SDK de cliente oficiales de Anthropic. Esta guía te llevará a través del proceso de realizar una solicitud a Claude en Vertex AI ya sea en Python o TypeScript.

Ten en cuenta que esta guía asume que ya tienes un proyecto de GCP que puede usar Vertex AI. Consulta usando los modelos Claude 3 de Anthropic para obtener más información sobre la configuración requerida, así como una guía completa.

Instalar un SDK para acceder a Vertex AI

Primero, instala el SDK de cliente de Anthropic para el lenguaje de tu elección.

Accediendo a Vertex AI

Disponibilidad de Modelos

Ten en cuenta que la disponibilidad de modelos de Anthropic varía según la región. Busca “Claude” en el Vertex AI Model Garden o ve a Usar Claude 3 para obtener la información más reciente.

Nombres de modelos en la API

ModeloNombre del modelo en Vertex AI
Claude 3 Haikuclaude-3-haiku@20240307
Claude 3 Sonnetclaude-3-sonnet@20240229
Claude 3 Opus (Vista Previa Pública)claude-3-opus@20240229
Claude 3.5 Haikuclaude-3-5-haiku@20241022
Claude 3.5 Sonnetclaude-3-5-sonnet-v2@20241022

Realizando solicitudes

Antes de ejecutar solicitudes, es posible que necesites ejecutar gcloud auth application-default login para autenticarte con GCP.

Los siguientes ejemplos muestran cómo generar texto desde Claude 3 Haiku en Vertex AI:

Consulta nuestros SDK de cliente y la documentación oficial de Vertex AI para más detalles.