Precios y tokens por el uso de herramientas
Las solicitudes de uso de herramientas tienen el mismo precio que cualquier otra solicitud de la API de Claude, basado en el número total de tokens de entrada enviados al modelo (incluyendo en el parámetro tools
) y el número de tokens de salida generados.
Los tokens adicionales por el uso de herramientas provienen de:
- El parámetro
tools
en las solicitudes de la API (nombres de herramientas, descripciones y esquemas) - Bloques de contenido
tool_use
en las solicitudes y respuestas de la API - Bloques de contenido
tool_result
en las solicitudes de la API
Cuando usas tools
, también incluimos automáticamente un prompt especial del sistema para el modelo que habilita el uso de herramientas. El número de tokens de uso de herramientas requeridos para cada modelo se lista a continuación (excluyendo los tokens adicionales mencionados anteriormente):
Modelo | Elección de herramienta | Recuento de tokens del prompt del sistema para uso de herramientas |
---|---|---|
Claude 3 Opus | auto | 530 tokens |
Claude 3 Opus | any , tool | 281 tokens |
Claude 3 Sonnet | auto | 159 tokens |
Claude 3 Sonnet | any , tool | 235 tokens |
Claude 3 Haiku | auto | 264 tokens |
Claude 3 Haiku | any , tool | 340 tokens |
Claude 3 Opus (beta heredada: tools-2024-04-04 ) | auto | 395 tokens |
Estos recuentos de tokens se suman a tus tokens normales de entrada y salida para calcular el costo total de una solicitud. Consulta nuestra tabla de resumen de modelos para conocer los precios actuales por modelo.
Cuando envías un prompt de uso de herramienta, al igual que con cualquier otra solicitud de la API, la respuesta mostrará los recuentos de tokens de entrada y salida como parte de las métricas de usage
reportadas.
Ten en cuenta que el uso de herramientas a menudo requiere múltiples viajes de ida y vuelta entre tu código y Claude (para ejecutar herramientas y devolver resultados), por lo que una sola consulta del usuario final puede resultar en varias solicitudes de la API y costos asociados de tokens. Diseña tus herramientas y prompts para que sean lo más concisos posible mientras proporcionan suficiente información para que Claude use las herramientas de manera efectiva.