Los tokens adicionales por el uso de herramientas provienen de:

  • El parámetro tools en las solicitudes de la API (nombres de herramientas, descripciones y esquemas)
  • Bloques de contenido tool_use en las solicitudes y respuestas de la API
  • Bloques de contenido tool_result en las solicitudes de la API

Cuando usas tools, también incluimos automáticamente un prompt especial del sistema para el modelo que habilita el uso de herramientas. El número de tokens de uso de herramientas requeridos para cada modelo se lista a continuación (excluyendo los tokens adicionales mencionados anteriormente):

ModeloElección de herramientaRecuento de tokens del prompt del sistema para uso de herramientas
Claude 3 Opusauto530 tokens
Claude 3 Opusany, tool281 tokens
Claude 3 Sonnetauto159 tokens
Claude 3 Sonnetany, tool235 tokens
Claude 3 Haikuauto264 tokens
Claude 3 Haikuany, tool340 tokens
Claude 3 Opus (beta heredada: tools-2024-04-04)auto395 tokens

Estos recuentos de tokens se suman a tus tokens normales de entrada y salida para calcular el costo total de una solicitud. Consulta nuestra tabla de resumen de modelos para conocer los precios actuales por modelo.

Cuando envías un prompt de uso de herramienta, al igual que con cualquier otra solicitud de la API, la respuesta mostrará los recuentos de tokens de entrada y salida como parte de las métricas de usage reportadas.

Ten en cuenta que el uso de herramientas a menudo requiere múltiples viajes de ida y vuelta entre tu código y Claude (para ejecutar herramientas y devolver resultados), por lo que una sola consulta del usuario final puede resultar en varias solicitudes de la API y costos asociados de tokens. Diseña tus herramientas y prompts para que sean lo más concisos posible mientras proporcionan suficiente información para que Claude use las herramientas de manera efectiva.