Дополнительные токены от использования инструментов поступают из:

  • Параметр tools в запросах API (названия инструментов, описания и схемы)
  • Блоки содержимого tool_use в запросах и ответах API
  • Блоки содержимого tool_result в запросах API

Когда вы используете tools, мы также автоматически включаем специальный системный промпт для модели, который включает использование инструментов. Количество токенов использования инструментов, необходимых для каждой модели, указано ниже (исключая дополнительные токены, перечисленные выше):

МодельВыбор инструментаКоличество токенов системного промпта использования инструментов
Claude 3 Opusauto530 токенов
Claude 3 Opusany, tool281 токен
Claude 3 Sonnetauto159 токенов
Claude 3 Sonnetany, tool235 токенов
Claude 3 Haikuauto264 токена
Claude 3 Haikuany, tool340 токенов
Claude 3 Opus (legacy beta: tools-2024-04-04)auto395 токенов

Эти количества токенов добавляются к вашим обычным входным и выходным токенам для расчета общей стоимости запроса. Обратитесь к нашей таблице обзора моделей для получения информации о текущих ценах для каждой модели.

Когда вы отправляете промпт с использованием инструмента, как и любой другой запрос API, ответ будет выводить количество как входных, так и выходных токенов в рамках отчетных метрик usage.

Имейте в виду, что использование инструментов часто требует нескольких обменов данными между вашим кодом и Claude (для выполнения инструментов и возврата результатов), поэтому один пользовательский запрос может привести к нескольким запросам API и связанным с ними затратам на токены. Разрабатывайте свои инструменты и промпты так, чтобы они были максимально краткими, но при этом предоставляли достаточно информации для эффективного использования инструментов Claude.

Примеры использования инструментовИспользование устаревшего инструмента