Цены и токены за использование инструментов
Запросы на использование инструментов оцениваются так же, как и любой другой запрос к API Claude, на основе общего количества входных токенов, отправленных в модель (включая параметр tools
), и количества сгенерированных выходных токенов.
Дополнительные токены от использования инструментов поступают из:
- Параметр
tools
в запросах API (названия инструментов, описания и схемы) - Блоки содержимого
tool_use
в запросах и ответах API - Блоки содержимого
tool_result
в запросах API
Когда вы используете tools
, мы также автоматически включаем специальный системный промпт для модели, который включает использование инструментов. Количество токенов использования инструментов, необходимых для каждой модели, указано ниже (исключая дополнительные токены, перечисленные выше):
Модель | Выбор инструмента | Количество токенов системного промпта использования инструментов |
---|---|---|
Claude 3 Opus | auto | 530 токенов |
Claude 3 Opus | any , tool | 281 токен |
Claude 3 Sonnet | auto | 159 токенов |
Claude 3 Sonnet | any , tool | 235 токенов |
Claude 3 Haiku | auto | 264 токена |
Claude 3 Haiku | any , tool | 340 токенов |
Claude 3 Opus (legacy beta: tools-2024-04-04 ) | auto | 395 токенов |
Эти количества токенов добавляются к вашим обычным входным и выходным токенам для расчета общей стоимости запроса. Обратитесь к нашей таблице обзора моделей для получения информации о текущих ценах для каждой модели.
Когда вы отправляете промпт с использованием инструмента, как и любой другой запрос API, ответ будет выводить количество как входных, так и выходных токенов в рамках отчетных метрик usage
.
Имейте в виду, что использование инструментов часто требует нескольких обменов данными между вашим кодом и Claude (для выполнения инструментов и возврата результатов), поэтому один пользовательский запрос может привести к нескольким запросам API и связанным с ними затратам на токены. Разрабатывайте свои инструменты и промпты так, чтобы они были максимально краткими, но при этом предоставляли достаточно информации для эффективного использования инструментов Claude.