Подсчет токенов
Подсчет токенов позволяет определить количество токенов в сообщении перед его отправкой в Claude, помогая принимать обоснованные решения о ваших запросах и использовании. С помощью подсчета токенов вы можете:
- Проактивно управлять ограничениями и затратами
- Принимать разумные решения по выбору модели
- Оптимизировать запросы до определенной длины
Как подсчитать токены сообщения
Конечная точка подсчета токенов принимает тот же структурированный список входных данных для создания сообщения, включая поддержку системных промптов, инструментов, изображений и PDF. Ответ содержит общее количество входных токенов.
Количество токенов следует рассматривать как оценку. В некоторых случаях фактическое количество входных токенов, используемых при создании сообщения, может незначительно отличаться.
Поддерживаемые модели
Конечная точка подсчета токенов поддерживает следующие модели:
- Claude 3.7 Sonnet
- Claude 3.5 Sonnet
- Claude 3.5 Haiku
- Claude 3 Haiku
- Claude 3 Opus
Подсчет токенов в базовых сообщениях
Подсчет токенов в сообщениях с инструментами
Подсчет токенов в сообщениях с изображениями
Подсчет токенов в сообщениях с расширенным мышлением
Смотрите здесь подробнее о том, как рассчитывается контекстное окно с расширенным мышлением
- Блоки мышления из предыдущих ответов ассистента игнорируются и не учитываются в ваших входных токенах
- Текущее мышление ассистента учитывается в ваших входных токенах
Подсчет токенов в сообщениях с PDF
Подсчет токенов поддерживает PDF с теми же ограничениями, что и API сообщений.
Цены и ограничения
Подсчет токенов бесплатен для использования, но подчиняется ограничениям на количество запросов в минуту в зависимости от вашего уровня использования. Если вам нужны более высокие лимиты, свяжитесь с отделом продаж через Консоль Anthropic.
Уровень использования | Запросов в минуту (RPM) |
---|---|
1 | 100 |
2 | 2,000 |
3 | 4,000 |
4 | 8,000 |
Подсчет токенов и создание сообщений имеют отдельные и независимые ограничения — использование одного не учитывается в ограничениях другого.
Часто задаваемые вопросы
Was this page helpful?