Подсчет токенов
Подсчет токенов позволяет определить количество токенов в сообщении перед его отправкой в Claude, помогая принимать обоснованные решения о ваших запросах и использовании. С помощью подсчета токенов вы можете:
- Проактивно управлять лимитами и затратами
- Принимать разумные решения по выбору модели
- Оптимизировать запросы до определенной длины
Как подсчитать токены в сообщении
Эндпоинт подсчета токенов принимает такой же структурированный список входных данных, как и при создании сообщения, включая поддержку системных промптов, инструментов, изображений и PDF. Ответ содержит общее количество входных токенов.
Количество токенов следует рассматривать как оценку. В некоторых случаях фактическое количество входных токенов, используемых при создании сообщения, может незначительно отличаться.
Поддерживаемые модели
Эндпоинт подсчета токенов поддерживает следующие модели:
- Claude 3.7 Sonnet
- Claude 3.5 Sonnet
- Claude 3.5 Haiku
- Claude 3 Haiku
- Claude 3 Opus
Подсчет токенов в базовых сообщениях
Подсчет токенов в сообщениях с инструментами
Подсчет токенов в сообщениях с изображениями
Подсчет токенов в сообщениях с расширенным мышлением
Подробнее о том, как рассчитывается контекстное окно с расширенным мышлением, смотрите здесь
- Блоки мышления из предыдущих ответов ассистента игнорируются и не учитываются в количестве входных токенов
- Мышление в текущем ответе ассистента учитывается в количестве входных токенов
Подсчет токенов в сообщениях с PDF
Подсчет токенов поддерживает PDF с теми же ограничениями, что и API сообщений.
Цены и ограничения
Подсчет токенов бесплатен, но подчиняется ограничениям на количество запросов в минуту в зависимости от вашего уровня использования. Если вам нужны более высокие лимиты, свяжитесь с отделом продаж через Консоль Anthropic.
| Уровень использования | Запросов в минуту (RPM) |
|---|---|
| 1 | 100 |
| 2 | 2,000 |
| 3 | 4,000 |
| 4 | 8,000 |
Подсчет токенов и создание сообщений имеют отдельные и независимые ограничения - использование одного не учитывается в лимитах другого.
Часто задаваемые вопросы
Was this page helpful?