Ограничения

У нас есть два типа ограничений:

1. Ограничения расходов устанавливают максимальную месячную стоимость, которую организация может потратить на использование API.
2. Ограничения частоты запросов устанавливают максимальное количество API-запросов, которые организация может сделать за определенный период времени.

Мы применяем настроенные сервисом ограничения на уровне организации, но вы также можете установить настраиваемые пользователем ограничения для рабочих пространств вашей организации.

​

О наших ограничениях

• Ограничения разработаны для предотвращения злоупотребления API при минимальном влиянии на типичные схемы использования клиентами.
• Ограничения определяются уровнем использования, где каждый уровень связан с различным набором ограничений расходов и частоты запросов.
• Ваша организация будет автоматически повышать уровни по мере достижения определенных порогов при использовании API.
• Ограничения устанавливаются на уровне организации. Вы можете увидеть ограничения вашей организации на странице Ограничений в Консоли Anthropic.
• Вы можете достичь ограничений частоты запросов за более короткие интервалы времени. Например, частота 60 запросов в минуту (RPM) может применяться как 1 запрос в секунду. Короткие всплески запросов с высоким объемом могут превысить ограничение частоты и привести к ошибкам ограничения частоты.
• Приведенные ниже ограничения являются нашими стандартными ограничениями. Если вам нужны более высокие, индивидуальные ограничения, свяжитесь с отделом продаж через Консоль Anthropic.
• Мы используем алгоритм токенного ведра для ограничения частоты запросов.
• Все описанные здесь ограничения представляют собой максимально допустимое использование, а не гарантированные минимумы. Эти ограничения предназначены для предотвращения чрезмерного использования и обеспечения справедливого распределения ресурсов между пользователями.

​

Ограничения расходов

Каждый уровень использования имеет ограничение на сумму, которую вы можете потратить на API каждый календарный месяц. Как только вы достигнете ограничения расходов вашего уровня, до тех пор, пока вы не получите право на следующий уровень, вам придется ждать следующего месяца, чтобы снова использовать API.

Чтобы получить право на следующий уровень, вы должны выполнить требование по депозиту и обязательный период ожидания. Более высокие уровни требуют более длительных периодов ожидания. Обратите внимание, чтобы минимизировать риск избыточного пополнения вашего счета, вы не можете внести депозит больше вашего месячного ограничения расходов.

​

Требования для повышения уровня

​

Обновленные ограничения частоты запросов

Наши ограничения частоты запросов измеряются в запросах в минуту, входных токенах в минуту и выходных токенах в минуту для каждого класса моделей. Если вы превысите любое из ограничений частоты, вы получите ошибку 429. Нажмите на уровень ограничения частоты, чтобы просмотреть соответствующие ограничения.

Ограничения частоты отслеживаются для каждой модели. Поэтому модели в пределах одного уровня не имеют общего ограничения частоты.

• Уровень 1
• Уровень 2
• Уровень 3
• Уровень 4
• Индивидуальные

​

Установка более низких ограничений для рабочих пространств

Чтобы защитить рабочие пространства в вашей организации от потенциального чрезмерного использования, вы можете установить пользовательские ограничения расходов и частоты запросов для каждого рабочего пространства.

Пример: Если ограничение вашей организации составляет 48,000 токенов в минуту (40,000 входных токенов и 8,000 выходных токенов), вы можете ограничить одно рабочее пространство до 30,000 общих токенов в минуту. Это защищает другие рабочие пространства от потенциального чрезмерного использования и обеспечивает более справедливое распределение ресурсов в вашей организации. Оставшиеся неиспользованные токены в минуту (или больше, если это рабочее пространство не использует лимит) затем становятся доступными для использования другими рабочими пространствами.

Примечание:

• Вы не можете установить ограничения для рабочего пространства по умолчанию.
• Если не установлено, ограничения рабочего пространства соответствуют ограничению организации.
• Ограничения на уровне организации всегда применяются, даже если ограничения рабочих пространств в сумме превышают их.
• Поддержка ограничений на входные и выходные токены будет добавлена в рабочие пространства в будущем.

​

Заголовки ответов

Ответ API включает заголовки, которые показывают вам применяемое ограничение частоты, текущее использование и когда ограничение будет сброшено.

Возвращаются следующие заголовки:

Заголовки anthropic-ratelimit-tokens-* отображают значения для наиболее ограничительного лимита, действующего в настоящее время. Например, если вы превысили поминутный лимит токенов рабочего пространства, заголовки будут содержать знач

ения поминутного ограничения токенов рабочего пространства. Если ограничения рабочего пространства не применяются, заголовки вернут общее количество оставшихся токенов, где общее количество является суммой входных и выходных токенов. Этот подход гарантирует, что у вас есть видимость наиболее актуального ограничения вашего текущего использования API.

​

Устаревшие ограничения частоты

Наши ограничения частоты ранее измерялись в запросах в минуту, токенах в минуту и токенах в день для каждого класса моделей. Если вы превысите любое из ограничений частоты, вы получите ошибку 429. Нажмите на уровень ограничения частоты, чтобы просмотреть соответствующие ограничения.

Ограничения частоты отслеживаются для каждой модели, поэтому модели в пределах одного уровня не имеют общего ограничения частоты.

• Уровень 1
• Уровень 2
• Уровень 3
• Уровень 4
• Индивидуальные