速率限制

我们有两种类型的限制：

1. 消费限制设定组织在API使用上每月可产生的最大成本。
2. 速率限制设定组织在指定时间段内可以发出的最大API请求数。

我们在组织层面执行服务配置的限制，但您也可以为组织的工作空间设置用户可配置的限制。

​

关于我们的限制

• 限制旨在防止API滥用，同时最大限度地减少对常见客户使用模式的影响。
• 限制由使用层级定义，每个层级都有不同的消费和速率限制。
• 在使用API时，当您达到某些阈值时，您的组织将自动提升层级。 限制设置在组织层面。您可以在Anthropic控制台的限制页面中查看您组织的限制。
• 您可能在较短的时间间隔内达到速率限制。例如，每分钟60个请求（RPM）的速率可能被强制执行为每秒1个请求。短时间内大量的请求突发可能超过速率限制并导致速率限制错误。
• 以下概述的限制是我们的标准限制。如果您需要更高的自定义限制，请通过Anthropic控制台联系销售团队。
• 我们使用令牌桶算法来进行速率限制。这意味着您的容量会持续补充到最大限制，而不是在固定间隔重置。
• 这里描述的所有限制代表最大允许使用量，而不是保证的最小值。这些限制旨在防止过度使用并确保用户之间资源的公平分配。

​

消费限制

每个使用层级都有每个日历月可以在API上花费的限制。一旦您达到当前层级的消费限制，在符合下一层级资格之前，您需要等到下个月才能再次使用API。

要获得下一层级的资格，您必须满足存款要求和强制等待期。更高层级需要更长的等待期。注意，为了最小化超额注资账户的风险，您不能存入超过每月消费限制的金额。

​

提升层级的要求

使用层级	信用购买	首次购买后等待时间	每月最大使用量
第1层	$5	0天	$100
第2层	$40	7天	$500
第3层	$200	7天	$1,000
第4层	$400	14天	$5,000
月度开票	不适用	不适用	不适用

​

速率限制

我们对消息API的速率限制按每个模型类别以每分钟请求数（RPM）、每分钟输入令牌数（ITPM）和每分钟输出令牌数（OTPM）来衡量。 如果您超过任何速率限制，您将收到一个429错误，说明超过了哪个速率限制，以及一个retry-after标头，指示需要等待多长时间。

ITPM速率限制在每个请求开始时进行估算，并在请求期间根据实际使用的输入令牌数进行调整。 最终调整将input_tokens和cache_creation_input_tokens计入ITPM速率限制，而cache_read_input_tokens则不计入（尽管仍会收费）。 在某些情况下，cache_read_input_tokens会计入ITPM速率限制。

OTPM速率限制在每个请求开始时根据max_tokens进行估算，并在请求结束时根据实际使用的输出令牌数进行调整。 如果您比预期更早达到OTPM限制，请尝试减少max_tokens以更好地近似完成的大小。

速率限制分别应用于每个模型；因此您可以同时使用不同的模型，直到达到它们各自的限制。 您可以在Anthropic控制台中查看您当前的速率限制和行为。

• 第1层
• 第2层
• 第3层
• 第4层
• 自定义

​

消息批处理API

消息批处理API有其自己的速率限制，这些限制在所有模型之间共享。这包括对所有API端点的每分钟请求数（RPM）限制，以及同时在处理队列中的批处理请求数量限制。这里的”批处理请求”指的是消息批处理的一部分。您可以创建包含数千个批处理请求的消息批处理，每个请求都计入此限制。当批处理请求尚未被模型成功处理时，它被视为处理队列的一部分。

• 第1层
• 第2层
• 第3层
• 第4层
• 自定义

​

为工作空间设置较低限制

为了保护组织中的工作空间免受潜在过度使用，您可以为每个工作空间设置自定义消费和速率限制。

示例：如果您组织的限制是每分钟40,000个输入令牌和8,000个输出令牌，您可能会将一个工作空间限制为每分钟30,000个总令牌。这可以保护其他工作空间免受潜在过度使用，并确保组织内资源的更公平分配。剩余未使用的每分钟令牌（或者如果该工作空间没有使用限制，则更多）则可供其他工作空间使用。

注意：

• 您不能对默认工作空间设置限制。
• 如果未设置，工作空间限制与组织的限制相匹配。
• 即使工作空间限制加起来更多，组织范围的限制始终适用。
• 未来将为工作空间添加输入和输出令牌限制的支持。

​

响应标头

API响应包含显示强制执行的速率限制、当前使用情况和限制重置时间的标头。

返回以下标头：

标头	描述
retry-after	在可以重试请求之前需要等待的秒数。更早的重试将失败。
anthropic-ratelimit-requests-limit	在任何速率限制期内允许的最大请求数。
anthropic-ratelimit-requests-remaining	在被速率限制之前剩余的请求数。
anthropic-ratelimit-requests-reset	请求速率限制将完全补充的时间，以RFC 3339格式提供。
anthropic-ratelimit-tokens-limit	在任何速率限制期内允许的最大令牌数。
anthropic-ratelimit-tokens-remaining	在被速率限制之前剩余的令牌数（四舍五入到最接近的千）。
anthropic-ratelimit-tokens-reset	令牌速率限制将完全补充的时间，以RFC 3339格式提供。
anthropic-ratelimit-input-tokens-limit	在任何速率限制期内允许的最大输入令牌数。
anthropic-ratelimit-input-tokens-remaining	在被速率限制之前剩余的输入令牌数（四舍五入到最接近的千）。
anthropic-ratelimit-input-tokens-reset	输入令牌速率限制将完全补充的时间，以RFC 3339格式提供。
anthropic-ratelimit-output-tokens-limit	在任何速率限制期内允许的最大输出令牌数。
anthropic-ratelimit-output-tokens-remaining	在被速率限制之前剩余的输出令牌数（四舍五入到最接近的千）。
anthropic-ratelimit-output-tokens-reset	输出令牌速率限制将完全补充的时间，以RFC 3339格式提供。

anthropic-ratelimit-tokens-*标头显示当前生效的最严格限制的值。例如，如果您已超过工作空间每分钟令牌限制，标头将包含工作空间每分钟令牌速率限制值。如果工作空间限制不适用，标头将返回剩余的总令牌数，其中总数是输入和输出令牌的总和。这种方法确保您能够了解当前API使用的最相关约束。