Limites de taxa
Para mitigar contra o uso indevido e gerenciar a capacidade em nossa API, implementamos limites sobre quanto uma organização pode usar a API do Claude.
Temos dois tipos de limites:
- Limites de gastos estabelecem um custo mensal máximo que uma organização pode incorrer pelo uso da API.
- Limites de taxa estabelecem o número máximo de solicitações de API que uma organização pode fazer durante um período definido.
Aplicamos limites configurados pelo serviço no nível da organização, mas você também pode definir limites configuráveis pelo usuário para os workspaces de sua organização.
Sobre nossos limites
- Os limites são projetados para prevenir o abuso da API, minimizando o impacto nos padrões comuns de uso do cliente.
- Os limites são definidos por nível de uso, onde cada nível está associado a um conjunto diferente de limites de gastos e taxas.
- Sua organização aumentará de nível automaticamente conforme você atinge certos limites ao usar a API.
- Os limites são definidos no nível da organização. Você pode ver os limites de sua organização na página de Limites no Console Anthropic.
- Você pode atingir limites de taxa em intervalos mais curtos. Por exemplo, uma taxa de 60 solicitações por minuto (RPM) pode ser aplicada como 1 solicitação por segundo. Rajadas curtas de solicitações em alto volume podem ultrapassar o limite de taxa e resultar em erros de limite de taxa.
- Os limites descritos abaixo são nossos limites padrão. Se você estiver buscando limites personalizados mais altos, entre em contato com vendas através do Console Anthropic.
- Usamos o algoritmo token bucket para fazer a limitação de taxa.
- Todos os limites descritos aqui representam o uso máximo permitido, não mínimos garantidos. Esses limites são projetados para prevenir o uso excessivo e garantir uma distribuição justa de recursos entre os usuários.
Limites de gastos
Cada nível de uso tem um limite de quanto você pode gastar na API a cada mês do calendário. Uma vez que você atinja o limite de gastos do seu nível, até se qualificar para o próximo nível, você terá que esperar até o próximo mês para poder usar a API novamente.
Para se qualificar para o próximo nível, você deve atender a um requisito de depósito e um período de espera obrigatório. Níveis mais altos requerem períodos de espera mais longos. Observe que, para minimizar o risco de financiar excessivamente sua conta, você não pode depositar mais do que seu limite mensal de gastos.
Requisitos para avançar de nível
| Nível de Uso | Compra de Crédito | Espera Após Primeira Compra | Uso Máximo por Mês |
|---|---|---|---|
| Nível 1 | $5 | 0 dias | $100 |
| Nível 2 | $40 | 7 dias | $500 |
| Nível 3 | $200 | 7 dias | $1.000 |
| Nível 4 | $400 | 14 dias | $5.000 |
| Faturamento Mensal | N/A | N/A | N/A |
Limites de taxa
Nossos limites de taxa são atualmente medidos em solicitações por minuto, tokens por minuto e tokens por dia para cada classe de modelo. Se você exceder qualquer um dos limites de taxa, receberá um erro 429. Clique no nível de limite de taxa para ver os limites relevantes.
Os limites de taxa são rastreados por modelo, portanto modelos dentro do mesmo nível não compartilham um limite de taxa.
| Modelo | Máximo de Solicitações por minuto (RPM) | Máximo de Tokens por minuto (TPM) | Máximo de Tokens por dia (TPD) |
|---|---|---|---|
| Claude 3.5 Sonnet 2024-10-22 | 50 | 40.000 | 1.000.000 |
| Claude 3.5 Sonnet 2024-06-20 | 50 | 40.000 | 1.000.000 |
| Claude 3 Opus | 50 | 20.000 | 1.000.000 |
| Claude 3 Sonnet | 50 | 40.000 | 1.000.000 |
| Claude 3 Haiku | 50 | 50.000 | 5.000.000 |
Definindo limites mais baixos para Workspaces
Para proteger os Workspaces em sua Organização contra possível uso excessivo, você pode definir limites personalizados de gastos e taxa por Workspace.
Exemplo: Se o limite de sua Organização é de 80.000 tokens por minuto, você pode limitar um Workspace a 30.000 tokens por minuto. Isso protege outros Workspaces contra possível uso excessivo e garante uma distribuição mais equitativa de recursos em sua Organização. Os 50.000 tokens por minuto restantes (ou mais, se aquele Workspace não usar o limite) ficam então disponíveis para outros Workspaces usarem.
Nota:
- Você não pode definir limites no Workspace padrão.
- Se não definidos, os limites do Workspace correspondem ao limite da Organização.
- Os limites em toda a Organização sempre se aplicam, mesmo se os limites do Workspace somarem mais.
Cabeçalhos de resposta
A resposta da API inclui cabeçalhos que mostram o limite de taxa aplicado, uso atual e quando o limite será redefinido.
Os seguintes cabeçalhos são retornados:
| Cabeçalho | Descrição |
|---|---|
anthropic-ratelimit-requests-limit | O número máximo de solicitações permitidas dentro de qualquer período de limite de taxa. |
anthropic-ratelimit-requests-remaining | O número de solicitações restantes antes de ser limitado por taxa. |
anthropic-ratelimit-requests-reset | O momento em que o limite de taxa de solicitações será redefinido, fornecido no formato RFC 3339. |
anthropic-ratelimit-tokens-limit | O número máximo de tokens permitidos dentro de qualquer período de limite de taxa. |
anthropic-ratelimit-tokens-remaining | O número de tokens restantes (arredondado para o milhar mais próximo) antes de ser limitado por taxa. |
anthropic-ratelimit-tokens-reset | O momento em que o limite de taxa de tokens será redefinido, fornecido no formato RFC 3339. |
retry-after | O número de segundos até que você possa tentar a solicitação novamente. |
Os cabeçalhos de limite de taxa exibem os valores para o limite mais restritivo atualmente em vigor. Por exemplo, se você excedeu o limite de tokens por minuto, mas não o limite de tokens diário, os cabeçalhos conterão os valores do limite de taxa de tokens por minuto. Essa abordagem garante que você tenha visibilidade da restrição mais relevante em seu uso atual da API.