Limites de débit

Nous avons deux types de limites :

1. Les limites de dépenses fixent un coût mensuel maximum qu’une organisation peut encourir pour l’utilisation de l’API.
2. Les limites de débit définissent le nombre maximum de requêtes API qu’une organisation peut effectuer sur une période définie.

Nous appliquons des limites configurées par le service au niveau de l’organisation, mais vous pouvez également définir des limites configurables par l’utilisateur pour les espaces de travail de votre organisation.

​

À propos de nos limites

• Les limites sont conçues pour prévenir les abus de l’API tout en minimisant l’impact sur les modèles d’utilisation courants des clients.
• Les limites sont définies par niveau d’utilisation, chaque niveau étant associé à un ensemble différent de limites de dépenses et de débit.
• Votre organisation augmentera automatiquement de niveau lorsque vous atteindrez certains seuils lors de l’utilisation de l’API.
• Les limites sont définies au niveau de l’organisation. Vous pouvez voir les limites de votre organisation dans la page des limites de la Console Anthropic.
• Vous pouvez atteindre les limites de débit sur des intervalles plus courts. Par exemple, un débit de 60 requêtes par minute (RPM) peut être appliqué comme 1 requête par seconde. Des rafales courtes de requêtes à haut volume peuvent dépasser la limite de débit et entraîner des erreurs de limite de débit.
• Les limites décrites ci-dessous sont nos limites standard. Si vous recherchez des limites personnalisées plus élevées, contactez les ventes via la Console Anthropic.
• Nous utilisons l’algorithme du seau à jetons pour la limitation du débit.
• Toutes les limites décrites ici représentent l’utilisation maximale autorisée, et non des minimums garantis. Ces limites sont conçues pour prévenir la surutilisation et assurer une distribution équitable des ressources entre les utilisateurs.

​

Limites de dépenses

Chaque niveau d’utilisation a une limite sur le montant que vous pouvez dépenser sur l’API chaque mois calendaire. Une fois que vous atteignez la limite de dépenses de votre niveau, jusqu’à ce que vous vous qualifiiez pour le niveau suivant, vous devrez attendre le mois suivant pour pouvoir utiliser à nouveau l’API.

Pour vous qualifier pour le niveau suivant, vous devez satisfaire une exigence de dépôt et une période d’attente obligatoire. Les niveaux supérieurs nécessitent des périodes d’attente plus longues. Notez que pour minimiser le risque de surfinancement de votre compte, vous ne pouvez pas déposer plus que votre limite de dépenses mensuelle.

​

Exigences pour avancer de niveau

​

Limites de débit

Nos limites de débit sont actuellement mesurées en requêtes par minute, jetons par minute et jetons par jour pour chaque classe de modèle. Si vous dépassez l’une des limites de débit, vous obtiendrez une erreur 429. Cliquez sur le niveau de limite de débit pour voir les limites pertinentes.

Les limites de débit sont suivies par modèle, donc les modèles dans le même niveau ne partagent pas une limite de débit.

• Niveau 1
• Niveau 2
• Niveau 3
• Niveau 4
• Personnalisé

​

Définition de limites inférieures pour les espaces de travail

Afin de protéger les espaces de travail de votre organisation contre une surutilisation potentielle, vous pouvez définir des limites de dépenses et de débit personnalisées par espace de travail.

Exemple : Si la limite de votre organisation est de 80 000 jetons par minute, vous pourriez limiter un espace de travail à 30 000 jetons par minute. Cela protège les autres espaces de travail d’une surutilisation potentielle et assure une distribution plus équitable des ressources dans votre organisation. Les 50 000 jetons par minute restants (ou plus, si cet espace de travail n’utilise pas la limite) sont alors disponibles pour les autres espaces de travail.

Note :

• Vous ne pouvez pas définir de limites sur l’espace de travail par défaut.
• Si elles ne sont pas définies, les limites des espaces de travail correspondent à la limite de l’organisation.
• Les limites à l’échelle de l’organisation s’appliquent toujours, même si les limites des espaces de travail s’additionnent pour donner plus.

​

En-têtes de réponse

La réponse de l’API inclut des en-têtes qui vous montrent la limite de débit appliquée, l’utilisation actuelle et quand la limite sera réinitialisée.

Les en-têtes suivants sont renvoyés :

Les en-têtes de limite de débit affichent les valeurs pour la limite la plus restrictive actuellement en vigueur. Par exemple, si vous avez dépassé la limite de jetons par minute mais pas la limite de jetons quotidienne, les en-têtes contiendront les valeurs de limite de débit des jetons par minute. Cette approche garantit que vous avez une visibilité sur la contrainte la plus pertinente de votre utilisation actuelle de l’API.