Limiti di velocità
Per mitigare l’uso improprio e gestire la capacità sulla nostra API, abbiamo implementato limiti su quanto un’organizzazione può utilizzare l’API Claude.
Abbiamo due tipi di limiti:
- Limiti di spesa stabiliscono un costo mensile massimo che un’organizzazione può sostenere per l’utilizzo dell’API.
- Limiti di velocità stabiliscono il numero massimo di richieste API che un’organizzazione può effettuare in un periodo di tempo definito.
Applichiamo limiti configurati dal servizio a livello di organizzazione, ma puoi anche impostare limiti configurabili dall’utente per gli spazi di lavoro della tua organizzazione.
Questi limiti si applicano sia all’utilizzo del Livello Standard che del Livello Prioritario. Per maggiori informazioni sul Livello Prioritario, che offre livelli di servizio migliorati in cambio di spesa impegnata, vedi Livelli di Servizio.
Informazioni sui nostri limiti
- I limiti sono progettati per prevenire l’abuso dell’API, minimizzando l’impatto sui modelli di utilizzo comuni dei clienti.
- I limiti sono definiti per livello di utilizzo, dove ogni livello è associato a un diverso set di limiti di spesa e velocità.
- La tua organizzazione aumenterà automaticamente di livello quando raggiungi certe soglie mentre utilizzi l’API. I limiti sono impostati a livello di organizzazione. Puoi vedere i limiti della tua organizzazione nella pagina Limiti nella Console Anthropic.
- Potresti raggiungere i limiti di velocità in intervalli di tempo più brevi. Ad esempio, una velocità di 60 richieste al minuto (RPM) può essere applicata come 1 richiesta al secondo. Brevi raffiche di richieste ad alto volume possono superare il limite di velocità e risultare in errori di limite di velocità.
- I limiti delineati di seguito sono i nostri limiti di livello standard. Se stai cercando limiti più alti e personalizzati o il Livello Prioritario per livelli di servizio migliorati, contatta le vendite attraverso la Console Anthropic.
- Utilizziamo l’algoritmo token bucket per fare la limitazione della velocità. Questo significa che la tua capacità viene continuamente riempita fino al tuo limite massimo, piuttosto che essere reimpostata a intervalli fissi.
- Tutti i limiti descritti qui rappresentano l’utilizzo massimo consentito, non minimi garantiti. Questi limiti sono intesi per ridurre la spesa eccessiva involontaria e garantire una distribuzione equa delle risorse tra gli utenti.
Limiti di spesa
Ogni livello di utilizzo ha un limite su quanto puoi spendere sull’API ogni mese di calendario. Una volta raggiunto il limite di spesa del tuo livello, fino a quando non ti qualifichi per il livello successivo, dovrai aspettare fino al mese successivo per poter utilizzare nuovamente l’API.
Per qualificarti per il livello successivo, devi soddisfare un requisito di deposito. Per minimizzare il rischio di sovrafinanziare il tuo account, non puoi depositare più del tuo limite di spesa mensile.
Requisiti per avanzare di livello
| Livello di Utilizzo | Acquisto Crediti | Utilizzo Massimo per Mese |
|---|---|---|
| Livello 1 | $5 | $100 |
| Livello 2 | $40 | $500 |
| Livello 3 | $200 | $1,000 |
| Livello 4 | $400 | $5,000 |
| Fatturazione Mensile | N/A | N/A |
Limiti di velocità
I nostri limiti di velocità per l’API Messages sono misurati in richieste al minuto (RPM), token di input al minuto (ITPM) e token di output al minuto (OTPM) per ogni classe di modello.
Se superi qualsiasi limite di velocità riceverai un errore 429 che descrive quale limite di velocità è stato superato, insieme a un header retry-after che indica quanto tempo aspettare.
I limiti di velocità ITPM sono stimati all’inizio di ogni richiesta, e la stima viene aggiustata durante la richiesta per riflettere il numero effettivo di token di input utilizzati.
L’aggiustamento finale conta input_tokens e cache_creation_input_tokens verso i limiti di velocità ITPM, mentre cache_read_input_tokens non lo sono (anche se vengono comunque fatturati).
In alcune istanze, cache_read_input_tokens sono contati verso i limiti di velocità ITPM.
I limiti di velocità OTPM sono stimati basandosi su max_tokens all’inizio di ogni richiesta, e la stima viene aggiustata alla fine della richiesta per riflettere il numero effettivo di token di output utilizzati.
Se stai raggiungendo i limiti OTPM prima del previsto, prova a ridurre max_tokens per approssimare meglio la dimensione dei tuoi completamenti.
I limiti di velocità sono applicati separatamente per ogni modello; pertanto puoi utilizzare modelli diversi fino ai loro rispettivi limiti simultaneamente. Puoi controllare i tuoi limiti di velocità attuali e il comportamento nella Console Anthropic.
Per richieste di contesto lungo (>200K token) quando si utilizza l’header beta context-1m-2025-08-07 con Claude Sonnet 4, si applicano limiti di velocità separati. Vedi Limiti di velocità per contesto lungo di seguito.
| Modello | Richieste massime al minuto (RPM) | Token di input massimi al minuto (ITPM) | Token di output massimi al minuto (OTPM) |
|---|---|---|---|
| Claude Opus 4.x* | 50 | 30,000 | 8,000 |
| Claude Sonnet 4 | 50 | 30,000 | 8,000 |
| Claude Sonnet 3.7 | 50 | 20,000 | 8,000 |
| Claude Sonnet 3.5 2024-10-22 | 50 | 40,000† | 8,000 |
| Claude Sonnet 3.5 2024-06-20 | 50 | 40,000† | 8,000 |
| Claude Haiku 3.5 | 50 | 50,000† | 10,000 |
| Claude Opus 3 | 50 | 20,000† | 4,000 |
| Claude Sonnet 3 | 50 | 40,000† | 8,000 |
| Claude Haiku 3 | 50 | 50,000† | 10,000 |
| Modello | Richieste massime al minuto (RPM) | Token di input massimi al minuto (ITPM) | Token di output massimi al minuto (OTPM) |
|---|---|---|---|
| Claude Opus 4.x* | 50 | 30,000 | 8,000 |
| Claude Sonnet 4 | 50 | 30,000 | 8,000 |
| Claude Sonnet 3.7 | 50 | 20,000 | 8,000 |
| Claude Sonnet 3.5 2024-10-22 | 50 | 40,000† | 8,000 |
| Claude Sonnet 3.5 2024-06-20 | 50 | 40,000† | 8,000 |
| Claude Haiku 3.5 | 50 | 50,000† | 10,000 |
| Claude Opus 3 | 50 | 20,000† | 4,000 |
| Claude Sonnet 3 | 50 | 40,000† | 8,000 |
| Claude Haiku 3 | 50 | 50,000† | 10,000 |
| Modello | Richieste massime al minuto (RPM) | Token di input massimi al minuto (ITPM) | Token di output massimi al minuto (OTPM) |
|---|---|---|---|
| Claude Opus 4.x* | 1,000 | 450,000 | 90,000 |
| Claude Sonnet 4 | 1,000 | 450,000 | 90,000 |
| Claude Sonnet 3.7 | 1,000 | 40,000 | 16,000 |
| Claude Sonnet 3.5 2024-10-22 | 1,000 | 80,000† | 16,000 |
| Claude Sonnet 3.5 2024-06-20 | 1,000 | 80,000† | 16,000 |
| Claude Haiku 3.5 | 1,000 | 100,000† | 20,000 |
| Claude Opus 3 | 1,000 | 40,000† | 8,000 |
| Claude Sonnet 3 | 1,000 | 80,000† | 16,000 |
| Claude Haiku 3 | 1,000 | 100,000† | 20,000 |
| Modello | Richieste massime al minuto (RPM) | Token di input massimi al minuto (ITPM) | Token di output massimi al minuto (OTPM) |
|---|---|---|---|
| Claude Opus 4.x* | 2,000 | 800,000 | 160,000 |
| Claude Sonnet 4 | 2,000 | 800,000 | 160,000 |
| Claude Sonnet 3.7 | 2,000 | 80,000 | 32,000 |
| Claude Sonnet 3.5 2024-10-22 | 2,000 | 160,000† | 32,000 |
| Claude Sonnet 3.5 2024-06-20 | 2,000 | 160,000† | 32,000 |
| Claude Haiku 3.5 | 2,000 | 200,000† | 40,000 |
| Claude Opus 3 | 2,000 | 80,000† | 16,000 |
| Claude Sonnet 3 | 2,000 | 160,000† | 32,000 |
| Claude Haiku 3 | 2,000 | 200,000† | 40,000 |
| Modello | Richieste massime al minuto (RPM) | Token di input massimi al minuto (ITPM) | Token di output massimi al minuto (OTPM) |
|---|---|---|---|
| Claude Opus 4.x* | 4,000 | 2,000,000 | 400,000 |
| Claude Sonnet 4 | 4,000 | 2,000,000 | 400,000 |
| Claude Sonnet 3.7 | 4,000 | 200,000 | 80,000 |
| Claude Sonnet 3.5 2024-10-22 | 4,000 | 400,000† | 80,000 |
| Claude Sonnet 3.5 2024-06-20 | 4,000 | 400,000† | 80,000 |
| Claude Haiku 3.5 | 4,000 | 400,000† | 80,000 |
| Claude Opus 3 | 4,000 | 400,000† | 80,000 |
| Claude Sonnet 3 | 4,000 | 400,000† | 80,000 |
| Claude Haiku 3 | 4,000 | 400,000† | 80,000 |
Se stai cercando limiti più alti per un caso d’uso Enterprise, contatta le vendite attraverso la Console Anthropic.
* - Il limite di velocità di Opus 4.x è un limite totale che si applica al traffico combinato attraverso sia Opus 4.0 che Opus 4.1.
† - Il limite conta cache_read_input_tokens verso l’utilizzo ITPM.
API Message Batches
L’API Message Batches ha il proprio set di limiti di velocità che sono condivisi tra tutti i modelli. Questi includono un limite di richieste al minuto (RPM) a tutti gli endpoint API e un limite sul numero di richieste batch che possono essere nella coda di elaborazione allo stesso tempo. Una “richiesta batch” qui si riferisce a parte di un Message Batch. Puoi creare un Message Batch contenente migliaia di richieste batch, ognuna delle quali conta verso questo limite. Una richiesta batch è considerata parte della coda di elaborazione quando deve ancora essere elaborata con successo dal modello.
| Richieste massime al minuto (RPM) | Richieste batch massime nella coda di elaborazione | Richieste batch massime per batch |
|---|---|---|
| 50 | 100,000 | 100,000 |
| Richieste massime al minuto (RPM) | Richieste batch massime nella coda di elaborazione | Richieste batch massime per batch |
|---|---|---|
| 50 | 100,000 | 100,000 |
| Richieste massime al minuto (RPM) | Richieste batch massime nella coda di elaborazione | Richieste batch massime per batch |
|---|---|---|
| 1,000 | 200,000 | 100,000 |
| Richieste massime al minuto (RPM) | Richieste batch massime nella coda di elaborazione | Richieste batch massime per batch |
|---|---|---|
| 2,000 | 300,000 | 100,000 |
| Richieste massime al minuto (RPM) | Richieste batch massime nella coda di elaborazione | Richieste batch massime per batch |
|---|---|---|
| 4,000 | 500,000 | 100,000 |
Se stai cercando limiti più alti per un caso d’uso Enterprise, contatta le vendite attraverso la Console Anthropic.
Limiti di velocità per contesto lungo
Quando si utilizza Claude Sonnet 4 con la finestra di contesto da 1M token abilitata, i seguenti limiti di velocità dedicati si applicano alle richieste che superano i 200K token.
La finestra di contesto da 1M token è attualmente in beta per le organizzazioni nel livello di utilizzo 4 e le organizzazioni con limiti di velocità personalizzati. La finestra di contesto da 1M token è disponibile solo per Claude Sonnet 4.
| Token di input massimi al minuto (ITPM) | Token di output massimi al minuto (OTPM) |
|---|---|
| 500,000 | 100,000 |
| Token di input massimi al minuto (ITPM) | Token di output massimi al minuto (OTPM) |
|---|---|
| 500,000 | 100,000 |
Per limiti di velocità per contesto lungo personalizzati per casi d’uso enterprise, contatta le vendite attraverso la Console Anthropic.
Per accedere alla finestra di contesto completa da 1M token con un limite di velocità ITPM di 500K, puoi utilizzare il caching dei prompt.
Impostazione di limiti più bassi per gli Spazi di Lavoro
Per proteggere gli Spazi di Lavoro nella tua Organizzazione da potenziale uso eccessivo, puoi impostare limiti di spesa e velocità personalizzati per Spazio di Lavoro.
Esempio: Se il limite della tua Organizzazione è 40,000 token di input al minuto e 8,000 token di output al minuto, potresti limitare uno Spazio di Lavoro a 30,000 token totali al minuto. Questo protegge altri Spazi di Lavoro da potenziale uso eccessivo e garantisce una distribuzione più equa delle risorse attraverso la tua Organizzazione. I token rimanenti non utilizzati al minuto (o di più, se quello Spazio di Lavoro non usa il limite) sono quindi disponibili per altri Spazi di Lavoro da utilizzare.
Nota:
- Non puoi impostare limiti sullo Spazio di Lavoro predefinito.
- Se non impostati, i limiti dello Spazio di Lavoro corrispondono al limite dell’Organizzazione.
- I limiti a livello di Organizzazione si applicano sempre, anche se i limiti degli Spazi di Lavoro sommati superano.
- Il supporto per i limiti di token di input e output sarà aggiunto agli Spazi di Lavoro in futuro.
Header di risposta
La risposta API include header che ti mostrano il limite di velocità applicato, l’utilizzo attuale e quando il limite sarà reimpostato.
Vengono restituiti i seguenti header:
| Header | Descrizione |
|---|---|
retry-after | Il numero di secondi da aspettare prima di poter riprovare la richiesta. Tentativi precedenti falliranno. |
anthropic-ratelimit-requests-limit | Il numero massimo di richieste consentite entro qualsiasi periodo di limite di velocità. |
anthropic-ratelimit-requests-remaining | Il numero di richieste rimanenti prima di essere limitato dalla velocità. |
anthropic-ratelimit-requests-reset | Il momento in cui il limite di velocità delle richieste sarà completamente riempito, fornito in formato RFC 3339. |
anthropic-ratelimit-tokens-limit | Il numero massimo di token consentiti entro qualsiasi periodo di limite di velocità. |
anthropic-ratelimit-tokens-remaining | Il numero di token rimanenti (arrotondato al migliaio più vicino) prima di essere limitato dalla velocità. |
anthropic-ratelimit-tokens-reset | Il momento in cui il limite di velocità dei token sarà completamente riempito, fornito in formato RFC 3339. |
anthropic-ratelimit-input-tokens-limit | Il numero massimo di token di input consentiti entro qualsiasi periodo di limite di velocità. |
anthropic-ratelimit-input-tokens-remaining | Il numero di token di input rimanenti (arrotondato al migliaio più vicino) prima di essere limitato dalla velocità. |
anthropic-ratelimit-input-tokens-reset | Il momento in cui il limite di velocità dei token di input sarà completamente riempito, fornito in formato RFC 3339. |
anthropic-ratelimit-output-tokens-limit | Il numero massimo di token di output consentiti entro qualsiasi periodo di limite di velocità. |
anthropic-ratelimit-output-tokens-remaining | Il numero di token di output rimanenti (arrotondato al migliaio più vicino) prima di essere limitato dalla velocità. |
anthropic-ratelimit-output-tokens-reset | Il momento in cui il limite di velocità dei token di output sarà completamente riempito, fornito in formato RFC 3339. |
anthropic-priority-input-tokens-limit | Il numero massimo di token di input del Livello Prioritario consentiti entro qualsiasi periodo di limite di velocità. (Solo Livello Prioritario) |
anthropic-priority-input-tokens-remaining | Il numero di token di input del Livello Prioritario rimanenti (arrotondato al migliaio più vicino) prima di essere limitato dalla velocità. (Solo Livello Prioritario) |
anthropic-priority-input-tokens-reset | Il momento in cui il limite di velocità dei token di input del Livello Prioritario sarà completamente riempito, fornito in formato RFC 3339. (Solo Livello Prioritario) |
anthropic-priority-output-tokens-limit | Il numero massimo di token di output del Livello Prioritario consentiti entro qualsiasi periodo di limite di velocità. (Solo Livello Prioritario) |
anthropic-priority-output-tokens-remaining | Il numero di token di output del Livello Prioritario rimanenti (arrotondato al migliaio più vicino) prima di essere limitato dalla velocità. (Solo Livello Prioritario) |
anthropic-priority-output-tokens-reset | Il momento in cui il limite di velocità dei token di output del Livello Prioritario sarà completamente riempito, fornito in formato RFC 3339. (Solo Livello Prioritario) |
Gli header anthropic-ratelimit-tokens-* mostrano i valori per il limite più restrittivo attualmente in vigore. Ad esempio, se hai superato il limite di token al minuto dello Spazio di Lavoro, gli header conterranno i valori del limite di velocità dei token al minuto dello Spazio di Lavoro. Se i limiti dello Spazio di Lavoro non si applicano,gli header restituiranno i token totali rimanenti, dove totale è la somma dei token di input e output. Questo approccio garantisce che tu abbia visibilità sul vincolo più rilevante sul tuo utilizzo API attuale.