Limiti di utilizzo

Abbiamo due tipi di limiti:

1. I limiti di spesa stabiliscono un costo mensile massimo che un’organizzazione può sostenere per l’utilizzo dell’API.
2. I limiti di frequenza stabiliscono il numero massimo di richieste API che un’organizzazione può effettuare in un determinato periodo di tempo.

Applichiamo limiti configurati dal servizio a livello di organizzazione, ma è possibile anche impostare limiti configurabili dall’utente per gli spazi di lavoro della propria organizzazione.

​

Informazioni sui nostri limiti

• I limiti sono progettati per prevenire l’abuso dell’API, minimizzando l’impatto sui modelli di utilizzo comuni dei clienti.
• I limiti sono definiti per livello di utilizzo, dove ogni livello è associato a un diverso set di limiti di spesa e di frequenza.
• La tua organizzazione aumenterà automaticamente di livello quando raggiungerai determinate soglie durante l’utilizzo dell’API.
• I limiti sono impostati a livello di organizzazione. Puoi vedere i limiti della tua organizzazione nella pagina Limiti nella Console Anthropic.
• Potresti raggiungere i limiti di frequenza su intervalli di tempo più brevi. Ad esempio, una frequenza di 60 richieste al minuto (RPM) potrebbe essere applicata come 1 richiesta al secondo. Brevi raffiche di richieste ad alto volume possono superare il limite di frequenza e causare errori di limite.
• I limiti descritti di seguito sono i nostri limiti standard. Se stai cercando limiti personalizzati più elevati, contatta l’ufficio vendite tramite la Console Anthropic.
• Utilizziamo l’algoritmo token bucket per limitare la frequenza.
• Tutti i limiti qui descritti rappresentano l’utilizzo massimo consentito, non minimi garantiti. Questi limiti sono progettati per prevenire l’uso eccessivo e garantire una equa distribuzione delle risorse tra gli utenti.

​

Limiti di spesa

Ogni livello di utilizzo ha un limite su quanto puoi spendere sull’API ogni mese solare. Una volta raggiunto il limite di spesa del tuo livello, fino a quando non ti qualifichi per il livello successivo, dovrai attendere il mese successivo per poter utilizzare nuovamente l’API.

Per qualificarti per il livello successivo, devi soddisfare un requisito di deposito e un periodo di attesa obbligatorio. I livelli più alti richiedono periodi di attesa più lunghi. Nota: per minimizzare il rischio di sovraccreditare il tuo account, non puoi depositare più del tuo limite di spesa mensile.

​

Requisiti per avanzare di livello

​

Limiti di frequenza aggiornati

I nostri limiti di frequenza sono misurati in richieste al minuto, token di input al minuto e token di output al minuto per ogni classe di modello. Se superi uno qualsiasi dei limiti di frequenza riceverai un errore 429. Clicca sul livello di limite di frequenza per visualizzare i limiti pertinenti.

I limiti di frequenza sono monitorati per modello. Pertanto, i modelli all’interno dello stesso livello non condividono un limite di frequenza.

• Livello 1
• Livello 2
• Livello 3
• Livello 4
• Personalizzato

​

Impostazione di limiti inferiori per gli Spazi di Lavoro

Per proteggere gli Spazi di Lavoro nella tua Organizzazione da potenziali utilizzi eccessivi, puoi impostare limiti di spesa e di frequenza personalizzati per ogni Spazio di Lavoro.

Esempio: Se il limite della tua Organizzazione è di 48.000 token al minuto (40.000 token di input e 8.000 token di output), potresti limitare uno Spazio di Lavoro a 30.000 token totali al minuto. Questo protegge altri Spazi di Lavoro da potenziali utilizzi eccessivi e garantisce una distribuzione più equa delle risorse all’interno della tua Organizzazione. I token al minuto rimanenti non utilizzati (o di più, se quello Spazio di Lavoro non utilizza il limite) sono quindi disponibili per l’uso da parte di altri Spazi di Lavoro.

Nota:

• Non puoi impostare limiti sullo Spazio di Lavoro predefinito.
• Se non impostati, i limiti degli Spazi di Lavoro corrispondono al limite dell’Organizzazione.
• I limiti a livello di Organizzazione si applicano sempre, anche se i limiti degli Spazi di Lavoro sommati superano tale valore.
• Il supporto per i limiti di token di input e output sarà aggiunto agli Spazi di Lavoro in futuro.

​

Header di risposta

La risposta dell’API include header che mostrano il limite di frequenza applicato, l’utilizzo corrente e quando il limite verrà azzerato.

Vengono restituiti i seguenti header:

Gli header anthropic-ratelimit-tokens-* mostrano i valori per il limite più restrittivo attualmente in vigore. Ad esempio, se hai superato il limite di token al minuto dello Spazio di Lavoro, gli header conterranno i valori del limite di frequenza dei token al minuto dello Spazio di Lavoro. Se i limiti dello Spazio di Lavoro non si applicano, gli header restituiranno il totale dei token rimanenti, dove il totale è la somma dei token di input e output. Questo approccio garantisce che tu abbia visibilità sul vincolo più rilevante per il tuo utilizzo corrente dell’API.

​

Limiti di frequenza precedenti

I nostri limiti di frequenza erano precedentemente misurati in richieste al minuto, token al minuto e token al giorno per ogni classe di modello. Se superi uno qualsiasi dei limiti di frequenza riceverai un errore 429. Clicca sul livello di limite di frequenza per visualizzare i limiti pertinenti.

I limiti di frequenza sono monitorati per modello, quindi i modelli all’interno dello stesso livello non condividono un limite di frequenza.

• Livello 1
• Livello 2
• Livello 3
• Livello 4
• Personalizzato