使用 API
速率限制
使用 API
速率限制
為了防止濫用並管理我們 API 的容量，我們對組織可以使用 Claude API 的數量實施了限制。
我們有兩種類型的限制：
- 使用限制 設置組織每月可以產生的 API 使用成本的最大值。
- 速率限制 限制組織在一定時間內可以發出的 API 請求數量。
關於我們的限制
- 限制旨在防止 API 濫用，同時最大限度地減少對常見客戶使用模式的影響。
- 限制按使用等級定義，每個等級都與一組不同的使用和速率限制相關聯。
- 當您在使用 API 時達到某些閾值時，您的組織將自動提升等級。
- 限制在組織級別設置。您可以在 Console 的 計劃和計費 中查看您組織的限制。
- 您可能會在較短的時間間隔內達到速率限制。例如，每分鐘 60 個請求 (RPM) 的速率可能會被強制為每秒 1 個請求。高容量的短時間請求突發可能會超過速率限制並導致速率限制錯誤。
- 以下概述的限制是我們的標準限制，適用於 “Build” API 計劃。如果您正在尋求更高的自定義限制，請點擊 控制台 中的 “選擇計劃” 聯繫銷售以轉移到我們的自定義 “Scale” 計劃。
- 所有 Claude 模型目前具有相同的使用和速率限制。
使用限制
每個使用等級都有一個限制，規定您每個日曆月可以使用 API 的數量。一旦您達到您所在等級的使用限制，在您有資格升級到下一個等級之前，您必須等到下個月才能再次使用 API。
要有資格升級到下一個等級，您必須滿足存款要求和強制等待期。更高的等級需要更長的等待期。請注意，為了最大限度地降低您的帳戶超額撥款的風險，您存款的金額不能超過您的每月使用限額。
| 使用等級 | 升級到該等級的要求 | 每月最大使用量 | |
|---|---|---|---|
| 信用購買 | 首次購買後等待 | ||
| 免費 | 不適用 | 0 天 | $10 |
| Build 等級 1 | $5 | 0 天 | $100 |
| Build 等級 2 | $40 | 7 天 | $500 |
| Build 等級 3 | $200 | 7 天 | $1,000 |
| Build 等級 4 | $400 | 14 天 | $5,000 |
| Scale | 不適用 | 不適用 | 不適用 |
速率限制
我們的速率限制目前以每個模型類別的每分鐘請求數、每分鐘令牌數和每天令牌數來衡量。如果您超過任何速率限制，您將收到 429 錯誤。點擊速率限制等級以查看相關的速率限制。
| 模型等級 | 每分鐘請求數 (RPM) | 每分鐘令牌數 (TPM) | 每天令牌數 (TPD) |
|---|---|---|---|
| Claude 3 Haiku | 5 | 25,000 | 300,000 |
| Claude 3 Sonnet | 5 | 20,000 | 300,000 |
| Claude 3 Opus | 5 | 10,000 | 300,000 |
響應標頭
API 響應包括顯示強制執行的速率限制、當前使用情況以及限制將在何時重置的標頭。
返回以下標頭：
| 標頭 | 描述 |
|---|---|
anthropic-ratelimit-requests-limit | 在速率限制窗口內允許的最大請求數。 |
anthropic-ratelimit-requests-remaining | 在當前速率限制窗口內剩餘的請求數。 |
anthropic-ratelimit-requests-reset | 請求速率限制窗口將重置的時間，以 RFC 3339 格式提供。 |
anthropic-ratelimit-tokens-limit | 在速率限制窗口內允許的最大令牌數。 |
anthropic-ratelimit-tokens-remaining | 在當前速率限制窗口內剩餘的令牌數，四捨五入到最接近的千位。 |
anthropic-ratelimit-tokens-reset | 令牌速率限制窗口將重置的時間，以 RFC 3339 格式提供。 |
令牌速率限制標頭顯示剩餘令牌較少的限制（每天或每分鐘）的值。例如，如果您已超過每日令牌限制但在最後一分鐘內沒有發送任何令牌，則標頭將包含每日令牌速率限制值。