Batas tingkat
Untuk mengurangi penyalahgunaan dan mengelola kapasitas pada API kami, kami telah menerapkan batasan seberapa banyak organisasi dapat menggunakan API Claude.
Kami memiliki dua jenis batasan:
- Batas penggunaan menetapkan biaya bulanan maksimum yang dapat dikeluarkan organisasi untuk penggunaan API.
- Batas tingkat membatasi jumlah permintaan API yang dapat dilakukan organisasi selama periode waktu tertentu.
Tentang batasan kami
- Batasan dirancang untuk mencegah penyalahgunaan API, sambil meminimalkan dampak pada pola penggunaan pelanggan yang umum.
- Batasan ditentukan berdasarkan tingkat penggunaan, di mana setiap tingkat dikaitkan dengan seperangkat batas penggunaan dan tingkat yang berbeda.
- Organisasi Anda akan meningkat tingkat secara otomatis saat Anda mencapai ambang batas tertentu saat menggunakan API.
Batasan ditetapkan pada tingkat organisasi. Anda dapat melihat batasan organisasi Anda di Plans and Billing di Console. - Anda mungkin mencapai batas tingkat selama interval waktu yang lebih pendek. Misalnya, tingkat 60 permintaan per menit (RPM) dapat diterapkan sebagai 1 permintaan per detik. Lonjakan permintaan dalam volume tinggi dalam waktu singkat dapat melampaui batas tingkat dan mengakibatkan kesalahan batas tingkat.
- Batasan yang diuraikan di bawah ini adalah batasan standar kami dan berlaku untuk paket API “Build”. Jika Anda mencari batasan yang lebih tinggi dan khusus, hubungi penjualan dengan mengklik “Select Plan” di konsol untuk beralih ke paket “Scale” khusus kami.
- Semua model Claude saat ini memiliki batas penggunaan dan tingkat yang sama.
Batas penggunaan
Setiap tingkat penggunaan memiliki batasan seberapa banyak Anda dapat menggunakan API setiap bulan kalender. Setelah Anda mencapai batas penggunaan tingkat Anda, hingga Anda memenuhi syarat untuk tingkat berikutnya, Anda harus menunggu hingga bulan berikutnya untuk dapat menggunakan API lagi.
Untuk memenuhi syarat untuk tingkat berikutnya, Anda harus memenuhi persyaratan deposit dan periode tunggu wajib. Tingkat yang lebih tinggi memerlukan periode tunggu yang lebih lama. Perhatikan, untuk meminimalkan risiko pendanaan berlebih pada akun Anda, Anda tidak dapat menyetor lebih dari batas penggunaan bulanan Anda.
| Tingkat Penggunaan | Persyaratan untuk maju ke tingkat | Penggunaan maksimum per bulan | |
|---|---|---|---|
| Pembelian Kredit | Tunggu setelah pembelian pertama | ||
| Gratis | N/A | 0 hari | $10 |
| Build Tier 1 | $5 | 0 hari | $100 |
| Build Tier 2 | $40 | 7 hari | $500 |
| Build Tier 3 | $200 | 7 hari | $1,000 |
| Build Tier 4 | $400 | 14 hari | $5,000 |
| Scale | N/A | N/A | N/A |
Batas tingkat
Batas tingkat kami saat ini diukur dalam permintaan per menit, token per menit, dan token per hari untuk setiap kelas model. Jika Anda melebihi batas tingkat mana pun, Anda akan mendapatkan kesalahan 429. Klik pada tingkat batas tingkat untuk melihat batas tingkat yang relevan.
| Tingkat Model | Permintaan per menit (RPM) | Token per menit (TPM) | Token per hari (TPD) |
|---|---|---|---|
| Claude 3 Haiku | 5 | 25,000 | 300,000 |
| Claude 3 Sonnet | 5 | 20,000 | 300,000 |
| Claude 3 Opus | 5 | 10,000 | 300,000 |
Header Respons
Respons API menyertakan header yang menunjukkan batas tingkat yang diterapkan, penggunaan saat ini, dan kapan batas akan diatur ulang.
Header berikut dikembalikan:
| Header | Deskripsi |
|---|---|
anthropic-ratelimit-requests-limit | Jumlah maksimum permintaan yang diizinkan dalam jendela batas tingkat. |
anthropic-ratelimit-requests-remaining | Jumlah permintaan yang tersisa dalam jendela batas tingkat saat ini. |
anthropic-ratelimit-requests-reset | Waktu ketika jendela batas tingkat permintaan akan diatur ulang, disediakan dalam format RFC 3339. |
anthropic-ratelimit-tokens-limit | Jumlah maksimum token yang diizinkan dalam jendela batas tingkat. |
anthropic-ratelimit-tokens-remaining | Jumlah token yang tersisa, dibulatkan ke ribuan terdekat, dalam jendela batas tingkat saat ini. |
anthropic-ratelimit-tokens-reset | Waktu ketika jendela batas tingkat token akan diatur ulang, disediakan dalam format RFC 3339. |
Header batas tingkat token menampilkan nilai untuk batas (harian atau per menit) dengan token yang tersisa lebih sedikit. Misalnya, jika Anda telah melampaui batas token harian tetapi belum mengirim token apa pun dalam satu menit terakhir, header akan berisi nilai batas tingkat token harian.