Bedrock, Vertex, dan proxy
Konfigurasikan Claude Code untuk bekerja dengan Amazon Bedrock dan Google Vertex AI, serta terhubung melalui proxy.
Konfigurasi model
Secara default, Claude Code menggunakan claude-opus-4-20250514
. Anda dapat mengganti ini menggunakan variabel lingkungan berikut:
Anda juga dapat mengatur variabel ini menggunakan konfigurasi global:
Lihat referensi nama model kami untuk semua model yang tersedia di berbagai penyedia.
Penggunaan dengan API pihak ketiga
Claude Code memerlukan akses ke model Claude Sonnet 3.7 dan Claude Haiku 3.5, terlepas dari penyedia API mana yang Anda gunakan.
Terhubung ke Amazon Bedrock
Jika Anda tidak mengaktifkan caching prompt, juga atur:
Hubungi Amazon Bedrock untuk caching prompt guna mengurangi biaya dan meningkatkan batas rate.
Memerlukan kredensial AWS SDK standar (misalnya, ~/.aws/credentials
atau variabel lingkungan yang relevan seperti AWS_ACCESS_KEY_ID
, AWS_SECRET_ACCESS_KEY
). Untuk mengatur kredensial AWS, jalankan:
Jika Anda ingin mengakses Claude Code melalui proxy, Anda dapat menggunakan variabel lingkungan ANTHROPIC_BEDROCK_BASE_URL
:
Jika proxy Anda memiliki kredensial AWS sendiri, Anda dapat menggunakan variabel lingkungan CLAUDE_CODE_SKIP_BEDROCK_AUTH
untuk menghapus persyaratan Claude Code untuk kredensial AWS.
Pengguna akan memerlukan akses ke model Claude Sonnet 3.7 dan Claude Haiku 3.5 di akun AWS mereka. Jika Anda memiliki peran akses model, Anda mungkin perlu meminta akses ke model-model ini jika belum tersedia. Akses ke Bedrock di setiap wilayah diperlukan karena profil inferensi memerlukan kemampuan lintas wilayah.
Terhubung ke Google Vertex AI
Jika Anda tidak mengaktifkan caching prompt, juga atur:
Claude Code di Vertex AI saat ini hanya mendukung wilayah us-east5
. Pastikan
proyek Anda memiliki kuota yang dialokasikan di wilayah spesifik ini.
Pengguna akan memerlukan akses ke model Claude Sonnet 3.7 dan Claude Haiku 3.5 di proyek Vertex AI mereka.
Memerlukan kredensial GCP standar yang dikonfigurasi melalui google-auth-library. Untuk mengatur kredensial GCP, jalankan:
Jika Anda ingin mengakses Claude Code melalui proxy, Anda dapat menggunakan variabel lingkungan ANTHROPIC_VERTEX_BASE_URL
:
Jika proxy Anda memiliki kredensial GCP sendiri, Anda dapat menggunakan variabel lingkungan CLAUDE_CODE_SKIP_VERTEX_AUTH
untuk menghapus persyaratan Claude Code untuk kredensial GCP.
Untuk pengalaman terbaik, hubungi Google untuk batas rate yang lebih tinggi.
Terhubung melalui proxy
Saat menggunakan Claude Code dengan proxy LLM, Anda dapat mengontrol perilaku autentikasi menggunakan variabel lingkungan dan konfigurasi berikut. Perhatikan bahwa Anda dapat menggabungkan ini dengan pengaturan khusus Bedrock dan Vertex.
Pengaturan
Claude Code mendukung sejumlah pengaturan yang dikontrol melalui variabel lingkungan untuk mengonfigurasi penggunaan dengan Bedrock dan Vertex. Lihat Variabel lingkungan untuk referensi lengkap.
Jika Anda lebih suka mengonfigurasi melalui file daripada variabel lingkungan, Anda dapat menambahkan pengaturan ini ke objek env
dalam file pengaturan Claude Code Anda.
Anda juga dapat mengonfigurasi pengaturan apiKeyHelper
, untuk menetapkan skrip shell kustom untuk mendapatkan API key (dipanggil sekali saat startup, dan di-cache selama durasi setiap sesi, atau sampai CLAUDE_CODE_API_KEY_HELPER_TTL_MS
berlalu).
LiteLLM
LiteLLM adalah layanan proxy pihak ketiga. Anthropic tidak mendukung, memelihara, atau mengaudit keamanan atau fungsionalitas LiteLLM. Panduan ini disediakan untuk tujuan informasi dan mungkin menjadi usang. Gunakan dengan kebijaksanaan Anda sendiri.
Bagian ini menunjukkan konfigurasi Claude Code dengan LiteLLM Proxy Server, proxy LLM pihak ketiga yang menawarkan pelacakan penggunaan dan pengeluaran, autentikasi terpusat, penganggaran per pengguna, dan lainnya.
Langkah 1: Prasyarat
- Claude Code diperbarui ke versi terbaru
- LiteLLM Proxy Server berjalan dan dapat diakses jaringan oleh Claude Code
- Kunci proxy LiteLLM Anda
Langkah 2: Siapkan autentikasi proxy
Pilih salah satu metode autentikasi berikut:
Opsi A: Kunci proxy statis Atur kunci proxy Anda sebagai variabel lingkungan:
Opsi B: Kunci proxy dinamis Jika organisasi Anda menggunakan kunci yang berputar atau autentikasi dinamis:
- Jangan atur variabel lingkungan
ANTHROPIC_AUTH_TOKEN
- Buat skrip pembantu kunci untuk menyediakan token autentikasi
- Daftarkan skrip di bawah konfigurasi
apiKeyHelper
dalam pengaturan Claude Code Anda - Atur masa pakai token untuk mengaktifkan penyegaran otomatis:
Atur ini ke masa pakai (dalam milidetik) token yang dikembalikan oleh
apiKeyHelper
Anda.
Langkah 3: Konfigurasikan deployment Anda
Pilih deployment Claude mana yang ingin Anda gunakan melalui LiteLLM:
- Anthropic API: Koneksi langsung ke API Anthropic
- Bedrock: Amazon Bedrock dengan model Claude
- Vertex AI: Google Cloud Vertex AI dengan model Claude
Opsi A: Anthropic API melalui LiteLLM
- Konfigurasikan endpoint LiteLLM:
Opsi B: Bedrock melalui LiteLLM
- Konfigurasikan pengaturan Bedrock:
Opsi C: Vertex AI melalui LiteLLM
Direkomendasikan: Kredensial yang ditentukan proxy
- Konfigurasikan pengaturan Vertex:
Alternatif: Kredensial yang ditentukan klien
Jika Anda lebih suka menggunakan kredensial GCP lokal:
-
Autentikasi dengan GCP secara lokal:
-
Konfigurasikan pengaturan Vertex:
-
Perbarui konfigurasi header LiteLLM:
Pastikan konfigurasi LiteLLM Anda memiliki
general_settings.litellm_key_header_name
yang diatur keProxy-Authorization
, karena token GCP pass-through akan berada di headerAuthorization
.
Langkah 4. Memilih model
Secara default, model akan menggunakan yang ditentukan dalam Konfigurasi model.
Jika Anda telah mengonfigurasi nama model kustom di LiteLLM, atur variabel lingkungan yang disebutkan sebelumnya ke nama kustom tersebut.
Untuk informasi lebih detail, lihat dokumentasi LiteLLM.