Vertex AI API
Model Claude dari Anthropic kini tersedia secara umum melalui Vertex AI.
API Vertex untuk mengakses Claude hampir identik dengan Messages API dan mendukung semua opsi yang sama, dengan dua perbedaan utama:
- Di Vertex,
model
tidak diteruskan dalam body permintaan. Sebagai gantinya, model ditentukan dalam URL endpoint Google Cloud. - Di Vertex,
anthropic_version
diteruskan dalam body permintaan (bukan sebagai header), dan harus diatur ke nilaivertex-2023-10-16
.
Vertex juga didukung oleh SDK klien resmi Anthropic. Panduan ini akan memandu Anda melalui proses membuat permintaan ke Claude di Vertex AI baik dalam Python atau TypeScript.
Perhatikan bahwa panduan ini mengasumsikan Anda sudah memiliki proyek GCP yang dapat menggunakan Vertex AI. Lihat menggunakan model Claude 3 dari Anthropic untuk informasi lebih lanjut tentang pengaturan yang diperlukan, serta panduan lengkap.
Menginstal SDK untuk mengakses Vertex AI
Pertama, instal SDK klien Anthropic untuk bahasa pilihan Anda.
Mengakses Vertex AI
Ketersediaan Model
Perhatikan bahwa ketersediaan model Anthropic bervariasi berdasarkan wilayah. Cari “Claude” di Vertex AI Model Garden atau kunjungi Use Claude 3 untuk informasi terbaru.
Nama model API
Model | Nama model Vertex AI API |
---|---|
Claude Opus 4 | claude-opus-4@20250514 |
Claude Sonnet 4 | claude-sonnet-4@20250514 |
Claude Sonnet 3.7 | claude-3-7-sonnet@20250219 |
Claude Haiku 3.5 | claude-3-5-haiku@20241022 |
Claude Sonnet 3.5 | claude-3-5-sonnet-v2@20241022 |
Claude Opus 3 (Public Preview) | claude-3-opus@20240229 |
Claude Sonnet 3 | claude-3-sonnet@20240229 |
Claude Haiku 3 | claude-3-haiku@20240307 |
Membuat permintaan
Sebelum menjalankan permintaan, Anda mungkin perlu menjalankan gcloud auth application-default login
untuk mengautentikasi dengan GCP.
Contoh berikut menunjukkan cara menghasilkan teks dari Claude di Vertex AI:
Lihat SDK klien kami dan dokumentasi Vertex AI resmi untuk detail lebih lanjut.
Pencatatan aktivitas
Vertex menyediakan layanan pencatatan permintaan-respons yang memungkinkan pelanggan mencatat prompt dan respons terkait dengan penggunaan Anda.
Anthropic merekomendasikan agar Anda mencatat aktivitas Anda setidaknya dalam basis 30 hari berputar untuk memahami aktivitas Anda dan menyelidiki potensi penyalahgunaan.
Mengaktifkan layanan ini tidak memberikan akses kepada Google atau Anthropic ke konten Anda.