API Vertex untuk mengakses Claude hampir identik dengan API Messages dan mendukung semua opsi yang sama, dengan dua perbedaan utama:

  • Di Vertex, model tidak dimasukkan dalam body permintaan. Sebaliknya, ini ditentukan dalam URL endpoint Google Cloud.
  • Di Vertex, anthropic_version dimasukkan dalam body permintaan (bukan sebagai header), dan harus diatur ke nilai vertex-2023-10-16.

Vertex juga didukung oleh SDK klien resmi Anthropic. Panduan ini akan memandu Anda melalui proses membuat permintaan ke Claude di Vertex AI baik dalam Python atau TypeScript.

Perlu diingat bahwa panduan ini mengasumsikan Anda sudah memiliki proyek GCP yang dapat menggunakan Vertex AI. Lihat menggunakan model Claude 3 dari Anthropic untuk informasi lebih lanjut tentang pengaturan yang diperlukan, serta panduan lengkap.

Instal SDK untuk mengakses Vertex AI

Pertama, instal SDK klien Anthropic untuk bahasa pilihan Anda.

Mengakses Vertex AI

Ketersediaan Model

Perlu diketahui bahwa ketersediaan model Anthropic bervariasi berdasarkan wilayah. Cari “Claude” di Vertex AI Model Garden atau kunjungi Gunakan Claude 3 untuk informasi terbaru.

Nama model API

ModelNama model API Vertex AI
Claude 3 Haikuclaude-3-haiku@20240307
Claude 3 Sonnetclaude-3-sonnet@20240229
Claude 3 Opus (Pratinjau Publik)claude-3-opus@20240229
Claude 3.5 Sonnetclaude-3-5-sonnet@20240620

Membuat permintaan

Sebelum menjalankan permintaan, Anda mungkin perlu menjalankan gcloud auth application-default login untuk mengautentikasi dengan GCP.

Contoh berikut menunjukkan cara menghasilkan teks dari Claude 3 Haiku di Vertex AI:

Lihat SDK klien kami dan dokumentasi resmi Vertex AI untuk detail lebih lanjut.