Cara mengimplementasikan penggunaan alat
Memilih model
Secara umum, gunakan Claude Opus 4, Claude Sonnet 4, Claude Sonnet 3.7, Claude Sonnet 3.5 atau Claude Opus 3 untuk alat yang kompleks dan kueri yang ambigu; mereka menangani beberapa alat dengan lebih baik dan mencari klarifikasi saat diperlukan.
Gunakan Claude Haiku 3.5 atau Claude Haiku 3 untuk alat yang sederhana, tetapi perhatikan bahwa mereka mungkin akan menyimpulkan parameter yang hilang.
Jika menggunakan Claude Sonnet 3.7 dengan penggunaan alat dan pemikiran yang diperpanjang, lihat panduan kami di sini untuk informasi lebih lanjut.
Menentukan alat klien
Alat klien (baik yang didefinisikan oleh Anthropic maupun yang didefinisikan oleh pengguna) ditentukan dalam parameter tingkat atas tools
dari permintaan API. Setiap definisi alat mencakup:
Parameter | Deskripsi |
---|---|
name | Nama alat. Harus sesuai dengan regex ^[a-zA-Z0-9_-]{1,64}$ . |
description | Deskripsi teks biasa yang mendetail tentang apa yang dilakukan alat, kapan harus digunakan, dan bagaimana perilakunya. |
input_schema | Objek JSON Schema yang mendefinisikan parameter yang diharapkan untuk alat tersebut. |
Prompt sistem penggunaan alat
Ketika Anda memanggil API Anthropic dengan parameter tools
, kami membuat prompt sistem khusus dari definisi alat, konfigurasi alat, dan prompt sistem yang ditentukan pengguna. Prompt yang dibuat dirancang untuk menginstruksikan model untuk menggunakan alat yang ditentukan dan memberikan konteks yang diperlukan agar alat dapat beroperasi dengan baik:
Praktik terbaik untuk definisi alat
Untuk mendapatkan performa terbaik dari Claude saat menggunakan alat, ikuti pedoman ini:
- Berikan deskripsi yang sangat detail. Ini adalah faktor yang paling penting dalam performa alat. Deskripsi Anda harus menjelaskan setiap detail tentang alat, termasuk:
- Apa yang dilakukan alat
- Kapan alat harus digunakan (dan kapan tidak boleh)
- Apa arti setiap parameter dan bagaimana pengaruhnya terhadap perilaku alat
- Peringatan atau batasan penting, seperti informasi apa yang tidak dikembalikan oleh alat jika nama alat tidak jelas. Semakin banyak konteks yang dapat Anda berikan kepada Claude tentang alat Anda, semakin baik kemampuannya dalam memutuskan kapan dan bagaimana menggunakannya. Targetkan setidaknya 3-4 kalimat per deskripsi alat, lebih banyak jika alat tersebut kompleks.
- Prioritaskan deskripsi daripada contoh. Meskipun Anda dapat menyertakan contoh cara menggunakan alat dalam deskripsi atau dalam prompt yang menyertainya, ini kurang penting daripada memiliki penjelasan yang jelas dan komprehensif tentang tujuan dan parameter alat. Tambahkan contoh hanya setelah Anda sepenuhnya menguraikan deskripsi.
Deskripsi yang baik menjelaskan dengan jelas apa yang dilakukan alat, kapan menggunakannya, data apa yang dikembalikan, dan apa arti parameter ticker
. Deskripsi yang buruk terlalu singkat dan membuat Claude memiliki banyak pertanyaan terbuka tentang perilaku dan penggunaan alat.
Mengontrol output Claude
Memaksa penggunaan alat
Dalam beberapa kasus, Anda mungkin ingin Claude menggunakan alat tertentu untuk menjawab pertanyaan pengguna, bahkan jika Claude berpikir dapat memberikan jawaban tanpa menggunakan alat. Anda dapat melakukan ini dengan menentukan alat di bidang tool_choice
seperti ini:
Saat bekerja dengan parameter tool_choice, kita memiliki empat opsi yang mungkin:
auto
memungkinkan Claude memutuskan apakah akan memanggil alat yang disediakan atau tidak. Ini adalah nilai default ketikatools
disediakan.any
memberi tahu Claude bahwa ia harus menggunakan salah satu alat yang disediakan, tetapi tidak memaksa alat tertentu.tool
memungkinkan kita memaksa Claude untuk selalu menggunakan alat tertentu.none
mencegah Claude menggunakan alat apa pun. Ini adalah nilai default ketika tidak adatools
yang disediakan.
Diagram ini mengilustrasikan bagaimana setiap opsi bekerja:
Perhatikan bahwa ketika Anda memiliki tool_choice
sebagai any
atau tool
, kami akan mengisi awal pesan asisten untuk memaksa penggunaan alat. Ini berarti bahwa model tidak akan mengeluarkan blok konten text
alur pemikiran sebelum blok konten tool_use
, bahkan jika secara eksplisit diminta untuk melakukannya.
Pengujian kami menunjukkan bahwa ini seharusnya tidak mengurangi performa. Jika Anda ingin mempertahankan alur pemikiran (terutama dengan Opus) sambil tetap meminta model untuk menggunakan alat tertentu, Anda dapat menggunakan {"type": "auto"}
untuk tool_choice
(default) dan menambahkan instruksi eksplisit dalam pesan user
. Misalnya: What's the weather like in London? Use the get_weather tool in your response.
Output JSON
Alat tidak harus berupa fungsi klien — Anda dapat menggunakan alat kapan pun Anda ingin model mengembalikan output JSON yang mengikuti skema yang disediakan. Misalnya, Anda mungkin menggunakan alat record_summary
dengan skema tertentu. Lihat contoh penggunaan alat untuk contoh kerja lengkap.
Alur pemikiran
Saat menggunakan alat, Claude sering menunjukkan “alur pemikirannya”, yaitu penalaran langkah demi langkah yang digunakannya untuk memecah masalah dan memutuskan alat mana yang akan digunakan. Model Claude Opus 3 akan melakukan ini jika tool_choice
diatur ke auto
(ini adalah nilai default, lihat Memaksa penggunaan alat), dan Sonnet dan Haiku dapat diprompt untuk melakukannya.
Misalnya, diberikan prompt “What’s the weather like in San Francisco right now, and what time is it there?”, Claude mungkin merespons dengan:
Alur pemikiran ini memberikan wawasan tentang proses penalaran Claude dan dapat membantu Anda men-debug perilaku yang tidak terduga.
Dengan model Claude Sonnet 3, alur pemikiran kurang umum secara default, tetapi Anda dapat meminta Claude untuk menunjukkan penalarannya dengan menambahkan sesuatu seperti "Before answering, explain your reasoning step-by-step in tags."
ke pesan pengguna atau prompt sistem.
Penting untuk dicatat bahwa meskipun tag <thinking>
adalah konvensi umum yang digunakan Claude untuk menunjukkan alur pemikirannya, format yang tepat (seperti nama tag XML ini) dapat berubah seiring waktu. Kode Anda harus memperlakukan alur pemikiran seperti teks yang dihasilkan asisten lainnya, dan tidak bergantung pada keberadaan atau format spesifik dari tag <thinking>
.
Penggunaan alat paralel
Secara default, Claude dapat menggunakan beberapa alat untuk menjawab kueri pengguna. Anda dapat menonaktifkan perilaku ini dengan:
- Mengatur
disable_parallel_tool_use=true
ketika tipe tool_choice adalahauto
, yang memastikan bahwa Claude menggunakan paling banyak satu alat - Mengatur
disable_parallel_tool_use=true
ketika tipe tool_choice adalahany
atautool
, yang memastikan bahwa Claude menggunakan tepat satu alat
Penggunaan alat paralel dengan Claude Sonnet 3.7
Claude Sonnet 3.7 mungkin lebih kecil kemungkinannya untuk membuat panggilan alat paralel dalam respons, bahkan ketika Anda belum mengatur disable_parallel_tool_use
. Untuk mengatasi ini, kami merekomendasikan untuk mengaktifkan penggunaan alat yang hemat token, yang membantu mendorong Claude untuk menggunakan alat paralel. Fitur beta ini juga mengurangi latensi dan menghemat rata-rata 14% dalam token output.
Jika Anda lebih suka tidak mengikuti beta penggunaan alat yang hemat token, Anda juga dapat memperkenalkan “alat batch” yang dapat bertindak sebagai meta-alat untuk membungkus pemanggilan ke beberapa alat secara bersamaan. Kami menemukan bahwa jika alat ini ada, model akan menggunakannya untuk memanggil beberapa alat secara paralel untuk Anda.
Lihat contoh ini di cookbook kami untuk cara menggunakan solusi ini.
Menangani blok konten penggunaan alat dan hasil alat
Respons Claude berbeda berdasarkan apakah ia menggunakan alat klien atau server.
Menangani hasil dari alat klien
Respons akan memiliki stop_reason
berupa tool_use
dan satu atau lebih blok konten tool_use
yang mencakup:
id
: Pengidentifikasi unik untuk blok penggunaan alat tertentu ini. Ini akan digunakan untuk mencocokkan hasil alat nanti.name
: Nama alat yang digunakan.input
: Objek yang berisi input yang diteruskan ke alat, sesuai denganinput_schema
alat.
Ketika Anda menerima respons penggunaan alat untuk alat klien, Anda harus:
- Ekstrak
name
,id
, daninput
dari bloktool_use
. - Jalankan alat yang sebenarnya dalam kode Anda yang sesuai dengan nama alat tersebut, dengan meneruskan
input
alat. - Lanjutkan percakapan dengan mengirim pesan baru dengan
role
berupauser
, dan blokcontent
yang berisi tipetool_result
dan informasi berikut:tool_use_id
:id
dari permintaan penggunaan alat yang merupakan hasil ini.content
: Hasil dari alat, sebagai string (misalnya"content": "15 degrees"
) atau daftar blok konten bersarang (misalnya"content": [{"type": "text", "text": "15 degrees"}]
). Blok konten ini dapat menggunakan tipetext
atauimage
.is_error
(opsional): Diatur ketrue
jika eksekusi alat menghasilkan kesalahan.
Setelah menerima hasil alat, Claude akan menggunakan informasi tersebut untuk melanjutkan menghasilkan respons terhadap prompt pengguna asli.
Menangani hasil dari alat server
Claude mengeksekusi alat secara internal dan menggabungkan hasilnya langsung ke dalam responsnya tanpa memerlukan interaksi pengguna tambahan.
Perbedaan dari API lain
Tidak seperti API yang memisahkan penggunaan alat atau menggunakan peran khusus seperti tool
atau function
, API Anthropic mengintegrasikan alat langsung ke dalam struktur pesan user
dan assistant
.
Pesan berisi array blok text
, image
, tool_use
, dan tool_result
. Pesan user
mencakup konten klien dan tool_result
, sementara pesan assistant
berisi konten yang dihasilkan AI dan tool_use
.
Menangani alasan berhenti pause_turn
Saat menggunakan alat server seperti pencarian web, API mungkin mengembalikan alasan berhenti pause_turn
, yang menunjukkan bahwa API telah menjeda giliran yang berjalan lama.
Berikut cara menangani alasan berhenti pause_turn
:
Saat menangani pause_turn
:
- Lanjutkan percakapan: Teruskan respons yang dijeda apa adanya dalam permintaan berikutnya untuk membiarkan Claude melanjutkan gilirannya
- Modifikasi jika diperlukan: Anda dapat secara opsional memodifikasi konten sebelum melanjutkan jika Anda ingin mengganggu atau mengarahkan ulang percakapan
- Pertahankan status alat: Sertakan alat yang sama dalam permintaan lanjutan untuk mempertahankan fungsionalitas
Pemecahan masalah kesalahan
Ada beberapa jenis kesalahan yang dapat terjadi saat menggunakan alat dengan Claude: