Membangun dengan pemikiran yang diperluas

Pemikiran yang diperluas memberikan Claude 3.7 Sonnet kemampuan penalaran yang ditingkatkan untuk tugas-tugas kompleks, sambil juga memberikan transparansi ke dalam proses pemikiran langkah demi langkah sebelum memberikan jawaban akhirnya.

​

Bagaimana pemikiran yang diperluas bekerja

Ketika pemikiran yang diperluas diaktifkan, Claude membuat blok konten thinking di mana ia mengeluarkan penalaran internalnya. Claude menggabungkan wawasan dari penalaran ini sebelum menyusun respons akhir.

Respons API akan menyertakan blok konten thinking dan text.

Dalam percakapan multi-giliran, hanya blok pemikiran yang terkait dengan sesi penggunaan alat atau giliran assistant di posisi pesan terakhir yang terlihat oleh Claude dan ditagih sebagai token input; blok pemikiran yang terkait dengan pesan assistant sebelumnya tidak terlihat oleh Claude selama sampling dan tidak ditagih sebagai token input.

​

Mengimplementasikan pemikiran yang diperluas

Tambahkan parameter thinking dan anggaran token yang ditentukan untuk digunakan dalam pemikiran yang diperluas ke permintaan API Anda.

Parameter budget_tokens menentukan jumlah maksimum token yang diizinkan Claude gunakan untuk proses penalaran internalnya. Anggaran yang lebih besar dapat meningkatkan kualitas respons dengan memungkinkan analisis yang lebih menyeluruh untuk masalah kompleks, meskipun Claude mungkin tidak menggunakan seluruh anggaran yang dialokasikan, terutama pada rentang di atas 32K.

budget_tokens Anda harus selalu kurang dari max_tokens yang ditentukan.

Respons API akan menyertakan blok konten thinking dan text:

{
    "content": [
        {
            "type": "thinking",
            "thinking": "To approach this, let's think about what we know about prime numbers...",
            "signature": "zbbJhbGciOiJFU8zI1NiIsImtakcjsu38219c0.eyJoYXNoIjoiYWJjMTIzIiwiaWFxxxjoxNjE0NTM0NTY3fQ...."
        },
        {
            "type": "text",
            "text": "Yes, there are infinitely many prime numbers such that..."
        }
    ]
}

​

Memahami blok pemikiran

Blok pemikiran merepresentasikan proses berpikir internal Claude. Untuk memungkinkan Claude bekerja melalui masalah dengan batasan internal minimal sambil mempertahankan standar keamanan kami dan API tanpa status kami, kami telah mengimplementasikan hal berikut:

• Blok pemikiran berisi bidang signature. Bidang ini menyimpan token kriptografis yang memverifikasi bahwa blok pemikiran dihasilkan oleh Claude, dan diverifikasi ketika blok pemikiran dikembalikan ke API. Saat streaming respons, tanda tangan ditambahkan melalui signature_delta di dalam event content_block_delta tepat sebelum event content_block_stop. Hanya diperlukan secara ketat untuk mengirimkan kembali blok pemikiran saat menggunakan penggunaan alat dengan pemikiran yang diperluas. Jika tidak, Anda dapat menghilangkan blok pemikiran dari giliran sebelumnya, atau biarkan API menghapusnya untuk Anda jika Anda mengirimkannya kembali.
• Terkadang penalaran internal Claude akan ditandai oleh sistem keamanan kami. Ketika ini terjadi, kami mengenkripsi sebagian atau seluruh blok thinking dan mengembalikannya kepada Anda sebagai blok redacted_thinking. Blok pemikiran yang diredaksi ini didekripsi ketika dikembalikan ke API, memungkinkan Claude untuk melanjutkan responsnya tanpa kehilangan konteks.
• Blok thinking dan redacted_thinking dikembalikan sebelum blok text dalam respons.

Berikut contoh yang menunjukkan blok pemikiran normal dan yang diredaksi:

{
  "content": [
    {
      "type": "thinking",
      "thinking": "Let me analyze this step by step...",
      "signature": "WaUjzkypQ2mUEVM36O2TxuC06KN8xyfbJwyem2dw3URve/op91XWHOEBLLqIOMfFG/UvLEczmEsUjavL...."
    },
    {
      "type": "redacted_thinking",
      "data": "EmwKAhgBEgy3va3pzix/LafPsn4aDFIT2Xlxh0L5L8rLVyIwxtE3rAFBa8cr3qpP..."
    },
    {
      "type": "text",
      "text": "Based on my analysis..."
    }
  ]
}

Ketika mengirimkan blok thinking dan redacted_thinking kembali ke API dalam percakapan multi-giliran, Anda harus menyertakan blok lengkap yang tidak dimodifikasi kembali ke API untuk giliran asisten terakhir.

Ini penting untuk mempertahankan alur penalaran model. Kami menyarankan untuk selalu mengirimkan kembali semua blok pemikiran ke API. Untuk detail lebih lanjut, lihat bagian Mempertahankan blok pemikiran di bawah.

​

Saran untuk menangani pemikiran yang diredaksi dalam produksi

Saat membangun aplikasi yang menghadap pelanggan yang menggunakan pemikiran yang diperluas:

• Sadarilah bahwa blok pemikiran yang diredaksi berisi konten terenkripsi yang tidak dapat dibaca manusia
• Pertimbangkan untuk memberikan penjelasan sederhana seperti: “Beberapa penalaran internal Claude telah dienkripsi secara otomatis untuk alasan keamanan. Ini tidak mempengaruhi kualitas respons.”
• Jika menampilkan blok pemikiran kepada pengguna, Anda dapat memfilter blok yang diredaksi sambil mempertahankan blok pemikiran normal
• Bersikap transparan bahwa menggunakan fitur pemikiran yang diperluas terkadang dapat mengakibatkan beberapa penalaran dienkripsi
• Implementasikan penanganan kesalahan yang sesuai untuk mengelola pemikiran yang diredaksi tanpa merusak UI Anda

​

Streaming pemikiran yang diperluas

Ketika streaming diaktifkan, Anda akan menerima konten pemikiran melalui event thinking_delta. Berikut cara menangani streaming dengan pemikiran:

Contoh output streaming:

event: message_start
data: {"type": "message_start", "message": {"id": "msg_01...", "type": "message", "role": "assistant", "content": [], "model": "claude-3-7-sonnet-20250219", "stop_reason": null, "stop_sequence": null}}

event: content_block_start
data: {"type": "content_block_start", "index": 0, "content_block": {"type": "thinking", "thinking": ""}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "thinking_delta", "thinking": "Let me solve this step by step:\n\n1. First break down 27 * 453"}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "thinking_delta", "thinking": "\n2. 453 = 400 + 50 + 3"}}

// Additional thinking deltas...

event: content_block_delta
data: {"type": "content_block_delta", "index": 0, "delta": {"type": "signature_delta", "signature": "EqQBCgIYAhIM1gbcDa9GJwZA2b3hGgxBdjrkzLoky3dl1pkiMOYds..."}}

event: content_block_stop
data: {"type": "content_block_stop", "index": 0}

event: content_block_start
data: {"type": "content_block_start", "index": 1, "content_block": {"type": "text", "text": ""}}

event: content_block_delta
data: {"type": "content_block_delta", "index": 1, "delta": {"type": "text_delta", "text": "27 * 453 = 12,231"}}

// Additional text deltas...

event: content_block_stop
data: {"type": "content_block_stop", "index": 1}

event: message_delta
data: {"type": "message_delta", "delta": {"stop_reason": "end_turn", "stop_sequence": null}}

event: message_stop
data: {"type": "message_stop"}

event: message_start
data: {"type":"message_start","message":{"id":"msg_018J5iQyrGb5Xgy5CWx3iQFB","type":"message","role":"assistant","model":"claude-3-7-sonnet-20250219","content":[],"stop_reason":null,"stop_sequence":null,"usage":{"input_tokens":92,"cache_creation_input_tokens":0,"cache_read_input_tokens":0,"output_tokens":3}}       }

event: content_block_start
data: {"type":"content_block_start","index":0,"content_block":{"type":"redacted_thinking","data":"EvEBCoYBGAIiQAqN5Z4LumxzafxD2yf2zW+hVm/G2/Am05ChRXkU1Xe2wQLPLo0wnmoaVJI1WTkLpRYJAIz2UjzHblLwkJ59xeAqQNr5EWqMZkOr8yNcpbCO5PssXiUvEjhoaC0IN3qyhE3vumOOS9Qd0Ku4AYTgu8VjP4C6IJHnkuIexa0VrU/cFbISDJjPWOWQlyAx4y5FCRoMk55jLUCR8KCZrKrzIjDR8S3F/pCWlz/JA5RN0uprpWAI75HjgcY2NJkPX3sEC0Ew6fl6YEISNk1XsmzWtj4qGArQlCfAW9l8SDiKbXm0UZ4hQhh2ruPbaw=="}  }

event: ping
data: {"type": "ping"}

event: content_block_stop
data: {"type":"content_block_stop","index":0         }

event: content_block_start
data: {"type":"content_block_start","index":1,"content_block":{"type":"redacted_thinking","data":"EvMBCoYBGAIiQKZ6LAz+dCNWxvz0dmjI0gfqEInA9MLVAtFJTpolzOaIbUs28xuKyXVzEQsPWPvP12gN+hxVJ4mYzWT8DCIAxXIqQHwQZcGASLMxWCfHrUlYfFq0vF8IGhRgQKxpj1zxouNLuKdhpZrcHF9vKODIPCPW8EWD13aI6t+exz/UboOs/ZMSDA8tVDp4vkOEUc7sGBoMbiRhGYMqcmAOhb3nIjC/lewBt2l9P+VpJkV78YQ3LhvNh/q3KfsbGuJ2U+lIMPGf9wnzrRC/6xqdsHPe1B0qGozBPKnbBifhyb7xYyWcEWoi/qW9OdoFl1/w"}            }

event: content_block_stop
data: {"type":"content_block_stop","index":1             }

event: content_block_start
data: {"type":"content_block_start","index":2,"content_block":{"type":"redacted_thinking","data":"Eu8BCoYBGAIiQCXtUNB4QyT//Zww832Q+xjJ0oa7/PQZr74OvbS1+a7cRNywZfYMYGGte3RXXTMa6I0bFJOMmXXckcbLxR/L+msqQLhKGx9Bt2FnLpo7bp/PdMQBDDCo+jkbOctnxBQrHCuYbu33o30qPCh73AZ8O1xXXEZfzfLC0L6RoHzLxQSHN5gSDAxGSY7Ifg073BaUYBoMSWHLVrmZrydEfc7SIjAF1R+fYlyVPFwS4Sac/Dw9caskXNF/p+Yn7RNaW9+v/jL03qsqqvemuqRGltSBfZcqFrowQipxo/ftIkEC47Ua64RzSBIe27E="}   }

event: content_block_stop
data: {"type":"content_block_stop","index":2              }

event: content_block_start
data: {"type":"content_block_start","index":3,"content_block":{"type":"redacted_thinking","data":"Eu8BCoYBGAIiQEgE6WUvQO3d6fPpY3OaA95soqeWgZv/Nyi0X6iywTb5KqvUn9NxWySiZwSFZb+4S8ymtHRO4OBKA7eRWEXcBuQqQNudvV6YSFH5ErwaDME0HaEjtHcuy8SslL6RhLwhEJKGpYCzq7zWupcMBB1g57sR8vh/JwGjr7D9sfX9jmM7EsESDEatCbzVVczyZ0TERRoMenFOToj2qn0Xmh1LIjA1WgxaMqiHhb5T4k/++UCKNMH2SEseLzTlR7uIz20qZUXDWtoVck6wc+x7lSWRKXQqFiLoTO1oG0I/lbPz1n2FgC3MH7683FU="}     }

// Additional events...

event: content_block_start
data: {"type":"content_block_start","index":58,"content_block":{"type":"redacted_thinking","data":"EuoBCoYBGAIiQJ/SxkPAgqxhKok29YrpJHRUJ0OT8ahCHKAwyhmRuUhtdmDX9+mn4gDzKNv3fVpQdB01zEPMzNY3QuTCd+1bdtEqQK6JuKHqdndbwpr81oVWb4wxd1GqF/7Jkw74IlQa27oobX+KuRkopr9Dllt/RDe7Se0sI1IkU7tJIAQCoP46OAwSDF51P09q67xhHlQ3ihoM2aOVlkghq/X0w8NlIjBMNvXYNbjhyrOcIg6kPFn2ed/KK7Cm5prYAtXCwkb4Wr5tUSoSHu9T5hKdJRbr6WsqEc7Lle7FULqMLZGkhqXyc3BA"}        }

event: content_block_stop
data: {"type":"content_block_stop","index":58            }

event: content_block_start
data: {"type":"content_block_start","index":59,"content_block":{"type":"text","text":""}              }

event: content_block_delta
data: {"type":"content_block_delta","index":59,"delta":{"type":"text_delta","text":"I'm"}        }

event: content_block_delta
data: {"type":"content_block_delta","index":59,"delta":{"type":"text_delta","text":" not"}     }

event: content_block_delta
data: {"type":"content_block_delta","index":59,"delta":{"type":"text_delta","text":" sure"}    }

// Additional text deltas...

event: content_block_delta
data: {"type":"content_block_delta","index":59,"delta":{"type":"text_delta","text":" me know what you'"}          }

event: content_block_delta
data: {"type":"content_block_delta","index":59,"delta":{"type":"text_delta","text":"d like assistance with."}   }

event: content_block_stop
data: {"type":"content_block_stop","index":59               }

event: message_delta
data: {"type":"message_delta","delta":{"stop_reason":"end_turn","stop_sequence":null},"usage":{"output_tokens":184}  }

event: message_stop
data: {"type":"message_stop"          }

​

Pertimbangan penting saat menggunakan pemikiran yang diperluas

Bekerja dengan anggaran pemikiran: Anggaran minimum adalah 1.024 token. Kami menyarankan untuk memulai dari minimum dan meningkatkan anggaran pemikiran secara bertahap untuk menemukan rentang optimal agar Claude dapat berkinerja baik untuk kasus penggunaan Anda. Jumlah token yang lebih tinggi mungkin memungkinkan Anda mencapai penalaran yang lebih komprehensif dan bernuansa, tetapi mungkin juga ada hasil yang berkurang tergantung pada tugas.

• Anggaran pemikiran adalah target daripada batas ketat - penggunaan token aktual dapat bervariasi berdasarkan tugas.
• Bersiaplah untuk waktu respons yang berpotensi lebih lama karena pemrosesan tambahan yang diperlukan untuk proses penalaran.
• Streaming diperlukan ketika max_tokens lebih besar dari 21.333.

Untuk anggaran pemikiran di atas 32K: Kami merekomendasikan menggunakan pemrosesan batch untuk beban kerja di mana anggaran pemikiran diatur di atas 32K untuk menghindari masalah jaringan. Permintaan yang mendorong model untuk berpikir di atas 32K token menyebabkan permintaan berjalan lama yang mungkin bertabrakan dengan batas waktu sistem dan batas koneksi terbuka.

Kompatibilitas pemikiran dengan fitur lain:

• Pemikiran tidak kompatibel dengan modifikasi temperature, top_p, atau top_k serta penggunaan alat yang dipaksakan.
• Anda tidak dapat mengisi respons sebelumnya ketika pemikiran diaktifkan.
• Perubahan pada anggaran pemikiran membatalkan prefiks prompt yang di-cache yang menyertakan pesan. Namun, prompt sistem yang di-cache dan definisi alat akan terus bekerja ketika parameter pemikiran berubah.

​

Harga dan penggunaan token untuk pemikiran yang diperluas

Token pemikiran yang diperluas dihitung terhadap jendela konteks dan ditagih sebagai token output. Karena token pemikiran diperlakukan sebagai token output normal, mereka juga dihitung terhadap batas tarif Anda. Pastikan untuk memperhitungkan peningkatan penggunaan token ini saat merencanakan penggunaan API Anda.

Untuk Claude 3.7 Sonnet, harganya adalah:

Pemrosesan batch untuk pemikiran yang diperluas tersedia dengan diskon 50% dari harga ini dan sering selesai dalam waktu kurang dari 1 jam.

​

Kemampuan output yang diperluas (beta)

Claude 3.7 Sonnet dapat menghasilkan respons yang jauh lebih panjang daripada model sebelumnya dengan dukungan hingga 128K token output (beta)—lebih dari 15x lebih panjang daripada model Claude lainnya. Kemampuan yang diperluas ini sangat efektif untuk kasus penggunaan pemikiran yang diperluas yang melibatkan penalaran kompleks, pembuatan kode yang kaya, dan pembuatan konten yang komprehensif.

Fitur ini dapat diaktifkan dengan mengirimkan header anthropic-beta dari output-128k-2025-02-19.

Ketika menggunakan pemikiran yang diperluas dengan output yang lebih panjang, Anda dapat mengalokasikan anggaran pemikiran yang lebih besar untuk mendukung penalaran yang lebih menyeluruh, sambil tetap memiliki token yang cukup tersedia untuk respons akhir.

Kami menyarankan menggunakan mode streaming atau batch dengan kemampuan output yang diperluas ini; untuk detail lebih lanjut lihat panduan kami tentang pertimbangan keandalan jaringan untuk permintaan panjang.

​

Menggunakan pemikiran yang diperluas dengan caching prompt

Caching prompt dengan pemikiran memiliki beberapa pertimbangan penting:

Penyertaan blok pemikiran dalam prompt yang di-cache

• Pemikiran hanya disertakan saat menghasilkan giliran asisten dan tidak dimaksudkan untuk di-cache.
• Blok pemikiran giliran sebelumnya diabaikan.
• Jika pemikiran dinonaktifkan, konten pemikiran apa pun yang dikirim ke API hanya diabaikan.

Aturan pembatalan cache

• Perubahan pada parameter pemikiran (mengaktifkan/menonaktifkan atau perubahan anggaran) membatalkan titik putus cache yang diatur dalam pesan.
• Prompt sistem dan alat mempertahankan caching bahkan ketika parameter pemikiran berubah.

​

Contoh caching prompt dengan pemikiran yang diperluas

First request - establishing cache
First response usage: { cache_creation_input_tokens: 1365, cache_read_input_tokens: 0, input_tokens: 44, output_tokens: 725 }

Second request - same thinking parameters (cache hit expected)
Second response usage: { cache_creation_input_tokens: 0, cache_read_input_tokens: 1365, input_tokens: 386, output_tokens: 765 }

Third request - different thinking budget (cache hit expected)
Third response usage: { cache_creation_input_tokens: 0, cache_read_input_tokens: 1365, input_tokens: 811, output_tokens: 542 }

First request - establishing cache
First response usage: { cache_creation_input_tokens: 1370, cache_read_input_tokens: 0, input_tokens: 17, output_tokens: 700 }

Second request - same thinking parameters (cache hit expected)

Second response usage: { cache_creation_input_tokens: 0, cache_read_input_tokens: 1370, input_tokens: 303, output_tokens: 874 }

Third request - different thinking budget (cache miss expected)
Third response usage: { cache_creation_input_tokens: 1370, cache_read_input_tokens: 0, input_tokens: 747, output_tokens: 619 }

​

Max tokens dan ukuran jendela konteks dengan pemikiran yang diperluas

Dalam model Claude yang lebih lama (sebelum Claude 3.7 Sonnet), jika jumlah token prompt dan max_tokens melebihi jendela konteks model, sistem akan secara otomatis menyesuaikan max_tokens agar sesuai dengan batas konteks. Ini berarti Anda dapat mengatur nilai max_tokens yang besar dan sistem akan menguranginya secara diam-diam sesuai kebutuhan.

Dengan Claude 3.7 Sonnet, max_tokens (yang mencakup anggaran pemikiran Anda ketika pemikiran diaktifkan) diterapkan sebagai batas ketat. Sistem sekarang akan mengembalikan kesalahan validasi jika token prompt + max_tokens melebihi ukuran jendela konteks.

​

Bagaimana jendela konteks dihitung dengan pemikiran yang diperluas

Saat menghitung penggunaan jendela konteks dengan pemikiran yang diaktifkan, ada beberapa pertimbangan yang perlu diperhatikan:

• Blok pemikiran dari giliran sebelumnya dihapus dan tidak dihitung terhadap jendela konteks Anda
• Pemikiran giliran saat ini dihitung terhadap batas max_tokens Anda untuk giliran tersebut

Diagram di bawah ini menunjukkan manajemen token khusus ketika pemikiran yang diperluas diaktifkan:

Jendela konteks efektif dihitung sebagai:

jendela konteks =
  (token input saat ini - token pemikiran sebelumnya) +
  (token pemikiran + token pemikiran yang diredaksi + token output teks)

Kami merekomendasikan menggunakan API penghitungan token untuk mendapatkan hitungan token yang akurat untuk kasus penggunaan spesifik Anda, terutama saat bekerja dengan percakapan multi-giliran yang menyertakan pemikiran.

​

Mengelola token dengan pemikiran yang diperluas

Mengingat perilaku jendela konteks dan max_tokens baru dengan model pemikiran yang diperluas seperti Claude 3.7 Sonnet, Anda mungkin perlu:

• Lebih aktif memantau dan mengelola penggunaan token Anda
• Menyesuaikan nilai max_tokens seiring perubahan panjang prompt Anda
• Berpotensi menggunakan endpoint penghitungan token lebih sering
• Sadar bahwa blok pemikiran sebelumnya tidak terakumulasi dalam jendela konteks Anda

Perubahan ini telah dibuat untuk memberikan perilaku yang lebih dapat diprediksi dan transparan, terutama karena batas token maksimum telah meningkat secara signifikan.

​

Pemikiran yang diperluas dengan penggunaan alat

Saat menggunakan pemikiran yang diperluas dengan penggunaan alat, perhatikan pola perilaku berikut:

1. Giliran asisten pertama: Ketika Anda mengirim pesan pengguna awal, respons asisten akan menyertakan blok pemikiran diikuti oleh permintaan penggunaan alat.

2. Giliran hasil alat: Ketika Anda mengirimkan pesan pengguna dengan blok hasil alat, pesan asisten berikutnya tidak akan berisi blok pemikiran tambahan.

Untuk memperluas di sini, urutan normal percakapan penggunaan alat dengan pemikiran mengikuti langkah-langkah ini:

1. Pengguna mengirim pesan awal
2. Asisten merespons dengan blok pemikiran dan permintaan alat
3. Pengguna mengirim pesan dengan hasil alat
4. Asisten merespons dengan panggilan alat lebih banyak atau hanya teks (tidak ada blok pemikiran dalam respons ini)
5. Jika lebih banyak alat diminta, ulangi langkah 3-4 sampai percakapan selesai

Desain ini memungkinkan Claude untuk menunjukkan proses penalarannya sebelum membuat permintaan alat, tetapi tidak mengulangi proses pemikiran setelah menerima hasil alat. Claude tidak akan mengeluarkan blok pemikiran lain sampai setelah giliran user non-tool_result berikutnya.

Diagram di bawah ini mengilustrasikan manajemen token jendela konteks saat menggabungkan pemikiran yang diperluas dengan penggunaan alat:

{
    "content": [
        {
            "type": "thinking",
            "thinking": "The user wants to know the current weather in Paris. I have access to a function `get_weather`...",
            "signature": "BDaL4VrbR2Oj0hO4XpJxT28J5TILnCrrUXoKiiNBZW9P+nr8XSj1zuZzAl4egiCCpQNvfyUuFFJP5CncdYZEQPPmLxYsNrcs...."
        },
        {
            "type": "text",
            "text": "I can help you get the current weather information for Paris. Let me check that for you"
        },
        {
            "type": "tool_use",
            "id": "toolu_01CswdEQBMshySk6Y9DFKrfq",
            "name": "get_weather",
            "input": {
                "location": "Paris"
            }
        }
    ]
}

{
    "content": [
        {
            "type": "text",
            "text": "Currently in Paris, the temperature is 88°F (31°C)"
        }
    ]
}

​

Mempertahankan blok pemikiran

Selama penggunaan alat, Anda harus mengirimkan blok thinking dan redacted_thinking kembali ke API, dan Anda harus menyertakan blok lengkap yang tidak dimodifikasi kembali ke API. Ini penting untuk mempertahankan alur penalaran model dan integritas percakapan.

​

Mengapa blok pemikiran harus dipertahankan

Ketika Claude memanggil alat, ia menghentikan konstruksi respons untuk menunggu informasi eksternal. Ketika hasil alat dikembalikan, Claude akan melanjutkan membangun respons yang ada. Ini memerlukan pemeliharaan blok pemikiran selama penggunaan alat, karena beberapa alasan:

1. Kontinuitas penalaran: Blok pemikiran menangkap penalaran langkah demi langkah Claude yang mengarah ke permintaan alat. Ketika Anda mengirimkan hasil alat, menyertakan pemikiran asli memastikan Claude dapat melanjutkan penalarannya dari tempat ia berhenti.

2. Pemeliharaan konteks: Sementara hasil alat muncul sebagai pesan pengguna dalam struktur API, mereka adalah bagian dari alur penalaran yang berkelanjutan. Mempertahankan blok pemikiran mempertahankan alur konseptual ini di seluruh panggilan API yang beragam.

Penting: Saat menyediakan blok thinking atau redacted_thinking, seluruh urutan blok thinking atau redacted_thinking yang berurutan harus cocok dengan output yang dihasilkan oleh model selama permintaan asli; Anda tidak dapat mengatur ulang atau memodifikasi urutan blok ini.

​

Tips untuk memanfaatkan mode pemikiran yang diperluas dengan sebaik-baiknya

Untuk mendapatkan hasil maksimal dari pemikiran yang diperluas:

1. Tetapkan anggaran yang sesuai: Mulai dengan anggaran pemikiran yang lebih besar (16.000+ token) untuk tugas kompleks dan sesuaikan berdasarkan kebutuhan Anda.

2. Bereksperimen dengan anggaran token pemikiran: Model mungkin berkinerja berbeda pada pengaturan anggaran pemikiran maksimum yang berbeda. Meningkatkan anggaran pemikiran maksimum dapat membuat model berpikir lebih baik/keras, dengan trade-off latensi yang meningkat. Untuk tugas penting, pertimbangkan untuk menguji pengaturan anggaran yang berbeda untuk menemukan keseimbangan optimal antara kualitas dan kinerja.

3. Anda tidak perlu menghapus blok pemikiran sebelumnya sendiri: API Anthropic secara otomatis mengabaikan blok pemikiran dari giliran sebelumnya dan mereka tidak disertakan saat menghitung penggunaan konteks.

4. Pantau penggunaan token: Pantau penggunaan token pemikiran untuk mengoptimalkan biaya dan kinerja.

5. Gunakan pemikiran yang diperluas untuk tugas yang sangat kompleks: Aktifkan pemikiran untuk tugas yang mendapat manfaat dari penalaran langkah demi langkah seperti matematika, pengkodean, dan analisis.

6. Perhitungkan waktu respons yang diperpanjang: Pertimbangkan bahwa menghasilkan blok pemikiran dapat meningkatkan waktu respons keseluruhan.

7. Tangani streaming dengan tepat: Saat streaming, bersiaplah untuk menangani blok konten pemikiran dan teks saat mereka tiba.

8. Rekayasa prompt: Tinjau tips prompt pemikiran yang diperluas kami jika Anda ingin memaksimalkan kemampuan berpikir Claude.

​

Langkah selanjutnya