拡張思考を使った構築
拡張思考はClaudeに複雑なタスクのための強化された推論能力を提供し、最終的な回答を提供する前に、段階的な思考プロセスに対してさまざまなレベルの透明性を提供します。
サポートされているモデル
拡張思考は以下のモデルでサポートされています:
- Claude Opus 4 (
claude-opus-4-20250514
) - Claude Sonnet 4 (
claude-sonnet-4-20250514
) - Claude Sonnet 3.7 (
claude-3-7-sonnet-20250219
)
APIの動作はClaude 3.7とClaude 4モデルで異なりますが、APIの形状は全く同じです。
詳細については、モデルバージョン間の思考の違いをご覧ください。
拡張思考の仕組み
拡張思考がオンになると、Claudeは内部的な推論を出力するthinking
コンテンツブロックを作成します。Claudeは最終的な回答を作成する前に、この推論からの洞察を取り入れます。
APIレスポンスにはthinking
コンテンツブロックが含まれ、その後にtext
コンテンツブロックが続きます。
以下はデフォルトのレスポンス形式の例です:
拡張思考のレスポンス形式の詳細については、Messages APIリファレンスをご覧ください。
拡張思考の使用方法
以下はMessages APIで拡張思考を使用する例です:
拡張思考をオンにするには、thinking
パラメータをenabled
に設定し、budget_tokens
を拡張思考のための特定のトークン予算に設定したthinking
オブジェクトを追加します。
budget_tokens
パラメータは、Claudeが内部推論プロセスに使用できるトークンの最大数を決定します。Claude 4モデルでは、この制限は完全な思考トークンに適用され、要約された出力には適用されません。より大きな予算は、複雑な問題に対してより徹底的な分析を可能にすることで、応答品質を向上させることができますが、特に32k以上の範囲では、Claudeは割り当てられた予算全体を使用しない場合があります。
budget_tokens
はmax_tokens
より小さい値に設定する必要があります。ただし、ツールを使用したインターリーブ思考を使用する場合は、トークン制限がコンテキストウィンドウ全体(200kトークン)になるため、この制限を超えることができます。
要約された思考
拡張思考が有効になっている場合、Claude 4モデル用のMessages APIはClaudeの完全な思考プロセスの要約を返します。要約された思考は、拡張思考の完全な知性上の利点を提供しながら、誤用を防ぎます。
要約された思考に関する重要な考慮事項は次のとおりです:
- 元のリクエストによって生成された完全な思考トークンに対して課金され、要約トークンに対しては課金されません。
- 請求される出力トークン数は、レスポンスで表示されるトークン数と一致しません。
- 思考出力の最初の数行はより詳細で、特にプロンプトエンジニアリングの目的に役立つ詳細な推論を提供します。
- Anthropicが拡張思考機能の改善を求めるにつれて、要約の動作は変更される可能性があります。
- 要約は、最小限の追加レイテンシでClaudeの思考プロセスの主要なアイデアを保持し、ストリーム可能なユーザーエクスペリエンスとClaude 3.7モデルからClaude 4モデルへの簡単な移行を可能にします。
- 要約は、リクエストでターゲットとするものとは異なるモデルによって処理されます。思考モデルは要約された出力を見ません。
Claude Sonnet 3.7は引き続き完全な思考出力を返します。
Claude 4モデルの完全な思考出力へのアクセスが必要な稀なケースでは、セールスチームにお問い合わせください。
思考のストリーミング
サーバー送信イベント(SSE)を使用して、拡張思考レスポンスをストリーミングできます。
ストリーミングが拡張思考に対して有効になっている場合、thinking_delta
イベントを通じて思考コンテンツを受け取ります。
Messages APIを介したストリーミングに関する詳細なドキュメントについては、メッセージのストリーミングをご覧ください。
以下は思考を含むストリーミングの処理方法です:
ストリーミング出力の例:
思考が有効なストリーミングを使用する場合、テキストが時々より大きなチャンクで到着し、より小さなトークンごとの配信と交互に現れることがあります。これは特に思考コンテンツに対して予想される動作です。
ストリーミングシステムは最適なパフォーマンスのためにコンテンツをバッチで処理する必要があり、これによりこの「チャンキー」な配信パターンが生じ、ストリーミングイベント間に遅延が発生する可能性があります。私たちは継続的にこの体験を改善するよう取り組んでおり、将来のアップデートでは思考コンテンツがよりスムーズにストリーミングされることに焦点を当てています。
ツール使用と拡張思考
拡張思考はツール使用と併用でき、Claudeがツール選択と結果処理を推論できるようにします。
ツール使用と拡張思考を併用する場合、以下の制限に注意してください:
-
ツール選択の制限:思考を伴うツール使用は
tool_choice: any
のみをサポートします(specific
、auto
、またはその他の値はサポートされません)。 -
思考ブロックの保存:ツール使用中、最後のアシスタントメッセージの
thinking
ブロックをAPIに戻す必要があります。推論の連続性を維持するために、完全な未変更のブロックをAPIに戻してください。
思考ブロックの保存
ツール使用中は、thinking
ブロックをAPIに戻す必要があり、完全な未変更のブロックをAPIに戻す必要があります。これはモデルの推論フローと会話の整合性を維持するために重要です。
以前のassistant
ロールのターンからthinking
ブロックを省略することはできますが、マルチターン会話ではすべての思考ブロックを常にAPIに戻すことをお勧めします。APIは:
- 提供された思考ブロックを自動的にフィルタリングします
- モデルの推論を保持するために必要な関連する思考ブロックを使用します
- Claudeに表示されるブロックの入力トークンに対してのみ課金します
Claudeがツールを呼び出すとき、外部情報を待つために応答の構築を一時停止しています。ツール結果が返されると、Claudeはその既存の応答の構築を続けます。これにより、ツール使用中に思考ブロックを保存する必要があります。理由は次のとおりです:
-
推論の連続性:思考ブロックはツールリクエストにつながったClaudeのステップバイステップの推論をキャプチャします。ツール結果を投稿するとき、元の思考を含めることで、Claudeが中断した場所から推論を続けることができます。
-
コンテキストの維持:ツール結果はAPI構造ではユーザーメッセージとして表示されますが、それらは連続した推論フローの一部です。思考ブロックを保存することで、複数のAPI呼び出し間でこの概念的なフローが維持されます。コンテキスト管理の詳細については、コンテキストウィンドウに関するガイドをご覧ください。
重要:thinking
ブロックを提供する場合、連続したthinking
ブロックの全シーケンスは、元のリクエスト中にモデルによって生成された出力と一致する必要があります。これらのブロックのシーケンスを並べ替えたり変更したりすることはできません。
インターリーブ思考
Claude 4モデルでのツール使用を伴う拡張思考は、インターリーブ思考をサポートしており、これによりClaudeはツール呼び出しの間に考え、ツール結果を受け取った後により洗練された推論を行うことができます。
インターリーブ思考により、Claudeは以下のことができます:
- 次に何をするかを決定する前にツール呼び出しの結果について推論する
- 間に推論ステップを挟んで複数のツール呼び出しを連鎖させる
- 中間結果に基づいてより微妙な決定を下す
インターリーブ思考を有効にするには、APIリクエストにベータヘッダー interleaved-thinking-2025-05-14
を追加します。
インターリーブ思考はMessages APIを介して使用されるツールでのみサポートされています。
インターリーブ思考では、budget_tokens
はmax_tokens
パラメータを超えることができます。これは、1つのアシスタントターン内のすべての思考ブロック間の合計予算を表すためです。
プロンプトキャッシングと拡張思考
思考を伴うプロンプトキャッシングにはいくつかの重要な考慮事項があります:
思考ブロックのコンテキスト削除
- 以前のターンからの思考ブロックはコンテキストから削除され、キャッシュのブレークポイントに影響を与える可能性があります
- ツール使用で会話を続ける場合、思考ブロックはキャッシュされ、キャッシュから読み込まれるときに入力トークンとしてカウントされます
- これによりトレードオフが生じます:思考ブロックは視覚的にコンテキストウィンドウのスペースを消費しませんが、キャッシュされると入力トークンの使用量にカウントされます
- 思考が無効になると、現在のツール使用ターンで思考コンテンツを渡すとリクエストは失敗します。他のコンテキストでは、APIに渡された思考コンテンツは単に無視されます
キャッシュ無効化パターン
- 思考パラメータの変更(有効/無効または予算割り当て)によりメッセージキャッシュのブレークポイントが無効になります
- インターリーブ思考はキャッシュ無効化を増幅します。思考ブロックは複数のツール呼び出しの間に発生する可能性があるためです
- システムプロンプトとツールは、思考パラメータの変更やブロックの削除にもかかわらずキャッシュされたままです
思考ブロックのキャッシング動作の理解
ツール使用を伴う拡張思考を使用する場合、思考ブロックはトークンカウントに影響するキャッシング動作を示します:
仕組み:
- キャッシングはツール結果を含む後続のリクエストを行う場合にのみ発生します
- 後続のリクエストが行われると、以前の会話履歴(思考ブロックを含む)がキャッシュされる可能性があります
- これらのキャッシュされた思考ブロックは、キャッシュから読み込まれるときに使用量メトリクスの入力トークンとしてカウントされます
- ツール結果以外のユーザーブロックが含まれる場合、以前のすべての思考ブロックは無視され、コンテキストから削除されます
詳細なフロー例:
リクエスト1:
レスポンス1:
リクエスト2:
レスポンス2:
リクエスト2はリクエストコンテンツのキャッシュを書き込みます(レスポンスではありません)。キャッシュには元のユーザーメッセージ、最初の思考ブロック、ツール使用ブロック、およびツール結果が含まれます。
リクエスト3:
ツール結果以外のユーザーブロックが含まれているため、以前のすべての思考ブロックは無視されます。このリクエストは次のように処理されるのと同じです:
重要なポイント:
- このキャッシング動作は、明示的な
cache_control
マーカーがなくても自動的に発生します - この動作は通常の思考とインターリーブ思考のどちらを使用しても一貫しています
拡張思考を使用した最大トークン数とコンテキストウィンドウサイズ
古いClaudeモデル(Claude Sonnet 3.7より前)では、プロンプトトークンとmax_tokens
の合計がモデルのコンテキストウィンドウを超えた場合、システムは自動的にmax_tokens
を調整してコンテキスト制限内に収まるようにしていました。これにより、大きなmax_tokens
値を設定すると、システムは必要に応じて自動的にそれを削減していました。
Claude 3.7および4モデルでは、max_tokens
(思考が有効な場合は思考予算を含む)は厳格な制限として適用されます。現在、システムはプロンプトトークン + max_tokens
がコンテキストウィンドウサイズを超える場合、検証エラーを返します。
より詳細な説明については、コンテキストウィンドウに関するガイドをお読みください。
拡張思考を使用したコンテキストウィンドウ
思考が有効な場合のコンテキストウィンドウの使用量を計算する際に、注意すべきいくつかの考慮事項があります:
- 以前のターンからの思考ブロックは削除され、コンテキストウィンドウにカウントされません
- 現在のターンの思考はそのターンの
max_tokens
制限にカウントされます
以下の図は、拡張思考が有効な場合の特殊なトークン管理を示しています:
有効なコンテキストウィンドウは次のように計算されます:
特にマルチターン会話で思考を含む場合は、トークンカウントAPIを使用して、特定のユースケースの正確なトークン数を取得することをお勧めします。
拡張思考とツール使用を使用したコンテキストウィンドウ
ツール使用を伴う拡張思考を使用する場合、思考ブロックを明示的に保存し、ツール結果と共に返す必要があります。
ツール使用を伴う拡張思考の有効なコンテキストウィンドウ計算は次のようになります:
以下の図は、ツール使用を伴う拡張思考のトークン管理を示しています:
拡張思考を使用したトークンの管理
Claude 3.7および4モデルでの拡張思考を使用したコンテキストウィンドウとmax_tokens
の動作を考慮すると、以下のことが必要になる場合があります:
- トークン使用量をより積極的に監視および管理する
- プロンプトの長さが変更されるにつれて
max_tokens
値を調整する - トークンカウントエンドポイントをより頻繁に使用する可能性がある
- 以前の思考ブロックがコンテキストウィンドウに蓄積されないことを認識する
この変更は、特に最大トークン制限が大幅に増加したため、より予測可能で透明性のある動作を提供するために行われました。
思考の暗号化
完全な思考コンテンツは暗号化され、signature
フィールドで返されます。このフィールドは、APIに戻されたときに思考ブロックがClaudeによって生成されたことを検証するために使用されます。レスポンスをストリーミングする場合、署名はcontent_block_stop
イベントの直前にcontent_block_delta
イベント内のsignature_delta
を介して追加されます。
署名フィールドは以前のモデルよりも大幅に長くなることに注意してください。これは不透明なフィールドであり、解釈または解析すべきではありません - 検証目的のみに存在します。
思考ブロックを戻す必要があるのは、ツールを使用した拡張思考を使用する場合のみです。それ以外の場合は、以前のターンからの思考ブロックを省略するか、それらを戻した場合はAPIが削除するようにすることができます。
思考ブロックを戻す場合は、一貫性を保ち、潜在的な問題を避けるために、受け取ったすべてをそのまま戻すことをお勧めします。
思考の編集
時々、Claudeの内部推論が安全システムによってフラグが立てられることがあります。これが発生すると、thinking
ブロックの一部またはすべてを暗号化し、redacted_thinking
ブロックとして返します。redacted_thinking
ブロックはAPIに戻されるときに復号化され、Claudeがコンテキストを失うことなく応答を続けることができます。
拡張思考を使用する顧客向けアプリケーションを構築する場合:
- 編集された思考ブロックには人間が読めない暗号化されたコンテンツが含まれていることを認識してください
- 「Claudeの内部推論の一部が安全上の理由から自動的に暗号化されています。これは応答の品質に影響しません。」のような簡単な説明を提供することを検討してください
- ユーザーに思考ブロックを表示する場合、通常の思考ブロックを保持しながら編集されたブロックをフィルタリングできます
- 拡張思考機能を使用すると、時々一部の推論が暗号化される可能性があることを透明にしてください
- UIを壊さずに編集された思考を適切に処理するためのエラー処理を実装してください
以下は、通常の思考ブロックと編集された思考ブロックの両方を示す例です:
出力に編集された思考ブロックが表示されるのは予想される動作です。モデルは安全ガードレールを維持しながら、この編集された推論を使用して応答を提供できます。
アプリケーションで編集された思考の処理をテストする必要がある場合は、プロンプトとしてこの特別なテスト文字列を使用できます:ANTHROPIC_MAGIC_STRING_TRIGGER_REDACTED_THINKING_46C9A13E193C177646C7398A98432ECCCE4C1253D5E2D82641AC0E52CC2876CB
マルチターン会話でthinking
およびredacted_thinking
ブロックをAPIに戻す場合、最後のアシスタントターンに対して完全な未変更のブロックをAPIに戻す必要があります。これはモデルの推論フローを維持するために重要です。すべての思考ブロックを常にAPIに戻すことをお勧めします。詳細については、上記の思考ブロックの保存セクションをご覧ください。
モデルバージョン間の思考の違い
Messages APIはClaude Sonnet 3.7とClaude 4モデル間で思考を異なる方法で処理します。主に編集と要約の動作が異なります。
以下の表は簡潔な比較を示しています:
機能 | Claude Sonnet 3.7 | Claude 4モデル |
---|---|---|
思考出力 | 完全な思考出力を返す | 要約された思考を返す |
インターリーブ思考 | サポートされていない | interleaved-thinking-2025-05-14 ベータヘッダーでサポート |
価格
拡張思考は標準のトークン価格スキームを使用します:
モデル | 基本入力トークン | キャッシュ書き込み | キャッシュヒット | 出力トークン |
---|---|---|---|---|
Claude Opus 4 | $15 / MTok | $18.75 / MTok | $1.50 / MTok | $75 / MTok |
Claude Sonnet 4 | $3 / MTok | $3.75 / MTok | $0.30 / MTok | $15 / MTok |
Claude Sonnet 3.7 | $3 / MTok | $3.75 / MTok | $0.30 / MTok | $15 / MTok |
思考プロセスは以下に対して課金されます:
- 思考中に使用されるトークン(出力トークン)
- 後続のリクエストに含まれる最後のアシスタントターンからの思考ブロック(入力トークン)
- 標準のテキスト出力トークン
拡張思考が有効になっている場合、この機能をサポートするために特殊なシステムプロンプトが自動的に含まれます。
要約された思考を使用する場合:
- 入力トークン:元のリクエスト内のトークン(以前のターンからの思考トークンは除外)
- 出力トークン(請求):Claudeが内部的に生成した元の思考トークン
- 出力トークン(表示):レスポンスで見える要約された思考トークン
- 課金なし:要約を生成するために使用されるトークン
請求される出力トークン数は、レスポンスで表示されるトークン数と一致しません。表示される要約ではなく、完全な思考プロセスに対して課金されます。
拡張思考のベストプラクティスと考慮事項
思考予算の活用
- 予算の最適化: 最小予算は1,024トークンです。最小値から始めて、ユースケースに最適な範囲を見つけるために思考予算を段階的に増やすことをお勧めします。より高いトークン数はより包括的な推論を可能にしますが、タスクによっては収穫逓減があります。予算を増やすとレイテンシが増加するトレードオフで応答品質を向上させることができます。重要なタスクでは、最適なバランスを見つけるためにさまざまな設定をテストしてください。思考予算は厳密な制限ではなく目標であることに注意してください—実際のトークン使用量はタスクに基づいて変動する場合があります。
- 開始点: 複雑なタスクにはより大きな思考予算(16k+トークン)から始め、ニーズに基づいて調整してください。
- 大きな予算: 32kを超える思考予算については、ネットワークの問題を避けるためにバッチ処理を使用することをお勧めします。モデルに32kトークンを超えて考えさせるリクエストは、システムのタイムアウトやオープン接続制限に対して長時間実行されるリクエストを引き起こす可能性があります。
- トークン使用量の追跡: コストとパフォーマンスを最適化するために思考トークンの使用量を監視してください。
パフォーマンスの考慮事項
- 応答時間: 推論プロセスに必要な追加処理のため、潜在的に長い応答時間に備えてください。思考ブロックの生成が全体的な応答時間を増加させる可能性があることを考慮してください。
- ストリーミング要件:
max_tokens
が21,333を超える場合はストリーミングが必要です。ストリーミングする場合は、思考とテキストの両方のコンテンツブロックが到着したときに処理できるように準備してください。
機能の互換性
- 思考は
temperature
やtop_k
の変更、および強制ツール使用と互換性がありません。 - 思考が有効な場合、
top_p
を1から0.95の間の値に設定できます。 - 思考が有効な場合、応答を事前に入力することはできません。
- 思考予算を変更すると、メッセージを含むキャッシュされたプロンプトプレフィックスが無効になります。ただし、キャッシュされたシステムプロンプトとツール定義は、思考パラメータが変更されても引き続き機能します。
使用ガイドライン
- タスクの選択: 数学、コーディング、分析などのステップバイステップの推論から特に恩恵を受ける特に複雑なタスクに拡張思考を使用してください。
- コンテキスト処理: 以前の思考ブロックを自分で削除する必要はありません。Anthropic APIは以前のターンからの思考ブロックを自動的に無視し、コンテキスト使用量を計算するときに含まれません。
- プロンプトエンジニアリング: Claudeの思考能力を最大化したい場合は、拡張思考プロンプトのヒントを確認してください。