工具使用產生的額外 token 來自:

  • API 請求中的 tools 參數(工具名稱、描述和架構)
  • API 請求和響應中的 tool_use 內容塊
  • API 請求中的 tool_result 內容塊

當你使用 tools 時,我們還會自動為模型包含一個特殊的系統提示,以啟用工具使用。下面列出了每個模型所需的工具使用 token 數量(不包括上面列出的額外 token):

ModelTool use system prompt token count
Claude 3 Opus395 tokens
Claude 3 Sonnet159 tokens
Claude 3 Haiku264 tokens

這些 token 數量將添加到你的正常輸入和輸出 token 中,以計算請求的總成本。請參閱我們的模型概覽表以了解當前每個模型的價格。

當你發送工具使用提示時,就像任何其他 API 請求一樣,響應將輸出輸入和輸出 token 計數作為報告的 usage 指標的一部分。

請記住,工具使用通常需要在你的代碼和 Claude 之間進行多次往返(執行工具並返回結果),因此單個最終用戶查詢可能會導致多個 API 請求和相關的 token 成本。設計你的工具和提示時要盡可能簡潔,同時仍然提供足夠的信息讓 Claude 有效地使用工具。