工具使用產生的額外 token 來自:

  • API 請求中的 tools 參數(工具名稱、描述和架構)
  • API 請求和響應中的 tool_use 內容塊
  • API 請求中的 tool_result 內容塊

當您使用 tools 時,我們還會自動為模型包含一個特殊的系統提示,以啟用工具使用。下面列出了每個模型所需的工具使用 token 數量(不包括上面列出的額外 token):

模型工具選擇工具使用系統提示 token 數量
Claude 3 Opusauto530 tokens
Claude 3 Opusany, tool281 tokens
Claude 3 Sonnetauto159 tokens
Claude 3 Sonnetany, tool235 tokens
Claude 3 Haikuauto264 tokens
Claude 3 Haikuany, tool340 tokens
Claude 3 Opus (legacy beta: tools-2024-04-04)auto395 tokens

這些 token 數量將添加到您的正常輸入和輸出 token 中,以計算請求的總成本。請參閱我們的模型概覽表以了解當前每個模型的價格。

當您發送工具使用提示時,就像任何其他 API 請求一樣,響應將輸出輸入和輸出 token 計數作為報告的 usage 指標的一部分。

請記住,工具使用通常需要在您的代碼和 Claude 之間進行多次往返(以執行工具並返回結果),因此單個最終用戶查詢可能會導致多個 API 請求和相關的 token 成本。設計您的工具和提示時要盡可能簡潔,同時仍然提供足夠的信息,以便 Claude 有效地使用工具。