工具使用 (function calling)
工具使用定價和 token
工具使用請求的定價與任何其他 Claude API 請求相同,基於發送到模型的輸入 token 總數(包括在 tools
參數中)和生成的輸出 token 數量。
工具使用產生的額外 token 來自:
- API 請求中的
tools
參數(工具名稱、描述和架構) - API 請求和響應中的
tool_use
內容塊 - API 請求中的
tool_result
內容塊
當您使用 tools
時,我們還會自動為模型包含一個特殊的系統提示,以啟用工具使用。下面列出了每個模型所需的工具使用 token 數量(不包括上面列出的額外 token):
模型 | 工具選擇 | 工具使用系統提示 token 數量 |
---|---|---|
Claude 3 Opus | auto | 530 tokens |
Claude 3 Opus | any , tool | 281 tokens |
Claude 3 Sonnet | auto | 159 tokens |
Claude 3 Sonnet | any , tool | 235 tokens |
Claude 3 Haiku | auto | 264 tokens |
Claude 3 Haiku | any , tool | 340 tokens |
Claude 3 Opus (legacy beta: tools-2024-04-04 ) | auto | 395 tokens |
這些 token 數量將添加到您的正常輸入和輸出 token 中,以計算請求的總成本。請參閱我們的模型概覽表以了解當前每個模型的價格。
當您發送工具使用提示時,就像任何其他 API 請求一樣,響應將輸出輸入和輸出 token 計數作為報告的 usage
指標的一部分。
請記住,工具使用通常需要在您的代碼和 Claude 之間進行多次往返(以執行工具並返回結果),因此單個最終用戶查詢可能會導致多個 API 請求和相關的 token 成本。設計您的工具和提示時要盡可能簡潔,同時仍然提供足夠的信息,以便 Claude 有效地使用工具。