工具使用(function calling)
高效率工具使用(測試版)
升級後的 Claude 3.7 Sonnet 模型能夠以更節省 token 的方式呼叫工具。請求平均可節省 14% 的輸出 token,最高可達 70%,這也減少了延遲時間。確切的 token 減少量和延遲改善程度取決於整體回應的形狀和大小。
高效率工具使用是一項測試版功能。在生產環境中使用之前,請務必評估您的回應。
請使用此表單提供有關模型回應品質、API 本身或文件品質的意見回饋—我們迫不及待想聽到您的意見!
如果您選擇試用此功能,我們建議使用 Console 中的 Prompt Improver 來改善您的提示。
高效率工具使用目前不支援 disable_parallel_tool_use
。
要使用此測試版功能,只需在使用 claude-3-7-sonnet-20250219
的工具使用請求中添加測試版標頭 token-efficient-tools-2025-02-19
。如果您使用 SDK,請確保使用帶有 anthropic.beta.messages
的測試版 SDK。
以下是如何使用 API 進行高效率工具使用的範例:
上述請求應該平均比正常請求使用更少的輸入和輸出 token。要確認這一點,請嘗試發送相同的請求,但從測試版標頭列表中移除 token-efficient-tools-2025-02-19
。
為了保持提示快取的優勢,請在您想要快取的請求中一致使用測試版標頭。如果您選擇性地使用它,提示快取將會失敗。