工具调用 (function calling)
高效令牌工具使用(测试版)
升级后的 Claude 3.7 Sonnet 模型能够以令牌高效的方式调用工具。请求平均节省 14% 的输出令牌,最高可达 70%,这也减少了延迟。具体的令牌减少量和延迟改进取决于整体响应的形状和大小。
高效令牌工具使用是一个测试版功能。在生产环境中使用之前,请务必评估您的响应。
请使用此表单提供关于模型响应质量、API 本身或文档质量的反馈——我们迫不及待想听到您的意见!
高效令牌工具使用目前不支持 disable_parallel_tool_use
。
要使用此测试版功能,只需在使用 claude-3-7-sonnet-20250219
的工具使用请求中添加测试版标头 token-efficient-tools-2025-02-19
。如果您使用 SDK,请确保使用带有 anthropic.beta.messages
的测试版 SDK。
以下是如何使用 API 进行高效令牌工具使用的示例:
上述请求平均应该比普通请求使用更少的输入和输出令牌。要验证这一点,请尝试发出相同的请求,但从测试版标头列表中删除 token-efficient-tools-2025-02-19
。
为了保持提示缓存的好处,请为您想要缓存的请求始终使用测试版标头。如果您选择性地使用它,提示缓存将失效。