电脑使用(测试版)
Claude 3.7 Sonnet 和 Claude 3.5 Sonnet(新版)能够与可以操控计算机桌面环境的工具进行交互。Claude 3.7 Sonnet 引入了额外的工具,并允许您启用思考功能,让您更深入地了解模型的推理过程。
电脑使用是一个测试版功能。请注意,电脑使用功能带来的风险与标准 API 功能或聊天界面的风险有所不同。当使用电脑使用功能来访问互联网时,这些风险会更加显著。为了最小化风险,请考虑采取以下预防措施:
- 使用具有最小权限的专用虚拟机或容器,以防止直接系统攻击或意外。
- 避免让模型访问敏感数据(如账户登录信息),以防止信息被盗。
- 将互联网访问限制在允许列表中的域名范围内,以减少接触恶意内容的风险。
- 对于可能产生重要现实后果的决定,以及任何需要明确同意的任务(如接受 cookie、执行金融交易或同意服务条款),请让人类进行确认。
在某些情况下,Claude 会遵循内容中找到的命令,即使这些命令与用户的指示相冲突。例如,网页上的 Claude 指令或图片中包含的指令可能会覆盖指令或导致 Claude 出错。我们建议采取预防措施,将 Claude 与敏感数据和操作隔离,以避免与提示注入相关的风险。
最后,在您自己的产品中启用电脑使用功能之前,请告知最终用户相关风险并获得他们的同意。
电脑使用参考实现
通过我们的电脑使用参考实现快速入门,其中包括 Web 界面、Docker 容器、示例工具实现和代理循环。
注意: 该实现已更新,包含了 Claude 3.7 Sonnet 的新工具。请确保拉取最新版本的代码库以访问这些新功能。
请使用此表单提供关于模型响应质量、API 本身或文档质量的反馈 - 我们迫不及待想听到您的意见!
以下是如何使用消息 API 为 Claude 提供电脑使用工具的示例:
电脑使用的工作原理
1. 为 Claude 提供电脑使用工具和用户提示
- 在您的 API 请求中添加 Anthropic 定义的电脑使用工具。
- 包含可能需要这些工具的用户提示,例如”将一张猫的图片保存到我的桌面。”
2. Claude 决定使用工具
- Claude 加载存储的电脑使用工具定义并评估是否有工具可以帮助解决用户的查询。
- 如果有,Claude 构建一个格式正确的工具使用请求。
- API 响应的
stop_reason
为tool_use
,表示 Claude 的意图。
3. 提取工具输入,在计算机上评估工具,并返回结果
- 在您的端,从 Claude 的请求中提取工具名称和输入。
- 在容器或虚拟机上使用该工具。
- 继续对话,发送一个包含
tool_result
内容块的新user
消息。
4. Claude 继续调用电脑使用工具,直到完成任务
- Claude 分析工具结果以确定是否需要更多工具使用或任务已完成。
- 如果 Claude 决定需要另一个工具,它会以另一个
tool_use
stop_reason
响应,您应该返回到步骤 3。 - 否则,它会为用户制作一个文本响应。
我们将步骤 3 和 4 的重复(无需用户输入)称为”代理循环” - 即 Claude 响应工具使用请求,而您的应用程序响应 Claude 并返回评估该请求的结果。
[继续翻译…]
Was this page helpful?