工具调用前先让智能体复述将要改什么
【摘要】 有副作用的工具调用前,先复述对象、动作和结果;时间解析失败就不要编一个默认时刻写进去。
工具调用前先让智能体复述将要改什么
智能体一旦能改文件、跑命令,最怕的不是答错一句,而是悄悄改了一处你没注意到的地方。我在做一个生活助手原型时加了一条硬规则:真正调用会改状态的工具之前,先用一句话复述将要发生的变化。
什么要复述
只复述有副作用的动作:写入待办、改提醒时间、删除一条记录。纯查询不用打断。
复述要包含三样东西:对哪个对象、做什么、成功后用户能看到什么。例如“把明天 9 点的提醒改成 9 点 30,只改这一条”。
失败时不要猜
时间解析不出来,就不要编一个默认时刻写进去。把原句留在待办里,并注明“时间未识别”。宁可少做一步,也不要把错误时间写进提醒。
和权限一起看
复述不是安全边界。云上凭证仍然用临时密钥、最小权限。复述只解决“人能不能在执行前看懂这一步”。两件事一起做,回滚才有抓手。
这条规则很短,但能拦住大部分“它自己改完了我才发现”的情况。
【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)