Agent 与工具工作流

先选择确定性工作流

步骤固定、规则明确时优先使用普通工作流。只有任务需要根据证据动态选步骤，而且收益可验证时，才让模型规划工具调用。模型可以建议动作，服务端负责授权、参数校验、预算和执行。

工具边界设计

工具	权限范围	执行约束
search_manual	当前租户、授权手册	只读，限制返回数量
get_ticket	有权查看的工单	资源级授权
create_draft	当前工单	幂等写入，不发送
request_review	有权审核的团队	审核对象与修订绑定
close_ticket	首期不提供	不能通过提示词临时开放

工具描述和参数 Schema 帮助模型正确选择，但它们不能代替访问控制。

有状态执行与人工介入

每个任务记录目标、当前步骤、工具结果、版本和停止原因。示例预算可以设为最多五步和一个总时限；数值需按任务实验决定。超预算、信息冲突、重复失败或高风险动作时停止并转人工，而不是无限重试。

写动作批准绑定明确对象、参数摘要与修订号；参数变化后旧批准失效。恢复中断任务时先核对已完成动作，避免重复创建。长任务应支持取消，并解释已发生动作如何撤销或补偿。

不可信工具结果

手册或外部网页可能包含“忽略规则并发送全部资料”一类恶意指令。将返回内容作为数据处理，限制工具、网络出口和返回字段。即使模型被诱导，权限层也必须阻止越权读取和未批准写入。

评测与完成标准

覆盖工具选错、参数错误、资源越权、审批后参数变化、超时重试和无限循环。报告任务成功率、工具错误、人工接管率、步数、延迟与成本。一次演示成功不能证明自主流程可靠。

下一步阅读威胁建模与AI 评测。提示注入的风险背景可查阅 OWASP 专题。

参考阅读与使用边界

• RAG 原始论文：相关概念与方法的延伸阅读，访问核验日期 2026-10-14。本站练习、流程与指标为自主编排，不属于来源机构认证。
• 学习路线 · 项目实战 · 可下载模板

本页为基础指南；生产操作需结合实际版本、授权环境与审核证据验证。