人在回路(HITL)在自动化流程中设置一个人工控制点:AI 负责准备,人负责决定。应用到 AI 智能体上,就是智能体起草的邮件须经审阅后才发送,提议的转账须经批准后才执行。
这既是日益增长的监管要求(AI Act 要求对高风险系统进行人工监督),也是运营上的常识:AI 的自主程度应根据每项操作的可逆性和影响范围来调整,而不是根据对模型的信任程度。
智能体为客户投诉起草回复,并建议给予一定的补偿。在顾问审阅、按需修改并点击“发送”之前,任何内容都不会发出。
凡是会让公司或个人承担责任的操作:对外发送内容、付款、对某个案件作出决定、删除数据。而阅读和准备类的任务则可以自动运行。
人工确认不会抵消节省下来的时间吗?
不会。节省的时间主要在检索和起草环节;审阅和确认只需几秒钟。这也正是让您的团队和客户愿意接受这一工具的原因。