首页服务Helix AI方案联系我们博客
Français English Español Deutschع العربية 日本語
免费 AI 诊断
术语表

定义

人在回路(Human-in-the-loop)

一种设计原则:在 AI 系统的关键决策或操作执行之前,由人进行确认。

人在回路(HITL)在自动化流程中设置一个人工控制点:AI 负责准备,人负责决定。应用到 AI 智能体上,就是智能体起草的邮件须经审阅后才发送,提议的转账须经批准后才执行。

这既是日益增长的监管要求(AI Act 要求对高风险系统进行人工监督),也是运营上的常识:AI 的自主程度应根据每项操作的可逆性和影响范围来调整,而不是根据对模型的信任程度。

一个具体示例

智能体为客户投诉起草回复,并建议给予一定的补偿。在顾问审阅、按需修改并点击“发送”之前,任何内容都不会发出。

何时需要考虑

凡是会让公司或个人承担责任的操作:对外发送内容、付款、对某个案件作出决定、删除数据。而阅读和准备类的任务则可以自动运行。

常见问题

人工确认不会抵消节省下来的时间吗?

不会。节省的时间主要在检索和起草环节;审阅和确认只需几秒钟。这也正是让您的团队和客户愿意接受这一工具的原因。

主权 AI 的实践

所有 AI 模型,部署在您的基础设施上,连接您的文档。