ヒューマン・イン・ザ・ループ（HITL）は、自動化されたプロセスに人のチェックポイントを置く考え方です。AIが準備し、人が決める。AIエージェントに当てはめると、エージェントが下書きしたメールは確認後にのみ送信され、提案された送金は承認後にのみ実行されます。
これは強まりつつある規制上の要件（AI Actは高リスクシステムに人による監督を義務付けています）であると同時に、運用上の常識でもあります。AIの自律性は、モデルへの信頼度ではなく、各操作の取り消しやすさと影響の大きさに応じて調整すべきです。
エージェントがお客様からのクレームへの返信を準備し、お詫びの対応を提案します。担当者が内容を確認し、必要に応じて修正して「送信」をクリックするまで、何も送信されません。
会社や個人に責任が生じるあらゆる操作が対象です。社外への送信、支払い、案件についての判断、データの削除などです。一方、読み取りや準備の作業は自動で実行して構いません。
人による承認を入れると、節約した時間が帳消しになりませんか？
いいえ。時間の大半は調査と文章作成で節約され、確認と承認には数秒しかかかりません。また、これこそがツールを社内のチームやお客様に受け入れてもらえる理由でもあります。