مراجعة بشرية (Human-in-the-loop)

يضع مفهوم Human-in-the-loop (HITL) نقطة تحكم بشرية داخل عملية مؤتمتة: الذكاء الاصطناعي يُعِدّ والإنسان يقرر. وعند تطبيقه على وكلاء الذكاء الاصطناعي، يعني ذلك أن البريد الإلكتروني الذي يصوغه الوكيل لا يُرسل إلا بعد مراجعته، وأن التحويل المقترح لا يُنفَّذ إلا بعد الموافقة عليه.

إنه في آن واحد متطلب تنظيمي متزايد (يفرض قانون الذكاء الاصطناعي الأوروبي الإشراف البشري على الأنظمة عالية المخاطر) ومسألة منطق عملي سليم: تُضبط استقلالية الذكاء الاصطناعي بحسب قابلية كل إجراء للتراجع ومدى ما ينطوي عليه من مخاطر، لا بحسب الثقة الممنوحة للنموذج.