Definición
Principio de diseño según el cual una persona valida las decisiones o acciones críticas de un sistema de IA antes de que se ejecuten.
El human-in-the-loop (HITL) introduce un punto de control humano en un proceso automatizado: la IA prepara, la persona decide. Aplicado a los agentes de IA, significa que un correo redactado por el agente solo se envía tras su revisión y que una transferencia propuesta solo se ejecuta tras su aprobación.
Es a la vez una exigencia regulatoria creciente (el Reglamento de IA impone la supervisión humana en los sistemas de alto riesgo) y una cuestión de sentido común operativo: la autonomía de la IA se calibra en función de la reversibilidad y la exposición de cada acción, no de la confianza depositada en el modelo.
Un agente prepara la respuesta a la reclamación de un cliente y propone un gesto comercial. No se envía nada hasta que un asesor la ha revisado, corregido si es necesario y ha hecho clic en «enviar».
Para cualquier acción que comprometa a la empresa o a una persona: enviar algo al exterior, pagar, resolver un expediente, eliminar datos. Las tareas de lectura y preparación, en cambio, pueden ejecutarse por sí solas.
¿La validación humana no anula el tiempo ahorrado?
No. La mayor parte del tiempo se ahorra en la búsqueda y la redacción; revisar y aprobar lleva unos segundos. Además, es lo que hace que la herramienta sea aceptable para sus equipos y para sus clientes.
Todos los modelos de IA, desplegados en su infraestructura, con sus documentos conectados.