Definition
Ein Gestaltungsprinzip, bei dem ein Mensch die kritischen Entscheidungen oder Aktionen eines KI-Systems freigibt, bevor sie ausgeführt werden.
Human-in-the-Loop (HITL) setzt einen menschlichen Kontrollpunkt in einen automatisierten Prozess: Die KI bereitet vor, der Mensch entscheidet. Auf KI-Agenten angewendet heißt das: Eine vom Agenten verfasste E-Mail wird erst nach Prüfung versendet, und eine vorgeschlagene Überweisung wird erst nach Freigabe ausgeführt.
Es ist zugleich eine wachsende regulatorische Anforderung (die KI-Verordnung schreibt für Hochrisiko-Systeme eine menschliche Aufsicht vor) und eine Frage des gesunden Menschenverstands im Betrieb: Die Autonomie der KI richtet sich nach der Umkehrbarkeit und der Tragweite jeder Aktion, nicht nach dem Vertrauen in das Modell.
Ein Agent bereitet die Antwort auf eine Kundenreklamation vor und schlägt eine Kulanzgeste vor. Nichts wird versendet, bevor ein Berater sie geprüft, bei Bedarf korrigiert und auf „Senden“ geklickt hat.
Bei jeder Handlung, die das Unternehmen oder eine Person verpflichtet: etwas nach außen versenden, zahlen, über einen Vorgang entscheiden, Daten löschen. Lese- und Vorbereitungsaufgaben können dagegen eigenständig ablaufen.
Macht die menschliche Freigabe die Zeitersparnis nicht wieder zunichte?
Nein. Die meiste Zeit wird bei Recherche und Formulierung gespart; Prüfen und Freigeben dauert nur wenige Sekunden. Genau das macht das Werkzeug außerdem für Ihre Teams und Ihre Kunden akzeptabel.
Alle KI-Modelle, auf Ihrer Infrastruktur bereitgestellt, mit Ihren Dokumenten verbunden.