Was bedeutet Human-in-the-Loop?
Wörtlich heißt der Begriff „der Mensch in der Schleife“. Die KI erledigt einen Großteil der Arbeit, an definierten Punkten entscheidet aber ein Mensch. Das kann eine Bestätigung sein, eine Korrektur oder eine bewusste Ablehnung.
Ein Beispiel: Ein KI-Agent bereitet die Antwort auf eine Kundenreklamation vor, inklusive Gutschrift. Bevor die E-Mail rausgeht und die Gutschrift gebucht wird, sieht die zuständige Mitarbeiterin den Vorschlag und gibt ihn frei oder ändert ihn.
Abgrenzung: in, on und out of the Loop
Bei Human-in-the-Loop braucht jede kritische Aktion eine Zustimmung. Bei Human-on-the-Loop arbeitet das System selbstständig, ein Mensch überwacht und kann eingreifen. Bei Human-out-of-the-Loop läuft der Prozess vollständig automatisch.
Sinnvoll ist meist eine Mischung. Routineaufgaben ohne Risiko, etwa das Sortieren von Dokumenten, laufen automatisch. Alles, was nach außen wirkt, Geld bewegt oder schwer rückgängig zu machen ist, bekommt einen Freigabeschritt.
Human-in-the-Loop in der Unternehmens-KI
Bei ELEVUM ist dieses Prinzip als Freigabe umgesetzt. Die KI kann E-Mails, Termine oder Änderungen im CRM vorbereiten, kritische Aktionen werden aber erst nach Bestätigung ausgeführt. Jeder Schritt landet im Audit-Log, sodass später nachvollziehbar ist, wer was veranlasst hat.
Auch regulatorisch spielt menschliche Aufsicht eine Rolle. Der EU AI Act fordert sie ausdrücklich für Hochrisiko-Systeme. Für alle anderen Einsätze ist sie schlicht gute Praxis, weil sie Vertrauen schafft und Fehler früh abfängt.