Human in the Loop

Dort, wo etwas nicht mehr leicht rückgängig zu machen ist: buchen, bezahlen, versenden, zusagen. Im Rechnungseingang liest die AI die Rechnung, gleicht sie mit Bestellung und Lieferschein ab und schlägt die Buchung vor. Gebucht wird erst, wenn jemand aus der Buchhaltung freigibt.

Davon zu unterscheiden ist „Human on the Loop“. Dort handelt das System selbst, und ein Mensch überwacht es und greift bei Bedarf ein. Beide Formen beschreiben die Ethik-Leitlinien, die eine Expertengruppe der EU-Kommission 2019 vorgelegt hat.

Artikel 14 betrifft Hochrisiko-Systeme, etwa für Personalauswahl oder Kreditprüfung. Sie müssen so gebaut sein, dass sie „von natürlichen Personen wirksam beaufsichtigt werden können“. Für die meisten Anwendungen im Büro ist das keine Pflicht. Es bleibt trotzdem die einfachste Absicherung, gerade gegen Fehler und Prompt Injection.

Unsere Einschätzung. Die Freigabe kostet Sekunden, wenn die AI gut vorbereitet: Vorschlag, Begründung, markierte Abweichung. Teuer wird sie nur, wenn der Mensch alles noch einmal selbst machen muss. Unser Leitsatz: Die AI schlägt vor. Der Mensch entscheidet.