AI-Lexikon

Agentic AI ist ein Sammelbegriff für AI, die nicht nur auf eine Frage antwortet, sondern eine Aufgabe in Schritte zerlegt und dabei Werkzeuge nutzt. Anthropic fasst darunter zwei Bauformen: feste Workflows und frei arbeitende Agenten. Eine verbindliche Definition gibt es nicht.

Mehr dazu: AI-Agenten im Unternehmen: Der gute fragt, bevor er bucht Quelle: Anthropic: Building effective agents, 19.12.2024

Der AI Act ist die Verordnung der EU über künstliche Intelligenz, die Verordnung (EU) 2024/1689. Er ordnet AI-Systeme nach ihrem Risiko und legt fest, was Anbieter und Betreiber tun müssen. Seit dem 2. August 2026 gilt er fast vollständig, einzelne Fristen hat der Digital Omnibus verschoben.

Mehr dazu: Der AI Act gilt. Nur nicht so, wie viele noch denken Quelle: Verordnung (EU) 2024/1689 (AI Act), EUR-Lex

Ein AI-Agent ist ein Programm, das mit einem Sprachmodell eine Aufgabe in mehreren Schritten selbst abarbeitet und dabei andere Systeme nutzt, etwa Postfach oder Buchhaltung. Anders als bei einem festen Ablauf bestimmt das Modell selbst, welchen Schritt es als Nächstes geht.

Mehr dazu: AI-Agenten im Unternehmen: Der gute fragt, bevor er bucht Quelle: Anthropic: Building effective agents, 19.12.2024

AI-Kompetenz sind nach dem AI Act die Fähigkeiten, Kenntnisse und das Verständnis, um AI-Systeme sachkundig einzusetzen und ihre Chancen und Risiken zu kennen. Wer AI im Unternehmen einsetzt, muss Maßnahmen ergreifen, die diese Kompetenz bei den Mitarbeitenden fördern. Ein bestimmtes Niveau garantieren muss er seit Juli 2026 nicht mehr.

Mehr dazu: Artikel 4 wurde entschärft. Was Sie trotzdem tun müssen Quelle: Verordnung (EU) 2024/1689, Artikel 3 Nr. 56 und Artikel 4 in der Fassung der Verordnung (EU) 2026/1744, EUR-Lex

Auftragsverarbeitung heißt: Ein Dienstleister verarbeitet personenbezogene Daten in Ihrem Auftrag, etwa der Anbieter eines AI-Werkzeugs. Die DSGVO verlangt dafür einen Vertrag, den Auftragsverarbeitungsvertrag (AVV). Ohne ihn gehören keine personenbezogenen Daten in das Werkzeug.

Mehr dazu: Privates ChatGPT-Konto? Für Firmendaten ist es immer rot Quelle: DSGVO, Artikel 28, EUR-Lex

Betreiber ist nach dem AI Act, wer ein AI-System in eigener Verantwortung verwendet, außer für rein private Zwecke. Ein Unternehmen, das Copilot oder ChatGPT im Betrieb nutzt, ist also Betreiber, der Hersteller ist Anbieter. An dieser Rolle hängen Pflichten wie die AI-Kompetenz nach Artikel 4.

Mehr dazu: Artikel 4 wurde entschärft. Was Sie trotzdem tun müssen Quelle: Verordnung (EU) 2024/1689, Artikel 3 Nr. 4, EUR-Lex

Die Datenampel ist unsere Hausregel, welche Firmendaten in welches AI-Werkzeug dürfen. Grün sind öffentliche Informationen und eigene Entwürfe, Gelb etwa Angebote und Kundendaten ohne Namen, die nur ins Firmenkonto mit Vertrag gehören. Rot sind Personal- und Gesundheitsdaten, Passwörter und Kalkulationen, und private Konten sind immer rot.

Mehr dazu: Privates ChatGPT-Konto? Für Firmendaten ist es immer rot Empfehlung von ADA Impact

Der Digital Omnibus zur AI ist die Verordnung (EU) 2026/1744, die den AI Act ändert. Sie gilt seit dem 27. Juli 2026, verschiebt die Pflichten für Hochrisiko-Systeme auf Dezember 2027 und August 2028 und hat Artikel 4 zur AI-Kompetenz abgeschwächt.

Mehr dazu: Der AI Act gilt. Nur nicht so, wie viele noch denken Quelle: Verordnung (EU) 2026/1744 (Digital Omnibus zur AI), EUR-Lex

Eine Halluzination ist eine Antwort eines Sprachmodells, die plausibel klingt, aber falsch ist, etwa eine erfundene Quelle oder ein falsches Datum. Laut OpenAI raten Modelle auch deshalb, weil die üblichen Tests Raten belohnen statt ehrlicher Unsicherheit. Quellen in der Antwort und ein Mensch, der prüft, helfen, sie zu erkennen.

Mehr dazu: RAG ausführlich Quelle: OpenAI: Warum Sprachmodelle halluzinieren, 5.9.2025

Ein Hochrisiko-System ist nach dem AI Act ein AI-System mit strengen Pflichten, weil es über Menschen mitentscheidet oder Teil eines regulierten Produkts ist, etwa bei Personalauswahl, Kreditprüfung oder Bildung. Die Pflichten gelten nach dem Digital Omnibus ab dem 2. Dezember 2027, für Produkte ab dem 2. August 2028. Ein Chat-Assistent im Büro ist in der Regel keins.

Mehr dazu: Der AI Act gilt. Nur nicht so, wie viele noch denken Quelle: Verordnung (EU) 2024/1689, Artikel 6 und Anhang III in der Fassung der Verordnung (EU) 2026/1744, EUR-Lex

Human in the Loop heißt: Ein Mensch ist fest in den Ablauf eingebaut und entscheidet an einer bestimmten Stelle, bevor die AI etwas auslöst. Die AI liest, sortiert und schlägt vor, der Mensch prüft und gibt frei. Für Hochrisiko-Systeme schreibt der AI Act vor, dass Menschen sie wirksam beaufsichtigen können.

Mehr dazu: Human in the Loop ausführlich Quelle: Verordnung (EU) 2024/1689, Artikel 14, EUR-Lex

Ein KI-Beauftragter koordiniert im Unternehmen, wie AI eingesetzt wird: Regeln, Schulungen, Freigaben. Der AI Act schreibt diese Rolle nicht vor. Auch Artikel 4 verlangt nur Maßnahmen zur AI-Kompetenz, keine bestimmte Person und kein Zertifikat.

Mehr dazu: Artikel 4 wurde entschärft. Was Sie trotzdem tun müssen Quelle: Verordnung (EU) 2024/1689, Artikel 4 in der Fassung der Verordnung (EU) 2026/1744, EUR-Lex

Microsoft Copilot, früher Microsoft 365 Copilot, ist Microsofts AI in Word, Excel, Outlook und Teams. Er arbeitet mit Mails, Chats und Dokumenten, auf die die jeweilige Person ohnehin Zugriff hat. Eingaben und Firmendaten nutzt Microsoft nach eigenen Angaben nicht zum Training der Modelle.

Mehr dazu: Privates ChatGPT-Konto? Für Firmendaten ist es immer rot Quelle: Microsoft Learn: Daten, Datenschutz und Sicherheit für Microsoft Copilot, Stand 9.7.2026

Bei einer Prompt Injection schmuggelt jemand Anweisungen in einen Text, den eine AI liest, und die AI befolgt sie, als kämen sie von Ihnen. Das geht über die Eingabe oder versteckt in Webseiten, Mails und Dateien. Eine sichere Abwehr gibt es bisher nicht, deshalb gibt vor jeder folgenreichen Aktion ein Mensch frei.

Mehr dazu: Prompt Injection ausführlich Quelle: OWASP: LLM01:2025 Prompt Injection

RAG steht für Retrieval Augmented Generation. Bevor die AI antwortet, sucht sie in Ihren eigenen Unterlagen nach passenden Stellen und baut die Antwort darauf auf. So antwortet sie mit Ihrem Firmenwissen statt nur aus dem Gedächtnis des Modells und kann zeigen, woher eine Aussage stammt.

Mehr dazu: RAG ausführlich Quelle: Lewis u. a.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS 2020

Shadow AI sind AI-Werkzeuge, die Mitarbeitende ohne Freigabe nutzen, meist mit privatem Konto. Dann landen Firmendaten bei einem Anbieter, mit dem Ihr Unternehmen keinen Vertrag hat. Ein freigegebenes Werkzeug mit klaren Regeln hilft meist mehr als ein Verbot.

Mehr dazu: Privates ChatGPT-Konto? Für Firmendaten ist es immer rot Empfehlung von ADA Impact

Ein Workflow ist ein fest programmierter Ablauf, in dem ein Sprachmodell einzelne Schritte übernimmt, etwa Lesen oder Zusammenfassen. Anders als beim Agenten steht die Reihenfolge vorher fest. Für klar umrissene Aufgaben ist das laut Anthropic verlässlicher.

Mehr dazu: AI-Agenten im Unternehmen: Der gute fragt, bevor er bucht Quelle: Anthropic: Building effective agents, 19.12.2024