Der EU AI Act erklärt: Was Unternehmen, die KI-Tools nutzen, 2026 tun müssen

Der EU AI Act (KI-Verordnung) ist das weltweit erste umfassende KI-Gesetz, und er betrifft auch Unternehmen, die KI nur nutzen. Wenn Ihr Team ChatGPT, Copilot oder einen anderen KI-Assistenten bei der Arbeit verwendet, gilt ein Teil davon für Sie.

Dieser Leitfaden richtet sich an das typische Unternehmen, das KI-Tools nutzt, ohne sie zu entwickeln.

Anbieter oder Betreiber?

Der AI Act verteilt Pflichten nach Rolle. Anbieter entwickeln ein KI-System oder -Modell und bringen es in Verkehr (OpenAI, Google, Mistral usw.). Betreiber verwenden ein KI-System in eigener Verantwortung im beruflichen Kontext.

Wenn Ihre Mitarbeitenden einen KI-Assistenten nutzen, um E-Mails zu entwerfen, Dokumente zusammenzufassen oder Daten zu analysieren, ist Ihr Unternehmen Betreiber. Betreiberpflichten sind leichter als Anbieterpflichten, und sie wachsen schnell, je nachdem, wofür Sie die KI einsetzen.

Die Fristen

Der AI Act trat am 1. August 2024 in Kraft und gilt stufenweise:

Datum	Was gilt
2. Februar 2025	Verbotene KI-Praktiken und Pflicht zur KI-Kompetenz
2. August 2025	Regeln für KI-Modelle mit allgemeinem Verwendungszweck, Governance und Sanktionen
2. August 2026	Transparenzpflichten (Art. 50) und die meisten übrigen Bestimmungen
2. Dezember 2027	Hochrisiko-Systeme nach Anhang III (Beschäftigung, Kredit, Bildung …)
2. August 2028	Hochrisiko-KI in regulierten Produkten (Anhang I)

Die letzten beiden Daten haben sich 2026 geändert. Der Digital Omnibus zur KI, im Juni 2026 verabschiedet und seit Juli 2026 in Kraft, hat die Hochrisiko-Fristen verschoben, weil harmonisierte Normen und nationale Behörden noch nicht bereit waren. Die Regeln selbst gelten weiter.

KI-Kompetenz (bereits in Kraft)

Seit Februar 2025 verlangt Art. 4, dass Anbieter und Betreiber Maßnahmen ergreifen, um ein ausreichendes Maß an KI-Kompetenz bei Mitarbeitenden sicherzustellen, die KI-Systeme nutzen.

In der Praxis sollten Mitarbeitende wissen, was das Tool nicht kann (etwa, dass es falsche Antworten liefern kann), welche Daten sie eingeben dürfen und wie sie Ergebnisse prüfen, bevor sie sich darauf verlassen.

Eine Zertifizierung ist nicht vorgeschrieben, aber Sie sollten nachweisen können, was Sie getan haben: Schulungen, eine interne KI-Richtlinie, Vorgaben zu freigegebenen Tools. Hier sind die meisten Unternehmen bereits im Verzug.

Verbotene Anwendungen

Bestimmte Anwendungen sind schlicht verboten, darunter Social Scoring, manipulative Techniken, die Schwächen ausnutzen, das ungezielte Auslesen von Gesichtsbildern und die Emotionserkennung am Arbeitsplatz (außer aus medizinischen oder Sicherheitsgründen).

Der übliche Büroeinsatz von KI-Assistenten ist weit davon entfernt. Schlägt aber jemand vor, Videocalls der Mitarbeitenden zu analysieren, um „Engagement zu messen“, lautet die Antwort Nein.

Transparenz (seit August 2026)

Art. 50 führt Transparenzpflichten ein. Für Betreiber zählen vor allem drei:

Wenn Sie Deepfakes veröffentlichen (KI-erzeugte oder -manipulierte Bilder, Audio- oder Videoinhalte realer Personen, Orte oder Ereignisse), müssen Sie offenlegen, dass sie künstlich erzeugt sind.
Wenn Sie KI-generierten Text zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlichen, müssen Sie dies kennzeichnen, es sei denn, der Text wurde von Menschen geprüft und jemand trägt die redaktionelle Verantwortung.
Wenn Sie einen Chatbot einsetzen, der mit Kunden interagiert, müssen Menschen erfahren, dass sie mit einer KI sprechen, sofern das nicht offensichtlich ist.

Die interne Nutzung von KI für Entwürfe, die anschließend eine Person prüft und unterzeichnet, ist in der Regel nicht betroffen.

Hochrisiko-Anwendungen

Ein allgemeiner Chatbot ist für sich genommen kein Hochrisiko-System, aber seine Nutzung für einen Hochrisiko-Zweck kann Sie zum Betreiber eines Hochrisiko-Systems machen. Damit rechnen viele Unternehmen nicht. Anhang III umfasst Recruiting und Personal (Lebensläufe filtern, Bewerbende ranken, Leistung bewerten, über Beförderungen oder Kündigungen entscheiden), den Zugang zu wesentlichen Dienstleistungen (Kreditwürdigkeit prüfen, Lebens- und Krankenversicherungen bepreisen) und Bildung (Lernende bewerten oder über Zulassungen entscheiden).

Wenn Sie das tun, brauchen Sie ab Dezember 2027 menschliche Aufsicht, Überwachung, Protokollaufbewahrung, die Information betroffener Beschäftigter und teilweise eine Grundrechte-Folgenabschätzung. Unter dem AI Act bringt die Bitte an eine KI, „diese 200 Lebensläufe zu sortieren“, echte Pflichten mit sich. In Deutschland sind dabei zusätzlich die Mitbestimmungsrechte des Betriebsrats zu beachten.

Bußgelder

Sanktionen bemessen sich an einem festen Betrag oder einem Prozentsatz des weltweiten Jahresumsatzes, je nachdem, welcher höher ist (für KMU und Start-ups: welcher niedriger ist):

bis zu 35 Mio. Euro oder 7 % bei verbotenen Praktiken;
bis zu 15 Mio. Euro oder 3 % bei den meisten anderen Pflichten;
bis zu 7,5 Mio. Euro oder 1 % bei falschen Angaben gegenüber Behörden.

Die DSGVO gilt weiter

Der AI Act kommt zur DSGVO hinzu. Jedes Mal, wenn Mitarbeitende personenbezogene Daten in ein KI-Tool einfügen, stellen sich die üblichen DSGVO-Fragen: Rechtsgrundlage, Auftragsverarbeitungsvertrag, Drittlandübermittlung, Speicherdauer.

Welches Tool Sie wählen, bestimmt, wie viel dieses Risikos Sie tragen. Mit einem Assistenten, der Prompts Ende-zu-Ende verschlüsselt und in einer hardwaregesicherten Enklave verarbeitet, ohne Speicherung und ohne Training, ist der Großteil des Datenschutzrisikos ausgeräumt, bevor Sie mit Ihrer AI-Act-Bewertung beginnen. Mehr dazu in Ist ChatGPT DSGVO-konform?.

Aktionsplan in 5 Schritten

Listen Sie alle im Unternehmen genutzten KI-Tools auf, auch die, die niemand freigegeben hat.
Ordnen Sie die Anwendungsfälle ein: allgemeine Produktivität, kundenbezogen oder potenziell Hochrisiko (Personal, Kredit, Bildung).
Schreiben Sie eine KI-Richtlinie zu freigegebenen Tools, verbotenen Daten, Prüfung der Ergebnisse und Ansprechpartnern.
Schulen Sie Ihre Mitarbeitenden. Eine kurze, praxisnahe Schulung zur KI-Kompetenz reicht für den Anfang, und sie ist bereits Pflicht.
Wählen Sie Tools, die Risiken senken: AVV, Verarbeitung in der EU, kein Training und idealerweise Confidential Computing, damit der Anbieter Ihre Daten nicht sehen kann.

FAQ

Gilt der AI Act auch für Unternehmen, die nur ChatGPT nutzen?

Ja. Unternehmen, die KI-Systeme beruflich nutzen, sind „Betreiber“. Sie müssen mindestens die KI-Kompetenz ihrer Mitarbeitenden sicherstellen, verbotene Anwendungen vermeiden und Transparenzregeln einhalten. Die Pflichten steigen, wenn KI für Hochrisiko-Zwecke wie Personalauswahl eingesetzt wird.

Wurde der AI Act verschoben?

Teilweise. Der Digital Omnibus zur KI, seit Juli 2026 in Kraft, hat die Fristen für Hochrisiko-Systeme auf Dezember 2027 und August 2028 verschoben. Verbote, KI-Kompetenz, Regeln für KI mit allgemeinem Verwendungszweck und die meisten Transparenzpflichten behielten ihre ursprünglichen Termine.

Ist die Nutzung von KI zum Filtern von Lebensläufen Hochrisiko?

Ja. KI-Systeme für Recruiting und Auswahl, einschließlich des Filterns von Bewerbungen und der Bewertung von Bewerbenden, sind in Anhang III des AI Act als Hochrisiko eingestuft.

Muss ich Kunden sagen, dass ich ein Dokument mit KI erstellt habe?

In der Regel nicht. Die Offenlegungspflicht betrifft Deepfakes, Chatbots, die mit Menschen interagieren, und KI-generierte Texte, die ohne menschliche redaktionelle Prüfung zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden. Branchenregeln und Verträge können mehr verlangen.