Der EU-AI-Act — die Verordnung (EU) 2024/1689 — weist die Verantwortung für den KI-Einsatz dem Unternehmen als Betreiber zu. Dass diese Pflicht im Haus bei der Geschäftsführung landet, folgt aus der Organverantwortung — sie kann die Umsetzung delegieren, die Letztverantwortung nicht. Wer KI-Systeme im Betrieb einsetzt, ist „Betreiber" im Sinne des Gesetzes — und trägt die Compliance-Last.
Art. 4: Schulungspflicht:
seit Februar 2025
Artikel 4 der KI-Verordnung heißt „KI-Kompetenz". Der Wortlaut: Anbieter und Betreiber von KI-Systemen „ergreifen Maßnahmen, um nach besten Kräften sicherzustellen", dass ihr Personal „über ein ausreichendes Maß an KI-Kompetenz" verfügt.
Vereinfacht gesagt: Wer im Betrieb irgendein KI-System nutzt — von ChatGPT über Copilot bis zur automatisierten Rechnungsprüfung — muss sicherstellen, dass die Mitarbeitenden wissen, was das System kann, was nicht, und wo Risiken liegen.
Diese Pflicht ist seit dem 2. Februar 2025 verbindlich. Nicht ab August 2026. Nicht für große Konzerne zuerst. Art. 4 gilt größenunabhängig für jedes Unternehmen, das KI-Systeme im Betrieb einsetzt — also praktisch für jeden, der in den vergangenen zwei Jahren Bürosoftware-Abos erneuert hat.
Das Gesetz schreibt kein Curriculum vor. Es fordert keine Zertifizierungen. Gemeint ist: angemessene, nachweisbare Maßnahmen — Schulungen, interne Richtlinien oder Multiplikatorenprogramme. Der häufigste Mangel ist die fehlende Dokumentation. Wer bei einer Behördenanfrage nicht belegen kann, dass er die Pflicht erfüllt hat, gilt als nicht compliant. Für Behördenanfragen setzen die Aufsichtsbehörden im Einzelfall Fristen — wer seine Dokumentation erst dann zusammensuchen muss, kommt zu spät.
Vier Risikoklassen
Welche KI läuft im Betrieb —
und was folgt daraus?
Der EU-AI-Act arbeitet mit einem risikobasierten Ansatz. Vier Klassen, von verboten bis harmlos:
Verbotene KI (Art. 5):
Acht Praktiken sind seit Februar 2025 untersagt: unterschwellige Manipulation, Ausnutzung schutzbedürftiger Personen, Social Scoring, Predictive Policing per Profiling, ungezielte Gesichtsdaten-Sammlung, Emotionserkennung am Arbeitsplatz, biometrische Kategorisierung nach sensiblen Merkmalen, Echtzeit-Biometrie im öffentlichen Raum. Bußgeld bei Verstoß: bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes — der jeweils höhere Wert gilt.
Hochrisiko-KI:
Darunter fallen KI-Systeme in Personalentscheidungen, Kreditbewertung, Bildungseinrichtungen, Medizintechnik und kritischer Infrastruktur. Ein Bewerbermanagementsystem, das Kandidaten automatisch sortiert, fällt in diese Klasse — unabhängig davon, wie der Anbieter es vermarktet. Maßgeblich ist der Verwendungszweck, nicht der Markenname. Vollständige Compliance-Pflichten für Hochrisiko-Systeme nach Anhang III: ab 2. Dezember 2027 (verschoben durch den Digital Omnibus on AI, vom Rat final beschlossen am 29. Juni 2026).] Bußgeld bei Verstößen gegen Hochrisiko-Pflichten: bis zu 15 Mio. EUR oder 3 % Jahresumsatz.
Begrenzte Risiko-KI
(Transparenzpflichten beachten)
Chatbots, Deepfake-Tools, KI-generierte Inhalte für öffentliche Kommunikation. Hier greift Art. 50 — Nutzer müssen wissen, dass sie mit einem KI-System interagieren. Diese Pflicht gilt ab 2. August 2026.
Minimales Risiko:
Spam-Filter, KI-gestützte Textvorschläge in der Bürosoftware, automatisierte Übersetzung. Keine spezifischen Pflichten — aber Art. 4 (Schulungspflicht) gilt trotzdem.
Entscheidend für die erste eigene Einschätzung: Eine KI-Inventur. Welche Systeme laufen im Betrieb? In welcher Abteilung? Für welchen Zweck? Die Risikoklasse folgt aus dem Zweck — nicht aus dem Produktnamen des Anbieters.]
Verantwortung der Leitung:
Was nicht delegiert werden kann
Die persönliche Haftung der Geschäftsführung für KI-Risiken ist kein neues Sonderrecht mit festem Startdatum. Sie folgt dauerhaft aus der Sorgfaltspflicht nach § 43 GmbHG und § 93 AktG — und besteht damit unabhängig vom EU-AI-Act. Neu ist lediglich, dass sich diese bestehende Haftung ausdrücklich auf die KI-Compliance erstreckt: Wer den EU-AI-Act missachtet und dem Unternehmen dadurch einen Schaden zufügt, verletzt seine Sorgfaltspflicht und haftet dafür persönlich gegenüber der Gesellschaft.
Wie groß diese Lücke ist, zeigt die Deloitte-Studie State of AI in the Enterprise 2026 (über 3.200 befragte Führungskräfte in 24 Ländern): Rund drei Viertel der Organisationen wollen KI-Agenten einsetzen, aber nur etwa jede fünfte verfügt über eine ausgereifte Governance dafür. Gartner erwartet zudem, dass bis Ende 2026 rund 40 % der Unternehmensanwendungen KI-Agenten einbetten — die Kontrolle hinkt der Verbreitung also deutlich hinterher. Genau das ist die Lücke, die den größten Haftungsrest erzeugt. ·
Was die Leitung konkret zu entscheiden hat — und was nicht delegiert werden kann:
KI-Richtlinie verabschieden
Eine schriftliche, unterzeichnete Unternehmensrichtlinie, die regelt, welche KI-Systeme eingesetzt werden dürfen, wer die Entscheidung trifft, wer die Nutzung überwacht und wie Vorfälle gemeldet werden. Diese Richtlinie ist Kernbeweis bei Behördenanfragen.
Verantwortlichen benennen
Das kann der Datenschutzbeauftragte sein, ein eigener KI-Beauftragter oder ein erweitertes IT-Steuerungsgremium. Unabhängig von der Lösung: Die Leitung trägt die Gesamtverantwortung und kann sie nicht vollständig wegdelegieren.
Schulungsnachweis sicherstellen
Art. 4 ist seit Februar 2025 bindend. Wer heute noch kein Schulungsprotokoll (Datum, Teilnehmer, Themen, Dauer) vorweisen kann, hat die Pflicht bereits verletzt. Die Leitung selbst braucht nach gängigem Empfehlungsmodell ca. vier Stunden Schulung auf strategischer und rechtlicher Ebene.]
Nachweislasten kennen
Eine allgemeine Beweislastumkehr für KI-Schäden gibt es nicht — die dafür geplante EU-KI-Haftungsrichtlinie hat die Kommission Anfang 2025 zurückgezogen. In den praktisch wichtigsten Konstellationen liegt die Nachweislast aber trotzdem beim Unternehmen: bei Datenschutzschäden über die Entlastungspflicht des Art. 82 Abs. 3 DSGVO, bei Diskriminierungs-Indizien über § 22 AGG, gegenüber der Aufsicht über die Rechenschaftspflicht (Art. 5 Abs. 2 DSGVO). Fehlt die Dokumentation, fehlt der Entlastungsbeweis — für das Unternehmen und, im Innenregress bei Pflichtverletzung, für die Leitung.
Die KI-Richtlinie keine Bürokratie — sondern Haftungsschutz
Was gehört in eine KI-Richtlinie für ein KMU? Kein 50-Seiten-Dokument. Fünf Seiten mit klaren Antworten auf fünf Fragen reichen als Ausgangsbasis:
Welche KI-Systeme setzt das Unternehmen ein — und für welchen Zweck? Welche Systeme sind freigegeben, welche nicht? Wer trägt die Verantwortung für die KI-Risikoklassifizierung? Wie werden Mitarbeitende geschult und wann wird das dokumentiert? Wie werden KI-Vorfälle gemeldet?
Die Richtlinie sollte von der Leitung unterzeichnet werden — das ist die sichtbare Übernahme der Verantwortung, die Art. 4 und das GmbH-Recht fordern. Cisco-Sicherheitsforschung zeigt, warum das keine Formalität ist: KI-Systeme sind im Gegensatz zu klassischer Software nicht deterministisch. Gleiche Eingabe, unterschiedliche Ausgabe. Das erfordert laufende menschliche Aufsicht — und die setzt eine klare Verantwortungsstruktur voraus.
Zum 9. Dezember 2026 läuft zudem die Umsetzungsfrist der neuen EU-Produkthaftungsrichtlinie (EU) 2024/2853 ab — das neue deutsche Produkthaftungsgesetz bezieht Software und KI-Systeme dann ausdrücklich in den Haftungsrahmen ein.
Das Wichtigste ist nicht die Sanktionshöhe — es ist die Beweislast
Bußgelder sind abstrakt. Die Beweislastumkehr ist konkret.
Eine allgemeine Beweislastumkehr für KI-Schäden gibt es nicht — die dafür vorgesehene EU-KI-Haftungsrichtlinie wurde Anfang 2025 zurückgezogen. In den praktisch wichtigsten Konstellationen liegt die Nachweislast trotzdem beim Unternehmen: Bei einem Datenleck haftet der Verantwortliche, wenn er sich nicht entlasten kann. Bei Indizien für eine diskriminierende Bewerberauswahl muss der Arbeitgeber beweisen, dass keine Benachteiligung vorlag. Und gegenüber der Aufsicht gilt die Rechenschaftspflicht (Art. 5 Abs. 2 DSGVO): Wer keine KI-Inventur, kein Schulungsprotokoll und keine unterzeichnete Richtlinie vorlegen kann, steht ohne Verteidigungslinie da. Kommt es zum Regress, haftet die Leitung nach den Regeln der Organhaftung.
Das ist der eigentliche Grund, warum KI-Governance zur Leitungsaufgabe geworden ist — nicht die Bußgeldtabelle.
Normtexte:
- KI-VO (EU) 2024/1689 — konsolidierter Volltext (EUR-Lex) — Art. 2 (Betreiber), Art. 4 (KI-Kompetenz), Art. 50 (Transparenz), Sanktionsrahmen
- VO (EU) 2026/1744 — Digital Omnibus on AI, Amtsblatt-Fassung (EUR-Lex) — Art.-4-Neufassung, Fristenverschiebung
- EU-Rat: Ratszustimmung Digital Omnibus on AI, 29.06.2026
Technischer Hintergrund:
- Cisco: „AI Application Security" — KI-Systeme als nicht-deterministische Systeme
- Cisco: „What Is AI Agent Security?" — Agentic AI, Haftungsrisiken autonomer Systeme
Fachbeiträge und Studien:
- EU AI Act Schulungspflicht — Compound Law
- EU AI Act 2026 Mittelstand — Sage
- EU AI Act persönliche Haftung Geschäftsführer — Börse Express
- EU AI Act Risikoklassen KMU — Secjur
- AI Act Risikoklassifizierung KMU — Cognuro
- EU-Kommission — AI Literacy: Questions & Answers (Art. 4 KI-VO)
- Deloitte — State of AI in the Enterprise 2026 — KI-Agenten-Adoption vs. Governance-Reife (n=3.200, 24 Länder)
- Gartner — AI Agent Governance (26.05.2026) — 40 % Enterprise-Apps mit KI-Agenten bis Ende 2026
