KI-Governance 2026 — EU AI Act, DSGVO, DORA praktisch umsetzen

1. Die Termine — was gilt ab wann

Der EU AI Act (Verordnung 2024/1689) ist am 01. August 2024 in Kraft getreten und gestaffelt anwendbar (Quelle: EUR-Lex):

• 02. Februar 2025: Verbote (Social Scoring, Predictive Policing für individuelle Risikoeinschätzung, ungezielte Gesichtserkennung aus dem Internet)
• 02. August 2025: Pflichten für General-Purpose-AI-Modelle (GPAI) — betrifft Anbieter wie OpenAI, Anthropic, Mistral, Meta
• 02. August 2026: Transparenzpflichten nach Art. 50 — Chatbot-Kennzeichnung, KI-Inhalts-Kennzeichnung, Deepfake-Kennzeichnung. Plus volle Anwendbarkeit der Pflichten für Hochrisiko-KI in regulierten Produkten (Anhang I)
• 02. August 2027: Volle Anwendbarkeit für Hochrisiko-KI aus Anhang III (Eigenständige Use-Cases)

Praktisch bedeutet das: Mai-Juli 2026 ist der entscheidende Vorlauf. Wer im August 2026 vom Auslandsmarkt nicht zurückgenommen werden will, muss spätestens jetzt die KI-Inventur, Risiko-Klassifikation und Disclosure-Architektur abgeschlossen haben. Quelle für Termin-Details: artificialintelligenceact.eu/article/50.

2. Risiko-Klassifikation — vier Stufen

Der AI Act klassifiziert KI-Systeme in vier Risikostufen:

Für die meisten DACH-Mittelstands-Use-Cases 2026 ist die Einstufung „begrenztes Risiko" — Chatbots, semantische Suche, Dokumenten-Klassifikation. Hochrisiko trifft Banken (Kreditbewertung), HR-Anbieter (Bewerber-Screening), Healthcare (klinische Entscheidungs-Unterstützung) und Energieversorger (Netzleit-Systeme).

3. Art. 50 Transparenzpflichten im Detail

Vier Säulen nach Art. 50 (Quelle: anwalt.de):

Säule 1 — Chatbot-Kennzeichnung (Art. 50 Abs. 1): Natürliche Personen, die mit einem KI-System interagieren, müssen das erkennen können. Praxis: visueller Hinweis am Anfang jeder Konversation, etwa „Sie chatten mit einer KI-Assistentin". Ausnahmen: wenn die Interaktion offensichtlich ist (sehr eingeschränkt anwendbar) oder bei Strafverfolgung.

Säule 2 — Synthetische Inhalte (Art. 50 Abs. 2): Anbieter von Systemen, die synthetischen Audio-, Bild-, Video- oder Textinhalt erzeugen, müssen technische Maßnahmen treffen, damit die Outputs als KI-generiert markiert sind — maschinenlesbar (Wasserzeichen, Metadaten) und nachweisbar. Das trifft primär die Modell-Anbieter (OpenAI, Anthropic, Google), nicht die Endnutzer.

Säule 3 — Emotion- und biometrische Kategorisierungs-Systeme (Art. 50 Abs. 3): Betroffene Personen müssen vor Einsatz informiert werden. Anwendungsbeispiele: Sprach-Analyse im Call-Center, Stimmungs-Erkennung in Bewerber-Interviews. Stark eingeschränkt durch DSGVO.

Säule 4 — Deepfakes und KI-generierte Inhalte zu Themen öffentlichen Interesses (Art. 50 Abs. 4): Müssen offengelegt werden. Ausnahme: Bei redaktioneller menschlicher Verantwortungsübernahme und Veröffentlichung im Rahmen journalistischer oder künstlerischer Werke entfällt die pauschale Kennzeichnungspflicht. Diese Ausnahme ist die Grundlage der Editorial-Policy von data-backbone (siehe Transparenz-Seite).

Sanktionen bei Verstoß: bis 15 Mio. € oder 3 % des weltweiten Jahresumsatzes (Quelle: ecovis.com).

4. DSGVO + KI — die Schnittstellen

DSGVO und AI Act sind komplementär, nicht ersetzend. Bei der KI-Implementierung in DACH sind drei DSGVO-Punkte besonders relevant:

Art. 22 (Automatisierte Einzelentscheidung): Eine ausschließlich automatisierte Entscheidung mit rechtlicher Wirkung oder erheblicher Beeinträchtigung ist nur erlaubt, wenn sie zur Vertragserfüllung erforderlich, durch Gesetz erlaubt oder ausdrücklich eingewilligt ist. Bei Hochrisiko-KI typisch: Human-in-the-Loop ist sowohl AI-Act-Anforderung als auch DSGVO-Schutz vor Art.-22-Verstoß.

Art. 35 (Datenschutz-Folgenabschätzung): Pflicht bei umfangreicher systematischer Bewertung personenbezogener Aspekte. Praktisch fast jede produktive KI mit Mitarbeiter- oder Kundendaten erfordert eine DSFA. Diese sollte zusammen mit der AI-Act-Folgenabschätzung erstellt werden — die Überschneidungen sind groß.

Schrems II und US-LLM-APIs: Die Verarbeitung personenbezogener Daten in den USA bleibt rechtlich heikel. Lösungsansätze 2026: EU-Hosting bei US-Hyperscalern (Microsoft Azure Westeurope mit Confidential Computing, Anthropic via AWS Frankfurt), europäische Modelle (Mistral) oder Auftragsverarbeitungs-Verträge mit Standardvertragsklauseln plus Transfer-Impact-Assessment.

5. DORA für Finanzdienstleister

Die Digital Operational Resilience Act (Verordnung 2022/2554) gilt seit dem 17. Januar 2025 für alle EU-Finanzdienstleister. Für KI-Systeme bedeutet das vier konkrete Anforderungen: Erstens, Klassifizierung der KI-Anbieter als kritische IKT-Drittanbieter — bei wenigen großen LLM-Anbietern entstehen Konzentrationsrisiken, die explizit bewertet werden müssen. Zweitens, regelmäßige Resilienz-Tests einschließlich Threat-Led Penetration Testing (TLPT) für signifikante Institute. Drittens, Incident-Reporting an die Aufsichtsbehörden — mit klaren Eskalations-Pfaden und Fristen. Viertens, vertragliche Mindeststandards mit IKT-Drittanbietern, die für KI-Anbieter oft nicht standardmäßig erfüllt sind und individuell verhandelt werden müssen.

NIS-2 (Richtlinie 2022/2555) ergänzt für weitere kritische Sektoren — Energie, Transport, Gesundheit, Trinkwasser, digitale Infrastruktur. Die deutsche Umsetzung über das NIS2UmsuCG ist Stand Juni 2026 noch in parlamentarischer Beratung, die Anforderungen sind aber inhaltlich bereits absehbar.

6. Betriebsrats-Mitbestimmung bei KI

§ 87 Abs. 1 Nr. 6 BetrVG: Mitbestimmung bei der Einführung technischer Einrichtungen, die zur Überwachung von Verhalten oder Leistung der Arbeitnehmer geeignet sind. KI-Systeme, die Mitarbeiter-Daten verarbeiten — von Performance-Tracking über Bewerber-Screening bis zu KI-Assistenten in Outlook — fallen typischerweise darunter, auch wenn Überwachung nicht der primäre Zweck ist.

Eine Betriebsvereinbarung KI ist 2026 zunehmend Standard und sollte folgende Punkte adressieren:

• Anwendungsbereich (welche KI-Systeme, welche Mitarbeitergruppen)
• Datenarten (was wird verarbeitet, was nicht)
• Zweckbindung (wofür dürfen die KI-Outputs genutzt werden)
• Aufbewahrungs- und Löschfristen
• Schulungspflichten
• Eskalations-Wege bei Fehlentscheidungen oder Fehl-Outputs
• Mitwirkungs- und Auskunftsrechte des Betriebsrats

Eine BV KI ohne Beteiligung des Betriebsrats vereinbart zu sein ist nicht nur rechtlich angreifbar, sondern führt regelmäßig zu Eskalationen, die deutlich mehr Zeit kosten als die initiale Verhandlung. Bei großen Unternehmen mit Gesamtbetriebsrat empfiehlt sich eine Konzern-Rahmen-BV, die einzelnen Betriebsräten konkrete Use-Case-Vereinbarungen ermöglicht.

7. KI-Folgenabschätzung (FRIA) — Pflicht und Praxis

Nach Art. 27 AI Act ist die Fundamental Rights Impact Assessment (FRIA) Pflicht für Betreiber von Hochrisiko-KI-Systemen, die öffentliche Stellen sind oder im Auftrag öffentlicher Stellen handeln — sowie für bestimmte private Betreiber (insbesondere bei wesentlichen privaten Dienstleistungen wie Kreditvergabe oder Versicherungen).

Inhalt einer FRIA:

• Beschreibung des Anwendungsbereichs und der Nutzungs-Häufigkeit
• Identifikation der betroffenen Personen-Kategorien
• Bewertung spezifischer Risiken für Grundrechte (z. B. Diskriminierung, Privatsphäre, Meinungsfreiheit)
• Beschreibung der Maßnahmen zur Risiko-Minderung
• Beschwerde- und Eskalations-Mechanismen

Die FRIA ist parallel zur DSGVO-Folgenabschätzung (DSFA nach Art. 35 DSGVO) zu erstellen. Praktisch lassen sich beide in einem konsolidierten Dokument zusammenführen, das die spezifischen Anforderungen der jeweiligen Verordnung adressiert. Im DACH-Mittelstand 2026 ist das Wissen über FRIA noch sehr begrenzt — Anwaltskanzleien wie Lausen, KI-Kanzlei oder die KI-League haben erste Praxis-Leitfäden publiziert.

8. Audit-Trail-Architektur

Eine technisch belastbare Audit-Trail-Architektur für KI-Systeme dokumentiert für jedes generierte Output:

• Welches Modell wurde verwendet (Name, Version, Anbieter)
• Welcher Prompt (oder welche Frage) wurde gestellt
• Welche Quellen wurden im Kontext bereitgestellt (bei RAG: konkrete Chunk-IDs und ihre Herkunft)
• Welche Antwort wurde generiert
• Wer hat wann die Antwort gesehen, geprüft, freigegeben oder bearbeitet
• Welche nachgelagerten Aktionen wurden ausgelöst

Diese Architektur ist die operative Voraussetzung für Konformitäts-Bewertung, FRIA, DSGVO-Auskunft und potenzielle Schadensersatz-Verfahren. Implementations-technisch landet sie typischerweise in einer Kombination aus strukturierter Datenbank (für die Beziehungs-Logik), Object Storage (für die Volltexte) und Indexierung für schnelle Abfragen.

Wer hier bei der Architektur-Entscheidung KI-Backbones bevorzugt (siehe Pillar KI-Backbone), bekommt Audit-Trail oft als Plattform-Funktion mitgeliefert. Wer pro Use-Case eigene Architekturen baut, muss Audit-Trail jedes Mal von Grund auf neu konzipieren.

9. Praxis-Checkliste bis 02. August 2026

Eine pragmatische Sechs-Punkte-Checkliste für DACH-Mittelstands-Organisationen bis zum 02. August 2026:

1. KI-Inventur: Liste aller produktiv genutzten KI-Systeme erstellen. Auch Schatten-IT (Mitarbeiter-private ChatGPT-Accounts mit Unternehmens-Daten) erfassen.
2. Risiko-Klassifikation pro System: Verboten / Hochrisiko / Begrenzt / Minimal. Dokumentation mit Begründung.
3. Disclosure-Pattern aktivieren: Chatbot-Kennzeichnung, KI-Inhalts-Hinweise, ggf. Watermarking für generierte Bilder.
4. Audit-Trail prüfen: Ist für jedes KI-System nachvollziehbar, welcher Output wann von wem generiert/freigegeben wurde?
5. Betriebsvereinbarung: Mit Betriebsrat sprechen, ggf. Rahmen-BV oder Use-Case-BV abschließen.
6. Hochrisiko-Use-Cases vorbereiten: Falls vorhanden — FRIA + DSFA + Konformitäts-Bewertung + EU-Register-Eintragung planen (kann mehrere Monate dauern).

Wer diese Checkliste bis Juli 2026 abarbeitet, ist im operativen Modus, wenn die Pflichten am 02. August greifen. Wer erst dann beginnt, ist sechs bis neun Monate im Verzug — die Aufsichts-Behörden werden in der initialen Phase voraussichtlich auf grobe Fehlverhalten fokussieren, aber strukturelle Compliance-Lücken werden bei jeder zukünftigen Beanstandung relevant.

10. Wer hilft bei der KI-Governance-Umsetzung?

Drei Anbieter-Kategorien sind 2026 für die Governance-Umsetzung in DACH relevant: Spezialisierte Anwaltskanzleien (z. B. Lausen, KI-Kanzlei, Bird & Bird, Noerr) für rechtliche Auslegung und FRIA/DSFA-Erstellung. Beratungshäuser mit KI-Compliance-Praxis (Lünendonk listet für 2025 KI-Beratung mit +19 % Wachstum, siehe Lünendonk) für operative Implementation. Technische Tool-Anbieter für Audit-Trail-Systeme, Governance-Workflows und Risiko-Bewertungs-Frameworks (Credo AI, Holistic AI, Saidot — meist US-/EU-startups).

Für den DACH-Mittelstand ist die Kombination aus juristischer Erstberatung (Klassifikation und FRIA), Beratungs-Begleitung (operative Pattern) und einer einfachen Tool-Lösung (Spreadsheet plus Audit-Trail im bestehenden Stack) oft ausreichend. Spezial-Tools rechtfertigen sich erst bei 10+ KI-Systemen oder bei Hochrisiko-Klassifikation.

11. Kosten-Realität für KI-Governance 2026

Indikative Spannen aus Beratungs-Praxis (variieren stark nach Organisations-Größe und Komplexität):

• Erste Inventur + Klassifikation (Pilot-Phase): 10.000-30.000 € einmaliger Aufwand
• FRIA + DSFA pro Hochrisiko-System: 8.000-25.000 € einmalig pro System, plus jährliche Aktualisierung 2.000-5.000 €
• Operative KI-Governance-Funktion (Mittelstand 500-2.000 MA): 0,5-1,5 Vollzeit-Stellen-Äquivalente, intern oder extern
• Konformitäts-Bewertung externer Stelle für Hochrisiko-Systeme: 15.000-80.000 € pro System (vergleichbar mit CE-Konformität für Medizinprodukte)

Bei Vermeidung der Compliance besteht das Risiko von Bußgeldern bis 15 Mio. € oder 3 % des weltweiten Jahresumsatzes. Plus Reputations-Risiko bei öffentlicher Beanstandung. Die ökonomische Rechnung ist eindeutig — Compliance-Kosten sind eine Größenordnung kleiner als das Sanktions-Risiko, von Folgekosten (Imagee-Schaden, Vertrauensverlust bei Kunden) ganz abgesehen.

12. data-backbone-Haltung und eigene Compliance

Die Plattform data-backbone wendet die hier dokumentierten Prinzipien auf sich selbst an. Editorial mit KI-Assistenz bei expliziter menschlicher Verantwortungsübernahme — siehe Methodik und Transparenz. KI-Disclosure im Footer jeder Article-Page. Schrems-II-konforme Tool-Wahl im Editorial-Workflow. Vorbild für Leser: Compliance ist nicht etwas, was andere Unternehmen tun müssen, während man selbst Inhalte konsumiert — sie ist Pflicht für jeden, der KI produktiv einsetzt.

Wir empfehlen drei konkrete Folge-Lektüren zur Vertiefung: die spezialisierte Glossar-Einzelseite zum EU AI Act, den Glossar-Eintrag zur DORA-Verordnung sowie den vertieften Spoke zur EU-AI-Act-Praxis im Immobilien-Vertical als Branchen-Beispiel. Alle drei werden über die Vertiefungs-Liste unten erreicht.

13. Internationaler Kontext — Brüssel als Pionier

Der EU AI Act ist Stand 2026 das umfassendste KI-Gesetz weltweit. Die internationale Wirkung ist erheblich, weil viele Anbieter ihre Compliance-Architektur global vereinheitlichen — wer EU-konform ist, ist meist auch für andere Regionen vorbereitet (das sogenannte „Brussels Effect"). Drei wichtige internationale Vergleichspunkte:

USA: Kein bundesweites KI-Gesetz, aber regulatorische Aktivität auf Bundes- und Bundesstaaten-Ebene. Colorado AI Act (in Kraft seit Februar 2026) ist erstes US-Bundesstaaten-Gesetz mit Hochrisiko-Klassifikation, deutlich inspiriert vom EU AI Act. Texas, New York, Kalifornien haben weitere Initiativen. Federal Executive Orders unter wechselnden Administrationen schaffen Unsicherheit. Für DACH-Unternehmen mit US-Kunden: EU-Compliance reicht meist als Ober-Standard.

Vereinigtes Königreich: Nach dem Brexit nicht an den EU AI Act gebunden. UK verfolgt 2026 einen sektoral-prinzipienbasierten Ansatz ohne umfassendes KI-Gesetz. Für DACH-Unternehmen mit UK-Geschäft kommt im Wesentlichen UK GDPR (weitgehend deckungsgleich mit DSGVO) plus sektorspezifische Regeln (Financial Conduct Authority, Information Commissioner's Office) zur Anwendung.

Schweiz: Kein vergleichbares KI-Gesetz, aber das revidierte Datenschutzgesetz (revDSG, in Kraft seit September 2023) deckt viele DSGVO-Aspekte ab. Schweizer Unternehmen mit EU-Geschäft müssen den EU AI Act dennoch beachten. Schweizerische Banken und Versicherer arbeiten bereits weitgehend nach EU-Standards.

Praxis-Faustregel für DACH-Unternehmen 2026: EU AI Act + DSGVO + ggf. DORA als Grundgerüst, US-Bundesstaaten-Anforderungen ergänzend prüfen, UK und Schweiz fallen meist unter den EU-Schirm.

14. Ausblick 2027 — was als Nächstes kommt

Zwei Entwicklungen sind 2026/27 für die KI-Governance-Praxis besonders relevant. Erstens: Am 02. August 2027 wird die volle Anwendbarkeit der Pflichten für Hochrisiko-KI-Systeme aus Anhang III des EU AI Acts wirksam. Wer 2026 bereits Hochrisiko-Use-Cases identifiziert hat, hat ein Jahr Vorlauf für Konformitäts-Bewertung, EU-Register-Eintragung und FRIA-Erstellung. Wer erst 2027 anfängt, ist strukturell zu spät.

Zweitens: Der AI Act sieht periodische Überprüfung und mögliche Ergänzungen vor. Erwartet werden bis 2028: präzisierte technische Standards (durch das AI Office), erste Bußgeld-Entscheidungen mit Präzedenz-Wirkung, Anpassungen bei General-Purpose-AI-Modellen, sowie Klarstellung zu Open-Source-Modellen (wo der Geltungsbereich derzeit umstritten ist).

Daneben wird die Konsolidierung mit DSA (Digital Services Act), Data Act, NIS-2 und Cyber Resilience Act zu einem zunehmend integrierten EU-Digital-Regelwerk führen. Unternehmen, die heute saubere Governance-Strukturen aufbauen, werden 2027/28 erheblich weniger Anpassungs-Aufwand haben als jene, die einzelne Verordnungen isoliert behandeln.

15. Häufige Praxis-Fragen aus DACH-Mittelstand

„Wir nutzen ChatGPT Enterprise — reicht das?" Nein. ChatGPT Enterprise löst die Datenschutz-Frage (Daten werden nicht für Training verwendet), nicht die Compliance-Architektur. Sie müssen weiterhin klassifizieren, dokumentieren, Audit-Trail führen, Disclosure einsetzen und ggf. FRIA erstellen. Der Tool-Anbieter erfüllt seine Pflichten als Anbieter — Sie erfüllen Ihre als Betreiber.

„Bringt uns ein KI-Beauftragter konkrete Vorteile?" Im DACH-Mittelstand 2026 ist die Bündelung der KI-Compliance bei einer benannten Person empfehlenswert — analog zum Datenschutzbeauftragten. Die Rolle ist gesetzlich nicht zwingend, aber praktisch nützlich für Inventur, Klassifikation, Beziehung zum Betriebsrat und Krisen-Eskalation. Externe KI-Beauftragte sind verfügbar, oft als Erweiterung des bestehenden externen Datenschutzbeauftragten.

„Müssen wir alle KI-generierten Texte kennzeichnen?" Für Texte, die ein Mensch redaktionell prüft und für die er die Verantwortung übernimmt, greift die Ausnahme nach Art. 50 Abs. 4 AI Act. Für vollautomatisch generierte und ungeprüfte Texte (etwa Massen-E-Mails) besteht Kennzeichnungspflicht. Die Grenze ist die redaktionelle Verantwortungs-Übernahme — wer sie nicht hat, muss kennzeichnen.

„Wie verhalten wir uns gegenüber Mitarbeitern, die private ChatGPT-Accounts nutzen?" Schatten-IT ist 2026 die häufigste KI-Compliance-Lücke. Drei Schritte: Erstens, dokumentieren ohne zu kriminalisieren — Mitarbeiter haben oft kein Bewusstsein für die DSGVO-Implikationen. Zweitens, bessere offizielle Tools bereitstellen (Microsoft Copilot, Claude Enterprise, Mistral, je nach Hosting-Strategie). Drittens, klare Richtlinie was geht und was nicht — als Anhang zur Betriebsvereinbarung.

16. Vertiefungen zum Weiterlesen

• Glossar — EU AI Act
• Spoke — KI-Haftung: Was Geschäftsführer wissen müssen
• Spoke — Human-in-the-Loop in der Praxis (Art. 14 umsetzen)
• Glossar — DORA Digital Operational Resilience Act
• Glossar — NIS-2-Richtlinie
• Glossar — CSRD (ergänzend ESG)
• Spoke — Regulatorik 2026 Immobilien-IT (Vertical-Beispiel)
• Spoke — EU AI Act für die Immobilien-Wirtschaft
• Pillar — KI-Backbone (Audit-Trail-Architektur als Plattform-Funktion)
• Pillar — KI-Integration (Compliance-Integration ab dem ersten Use-Case)

Quellen

1. Verordnung (EU) 2024/1689 EU AI Act: eur-lex.europa.eu
2. artificialintelligenceact.eu Art. 50: artificialintelligenceact.eu/article/50
3. anwalt.de Vier Säulen Art. 50: anwalt.de
4. haufe.de KI-Kennzeichnung August 2026: haufe.de
5. Wettbewerbszentrale Leitfaden 02/2026: wettbewerbszentrale.de (PDF)
6. ecovis Bußgelder EU AI Act: ecovis.com
7. Lausen — AI Act Kennzeichnungspflicht: lausen.com
8. kileague Art. 50 IT-Dienstleister: kileague.de
9. TÜV Rheinland Transparenzpflichten: consulting.tuv.com
10. Verordnung (EU) 2022/2554 DORA
11. Verordnung (EU) 2016/679 DSGVO Art. 22 / Art. 35
12. Bitkom KI-Markt 2025: bitkom.org

KI-gestützte Recherche · redaktionell geprüft und verantwortet von Barnd Duong · Geprüft am: 02.06.2026 · Methodik: /methodik.html · Transparenz: /transparenz.html · Hinweis: Diese Page ersetzt keine Rechtsberatung. Bei konkreten Compliance-Fragen Anwaltskanzlei einbinden.