KI-Gesetz der EU wird konkret – Unternehmen müssen KI-Einsatz prüfen

von | Jan. 6, 2026 | CB-KI, Consulting Briefing | 0 Kommentare

Consulting Briefing: Thema des Tages

KI-Gesetz der EU wird konkret – Unternehmen müssen KI-Einsatz prüfen

Consulting Briefing: EU AI Act – Europas KI-Rechtsrahmen (und warum jetzt niemand mehr „Ach, das ist doch nur Hype“ sagen sollte)

Der EU AI Act ist so etwas wie die DSGVO für KI – nur mit mehr Kategorien, mehr Technik und deutlich mehr Stellen, an denen man sich als IT- und Compliance-Verantwortlicher denkt: „Das hätte ich gern gestern schon sauber inventarisiert.“ Europas Idee dahinter ist ziemlich klar: KI soll massenhaft genutzt werden, aber bitte so, dass Vertrauen nicht nur als Marketingwort existiert, sondern auch als belastbare Eigenschaft. Und ja: Nach dem großen KI-Feuerwerk der letzten Jahre (Hype, Heilsversprechen, „macht alles automatisch“, dann Überraschung über Bias und Halluzinationen) war absehbar, dass die EU das Thema nicht mehr der Freiwilligkeit überlässt. 

Warum der AI Act kommt: Vertrauen ist gut, Rechtsrahmen ist… europäisch

KI hat inzwischen eine unangenehme Superkraft: Sie kann Entscheidungen beeinflussen, ohne dass ein Mensch merkt, wie genau. Das ist in harmlosen Fällen nur nervig („Chatbot erfindet eine Antwort“). In kritischen Fällen wird es heikel: Bewerbervorauswahl, Kreditentscheidungen, Diagnostik, Infrastruktursteuerung – überall dort, wo Fehler nicht nur peinlich, sondern teuer oder gefährlich werden.

Der AI Act versucht deshalb, zwei Dinge gleichzeitig zu schaffen:

  1. Innovation nicht abwürgen (KI bleibt erlaubt, sogar ausdrücklich erwünscht),

  2. Risiken dort hart regulieren, wo Grundrechte, Sicherheit und Gesundheit betroffen sind.

Formal ist das Ganze eine EU-Verordnung: Regulation (EU) 2024/1689, veröffentlicht am 12. Juli 2024 im Amtsblatt; in Kraft getreten 20 Tage später.

Das Herzstück: Risikoklassen statt „KI ist KI“

Der AI Act arbeitet risikobasiert. Je höher das Risiko, desto mehr Pflichten. Klingt banal – ist aber praktisch die wichtigste Denkschule für die Vorbereitung im Unternehmen.

1) Unannehmbares Risiko: verboten

Hier ist die EU erstaunlich unromantisch: Bestimmte KI-Praktiken sind schlicht unzulässig. Dazu zählen unter anderem Social Scoring, manipulative Systeme, die Menschen gezielt täuschen oder Schwächen ausnutzen, und weitere klar benannte Verbote. 

Wichtig für den Maschinenraum: Diese Verbote gelten nicht erst „irgendwann“, sondern sind bereits in der frühen Umsetzungswelle scharf geschaltet (Stichtag 2. Februar 2025).

2) Hochrisiko: erlaubt, aber mit dicken Leitplanken

„Hochriskant“ heißt: Das System ist in Bereichen unterwegs, in denen Fehlentscheidungen erheblichen Schaden anrichten können (Beispiele: Medizin, bestimmte sicherheitskritische Komponenten, Teile von Personal-/Bewerbungsprozessen, kritische Infrastrukturen – die genaue Liste ist im Gesetz und seinen Anhängen geregelt). Dann gelten Anforderungen wie Risikomanagement, Datenqualität, technische Dokumentation, Protokollierung, menschliche Aufsicht und Konformitätsbewertung (vereinfacht gesagt: „Nachweisen, dass das Ding sich benimmt“).

Zeitlich relevant für Ihre Roadmap: Für viele Hochrisiko-Pflichten gelten längere Übergangsfristen; häufig wird 36 Monate nach Inkrafttreten als maßgeblicher Punkt genannt (also Richtung August 2027).

3) Begrenztes Risiko: Transparenzpflichten

Hier landen typischerweise Systeme, bei denen Nutzer wissen müssen, dass sie gerade mit KI sprechen oder KI Inhalte erzeugt/verändert (Chatbots, Deepfakes, generierte Medien). Pflicht ist dann vor allem: Transparenz, also Kennzeichnung und Information.

4) Minimales Risiko: weitgehend frei

Spamfilter, viele klassische Analysemodelle, „KI im Hintergrund“ ohne relevante Grundrechts- oder Sicherheitsrisiken: meist kaum zusätzliche Pflichten – aber Achtung: Das entbindet nicht von sauberer IT-Governance, Datenschutz und Security-by-Design.

Funktionen und Grenzen: Was der AI Act kann – und was nicht

Der AI Act regelt KI-Systeme (und zusätzlich Pflichten für General-Purpose AI / Foundation Models). Er ist kein Zauberstab gegen schlechte Prozesse. Wenn Ihr Fachbereich „KI“ ruft, aber keine Datenqualität, keine Verantwortlichkeiten und keine Teststrategie hat, macht der AI Act daraus keinen Goldbarren – nur ein Audit-Thema.

Neu und wichtig: Für General-Purpose AI gibt es eigene Pflichten und Aufsicht. Die EU hat dafür das European AI Office als zentrale Stelle in der Kommission positioniert (vor allem für GPAI-Modelle).

Und: Es gibt politisches Ringen um Details und Hilfestellungen (Code of Practice, Leitlinien). Das ändert aber nicht die Grundrichtung: Die EU hat öffentlich betont, dass sie am Zeitplan festhält – auch wenn Unternehmen und Verbände teils auf Verzögerung drängen.

Strategische Vorbereitung im Unternehmen: Das KI-Inventar ist Ihr neuer bester Freund

Wenn Sie nur eine Sache mitnehmen: Bauen Sie ein KI-Inventar. Nicht als Excel-Friedhof, sondern als lebendiges Register, das mindestens diese Fragen beantwortet:

  • Welche KI-Systeme nutzen wir (Eigenentwicklung, SaaS, eingebettete KI in Standardsoftware)?

  • Wofür werden sie genutzt (Use Case, betroffene Prozesse, betroffene Personengruppen)?

  • Welche Risikoklasse ist plausibel?

  • Wer ist fachlich verantwortlich, wer technisch, wer rechtlich?

  • Welche Daten gehen rein, was kommt raus, wie wird geloggt?

Das ist nicht nur „Compliance-Spielerei“. Das Inventar ist die Grundlage, um überhaupt entscheiden zu können, wo Sie investieren müssen: Logging, Erklärbarkeit, Testverfahren, Lieferantennachweise, Betriebsprozesse.

Bias-Prüfung und Dokumentation: Willkommen im Zeitalter der Begründungspflicht

Für viele KI-Anwendungen wird es normal, messbar zu dokumentieren:

  • Welche Trainings- oder Referenzdaten wurden verwendet (oder beim Anbieter eingefordert)?

  • Welche Qualitätsmetriken gelten (z. B. Genauigkeit, Fehlerraten, Drift-Indikatoren)?

  • Welche Tests wurden durchgeführt (auch auf Verzerrungen/Bias)?

  • Welche Grenzen sind bekannt („nicht für X verwenden“)?

Das ist fachlich unbequem, aber strategisch stark: Wer das sauber kann, beschleunigt Freigaben, reduziert Risiken und macht sich weniger abhängig von Bauchgefühl-Entscheidungen.

Auswirkungen auf Architektur, Governance, Betrieb und Budget

Architektur: Mehr Nachvollziehbarkeit, mehr Protokollierung

Je stärker KI Entscheidungen beeinflusst, desto mehr brauchen Sie technische Nachvollziehbarkeit. Praktisch heißt das oft:

  • zusätzliche Logging- und Audit-Trails,

  • Aufbewahrungs- und Zugriffskonzepte,

  • gegebenenfalls getrennte Pipelines für Trainings-/Test-/Produktionsdaten,

  • Monitoring für Modell-Drift und Qualität.

Governance: Rollen, Richtlinien, Beschaffung

Sehr wahrscheinlich wird es neue oder geschärfte Rollen geben: ein KI-Verantwortlicher (oder ein KI-Gremium) als Pendant zum Datenschutz: nicht identisch, aber ähnlich vom Prinzip „Zuständigkeit schlägt Hoffnung“. Dazu kommen Policies für:

  • Beschaffung („keine Blackbox-KI ohne Nachweise“),

  • Eigenentwicklung (Dokustandards, Testpflichten),

  • Betrieb (Incident-Prozesse, Change-Management, Re-Validierung).

Betrieb/Budget: Compliance kostet – Nichtstun kostet mehr

Der AI Act hat echte Zähne: Bei Verstößen drohen hohe Bußgelder, im Spitzenfall bis 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes (je nachdem, was höher ist).
Die eigentlichen Kosten im Alltag sind aber oft: Auditaufwand, Dokumentation, Tooling (Logging/Monitoring), Schulungen, Lieferantenmanagement und interne Abstimmungen.

Konkrete Empfehlungen: So werden Sie „AI Act ready“, ohne dass Ihr Kalender implodiert

  1. Interdisziplinäre Taskforce aufsetzen (IT, Legal, Compliance, Security, relevante Fachbereiche). Nicht als Diskussionsklub, sondern mit Mandat und festen Deliverables: Inventar, Risikoeinstufung, Maßnahmenplan.

  2. KI-Inventar starten – sofort. Erst grob, dann iterativ besser. Wichtig ist, dass Sie überhaupt Sichtbarkeit bekommen.

  3. „AI Act ready“ in Projekte einbauen: Bei neuen KI-Vorhaben schon in der Beschaffung/Architektur fragen: Erklärbarkeit? Logging? Nachweise vom Anbieter? Exit-Strategie?

  4. Schulungen durchführen: Kurz, praxisnah, rollenbasiert. Ziel: Jeder, der KI einkauft oder betreibt, versteht Risikoklassen und Mindestanforderungen.

  5. Kontakt zu Verbänden und Regulatorik-Kanälen halten: Leitlinien, Codes of Practice und nationale Umsetzung bewegen sich weiter. Wer dranbleibt, spart später hektische Nacharbeiten.

Der Wettbewerbsvorteil: Früh anfangen heißt später schneller liefern

Der AI Act ist kein Innovationskiller per Naturgesetz. Er ist eher ein Filter: Unternehmen, die früh Prozesse, Nachweise und Betriebsmodelle für KI aufbauen, werden KI schneller in die Fläche bringen – weil sie Freigaben, Risikoabwägungen und Audits nicht jedes Mal neu erfinden müssen. Während andere noch diskutieren, ob „KI“ ein Projekt oder ein Bauchgefühl ist, haben Sie schon Inventar, Standards und Messwerte.

Und das ist in bester Consulting-Briefing-Manier die eigentliche Pointe: Der AI Act zwingt nicht nur zu Compliance. Er zwingt zu Professionalität. Und Professionalität ist erstaunlich oft die kürzeste Abkürzung zu Tempo.

Anmelden zum Consulting Briefing per Mail

Wenn Sie kostenlos das tägliche Consulting Briefing von Ulrich Boddenberg per Mail erhalten möchten, melden Sie sich auf dieser Seite an.

Die zehn letzten Consulting Briefings

Copilot-Modelle nach dem Limit nur gegen Credits

Copilot-Modelle nach dem Limit nur gegen Credits

KI & COPILOT Copilot: Modelle nach Nutzungslimit nur noch gegen Copilot Credits (kostenpflichtig) Consulting Briefing · 21.11.2026 · boddenberg.de Executive Summary Copilot bekommt einen Münzeinwurf, und der Schlitz sitzt direkt neben dem...

mehr lesen
Copilot Notebooks wird zu Copilot Workspaces

Copilot Notebooks wird zu Copilot Workspaces

KI & COPILOT Copilot Notebooks wird zu Copilot Workspaces mit Aktivitätsfeed und Teampräsenz Consulting Briefing · 19.11.2026 · boddenberg.de Executive Summary Dein Notizbuch bekommt Mitbewohner. Laut Microsoft-Ankündigung MC1559638 wird...

mehr lesen
Sensitivity Labels für Entra-Sicherheitsgruppen

Sensitivity Labels für Entra-Sicherheitsgruppen

Consulting Briefing · 17.11.2026 · boddenberg.de Security & Compliance Purview: Sensitivity Labels für Entra-Sicherheitsgruppen, Rollout ab Mitte Januar 2027 Executive Summary Sicherheitsgruppen sind der Schlüsselbund deines Mandanten. Sie...

mehr lesen
Copilot Pages künftig in OneDrive gespeichert

Copilot Pages künftig in OneDrive gespeichert

Consulting Briefing · 16.11.2026 · boddenberg.de KI & Copilot Copilot Pages und Notebook-Seiten werden in OneDrive gespeichert; Admin-Schalter wird abgekündigt Executive Summary Copilot Pages waren bisher so etwas wie der Keller im...

mehr lesen
Copilot in Teams Queues jetzt auch mobil

Copilot in Teams Queues jetzt auch mobil

Consulting Briefing · 15.11.2026 · boddenberg.de KI & Copilot Teams Queues mobil: Copilot beantwortet Fragen zu aufgezeichneten Warteschlangen-Anrufen Executive Summary Es gibt Sätze, die in jeder Kundenhotline fallen. „Mein Kollege hat mir das aber...

mehr lesen
Der Microsoft-365-Ausfall im November 2026

Der Microsoft-365-Ausfall im November 2026

MICROSOFT 365 · STÖRUNG UND RESILIENZ Der große Microsoft-365-Ausfall: Was bekannt ist und was IT-Chefs daraus lernen sollten EX1550543 und MO1550821: Warum ein Exchange-Problem halb Microsoft 365 lahmlegte und welche Hausaufgaben jetzt anstehen...

mehr lesen
SharePoint-Speicher nach Verbrauch abrechnen

SharePoint-Speicher nach Verbrauch abrechnen

Consulting Briefing · 13.11.2026 · boddenberg.de SharePoint SharePoint: Verbrauchsabhängige Abrechnung für zusätzlichen Speicher (Pay-as-you-go) Executive Summary SharePoint-Speicher ist wie der Keller im Einfamilienhaus: Am Anfang ist er...

mehr lesen