KI-Verordnung: Was das EU-KI-Gesetz regelt, wen es betrifft und wer es durchsetzt

Das Wichtigste in Kürze

• Die KI-Verordnung (Verordnung (EU) 2024/1689, kurz EU AI Act, umgangssprachlich EU-KI-Gesetz) ist seit dem 1. August 2024 in Kraft. Als Verordnung gilt sie unmittelbar in allen Mitgliedstaaten, ohne nationales Umsetzungsgesetz.
• Sie gilt gestaffelt: Verbote und die Pflicht zur KI-Kompetenz seit dem 2. Februar 2025, die Regeln für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2. August 2025, die Transparenzpflichten seit dem 2. August 2026. Die Hochrisiko-Pflichten hat die Verordnung (EU) 2026/1744 auf den 2. Dezember 2027 (Anhang III) und den 2. August 2028 (Anhang I) verschoben.
• Sie betrifft nicht nur Entwickler: Auch Betreiber, die KI beruflich einsetzen, Einführer, Händler und Anbieter aus Drittländern fallen darunter, sobald ein KI-System auf dem EU-Markt bereitgestellt wird oder seine Ergebnisse in der EU genutzt werden.
• Die Höchstbußgelder betragen 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (verbotene Praktiken), 15 Mio. € oder 3 % (die meisten übrigen Pflichten) und 7,5 Mio. € oder 1 % (falsche Angaben). Für KMU gilt jeweils der niedrigere Betrag.
• In Deutschland ist die Bundesnetzagentur seit dem 29. Juli 2026 die zentrale Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle. BaFin und weitere Fachbehörden behalten ihre Zuständigkeit.

Was ist die KI-Verordnung?

Die KI-Verordnung ist die erste umfassende Rechtsvorschrift der Welt für künstliche Intelligenz. Ihr offizieller Titel lautet Verordnung (EU) 2024/1689. Das Europäische Parlament hat sie am 13. März 2024 mit 523 zu 46 Stimmen bei 49 Enthaltungen angenommen, der Rat hat sie am 21. Mai 2024 verabschiedet und am 1. August 2024 ist sie in Kraft getreten. Wer nach dem EU-KI-Gesetz sucht, meint dieselbe Verordnung.

Ein verbreiteter Irrtum betrifft die Rechtsform: Die KI-Verordnung ist kein Gesetz und keine Richtlinie. Anders als bei der NIS2-Richtlinie muss kein Mitgliedstaat sie erst in nationales Recht umsetzen, sie gilt wie die DSGVO unmittelbar. Deutschland musste lediglich regeln, welche Behörden sie durchsetzen (dazu mehr im Abschnitt zur Aufsicht). Wie Sie Ihr Unternehmen konkret vorbereiten, beschreibt der Leitfaden zur EU AI Act Compliance.

Die KI-Verordnung auf einen Blick

Die KI-Verordnung ersetzt die DSGVO nicht. Verarbeitet ein KI-System personenbezogene Daten, gelten beide Regelwerke nebeneinander. Die Grundlagen zum Datenschutz fasst der DSGVO-Leitfaden für Unternehmen zusammen.

Für wen gilt die KI-Verordnung?

Die KI-Verordnung gilt für Anbieter, Betreiber, Einführer, Händler, Produkthersteller und bevollmächtigte Vertreter (Art. 2 Abs. 1). Entscheidend ist nicht der Firmensitz, sondern ob ein KI-System in der EU in Verkehr gebracht wird oder seine Ergebnisse dort genutzt werden. Ein Anbieter in einem Drittland ist deshalb genauso erfasst wie ein Anbieter in Deutschland.

Der Begriff "Anwender" taucht in vielen Texten auf, die Verordnung kennt aber den Betreiber. Die Unterscheidung ist wichtig, weil die Pflichten stark voneinander abweichen. Wer ein fremdes KI-System im Betrieb einsetzt, ist Betreiber. Wer ein Hochrisiko-System unter eigenem Namen vertreibt oder wesentlich verändert, wird nach Art. 25 selbst zum Anbieter.

Ausgenommen sind KI-Systeme, die ausschließlich militärischen, Verteidigungs- oder nationalen Sicherheitszwecken dienen, Systeme, die allein für wissenschaftliche Forschung entwickelt wurden, und die rein private, nicht berufliche Nutzung durch natürliche Personen (Art. 2 Abs. 3, 6 und 10). Den Wortlaut finden Sie im offiziellen Gesetzestext.

Welche KI-Praktiken sind seit dem 2. Februar 2025 verboten?

Artikel 5 verbietet acht Gruppen von KI-Praktiken und diese Verbote gelten seit dem 2. Februar 2025. Verstöße können mit bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes geahndet werden. Verboten sind:

• unterschwellige oder manipulative Techniken, die das Verhalten wesentlich verzerren und erheblichen Schaden verursachen
• das Ausnutzen von Schwächen wegen Alter, Behinderung oder sozialer oder wirtschaftlicher Lage
• Social Scoring, das zu ungerechtfertigter oder unverhältnismäßiger Schlechterbehandlung führt
• die Vorhersage von Straftaten allein auf Grundlage von Profiling oder Persönlichkeitsmerkmalen
• das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken
• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen
• biometrische Kategorisierung, die auf sensible Merkmale wie politische Meinung, Religion oder sexuelle Ausrichtung schließt
• biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen für Strafverfolgungszwecke, mit eng gefassten Ausnahmen

Verboten ist also nicht jede biometrische Identifizierung. Das Verbot trifft die Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken und selbst dort sind enge Ausnahmen mit vorheriger Genehmigung einer Justizbehörde oder unabhängigen Behörde möglich. Hinzu kommen zwei neue Verbote, die ab dem 2. Dezember 2026 gelten: für KI-Systeme, die Darstellungen sexuellen Kindesmissbrauchs oder nicht einvernehmliche intime Darstellungen erzeugen.

Welche Risikoklassen unterscheidet die KI-Verordnung?

Die KI-Verordnung unterscheidet vier Risikostufen: unannehmbar, hoch, begrenzt und minimal. Je höher das Risiko, desto strenger die Pflichten. Viele alltägliche Anwendungen wie Spamfilter fallen in die unterste Stufe und unterliegen keinen besonderen Pflichten.

Die Transparenzpflichten nach Art. 50 verlangen unter anderem, dass Nutzer erkennen, dass sie mit einer KI sprechen, und dass Deepfakes offengelegt werden. Für die maschinenlesbare Kennzeichnung synthetischer Inhalte nach Art. 50 Abs. 2 gilt für Systeme, die bereits am Markt sind, eine Übergangsfrist bis zum 2. Dezember 2026.

Hochrisiko: die acht Bereiche des Anhangs III

Anhang III nennt acht Einsatzbereiche, in denen KI-Systeme als hochriskant gelten, sofern keine Ausnahme nach Art. 6 Abs. 3 greift: Biometrie, kritische Infrastruktur, allgemeine und berufliche Bildung, Beschäftigung und Personalmanagement, der Zugang zu wesentlichen privaten und öffentlichen Diensten (etwa die Kreditwürdigkeitsprüfung), Strafverfolgung, Migration, Asyl und Grenzkontrolle sowie Rechtspflege und demokratische Prozesse. Hinzu kommen KI-Systeme, die als Sicherheitsbauteil in Produkten nach Anhang I stecken, etwa in Medizinprodukten oder Spielzeug. Welche Systeme im Einzelfall betroffen sind und wann die Ausnahme greift, erklärt der Beitrag zu Hochrisiko-KI nach dem EU AI Act.

Ein verbreiteter Irrtum lautet, die Hochrisiko-Pflichten beträfen nur Anbieter. Auch Betreiber haben eigene Pflichten: Sie müssen das System entsprechend der Gebrauchsanweisung einsetzen, die menschliche Aufsicht durch kompetente Personen sicherstellen, die automatisch erzeugten Protokolle mindestens sechs Monate aufbewahren und vor dem Einsatz am Arbeitsplatz die Arbeitnehmervertretung und die betroffenen Beschäftigten informieren (Art. 26). Ein Unternehmen, das ein fremdes Bewerbermanagement-System einsetzt, ist also nicht aus dem Schneider, nur weil der Hersteller die Konformitätsbewertung durchführt.

KI-Kompetenz nach Artikel 4: eine Pflicht für alle

Artikel 4 gilt für alle Anbieter und Betreiber, unabhängig von der Risikostufe, und zwar seit dem 2. Februar 2025. Der Omnibus hat die Pflicht neu gefasst: Anbieter und Betreiber müssen Maßnahmen ergreifen, um die Entwicklung von KI-Kompetenz zu fördern. Die Kommission und die Mitgliedstaaten sollen insbesondere KMU dabei unterstützen.

Die Pflicht wird oft strenger gelesen, als sie ist. Die Verordnung verlangt kein Zertifikat und keine Garantie für ein bestimmtes Kompetenzniveau einzelner Personen. Gefordert sind angemessene Maßnahmen, die Kenntnisse, Erfahrung, Ausbildung und den Einsatzkontext der Beteiligten berücksichtigen. Ein Unternehmen, das Chatbots im Vertrieb einsetzt, braucht deshalb andere Maßnahmen als eines, das KI zur Bewerberauswahl nutzt.

Was gilt für KI-Modelle mit allgemeinem Verwendungszweck?

Für KI-Modelle mit allgemeinem Verwendungszweck (General-Purpose AI, GPAI), etwa große Sprachmodelle, gelten die Anbieterpflichten seit dem 2. August 2025. Modelle, deren Training mehr als 10^25 Gleitkommaoperationen erfordert hat, gelten als Modelle mit systemischem Risiko und unterliegen zusätzlichen Pflichten (Art. 51 Abs. 2 und Art. 55). Modelle, die bereits vor dem 2. August 2025 in Verkehr waren, müssen die Anforderungen bis zum 2. August 2027 erfüllen.

Die Kommission kann Anbieter solcher Modelle mit Geldbußen von bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes belegen (Art. 101), und zwar seit dem 2. August 2026. Wer ein fremdes Modell nur per Schnittstelle einbindet, ist in der Regel Betreiber des KI-Systems und nicht Anbieter des Modells. Die Modellpflichten liegen dann beim Modellanbieter.

Wer setzt die KI-Verordnung durch?

Auf EU-Ebene überwacht das KI-Büro der Europäischen Kommission die Modelle mit allgemeinem Verwendungszweck. Alle übrigen Pflichten überwachen nationale Marktüberwachungsbehörden. Deutschland hat die Zuständigkeiten im KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) geregelt, das am 22. Juli 2026 ausgefertigt wurde (BGBl. 2026 I Nr. 223) und am 29. Juli 2026 in Kraft getreten ist. Den Text finden Sie im KI-MIG auf gesetze-im-internet.de.

Für Unternehmen ist die Bundesnetzagentur damit die erste Adresse. Sie betreibt einen KI-Servicedesk, der sich vor allem an KMU und Start-ups richtet und unter anderem ein Online-Tool für die erste Einordnung der Risikoklasse bietet, und baut ein KI-Reallabor auf (§ 13). Das KI-MIG selbst sieht Bußgelder von bis zu 50.000 € vor (§ 15 Abs. 3), etwa bei Verstößen gegen bestimmte Mitwirkungs- und Dokumentationspflichten. Bundes- und Landesbehörden sind davon ausgenommen (§ 17 Abs. 2). Die hohen Höchstbeträge der KI-Verordnung bleiben daneben bestehen.

Wie hoch sind die Bußgelder nach der KI-Verordnung?

Die KI-Verordnung sieht drei Bußgeldstufen vor und es gilt jeweils der höhere der beiden Beträge. Für KMU einschließlich Start-ups gilt dagegen der niedrigere (Art. 99 Abs. 6).

Ein Szenario zur Veranschaulichung: Ein Unternehmen mit 400 Mio. € Jahresumsatz verstößt gegen eine Betreiberpflicht. Drei Prozent des Umsatzes wären 12 Mio. €, weil aber der höhere Betrag gilt, liegt die Obergrenze bei 15 Mio. €. Bei einem Umsatz von 1 Mrd. € wären es dagegen 30 Mio. €.

Wann gilt was? Der Zeitplan nach dem Omnibus

Die KI-Verordnung gilt seit dem 2. August 2026 grundsätzlich, die Hochrisiko-Pflichten greifen aber erst ab Dezember 2027. Die Verordnung (EU) 2026/1744, der sogenannte Digital Omnibus on AI, ist am 27. Juli 2026 in Kraft getreten und hat die Fristen angepasst.

Ein verbreiteter Irrtum lautet, die KI-Verordnung gelte erst ab 2027. Tatsächlich gelten Verbote, KI-Kompetenz, GPAI-Regeln und Transparenzpflichten bereits. Wer dagegen noch den 2. August 2026 als Starttermin der Hochrisiko-Pflichten kennt, hat eine überholte Information: Dieser Termin wurde verschoben.

Was der Omnibus über die Fristen hinaus geändert hat

Der Omnibus hat nicht nur Termine verschoben. Vier Änderungen betreffen Unternehmen unmittelbar:

• Kleine und mittlere Unternehmen sowie kleine Midcap-Unternehmen erhalten Erleichterungen bei der technischen Dokumentation und beim Qualitätsmanagementsystem, mildere Sanktionen und vorrangigen Zugang zu Reallaboren.
• Maschinen nach der Verordnung (EU) 2023/1230 sind aus Anhang I herausgenommen. Medizinprodukte und Spielzeug bleiben vollständig erfasst.
• Benannte Stellen durchlaufen ein einziges Benennungsverfahren, für bereits sektoral benannte Stellen gilt eine Übergangsregelung.
• Das KI-Büro überwacht künftig auch KI-Systeme, die auf einem Modell desselben Anbieters beruhen, sowie KI in sehr großen Online-Plattformen und Suchmaschinen nach dem Digital Services Act.

Wie hängt die KI-Verordnung mit DSGVO, ISO 42001 und NIS2 zusammen?

Die KI-Verordnung ergänzt die übrigen Regelwerke, ersetzt aber keines davon. Drei Berührungspunkte sind für Unternehmen besonders relevant.

Beim Datenschutz müssen bestimmte Betreiber vor dem Einsatz eines Hochrisiko-Systems eine Grundrechte-Folgenabschätzung durchführen (Art. 27). Das betrifft öffentliche Stellen, private Unternehmen, die öffentliche Dienste erbringen, und Betreiber von Systemen zur Kreditwürdigkeitsprüfung sowie zur Risikobewertung bei Lebens- und Krankenversicherungen. Liegt bereits eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO vor, ergänzt die Grundrechte-Folgenabschätzung sie. Die datenschutzrechtliche Seite erklärt der DSGVO-Leitfaden ausführlich.

Beim Management gibt ISO 42001 einem KI-Managementsystem seine Struktur aus Verantwortlichkeiten, Risikobewertung und Dokumentation. Die Norm ist aber nicht harmonisiert: Ein Zertifikat belegt die Konformität mit der KI-Verordnung deshalb nicht automatisch. Es hilft vor allem dabei, die Anforderungen dauerhaft zu erfüllen statt einmalig.

Bei der Sicherheit verlangt Art. 15 von Hochrisiko-Systemen ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit. Wer bereits ein ISMS nach ISO 27001 betreibt oder die Pflichten aus der NIS2-Richtlinie umsetzt, hat dafür eine Grundlage. Der Beitrag zu ISO 27090 ordnet ein, was die neue KI-Sicherheitsnorm für ein ISO-27001-ISMS bedeutet.

Wo Sie anfangen und wie Kertos Sie unterstützt

Beginnen Sie mit drei Schritten: Erfassen Sie alle KI-Systeme im Unternehmen, auch Tools ohne formale Freigabe. Bestimmen Sie für jedes System Ihre Rolle und die Risikostufe. Und benennen Sie eine verantwortliche Person, die Systeme und Fristen im Blick behält. Der Leitfaden zur EU AI Act Compliance führt Sie Schritt für Schritt durch die vollständige Checkliste.

Die meisten Pflichten setzen voraus, dass Sie wissen, welche KI-Systeme in Ihrem Unternehmen im Einsatz sind. Mit dem AI Risk Assessment von Kertos erfassen und bewerten Sie Ihre KI-Systeme, und das AIMS bildet ein KI-Managementsystem nach ISO 42001 ab. Einen Framework-Überblick bietet die Seite zum EU AI Act. Zertifizierte Experten von Kertos begleiten Sie dabei. Wenn Sie sehen möchten, wie sich Ihre KI-Systeme einordnen lassen, buchen Sie eine Demo.

Häufig gestellte Fragen

Ist die KI-Verordnung dasselbe wie der EU AI Act?

Ja. KI-Verordnung ist die deutsche Bezeichnung der Verordnung (EU) 2024/1689, EU AI Act die englische. Auch "EU-KI-Gesetz" meint dieselbe Verordnung, obwohl es sich rechtlich um eine Verordnung und nicht um ein Gesetz handelt.

Ist die KI-Verordnung schon in Kraft?

Ja, sie ist seit dem 1. August 2024 in Kraft und gilt gestaffelt. Verbote und KI-Kompetenz gelten seit dem 2. Februar 2025, die GPAI-Regeln seit dem 2. August 2025 und die Transparenzpflichten seit dem 2. August 2026. Die Hochrisiko-Pflichten gelten ab dem 2. Dezember 2027 (Anhang III) und dem 2. August 2028 (Anhang I).

Wer überwacht die KI-Verordnung in Deutschland?

Standardmäßig die Bundesnetzagentur, die seit dem 29. Juli 2026 als Marktüberwachungsbehörde, zentrale Anlaufstelle und Beschwerdestelle fungiert. Für Finanzunternehmen ist die BaFin zuständig, für KI in Produkten nach Anhang I Abschnitt A die jeweilige Fachbehörde.

Gilt die KI-Verordnung auch für Unternehmen außerhalb der EU?

Ja. Anbieter und Betreiber mit Sitz in einem Drittland fallen darunter, wenn die Ergebnisse ihres KI-Systems in der EU genutzt werden (Art. 2 Abs. 1 Buchst. c). Anbieter aus Drittländern müssen zudem in vielen Fällen einen bevollmächtigten Vertreter in der EU benennen.

Wie hoch sind die Bußgelder nach der KI-Verordnung?

Bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes bei verbotenen Praktiken, bis zu 15 Mio. € oder 3 % bei den meisten übrigen Pflichten und bis zu 7,5 Mio. € oder 1 % bei falschen Angaben. Es gilt der höhere Betrag, für KMU der niedrigere.