Was regelt die KI-Verordnung (AI Act) und ab wann gilt sie?

Die KI-Verordnung, international auch AI Act genannt, ist die Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz. Sie regelt, unter welchen Bedingungen KI-Systeme in der Europäischen Union in Verkehr gebracht, in Betrieb genommen und verwendet werden dürfen. Die Verordnung stammt vom 13. Juni 2024 und ist am 1. August 2024 in Kraft getreten. Ihre Pflichten gelten gestaffelt; mehrere Termine wurden im Juli 2026 durch die Digital-Omnibus-Verordnung zur KI, die Verordnung (EU) 2026/1744, geändert.

Die KI-Verordnung folgt einem risikobasierten Ansatz. Je höher das Risiko eines KI-Systems für Gesundheit, Sicherheit und Grundrechte, desto strenger die Anforderungen. Sie richtet sich vor allem an zwei Gruppen: an Anbieter, die KI-Systeme entwickeln und in Verkehr bringen, sowie an Betreiber, die KI-Systeme in eigener Verantwortung verwenden. Unternehmen, die KI einsetzen, sind damit in der Regel als Betreiber betroffen.

Die Risikostufen

Verbotene Praktiken

Artikel 5 verbietet bestimmte Anwendungen vollständig. Dazu gehören unter anderem:

• KI-Systeme, die Menschen durch unterschwellige oder manipulative Techniken so beeinflussen, dass ihnen erheblicher Schaden entsteht
• das Ausnutzen von Schwächen aufgrund von Alter, Behinderung oder sozialer oder wirtschaftlicher Lage
• die Bewertung von Personen nach ihrem sozialen Verhalten mit ungerechtfertigten Nachteilen (Social Scoring)
• Datenbanken zur Gesichtserkennung durch ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Überwachungsaufnahmen
• das Ableiten von Emotionen am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen Gründen oder Sicherheitsgründen
• biometrische Kategorisierung zur Ableitung sensibler Merkmale wie politischer Einstellung oder Gewerkschaftszugehörigkeit

Mit der Verordnung (EU) 2026/1744 kommen zwei Verbote hinzu, die ab dem 2. Dezember 2026 gelten: KI-Systeme, die ohne ausdrückliche Zustimmung der betroffenen Person realistische intime oder sexuelle Darstellungen einer bestimmbaren Person erzeugen oder manipulieren, sowie KI-Systeme, die Material sexuellen Kindesmissbrauchs erzeugen oder manipulieren.

Hochrisiko-KI-Systeme

Als hochriskant gelten zum einen KI-Systeme, die Sicherheitsbauteil eines Produkts sind oder selbst ein Produkt, das nach den in Anhang I genannten EU-Harmonisierungsvorschriften einer Konformitätsbewertung durch Dritte unterliegt, etwa Spielzeug, Aufzüge oder Medizinprodukte. Zum anderen nennt Anhang III acht Bereiche:

• Biometrie
• kritische Infrastruktur
• allgemeine und berufliche Bildung
• Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit
• Zugang zu grundlegenden privaten und öffentlichen Diensten und Leistungen
• Strafverfolgung
• Migration, Asyl und Grenzkontrolle
• Rechtspflege und demokratische Prozesse

Ein in Anhang III genanntes System gilt nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, zum Beispiel weil es nur eine eng gefasste Verfahrensaufgabe erfüllt. Für Hochrisiko-KI-Systeme gelten umfangreiche Anforderungen an Risikomanagementsystem, Daten-Governance, technische Dokumentation, Aufzeichnung, Transparenz, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit. Betreiber müssen solche Systeme nach der Betriebsanleitung verwenden, die menschliche Aufsicht kompetenten Personen übertragen und den Betrieb überwachen.

Transparenzpflichten

Für bestimmte KI-Systeme gelten Transparenzpflichten nach Artikel 50. Systeme, die direkt mit Menschen interagieren, müssen so gestaltet sein, dass Nutzer erkennen, dass sie mit einer KI interagieren, sofern das nicht offensichtlich ist. Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgaben maschinenlesbar als künstlich erzeugt oder manipuliert kennzeichnen. Betreiber von Systemen zur Emotionserkennung oder biometrischen Kategorisierung müssen die betroffenen Personen informieren.

KI-Modelle mit allgemeinem Verwendungszweck

Für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck enthält Kapitel V eigene Pflichten. Sie müssen eine technische Dokumentation erstellen, Informationen für Anbieter bereitstellen, die das Modell in eigene Systeme einbauen, eine Strategie zur Einhaltung des Urheberrechts festlegen und eine Zusammenfassung der Trainingsinhalte veröffentlichen. Bei Modellen mit systemischem Risiko kommen weitere Pflichten hinzu. Fähigkeiten mit hohem Wirkungsgrad, die zur Einstufung als Modell mit systemischem Risiko führen, werden vermutet, wenn für das Training mehr als 10²⁵ Gleitkommaoperationen verwendet wurden.

Ab wann welche Pflichten gelten

Die Anwendung ist nach Artikel 113 gestaffelt. Durch die Verordnung (EU) 2026/1744 gilt seit deren Inkrafttreten am 27. Juli 2026 folgender Stand:

• 2. Februar 2025: allgemeine Bestimmungen einschließlich der Pflicht zur KI-Kompetenz sowie die Verbote nach Artikel 5
• 2. August 2025: Pflichten für KI-Modelle mit allgemeinem Verwendungszweck, Governance, Sanktionen sowie Vorschriften zu notifizierenden Behörden und notifizierten Stellen; Geldbußen gegen Anbieter solcher Modelle nach Artikel 101 ausgenommen
• 2. August 2026: übrige Vorschriften, darunter die Transparenzpflichten nach Artikel 50
• 2. Dezember 2026: die zwei neuen Verbote; außerdem müssen Anbieter von Systemen für synthetische Inhalte, die vor dem 2. August 2026 in Verkehr gebracht wurden, bis dahin die Kennzeichnungspflicht erfüllen
• 2. Dezember 2027: Einstufung, Anforderungen und Pflichten für Hochrisiko-KI-Systeme nach Anhang III (ursprünglich 2. August 2026)
• 2. August 2028: dieselben Vorschriften für Hochrisiko-KI-Systeme nach Anhang I, also in regulierten Produkten (ursprünglich 2. August 2027)
• 2. August 2030: Frist für Hochrisiko-KI-Systeme, die von Behörden verwendet werden sollen und schon vor Geltung der Hochrisiko-Vorschriften in Verkehr gebracht wurden

Was der digitale Omnibus geändert hat

Die Verordnung (EU) 2026/1744 vom 8. Juli 2026 wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und trat drei Tage später in Kraft. Neben der Verschiebung der Hochrisiko-Termine und den neuen Verboten enthält sie unter anderem diese Änderungen:

• KI-Kompetenz: Anbieter und Betreiber müssen Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen. Die Neufassung stellt klar, dass sie kein bestimmtes Kompetenzniveau garantieren müssen. Kommission und Mitgliedstaaten sollen insbesondere KMU dabei unterstützen.
• Daten gegen Verzerrungen: Ein neuer Artikel 4a erlaubt Anbietern von Hochrisiko-KI-Systemen unter engen Bedingungen, besondere Kategorien personenbezogener Daten zu verarbeiten, um Verzerrungen zu erkennen und zu korrigieren.
• Sicherheitsbauteile: KI-Systeme, die ausschließlich für nicht sicherheitsrelevante Zwecke wie Nutzerunterstützung oder Leistungsoptimierung eingesetzt werden, gelten nicht als Sicherheitsbauteile, solange ihr Ausfall Gesundheit und Sicherheit nicht gefährden würde.
• Kleine Midcap-Unternehmen: Für sie gilt bei Geldbußen wie bei KMU der jeweils niedrigere Betrag.

Sanktionen

Verstöße gegen die Verbote nach Artikel 5 können mit Geldbußen bis zu 35 Millionen Euro oder bis zu 7 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für Verstöße gegen andere Pflichten, etwa die Pflichten von Anbietern oder Betreibern von Hochrisiko-KI-Systemen, liegt der Rahmen bei bis zu 15 Millionen Euro oder 3 Prozent. Falsche oder irreführende Angaben gegenüber Behörden können bis zu 7,5 Millionen Euro oder 1 Prozent kosten. Für KMU, Start-ups und kleine Midcap-Unternehmen gilt jeweils der niedrigere Betrag.

Durchführung in Deutschland

Die KI-Verordnung gilt unmittelbar. Zuständigkeiten und Bußgeldverfahren regelt in Deutschland das KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz (KI-MIG) vom 22. Juli 2026 (BGBl. 2026 I Nr. 223), das am 29. Juli 2026 in Kraft getreten ist. Zuständige Marktüberwachungsbehörde ist grundsätzlich die Bundesnetzagentur. Für KI-Systeme, die in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehen und von beaufsichtigten Finanzunternehmen eingesetzt werden, ist die BaFin zuständig. KI-Systeme in Produkten nach Anhang I überwachen die Behörden, die bereits für diese Produkte zuständig sind. Für öffentliche Stellen der Länder sind die Landesbehörden zuständig.

Einordnung in Governance und Compliance

Für Unternehmen ist die KI-Verordnung vor allem ein Compliance-Thema: Welche KI-Systeme werden eingesetzt, in welche Risikostufe fallen sie und welche Pflichten folgen daraus? Ein KI-Managementsystem nach ISO/IEC 42001 kann helfen, diese Fragen geordnet zu beantworten, ersetzt aber nicht die Prüfung der gesetzlichen Pflichten. Berührungspunkte gibt es außerdem zur Datenschutz-Grundverordnung, wenn KI-Systeme personenbezogene Daten verarbeiten, zu unternehmenseigenen Ethikrichtlinien und zum Risikomanagement. Organisatorisch gehört das Thema in das Compliance-Management-System und die IT-Governance.

Häufige Fragen zu KI-Verordnung

Gilt die KI-Verordnung auch für Unternehmen, die KI nur nutzen?

Ja. Wer ein KI-System in eigener Verantwortung verwendet, ist Betreiber im Sinne der Verordnung. Für Betreiber gelten unter anderem die Pflicht zur KI-Kompetenz, Transparenzpflichten bei bestimmten Systemen und, sobald die Hochrisiko-Vorschriften anwendbar sind, besondere Pflichten beim Einsatz von Hochrisiko-KI-Systemen.

Wurden die Pflichten für Hochrisiko-KI verschoben?

Ja. Die Verordnung (EU) 2026/1744 hat den Beginn verschoben: für Hochrisiko-KI-Systeme nach Anhang III vom 2. August 2026 auf den 2. Dezember 2027, für Systeme in Produkten nach Anhang I vom 2. August 2027 auf den 2. August 2028. Aufgehoben wurden die Hochrisiko-Vorschriften nicht.

Was bedeutet KI-Kompetenz?

Anbieter und Betreiber müssen Maßnahmen ergreifen, um die KI-Kompetenz der Personen zu fördern, die in ihrem Auftrag mit KI-Systemen arbeiten. Dabei sind Vorkenntnisse, Erfahrung, Ausbildung und der Einsatzkontext zu berücksichtigen. Ein bestimmtes Kompetenzniveau müssen sie nach der Neufassung durch die Verordnung (EU) 2026/1744 nicht garantieren.

Welche Behörde ist in Deutschland zuständig?

Nach dem KI-MIG grundsätzlich die Bundesnetzagentur. Für KI-Systeme beaufsichtigter Finanzunternehmen im Zusammenhang mit regulierten Finanztätigkeiten ist die BaFin zuständig, für KI in bereits regulierten Produkten die jeweilige Produktaufsicht und für öffentliche Stellen der Länder die Landesbehörden.

Wie hängen KI-Verordnung und ISO/IEC 42001 zusammen?

Die KI-Verordnung ist geltendes Recht mit verbindlichen Pflichten. ISO/IEC 42001:2023 ist eine internationale Norm mit Anforderungen an ein KI-Managementsystem für Organisationen, die KI-basierte Produkte oder Dienste entwickeln, anbieten oder nutzen. Ein solches Managementsystem kann die Umsetzung der gesetzlichen Pflichten organisieren, ersetzt deren Prüfung aber nicht.