Zuletzt aktualisiert am 1. August 2025 von Wolff von Rechenberg

In Europa bekommt Künstliche Intelligenz (KI) feste Regeln. Typisch EU könnte man meinen: Da schafft es eine neue Technologie gerade aus den Startlöchern, schon legt Brüssel sie in Ketten. Doch das KI-Gesetz betont auch die innovative Bedeutung der KI und verpflichtet die Mitgliedstaaten zur Förderung von KI. Bis dieses weltweit erste KI-Gesetz seine volle Wirkung entfaltet, schreiben wir das Jahr 2026. Einige Teile gelten jedoch schon in diesem Jahr. Dabei geht es um die Verbotstatbestände des Gesetzes. Betrachten wir das KI-Gesetz der Reihe nach.

Verbotene KI-Anwendungen

Ein ausdrückliches Verbot sieht das KI-Gesetz nur für Einsatzbereiche vor, in denen vom KI-Einsatz eine Bedrohung für den Menschen ausgeht. Verboten sind alle KI-Systeme, die ein solches unannehmbares Risiko darstellen, wie das EU-Parlament in einer Erklärung zum Gesetz formuliert. Dabei geht es um:

  • Verhaltensmanipulationen von Personen oder Gruppen. Das Parlament nennt hier sprachgesteuertes Spielzeug als Beispiel, das gefährliches Verhalten bei Kindern fördert.
  • Soziales Scoring nach chinesischem Vorbild, das auf einer Einordnung von Menschen aufgrund ihrer Lebensumstände oder beziehungsweise ihres erwünschten oder unerwünschten Verhaltens.
  • Biometrische Identifikation, Kategorisierung und Überwachung von Menschen, Stichwort: Gesichtserkennung.

Vom letzten Punkt dürfen Mitgliedstaaten in einigen besonders schwerwiegenden Fällen eine Ausnahme für ihre Strafverfolgungsbehörden zulassen.

Zulassungspflicht für riskante KI-Systeme

Eine Bewertungspflicht führt die EU für KI-Systeme ein, die sie als hochriskant betrachtet. Von diesen KI-Systemen geht nach Überzeugung der EU-Kommission ein Risiko für Gesundheit, Sicherheit oder Grundrechte von Menschen aus. Darum werden EU-Bürger bei den zuständigen nationalen Behörden gegen diese KI-Systeme Beschwerde einlegen können.

Zu den Hochrisiko-KI-Systemen zählen zunächst KI-Systeme, die in Produkten verwendet werden, die ohnehin unter Produktsicherheitsvorschriften der EU frallen und daher geprüft werden müssen. Das betrifft unter anderem Spielzeug, Fahrzeuge, Aufzüge oder medizinische Geräte.

Weiterhin zählen zu diesen Fällen alle KI-Systeme, die in besonders sensiblen Bereichen eingesetzt werden. Diese Bereiche müssen in einer EU-Datenbank eingetragen werden. Dabei geht es unter anderem um:

  • Verwaltung und Betrieb von kritischen Infrastrukturen (Energie, Wasser, Entsorgung etc.);
  • Bildungseinrichtungen (Schulen, Hochschulen, berufsbildende Schulen etc.);
  • Arbeitsverwaltung und Gründungsförderung sowie Personalabteilungen (HR) und Arbeitsvermittler;
  • Zugang zu wichtigen privaten und öffentlichen Diensten und Leistungen;
  • Strafverfolgung;
  • Asylverwaltung und Grenzkontrollen;
  • Rechtsberatung und Steuerberatung.

Solche als hochriskant eingestuften KI-Systeme dürfen nur unter strengen Auflagen betrieben werden. Bürgern steht ein Beschwerderecht bei den zuständigen nationalen Behörden zu, wenn sie sich durch eines dieser KI-Systeme benachteiligt fühlen. Wenn Unternehmen riskante KI-Systeme verwenden, etwa im Fall von KI im HR, sollten sie auf eine lückenlose Dokumentation und fachkundige menschliche Aufsicht achten. Wir werden das Thema in einem anderen Beitrag noch einmal aufgreifen.

Transparenz für generative KI

Generative KI-Modelle erstellen auf Nutzeranfrage neue Inhalte: Texte, Bilder, Videos, Audiosequenzen. KI-generierte sogenannte Deepfakes [https://de.wikipedia.org/wiki/Deepfake] dienen oft dazu, öffentliche Diskussionen anzuheizen oder politische Gegner zu verunglimpfen. Das KI-Gesetz betrachtet diese generativen KI-Modelle dennoch nicht grundsätzlich als risikobehaftet. Anbieter und Nutzer dieser Modelle müssen jedoch neue Regeln beachten:

  • Sie müssen KI-generierte Inhalte als solche kennzeichnen.
  • Anbieter müssen sicherstellen, dass sich mit dem KI-Modell keine illegalen Inhalte erzeugen lassen.
  • Anbieter müssen Zusammenfassungen von urheberrechtlich geschützten Daten veröffentlichen, wenn sie solche Daten für das Training ihrer KI verwenden.

Schwerwiegende Verstöße gegen diese Transparenzregeln nimmt die EU-Kommission entgegen.

Redaktionsvorbehalt

Die Kennzeichnungspflicht betrifft gleichermaßen multimediale Inhalte wie das geschriebene Wort. Für Texte gilt jedoch ein Redaktionsvorbehalt:

Diese Pflicht [zur Kennzeichnung, Anm.] gilt nicht, … wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.

Art. 50 Abs. 4 KI-VO

Für mich als Blogger bedeutet das: Ich darf Texte, die ganz oder teilweise durch KI generiert wurden, hier veröffentlichen, ohne sie kennzeichnen zu müssen. Aber ich muss dafür die Verantwortung übernehmen. Ähnliches gilt für Zeitungen oder PR-Agenturen.

In diesem Zusammenhang weise ich darauf hin, dass dieser Blog mein eigener kleiner Sandkasten ist, in dem ich die Sandburgen aus Wörtern gern noch mit eigner Hand aufschichte. OHNE KI!

Förderungspflicht für KI in Europa

Die EU erkennt ausdrücklich den Wert von Künstlicher Intelligenz an. Sie möchte insbesondere kleine und mittelständische Unternehmen (KMU) sowie Startups dabei unterstützen, eigene KI-Modelle zu entwickeln. Dazu müssen Mitgliedstaaten Testumgebungen schaffen, in denen Unternehmen ihre KI-Systeme unter realitätsnahen Bedingungen erproben können.

Wann tritt das KI-Gesetz der EU in Kraft?

Das Europaparlament hat das KI-Gesetz am 13. März 2024 verabschiedet. Am 21. Mai 2024 hat der Rat der 27 Mitgliedstaaten dem Gesetz ebenfalls zugestimmt. Danach wurde das Regelwerk im Amtsblatt veröffentlicht und trat 20 Tage später in Kraft. 24 Monate später wird das Gesetz in vollem Umfang anwendbar sein – also zum Frühsommer 2026. Allerdings greifen viele Regelungen in abgestufter Form schon früher:

  • Das Verbot von schädlichen KI-Systemen gilt bereits sechs Monate nach Inkrafttreten des Gesetzes. Also zum Winter 2024.
  • Die Bewertungs- und Registrierungspflichten für riskante KI-Systeme gelten neun Monate nach Inkrafttreten des Gesetzes, also zum Frühjahr 2025.
  • Die Transparenzanforderungen für allgemeine KI-Systeme gelten ab dem 2. August 2025.

Kritik am KI-Gesetz der EU

Kritik am KI-Gesetz richtet sich vor allem auf das langsame Mahlen der Mühlen in Brüssel. So hatte die EU-Kommission bereits im April 2021 ein Gesetz zur Regulierung von KI angekündigt. Drei Jahre brauchte das Regelwerk danach für den Weg durch die Institutionen. Nach KI-Maßstäben ist das eine Ewigkeit. Und der Weg des Gesetzes ist damit noch nicht zu Ende. Nun müssen die Mitgliedstaaten die Regelungen in nationales Recht übertragen. Es wird also noch eine Weile vergehen, bis europäische Unternehmen genau wissen, ob das KI-Gesetz die Entwicklung von Künstlicher Intelligenz in Europa eher anschiebt oder bremst.

Quellen und weitere Informationen: