Zuletzt aktualisiert am 23. September 2025 von Wolff von Rechenberg

Mit dem KI-Gesetz (EU AI Act) hat sich Europa das weltweit erste verdindliche Regelwerk für den Einsatz von Künstlicher Intelligenz (Artificial Intelligence, AI) gegeben. Und dieses Regelwerk betrifft auch uns Journalist:innen und Texter:innen. Wer unter uns generative KI-Tools wie ChatGPT, Midjourney oder andere Generatoren für Text, Bild und Video nutzt, muss sich an diese Regeln halten. Dabei sollten gerade Journalist:innen Transparenz nicht als lästige Pflichtübung abtun: Sie ist Auftrag und gleichzeitig Chance. Denn Transparenz schafft Vertrauen. Gemeinsam wollen wir uns den EU AI Act anschauen und Empfehlungen für unseren Alltag ableiten.

1. EU AI Act In A Nutshell

Der EU AI ACT (Verordnung EU 2024/1689), den das Europa Parlament am 13.März 2024 verabschiedet hat, trat 20 Tage nach Veröffentlichung im Amtsblatt in Kraft, räumt allerdings großzügige Fristen für Anpassungen ein. So gelten viele Regelungen vollständig erst ab August 2026. Einige aber schon deutlich früher, warnt Rechtsanwältin Hannah Wiehler von der Anwaltskanzlei Röhl, Dehm & Partner, die sich auf KI-Recht spezialisiert hat. Journalist:innen und Texter:innen müssen insbesondere einige Kennzeichnungs- und Transparenzregeln beachten.

2. Wie nutzen wir KI?

Wir alle nutzen mehr oder weniger häufig KI-Tools. Wir schreiben mit ChatGPT, suchen mit Perplexity oder Gemini und wir generieren hübsche Bilder mit einem der ungezählten weiteren KI-Tools. Schon in dieser Rolle betrifft uns der EU AI Act:

Beispiel: Ich schreibe eine private E-Mail mit Unterstützung von ChatGPT. Übergebe ich der KI Name und E-Mailadresse des Empfängers, begehe ich einen Verstoß gegen den EU AI Act. Denn die Verordnung betont, dass alle datenschutzrechtlichen Regeln der DSGVO auch für den Gebrauch von Ki gelten.

Weil KI einen sensiblen Umgan erfordert, verpflichtet der EU AI Act alle Unternehmen zu einer Schulung der Mitarbeitenden, wenn in einem Unternehmen KI zum Einsatz kommt. Als Journalist:innen und Texter:innen betrifft uns das Regelwerk der EU vor in folgen Rollen:

  • Nutzer: Kaum jemand kommt heute ohne KI-Einsatz für Recherche aus.
  • Ersteller: Wir schreiben, texten und gestalten mit KI: von der Bildunterschrift oder der Headline bis zum kompletten Beitrag oder zum fertigen Layout.
  • Publizisten: Viele von uns treten auch selbst mit eigenen Inhalten in Erscheinung.

3. Was ändert sich konkret für uns?

a) Kennzeichnungspflichten

Der EU AI Act sieht für mit KI erstellte Inhalte Kennzeichnungspflichten vor. Diese Pflichten gelten ab August 2026 für alle mit KI erzeugten Inhalte. Für den Einsatz allgemein verfügbarer KI-Tools gelten diese Pflichten schon seit dem 2. August 2025. Dabei gilt:

  • Die Kennzeichnungspflicht gilt grundsätzlich für „künstlich erzeugte oder manipulierte Texte“ (Art. 50, Abs. 4 EU AI Act), wenn diese Texte von öffentlichem Interesse sind.
  • Ebenso sind alle KI-generierten Inhalte zu kennzeichnen, die Nutzer:innen als von Menschen gemacht erscheinen (Deep Fakes).
  • Die Kennzeichnungspflicht entfällt für Texte, wenn sie von einem Menschen oder einem Unternehmen redaktionell geprüft und verantwortet werden (ebd.).
  • Für Inhalte, die nur privat geteilt werden, entfällt die Kennzeichnungspflicht ebenfalls.
  • ACHTUNG: Social Media Posts gelten nicht als privat!

Die Befreiung von der Kennzeichnungspflicht für redaktionell verantwortete Texte wurde eingefügt, um die Freiheit von Meinung, Kunst und Presse nicht einzuschränken. Warum Zeitungsverlage und Redakteur:innen dennoch nicht auf eine Kennzeichnung verzichten sollten, wollen wir später erörtern.

b) Urheberrecht und redaktionelle Verantwortung

Grundsätzlich stehen KI-Texte nicht unter dem Schutz des Urheberrechts. Denn nur Menschen können Urheber sein. Doch die Anbieter allgemein verfügbarer KI-Tools trainieren ihre KI-Modelle bevorzugt mit hochwertigen, seriösen Inhalten. Und diese Inhalte haben in der Regel eines gemeinsam: Sie sind urheberrechtlich geschützt.

Was ist, wenn in KI-Texten urheberrechtlich geschützte Passagen erscheinen? Verstoßen wir gegen Urheberrecht, wenn wir diese Texte übernehmen und veröffentlichen? Darüber sollten Verantwortliche in den Redaktionen und Unternehmen nachdenken.

Und noch etwas gilt auch für KI-Texte: Für Fehler oder Fake News haftet der oder die redaktionell Verantwortliche – Redaktionen, Marketingabteilungen oder Website-Betreiber:innen. Und KI liefert leider oft Falschinformationen. Findet das KI-Modell innerhalb der Inferenzzeit keine zutreffende Antwort oder kann sie die Informationen nicht korrekt verarbeiten, dann erfindet sie Fakten, sie halluziniert. Obacht bei der Verwendung von KI-Texten!

c) KI und Vertrauen

Mit der Kennzeichnungspflicht erfüllt die EU einen Wunsch der Bevölkerung: Eine repräsentative Umfrage der Direktorenkonferenz der Landesmedienanstalten (DLM) fand 2024 heraus: 90 Prozent der Deutschen wünschen sich eine Kennzeichnung von KI-Inhalten. Journalist:innen und Medienhäuser sollten dies als Verpflichtung auffassen.

Wenn Leser:innen nicht nachvollziehen können, ob und wie weit ein Text mit Hilfe von KI entstanden ist, verlieren sie Vertrauen. Dieses Vertrauen ist das wichtigste Kapital von Journalist:innen. Und auch Medienhäuser sollten sich genau überlegen, ab welchem Punkt Effizienzgewinne durch den Einsatz von Ki dem Vertrauen in ihre Produkte schadet – unabhängig von den Transparenzpflichten des EU AI Acts.

Werbetexter:innen stehen nicht in dieser Verantwortung. Sie liefern Inhalte für die Marketingabteilungen von Unternehmen. Doch auch diese sollten sich um Vertrauenswürdigkeit Gedanken machen. Die Reputation einer Quelle spielt eine entscheidende Rolle für die Crawler von Suchmaschinen – und für die Bots der KI-Modelle.

Die Reputation einer Website ergibt sich aus der Qualität der Inhalte. Sie entscheidet darüber, ob die Seite in den Ergebnislisten der Suchmaschinen erscheint oder in KI-Antworten zitiert wird. Und als vertrauenswürdig gilt vor allem originaler, menschengemachter Content.

4. Chancen und Risiken durch den EU AI Act

a) Im Spannungsfeld zwischen Kontrolle und Innovation

Der EU AI Act hat die Diskussionen um die Rolle und den Einfluss von KI nicht besänftigt. Verbraucherschützer erwarten, dass der AI Act die Grundrechte stärkt und damit das Vertrauen in KI. Gleichzeitig betrachten vor allem Softwarefirmen das Regelwerk als Innovationshürde. So fasst die Computerwoche die Diskussionen um den EU AI Act zusammen. Sie fürchten, Europa könnte beim wichtigen Thema KI den Anschluss verlieren.

b) Der Brüssel Effekt

Charlotte Siegmann und Markus Anderljung sprechen in ihrer Studie zum EU AI Act vom “Brussels Effect”: Die EU habe mit dem AI Act einen Standard gesetzt, der auch von KI-Anbietern und Staaten außerhalb der EU übernommen werden könnte. So könnte der EU AI Act vor allem große US-Firmen dazu bringen, ihre KI-Modelle zum Besseren zu verändern. Denn gegenwärtig seien diese als „hochriskant“ einzustufen.

5. Empfehlungen für Journalist:innen und Texter:innen

  1. Transparenz first: Wir sollten in eigenen Publikationen angeben, welchen Teil der Arbeit KI geleistet hat. Auch wenn wir KI nur zur Unterstützung eingesetzt haben.
  2. Quellenkritik: Wir dürfen uns nie auf KI-Vorschläge verlassen. Selbst ein zuverlässiges KI-Modell, das nur ausgewählte Quellen verarbeitet, kann Zusammenhänge falsch interpretieren oder Fakten falsch gewichten.
  3. Urheberrecht: Alle öffentlich verfügbaren KI-Modelle verwenden Trainingsdaten mehr oder weniger unklarer Herkunft. Das sollten wir stets im Kopf behalten, wenn wir Formulierungen der KI übernehmen.
  4. Dokumentation: Investigative Journalist:innen sollten ohnehin ihre Rechercheunterlagen archivieren. Wenn sie KI einsetzen, sollten sie auch die verwendeten KI-Tools und ihre Prompts dokumentieren.
  5. Fortbilden: Nach KI-Maßstäben ist schon ein langes Wochenende eine Ewigkeit. Wir sollten aktuelle Entwicklungen verfolgen. Denn unsere Leser:innen haben unsere allergrößte Sorgfalt auch bei der Wahl unserer KI-Tools verdient.

6. Ausblick

  • Wie alle EU-Verordnungen muss auch der AI Act in nationales Recht umgesetzt werden. Spätestens dann werden Medienhäuser Compliance-Strukturen aufbauen müssen.
  • Wir brauchen eine neue journalistische Ethik: Transparenz und Dokumentation werden Qualitätsmerkmale für einen Journalismus unter dem Einfluss von KI.
  • Der EU AI Act ist kein Ausdruck einer Tyrannei der Bürokratie über die Kreativität. Er appelliert vielmehr an uns, KI verantwortungsvoll einzusetzen.

7. Fazit

Der EU AI Act ist ein Weckruf! Er erinnert uns an unsere journalistische Verantwortung. Das bringt neue Aufgaben und zusätzliche Pflichten. Aber: Wer professionell schreiben will, muss auch KI professionell nutzen. Wir müssen wissen, wie wir welches KI-Modell einsetzen, und wir müssen einen solchen KI-Einsatz transparent kommunizieren.

Dabei sollten wir daran denken: „KI-generiert“ ist und wird kein Qualitätsprädikat – sogar für KI. Denn obwohl immer mehr Unternehmen und Medienhäuser auf KI-generierte Inhalte setzen, werten selbst die Bots der großen KI-Modelle KI-generierte Inhalte eher ab. Autorenschaft entwickelt sich damit zum Alleinstellungsmerkmal. Das hebt uns von automatisierter Produktion ab.

Quellen

KI-Verwendung:

  • ChatGPT: Strukturierung
  • Gemini: Recherche