RECHTSGUT
Ab 2026 greifen gesetzliche Kennzeichnungs-Regeln für unsere Inhalte, die mit KI-Werkzeugen erstellt wurden. KI-Bilder sind stärker betroffen als Texte.
Die Pflichten kommen auf uns zu, weil im Bildungsportal ein „Transparenzrisiko“ brütet. So lautet Europas amtliche Risikoklasse des KI-Verordnung, der unsere Redaktion unterworfen wird.
Der „AI Act“ entstand 2024 und wird in Stufen umgesetzt. Die nächste für uns relevante Stufe kommt im August 2026. Zwar hat Brüssel am 19. November 2025 auf Druck von Trump und Tech-Konzernen für einige Auflagen Aufschub angekündigt. Aber das gilt nur für die Hochrisikoklasse digitaler Dienste, wo Gefahren für Grundrechte, Sicherheit und Gesundheit lauern. Unser Bildungsportal spielt in der Unterliga, wo die EU nur ein „Transparenzrisiko“ sieht. Die neuen Gesetzespflichten fordern User aufzuklären, wenn sie mit einem KI-System interagieren. Für diese Kennzeichnung wird die Schonfrist nicht gedehnt.
Jedes fotorealistische KI-Bild kennzeichnen
In der Bildungsportal-Redaktion wächst die Zahl derer, die sich die Suche in Fotodatenbanken sparen und ihr Wunschmotiv mit einem Chatbot oder anderem KI-Grafik-Tool bauen. Dafür gilt intern seit 2024 die Pflicht zur Vorlage und Genehmigung durch die Chefredaktion – und das Bild muss für alle User sichtbar gekennzeichnet werden („KI-generiert mit Toolname“).
Die EU macht dies zur gesetzlichen Pflicht. Der Verordnungstext lässt nur einen Weg für unseren Redaktion zu.
Jedes fotorealistisch gestaltete Bild muss gekennzeichnet werden. Denn alles, was natürlich aussieht (nicht wie ein Comic o. ä.), kann als Deepfake gedeutet werden.
Deepfake ist nun tatsächlich ein Rechtsbegriff, und zwar ein ziemlich dehnbarer. Die amtliche Definition steht in Artikel 3 Nr. 60 und wird im entscheidenden Artikel 50, wo die Transparenzvorschriften stehen, wiederholt:
„Nutzer eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die wirklichen Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen merklich ähneln und einer Person fälschlicherweise als echt oder wahrhaftig erscheinen würden (,Deepfake’), müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.“ — Art. 50 (4)
Zwar steht dort auch eine Lockerung, falls es „für die Ausübung der (…) Rechte auf freie Meinungsäußerung und auf Freiheit der Kunst und Wissenschaft erforderlich ist und geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen“. Aber darauf können wir uns in der staatlichen Öffentlichkeit nicht berufen. Denn der Staat ist kein Grundrechtsträger.
Bei KI-Texten (meist) keine Kennzeichnung nötig
KI-Texte müssen wir nicht kennzeichnen, wenn sie redaktionell geprüft sind. Denn das Regelwerk legt in Artikel 50 einen anderen Maßstab als für Bilder an.
Im Grunde gilt die Pflicht nur dann, wenn man einen KI-generierten Text völlig ungeprüft ins Netz stellt und niemand benannt ist, der formal redaktionelle Verantwortung übernimmt – was zumindest in Deutschland für die meisten Websites wegen der Impressumsvorschriften des §18 Medienstaatsvertrag und §5 Digitale-Dienste-Gesetzes (DDG, früher Telemediengesetz) jedoch klar geregelt ist.
Aufmerksam sollte die BiP-Redaktion – und die gesamte staatliche Öffentlichkeitsarbeit – registrieren, dass der Gesetzgeber sehr kritisch auf die Gefahr politischer Desinformation schaut. Das erklärt diese für uns sehr relevante Eingrenzung der EU-Regeln:
„Betreiber eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.
Diese Pflicht gilt nicht, wenn (…) die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.“
Dies wird durch die Bildungsportal-Redaktion formal erfüllt. Kein Text kommt ins Netz, bevor nicht eine Redakteurin ihn gesichtet und darüber entschieden hat. Zudem liest man im BiP-Impressum eindeutig „Für den Inhalt im Sinne des § 18 Abs. 2 MStV verantwortlich: Britta Lüers, Leitung Pressestelle Niedersächsisches Kultusministerium“.
Schwindeln verboten
Soweit das Formale. Inhaltlich weist der Medienstaatsvertrag uns in §19 Sorgfaltspflichten zu, die beim KI-Einsatz genauso gelten wie bei anderen Inhalten – oder erst recht:
Telemedien mit journalistisch-redaktionell gestalteten Angeboten […] haben den anerkannten journalistischen Grundsätzen zu entsprechen. Gleiches gilt für andere geschäftsmäßig angebotene, journalistisch-redaktionell gestaltete Telemedien, in denen regelmäßig Nachrichten oder politische Informationen enthalten sind und die nicht unter Satz 1 fallen.
Nachrichten sind vom Anbieter vor ihrer Verbreitung mit der nach den Umständen gebotenen Sorgfalt auf Inhalt, Herkunft und Wahrheit zu prüfen.
Abgesehen von der Konkretisierung der Sorgfaltspflicht im Pressekodex, den diese Vorschrift quasi auf alle redaktionellen Telemedien überträgt: In Urteil über Urteil haben Deutschlands höchste Gerichte die staatliche Öffentlichkeitsarbeit inhaltlich auf das „Gebot der Richtigkeit und Sachlichkeit“ festgenagelt – als rechtsstaatliche Anforderungen für staatliches Informationshandeln.
Der beste aktuelle Kenntnisstand der Sache muss ins Netz. Kein Über- oder Untertreiben. Kein Mutmaßen. Kein Andeuten und Suggerieren. Nicht fabulieren, nicht halluzinieren, nicht schwindeln, nicht lügen. Was der KI leider öfter mal passiert. Wie auf Pinocchio müssen wir auf unsere nützlichen Roboter genau aufpassen.
Bildnachweis: Piktogramme (3) M. Althaus, CC0
- MASCHINENRAUM OK für KI? Regeln für Computerbilder (26. November 2024)
Es klingt so bequem. Spaß verspricht es auch: Nie mehr lange nach Fotos fahnden, die leidlich zum Inhalt passen – sondern binnen Sekunden die perfekte Bildidee fotorealistisch selbst kreieren. Oder ein KI-erzeugtes Motiv aus einer Bilddatenbank mit wenigen Textbefehlen anpassen. Aber darf man das im Bildungsportal? Ja – unter restriktiven Spielregeln. Die Chefredaktion hat sie am 13. November 2024 in einer Arbeitsanweisung für alle Redaktionsmitglieder festgelegt. Sie finden dort auch Hinweise zur Qualitätskontrolle und zum kritischen Umgang mit der Software.