Mitglied werden
Login Mitglied werden
Künstliche Intelligenz im Journalismus

DJV-Positionen

Künstliche Intelligenz im Journalismus

Der DJV ruft zu einem sorgfältigen und differenzierten Umgang mit Künstlicher Intelligenz (KI) im Journalismus auf.

Künstliche Intelligenz

Journalismus und KI

Der Einsatz Künstlicher Intelligenz im Bereich des Journalismus hat das Potenzial, sich auf die Meinungs- und Willensbildung und damit auf Staat und Gesellschaft auszuwirken. Er wird zudem tiefgreifende Folgen für die Arbeit von Journalist:innen haben.

Aus diesem Grund bedarf der Einsatz Künstlicher Intelligenz im Journalismus unbedingt Leitplanken, damit er die freiheitliche Demokratie sowie den journalistischen Berufsstand nicht gefährdet. So wie Menschen im Straßenverkehr vor selbstfahrenden Autos geschützt werden müssen, muss auch im Bereich des Journalismus der unkontrollierte Einsatz Künstlicher Intelligenz verhindert werden.

KI-Anwendungen agieren fernab von Ethik und einem Wertesystem und sind daher nicht in der Lage, die Wächterfunktion, die Journalist:innen seit jeher zukommt, zu übernehmen. Die redaktionelle Verantwortung über die Inhalte besteht auch für mithilfe einer technologischen Lösung wie der KI generierte Texte. Medienhäuser können sich nicht aus dieser Verantwortung stehlen. Das gilt auch im Hinblick auf ihre soziale Verantwortung als Arbeitgeber:innen. Keinesfalls darf es dazu kommen, dass "Kollege KI" Redakteur:innen ersetzt. Es steht jedoch zu befürchten, dass ausschließlich gewinnorientierte Medienunternehmen das wirtschaftliche Potenzial von KI höher bewerten als die publizistische Qualität ihrer redaktionellen Einheiten. Dem muss ein Riegel vorgeschoben werden.

Ferner müssen Journalist:innen vor der unkontrollierten Ausnutzung ihrer Arbeit durch KI-Anwendungen geschützt werden. Journalistische Inhalte, seien es Texte, Bilder oder Videos, bilden zum großen Teil die Datengrundlage für KI-Anwendungen. Bislang werden Journalist:innen aber nur in den seltensten Fällen nach ihrem Einverständnis gefragt oder finanziell beteiligt. Dies muss sich schnellstens ändern.

Schließlich muss der Einsatz Künstlicher Intelligenz stets gekennzeichnet werden, damit Bürger:innen die Quelle erkennen und den Nutzen des Inhalts für ihre Meinungsbildung einordnen können.

DJV-Positionen

KI im Journalismus

Der DJV hat hinsichtlich des Einsatzes Künstlicher Intelligenz im Journalismus folgende Positionen formuliert:

1. Kein Ersatz menschlicher Leistung

Medienhäuser dürfen Künstliche Intelligenz nicht mit dem Ziel einsetzen, Arbeitsplätze von Journalist:innen einzusparen. Selbst wenn sich Aufgaben durch den Einsatz Künstlicher Intelligenz verändern oder sie gänzlich entfallen, werden Menschen in der Redaktion nicht überflüssig. Denn ein verantwortungsvoller Einsatz von Künstlicher Intelligenz im Journalismus erfordert als Korrektiv stets den unersetzbaren redaktionellen Blick von Journalist:innen auf die generierten Inhalte, um deren Qualität zu gewährleisten und die journalistischen Sorgfaltspflichten einzuhalten.

Auch bei der Recherche und der Zusammenstellung des zugrunde liegenden Datenmaterials sowie bei der Programmierung, beim Training und bei der Konfiguration der KI-Anwendung sind Menschen unersetzlich. Somit nimmt das Zusammenspiel zwischen Menschen und KI-Anwendungen selbst dann noch einen hohen Stellenwert ein, wenn der Automatisierungsgrad der Künstlichen Intelligenz hoch ist. Eine vollständig automatisierte Erstellung und Distribution von Nachrichten muss vermieden werden. Glaubwürdigkeit ist und bleibt die wichtigste Voraussetzung für Journalismus, sie kann nur erhalten bleiben, wenn Menschen für Auswahl und Präsentation der Inhalte die letzte Verantwortung tagen.

2. Verantwortlichkeit für die Inhalte

Eine Veröffentlichung von automatisiert bzw. mit KI erzeugten Beiträgen ohne die Beteiligung oder die effektive Eingriffsmöglichkeit von menschlichen Journalist:innen darf nicht stattfinden. Redaktionen sollen klar geregelte Abnahme- und Freigabeprozesse für journalistische Inhalte etablieren. Ungeachtet der automatisierten Erstellung und/oder Distribution von journalistischen Inhalten durch Künstliche Intelligenz bleibt stets diejenige Redaktion für die Inhalte publizistisch verantwortlich, die die Künstliche Intelligenz zum Einsatz bringt. Entsprechend bleibt auch das jeweilige Medienhaus, welchem die Redaktion angehört, in der Verantwortung.

Medienhäuser sollen Beauftragte benennen, die die Praxis des Einsatzes von KI im Haus abgleichen mit den jeweils gültigen Regeln, etwa einem künftigen Code of Conduct zu KI, und die auch als Ansprechpersonen im Beschwerdefall dienen.

3. Verantwortungsbewusster Umgang mit Datenmaterial

Die Redaktion, die journalistische Inhalte mithilfe von Künstlicher Intelligenz unter Nutzung von Daten erstellen lässt, trägt die Verantwortung für das Datenmaterial, welches den automatisiert generierten Inhalten zugrunde liegt. Die jeweilige Redaktion zeichnet sich dafür verantwortlich, dass das verwendete Datenmaterial inhaltlich richtig und vollständig ist. Die Datenerhebung, -aufbereitung und -verarbeitung muss hohen qualitativen Maßstäben genügen. Unvollständigkeiten, Verzerrungen und sonstige Fehler im Datenmaterial müssen unverzüglich behoben werden. Bei der Verarbeitung personenbezogener Daten müssen die einschlägigen Datenschutzgesetze beachtet werden.

Der DJV ruft Medienhäuser dazu auf, eigene und wertebasierte Datenbanken aufzubauen und unterstützt Open-Data-Projekte von Behörden und staatlichen Einrichtungen. Eine größere Unabhängigkeit von kommerziellen Big-Tech-Anbietern ist erstrebenswert.

4. Transparenz und Kennzeichnung

Journalistische Inhalte, die mithilfe Künstlicher Intelligenz ganz oder teilweise erstellt werden, sind im Veröffentlichungsmedium entsprechend zu kennzeichnen. Die Kennzeichnung muss in unmittelbarer Nähe zum Inhalt erfolgen und hinsichtlich Größe und Gestaltung klar erkennbar sein.

Nutzer:innen soll in angemessener Weise und an geeigneter Stelle mitgeteilt werden, welche Technologien bei der automatisierten Generierung und Distribution von journalistischen Inhalten zum Einsatz kommen und in welchem Umfang. Zudem sollen Nutzer:innen die Möglichkeit haben zu erfahren, welche Daten für die Generierung und/oder Distribution mittels Künstlicher Intelligenz erhoben und verwendet wurden. Die Quelle der zugrunde liegenden Daten und Inhalte muss angegeben werden, zuletzt auch, um eine angemessene Vergütung der Urheberinnen und Urheber zu ermöglichen (vgl. Ziffer 8).

Der DJV ruft den Gesetzgeber dazu auf, derartige Kennzeichnungspflichten gesetzlich zu verankern.

5. Verantwortungsbewusste Personalisierung

Eine Personalisierung von Inhalten mittels Künstlicher Intelligenz dahingehend, dass Nutzer:innen auf Interessen und Nutzungsverhalten zugeschnittene Inhalte angezeigt werden, muss stets verantwortungsbewusst und ausgewogen erfolgen. Filterblasen sollten vermieden werden.

Trotz Personalisierung muss sichergestellt sein, dass den Nutzer:innen auch weiterhin von Redaktionen kurierte Inhalte angezeigt werden. Bei der Gesamtauswahl der Inhalte soll auf gesellschaftliche Vielfalt geachtet werden.

Den Nutzer:innen soll transparent offengelegt werden, nach welchen Kriterien der eingesetzte Algorithmus die angezeigten Inhalte auf die jeweiligen Nutzer:innen zuschneidet. Für Nutzer:innen soll die Möglichkeit bestehen, die Auswahlkriterien zu ändern und/oder die personalisierte Distribution vollständig zu deaktivieren.

6. Einsatz zertifizierter KI-Systeme

Der DJV befürwortet und unterstützt die Entwicklung von Zertifizierungen von KI-Systemen, die im journalistischen Bereich eingesetzt werden. Ziel muss es sein, dass nur noch spezielle, zertifizierte KI-Systeme im journalistischen Bereich zum Einsatz kommen, die gewisse Standards hinsichtlich Qualität, Ausgewogenheit, Diskriminierungsfreiheit, Daten- und Quellenschutz sowie Sicherheit erfüllen. Die Zertifizierungen sollten eng mit der Politik und den relevanten Nicht-Regierungsorganisationen aus dem Medienbereich entwickelt werden.

Der DJV erklärt sich bereit, an derartigen Entwicklungen von Zertifizierungen mitzuwirken.

7. Fortlaufende Überprüfung

Medienhäuser müssen den Einsatz und die Wirkung von Künstlicher Intelligenz im Bereich des Journalismus fortlaufend auf die vorstehenden Aspekte hin überprüfen.

8. Weiterbildung

Der Umgang mit Künstlicher Intelligenz muss fester Bestandteil von Aus- und Weiterbildungen von Journalist:innen werden. Medienhäuser werden aufgerufen, entsprechende Angebote zu schaffen. Inhalt dieser Bildungsangebote muss neben der Nutzung und die daraus resultierenden Möglichkeiten (etwa beim Einsatz zur Recherche) vor allem auch sein, für Missbrauch von Künstlicher Intelligenz (zum Beispiel zur Erstellung von Deepfakes) zu sensibilisieren und Möglichkeiten ihrer Entdeckung im journalistischen Alltag zu schaffen.

9. Angemessene Vergütung

KI-Anwendungen sind auf vorhandene Daten und Inhalte angewiesen, von denen sie lernen und mithilfe derer sie sich weiterentwickeln können. KI-Anwendungen durchforsten mittels Text- und Data-Mining-Technologien Unmengen an vorhandenen Inhalten, in aller Regel ohne zuvor die Einwilligung der Urheberinnen oder Urheber eingeholt oder hierfür eine angemessene Vergütung bezahlt zu haben. Im Anschluss nutzt und vermarktet die Künstliche Intelligenz die fremden Inhalte oder Teile hiervon in eigenem Namen. Im Ergebnis werden Journalist:innen, die die Inhalte ursprünglich angefertigt haben, zu unbezahlten Lieferant:innen von Rohdaten für die KI-Systeme. Das darf nicht sein. Der DJV fordert den Gesetzgeber daher auf, für Text- und Data-Mining eine Vergütungspflicht einzuführen, damit Journalist:innen an der Entwicklung und Nutzung von KI-Systemen partizipieren können.

Grundregeln für Medienunternehmen und Medienschaffende

Paris-Charta zu KI und Journalismus

Der Deutsche Journalisten-Verband gehört zu den Unterzeichnern der Paris-Charta zu KI und Journalismus. Die Charta stellt 10 Grundregeln zu KI und Journalismus auf, die für Medienunternehmen und Medienschaffende verbindlich werden sollen.

 Video

DJV-Diskussionsrunde "KI - Aber wie?" mit Dennis Horn, 1.6.2023

Noch kein Mitglied?

Komm' zu uns! Gemeinsam sind wir stärker! Engagiere dich mit uns für den Journalismus und gestalte die Zukunft deines Berufs aktiv mit. Denn wir setzen uns für faire Bezahlung, gesunde Arbeitsbedingungen sowie die Wahrung der Pressefreiheit und der Urheberrechte ein. Nur gemeinsam sind wir stark! Profitiere zudem von unserem wertvollen Mitgliederservice inklusive Rechtsschutz.

Jetzt Mitglied werden!