Journalismus und KI
Der Einsatz Künstlicher Intelligenz im Bereich des Journalismus hat das Potenzial, sich auf die Meinungs- und Willensbildung und damit auf Staat und Gesellschaft auszuwirken. Er wird zudem tiefgreifende Folgen für die Arbeit von Journalistinnen und Journalisten haben.
Aus diesem Grund bedarf der Einsatz Künstlicher Intelligenz im Journalismus unbedingt Leitplanken, damit er die freiheitliche Demokratie sowie den journalistischen Berufsstand nicht gefährdet. So wie Menschen im Straßenverkehr vor selbstfahrenden Autos geschützt werden müssen, muss auch im Bereich des Journalismus der unkontrollierte Einsatz Künstlicher Intelligenz verhindert werden.
KI-Anwendungen agieren fernab von Ethik und einem Wertesystem und sind daher nicht in der Lage, die Wächterfunktion, die Journalistinnen und Journalisten seit jeher zukommt, zu übernehmen. Die redaktionelle Verantwortung über die Inhalte besteht auch für mithilfe einer technologischen Lösung wie der KI generierte Texte. Medienhäuser können sich nicht aus dieser Verantwortung stehlen. Das gilt auch im Hinblick auf ihre soziale Verantwortung als Arbeitgeberinnen und Arbeitgeber. Keinesfalls darf es dazu kommen, dass "Kollege KI" Redakteurinnen und Redakteure ersetzt. Es steht jedoch zu befürchten, dass ausschließlich gewinnorientierte Medienunternehmen das wirtschaftliche Potenzial von KI höher bewerten als die publizistische Qualität ihrer redaktionellen Einheiten. Dem muss ein Riegel vorgeschoben werden.
Ferner müssen Journalistinnen und Journalisten vor der unkontrollierten Ausnutzung ihrer Arbeit durch KI-Anwendungen geschützt werden. Journalistische Inhalte, seien es Texte, Bilder oder Videos, bilden zum großen Teil die Datengrundlage für KI-Anwendungen. Bislang werden Journalistinnen und Journalisten aber nur in den seltensten Fällen nach ihrem Einverständnis gefragt oder finanziell beteiligt. Dies muss sich schnellstens ändern.
Schließlich muss der Einsatz Künstlicher Intelligenz stets gekennzeichnet werden, damit Bürgerinnen und Bürger die Quelle erkennen und den Nutzen des Inhalts für ihre Meinungsbildung einordnen können.
DJV-Positionen: KI im Journalismus
Der DJV hat hinsichtlich des Einsatzes Künstlicher Intelligenz im Journalismus folgende Positionen formuliert:
1. Kein Ersatz menschlicher Leistung
Medienhäuser dürfen Künstliche Intelligenz nicht mit dem Ziel einsetzen, Arbeitsplätze von Journalistinnen und Journalisten einzusparen. Selbst wenn sich Aufgaben durch den Einsatz Künstlicher Intelligenz verändern oder sie gänzlich entfallen, werden Menschen in der Redaktion nicht überflüssig. Denn ein verantwortungsvoller Einsatz von Künstlicher Intelligenz im Journalismus erfordert als Korrektiv stets den unersetzbaren redaktionellen Blick von Journalistinnen und Journalisten auf die generierten Inhalte, um deren Qualität zu gewährleisten und die journalistischen Sorgfaltspflichten einzuhalten.
Auch bei der Recherche und der Zusammenstellung des zugrunde liegenden Datenmaterials sowie bei der Programmierung, beim Training und bei der Konfiguration der KI-Anwendung sind Menschen unersetzlich. Somit nimmt das Zusammenspiel zwischen Menschen und KI-Anwendungen selbst dann noch einen hohen Stellenwert ein, wenn der Automatisierungsgrad der Künstlichen Intelligenz hoch ist. Eine vollständig automatisierte Erstellung und Distribution von Nachrichten muss vermieden werden. Glaubwürdigkeit ist und bleibt die wichtigste Voraussetzung für Journalismus, sie kann nur erhalten bleiben, wenn Menschen für Auswahl und Präsentation der Inhalte die letzte Verantwortung tagen.
2. Verantwortlichkeit für die Inhalte
Eine Veröffentlichung von automatisiert bzw. mit KI erzeugten Beiträgen ohne die Beteiligung oder die effektive Eingriffsmöglichkeit von menschlichen Journalistinnen und Journalisten darf nicht stattfinden. Redaktionen sollen klar geregelte Abnahme- und Freigabeprozesse für journalistische Inhalte etablieren. Ungeachtet der automatisierten Erstellung und/oder Distribution von journalistischen Inhalten durch Künstliche Intelligenz bleibt stets diejenige Redaktion für die Inhalte publizistisch verantwortlich, die die Künstliche Intelligenz zum Einsatz bringt. Entsprechend bleibt auch das jeweilige Medienhaus, welchem die Redaktion angehört, in der Verantwortung.
Medienhäuser sollen Beauftragte benennen, die die Praxis des Einsatzes von KI im Haus abgleichen mit den jeweils gültigen Regeln, etwa einem künftigen Code of Conduct zu KI, und die auch als Ansprechpersonen im Beschwerdefall dienen.
3. Verantwortungsbewusster Umgang mit Datenmaterial
Die Redaktion, die journalistische Inhalte mithilfe von Künstlicher Intelligenz unter Nutzung von Daten erstellen lässt, trägt die Verantwortung für das Datenmaterial, welches den automatisiert generierten Inhalten zugrunde liegt. Die jeweilige Redaktion zeichnet sich dafür verantwortlich, dass das verwendete Datenmaterial inhaltlich richtig und vollständig ist. Die Datenerhebung, -aufbereitung und -verarbeitung muss hohen qualitativen Maßstäben genügen. Unvollständigkeiten, Verzerrungen und sonstige Fehler im Datenmaterial müssen unverzüglich behoben werden. Bei der Verarbeitung personenbezogener Daten müssen die einschlägigen Datenschutzgesetze beachtet werden.
Der DJV ruft Medienhäuser dazu auf, eigene und wertebasierte Datenbanken aufzubauen und unterstützt Open-Data-Projekte von Behörden und staatlichen Einrichtungen. Eine größere Unabhängigkeit von kommerziellen Big-Tech-Anbietern ist erstrebenswert.
4. Transparenz und Kennzeichnung
Journalistische Inhalte, die mithilfe Künstlicher Intelligenz ganz oder teilweise erstellt werden, sind im Veröffentlichungsmedium entsprechend zu kennzeichnen. Die Kennzeichnung muss in unmittelbarer Nähe zum Inhalt erfolgen und hinsichtlich Größe und Gestaltung klar erkennbar sein.
Nutzerinnen und Nutzern soll in angemessener Weise und an geeigneter Stelle mitgeteilt werden, welche Technologien bei der automatisierten Generierung und Distribution von journalistischen Inhalten zum Einsatz kommen und in welchem Umfang. Zudem sollen Nutzerinnen und Nutzern die Möglichkeit haben zu erfahren, welche Daten für die Generierung und/oder Distribution mittels Künstlicher Intelligenz erhoben und verwendet wurden. Die Quelle der zugrunde liegenden Daten und Inhalte muss angegeben werden, zuletzt auch, um eine angemessene Vergütung der Urheberinnen und Urheber zu ermöglichen (vgl. Ziffer 8).
Der DJV ruft den Gesetzgeber dazu auf, derartige Kennzeichnungspflichten gesetzlich zu verankern.
5. Verantwortungsbewusste Personalisierung
Eine Personalisierung von Inhalten mittels Künstlicher Intelligenz dahingehend, dass Nutzerinnen und Nutzern auf Interessen und Nutzungsverhalten zugeschnittene Inhalte angezeigt werden, muss stets verantwortungsbewusst und ausgewogen erfolgen. Filterblasen sollten vermieden werden.
Trotz Personalisierung muss sichergestellt sein, dass den Nutzerinnen und Nutzern auch weiterhin von Redaktionen kurierte Inhalte angezeigt werden. Bei der Gesamtauswahl der Inhalte soll auf gesellschaftliche Vielfalt geachtet werden.
Den Nutzerinnen und Nutzern soll transparent offengelegt werden, nach welchen Kriterien der eingesetzte Algorithmus die angezeigten Inhalte auf die jeweiligen Nutzerinnen und Nutzer zuschneidet. Für Nutzerinnen und Nutzer soll die Möglichkeit bestehen, die Auswahlkriterien zu ändern und/oder die personalisierte Distribution vollständig zu deaktivieren.
6. Einsatz zertifizierter KI-Systeme
Der DJV befürwortet und unterstützt die Entwicklung von Zertifizierungen von KI-Systemen, die im journalistischen Bereich eingesetzt werden. Ziel muss es sein, dass nur noch spezielle, zertifizierte KI-Systeme im journalistischen Bereich zum Einsatz kommen, die gewisse Standards hinsichtlich Qualität, Ausgewogenheit, Diskriminierungsfreiheit, Daten- und Quellenschutz sowie Sicherheit erfüllen. Die Zertifizierungen sollten eng mit der Politik und den relevanten Nicht-Regierungsorganisationen aus dem Medienbereich entwickelt werden.
Der DJV erklärt sich bereit, an derartigen Entwicklungen von Zertifizierungen mitzuwirken.
7. Fortlaufende Überprüfung
Medienhäuser müssen den Einsatz und die Wirkung von Künstlicher Intelligenz im Bereich des Journalismus fortlaufend auf die vorstehenden Aspekte hin überprüfen.
8. Weiterbildung
Der Umgang mit Künstlicher Intelligenz muss fester Bestandteil von Aus- und Weiterbildungen von Journalistinnen und Journalisten werden. Medienhäuser werden aufgerufen, entsprechende Angebote zu schaffen. Inhalt dieser Bildungsangebote muss neben der Nutzung und die daraus resultierenden Möglichkeiten (etwa beim Einsatz zur Recherche) vor allem auch sein, für Missbrauch von Künstlicher Intelligenz (zum Beispiel zur Erstellung von Deepfakes) zu sensibilisieren und Möglichkeiten ihrer Entdeckung im journalistischen Alltag zu schaffen.
9. Angemessene Vergütung
KI-Anwendungen sind auf vorhandene Daten und Inhalte angewiesen, von denen sie lernen und mithilfe derer sie sich weiterentwickeln können. KI-Anwendungen durchforsten mittels Text- und Data-Mining-Technologien Unmengen an vorhandenen Inhalten, in aller Regel ohne zuvor die Einwilligung der Urheberinnen oder Urheber eingeholt oder hierfür eine angemessene Vergütung bezahlt zu haben. Im Anschluss nutzt und vermarktet die Künstliche Intelligenz die fremden Inhalte oder Teile hiervon in eigenem Namen. Im Ergebnis werden Journalistinnen und Journalisten, die die Inhalte ursprünglich angefertigt haben, zu unbezahlten Lieferanten von Rohdaten für die KI-Systeme. Das darf nicht sein. Der DJV fordert den Gesetzgeber daher auf, für Text- und Data-Mining eine Vergütungspflicht einzuführen, damit Journalistinnen und Journalisten an der Entwicklung und Nutzung von KI-Systemen partizipieren können.
Video: Welche Bedeutung hat KI für den Journalismus?
Initiative Urheberrecht
DJV-Justiziarin Hanna Möllers spricht über Chancen und Risiken von KI – und die Zukunft des Journalismus.
