In der Podiumsdiskussion am ersten Konferenzabend beschrieb die Journalistin Rebecca Ciesielski (Bayrischer Rundfunk) die Bedeutung von generativen KI-Anwendungen für die journalistische Praxis. Auch wenn diese den Journalismus insgesamt vor große Herausforderungen stellen, könnten entsprechende Anwendung einem auf Qualität bedachten Journalismus auch wertvolle Unterstützung bieten, etwa beim Adaptieren von Texten für unterschiedliche Textformate oder als Hilfsmittel zur Recherchevorbereitung.

Demgegenüber beleuchteten Petra Grimm und Susanne Kuhnert (beide Hochschule der Medien, Stuttgart) in ihrem Beitrag „Ethische Werte beim Einsatz von Sprach- und Stimmsynthese in den Medien“ eine der Herausforderungen, mit der sich Medienschaffende durch die Verfügbarkeit von KI-Anwendungen konfrontiert sehen. Da die KI-basierte Stimmsynthese zunehmend menschliche Stimmen imitieren könne, würden immer mehr Medienunternehmen diese im Bereich der Nachrichtenproduktion einsetzen oder dies in Erwägung ziehen. Angesichts dieser Entwicklung sei es für professionelle Sprecher*innen daher ratsam, ihre Stimme patentieren zu lassen.

Ein weiteres praktisches Problem thematisierte Bernhard Debatin (Ohio University, Athens, USA) in seinem Beitrag „‚Squatting for Hitler‘: Hate Speech, Dog-Whistle Politics und generative AI“. Auf Musikplattformen wie Suno, die es Nutzern ermöglichen, mithilfe von generativer KI selbst Musik und Liedtexte zu erstellen, kursierten zunehmend rassistische Inhalte, wobei Debatin exemplarisch den dort verfügbaren Song „Squatting for Hitler“ anführte. Hieran zeige sich, dass das Problem der Verbreitung von diskriminierenden Inhalten im Netz durch die leichtere Produktion problematischer Inhalte verstärkt werde. Weiterhin werde deutlich, dass sich Mechanismen zur Inhaltsmoderation durch die Verwendung von kodierter Sprache, das sogenannte ‚Dog-Whistling‘, umgehen ließen. Angesichts dessen warnte Debatin vor einer „Vermüllung des Internets“ und zog Parallelen zur „Tragedy of the Commons“, da die Qualität eines öffentlichen Guts – in diesem Fall des Internets – durch eine unregulierte KI-Nutzung beeinträchtigt werde. Eine gesetzliche Regulierung sei daher unausweichlich.

Neben Problemen im Hinblick auf den spezifischen Gebrauch generativer KI wurden zudem Probleme thematisiert, welche die Beschaffenheit solcher Anwendungen betreffen. So argumentierte Jana Hecktor (Eberhard Karls Universität Tübingen) in ihrem Beitrag „Large Language Models: Ethische Standards für Trainingsdaten“, dass neben den in ethischen Debatten vordergründig diskutierten Problemen auch die systematische Verzerrung von Sprachmodellen eine ernsthafte Herausforderung darstelle. Wenn Sprachmodelle mit Daten trainiert werden, die systematische Verzerrungen oder Diskriminierungen enthalten, würde sich dies im Algorithmus niederschlagen, mit der Folge, dass sich diese auch in den generierten Inhalten widerspiegeln. Um die Qualität der Ergebnisse zu verbessern, sei es daher notwendig, verbindliche Standards für Trainingsdaten zu entwickeln.

Theresa Krampe (Eberhard Karls Universität Tübingen) vertiefte diesen Aspekt in ihrem Beitrag „‚Voice‘, ‚Silencing‘ und ‚Resistance‘ im Kontext von LLMs“. Unter Bezugnahme auf Beispiele der jüngeren Vergangenheit wie dem Umstand, dass der Google-Algorithmus dunkelhäutige Menschen als Gorillas klassifizierte, argumentierte sie, dass large language models (LLMs) diskriminierend sein können. Technische Lösungen seien in dieser Hinsicht nicht ausreichend, da sie die vielschichtigen soziokulturellen Begebenheiten und historisch gewachsenen Machtstrukturen nicht erfassen könnten. Vielmehr sei eine intersektionale Auseinandersetzung mit KI-Trainingsdaten notwendig, um strukturelle Vorurteile grundsätzlich zu adressieren.

Ein weiteres Problemfeld betrifft Herausforderungen, die zukünftige Weiterentwicklungen von KI-Anwendungen mit sich bringen. So verdeutlichte Matthias Rath (Pädagogische Hochschule Ludwigsburg) in seinem Beitrag „Artificial Sepsis – Leitlinien einer salutogenetischen Bot-Nutzung“, dass zur Beschreibung von technischen Problemen häufig medizinische Metaphern herangezogen würden. Etwa, wenn bei einem äußeren Angriff von einem Virus die Rede sei. Diese Vorstellungen gelte es um ein weiteres Krankheitsbild zu ergänzen: Wenn Bots zukünftig in der Lage sind, ihre Trainingsdaten selbst auszuwählen, drohe die Gefahr einer negativen Rückkopplungsschleife, so dass einige wenige, minderwertige Inhalte genügen könnten, um das ganze System zu verderben und eine „Artificial Sepsis“ herbeizuführen.

Demgegenüber machte Kim Lisa Ermler (Universität Bremen) in ihrem Beitrag zu „Frames in der Medienberichterstattung über die Vertrauenswürdigkeit von Künstlicher Intelligenz“ deutlich, dass Unternehmen Bedrohungsszenarien einer zukünftigen Superintelligenz als Marketing-Strategie einsetzen würden. In diesem Sinne würden sie von einem drohenden Kontrollverlust sprechen oder Vergleiche zum Gefährdungspotenzial von Atomwaffen oder Pandemien anstellen, um so von tatsächlich bestehenden Problemen wie Urheberrechtsverletzung abzulenken.

Vor diesem Hintergrund warf Alexander Filipović in der anschließenden Diskussion die Frage auf, ob solche Zukunftsängste möglicherweise auch genutzt werden, um der Medienethik als Disziplin mehr Relevanz zu verleihen. Diese Überlegung führt weiter zu der Frage, ob es in der Medienethik nicht noch mehr Reflexion darüber bedarf, was genau gemeint ist, wenn von künstlicher Intelligenz die Rede ist, hat doch das zugrunde liegende Verständnis von KI einen nicht unerheblichen Einfluss darauf, welche Entwicklungs- und damit auch Bedrohungsszenarien man überhaupt für möglich hält.

Michael Litschka (FH St. Pölten) machte in seinem Beitrag „KI-Sprachmodelle in Medienunternehmen“ deutlich, dass die Verfügbarkeit von KI-Anwendungen weitreichendere gesellschaftliche Herausforderungen nach sich ziehen würde. So hätten Beschäftigte in Medienunternehmen in einer Befragung die Verbreitung von Fakenews, Bias in KI-Modellen, Beeinträchtigung des Datenschutzes, Abhängigkeit sowie ein fehlende Transparenz als Risiken der Anwendung von KI-Sprachmodellen angeführt. Vor diesem Hintergrund plädierte Litschka für eine Stärkung der gerechtigkeitsorientierten Zugänge von John Rawls und Amartya Sen als Grundlage für die Gestaltung von Regulierungsrichtlinien wie dem AI Act der Europäischen Union. Mit dem Fokus auf die Frage nach dem guten Leben und Fairness gewinne man eine ganzheitliche Perspektive.

Demgegenüber stellten Mario Anastasiadis und Hektor Haarkötter (beide Hochschule Bonn-Rhein-Sieg) eine „technikethische Reflexion automatisierter Detektion von Desinformation im Internet“ an und zeigten dabei eine Möglichkeit auf, wie KI-Anwendungen zur Lösung gesellschaftlicher Herausforderungen eingesetzt werden könnten. So wurde hier ein Forschungsprojekt vorgesellt, in dem eine App entwickelt wird, deren Algorithmus mithilfe eines Prüfschemas automatisch Fakenews im Internet identifizieren soll.

In der anschließenden Diskussion wurde hinterfragt, ob durch die Auslagerung auf technische Lösungen ein Verlust der Medienkompetenz drohe. Es stelle sich die Frage, ob KI-Anwendungen nicht gerade das unterlaufen, was sie eigentlich stärken möchten, nämlich die Medienkompetenz der Nutzenden.

Droht durch die Auslagerung auf technische Lösungen ein Verlust der Medienkompetenz?

Abschließend lässt sich festhalten, dass der Komplex der Nutzung und Regulierung derlei Anwendungen von Ambivalenz geprägt ist: KI kann als Werkzeug eingesetzt werden, um die Qualität von Produkten zu steigern, aber auch, um problematische Inhalte zu generieren. Algorithmen sind mit diskriminierenden Verzerrungen belastet, können diese aber auch aufspüren. Sie sind Ursache für weitergehende gesellschaftliche Probleme, können aber möglicherweise auch zur Lösung ebensolcher beitragen.