Meeting report: “Generative artificial intelligence – Opportunities, risks and policy challenges”. EPTA Conference, 2023, Barcelona, ES

Disruptionen wurden als übergreifendes Thema bereits 2022 bei der EPTA-Konferenz in Berlin sehr vielschichtig und vorausschauend diskutiert. Im letzten Jahr konnten dann viele Menschen greifbar erleben, mit welcher Kraft eine Technologie gewohnte Lebens-, Arbeits- und Denkweisen aufbrechen und durcheinanderwirbeln kann: die generative künstliche Intelligenz (KI), insbesondere in Form von ChatGPT. Insofern war es durchaus konsequent, dass die parlamentarischen TA-Einrichtungen ihre Jahrestagung 2023, die am 9. Oktober in Barcelona stattfand, ganz dieser Technologie und ihren Auswirkungen widmeten.

Die große Bedeutung generativer KI wurde von Anna Erra i Solà, der Präsidentin des gastgebenden Parlaments von Katalonien, in ihrer Begrüßung unterstrichen: „Niemand zweifelt daran, dass diese disruptive Technologie unser Leben stark beeinflussen wird. Kein Mensch, kein Wirtschaftszweig, kein Land und keine Organisation wird von der Massenverarbeitung von Daten und der systematischen Anwendung von Algorithmen ausgenommen sein“ (Übersetzung der Autoren). Dass auch dem EPTA-Netzwerk Bedeutung zugemessen wird, konnte man an der großen Zahl der angereisten Parlamentarier*innen ablesen. Der Deutsche Bundestag war mit vier Mitgliedern vertreten, weitere fünf Abgeordnete kamen aus Österreich und der Schweiz.

Die Politiker*innen wurden in der Keynote von Gary Marcus, KI-Entwickler wie auch -Kritiker sowie renommierter Psychologe und Neurowissenschaftler, in die Pflicht genommen. Marcus mahnte eine strikte Beobachtung und Regulierung der Technologie an, mit der ihre Risiken kontrolliert werden sollten. Seine Kernbotschaft: Man darf KI nicht trauen! Im Rückblick auf frühere Versprechen der KI-Entwicklung und anhand von aktuellen Beispielen (Verstärkung von Stereotypen durch bildgenerierende KI-Systeme und Probleme von Sprachmodellen mit Logik und Fakten) verwies er auf die grundsätzlichen Unzulänglichkeiten der Systeme. Um Risiken wie etwa Desinformation, Manipulation von Verhalten und schädliche Umweltauswirkungen einzuhegen und um Transparenz, Sicherheit und Rechtmäßigkeit der Entwicklung von KI-Systemen sicherzustellen, seien internationale Einrichtungen nach dem Vorbild des Forschungszentrums CERN nötig.

Austausch vielfältiger Perspektiven

Auch die folgenden drei Sessions wurden dem Anspruch des EPTA-Netzwerks gerecht, Politiker*innen und Wissenschaftler*innen miteinander ins Gespräch über Technologien zu bringen und dabei Kontroversen nicht zu scheuen. Für den Bereich der Bildung zeichneten die beiden Vortragenden, Carles Sierra vom Consejo Superior de Investigaciones Científicas und Enkelejda Kasneci von der TU München, ein sehr positives, durch große Potenziale generativer KI gekennzeichnetes Bild. KI werde Lehrende nicht ersetzen, könne aber dabei helfen, Bildung zielgenauer auf die Bedürfnisse der Lernenden abzustimmen und das Lehrpersonal etwa bei der nötigen differenzierten Vermittlung zu entlasten. Dabei müsse aber das Ziel, zukünftige Fähigkeiten zu vermitteln und Bildungsungleichheiten entgegenzuwirken, im Blick behalten werden. Das diskussionsfreudige Publikum sorgte durch den Verweis auf die negativen Auswirkungen übermäßiger Digitalisierung für eine Korrektur des aus seiner Sicht zu positiven Szenarios – und für eine perspektivenreiche Debatte.

Im Gesundheitsbereich wurde der Stand der KI-Anwendungen von den Expert*innen dagegen eher skeptisch beurteilt, wiewohl etwa Paula Petrone (Data Scientist bei ISGlobal) deutlich machte, dass die Gesundheitssysteme in den EU-Ländern dringend auf Entlastung angewiesen sind, da die Bevölkerung zwar immer länger lebt, die gesund verbrachte Lebenszeit aber nicht im gleichen Maß anwächst. KI-Anwendungen wie die generative KI böten zum Beispiel in der personalisierten präventiven Gesundheitsversorgung Potenziale. Ihre Nutzung stoße allerdings aufgrund mangelnder Qualifizierung des Personals und fehlendem Vertrauen in die KI-Systeme auf Widerstände. Zur Verbesserung der Situation wurde vorgeschlagen, KI durch vielfältigere Teams entwickeln zu lassen und durch strikte Regulierung und Aufsicht eine Vertrauensbasis zu schaffen und schädliche Auswirkungen zu verhindern.

Generative KI als Herausforderung für die Demokratie

Generative KI kann sich sehr grundlegend auf unsere Gesellschaft auswirken und wird entsprechend intensiv in der Öffentlichkeit debattiert. Während in Bezug auf demokratische Prozesse dabei meist negative Wirkungen von ChatGPT & Co. im Vordergrund stehen, beschrieb Karina Gibert von der Universitat Politècnica de Catalunya, wie diese Systeme zur Unterstützung der parlamentarischen Alltagsarbeit eingesetzt werden können, etwa bei der Recherche in Dokumentendatenbanken und bei der Zusammenfassung längerer Texte. Auch Marta R. Costa-Jussà, KI-Forscherin bei Meta AI, verwies auf die Potenziale generativer KI, mit der die Übersetzung gesprochener Sprachen, gerade auch von weniger stark verbreiteten Sprachen, erleichtert wird.

Doch solchen Potenzialen stehen die enormen Herausforderungen der Demokratie durch generative KI entgegen. Mehrere Vortragende betonten die Verantwortung der Entwickler*innen von KI-Systemen, deren Ausbildung durch ethische Leitlinien und einen stärkeren Austausch mit gesellschaftlichen Gruppierungen verbessert werden könnte. Die Auswahl der Datenquellen müsse bewusster und nachvollziehbar erfolgen und etwa Nutzungsrechte berücksichtigen, auch wenn dies zulasten der Geschwindigkeit der technischen Entwicklung gehe. Jerome Duberry, Managing Director des Albert Hirschman Centre on Democracy, empfahl eine Beobachtung durch staatliche Einrichtungen, wie sie in der EU bereits im Rahmen von „AI Watch“ durch das Joint Research Centre der Europäischen Kommission erfolgt. Nur so ließe sich die Anwendung von KI in vielen Fällen sichtbar und damit einer öffentlichen Kritik zugänglich machen.

Wie bedacht die komplexen Abwägungsprozesse in der Politik aufgegriffen werden, machte der Abgeordnete des schwedischen Riksdag, Ulrik Nilsson, deutlich. Er verwies auf die Herausforderung (aber auch die Notwendigkeit), die technologische Entwicklung angesichts ihres enormen potenziellen Nutzens einerseits und von Risiken wie der Verstärkung veralteter Muster andererseits an menschlichen Maßstäben zu orientieren. Brando Benifei, Mitglied des EU-Parlaments, machte in einer Videobotschaft die praktischen Herausforderungen der Kompromissfindung deutlich, denen er als einer der Co-Berichterstatter für den europäischen AI Act im Trilogverfahren begegnet ist. Das EU-Parlament achte besonders auf den Schutz von Grund- und Freiheitsrechten und beziehe neben Expert*innen auch die Zivilgesellschaft ein.

Gestaltungs- und Einflussmöglichkeiten für eine verantwortungsvolle Entwicklung

Auch ein zweiter grundlegender Einflussbereich von generativer KI, Arbeit, ist in der öffentlichen Debatte sehr präsent. Viele Angestellte fürchten um ihre Jobs, erste Berufsgruppen etwa in der Filmbranche haben versucht, ihre Rechte angesichts des zunehmenden Einsatzes von KI in Arbeitskämpfen zu verteidigen. Virginia Dignum von der Umeå Universitet sieht sogar alle Berufsgruppen als zukünftig von KI betroffen an (sofern sie es nicht bereits jetzt sind). Sie hinterfragte in ihrem Vortrag das Bild von KI, wie es vielfach gezeichnet wird, und verwies auf die Verzerrungen und Fehler, die der generativen KI inhärent bzw. aufgrund von Designentscheidungen zugrunde gelegt sind. Es sollte weniger darum gehen, was KI ist, als vielmehr darum, welche Art von KI wir als Gesellschaft möchten.

Zu einer ähnlichen Folgerung kam Aina Gallego von der Universitat de Barcelona, die sich stärker auf die ökonomischen Effekte generativer KI bezog. Bereits die Digitalisierung habe zu einer Verstärkung der Einkommensungleichheit und zur Aushöhlung der Mittelschicht geführt, auch generative KI könne sich in dieser Art auswirken. Sie könne aber auch zur Entstehung neuer Tätigkeiten und zur Verbesserung des Wohlstands aller Mitglieder einer Gesellschaft beitragen, je nachdem, wie die Anwendung von KI, die Ausbildung von Arbeitskräften und die grundlegenden arbeitsrechtlichen, wirtschafts- und technologiepolitischen Strukturen ausgestaltet werden. Damit spielten beide Rednerinnen den Ball zum Schluss der Tagung wieder an die Politik zurück.

Für die fortdauernde Aufgabe der verantwortungsvollen Gestaltung der Entwicklung von generativer KI haben Wissenschaft und Technikfolgenabschätzung nicht nur bei der Tagung, sondern auch in dem zugleich veröffentlichten, mehr als 80-seitigen EPTA Report 2023 viele Informationen und Anregungen geliefert. Für den Bericht, in dem die aktuellen Debatten um generative KI und die damit verbundenen Wissensbedarfe und Anforderungen an die Technikfolgenabschätzung in 15 der in EPTA vereinigten Länder und Regionen dargestellt werden, wurden auch die jeweiligen Parlamentarier zu ihren Sichtweisen auf die Chancen und Risiken der generativen KI und ihrer Anwendungen befragt.

Bei allen Versuchen, zukünftige Entwicklungen abzuschätzen, kam bei der Tagung nicht zuletzt auch der Blick in die Vergangenheit nicht zu kurz. Die Teilnehmenden wurden beim Besuch der Ausgrabungsstätte El Born und bei einer Führung durch das Gebäude des Parlaments von Katalonien, das einst Teil der Zitadelle und damit Symbol für die Zentralregierung in Madrid war, mit der wechselhaften Geschichte der Demokratie in Katalonien bekannt gemacht.