Die Herrschaft der Algorithmen

„Die Geister, die ich rief …“ hatten die VeranstalterInnen zum Motto der Tagung „Die Herrschaft der Algorithmen“ des Karlsruher Forums für Kultur, Recht und Technik, des Kulturamt Karlsruhe und des Zentrums für Kunst und Medien (ZKM) am 17. 10. 2019 gewählt. Die Algorithmen übernehmen und der Mensch dankt ab. Der suggestive, dystopische Titel hatte offenbar den Nerv getroffen. Das Format war mit 300 Angemeldeten so gut besucht wie nie zuvor. Dabei wies bereits Prof. Christiane Riedel vom ZKM, Karlsruhe, in ihrer Begrüßung auf die lange Vorlaufzeit seit dem „Dartmouth Summer Research Project on Artificial Intelligence“ von 1955/56 hin. Schon da war die Erwartung groß, dass Maschinen Sprache benutzen, abstrahieren, Konzepte verfassen und lernen können. Immer wieder erkaltete das Interesse in „digitalen Wintern“. Jetzt ist die Aufmerksamkeit groß. Trotz aller Hoffnungen und Ängste gehe es letztlich darum, in den verschiedensten Einsatzbereichen in der digitalen Gesellschaft mit Maschinen Probleme zu lösen, die bisher nicht lösbar waren.

Wer regiert wen? Kernfragen an Recht, Wissenschaft und Wirtschaft

„Wie bilde ich Vertrauen in KI-Technologie?“ Mit der impliziten These dieses Vortragstitels, dass das Vertrauen fehle oder nicht ausreiche, setzte sich dann in einem ersten einführenden Vortrag Andrea Martin, Leiterin des privatwirtschaftlichen Watson IoT Center München und Mitglied der aktuellen Enquete-Kommission „Künstliche Intelligenz“ des Bundestages, auseinander. KI müsse lernen wie ein Kind, das in die Schule kommt. Es gehe um Sorge und Aufmerksamkeit anstelle von irrationaler Angst. Nur so ließen sich Voreingenommenheiten überwinden und Handlungsmöglichkeiten erschließen. Die digitalisierte Passkontrolle an Flughäfen oder die Brustkrebskontrolle, bei der die maschinelle Diagnose, in Kombination mit untersuchenden Ärzten, die optimale Erkennungsquote bringt – Systeme der Unterstützung –, seien eine „gute Sache“. In einem Einspiel-Filmchen stellte sie den menschenähnlichen Roboter Cimon vor, der auf der Raumstation ISS mit dem Astronauten Alexander Gerst Nettigkeiten austauscht. Demnächst gehe der große Bruder des Roboters hoch. Ihren derart rational geprägten Vortrag setzte sie dann mit einigen notwendigen Prinzipien fort: Der Mensch müsse unterstützt werden. Die Daten gehören dem Kunden. KI-Lösungen müssen transparent und erklärbar sein. Fairness sei nur über ausreichende und ausbalancierte Datenbestände erreichbar, sonst seien viele Bereiche wie das Rechtsystem, die Kreditvergabe oder das Personalwesen negativ betroffen. Sichere und verlässliche Lösungen entwickeln, Entwicklungen beobachten und evaluieren – über Leitfäden für die eigenen DesignerInnen und EntwicklerInnen hinausgehend engagiere sich ihr Unternehmen auch politisch, um den Diskurs zu führen. Welche Gremien, welche Menschen dürften entscheiden, was eine faire Lösung oder Regelung ist? Demokratisch legitimierte staatliche Stellen erwähnte sie nicht. Hier brauche es die interdisziplinäre Diskussion.

Wunschgemäß lieferten die nächsten beiden Referenten – mit aufklärerischen, Klischees entlarvenden und Erwartungen unterlaufenden Beiträgen:

Mit spontanen Vorbemerkungen reagierte zunächst der Technikphilosoph Prof. Armin Grunwald vom Institut für Technikfolgenabschätzung und Systemanalyse am Karlsruher Institut für Technologie. Zum einen: Wenn es eine Angst vor KI gäbe, dann sei es jedenfalls die falsche Angst – eine, die maßgeblich von der Science-Fiction-Vorstellungswelt geprägt sei. Aber KI sei kein schlafender King Kong, sondern von Menschen gemacht. Es gehe um Werte, Ideen, Geschäftsmodelle und Profit. „Manche machen KI, andere müssen sich anpassen.“ Wenn eine Furcht im Zusammenhang mit KI berechtigt sei, dann die vor großen Daten-Konzernen und ihren Geschäftsmodellen. Zum anderen: Wo bleibt der Mensch, wenn KI besser ist? Und: Ist das schlimm? Keinesfalls, so Grunwald. KI würde sonst nicht gebraucht, wenn sie nicht besser wäre. Es sei das Wesen der Technik, menschliche Schwächen auszugleichen. Am Beispiel des nützlichen Spatens machte er die Frage fest, warum KI demgegenüber Unterlegenheitsgefühle auslöse. Und fand die Erklärung in der Sprache: Der Mensch mache sich zum Opfer, wenn er Formulierungen wählt, in denen KI lernt, denkt und entscheidet: Worte, die KI vermenschlichen! Die Suggestion werde zum Fake, dem zu viele aufsitzen. „Der Roboter ist keiner von uns! Autonome Autos entscheiden nichts!“ Und: „Nehmen uns Roboter die Arbeit weg? Unsinn!“ Es seien die Menschen und Manager, die dahinterstehen. Die Vermenschlichung des Roboters lenke von den eigentlichen (wirtschaftlichen) Interessen ab.

Gerafft lauten seine Thesen und Punkte: 1. Technik-Nutzung sei mit Anpassung verbunden. Im Sinne einer Ko-Evolution verändere Technik die NutzerInnen. Die Verhaltenssteuerung durch Software sei erheblich größer als bei klassischer Technik. Software nehme den Rang einer Institution ein. 2. Weiß ich noch, was andere über mich wissen? Legitime Produktgestaltung werde irgendwann zum Problem, zur Grundrechtsgefährdung, wenn Persönlichkeitsprofile wirkmächtig werden („… was ich nicht bin, was ich nicht sein will …“). Digitalisierung berge das Potenzial, die Bedingungen unserer Demokratie zu gefährden. 3. Grunwald fragt weiterhin: Zerstört Digitalisierung einen solidarischen Arbeitsmarkt? Wird authentisches Verhalten unmöglich, weil sich jeder beobachtet fühlt? Auf welcher Ebene ist zu regulieren? Wie ist die Kontrolle von Algorithmen möglich – verbunden mit dem Problem, dass ausschließlich Daten aus der Vergangenheit der Zukunft übergestülpt werden?

Der Rechtswissenschaftler Prof. Klaus Ferdinand Gärditz, Universität Bonn, kokettierte mit der Position des Außenstehenden/Juristen, der von den Inhalten keine Ahnung habe, um den Digitalisierungshype dann zum bloßen Komplexitätsproblem zu degradieren, das – wie andere Probleme auch – rechtsstaatlich zu bewältigen sei. Die Rechtsprechung habe etwa Verantwortlichkeiten sanktioniert, wenn es um Willenserklärungen in automatisierten Systemen oder missliebige Ergänzungsvorschläge für personalisierte Suchbegriffe geht (wenn z. B. ein Kläger sich gegen eine Verknüpfung mit dem Begriff Sektenführer wendet). Steuerrecht und Kartellrecht bieten Möglichkeiten, auch großen Internet-Konzernen beizukommen.

Im Weiteren überraschte Gärditz mit einem Plädoyer für das Imperfekte: Dem Ideal der Null-Fehler-Produktion mit KI stellte er das Bild der menschlichen Gesellschaft und der liberalen Rechtsordnung entgegen, die gut mit der Unvernunft des Menschen als Normalzustand lebe. Die Abwägung im Einzelfall, das Ausbalancieren von Interessen und rechtlicher Facetten sei rechtsstaatliches Ideal und tägliches Brot. Diese Aufgaben seien nicht determinierbar zu bewältigen. Deshalb seien Algorithmen nur von beschränktem Nutzen fürs Recht und selbstlernende Algorithmen gar nicht geeignet für staatliche Hoheitsträger. Demokratie lebe vom Voluntarimus. Kontingenz sei nicht programmbierbar. Demokratie müsse nahbar sein. „Die freiheitliche Ordnung nimmt die Menschen wie sie sind. Sie braucht Orte des Zufälligen und der Dezentralität, das Recht, nicht rational zu sein und Fehler zu machen.“ Das alles verträgt sich schlecht mit der Digitalisierung. Deshalb dürften Algorithmen nur eine unterstützende Funktion haben, müsse in rechtlichen Verfahren die Subjektivität gem. Art. 1 Grundgesetz gewährleistet werden und wie in Art. 22 Abs. 1 Datenschutz-Grundverordnung ein Mindestmaß menschlicher Interaktion gewahrt bleiben. Die Schutzpflichten des Staates zwingen ihn zum Schutz vor Diskriminierungen und großen Monopolunternehmen. Die Verantwortung der Algorithmen-ErzeugerInnen sei zu regulieren. Der Minderheitenschutz müsse gegen den algorithmischen Mainstream aktiv mit Regelungen verteidigt werden. Der Ex-Territorialität der Internet-Konzerne mit Profitinteressen sei in der EU mit kartellrechtlichen Geldbußen zu begegnen, Machtasymmetrien mit Recht auszugleichen. Menschliche Interventionen seien unverzichtbar – ein Schutzraum in der Welt der Algorithmen.

Im Anschluss wurden zahlreiche weitere Vorträge zu den Themen-Komplexen „Wie intelligent sind Algorithmen?“, „Vom Code zur Kunst – Die Kunst der Zukunft“ und „Die Geister, die ich rief …“ aus den verschiedensten Richtungen und Disziplinen geboten.

Resümee

Keine Frage: Es braucht ebenso niederschwellige wie kompetent besetzte Veranstaltungen wie diese, um Digitalisierung und Digitalisierungshype angemessen einordnen zu können. Das große Interesse unterstreicht, wie sehr das Thema die Gesellschaft umtreibt. Offenbar braucht es in diesem Frühling und Sommer der Digitalisierung aber auch Expertinnen und Experten, die die Euphorie und Erwartungen auf schnelle Erfolge bremsen, dem Diskurs etwas kühlende Luft zuführen und erklären, warum der Mensch den Robotern nicht unterlegen ist. Bereits der Karlsruher Oberbürgermeister Dr. Frank Mentrup hatte in seinem Grußwort festgestellt, dass die Neurowissenschaft noch nicht so weit ist, „alles einzulösen, was man sich von der Digitalisierung verspricht.“ Prof. Hannah Bast, Institut für Algorithmen und Datenstrukturen, Universität Freiburg, hatte in ihrem Referat zu „Transparenz und Fairness von KI und deren Überwachung“ darauf verwiesen, dass KI schon viele Hoffnungen enttäuscht hat. Was es jetzt an Lösungen gäbe, sei schon 30, 40 Jahre alt; was darüber hinaus an KI-Lösungen erwartet werde, sei auch in zehn bis 20 Jahren nicht zu erwarten, weil keiner wisse, wie das alles zu realisieren sei. Unterdessen erzeugen Algorithmen längst im Alltag problematische Diskriminierungen (Orwat 2019). Vielleicht auch deshalb war die Tagung des Karlsruher Forums für Kultur, Recht und Technik/Kulturamt Karlsruhe und Zentrum für Kunst und Medien (ZKM) ein guter Ort auf dem langen Weg, um innezuhalten und um Euphorie, Gruseln und Expertenwissen miteinander zu konfrontieren und abzugleichen. Weitere Forschungsaktivitäten, aber auch der weitere Diskurs mit und in der Gesellschaft sind unerlässlich, um aus den angestoßenen, ja laufenden Entwicklungen das Beste zu machen.

Allen kritischen Einlassungen und ernüchternden Bemerkungen zum Trotz: Das beliebteste Foto-Motiv war der kleine menschenähnliche Roboter Pepper, dessen großer Bruder an diesem Tage leider nicht in Karlsruhe dabei sein konnte.