Tagungsberichte 

Bericht zur Tagung „Going Beyond the Laboratory – Ethical and Societal Challenges for Robotics“

Delmenhorst, 13.–15. Februar 2014

von Knud Böhle, ITAS

Die Roboter kommen!? Die Gesellschaft beginnt jedenfalls sich darauf einzurichten und Tagungen wie diese, gehören dazu. Viele Fragen sind noch offen: Was ist der aktuelle Stand der Technik? Verlassen die Roboter wirklich die Labore oder muss die Realität erst zum Labor werden, damit das passieren kann? Was kann die Soziologie zur Roboterentwicklung und -einführung beitragen? Was ist ein sozialer Roboter, wann ist ein Roboter sozial? Droht in bestimmten Bereichen eine Dehumanisierung, die aus ethischen Gründen abzulehnen wäre? Läuft in der Förderpolitik etwas falsch, die von der Roboterforschung nicht „coole Gadgets“ verlangt, sondern Lösungen für eine alternde Gesellschaft? Welche Auswirkungen auf die Beschäftigung sind zu erwarten? Das sind nur einige der Fragen, die in Delmenhorst aufkamen.

Damit verantwortet werden kann, dass Roboter außerhalb der Labore zum Einsatz kommen können, muss die Robotik, so ist der Tagungstitel zu verstehen, Antworten auf die damit verbundenen ethischen und gesellschaftlichen Herausforderungen geben. Das wiederum wird sie nicht ohne die Mitwirkung der Geistes-, Rechts- und Sozialwissenschaften sowie der Technikfolgenabschätzung leisten können. Die Tagung war international und multidisziplinär ausgerichtet und brachte die „zwei Kulturen“ ins Gespräch.

Die von schätzungsweise 50 Personen besuchte Tagung, zu der die überwiegende Zahl aktiv durch Vortrag, Poster, Moderation, Roboterpräsentation oder als Teilnehmer der abschließenden Podiumsdiskussion beitrug, hatte ein Format, das engagierte Diskussionen erlaubte. Das etwas abgelegene, architektonisch ansprechende und funktionale, den Workshopcharakter der Tagung unterstützende Hanse Wissenschaftskolleg war der Ort der dreitägigen Veranstaltung.

Die Tagung war zugleich die Abschlussveranstaltung des von Gesa Lindemann geleiteten und von der DFG geförderten Projekts „Die Entwicklung von Servicerobotern und humanoiden Robotern im Kulturvergleich – Europa und Japan“, das September 2010 begonnen hatte. Im Tagungsprogramm hat sich dieser Projekthintergrund sichtbar in der Teilnahme einer Reihe renommierter japanischer Wissenschaftler und einem inhaltlichen Schwerpunkt bei den Servicerobotern niedergeschlagen. In dieser Tagungsnotiz sollen nicht alle Beiträge angesprochen, sondern nur einige Eindrücke – entlang derAspekte technisch, sozial, ethisch und rechtlich – festgehalten werden.[1]

1    Aktuelle Forschungs-und Entwicklungslinien

Aktuelle Entwicklungen „sozialer Roboter“ wurden durch Vorträge und Demonstrationen aufgezeigt. Neben der Therapierobbe „PARO“ (Demo Barbara Klein), dem Serviceroboter „Care-O-bot 3“ (Demo Frank Wallhoff, Vortrag Birgit Graf) stieß „Nao“ (Demo und Vortrag Rodolphe Gelin) als kickender und tanzender ca. 60 cm großer humanoider Roboter auf großes Interesse der Teilnehmer. Die größte Attraktion übte indes der in den Laboren von Hiroshi Ishiguro entwickelte „Telenoid“ aus (Demo und zwei Vorträge Shuichi Nishio, Ryuji Yamazaki, Marco Nørskov, Raul Hakli): ein androider Telepräsenzroboter, genauer gesagt ein Medium, über das sich zwei Personen austauschen – bildlich gesprochen ein menschenähnlich gewordener Telefonhörer. An einem Ende der Installation interagiert jemand mit Telenoid, der über eine Sprachausgabe verfügt und dazu den Mund, dieAugen, den Kopf und den Körper bewegen kann. Am anderen Ende (sichtbar oder nicht für die erste Person) verfolgt eine zweite Person über Bildschirm und Lautsprecher an einem Laptop die Situation, liefert den Sprachinput für Telenoid und steuert auch dessen weitere Operationen.

Das ist eine fantastische Installation; ob jedoch die Behauptung des Entwicklers Shuichi Nishio, dass insbesondere Ältere und Personen mit geistiger Behinderung davon profitierten, zutrifft, darf bezweifelt werden. Hingegen ist das Bedürfnis der Forscher, die potenzielle Nützlichkeit ihrer Entwicklung auszuweisen, unbestreitbar.

In den Vorträgen im Plenum wurden auch Einblicke in die Grundlagenforschung zur „sozialen Robotik“ gewährt. So stellte etwa Cecilia Laschi, Pisa, Beispiele eines biologisch inspirierten Roboterdesigns vor, bei dem es um die Verwendung weicher Materialien geht und um die Ausnutzung der „Intelligenz dieser Materialien“. Ein Krake mit seinen Tentakelbewegungen ist ein einschlägiges Vorbild aus der Natur, dem sich zahlreiche Einsichten abgewinnen lassen.

Eine andere höchst interessante Entwicklung stellen Versuche dar, die situationsgerechte Adaption von Robotern an die Bewegungen und Bewegungsabfolgen von handelnden Menschen zu verbessern. Giorgio Metta, Genua, berichtete z. B., dass man sich für eine derartige Koordinationsleistung den kognitionswissenschaftlich untersuchten Zusammenhang von Augenbewegung und wahrscheinlich nachfolgender körperlicher Bewegung beim Menschen so zu Nutze machen könne, dass ein Roboter sich aufgrund der dadurch ermöglichten Bewegungsantizipation besser anpassen kann. Yukie Nagai, Osaka, stellte dar, wie ein mit einem lernfähigen, neuronalen Netz ausgestatteter Roboter so etwas wie eine „geteilte Aufmerksamkeit“ herstellen kann, indem er lernt, seine Augenausrichtung dem Blick einer Person entsprechend, deren Sensomotorik beobachtet und ausgewertet wird, auszurichten, so dass beide auf dasselbe Objekt sehen.

2    Angebote der Soziologie an die Robotik

Während die Soziologie, im Unterschied zur Sozialpsychologie, eher selten im interdisziplinären Gespräch mit Roboterentwicklern ist, war es auf dieser Tagung erfreulicherweise anders. Der Ansatz Gesa Lindemanns, Oldenburg, der von der Anthropologie Helmuth Plessners geprägt ist (und in Auseinandersetzungen mit Luhmann und Latour profiliert wurde), ist in zweierlei Hinsicht interessant. Erstens werden die Grenzen der Sozialwelt kontingent gesetzt, d. h. es wird als offene Frage behandelt, wer oder was (womöglich also auch künftige Roboter) in einer Gesellschaft als soziale Person qualifiziert wird. Zweitens aber bedeutet das keineswegs, dass allen sozialen Personen der gleiche Status zukäme. Und gerade in dieser Beziehung ist dieser Ansatz ein scharfes Schwert, weil er bei Roboterentwicklern immer wieder anzutreffende, die Unterschiede nivellierende Reduktionismen nicht durchgehen lässt. Die Ausrichtung eines Sehapparats ist dann längst noch kein Blick und das gleichzeitige Fokussieren eines Objekts durch Mensch und Roboter noch lange keine „geteilte Aufmerksamkeit“.

Einen handlungstheoretischen Ansatz vertreten Ingo Schulz-Schaeffer und Martin Meister (beide Duisburg), deren Ausgangspunkt eine verteilte Handlungsträgerschaft von Menschen und Artefakten ist, die deshalb funktionieren kann, weil vordefinierte, weitgehend generalisierte Erwartungen über das Verhalten des jeweils anderen Teils vorausgesetzt werden können. Diese Einsicht sei bisher in der Forschung und Entwicklung von Robotern noch nicht fruchtbar gemacht worden. In konkreten sozialen Situationen sollten Roboter Rollen erkennen können (z. B. wer ist der Patient, wer der Arzt, wer die Krankenschwester?), und die Modellierung der MenschRoboter-Interaktionen sollte an Rollen bzw. generalisierten Erwartungen ausgerichtet werden.

Einen strikt ethnomethodologischen Ansatz verfolgt Morana Alač, San Diego, die in einem konkreten Fall beobachtete, was passiert, wenn ein für Lernzwecke gedachter Roboter in eine Vorschule mit Kindern zwischen 18 Monaten und zwei Jahren auftaucht. Beobachtungsgegenstand waren Forscher, Lehrer, die Kinder und der Roboter. Parallel wurden Videoaufzeichnungen gemacht. Das Erkenntnisinteresse dieses Ansatzes ist zu zeigen, wie über Sprache, non-verbale Kommunikation, durch den Umgang miteinander und mit dem Artefakt, der Roboter erst zu dem gemacht wird, was er dann in den Praktiken des Alltags sozial bedeutet.

Selma Šabanović, Indiana, teilte mit Mora-na Alač die Einsicht, dass es bei der Einführung sozialer Roboter entscheidend auf die Berücksichtigung der jeweiligen sozialen Situationen ankommt sowie auf die in der Situation entstehende Bedeutung und Verwendung des Roboters. Theoretisch steht sie mit der Annahme einer Koevolution von Technik und Gesellschaft sozialkonstruktivistischen Ansätzen nahe. Praktisch folgt daraus die Forderung, Nutzer möglichst früh im Sinne einer partizipativen Technikentwicklung einzubeziehen. In ihrem Vortrag stellte sie in verschiedenen Umgebungen durchgeführte Projekte – vom Büro bis zum Pflegeheim – vor.

Die Soziologie hat also der Roboterforschung etwas zu bieten. Der Soziologie könnte aber noch eine weitere wichtige Rolle zukommen, nämlich die Standards der Sozialforschung in Bezug auf methodische Kontrolle und Überprüfbarkeit durchzusetzen, die in der Akzeptanzforschung der Entwicklerteams bislang noch nicht den Maßstab zu bilden scheinen.

3    Gedankenexperimente zum künftigen Robotereinsatz

Die Beiträge der zwei vortragenden Philosophen Guglielmo Tamburrini, Neapel, und Robert Sparrow, Melbourne, setzten sich sehr kritisch mit dem aktuellen und künftigen Einsatz von Robotern auseinander. Tamburrini argumentierte in einer dem Vision Assessment nahestehenden Weise. Im Fall der Robotik sei es allerdings an der Zeit, sich nicht nur mit den langfristigen, visionären Zielen auseinanderzusetzen, sondern auch mit dem, was auf dem Weg zu diesen Zielen bereits quasi als Zwischenprodukt entsteht und schon bald praktisch relevant werde könne. Schon heute zeichneten sich problematische Entwicklungen in der Militärrobotik und der Industrierobotik, aber auch der Servicerobotik, insbesondere beim Einsatz in Erziehung und Pflege ab. Eine ethische Frühwarnung sei möglich und nötig. Diese Sicht wurde nicht uneingeschränkt von allen geteilt. So wies etwa Werner Rammert darauf hin, dass auch die Geltung moralischer Maßstäbe sich wandeln könne und die soziale Gestaltbarkeit der Artefakte nicht unterschätzt werden sollte.

Sparrow kritisierte insbesondere den Einsatz von Pflegerobotern in der Altenpflege, beginnend mit einem Gedankenexperiment, bei dem er aktuelle technische Entwicklungen zur Dystopie eines vollautomatisierten Pflegeheims weiterdachte. Die entscheidenden Werte Respekt, Anerkennung und menschliche Kommunikation blieben bei diesen Entwicklungen auf der Strecke – unabhängig davon, ob Patienten aussagen, sie seien damit „happy“. Wunscherfüllung könne nicht als Maßstab für gut, glücklich und zufrieden gelten. Respekt und Anerkennung könnten Roboter nur simulieren und als Illusion erzeugen. Es ging ihm nicht darum, die Robotik schlecht zu reden. Roboter seien „cool“. Gerade deshalb laufe vielleicht etwas in der Forschungsförderung der Robotik falsch, die die Altenpflege als Anwendungsfeld so stark priorisiere.

In der Tat ist es eine TA-relevante Frage, ob der Legitimationszwang der Roboterforschung, der eine Rhetorik der Nützlichkeit bezogen auf die alternde Gesellschaft nahelegt, um an Fördermittel zu gelangen, wirklich der Roboterentwicklung und den Senioren nützt. Die Ausführungen Rodolphe Gelins (Aldebaran, Entwickler von „Nao“) waren ein gutes Beispiel dafür, wie das Eigeninteresse, „coole“ Roboter zu bauen von der darzustellenden Nützlichkeit der Technik für alte Menschen auf kurios anmutende Weise umgebogen wird. In einem Video der Firma wurde ein „domestizierter“ Nao gezeigt, der einer älteren, sehbehinderten Dame E-Mails vorliest.

Für eine TA zur Pflegerobotik, um diesen Gedanken noch anzuschließen, wäre es sehr spannend, die stereotyp wiederholte Argumentationskette zu hinterfragen: demografischer Wandel – Arbeitskräftemangel in der Pflege – Pflegeroboter und andere High-Tech-Assistenzsysteme als Lösung. Denn, Sparrow folgend, kommt entweder die Pflege in einem anspruchsvollen Sinn zur kurz oder es werden die erwarteten Effizienzgewinne nicht erzielt. Ein überzeugender Nachweis des Gegenteils steht aus. Diesen Zusammenhang zu untersuchen, läge wohl auch im Sinne Björn Juretzkis, DG Information Society and Media, der auf der Tagung eine Makro-Ethik forderte und damit die umfassende Analyse der makroökonomischen Auswirkungen von Robotik und Automation meinte, insbesondere bezogen auf deren Beschäftigungswirkungen.

4    Roboter im Recht

Susanne Beck, Hannover, befasste sich mit dem rechtlichen Status von Robotern und der Zuschreibung von Verantwortung. Die Verantwortung für Schäden, die autonome, lernende Maschinen produzieren, sei mit der üblichen Produkthaftung nicht zu regeln. Sie stellte verschiedene Möglichkeiten vor, die Verantwortung für Schäden unterschiedlichen Akteuren zuzuschreiben, etwa dem Endanwender, dem Fehler in der Roboterbedienung nachgewiesen werden können, oder der Gesellschaft oder einer „elektronischen Person“ als neu zu etablierendem Rechtssubjekt. Ganz im Sinne der TA betonte Beck jedoch auch, dass es nicht mit der Frage der Haftung getan sei, sondern es einer breiteren öffentlichen Diskussion bedürfe, um die gesellschaftlichen Folgen der bewussten Übertragung von Entscheidungen auf autonome Maschinen (Stichwort Dehumanisierung) abzuschätzen. In der Diskussion wurde das Konzept der „elektronischen Person“, nicht zuletzt von Thomas Christaller hinterfragt: „Elektronische Person“ sei nicht technologieneutral genug und das mitgedachte Roboterverständnis möglicherweise zu eng, da Flugzeuge schon heute und Autos vielleicht schon bald als Roboter zu verstehen seien. In der Diskussion wurde auch hinterfragt, ob der Begriff der Autonomie angemessen sei, wenn es von der Sache her vielleicht nur um Entscheiden auf Basis eines eng umschriebenen Mandats und damit im Rahmen eines sehr engen Entscheidungsspielraums geht.

5    Zum Schluss: Ein Rätsel des Kulturvergleichs

In diesem Bericht konnten einige Beiträge nicht gewürdigt werden, besonders nicht die der japanischen Wissenschaftler, auch deshalb, weil sie schwerer für einen nicht mit Japan Vertrauten einzuschätzen sind. Der Kulturvergleich, der verschiedentlich angestellt wurde, gibt (vielleicht deshalb) ein Rätsel auf: Auf der einen Seite wurde wiederholt vorgebracht, dass es in Japan keine Debatte um den Status von Robotern gäbe (Gregor Fitzi, Hironori Matsuzaki, Tomoko Nambu, Atsuo Takanishi) weder juristisch (als „elektronische Person“) noch sozial. Es sei ganz klar, dass Roboter bloß Maschinen und Objekte seien. Dem stehen die Hinweise derselben Japankenner unvermittelt gegenüber, dass der Shintoismus, der als kultureller Hintergrund – wie bei uns das Christentum, aber eben ganz anders –, wirksam sei, gerade die fließenden Grenzen von Menschen und beseelten, animierten Dingen, begünstige.

Wie dem auch sei, die Tagung war außerordentlich inspirierend auch für alle, die sich für TA, „responsible innovation“ oder ELSA interessieren und man darf sich schon auf die angekündigte Publikation freuen.

Anmerkung

[1]  Das Tagungsprogramm sowie die Abstracts zu den Vorträgen und Postern finden sich unter: http://www.uni-oldenburg.de/sozialwissenschaften/ast/forschungsprojekte/robo-com/veranstaltungen/going-beyond-the-laboratory/ (download 28.3.14)