Bericht zum Experten-Workshop des Projektes Assessing Big Data

Karlsruhe, 8. März 2016

von René König, Institut für Technikfolgenabschätzung und Systemanalyse (ITAS), Karlsruhe

1     Einleitung

Big Data – ein diffuser Begriff, der gleichermaßen Hoffnungen und Ängste schürt. Die einen betonen die weitreichenden Erkenntnisse, die sich aus der massenhaften Sammlung, Verknüpfung und Auswertung verschiedener Datensätze gewinnen lassen und verweisen auf die Potenziale für Wissenschaft, Industrie und Verwaltung. Andere heben die damit verbundenen Risiken etwa für den Datenschutz, die Persönlichkeitsrechte, sowie für das zukünftige gesellschaftliche Leben insgesamt hervor. Dabei erhalten die verschiedenen Akteursgruppen nur selten die Gelegenheit, sich offen und abseits politischer Arenen auszutauschen. Im Rahmen des BMBF-Projektes ABIDA (Assessing Big Data) wurde nun genau dies realisiert. In einem eintägigen, vom Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) organisierten Workshop am Karlsruher Institut für Technologie (KIT) wurde ein geschützter Rahmen geboten, in dem 18 Experten aus Wissenschaft, Industrie, Politik, Nicht-Regierungsorganisationen und Datenschutz gemeinsam diskutierten. Das Ziel war dabei, sich auf die zentralen gesellschaftlichen Herausforderungen von Big Data zu verständigen.

Diese Zielsetzung war durchaus ambitioniert. Das liegt zum einen daran, dass der Begriff „Big Data“ durchsetzt ist mit Verheißungen aus der Marketingwelt und entsprechend drastischen Gegenreaktionen. Dabei gerät schnell aus dem Blick, was genau eigentlich unter Big Data zu verstehen ist – und was nicht. Zwar gibt es weitläufigen Konsens über die Wichtigkeit der sog. „3Vs“, wonach die Größe des Datenvolumens („volume“), die hohe Geschwindigkeit der Datenverarbeitung („velocity“) und die Datenvielfalt („variety“) Kriterien seien, die das Phänomen von anderen abgrenzen. Allerdings handelt es sich dabei eher um diffuse Leitlinien als eine präzise Definition. Gleichzeitig ist eine solche technisch ausgerichtete Rahmung nur bedingt geeignet, gesellschaftliche Aspekte von Big Data zu berücksichtigen, insbesondere nicht mit Blick auf mögliche langfristige Auswirkungen. So fällt etwa die bloße Sammlung von Daten noch nicht unter die genannte Definition von Big Data, obwohl eine solche in Zukunft durchaus für entsprechende Anwendungen genutzt werden könnte – mit womöglich weitreichenden Folgen.

Eine weitere Herausforderung (für den Workshop und für den Diskurs zu Big Data) ergab sich durch die unterschiedlichen Perspektiven der Teilnehmer auf das Thema. Vor diesem Hintergrund galt es, ein grundlegendes gemeinsames Verständnis und einen Diskussionsrahmen zu entwickeln, welcher möglichst viele Sichtweisen integriert, ohne in Uferlosigkeit abzugleiten.

Diesen Herausforderungen wurde durch die folgende methodische Konzeption des Workshops begegnet: Zunächst wurde den Teilnehmern ein kurzes Papier übermittelt, dass das Thema Big Data aus einer problemorientierten Perspektive heraus anhand dreier Themenblöcke skizzierte: 1. Auswirkungen auf Individuen, 2. Soziale Veränderungsprozesse und Machtstrukturen, 3. Governance – Staatliche Regulierungs(un)möglichkeiten. Der Text diente dabei zum einen den Teilnehmern als Orientierungsgrundlage im Vorfeld des Workshops und wurde zum anderen auch zur Strukturierung der Diskussion während des Workshops herangezogen. Den Themenblöcken entsprechend wurden die 18 Teilnehmer in drei Kleingruppen aufgeteilt, die am Vormittag im World-Café-Format alle Themen diskutierten. Das Ziel war dabei, jeweils sechs zentrale Probleme herauszustellen, die am Nachmittag im Plenum weiter vertieft und bearbeitet wurden. Abschließend erhielten die Teilnehmer die Möglichkeit, je sechs Punkte für die aus ihrer Sicht wichtigsten Themen zu verteilen. Im Folgenden skizzieren wir die wesentlichen Erkenntnisse des Workshops entlang der drei Themenblöcke.

2     Auswirkungen auf Individuen

Big Data stellt Individuen vor Herausforderungen: Viele der Anwendungen wirken auf individueller Ebene, insbesondere wenn Daten personalisiert erhoben und ausgewertet werden und für Profilbildung und Prognosen über den Einzelnen eingesetzt werden. Solche Praktiken könnten etwa zu Verhaltensänderungen führen, die das Individuum in der Ausübung seiner Rechte einschränke, z. B. wenn Personen sich aufgrund omnipräsenter Tracking- und Überwachungstechnologie nicht mehr frei im Netz „bewegen“ und ihr Surfverhalten entsprechend dieser – tatsächlichen oder auch nur gefühlten – Beobachtung anpassen, so eine der Befürchtungen der Teilnehmer. Dabei bestimmten mitunter die Techniken und Systeme die Rechte und Kontrollmöglichkeiten des Individuums, anstelle der Regulierung der Technik durch das Recht. Eine besondere Hürde bilde in diesem Kontext die Komplexität der hintergründigen Technologie, welche die Wahrnehmung von Rechten und Pflichten erschwere. Daher wurde größere Transparenz für Big Data-Anwendungen gefordert, wobei auch weitreichende Einigkeit darüber herrschte, dass Nutzer nicht von der Pflicht eigenverantwortlicher Informationsbeschaffung zu entbinden seien. Vor diesem Hintergrund wurde besonders die Verantwortung des Bildungssystems bei der Vermittlung von „Big Data-Kompetenzen“ hervorgehoben.

3     Soziale Veränderungsprozesse und Machtstrukturen

Während Big Data bereits auf individueller Ebene zu komplexen und gravierenden Problemlagen führt, deuten sich auch gesamtgesellschaftlich tiefgreifende Veränderungsprozesse an. So gibt es etwa gruppenspezifische Profilingmaßnahmen (d. h. die automatisierte Zuordnung zu Gruppen oder Kategorien), von denen sich die Workshop-Teilnehmer teilweise eine gesteigerte gesellschaftliche Problemlösungskapazität erhofften: Neue Verhaltensmuster würden erkennbar, wodurch evidenzbasiertes Handeln gefördert würde, bis hin zu „predictive maintainance“, also frühzeitig antizipierende gesellschaftliche Eingriffe. Dieses Profiling kann beispielsweise für eine effektivere Stadt- und Verkehrsplanung oder für präventive Verbrechensbekämpfung eingesetzt werden. Die Kehrseite liegt auf der Hand: Auf diese Weise entsteht eine neue Les- und letztlich auch Steuerbarkeit sozialer Gruppen, wobei diese nicht zwangsläufig etablierten soziologischen Kategorien (wie etwa Alter und soziale Schicht) entsprechen, sondern unter Umständen gänzlich neuen Mustern folgen (etwa Musikgeschmack und Surfverhalten im Netz). Dies geht einher mit einem Verlust von Selbstbestimmung – schon aufgrund der weitreichenden Intransparenz der hintergründigen Prozesse – und somit auch einer Machtverschiebung. Dabei stellt sich die Frage, wer letztlich profitiert. Welche neuen Abhängigkeiten entstehen? Welche Möglichkeiten der Manipulierbarkeit der Datenströme ergeben sich? Kommt es zu einem „Big Data Divide“, in dem eine digitale Elite das System zu ihren Gunsten ausnutzt? Wie können vor diesem Hintergrund Kriterien für eine Qualitätssicherung von Big Data-Anwendungen gestaltet und durchgesetzt werden? Derlei Fragen sind bislang noch weitgehend unbearbeitet und erfordern eine intensive und informierte Auseinandersetzung, so die Workshop-Teilnehmenden. Dazu gehört auch, die technischen Entwicklungen in ihrem historisch-sozialen Zusammenhang einzuordnen. So sind etwa Asymmetrien aufgrund von Profiling keineswegs ein neues Problem und werden etwa im Kredit-Scoring schon seit vielen Jahren praktiziert.

4     Governance – Staatliche Regulierungs(un)möglichkeiten

Die z. T. tiefgreifenden Potenziale von Big Data – positive wie negative – erfordern durchdachte Regulierungsmaßnahmen, die einerseits das Realisieren der Chancen fördern und andererseits die drohenden Risiken soweit wie möglich minimieren. Der Themenkomplex erfuhr besondere Aufmerksamkeit: 31 der 68 verteilten Punkte vergaben die Experten für diesen Bereich. Dabei wurde vor allem eine stärkere Transparenz der Datennutzung angemahnt und gefordert, dass automatisierte Entscheidungen durch Big Data nachvollziehbar und revidierbar sein müssten. Ein besonderer Diskussionsbedarf wurde beim Thema Diskriminierung durch automatisierte Entscheidungen gesehen, denn hier konnte die Gruppe keinen Konsens erzielen: Die einen erhofften sich von Big Data objektivere und weniger vorurteilsbasierte Entscheidungen, die anderen befürchteten hingegen neue Diskriminierungsmechanismen. Angesichts dieser Diskussionen sollten zukünftige Regulierungsmaßnahmen zumindest sensibel gegenüber potenziell diskriminierenden Auswirkungen von Big Data-Anwendungen sein. Vor diesem Hintergrund betonten die Experten die Schutzpflicht des Staates, welcher in jedem Fall die Grundrechte gewährleisten müsse. Handlungsbedarf besteht hier insbesondere angesichts des von den Teilnehmern diagnostizierten Spannungsfeldes zwischen datengetriebener Wirtschaft und europäischen Grundwerten wie Freiheit, Gleichheit und Solidarität. Zudem kollidiere der aus dem internationalen Standortwettbewerb resultierende Konkurrenzdruck mit der europäischen Marktregulierung und dem vorherrschenden Marktortprinzip, so die Experten. Schließlich wurde auf die Doppelrolle des Staates verwiesen, welcher einerseits privatwirtschaftlicher Datenerhebung Einhalt gebieten soll, andererseits aber selbst Nutznießer solcher Praktiken sei. Vor diesem Hintergrund wurden eine striktere Regulierung von Überwachungspotenzialen und eine Stärkung von Auskunfts- und Löschansprüchen gefordert.

5     Fazit

Die hier angesprochenen Diskussionspunkte geben einen Eindruck über die vielschichtigen Problemlagen im Kontext von Big Data. Die Veranstaltung ermöglichte einen Einstieg in die Diskussion zu den drängendsten, bereits erkennbaren gesellschaftlichen Herausforderungen von Big Data und erlaubte es, die im Projekt identifizierten Problemlagen zu bewerten und um neue Aspekte zu ergänzen. Die Diskussionen waren dabei durchaus kontrovers, jedoch nie destruktiv. Es zeigte sich, dass trotz der heterogenen Zusammensetzung nicht nur ein Dialog über Fach- und Interessensgruppen hinaus möglich war, sondern auch die Erarbeitung mehrheitlich getragener Forderungen. So bieten die Ergebnisse dem Projekt ABIDA Orientierung für die nächsten Arbeitsschritte. Dazu gehören drei Bürgerkonferenzen, eine repräsentative Bevölkerungsumfrage und eine Delphi-Befragung. Mehr Informationen gibt es unter http://www.abida.de.