Die Entwicklungsrichtung der EU-Datenschutz- und Digitalpolitik schien lange klar: Angesichts der Herausforderungen durch neue Technologien würden Deutschland und die EU mit Regulierung vorangehen, um ihre Bürgerinnen und Bürger sowie die europäischen Werte zu schützen, während gleichzeitig digitale Innovationen vorangetrieben werden sollten, um so die Europäische Union wieder zu einem ernstzunehmenden digitalen Akteur zu machen. Die vielen Digitalregulierungen, insbesondere die Datenschutzgrundverordnung, aber auch die KI-Verordnung, der Digital Services Act oder der Data Act sind Ausdruck dieser Politik. Inzwischen ist die EU-Digitalpolitik unter Druck geraten: Sowohl der politische Druck durch die amtierende US-Regierung, die die Durchsetzung von geltendem EU-Recht verlangsamt hat als auch der weiterhin stagnierende Ausbau der Wettbewerbsfähigkeit der EU bei digitalen Innovationen stellen die EU und Deutschland vor die Frage, inwieweit sich die bestehenden Regelungen vor diesem Hintergrund durchsetzen lassen und wie die Datenschutz- und Digitalpolitik weiterentwickelt werden kann. Währenddessen sammeln Plattformen weiterhin personenbezogene Daten zur Verhaltensanalyse und -beeinflussung. Diese und verwandte Fragen und Themen standen im Mittelpunkt der zehnten Tagung der Plattform Privatheit, die am 1. und 2. Oktober 2025 im Fraunhofer Forum in Berlin mit rund 140 Teilnehmenden stattfand.
Die Keynotes, Vorträge und Diskussionen auf der Jahreskonferenz machten deutlich, dass Datenschutz und Selbstbestimmung gerade in stürmischen Zeiten unverzichtbar sind. So betonte Alexandra-Gwyn Paetz, Abteilungsleiterin für Technologische Souveränität & Innovation im Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) in ihrer Begrüßungsrede, dass der Schutz europäischer Werte insbesondere in Zeiten der Krise bedeutsam ist. Datenschutz und Wettbewerbsfähigkeit hingen eng zusammen und es gelte jetzt, die digitale Handlungsfähigkeit Europas zu sichern und auszubauen. Das werde jedoch nur gelingen, wenn man über Sektoren und Ländergrenzen hinaus zusammenarbeite.
Guido Scorza, Mitglied im vierköpfigen Leitungsgremium der italienischen Datenschutzaufsicht, widmete seine Keynote vor allem der Diskrepanz zwischen den vollmundigen Versprechungen von künstlicher Intelligenz (KI) und ihren tatsächlichen Auswirkungen. Anschaulich stellte er dar, dass wir längst in einer hybriden Welt leben, in der KI-Chatbots schon heute unsere Freund:in oder Psychotherapeut:in sind. Angesichts der fehlenden demokratischen Kontrolle über diese – nicht aus der EU stammenden – KI-Technologien, müssten wir uns die Frage stellen, welche Gefahr für unsere Gesellschaft drohe, wenn künftig einige wenige Chatbot-Hersteller das Vertrauen vieler Millionen Bürger:innen genössen und so Gesellschaften von diesen Chatbots im Sinne ihrer Hersteller manipuliert werden könnten. Er benannte zwei Werkzeuge, um die negativen Konsequenzen zu mildern: Regulierung und Bildung. Regulierung müsse KI einhegen, bevor die Algorithmen die Macht übernähmen und aufgrund ihrer Verbreitung in der Gesellschaft de facto regulierend wirkten. Man müsse wegkommen von der Regulierung kleinster technischer Details, pragmatischer werden und mehr Befugnisse an unabhängige Aufsichtsbehörden delegieren. Demokratische Vorgaben müssten seitens der Unternehmen in Code umgewandelt werden. Er stellte klar, dass Regulierung nicht der Feind von Innovation sei, sondern diese den Erhalt und Schutz gesellschaftlicher Werte befördere.
Das Panel zu konversationellen KI-Agenten thematisierte Identität, soziale Isolation, ethische Verantwortung und die Zukunft der zwischenmenschlichen Kommunikation. Lisa Mühl (Universität Duisburg-Essen) erläuterte aus psychologischer Sicht, wie Selbstoffenbarung in vermittelten, nicht-menschlichen Interaktionen durch Personalisierung und Kommunikationsmodalität geprägt wird; Privatsphäre wird zum zentralen Feld, da Wahrnehmung von Privatsphäre emotionale Erfahrungen beeinflusst, wenn Verbundenheit, Datenexposition und Kontrolle abgewogen werden. Jessica Heesen (IZEW Tübingen) formulierte drei Thesen: Konversationelle Agenten wecken unerfüllbare Reziprozitätserwartungen; die Imitation menschlichen Aussehens oder Verhaltens schürt Erwartungen an Wahrhaftigkeit, Richtigkeit und emotionale Bindung; Anthropomorphisierung kann Menschlichkeit simulieren und übersehen, dass es sich um Sprachmaschinen handelt. Ein reflektiertes Technikverständnis fordere, Systeme als Artefakte zu erkennen und sie erkennbar zu halten, um falsche Verständigungs-Erwartungen zu vermeiden. Christian Geminn (Universität Kassel) moderierte und betonte Datenschutzaspekte: Rechte auf Berichtigung, Löschung, Übertragbarkeit sowie die Relevanz der KI-Verordnung. Gezielte Regelungen für dialogfähige KI-Companions seien derzeit oft zu gering; neue Ansätze seien nötig, um Risiken wirksam zu begegnen. In der Diskussion ging es um Motivation, Langzeitwirkungen – besonders bei Kindern – und die Art der Nutzungsbeziehungen. Die Datenlage ist uneinheitlich; Beziehungen reichen von platonisch bis romantisch/sexualisiert, exklusiv bis ergänzend. Die Vielfalt erfordere eine fächerübergreifende Auseinandersetzung mit KI-Companions (Nebel
Katja Muñoz, Politikwissenschaftlerin und Research Fellow bei der Deutschen Gesellschaft für Auswärtige Politik, warf die Frage auf, ob unsere demokratischen Systeme bereit für das KI-Zeitalter seien (und gab im Lauf ihrer Keynote die Antwort: nein). Technologische Abhängigkeit führe auch zu demokratischer Abhängigkeit. Muñoz konstatierte, dass es durch KI billiger und schneller geworden sei, Propaganda zu verteilen. Doch KI biete auch Chancen für die Demokratie, über die aber seltener gesprochen werde: Inhalte könnten ressourcenoptimiert produziert werden, was gerade für kleine Parteien wichtig sei. Außerdem lasse sich mit KI politische Kommunikation personalisieren und politische Partizipation stärken. Muñoz schlug KI-gestützte Bürgerplattformen vor, die einen konstruktiven Dialog ermöglichen und den direkten Kontakt zur Politik erhöhen. Zu überlegen sei, wie KI besser für Wissenstransfer genutzt werden könne oder auch, um mit der Gesellschaft zu kommunizieren. Es dürfe dabei aber nicht darum gehen, die Verantwortung auf den User zu übertragen, sondern digitale Infrastrukturen zu schaffen, die Demokratie fördern. Bei einer notwendigen Regulierung zur Eindämmung der Risiken und Nutzbarmachung der Chancen sei überdies darauf zu achten, die Ausgestaltung der Systeme durch demokratisch legimitierte Akteure selbst vorzunehmen, um eine starke Akzeptanz und Legitimität dieser Regulierung zu unterstützen.
Sind unsere demokratischen Systeme bereit für das KI-Zeitalter?
Meike Kamp, Berliner Beauftragte für Datenschutz und derzeitige Vorsitzende der Datenschutzkonferenz, skizzierte in ihrer Keynote zentrale Herausforderungen für einen effektiven Datenschutz aus Sicht der Datenschutzbehörden. Dazu zähle, dass der Datenschutz aktuell mit einer regelrechten europäischen Digitalrechtswelle konfrontiert sei. Hinzu komme, dass Fragen, die auf gesetzgeberischer Ebene hätten gelöst werden müssen, in die Aufsichtspraxis verschoben wurden. Sie plädierte dafür, bei föderalen Aufsichtsstrukturen zu bleiben. In Deutschland seien 99 Prozent der Unternehmen kleine und mittlere Unternehmen, die es als Vorteil sähen, dass die Datenschutzaufsicht vor Ort ist. Lokale Datenschutzbehörden gewährleisteten Nähe und Ansprechbarkeit für die Wirtschaft. Föderale, also dezentrale Strukturen verhinderten außerdem, dass durch Druck auf eine einzelne Behörde Macht(-missbrauch) ausgeübt werden kann. Als warnendes Beispiel verwies sie auf die aktuellen Angriffe auf dezentrale Governance-Strukturen in den USA.
Im Abschlusspanel diskutierten neben Meike Kamp auch Philip Ehmann (eco Verband der Internetwirtschaft e. V., Köln), Rudolf Fischer (stackit/Schwarz Digits, Neckarsulm) sowie Michael Dose (Bundesverband der Deutschen Industrie e. V., Berlin) über die Vereinbarkeit von technologischen Innovationen mit Datenschutz und anderen europäischen Werten. Trotz Differenzen im Detail waren sich die Diskutierenden im Wesentlichen einig, dass mehr Kohärenz im Datenschutz wünschenswert sei. Auch die Wirtschaftsvertreter stützten Kamps Argument, dass die Verantwortung nicht allein bei den Aufsichtsbehörden liege, sondern vor allem beim EU-Gesetzgeber, der die Überarbeitung der DS-GVO für Klarstellungen nutzen müsse. Diese sollten jedoch maßvoll ausfallen, um Unternehmen, die sich an die geltenden Regeln gewöhnt hätten, nicht neuerlich zu verunsichern. Laut Fischer steht Datenschutz und Datensicherheit bei stackit nicht im Widerspruch zu wirtschaftlichem Erfolg, sondern ist eine Voraussetzung, um mit marktfähigen Produkten technologische Souveränität in Europa zu erlangen.
Die 10. Jahreskonferenz der Plattform Privatheit verdeutlichte, dass die gegenwärtigen Krisenzeiten ein Überdenken der Digitalregulierung erfordern. Die derzeit gültigen, teils überkomplexen Regeln lassen sich von großen Digitalunternehmen leichter einhalten, überfordern aber kleinere Betriebe. Mehrheitlich herrschte Einigkeit, Digitalregulierung so weiterzuentwickeln, dass große Player ihre Systeme werte- und gesellschaftskonform gestalten und bei Verstößen haften sollten. Ob dies gelingt, hängt wesentlich davon ab, wie die EU-Organe die geplante Überarbeitung der bestehenden Digitalregelungen ausgestalten werden.