Legal framework conditions for AI systems

Immanent challenges and possible solutions (control by design)

Authors

DOI:

https://doi.org/10.14512/tatup.30.3.56

Keywords:

data ownership, data governance act, copyright, artificial intelligence

Abstract

The author presents the complex legal framework for artificial intelligence in data ownership, data protection, and copyright and explains why the confusing legal situation is not suitable for hoping for legal certainty through new regulations at the EU or national level. Instead, he proposes a regulatory framework for permissible contractual agreements and matching control-by-design settings.

References

BfDI – Der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (2021): Stellungnahme des Bundesbeauftragten für den Datenschutz und die Informationsfreiheit zur öffentlichen Anhörung des Ausschusses Digitale Agenda am 24. Februar 2021. Online verfügbar unter https://www.bfdi.bund.de/SharedDocs/Downloads/DE/DokumenteBfDI/Stellungnahmen/2021/StgN_StgN_Anh%C3%B6rung-Datenstrategie-Bundesregierung.pdf;jsessionid=7D1B64827D3B8DA4D33C87024D824D47.intranet242?__blob=publicationFile&v=4, zuletzt geprüft am 21. 10. 2021, S. 1.

BPM – Bundesverband der Personalmanager (2019): Künstliche Intelligenz in der Personalarbeit. Online verfügbar unter https://www.bpm.de/sites/default/files/20190429_auswertung_bpm-pressemitteilung_final_0.pdf, zuletzt aufgerufen am 18. 10. 2021.

Council of the European Union (2021): Proposal for a regulation of the European Parliament and of the council concerning the respect for private life and the protection of personal data in electronic communications and repealing directive 2002/58/EC (regulation on privacy and electronic communications). Online verfügbar unter https://data.consilium.europa.eu/doc/document/ST-6087-2021-INIT/en/pdf, zuletzt geprüft am 21. 10. 2021.

Datenethikkommission (2019): Gutachten der Datenethikkommission der Bundesregierung, Potsdam, S. 224. Online verfügbar unter https://datenethikkommission.de/wp-content/uploads/191015_DEK_Gutachten_screen.pdf, zuletzt geprüft am 26. 09. 2021.

Deutscher Bundestag (2021): Drucksache 19/27655. Berlin: H. Heenemann. Online verfügbar unter https://dserver.bundestag.de/btd/19/276/1927655.pdf, zuletzt geprüft am 21. 10. 2021.

Europäische Kommission (2020a): Weißbuch zur Künstlichen Intelligenz. Ein europäisches Konzept für Exzellenz und Vertrauen. Online verfügbar unter https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_de.pdf, zuletzt geprüft am 10. 11. 2021.

Europäische Kommission (2020b): Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates über europäische Daten-Governance (Daten-Governance-Gesetz). Online verfügbar unter https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=CELEX:52020PC0767&from=EN, zuletzt geprüft am 08. 11. 2021.

Europäische Kommission (2020c): Verordnung über Daten-Governance – Fragen und Antworten. Online verfügbar unter https://ec.europa.eu/commission/presscorner/api/files/document/print/de/qanda_20_2103/QANDA_20_2103_DE.pdf, zuletzt geprüft am 25. 11. 2021.

European Parliament (2021): Legislative Train 09.2021. 2 a Europe fit for the digital age. Online verfügbar unter https://www.europarl.europa.eu/legislative-train/api/stages/report/current/theme/a-europe-fit-for-the-digital-age/file/data-act, zuletzt geprüft am 21. 10. 2021.

Graef, Inge; Husovec, Martin; van den Boom, Jasper (2020): Spill-overs in data governance. Uncovering the uneasy relationship between the GDPR’s right to data portability and EU sector-specific data access regimes. In: Journal of European Consumer and Market Law 9 (1), S. 3–16.

Hacker, Philipp (2020): Europäische und nationale Regulierung von Künstlicher Intelligenz. In: Neue Juristische Wochenschrift 73 (30), S. 2142–2147. Online verfügbar unter https://beck-online.beck.de/Dokument?vpath=bibdata%2Fzeits%2Fnjw%2F2020%2Fcont%2Fnjw.2020.2142.1.htm&pos=1&hlwords=on, zuletzt geprüft am 21. 10. 2021.

Herberger, Maximilian (2018): „Künstliche Intelligenz“ und Recht. In: Neue Juristische Wochenschrift 71 (39), S. 2825–2829. Online verfügbar unter https://beck-online.beck.de/Dokument?vpath=bibdata%2Fzeits%2Fnjw%2F2018%2Fcont%2Fnjw.2018.2825.1.htm&pos=2&hlwords=on, zuletzt geprüft am 21. 10. 2021.

Hoeren, Thomas (2019): Datenbesitz statt Dateneigentum. In: Multimedia und Recht 22 (1), S. 5–8. Online verfügbar unter https://beck-online.beck.de/Dokument?vpath=bibdata%2Fzeits%2Fmmr%2F2019%2Fcont%2Fmmr.2019.5.1.htm&pos=1&hlwords=on, zuletzt geprüft am 21. 10. 2021.

Holthausen, Joachim (2021): Big data, people analytics, KI und Gestaltung von Betriebsvereinbarungen. Grund-, arbeits- und datenschutzrechtliche An- und Herausforderungen. In: Recht der Arbeit 74 (1), S. 19–32. Online verfügbar unter https://beck-online.beck.de/Dokument?vpath=bibdata%2Fzeits%2Frda%2F2021%2Fcont%2Frda.2021.19.1.htm&pos=3, zuletzt geprüft am 21. 10. 2021.

Hornung, Gerrit; Wagner, Bernd (2020): Anonymisierung als datenschutzrelevante Verarbeitung? In: Zeitschrift für Datenschutz 10 (5), S. 223–228. Online verfügbar unter https://beck-online.beck.de/Dokument?vpath=bibdata%2Fzeits%2Fzd%2F2020%2Fcont%2Fzd.2020.223.1.htm&anchor=Y-300-Z-ZD-B-2020-S-223-N-1, zuletzt geprüft am 21. 10. 2021.

Huerkamp, Florian; Nuys, Marcel (2021): Datenzugang nach §19 Abs. 2 Nr. 4 GWB n. F. – Geglückte „Klarstellung“? In: Neue Zeitschrift für Kartellrecht 9 (7), S. 327–329. Online verfügbar unter https://beck-online.beck.de/Dokument?vpath=bibdata%2Fzeits%2Fnzkart%2F2021%2Fcont%2Fnzkart.2021.327.1.htm&pos=7, zuletzt geprüft am 21. 10. 2021.

Kühling, Jürgen; Sackmann, Florian (2020): Irrweg Dateneigentum. In Zeitschrift für Datenschutz 10 (1), S. 24–30. Online verfügbar unter https://beck-online.beck.de/Dokument?vpath=bibdata%2Fzeits%2Fzd%2F2020%2Fcont%2Fzd.2020.24.1.htm&pos=16, zuletzt geprüft am 21. 10. 2021.

Legner, Sarah (2019): Erzeugnisse Künstlicher Intelligenz im Urheberrecht. In: Zeitschrift für Urheber und Medienrecht 63 (11), S. 807–812. Online verfügbar unter https://www.researchgate.net/profile/Sarah-Legner-2/publication/343510297_Erzeugnisse_Kunstlicher_Intelligenz_im_Urheberrecht/links/5fb4d44fa6fdcc9ae05ef8c8/Erzeugnisse-Kuenstlicher-Intelligenz-im-Urheberrecht.pdf, zuletzt geprüft am 21. 10. 2021.

Meyer, Stephan (2018): Künstliche Intelligenz und die Rolle des Rechts für Innovation. In: Zeitschrift für Rechtspolitik 51 (8), S. 233–237. Online verfügbar unter https://beck-online.beck.de/?vpath=bibdata%2fzeits%2fZRP%2fcont%2fZRP%2ehtm, zuletzt geprüft am 21. 10. 2021.

Ory, Stephan; Sorge, Christoph (2019): Schöpfung durch Künstliche Intelligenz? In: Neue Juristische Wochenschrift 72 (11), S. 710–712. Online verfügbar unter https://beck-online.beck.de/?vpath=bibdata%2Fzeits%2FNJW%2F2019%2Fcont%2FNJW%2E2019%2E710%2E1%2Ehtm, zuletzt geprüft am 21. 10. 2021.

Rauer, Nils; Ettig, Diana (2021): Update Cookies 2020. Aktuelle Rechtslage und Entwicklungen. In: Zeitschrift für Datenschutz 11 (1), S. 18–24. Online verfügbar unter https://beck-online.beck.de/Dokument?vpath=bibdata%2Fzeits%2Fzd%2F2021%2Fcont%2Fzd.2021.18.1.htm&pos=2&hlwords=on, zuletzt geprüft am 21. 10. 2021.

Roßnagel, Alexander (2013): Big Data – Small Privacy? Konzeptionelle Herausforderungen für das Datenschutzrecht. In: Zeitschrift für Datenschutz 3 (11), S. 562–567. Online verfügbar unter https://beck-online.beck.de/Dokument?vpath=bibdata%2Fzeits%2Fzd%2F2013%2Fcont%2Fzd.2013.562.1.htm&anchor=Y-300-Z-ZD-B-2013-S-562-N-1, zuletzt geprüft am 21. 10. 2021.

Schur, Nico (2020): Die Lizenzierung von Daten. Einordnung, Grenzen und Möglichkeiten von vertraglichen Zugangs- und Datennutzungsrechten in der digitalen Ökonomie. In: Jeanette Hofmann; Ingolf Pernice; Thomas Schildhauer; Wolfgang Schulz (Hg.): Internet und Gesellschaft. Schriften des Alexander von Humboldt Institut für Internet und Gesellschaft: Tübingen Mohr Siebeck.

Specht-Riemenschneider, Louisa (2021): Urheberrechtlicher Schutz für Algorithmenerzeugnisse? Phasenmodell de lege lata, Investitionsschutz de lege ferenda? In: Wettbewerb in Recht und Praxis 18 (3), S. 273–275.

Statista Research Department (2020): Umfrage zum Umgang mit Cookie-Hinweisen in Deutschland 2020. Online verfügbar unter https://de.statista.com/statistik/daten/studie/1121071/umfrage/umgang-mit-cookie-hinweisen-in-deutschland/, zuletzt geprüft am 13. 10. 2021.

Wedde, Peter (2021): Anmerkung – Streit um Einigungsstellenspruch zur Einführung eines IT-Sicherheitssystems. Anlasslose präventive Verarbeitung von Beschäftigtendaten durch KI-Software zulässig, LArbG München v. 23. 07. 2020–2 TaBV 126/19, jurisPR-ArbR 17/2021 Anm. 6. In: Juris – Das Rechtsportal.

Zech, Herbert (2019): Künstliche Intelligenz und Haftungsfragen. In: Zeitschrift für die gesamte Privatrechtswissenschaft 5 (2), S. 198–219.

Published

20.12.2021

How to Cite

1.
Wilmer T. Legal framework conditions for AI systems: Immanent challenges and possible solutions (control by design). TATuP [Internet]. 2021 Dec. 20 [cited 2024 Mar. 28];30(3):56-62. Available from: https://www.tatup.de/index.php/tatup/article/view/6932