Start-ups im Bereich Künstlicher Intelligenz (KI) entwickeln Produkte und Dienstleistungen, die teils hoch skalierbar sind und große Auswirkungen auf die Gesellschaft haben können. Ihren Gründer*innen fehlen jedoch oft das Know-How und die Methoden, um Technikfolgen abzuschätzen und Risiken für die Gesellschaft oder die Start-ups selbst zu antizipieren. Ihr unternehmerischer Erfolg hängt hingegen wesentlich vom Vertrauen externer Stakeholder, wie zum Beispiel Kund*innen, Investor*innen, Fördergeber*innen oder zukünftiger Mitarbeiter*innen ab. Gerät ein KI-Start-up etwa aufgrund eines unbeabsichtigten Gender-Bias seiner Berechnungen in die Medien, kann sich dies langfristig negativ auf seine Reputation auswirken.

Es gibt bereits zahlreiche Methoden, um Technikfolgen systematisch zu erheben. Sie sind jedoch nur eingeschränkt für den Einsatz auf Unternehmensebene und insbesondere für KI-Start-ups geeignet. Letztere unterscheiden sich in ihrer Unternehmenskultur durch hohe Skalierbarkeit, geringe Ressourcenspielräume und hohe Entwicklungsdynamik wesentlich von anderen Unternehmenstypen.

Gemeinsam mit der Forschungs- und Beratungsstelle Arbeitswelt (FORBA) und der Prewave-GmbH wurde am ITA ein Sondierungsprojekt zur Implementierung von Technikfolgenabschätzung (TA) in KI-Start-ups durchgeführt und ein Prototyp für ein Self-Assessment-Tool entwickelt. Dieser Prototyp ist das Ergebnis einer engen Zusammenarbeit zwischen Technikfolgenabschätzer*innen und einem Start-up zu künstlicher Intelligenz. Es steht auf drei theoretischen Säulen: (1) TA und Responsible Research and Innovation, (2) soziale und ethische Implikationen von KI, und (3) Organisationskultur in Softwarefirmen.

Das entwickelte Tool operationalisiert Antizipation, Reflexion, Inklusion und Responsivität über sechs Module. Jedes Modul befasst sich mit aktuellen sozialen und ethischen Themen in Bezug auf KI, wie Desinformation, Sucht, Ungleichheit, Maschinenethik und algorithmische Verzerrungen, Überwachung, Datenkontrolle, Vertrauen und Nutzerverständnis und Missbrauch durch kriminelle Akteure. Jedes Modul zielt darauf ab, spezifische Anforderungen der Start-up-Kultur wie Flexibilität, Spezifizität, Zielorientierung und Ressourceneffizienz zu erfüllen. Das Tool adressiert die Organisationskultur indem es Prozesse aufbaut, die bestehen bleiben, auch wenn einzelne Mitarbeiter*innen das Unternehmen verlassen oder technische Aspekte des Produkts verändert werden.

Die Module 1 und 2 sind explorativ und nähern sich sozialen und ethischen Dimensionen von KI durch einen antizipatorischen und reflexiven Prozess, der innerhalb von drei Stunden unternehmensintern abgeschlossen werden kann. Die Module 3 und 4 bilden den grundlegenden Teil des Tools und zielen darauf ab, eine reflexive, vorausschauende und integrative Unternehmenskultur zu vertiefen. Die fortgeschrittenen Module 5 und 6 beziehen externe Stakeholder wie Regulierungsbehörden, Kunden und NGOs direkt mit ein.

Die Erprobung des Tools mit der Partnerfirma zeigte zwei wesentliche Vorteile:

1. Antizipation, Reflexion und Reaktionsfähigkeit wurden für die wichtigsten Dimension der KI-Technologie erhöht. Firmenmitglieder erarbeiteten eine breite Palette potenzieller gesellschaftlicher Folgen, was wiederum eine vertiefte Diskussion innerhalb der Firma ermöglichte.
2. Die geplante Erweiterung von Produkteigenschaften wurde neu definiert, um identifizierte negative gesellschaftliche Folgen bestmöglich zu minimieren.

Die Erprobung verwies darüber hinaus auf zwei wesentliche Erfolgskriterien, denn das Tool war am effektivsten,

1. wenn es auf Verantwortungsbewusstsein und anderen Motivationen aufbaute, die innerhalb des Unternehmens existierten und
2. wenn sich seine Verwendung auf die Folgen eines konkreten, von der Firma geplanten Schrittes fokussierte, wie etwa das Hinzufügen einer neuen Funktion zu ihrem Produkt oder eine Expansion in einen neuen Markt.

Aus wissenschaftlicher Sicht hilft die Methode, Konzeptionen von Technologie-Governance auf die Organisationskultur von Start-up-Unternehmen abzustimmen. Weitere Forschung wird sich mit der Übertragbarkeit der Methode von Start-ups auf andere Unternehmenstypen befassen.