Digitalisierung und Gemeinwohl : Transformationsnarrative zwischen Planetaren Grenzen und Künstlicher Intelligenz : Abschlussbericht / von Lorenz Erdmann, Kerstin Cuhls, Philine Warnke ; unter Mitarbeit von Bärbel Hüsing, Meent Mangels, Lia Meißner, Svetlana Meissner, Andreas Röß und Jan Simon, Thomas Potthast, Leonie Bossert, Cordula Brand ; Stefanie Saghri, Animation ; & Illustration Stefanie Saghri ; im Auftrag des Umweltbundesamtes ; Herausgeber: Umweltbundesamt ; Durchführung der Studie: Fraunhofer-Institut für System- und Innovationsforschung ISI ; Redaktion: Fachgebiet I 1.1 Martina Eick

Abstract

Im Projekt „Gemeinwohlorientierung im Zeitalter der Digitalisierung“ haben das Fraunhofer-Institut für System- und Innovationsforschung (ISI) und das Ethikzentrum der Universität Tübingen (IZEW) anthropologische und ethische Konzepte mit Fokus auf Künstliche Intelligenz (KI) analysiert und entwickelt, sowie darauf aufbauend neue Einstiege in Narrative für gesellschaftliche Transformationen geschaffen. Zehn Anwendungsfelder für KI, die mit grundlegenden Veränderungen der Mensch-Technik-Umwelt-Beziehungen einhergehen können, wurden identifiziert und beschrieben. Dabei stand die Differenzierung zwischen empirisch beobachtbaren Entwicklungen und spekulativen Visionen im Zentrum der Analyse. Für zwei Themen wurden ethische Analysen durchgeführt: Affective Computing und Autonome Systeme zur Erschließung von für Menschen (bislang) unverfügbaren Räumen. Ethisch relevante zu berücksichtigende Punkte sind (1) KI-basierte Manipulation und Täuschung von Emotionen, (2) Beteiligung und Zugangsgerechtigkeit inklusive der Rolle privater Unternehmen, (3) Extended Reality als besseres Lernen versus Entfremdung durch Entpersonalisierung und Entkörperlichung, (4) Privatheit persönlicher Daten, (5) Natürlichkeit versus Künstlichkeit und Authentizität hinsichtlich Emotionen, (6) Autonome Systeme als Teil der Frontier-Ideologie der nutzenorientierten Technisierung der Natur versus Forderungen nach (partieller) Unverfügbarkeit von Räumen, (7) rein symptomorientierte Techno-Fix-Zugänge versus Suffizienzförderung durch KI, (8) Modifikation von Verantwortungsrelationen durch KI, (9) Dual use beziehungsweise starke militärische Beteiligung und Interessen an KI-Forschung. Anknüpfungspunkte für die ethischen Befunde sind die Arenen Bildung für Nachhaltige Entwicklung und nachhaltiges Verhalten, die Unverfügbarkeit von Räumen im Anthropozän sowie Governance der Technikentwicklung. Mit Storyboards wurde ein Einstieg für neue Narrative zur Verfügung gestellt, der Umweltinteressierte und Medienschaffende dazu anregen soll, sich mit normativen Fragen der KI zu befassen. Der Abschlussbericht schließt mit der Formulierung von aktuellem Forschungsbedarf.

In the project "Orientation towards the common good in the age of digitalisation", Fraunhofer Institute for Systems and Innovation Research (ISI) and the Ethics Centre of the University of Tübingen (IZEW) analysed and developed anthropological and ethical concepts with a focus on Artificial Intelligence (AI). Based on this, new entry points into narratives for social transformations were created. Ten fields of application for AI, which bring about fundamental changes in human-technology-environment relations, were identified and described. The differentiation between empirically observable developments and speculative visions was at the centre of this analysis. Ethical analyses were carried out for two topics: Affective Computing and Autonomous Systems to access spaces not at humans’ disposition so far. Ethically relevant points to consider are (1) AI-based manipulation and deception of emotions, (2) participation and equity of access including the role of private companies, (3) Extended Reality as better learning versus alienation through depersonalisation and disembodiment, (4) privacy of personal data, (5) naturalness versus artificiality, and authenticity regarding emotions, (6) Autonomous Systems as part of the frontier ideology of a benefit-oriented technification of nature versus demands for (partial) unavailability of spaces, (7) purely symptom-oriented techno-fix approaches versus sufficiency promotion through AI, (8) modification of responsibility relations through AI, (9) dual use or strong military involvement and interests in AI research. Points of contact for the ethical findings are the arenas of education for sustainable development and sustainable behaviour, the normative dimension of indisposable spaces in the Anthropocene, and governance of technology development. Storyboards were used to provide an entry point for new narratives that should also encourage environmentally-concerned people and journalists to engage with normative questions of AI. The final report concludes with the formulation of current research needs.