Generative KI - jenseits von Euphorie und einfachen Lösungen / Judith Simon, Indra Spiecker gen. Döhmann, Ulrike von Luxburg ; Herausgeber: Deutsche Akademie der Naturforscher Leopoldina e.V. - Nationale Akademie der Wissenschaften ; Redaktion: Christina Hohlbein, Dr. Sebastian Wetterich, Dr. Charlotte Wiederkehr, Dr. Matthias Winkler (Nationale Akademie der Wissenschaften Leopoldina)

Abstract

Generative Künstliche Intelligenz (KI) verändert seit Ende 2022 drastisch weite Bereiche unserer Lebens- und Arbeitswelt. Inzwischen gibt es zahlreiche KI-basierte Anwendungen, die anhand von Trainingsdaten Muster erlernen und damit neue sprachliche oder visuelle Produkte erstellen. Diese Anwendungen sind mittlerweile allgemein zugänglich und leicht zu nutzen. Vor diesem Hintergrund werfen die drei Autorinnen des Diskussionspapiers einen nüchternen Blick auf Chancen, aber auch Gefährdungen für Individuen und die Gesellschaft durch den Einsatz von generativer KI. Die Autorinnen skizzieren Problemfelder, die in der allgemeinen Diskussion noch nicht ausreichend reflektiert werden, u. a. die Möglichkeiten und Grenzen von erklärbarer KI, Machtasymmetrien, Verantwortungsdiffusion und Kontrolldefizite. Diese sind zum Teil in der Funktionslogik der KI-Technologie selbst angelegt, ergeben sich aber auch im Zusammenspiel zwischen Mensch und Technik in unterschiedlichen Kontexten.