Referent
Nico Lück, Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF e.V.)
Veranstaltungsbeschreibung
Die Entwicklung Künstlicher Intelligenz (KI) im militärischen Kontext impliziert ein inhärentes Risiko: Mit zunehmender Leistungsfähigkeit von KI steigt die Gefahr, dass ein unkontrollierter Einsatz von KI in Waffensystemen negative Folgen für die Menschheit haben kann. Dies kann geschehen, wenn eine KI absichtlich mit zerstörerischen Aufgaben beauftragt wird oder wenn eine KI einen zerstörerischen Weg eigenständig wählt, um ein vorgegebenes Ziel zu erreichen. Für die Rüstungskontrolle stellt dies eine große Herausforderung dar, da KI in Waffensystemen eingesetzt werden kann, um stabilitätsgefährdende strategische Vorteile gegenüber anderen Akteuren zu erhalten.
Andererseits kann KI dabei helfen, die Einhaltung bestehender und neuer Rüstungskontrollverträge zu verifizieren. KI erkennt und interpretiert Muster in unstrukturierten Datenmengen und kann basierend auf vorgegebenem oder erlerntem Wissen Probleme lösen, Handlungen planen oder Erkenntnisse schlussfolgern. Damit bietet KI neue Möglichkeiten in der Kontrolle von konventionellen Waffen und Massenvernichtungswaffen, deren Vereinbarungen sich gegenwärtig in einer Krise befinden.
Obwohl sich KI in Waffensysteme und Verifikationsmaßnahmen in einem jungen Entwicklungsstadium befindet, muss eine kritische Betrachtung bereits jetzt geschehen, um auf die Entwicklung Einfluss nehmen zu können. Dieser Vortrag zeigt die Chancen und Risiken des KI-Einsatzes für die Rüstungskontrolle auf und appelliert dazu, die Chancen in der Praxis frühzeitig zu nutzen und den Gegenstand in den Sozialwissenschaften intensiver zu erforschen.
Zur Person: Nico Lück ist Preisträger des Weizenbaum-Studienpreises 2018, verliehen vom Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung, FIfF e.V. Während seines Masterstudiums an der Goethe-Universität Frankfurt war er Mitarbeiter am Leibniz Institut Hessische Stiftung Friedens- und Konfliktforschung. Seit Ende des Studiums ist er als Berater zur Digitalisierung in der Entwicklungszusammenarbeit in der Deutschen Gesellschaft für Internationale Zusammenarbeit (GIZ) GmbH tätig.