Fraunhofer-Leistungsbereich Verteidigung, Vorbeugung und Sicherheit VVS
Verantwortete Nutzung neuer Technologien im »Future Combat Air System« (FCAS)
Es ist das ambitionierteste europäische Verteidigungsprojekt der kommenden Jahrzehnte und ein Meilenstein der Hochtechnologie in Europa: das Future Combat Air System (FCAS). Im Zentrum des neuen Luftverteidigungssystems, das ab 2040 sukzessive bestehende Plattformen ablösen soll, steht das Next Generation Weapon System (NGWS). Ein neues Kampfflugzeug wirkt darin zusammen mit unbemannten Komponenten, sogenannten Remote Carriers, (manned-unmanned Teaming). Zudem stellt eine Air Combat Cloud Echtzeitinformationen für alle beteiligten Akteure sicher. Das Projekt eröffnet neue sicherheitspolitische und militärische Möglichkeiten, gleichzeitig werden in ihm jedoch ethische und rechtliche Herausforderungen wie unter einem Brennglas sichtbar. Als erstes verteidigungspolitisches Großprojekt der deutschen Geschichte wird FCAS daher von Beginn an von einer »Arbeitsgemeinschaft Technikverantwortung« begleitet. Ziel des gemeinsamen gedanklichen Austauschs: »ethical and legal compliance by design«.
Wie wird sichergestellt, dass die menschliche Verantwortung in FCAS zu jedem Zeitpunkt und unter allen Umständen vollumfassend gewährleistet ist? Dies ist die Frage, die im Zentrum der neu gegründeten »AG Technikverantwortung« steht. In ihr engagieren sich wichtige Stakeholder aus Ministerien, Behörden und der Bundeswehr sowie der deutschen Informations- und Ingenieurwissenschaft, vertreten durch Universitäten und Forschungsinstitutionen wie Fraunhofer und DLR. Entscheidend für den Erfolg jedoch ist die Beteiligung der Gesellschaft als Ganzes, repräsentiert durch einen breiten Querschnitt politischer Stiftungen, Hochschulen sowie politik- und gesellschaftswissenschaftlicher Think Tanks. Die Mitglieder sind allein ihrem Gewissen verpflichtet. Die Ergebnisse des kritischen Diskurses werden festgehalten und für maximale Transparenz auf der Website www.fcas-forum.eu veröffentlicht.
Diskussion ethischer und völkerrechtlicher »Leitplanken«
Initiatoren des unabhängigen Ethik-Gremiums sind das Fraunhofer-Institut für Kommunikation, Informationsverarbeitung und Ergonomie FKIE und Airbus Defence and Space ADS. Gemeinsam erarbeiten sie technologische Grundlagen für FCAS. Hierbei entstand der Gedanke, die Operationalisierung ethischer und rechtlicher Prinzipien durch entsprechendes informations- und ingenieurwissenschaftliches Design voranzutreiben. Die Herausforderung ist dabei eine doppelte: zum einen, die entsprechenden Prinzipien zu definieren; zum anderen, sie technologisch zu implementieren. Ziel der im September 2019 mit einer ersten Auftaktsitzung ins Leben gerufenen AG ist die Festlegung und technische Umsetzung ethisch und völkerrechtlich fundierter »Leitplanken«.
Vorreiterrolle in Zukunftstechnologien
FCAS wird weitaus mehr leisten als bisherige Luftkampfsysteme wie Eurofighter oder Rafale. Zukunftstechnologien wie Künstliche Intelligenz (KI), Big Data Analytics, Krypto-Komponenten oder Mensch-Maschine-Interaktionen kommen in dem Vorhaben zum Einsatz. Bemannte Jets neuester Generation sind darin Elemente eines komplexen und umfassend vernetzten »System-of-Systems«. »Remote Carrier« schützen als »loyal wing men« die Piloten und begleiten sie in Kampfmissionen. Offene Systemarchitekturen erlauben die weitere Integration bereits bestehender Plattformen. Eine zentrale »Air Combat Cloud« stellt den Akteuren einer Mission alle relevanten Informationen in Echtzeit zur Verfügung. War es bisher notwendig, die Lufthoheit zu erlangen, gibt im digitalen Zeitalter die Entscheidungshoheit den Ausschlag über Erfolg oder Misserfolg einer Mission.
Mensch bleibt als Entscheider im Zentrum
Ausgangspunkt der technologischen und strategischen Planungen ist, dass mit dem neu zu entwickelnden Kampfflugzeug weiterhin eine bemannte Komponente im Zentrum von FCAS steht. Menschliches Entscheiden bleibt damit Dreh- und Angelpunkt aller denkbaren FCAS-Missionsszenarien. Auch für FCAS gilt damit weiterhin, was in der Militärischen Luftfahrtstrategie 2016 festgeschrieben wurde: »Ein Waffeneinsatz [erfolgt] ausschließlich unter Kontrolle des Menschen.«
Die technische Beherrschbarkeit und persönliche Verantwortung sind so Schlüsselthemen der Diskussion um FCAS. Die avisierte Gesamtarchitektur der »Air Combat Cloud« trägt dazu bei, indem sie die Komplexität künftiger Missionen für die Einsatzverantwortlichen reduziert und die menschliche Entscheidungsfindung erleichtert. Technologische Reduktion von Komplexität ist ein wichtiges Entwicklungsziel in FCAS.
Dabei ist das Prinzip »Verantwortung« fundamentaler als »human-in-the-loop« oder »human-on-the-loop«. Auch automatisierte Verteidigungstechnologien können verantwortbar sein, wenn zum Beispiel die menschliche Reaktionszeit zu kurz oder die Datenfülle groß ist. Daher muss Digitalisierung in Verteidigung und Sicherheit gleichermaßen technische Beherrschbarkeit und verantwortungsvollen Einsatz gewährleisten. Auch in automatisierten Systemen muss der Mensch eingebunden sein, nicht nur durch die Entscheidung, das System zu nutzen, sondern es so zu konfigurieren, dass »meaningful human control« umfassend gewährleistet bleibt.
Konkret bedeutet das: Basierend auf einem vom Menschen definierten Regelwerk kann es erforderlich und berechtigt sein, automatisierte Entscheidungsfindung zu erlauben. Allerdings muss man in der Lage sein zu bewerten, ob das zugrundeliegende Regelwerk im jeweiligen Einsatzzweck anwendbar und ethisch vertretbar ist.