Lösungen zum Schutz der Gesellschaft

Presseinformation / 29. Juli 2020

Fraunhofer-Verbund für Verteidigungs- und Sicherheitsforschung veröffentlicht Positionspapier

PM2020 Verteidigung mit Schild, Fraunhofer IESE

Das Thema Sicherheit ist aufgrund veränderlicher Bedrohungen hoch aktuell und damit auch Thema der Forschung. Einige Institute der Fraunhofer-Gesellschaft engagieren sich in diesem Bereich mit einem Fokus auf die zivile Sicherheitsforschung. Um ihre Forschungsaktivitäten zu koordinieren und umzusetzen, haben sich im Fraunhofer-Verbund Verteidigungs- und Sicherheitsforschung zehn Fraunhofer-Institute zusammengeschlossen. Als Exzellenzzentrum schaffen sie intelligente und umfassende Lösungen zum Schutz der Gesellschaft gegen Bedrohungen – seien diese von Menschen oder von der Natur verursacht.

In den letzten Jahren haben die Fähigkeiten von Systemen mit Künstlicher Intelligenz (KI) deutlich zugenommen. Doch während Künstliche Intelligenz immer komplexere Aufgaben übernimmt und zunehmend autonom agiert, erfordert der Umgang mit der Technologie ein hohes Maß an Verantwortung. Neben ihrem Einsatz in Bereichen wie der Produktion, der Logistikplanung oder der Medizin gehört auch der Einsatz im militärischen Kontext zu den Anwendungsmöglichkeiten Künstlicher Intelligenz. KI wird dabei weltweit u.a. als sogenannter Enabler einer neuen Generation »autonomer« Waffensysteme diskutiert. KI-basierte, autonome Waffensysteme werden die Art und Weise bewaffneter Auseinandersetzungen fundamental ändern.

Diese Bedrohungslage erfordert eine differenzierte Auseinandersetzung mit dem Thema Einsatz von KI in Waffensystemen. In diesem Zusammenhang hat der Fraunhofer-Verbund für Verteidigungs- und Sicherheitsforschung VVS das Positionspapier »Rise of Intelligent Systems in Military Weapon Systems« entwickelt. Einer der Wissenschaftler, die an dem Positionspapier mitgearbeitet haben, ist Dr. Daniel Schneider, Abteilungsleiter Embedded Software Quality Assurance (ESQ) am Fraunhofer-Institut für Experimentelles Software Engineering IESE in Kaiserslautern. Der Schwerpunkt der Abteilung ESQ liegt auf der Entwicklung sicherheitskritischer Systeme – mit Fokus auf Themen wie »Sicherheit hochautomatisierter und autonomer Systeme; inkl. Sicherheit von KI-basierten Verhalten«, »Modellbasiertes Safety Engineering« oder »Safety-Security Co-Engineering«.

Das Positionspapier legt die Sichtweise des Fraunhofer VVS zum aktuellen Stand der Technik dar, untersucht Nutzen und Risiken und präsentiert ein Rahmenkonzept für erklärbare und kontrollierbare KI. Ausgewählte Forschungsthemen werden identifiziert und diskutiert, um einen Weg zu vertrauenswürdiger KI und dem verantwortungsvollen Umgang mit diesen Systemen in der Zukunft aufzuzeigen.

Das Positionspapier des Fraunhofer VVS gibt keine Antworten oder Empfehlungen zur militärischen Nutzung von Künstlicher Intelligenz. Ziel des Papiers ist es vielmehr, die Diskussion zu diesem wichtigen Zukunftsthema anzustoßen und hierfür eine Grundlage zu schaffen.

Die Fraunhofer-Gesellschaft ist sich ihrer Verantwortung im Umgang mit Forschungsfreiheit und Forschungsrisiken bewusst und fördert den verantwortungsvollen Umgang mit Forschung. Wir unterstützen beispielsweise die Initiative der Deutschen Forschungsgemeinschaft und der Nationalen Akademie der Wissenschaften Leopoldina bezüglich »Wissenschaftsfreiheit und Wissenschaftsverantwortung − Empfehlungen zum Umgang mit sicherheitsrelevanter Forschung«. Ganz in diesem Sinne hat die Fraunhofer-Gesellschaft verschiedene Maßnahmen institutionalisiert. So setzen wir im Bereich Wissenschaftsverantwortung auf Prävention, Sensibilisierung und Beratung. Für den Innen- und Außenraum wurde ein Werteverständnis erarbeitet. Weitere Maßnahmen wie die laufende Ethikberatung für Forschende und die Einrichtung einer Ethikkommission laufen. Die Fraunhofer-Gesellschaft beteiligt sich darüber hinaus an der Finanzierung des »Gemeinsamen Ausschusses zum Umgang mit sicherheitsrelevanter Forschung (GA)« von DFG und Leopoldina.

Das Positionspapier »Rise of Intelligent Systems in Military Weapon Systems« finden Sie in englischer Sprache hier.

Weitere Informationen unter: www.fraunhofer.de/de/forschung/forschungsfelder/schutz-sicherheit.html