Kongress und Messe  /  12.12.2019

26. SafeTRANS Industrial Day

Thema des Fachsymposiums des 26. SafeTRANS Industrial Day ist:

Künstliche Intelligenz in Cyber-Physical Systems:
Einsatzmöglichkeiten, Skalierbarkeit, Erklärbarkeit, Sicherheitsnachweis

 

Auch das Fraunhofer IESE nimmt mit einem Vortrag daran teil.

Sicherheitsnachweis für Systeme mit ML-Komponenten – Herausforderungen und Lösungsansätze

Dr. Daniel Schneider, Fraunhofer IESE

Systeme sind zunehmend hoch automatisiert und intelligent. Das wirtschaftliche Potenzial ist gewaltig, gleichzeitig besteht aber für die einzelnen Unternehmen die Gefahr, im internationalen Wettbewerb abgehängt zu werden. Künstliche Intelligenz, insbesondere Machine Learning, erweist sich zunehmend als wichtiger Enabler der Automatisierung, wobei die Gewährleistung und der Nachweis der Sicherheit von ML-Komponenten eine noch weitgehend ungelöste Herausforderung darstellt. Das Grundproblem ist, dass hier menschenverständliche und analysierbare Spezifikationen fehlen, was die Anwendung etablierter Normen und Methoden zur Absicherung sehr erschwert. Dieser Vortrag beginnt mit einer Einführung zum Thema Machine Learning, beschreibt dann die Herausforderungen bezüglich der Gewährleistung der Sicherheit und diskutiert schließlich mögliche Lösungsansätze. Diese können generell zwei unterschiedlichen Kategorien zugeordnet werden: der Absicherung des ML-Verhaltens selbst und der Realisierung eines »traditionellen« parallelen Überwachungskanals.

Wesentliche Inhalte des Vortrags:

- Kurze Einführung zum Thema ML illustriert anhand verschiedener Beispiele
- Herausforderungen bei der Absicherung von ML-Komponenten
- Möglichkeiten und Limitierungen bzgl. der »Härtung« des ML-Verhaltens
- Ansätze zur Schaffung eines parallelen Überwachungskanals
- Vision eines integrierten Safety- und ML-Engineering, welches die beiden o.g. Aspekte integriert