Webinar »Verlässliche KI«

Hintergründe, Herausforderungen und Lösungsansätze zur Absicherung von Systemen mit KI-Komponenten 

Künstliche Intelligenz (KI) im Allgemeinen und Machine Learning (ML) im Besonderen gewinnt auch im Kontext sicherheitskritischer Systeme zunehmend an Bedeutung. Entsprechend stellt sich die Frage nach der Gewährleistung und dem Nachweis der funktionalen Sicherheit. In diesem Webinar werden zunächst einige Grundlagen zum Thema Machine Learning vermittelt. Anschließend wird dann auf Herausforderungen und Lösungsansätze bezüglich der Absicherung eingegangen.

 

Achtung! Termin verschoben! Neuer Termin: 28. Mai 2020, 15 Uhr

Datenschutz und Datenverarbeitung

Wir setzen zum Einbinden von Videos den Anbieter YouTube ein. Wie die meisten Websites verwendet YouTube Cookies, um Informationen über die Besucher ihrer Internetseite zu sammeln. Wenn Sie das Video starten, könnte dies Datenverarbeitungsvorgänge auslösen. Darauf haben wir keinen Einfluss. Weitere Informationen über Datenschutz bei YouTube finden Sie in deren Datenschutzerklärung unter: http://www.youtube.com/t/privacy_at_youtube

Webinar »Datenaufbereitung« – Aufzeichnung vom 28. Mai 2020

Termin Bereits stattgefunden. Aufzeichnung vom Mai 2020 verfügbar
Dauer 60 Minuten 
Sprache deutsch 
Zielgruppe
Safety Engineers und Safety-Manager*innen, KI-Entwickler*innen

Dr.-Ing. Daniel Schneider erhielt sein Diplom in Informatik 2004 von der TU Kaiserslautern und wurde daraufhin Mitarbeiter des Fraunhofer IESE. In seiner Zeit am Institut übernahm er verschiedene Rollen (wissenschaftlicher Mitarbeiter, Projektmanager, Senior Engineer, Programmmanager) und war, entsprechend seiner Rollen, Mitarbeiter und Projektleiter von zahlreichen Forschungs- und Industrieprojekten. Seit Mitte 2014 leitet er die Abteilung Embedded Systems Quality Assurance, welche sich schwerpunktmäßig mit dem Thema Safety Engineering beschäftigt.

Daniel Schneider ist Autor von über 50 Publikationen, regelmäßig Vortragender auf Tagungen, Mitglied in verschiedenen Beiräten und Gremien und Tagungsleiter der »Safety meets Security« Tagung. Seine Promotion fertigte er zum Thema bedingte Safety-Zertifizierung offener adaptiver Systeme an.

 

Bezüglich der Lösungsansätze wird zunächst ein integrierter Safety- und ML-Engineering Lifecycle skizziert und diskutiert. Auf einige der Aktivitäten des Lifecycles wird sodann etwas detaillierter eingegangen, darunter:

  • Nutzung von Assurance Cases als Rückgrat des Engineerings
  • Nutzung von Explainable AI zur Generierung von Evidenzen
  • Nutzung von Maßnahmen auf Architekturebene wie z.B. einem Safety Supervisor
  • expliziter Umgang mit Unsicherheiten bezüglich der Klassifikationen/Entscheidungen einer ML-Komponente
  • Einbettung des Ganzen in das umfassendere Konzept des dynamischen Risikomanagements