Seminar: Absicherung Künstlicher Intelligenz

Zielgruppe

• Prüforganisationen, Fach- und Führungskräfte, Projektverantwortliche, Qualitätsmanagement
• Experten wie Safety Ingenieure und Data Scientists

Grundkenntnisse in Statistik und Datenanalyse werden vorausgesetzt. Erste Erfahrungen im Umgang mit Maschinellen Lernverfahren sind von Vorteil. Vorkenntnisse aus dem Bereich Safety Engineering werden nicht vorausgesetzt.

Ihr Nutzen

Absicherung Künstlicher Intelligenz auf einen Blick:

• Sie wissen über das Gefahren- und Innovationspotential von KI-Anwendungen im sicherheitskritischen Umfeld
• Sie besitzen einen Überblick über die Grundlagen des Safety Engineerings
• Sie kennen maßgebliche KI-Grundlagen aus dem Blickwickel Safety
• Sie können Nutzen und Verbindlichkeit von Safety und KI-Standards einordnen
• Sie kennen eine Auswahl möglicher Strategien und Maßnahmen für sichere KI
• Sie können Assurance Cases, als mögliche Argumentationsgrundlage für KI-bezogene Sicherheitsnachweise, exemplarisch anwenden

Das Seminar Absicherung Künstlicher Intelligenz findet in deutscher Sprache statt. Begleitunterlagen liegen in englischer Sprache vor.

Tag 1: Motivation und Grundlagen

• Motivation für KI in sicherheitskritischen Systemen
• Grundlagen des Safety-Engineerings
• KI-Grundlagen mit Schwerpunkt Safety

Tag 2: Standards und Maßnahmen für KI Sicherheit

• Relevante Standards und Normen
• Safety-Maßnahmen für KI
• Maßnahmen bei der Spezifikation
• Maßnahmen bei der Konstruktion

Tag 3: Maßnahmen für sichere KI (cont.)

• Maßnahmen beim Testen
• Maßnahmen bei der Analyse
• Maßnahmen im Daten-Lebenszyklus

Tag 4: Sicherheitsargumentation

• Grundlagen zu Assurance Cases
• Assurance Cases für KI-Komponenten
• Ganzheitliche Betrachtung der Kerninhalte, Möglichkeit zu abschließenden Fragen

Tag 5: Zertifizierte Prüfung am Vormittag

Dr.-Ing. Rasmus Adler hat angewandte Informatik studiert und ist seit 2006 am Fraunhofer IESE beschäftigt. In seiner Promotion entwickelte er Fail-Operational Lösungen für aktive Sicherheitssysteme wie dem ESP. Anschließend widmete er sich als Projektleiter und Safety Experte dem modell-basierten Safety Engineering autonomer Systeme. Er koordinierte die Entwicklung von Lösungen, um zur Laufzeit das Risiko von geplantem/möglichen autonomen Systemverhalten bezüglich der aktuellen Situation zu messen und risikominierende Maßnahmen anzustoßen. In seiner aktuellen Position als Programm Manager für autonome Systeme widmet er sich insbesondere dem Risikomanagement vernetzter Cyber-Physischer Systeme. Um den Nutzen der einzelnen Systeme aber auch den Gesamtnutzen von Systemverbünden zu maximieren, setzt er auf ein kooperatives und zum Teil auf künstlicher Intelligenz basiertem Risikomanagement zur Laufzeit. Da aktuelle Sicherheitsnormen dieses innovative Risikomanagement nicht unterstützen, engagiert er sich in Normungsgremien und beteiligt sich an der Entwicklung normativer Anforderungen für autonome, vernetzte Cyber-Physische Systeme. 

Dr. Michael Kläs ist seit Abschluss seines Informatikstudiums in der angewandten Forschung tätig und berät Unternehmen in den Bereichen Softwarequalität und Datenanalyse am Fraunhofer IESE. Im Laufe der letzten Dekade verantwortete er in zahlreichen Industrie- und Forschungsprojekten insbesondere den Aufbau von KPI-Systemen, die Evaluation neuer Technologien und die Entwicklung prädiktiver Analysen. In seiner Dissertation beschäftigte er sich mit der Vorhersage von Softwarefehlern unter Einbeziehung von Expertenwissen. Aktuell liegt sein Schwerpunkt im Bereich der Potenzialanalyse für datengetriebene Innovation und der Datenqualitäts- und Unsicherheitsanalyse bei Big-Data- und KI-Systemen. Als Autor zahlreicher Fachpublikationen engagiert er sich zudem als Hochschuldozent und als Experte bei der Normierung (DIN/VDE).

Dr. Adam Trendowicz ist Senior Science in der Abteilung Data Engineering am Fraunhofer-Institut für Experimentelles Software Engineering IESE in Kaiserslautern. Nach seiner Promotion zum Thema Softwareprojektaufwand und Risikoabschätzungsmodelle an der TU Kaiserslautern ist er im Bereich Data Science und datengetriebene Geschäftsinnovation tätig.

Dr. Trendowicz verfügt über mehr als 20 Jahre Erfahrung in der Analyse von Softwareprojekten und -produkten in unterschiedlichen Branchen. Er hat diverse Aktivitäten in den Bereichen Messen, Vorhersage und Verbesserung von Software in Softwareunternehmen unterschiedlicher Größe und in verschiedenen Domänen geleitet (u.a. in Deutschland, Japan und Indien). In diesem Kontext hat er Vorhersagemodelle für Softwarekosten und -qualität entwickelt und empirisch validiert.

Derzeit liegt der Tätigkeitsschwerpunkt von Dr. Trendowicz auf Datenqualität und -vorbereitung im Kontext von maschinellem Lernen sowie auf dem Lean Deployment von datengetriebenen Innovationen auf Basis von Lösungen aus den Bereichen maschinelles Lernen und Künstliche Intelligenz.

Dr. Trendowicz ist Mitbegründer des von der Fraunhofer-Allianz Big Data und Künstliche Intelligenz angebotenen Weiterbildungs- und Zertifizierungsprogramms „Data Scientist“. Er hat ferner mehrere Tutorials zu den Themen Business-IT-Abgleich, Softwarequalitätsmessung und Kostenschätzung gehalten. Schließlich ist er Co-Autor mehrerer Bücher und zahlreicher Veröffentlichungen in internationalen Fachzeitschriften und auf Konferenzen.

Pascal Gerber hat Informatik an der TU Kaiserslautern studiert. In seinen Abschlussarbeiten sowie während seiner Tätigkeit als studentische Hilfskraft am Fraunhofer IESE befasste er sich unter anderem mit Reinforcement Learning und Qualitätseinflussmodellen zur Bewertung von Unsicherheiten in den Entscheidungen datengetriebener Modelle.

Nach seinem Studium begann er 2021 in der Abteilung »Safety Engineering« zu arbeiten und hat dabei grundlegende Kompetenzen im Safety Engineering erworben. Seit 2023 ist er in der Abteilung »Data Science« tätig und beschäftigt sich gegenwärtig mit Qualitätseinflussmodellen.

Marc Wellstein schloss sein Masterstudium der Informatik (M.Sc.) an der TU Kaiserslautern im Juli 2021 ab. Seitdem ist er hauptberuflich als wissenschaftlicher Mitarbeiter in der Abteilung »Safety Engineering« am Fraunhofer-Institut für Experimentelles Software Engineering (IESE) in Kaiserslautern tätig. Seine Forschungsschwerpunkte sind dynamisches Risikomanagement, die Ergänzung etablierter Methoden der Entwurfssicherung durch Laufzeitsicherungsaspekte und sicheres, menschenähnliches Fahrverhalten in der simulationsbasierten Validierung für autonome Fahrsysteme. Im Allgemeinen liegt sein Schwerpunkt auf dem Automobilbereich.

Dr.-Ing. Patrick Wolf studierte an der Technischen Universität Kaiserslautern angewandte Informatik mit einem Schwerpunkt auf eingebetteten Systemen und Robotik. Seine Masterarbeit befasste sich mit der Einschätzung der Sensordatenqualität und der Wirkweise von Unsicherheiten in Perzeptionssystemen autonomer Fahrzeuge. Von 2016 bis 2023 war er wissenschaftlicher Mitarbeiter am Lehrstuhl für Robotersysteme der RPTU Kaiserslautern und entwickelte sichere und zuverlässige Autonomielösungen für Nutzfahrzeuge in Offroad-Umgebungen. Seine Promotion »Cognitive Processing in Behavior-Based Perception of Autonomous Off-Road Vehicles« schloss Dr. Wolf 2022 mit Auszeichnung ab.

Seit 2023 ist Dr. Wolf als »Senior Safety Engineer« in der Abteilung für »Safety Engineering« des Fraunhofer IESE tätig und entwickelt neue Lösungen im Bereich des sicheren autonomen Fahrens. Neben seinen Forschungs- und Industrietätigkeiten ist er im Rahmen des Fraunhofer-Zertifikatprogramms »Certified Data Scientist Specialized in Assuring Safety« als Dozent tätig. Seit dem Wintersemester 2023 ist er Lehrbeauftragter des Fachbereichs Informatik der RPTU und lehrt die Vorlesung »Offroad Robotics« am Campus Kaiserslautern.

Daniel Hillen erhielt seinen Master-Abschluss in Informatik an der Technischen Universität in Kaiserslautern, Deutschland. Seit 2020 ist er hauptberuflich beschäftigt als Wissenschaftlicher Mitarbeiter und Safety Engineer am Fraunhofer Institut für Experimentelles Software-Engineering (IESE). Sein Forschungsschwerpunkt ist die Entwicklung von Methoden zur Absicherung von autonomem Fahrzeugen. Dabei liegt sein Fokus auf der Modellierung der Fahrzeugumgebung und dem modellbasierten Safety Engineering.

Patricia Kelbert ist seit 2017 am Fraunhofer IESE, und seit 2020 in der Abteilung Data Science als Data Scientist tätig. Sie hat in Frankreich an der »Université de Strasbourg« Bioinformatik studiert und dort im Jahr 2005 ihren Master abgeschlossen. Sie beschäftigt sich seit langem intensiv mit Programmierung, Software Engineering, Datenbanken und Datennutzungskontrolle über verschiedene Fachgebiete hinweg (Biodiversität, Genetik, Pharma & Gesundheit, Landwirtschaft).

Anna Maria Vollmer hat einen Masterabschluss in Informatik von der Technischen Universität Kaiserslautern und ist seit 2017 am Fraunhofer IESE in der Abteilung Data Science tätig. In ihren aktuellen Rollen als Senior Data Engineer und Manager for Business & Transfer vereint sie technische Expertise mit strategischem Denken. Durch die Verantwortung einer Vielzahl von Projekten hat sie ein tiefes Verständnis für komplexe Problemstellungen und effektiven Lösungsstrategien entwickelt. Darüber hinaus bringt sie Erfahrung in der Qualitätsbewertung mit und arbeitet an datengetriebenen Innovationen für Industriekunden.