Seminar: Absicherung Künstlicher Intelligenz

Teilnehmende erfahren im Seminar mögliche Strategien zur Absicherung Künstlicher Intelligenz. Gemeinsam erproben wir eine Auswahl von Ansätzen, um konkrete Herausforderungen zu adressieren und maßgeschneiderte Safety-Konzepte abzuleiten.
 

Zielgruppe

• Prüforganisationen, Fach- und Führungskräfte, Projektverantwortliche, Qualitätsmanagement
• Experten wie Safety Ingenieure und Data Scientists
   

Voraussetzungen

• Grundkenntnisse in Statistik und Datenanalyse werden vorausgesetzt.
• Erste Erfahrungen im Umgang mit Maschinellen Lernverfahren sind von Vorteil. 
• Vorkenntnisse aus dem Bereich Safety Engineering werden nicht vorausgesetzt.

Nach dem Seminar wissen Sie ...

• ... über das Gefahren- und Innovationspotential von KI-Anwendungen im sicherheitskritischen Umfeld Bescheid.
• ... über die Grundlagen des Safety Engineerings Bescheid.
• ... über maßgebliche KI-Grundlagen aus dem Blickwickel Safety Bescheid.
• ... wie man Nutzen und Verbindlichkeit von Safety und KI-Standards einordnen kann.
• ... über eine Auswahl möglicher Strategien und Maßnahmen für sichere KI Bescheid.
• ... wie man Assurance Cases, als mögliche Argumentationsgrundlage für KI-bezogene Sicherheitsnachweise, exemplarisch anwenden kann.
   

Das Seminar bietet Ihnen ...

• ... einen Überblick über den Stand der Technik.
• ... mögliche Strategien zur Absicherung Künstlicher Intelligenz.
• ... eine Auswahl von Ansätzen, um konkrete Herausforderungen zu adressieren und maßgeschneiderte Safety-Konzepte abzuleiten.
• ... einen hohen Anteil an Übungen und Interaktion, um die Inhalte praxisnah zu vermitteln und den Transfer in den beruflichen Alltag zu ermöglichen.

Das Seminar Absicherung Künstlicher Intelligenz findet in deutscher Sprache statt. Begleitunterlagen liegen in englischer Sprache vor.

Das Seminar wurde von den Experten und Spezialisten des Fraunhofer IESE konzipiert und bereits mehrfach erfolgreich durchgeführt. Die Seminar-Teilnehmenden werden persönlich von dem Fraunhofer IESE-Team betreut und erhalten unmittelbaren Zugriff auf die Expertise aus der Forschung und Praxis.

Dr.-Ing. Rasmus Adler hat angewandte Informatik studiert und ist seit 2006 am Fraunhofer IESE beschäftigt. In seiner Promotion entwickelte er Fail-Operational Lösungen für aktive Sicherheitssysteme wie dem ESP. Anschließend widmete er sich als Projektleiter und Safety Experte dem modell-basierten Safety Engineering autonomer Systeme. Er koordinierte die Entwicklung von Lösungen, um zur Laufzeit das Risiko von geplantem/möglichen autonomen Systemverhalten bezüglich der aktuellen Situation zu messen und risikominierende Maßnahmen anzustoßen. In seiner aktuellen Position als Programm Manager für autonome Systeme widmet er sich insbesondere dem Risikomanagement vernetzter Cyber-Physischer Systeme. Um den Nutzen der einzelnen Systeme aber auch den Gesamtnutzen von Systemverbünden zu maximieren, setzt er auf ein kooperatives und zum Teil auf künstlicher Intelligenz basiertem Risikomanagement zur Laufzeit. Da aktuelle Sicherheitsnormen dieses innovative Risikomanagement nicht unterstützen, engagiert er sich in Normungsgremien und beteiligt sich an der Entwicklung normativer Anforderungen für autonome, vernetzte Cyber-Physische Systeme. 

Dr. Michael Kläs ist seit Abschluss seines Informatikstudiums in der angewandten Forschung tätig und berät Unternehmen in den Bereichen Softwarequalität und Datenanalyse am Fraunhofer IESE. Im Laufe der letzten Dekade verantwortete er in zahlreichen Industrie- und Forschungsprojekten insbesondere den Aufbau von KPI-Systemen, die Evaluation neuer Technologien und die Entwicklung prädiktiver Analysen. In seiner Dissertation beschäftigte er sich mit der Vorhersage von Softwarefehlern unter Einbeziehung von Expertenwissen. Aktuell liegt sein Schwerpunkt im Bereich der Potenzialanalyse für datengetriebene Innovation und der Datenqualitäts- und Unsicherheitsanalyse bei Big-Data- und KI-Systemen. Als Autor zahlreicher Fachpublikationen engagiert er sich zudem als Hochschuldozent und als Experte bei der Normierung (DIN/VDE).

Dr. Adam Trendowicz ist Senior Science in der Abteilung Data Engineering am Fraunhofer-Institut für Experimentelles Software Engineering IESE in Kaiserslautern. Nach seiner Promotion zum Thema Softwareprojektaufwand und Risikoabschätzungsmodelle an der TU Kaiserslautern ist er im Bereich Data Science und datengetriebene Geschäftsinnovation tätig.

Dr. Trendowicz verfügt über mehr als 20 Jahre Erfahrung in der Analyse von Softwareprojekten und -produkten in unterschiedlichen Branchen. Er hat diverse Aktivitäten in den Bereichen Messen, Vorhersage und Verbesserung von Software in Softwareunternehmen unterschiedlicher Größe und in verschiedenen Domänen geleitet (u.a. in Deutschland, Japan und Indien). In diesem Kontext hat er Vorhersagemodelle für Softwarekosten und -qualität entwickelt und empirisch validiert.

Derzeit liegt der Tätigkeitsschwerpunkt von Dr. Trendowicz auf Datenqualität und -vorbereitung im Kontext von maschinellem Lernen sowie auf dem Lean Deployment von datengetriebenen Innovationen auf Basis von Lösungen aus den Bereichen maschinelles Lernen und Künstliche Intelligenz.

Dr. Trendowicz ist Mitbegründer des von der Fraunhofer-Allianz Big Data und Künstliche Intelligenz angebotenen Weiterbildungs- und Zertifizierungsprogramms „Data Scientist“. Er hat ferner mehrere Tutorials zu den Themen Business-IT-Abgleich, Softwarequalitätsmessung und Kostenschätzung gehalten. Schließlich ist er Co-Autor mehrerer Bücher und zahlreicher Veröffentlichungen in internationalen Fachzeitschriften und auf Konferenzen.

Pascal Gerber ist Data Scientist am Fraunhofer IESE und arbeitet dort seit 2021. In Forschungs- und Industrieprojekten beschäftigt er sich mit generativer KI, insbesondere mit Large Language Models. Sein Schwerpunkt liegt auf dem zuverlässigen Einsatz dieser Technologien zur Unterstützung und Effizienzsteigerung von Geschäfts- und Entwicklungsprozessen. Während seines Informatikstudiums an der TU Kaiserslautern befasste er sich unter anderem mit Methoden des Machine Learning, darunter Reinforcement Learning. Zudem verfügt er über Erfahrung in der Unsicherheitsanalyse und Absicherung von KI-Systemen.

Anna Maria Vollmer ist Senior Data Engineer am Fraunhofer-Institut für Experimentelles Software Engineering IESE in der Abteilung Data Science. Seit ihrem Informatikstudium verantwortet sie dort insbesondere Evaluationen von Softwarelösungen, wie zuletzt in dem EU-Projekt Q-Rapids in Zusammenarbeit mit verschiedenen europäischen Partnern. Neben den Arbeiten in Forschungsprojekten gehören zu ihren Tätigkeiten auch Qualitätsbewertungen und die Mitentwicklung von daten-getriebenen Innovationen für Industriekunden.

Marc Wellstein schloss sein Masterstudium der Informatik (M.Sc.) an der TU Kaiserslautern im Juli 2021 ab. Seitdem ist er hauptberuflich als wissenschaftlicher Mitarbeiter in der Abteilung »Safety Engineering« am Fraunhofer-Institut für Experimentelles Software Engineering (IESE) in Kaiserslautern tätig. Seine Forschungsschwerpunkte sind dynamisches Risikomanagement, die Ergänzung etablierter Methoden der Entwurfssicherung durch Laufzeitsicherungsaspekte und sicheres, menschenähnliches Fahrverhalten in der simulationsbasierten Validierung für autonome Fahrsysteme. Im Allgemeinen liegt sein Schwerpunkt auf dem Automobilbereich.

Dr.-Ing. Patrick Wolf studierte an der Technischen Universität Kaiserslautern angewandte Informatik mit einem Schwerpunkt auf eingebetteten Systemen und Robotik. Seine Masterarbeit befasste sich mit der Einschätzung der Sensordatenqualität und der Wirkweise von Unsicherheiten in Perzeptionssystemen autonomer Fahrzeuge. Von 2016 bis 2023 war er wissenschaftlicher Mitarbeiter am Lehrstuhl für Robotersysteme der RPTU Kaiserslautern und entwickelte sichere und zuverlässige Autonomielösungen für Nutzfahrzeuge in Offroad-Umgebungen. Seine Promotion »Cognitive Processing in Behavior-Based Perception of Autonomous Off-Road Vehicles« schloss Dr. Wolf 2022 mit Auszeichnung ab.

Seit 2023 ist Dr. Wolf als »Senior Safety Engineer« in der Abteilung für »Safety Engineering« des Fraunhofer IESE tätig und entwickelt neue Lösungen im Bereich des sicheren autonomen Fahrens. Neben seinen Forschungs- und Industrietätigkeiten ist er im Rahmen des Fraunhofer-Zertifikatprogramms »Certified Data Scientist Specialized in Assuring Safety« als Dozent tätig. Seit dem Wintersemester 2023 ist er Lehrbeauftragter des Fachbereichs Informatik der RPTU und lehrt die Vorlesung »Offroad Robotics« am Campus Kaiserslautern.

Daniel Hillen erhielt seinen Master-Abschluss in Informatik an der Technischen Universität in Kaiserslautern, Deutschland. Seit 2020 ist er hauptberuflich beschäftigt als Wissenschaftlicher Mitarbeiter und Safety Engineer am Fraunhofer Institut für Experimentelles Software-Engineering (IESE). Sein Forschungsschwerpunkt ist die Entwicklung von Methoden zur Absicherung von autonomem Fahrzeugen. Dabei liegt sein Fokus auf der Modellierung der Fahrzeugumgebung und dem modellbasierten Safety Engineering.