Fraunhofer-Institut für Experimentelles Software Engineering IESE
Fraunhofer-Institut für Experimentelles Software Engineering IESE

Künstliche Intelligenz – Gefahren durch Unsicherheitsbewertungen minimieren

Transparenter und zuverlässiger Umgang mit Unsicherheit in KI-Systemen zur Laufzeit

Reduzieren Sie potenzielle KI Gefahren und Risiken​

Die Möglichkeiten Künstliche Intelligenz zu nutzen, sind vielfältig und entwickeln sich ständig weiter. Sie eröffnen innovative Perspektiven in verschiedenen Branchen, darunter zum Beispiel:​

  • Diagnoseunterstützung in der Medizin
  • Autonome Fahrzeuge und verbesserte Verkehrssicherheit
  • Effiziente automatisierte Prozesse in der Industrie
  • Erkennung von Cyberattacken und Sicherheitslücken

Trotz der vielen Chancen, die Künstliche Intelligenz bietet, ist es entscheidend, die Herausforderungen von Unsicherheit und Modellvalidierung nicht zu vernachlässigen.​

 

Unsicherheitsmanagement

Um potenzielle Gefahren und Risiken beim Einsatz von Künstlicher Intelligenz zu reduzieren, spielt das Unsicherheitsmanagement (Uncertainty Management) eine entscheidende Rolle. Es befasst sich mit der systematischen Identifizierung, Quantifizierung und Reduzierung von Unsicherheiten in KI-Modellen und -Ergebnissen, um verlässlichere und transparentere Entscheidungen zu realisieren. So ermöglicht eine Unsicherheitsbewertung bei KI-Ansätzen eine kritische Evaluierung des Modells und seiner Anwendbarkeit.​ Durch ein effektives Unsicherheitsmanagement können Unternehmen das Vertrauen in KI-Systeme stärken und ihre Verantwortlichkeit erhöhen.

KI-Systeme werden in der Praxis oft mit Situationen konfrontiert, die zu unsicheren Vorhersagen führen

Künstliche Intelligenz Gefahr? Falschen KI-Vorhersagen auf der Spur
© iStock.com/monsitj

In KI-Systemen wird das funktionale Verhalten seiner datenge steuerten Komponenten (DDC = Data Driven Component) nicht programmiert, sondern automatisch aus vorliegenden Daten erlernt. Demzufolge ist das von einer DDC erwartete funktionale Verhalten meist nur exemplarisch auf der Grundlage von Beispielfällen, für die zuvor Daten gesammelt wurden, spezifiziert. Aus diesem Grund kann nicht garantiert werden, dass sich solche Komponenten in allen Fällen wie beabsichtigt verhalten, was zu Unsicherheiten während der Laufzeit führt.

Fragen, die Sie stellen sollten, um KI-Risiken zu minimieren:

  • Inwieweit können wir den Ausgaben einer »Data Driven Component« vertrauen?
  • Wie können wir solide Aussagen über ihre Verlässlichkeit erhalten?
  • Von welchen Faktoren hängt die Unsicherheit einer Ausgabe ab?

Was sind die Gründe, dass KI zur Gefahr werden kann?

KI Gefahren minimieren durch Unsicherheitsmanagement
© iStock.com/sdecoret

In der Praxis sind drei Arten von Unsicherheiten besonders relevant:

1 Modellgüte
Die »Unsicherheit aufgrund der Modelleignung« (model fit uncertainty) konzentriert sich auf die inhärente Unsicherheit bei datengetriebenen Modellen durch Modellierung und Approximation.

2 Datenqualität
Die »Unsicherheit aufgrund der Datenqualität« (data quality uncertainty) umfasst die zusätzliche Unsicherheit, die durch die Anwendung eines Modells auf Input-Daten entsteht, die qualitative Defizite aufweisen.

3 Anwendungskonformität
Die »Unsicherheit bzgl. der Einhaltung des Geltungsbereichs« (scope compliance uncertainty) umfasst die Unsicherheit darüber, ob das Modell aktuell tatsächlich innerhalb des Geltungsbereichs angewendet wird, für den das Modell trainiert und validiert wurde.

 

Sie haben bereits eine KI-Anwendung im Einsatz? Vertrauen Sie der Entscheidung Ihrer KI uneingeschränkt? Existierende Modelle lassen sich mit Unsicherheitsbewertungen ergänzen. Sprechen Sie uns gerne an.

Erfahren Sie mehr über unseren »Uncertainty Wrapper« Ansatz und dessen Vorteile gegenüber anderen Unsicherheitsbewertungen, z.B. bei der Verkehrszeichenerkennung, Fußgängerdetektion oder Zellklassifizierung mittels Durchflusszytometriedaten.

Oder überlegen Sie noch, wie Sie KI für Ihr Unternehmen sinnvoll einsetzen können? Wir zeigen Ihnen, wie Sie Künstliche Intelligenz nutzen können, um Ihre Geschäftsprozesse zu verbessern, Effizienzsteigerungen zu erzielen oder neue Produkte und Dienstleistungen anzubieten.

Wollen Sie z.B. ein KI-Sprachmodell (Large Language Models) wie ChatGPT integrieren? Wir klären auf, auf was bei der Nutzung zu achten ist.

 

 

Kontaktieren Sie uns!

Sie wollen potenzielle KI Gefahren reduzieren oder klären, ob ein Unsicherheitsmanagement für Ihr Unternehmen sinnvoll ist?

Vereinbaren Sie einen Termin mit uns, gerne per E-Mail oder Telefon.

Jetzt Kontakt aufnehmen