UncertAInty – ein WIPANO-Projekt für verlässliche KI-Systeme

11. Februar 2026

UncertAInty (Uncertainty Quantification in AI-Systems for International Compliance) ist ein vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK) gefördertes WIPANO-Projekt, das den systematischen Umgang mit Unsicherheit in KI-Systemen voranbringt. Über eine Laufzeit von 30 Monaten arbeiten Partner aus Wirtschaft, Forschung und Normung gemeinsam daran, Unsicherheiten in KI eindeutig zu beschreiben, messbar zu machen und international zu standardisieren im Rahmen der Entwicklung von ISO IEC TS 25223.

Lösungskonzept im Projekt DeepQuali zur Verbesserung der Softwarequalität. — © Fraunhofer IESE

Künstliche Intelligenz eröffnet neue Möglichkeiten für Fahrzeuge, Maschinen und Anlagen – insbesondere in sicherheitsrelevanten Anwendungen. Gleichzeitig lassen sich bei datengetriebenen, lernenden Systemen einzelne Ergebnisse prinzipbedingt nicht garantieren. Für einen sicheren und rechtskonformen Einsatz wird es daher entscheidend, Leistungsgrenzen transparent zu machen und Unsicherheit nachvollziehbar zu quantifizieren. Genau hier setzt UncertAInty an.

Letzte Änderung: 11. Februar 2026

Von der DIN SPEC zum internationalen Standard

Im Mittelpunkt des Projekts steht die Entwicklung der internationalen technischen Spezifikation ISO/IEC TS 25223 „Guidance and requirements for uncertainty quantification in AI systems“. Aufbauend auf der nationalen DIN SPEC 92005 wird der bisherige Fokus auf maschinelles Lernen auf KI-Systeme insgesamt erweitert – einschließlich hybrider und generativer KI-Ansätze. Ziel ist es, eine einheitliche Terminologie sowie technische Leitlinien und Anforderungen zur Unsicherheitsquantifizierung zu definieren, die alle Phasen des KI-Systemlebenszyklus abdecken.

Damit leistet UncertAInty einen zentralen Beitrag zur internationalen Normung und schafft eine Grundlage für branchenübergreifende Standards. Die Ergebnisse fließen in relevante internationale Gremien ein und bilden eine wichtige Referenz für weitere Normen im Umfeld von KI, funktionaler Sicherheit und Systems Engineering.

Rechtssicherheit für Hochrisiko-KI

Grundlagen Cloud-Security - selbstbewusst und sicher mit Cloud-Technologien umgehen — © iStock.com/NicoElNino

Ein wesentlicher Treiber des Projekts ist der steigende Bedarf an Rechtssicherheit beim Einsatz von KI, insbesondere vor dem Hintergrund der europäischen KI-Verordnung (AI Act). Deren Anforderungen lassen Interpretationsspielräume, die durch harmonisierte Normen konkretisiert werden müssen. Für Unternehmen, Prüforganisationen und Behörden wird die Quantifizierung von Unsicherheit damit zu einem Schlüsselthema.

Gerade bei sicherheitsrelevanten eingebetteten KI-Systemen stoßen klassische Sicherheitsnormen an ihre Grenzen, da sie KI-Komponenten häufig nicht auf dem sicherheitskritischen Pfad vorsehen. UncertAInty adressiert diese Lücke und unterstützt die Entwicklung von Normen, mit denen KI-basierte Funktionen sicher eingesetzt werden können, ohne ihre Potenziale unnötig einzuschränken.

Fraunhofer IESE im Projekt UncertAInty

Verlässliche KI ist ein zentrales Fokusthema am Fraunhofer IESE, unter anderem mit einer zertifizierten Weiterbildung. Das Institut verfügt über langjährige Expertise in der Quantifizierung und im Management von KI-Unsicherheit aus zahlreichen Forschungs- und Industrieprojekten und hat mit seinen Vorarbeiten maßgeblich zur Entwicklung der DIN SPEC 92005 beigetragen, bei der es zudem den stellvertretenden Obmann stellte. Diese Erfahrung fließt in UncertAInty ein und unterstützt die Weiterentwicklung international anschlussfähiger Standards.

Beitrag zu vertrauenswürdiger KI

Mit UncertAInty werden zentrale Grundlagen für die vertrauenswürdige Nutzung von KI geschaffen. Das Projekt stärkt die internationale Anschlussfähigkeit deutscher Normungsaktivitäten und unterstützt Unternehmen dabei, KI-Systeme sicher, nachvollziehbar und konform zu entwickeln. Damit leistet UncertAInty einen wichtigen Beitrag zur Wettbewerbsfähigkeit und zur sicheren Einführung KI-basierter Technologien in sicherheitskritischen Anwendungsfeldern.

Mehr Infos: Projektwebsite ergänzen (RA ist angefragt)

Sie haben eine Herausforderung für uns?

Sprechen Sie uns an und profitieren Sie von Fraunhofer als Forschungs- und Industriepartner.

Kontaktieren Sie uns!

Sie wollen potenzielle KI Gefahren reduzieren oder klären, ob ein Unsicherheitsmanagement für Ihr Unternehmen sinnvoll ist?

Vereinbaren Sie einen Termin mit uns, gerne per E-Mail oder Telefon.

Jetzt Kontakt aufnehmen

Referenzprojekt: UncertAInty