Für das teilautomatisierte Fahren sind zuverlässige Systeme zur Erkennung des Fahrerzustands eine zentrale Voraussetzung. Denn
Assistenz- und Automatisierungsfunktionen können ihre Wirkung nur dann sicher entfalten, wenn sie wissen, womit der Mensch am Steuer
gerade beschäftigt ist – und ob seine Aufmerksamkeit noch ausreicht, um die Fahraufgabe zu übernehmen.
Moderne Fahrzeuge nutzen eine Kombination aus Innenraumkameras und weiteren Sensoren: Kopfhaltung, Blickrichtung, Augenöffnung und Lidschlagsrate liefern Hinweise auf Aufmerksamkeit oder Ermüdung. Ergänzend erfassen Lenkrad- und Sitzsensoren, ob der Fahrer aktiv lenkt oder seine Körperhaltung verändert. Ein schlafender Fahrer lässt sich so klar identifizieren – doch bereits davor kündigt sich ein Aufmerksamkeitsverlust durch subtilere Veränderungen an, etwa langsameren Lidschlag oder einen lockereren Griff am Lenkrad. In solchen Situationen können Assistenzsysteme gezielt eingreifen, etwa durch akustische Warnungen, haptische Signale oder Hinweise im Cockpit.
Warum Künstliche Intelligenz unverzichtbar ist
Die Vielzahl dieser Messdaten macht deutlich, warum Künstliche Intelligenz eine zentrale Rolle bei der Fahrerzustandserkennung spielt. Einzelne Messwerte sind kaum aussagekräftig, da Fahrverhalten und Aufmerksamkeit stark individuell geprägt sind. KI-basierte Systeme lernen daher zunächst einen Normalzustand des jeweiligen Fahrers und erkennen anschließend Abweichungen davon. Dazu kombinieren sie Informationen etwa zum Blickverhalten, zur Körperhaltung und zu Reaktionszeiten auf Systemaufforderungen. Gerade in solchen komplexen, hochdimensionalen Datensätzen liegt eine besondere Stärke von KI: Muster zu erkennen, die mit klassischen, regelbasierten Verfahren kaum erfassbar wären.
Sicherheit und Unsicherheit in KI-basierten Systemen
Mit dem Einsatz von KI stellen sich neue Fragen an Sicherheit und Zuverlässigkeit. Während im klassischen Sicherheitsengineering alle relevanten Reaktionspfade systematisch getestet werden können, ist dies bei lernenden Systemen prinzipiell nicht möglich – ihre möglichen Zustände und Reaktionen sind praktisch unendlich. Eine gewisse Unsicherheit bleibt daher selbst bei größter Sorgfalt bestehen.
Die IESE-Forschungsprojekte wie Safe AI Engineering und CONTROL setzen genau hier an:
Ziel ist es, diese Unsicherheiten messbar zu machen und Systeme so zu gestalten, dass sie angemessen darauf reagieren – etwa durch vorsichtigeres Fahrverhalten, reduzierte Geschwindigkeit oder kontrolliertes Ausweichen. Methoden zur Quantifizierung von Unsicherheiten im Maschinellen Lernen sind bereits national über die DIN SPEC 92005 standardisiert und werden aktuell im WIPANO-Projekt UncertAInty mit Blick auf generative KI weiterentwickelt und in internationale Normungsprozesse eingebracht. Ergänzend rückt auch die Cybersecurity in den Fokus, denn jede Sicherheitslücke kann bei autonomen Systemen unmittelbar zu einem Safety-Risiko werden. (Mehr dazu im Artikel: Ohne Cybersecurity keine Safety: Warum autonome Systeme ein neues Sicherheitsdenken brauchen)
Adaptive Mensch-Maschine-Interaktion
Ein weiteres Potenzial KI-basierter Fahrerzustandserkennung liegt in einer adaptiveren Mensch-Maschine-Interaktion. Warnungen und Eingriffe sollten nicht pauschal erfolgen, sondern den Fahrerzustand mit dem situativen Kontext abwägen. Erkennt ein System beispielsweise eine Gefahrensituation, während der Fahrer in eine andere Richtung blickt, kann eine Warnung sinnvoll sein – selbst wenn der Fahrer grundsätzlich aufmerksam erscheint. Umgekehrt lassen sich unnötige Warnungen vermeiden, wenn der Fahrer die relevante Situation bereits erfasst hat. Besonders wichtig ist diese intelligente Priorisierung bei Nutzfahrzeugen und Arbeitsmaschinen, bei denen das Fahren oft nur eine von mehreren automatisierten Aufgaben ist. Die permanente manuelle Überwachung aller Funktionen würde hier schnell die menschlichen Fähigkeiten überfordern.
Wenn Zuverlässigkeit zum Risiko wird
Eng damit verknüpft ist das Out-of-the-Loop-Phänomen: Je zuverlässiger ein System arbeitet, desto stärker sinkt die Aufmerksamkeit des Menschen bei der Überwachung. Paradoxerweise kann dies das Unfallrisiko erhöhen. Klassische Gegenmaßnahmen – etwa die permanente Aufforderung, das Lenkrad zu halten – schmälern jedoch den Nutzen der Automatisierung. Ziel aktueller Forschung ist es daher, situationsabhängig zu bestimmen, ob und welche Art von Überwachung notwendig ist, und den Fahrer rechtzeitig einzubinden. Während bei Level-3-Systemen dafür typischerweise wenige Sekunden zur Verfügung stehen, können Level-4-Fahrzeuge selbstständig einen sicheren Zustand erreichen, ohne dass der Mensch eingreifen muss.
Warum Level 5 auf absehbare Zeit unrealistisch bleibt
Vor diesem Hintergrund wird auch deutlich, warum eine vollständige Level-5-Automatisierung weiterhin als große Herausforderung gilt. Während Level 4 an klar definierte Einsatzbedingungen wie bestimmte Strecken oder Wetterlagen gebunden ist, soll Level 5 unter allen Bedingungen funktionieren. Selbst bei großen technologischen Fortschritten wird der sichere Einsatz autonomer Systeme jedoch immer von Randbedingungen abhängen – etwa von der physikalischen Grenze der Fahrbarkeit bei Glatteis. Wahrscheinlicher ist daher, dass diese Bedingungen schrittweise weniger einschränkend werden. Entscheidend ist dabei auch das Geschäftsmodell: Ein privat genutztes Fahrzeug unterliegt anderen Anforderungen als ein betriebenes System. Diese Unterschiede werden in den Automatisierungsstufen bislang kaum berücksichtigt, spielen für die praktische Umsetzung jedoch eine zentrale Rolle.
Wo steht Ihr Unternehmen beim integrierten Safety und Security Engineering?
Ob Engpässe bei Fachpersonal, neue KI-Funktionen oder steigender Normendruck – wir unterstützen Sie von der ersten Analyse bis zur modellbasierten Umsetzung mit unserem Tool SafeTbox.
Ob im Automotive- und Nutzfahrzeugbereich oder in anderen sicherheitskritischen Domänen – wir begleiten Sie bei der Umsetzung. Weitere Informationen zu unseren Aktivitäten im Bereich Automotive & Nutzfahrzeuge.
