Künstliche Intelligenz für Leitstellen

Künstliche Intelligenz für Leitstellen und Lagezentren – Human Factors und Grundlagen der Entscheidungsunterstützung im Projekt SPELL (Teil 2)

Im zweiten Teil unserer Blog-Serie zum Projekt SPELL geben wir einen vertieften Einblick in menschliche Faktoren der Leitstellenarbeit. Außerdem stellen wir vor, wie Künstliche Intelligenz sowie neue Technologien und Methoden für intelligente Systeme, die im Projekt SPELL entwickelt werden sollen, die Arbeit der Leitstellen bereichern können. Die Abkürzung SPELL steht übrigens für »Semantische Plattform zur intelligenten Entscheidungs- und Einsatzunterstützung in Leitstellen und Lagezentren«.

Im ersten Teil der Blog-Serie haben wir das BMWi-geförderte Projekt bereits vorgestellt. In dem Beitrag finden sich Informationen zu den Projektzielen und Hintergründen sowie eine Einführung zur Leitstellenarbeit.

Dieser Blog-Beitrag ist in Kooperation mit unserer Gastautorin Melanie Reuter-Oppermann entstanden.

 

Melanie Reuter-Oppermann ist Postdoc am Fachgebiet Wirtschaftsinformatik der Technischen Universität Darmstadt (TUDA). Dort leitet sie neben den Arbeitspaketen der TUDA in SPELL noch zwei weitere Forschungsprojekte im Themenbereich »Healthcare Logistics / Digital Healthcare«. Zuvor promovierte sie am Karlsruher Institut für Technologie in Operations Research zum Thema Rettungsdienstlogistik / -planung und baute das HealthCareLab am Karlsruhe Service Research Institute auf. Sie engagiert sich im Fachverband Leitstelle e.V. als Ko-Leiterin der AG »KI in der Leitstelle« und in der Deutschen Gesellschaft für Rettungswissenschaften als Sprecherin des Wissenschaftlichen Beirats. Zudem ist sie Ko-Koordinatorin der EURO Working Group on Operational Research Applied to Health Services.

 

Künstliche Intelligenz in Leitstellen (Melanie Reuter-Oppermann)Gastautorin
Dr.-Ing. Melanie Reuter-Oppermann
TU Darmstadt

E-Mail senden

 

Leitstellen: Hohe Verantwortung bei hoher Zuverlässigkeit

Leitstellendisponent*innen arbeiten in einem hochtechnologisierten Umfeld, das breitgefächertes Spezialwissen erfordert, um kompetent im Arbeitsalltag und in besonders herausfordernden Situationen bestehen zu können. Auch stellen technische Fertigkeiten wichtige Grundlagen im Kompetenzprofil von Leitstellendisponent*innen dar, was kaum überraschen dürfte, wenn man den in Abbildung 1 dargestellten »Mikrokosmos Leitstelle« betrachtet. Technische Fertigkeiten legen den Grundstein, um arbeitsrelevante Aufgaben zu erfüllen und Entscheidungen zu treffen und sind für die Vereinfachung von Entscheidungsprozessen relevant (1).

 

Doch auch sog. »Human Factors« sind bei Einsätzen von Feuerwehr, Rettungsdienst und weiteren Behörden und Organisationen mit Sicherheitsaufgaben (BOS) von herausragender Bedeutung.

»Human Factors« beschreiben als Sammelbegriff das Zusammenspiel von psychischen, kognitiven und sozialen Einflussfaktoren. Diese wirken in sozialen Systemen, aber auch an der Mensch-Maschine-Schnittstelle und beeinflussen die Arbeit an ebenjener entsprechend. Die menschlichen Ressourcen und deren Grenzen stehen im Fokus der Betrachtung. (2)

Einige dieser Wirkfaktoren können durch das Training von nicht-technischen Fertigkeiten verändert werden. Beispielsweise kann eine missverständliche oder unzureichende Kommunikation zu fatalen Fehlern führen, besonders bei sog. High Reliability Organizations (1).

High Reliability Organizations (HRO) sind Organisationen, die mit einem extrem hohen Zuverlässigkeitsbereich operieren müssen, da sich Störungen fatal auf Mensch, Tier, Umwelt oder hohe Sachwerte auswirken können (3).

Probleme, die durch die erwähnten Kommunikationsmängel entstehen, können jedoch durch zielgerichtete Trainingsmaßnahmen adressiert werden, beispielsweise im sog. Team-Ressource-Management-Ansatz (TRM), der speziell auf die Verbesserung der Teamperformance ausgerichtet ist.

Wirkfaktoren wie Übermüdung, Überforderung und Erschöpfung muss auf individueller, aber auch auf organisatorischer Ebene begegnet werden. Hier steht auch der Arbeitgeber mit seiner Fürsorgepflicht in der Verantwortung. Es existieren jedoch auch Wirkfaktoren, denen größtenteils mit Trainingsmaßnahmen begegnet werden kann und soll, wobei jedoch Limitationen gesetzt sind. Einer dieser Wirkfaktoren kann die Annahme einer falschen Ausgangslage in komplexen Situationen sein. Hier muss man sich vor Augen führen, dass die Leitstellendisponent*innen i.d.R. (noch) keinen bildlichen Eindruck von der Notfallsituation haben, dass Sprachbarrieren die Verständigung erschweren oder dass die Wahrnehmung eines Notfallereignisses sich von Mensch zu Mensch erheblich unterscheiden kann. Sender-Empfänger-Modelle, wie die »Vier Seiten eine Nachricht« (4), spielen hier sicher auch eine Rolle.

Trotz aller Störfaktoren müssen die Leitstellendisponent*innen eine sichere und schnelle Entscheidung treffen. Kommt es zu Fehleinschätzungen der Notfallsituation, sind die daraus resultierenden frühen Entscheidungen im weiteren Einsatzverlauf kaum noch auszugleichen. Dies kann unter Umständen fatale Konsequenzen bedeuten. Aus diesem Grund lautet ein Grundsatz des bereits erwähnten TRM: »Habe Zweifel und überprüfe genau. […] Nie etwas annehmen« (5). »Annehmen« bedeutet in diesem Kontext die unkritische Übernahme eines Eindrucks, ohne die Verifizierungs- oder Falsifizierungsmöglichkeiten komplett ausgeschöpft zu haben. Annahmen sollten also grundsätzlich nicht ungeprüft als Entscheidungsgrundlage übernommen werden. In der Leitstellenarbeit sind hier jedoch Grenzen gesetzt, denn die Möglichkeiten, die Situation vor Ort in Augenschein zu nehmen, sind limitiert. Oftmals müssen Einschätzungen auf Grundlage von Aussagen durch Laien vor Ort getroffen werden, die mitunter in unbekannten und gefährlichen Situationen unter erheblichem Stress stehen. Außerdem bringen komplexe Situationen weitere Stolperfallen mit sich.

Komplexität in der Arbeit der Leitstellen

Der Begriff »Komplexität« wird unterschiedlich verwendet. Soll beispielsweise verdeutlicht werden, dass eine Aufgabe sehr schwierig ist, wird sie schnell einmal mit dem Label »komplex« versehen.

Komplexität wird hier und da auch als Begründung herangezogen, wenn eine getroffene Entscheidung leider falsch war (6). Die Differenzierung zwischen »komplex« und »kompliziert« ist jedoch wichtig, auch im Kontext von Leitstellen. Komplexe Systeme bestehen aus vielen unterschiedlichen Bestandteilen (sehr vielen Variablen), die miteinander verbunden sind. Charakterisierend ist jedoch, dass die Art und Weise der Verbindungen schwer überschaubar ist (Intransparenz) und dass mögliche Wechselwirkungen ebenso äußerst schwer in ihrem Ergebnis abschätzbar sind. Diese Systeme verhalten sich oft »chaotisch«. Das heißt mitunter, »dass unter ähnlichen Verhältnissen oft nicht ähnliche Inputs zu dem gleichen Effekt führen (6)«. Das bezeichnet man als » schwache Kausalrelationen«. Will man die Zustände des gesamten Systems feststellen, ist dies mit erheblichem Aufwand verbunden (6). Für den Leitstellenkontext kann angemerkt werden, dass hier ein Spannungsverhältnis zwischen der angesprochenen Analyse und den vorhandenen kognitiven Ressourcen besteht. Außerdem besteht regelmäßig nicht genügend Zeit, diese Erkundungen zu beenden, da sich die Bedingungen verändern und man zum Abschluss der Analyse bereits einem altem Sachstand aufsitzt. Kurzum: Eine detaillierte und breite Analyse komplexer Situationen hat hohe zeitliche und kognitive Kosten, dauert also mitunter lange und ist äußerst »anstrengend«. Der Erfolg ist ungewiss.

Zu den Merkmalen eines komplexen Systems gehört, dass es aus sehr vielen Variablen besteht und diese Variablen untereinander vernetzt sind. Das führt in der Folge zu schwer abschätzbaren Eigendynamiken. Manipulationen am System haben keine linear reproduzierbaren Konsequenzen. Unterschiedliche Inputs können also zu ähnlichen Ergebnissen (oder vice versa) führen. Die Bedingungen des Handelns sind nicht vollständig feststellbar, unter ähnlichen Bedingungen werden unähnliche Maßnahmen gefordert und die Ziele müssen immer wieder angepasst werden (6).

Was bedeutet dies nun für die Arbeit von Leitstellen? Am Beispiel einer Integrierten Leitstelle für Feuerwehr und Rettungsdienst wird dies schnell klar. Der Erfolg eines Rettungsdiensteinsatzes, beispielsweise aufgrund eines medizinischen Notfalls, ist von einer Vielzahl von Variablen abhängig. Kann der Notrufende gut verstanden werden (Signalqualität, Sprachkompetenz, Atemnot, Geräuschkulisse etc.)? Stehen dem Notrufenden selbst alle Informationen zu Verfügung und können diese verbalisiert werden (z. B. genauer Notrufort)? Wie sind die Wetterbedingungen (z. B. Anfahrt des Rettungswagens auf Schnee und Eis)? Gibt es wichtige Informationen, die wissentlich oder unwissentlich verschwiegen wurden (z. B. Infektionsstatus)? Erkrankungen und Verletzungen haben teilweise auch eine Eigendynamik, die sich rasant entwickelt. An dieser Stelle könnte man sicher noch viele weitere Zeilen und Seiten füllen und dabei auf die verschiedenen Knotenpunkte und Variablen, z. B. die Besatzung des Rettungswagens, die Angehörigen von Patient*innen, die Patient*innen selbst etc., des Systems eingehen. An dieser Stelle wollen wir uns jedoch mit der Feststellung begnügen, dass wir bei der Arbeit der Leitstellendisponent*innen davon ausgehen müssen, dass diese in einem komplexen System arbeiten und Menschen Schwierigkeiten haben, die Funktionsweise von komplexen Systemen nachzuvollziehen.

Komplexität und deren Konsequenzen für Leitstellendisponent*innen

Dörner bringt es bemerkenswert schnörkellos und eindringlich auf den Punkt: »Komplexität macht Menschen Angst.« (2008, S. 286) Er verbindet diese Angst mit Unbestimmtheit, im Sinne von Unvorhersehbarkeit, die gleichzeitig mit dem Attribut » Unkontrollierbarkeit« in Verbindung gebracht werden muss. Diese wiederum macht Angst, wie Dörner (ibd.) ausführt und moderiert ein Gefühl von Hilfslosigkeit. Dass Angst ein schlechter Ratgeber ist, weiß bereits ein altes Sprichwort nicht ohne Grund. Angst stimuliert einen speziellen Teil unseres unwillkürlichen Nervensystems und erzeugt Stress. Diese Vorgänge vermitteln »Handlungsempfehlungen«, die auf Instinkte oder Instinktreste zurückgehen (6). Im schlimmsten Fall beeinflussen Stress und Angst die Art, wie wir Informationen sammeln und bewerten. Informationen, die Gefahr signalisieren oder die bereits zurechtgelegte Strategien gefährden, werden nur niedrig priorisiert oder gar komplett ausgeblendet. Diese sog. Wahrnehmungsabwehr und affirmative Informationssammlung beschreibt also den worst case.

Nun sind die Disponent*innen der Integrierten Rettungsleitstellen meistens erfahrene Feuerwehr- und Rettungsdienstangehörige. Dies legt die Vermutung nahe, dass die Schwelle für Phänomene wie Wahrnehmungsabwehr und affirmative Informationssammlung im beruflichen Setting zwar generell über der der Allgemeinbevölkerung liegt, jedoch selbst durch optimale Bedingungen (z. B. Training) nicht unendlich nach oben skaliert werden kann. Intraindividuelle Schwankungen oder, lapidar ausgedrückt, die »Tagesform«, spielen ebenso eine Rolle. So sind die Auswirkungen durch Stress von Widerstandsfaktoren abhängig, die sich über den Tagesverlauf verändern oder wiederum von einer Vielzahl anderer Konstellationen abhängig sind. Gehen wir nun davon aus, dass Stress den Auflösungsgrad von Informationen reduziert (6), also (vereinfacht gesagt) die Wahrnehmung von Informationen unschärfer macht und die vorausschauende Bewertung von Handlungsfolgen erschwert, können Details übersehen oder fälschlicherweise mit einer Situation aus der Vergangenheit gleichgesetzt werden, die ähnlich erscheint. Ähnliches wird also für Gleiches gehalten. So könnte ein gerade identifiziertes Notfallbild (eine Lage vor Ort) fälschlicherweise mit einem Einsatz aus der Vergangenheit gleichgesetzt werden und es könnten Maßnahmen reproduziert werden, die bei diesem anderen Einsatz zum Erfolg geführt haben. Dies kann glücken, muss es aber nicht.

Nun wird dieser »stressvermittelte« Vorschlag nicht zwangsläufig in die Tat umgesetzt. Gesunde Menschen besitzen eine Art Veto-Möglichkeit, also die Kompetenz, diesen Vorschlag anzunehmen oder abzulehnen, auch wenn uns diese Möglichkeit nicht immer bewusst wird.

Bewältigung von Komplexität in Leitstellen

Uns Menschen stehen verschiedene Möglichkeiten zur Bewältigung von Komplexität zur Verfügung. Dörner beschreibt diese Möglichkeiten als »Stationen des Handelns« (s. Abb. 2, nach 6). Abbildung 2 beschreibt diese Stationen. Ein Entscheidungsunterstützungssystem kann in den verschiedenen Phasen unterstützen. Bevor wir im nächsten Teil der Serie darüber berichten, wie das funktionieren kann, wenden wir uns zunächst dem Entscheidungsunterstützungssystem zu.

Entscheidungsunterstützung in Leitstellen

Ein Entscheidungsunterstützungssystem (engl.: Decision Support System, DSS) ist ein computerbasiertes, interaktives System, das 1) die Nutzer*innen bei der Entscheidungsfindung unterstützt statt sie zu ersetzen, 2) Daten und Modelle als Grundlage verwendet und 3) die Effektivität des Entscheidungsprozesses im Fokus hat, nicht die Effizienz (7).

In der Forschung spielt die Entwicklung von Entscheidungsunterstützungssystemen für medizinische Fragestellungen (eng.: Clinical DSS) eine wichtige Rolle. Damit können Ärzte zum Beispiel bei der Erstellung von Diagnosen oder der Bestimmung der bestmöglichen Therapien unterstützt werden. In Leitstellen können solche Systeme unter anderem Leitstellendisponent*innen bei der Anrufannahme unterstützen. Bei einem Notruf führen sogenannte Notrufabfragesysteme Leitstellendisponent*innen durch den Fragenkatalog und machen einen Vorschlag, welcher Einsatzmitteltyp zum Einsatzort entsendet werden soll.

Beispiel: Künstliche Intelligenz bei Notrufabfragesystemen

Künstliche Intelligenz und darin verankerte Methoden, vor allem das Maschinelle Lernen (ML), können Notrufabfragesysteme intelligent und dynamisch machen. So können zum Beispiel mithilfe von Spracherkennung relevante Informationen aus dem Notruf gefiltert werden und ML-Verfahren können den Disponent*innen basierend auf den bisherigen Informationen ggf. weitere notwendige Fragen sowie die Wahrscheinlichkeit für die Entsendung eines Einsatzmittels zu jedem Zeitpunkt der Notrufabfrage anzeigen. Liegt die Wahrscheinlichkeit über einem festgelegten Schwellenwert, wird die Disposition vom System angestoßen.

Im Leitstellenalltag werden viele weitere Entscheidungen getroffen, bei denen Künstliche Intelligenz und darauf basierende Systeme unterstützen können (8). Neben Methoden des Maschinellen Lernens sind vor allem mathematische Modelle, Algorithmen und Simulationen des Operations Research von großer Bedeutung (9). Sie können z. B. Vorschläge für Wachenstandorte oder kurzfristige Umpositionierungen von Rettungswagen erstellen, damit diese immer schnellstmöglich bei den Patient*innen eintreffen.

Wichtig für gute Entscheidungsunterstützungssysteme sind neben  effizienten und leistungsstarken Algorithmen auch Daten in ausreichender Menge und Qualität, sowohl als direkte Eingabe für die Algorithmen, als auch als Grundlage für Analysen und Vorhersagen, z. B. zum zukünftigen Einsatzgeschehen. Zudem spielt auch die Gestaltung der Nutzeroberfläche eine entscheidende Rolle.

Die Verfügbarkeit von Daten in hinreichender Qualität ist eine zentrale Anforderung für die Algorithmen intelligenter Entscheidungsunterstützungssysteme. Ebenso ist die visuelle Aufbereitung von Analysen und Vorhersagen essenziell, um bei der Entscheidung effizient zu unterstützen.

In vielen Situationen muss Leitstellendisponent*innen neben den eigentlichen Planungsvorschlägen Zugang zu zugrundeliegenden Daten, Informationen und Erklärungen zu den Vorschlägen gewährt werden, ohne sie dabei zu überfordern.

Fazit

Die Arbeitsrealität von Leitstellendisponent*innen in einem hochtechnologisierten Umfeld ist von dynamischen Entwicklungen geprägt. Eine der Herausforderungen ist der Umgang mit komplexen Situationen. Human Factors spielen eine zentrale Rolle. So stellt sich die Frage, wie die Leitstellendisponent*innen in ihrer Arbeit durch intelligente Technologien und Künstliche Intelligenz unterstützt werden können. Um dieser Frage zu begegnen, werden im Forschungsprojekt SPELL verschiedene auf Künstlicher Intelligenz basierende Komponenten zur Entscheidungsunterstützung von Leitstellen und Lagezentren entwickelt. Diese sollen neben der Echtzeitunterstützung während Großschadenslagen und Krisenszenarien auch die Vor- und Nachbereitung dieser Lagen sowie die Aus- und Weiterbildung in Übungen und Simulationen ermöglichen. Genauso viel Wert wird auch auf die Verarbeitung und Analyse von Daten sowie auf die Entwicklung von Oberflächen und Dashboards gelegt, die die Analysen, Vorhersagen und Planungsvorschläge anzeigen.

Noch mehr Infos zum Thema »Künstliche Intelligenz für Leitstellen und Lagezentren« und zu unserem Projekt SPELL gewünscht?

 

Wir empfehlen einen Blick in unsere weiteren Blog-Beiträge zum Projekt SPELL:

 

Bei Fragen und/oder Anregungen kontaktieren Sie außerdem gerne unseren Kollegen Christian Elsenbast.

 

______________________________________________________________________

 

Wenn Sie außerdem mehr zum Stand der Technik und den Herausforderungen bei der Absicherung von KI in sicherheitskritischen Systemen erfahren wollen, besuchen Sie gerne unsere 4-tägige Schulung zum zertifizierten »Data Scientist Specialized in Assuring Safety«.

Literatur

  1. Krugmann L, Ben-Amar M, Boden A, Hagemann V, Kluge A, Ontrup G et al. Modernes Simulationstraining in der Integrierten Leitstelle München: Teamprozesse erfolgreich optimieren. BOS-LEITSTELLE-AKTUELL 2021; 11(4):29–33.
  2. St.Pierre M. Human Factors und Patientensicherheit in der Akutmedizin. 3rd ed. Berlin, Heidelberg: Springer Berlin / Heidelberg; 2014. Verfügbar unter: https://ebookcentral.proquest.com/lib/kxp/detail.action?docID=1965594.
  3. Hagemann V. High Responsibility Teamarbeit in Hochrisikobereichen – Verantwortung mit Risiko? In: Hackstein A, Hagemann V, Kaufmann F von, Regener H, Hrsg. Handbuch Simulation. Edewecht: S+K Verlagsgesellschaft Stumpf + Kossendey mbH; 2016. S. 56–64.
  4. Schulz von Thun F. Das Kommunikationsquadrat: Schulz von Thun Institut für Kommunikation; o.D. [Stand: 14.12.2021]. Verfügbar unter: https://www.schulz-von-thun.de/die-modelle/das-kommunikationsquadrat.
  5. Rall M, Schmid K, Langewand S, Op Hey F. Crew Ressource Management (CRM) für die Notaufnahme. 1. Aufl. Stuttgart: Kohlhammer; 2020.
  6. Dörner D. Umgang mit Komplexität. In: Gleich A von, Gößling-Reisemann S, Hrsg. Industrial Ecology. Wiesbaden: Vieweg+Teubner; 2008. S. 284–302.
  7. Eom, S. B., Lee, S. M., Kim, E. B. & Somarajan, C. (1998). A survey of decision support system applications (1988–1994). Journal of the Operational Research Society, 49(2), 109-120.
  8. Reuter-Oppermann, M., Liebner, F. & Lang, V. (2020): Positionspapier „Maschinelles Lernen und Künstliche Intelligenz in BOS-Leitstellen“; Fachverband Leitstellen e.V., http://fachverband-leitstellen.de/index.php/info/send/2-verbandsunterlagen/164-positionspapier-maschinelles-lernen-und-kuenstliche-intelligenz-in-bos-leitstellen
  9. Reuter-Oppermann, M., van den Berg, P. & Vile, J. (2017): Logistics for Emergency Medical Service systems; Health Systems, 6(3), 187-208.