{"id":4139,"date":"2019-09-06T12:21:23","date_gmt":"2019-09-06T10:21:23","guid":{"rendered":"https:\/\/blog.iese.fraunhofer.de\/?p=4139"},"modified":"2024-01-29T08:57:40","modified_gmt":"2024-01-29T07:57:40","slug":"autonom-oder-vielleicht-doch-nur-hochautomatisiert-was-ist-eigentlich-der-unterschied","status":"publish","type":"post","link":"https:\/\/www.iese.fraunhofer.de\/blog\/autonom-oder-vielleicht-doch-nur-hochautomatisiert-was-ist-eigentlich-der-unterschied\/","title":{"rendered":"Autonom oder vielleicht doch nur hochautomatisiert?"},"content":{"rendered":"

Was ist z.B. der Unterschied zwischen autonomem Fahren und hochautomatisiertem Fahren?<\/h2>\n

Autonom<\/strong>, automatisiert, autark, vernetzt\u2026 viele Begriffe tummeln sich im Kontext der \u201eautonomen Systeme\u201c. Doch wann ist ein System autonom<\/strong>? Wir sprechen schon von autonomem Fahren, wenn das Fahrzeug bestimmte Fahraufgaben selbstst\u00e4ndig und ohne menschlichen Eingriff \u00fcbernimmt. Dabei handelt es sich streng genommen lediglich um ein automatisiertes<\/strong> und vielleicht im besten Fall hochautomatisiertes<\/strong> Fahren. Um diese Begriffe voneinander abzugrenzen, habe ich mich als Programmmanager f\u00fcr \u201eautonome Systeme<\/strong>\u201c im folgenden Blogbeitrag damit besch\u00e4ftigt, Kriterien zur Abgrenzung zusammenzutragen und die Sicht des Fraunhofer IESE<\/a> auf die Begriffswelt wiederzugeben.<\/p>\n

You would rather read the article in English? Click here to read: \u00bbAutonomous or merely highly automated \u2013 what is actually the difference?<\/a>\u00ab<\/p>\n

Was ist ein autonomes System? Wann agieren Systeme autonom?<\/h3>\n

Wenn man im Internet nach einer Definition \u201eautonomes System\u201c sucht, dann verweisen die ersten Treffer auf IP-Netze. Wikipedia [1] [2] erkl\u00e4rt zum Beispiel : \u201eAutonome Systeme sind untereinander verbunden und bilden so das Internet.\u201c Das Fachforum \u201eAutonome Systeme\u201c [3] unterscheidet\u00a0 zwischen \u201edigitalen Assistenzsystemen\u201c, \u201eautomatisierten Systemen\u201c und \u201eautonomen Systemen\u201c, wobei \u201eein System erst dann als autonom bezeichnet wird, wenn es ohne menschliche Steuerung oder detaillierte Programmierung ein vorgegebenes Ziel selbstst\u00e4ndig und an die Situation angepasst erreichen kann.\u201c Passend dazu hei\u00dft es in einem Gutachten der Expertenkommission \u201eForschung und Innovation\u201c: \u201eAutonome Systeme k\u00f6nnen ohne direkte menschliche Weisung agieren, komplexe Aufgaben l\u00f6sen, Entscheidungen treffen, eigenst\u00e4ndig lernen und auf unvorhergesehene Ereignisse reagieren.\u201c[7]<\/p>\n

Unser Programm \u201eautonome Systeme\u201c widmet sich ebenfalls Systemen, die ohne menschliche Weisung agieren und trotzdem komplexe Aufgaben \u201eautonom<\/strong>\u201c l\u00f6sen.\u00a0 Aber was genau hei\u00dft es, eine Aufgabe \u201eautonom\u201c zu l\u00f6sen?<\/div>\n

Autonom durch Vernetzung<\/h3>\n

Bedeutet \u201eautonom\u201c, dass das System die Aufgabe alleine ohne Hilfe anderer Systeme bewerkstelligen muss? Ist beispielsweise ein fahrerloses Fahren nur dann ein autonomes Fahren, wenn das Fahrzeug ausschlie\u00dflich seine eigene Sensorik benutzt und nicht auf andere Informationsquellen wie die Cloud, die Infrastruktur oder andere Fahrzeuge angewiesen ist? Autonom wird auch als eigenst\u00e4ndig und autark definiert [12] und somit liegt der Gedanke nahe, \u201eAutarkie bez\u00fcglich der Informationsbeschaffung\u201c zu fordern.<\/p>\n

Viele komplexe Aufgaben k\u00f6nnen allerdings bzgl. Aufwand, Zeit und Qualit\u00e4t nicht zufriedenstellend ohne eine Vernetzung gel\u00f6st werden. Eine gute Entscheidungsfindung bedingt normalerweise die zeitnahe und ausreichend detaillierte Wahrnehmung der aktuellen Situation und die Vorhersage und Bewertung m\u00f6glicher Zukunftsszenarien. Dabei spielt die Vernetzung dann eine entscheidende Rolle: Um die aktuelle Situation wahrzunehmen, ist es sinnvoll, die Sensorik und das \u201eWissen\u201c anderer Systeme zu nutzen. Um die Entwicklung einer Situation schon im Vorfeld zu ber\u00fccksichtigen, m\u00fcssen oft auch die zuk\u00fcnftigen Aktionen von anderen Systemen einbezogen werden. Diese Antizipation vereinfacht sich dramatisch, wenn sich die Systeme vernetzen und miteinander kommunizieren und sogar kooperieren. Ein Beispiel f\u00fcr eine solche Kooperation ist das Truck-Platooning, welches ohne Vernetzung undenkbar w\u00e4re. Denn beim Truck-Platooning fahren die einzelnen Sattelschlepper so dicht hintereinander, dass sie wie mit einer unsichtbaren Deichsel miteinander verbunden sind. Technische Steuerungssysteme sorgen daf\u00fcr, dass die Verkehrssicherheit nicht beeintr\u00e4chtig wird.<\/p>\n

Deswegen sehen wir Vernetzung als i. A. notwendigen \u201eEnabler\u201c f\u00fcr Autonomie und reden von einem geschlossenen oder einem offenen autonomen System, um klar zu machen, ob es vernetzt ist oder nicht. Wenn die offenen autonomen Systeme zusammenarbeiten, um ein h\u00f6heres Ziel zu erreichen, dann reden wir von einem digitalen \u00d6kosystem. Beispielsweise k\u00f6nnen Robotaxis und \u00f6ffentliche Verkehrsmittel ein \u00d6kosystem bilden, um \u00fcbergeordnete Ziele bez\u00fcglich Umweltbelastung und Verkehrsfluss miteinzubeziehen. Dabei kann es sein, dass einzelne Robotaxis nicht optimal im Hinblick auf ihr Hauptziel, m\u00f6glichst schnell von A nach B zu kommen, agieren, weil sie eben auch die Ziele des \u00d6kosystems unterst\u00fctzen. Nimmt man jetzt noch die Menschen hinzu, die das \u00d6kosystem nutzen, dann reden wir von einem soziotechnischen System.<\/p>\n

Autonom und automatisiert beziehen sich auf unser Systemverst\u00e4ndnis<\/h3>\n

Sowohl autonom als auch vollautomatisiert beziehen sich darauf, dass etwas zielgerichtet und ohne menschliche Weisung passiert. Die Begriffe werden neuerdings \u2212 insbesondere beim Thema \u201eautomatisiertes Fahren\u201c \u2212 h\u00e4ufig synonym verwendet. In diversen Quellen [8] wird sogar die Bef\u00fcrchtung ge\u00e4u\u00dfert, dass der Unterschied verschwinden wird: \u201eI do not believe these differences can be preserved linguistically, even within the profession, the broad misuse and confusion will drown small differences of meaning.\u201c In [4][5][8] und [9] wird auf die Unterschiede zwischen autonom und automatisiert hingewiesen. Wenn alles im Vorfeld genau durchgedacht ist, auch wenn es noch so kompliziert ist, und wir dem System die durchdachten kausalen Zusammenh\u00e4nge einprogrammieren, dann reden wir von automatisiert. Wenn wir die kausalen Zusammenh\u00e4nge aber gar nicht richtig erfassen und dem System mit KI-Ans\u00e4tzen nur indirekt sagen, wie es sich in einer bestimmten Situation verhalten soll, dann reden wir von autonom. \u00a0<\u2026><\/p>\n

\n

Unser Programm \u201eautonome Systeme\u201c macht den Unterschied am Systemverst\u00e4ndnis fest. Wenn wir ganz sicher wissen, wie sich ein System in einer bestimmten Situation verh\u00e4lt, sprechen wir von Automatisierung. Wenn wir unsicher sind, wie es sich verhalten wird, dann sprechen wir von Autonomie. Autonom geht direkt einher mit dem Gef\u00fchl, dass das System intelligent ist, weil wir nicht mehr unmittelbar verstehen, wie es funktioniert. Wenn wir diese Autonomie teilweise einschr\u00e4nken, um sicher zu gehen, dass keine inakzeptablen Risiken von dem Systemverhalten ausgehen, dann reden wir trotzdem weiterhin von einem autonomen System.<\/p>\n<\/div>\n

Diese Sichtweise spiegelt sich in den zu Beginn genannten Definitionen von einem \u201eautonomen System\u201c wider. Das Fachforum \u201eAutonome Systeme\u201c [3] schlie\u00dft eine \u201edetaillierte Programmierung\u201c, die zu einem Systemverst\u00e4ndnis beitragen w\u00fcrde, aus. Im EFI-Gutachten [7] wird ein Reagieren auf \u201eunvorhergesehene Ereignisse\u201c gefordert und die Nutzung von Methoden der K\u00fcnstlichen Intelligenz<\/a> impliziert.<\/p>\n

Ein mangelndes Systemverst\u00e4ndnis hei\u00dft, dass wir teilweise die Kontrolle \u00fcber das System verlieren. Dieser Kontrollverlust passt zur Bedeutung von autonom, denn autonom meint auch unkontrolliert [12].<\/p>\n

Autonom bedeutet eigenverantwortlich bzw. verl\u00e4sslich<\/h3>\n

Autonom bedeutet aber auch eigenverantwortlich [12]. Es geht also nicht nur darum, dass das System etwas ohne direkte oder indirekte Weisung des Menschen macht, sondern auch darum, dass der Mensch nicht die Verantwortung f\u00fcr das Systemverhalten tragen kann und es somit nicht \u00fcberwachen muss.<\/p>\n

Dies spiegelt sich auch in den Automatisierungsstufen f\u00fcr das automatisierte Fahren [15] wider. Je h\u00f6her der Automatisierungsgrad, desto weniger muss der Mensch als sichere R\u00fcckfallebene agieren. In der Klassifikation von Sheridan und Verplank [14] wird dem Menschen schrittweise in 10 Stufen die Entscheidungsfindung und damit auch die Verantwortung abgenommen.<\/p>\n

Den \u00dcbergang von automatisiert zu autonom kann man also auch unter dem Aspekt des \u00dcbergangs der Verantwortung vom Menschen zum System betrachten. Allerdings kann man ein technisches System nicht moralisch verantwortlich machen. Es muss also so gebaut sein, dass es jederzeit zumindest hinreichend verl\u00e4sslich funktioniert. Bei einem automatisierten System beruht die Begr\u00fcndung der Verl\u00e4sslichkeit im Wesentlichen auf dem detailliert nachvollziehbaren Systemverhalten inklusive seiner Fehler. Bei einem autonomen System ist das Systemverst\u00e4ndnis per Definition eingeschr\u00e4nkt und Fehler k\u00f6nnen nicht mehr als Abweichung einer klar vorgegebenen (programmierten) Verhaltensweise angesehen werden, sondern basieren auf Entscheidungen des Systems, die sich als unerw\u00fcnscht oder fehlerhaft herausstellen.<\/p>\n

\n

Und hier kommen wir als Fraunhofer IESE ins Spiel: Das Engineering verl\u00e4sslicher autonomer Systeme ist eine enorme technische Herausforderung, bei der die Informationstechnik erstmals ernsthaft mit nicht detailliert programmierbaren Systemen konfrontiert wird. Beurteilung eines Systemverhaltens bez\u00fcglich falsch, richtig und akzeptabel gehen Hand in Hand mit ethischen und rechtlichen Fragestellungen.<\/p>\n

Nach heutigem Stand ist der einzige Weg, um autonome Systeme nachweislich verl\u00e4sslich zu machen, die \u201eUnerkl\u00e4rbarkeit\u201c bzw. unser mangelndes Systemverst\u00e4ndnis auf den Teil zu beschr\u00e4nken, den wir nicht f\u00fcr die Verl\u00e4sslichkeit brauchen. Wir machen das, indem wir \u00dcberwachungen einbauen, die das unvorhersehbare, KI-basierte Verhalten \u00fcberpr\u00fcfen und in einem sicheren Bereich halten. Die \u00dcberwachungen funktionieren vollautomatisiert, jedoch nicht autonom, dadurch verstehen wir sie und k\u00f6nnen ihre Verl\u00e4sslichkeit<\/a> erkl\u00e4ren.<\/p>\n<\/div>\n

Ich hoffe, Ihnen die Unterschiede bei den Begrifflichkeiten deutlich gemacht zu haben und Ihnen hier eine verst\u00e4ndliche Definition f\u00fcr autonome Systeme an die Hand zu geben. Wenn Sie in Ihrem Unternehmen vor weiteren Fragen zu autonomen Systemen stehen, z\u00f6gern Sie nicht mich zu kontaktieren<\/a>.<\/p>\n

Lesetipp:<\/strong>
\nLesen Sie hier: \u00bbWelche Gesetze, Normen und Forschungsinitiativen gibt es, um k\u00fcnstliche Intelligenz und autonome Systeme sicher zu machen.\u00ab<\/a><\/p>\n

\n

\"Fraunhofer<\/a><\/p>\n

Noch mehr Infos zu Autonomen Systemen?<\/h4>\n

Schauen Sie rein in den Jahresbericht des Fraunhofer IESE als ePaper:<\/p>\n

 <\/p>\n

Warum Zukunft Digitalisierung braucht<\/a><\/p>\n<\/div>\n

Referenzen und Sammlung zur Definition Autonome Systeme<\/h3>\n