{"id":640,"date":"2017-12-14T11:26:07","date_gmt":"2017-12-14T09:26:07","guid":{"rendered":"http:\/\/blog.iese.fraunhofer.de\/?p=640"},"modified":"2024-02-19T12:07:57","modified_gmt":"2024-02-19T11:07:57","slug":"sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet","status":"publish","type":"post","link":"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/","title":{"rendered":"K\u00fcnstliche Intelligenz und Fahrsicherheit"},"content":{"rendered":"

Selbstfahrenden Autos geh\u00f6rt die Zukunft, soviel scheint festzustehen. Aber wie verhindert man Unf\u00e4lle?<\/p>\n

Sicherheit bedeutet im Allgemeinen nicht, dass kein Schaden entstehen kann, sondern, dass das Risiko akzeptabel ist. Bei selbstfahrenden Autos stellt sich deshalb die Frage, welches Restrisiko akzeptiert werden kann und wie man sicherstellt, dass sie zumindest deutlich weniger Unf\u00e4lle als die von Menschen gesteuerten Fahrzeuge verursachen. Einen hundertprozentigen Schutz vor Unf\u00e4llen wird es auch hier nicht geben. Welche Rolle kann k\u00fcnstliche Intelligenz dabei spielen?<\/p>\n

Sicherheitsrelevante Entscheidungen in Autos werden zunehmend von Software getroffen: Das kann man klassisch programmieren. Im Programm wird festgelegt, welche der m\u00f6glichen Reaktionen in welcher der zu erwartenden Situationen am besten geeignet ist, und es wird \u00fcberpr\u00fcft, dass die Software das erw\u00fcnschte Verhalten auch tats\u00e4chlich leistet. Der Nachteil dieser Vorgehensweise ist offensichtlich: Das funktioniert nur gut, wenn Situationen vorab bekannt sind, so dass die Reaktionen darauf in der Software vorab festgelegt werden k\u00f6nnen. Was aber ist zu tun, wenn die Situationen zu kompliziert und zahlreich sind, um alles vorab festzulegen, so wie es im realen Stra\u00dfenverkehr zu erwarten ist?<\/p>\n

Bei der Auswertung von Bildern einer Kamera im Fahrzeug kann man nat\u00fcrlich nicht jede m\u00f6gliche Pixelbelegung durchgehen und festlegen, ob auf dem Bild ein bestimmtes Objekt ist oder nicht. Dies gilt auch f\u00fcr m\u00f6gliche Fahrsituationen und die Entscheidung dar\u00fcber, wie gelenkt und beschleunigt werden soll. F\u00fcr derartige F\u00e4lle k\u00f6nnen Verfahren der k\u00fcnstlichen Intelligenz (KI) ein probates Mittel sein. Hier existieren sehr leistungsf\u00e4hige Verfahren, die oft erstaunlich gute Ergebnisse liefern. Allerdings ist nicht sichergestellt, dass ein KI-Verfahren verl\u00e4sslich stets gute Ergebnisse liefert. Das ist aber eigentlich eine Forderung, die man an ein autonomes Fahrzeug stellen wird. Wenn man nicht genau wei\u00df, wie sich die Software verhalten wird, wie kann man da nachweislich Sicherheit erreichen?<\/p>\n

Das ist in der Tat noch ein aktuelles Forschungsthema. Aber es ist durchaus interessant, einmal einen Vergleich zwischen der Leistungsf\u00e4higkeit aktueller L\u00f6sungen f\u00fcr das autonome Fahren, den \u201eoffiziellen\u201c Anforderungen und der tats\u00e4chlichen Leistungsf\u00e4higkeit menschlicher Fahrer anzustellen.<\/p>\n

Ab wann wird das Risiko akzeptabel?<\/h2>\n

Zum Festlegen der Risikoakzeptanzgrenze gibt es verschiedene Prinzipien. In Sicherheitsstandards, wie der ISO 26262 f\u00fcr (nicht automatisierte) Stra\u00dfenfahrzeuge, finden sich hohe Sicherheitsanforderungen: Bei einer Durchschnittsgeschwindigkeit von 50 km\/h k\u00e4me man nach diesen Regeln im Schnitt 5 Milliarden Kilometer weit, bis der erste t\u00f6dliche Unfall passieren w\u00fcrde. Alle Fahrzeuge der Firma Tesla sind nach Firmenangaben zusammen aber nur 210 Millionen Kilometer automatisiert gefahren (1), bis der erste t\u00f6dliche Unfall passierte und nicht 5 Milliarden. Wenn diese 210 Millionen Kilometer auch der allgemeine Schnitt w\u00e4ren \u2013 was statistisch betrachtet eigentlich nicht haltbar ist \u2013 und wenn die Tesla-Fahrzeuge durchschnittlich 50 km\/h oder schneller fahren w\u00fcrden, dann h\u00e4tte Tesla diese Risikoakzeptanzgrenze um mehr als das 20-fache verfehlt.<\/p>\n

Allerdings lag der Kilometerschnitt im Jahr 2015 f\u00fcr einen t\u00f6dlichen Unfall beim manuellen Fahren in den USA nach Angaben des U.S. Department of Transportation bei 140 Millionen Kilometern (2) und in Deutschland nach Angaben des ADAC bei 219 Millionen Kilometern (3). Es stellt sich also die Frage, ob die automatisierten Systeme wirklich den Extremwert erreichen m\u00fcssen oder ob sie nicht einfach \u201enur\u201c besser sein m\u00fcssen als der beste Mensch oder deutlich besser als der durchschnittliche Mensch. F\u00fcr das automatisierte Fahren w\u00fcrde das bedeuten, dass man nicht nur auf eine bestimmte Unfallrate hinarbeitet und aufh\u00f6rt, sobald diese erreicht ist, sondern dass man versucht, die Unfallrate so weit zu minimieren, wie es sinnvoll und praktisch machbar ist.<\/p>\n

Wenn KI-L\u00f6sungen einmal doch versagen<\/h2>\n

Eine Strategie kann darin bestehen, die k\u00fcnstlich intelligenten Systeme mit konventioneller Software zu \u00fcberwachen. Das mag auf den ersten Blick seltsam erscheinen, ergibt aber bei genauer Betrachtung Sinn. Oft ist es viel einfacher zu \u00fcberpr\u00fcfen, ob eine Reaktion sicher ist, als die Reaktion selbst zu bestimmen. Das ist ein wenig wie mit Hochseilartisten und ihrem Sicherungsnetz. Die Artisten k\u00f6nnen sehr komplexe Abl\u00e4ufe pr\u00e4zise wiederholen. Sollte das einmal misslingen, so wird die unsichere Situation \u2013 der Sturz \u2013 durch das Sicherungsnetz sanft abgebremst. Das Verhindern des Absturzes durch das Netz ist eine viel einfachere Funktion, als einen pr\u00e4zisen doppelten Salto zu schlagen. Man k\u00f6nnte sagen: Die Artisten k\u00fcmmern sich um die Funktion \u2013 gute Artistik \u2013; das Netz garantiert im Falle des Falles Sicherheit.<\/p>\n

\u00dcbertragen auf das selbstfahrende Auto bedeutet das, dass eine KI-L\u00f6sung mit all ihren St\u00e4rken und Schw\u00e4chen dazu genutzt werden k\u00f6nnte, mit komplizierten Sachverhalten umzugehen. Und sollte diese KI-L\u00f6sung einmal versagen, so k\u00f6nnte eine konventionelle Software verhindern, dass daraus eine unsichere Situation entsteht. Diese Software bildet quasi ein Sicherungsnetz. Weil es sich dabei um \u201enormale\u201c Software handelt, kann deren Funktion genau nachvollzogen werden, so dass ein Versagen der KI-L\u00f6sung ohne ernste Folgen bleibt.<\/p>\n

K\u00fcnstliche Intelligenz kann also selbstfahrende Autos weitgehend sicher machen, wenn sie mit klassischen Algorithmen verbunden bleibt. So beh\u00e4lt der Ingenieur auch in Zukunft die Kontrolle, nicht allein der Computer.<\/p>\n

Quellen:<\/h2>\n
    \n
  1. https:\/\/www.tesla.com\/blog\/tragic-loss<\/a><\/li>\n
  2. National Center for Statistics and Analysis. (2017, October).
    \n2016 Fatal Motor Vehicle Crashes: Overview
    \nTraffic Safety Facts Research Note. Report No. DOT HS 812456). Washington, DC: National Highway Traffic Safety Administration.
    \n    https:\/\/crashstats.nhtsa.dot.gov\/Api\/Public\/ViewPublication\/812456<\/a><\/li>\n
  3. ADAC e. V. Ressort Verkehr (2016, September)
    \nZahlen, Fakten, Wissen. Aktuelles aus dem Verkehr
    \nhttps:\/\/www.adac.de\/_mmm\/pdf\/statistik_zahlen_fakten_wissen_1016_208844.pdf<\/li>\n<\/ol>\n","protected":false},"excerpt":{"rendered":"

    Selbstfahrenden Autos geh\u00f6rt die Zukunft, soviel scheint festzustehen. Aber wie verhindert man Unf\u00e4lle? Sicherheit bedeutet im Allgemeinen nicht, dass kein Schaden entstehen kann, sondern, dass das Risiko akzeptabel ist. Bei selbstfahrenden Autos stellt sich deshalb die Frage, welches Restrisiko akzeptiert werden kann und wie man sicherstellt, dass sie zumindest deutlich weniger Unf\u00e4lle als die von […]<\/p>\n","protected":false},"author":22,"featured_media":701,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"featured_image_credits_title":"","featured_image_credits_url":"","featured_image_credits_position":"bottom-right","featured_image_credits_shadow":"-1px -1px 0 rgba(0,0,0,0.25),0 -1px 0 rgba(0,0,0,0.25),1px -1px 0 rgba(0,0,0,0.25),1px 0 0 rgba(0,0,0,0.25),1px 1px 0 rgba(0,0,0,0.25),0 1px 0 rgba(0,0,0,0.25),-1px 1px 0 rgba(0,0,0,0.25),-1px 0 0 rgba(0,0,0,0.25)","_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[177,18],"tags":[415],"coauthors":[37],"class_list":["post-640","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-kuenstliche-intelligenz","category-sicherheit","tag-dependable-ai-verlaessliche-ki"],"yoast_head":"\nK\u00fcnstliche Intelligenz und Fahrsicherheit - Blog des Fraunhofer IESE<\/title>\n<meta name=\"description\" content=\"Selbstfahrenden Autos geh\u00f6rt die Zukunft, soviel scheint festzustehen. Aber wie verhindert man Unf\u00e4lle und welche Rolle spielt k\u00fcnstliche Intelligenz dabei?\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"K\u00fcnstliche Intelligenz und Fahrsicherheit - Blog des Fraunhofer IESE\" \/>\n<meta property=\"og:description\" content=\"Selbstfahrenden Autos geh\u00f6rt die Zukunft, soviel scheint festzustehen. Aber wie verhindert man Unf\u00e4lle und welche Rolle spielt k\u00fcnstliche Intelligenz dabei?\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/\" \/>\n<meta property=\"og:site_name\" content=\"Fraunhofer IESE\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/FraunhoferIESE\/\" \/>\n<meta property=\"article:published_time\" content=\"2017-12-14T09:26:07+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-02-19T11:07:57+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2016\/11\/iStock_000026000311_90-698x524.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"698\" \/>\n\t<meta property=\"og:image:height\" content=\"524\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Dr. Rasmus Adler\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@FraunhoferIESE\" \/>\n<meta name=\"twitter:site\" content=\"@FraunhoferIESE\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"Dr. Rasmus Adler\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"4\u00a0Minuten\" \/>\n\t<meta name=\"twitter:label3\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data3\" content=\"Dr. Rasmus Adler\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\\\/\"},\"author\":{\"name\":\"Dr. Rasmus Adler\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#\\\/schema\\\/person\\\/c04a120d16ea7bef582db16c1c8a0e96\"},\"headline\":\"K\u00fcnstliche Intelligenz und Fahrsicherheit\",\"datePublished\":\"2017-12-14T09:26:07+00:00\",\"dateModified\":\"2024-02-19T11:07:57+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\\\/\"},\"wordCount\":905,\"publisher\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2016\\\/11\\\/iStock_000026000311_90.jpg\",\"keywords\":[\"Dependable AI \\\/ Verl\u00e4ssliche KI\"],\"articleSection\":[\"K\u00fcnstliche Intelligenz\",\"Sicherheit\"],\"inLanguage\":\"de\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\\\/\",\"url\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\\\/\",\"name\":\"K\u00fcnstliche Intelligenz und Fahrsicherheit - Blog des Fraunhofer IESE\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2016\\\/11\\\/iStock_000026000311_90.jpg\",\"datePublished\":\"2017-12-14T09:26:07+00:00\",\"dateModified\":\"2024-02-19T11:07:57+00:00\",\"description\":\"Selbstfahrenden Autos geh\u00f6rt die Zukunft, soviel scheint festzustehen. Aber wie verhindert man Unf\u00e4lle und welche Rolle spielt k\u00fcnstliche Intelligenz dabei?\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\\\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\\\/#primaryimage\",\"url\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2016\\\/11\\\/iStock_000026000311_90.jpg\",\"contentUrl\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2016\\\/11\\\/iStock_000026000311_90.jpg\",\"width\":3240,\"height\":2430},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"K\u00fcnstliche Intelligenz und Fahrsicherheit\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#website\",\"url\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/\",\"name\":\"Fraunhofer IESE\",\"description\":\"Blog des Fraunhofer-Institut f\u00fcr Experimentelles Software Engineering\",\"publisher\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#organization\",\"name\":\"Fraunhofer IESE\",\"url\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2016\\\/08\\\/fhg_iese_logo.png\",\"contentUrl\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2016\\\/08\\\/fhg_iese_logo.png\",\"width\":183,\"height\":50,\"caption\":\"Fraunhofer IESE\"},\"image\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/www.facebook.com\\\/FraunhoferIESE\\\/\",\"https:\\\/\\\/x.com\\\/FraunhoferIESE\",\"https:\\\/\\\/www.linkedin.com\\\/company\\\/fraunhoferiese\\\/\",\"https:\\\/\\\/www.youtube.com\\\/c\\\/FraunhoferIESE\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#\\\/schema\\\/person\\\/c04a120d16ea7bef582db16c1c8a0e96\",\"name\":\"Dr. Rasmus Adler\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2019\\\/08\\\/5D3_9315_blog-96x96.jpg299946be4e1d400b1373dc4921f14c73\",\"url\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2019\\\/08\\\/5D3_9315_blog-96x96.jpg\",\"contentUrl\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2019\\\/08\\\/5D3_9315_blog-96x96.jpg\",\"caption\":\"Dr. Rasmus Adler\"},\"description\":\"Rasmus Adler hat angewandte Informatik studiert und ist seit 2006 am Fraunhofer IESE besch\u00e4ftigt. In seiner Promotion entwickelte er Fail-Operational L\u00f6sungen f\u00fcr aktive Sicherheitssysteme wie dem ESP. Anschlie\u00dfend widmete er sich als Projektleiter und Safety Experte dem modell-basierten Safety Engineering autonomer Systeme. Er koordinierte die Entwicklung von L\u00f6sungen, um zur Laufzeit das Risiko von geplantem\\\/m\u00f6glichen autonomen Systemverhalten bez\u00fcglich der aktuellen Situation zu messen und risikominierende Ma\u00dfnahmen anzusto\u00dfen. In seiner aktuellen Position als Program Manager f\u00fcr autonome Systeme widmet er sich insbesondere dem Risikomanagement vernetzter Cyber-Physischer Systeme. Um den Nutzen der einzelnen Systeme aber auch den Gesamtnutzen von Systemverb\u00fcnden zu maximieren, setzt er auf ein kooperatives und zum Teil auf k\u00fcnstlicher Intelligenz basiertem Risikomanagement zur Laufzeit. Da aktuelle Sicherheitsnormen dieses innovative Risikomanagement nicht unterst\u00fctzen, engagiert er sich in Normungsgremien und beteiligt sich an der Entwicklung normativer Anforderungen f\u00fcr autonome, vernetzte Cyber-Physische Systeme.\",\"url\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/author\\\/rasmus-adler\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"K\u00fcnstliche Intelligenz und Fahrsicherheit - Blog des Fraunhofer IESE","description":"Selbstfahrenden Autos geh\u00f6rt die Zukunft, soviel scheint festzustehen. Aber wie verhindert man Unf\u00e4lle und welche Rolle spielt k\u00fcnstliche Intelligenz dabei?","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/","og_locale":"de_DE","og_type":"article","og_title":"K\u00fcnstliche Intelligenz und Fahrsicherheit - Blog des Fraunhofer IESE","og_description":"Selbstfahrenden Autos geh\u00f6rt die Zukunft, soviel scheint festzustehen. Aber wie verhindert man Unf\u00e4lle und welche Rolle spielt k\u00fcnstliche Intelligenz dabei?","og_url":"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/","og_site_name":"Fraunhofer IESE","article_publisher":"https:\/\/www.facebook.com\/FraunhoferIESE\/","article_published_time":"2017-12-14T09:26:07+00:00","article_modified_time":"2024-02-19T11:07:57+00:00","og_image":[{"width":698,"height":524,"url":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2016\/11\/iStock_000026000311_90-698x524.jpg","type":"image\/jpeg"}],"author":"Dr. Rasmus Adler","twitter_card":"summary_large_image","twitter_creator":"@FraunhoferIESE","twitter_site":"@FraunhoferIESE","twitter_misc":{"Verfasst von":"Dr. Rasmus Adler","Gesch\u00e4tzte Lesezeit":"4\u00a0Minuten","Written by":"Dr. Rasmus Adler"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/#article","isPartOf":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/"},"author":{"name":"Dr. Rasmus Adler","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#\/schema\/person\/c04a120d16ea7bef582db16c1c8a0e96"},"headline":"K\u00fcnstliche Intelligenz und Fahrsicherheit","datePublished":"2017-12-14T09:26:07+00:00","dateModified":"2024-02-19T11:07:57+00:00","mainEntityOfPage":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/"},"wordCount":905,"publisher":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#organization"},"image":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/#primaryimage"},"thumbnailUrl":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2016\/11\/iStock_000026000311_90.jpg","keywords":["Dependable AI \/ Verl\u00e4ssliche KI"],"articleSection":["K\u00fcnstliche Intelligenz","Sicherheit"],"inLanguage":"de"},{"@type":"WebPage","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/","url":"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/","name":"K\u00fcnstliche Intelligenz und Fahrsicherheit - Blog des Fraunhofer IESE","isPartOf":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/#primaryimage"},"image":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/#primaryimage"},"thumbnailUrl":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2016\/11\/iStock_000026000311_90.jpg","datePublished":"2017-12-14T09:26:07+00:00","dateModified":"2024-02-19T11:07:57+00:00","description":"Selbstfahrenden Autos geh\u00f6rt die Zukunft, soviel scheint festzustehen. Aber wie verhindert man Unf\u00e4lle und welche Rolle spielt k\u00fcnstliche Intelligenz dabei?","breadcrumb":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/#primaryimage","url":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2016\/11\/iStock_000026000311_90.jpg","contentUrl":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2016\/11\/iStock_000026000311_90.jpg","width":3240,"height":2430},{"@type":"BreadcrumbList","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/sicherheit-wenn-kuenstliche-intelligenz-fuer-uns-entscheidet\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/www.iese.fraunhofer.de\/blog\/"},{"@type":"ListItem","position":2,"name":"K\u00fcnstliche Intelligenz und Fahrsicherheit"}]},{"@type":"WebSite","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#website","url":"https:\/\/www.iese.fraunhofer.de\/blog\/","name":"Fraunhofer IESE","description":"Blog des Fraunhofer-Institut f\u00fcr Experimentelles Software Engineering","publisher":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.iese.fraunhofer.de\/blog\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#organization","name":"Fraunhofer IESE","url":"https:\/\/www.iese.fraunhofer.de\/blog\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#\/schema\/logo\/image\/","url":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2016\/08\/fhg_iese_logo.png","contentUrl":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2016\/08\/fhg_iese_logo.png","width":183,"height":50,"caption":"Fraunhofer IESE"},"image":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/FraunhoferIESE\/","https:\/\/x.com\/FraunhoferIESE","https:\/\/www.linkedin.com\/company\/fraunhoferiese\/","https:\/\/www.youtube.com\/c\/FraunhoferIESE"]},{"@type":"Person","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#\/schema\/person\/c04a120d16ea7bef582db16c1c8a0e96","name":"Dr. Rasmus Adler","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2019\/08\/5D3_9315_blog-96x96.jpg299946be4e1d400b1373dc4921f14c73","url":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2019\/08\/5D3_9315_blog-96x96.jpg","contentUrl":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2019\/08\/5D3_9315_blog-96x96.jpg","caption":"Dr. Rasmus Adler"},"description":"Rasmus Adler hat angewandte Informatik studiert und ist seit 2006 am Fraunhofer IESE besch\u00e4ftigt. In seiner Promotion entwickelte er Fail-Operational L\u00f6sungen f\u00fcr aktive Sicherheitssysteme wie dem ESP. Anschlie\u00dfend widmete er sich als Projektleiter und Safety Experte dem modell-basierten Safety Engineering autonomer Systeme. Er koordinierte die Entwicklung von L\u00f6sungen, um zur Laufzeit das Risiko von geplantem\/m\u00f6glichen autonomen Systemverhalten bez\u00fcglich der aktuellen Situation zu messen und risikominierende Ma\u00dfnahmen anzusto\u00dfen. In seiner aktuellen Position als Program Manager f\u00fcr autonome Systeme widmet er sich insbesondere dem Risikomanagement vernetzter Cyber-Physischer Systeme. Um den Nutzen der einzelnen Systeme aber auch den Gesamtnutzen von Systemverb\u00fcnden zu maximieren, setzt er auf ein kooperatives und zum Teil auf k\u00fcnstlicher Intelligenz basiertem Risikomanagement zur Laufzeit. Da aktuelle Sicherheitsnormen dieses innovative Risikomanagement nicht unterst\u00fctzen, engagiert er sich in Normungsgremien und beteiligt sich an der Entwicklung normativer Anforderungen f\u00fcr autonome, vernetzte Cyber-Physische Systeme.","url":"https:\/\/www.iese.fraunhofer.de\/blog\/author\/rasmus-adler\/"}]}},"jetpack_featured_media_url":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2016\/11\/iStock_000026000311_90.jpg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/posts\/640","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/users\/22"}],"replies":[{"embeddable":true,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/comments?post=640"}],"version-history":[{"count":25,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/posts\/640\/revisions"}],"predecessor-version":[{"id":8735,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/posts\/640\/revisions\/8735"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/media\/701"}],"wp:attachment":[{"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/media?parent=640"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/categories?post=640"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/tags?post=640"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/coauthors?post=640"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}