{"id":15586,"date":"2026-05-28T14:33:45","date_gmt":"2026-05-28T12:33:45","guid":{"rendered":"https:\/\/www.iese.fraunhofer.de\/blog\/?p=15586"},"modified":"2026-05-28T14:37:15","modified_gmt":"2026-05-28T12:37:15","slug":"ki-chatbots-haftung-unsicherheitsmanagement","status":"publish","type":"post","link":"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/","title":{"rendered":"Wenn Chatbots falsch liegen: Warum Unsicherheitsmanagement wichtiger wird"},"content":{"rendered":"<p class=\"lead\"><em>Nicht der Fehler eines Chatbots ist das Problem, sondern wenn das System nicht zeigt, dass es unsicher ist.<\/em><\/p>\n<p>Ein aktuelles (aber bislang nicht rechtskr\u00e4ftiges) Urteil des Oberlandesgerichts Hamm (Az. 4 UKl 3\/25; Mai 2026) sorgt f\u00fcr Aufmerksamkeit: Wer einen medizinischen Chatbot betreibt, tr\u00e4gt auch Verantwortung f\u00fcr dessen Aussagen, selbst dann, wenn sie falsch sind. Und das verschiebt die Debatte: weg von der Frage, was technisch m\u00f6glich ist, hin zu der Frage, was im Einsatz tats\u00e4chlich verantwortbar ist.<\/p>\n<p>Genau an dieser Stelle setzt ein Thema an, mit dem sich das Fraunhofer IESE seit L\u00e4ngerem befasst: <strong>Unsicherheitsmanagement in KI-Systemen.<\/strong><\/p>\n<div class=\"info-box\">\n<p>Unter <strong>Unsicherheitsmanagement<\/strong> versteht man die Methode, die statistische Unsch\u00e4rfe und die Wissensgrenzen von KI-Modellen aktiv zu messen, im Hintergrund zu bewerten und f\u00fcr den Nutzer transparent offenzulegen. Es macht unberechenbare Systeme f\u00fcr die Praxis kalkulierbar.<\/p>\n<\/div>\n<h2>Das Grundproblem: Chatbots wirken oft verl\u00e4sslicher, als sie sind<\/h2>\n<p>Gerade darin liegen ihre St\u00e4rke und zugleich ihr Risiko: Chatbots formulieren Antworten fl\u00fcssig und \u00fcberzeugend, ohne ihre Unsicherheit explizit kenntlich zu machen. Genau deshalb werden ihre Aussagen von Nutzenden leicht als faktisch korrekt verstanden, auch wenn sie nicht immer verl\u00e4sslich sind.<\/p>\n<p>Aus Sicht des Fraunhofer IESE ist genau das ein zentrales Risiko: KI-Systeme wie Chatbots liefern keine Wahrheit, sondern <a href=\"https:\/\/www.iese.fraunhofer.de\/de\/leistungen\/data-analytics\/kuenstliche-intelligenz-gefahren.html\">Vorhersagen<\/a> auf Basis gelernter Muster.<\/p>\n<p>Solche Vorhersagen sind immer mit Unsicherheit verbunden, zum Beispiel dann,<\/p>\n<ul>\n<li>wenn die Anfrage au\u00dferhalb der Trainingsdaten liegt,<\/li>\n<li>wenn Eingabedaten unklar sind,<\/li>\n<li>wenn mehrere plausible Antworten existieren.<\/li>\n<\/ul>\n<p>Bei generativer KI kommt hinzu: Die Antworten entstehen nicht durch ein \u00bbWissen\u00ab im menschlichen Sinn, sondern auf Basis statistischer Wahrscheinlichkeiten dar\u00fcber, welches <a href=\"https:\/\/www.iese.fraunhofer.de\/blog\/wie-funktionieren-llms\/\">Token <\/a>als N\u00e4chstes am besten passt.<\/p>\n<p>Bei den meisten Chatbots bleiben diese Unsicherheiten jedoch meist unsichtbar.<\/p>\n<h2>Haftungsrisiko bei Chatbots: Was das OLG-Hamm-Urteil ver\u00e4ndert<\/h2>\n<p>S\u00e4tze wie \u00bbDas Modell ist nicht perfekt\u00ab greifen damit zu kurz. Stattdessen w\u00e4chst die Erwartung, dass KI-Systeme erkennbar machen, wann ihre Antworten nur eingeschr\u00e4nkt verl\u00e4sslich sind.<\/p>\n<h3><strong>KI-Systeme m\u00fcssen aktiv zeigen, wann sie nicht verl\u00e4sslich sind: <\/strong><\/h3>\n<p>Unsicherheitsmanagement ist damit nicht l\u00e4nger nur ein technisches Zusatzthema, eine \u00bbNice-to-have\u00ab sondern eine organisatorisch und rechtlich relevante Anforderung.<\/p>\n<h2>Unsicherheitsmanagement: Der Forschungsansatz des Fraunhofer IESE<\/h2>\n<p>Der Ansatz ist klar: Unsicherheiten sollen nicht ausgeblendet werden, sondern m\u00fcssen <strong>identifiziert, quantifiziert und aktiv genutzt<\/strong> werden.<\/p>\n<p>Auf Chatbots \u00fcbertragen hei\u00dft das haupts\u00e4chlich drei Dinge:<\/p>\n<ol>\n<li>\n<h4><strong> Unsicherheit erkennen<\/strong><\/h4>\n<\/li>\n<\/ol>\n<ul>\n<li>Ist die Anfrage au\u00dferhalb des bekannten Kontexts?<\/li>\n<li>Sind mehrere Antworten gleich plausibel?<\/li>\n<\/ul>\n<ol start=\"2\">\n<li>\n<h4><strong> Unsicherheit einordnen<\/strong><\/h4>\n<\/li>\n<\/ol>\n<ul>\n<li>Wie verl\u00e4sslich ist die generierte Antwort?<\/li>\n<li>Welche Faktoren beeinflussen die Qualit\u00e4t (Daten, Modell, Kontext)?<\/li>\n<\/ul>\n<ol start=\"3\">\n<li>\n<h4><strong> Unsicherheit verst\u00e4ndlich kommunizieren<\/strong><\/h4>\n<\/li>\n<\/ol>\n<ul>\n<li>Hinweis auf eingeschr\u00e4nkte Verl\u00e4sslichkeit<\/li>\n<li>Priorisierung kritischer Aussagen<\/li>\n<li>ggf. Eskalation an den Menschen<\/li>\n<\/ul>\n<p>Erst dadurch entsteht ein System, das im praktischen Einsatz nachvollziehbar und verantwortbar bleibt.<\/p>\n<h2>Der \u00bbUncertainty Wrapper\u00ab: KI-Antworten messbar machen<\/h2>\n<p>Ein wichtiger Baustein aus der Forschung des Fraunhofer IESE ist der <strong>Uncertainty Wrapper.<\/strong><\/p>\n<p>Die Grundidee dahinter ist einfach: Jede KI-Antwort wird um eine <a href=\"https:\/\/www.iese.fraunhofer.de\/blog\/uncertainty-management-ki\/\"><strong>Unsicherheitsbewertung<\/strong> <\/a>erg\u00e4nzt. Nutzende erhalten dann zus\u00e4tzliche Hinweise, etwa dass die Unsicherheit hoch ist, die Anfrage au\u00dferhalb des Trainingskontexts liegt oder die Evidenz unklar bleibt.<\/p>\n<p>Damit ver\u00e4ndert sich auch die Form der Antwort: von einem schlichten \u00bbHier ist die Antwort\u00ab zu einem \u00bbHier ist die Antwort, und so verl\u00e4sslich ist sie\u00ab.<\/p>\n<p>Diese Erweiterung verbessert nachweislich die Entscheidungsqualit\u00e4t, die Transparenz und das Vertrauen in KI-Systeme.<\/p>\n<div id='gallery-1' class='gallery galleryid-15586 gallery-columns-1 gallery-size-large'><figure class='gallery-item'>\n\t\t\t<div class='gallery-icon landscape'>\n\t\t\t\t<a href='https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2026\/05\/Unsicherheitsmanagemen-KI-1.png'><img loading=\"lazy\" decoding=\"async\" width=\"698\" height=\"465\" src=\"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2026\/05\/Unsicherheitsmanagemen-KI-1-698x465.png\" class=\"attachment-large size-large\" alt=\"Infografik zum Unsicherheitsmanagement bei medizinischen Chatbots: Ablauf von der Frage \u00fcber die Absicherung von Halluzinationen und das Sicherheits-Gate bis zur bewerteten Antwort mit kontinuierlichem Monitoring.\" aria-describedby=\"gallery-1-15637\" srcset=\"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2026\/05\/Unsicherheitsmanagemen-KI-1-698x465.png 698w, https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2026\/05\/Unsicherheitsmanagemen-KI-1-400x267.png 400w, https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2026\/05\/Unsicherheitsmanagemen-KI-1.png 1536w\" sizes=\"auto, (max-width: 698px) 100vw, 698px\" \/><\/a>\n\t\t\t<\/div>\n\t\t\t\t<figcaption class='wp-caption-text gallery-caption' id='gallery-1-15637'>\n\t\t\t\tArchitektur f\u00fcr Unsicherheitsmanagement bei medizinischen Chatbots: Wie ein integriertes Sicherheits-Gate die Verl\u00e4sslichkeit von KI-Antworten pr\u00fcft und Halluzinationen \n\t\t\t\t<\/figcaption><\/figure>\n\t\t<\/div>\n\n<h3><\/h3>\n<h2>Warum das bei Chatbots besonders wichtig ist<\/h2>\n<p>Im Unterschied zu vielen anderen KI-Anwendungen stehen Chatbots in direkter Interaktion mit Endnutzenden. Gerade im medizinischen Bereich ist dies besonders kritisch, da die Endnutzenden h\u00e4ufig PatientInnen sind, die Gesundheitsfragen stellen und sich in unsicheren oder belastenden Situationen befinden. Falsche, missverst\u00e4ndliche oder unvollst\u00e4ndige Informationen k\u00f6nnen dazu f\u00fchren, dass Symptome falsch eingesch\u00e4tzt, notwendige \u00e4rztliche Termine verz\u00f6gert oder ungeeignete Ma\u00dfnahmen ergriffen werden. Da medizinische Informationen direkten Einfluss auf Gesundheit und Wohlbefinden haben, sind Transparenz, Zuverl\u00e4ssigkeit und eine klare Kommunikation bei medizinischen Chatbots von zentraler Bedeutung.<\/p>\n<p>Deshalb betonen wir am Fraunhofer IESE, dass KI-Systeme \u00fcber ihren gesamten Lebenszyklus hinweg abgesichert werden m\u00fcssen.<\/p>\n<p>F\u00fcr Chatbots hei\u00dft dies beispielsweise:<\/p>\n<ul>\n<li>kontinuierliches Monitoring von Unsicherheiten<\/li>\n<li>Logging kritischer Antworten<\/li>\n<li>dynamische Anpassung der Risikobewertung<\/li>\n<\/ul>\n<h2>Vier Gestaltungsprinzipien f\u00fcr vertrauensw\u00fcrdige KI (EU AI Act)<\/h2>\n<p>Aus unserer Sicht ergeben sich daraus einige klare Gestaltungsprinzipien:<\/p>\n<ol>\n<li>\n<h4>Unsicherheit sichtbar machen<\/h4>\n<\/li>\n<\/ol>\n<p>Chatbots sollten keine Antworten erzeugen, die nur deshalb sicher wirken, weil sie sprachlich \u00fcberzeugend formuliert sind. Stattdessen braucht es sichtbare Hinweise darauf, wie verl\u00e4sslich eine Aussage im jeweiligen Kontext tats\u00e4chlich ist.<\/p>\n<ol start=\"2\">\n<li>\n<h4>Interaktion am Risiko ausrichten<\/h4>\n<\/li>\n<\/ol>\n<p>Wie ein System reagiert, sollte sich am Risiko orientieren. Wenn die Unsicherheit hoch ist, kann es sinnvoll sein, nachzufragen, die Antwort bewusst einzugrenzen oder menschliche Unterst\u00fctzung einzubinden, statt eine scheinbar eindeutige Aussage auszugeben.<\/p>\n<ol start=\"3\">\n<li>\n<h4>Den Anwendungskontext ber\u00fccksichtigen<\/h4>\n<\/li>\n<\/ol>\n<p>Wie streng solche Mechanismen ausfallen m\u00fcssen, h\u00e4ngt stark vom Anwendungskontext ab. In kritischen Dom\u00e4nen wie Medizin, Recht oder Finanzen sind die Anforderungen an Verl\u00e4sslichkeit, Transparenz und Absicherung naturgem\u00e4\u00df h\u00f6her.<\/p>\n<ol start=\"4\">\n<li>\n<h4>Nachvollziehbarkeit sicherstellen<\/h4>\n<\/li>\n<\/ol>\n<p>Genauso wichtig ist die Nachvollziehbarkeit: Entscheidungen und Systemreaktionen sollten so dokumentiert sein, dass sie sp\u00e4ter gepr\u00fcft werden k\u00f6nnen (mit Blick auf interne Audits oder auch regulatorische Anforderungen wie dem EU AI Act).<\/p>\n<h2>Fazit: Unsicherheit ist kein St\u00f6rfaktor, sondern ein zentrales Gestaltungselement vertrauensw\u00fcrdiger KI<\/h2>\n<p>KI muss nicht fehlerfrei sein. Aber ihr Verhalten muss beherrschbar, nachvollziehbar und erkl\u00e4rbar bleiben.<\/p>\n<p>Genau darin liegt der Beitrag des Fraunhofer IESE: Unsicherheit nicht als St\u00f6rgr\u00f6\u00dfe zu behandeln, sondern als einen zentralen Baustein f\u00fcr vertrauensw\u00fcrdige KI.<\/p>\n<div class=\"info-box\">\n<h3><span data-teams=\"true\">M\u00f6chten Sie Ihre KI-Systeme robust und vertrauensw\u00fcrdig gestalten?<\/span><\/h3>\n<p><span data-teams=\"true\">Die Absicherung von generativer KI und das Management von Unsicherheiten geh\u00f6ren zu den Kernkompetenzen des Fraunhofer IESE. Wir unterst\u00fctzen Sie dabei, Ihre Chatbots und KI-Anwendungen fit f\u00fcr die Praxis zu machen und <strong>regulatorische Anforderungen (z.\u202fB. EU AI Act) fr\u00fchzeitig zu ber\u00fccksichtigen<\/strong> \u2013 von der Konzeption bis zur Implementierung von Schutzmechanismen wie dem Uncertainty Wrapper.<\/span><\/p>\n<p><a href=\"mailto:&quot;anfrage@iese.fraunhofer.de; theresa.ahrens@iese.fraunhofer.de; patricia.kelbert@iese.fraunhofer.de&quot;\">Kontaktieren Sie uns!<\/a><\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"<p>Nicht der Fehler eines Chatbots ist das Problem, sondern wenn das System nicht zeigt, dass es unsicher ist. Ein aktuelles (aber bislang nicht rechtskr\u00e4ftiges) Urteil des Oberlandesgerichts Hamm (Az. 4 UKl 3\/25; Mai 2026) sorgt f\u00fcr Aufmerksamkeit: Wer einen medizinischen&#8230;<\/p>\n","protected":false},"author":67,"featured_media":15587,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[399,177],"tags":[415,904,886,567],"coauthors":[229,513],"class_list":["post-15586","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-digital-health","category-kuenstliche-intelligenz","tag-dependable-ai-verlaessliche-ki","tag-ges","tag-ki-im-gesundheitswesen","tag-uncertainty-management"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.7 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>Wenn Chatbots falsch liegen: Warum Unsicherheitsmanagement wichtiger wird - Blog des Fraunhofer IESE<\/title>\n<meta name=\"description\" content=\"Wer haftet, wenn medizinische Chatbots falsch liegen? Wie der Uncertainty Wrapper von Fraunhofer KI-Systeme rechtssicher &amp; transparent macht.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Wenn Chatbots falsch liegen: Warum Unsicherheitsmanagement wichtiger wird - Blog des Fraunhofer IESE\" \/>\n<meta property=\"og:description\" content=\"Wer haftet, wenn medizinische Chatbots falsch liegen? Wie der Uncertainty Wrapper von Fraunhofer KI-Systeme rechtssicher &amp; transparent macht.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/\" \/>\n<meta property=\"og:site_name\" content=\"Fraunhofer IESE\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/FraunhoferIESE\/\" \/>\n<meta property=\"article:published_time\" content=\"2026-05-28T12:33:45+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2026-05-28T12:37:15+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2026\/05\/ChatGPT-Image-May-20-2026-02_00_30-PM.png\" \/>\n\t<meta property=\"og:image:width\" content=\"1536\" \/>\n\t<meta property=\"og:image:height\" content=\"1024\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/png\" \/>\n<meta name=\"author\" content=\"Patricia Kelbert, Theresa Ahrens\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@FraunhoferIESE\" \/>\n<meta name=\"twitter:site\" content=\"@FraunhoferIESE\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"Patricia Kelbert\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"5\u00a0Minuten\" \/>\n\t<meta name=\"twitter:label3\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data3\" content=\"Patricia Kelbert, Theresa Ahrens\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/ki-chatbots-haftung-unsicherheitsmanagement\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/ki-chatbots-haftung-unsicherheitsmanagement\\\/\"},\"author\":{\"name\":\"Patricia Kelbert\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#\\\/schema\\\/person\\\/65ee262720c596a06c193cbaf25dfbb5\"},\"headline\":\"Wenn Chatbots falsch liegen: Warum Unsicherheitsmanagement wichtiger wird\",\"datePublished\":\"2026-05-28T12:33:45+00:00\",\"dateModified\":\"2026-05-28T12:37:15+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/ki-chatbots-haftung-unsicherheitsmanagement\\\/\"},\"wordCount\":991,\"publisher\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/ki-chatbots-haftung-unsicherheitsmanagement\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2026\\\/05\\\/ChatGPT-Image-May-20-2026-02_00_30-PM.png\",\"keywords\":[\"Dependable AI \\\/ Verl\u00e4ssliche KI\",\"ges\",\"KI im Gesundheitswesen\",\"Uncertainty Management\"],\"articleSection\":[\"Digital Health\",\"K\u00fcnstliche Intelligenz\"],\"inLanguage\":\"de\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/ki-chatbots-haftung-unsicherheitsmanagement\\\/\",\"url\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/ki-chatbots-haftung-unsicherheitsmanagement\\\/\",\"name\":\"Wenn Chatbots falsch liegen: Warum Unsicherheitsmanagement wichtiger wird - Blog des Fraunhofer IESE\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/ki-chatbots-haftung-unsicherheitsmanagement\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/ki-chatbots-haftung-unsicherheitsmanagement\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2026\\\/05\\\/ChatGPT-Image-May-20-2026-02_00_30-PM.png\",\"datePublished\":\"2026-05-28T12:33:45+00:00\",\"dateModified\":\"2026-05-28T12:37:15+00:00\",\"description\":\"Wer haftet, wenn medizinische Chatbots falsch liegen? Wie der Uncertainty Wrapper von Fraunhofer KI-Systeme rechtssicher & transparent macht.\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/ki-chatbots-haftung-unsicherheitsmanagement\\\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/ki-chatbots-haftung-unsicherheitsmanagement\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/ki-chatbots-haftung-unsicherheitsmanagement\\\/#primaryimage\",\"url\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2026\\\/05\\\/ChatGPT-Image-May-20-2026-02_00_30-PM.png\",\"contentUrl\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2026\\\/05\\\/ChatGPT-Image-May-20-2026-02_00_30-PM.png\",\"width\":1536,\"height\":1024,\"caption\":\"Generiert mit ChatGPT\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/ki-chatbots-haftung-unsicherheitsmanagement\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Wenn Chatbots falsch liegen: Warum Unsicherheitsmanagement wichtiger wird\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#website\",\"url\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/\",\"name\":\"Fraunhofer IESE\",\"description\":\"Blog des Fraunhofer-Institut f\u00fcr Experimentelles Software Engineering\",\"publisher\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#organization\",\"name\":\"Fraunhofer IESE\",\"url\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2016\\\/08\\\/fhg_iese_logo.png\",\"contentUrl\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2016\\\/08\\\/fhg_iese_logo.png\",\"width\":183,\"height\":50,\"caption\":\"Fraunhofer IESE\"},\"image\":{\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/www.facebook.com\\\/FraunhoferIESE\\\/\",\"https:\\\/\\\/x.com\\\/FraunhoferIESE\",\"https:\\\/\\\/www.linkedin.com\\\/company\\\/fraunhoferiese\\\/\",\"https:\\\/\\\/www.youtube.com\\\/c\\\/FraunhoferIESE\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/#\\\/schema\\\/person\\\/65ee262720c596a06c193cbaf25dfbb5\",\"name\":\"Patricia Kelbert\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2019\\\/08\\\/kelbert_patricia_blog_5D3_9482-96x96.jpga81ff2dde473a4153ab624c1ca170475\",\"url\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2019\\\/08\\\/kelbert_patricia_blog_5D3_9482-96x96.jpg\",\"contentUrl\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/wp-content\\\/uploads\\\/2019\\\/08\\\/kelbert_patricia_blog_5D3_9482-96x96.jpg\",\"caption\":\"Patricia Kelbert\"},\"description\":\"Patricia Kelbert ist seit 2017 am Fraunhofer IESE und seit 2026 in der Abteilung Digital Health Engineering als \u00bbExpert AI for Digital Health\u00ab t\u00e4tig. Zus\u00e4tzlich ist sie Projektleiterin und war in den vergangenen Jahren in den Abteilungen Security Engineering, Data Science und auch im Business Development aktiv. Sie hat in Frankreich an der \u00bbUniversit\u00e9 de Strasbourg\u00ab Bioinformatik studiert und dort im Jahr 2005 ihren Master abgeschlossen. Sie besch\u00e4ftigt sich seit Langem intensiv mit Programmierung, Software Engineering, Datenbanken und Datennutzungskontrolle \u00fcber verschiedene Fachgebiete hinweg (Biodiversit\u00e4t, Genetik, Pharma &amp; Gesundheit, Landwirtschaft).\",\"sameAs\":[\"https:\\\/\\\/www.linkedin.com\\\/in\\\/patricia-kelbert-a625bb10\\\/\"],\"url\":\"https:\\\/\\\/www.iese.fraunhofer.de\\\/blog\\\/author\\\/patricia-kelbert\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Wenn Chatbots falsch liegen: Warum Unsicherheitsmanagement wichtiger wird - Blog des Fraunhofer IESE","description":"Wer haftet, wenn medizinische Chatbots falsch liegen? Wie der Uncertainty Wrapper von Fraunhofer KI-Systeme rechtssicher & transparent macht.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/","og_locale":"de_DE","og_type":"article","og_title":"Wenn Chatbots falsch liegen: Warum Unsicherheitsmanagement wichtiger wird - Blog des Fraunhofer IESE","og_description":"Wer haftet, wenn medizinische Chatbots falsch liegen? Wie der Uncertainty Wrapper von Fraunhofer KI-Systeme rechtssicher & transparent macht.","og_url":"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/","og_site_name":"Fraunhofer IESE","article_publisher":"https:\/\/www.facebook.com\/FraunhoferIESE\/","article_published_time":"2026-05-28T12:33:45+00:00","article_modified_time":"2026-05-28T12:37:15+00:00","og_image":[{"width":1536,"height":1024,"url":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2026\/05\/ChatGPT-Image-May-20-2026-02_00_30-PM.png","type":"image\/png"}],"author":"Patricia Kelbert, Theresa Ahrens","twitter_card":"summary_large_image","twitter_creator":"@FraunhoferIESE","twitter_site":"@FraunhoferIESE","twitter_misc":{"Verfasst von":"Patricia Kelbert","Gesch\u00e4tzte Lesezeit":"5\u00a0Minuten","Written by":"Patricia Kelbert, Theresa Ahrens"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/#article","isPartOf":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/"},"author":{"name":"Patricia Kelbert","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#\/schema\/person\/65ee262720c596a06c193cbaf25dfbb5"},"headline":"Wenn Chatbots falsch liegen: Warum Unsicherheitsmanagement wichtiger wird","datePublished":"2026-05-28T12:33:45+00:00","dateModified":"2026-05-28T12:37:15+00:00","mainEntityOfPage":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/"},"wordCount":991,"publisher":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#organization"},"image":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/#primaryimage"},"thumbnailUrl":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2026\/05\/ChatGPT-Image-May-20-2026-02_00_30-PM.png","keywords":["Dependable AI \/ Verl\u00e4ssliche KI","ges","KI im Gesundheitswesen","Uncertainty Management"],"articleSection":["Digital Health","K\u00fcnstliche Intelligenz"],"inLanguage":"de"},{"@type":"WebPage","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/","url":"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/","name":"Wenn Chatbots falsch liegen: Warum Unsicherheitsmanagement wichtiger wird - Blog des Fraunhofer IESE","isPartOf":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/#primaryimage"},"image":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/#primaryimage"},"thumbnailUrl":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2026\/05\/ChatGPT-Image-May-20-2026-02_00_30-PM.png","datePublished":"2026-05-28T12:33:45+00:00","dateModified":"2026-05-28T12:37:15+00:00","description":"Wer haftet, wenn medizinische Chatbots falsch liegen? Wie der Uncertainty Wrapper von Fraunhofer KI-Systeme rechtssicher & transparent macht.","breadcrumb":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/#primaryimage","url":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2026\/05\/ChatGPT-Image-May-20-2026-02_00_30-PM.png","contentUrl":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2026\/05\/ChatGPT-Image-May-20-2026-02_00_30-PM.png","width":1536,"height":1024,"caption":"Generiert mit ChatGPT"},{"@type":"BreadcrumbList","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/ki-chatbots-haftung-unsicherheitsmanagement\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/www.iese.fraunhofer.de\/blog\/"},{"@type":"ListItem","position":2,"name":"Wenn Chatbots falsch liegen: Warum Unsicherheitsmanagement wichtiger wird"}]},{"@type":"WebSite","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#website","url":"https:\/\/www.iese.fraunhofer.de\/blog\/","name":"Fraunhofer IESE","description":"Blog des Fraunhofer-Institut f\u00fcr Experimentelles Software Engineering","publisher":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.iese.fraunhofer.de\/blog\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#organization","name":"Fraunhofer IESE","url":"https:\/\/www.iese.fraunhofer.de\/blog\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#\/schema\/logo\/image\/","url":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2016\/08\/fhg_iese_logo.png","contentUrl":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2016\/08\/fhg_iese_logo.png","width":183,"height":50,"caption":"Fraunhofer IESE"},"image":{"@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/FraunhoferIESE\/","https:\/\/x.com\/FraunhoferIESE","https:\/\/www.linkedin.com\/company\/fraunhoferiese\/","https:\/\/www.youtube.com\/c\/FraunhoferIESE"]},{"@type":"Person","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/#\/schema\/person\/65ee262720c596a06c193cbaf25dfbb5","name":"Patricia Kelbert","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2019\/08\/kelbert_patricia_blog_5D3_9482-96x96.jpga81ff2dde473a4153ab624c1ca170475","url":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2019\/08\/kelbert_patricia_blog_5D3_9482-96x96.jpg","contentUrl":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2019\/08\/kelbert_patricia_blog_5D3_9482-96x96.jpg","caption":"Patricia Kelbert"},"description":"Patricia Kelbert ist seit 2017 am Fraunhofer IESE und seit 2026 in der Abteilung Digital Health Engineering als \u00bbExpert AI for Digital Health\u00ab t\u00e4tig. Zus\u00e4tzlich ist sie Projektleiterin und war in den vergangenen Jahren in den Abteilungen Security Engineering, Data Science und auch im Business Development aktiv. Sie hat in Frankreich an der \u00bbUniversit\u00e9 de Strasbourg\u00ab Bioinformatik studiert und dort im Jahr 2005 ihren Master abgeschlossen. Sie besch\u00e4ftigt sich seit Langem intensiv mit Programmierung, Software Engineering, Datenbanken und Datennutzungskontrolle \u00fcber verschiedene Fachgebiete hinweg (Biodiversit\u00e4t, Genetik, Pharma &amp; Gesundheit, Landwirtschaft).","sameAs":["https:\/\/www.linkedin.com\/in\/patricia-kelbert-a625bb10\/"],"url":"https:\/\/www.iese.fraunhofer.de\/blog\/author\/patricia-kelbert\/"}]}},"jetpack_featured_media_url":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-content\/uploads\/2026\/05\/ChatGPT-Image-May-20-2026-02_00_30-PM.png","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/posts\/15586","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/users\/67"}],"replies":[{"embeddable":true,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/comments?post=15586"}],"version-history":[{"count":17,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/posts\/15586\/revisions"}],"predecessor-version":[{"id":15643,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/posts\/15586\/revisions\/15643"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/media\/15587"}],"wp:attachment":[{"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/media?parent=15586"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/categories?post=15586"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/tags?post=15586"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/www.iese.fraunhofer.de\/blog\/wp-json\/wp\/v2\/coauthors?post=15586"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}