Künstliche Intelligenz

Künstliche Intelligenz steckt heutzutage in vielen Systemen. Wir sind auf die Absicherung der Technologie in kritischen Bereichen spezialisiert.

Generative AI in Software Engineering: Scenarios and Challenges Ahead

Is generative AI disrupting software engineering? And what will software engineering look like in the era of generative AI? In this blog post, two of our experts attempt to answer these questions. Artikel in Deutsch lesen: Generative KI im Software…

Potenzial von KI in Unternehmen: Ist ein LLM der Hammer für alle Schrauben?

In Episode 33 des MORGEN DENKER Podcasts diskutierten unsere Experten (Andreas Jedlitschka, Julien Siebert und Thorsten Honroth) das Thema LLM. Der Titel des Podcasts: »LLM: der Hammer für alle Schrauben?«. So humorvoll dieser Podcast-Titel auch klingen mag, offenbart er eine…

Generative KI im Software Engineering: Szenarien und künftige Herausforderungen

Stellt generative KI Software Engineering auf den Kopf? Wie wird KI in der Softwareentwicklung eingesetzt und wie wird Software Engineering in der Ära der generativen KI zukünftig aussehen? In diesem Blogbeitrag antworten zwei unserer Experten auf diese Fragen. Read the…

LLM-Human Co-Engineering to increase efficiency of Safety Engineering Processes (HARA)

Unlocking Automotive Safety: How LLM-Augmented Tools Are Transforming Hazard and Risk Assessments In the ever-evolving landscape of automotive safety engineering, the Hazard Analysis and Risk Assessment (HARA) process is crucial. This procedure demands extensive engineering expertise to meet the requirements…

Halluzinationen von generativer KI und großen Sprachmodellen (LLMs)

Generative Künstliche Intelligenz (KI) und insbesondere Large Language Models (LLMs) haben das Potenzial, unsere Interaktion mit Technologie und Wissensmanagement grundlegend zu verändern. Generative KI-Modelle sind in der Lage, menschenähnliche Inhalte (Text, Bilder, Audio, Video) zu erzeugen, was sie für viele…

Wie Normen und Standards die Zukunft von Künstlicher Intelligenz und Autonomen Systemen prägen

Im Wettbewerb um Technologien und Zukunftsmärkte spielen Normen und Standards eine entscheidende Rolle. Das Positionspapier »Wer sie gestaltet, beherrscht den Markt: Normen und Standards« der Fraunhofer-Gesellschaft weist darauf hin, wie wichtig die Gestaltung von Normung und Standardisierung ist und formuliert…

BADGERS: Die Robustheit Künstlicher Intelligenz durch Fehlerinjektion untersuchen

Wie kann man KI-Systeme testen, und warum können schlechte Daten dabei helfen? In diesem Blogbeitrag erklärt unser KI-Experte Dr. Julien Siebert, wie man KI-Systeme durch Fehlerinjektion mit unserer Badgers-Bibliothek testen kann. Auswirkungen mangelnder Datenqualität Datenqualitätsprobleme sind bei der Entwicklung und…

Data augmentation with Generative AI – How well does ChatGPT 4o create images with realistically appearing quality deficits?

Enhancing datasets by adding input variations or data quality deficits is often done using data augmentation approaches. These approaches employ classical image processing techniques, Deep Learning models like Convolutional Neural Networks (CNNs), or Generative Adversarial Networks (GANs). With the rise…

Dealing with uncertainties of Machine Learning components (Part 1)

The use of Machine Learning (ML) components in safety-critical or financially critical systems is challenging. At Fraunhofer IESE, we address this challenge by systematically engineering comprehensive multi-layered safety concepts and explicitly considering sources of uncertainties. This specifically includes situations at…

Datenqualität und Kausalität bei auf Machine Learning basierender Software

Eine gute Datenqualität ist entscheidend für die Zuverlässigkeit von Systemen, die auf Machine Learning und Künstlicher Intelligenz basieren. Data Scientists verbringen daher die meiste Zeit damit, Daten vorzubereiten und Probleme mit der Datenqualität zu lösen. In diesem Blogbeitrag erläutert unser…