Fraunhofer-Institut für Experimentelles Software Engineering IESE
Webinar »Zuverlässiger Einsatz von Large Language Models (LLMs)«
Teil 1: Open Source LLMs selbst betreiben
Large Language Models (LLMs) haben im Jahr 2023 einen großen Sprung nach vorn gemacht und sind seit ChatGPT in aller Munde. Open Source LLMs sind frei zugängliche und transparente Sprachmodelle, die Sie auf Ihrer eigenen Hardware betreiben können. Das bringt einige Vorteile mit sich: beispielsweise bleiben Ihre Daten in Ihren Händen. Allerdings gibt es auch Herausforderungen, wie die nötige Rechenpower. In diesem Webinar gehen wir darauf ein, wann sich der Einsatz von Open Source LLMs lohnt und wie Sie vorgehen können, um die Modelle selbst zu betreiben. Im Anschluss freuen wir uns auf Ihre Fragen und eine offene Diskussion.
Reiternavigation
Überblick
| Termin |
|
| Dauer | 90min (60min Vortrag, 30min Fragen + Diskussion) |
| Sprache | deutsch |
| Zielgruppe |
IT-Verantwortliche, kleinere und mittelgroße Unternehmen, öffentliche Einrichtungen, Unternehmen oder Einrichtung mit Fokus auf Datenschutz und sensiblen Daten, Interessierte am Thema Hosting von Open Source Sprachmodellen |
Details zum Webinar
Das Webinar geht auf die folgenden Inhalte ein:
- Kurze Einführung in LLMs
- Einsatzmöglichkeiten und Herausforderungen
- Was spricht für oder gegen Open Source Sprachmodelle?
- Wie finde ich das passende Modell für meinen Anwendungsfall?
- Wie gehe ich vor, um ein Sprachmodell selbst zu hosten?
- Stand der Technik, Praxiserfahrungen, Empfehlungen
- Live-Demo
- Wie können wir Sie dabei unterstützen?
Referenten
Thorsten Honroth arbeitet als Data Scientist in der Abteilung »Data Science« am Fraunhofer IESE. Sein Tätigkeitsschwerpunkt ist Natural Language Processing (NLP), was auch Semantische Suche, Sprachmodelle und Large Language Models einschließt. Zuvor war er unter anderem als wissenschaftlicher Mitarbeiter am Fraunhofer Institut für digitale Medizin (MEVIS) und als Machine Learning Engineer tätig. Er studierte Mathematik und Physik auf Lehramt für Gymnasien und Gesamtschulen und hat auch das zweite Staatsexamen erlangt.
Daniel Seifert arbeitet seit April 2023 als Data Scientist am Fraunhofer IESE. Er beschäftigt sich hauptsächlich mit den Themen Natural Language Processing mittels Large Language Models und mit der Erklärbarkeit von KI-Modellen. Zuvor studierte er Informatik an der Technischen Universität Kaiserslautern (jetzt RPTU) mit dem Schwerpunkt Software Engineering und arbeitete parallel als wissenschaftliche Hilfskraft im Bereich Safety Engineering am Fraunhofer IESE.
Lisa Jöckel beschäftigt sich seit 2018 mit der Qualitätssicherung von KI-basierten Systemen als Senior Data Scientist am Fraunhofer IESE. Sie fokussiert sich auf Themen wie das Testen solcher Systeme und die Qualität der Testdaten, die systematische Qualitätsargumentation mittels Assurance Cases sowie die Bewertung von Unsicherheiten in den Entscheidungen datengetriebener Modelle. Sie studierte Informatik an der Technischen Universität Kaiserslautern mit Schwerpunkt Datenvisualisierung und Computergrafik.