Im DigitalDialog stellen Expertinnen und Experten des Fraunhofer IAO in aller Kürze vor, wie Retrieval Augmented Generation (RAG) funktioniert. Zudem erfahren die Teilnehmenden anhand von konkreten Anwendungsbeispielen, wie RAG in Unternehmen umgesetzt werden kann.​​

​​​​​​Frage-Antwort-Systeme, sogenannte Chatbots, sind der häufigste Anwendungsfall von Generativer Künstlicher Intelligenz. Viele Unternehmen haben hier schon erste Anwendungen intern mit ihren Mitarbeitenden oder auch extern mit Kunden und Partnern verprobt. Besonders wertstiftend sind Anwendungen, die explizit auch »eigene« Unternehmensdaten heranziehen, das ist bei direkter Nutzung von Chat GPT & Co erstmal nicht der Fall. Beim Chat mit den eigenen Daten kommt neben Prompting und Finetuning vor allem Retrieval Augmented Generation (RAG) zum Einsatz.​

​Bei RAG werden bei der Antwortgenerierung durch große Sprachmodelle (Large Language Models LLM) auch weitere Informationen hinzugezogen. Die Ergebnisse sind dadurch spezifischer und vor allem nachprüfbar, weil auch die verwendeten Quellen ausgegeben werden können. Dass die generative KI halluziniert, also Informationen ausgibt, die nicht der Wahrheit entsprechen, kann durch einen RAG-Ansatz ebenfalls stark reduziert werden.

​Fokus des Austauschs im DigitalDialog liegt auf konkreten RAG-Use-Cases, die zum Beispiel im Rahmen des KI-Fortschrittszentrums prototypisch umgesetzt wurden. Die Teilnehmenden diskutieren welche Inhalte besonders spannend sind und im Rahmen der für Ende des Jahres im KI-Fortschrittszentrum geplanten RAG-Studie vertieft werden können.​​


Die Veranstaltung richtet sich an Verantwortliche für KI-Chatbots.

Wissenschaftliche Ansprechpartner
Dennis Klau
Angewandte KI
Fraunhofer IAO
Allmandring 35
70569 Stuttgart
Telefon: +49 711 970-5112​​
E-Mail: dennis.klau@iao.fraunhofer.de

Jens Drawehn
Angewandte KI
Fraunhofer IAO
Nobelstraße 12
70569 Stuttgart
Telefon: +49 711 970-2407
E-Mail: jens.drawehn@iao.fraunhofer.de

Hinweise zur Teilnahme:
ie Veranstaltung findet in Zusammenarbeit mit der Stadtbibliothek Stuttgart statt. Link zur Anmeldung und zum Event finden Sie auf der Seite der Stadtbibliothek.

afficher moins