AI xpress NET ist der Techtalk rund um KI-Themen im Böblinger Startup- und Innovationszentrum AI xpress. Er richtet sich an Entwickler*innen oder KI-Expert*innen mit Interesse an einem Austausch auf hohem technischen Niveau.
Thema der Veranstaltung am 17. März 2025:
Die RAG-Technologie (Retrieval-Augmented Generation) mittels Vektor-Datenbanken kommt inzwischen oftmals dann zur Anwendung, wenn Large Language Models (LLM’s) mit Domänenwissen abgefragt werden sollen. Ihre Leistungsfähigkeit z.B. bei Generierung von Dokumenten mit Expertenwissen ist weithin bekannt. Sie wird besonders dann eingesetzt, wenn Menschen das Generierungsergebnis begutachten (human in the loop), also in Benutzungsfällen, wo die Dokumentgenerierung teilautomatisiert werden soll. Andererseits zeigen Testsuites wie SimplQA und TrustfulQA, dass RAG-basiertes Question Answering ohne Antwortauswahl, also bei der meisten Geschäftskommunikation, unzureichende Genauigkeit unter 60% und kaum Erklärbarkeit bietet.
Aktuelle Forschungsergebnisse legen nahe, dass dieses Problem durch Repräsentation des Domänenwissens mittels Knowledge Graphen (KG’s) in Verbindung mit den überragenden Sprachfähigkeiten der LLM’s gelöst werden kann: Die symbolische Wissensrepräsentation in KG’s ist präzise und semantisch deklariert, sie erlaubt Inferenzen und ermöglicht das Prompting von LLM’s mit exakten Statements. Da es fast keine fehlerhaften LLM-Antworten bei korrektem KG-Prompt gibt, kann die QA-Lösung über den KG kontinuierlich verbessert werden.
Der Vortrag legt einen Schwerpunkt auf die Erzeugung von Knowledge Graphen und zeigt, unter welchen Bedingungen diese automatisch oder zumindest halbautomatisch erfolgen kann. Denn natürlich liegt in der ökonomischen Bereitstellung von KG’s der entscheidende „Bottleneck“ der KG-Technologie. Wir erklären das sog. SmartGraph-Framework zur Erzeugung, Erweiterung und Anwendung von KG’s das von unserem Startup TextVerstehen GmbH entwickelt wird.
Im Anschluss besteht die Möglichkeit, bei Pizza und Getränken Fragen zu klären, Kontakte zu knüpfen und sich auszutauschen.
Nutzen für die Besucher*innen:
- Verständnis für die problematischen Use cases bei RAG mit Vektordatenbanken
- Entscheidungsgrundlagen für den Einsatz von LLM’s zusammen mit Knowledge Graphen
- Einordnung von verschiedenen Question Answering-Szenarien
- Einblick in das Vorgehen beim automatischen Aufbau von Knowledge Graphen
AI xpress NET ist eine gemeinsame Veranstaltun des AI xpress, des Mittelstand-Digital Zentrums Klima.Neutral.Digital, der Qnovi GmbH und der Wirtschaftsförderung Region Stuttgart GmbH.
Veranstaltungsort
Röhrer Weg 8
71032 Böblingen
