Graph/Hybrid RAG - Maßgeschneiderter Kontext fürs LLM
RAG (Retrieval Augmented Generation) ist mittlerweile ein Standardbaustein in vielen LLM basierten AI-Systemen. Das Verfahren erlaubt es, Daten außerhalb des Trainingssets des LLM zu berücksichtigen und den Kontext des LLMs auf eine handhabbare Größe zu beschränken. Hierbei kommen häufig Vektordatenbanken zum Einsatz, um über Distanzsuche im Vektorraum relevante Dokumente oder Textauszüge auszuwählen und damit den Kontext des LLMs anzureichern.
Dieses Verfahren stößt bei Anfragen an seine Grenzen, die auf komplexe Zusammenhänge oder Aggregation über viele Datensätze abzielen. Hier glänzen graphbasierte RAG-Systeme. Grundlage hierfür ist die Repräsentation der Daten in Form von Knowledge Graphen, welche Informationen über die Beziehungen der Entitäten zueinander enthalten. Dies ermöglicht komplexe Schlussfolgerungen über in mehreren Stufen semantisch verknüpfte Entitäten. Ergebnisse werden basierend auf 'Wegen im Beziehungsgraph' geliefert, was deutlich einfacher nachzuvollziehen ist als die abstrakten Vektordistanzen im 'klassischen' Vector RAG.
Wie so oft ist aber nicht eines der Verfahren grundsätzlich dem anderen überlegen, sondern 'es hängt davon ab'.
An diesem Abend wird Alexander Wiedemann mit uns zusammen die grundlegende Funktionsweise von Graph RAG erkunden. Welche Domänen eigenen sich, wie müssen die Daten vorbereitet werden und wie formuliert man eine Anfrage an solch ein System? Lassen sich verschiedene RAG-Verfahren kombinieren und wie funktioniert die Auswahl der Ergebnisse, Stichwort 'Reranking'.
Der Referent: Alexander Wiedemann
Alexander Wiedemann entwickelt seit über 15 Jahren Software bei bluehands. Er ist Verfechter von funktionalen Programmierparadigmen, die er sowohl im Projektalltag als auch in mehreren Open Source Initiativen vorantreibt – insbesondere, um deren Einsatz in C# zu unterstützen. In den vergangenen Jahren hat er umfangreiche Modernisierungsprojekte begleitet, bei denen es darum ging, große, historisch gewachsene Softwarelandschaften zukunftsfähig zu machen, ohne die darin steckende Entwicklungsleistung zu verlieren.
Aktuell beschäftigt er sich dabei mit der Evaluierung agentenbasierter Tools, um deren Potenzial für Analyse und Refactoring nutzbar zu machen. Darüber hinaus unterstützt er Unternehmen dabei, AI Technologien sinnvoll in ihre Systeme zu integrieren – etwa durch die Implementierung eigener MCP Server oder aktuell den Aufbau einer RAG Pipeline.
Agenda
Datum: Donnerstag, den 22. Oktober 2026
Uhrzeit: Beginn 18:00 Uhr, Ende ca. 21:00 Uhr
Ort: DJK Ost, Friedrichstaler Allee 52, 76131 Karlsruhe
Anmeldung
Weitere Informationen und Anmeldung gibt es hier.
Mehr über die .Net User Group Karlsruhe
Die .NET User Group Karlsruhe hat sich zum Ziel gesetzt, interessierte Teilnehmer:innen mit Vorträgen und Workshops zu allen Themen rund um die Softwareentwicklung und das Projektmanagement zu versorgen. Neben den .NET-Themen stehen Versionskontrollsysteme, allgemeine Programmiertechniken und Coding-Dojos auf dem Programm. Im Frühjahr organisiert die .Net User Group Karlsruhe auch den #nossued Software-Entwicklungs Open Space. bluehands-Geschäftsführer Aydin Mir Mohammadi ist einer der Initiatoren der .Net User Group Karlsruhe. mehr
Zum Weiterlesen: Coding & High Tech
Die Kategorie Coding & High Tech unserer Wissenswelt dreht sich um die Programmierung und technologische Innovationen. Vom elegant-trickreichen Umgang mit unseren Programmiersprachen und Werkzeugen bis hin zu effektiven Best Practices – hier finden Entwickler und Entwicklerinnen wertvolle Informationen und Ressourcen. Dazu zählt etwa unser Leitfaden für die Entwicklung von komplexen Fachanwendungen oder der Beitrag zum Thema Railway oriented programming.
