Anwendungen auf Basis von Large Language Models (LLMs) sind inzwischen sehr erfolgreich in der Verarbeitung und Erzeugung von natürlicher Sprache. Allerdings haben sie grundsätzliche Schwächen insbesondere im Umgang mit spezifischem Fachwissen und aktuellen Informationen. An dieser Stelle setzen Wissensgraphen an, die Fakten und Zusammenhänge explizit abspeichern. Mit der Kombination aus beiden Techniken lassen sich interessante Lösungen zur semantischen Suche in strukturierten Datenbeständen oder zur Analyse von Textdokumenten entwickeln. In dem Beitrag erläutern wir die Grundlagen von Wissensgraphen und ihrem Einsatz im Zusammenhang mit Retrieval Augmented Generation (RAG). Wir zeigen anhand von Beispielen, wie Wissensgraphen aufgebaut werden und man LLMs nutzen kann, um sie abzufragen, oder nach Mustern zu durchsuchen.