Seit große Sprachmodelle (LLMs) in der Tech-Welt an Popularität gewonnen haben, versuchen wir, sie mit eigenen Daten zu erweitern. Die am meisten verbreitete Methode, dies zu tun, nennt sich "Retrieval Augmented Generation", kurz RAG. Aber wie alles andere kommt auch RAG mit eigenen Herausforderungen, wie z.B. zu viele oder zu wenige zurückgegebene Dokumente, geringe Vektorraumdichte oder schwache Vektorsimilarität. Nach einer kleinen Einleitung zu RAG, werde ich in diesem Vortrag einige Strategien vorstellen, die sich bei der Bewältigung dieser Probleme als vielversprechend erwiesen haben. Wir werden uns Beispiele ansehen, um diese Strategien in Aktion zu sehen. Ebenso wird anhand von Codebeispielen gezeigt, wie diese Lösungen in der Praxis funktionieren und welche Art von Verbesserungen wir von ihnen erwarten können.
Slides befinden sich im /docs Ordner und können here angesehen werden.
OPENAI API Key sollte als Pfad Variable "OPENAI_API_KEY" gesetzt sein.
Code ist im /code Ordner. Die meisten Projekte sind in .NET und können mit den gängigen Tools geöffnet/gestartet werden.
Ein Projekt ist in Python und kann mit jupyter notebooks geöffnet werden.