Idee

Der Lösungsansatz war ein RAG Chatbot, RAG steht für Retrieval Augmented Generation. Dahinter steckt ein recht pragmatischer Gedanke. Ein Sprachmodell kennt die Welt aus seinem Training. Dieses Wissen ist breit aber nicht unbedingt aktuell, nicht unbedingt korrekt und oft nicht spezifisch genug für reale Anwendungsszenarien. Ein Immobilienmakler braucht aber klare Aussagen zu aktuellen Rechtsfragen und genau hier soll das Modell nicht spekulieren sondern Fakten benennen und Quellen benennen.

Die Antwort muss aus einer verlässlichen und kontrollierten Quelle stammen, in diesem Fall durch zuvor zur Verfügung gestellte PDF Dokumente. Hier wurde mein Beispiel auch davon bestimmt, ob ich frei verfügbare und eindeutig korrekte Informationen bekommen kann. Gesetzestexte sind hier ein praktisches Beispiel, in der Realität ist die Beschaffung, Kontrolle, Aufbereitung und Governance der Lerndaten der wichtigste und umfassendste Schritt für jede KI Anwendung.

Ergebnis

Zu Beginn hatte ich die Vektordatenbank nur mit dem Dokument "Gewerberechtliche Berufspflichten für Erlaubnisinhaber nach § 34c" angelernt. Eine passende Testfrage aus diesem Bereich benantwortet das System einwandfrei, eine Frage zum Erbbaurecht kann aber nicht gelöst werden.

Mit einem weiteren PDF zum Erbbaurecht wird der n8n Prozess gestartet, um dieses Dokument in unseren Wissensspeicher (Vektordatenbank) zu integrieren. Stellen wir nun dem Modell Fragen zun Erbbaurecht, werden diese korrekt beantwortet.

Mehr Details findet ihr in diesem Blog Artikel.