Haben Sie sich jemals gefragt, was die hochmodernen KI-Agenten auf den fortschrittlichsten Plattformen von heute antreibt? Im Screenshot oben stelle ich beispielsweise dem KI-Agenten auf assetimple.com eine Frage zum Zinssatz. Er gibt eine Antwort, die sich speziell auf die Produkte von Wealthsimple bezieht, und beschränkt sie auf die Produkte von Wealthsimple. Der Zinssatz für das Geldkonto der Financial institution of America wurde mir nicht mitgeteilt.

Wie funktioniert es? Man könnte sagen, es ist einfach: LLM (großes Sprachmodell)! Stimmt, aber es gibt noch etwas mehr als nur LLM. Die leistungsstarken KI-Agenten, zumindest die guten, basieren auf großen Sprachmodellen, sodass sie Sprachen verstehen und Supportsitzungen in einem Konversationsformat durchführen können, genau wie ChatGPT. ABER, ein großes Aber, sie verfügen über zwei außergewöhnliche Funktionen hinaus, die über ein Allzweck-ChatGPT hinausgehen:

1. KI-Agenten durchsuchen die Domänenwissensdatenbank und stellen aktuelle Daten zur Beantwortung Ihrer Fragen bereit. Die Domänenwissensdatenbank kann sein personal Unternehmensdaten das ist im Internet nicht durchsuchbar…

Sie bauen additionally ein RAG-System auf oder verwenden ein LLM zum Chatten mit Dokumenten. Aber Benutzer fragen oft: Wie können wir den Antworten vertrauen?

Darüber hinaus hören wir häufig von Halluzinationen, die das Vertrauen der Nutzer untergraben.

Wenn wir eine Anwendung erstellen, den Benutzern aber nicht zeigen, woher die Antworten kommen, kann die Anwendung in manchen Fällen unbrauchbar werden.

In diesem Artikel werde ich einen Ansatz zur Lösung dieses Issues vorstellen. Indem wir jede vom LLM generierte Antwort mit ihrem Quelltext im Dokument verknüpfen, können wir Transparenz und Vertrauen aufbauen. Diese Methode liefert nicht nur eindeutige Beweise für die Antworten, sondern ermöglicht es Benutzern auch, die Ergebnisse direkt im PDF zu überprüfen.

Manchmal ist die generierte Antwort möglicherweise nicht ganz genau, aber die Möglichkeit, den richtigen Quelltext zu finden, ist für den Benutzer bereits hilfreich.

Nehmen wir ein Beispiel dieses Papier von arxiv.org. Wir können uns diesen Anwendungsfall vorstellen:

Der erste Schritt bei diesem Ansatz besteht darin, den Textual content in einem strukturierten Format aus dem PDF zu extrahieren.