Aktie

Submit


Aktie

In diesem Artikel erfahren Sie, wie sich Vektordatenbanken und Graph-RAG als Speicherarchitekturen für KI-Agenten unterscheiden und wann jeder Ansatz besser passt.

Zu den Themen, die wir behandeln werden, gehören:

• Wie Vektordatenbanken semantisch ähnliche unstrukturierte Informationen speichern und abrufen.
• Wie der Graph RAG Entitäten und Beziehungen für einen präzisen Multi-Hop-Abruf darstellt.
• Wie Sie zwischen diesen Ansätzen wählen oder sie in einer hybriden Agent-Speicher-Architektur kombinieren können.

In diesem Sinne kommen wir gleich zur Sache.

Einführung

KI-Agenten brauchen Langzeitgedächtnis in komplexen, mehrstufigen Arbeitsabläufen wirklich nützlich sein. Ein Agent ohne Speicher ist im Wesentlichen eine zustandslose Funktion, die ihren Kontext bei jeder Interaktion zurücksetzt. Während wir uns hin zu autonomen Systemen bewegen, die dauerhafte Aufgaben verwalten (z. B. Codierungsassistenten, die die Projektarchitektur verfolgen, oder Rechercheagenten, die fortlaufende Literaturrecherchen erstellen), wird die Frage, wie Kontext gespeichert, abgerufen und aktualisiert werden soll, von entscheidender Bedeutung.

Derzeit ist der Industriestandard für diese Aufgabe die Vektordatenbank, die dichte Einbettungen für die semantische Suche verwendet. Da jedoch der Bedarf an komplexeren Überlegungen wächst, gewinnt Graph RAG, eine Architektur, die Wissensgraphen mit großen Sprachmodellen (LLMs) kombiniert, als strukturierte Speicherarchitektur an Bedeutung.

Auf den ersten Blick sind Vektordatenbanken superb für einen breiten Ähnlichkeitsabgleich und den Abruf unstrukturierter Daten, während Graph-RAG sich hervorragend eignet, wenn Kontextfenster begrenzt sind und Multi-Hop-Beziehungen, sachliche Genauigkeit und komplexe hierarchische Strukturen erforderlich sind. Diese Unterscheidung unterstreicht den Fokus von Vektordatenbanken auf flexibles Matching im Vergleich zur Fähigkeit von Graph-RAG, durch explizite Beziehungen zu argumentieren und die Genauigkeit unter strengeren Einschränkungen zu bewahren.

Um ihre jeweiligen Rollen zu verdeutlichen, untersucht dieser Artikel die zugrunde liegende Theorie, praktische Stärken und Grenzen beider Ansätze für das Agentengedächtnis. Auf diese Weise bietet es einen praktischen Rahmen als Leitfaden für die Auswahl des einzusetzenden Techniques oder der Kombination von Systemen.

Vektordatenbanken: Die Grundlage des semantischen Agentengedächtnisses

Vektordatenbanken stellen Erinnerungen als dichte mathematische Vektoren oder Einbettungen dar, die sich im hochdimensionalen Raum befinden. Ein Einbettungsmodell ordnet Textual content, Bilder oder andere Daten Arrays von Floats zu, wobei der geometrische Abstand zwischen zwei Vektoren ihrer semantischen Ähnlichkeit entspricht.

KI-Agenten verwenden diesen Ansatz hauptsächlich zum Speichern unstrukturierter Texte. Ein häufiger Anwendungsfall ist das Speichern des Gesprächsverlaufs, sodass der Agent sich daran erinnern kann, was ein Benutzer zuvor gefragt hat, indem er seine Speicherbank nach semantisch verwandten vergangenen Interaktionen durchsucht. Agenten nutzen außerdem Vektorspeicher, um relevante Dokumente, API-Dokumentation oder Codeausschnitte basierend auf der impliziten Bedeutung der Eingabeaufforderung eines Benutzers abzurufen. Dies ist ein weitaus robusterer Ansatz als die Verwendung exakter Schlüsselwortübereinstimmungen.

Vektordatenbanken sind eine gute Wahl für den Agentenspeicher. Sie bieten eine schnelle Suche, sogar über Milliarden von Vektoren hinweg. Entwickler finden sie außerdem einfacher einzurichten als strukturierte Datenbanken. Um einen Vektorspeicher zu integrieren, teilen Sie den Textual content auf, generieren Einbettungen und indizieren die Ergebnisse. Diese Datenbanken handhaben auch Fuzzy-Matching intestine und berücksichtigen Tippfehler und Umschreibungen, ohne dass strenge Abfragen erforderlich sind.

Die semantische Suche hat jedoch Grenzen für das erweiterte Agentengedächtnis. Vektordatenbanken können oft nicht einer mehrstufigen Logik folgen. Wenn ein Agent beispielsweise die Verbindung zwischen Entität A und Entität C finden muss, aber nur über Daten verfügt, die zeigen, dass A eine Verbindung zu B und B eine Verbindung zu C herstellt, können bei einer einfachen Ähnlichkeitssuche wichtige Informationen fehlen.

Diese Datenbanken haben auch Probleme beim Abrufen großer Textmengen oder beim Umgang mit verrauschten Ergebnissen. Mit dichten, miteinander verbundenen Fakten (von Softwareabhängigkeiten bis hin zu Unternehmensorganigrammen) können sie verwandte, aber irrelevante Informationen zurückgeben. Dadurch kann das Kontextfenster des Agenten mit weniger nützlichen Daten überfüllt sein.

Graph RAG: Strukturierter Kontext und relationales Gedächtnis

Diagramm RAG Behebt die Einschränkungen der semantischen Suche durch die Kombination von Wissensgraphen mit LLMs. In diesem Paradigma ist das Gedächtnis als diskrete Einheiten strukturiert, die als Knoten dargestellt werden (z. B. eine Particular person, ein Unternehmen oder eine Technologie), und die expliziten Beziehungen zwischen ihnen werden als Kanten dargestellt (z. B. „arbeitet an“ oder „verwendet“).

Agenten, die Graph RAG verwenden, erstellen und aktualisieren ein strukturiertes Weltmodell. Während sie neue Informationen sammeln, extrahieren sie Entitäten und Beziehungen und fügen sie dem Diagramm hinzu. Beim Durchsuchen des Speichers folgen sie expliziten Pfaden, um den genauen Kontext abzurufen.

Die Hauptstärke von graph RAG ist seine Präzision. Da der Abruf expliziten Beziehungen und nicht nur semantischer Nähe folgt, ist das Fehlerrisiko geringer. Wenn im Diagramm keine Beziehung besteht, kann der Agent sie nicht allein aus dem Diagramm ableiten.

Graph RAG zeichnet sich durch komplexes Denken aus und ist superb für die Beantwortung strukturierter Fragen. Um die direkten Untergebenen eines Managers zu finden, der ein Price range genehmigt hat, verfolgen Sie einen Pfad durch die Organisation und die Genehmigungskette – eine einfache Diagrammdurchquerung, aber eine schwierige Aufgabe für die Vektorsuche. Ein weiterer großer Vorteil ist die Erklärbarkeit. Der Abrufpfad ist eine klare, überprüfbare Folge von Knoten und Kanten, kein undurchsichtiger Ähnlichkeitswert. Dies ist wichtig für Unternehmensanwendungen, die Compliance und Transparenz erfordern.

Auf der anderen Seite bringt Graph RAG eine erhebliche Implementierungskomplexität mit sich. Es erfordert robuste Pipelines zur Entitätsextraktion, um Rohtext in Knoten und Kanten zu analysieren, was häufig sorgfältig abgestimmte Eingabeaufforderungen, Regeln oder spezielle Modelle erfordert. Entwickler müssen außerdem eine Ontologie oder ein Schema entwerfen und pflegen, das starr und schwer weiterzuentwickeln sein kann, wenn neue Domänen entdeckt werden. Auch das Kaltstartproblem ist deutlich zu erkennen: Im Gegensatz zu einer Vektordatenbank, die sofort nützlich ist, wenn Sie Textual content einbetten, erfordert das Befüllen eines Wissensgraphen einen erheblichen Vorabaufwand, bevor er komplexe Abfragen beantworten kann.

Das Vergleichsrahmenwerk: Wann welches zu verwenden ist

Bedenken Sie beim Entwerfen des Speichers für einen KI-Agenten, dass Vektordatenbanken hervorragend mit unstrukturierten, hochdimensionalen Daten umgehen können und sich intestine für die Ähnlichkeitssuche eignen, wohingegen Graph-RAG für die Darstellung von Entitäten und expliziten Beziehungen von Vorteil ist, wenn diese Beziehungen von entscheidender Bedeutung sind. Die Auswahl sollte von der inhärenten Struktur der Daten und den erwarteten Abfragemustern abhängen.

Vektordatenbanken eignen sich superb für rein unstrukturierte Daten – Chatprotokolle, allgemeine Dokumentation oder umfangreiche Wissensdatenbanken, die aus Rohtext erstellt werden. Sie eignen sich hervorragend, wenn die Abfrage darauf abzielt, umfassende Themen zu untersuchen, z. B. „Finden Sie Konzepte, die X ähnlich sind“ oder „Was haben wir zu Thema Y besprochen?“ Aus Sicht des Projektmanagements bieten sie niedrige Einrichtungskosten und eine gute allgemeine Genauigkeit, was sie zur Standardwahl für Prototypen im Frühstadium und allgemeine Assistenten macht.

Umgekehrt ist Graph RAG für Daten mit inhärenter Struktur oder halbstrukturierten Beziehungen vorzuziehen, wie z. B. Finanzunterlagen, Codebasisabhängigkeiten oder komplexe Rechtsdokumente. Es ist die geeignete Architektur, wenn Abfragen präzise, ​​kategorische Antworten erfordern, wie zum Beispiel „Wie genau hängt X mit Y zusammen?“ oder „Was sind die Abhängigkeiten dieser spezifischen Komponente?“ Die höheren Einrichtungskosten und der laufende Wartungsaufwand eines Graph-RAG-Techniques werden durch seine Fähigkeit gerechtfertigt, eine hohe Präzision bei bestimmten Verbindungen zu liefern, bei denen die Vektorsuche halluzinieren, übergeneralisieren oder fehlschlagen würde.

Die Zukunft des Superior Agent Reminiscence liegt jedoch nicht in der Wahl des einen oder anderen, sondern in einer hybriden Architektur. Führende Agentensysteme kombinieren zunehmend beide Methoden. Ein gängiger Ansatz verwendet eine Vektordatenbank für den ersten Abrufschritt und führt eine semantische Suche durch, um die relevantesten Einstiegsknoten innerhalb eines umfangreichen Wissensgraphen zu finden. Sobald diese Einstiegspunkte identifiziert sind, geht das System zur Graphendurchquerung über und extrahiert den genauen relationalen Kontext, der mit diesen Knoten verbunden ist. Diese Hybridpipeline vereint die breite, unscharfe Erinnerung von Vektoreinbettungen mit der strengen, deterministischen Präzision der Graphdurchquerung.

Abschluss

Vektordatenbanken bleiben aufgrund ihrer einfachen Bereitstellung und starken semantischen Matching-Funktionen der praktischste Ausgangspunkt für den Allzweck-Agentenspeicher. Für viele Anwendungen, von Kundensupport-Bots bis hin zu einfachen Codierungsassistenten, bieten sie eine ausreichende Kontextabfrage.

Da wir jedoch auf autonome Agenten drängen, die zu unternehmenstauglichen Arbeitsabläufen fähig sind und aus Agenten bestehen, die über komplexe Abhängigkeiten nachdenken, sachliche Genauigkeit gewährleisten und ihre Logik erklären müssen, erweist sich Graph RAG als eine entscheidende Lösung.

Entwickler sind intestine beraten, einen mehrschichtigen Ansatz zu wählen: Starten Sie den Agentenspeicher mit einer Vektordatenbank, um eine grundlegende Gesprächsgrundlage zu schaffen. Wenn die Argumentationsanforderungen des Agenten wachsen und sich den praktischen Grenzen der semantischen Suche nähern, führen Sie gezielt Wissensgraphen ein, um hochwertige Entitäten und zentrale Betriebsbeziehungen zu strukturieren.

Aktie

Submit


Aktie

Verpassen Sie keine neue Ausgabe von Die Variableunser wöchentlicher Publication mit einer erstklassigen Auswahl an Empfehlungen der Redaktion, ausführlichen Einblicken, Neighborhood-Neuigkeiten und mehr.

Da das Jahresende nur noch wenige Wochen entfernt ist, zeigen weder unsere Autoren noch unsere Leser Anzeichen einer Entschleunigung.

Wir freuen uns, im vergangenen Monat einige unserer stärksten Artikel des Jahres veröffentlicht zu haben: praktische Leitfäden zu LLM-Workflows und Ressourcen dazu Karrierewachstumauf Python ausgerichtete Tutorials und ausführliche Einblicke in kürzlich eingeführte Instruments, neben anderen herausragenden Themen. Lesen Sie weiter, um die meistgelesenen Geschichten vom November nachzulesen (oder noch einmal zu lesen).

---

Diagramm RAG vs. SQL RAG

Welches Datenbankparadigma liefert genauere und aufschlussreichere Ergebnisse? Reinhard Sellmair Ziel ist es, die Leistung von zwei Arten von RAG-Systemen zu bewerten, indem GraphRAG und SQL RAG unter Verwendung desselben Datensatzes und derselben Fragen gegeneinander antreten.

LLM-gestützte Zeitreihenanalyse

Im zweiten Teil der beliebten Serie von Sara Nobrega lernen wir die Eingabeaufforderungen kennen, die wir für die fortgeschrittene Modellentwicklung benötigen (denken Sie an ARIMA und LSTM).

So erstellen Sie maschinelle Lernprojekte, die Ihnen bei der Einstellung helfen

Nicht alle ML-Portfolios sind gleich. Egor Howell teilt bewährte Erkenntnisse darüber, was funktioniert – und was nicht.

---

Weitere November-Highlights

Verpassen Sie nicht unsere anderen Prime-Lesungen des letzten Monats zu NumPy, Multimodal RAG, Marimo-Notizbüchern und vielen anderen Themen – sowohl immer aktuell als auch aktuell.

NumPy für absolute Anfänger: Ein projektbasierter Ansatz zur Datenanalyse, von Ibrahim Salami

Convolutional Neural Networks (CNNs) mithilfe von Excel verstehen, von Angela Shi

Führen Sie Python mit C bis zu 150-mal schneller aus, von Thomas Reid

Wie man ein überentwickeltes Abrufsystem aufbaut, von Ida Silfverskiöld

Aufbau eines multimodalen RAG, das mit Textual content, Bildern und Tabellen aus Quellen reagiert, von Partha Sarkar

Warum ich auf Marimo-Notizbücher umsteige, von Parul Pandey

Ihr nächstes „großes“ Sprachmodell ist vielleicht doch nicht groß, von Moulik Gupta

---

Falls Sie es verpasst haben: Unsere neuesten Fragen und Antworten zu Autoren

Wir lieben es, das Fachwissen, die Karriereeinblicke und Ansichten unserer Autoren zu den jüngsten Entwicklungen in der Welt der Datenwissenschaft und KI zu teilen. Hier sind unsere aktuellsten Autoren-Spotlights.

• „Systemdenken hilft mir, das große Ganze in den Mittelpunkt zu stellen“
  Shuai Guo über Deep-Analysis-Agenten, analytische KI vs. LLM-basierte Agenten und Systemdenken.

• „Der Erfolg eines KI-Produkts hängt davon ab, wie intuitiv Benutzer mit seinen Fähigkeiten interagieren können.“
  Janna Lipenkova über KI-Strategie, KI-Produkte und wie Domänenwissen die gesamte Type einer KI-Lösung verändern kann.

---

Lernen Sie unsere neuen Autoren kennen

Wir hoffen, dass Sie sich die Zeit nehmen, die hervorragende Arbeit der neuesten Kohorte von TDS-Mitwirkenden zu erkunden:

• Jure Leskovecein Stanford-Professor für Informatik und Unternehmer, erklärt, warum LLMs keine Einheitslösung für Unternehmen sind.

• Sherin Sunnyein leitender Ingenieur bei Walmart, führte uns durch die Entwicklung eines Pc-Imaginative and prescient-Projekts zur Erkennung von Blättern.

• Manuel Franco de la Peña stellte uns ShaTS vor, eine neuartige Shapley-basierte Erklärbarkeitsmethode, die speziell für Zeitreihenmodelle entwickelt wurde und die er mitentwickelt hat.

Wir veröffentlichen gerne Artikel von neuen Autoren. Wenn Sie additionally kürzlich eine interessante Projektdurchführung, ein Tutorial oder eine theoretische Reflexion zu einem unserer Kernthemen geschrieben haben, warum nicht? Teilen Sie es mit uns?

---

Wir würden uns über Ihr Suggestions freuen, Autoren!

Sind Sie bereits TDS-Autor? Wir laden Sie dazu ein Füllen Sie eine 5-minütige Umfrage aus So können wir den Veröffentlichungsprozess für alle Mitwirkenden verbessern.

---

Abonnieren Sie unseren Publication

Daniel D. Gutierrez, Chefredakteur und ansässiger Datenwissenschaftler bei insideAI Information, ist ein praktizierender Datenwissenschaftler, der schon lange mit Daten gearbeitet hat, bevor das Fachgebiet in Mode kam. Er freut sich besonders darauf, die stattfindende generative KI-Revolution genau zu verfolgen. Als Technologiejournalist hat er Freude daran, den Puls dieser schnelllebigen Branche zu verfolgen.

Generative KI (GenAI) hat in den letzten Jahren ein exponentielles Wachstum erlebt, das vor allem durch die Entwicklung großer Sprachmodelle (LLMs) vorangetrieben wurde. Diese Modelle verfügen über die bemerkenswerte Fähigkeit, menschenähnlichen Textual content zu generieren und Antworten auf eine Reihe von Fragen zu geben, was Innovationen in verschiedenen Bereichen vorantreibt, vom Kundenservice bis zur medizinischen Diagnostik. Trotz ihrer beeindruckenden Sprachkenntnisse stoßen LLMs jedoch mit gewissen Einschränkungen in Bezug auf die Genauigkeit konfrontiert, insbesondere in komplexen oder speziellen Wissensgebieten. Hier können fortschrittliche RAG-Techniken (Retrieval-Augmented Technology), insbesondere solche mit graphbasierter Wissensdarstellung, ihre Leistung erheblich steigern. Eine dieser innovativen Lösungen ist GraphRAG, das die Leistungsfähigkeit von Wissensgraphen mit LLMs kombiniert, um die Genauigkeit und das Kontextverständnis zu steigern.

Der Aufstieg generativer KI und LLMs

Große Sprachmodelle, die typischerweise auf riesigen Datensätzen aus dem Web trainiert werden, lernen Muster im Textual content und können so kohärente und kontextrelevante Antworten generieren. Während LLMs zwar in der Lage sind, allgemeine Informationen bereitzustellen, haben sie jedoch Schwierigkeiten mit sehr spezifischen Abfragen, seltenen Ereignissen oder Nischenthemen, die in ihren Trainingsdaten nicht so intestine repräsentiert sind. Darüber hinaus neigen LLMs zu „Halluzinationen“, bei denen sie plausibel klingende, aber ungenaue oder völlig erfundene Antworten generieren. Diese Halluzinationen können bei anspruchsvollen Anwendungen problematisch sein, bei denen es auf Präzision und Zuverlässigkeit ankommt.

Um diesen Herausforderungen zu begegnen, setzen Entwickler und Forscher zunehmend auf RAG-Methoden, bei denen das Sprachmodell während der Inferenz durch externe Wissensquellen ergänzt wird. In RAG-Frameworks ist das Modell in der Lage, relevante Informationen aus Datenbanken, strukturierten Dokumenten oder anderen Repositories abzurufen, was dazu beiträgt, seine Antworten auf Sachdaten zu stützen. Herkömmliche RAG-Implementierungen basierten hauptsächlich auf Textdatenbanken. Allerdings hat sich GraphRAG, das graphbasierte Wissensdarstellungen nutzt, als ausgefeilterer Ansatz herausgestellt, der eine weitere Verbesserung der Leistung von LLMs verspricht.

Retrieval-Augmented Technology (RAG) verstehen

Im Kern handelt es sich bei RAG um eine Technik, die Abruf- und Generierungsaufgaben in LLMs integriert. Wenn herkömmlichen LLMs eine Frage gestellt wird, generieren sie Antworten ausschließlich auf der Grundlage ihres internen Wissens, das sie aus ihren Trainingsdaten gewonnen haben. Bei RAG ruft das LLM jedoch zunächst relevante Informationen von einer externen Wissensquelle ab, bevor es eine Antwort generiert. Dieser Abrufmechanismus ermöglicht es dem Modell, Informationen „nachzuschlagen“, wodurch die Wahrscheinlichkeit von Fehlern aufgrund veralteter oder unzureichender Trainingsdaten verringert wird.

In den meisten RAG-Implementierungen basiert der Informationsabruf auf semantischen Suchtechniken, bei denen das Modell eine Datenbank oder einen Korpus nach den relevantesten Dokumenten oder Passagen durchsucht. Dieser abgerufene Inhalt wird dann zurück in das LLM eingespeist, um dessen Reaktion zu gestalten. Obwohl dieser Ansatz effektiv ist, kann er dennoch ungenügend sein, wenn die Komplexität der Informationsverbindungen über einfache textbasierte Suchen hinausgeht. In diesen Fällen müssen die semantischen Beziehungen zwischen verschiedenen Informationen strukturiert dargestellt werden – hier kommen Wissensgraphen ins Spiel.

Was ist GraphRAG?

GraphRAG (Graph-based Retrieval-Augmented Technology) baut auf dem RAG-Konzept auf, indem es anstelle eines Standardtextkorpus Wissensgraphen als Abrufquelle einbezieht. Ein Wissensgraph ist ein Netzwerk von Einheiten (z. B. Personen, Orte, Organisationen oder Konzepte), die durch Beziehungen miteinander verbunden sind. Diese Struktur ermöglicht eine differenziertere Darstellung von Informationen, bei der Entitäten nicht nur isolierte Datenknoten sind, sondern in einen Kontext sinnvoller Beziehungen eingebettet sind.

Durch die Nutzung von Wissensgraphen ermöglicht GraphRAG LLMs, Informationen auf eine Weise abzurufen, die die Vernetzung des realen Wissens widerspiegelt. In einer medizinischen Anwendung könnte beispielsweise ein herkömmliches textbasiertes Abrufmodell Passagen zu Symptomen oder Behandlungsoptionen unabhängig voneinander abrufen. Ein Wissensgraph hingegen würde es dem Modell ermöglichen, auf Informationen über Symptome, Diagnosen und Behandlungspfade zuzugreifen, sodass die Beziehungen zwischen diesen Entitäten offengelegt werden. Diese kontextbezogene Tiefe verbessert die Genauigkeit und Relevanz der Antworten, insbesondere bei komplexen oder vielschichtigen Abfragen.

Wie GraphRAG die LLM-Genauigkeit verbessert

1. Verbessertes Kontextverständnis: Die Wissensdiagramme von GraphRAG stellen Kontext bereit, den LLMs nutzen können, um die Nuancen einer Abfrage besser zu verstehen. Anstatt einzelne Fakten als isolierte Punkte zu behandeln, kann das Modell die Beziehungen zwischen ihnen erkennen und so zu Antworten führen, die nicht nur sachlich korrekt, sondern auch kontextuell kohärent sind.
2. Reduzierung von Halluzinationen: Indem GraphRAG seine Antworten auf eine strukturierte Wissensbasis stützt, verringert es die Wahrscheinlichkeit von Halluzinationen. Da das Modell relevante Entitäten und ihre Beziehungen aus einem kuratierten Diagramm abruft, ist es weniger anfällig für die Generierung unbegründeter oder spekulativer Informationen.
3. Verbesserte Effizienz in spezialisierten Bereichen: Wissensgraphen können für bestimmte Branchen oder Themen wie Finanzen, Recht oder Gesundheitswesen angepasst werden, sodass LLMs domänenspezifische Informationen effizienter abrufen können. Diese Anpassung ist besonders wertvoll für Unternehmen, die auf Spezialwissen angewiesen sind, wo herkömmliche LLMs aufgrund von Lücken in ihren allgemeinen Schulungsdaten möglicherweise nicht ausreichen.
4. Bessere Handhabung komplexer Abfragen: Herkömmliche RAG-Methoden können bei komplexen, mehrteiligen Abfragen Probleme bereiten, bei denen die Beziehungen zwischen verschiedenen Konzepten für eine genaue Antwort entscheidend sind. GraphRAG bietet mit seiner Fähigkeit, vernetztes Wissen zu navigieren und abzurufen, einen ausgefeilteren Mechanismus zur Erfüllung dieser komplexen Informationsbedürfnisse.

Anwendungen von GraphRAG in der Industrie

GraphRAG ist besonders vielversprechend für Anwendungen, bei denen Genauigkeit und Kontextverständnis unerlässlich sind. Im Gesundheitswesen kann es Ärzten helfen, indem es genauere Informationen zu Behandlungen und den damit verbundenen Risiken liefert. Im Finanzbereich kann es Einblicke in miteinander verbundene Markttrends und wirtschaftliche Faktoren bieten. Auch Bildungsplattformen können von GraphRAG profitieren, indem sie den Schülern reichhaltigere und kontextbezogenere Lernmaterialien anbieten.

Die Zukunft von GraphRAG und generativer KI

Während sich LLMs ständig weiterentwickeln, stellt die Integration von Wissensgraphen durch GraphRAG einen entscheidenden Schritt nach vorne dar. Dieser hybride Ansatz verbessert nicht nur die sachliche Genauigkeit von LLMs, sondern richtet ihre Antworten auch besser an der Komplexität realer Informationen aus. Für Unternehmen und Forscher gleichermaßen bietet GraphRAG ein leistungsstarkes Software, um das volle Potenzial generativer KI auf eine Weise zu nutzen, bei der sowohl Genauigkeit als auch kontextbezogene Tiefe im Vordergrund stehen.

Zusammenfassend lässt sich sagen, dass GraphRAG ein innovativer Fortschritt im GenAI-Ökosystem ist, der die Lücke zwischen umfangreichen Sprachmodellen und dem Bedarf an präziser, zuverlässiger und kontextbezogener KI schließt. Durch die Verknüpfung der Stärken von LLMs und strukturierten Wissensgraphen ebnet GraphRAG den Weg für eine Zukunft, in der generative KI sowohl vertrauenswürdiger als auch wirkungsvoller in entscheidungskritischen Anwendungen ist.

Melden Sie sich für die kostenlosen insideAI-Information an Publication.

Begleiten Sie uns auf Twitter: https://twitter.com/InsideBigData1

Treten Sie uns auf LinkedIn bei: https://www.linkedin.com/firm/insideainews/

Begleiten Sie uns auf Fb: https://www.fb.com/insideAINEWSNOW

Schauen Sie bei uns vorbei YouTube!

Einen Chatbot zu entwickeln, der echte Fragen beantworten und angemessene, präzise Antworten geben kann, ist wirklich eine schwierige Aufgabe. Zwar wurden bei großen Sprachmodellen bemerkenswerte Fortschritte erzielt, aber eine offene Herausforderung besteht darin, diese Modelle mit Wissensdatenbanken zu koppeln, um zuverlässige und kontextreiche Antworten zu liefern.

Die Hauptprobleme sind quick immer auf Trugbilder zurückzuführen (das Modell erzeugt falsche oder nicht vorhandene Informationen) und Kontextverständnis, wenn das Modell die nuancierten Beziehungen zwischen verschiedenen Informationen nicht versteht. Andere haben versucht, robuste Frage-und-Antwort-Systeme zu entwickeln, jedoch ohne großen Erfolg, da die Modelle oft dürftige Antworten liefern, obwohl sie mit umfassenden Wissensdatenbanken verbunden sind.

Während RAG Halluzinationen reduzieren kann, indem es die generierte Antwort mit realen Daten verknüpft, ist die genaue Beantwortung komplexer Fragen eine ganz andere Sache. Benutzer werden oft mit Antworten wie „Das xx-Thema wird im abgerufenen Textual content nicht explizit behandelt„selbst wenn die Wissensbasis die Informationen eindeutig enthält, wenn auch auf weniger offensichtliche Weise. Hier kommt GraphRAG (Graph Retrieval-Augmented Era) ins Spiel, das die Fähigkeit des Modells verbessert, präzise und kontextreiche Antworten zu liefern, indem es strukturierte Wissensgraphen nutzt.

RAG: Brücke zwischen Rückgewinnung und Erzeugung

RAG battle ein wichtiger Schritt, um die Vorteile sowohl abruf- als auch generierungsbasierter Methoden zu kombinieren. Bei einer Abfrage ruft RAG relevante Dokumente oder Passagen aus einem großen Korpus ab und generiert dann die Antwort mit diesen Informationen. Man kann daher sicher sein, dass der generierte Textual content informativ und kontextrelevant sein kann, da er auf Faktendaten basiert.

Zum Beispiel bei einer Frage wie „Was ist die Hauptstadt von Frankreich?“ Das RAG-System sucht in seinem Korpus nach Dokumenten, die sich auf das Land Frankreich und die Erwähnung seiner Hauptstadt Paris beziehen. Es ruft relevante Passagen ab und generiert eine Antwort wie: „Die Hauptstadt von Frankreich ist Paris.“ Dieser Stil passt sehr intestine zu einer einfachen Abfrage und klar dokumentierten Antworten.

RAG schwächelt jedoch bei komplexeren Abfragen, insbesondere bei solchen, bei denen man die Beziehungen zwischen Entitäten verstehen muss, wenn diese Beziehungen in den abgerufenen Dokumenten nicht explizit sind. Das System kommt bei Fragen wie diesen zum Erliegen und gerät ins Wanken. „Welchen Einfluss hatten die wissenschaftlichen Beiträge des 17. Jahrhunderts auf die Physik des frühen 20. Jahrhunderts?“ (mehr zu diesem Beispiel später).

GraphRAG: Die Leistungsfähigkeit von Wissensgraphen nutzen

GraphRAG, wie erstmals im Microsoft Analysis Weblog beschrieben Hierversucht, diese Einschränkungen zu umgehen, indem graphenbasierte Abfragemechanismen in das Modell integriert werden. Im Grunde wird der unstrukturierte Textual content der Wissensbasis in einen strukturierten Wissensgraphen umorganisiert, in dem Knoten Entitäten (z. B. Personen, Orte, Konzepte) und Kanten Beziehungen zwischen Entitäten darstellen. Dieses strukturierte Format ermöglicht es dem Modell, die Wechselbeziehungen zwischen verschiedenen Informationen besser zu verstehen und zu nutzen.

Lassen Sie uns nun etwas mehr ins Element gehen, um das Konzept von GraphRAG im Vergleich mit RAG auf einfache Weise zu verstehen.

Nehmen wir als Ausgangspunkt eine hypothetische Wissensbasis, die aus Sätzen aus verschiedenen wissenschaftlichen und historischen Texten besteht:

1. „Albert Einstein entwickelte die Relativitätstheorie, die die theoretische Physik und Astronomie revolutionierte.“

2. „Die Relativitätstheorie wurde Anfang des 20. Jahrhunderts formuliert und hatte einen tiefgreifenden Einfluss auf unser Verständnis von Raum und Zeit.“

3. „Isaac Newton, bekannt für seine Bewegungsgesetze und die universelle Gravitation, legte den Grundstein für die klassische Mechanik.“

4. „Im Jahr 1915 stellte Einstein die allgemeine Relativitätstheorie vor und baute damit auf seinen früheren Arbeiten zur speziellen Relativitätstheorie auf.“

5. „Newtons Arbeiten im 17. Jahrhundert bildeten die Grundlage für einen Großteil der modernen Physik.“

In einem RAG-System würden diese Sätze als unstrukturierter Textual content gespeichert. Und die Frage „Welchen Einfluss hatten die wissenschaftlichen Beiträge des 17. Jahrhunderts auf die Physik des frühen 20. Jahrhunderts?“hätte das System beispielsweise in eine schwierige Lage bringen können, wenn die genaue Formulierung und Abrufqualität der Dokumente verbanden nicht der Einfluss des 17. Jahrhunderts direkt mit der Physik des frühen 20. Jahrhunderts. RAG könnte Antworten geben wie „Isaac Newtons Arbeiten im 17. Jahrhundert bildeten die Grundlage für einen Großteil der modernen Physik. Albert Einstein entwickelte im frühen 20. Jahrhundert die Relativitätstheorie“, da der Mechanismus zwar relevante Informationen abrufen konnte, den Einfluss der Physik des 17. Jahrhunderts auf die Entwicklungen des frühen 20. Jahrhunderts jedoch nicht klar erklären kann.

GraphRAG hingegen verwandelt diesen Textual content in einen strukturierten Wissensgraphen. Ein Wissensgraph stellt dar, wie verschiedene Dinge miteinander in Beziehung stehen. Er verwendet eine Reihe von Ontologien, additionally Regeln, die dabei helfen, die Informationen zu organisieren. Auf diese Weise kann er nicht nur die offensichtlichen, sondern auch versteckte Verbindungen finden.

Mithilfe des GraphRAG-Programs wird die vorherige Wissensbasis wie folgt in Knoten und Kanten umgewandelt.

Nodes: Albert Einstein, idea of relativity, theoretical physics, astronomy, early twentieth century, house, time, Isaac Newton, legal guidelines of movement, common gravitation, classical mechanics, 1915, normal idea of relativity, particular relativity, seventeenth century, trendy physics.

Edges:
- (Albert Einstein) - (developed) → (idea of relativity)
- (idea of relativity) - (revolutionized) → (theoretical physics)
- (idea of relativity) - (revolutionized) → (astronomy)
- (idea of relativity) - (formulated in) → (early twentieth century)
- (idea of relativity) - (impacted) → (understanding of house and time)
- (Isaac Newton) - (recognized for) → (legal guidelines of movement)
- (Isaac Newton) - (recognized for) → (common gravitation)
- (Isaac Newton) - (laid the groundwork for) → (classical mechanics)
- (normal idea of relativity) - (offered by) → (Albert Einstein)
- (normal idea of relativity) - (expanded on) → (particular relativity)
- (Newton's work) - (offered basis for) → (trendy physics)

Wenn Sie dazu aufgefordert werden, Frage „Welchen Einfluss hatten die wissenschaftlichen Beiträge des 17. Jahrhunderts auf die Physik des frühen 20. Jahrhunderts?“ Der auf GraphRAG basierende Retriever kann den Fortschritt von Newtons Arbeit zu Einsteins Fortschritten erkennen und den Einfluss der Physik des 17. Jahrhunderts auf die Entwicklung des frühen 20. Jahrhunderts hervorheben. Diese strukturierte Abfrage ermöglicht eine kontextbezogene und genaue Antwort.: „Isaac Newtons im 17. Jahrhundert formulierte Gesetze der Bewegung und der universellen Gravitation bildeten die Grundlage der klassischen Mechanik. Diese Prinzipien beeinflussten Albert Einsteins Entwicklung der Relativitätstheorie im frühen 20. Jahrhundert, die unser Verständnis von Raum und Zeit erweiterte.“