KISystemen – chatgpz.de – KI-Tools & Praxiswissen https://chatgpz.de Unabhängige Tests, Anleitungen und Hintergründe zu KI-Tools. Fri, 27 Feb 2026 00:49:49 +0000 de-DE hourly 1 https://wordpress.org/?v=6.4.2 234900186 Entwerfen von Daten- und KI-Systemen, die in der Produktion bestehen https://chatgpz.de/machine-learning/entwerfen-von-daten-und-ki-systemen-die-in-der-produktion-bestehen/ https://chatgpz.de/machine-learning/entwerfen-von-daten-und-ki-systemen-die-in-der-produktion-bestehen/#respond Fri, 27 Feb 2026 00:49:49 +0000 http://chatgpz.de/machine-learning/entwerfen-von-daten-und-ki-systemen-die-in-der-produktion-bestehen/ [ad_1]

In der Reihe „Creator Highlight“ unterhalten sich TDS-Redakteure mit Mitgliedern unserer Group über ihren Karriereweg in den Bereichen Datenwissenschaft und KI, ihr Schreiben und ihre Inspirationsquellen. Heute freuen wir uns, unser Gespräch mit Ihnen zu teilen Mike Hüls.

Mike ist ein technischer Leiter, der an der Schnittstelle von Datentechnik, KI und Architektur arbeitet und Unternehmen dabei hilft, komplexe Datenlandschaften in zuverlässige, nutzbare Systeme umzuwandeln. Mit einem starken Full-Stack-Hintergrund entwirft er Finish-to-Finish-Lösungen, die technische Tiefe mit geschäftlichem Nutzen in Einklang bringen. Neben der Kundenarbeit entwickelt und teilt er praktische Instruments und Erkenntnisse zu Datenplattformen, KI-Systemen und skalierbaren Architekturen.

Sehen Sie sich als Full-Stack-Entwickler? Wie verändert Ihre Erfahrung im gesamten Stack (vom Frontend bis zur Datenbank) Ihre Sicht auf die Rolle des Datenwissenschaftlers?

Das tue ich, aber nicht in dem Sinne, dass ich jede Schicht persönlich aufbaue. Für mich bedeutet Full-Stack zu verstehen, wie Architekturentscheidungen auf einer Ebene das Systemverhalten, das Risiko und die Kosten im Laufe der Zeit beeinflussen. Diese Perspektive ist bei der Gestaltung von Systemen, die Veränderungen überstehen müssen, von entscheidender Bedeutung.

Diese Perspektive beeinflusst auch, wie ich die Rolle des Datenwissenschaftlers sehe. In Notebooks erstellte Modelle sind nur der Anfang. Ein echter Wert entsteht, wenn diese Modelle in Produktionssysteme mit geeigneten Datenpipelines, APIs, Governance und benutzerorientierten Schnittstellen eingebettet werden. Die Datenwissenschaft wird wirkungsvoll, wenn sie als zentraler Bestandteil eines größeren Programs und nicht als isolierte Aktivität behandelt wird.

Sie decken ein breites Themenspektrum ab. Wie entscheiden Sie, worauf Sie sich als nächstes konzentrieren möchten, und woher wissen Sie, wann es sich lohnt, ein neues Thema zu erkunden?

Ich neige dazu, wiederkehrenden Reibungen zu folgen. Wenn ich sehe, dass mehrere Groups mit den gleichen Problemen zu kämpfen haben, sei es technischer oder organisatorischer Artwork, werte ich das als Zeichen dafür, dass das Drawback eher struktureller als individueller Natur ist und es sich lohnt, auf Architektur- oder Prozessebene angegangen zu werden.

Ich experimentiere auch bewusst mit neuen Technologien, nicht aus Neuheitsgründen, sondern um ihre Kompromisse zu verstehen. Ein Thema ist es wert, darüber geschrieben zu werden, wenn es entweder ein echtes Drawback löst, mit dem ich derzeit konfrontiert bin, oder Risiken aufdeckt, die noch nicht allgemein verstanden sind. Schließlich schreibe ich über Themen, die ich persönlich interessant und erforschenswert finde, denn anhaltendes Interesse ermöglicht es mir, tiefer einzusteigen.

Sie haben über LangGraph, MCP und selbst gehostete Agenten geschrieben. Was ist Ihrer Meinung nach das größte Missverständnis, das die Menschen heutzutage über KI-Agenten haben?

Agenten sind wirklich mächtig und eröffnen neue Möglichkeiten. Das Missverständnis ist, dass sie einfach sind. Heutzutage ist es einfach, eine Cloud-Infrastruktur aufzubauen, ein Agent-Framework zu verbinden und etwas zu produzieren, das scheinbar funktioniert. Diese Zugänglichkeit ist wertvoll, verbirgt jedoch viel Komplexität.

Sobald Agenten über Demos hinausgehen, kommen die wahren Herausforderungen zum Vorschein. Zustandsverwaltung, Berechtigungen, Kostenkontrolle, Beobachtbarkeit und Fehlerbehandlung werden oft unterschätzt. Ohne klare Grenzen und Eigenverantwortung wird die Arbeit der Agenten unberechenbar, teuer und riskant. Es handelt sich dabei nicht nur um Eingabeaufforderungen mit Werkzeugen; Sie sind langlebige Softwaresysteme und müssen entsprechend entwickelt und betrieben werden.

In Ihrem Artikel über Geschichtete ArchitekturSie erwähnen, dass sich das Hinzufügen von Funktionen oft wie eine „Operation am offenen Herzen“ anfühlen kann. Was ist Ihr wichtigster Rat für einen Anfänger oder ein kleines Datenteam, das dies vermeiden möchte, zum Aufbau einer Architektur?

„Die einzige Konstante ist der Wandel“ ist aus gutem Grund ein Klischee. Optimieren Sie additionally eher für den Wandel als für die anfängliche Liefergeschwindigkeit. Selbst eine minimale Kind des mehrschichtigen Denkens hilft: die Trennung von Domänenlogik, Anwendungsfluss und Infrastrukturbelangen.

Das Ziel ist nicht die architektonische Perfektion vom ersten Tag an oder die perfekte Kategorisierung. Es geht darum, klare Grenzen zu schaffen, die es dem System ermöglichen, sich ohne ständige Neufassungen weiterzuentwickeln. Eine geringe Disziplin im Vorfeld zahlt sich deutlich aus, wenn die Systeme wachsen.

Sie haben einen Benchmark durchgeführt PostgreSQL-Einfügestrategien und stellte fest, dass „schneller nicht immer besser ist.“ In welchem ​​Szenario würden Sie in einer Produktions-ML-Pipeline bewusst eine langsamere und sicherere Einfügemethode wählen?

Wenn Korrektheit, Rückverfolgbarkeit und Wiederherstellbarkeit wichtiger sind als der reine Durchsatz. In vielen Pipelines bietet eine Verkürzung der Laufzeit um einige Sekunden kaum Vorteile im Vergleich zu dem Risiko, das durch schwächere Garantien entsteht.

Beispielsweise profitieren Pipelines, die behördliche Berichte, Finanzentscheidungen oder langlebige Schulungsdatensätze einspeisen, von Transaktionssicherheit und expliziter Validierung. Die stille Datenbeschädigung ist weitaus kostspieliger als das Eingehen bescheidener Leistungseinbußen, insbesondere wenn Daten zu einem langfristigen Vermögenswert werden, auf dem andere aufbauen können.

In deinem Persönliche, vermittlerische Assistenten Artikel, Sie haben eine 100 % personal, selbst gehostete Plattform aufgebaut. Warum struggle es für Sie wichtiger, „Token-Kosten“ und „Datenlecks“ zu vermeiden, als ein leistungsfähigeres, cloudbasiertes LLM zu verwenden?

In meiner täglichen Arbeit habe ich die Erfahrung gemacht, dass Vertrauen in ein System für die Systemeinführung von grundlegender Bedeutung ist. Token-Kosten, undurchsichtige Datenflüsse und externe Abhängigkeiten beeinflussen subtil die Artwork und Weise, wie Systeme genutzt und wahrgenommen werden.

Ich habe mich auch bewusst dafür entschieden, meine persönlichen oder sensiblen Daten nicht über externe Cloud-Anbieter weiterzuleiten, da es nur begrenzte Garantien für den langfristigen Umgang mit Daten gibt. Indem ich das System selbst gehostet halte, könnte ich einen Assistenten entwickeln, der vorhersehbar und überprüfbar ist und den europäischen Datenschutzerwartungen entspricht. Benutzer haben die volle Kontrolle darüber, worauf der Assistent Zugriff hat, und dies senkt die Hürde für die Nutzung des Assistenten.

Schließlich erfordert nicht jeder Anwendungsfall das größte oder teuerste Modell. Durch die Entkopplung des Programs von einem einzigen Anbieter können Benutzer das Modell auswählen, das ihren Anforderungen am besten entspricht und Leistungsfähigkeit, Kosten und Risiko in Einklang bringt.

Wie wird sich Ihrer Meinung nach der Arbeitsalltag eines Datenprofis im Jahr 2026 verändern?

Entgegen verbreiteter Stereotypen sind Daten- und Software program-Engineering äußerst soziale Berufe. Ich bin fest davon überzeugt, dass der wichtigste Teil der Arbeit vor dem Schreiben von Code stattfindet: die Abstimmung mit den Stakeholdern, das Verstehen des Problembereichs und das Entwerfen von Lösungen, die zu vorhandenen Systemen und Groups passen.

Diese Vorarbeit wird noch wichtiger, da die agentengestützte Entwicklung die Implementierung beschleunigt. Ohne klare Ziele, Kontexte und Einschränkungen verstärken Agenten eher die Verwirrung als die Produktivität.

Im Jahr 2026 werden Datenexperten mehr Zeit damit verbringen, Systeme zu gestalten, Grenzen zu definieren, Annahmen zu validieren und verantwortungsvolles Verhalten in Produktionsumgebungen sicherzustellen.

Mit Blick auf den Relaxation des Jahres 2026: Welche großen Themen werden Ihrer Meinung nach das Jahr für Datenprofis bestimmen? Warum?

Generative KI und agentenbasierte Systeme werden weiter wachsen, aber der größere Wandel ist ihre Reifung zu erstklassigen Produktionssystemen und nicht zu Experimenten.

Dieser Übergang hängt von vertrauenswürdigen, qualitativ hochwertigen, zugänglichen Daten und robusten technischen Praktiken ab. Infolgedessen werden Full-Stack-Denken und Design auf Systemebene für Unternehmen, die KI verantwortungsvoll und maßstabsgetreu einsetzen möchten, immer wichtiger.

Um mehr über Mikes Arbeit zu erfahren und über seine neuesten Artikel auf dem Laufenden zu bleiben, können Sie ihm folgen TDS oder LinkedIn.

[ad_2]

]]>
https://chatgpz.de/machine-learning/entwerfen-von-daten-und-ki-systemen-die-in-der-produktion-bestehen/feed/ 0 16644
Die Schnittstelle von Gedächtnis und Erdung in KI-Systemen | von Sandi Besen | Jul, 2024 https://chatgpz.de/machine-learning/die-schnittstelle-von-gedaechtnis-und-erdung-in-ki-systemen-von-sandi-besen-jul-2024/ https://chatgpz.de/machine-learning/die-schnittstelle-von-gedaechtnis-und-erdung-in-ki-systemen-von-sandi-besen-jul-2024/#respond Wed, 24 Jul 2024 20:27:22 +0000 https://chatgpz.de/machine-learning/die-schnittstelle-von-gedaechtnis-und-erdung-in-ki-systemen-von-sandi-besen-jul-2024/ [ad_1]

Im Kontext von Sprachmodellen und agentenbasierter KI sind Gedächtnis und Erdung wichtige und aufstrebende Forschungsfelder. Und obwohl sie in einem Satz oft eng nebeneinander stehen und oft miteinander verbunden sind, erfüllen sie in der Praxis unterschiedliche Funktionen. In diesem Artikel möchte ich die Verwirrung um diese beiden Begriffe aufklären und zeigen, welche Rolle das Gedächtnis bei der allgemeinen Erdung eines Modells spielen kann.

Quelle: Dalle3, Beschreibung: Gespaltene Teile des Gehirns stellen Erinnerung und Erdung im Stil eines freundlichen Cartoons dar

In meinem letzten Artikel haben wir über die Wichtige Rolle des Gedächtnisses in der agentenbasierten KI. Das Gedächtnis in Sprachmodellen bezieht sich auf die Fähigkeit von KI-Systemen, relevante Informationen zu behalten und abzurufen, was zu ihrer Fähigkeit beiträgt, logisch zu denken und kontinuierlich aus ihren Erfahrungen zu lernen. Das Gedächtnis kann in vier Kategorien eingeteilt werden: Kurzzeitgedächtnis, Langzeitgedächtnis, Langzeitgedächtnis und Arbeitsgedächtnis.

Das klingt kompliziert, aber lassen Sie es uns einfach aufschlüsseln:

Kurzzeitgedächtnis (KZG):

Das KTM speichert Informationen für einen sehr kurzen Zeitraum, der Sekunden bis Minuten betragen kann. Wenn Sie einem Sprachmodell eine Frage stellen, muss es Ihre Nachrichten lange genug speichern, um eine Antwort auf Ihre Frage zu generieren. Genau wie Menschen haben Sprachmodelle Schwierigkeiten, sich zu viele Dinge gleichzeitig zu merken.

Millers Gesetzbesagt, dass „das Kurzzeitgedächtnis ein Bestandteil des Gedächtnisses ist, der eine kleine Menge an Informationen in einem aktiven, leicht verfügbaren Zustand für einen kurzen Zeitraum, typischerweise einige Sekunden bis eine Minute, speichert. Die Dauer des Kurzzeitgedächtnisses scheint zwischen 15 und 30 Sekunden zu liegen, und die Kapazität des Kurzzeitgedächtnisses ist begrenzt und wird oft auf etwa 7±2 Elemente geschätzt.“

Wenn Sie additionally ein Sprachmodell fragen: „Zu welchem ​​Style gehört das Buch, das ich in meiner vorherigen Nachricht erwähnt habe?“, muss es sein Kurzzeitgedächtnis nutzen, um auf aktuelle Nachrichten zu verweisen und eine relevante Antwort zu generieren.

Implementierung:

Der Kontext wird in externen Systemen gespeichert, beispielsweise in Sitzungsvariablen oder Datenbanken, die einen Teil des Konversationsverlaufs enthalten. Jede neue Benutzereingabe und Assistentenantwort wird an den vorhandenen Kontext angehängt, um einen Konversationsverlauf zu erstellen. Während der Inferenz wird der Kontext zusammen mit der neuen Abfrage des Benutzers an das Sprachmodell gesendet, um eine Antwort zu generieren, die die gesamte Konversation berücksichtigt. Dies Forschungsbericht bietet einen tieferen Einblick in die Mechanismen, die das Kurzzeitgedächtnis ermöglichen.

Kurz- und Langzeitgedächtnis (SLTM):

SLTM speichert Informationen für einen moderaten Zeitraum, der von Minuten bis Stunden reichen kann. Beispielsweise können Sie innerhalb derselben Sitzung dort weitermachen, wo Sie in einem Gespräch aufgehört haben, ohne den Kontext wiederholen zu müssen, da er als SLTM gespeichert wurde. Dieser Prozess ist auch ein externer Prozess und kein Teil des Sprachmodells selbst.

Implementierung:

Sitzungen können mithilfe von Kennungen verwaltet werden, die Benutzerinteraktionen im Laufe der Zeit verknüpfen. Kontextdaten werden so gespeichert, dass sie über Benutzerinteraktionen hinweg innerhalb eines definierten Zeitraums bestehen bleiben, z. B. in einer Datenbank. Wenn ein Benutzer die Konversation fortsetzt, kann das System den Konversationsverlauf aus vorherigen Sitzungen abrufen und ihn während der Inferenz an das Sprachmodell weitergeben. Ähnlich wie beim Kurzzeitgedächtnis wird jede neue Benutzereingabe und jede Assistentenantwort an den vorhandenen Kontext angehängt, um den Konversationsverlauf aktuell zu halten.

Langzeitgedächtnis (LTM):

LTM speichert Informationen für einen vom Administrator festgelegten Zeitraum, der unbegrenzt sein kann. Wenn wir beispielsweise einen KI-Tutor entwickeln würden, wäre es für das Sprachmodell wichtig zu verstehen, in welchen Fächern der Schüler gute Leistungen erbringt, wo er noch Schwierigkeiten hat, welche Lernstile für ihn am besten geeignet sind und vieles mehr. Auf diese Weise kann das Modell relevante Informationen abrufen, um seine zukünftigen Unterrichtspläne zu erstellen. Eichhörnchen-KI ist ein Beispiel für eine Plattform, die das Langzeitgedächtnis nutzt, um „personalisierte Lernpfade zu erstellen, gezielt zu unterrichten und bei Bedarf emotionale Interventionen bereitzustellen“.

Implementierung:

Informationen können in strukturierten Datenbanken, Wissensgraphen oder Dokumentspeichern gespeichert werden, die bei Bedarf abgefragt werden. Relevante Informationen werden basierend auf der aktuellen Interaktion und dem bisherigen Verlauf des Benutzers abgerufen. Dies bietet Kontext für das Sprachmodell, das mit der Antwort des Benutzers oder der Systemaufforderung zurückgegeben wird.

Arbeitsspeicher:

Der Arbeitsspeicher ist eine Komponente des Sprachmodells selbst (im Gegensatz zu den anderen Speichertypen, die externe Prozesse sind). Er ermöglicht es dem Sprachmodell, Informationen zu speichern, zu bearbeiten und zu verfeinern – und verbessert so die Denkfähigkeit des Modells. Dies ist wichtig, da sich das Verständnis der Aufgabe und die Schritte, die es zur Ausführung unternehmen muss, während das Modell die Anfrage des Benutzers verarbeitet, ändern kann. Sie können sich den Arbeitsspeicher als Notizblock des Modells für seine Gedanken vorstellen. Wenn beispielsweise ein mehrstufiges mathematisches Downside wie (5 + 3) * 2 vorliegt, muss das Sprachmodell in der Lage sein, die (5+3) in den Klammern zu berechnen und diese Informationen zu speichern, bevor die Summe der beiden Zahlen mit 2 multipliziert wird. Wenn Sie sich tiefer mit diesem Thema befassen möchten, finden Sie die Papier „TransformerFAM: Suggestions consideration is working reminiscence“ bietet einen neuen Ansatz zur Erweiterung des Arbeitsgedächtnisses und ermöglicht es einem Sprachmodell, Eingaben/Kontextfenster unbegrenzter Länge zu verarbeiten.

Implementierung:

Mechanismen wie Aufmerksamkeitsebenen in Transformatoren oder versteckte Zustände in rekurrierenden neuronalen Netzwerken (RNNs) sind für die Aufrechterhaltung von Zwischenberechnungen verantwortlich und bieten die Möglichkeit, Zwischenergebnisse innerhalb derselben Inferenzsitzung zu manipulieren. Während das Modell Eingaben verarbeitet, aktualisiert es seinen internen Zustand, was stärkere Denkfähigkeiten ermöglicht.

Alle vier Speichertypen sind wichtige Komponenten für die Erstellung eines KI-Methods, das Informationen über verschiedene Zeiträume und Kontexte hinweg effektiv verwalten und nutzen kann.

Tabelle der Speichertypen in KI-Systemen, Quelle: Sandi Besen

Die Antworten eines Sprachmodells sollten im Kontext des Gesprächs immer Sinn ergeben – sie sollten nicht nur aus einer Ansammlung von Tatsachenbehauptungen bestehen.. Grounding misst die Fähigkeit eines Modells, eine Ausgabe zu produzieren, die kontextbezogen related und sinnvoll ist. Der Prozess des Grounding eines Sprachmodells kann eine Kombination aus Sprachmodelltraining, Feinabstimmung und externen Prozessen (einschließlich Gedächtnis!) sein.

Coaching und Feinabstimmung des Sprachmodells

Die Daten, mit denen das Modell anfangs trainiert wird, machen einen wesentlichen Unterschied darin, wie fundiert das Modell ist. Das Coaching eines Modells mit einem großen Korpus unterschiedlicher Daten ermöglicht es ihm, Sprachmuster, Grammatik und Semantik zu lernen, um das nächste relevante Wort vorherzusagen. Das vorab trainierte Modell wird dann anhand domänenspezifischer Daten feinabgestimmt, was ihm hilft, relevantere und genauere Ergebnisse für bestimmte Anwendungen zu generieren, die tieferes domänenspezifisches Wissen erfordern. Dies ist besonders wichtig, wenn das Modell bei bestimmten Texten, mit denen es während seines anfänglichen Trainings möglicherweise nicht konfrontiert wurde, gute Ergebnisse erzielen soll. Obwohl unsere Erwartungen an die Fähigkeiten eines Sprachmodells hoch sind, können wir nicht erwarten, dass es bei etwas, das es noch nie zuvor gesehen hat, gute Ergebnisse erzielt. Genauso wie wir von einem Schüler nicht erwarten würden, dass er bei einer Prüfung intestine abschneidet, wenn er den Stoff nicht gelernt hat.

Externer Kontext

Wenn Sie das Modell mit kontextspezifischen Echtzeitinformationen oder aktuellen Informationen versorgen, bleibt es auch auf dem Boden der Tatsachen. Dafür gibt es viele Methoden, beispielsweise die Integration mit externen Wissensdatenbanken, APIs und Echtzeitdaten. Diese Methode wird auch als Retrieval Augmented Era (RAG) bezeichnet.

Speichersysteme

Gedächtnissysteme in der KI spielen eine entscheidende Rolle dabei, sicherzustellen, dass das System auf der Grundlage seiner zuvor ausgeführten Aktionen, gewonnenen Erkenntnisse, seiner Leistung im Laufe der Zeit und seiner Erfahrungen mit Benutzern und anderen Systemen geerdet bleibt. Die vier zuvor im Artikel beschriebenen Gedächtnistypen spielen eine entscheidende Rolle dabei, die Fähigkeit eines Sprachmodells zu erden, kontextbewusst zu bleiben und relevante Ergebnisse zu liefern. Gedächtnissysteme arbeiten Hand in Hand mit Erdungstechniken wie Coaching, Feinabstimmung und externer Kontextintegration, um die Gesamtleistung und Relevanz des Modells zu verbessern.

Gedächtnis und Erdung sind miteinander verbundene Elemente, die die Leistung und Zuverlässigkeit von KI-Systemen verbessern. Während das Gedächtnis es der KI ermöglicht, Informationen über verschiedene Zeiträume hinweg zu behalten und zu verarbeiten, stellt die Erdung sicher, dass die Ausgaben der KI kontextbezogen related und aussagekräftig sind. Durch die Integration von Gedächtnissystemen und Erdungstechniken können KI-Systeme ein höheres Maß an Verständnis und Effektivität bei ihren Interaktionen und Aufgaben erreichen.

[ad_2]

]]>
https://chatgpz.de/machine-learning/die-schnittstelle-von-gedaechtnis-und-erdung-in-ki-systemen-von-sandi-besen-jul-2024/feed/ 0 2573