nützliche Arbeit findet immer noch innerhalb von Webschnittstellen statt.

Um ein Ticket zu lösen, muss das Help-Staff eine Admin-Konsole verwenden. Ein Betriebsteam verlässt sich auf Dashboards, um Alarme im Auge zu behalten. Bevor ein Vertriebsmitarbeiter mit einem Kunden spricht, wird er wahrscheinlich zunächst das CRM überprüfen.

Damit LLM-Agenten in diesen Arbeitsabläufen nützlich sind, müssen sie direkt über den Browser arbeiten.

In diesem Beitrag erstellen wir einen browserbasierten Agenten mit OpenAI Brokers SDK und Playwright MCP. Wir betrachten zunächst den Kreislauf hinter der Browsernutzung und setzen ihn dann anhand einer konkreten Fallstudie in die Praxis um.

---

1. Das mentale Modell

Auf einer höheren Ebene wird ein Browser-verwendender Agent am besten als ein LLM verstanden, der in einer Interaktionsschleife mit einem Browser platziert ist.

Die Schleife läuft folgendermaßen ab: Der Agent startet mit einer Aufgabe und dem aktuellen Standing des Browsers. Der Agent interpretiert dann diesen Zustand, entscheidet, was als nächstes zu tun ist, und sendet eine Aktion zurück an den Browser. Diese Aktion würde einen neuen Browserstatus erzeugen, der als Eingabe für die nächste Entscheidung dient.

Diese Schleife wird fortgesetzt, bis der Agent glaubt, dass die Aufgabe abgeschlossen ist.

Damit die Schleife funktioniert, benötigen wir zwei Verbindungen zwischen dem Agenten und dem Browser:

1. Ein Beobachtungskanaldamit der Agent den aktuellen Browserstatus erhalten kann.
2. Ein Aktionskanaldamit der Agent mit dem Browser interagieren kann.

Zu den gängigen Optionen für den Beobachtungskanal gehören Screenshots, strukturierte Seiteninformationen (z. B. Dokumentobjektmodell oder Barrierefreiheitsbaum) oder eine Kombination aus beidem.

Für den Aktionskanal kann der Agent Maus- und Tastatursteuerungen verwenden, auf bestimmte Seitenelemente abzielen oder übergeordnete Browserbefehle ausgeben.

Die Beobachtungs- und Handlungsentscheidungen sind normalerweise unabhängig voneinander, in der Praxis sind jedoch häufig zwei Paarungen zu beobachten:

1. Screenshot + koordinatenbasierte Maus- und Tastaturaktionen
2. Strukturierter Seitenstatus + elementbezogene Browseraktionen

Die erste Paarung tendiert zum Allgemeinen Computernutzungdie sich über den Browser hinaus auf andere Desktop-Anwendungen erstreckt. Die zweite Möglichkeit ist spezifischer für die Verwendung im Browser, da sie die Struktur nutzt, die bereits in einer Webseite vorhanden ist.

In diesem Beitrag konzentrieren wir uns auf strukturierte Seitenbeobachtungen zusammen mit elementbezogenen Browseraktionen.

---

2. Fallstudie: Lösung einer Kundensupportanfrage

Für unsere Fallstudie erstellen wir einen browserbasierten Agenten, der eine Kundenanfrage über eine webbasierte Supportkonsole löst.

2.1 Vorbereiten der Help-Konsole

Um die Browserumgebung zu erstellen, habe ich eine kleine Kundensupportkonsole mit Vibe-Code versehen. Es handelt sich um eine statische Webanwendung, die mit einfachem HTML, CSS und JavaScript erstellt wurde. Es gibt kein Anwendungs-Backend oder eine Datenbank: Alle Daten befinden sich im Browser.

Wir können die Konsole lokal mit dem integrierten HTTP-Server von Python bereitstellen:

cd toy_app
python -m http.server 8000 --bind 127.0.0.1

Dadurch wird die Konsole unter http://127.0.0.1:8000 verfügbar, unter der wir später den Agenten übergeben APP_URL:

Die linke Seite der Konsole funktioniert wie ein Help-Posteingang. Sobald ein Fall ausgewählt ist, werden im Relaxation der Konsole die zugehörige Bestellung, der Kundenkontext und die Lösungsrichtlinien angezeigt. Von dort aus kann der Fall mit einer internen Notiz geklärt werden. Die Konsole verfügt außerdem über ein Audit-Protokoll, das das Replace verfolgt.

Die Aufgabe des Agenten ist einfach: Untersuchen Sie einen eingehenden Help-Fall und führen Sie ihn bis zur Lösung durch, und zwar vollständig über diese Konsolenschnittstelle.

2.2 Definieren des Browser-verwendenden Agenten

Als nächstes konfigurieren wir den Browser-verwendenden Agenten.

Für den Tech-Stack verwenden wir hier den OpenAI Brokers SDK um die Agent-Laufzeit mit Strom zu versorgen und Dramatiker MCP um den Agenten mit dem Browser zu verbinden.

Unser endgültiger, konfigurierter Agent sieht so aus:

# pip set up openai-agents
from brokers import Agent, ModelSettings
from openai.sorts.shared import Reasoning

agent = Agent(
    title="Help Console Browser Agent",
    mannequin="gpt-5.4",
    model_settings=ModelSettings(
        reasoning=Reasoning(effort="medium"),
    ),
    directions=AGENT_INSTRUCTIONS,
    mcp_servers=(playwright_server),
)

Es gibt drei Teile, die wir hier entpacken müssen, nämlich den LLM-Consumer, die Agentenanweisung und die Browser-Instruments.

Zuerst verbinden wir das Brokers SDK mit Azure OpenAI:

import os
from openai import AsyncAzureOpenAI
from brokers import (
    set_default_openai_api,
    set_default_openai_client,
)

azure_client = AsyncAzureOpenAI(
    api_key=os.environ("OPENAI_API_KEY"),
    api_version=os.environ("OPENAI_API_VERSION"),
    azure_endpoint=os.environ("OPENAI_API_BASE"),
)

set_default_openai_client(azure_client)
set_default_openai_api("responses")

Wir registrieren den Consumer beim Brokers SDK und konfigurieren ihn für die Verwendung der Responses API.

Dann haben wir die folgende Anweisung, die absichtlich minimal ist:

AGENT_INSTRUCTIONS = """
You might be an agent that may work together with an internet browser.
""".strip()

Wir richten lediglich die Rolle des Agenten ein. Die eigentliche Aufgabe kommt später in der Eingabeaufforderung, die an den Agenten gesendet wird.

Als nächstes müssen wir das Playwright MCP einrichten.

Was ist Dramatiker MCP?
Playwright ist eine Browser-Automatisierungsbibliothek. Es steuert in Ihrem Namen einen echten Browser und übernimmt das Klicken, Tippen, Navigieren und Lesen aller Inhalte auf der Seite.

MCP (Mannequin Context Protocol) ist eine Standardmethode, um Instruments einem LLM zur Verfügung zu stellen, damit ein Agent sie direkt aufrufen kann. Playwright MCP ist das, was Sie erhalten, wenn Sie beides zusammenfügen, nämlich die Browserfunktionen von Playwright, die als Instruments zur Verfügung stehen, die ein Agent in die Hand nehmen und verwenden kann.

Das Interessante daran ist, wie es dem Agenten die Seite zeigt. Anstelle eines Screenshots verwendet Playwright MCP standardmäßig einen Schnappschuss der Barrierefreiheitwas im Grunde eine strukturierte Lektüre dessen ist, was auf der Seite steht. Interaktive Elemente wie Hyperlinks, Schaltflächen und Eingabefelder erhalten jeweils eine Referenz-ID, auf die der Agent direkt abzielen kann. Das ist genau die Kombination aus strukturierter Beobachtung und elementbezogener Aktion, über die wir zuvor gesprochen haben.

Playwright MCP läuft über Node.js. So installieren Sie Node.js unter Home windows:

winget set up OpenJS.NodeJS.LTS

Auf macOS:

brew set up node

Und unter Linux:

curl -o- https://uncooked.githubusercontent.com/nvm-sh/nvm/v0.40.5/set up.sh | bash
. "$HOME/.nvm/nvm.sh"
nvm set up --lts

Überprüfen Sie dann die Set up:

node --version
npx --version

Wir können das Brokers SDK folgendermaßen konfigurieren, um den MCP-Server zu starten npx Befehl:

from brokers.mcp import MCPServerStdio

playwright_server = MCPServerStdio(
    title="Playwright MCP",
    params={
        "command": "npx",
        "args": (
            "-y",
            "@playwright/mcp@newest",
            "--browser",
            "chrome",
        ),
    },
)

Hier, npx Ruft das neueste Playwright MCP-Paket ab und führt es aus. Der -y Flag akzeptiert automatisch die npx Bestätigungsaufforderung, während --browser chrome teilt Playwright mit, welcher Browser gestartet werden soll. Chrome ist auch der Standardbrowser von Playwright MCP. Wenn er bereits installiert ist, ist keine separate Browserinstallation erforderlich.

MCPServerStdio konfiguriert das Brokers SDK so, dass Playwright MCP als lokaler Prozess gestartet wird. Wenn der Agent zum ersten Mal ein Browser-Instrument aufruft, öffnet Playwright MCP ein sichtbares Chrome-Fenster und führt die angeforderte Browser-Aktion aus.

2.3 Ausführen des Agenten

Jetzt können wir dem Agenten eine konkrete Aufgabe geben:

APP_URL = "http://127.0.0.1:8000"

TASK = f"""
Open {APP_URL} and resolve the help case for order ORD-1042.

The client says they acquired the flawed merchandise. Use the data obtainable within the
utility to find out and apply the suitable decision. Add a concise inside
notice and ensure the decision was efficiently recorded.

Report what you probably did when the duty is full.
""".strip()

In der Aufgabenaufforderung haben wir den Zugriff auf die Anwendung und das gewünschte Ergebnis beschrieben.

Anschließend führen wir den Agenten aus mit:

from brokers import Runner

async with playwright_server:
    end result = await Runner.run(
        agent,
        TASK,
        max_turns=20,
    )

print(end result.final_output)

Der async with Der Block startet den Playwright MCP-Prozess und hält ihn verbunden, während der Agent ausgeführt wird. Wir verwenden max_turns um eine Obergrenze dafür festzulegen, wie viele Runden der Agent ausführen kann.

Nach dem Begin öffnete sich Chrome und wir konnten über die Help-Konsole beobachten, wie der Agent arbeitete.

Die endgültige Antwort fasste das Ergebnis richtig zusammen:

Resolved CASE-4107 for order ORD-1042 with Alternative.

The case now reveals Resolved, the recorded motion is Alternative,
and the audit log comprises the corresponding decision entry.

Wenn Sie möchten, können Sie die Browser-Instrument-Aufrufe und ihre Ausgaben auch auf diese Weise überprüfen:

for merchandise in end result.new_items:
    print(sort(merchandise).__name__, merchandise)

Bei meinem Durchlauf hat der Agent den damit verbundenen Fall gefunden ORD-1042 Außerdem wurden die Bestellung, die Kundenanfrage, der Bestandsstatus und die relevanten Lösungsrichtlinien überprüft. Anschließend kam es zu dem Schluss, dass eine Ersetzung angebracht sei, fügte einen internen Vermerk hinzu und reichte den Beschluss ein. Abschließend überprüfte es das aktualisierte Fall- und Auditprotokoll, um zu bestätigen, dass die Aktion aufgezeichnet wurde.

Das ist genau das Agentenverhalten, das wir wollen.

---

3. Von der Browsernutzung zur Computernutzung

Was wir in dieser Fallstudie erstellt haben, ist ein Browser-verwendender Agent. Dennoch ist das zugrunde liegende Muster, das heißt das beobachten, entscheiden, handeln und wiederholen Schleife, erstreckt sich natürlich auf allgemein Computernutzung.

Was sich ändert, sind die Beobachtungs- und Handlungskanäle.

In unserem Fall versorgt Playwright MCP den Agenten mit strukturierten Seiteninformationen und ermöglicht ihm die gezielte Ausrichtung auf einzelne Webelemente. Ein allgemeinerer Computernutzer könnte stattdessen anhand von Screenshots arbeiten und Maus und Tastatur über Koordinaten steuern.

Das Repo zu unserer Fallstudie finden Sie hier: https://github.com/ShuaiGuo16/llm-browser-agent/tree/most important

Rekursive Sprachmodelle Ziel ist es, den üblichen Kompromiss zwischen Kontextlänge, Genauigkeit und Kosten in großen Sprachmodellen zu durchbrechen. Anstatt ein Modell zu zwingen, eine riesige Eingabeaufforderung in einem Durchgang zu lesen, behandeln RLMs die Eingabeaufforderung als externe Umgebung und lassen das Modell entscheiden, wie es sie mit Code überprüft, und rufen sich dann rekursiv für kleinere Teile auf.

Die Grundlagen

Die vollständige Eingabe wird als einzelne String-Variable in eine Python-REPL geladen. Das Root-Modell, zum Beispiel GPT-5, sieht diese Zeichenfolge nie direkt in ihrem Kontext. Stattdessen erhält es eine Systemaufforderung, die erklärt, wie Slices der Variablen gelesen, Hilfsfunktionen geschrieben, Sub-LLM-Aufrufe erzeugt und Ergebnisse kombiniert werden. Das Modell gibt eine abschließende Textantwort zurück, sodass die externe Schnittstelle mit einem Customary-Chat-Abschlussendpunkt identisch bleibt.

Das RLM-Design verwendet die REPL als Steuerebene für langen Kontext. Die normalerweise in Python geschriebene Umgebung stellt Instruments wie String-Slicing, Regex-Suche und Hilfsfunktionen wie bereit llm_query die eine kleinere Modellinstanz aufrufen, zum Beispiel GPT-5-mini. Das Root-Modell schreibt Code, der diese Helfer aufruft, um die externe Kontextvariable zu scannen, zu partitionieren und zusammenzufassen. Der Code kann Zwischenergebnisse in Variablen speichern und die endgültige Antwort Schritt für Schritt aufbauen. Diese Struktur macht die Eingabeaufforderungsgröße unabhängig vom Modellkontextfenster und macht die Handhabung langer Kontexte zu einem Downside bei der Programmsynthese.

Wo steht es in der Bewertung?

Der Forschungsarbeit bewertet diese Idee anhand von vier langen Kontext-Benchmarks mit unterschiedlicher Rechenstruktur. S-NIAH ist eine Nadel im Heuhaufen mit konstanter Komplexität. BrowseComp-Plus ist ein Multi-Hop-Benchmark für Fragen und Antworten im Internet-Stil für bis zu 1.000 Dokumente. OOLONG ist eine lineare Komplexitätsaufgabe mit langem Kontextschluss, bei der das Modell viele Einträge transformieren und dann aggregieren muss. OOLONG-Paare erhöhen die Schwierigkeit durch quadratische paarweise Aggregation über die Eingabe weiter. Bei diesen Aufgaben wird sowohl die Kontextlänge als auch die Argumentationstiefe betont, nicht nur das Abrufen.

Bei diesen Benchmarks bieten RLMs große Genauigkeitsgewinne gegenüber direkten LLM-Aufrufen und herkömmlichen Agenten mit langem Kontext. Für GPT-5 auf CodeQA, einem Setup für die Beantwortung langer Dokumentfragen, erreicht das Basismodell eine Genauigkeit von 24,00, ein Zusammenfassungsagent erreicht 41,33, während RLM 62,00 und das RLM ohne Rekursion 66,00 erreicht. Für Qwen3-Coder-480B-A35B erreicht das Basismodell 20,00, ein CodeAct-Retrieval-Agent 52,00 und das RLM 56,00 mit einer reinen REPL-Variante bei 44,66.

Die Gewinne sind bei der härtesten Einstellung, den OOLONG-Paaren, am größten. Für GPT-5 ist das direkte Modell mit F1 von 0,04 nahezu unbrauchbar. Zusammenfassungs- und CodeAct-Agenten liegen in der Nähe von 0,01 und 24,67. Der volle RLM erreicht 58,00 F1 und die nicht rekursive REPL-Variante erreicht immer noch 43,93. Für Qwen3-Coder bleibt das Basismodell unter 0,10 F1, während das vollständige RLM 23,11 und die REPL nur Model 17,34 erreicht. Diese Zahlen zeigen, dass sowohl REPL als auch rekursive Unteraufrufe bei dichten quadratischen Aufgaben von entscheidender Bedeutung sind.

BrowseComp-Plus hebt die effektive Kontexterweiterung hervor. Der Korpus umfasst etwa 6 bis 11 Millionen Token, was zwei Größenordnungen über dem 272.000 Token-Kontextfenster von GPT-5 liegt. RLM mit GPT 5 behält eine starke Leistung bei, selbst wenn 1.000 Dokumente in der Umgebungsvariablen angegeben werden, während die Customary-GPT-5-Baselines mit zunehmender Dokumentanzahl abnehmen. Bei diesem Benchmark erreicht RLM GPT 5 eine Genauigkeit von etwa 91,33 bei durchschnittlichen Kosten von 0,99 USD professional Abfrage, während ein hypothetisches Modell, das den vollständigen Kontext direkt liest, zum aktuellen Preis zwischen 1,50 und 2,75 USD kosten würde.

Der Forschungsarbeit analysiert auch die Trajektorien von RLM-Läufen. Es entstehen mehrere Verhaltensmuster. Das Modell beginnt oft mit einem Peek-Schritt, bei dem es die ersten paar tausend Zeichen des Kontexts untersucht. Anschließend wird eine Filterung im Grep-Stil mit Regex oder einer Stichwortsuche verwendet, um relevante Zeilen einzugrenzen. Bei komplexeren Abfragen wird der Kontext in Blöcke unterteilt und für jeden Block rekursive LMs aufgerufen, um eine Kennzeichnung oder Extraktion durchzuführen, gefolgt von einer programmgesteuerten Aggregation. Bei langen Ausgabeaufgaben speichert das RLM Teilausgaben in Variablen und fügt sie zusammen, wodurch die Ausgabelängenbeschränkungen des Basismodells umgangen werden.

Die neue Model von Prime Mind

Prime Mind-Crew hat dieses Konzept in eine konkrete Umgebung, RLMEnv, umgesetzt, die in ihren Verifizierer-Stack und Environments Hub integriert ist. In ihrem Design verfügt das Haupt-RLM nur über eine Python-REPL, während Unter-LLMs die umfangreichen Instruments wie Websuche oder Dateizugriff erhalten. Die REPL macht eine verfügbar llm_batch Funktion, damit das Root-Modell viele Unterabfragen parallel auffächern kann, und eine reply Variable, in die die endgültige Lösung geschrieben und als fertig gekennzeichnet werden muss. Dadurch werden Token-lastige Werkzeugausgaben vom Hauptkontext isoliert und das RLM kann teure Vorgänge an Untermodelle delegieren.

Höchster Intellekt bewertet diese Implementierung in vier Umgebungen. DeepDive testet die Webrecherche mit Such- und Öffnungstools und sehr ausführlichen Seiten. Math Python stellt eine Python-REPL für schwierige mathematische Probleme im Wettbewerbsstil bereit. Oolong verwendet den Lengthy-Context-Benchmark in RLMEnv wieder. Der Schwerpunkt der wörtlichen Kopie liegt auf der exakten Reproduktion komplexer Zeichenfolgen über Inhaltstypen wie JSON, CSV und gemischte Codes hinweg. In diesen Umgebungen profitieren sowohl GPT-5-mini als auch das INTELLECT-3-MoE-Modell vom RLM-Gerüst hinsichtlich der Erfolgsrate und der Robustheit gegenüber sehr langen Kontexten, insbesondere wenn die Werkzeugausgabe andernfalls den Modellkontext überfordern würde

Sowohl das Autorenteam des Forschungspapiers als auch das Prime Mind-Crew betonen, dass die aktuellen Implementierungen nicht vollständig optimiert sind. RLM-Aufrufe sind synchron, die Rekursionstiefe ist begrenzt und Kostenverteilungen weisen aufgrund sehr langer Trajektorien starke Ausläufer auf. Die eigentliche Likelihood besteht darin, RLM-Gerüst mit dediziertem Verstärkungslernen zu kombinieren, damit Modelle im Laufe der Zeit bessere Chunking-, Rekursions- und Werkzeugnutzungsrichtlinien erlernen. In diesem Fall bieten RLMs einen Rahmen, in dem Verbesserungen in Basismodellen und im Systemdesign direkt in leistungsfähigere Agenten mit langem Horizont umgesetzt werden, die Umgebungen mit mehr als 10 Millionen Token ohne Kontextverlust nutzen können.

Wichtige Erkenntnisse

Hier sind 5 prägnante, technische Erkenntnisse, die Sie unter den Artikel einfügen können.

• RLMs formatieren den langen Kontext als Umgebungsvariable um: Rekursive Sprachmodelle behandeln die gesamte Eingabeaufforderung als externe Zeichenfolge in einer REPL im Python-Stil, die vom LLM überprüft und durch Code transformiert wird, anstatt alle Token direkt in den Transformer-Kontext aufzunehmen.
• Die Inferenzzeitrekursion erweitert den Kontext auf mehr als 10 Millionen Token: RLMs ermöglichen es einem Root-Modell, rekursiv Sub-LLMs für ausgewählte Ausschnitte des Kontexts aufzurufen, was eine effektive Verarbeitung von Eingabeaufforderungen ermöglicht, die bis zu etwa zwei Größenordnungen länger als das Basiskontextfenster sind und bei Workloads im BrowseComp-Plus-Stil mehr als 10 Millionen Token erreichen.
• RLMs übertreffen herkömmliche Gerüste mit langem Kontext bei harten Benchmarks: Über S-NIAH-, BrowseComp-Plus-, OOLONG- und OOLONG-Paare hinweg verbessern RLM-Varianten von GPT-5 und Qwen3-Coder die Genauigkeit und F1 gegenüber direkten Modellaufrufen, Abrufagenten wie CodeAct und Zusammenfassungsagenten, während die Kosten professional Abfrage vergleichbar oder niedriger bleiben.
• Nur REPL-Varianten helfen bereits, Rekursion ist für quadratische Aufgaben von entscheidender Bedeutung: Eine Ablation, die nur die REPL ohne rekursive Unteraufrufe verfügbar macht, steigert immer noch die Leistung bei einigen Aufgaben, was den Wert der Auslagerung des Kontexts in die Umgebung zeigt, aber vollständige RLMs sind erforderlich, um große Gewinne bei informationsdichten Einstellungen wie OOLONG-Paaren zu erzielen.
• Prime Mind operationalisiert RLMs durch RLMEnv und INTELLECT 3: Das Crew von Prime Mind implementiert das RLM-Paradigma als RLMEnv, wobei der Root-LM eine Sandbox-Python-REPL steuert, Instruments über Sub-LMs aufruft und das Endergebnis in eine schreibt reply Variable und meldet konsistente Gewinne in DeepDive-, Math Python-, Oolong- und Verbatim-Copy-Umgebungen mit Modellen wie INTELLECT-3.

---

Schauen Sie sich das an Papier Und Technische Particulars. Sie können uns auch gerne weiter folgen Twitter und vergessen Sie nicht, bei uns mitzumachen 100.000+ ML SubReddit und Abonnieren Unser Publication. Warten! Bist du im Telegram? Jetzt können Sie uns auch per Telegram kontaktieren.

Unternehmen investieren zunehmend in KI, da diese neuen Instruments immer häufiger in den täglichen Betrieb integriert werden. Diese kontinuierliche Innovationswelle steigert die Nachfrage nach effizienteren und zuverlässigeren Frameworks. Diesem Development folgend, Datenpizza (das Startup hinter der italienischen Tech-Neighborhood) hat gerade ein Open-Supply-Framework für GenAI mit Python namens „ Datenpizza KI.

Wenn Sie LLM-basierte Agenten erstellen, müssen Sie einen auswählen KI-Stack:

• Sprachmodell – das Gehirn des Agenten. Die erste große Wahl ist Open Supply (d. h Lama, DeepSeek, Phi) vs. bezahlt (d. h ChatGPT, Claude, Zwillinge). Dann muss man, basierend auf dem Anwendungsfall, das LLM-Wissen berücksichtigen: generisch (weiß ein bisschen von allem wie Wikipedia) vs. themenspezifisch (z. B. fein abgestimmt auf Codierung oder Finanzen).
• LLM-Engine – Es ist das, was das Sprachmodell betreibt, auf Eingabeaufforderungen reagiert, Bedeutung ableitet und Textual content erstellt. Im Grunde erzeugt es Intelligenz. Die am häufigsten verwendeten sind OpenAI (ChatGPT), Anthropisch (Claude), Google (Zwillinge), Und Ollama (führt Open-Supply-Modelle lokal aus).
• KI-Framework – Es ist die Orchestrierungsebene zum Erstellen und Verwalten von Arbeitsabläufen. Anders ausgedrückt: Das Framework muss die von LLMs geschaffene Intelligenz strukturieren. Im Second wird die Landschaft dominiert von LangChain, LLamaIndexUnd CrewAI. Die neue Bibliothek Datenpizza KI fällt in diese Kategorie und möchte eine Different zu den anderen Hauptframeworks sein.

In diesem Artikel werde ich zeigen, wie das geht Verwenden Sie das neue Datapizza-Framework zum Erstellen von LLM-gestützten KI-Agenten. Ich werde einige nützliche Python-Codes vorstellen, die leicht in anderen ähnlichen Fällen angewendet werden können (einfach kopieren, einfügen, ausführen) und jede Codezeile mit Kommentaren durchgehen, damit Sie dieses Beispiel reproduzieren können.

Aufstellen

Ich werde es verwenden Ollama als LLM-Engine, da ich Modelle gerne lokal auf meinem Pc hoste. Das ist die Standardpraxis für alle Unternehmen mit sensiblen Daten. Wenn alles lokal bleibt, haben Sie die volle Kontrolle über Datenschutz, Modellverhalten und Kosten.

Zuallererst müssen Sie Laden Sie Ollama von der Web site herunter. Wählen Sie dann ein Modell aus und führen Sie den auf der Seite angegebenen Befehl aus, um das LLM abzurufen. Ich gehe mit Alibabas Qwenda es sowohl clever als auch leicht ist (ollama run qwen3).

Datenpizza KI unterstützt alle wichtigen LLM-Engines. Wir können die Einrichtung abschließen, indem wir die folgenden Befehle ausführen:

pip set up datapizza-ai
pip set up datapizza-ai-clients-openai-like

Wie in der angegeben offizielle Dokumentationkönnen wir unseren KI-Stack schnell testen, indem wir das Modell mit einer einfachen Eingabeaufforderung aufrufen und eine Frage stellen. Das Objekt OpenAILikeClient() So stellen Sie eine Verbindung zur Ollama-API her, die normalerweise unter derselben Localhost-URL gehostet wird.

from datapizza.shoppers.openai_like import OpenAILikeClient

llm = "qwen3"

immediate = '''
You're an clever assistant, present the absolute best reply to person's request. 
''' 

ollama = OpenAILikeClient(api_key="", mannequin=llm, system_prompt=immediate, base_url="http://localhost:11434/v1")

q = '''
what time is it?
'''

llm_res = ollama.invoke(q)
print(llm_res.textual content)

Chatbot

Eine andere Möglichkeit, die Leistungsfähigkeit des LLM zu testen, besteht darin, einen einfachen Chatbot zu erstellen und ein Gespräch zu führen. Dazu müssen wir bei jeder Interaktion den Chatverlauf speichern und ihn an das Modell zurückgeben und dabei angeben, was von wem gesagt wurde. Das Datapizza-Framework hat bereits eine eingebaute Speichersystem.

from datapizza.reminiscence import Reminiscence
from datapizza.sort import TextBlock, ROLE

reminiscence = Reminiscence()
reminiscence.add_turn(TextBlock(content material=immediate), function=ROLE.SYSTEM)

whereas True:
    ## Consumer
    q = enter(' >')
    if q == "give up":
        break
    
    ## LLM
    llm_res = ollama.invoke(q, reminiscence=reminiscence)
    res = llm_res.textual content
    print(" >", f"x1b(1;30m{res}x1b(0m")

    ## Replace Reminiscence
    reminiscence.add_turn(TextBlock(content material=q), function=ROLE.USER)
    reminiscence.add_turn(TextBlock(content material=res), function=ROLE.ASSISTANT)

Wenn Sie wollen Rufen Sie den Chatverlauf abSie können einfach auf den Speicher zugreifen. Normalerweise werden KI-Frameworks verwendet drei Rollen im Zusammenspiel mit einem LLM: „System” (Kernanweisungen), „Benutzer” (was der Mensch sagte), „Assistent“ (was der Chatbot antwortete).

reminiscence.to_dict()

Offensichtlich ist das LLM allein sehr begrenzt und kann außer Chatten nicht viel. Deshalb müssen wir ihm die Möglichkeit geben, Maßnahmen zu ergreifen, d. h. Instruments zu aktivieren.

Werkzeuge

Werkzeuge sind Der Hauptunterschied zwischen einem einfachen LLM und einem KI-Agenten. Wenn der Benutzer etwas anfordert, das über die LLM-Wissensdatenbank hinausgeht (z. B. „Wie spät ist es jetzt?„), sollte der Agent verstehen, dass er die Antwort nicht kennt, ein Device aktivieren, um zusätzliche Informationen zu erhalten (z. B. die Uhr überprüfen), das Ergebnis über das LLM ausarbeiten und eine Antwort generieren.

Mit dem Datapizza-Framework können Sie ganz einfach Instruments von Grund auf erstellen. Sie müssen nur die importieren Dekorateur @Werkzeug und jede Funktion kann für den Agenten umsetzbar sein.

from datapizza.instruments import software

@software
def get_time() -> str:
    '''Get the present time.'''
    from datetime import datetime
    return datetime.now().strftime("%H:%M")

get_time()

Weisen Sie dann das gewünschte Werkzeug zu Die Agentund Sie verfügen über eine KI, die Sprachverständnis + autonome Entscheidungsfindung + Werkzeugnutzung kombiniert.

from datapizza.brokers import Agent
import os

os.environ("DATAPIZZA_AGENT_LOG_LEVEL") = "DEBUG"  #max logging

agent = Agent(identify="single-agent", shopper=ollama, system_prompt=immediate, 
              instruments=(get_time), max_steps=2)

q = '''
what time is it?
'''

agent_res = agent.run(q)

Ein LLM-gestützter KI-Agent ist ein intelligentes System, das auf einem Sprachmodell basiert, das nicht nur reagiert, sondern auch begründet, entscheidet und handelt. Neben der Konversation (d. h. dem Chatten mit einer allgemeinen Wissensdatenbank) sind die häufigsten Aktionen, die Agenten ausführen können, folgende LAPPEN (Chatten mit Ihren Dokumenten), Abfragen (Chatten mit einer Datenbank), Websuche (Chatten mit dem gesamten Web).

Probieren wir zum Beispiel ein Net-Suchtool aus. In Python geht das am einfachsten mit dem berühmten privaten Browser DuckDuckGo. Sie können die direkt verwenden Originalbibliothek oder der Datapizza-Framework-Wrapper (pip set up datapizza-ai-tools-duckduckgo).

from datapizza.instruments.duckduckgo import DuckDuckGoSearchTool

DuckDuckGoSearchTool().search(question="powell")

Erstellen wir einen Agenten, der das Net für uns durchsuchen kann. Wenn Sie es interaktiver gestalten möchten, können Sie die KI so strukturieren, wie ich es für den Chatbot getan habe.

os.environ("DATAPIZZA_AGENT_LOG_LEVEL") = "ERROR" #flip off logging

immediate = '''
You're a journalist. You need to make assumptions, use your software to analysis, make a guess, and formulate a ultimate reply.
The ultimate reply should comprise information, dates, evidences to help your guess.
'''

reminiscence = Reminiscence()

agent = Agent(identify="single-agent", shopper=ollama, system_prompt=immediate, 
              instruments=(DuckDuckGoSearchTool()), 
              reminiscence=reminiscence, max_steps=2)

whereas True:
    ## Consumer
    q = enter(' >')
    if q == "give up":
        break
    
    ## Agent
    agent_res = agent.run(q)
    res = agent_res.textual content
    print(" >", f"x1b(1;30m{res}x1b(0m")

    ## Replace Reminiscence
    reminiscence.add_turn(TextBlock(content material=q), function=ROLE.USER)
    reminiscence.add_turn(TextBlock(content material=res), function=ROLE.ASSISTANT)

Multi-Agenten-System

Die wahre Stärke von Agenten ist ihre Fähigkeit miteinander zusammenarbeitengenau wie Menschen. Diese Groups werden aufgerufen Multiagentensysteme (MAS)eine Gruppe von KI-Agenten, die in einer gemeinsamen Umgebung zusammenarbeiten, um komplexe Probleme zu lösen, die für einen einzelnen Agenten zu schwierig wären.

Dieses Mal erstellen wir ein erweitertes Device: Codeausführung. Bitte beachten Sie, dass LLMs wissen, wie man programmiert, indem sie einem großen Korpus aus Code und Textual content in natürlicher Sprache ausgesetzt werden, wo sie Muster, Syntax und Semantik von Programmiersprachen lernen. Da sie jedoch keine echte Aktion ausführen können, besteht der von ihnen erstellte Code nur aus Textual content. Zusamenfassend, LLMs können Python-Code generieren, ihn aber nicht ausführen, Agenten hingegen schon.

import io
import contextlib

@software
def code_exec(code:str) -> str:
    '''Execute python code. Use all the time the perform print() to get the output'''
    output = io.StringIO()
    with contextlib.redirect_stdout(output):
        attempt:
            exec(code)
        besides Exception as e:
            print(f"Error: {e}")
    return output.getvalue()

code_exec("from datetime import datetime; print(datetime.now().strftime('%H:%M'))")

Es gibt zwei Arten von MAS: die sequentielles Verfahren stellt sicher, dass Aufgaben nacheinander und in einem linearen Verlauf ausgeführt werden. Andererseits ist die hierarchische Struktur simuliert traditionelle Organisationshierarchien für eine effiziente Aufgabendelegierung und -ausführung. Persönlich bevorzuge ich eher Letzteres, da es mehr Parallelität und Flexibilität bietet.

Mit Mit dem Datapizza-Framework können Sie zwei oder mehr Agenten mit der Funktion verknüpfen can_call(). Auf diese Weise kann ein Agent die aktuelle Aufgabe an einen anderen Agenten übergeben.

prompt_senior = '''
You're a senior Python coder. You examine the code generated by the Junior, 
and use your software to execute the code provided that it is right and protected.
'''
agent_senior = Agent(identify="agent-senior", shopper=ollama, system_prompt=prompt_senior, 
                     instruments=(code_exec))

prompt_junior = '''
You're a junior Python coder. You'll be able to generate code however you'll be able to't execute it. 
You obtain a request from the Supervisor, and your ultimate output have to be Python code to go on.
If you do not know some particular instructions, you should use your software and search the net for "tips on how to ... with python?".
'''
agent_junior = Agent(identify="agent-junior", shopper=ollama, system_prompt=prompt_junior, 
                     instruments=(DuckDuckGoSearchTool()))
agent_junior.can_call((agent_senior))

prompt_manager = '''
You recognize nothing, you are only a supervisor. After you get a request from the person, 
first you ask the Junior to generate the code, you then ask the Senior to execute it.
'''
agent_manager = Agent(identify="agent-manager", shopper=ollama, system_prompt=prompt_manager, 
                      instruments=())
agent_manager.can_call((agent_junior, agent_senior))

q = '''
Plot the Titanic dataframe. You could find the information right here: 
https://uncooked.githubusercontent.com/mdipietro09/DataScience_ArtificialIntelligence_Utils/grasp/machine_learning/data_titanic.csv
'''

agent_res = agent_manager.run(q)
#print(agent_res.textual content)

Abschluss

Dieser Artikel conflict ein Tutorial zu einführen Datenpizza KIein brandneues Framework zum Erstellen von LLM-basierten Chatbots und KI-Agenten. Die Bibliothek ist sehr flexibel und benutzerfreundlich und kann verschiedene GenAI-Anwendungsfälle abdecken. Ich habe es mit Ollama verwendet, aber es kann mit allen bekannten Engines wie OpenAI verknüpft werden.

Vollständiger Code für diesen Artikel: GitHub

Ich hoffe, es hat Ihnen gefallen! Kontaktieren Sie mich gerne für Fragen und Suggestions oder einfach nur, um mir Ihre interessanten Projekte mitzuteilen.

Lassen Sie uns verbinden

_{^{(Alle Bilder stammen vom Autor, sofern nicht anders angegeben)}}

Haben Sie sich jemals gewünscht, dass Ihr KI -Agent im laufenden Flug lernen und sich anpassen könnte, genau wie Sie? Stellen Sie sich einen AI -Assistenten vor, der sich nach einem einmaligen Aufgabe an seinen Fehler erinnert und sie nie wiederholt. Eine KI, die nicht nur auf Eingabeaufforderungen reagiert, sondern auch bei jeder einzelnen Interaktion aktiv schlauer wird.

Seit Jahren ist dies der heilige Gral der künstlichen Intelligenz, ein Traum, der von zwei Hauptstraßen zurückgehalten wurde. Wir haben mächtige KI-Agenten aufgebaut, aber sie bleiben entweder in einer festen Denkweise festgefahren oder scheitern in realen Szenarien, die kontinuierliches Lernen benötigen. Es ist ein klassisches Dilemma: ein statisches Genie im Vergleich zu einem langsamen Lernenden mit einem unendlichen Appetit auf Leistung und Daten.

Aber was wäre, wenn es einen dritten Weg gäbe? A Neues Forschungspapier hat einen Weg herausgekommen, der es KI-Agenten ermöglicht, kontinuierlich aus einer sich ändernden Umgebung zu lernen, ohne die kräftigen Kosten für die Feinabstimmung der massiven Modelle mit ihnen einzubeziehen. Memento ist ein revolutionärer Ansatz, der genau das tut. Memento gibt LLM-Agenten ein externes, menschliches Gedächtnis und bietet einen skalierbaren, effizienten und unglaublich leistungsfähigen Weg zur nächsten Era der Generalisten der Generalisten. In diesem Weblog werden wir die Particulars von Memento und wie es funktioniert.

Das Downside mit den heutigen LLM -Agenten

LLM -Agenten des großen Sprachmodells sind die Zukunft. Im Gegensatz zu herkömmlichen LLMs, die nur Fragen beantworten, sind diese Agenten proaktive Problemlöser. Sie können autonom komplexe Aufgaben durchführen, indem sie externe Instruments und Argumentation durch Probleme Schritt für Schritt verwenden.

So mächtig sie auch sind, die meisten LLM -Agenten fallen in eine von zwei Kategorien mit jeweils einen kritischen Fehler:

1. Der starre Agent: Diese Artwork von Agent wird mit einem festen, hart codierten Workflow erstellt. Es ist großartig in seinem spezifischen Job, aber es kann sich nicht anpassen. Es werden keine neuen Informationen selbst einbeziehen oder aus seinen Fehlern in Echtzeit lernen. Stellen Sie sich eine hochspezialisierte Maschine vor, die nur eine Aufgabe perfekt erledigen kann.
2. Der Feinabstimmungsagent: Dies ist der flexiblere, aber unglaublich kostspieligere Ansatz. Diese Wirkstoffe werden durch Feinabstimmung ihrer Kern-LLM-Parameter auf der Grundlage neuer Daten oder Verstärkungslernen aktualisiert. Dies ermöglicht ein dynamischeres Verhalten, aber der Prozess ist ein logistischer Albtraum. Dies macht sie für kontinuierliches On-line -Lernen unpraktisch.

Memento wurde gebaut, um diese zentrale Herausforderung zu lösen: Wie erstellen wir eine KI, die kontinuierlich ohne den konstanten, teuren und riskanten Prozess von lernen kann Feinabstimmung?

Was ist Memento?

Memento ist im Grunde ein speichergetriebenes Framework, das es erlaubt Llm Agenten, die aus Erfahrung lernen, wie jeder Mensch. Sie erinnern sich an, passen und wiederverwenden in vergangenen Fällen, ohne das Foundation -Großsprachmodell, auf dem sie aufgebaut sind, umzuschulungen.

Die Schöpfer von Memento schauten auf die leistungsstärkste und effizienteste Lernmaschine, die wir kennen: das menschliche Gehirn. Menschen „feinst“ ihr Gehirn nicht jedes Mal, wenn sie etwas Neues lernen. Stattdessen verlassen wir uns auf unser Gedächtnis. Wir speichern frühere Erfahrungen, lernen aus unseren Erfolgen und Misserfolgen und nutzen diese Erinnerungen, um unsere zukünftigen Entscheidungen zu leiten, die als Fallbasis (CBR) bezeichnet werden. Es ist ein psychologisches Prinzip, das darauf hindeutet, dass wir neue Probleme lösen, indem wir Lösungen aus ähnlichen vergangenen Situationen erinnern und anpassen.

Memento bringt diesen menschlichen Ansatz in LLM-Agenten. Anstatt das Kernmodell des LLM zu optimieren, gibt Memento dem Agenten einen externen episodischen Speicher, der als Case Financial institution bezeichnet wird. Die Case Financial institution speichert frühere Flugbahnen, einschließlich Schritte, die Ergebnisse, und ob sie mit Erfolg oder Misserfolg endeten. Auf diese Weise kann der Agent „in der Fliege lernen“, ohne ein einzelnes Gradienten -Replace für sein Grundmodell zu finden.

Der Memento Framework -Code finden Sie hier: Github

Was passiert in Memento?

Der Kern dieses Techniques ist ein Speicher-Markov-Entscheidungsprozess (M-MDP). Es ist eine Möglichkeit, den Entscheidungsprozess des Agenten zu modellieren, bei dem sein Gedächtnis ein wesentlicher Bestandteil jeder Wahl ist. Dies ist eine huge Verschiebung von traditionellen Modellen, die ausschließlich auf ihrem internen, festen Wissen beruhen.

Nachdem wir wissen, was Memento ist, tauchen wir in seine Architektur ein.

Wie funktioniert die Architektur von Memento?

Memento arbeitet auf einem einfachen, aber leistungsstarken zweistufigen Framework:

Stufe 1: Fallbasierte Planung

Hier denkt der Agent. Ein LLM wirkt wie das Planerum eine Benutzerabfrage aufzunehmen und, genau wie ein Mensch, sie in eine Liste von Unteraufgaben unterteilt. Die geheime Sauce hier ist der Fallgedächtnis.

Bevor er handelt, „liest“ der Planer aus seiner Fallbank und ruft frühere Erfahrungen ab, die der aktuellen Aufgabe am ähnlichsten sind. Der Agent verwendet dann diese vergangenen Fälle, einschließlich erfolgreicher und fehlgeschlagener Versuche, um seinen aktuellen Plan zu informieren und ihm zu helfen, frühere Fehler zu vermeiden und bewährte Strategien anzuwenden.

Stufe 2: Toolbasierte Ausführung

Sobald der Planer seine Strategie hat, übergibt er die Unteraufgaben zum Testamentsvollstrecker. Dies ist ein weiteres LLM, das mit einem umfassenden Satz externer Instruments wie Websuche, Code -Dolmetscher und Dateiprozessoren verbessert wird. Der Testamentsvollstrecker führt den Plan durch, jeweils eine Unteraufgabe, und verwendet die richtigen Instruments, um die Aufgabe zu erledigen. Der Agent ist sogar mit leistungsstarken Such- und Kriechtools ausgestattet, um Informationen aus dem Internet in Echtzeit abzurufen und zu analysieren.

Jede Aktion, die der Agent ergriffen und die Belohnung, die er erhält (Erfolg oder Misserfolg), wird in die Case Financial institution wieder aufgenommen und „geschrieben“. Dies schafft eine kontinuierliche Rückkopplungsschleife, in der das Gedächtnis des Agenten mit jeder neuen Interaktion ständig wächst und schlauer wird. Dieser Prozess wird durch Mushy formalisiert Q-Studyingeine Methode, die es dem Agenten ermöglicht, den Wert verschiedener Fälle (Erfahrungen) im Laufe der Zeit zu lernen. Es ist eine raffinierte Artwork, sicherzustellen, dass der Agent lernt, welche vergangenen Erfahrungen am wertvollsten sind, um abzurufen.

Memento: Actual World Efficiency

Das Memento -Framework ist nicht nur ein theoretisches Konzept. Es hat wirklich bemerkenswerte Ergebnisse erzielt. In der Papier werden umfangreiche Bewertungen über mehrere Benchmarks hinweg beschrieben, und die Zahlen sind überzeugend:

1. High-1 auf Gaia: Memento erreichte den Platz 1 in der Gaia-Rangliste, ein Benchmark, der die Fähigkeit eines Agenten testet, komplexe Langzeitaufgaben auszuführen, die die Verwendung von Werkzeugen und autonome Planung erfordern. Die Ergebnisse waren im Testsatz besonders stark, wo es 79,40percenterzielte, einen neuen Benchmark für Open-Supply-Agent-Frameworks.
2. Übertreffen Sie die Konkurrenz: Im DeepRearcher-Datensatz, in dem die Webforschung in Echtzeit getestet wird, erreichte Memento einen beeindruckenden 66,6% igen F1-Rating und 80,4% PM. IT übertraf modernde schultrainingebasierte Systeme, was zeigt, dass ein speicherbasierter Ansatz effektiver sein kann als die Feinabstimmung der Brute-Pressure.
3. Die Kraft des Gedächtnisses: Ablationsstudien in der Arbeit bestätigten die kritische Rolle der Fallbank. Durch die Hinzufügung von Fallbasierter Speicher allein wurde die Genauigkeit von Aufgaben außerhalb der Verteilung um bis zu 9,6percentgesteigert und zeigt die Kraft des Lernens aus früheren Erfahrungen.

Das Memento -Framework, der von einer Kombination von Modellen wie angetrieben wird GPT-4.1 Und o4-minizeigt, dass es nicht darum geht, das größte Modell zu verwenden, sondern um den richtigen Rahmen, um die Funktionen dieses Modells zu nutzen.

Abschluss

Das Memento -Framework stellt eine tiefgreifende Verschiebung in unserer Denk- und Erstellung dar KI -Agenten. Es beweist, dass wir hochkarätige, kontinuierliche Lernsysteme erstellen können, ohne die lähmenden Kosten und die technischen Komplexität der Feinabstimmung der Modellmodell zu erledigen.

Dieser Ansatz bietet einen leistungsstarken, skalierbaren und effizienten Weg, um wirklich generalistische LLM -Agenten zu bauen, die Artwork von KI, die eine breite Palette von Aufgaben in Angriff nehmen und mit jeder einzelnen Interaktion besser werden kann. Memento ist nicht nur ein besserer Weg, um KI aufzubauen. Es ist eine intuitivere. Es ist ein Schritt in Richtung Agi, der sich nicht nur clever handelt, sondern sich auf eine Weise lernt und anpasst, die sich viel mehr … menschlich anfühlt.

Sind Sie bereit zu sehen, wie ein Speicheransatz die Artwork und Weise verändern kann, wie Sie KI erstellen? Schauen Sie sich den Code an und sehen Sie sich Memento selbst in Aktion. Die Zukunft der KI ist hier und basiert auf einer Grundlage des Gedächtnisses, nicht nur auf der rohen Leistung.

Häufig gestellte Fragen

Einführung

Möchten Sie über die neuesten Entwicklungen bei LLM-Agenten (Massive Language Mannequin) auf dem Laufenden bleiben? Reddit bietet Echtzeit-Diskussionen, Experteneinblicke und praktische Ratschläge. In diesem Artikel werde ich die High-Reddit-Threads hervorheben, denen man folgen sollte. Egal, ob Sie Anfänger oder Experte sind, diese Threads helfen Ihnen, in der Welt der KI zu lernen und zu wachsen.

Wie komme ich vom Neuling zum Aufbau von LLM-Agenten für die Produktion?

Dies ist ein Thread aus dem r/MachineLearning-Subreddit, in dem Leute ihre Ideen zum Aufstieg vom Anfänger in teilen maschinelles Lernen. Schlüsselkompetenzen, die von vielen als entscheidend angesehen werden, sind Mathematik mit Schwerpunkt auf linearer Algebra, Wahrscheinlichkeit und Statistikenund Programmieren, mit einer Vorliebe für Python. Darüber hinaus enthalten sie Aufgaben, die sich mit den am häufigsten verwendeten Bibliotheken für maschinelles Lernen befassen, darunter TensorFlow, PyTorchUnd Scikit-lernen. Beantragen Sie eine Mitgliedschaft, um den Foren beizutreten, und nutzen Sie die Web site für maschinelles Lernen Kaggle, um praktische Erfahrungen in der Praxis zu sammeln. Nachdem sie sich jedoch mit der primären Sprache und Syntax vertraut gemacht haben, empfehlen viele Benutzer, ihre Lernerfahrung zu verfeinern, indem sie sich auf bestimmte Bereiche konzentrieren, darunter Verarbeitung natürlicher Sprache (NLP) bzw Laptop Imaginative and prescient.

Klicken Sie hier, um auf diesen Reddit-Thread zum Thema LLM Agent zuzugreifen.

Arbeitet jemand an LLM-Agent-Systemen? Welche Open-Supply-Projekte verwenden Sie? Was funktioniert intestine, was nicht?

Dieser Reddit-Thread für LLM-Agenten konzentriert sich auf verschiedene Plattformen für die Bereitstellung von LLM-Agenten (Massive Language Mannequin). Die Mitwirkenden heben verschiedene Instruments hervor, die für die Erstellung und Überwachung dieser Agenten besonders nützlich sind, und legen Wert auf Open-Supply- und anpassbare Optionen. LangChain wird als robustes Framework für die Erstellung LLM-gesteuerter Anwendungen und die Verbindung von LLMs mit externen Dienstprogrammen hervorgehoben. Auto-GPT Und BabyAGI genießen hohes Ansehen für die Unterstützung autarker Agenten, die GPT-Anfragen verknüpfen können, um vom Benutzer festgelegte Ziele zu erreichen. In weiteren Gesprächen geht es um neue Modelle zum Speichern von Erinnerungen und zur Verbesserung von Agenten für bestimmte Aufgaben, beispielsweise die Integration von Instruments wie FAISS zum Auffinden von Ähnlichkeiten und Zapier zur Automatisierung von Arbeitsabläufen.

Klicken Sie hier, um auf diesen Reddit-Thread zum Thema LLM Agent zuzugreifen.

Im Ernst, können LLM-Agenten WIRKLICH in der Produktion arbeiten? Ich baue einen vollwertigen Verkäufer auf, aber …

Diese Diskussion befasst sich mit den Schwierigkeiten bei der Verwendung großer Sprachmodelle (LLMs) in Produktionsumgebungen. Es unterstreicht die Bedeutung der Skalierung und betrieblicher Aspekte wie Kosten, Leistung und Wartung. Die Diskussion konzentriert sich auf den Übergang von Prototypmodellen zu zuverlässigen Systemen für die Produktion und berücksichtigt dabei Elemente wie Latenz und Inferenzgeschwindigkeit. Der Schwerpunkt liegt auch auf praktischen Anwendungen von LLMs in Geschäftsumgebungen, wie zum Beispiel Kundenservice, Automatisierung und Erstellung von Inhalten.

Klicken Sie hier, um auf diesen Reddit-Thread zum Thema LLM Agent zuzugreifen.

Brokers+ LLM in der Produktion

In diesem Thread werden die Zweifel im Zusammenhang mit der Verwendung von LLM-Agenten in Produktionsumgebungen untersucht. Der Schwerpunkt des Gesprächs liegt auf der Frage, ob aktuelle LLM-Agenten komplexe Aufgaben, insbesondere in sich ständig ändernden Situationen, selbstständig bewältigen können. Mehrere Quellen argumentieren, dass LLMs zwar bestimmte Aufgaben automatisieren können, bei komplizierten Entscheidungen jedoch häufig die Beteiligung von Menschen erfordern. Die Diskussion befasst sich mit der Frage, ob LLMs ohne kontinuierliche Aufsicht effektiv funktionieren können, und mit ihren möglichen Schwierigkeiten in unsicheren Situationen, insbesondere wenn sie mit Reside-Systemen verbunden sind.

Klicken Sie hier, um auf diesen Reddit-Thread zum Thema LLM Agent zuzugreifen.

Kennen Sie gute LLM-Agent-Anwendungen, von denen Sie lernen können?

In r/LocalLLaMA diskutieren die Leute, wie man sich im maschinellen Lernen vom Anfänger zum Fortgeschrittenen verbessern kann. Die meisten von ihnen verweisen auf lineare Algebra, Wahrscheinlichkeit, Statistik und Codierung als Kurse, die ihrer Meinung nach als Bausteine ​​integriert werden sollten, da sie auf diesem Gebiet von entscheidender Bedeutung sind. Sie betonen auch, wie wichtig es ist, in mehreren Projekten praktische Erfahrungen zu sammeln Knowledge Science-ProjekteTensorFlow, PyTorch und Scikit-learn. Aus neuen Ansätzen soll gelernt werden Forschungsarbeiten; Zu den Vorschlägen gehört, dass Sie durch die Einbeziehung erweiterter praktischer Erfahrungen über neue praktikable Methoden auf dem Laufenden bleiben. Es wird empfohlen, dass die Leute in Foren kommentieren und posten und beitreten Kaggle-Wettbewerbe um praktische Erfahrungen in der ML-Neighborhood zu sammeln. Die Besonderheiten sind erwähnenswert. Einige Benutzer empfehlen, sich auf die Themen zu konzentrieren, die Sie am meisten beschäftigen, und diese zu verfeinern, zum Beispiel NLP oder Laptop Imaginative and prescient.

Klicken Sie hier, um auf diesen Reddit-Thread zum Thema LLM Agent zuzugreifen.

Wir stellen vor: AutoCoderRover…….

Wir stellen vor: AutoCoderRover ist ein Thread, der über die Transformation der Softwareentwicklung mithilfe autonomer Agenten spricht. LLMs und Automatisierung könnten die Softwareentwicklung rationalisieren und Aufgaben von der Codierung bis zum Debuggen und der Dokumentation abdecken. Die Diskussion konzentriert sich auf die technischen Elemente der Entwicklung eines autonomer Agent komplette Entwicklungsphasen zu verwalten. Dennoch ist die Neighborhood vielfältig: Einige befürworten die Innovation, während andere sich Sorgen über die Einschränkungen und ethischen Konsequenzen machen, die eine erhebliche Abhängigkeit von autonomen Software program-Agenten mit sich bringt.

Klicken Sie hier, um auf diesen Reddit-Thread zum Thema LLM Agent zuzugreifen.

CRISPR-GPT: Ein LLM-Agent für die automatisierte Gestaltung von Gen-Enhancing-Experimenten

Dieser Reddit-Thread zu LLM Brokers diskutiert das Potenzial der Verwendung großer Sprachmodelle (LLMs) wie GPT-4 zur Automatisierung des Designs von CRISPR-Information-RNAs (gRNAs). Das Konzept besteht darin, die Rechenfähigkeiten von LLMs zu nutzen, um die Effizienz des CRISPR-Genomeditierungsverfahrens zu steigern. Das Gespräch zeigt, wie KI die Gentechnik unterstützen kann, indem sie Aufgaben übernimmt, die menschliches Engagement erfordern. Es wirft interessante Fragen darüber auf, wie KI die Biotechnologie verändern kann, indem sie die Suche nach gRNA-Sequenzen für bestimmte Ziele der Genbearbeitung effizienter macht.

Klicken Sie hier, um auf diesen Reddit-Thread zum Thema LLM Agent zuzugreifen.

GPT-4 Woche 3. Chatbots sind Schnee von gestern. KI-Agenten sind die Zukunft. Der Beginn der Proto-Agi-Ära ist da.

GPT-4-Thread spiegeln einen umfassenderen Wandel in der Wahrnehmung von KI-Technologien wider. Da Chatbots früher die führende KI-Anwendung waren, konzentriert sich die Diskussion nun darauf, wie GPT-4 und ähnliche Modelle für komplexere Aufgaben wie die Automatisierung von Arbeitsabläufen, Codierung und Problemlösung in der wissenschaftlichen Forschung und Cybersicherheit verwendet werden. Im Mittelpunkt der Diskussion steht die Abkehr der KI von der menschlichen Interaktion hin zur eigenständigen Entscheidungsfindung und Aufgabenerledigung, die über typische Chatbot-Funktionen hinausgeht.

Klicken Sie hier, um auf diesen Reddit-Thread zum Thema LLM Agent zuzugreifen.

METR-Bewertungen – LLM-Agenten vs. erfahrene Menschen bei der Erledigung verschiedener Aufgaben

Dieser Reddit-Thread zu LLM Brokers untersucht die vergleichende Leistung von LLM-Agenten im Vergleich zu erfahrenen menschlichen Bedienern bei bestimmten Aufgaben, bewertet durch METR (Machine Analysis vs. Human Analysis Stories). Die Diskussion konzentriert sich auf LLMs, die bei komplizierten, kompetenzorientierten Aktivitäten möglicherweise die menschlichen Fähigkeiten übertreffen. Es wird erörtert, wie sich KI-Modelle wie GPT-4 in skriptgesteuerten Umgebungen auszeichnen, in puncto Flexibilität und Innovation jedoch hinter dem Menschen zurückbleiben. In diesem Beitrag werden auch die Schwierigkeiten bei der Bewertung von KI anhand von Metriken untersucht, die auf menschlichen Perspektiven basieren.

Klicken Sie hier, um auf diesen Reddit-Thread zum Thema LLM Agent zuzugreifen.

Nein, LLM-Agenten können eintägige Schwachstellen nicht selbstständig ausnutzen.

Das ist ein Thread zum Thema Cybersicherheit darüber, ob LLM-Agenten „eintägige Schwachstellen“ (öffentlich bekanntgegebene, aber noch nicht behobene Sicherheitslücken) autonom ausnutzen können. Obwohl die Fähigkeit von GPT-4, GPT-4 zu erkennen und auszunutzen, begeistert ist In dieser Diskussion herrscht allgemeine Übereinstimmung darüber, dass es den LLM-Agenten an völliger Autonomie in Bezug auf die Ausbeutung mangelt. Sie sind auf vorab festgelegte Richtlinien angewiesen und haben häufig Probleme mit komplizierten Situationen, einschließlich Sicherheitslücken außerhalb des Webs oder Schnittstellen, die ein Eingreifen des Benutzers erfordern.

Klicken Sie hier, um auf diesen Reddit-Thread zum Thema LLM Agent zuzugreifen.

Abschluss

Diese High-Reddit-Threads zu LLM-Agenten sind großartige Ressourcen, um auf dem Laufenden zu bleiben, neue Techniken zu erlernen und mit anderen in der KI-Neighborhood in Kontakt zu treten. Wenn Sie diese Diskussionen verfolgen, bleiben Sie in diesem sich schnell entwickelnden Bereich immer einen Schritt voraus. Wenn Sie noch tiefer tauchen möchten, sollten Sie sich unsere nicht entgehen lassen neu Agentisches KI-Pionierprogramm – Ihr Tor zur Beherrschung der Zukunft der KI-Technologie!

Habe ich einen Reddit-Thread verpasst, der Ihr persönlicher Favorit ist? Schreiben Sie unten einen Kommentar und teilen Sie Ihre Erkenntnisse – ich würde mich freuen, von Ihnen zu hören!

Meinung

Die Leute richten ihre Augen auf das nächste glänzende Ding. FOMO ist Teil der menschlichen Natur. Und das gilt auch für Unternehmen. So wie Information Science zu einem Pattern für die Analysefunktion jedes Unternehmens wurde, ist die Agentic Structure das heißeste Ziel auf den meisten KI-Radaren.

Haben Sie schon einmal darüber nachgedacht, ob Sie es wirklich brauchen?

Hallo, ich bin Louis Chan, Tech Lead bei KPMG World Lighthouse. Es ist über ein Jahr her, dass ich KPMGs Enterprise GenAI-as-a-Service-Plattform – KPMG AVA – mitbegründet habe, die über 18.000 Benutzer weltweit bei all ihren GenAI-Anforderungen unterstützt. Es ist faszinierend zu sehen, wie Unternehmen und Kunden die neuesten Schlagworte aufgreifen – von AI, GenAI, Chat, RAG, Agent bis hin zu Agentic Structure.

Dies ist ein aufstrebendes Feld, und die meisten von uns (mich eingeschlossen) wissen nicht einmal die Hälfte von dem, worüber wir sprechen. Der allgemeine Optimismus, dass LLM die Geschäftseffizienz auf wundersame Weise steigern kann, und die Angst vor den Auswirkungen und der Haftung der Spitzentechnologie treiben den Wunsch an, nach dem nächsten, besseren und komplexeren System zu streben.

Tatsächlich benötigen Sie keine Agentenarchitektur und sind auch besser dran, wenn Sie in Ihrem Unternehmen keine verwenden.

LLM Agent & Agentenarchitektur in…