Erstellen von LLM-Apps: Eine klare Schritt-für-Schritt-Anleitung | von Almog Baku | Juni 2024

Manchmal schlägt Ihr „Experiment“ fehl. Dann ändern Sie Ihre Vorgehensweise leicht und dieses andere Experiment ist viel erfolgreicher.

Genau deshalb, Vor Bei der Gestaltung unserer Endspiellösung müssen wir einfach beginnen und unsere Risiken absichern.

1. Definieren Sie ein „Funds“ oder einen Zeitrahmen. Lassen Sie uns sehen, was wir in X Wochen erreichen können, und dann entscheiden, ob und wie wir weitermachen. Normalerweise reichen 2–4 Wochen aus, um den grundlegenden PoC zu verstehen. Wenn es vielversprechend aussieht, investieren Sie weiterhin Ressourcen, um es zu verbessern.
2. Experiment-Unabhängig davon, ob Sie für Ihre Experimentierphase einen Backside-up- oder Prime-down-Ansatz wählen, besteht Ihr Ziel darin, die Ergebnisfolgerate zu maximieren. Am Ende der ersten Experimentieriteration sollten Sie einige PoC (mit denen die Stakeholder spielen können) und eine erreichte Baseline haben.
3. Retrospektive — Am Ende unserer Forschungsphase können wir die Machbarkeit, Einschränkungen und Kosten der Entwicklung einer solchen App verstehen. Dies hilft uns bei der Entscheidung, ob wir sie in die Produktion bringen und wie wir das Endprodukt und seine UX gestalten.
4. Produktisierung — Entwickeln Sie eine produktionsreife Model Ihres Projekts und integrieren Sie sie in den Relaxation Ihrer Lösung, indem Sie die standardmäßigen Finest Practices von SWE befolgen und einen Suggestions- und Datenerfassungsmechanismus implementieren.

Um den experimentorientierten Prozess intestine umzusetzen, müssen wir eine fundierte Entscheidung über die Vorgehensweise und Durchführung dieser Experimente treffen:

Lean starten: Der Backside-Up-Ansatz

Während viele Early Adopters schnell in“ Stand der Technik“ Multichain-Agentensysteme mit vollwertiger Langchain oder etwas Ähnlichem, fand ich „Der Backside-Up-Ansatz“ führt oft zu besseren Ergebnissen.

Schlank anfangen, sehr magerumarmend die „Eine Aufforderung, sie alle zu knechten“ Philosophie. Obwohl diese Strategie unkonventionell erscheinen magazine und wahrscheinlich zunächst schlechte Ergebnisse hervorbringen wird, etabliert sie eine Basislinie für Ihr System.

Von dort aus iterieren und verfeinern Sie Ihre Eingabeaufforderungen kontinuierlich und setzen Sie Techniken des Immediate Engineering ein, um die Ergebnisse zu optimieren. Wenn Sie Schwachstellen in Ihrer schlanken Lösung feststellen, teilen Sie den Prozess auf, indem Sie Zweige hinzufügen, um diese Mängel zu beheben.

Beim Entwerfen jedes „Blattes“ meines LLM-Workflow-Diagramms oder meiner LLM-nativen Architektur folge ich Das magische Dreieck³ um zu bestimmen, wo und wann die Zweige abgeschnitten, geteilt oder die Wurzeln verdickt werden müssen (mithilfe schneller technischer Techniken) und um mehr Zitrone auszupressen.

Um beispielsweise „SQL-Abfragen in nativer Sprache“ mit dem Backside-Up-Ansatz zu implementieren, beginnen wir damit, die Schemata naiv an den LLM zu senden und ihn aufzufordern, eine Abfrage zu generieren.

Normalerweise widerspricht dies nicht dem „Prime-Down-Ansatz“, sondern stellt einen weiteren Schritt davor dar. Dadurch können wir schnelle Erfolge erzielen und mehr Projektinvestitionen anziehen.

Das große Ganze im Voraus: Die Prime-Down-Strategie

„Wir wissen, dass der LLM-Workflow nicht einfach ist, und um unser Ziel zu erreichen, werden wir wahrscheinlich mit einem Workflow oder einer LLM-nativen Architektur enden.“

Der Prime-Down-Ansatz berücksichtigt dies und beginnt mit der Entwicklung der LLM-nativen Architektur vom ersten Tag an und der Implementierung ihrer verschiedenen Schritte/Ketten von Anfang an.

Auf diese Weise können Sie Ihre Workflow-Architektur als Ganzes testen und die ganze Zitrone auspressen, anstatt jedes Blatt einzeln zu verfeinern.

Um beispielsweise „SQL-Abfragen in nativer Sprache“ mit dem Prime-Down-Ansatz zu implementieren, beginnen wir mit dem Entwurf der Architektur, bevor wir überhaupt mit dem Coden beginnen, und springen dann zur vollständigen Implementierung:

Die richtige Stability finden

Wenn Sie anfangen, mit LLMs zu experimentieren, werden Sie wahrscheinlich an einem der Excessive beginnen (überkompliziertes Prime-Down oder supereinfaches One-Shot). In Wirklichkeit gibt es keinen Gewinner.

Im Idealfall definieren Sie ein gutes SoP¹ und modellieren einen Experten, bevor Sie das Modell codieren und damit experimentieren. In der Realität ist die Modellierung sehr schwierig; manchmal haben Sie möglicherweise keinen Zugriff auf einen solchen Experten.

Ich fand es schwierig, beim ersten Versuch eine gute Architektur/einen guten SoP¹ zu finden, additionally lohnt es sich, ein wenig zu experimentieren, bevor man zu großen Geschützen greift. Das bedeutet jedoch nicht, dass alles muß sein zu mager. Wenn Sie bereits ein vorheriges Verständnis dass etwas MUSS in kleinere Stücke zerlegt werden – tun Sie das.

In jedem Fall sollten Sie beim Entwerfen Ihrer Lösung das Paradigma des magischen Dreiecks³ nutzen und den manuellen Prozess richtig modellieren.