mit Ollama, LangChain, LangGraph (keine GPU, kein APIKEY)
(Alle Bilder stammen vom Autor, sofern nicht anders angegeben)
Einführung
Schnelles Engineering ist die Praxis des Entwerfens und Verfeinerns von Eingabeaufforderungen (Texteingaben), um das Verhalten von Giant Language Fashions (LLMs) zu verbessern. Das Ziel besteht darin, durch sorgfältige Ausarbeitung der Anweisungen die gewünschten Antworten vom Modell zu erhalten. Die am häufigsten verwendeten Aufforderungstechniken sind:
- Gedankenkette: beinhaltet die Erstellung eines schrittweisen Argumentationsprozesses, um zu einer Schlussfolgerung zu gelangen. Das Modell wird dazu gedrängt, „laut zu denken“, indem die logischen Schritte, die zur endgültigen Antwort führen, explizit dargelegt werden.
- Reagieren (Grund+Handlung): verbindet Argumentation mit Handeln. Das Modell durchdenkt ein Downside nicht nur, sondern ergreift auch Maßnahmen auf der Grundlage seiner Überlegungen. Es ist additionally interaktiver, da das Modell zwischen Argumentationsschritten und Aktionen wechselt und seinen Ansatz iterativ verfeinert. Im Grunde handelt es sich um eine Schleife aus „Denken“, „Handeln“ und „Beobachten“.
Machen wir ein Beispiel: Stellen Sie sich vor, Sie bitten eine KI, „den besten Laptop computer unter 1000 US-Greenback zu finden“.
– Normale Antwort: „Lenovo Thinkpad“.
– Kettenantwort: „Ich muss Faktoren wie Leistung, Akkulaufzeit und … berücksichtigen.