In meinem vorherigen BeitragImmediate Caching – was es ist, wie es funktioniert und wie es Ihnen viel Geld und Zeit sparen kann, wenn Sie KI-gestützte Apps mit hohem Datenverkehr ausführen. Im heutigen Beitrag führe ich Sie durch die Implementierung von Immediate Caching speziell mithilfe der OpenAI-API und bespreche einige häufige Fallstricke.

---

Eine kurze Erinnerung an Immediate Caching

Bevor wir uns die Hände schmutzig machen, werfen wir einen kurzen Blick auf das Konzept des Immediate Caching. Immediate Caching ist eine Funktionalität, die in Frontier-Modell-API-Diensten wie dem bereitgestellt wird OpenAI-API oder Claudes API, Dies ermöglicht das Zwischenspeichern und Wiederverwenden von Teilen der LLM-Eingabe, die häufig wiederholt werden. Solche wiederholten Teile können Systemaufforderungen oder Anweisungen sein, die jedes Mal beim Ausführen einer KI-App an das Modell übergeben werden, zusammen mit anderen variablen Inhalten, wie der Anfrage des Benutzers oder aus einer Wissensdatenbank abgerufenen Informationen. Um beim Immediate-Caching auf den Cache zugreifen zu können, müssen die wiederholten Teile des Prompts am Anfang des Prompts stehen, nämlich a Eingabeaufforderungspräfix. Damit das Immediate-Caching aktiviert werden kann, muss dieses Präfix außerdem einen bestimmten Wert überschreiten Schwelle (Beispiel: Für OpenAI sollte das Präfix mehr als 1.024 Token betragen, während Claude für verschiedene Modelle unterschiedliche Mindestcachelängen hat.) Sofern diese beiden Bedingungen erfüllt sind – wiederholte Token als Präfix, die den durch den API-Dienst und das API-Modell definierten Größenschwellenwert überschreiten – kann Caching aktiviert werden, um beim Ausführen von KI-Apps Skaleneffekte zu erzielen.

Im Gegensatz zum Caching in anderen Komponenten in einem RAG oder einer anderen KI-App erfolgt das Immediate-Caching auf Token-Ebene, in den internen Prozeduren des LLM. Insbesondere erfolgt die LLM-Inferenz in zwei Schritten:

• VorfüllenDas heißt, das LLM berücksichtigt die Benutzeraufforderung zum Generieren des ersten Tokens und
• DekodierungDas heißt, das LLM generiert rekursiv die Token der Ausgabe nacheinander

Kurz gesagt: Beim Immediate-Caching werden die Berechnungen gespeichert, die in der Pre-Fill-Section durchgeführt werden, sodass das Modell sie nicht erneut berechnen muss, wenn dasselbe Präfix erneut angezeigt wird. Alle Berechnungen, die in der Section der Dekodierungsiterationen stattfinden, werden nicht zwischengespeichert, auch wenn sie wiederholt werden.

Für den Relaxation des Beitrags werde ich mich ausschließlich auf die Verwendung von Immediate-Caching in der OpenAI-API konzentrieren.

---

Was ist mit der OpenAI-API?

In der API von OpenAI wurde das Immediate-Caching zunächst eingeführt 1. Oktober 2024. Ursprünglich wurde ein Rabatt von 50 % auf die zwischengespeicherten Token angeboten, heutzutage beträgt dieser Rabatt jedoch bis zu 90 %. Darüber hinaus können durch Zugriff auf den Immediate-Cache zusätzliche Latenzeinsparungen von bis zu 80 % erzielt werden.

Wenn das Zwischenspeichern von Eingabeaufforderungen aktiviert ist, versucht der API-Dienst, auf den Cache für eine übermittelte Anforderung zuzugreifen, indem er die übermittelte Eingabeaufforderung an einen entsprechenden Laptop weiterleitet, auf dem der entsprechende Cache voraussichtlich vorhanden ist. Dies wird als Cache-Routing bezeichnet. Zu diesem Zweck verwendet der API-Dienst normalerweise einen Hash der ersten 256 Token der Eingabeaufforderung.

Darüber hinaus ermöglicht ihre API auch die explizite Definition eines prompt_cache_key Parameter in der API-Anfrage an das Modell. Dabei handelt es sich um einen einzelnen Schlüssel, der definiert, auf welchen Cache wir uns beziehen. Ziel ist es, die Wahrscheinlichkeit weiter zu erhöhen, dass unsere Eingabeaufforderung an den richtigen Laptop weitergeleitet wird und den Cache erreicht.

Darüber hinaus bietet die OpenAI-API zwei unterschiedliche Arten des Cachings in Bezug auf die Dauer, die durch definiert werden prompt_cache_retention Parameter. Das sind:

• Beibehaltung des In-Reminiscence-Immediate-Cache: Dies ist im Wesentlichen der Normal-Caching-Typ, der für alle Modelle verfügbar ist, für die Immediate-Caching verfügbar ist. Beim In-Reminiscence-Cache bleiben zwischengespeicherte Daten für einen Zeitraum von 5 bis 10 Minuten zwischen Anfragen aktiv.
• Erweiterte Aufbewahrung des Immediate-Cache: Dies ist verfügbar für bestimmte Modelle. Der erweiterte Cache ermöglicht das Speichern von Daten im Cache für einen Zeitraum von maximal 24 Stunden.

Was nun die Kosten für all diese Kosten angeht, berechnet OpenAI dasselbe professional eingegebenem (nicht zwischengespeichertem) Token, unabhängig davon, ob wir das sofortige Caching aktiviert haben oder nicht. Wenn es uns gelingt, den Cache erfolgreich aufzurufen, werden uns die zwischengespeicherten Token zu einem stark reduzierten Preis in Rechnung gestellt, mit einem Rabatt von bis zu 90 %. Darüber hinaus bleibt der Preis professional Eingabe-Token sowohl für die In-Reminiscence- als auch für die erweiterte Cache-Aufbewahrung gleich.

---

Promptes Caching in der Praxis

Sehen wir uns additionally anhand eines einfachen Python-Beispiels mithilfe des API-Dienstes von OpenAI an, wie Immediate-Caching tatsächlich funktioniert. Genauer gesagt werden wir ein realistisches Szenario erstellen, in dem a lange Systemaufforderung (Präfix) wird über mehrere Anfragen hinweg wiederverwendet. Wenn Sie hier sind, haben Sie vermutlich bereits Ihre OpenAI API-Schlüssel installiert und die erforderlichen Bibliotheken installiert haben. Das erste, was Sie tun müssen, wäre additionally, das zu importieren OpenAI Bibliothek, sowie time zum Erfassen der Latenz und zum Initialisieren einer Instanz des OpenAI-Purchasers:

from openai import OpenAI
import time

shopper = OpenAI(api_key="your_api_key_here")

Dann können wir unser Präfix definieren (die Token, die wiederholt werden und die wir zwischenspeichern möchten):

long_prefix = """
You're a extremely educated assistant specialised in machine studying.
Reply questions with detailed, structured explanations, together with examples when related.

""" * 200  

Beachten Sie, wie wir die Länge künstlich erhöhen (mit 200 multiplizieren), um sicherzustellen, dass der Caching-Schwellenwert von 1.024 Token erreicht wird. Dann richten wir noch einen Timer ein, um unsere Latenzeinsparungen zu messen, und schon können wir endlich unseren Anruf tätigen:

begin = time.time()

response1 = shopper.responses.create(
    mannequin="gpt-4.1-mini",
    enter=long_prefix + "What's overfitting in machine studying?"
)

finish = time.time()

print("First response time:", spherical(finish - begin, 2), "seconds")
print(response1.output(0).content material(0).textual content)

Was erwarten wir additionally von hier aus? Für Modelle ab gpt-4o und neuer ist das Immediate-Caching standardmäßig aktiviert, und da unsere 4.616 Eingabe-Tokens deutlich über dem Schwellenwert von 1.024 Präfix-Tokens liegen, können wir loslegen. Diese Anfrage prüft additionally zunächst, ob es sich bei der Eingabe um einen Cache-Treffer handelt (das ist nicht der Fall, da wir zum ersten Mal eine Anfrage mit diesem Präfix stellen), und da dies nicht der Fall ist, verarbeitet sie die gesamte Eingabe und speichert sie dann im Cache. Wenn wir das nächste Mal eine Eingabe senden, die bis zu einem gewissen Grad mit den anfänglichen Token der zwischengespeicherten Eingabe übereinstimmt, erhalten wir einen Cache-Treffer. Lassen Sie uns dies in der Praxis überprüfen, indem wir eine zweite Anfrage mit demselben Präfix stellen:

begin = time.time()

response2 = shopper.responses.create(
    mannequin="gpt-4.1-mini",
    enter=long_prefix + "What's regularization?"
)

finish = time.time()

print("Second response time:", spherical(finish - begin, 2), "seconds")
print(response2.output(0).content material(0).textual content)

In der Tat! Die zweite Anfrage läuft deutlich schneller (23,31 vs. 15,37 Sekunden). Dies liegt daran, dass das Modell die Berechnungen für das zwischengespeicherte Präfix bereits durchgeführt hat und nur den neuen Teil „Was ist Regularisierung?“ von Grund auf verarbeiten muss. Dadurch erzielen wir durch die Verwendung von Immediate-Caching eine deutlich geringere Latenz und geringere Kosten, da zwischengespeicherte Token rabattiert werden.

---

Eine weitere Sache, die in der OpenAI-Dokumentation erwähnt wird, über die wir bereits gesprochen haben, ist die prompt_cache_key Parameter. Insbesondere können wir laut Dokumentation explizit einen Immediate-Cache-Schlüssel definieren, wenn wir eine Anfrage stellen, und auf diese Weise die Anfragen definieren, die denselben Cache verwenden müssen. Dennoch habe ich versucht, es in mein Beispiel einzubeziehen, indem ich die Anforderungsparameter entsprechend angepasst habe, hatte aber nicht viel Glück:

response1 = shopper.responses.create(
    prompt_cache_key = 'prompt_cache_test1',
    mannequin="gpt-5.1",
    enter=long_prefix + "What's overfitting in machine studying?"
)

Es scheint eine Weile her zu sein prompt_cache_key in den API-Funktionen vorhanden ist, ist es im Python SDK noch nicht verfügbar. Mit anderen Worten: Wir können die Wiederverwendung des Caches noch nicht explizit steuern, sondern sie erfolgt eher automatisch und nach bestem Wissen und Gewissen.

---

Was kann additionally schief gehen?

Das Aktivieren des Immediate-Cachings und das tatsächliche Aufrufen des Caches scheint nach dem, was wir bisher gesagt haben, ziemlich einfach zu sein. Was kann additionally schief gehen und dazu führen, dass uns der Cache fehlt? Leider viele Dinge. So einfach es auch ist, erfordert Immediate-Caching viele verschiedene Annahmen. Das Fehlen auch nur einer dieser Voraussetzungen führt zu einem Cache-Fehler. Aber schauen wir genauer hin!

Ein offensichtlicher Fehler besteht darin, dass das Präfix unter dem Schwellenwert für die Aktivierung des Immediate-Caching liegt, nämlich weniger als 1.024 Token. Dies ist jedoch sehr leicht lösbar – wir können die Anzahl der Präfix-Token jederzeit künstlich erhöhen, indem wir einfach mit einem geeigneten Wert multiplizieren, wie im obigen Beispiel gezeigt.

Eine andere Sache wäre, das Präfix stillschweigend zu brechen. Insbesondere müssen wir, selbst wenn wir für alle Anforderungen persistente Anweisungen und Systemaufforderungen angemessener Größe verwenden, äußerst vorsichtig sein, die Präfixe nicht zu zerstören, indem wir zu Beginn der Modelleingabe vor dem Präfix Variableninhalte hinzufügen. Dies ist eine garantierte Möglichkeit, den Cache zu brechen, unabhängig davon, wie lang und wiederholt das folgende Präfix ist. Übliche Verdächtige, die in diese Falle tappen, sind dynamische Daten, beispielsweise das Anhängen der Benutzer-ID oder von Zeitstempeln am Anfang der Eingabeaufforderung. Daher besteht eine bewährte Vorgehensweise bei der gesamten KI-App-Entwicklung darin, dass dynamische Inhalte immer am Ende der Eingabeaufforderung angehängt werden sollten – niemals am Anfang.

Letztendlich ist hervorzuheben, dass es beim Immediate-Caching nur um die Pre-Fill-Section geht – die Dekodierung wird nie zwischengespeichert. Das bedeutet, dass selbst wenn wir dem Modell auferlegen, Antworten nach einer bestimmten Vorlage zu generieren, die mit bestimmten festen Token beginnt, diese Token nicht zwischengespeichert werden und uns ihre Verarbeitung wie gewohnt in Rechnung gestellt wird.

Umgekehrt ist es für bestimmte Anwendungsfälle nicht wirklich sinnvoll, Immediate Caching zu verwenden. In solchen Fällen handelt es sich um hochdynamische Eingabeaufforderungen wie Chatbots mit wenigen Wiederholungen, einmalige Anfragen oder personalisierte Systeme in Echtzeit.

. . .

In meinen Gedanken

Schnelles Caching kann die Leistung von KI-Anwendungen sowohl hinsichtlich der Kosten als auch der Zeit erheblich verbessern. Insbesondere bei der Skalierung von KI-Apps ist Immediate-Caching äußerst praktisch, um Kosten und Latenz auf einem akzeptablen Niveau zu halten.

Für die OpenAI-API ist das Immediate-Caching standardmäßig aktiviert und die Kosten für Eingaben und nicht zwischengespeicherte Token sind dieselben, unabhängig davon, ob wir das Immediate-Caching aktivieren oder nicht. Man kann additionally nur gewinnen, wenn man das Immediate-Caching aktiviert und versucht, es bei jeder Anfrage zu treffen, auch wenn man keinen Erfolg hat.

Claude bietet über seine API auch umfangreiche Funktionen zum Immediate-Caching, die wir in einem zukünftigen Beitrag ausführlich untersuchen werden.

Danke fürs Lesen!

. . .

Hat Ihnen dieser Beitrag gefallen? Lasst uns Freunde sein! Begleiten Sie mich auf:

Unterstapel Medium LinkedIn Kauf mir einen Kaffee!

Alle Bilder vom Autor, sofern nicht anders angegeben.

wir haben viel darüber gesprochen Was für ein unglaubliches Werkzeug RAG ist um die Leistungsfähigkeit der KI auf benutzerdefinierten Daten zu nutzen. Unabhängig davon, ob es sich um einfache LLM-API-Anfragen, RAG-Anwendungen oder komplexere KI-Agenten handelt, gibt es eine häufig gestellte Frage, die immer dieselbe bleibt. Wie lassen sich all diese Dinge skalieren? Was passiert insbesondere mit den Kosten und der Latenz, wenn die Anzahl der Anfragen in solchen Apps wächst? Insbesondere für fortgeschrittenere KI-Agenten, die kann mehrere Anrufe enthalten B. einem LLM zur Bearbeitung einer einzelnen Benutzeranfrage, kommt diesen Fragen eine besondere Bedeutung zu.

Glücklicherweise werden in der Realität bei Aufrufen eines LLM normalerweise dieselben Eingabetokens über mehrere Anforderungen hinweg wiederholt. Benutzer werden einige spezifische Fragen viel häufiger stellen als andere, Systemaufforderungen und Anweisungen, die in KI-gestützte Anwendungen integriert sind, werden bei jeder Benutzerabfrage wiederholt, und selbst für eine einzelne Eingabeaufforderung führen Modelle rekursive Berechnungen durch, um eine vollständige Antwort zu generieren (erinnern Sie sich, wie LLMs Textual content erzeugen, indem sie Wörter einzeln vorhersagen?). Ähnlich wie bei anderen Anwendungen ist die Verwendung von CacheDas Lösungskonzept kann erheblich dazu beitragen, die Kosten und Latenz von LLM-Anfragen zu optimieren. Beispielsweise laut OpenAI-Dokumentationn, Immediate Caching kann die Latenz um bis zu beeindruckende 80 % und die Eingabe-Token-Kosten um bis zu 90 % reduzieren.

---

Was ist mit Caching?

Im Allgemeinen, Caching in der Informatik ist keine neue Idee. Im Kern handelt es sich bei einem Cache um eine Komponente, die Daten vorübergehend speichert, damit zukünftige Anfragen nach denselben Daten schneller bearbeitet werden können. Auf diese Weise können wir zwischen zwei grundlegenden Cache-Zuständen unterscheiden – einem Cache-Hit und einem Cache-Miss. Insbesondere:

• Ein Cache-Hit tritt auf, wenn die angeforderten Daten im Cache gefunden werden, was einen schnellen und kostengünstigen Abruf ermöglicht.
• Ein Cache-Fehler tritt auf, wenn sich die Daten nicht im Cache befinden, wodurch die Anwendung gezwungen wird, auf die Originalquelle zuzugreifen, was teurer und zeitaufwändiger ist.

Eine der typischsten Implementierungen des Caches findet sich in Webbrowsern. Wenn Sie eine Web site zum ersten Mal besuchen, prüft der Browser die darin enthaltene URL Cache Speicher, findet aber nichts (das wäre ein Cache-Fehler). Da die gesuchten Daten nicht lokal verfügbar sind, muss der Browser eine teurere und zeitaufwändigere Anfrage über das Web an den Webserver stellen, um die Daten auf dem Distant-Server zu finden, auf dem sie ursprünglich vorhanden waren. Sobald die Seite schließlich geladen ist, kopiert der Browser diese Daten normalerweise in seine lokale Datei Cache. Wenn wir 5 Minuten später versuchen, dieselbe Seite erneut zu laden, sucht der Browser in seinem lokalen Speicher danach. Diesmal wird es gefunden (ein Cache-Treffer) und von dort geladen, ohne auf den Server zurückzugreifen. Dadurch arbeitet der Browser schneller und verbraucht weniger Ressourcen.

Wie Sie sich vorstellen können, ist Caching besonders nützlich in Systemen, in denen dieselben Daten mehrmals angefordert werden. In den meisten Systemen ist der Datenzugriff selten einheitlich, sondern folgt eher einer Verteilung, bei der ein kleiner Teil der Daten die überwiegende Mehrheit der Anfragen ausmacht. Ein großer Teil der realen Anwendungen folgt dem Pareto-Prinzipwas bedeutet, dass etwa 80 % der Anfragen etwa 20 % der Daten ausmachen. Ohne das Pareto-Prinzip müsste der Cache-Speicher so groß sein wie der Primärspeicher des Programs, was ihn sehr, sehr teuer machen würde.

---

Immediate Caching und ein wenig über LLM-Inferenz

Das Caching-Konzept – häufig verwendete Daten irgendwo zu speichern und von dort abzurufen, anstatt sie erneut von ihrer primären Quelle zu beziehen – wird in ähnlicher Weise zur Verbesserung der Effizienz von LLM-Anrufen genutzt, was eine deutliche Reduzierung von Kosten und Latenz ermöglicht. Caching kann in verschiedenen Elementen verwendet werden, die an einer KI-Anwendung beteiligt sein können. Das wichtigste davon ist Immediate Caching. Dennoch kann Caching auch große Vorteile bieten, wenn es auf andere Aspekte einer KI-App angewendet wird, wie zum Beispiel das Caching beim RAG-Abruf oder das Abfrage-Antwort-Caching. Dennoch konzentriert sich dieser Beitrag ausschließlich auf Immediate Caching.

---

Um zu verstehen, wie Immediate Caching funktioniert, müssen wir zunächst ein wenig darüber verstehen, wie LLM-Inferenz – die Verwendung eines trainierten LLM zum Generieren von Textual content – funktioniert. Die LLM-Inferenz ist kein einzelner kontinuierlicher Prozess, sondern ist in zwei unterschiedliche Phasen unterteilt. Das sind:

• Vorfüllenwas sich auf die Verarbeitung der gesamten Eingabeaufforderung auf einmal bezieht, um das erste Token zu erzeugen. Diese Part erfordert umfangreiche Berechnungen, und das ist auch der Fall rechengebunden. Wir können uns eine sehr vereinfachte Model dieser Part vorstellen, bei der sich jeder Token um alle anderen Token kümmert, oder so etwas wie den Vergleich jedes Tokens mit jedem vorherigen Token.
• Dekodierungwodurch das zuletzt generierte Token wieder in die Sequenz eingefügt und das nächste automatisch regressiv generiert wird. Diese Part ist Erinnerungsgebundenda das System den gesamten Kontext vorheriger Token aus dem Speicher laden muss, um jedes einzelne neue Token zu generieren.

Stellen Sie sich zum Beispiel vor, wir hätten die folgende Eingabeaufforderung:

What ought to I cook dinner for dinner? 

Daraus können wir dann den ersten Token erhalten:

Right here

und die folgenden Dekodierungsiterationen:

Right here 
Listed here are 
Listed here are 5 
Listed here are 5 straightforward 
Listed here are 5 straightforward dinner 
Listed here are 5 straightforward dinner concepts

Das Drawback dabei ist, dass das Modell zum Generieren der vollständigen Antwort immer wieder dieselben vorherigen Token verarbeiten müsste, um während der Dekodierungsphase jedes nächste Wort zu erzeugen, was, wie Sie sich vorstellen können, äußerst ineffizient ist. In unserem Beispiel bedeutet dies, dass das Modell die Token erneut verarbeiten würde.Was soll ich zum Abendessen kochen? Hier sind 5 einfache‚ zur Erstellung der Ausgabe ‚Ideen‚, auch wenn die Token bereits verarbeitet wurden ‚Was soll ich zum Abendessen kochen? Hier sind 5′ vor ein paar Millisekunden.

Um dies zu lösen, KV-Caching (Schlüsselwert). wird in LLMs verwendet. Dies bedeutet, dass zwischenzeitliche Schlüssel- und Werttensoren für die Eingabeaufforderung und zuvor generierte Token einmal berechnet und dann im KV-Cache gespeichert werden, anstatt sie bei jeder Iteration von Grund auf neu zu berechnen. Dies führt dazu, dass das Modell die minimal erforderlichen Berechnungen für die Erstellung jeder Antwort durchführt. Mit anderen Worten: Das Modell führt für jede Decodierungsiteration nur Berechnungen durch, um das neueste Token vorherzusagen, und hängt es dann an den KV-Cache an.

Allerdings funktioniert das KV-Caching nur für eine einzelne Eingabeaufforderung und zum Generieren einer einzelnen Antwort. Immediate Caching erweitert die beim KV-Caching verwendeten Prinzipien für die Nutzung des Cachings über verschiedene Prompts, Benutzer und Sitzungen hinweg.

---

In der Praxis speichern wir beim Immediate-Caching die wiederholten Teile eines Prompts nach der ersten Anforderung. Diese wiederholten Teile einer Eingabeaufforderung haben normalerweise die Type von Großformaten Präfixewie Systemaufforderungen, Anweisungen oder abgerufener Kontext. Wenn eine neue Anfrage dasselbe Präfix enthält, verwendet das Modell auf diese Weise die zuvor durchgeführten Berechnungen, anstatt eine Neuberechnung durchzuführen. Dies ist unglaublich praktisch, da es die Betriebskosten einer KI-Anwendung erheblich senken kann (wir müssen nicht für wiederholte Eingaben bezahlen, die dieselben Token enthalten) und auch die Latenz reduzieren (wir müssen nicht darauf warten, dass das Modell bereits verarbeitete Token verarbeitet). Dies ist besonders nützlich bei Anwendungen, bei denen Eingabeaufforderungen umfangreiche wiederholte Anweisungen enthalten, z RAG-Pipelines.

Es ist wichtig zu verstehen, dass dieses Caching funktioniert auf Token-Ebene. In der Praxis bedeutet dies, dass selbst wenn sich zwei Eingabeaufforderungen am Ende unterscheiden, die zwischengespeicherten Berechnungen für diesen gemeinsam genutzten Teil immer noch wiederverwendet werden können und nur neue Berechnungen für die unterschiedlichen Token durchgeführt werden, solange sie dasselbe Token-Präfix verwenden. Der schwierige Teil besteht darin, dass die gemeinsamen Token am Anfang der Eingabeaufforderung stehen müssen. Daher ist die Artwork und Weise, wie wir unsere Eingabeaufforderungen und Anweisungen bilden, von besonderer Bedeutung. In unserem Kochbeispiel können wir uns folgende aufeinanderfolgende Aufforderungen vorstellen.

Immediate 1
What ought to I cook dinner for dinner? 

und wenn wir dann die Eingabeaufforderung eingeben:

Immediate 2
What ought to I cook dinner for launch? 

Die geteilten Token ‚Was soll ich kochen? sollte ein Cache-Treffer sein, und daher sollte man damit rechnen, dass für Immediate 2 deutlich weniger Token verbraucht werden.

Wenn wir jedoch die folgenden Aufforderungen hätten …

Immediate 1
Meal time! What ought to I cook dinner? 

und dann

Immediate 2
Launch time! What ought to I cook dinner? 

Dies wäre ein Cache-Fehler, da das erste Token jeder Eingabeaufforderung unterschiedlich ist. Da die Eingabeaufforderungspräfixe unterschiedlich sind, können wir nicht auf den Cache zugreifen, selbst wenn ihre Semantik im Wesentlichen gleich ist.

Daher besteht eine grundlegende Faustregel für die Funktion des Immediate-Caching darin, immer alle statischen Informationen, wie Anweisungen oder Systemaufforderungen, am Anfang der Modelleingabe anzuhängen. Auf der anderen Seite sollten alle typischerweise variablen Informationen wie Zeitstempel oder Benutzeridentifikationen am Ende der Eingabeaufforderung stehen.

---

Mit der OpenAI-API machen wir uns die Hände schmutzig

Heutzutage sind die meisten Frontier-Stiftungsmodelle wie GPT oder Claudebieten eine Artwork Immediate-Caching-Funktionalität, die direkt in ihre APIs integriert ist. Genauer gesagt wird Immediate Caching in den genannten APIs von allen Benutzern einer Organisation gemeinsam genutzt, die auf denselben API-Schlüssel zugreifen. Mit anderen Worten: Sobald ein Benutzer eine Anfrage stellt und sein Präfix im Cache gespeichert wird, erhalten wir für jeden anderen Benutzer, der eine Eingabeaufforderung mit demselben Präfix eingibt, einen Cache-Treffer. Das heißt, wir können vorab berechnete Berechnungen verwenden, die den Token-Verbrauch erheblich reduzieren und die Antwortgenerierung beschleunigen. Dies ist besonders nützlich bei der Bereitstellung von KI-Anwendungen im Unternehmen, wo wir davon ausgehen, dass viele Benutzer dieselbe Anwendung und damit dieselben Eingabepräfixe verwenden.

Bei den neuesten Modellen ist Immediate Caching standardmäßig automatisch aktiviert, es ist jedoch ein gewisser Grad an Parametrisierung verfügbar. Wir können unterscheiden zwischen:

• Im Speicher sofortige Cache-Aufbewahrung, bei der die zwischengespeicherten Präfixe etwa 5–10 Minuten und bis zu 1 Stunde lang beibehalten werden, und
• Erweitert Sofortige Cache-Aufbewahrung (nur für bestimmte Modelle verfügbar), was eine längere Aufbewahrung des zwischengespeicherten Präfixes von bis zu maximal 24 Stunden ermöglicht.

Aber schauen wir genauer hin!

All dies können wir anhand des folgenden minimalen Python-Beispiels in der Praxis sehen, indem wir Anfragen an die OpenAI-API stellen, Immediate Caching verwenden und die zuvor erwähnten Kochaufforderungen verwenden. Ich habe meinen Eingabeaufforderungen ein ziemlich großes gemeinsames Präfix hinzugefügt, um die Auswirkungen des Cachings besser sichtbar zu machen:

from openai import OpenAI
api_key = "your_api_key"
consumer = OpenAI(api_key=api_key)

prefix = """
You're a useful cooking assistant.

Your activity is to recommend easy, sensible dinner concepts for busy individuals.
Observe these tips fastidiously when producing ideas:

Normal cooking guidelines:
- Meals ought to take lower than half-hour to organize.
- Substances ought to be straightforward to search out in a daily grocery store.
- Recipes ought to keep away from overly complicated methods.
- Want balanced meals together with greens, protein, and carbohydrates.

Formatting guidelines:
- At all times return a numbered record.
- Present 5 ideas.
- Every suggestion ought to embody a brief rationalization.

Ingredient tips:
- Want seasonal greens.
- Keep away from unique components.
- Assume the person has fundamental pantry staples comparable to olive oil, salt, pepper, garlic, onions, and pasta.

Cooking philosophy:
- Favor easy dwelling cooking.
- Keep away from restaurant-level complexity.
- Deal with meals that individuals realistically cook dinner on weeknights.

Instance meal kinds:
- pasta dishes
- rice bowls
- stir fry
- roasted greens with protein
- easy soups
- wraps and sandwiches
- sheet pan meals

Food regimen issues:
- Default to wholesome meals.
- Keep away from deep frying.
- Want balanced macronutrients.

Extra directions:
- Hold explanations concise.
- Keep away from repeating the identical components in each suggestion.
- Present selection throughout the meal ideas.

""" * 80   
# large prefix to verify i get the 1000 one thing token threshold for activating immediate caching

prompt1 = prefix + "What ought to I cook dinner for dinner?"

und dann für die Eingabeaufforderung 2

prompt2 = prefix + "What ought to I cook dinner for lunch?"

response2 = consumer.responses.create(
    mannequin="gpt-5.2",
    enter=prompt2
)

print("nResponse 2:")
print(response2.output_text)

print("nUsage stats:")
print(response2.utilization)

Für Eingabeaufforderung 2 würde uns additionally nur der verbleibende, nicht identische Teil der Eingabeaufforderung in Rechnung gestellt. Das wären die Eingabe-Tokens abzüglich der zwischengespeicherten Tokens: 20.014 – 19.840 = nur 174 Tokens, additionally 99 % weniger Tokens.

Da OpenAI einen Mindestschwellenwert von 1.024 Token für die Aktivierung des Immediate-Caching vorschreibt und der Cache maximal 24 Stunden lang aufbewahrt werden kann, wird auf jeden Fall klar, dass diese Kostenvorteile in der Praxis nur dann erzielt werden können, wenn KI-Anwendungen in großem Maßstab ausgeführt werden und viele aktive Benutzer täglich viele Anfragen ausführen. Dennoch kann die Immediate-Caching-Funktion, wie für solche Fälle erläutert, erhebliche Kosten- und Zeitvorteile für LLM-basierte Anwendungen bieten.

---

In meinen Gedanken

Immediate Caching ist eine leistungsstarke Optimierung für LLMs, die die Effizienz von KI-Anwendungen sowohl hinsichtlich der Kosten als auch der Zeit erheblich verbessern kann. Durch die Wiederverwendung früherer Berechnungen für identische Eingabeaufforderungspräfixe kann das Modell redundante Berechnungen überspringen und die wiederholte Verarbeitung derselben Eingabetoken vermeiden. Das Ergebnis sind schnellere Antworten und niedrigere Kosten, insbesondere bei Anwendungen, bei denen große Teile der Eingabeaufforderungen – wie Systemanweisungen oder abgerufener Kontext – über viele Anfragen hinweg konstant bleiben. Da KI-Systeme skalieren und die Anzahl der LLM-Aufrufe zunimmt, werden diese Optimierungen immer wichtiger.

---

Hat Ihnen dieser Beitrag gefallen? Lasst uns Freunde sein! Begleiten Sie mich auf:

Unterstapel Medium LinkedIn Kauf mir einen Kaffee!

Alle Bilder vom Autor, sofern nicht anders angegeben.

Sie geben eine lange Eingabeaufforderung ein, weit über 500 Wörter oder sogar 1000 Wörter. Es strukturiert alles perfekt. Erklärt detailliert, was zu tun ist, bis hin zu den Feinheiten jedes einzelnen Schritts. Und Sie drücken die Eingabetaste. Dein KI-Chatbot Beginnt stark, befolgt jede Anweisung von oben, lässt dann in der Mitte leicht nach und vergisst am Ende einige der Anweisungen völlig. Am Ende steht Ihnen ein Potpourri an Ergebnissen zur Verfügung, die nicht in ihrer Gesamtheit ungenau, aber sicherlich nicht intestine genug für die Verwendung sind. Wenn Sie jemals KI für eine komplexe, mehrstufige Aufgabe eingesetzt haben, ist die Wahrscheinlichkeit groß, dass Sie dasselbe durchgemacht haben. Und es neigt dazu, Sie niedergeschlagen zurückzulassen, da Sie nach dem Ausfüllen der perfekten Eingabeaufforderung nicht mehr viel tun können. Nun ja, das gibt es. Zwei Wörter – Immediate Chaining.

Eine Aufforderungstechnik, die nur wenige KI-Enthusiasten kennen und anwenden. Die schnelle Verkettung erfreut sich zunehmender Berühmtheit und Akzeptanz, da sie im Vergleich zur herkömmlichen Methode bessere Ergebnisse liefert Aufforderungstechniken. Hier werden wir untersuchen, was es ist, wie man es macht und was man bei der Verwendung erwarten kann.

Was ist Immediate Chaining?

Die Verkettung von Eingabeaufforderungen ist eine einzigartige Type der Eingabeaufforderung, die überraschend intestine funktioniert. Grundsätzlich ist es erforderlich, eine komplexe Aufgabe in eine Reihe kleinerer, fokussierter Eingabeaufforderungen aufzuteilen, sodass diese eine „Kette“ von Eingabeaufforderungen bilden. Daher hat es auch seinen Namen – Immediate Chaining.

Beachten Sie, dass diese Kette oder Sequenz auf eine ganz bestimmte Weise aufgebaut ist. Die Idee besteht darin, die Kette der Eingabeaufforderungen so zu gestalten, dass jede Ausgabe zur Eingabe für den nächsten Schritt wird. Anstatt das Modell additionally aufzufordern, alles auf einmal zu erledigen, führen Sie es effektiv durch einen systematischen Schritt-für-Schritt-Prozess.

Um es mit einem realen Beispiel gleichzusetzen, stellen Sie es sich so vor: Sie sagen es keinem Junior-Analysten (lesen Sie hier, wie das geht). Werden Sie hier im Jahr 2026 Datenanalyst), „Erstellen Sie den vollständigen Bericht, erstellen Sie Grafiken, analysieren Sie Tendencies und geben Sie Geschäftsempfehlungen“ in einem Atemzug. Du zerlegst es. Zuerst die Daten sammeln – dann analysieren – dann Erkenntnisse extrahieren – und dann den Bericht strukturieren.

Die sofortige Verkettung funktioniert auf die gleiche Weise.

Sie teilen Ihre große Aufgabe in Mikroaufgaben auf. Jede Eingabeaufforderung behandelt nur ein Ziel. Sobald das Modell diesen Schritt abgeschlossen hat, nehmen Sie die Ausgabe und geben sie in die nächste Eingabeaufforderung ein. Am Ende fügt eine abschließende Eingabeaufforderung alles zu einem ausgefeilten Ergebnis zusammen. Anstelle einer riesigen Anweisung erstellen Sie einen strukturierten Arbeitsablauf.

Und das verändert alles. Wie? Lesen Sie weiter

Warum funktioniert es? (Das Drawback mit Mega-Eingabeaufforderungen)

Mega-Eingabeaufforderungen scheitern aus einem einfachen Grund: Überlastung.

Einen ersten Eindruck davon haben Sie im obigen Beispiel erhalten, in dem ein Junior-Analyst, dem mehrere Anweisungen auf einmal gegeben wurden, möglicherweise nicht in der Lage ist, diese zu befolgen. Auch KI-Modelle stehen vor einer ähnlichen Herausforderung.

Wenn Sie dem Modell 20 Anweisungen auf einmal geben – strukturieren Sie es, fügen Sie Beispiele hinzu, halten Sie es kurz, verwenden Sie diesen Ton, schließen Sie Daten ein, vermeiden Sie Unklarheiten – versucht es, alles auf einmal zu erfüllen. Der Anfang sieht stark aus, weil die Anweisungen frisch sind. Wenn die Antwort jedoch länger wird, beginnt das Modell, einigen Einschränkungen Vorrang vor anderen zu geben.

Dann beginnt das Modell zu driften. Dann fängt es auch an, Dinge zu vergessen.

Große Eingabeaufforderungen verursachen grundsätzlich dieses Drawback. Sie vermischen mehrere Ziele und Einschränkungen. Sie fordern das Modell auf, in einem einzigen Durchgang zu denken, zu schreiben, zu strukturieren, zu optimieren und zu polieren. Es ist additionally ganz natürlich, dass es nach einem bestimmten Punkt entweder halluziniert oder es ganz vergisst.

Ein weiteres Drawback ist die Mehrdeutigkeit. Bei einer langen Eingabeaufforderung kommt es stillschweigend zu Konflikten zwischen einigen Anweisungen und anderen. Das Modell trifft eine Wahl, und es ist möglicherweise nicht die, die Sie beabsichtigt haben.

Immediate Chaining ist die ultimative Lösung für beide Probleme. Es reduziert einfach die kognitive Belastung. Eine Aufgabe. Ein Fokus. Eine Ausgabe nach der anderen.

Das bedeutet: weniger Verwirrung, mehr Klarheit und bessere Ergebnisse.

Warum besser?

Vorteile von Immediate Chaining

– Der größte Vorteil der Immediate-Chaining ist Focus.

Mit einer umfangreichen Anweisung, KI-Modelle neigen dazu, alles unter einen Hut zu bringen, auszurutschen und einen Fehler zu machen. Das Endergebnis ist ein unvermeidlicher Qualitätsverlust.

Eine schnelle Verkettung beseitigt diese Überlastung.

Jeder Schritt hat ein klares Ziel. Das Modell konzentriert sich nur auf diese Aufgabe. Das Ergebnis? Sauberere Ausgaben, weniger Halluzinationen und weit weniger Bearbeitung.

– Ein weiterer Vorteil ist die Kontrolle.

Mit der Verkettung überprüfen Sie die Ausgaben in jeder Part. Wenn sich etwas unangenehm anfühlt, beheben Sie es frühzeitig, anstatt das Drawback erst am Ende einer Antwort mit 1.000 Wörtern zu entdecken. Dadurch wird der Prozess iterativ und nicht reaktiv.

Und was vielleicht am wichtigsten ist: Die Verkettung spiegelt wider, wie echte Arbeitsabläufe funktionieren. Recherchieren Sie zuerst. Dann strukturieren, erweitern, verfeinern und finalisieren. Es kann additionally sein, dass Sie einen Prozess nicht nur auffordern, sondern auch definieren.

Und Prozesse übertreffen jedes Mal clevere Anweisungen.

Ein echtes Beispiel für Immediate Chaining

Lassen Sie mich diese Vorteile der prompten Verkettung in einem realen Anwendungsfall demonstrieren. Nehmen wir an, Sie möchten einen hochwertigen Blogbeitrag zum Thema „KI im Gesundheitswesen.“ Wir werden einen Mega-Immediate und dann eine Immediate-Kette verwenden. Ich werde im Laufe der Zeit auch die Ergebnisse der einzelnen Schritte teilen.

Für die Mega-Eingabeaufforderung würden die meisten Leute, bis vor Kurzem auch ich, so etwas eingeben wie:

„Schreiben Sie einen Website positioning-optimierten, analytischen Weblog mit 1200 Wörtern zum Thema KI im Gesundheitswesen mit Beispielen, Daten, zukünftigen Tendencies und einer überzeugenden Schlussfolgerung.“

Hier ist die Ausgabe für eine solche Mega-Eingabeaufforderung:

Versuchen wir als Nächstes, es zu verketten, um ein besseres Ergebnis zu erzielen. Eine offensichtliche Möglichkeit, dies zu tun, ist wie folgt.

Aufforderung 1: „Pay attention Sie 10 Schlüsselprobleme auf, die KI heute im Gesundheitswesen löst.“

Eingabeaufforderung 2: „Gruppieren Sie sie aus dieser Liste in 4 logische Abschnitte für eine Weblog-Gliederung.“

Aufforderung 3: „Erweitern Sie Abschnitt 1 auf 300 Wörter mit einem Beispiel aus der Praxis und unterstützenden Daten.“

Eingabeaufforderung 4: „Erweitern Sie nun Abschnitt 2 auf ähnliche Weise.“

Eingabeaufforderung 5: „Erweitern Sie Abschnitt 3 und 4“

• 

• 

Aufforderung 6: „Kombinieren Sie all dies mit einer passenden Einleitung und einem Schluss, beide mit jeweils maximal 100 Wörtern.“

Beachten Sie den Unterschied.

Die Endausgabe bei der Eingabeaufforderungsverkettung ist weitaus besser und entspricht dem, was wir tatsächlich brauchten. Es liest sich viel besser, deckt genau die Themen ab, die wir wollten, und ist klar und frei von jeglichem Schnickschnack. Dies conflict möglich, weil wir nicht darauf hofften, dass das Modell alles auf einmal erledigt, sondern es Schritt für Schritt anleiteten. Jede Ausgabe verbesserte die nächste.

Gleiches Modell. Anderer Arbeitsablauf. Völlig anderes Ergebnis.

Der X-Benutzer GodofPrompts berichtet in einem Thread über weitere Vorteile der Eingabeaufforderungsverkettung gegenüber Mega-Eingabeaufforderungen. Hier ist die bisherige Analyse des Benutzers.

Metrisch	Mega-Immediate-Methode	Immediate-Chaining-Methode
Ausgaben, die größere Änderungen erfordern	8 von 10	2 von 10
Geschätzte Halluzinationsrate	~40 %	~8 %
Zeit für den endgültigen Entwurf	45 Minuten	22 Minuten

Der Benutzer erwähnt sogar, dass die Ausgabequalität seit Beginn der Eingabeaufforderungsverkettung um 67 % gestiegen ist.

Nachdem Sie nun wissen, dass die Verkettung von Eingabeaufforderungen einen erheblichen Vorteil gegenüber Mega-Eingabeaufforderungen bietet, erfahren Sie hier, wie (und wo) Sie sie für die maximale Ausgabe verwenden können.

Wo man Immediate Chaining verwendet

Bei den meisten Aufgaben mit mehreren Phasen glänzt die schnelle Verkettung. Wenn die Aufgabe Nachdenken, Strukturieren, Erweitern, Verfeinern und Finalisieren erfordert, wird die Verkettung quick immer einen einzelnen Mega-Immediate übertreffen.

Hier sind einige Bereiche mit großer Wirkung, in denen es am besten funktioniert:

1. Inhaltserstellung

So gehen Sie vor – Generieren Sie zunächst Ideen → bauen Sie dann eine Struktur auf → erweitern Sie Abschnitte → verfeinern Sie den Ton → optimieren Sie schließlich für Website positioning oder den Plattformstil.

2. Bauen Sie fort

So gehen Sie vor – Extrahieren Sie zunächst Schlüsselwörter aus der Stellenbeschreibung → schreiben Sie dann die Erfahrung neu → gestalten Sie Abschnitte → optimieren Sie sie für ATS → polieren Sie sie für die endgültige Formatierung.

3. Forschung und Analyse

So gehen Sie vor – Sammeln Sie Datenpunkte → gruppieren Sie Themen → analysieren Sie Erkenntnisse → hinterfragen Sie Annahmen → fassen Sie Ergebnisse zusammen.

4. Codierung und Debugging

So gehen Sie vor – Teilen Sie eine Funktion in Module auf → schreiben Sie Funktionen einzeln → testen Sie Randfälle → umgestalten → dokumentieren.

5. Geschäftsberichte und Strategie

So gehen Sie vor – Probleme auflisten → nach Auswirkung priorisieren → Lösungen vorschlagen → Risiken einem Stresstest unterziehen → eine Zusammenfassung erstellen.

Kurz gesagt: Verwenden Sie die Eingabeaufforderungsverkettung immer dann, wenn die Ausgabe Tiefe, Struktur oder Genauigkeit erfordert.

Hier ist eine Redewendung zur Erinnerung:

Wenn es komplex ist, verketten Sie es.

Abschluss

Immediate Chaining ist kein Trick oder geheimer Befehl. Und es geht definitiv nicht darum, „intelligentere“ Eingabeaufforderungen zu schreiben. Im Wesentlichen geht es einfach darum, intelligentere Arbeitsabläufe zu gestalten. Mega-Eingabeaufforderungen schlagen fehl, weil sie das System überlasten. Durch die schnelle Verkettung wird dieser Druck beseitigt und die Komplexität in Klarheit überführt. Ein Ziel nach dem anderen. Das bessere Ergebnis ist additionally nicht nur ein besserer Output, sondern ein besserer Prozess.

Als KI-Instruments Wenn die Eingabeaufforderung stärker wird, liegt der Vorteil nicht mehr bei der Individual, die die längste Eingabeaufforderung schreibt. Es gehört der Individual, die den saubersten Arbeitsablauf aufbaut. Wenn Sie additionally das nächste Mal versucht sind, einen 1.000-Wörter-Anweisungsblock zu schreiben, halten Sie inne. Und bauen Sie das Ergebnis Schritt für Schritt auf. Denn im Zeitalter der KI ist der Prozess wichtiger als die Eingabeaufforderung.

In diesem Artikel lernen Sie praktische Immediate-Engineering-Muster kennen, die große Sprachmodelle für die Zeitreihenanalyse und -prognose nützlich und zuverlässig machen.

Zu den Themen, die wir behandeln werden, gehören:

• Wie man den zeitlichen Kontext einrahmt und nützliche Signale extrahiert
• Wie man LLM-Argumentation mit klassischen statistischen Modellen kombiniert
• So strukturieren Sie Daten und Eingabeaufforderungen für Prognosen, Anomalien und Domänenbeschränkungen

Beginnen wir ohne weitere Verzögerung.

Einführung

So seltsam es auch klingen magazine, große Sprachmodelle (LLMs) können für Datenanalyseaufgaben genutzt werden, einschließlich spezifischer Szenarien wie der Zeitreihenanalyse. Der Schlüssel liegt darin, Ihre Fähigkeiten im Bereich Immediate Engineering korrekt in das spezifische Analyseszenario umzusetzen.

In diesem Artikel werden sieben davon beschrieben schnelle technische Strategien das zur Hebelwirkung genutzt werden kann Zeitreihenanalyse Aufgaben mit LLMs.

Sofern nicht anders angegeben, werden die Beschreibungen dieser Strategien von anschaulichen Beispielen begleitet, die sich um ein Einzelhandelsumsatzdatenszenario drehen, wobei konkret für die Analyse ein Zeitreihendatensatz berücksichtigt wird, der aus täglichen Umsätzen im Zeitverlauf besteht.

1. Kontextualisierung der zeitlichen Struktur

Erstens sollte eine effektive Eingabeaufforderung, um eine nützliche Modellausgabe zu erhalten, eine sein, die dabei hilft, die zeitliche Struktur des Zeitreihendatensatzes zu verstehen. Dazu gehören mögliche Erwähnungen von Aufwärts-/Abwärtstrends, Saisonalität, bekannten Zyklen wie Werbeaktionen oder Feiertagen usw. Diese Kontextinformationen helfen Ihrem LLM, beispielsweise zeitliche Schwankungen als – nun ja, genau das zu interpretieren: Schwankungen und nicht als Rauschen. Zusammenfassend lässt sich sagen, dass die klare Beschreibung der Struktur des Datensatzes im Kontext Ihrer Eingabeaufforderungen oft weiter geht als komplizierte Argumentationsanweisungen in Eingabeaufforderungen.

Beispielaufforderung:
„Hier sind die täglichen Verkäufe (in Einheiten) der letzten 365 Tage. Die Daten zeigen eine wöchentliche Saisonalität (höhere Verkäufe am Wochenende), einen allmählich steigenden langfristigen Pattern und monatliche Spitzen am Ende jedes Monats aufgrund von Zahltagsaktionen. Nutzen Sie dieses Wissen, wenn Sie die nächsten 30 Tage vorhersagen.“

2. Merkmals- und Signalextraktion

Anstatt Ihr Modell zu bitten, direkte Prognosen anhand von Rohzahlen durchzuführen, sollten Sie es doch zunächst dazu auffordern, einige Schlüsselfunktionen zu extrahieren. Dazu können latente Muster, Anomalien und Korrelationen gehören. Die Aufforderung an den LLM, Merkmale und Signale zu extrahieren und in die Eingabeaufforderung zu integrieren (z. B. durch zusammenfassende Statistiken oder Zerlegung), hilft dabei, die Gründe für zukünftige Vorhersagen oder Schwankungen aufzudecken.

Beispielaufforderung:
„Berechnen Sie aus den Verkaufsdaten der letzten 365 Tage die durchschnittlichen Tagesverkäufe und die Standardabweichung, identifizieren Sie alle Tage, an denen die Verkäufe den Mittelwert plus das Doppelte der Standardabweichung überstiegen (d. h. potenzielle Ausreißer), und notieren Sie alle wiederkehrenden wöchentlichen oder monatlichen Muster. Interpretieren Sie dann, welche Faktoren Tage mit hohen Verkäufen oder Rückgängen erklären könnten, und kennzeichnen Sie ungewöhnliche Anomalien.“

3. Hybrider LLM + Statistik-Workflow

Seien wir ehrlich: Isolierte LLMs werden oft mit Aufgaben zu kämpfen haben, die numerische Präzision erfordern und zeitliche Abhängigkeiten in Zeitreihen erfassen. Aus diesem Grund ist die einfache Kombination ihrer Verwendung mit klassischen statistischen Modellen eine Formel, um bessere Ergebnisse zu erzielen. Wie könnte ein solcher hybrider Workflow definiert werden? Der Trick besteht darin, LLM-Argumentation – Excessive-Degree-Interpretation, Hypothesenformulierung und Kontextverständnis – neben quantitative Modelle wie ARIMA, ETS oder andere zu integrieren.

Zum Beispiel, LeMoLE (LLM-erweiterte Mischung aus linearen Experten) ist ein Beispiel für einen Hybridansatz, der lineare Modelle mit von Eingabeaufforderungen abgeleiteten Funktionen anreichert.

Das Ergebnis vereint kontextbezogenes Denken und statistische Genauigkeit: das Beste aus zwei Welten.

4. Schemabasierte Datendarstellung

Während rohe Zeitreihendatensätze in der Regel schlecht geeignete Formate für die Weitergabe als LLM-Eingaben sind, könnte die Verwendung strukturierter Schemata wie JSON oder kompakter Tabellen der Schlüssel sein, der es dem LLM ermöglicht, diese Daten viel zuverlässiger zu interpretieren, wie in mehreren Studien gezeigt wurde.

Beispiel für ein JSON-Snippet, das zusammen mit einer Eingabeaufforderung übergeben werden soll:

Aufforderung, die JSON-Daten mit Folgendem zu versehen:
„Anhand der oben genannten JSON-Daten und Metadaten analysieren Sie die Zeitreihe und prognostizieren die Verkäufe der nächsten 30 Tage.“

5. Geführte Prognosemuster

Das Entwerfen und ordnungsgemäße Strukturieren von Prognosemustern innerhalb der Eingabeaufforderung – beispielsweise kurzfristige vs. langfristige Horizonte oder die Simulation spezifischer „Was-wäre-wenn“-Szenarien – kann dabei helfen, das Modell so zu steuern, dass es besser nutzbare Antworten liefert. Dieser Ansatz ist effektiv, um äußerst umsetzbare Erkenntnisse für Ihre gewünschte Analyse zu generieren.

Beispiel:

6. Aufforderungen zur Anomalieerkennung

Dieser ist eher aufgabenspezifisch und konzentriert sich auf die richtige Erstellung von Eingabeaufforderungen, die nicht nur dabei helfen können, mit LLMs Prognosen zu erstellen, sondern auch Anomalien zu erkennen – in Kombination mit statistischen Methoden – und ihre wahrscheinlichen Ursachen zu begründen oder sogar Vorschläge zu machen, was untersucht werden sollte. Der Schlüssel liegt wiederum darin, zunächst mit herkömmlichen Zeitreihentools eine Vorverarbeitung durchzuführen und dann das Modell zur Interpretation der Ergebnisse aufzufordern.

Beispielaufforderung:
„Kennzeichnen Sie mithilfe der JSON-Verkaufsdaten zunächst jeden Tag, an dem die Verkäufe um mehr als das Doppelte der wöchentlichen Standardabweichung vom Wochendurchschnitt abweichen. Erklären Sie dann für jeden gekennzeichneten Tag mögliche Ursachen (z. B. Nichtvorräte, Werbeaktionen, externe Ereignisse) und empfehlen Sie, ob eine Untersuchung erforderlich ist (z. B. Bestandsprotokolle überprüfen, Marketingkampagne, Ladenbesucherverkehr).“

7. Domänenbasiertes Denken

Domänenwissen wie saisonale Muster im Einzelhandel, Feiertagseffekte usw. liefern wertvolle Erkenntnisse, und die Einbettung dieser Erkenntnisse in Eingabeaufforderungen hilft LLMs dabei, Analysen und Vorhersagen durchzuführen, die aussagekräftiger und auch interpretierbarer sind. Dies läuft darauf hinaus, die Relevanz des „Datensatzkontexts“ sowohl semantisch als auch domänenspezifisch als Leuchtturm zu nutzen, der die Modellbegründung leitet.

Eine Meldung wie diese könnte dem LLM dabei helfen, Spitzen am Monatsende oder Umsatzrückgänge aufgrund von Feiertagsrabatten besser zu antizipieren:
„Dies sind die täglichen Verkaufsdaten einer Einzelhandelskette. Die Verkäufe steigen tendenziell am Ende jedes Monats an (Kunden erhalten Gehälter), sinken an Feiertagen und steigen bei Werbeveranstaltungen. Gelegentlich kommt es auch zu Lagerknappheit, was bei bestimmten SKUs zu Einbrüchen führt. Nutzen Sie dieses Fachwissen, wenn Sie die Reihen analysieren und Prognosen erstellen.“

Zusammenfassung

In diesem Artikel wurden sieben verschiedene Strategien beschrieben, die größtenteils durch neuere Studien begründet und unterstützt werden, um mithilfe von LLMs effektivere Eingabeaufforderungen für Zeitreihenanalyse- und Prognoseaufgaben zu erstellen.

Bild vom Herausgeber

# Einführung

Alle waren besessen davon, die perfekte Aufforderung zu erfinden – bis ihnen klar wurde, dass Aufforderungen nicht der Zauberspruch sind, für den sie sie hielten. Die wahre Kraft liegt in dem, was sie umgibt: den Daten, Metadaten, dem Gedächtnis und der Erzählstruktur, die KI-Systemen ein Gefühl der Kontinuität verleihen.

Context Engineering ist ersetzt promptes Engineering als neue Grenze der Kontrolle. Es geht nicht mehr um kluge Formulierungen. Es geht darum, Umgebungen zu entwerfen, in denen KI tiefgreifend, konsistent und zielgerichtet denken kann.

Der Wandel ist subtil, aber erdbebenartig: Wir bewegen uns vom Stellen intelligenter Fragen zum Aufbau intelligenterer Welten, in denen Modelle leben können.

# Das kurze Leben des schnellen Wahnsinns

Als ChatGPT zum ersten Mal auf den Markt kam, glaubten die Leute, dass eine schnelle Formulierung grenzenlose Kreativität freisetzen könne. Ingenieure und Influencer füllten LinkedIn mit „magischen“ Vorlagen, von denen jede behauptete, sie würden das Gehirn des Fashions hacken. Anfangs conflict es aufregend – aber nur von kurzer Dauer Uns wurde klar, dass Immediate Engineering nie dazu gedacht conflict, sich zu skalieren. Sobald sich die Anwendungsfälle von einmaligen Chats zu Unternehmensworkflows verlagerten, zeigten sich die Risse.

Eingabeaufforderungen basieren auf sprachlicher Präzision, nicht auf Logik. Sie sind zerbrechlich. Wenn Sie ein Wort oder einen Token ändern, verhält sich das System anders. In kleinen Experimenten ist das in Ordnung. In Produktion? Es ist Chaos.

Unternehmen haben gelernt, dass Modelle den Kontext vergessen, abdriften und falsch interpretieren, es sei denn, man füttert sie jedes Mal mit dem Löffel. Additionally hat sich die Branche verändert. Anstatt Eingabeaufforderungen ständig neu zu formulieren, begannen Ingenieure mit der Entwicklung von Frameworks, die die Bedeutung durch Gedächtnis, Metadaten und Struktur bewahren. Und als solches Kontext-Engineering wurde zum Klebstoff, der die Kohärenz zusammenhielt.

Das Ende des Immediate-Tendencies tötete die Kreativität nicht – es definierte sie neu. Das Schreiben schöner Eingabeaufforderungen machte dem Entwerfen widerstandsfähiger Umgebungen Platz. Die klügsten KI-Ingenieure stellen heute keine besseren Fragen; Sie schaffen bessere Bedingungen für die Entstehung von Antworten.

# Der Kontext ist die eigentliche Schnittstelle

Die Intelligenz jedes Modells ist durch seine eigene begrenzt Kontextfenster – die Textual content- oder Datenspanne, die gleichzeitig verarbeitet werden kann. Diese Einschränkung conflict die Geburtsstunde der Disziplin des Context Engineering. Das Ziel besteht nicht darin, die perfekte Anfrage zu formulieren, sondern darin, eine Landschaft zu schaffen, in der die Argumentation des Modells stabil, genau und anpassungsfähig bleibt.

Ein intestine aufgebauter Kontext verhält sich wie eine unsichtbare Infrastruktur. Es hält die Logik zusammen, stellt Referenzen bereit und verankert die Argumentation des Modells in überprüfbaren Daten. Abruf-erweiterte Technology (RAG) ist ein Paradebeispiel: Anstatt sich auf gedächtnislose Eingabeaufforderungen zu verlassen, Modelle beziehen Simply-in-Time-Kontext aus kuratierten Wissensdatenbanken. Das Ergebnis ist Kontinuität – KI, die sich daran erinnert, was wichtig ist, und verwirft, was nicht wichtig ist.

In diesem Paradigma wird der Kontext zur Schnittstelle. Es geht darum, wie wir Struktur kommunizieren, nicht Syntax. Anstatt dem Modell direkt Anweisungen zu geben, erstellen wir Systeme, die es vor jeder Abfrage mit genau dem richtigen Hintergrund vorladen. Die Zukunft der KI-Zuverlässigkeit wird nicht von ausgefallenen Formulierungen abhängen, sondern von konstruierten Kontext-Pipelines, die dafür sorgen, dass das Modell ständig auf relevanten Informationen basiert.

# Die Architektur hinter dem Verstehen

Context Engineering funktioniert wie Stadtplanung für die Kognition. Es ordnet Daten, Speicher und Logik so an, dass das Modell die Komplexität bewältigen kann, ohne verloren zu gehen. Wo bei Immediate Engineering der Schwerpunkt auf sprachlichem Gespür und Kontext-Engineering lag Der Schwerpunkt liegt auf der Infrastruktur: Einbettungen, Schemata und Abruflogik die die „mentale Landkarte“ des Modells bilden.

Ein ausgereifter Kontext ist vielschichtig. Die erste Schicht strukturiert die dauerhafte Identität – wer der Benutzer ist, was er möchte und wie sich das Modell verhalten soll. Die nächste Ebene fügt relevantes, zeitkritisches Wissen aus externen Datenbanken oder ein Anwendungsprogrammierschnittstellen (APIs). Endlich, Die Übergangsschicht passt sich in Echtzeit an und aktualisiert sich je nach Gesprächsrichtung. Diese Ebenen bilden die Architektur des Verstehens.

Es geht nicht mehr um Wortspiele; Es ist Informationschoreographie. Ingenieure lernen, Prägnanz und Kontextsättigung in Einklang zu bringen und zu entscheiden, wie viele Informationen offengelegt werden sollen, ohne das Modell zu überfordern. Der Unterschied zwischen einer KI, die halluziniert, und einer KI, die argumentiert, liegt offensichtlich oft in einer einzigen Designentscheidung: wie ihr Kontext aufgebaut und aufrechterhalten wird.

# Vom Befehlen bis zur Zusammenarbeit mit Fashions

Die Aufforderung erfolgte durch eine befehlsbasierte Beziehung: Menschen sagten der KI, was sie tun sollte. Context Engineering verwandelt dies in Zusammenarbeit. Das Ziel besteht nicht länger darin, jede Reaktion zu kontrollieren, sondern darin, den Rahmen mitzugestalten, in dem diese Reaktionen entstehen. Es ist ein Tanz zwischen Struktur und Autonomie.

Wenn Kontextsysteme Gedächtnis, Suggestions und langfristige Absichten integrieren, verhält sich das Modell weniger wie ein Chatbot, sondern eher wie ein Kollege. Stellen Sie sich eine KI vor, die sich an frühere Bearbeitungen erinnert, Ihre Stilmuster versteht und ihre Argumentation entsprechend anpasst. Das ist Zusammenarbeit durch Kontext. Jede Interaktion baut auf der letzten auf und bildet einen gemeinsamen mentalen Arbeitsbereich.

Diese kollaborative Ebene verändert die Artwork und Weise, wie wir über Aufforderungen denken. Anstatt Befehle zu formulieren, definieren wir Beziehungen. Context Engineering verleiht der KI Kontinuität, Empathie und Zielstrebigkeit – Eigenschaften, die durch einmalige Sprachbefehle nicht zu erreichen wären.

# Speicher als neue Eingabeaufforderungsschicht

Die Einführung des Speichers markiert das wahre Ende des Immediate Engineering. Statische Eingabeaufforderungen sterben nach einem einzigen Austausch; Das Gedächtnis verwandelt KI-Interaktionen in sich entwickelnde Geschichten. Durch Vektordatenbanken Mithilfe von Retrieval- und Retrieval-Systemen können Modelle nun Lehren, Entscheidungen und Fehler speichern Verwenden Sie sie dann, um zukünftige Überlegungen zu verfeinern.

Das bedeutet nicht, dass der Speicher unendlich ist. Intelligente Kontextingenieure kuratieren den selektiven Rückruf. Sie entwerfen Mechanismen, die entscheiden, was behalten, komprimiert oder vergessen werden soll.

Die Kunst besteht darin, Aktualität und Relevanz in Einklang zu bringen, ähnlich wie die menschliche Erkenntnis. Ein Modell, das sich alles merkt, ist laut; Wer sich strategisch erinnert, ist clever.

# Der Aufstieg des kontextuellen Designs

Context Engineering verbreitet sich schnell über die Forschungslabore hinaus. Im Kundensupport, KI-Systeme verweisen auf frühere Tickets, um Empathie aufrechtzuerhalten. In der Analyse lernen Datenmodelle, frühere Zusammenfassungen abzurufen, um die Konsistenz zu gewährleisten. In kreativen Bereichen Instruments wie Bildgeneratoren Nutzen Sie jetzt den vielschichtigen Kontext, um Arbeiten zu liefern, die sich bewusst menschlich anfühlen.

Kontextuelles Design führt eine neue Rückkopplungsschleife ein: Der Kontext beeinflusst das Verhalten, das Verhalten formt den Kontext neu. Es ist ein dynamischer Zyklus, der die Anpassungsfähigkeit vorantreibt. Das System entwickelt sich mit jeder Eingabe weiter. Dieser Wandel erfordert neues Designdenken – KI-Produkte müssen als lebende Ökosysteme und nicht als statische Werkzeuge behandelt werden. Ingenieure werden zu Kuratoren der Kontinuität.

Bald, Jeder ernsthafte KI-Workflow hängt von konstruierten Kontextebenen ab. Wer diesen Wandel ignoriert, wird feststellen, dass seine Ergebnisse brüchig und inkonsistent sind. Diejenigen, die es annehmen, werden Systeme schaffen, die mit der Zeit intelligenter, abgestimmter und widerstandsfähiger werden.

# Abschluss

Immediate Engineering hat uns beigebracht, mit Maschinen zu sprechen. Context Engineering lehrt uns, die Welten zu erschaffen, in denen sie denken. Die Grenzen des KI-Designs liegen heute im Gedächtnis, der Kontinuität und der adaptiven Struktur. Jedes leistungsstarke System des nächsten Jahrzehnts wird nicht auf klugen Formulierungen, sondern auf einem kohärenten Kontext basieren.

Das Zeitalter der Eingabeaufforderungen geht zu Ende. Das Zeitalter der Umwelt hat begonnen. Wer lernt, den Kontext zu konstruieren, wird nicht nur bessere Ergebnisse erzielen, sondern auch Modelle erstellen, die wirklich verstehen. Das ist keine Automatisierung. Das ist Co-Intelligenz.

Nahla Davies ist Softwareentwickler und technischer Autor. Bevor sie sich hauptberuflich dem technischen Schreiben widmete, schaffte sie es – neben anderen faszinierenden Dingen –, als leitende Programmiererin bei einer Inc. 5.000-Organisation für experimentelles Branding zu arbeiten, zu deren Kunden Samsung, Time Warner, Netflix und Sony gehören.

Daten unterscheiden sich häufig von regulären Analysen, hauptsächlich aufgrund von Herausforderungen in Bezug auf die Zeitabhängigkeit, auf die jeder Datenwissenschaftler irgendwann stößt.

Was wäre, wenn Sie Ihre Analyse mit nur dem beschleunigen und verbessern könnten richtige Eingabeaufforderung?

Große Sprachmodelle (LLMs) sind bereits bahnbrechend für die Zeitreihenanalyse. Wenn Sie LLMs mit kombinieren schlau Durch die schnelle Entwicklung können sie Türen zu Methoden öffnen, die die meisten Analysten noch nicht ausprobiert haben.

Sie sind hervorragend darin, Muster zu erkennen, Anomalien zu erkennen und Prognosen zu erstellen.

Dieser Ratgeber stellt Bewährtes zusammen Strategien die von der einfachen Datenvorbereitung bis hin zur erweiterten Modellvalidierung reichen. Am Ende verfügen Sie über praktische Werkzeuge, die Ihnen helfen einen Schritt voraus.

Alles hier wird unterstützt von Forschung und Beispiele aus der Praxis, sodass Sie praktische Werkzeuge erhalten, nicht nur Theorie!

Dies ist der erste Artikel einer zweiteiligen Serie, die sich mit dem Wie beschäftigt schnelles Engineering kann Ihre Zeitreihenanalyse verbessern:

• Teil 1: Eingabeaufforderungen für Kernstrategien in Zeitreihen (dieser Artikel)

• Teil 2: Fordert zur erweiterten Modellentwicklung auf

Alles Aufforderungen in diesem Artikel finden Sie unter Ende dieses Artikels als Spickzettel

In diesem Artikel:

1. Kern-Immediate-Engineering-Strategien für Zeitreihen
2. Fordert zur Vorverarbeitung und Analyse von Zeitreihen auf
3. Anomalieerkennung mit LLMs
4. Function Engineering für zeitabhängige Daten
5. Schnelles Engineering Spickzettel!

---

1. Kern-Immediate-Engineering-Strategien für Zeitreihen

1.1 Patchbasierte Eingabeaufforderung für Prognosen

Patch Instruct Framework
Ein guter Trick besteht darin, eine Zeitreihe in überlappende „Patches“ zu unterteilen und diese Patches mithilfe strukturierter Eingabeaufforderungen einem LLM zuzuführen. Dieser Ansatz heißt PatchInstruct ist sehr effektiv und die Genauigkeit bleibt ungefähr gleich.

Beispielimplementierung:

## System  
You're a time-series forecasting professional in meteorology and sequential modeling.  
Enter: overlapping patches of measurement 3, reverse chronological (most up-to-date first).  

## Person  
Patches:  
- Patch 1: (8.35, 8.36, 8.32)  
- Patch 2: (8.45, 8.35, 8.25)  
- Patch 3: (8.55, 8.45, 8.40)  
...  
- Patch N: (7.85, 7.95, 8.05)  

## Process  
1. Forecast subsequent 3 values.  
2. In ≤40 phrases, clarify latest pattern.  

## Constraints  
- Output: Markdown record, 2 decimals.  
- Guarantee predictions align with noticed pattern.  

## Instance  
- Enter: (5.0, 5.1, 5.2) → Output: (5.3, 5.4, 5.5).  

## Analysis Hook  
Add: "Confidence: X/10. Assumptions: (...)".

Warum es funktioniert:

• Der LLM erkennt kurzfristige zeitliche Muster in den Daten.
• Verwendet weniger Token als Rohdaten-Dumps (additionally geringere Kosten).
• Hält die Dinge interpretierbar, da Sie die Patches später neu erstellen können.

---

1.2 Zero-Shot-Eingabeaufforderung mit kontextbezogenen Anweisungen

Stellen wir uns vor, Sie benötigen eine schnelle Ausgangslage Vorhersage.

Nullschuss Aufforderung mit Kontext funktioniert dafür. Geben Sie dem Modell einfach eine klare Beschreibung des Datensatzes, der Häufigkeit und des Prognosehorizonts und es kann Muster ohne zusätzliches Coaching erkennen!

## System  
You're a time-series evaluation professional specializing in (area).  
Your process is to establish patterns, tendencies, and seasonality to forecast precisely.  

## Person  
Analyze this time sequence: (x1, x2, ..., x96)  
- Dataset: (Climate/Site visitors/Gross sales/and so on.)  
- Frequency: (Each day/Hourly/and so on.)  
- Options: (Checklist options)  
- Horizon: (Quantity) durations forward  

## Process  
1. Forecast (Quantity) durations forward.  
2. Notice key seasonal or pattern patterns.  

## Constraints  
- Output: Markdown record of predictions (2 decimals).  
- Add ≤40-word rationalization of drivers.  

## Analysis Hook  
Finish with: "Confidence: X/10. Assumptions: (...)".

1.3 Neighbor-Augmented Prompting

Manchmal reicht eine Zeitreihe nicht aus. Wir können „Nachbar“-Serien hinzufügen, die ähnlich sind, und dann ist das LLM in der Lage, gemeinsame Strukturen zu erkennen und Vorhersagen zu verbessern:

## System  
You're a time-series analyst with entry to five comparable historic sequence.  
Use these neighbors to establish shared patterns and refine predictions.  

## Person  
Goal sequence: (present time sequence knowledge)  

Neighbors:  
- Sequence 1: ( ... )  
- Sequence 2: ( ... )  
...  

## Process  
1. Predict the subsequent (h) values of the goal.  
2. Clarify in ≤40 phrases how neighbors influenced the forecast.  

## Constraints  
- Output: Markdown record of (h) predictions (2 decimals).  
- Spotlight any divergences from neighbors.  

## Analysis Hook  
Finish with: "Confidence: X/10. Assumptions: (...)".

---

2. Eingabeaufforderungen zur Vorverarbeitung und Analyse von Zeitreihen

2.1 Stationaritätstest und Transformation

Eines der ersten Dinge, die Datenwissenschaftler tun müssen, bevor sie Zeitreihendaten modellieren, besteht darin, zu prüfen, ob die Zeitreihen vorhanden sind stationär.

Ist dies nicht der Fall, müssen sie Transformationen wie Differenzierung, Log oder Field-Cox anwenden.

Aufforderung zum Testen auf stationäre und Anwenden von Transformationen

## System  
You're a time-series analyst.  

## Person  
Dataset: (N) observations  
- Time interval: (specify)  
- Frequency: (specify)  
- Suspected pattern: (linear / non-linear / seasonal)  
- Enterprise context: (area)  

## Process  
1. Clarify how one can check for stationarity utilizing:  
   - Augmented Dickey-Fuller  
   - KPSS  
   - Visible inspection  
2. If non-stationary, counsel transformations: differencing, log, Field-Cox.  
3. Present Python code (statsmodels + pandas).  

## Constraints  
- Maintain rationalization ≤120 phrases.  
- Code must be copy-paste prepared.  

## Analysis Hook  
Finish with: "Confidence: X/10. Assumptions: (...)".

---

2.2 Autokorrelation und Lag-Function-Analyse

Autokorrelation in Zeitreihen misst, wie stark aktuelle Werte sind korreliert mit ihren eigenen Vergangenheitswerten bei unterschiedlichen Verzögerungen.

Mit den richtigen Plots (ACF/PACF), können Sie Verzögerungen beobachten, die am wichtigsten sind, und Funktionen um sie herum entwickeln.

Aufforderung zur Autokorrelation

## System  
You're a time-series professional.    

## Person  
Dataset: (transient description)  
- Size: (N) observations  
- Frequency: (day by day/hourly/and so on.)  
- Uncooked pattern: (first 20–30 values)  

## Process  
1. Present Python code to generate ACF & PACF plots.  
2. Clarify how one can interpret:  
   - AR lags  
   - MA parts  
   - Seasonal patterns  
3. Suggest lag options based mostly on important lags.  
4. Present Python code to engineer these lags (deal with lacking values).  

## Constraints  
- Output: ≤150 phrases rationalization + Python snippets.  
- Use statsmodels + pandas.  

## Analysis Hook  
Finish with: "Confidence: X/10. Key lags flagged: (record)".

---

2.3 Saisonale Zerlegung und Trendanalyse

Die Zerlegung hilft Ihnen, die Geschichte hinter den Daten zu erkennen und sie anders zu sehen Schichten: Pattern, Saisonalität und Residuen.

Aufforderung zur saisonalen Zerlegung

## System  
You're a time-series professional.   

## Person  
Knowledge: (time sequence)  
- Suspected seasonality: (day by day/weekly/yearly)  
- Enterprise context: (area)  

## Process  
1. Apply STL decomposition.  
2. Compute:  
   - Seasonal energy Qs = 1 - Var(Residual)/Var(Seasonal+Residual)  
   - Pattern energy Qt = 1 - Var(Residual)/Var(Pattern+Residual)  
3. Interpret pattern & seasonality for enterprise insights.  
4. Suggest modeling approaches.  
5. Present Python code for visualization.  

## Constraints  
- Maintain rationalization ≤150 phrases.  
- Code ought to use statsmodels + matplotlib.  

## Analysis Hook  
Finish with: "Confidence: X/10. Key enterprise implications: (...)".

---

3. Anomalieerkennung mit LLMs

3.1 Direkte Aufforderung zur Anomalieerkennung

Die Erkennung von Anomalien in Zeitreihen ist normalerweise keine unterhaltsame Aufgabe und erfordert viel Zeit.

LLMs können wie wachsame Analysten agieren und Fremdwerte in Ihren Daten erkennen.

Aufforderung zur Anomalieerkennung

## System  
You're a senior knowledge scientist specializing in time-series anomaly detection.  

## Person  
Context:  
- Area: (Monetary/IoT/Healthcare/and so on.)  
- Regular working vary: (specify if recognized)  
- Time interval: (specify)  
- Sampling frequency: (specify)  
- Knowledge: (time sequence values)  

## Process  
1. Detect anomalies with timestamps/indices.  
2. Classify as:  
   - Level anomalies  
   - Contextual anomalies  
   - Collective anomalies  
3. Assign confidence scores (1–10).  
4. Clarify reasoning for every detection.  
5. Recommend potential causes (domain-specific).  

## Constraints  
- Output: Markdown desk (columns: Index, Kind, Confidence, Rationalization, Attainable Trigger).  
- Maintain narrative ≤150 phrases.  

## Analysis Hook  
Finish with: "General confidence: X/10. Additional knowledge wanted: (...)".

---

3.2 Prognosebasierte Anomalieerkennung

Anstatt Anomalien direkt zu betrachten, besteht eine weitere kluge Strategie darin, vorherzusagen, was zuerst passieren „sollte“, und dann zu messen, wo die Realität von diesen Erwartungen abweicht.

Diese Abweichungen können hervorgehoben werden Anomalien das würde sonst nicht auffallen.

Hier ist eine gebrauchsfertige Eingabeaufforderung, die Sie ausprobieren können:

## System  
You're an professional in forecasting-based anomaly detection.  

## Person  
- Historic knowledge: (time sequence)  
- Forecast horizon: (N durations)  

## Technique  
1. Forecast the subsequent (N) durations.  
2. Evaluate precise vs forecasted values.  
3. Compute residuals (errors).  
4. Flag anomalies the place |precise - forecast| > threshold.  
5. Use z-score & IQR strategies to set thresholds.  

## Process  
Present:  
- Forecasted values  
- 95% prediction intervals  
- Anomaly flags with severity ranges  
- Advisable threshold values  

## Constraints  
- Output: Markdown desk (columns: Interval, Forecast, Interval, Precise, Residual, Anomaly Flag, Severity).  
- Maintain rationalization ≤120 phrases.  

## Analysis Hook  
Finish with: "Confidence: X/10. Threshold technique used: (z-score/IQR)".

---

4. Function Engineering für zeitabhängige Daten

Intelligente Funktionen können über Erfolg oder Misserfolg Ihres Modells entscheiden.

Es sind einfach zu viele Optionen: Verzögerungen bei rollierenden Fenstern, zyklischen Funktionen und externen Variablen. Sie können viel hinzufügen, um Zeitabhängigkeiten zu erfassen.

4.1 Automatisierte Function-Erstellung

Die wahre Magie entfaltet sich, wenn man sinnvolle Konstruktionen durchführt Merkmale diese Aufnahme Traits, SaisonalitätUnd zeitliche Dynamik. LLMs können tatsächlich dabei helfen, diesen Prozess zu automatisieren, indem sie eine Vielzahl nützlicher Funktionen für Sie generieren.

Umfassende Function-Engineering-Eingabeaufforderung:

## System  
You're a function engineering professional for time sequence.  

## Person  
Dataset: (description)  
- Goal variable: (specify)  
- Temporal granularity: (hourly/day by day/and so on.)  
- Enterprise area: (context)  

## Process  
Create temporal options throughout 5 classes:  
1. **Lag Options**  
   - Easy lags, seasonal lags, cross-variable lags  
2. **Rolling Window Options**  
   - Shifting averages, std/min/max, quantiles  
3. **Time-based Options**  
   - Hour, day, month, quarter, 12 months, DOW, WOY, is_weekend, is_holiday, time since occasions  
4. **Seasonal & Cyclical Options**  
   - Fourier phrases, sine/cosine transforms, interactions  
5. **Change-based Options**  
   - Variations, pct adjustments, volatility measures  

## Constraints  
- Output: Python code utilizing pandas/numpy.  
- Add quick steerage on function choice (significance/collinearity).  

## Analysis Hook  
Finish with: "Confidence: X/10. Options most impactful for (area): (...)".

4.2 Externe Variablenintegration

Es kann vorkommen, dass die Zielserie nicht ausreicht, um die ganze Geschichte zu erklären.

Es gibt externe Faktoren die oft unsere Daten beeinflussen, wie Wetter, Wirtschaftsindikatoren oder besondere Ereignisse. Sie können Kontext hinzufügen und Prognosen verbessern.

Der Trick besteht darin, zu wissen, wie man sie richtig integriert, ohne zeitliche Regeln zu brechen. Hier ist eine Aufforderung, exogene Variablen in Ihre Analyse einzubeziehen.

Eingabeaufforderung für exogene Variablen:

## System  
You're a time-series modeling professional.  
Process: Combine exterior variables (exogenous options) right into a forecasting pipeline.  

## Person  
Major sequence: (goal variable)  
Exterior variables: (record)  
Knowledge availability: (previous solely / future recognized / blended)  

## Process  
1. Assess variable relevance (correlation, cross-correlation).  
2. Align frequencies and deal with resampling.  
3. Create interplay options between exterior & goal.  
4. Apply time-aware cross-validation.  
5. Choose options suited to time-series fashions.  
6. Deal with lacking values in exterior variables.  

## Constraints  
- Output: Python code for  
  - Knowledge alignment & resampling  
  - Cross-correlation evaluation  
  - Function engineering with exterior vars  
  - Mannequin integration:  
    - ARIMA (with exogenous vars)  
    - Prophet (with regressors)  
    - ML fashions (with exterior options)  

## Analysis Hook  
Finish with: "Confidence: X/10. Most impactful exterior variables: (...)".

Letzte Gedanken

Ich hoffe, dieser Leitfaden hat Ihnen viel zum Verdauen und Ausprobieren gegeben.

Es handelt sich um eine Toolbox voller erforschter Techniken zur Verwendung von LLMs in der Zeitreihenanalyse.

Erfolg Bei Zeitreihendaten entsteht dann, wenn wir die Besonderheiten zeitlicher Daten respektieren, Eingabeaufforderungen erstellen, die diese Besonderheiten hervorheben, und alles mit den richtigen Bewertungsmethoden validieren.

Vielen Dank fürs Lesen! Seien Sie gespannt auf Teil 2

---

Holen Sie sich den vollständigen Immediate-Spickzettel In Saras AI Automation Digest — Wir helfen Technikprofis jede Woche dabei, echte Arbeit mit KI zu automatisieren. Sie erhalten außerdem Zugriff auf eine KI-Toolbibliothek.

ich biete Mentoring zum Thema Karriereentwicklung und Übergang Hier.

Wenn Sie meine Arbeit unterstützen möchtendu kannst kauf mir mein Lieblingskaffee: ein Cappuccino.

---

Referenzen

LLMs für Predictive Analytics und Zeitreihenprognosen

Intelligentere Zeitreihenvorhersagen mit weniger Aufwand

Vorhersage von Zeitreihen mit LLMs über Patch-basierte Eingabeaufforderung und Zerlegung

LLMs in Zeitreihen: Datenanalyse in KI transformieren

kdd.org/exploration_files/p109-Time_Series_Forecasting_with_LLMs.pdf

Automated Immediate Engineering (APE) ist eine Technik zur Automatisierung des Prozesses der Generierung und Verfeinerung von Eingabeaufforderungen für ein Massive Language Mannequin (LLM), um die Leistung des Modells bei einer bestimmten Aufgabe zu verbessern. Es verwendet die Idee des Immediate Engineering, bei dem verschiedene Eingabeaufforderungen manuell erstellt und getestet werden, und automatisiert den gesamten Prozess. Wie wir sehen werden, ist es sehr ähnlich der automatisierten Hyperparameteroptimierung im herkömmlichen überwachten maschinellen Lernen.

In diesem Tutorial werden wir uns eingehend mit APE befassen: Wir werden uns zunächst ansehen, wie es im Prinzip funktioniert, einige der Strategien, die zum Generieren von Eingabeaufforderungen verwendet werden können, und andere verwandte Techniken wie die Exemplarauswahl. Dann gehen wir zum praktischen Teil über und schreiben ein APE-Programm von Grund auf neu, d. h. wir verwenden keine Bibliotheken wie DSPy, die das für uns erledigen. Auf diese Weise erhalten wir ein viel besseres Verständnis dafür, wie die Prinzipien von APE funktionieren, und sind viel besser gerüstet, um die Frameworks zu nutzen, die diese Funktionalität sofort einsatzbereit bieten.