Beide GPUS Und Tpus Spielen Sie eine entscheidende Rolle bei der Beschleunigung des Trainings großer Transformatormodelle, aber ihre Kernarchitekturen, Leistungsprofile und Ökosystemkompatibilität führen zu erheblichen Unterschieden in Anwendungsfall, Geschwindigkeit und Flexibilität.

Fundamentals der Architektur und {Hardware}

Tpus sind benutzerdefinierte Asics (Anwendungsspezifische integrierte Schaltkreise), die von Google entwickelt wurden und für hocheffiziente Matrixoperationen, die von großen neuronalen Netzwerken erforderlich sind, gebaut wurden. Ihr Design konzentriert sich auf die Vektorverarbeitung, die Matrix -Multiplikationseinheiten und systolische Arrays – und es wird auf einen außergewöhnlichen Durchsatz auf Transformatorschichten und eine tiefe Integration in Tensorflow und Jax geleitet.

GPUs, dominiert von den Cuda-fähigen Chips von NVIDIA, verwenden Tausende von Parallelkernen im Allgemeinen neben speziellen Tensoreinheiten, Speicher mit hohem Bandbreiten und komplexen Speicherverwaltungssystemen. Der moderne GPU Ml Aufgaben und eine breitere Vielfalt von Modellarchitekturen.

Leistung im Transformatortraining

• Tpus Übertreffen Sie den GPUs für die large Stapelverarbeitung und Modelle, die direkt mit ihrer Architektur kompatibel sind, einschließlich der meisten Tensorflow-basierten LLMs und Transformator-Netzwerke. Beispielsweise kann das V4/V5P -TPUs von Google bei Trainingsmodellen wie Palm und Gemini im Vergleich zu einigen früheren TPUs bis zu 2,8 -mal schneller sein – und gleichen Sie den GPUs wie die A100 für diese Workloads in Maßstab konsequent heraus.
• GPUS Liefern Sie eine starke Leistung für eine Vielzahl von Modellen, insbesondere für solche, die dynamische Formen, benutzerdefinierte Ebenen oder Frameworks als Tensorflow verwenden. GPUs Excel in kleineren Chargengrößen, unkonventionellen Modelltopologien und Szenarien, die versatile Debugging, benutzerdefinierte Kernelentwicklung oder nicht standardmäßige Operationen erfordern.

Software program -Ökosystem und Framework -Unterstützung

• Tpus sind eng mit dem AI -Ökosystem von Google verbunden, was vor allem Tensorflow und Jax unterstützt. Die Unterstützung von Pytorch ist verfügbar, aber weniger ausgereift und weniger weit verbreitet für Produktionsarbeitslasten.
• GPUS Unterstützen Sie quick jedes große KI -Framework – einschließlich Pytorch, Tensorflow, Jax und MXNET – von reifen Toolchains wie CUDA, CUDNN und ROCM.

Skalierbarkeit und Bereitstellungsoptionen

• Tpus Skalieren Sie nahtlos über Google Cloud und ermöglichen das Coaching von ultra-großen Modellen in der Infrastruktur im Pod-Maßstab mit Tausenden von miteinander verbundenen Chips für den maximalen Durchsatz und die minimale Latenz in verteilten Setups.
• GPUS Bieten Sie eine breite Flexibilität für die Bereitstellung von Cloud-, On-Premises- und Edge-Umgebungen mit Mehrfachanbieterverfügbarkeit (AWS, Azure, Google Cloud, non-public {Hardware}) und umfassender Unterstützung für Container-ML, Orchestrierung und verteilte Schulungsrahmen (z. B. Deepspeed, Megatron-LM).

Energieeffizienz und Kosten

• Tpus werden in Rechenzentren für hohe Effizienz entwickelt und bieten häufig überlegene Leistung professional Watt und niedrigere Gesamtprojektkosten in kompatiblen Arbeitsabläufen.
• GPUS Erhalten Sie in neueren Generationen eine größere Effizienz, beinhalten jedoch häufig einen höheren Gesamtstromverbrauch und die Kosten für ultra-große Produktionsläufe gegenüber optimierten TPUs.

Anwendungsfälle und Einschränkungen

• Tpus Glanz im Coaching extrem große LLMs (Gemini, Palm) im Google Cloud -Ökosystem mit Tensorflow. Sie kämpfen mit Modellen, die dynamische Formen, benutzerdefinierte Operationen oder fortschrittliches Debuggen erfordern.
• GPUS werden für Experimente, Prototypen, Coaching/Feinabstimmung mit Pytorch- oder Multi-Framework-Unterstützung und Bereitstellungen vorgezogen, die vorläufige oder verschiedene Cloud-Optionen benötigen. Die meisten kommerziellen und Open-Supply-LLMs (GPT-4, Lama, Claude) laufen auf Excessive-Finish-Nvidia-GPUs.

Zusammenfassung Vergleichstabelle

Besonderheit	TPU	GPU
Architektur	Customized ASIC, systolisches Array	Parallelprozessor Allzweck
Leistung	Stapelverarbeitung, Tensorflow LLMs	Alle Frameworks, dynamische Modelle
Ökosystem	TensorFlow, Jax (Google-zentriert)	Pytorch, Tensorflow, Jax, breite Einführung
Skalierbarkeit	Google Cloud Pods bis zu Tausenden von Chips	Cloud/On-Prem/Rand, Container, Multi-Vendor
Energieeffizienz	Optimum für Rechenzentren	In neuen Generationen verbessert
Flexibilität	Beschränkt; Meistens Tensorflow/Jax	Hoch; Alle Frameworks, benutzerdefinierte OPs
Verfügbarkeit	Nur Google Cloud	Globale Cloud- und On-Prem-Plattformen

TPUs und GPUs sind für verschiedene Prioritäten ausgelegt: TPU. Wählen Sie für die Schulung großer Transformatormodelle den Beschleuniger aus, der mit dem Modell Framework, Workflow -Anforderungen, Debugging- und Bereitstellungsanforderungen und Skalierung von Ambitionen für Ihr Projekt übereinstimmt.

Die besten 2025 -Trainingsbenchmarks für große Transformatormodelle werden derzeit von Googles TPU V5P und NVIDIAs Blackwell (B200) und H200 GPUs erreicht, so MLPerf und Impartial tiefes Lernen Infrastrukturbewertungen.

Prime TPU -Modelle und Benchmarks

• Google TPU V5P: Liefert marktführende Leistung für Coaching LLMs und dichte Transformator-Netzwerke. TPU V5P bietet erhebliche Verbesserungen gegenüber früheren TPU -Versionen und ermöglicht eine large Skalierung (bis zu Tausende von Chips) innerhalb von Google Cloud Pods und unterstützt Modelle bis zu 500B -Parametern. TPU V5P ist für einen hohen Durchsatz, eine kostengünstige Schulung und die Effizienz der Klassenanleitung für TensorFlow/JAX-basierte Workloads bekannt.
• Google TPU Ironwood (für Inferenz): Optimiert für die Inferenz mit Transformatormodellen, die erstklassige Geschwindigkeit und den niedrigsten Energieverbrauch für Bereitstellungen im Produktionsmaßstab.
• Google TPU V5E: Liefert eine starke Preisleistung, insbesondere für die Schulung großer Modelle mit einem Finances, mit bis zu 70B+ Parametern. TPU V5E kann 4–10 × kosteneffizienter sein als GPU-Cluster in ähnlicher Größe für große LLMs.

Prime -GPU -Modelle und Benchmarks

• Nvidia Blackwell B200: Die neue Blackwell-Architektur (GB200 NVL72 und B200) zeigt den Rekorddurchsatz in MLPerf V5.0 Benchmarks und erreicht bis zu 3,4 × höhere Per-GPU-Leistung als der H200 für Modelle wie LLAMA 3.1 (405B-Parameter) und Mixtral 8x7b. Die Geschwindigkeit auf Systemebene mit NVLink-Domänen ermöglicht eine 30-fach-clusterweite Leistung im Vergleich zu älteren Generationen.
• Nvidia H200 Tensor Core GPU: Hocheffizient für das LLM-Coaching, erfolgreich den H100 mit größerer Bandbreite (10 TB/s), verbesserter FP8/BF16-Leistung und fein abgestimmter für Transformer-Workloads. Outperformiert von Blackwell B200, aber immer noch die am weitesten verbreitete und verfügbare Choice in Enterprise Cloud -Umgebungen.
• Nvidia RTX 5090 (Blackwell 2.0): Neu eingeführt im Jahr 2025, bietet bis zu 104,8 TFLOPS-Efficiency-Leistung und 680 Tensor Cores der fünften Era. Es ist preferrred für Forschungslabors und mittelgroße Produktion, insbesondere wenn Preis-Leistungs-Verhältnis und lokaler Einsatz ein Hauptanliegen sind.

MLPerf- und reale Highlights

• TPU V5P und B200 zeigen den schnellsten Trainingsdurchsatz und die schnellste Effizienz für large LLMs, wobei B200 über frühere Generationen 3-fach 3-fach liefert und MLPerf Rekordtoken/Second-Raten in Multi-GPU-NVLink-Clustern bestätigen.
• TPU-Pods behalten einen Vorteil in Preis-per-gequetscht, Energieeffizienz und Skalierbarkeit für Cloud-zentrierte Tensorflow/JAX-Workflows von Google, während Blackwell B200 MLPerf für Pytorch- und heterogene Umgebungen dominiert.

Diese Modelle repräsentieren den Branchenstandard für das große Transformatortraining im Jahr 2025, wobei sowohl TPUs als auch GPUs abhängig vom Rahmen und dem Ökosystem eine modernste Leistung, Skalierbarkeit und Kosteneffizienz bieten.

---

Fühlen Sie sich frei, unsere zu überprüfen Github -Seite für Tutorials, Codes und Notizbücher. Fühlen Sie sich auch frei, uns zu folgen Twitter Und vergessen Sie nicht, sich unserer anzuschließen 100k+ ml Subreddit und abonnieren Unser Publication.

Agent-to-Agent (A2A) und Modellkontextprotokoll (MCP) sind zwei der am häufigsten verwendeten KI -Protokolle, die in jüngster Zeit erhebliche Aufmerksamkeit erregt haben. Auf den ersten Blick könnte man denken, dass „A2A vs MCP“ entweder/oder eine Wahl ist, aber in Wirklichkeit stellen diese Protokolle unterschiedliche Herausforderungen an. In diesem Artikel wird erläutert, was A2A und MCP sind, verdeutlicht ihre unterschiedlichen Rollen in AI -Systemen und erklärt, wie sie sich gegenseitig ergänzen, um die Integration über Enterprise -AI -Workflows zu ermöglichen.

Was ist A2A (Agent-to-Agent)?

Agent2Agent (A2A) ist ein offenes Protokoll von Google, das standardisiert, wie KI -Agenten kommunizieren und zusammenarbeiten. Im Wesentlichen ermöglicht A2A unabhängige KI -Agenten, die von verschiedenen Anbietern erstellt oder auf verschiedenen Plattformen laufen können, um eine gemeinsame Sprache für die Zusammenarbeit zu bilden. Mit A2A können Agenten die Ziele austauschen, den Kontext teilen und auf sichere und strukturierte Weise Aktionen aufrufen. Das Protokoll wurde ausdrücklich ausgelegt, um Multi-Agent-Workflows zu ermöglichen, die sich über verschiedene Wolken, Anwendungen oder Dienste hinweg erstrecken. A2A basiert auf bekannten Webstandards wie HTTP, sodass es einfacher ist, es in vorhandene IT -Stapel zu integrieren.

Informationen zu den Funktionen des A2A -Protokolls finden Sie in diesem Artikel: Wie funktioniert A2A?

Was ist MCP (Modellkontextprotokoll)?

Das Modellkontextprotokoll (MCP) wurde von Anthropic (Muttergesellschaft von Claude) eingeführt, mit der AI -Agenten (oder LLMs) mit externen Instruments verbinden können. Wenn es bei A2A um die Kommunikation von Agent-zu-Agent geht, handelt es sich bei MCP um die Integration von Agent-to-Ressourcen. Es bietet KI -Modellen eine einheitliche, standardisierte Möglichkeit, auf verschiedene Datenquellen, Wissensbasis und Dienste zuzugreifen, die außerhalb der eigenen Parameter des Modells liegen. Aus diesem Grund wird es allgemein als „USB-C-Port“ für AI-Anwendungen bezeichnet. Zuvor mussten Entwickler benutzerdefinierte Integrationen für jedes neue Instrument oder jede neue Datenquelle schreiben (was zu einem Gewirr von einmaligen Anschlüssen führte). MCP ersetzt dies durch ein offenes Protokoll, so dass jeder konforme Daten-/Service-Connector mit jedem MCP-bewussten Agenten zusammenarbeiten kann.

Informationen zu den Funktionen von MCP finden Sie in diesem Artikel: Wie funktioniert MCP?

Für ein Video, das das MCP -Protokoll abdeckt, finden Sie darauf:

https://www.youtube.com/watch?v=lyfr7qusvss

A2A gegen MCP

Diese Tabelle fasst die differenzierten Rollen von A2A gegen MCP zusammen:

Schlüsselunterschiede

A2A und MCP arbeiten in verschiedenen Bereichen der AI -Architektur. Hier ist eine kurze Aufschlüsselung der 3 Hauptunterschiede zwischen ihnen:

• Interaktionsbereich: A2A verbindet Agenten miteinander. Andererseits verbindet MCP Agenten mit externen Instruments und Daten. Google positioniert A2A als standardmäßige Zusammenarbeit mit Agenten, während sich die MCP von Claude auf Brückenagenten mit externen Diensten konzentriert.
• Hauptfunktion: A2A kümmert sich um Kommunikation, Aufgabendelegation und Staatsteilung zwischen Agenten. MCP vermittelt einzelne Agenten mit Funktionen, indem sie sie über eine einheitliche, tool-basierte Schnittstelle mit externen Ressourcen verbinden.
• Designprinzipien: A2A basiert auf HTTP/JSON -Requirements und unterstützt Agent Discovery und sichere Delegation. MCP verwendet JSON-RPC und betont die Toolregistrierung, den Datenzugriff und die Echtzeit-Kontext-Fütterung. A2A sieht Agenten als Gleichaltrige und MCP sieht Instruments als Callable Companies.

Wie sie unabhängig arbeiten

A2a allein: Stellen Sie sich ein Unternehmen mit spezialisierten KI -Agenten in Domänen wie Finanzen, Advertising und Planung vor. Ein Grasp -Agent kann Aufgaben wie Budgetierung oder Zeitleistenplanung an andere mit A2A delegieren. Jeder Agent trägt die Ergebnisse durch ein gemeinsames Protokoll zurück. Ohne MCP stützt sich jeder Agent jedoch nur auf sein internes Wissen oder fest verdrahtete Verbindungen.

MCP allein: Stellen Sie sich einen Assist Chatbot vor, der mit Dwell -Systemen wie Produktdatenbanken, Versand -APIs und Wissensbasis mit MCP verbunden ist. Dieses Setup macht den Agenten in Echtzeit dynamisch bewusst und umsetzbar. Auch ohne A2A verwandelt MCP es in einen Werkzeugreiz, reaktionsschnell. Es kann jedoch nicht über mehrere Agenten hinweg koordinieren, um komplexe oder mehrstufige Probleme zu lösen.

Unabhängig voneinander bringen beide Protokolle einen klaren Wert. A2A ermöglicht die modulare Teamarbeit, während MCP es Agenten ermöglicht, externe Funktionen zu haben.

Integration (besser zusammen)

In modernen Genai -Systemen arbeiten A2A und MCP häufig zusammen, um eine intelligente Orchestrierung zu ermöglichen:

• Geschichtete Zusammenarbeit: Stellen Sie sich MCP als Grundlage für Instruments und Datenzugriff und A2A als die Koordinationsschicht vor, die Aufgaben zwischen Agenten delegiert. In einem Beispiel für Lieferketten holen Agenten Bestandsdaten, behandeln die Beschaffung und verwalten die Lieferung mit MCP, während A2A es ihnen ermöglicht, Aufgaben und Ergebnisse zu teilen.
• Einheitliche Entwicklungserfahrung: Microsoft Copilot Studio zeigt diese Integration. Entwickler können MCP -Instruments und Hyperlink -Agent -Workflows über A2A in einer Schnittstelle registrieren. A2A behandelt den Fluss und MCP übernimmt die Funktion.

Missverständnisse

Trotz ihrer Herkunft in verschiedenen Orgs sollte A2A gegen MCP nicht existieren, da sie keine konkurrierenden Requirements sind:

• Unterschiedliche Probleme: A2A ist für die Kommunikation gedacht, während MCP für die Ausführung dient. Sie arbeiten auf separaten Protokollschichten.
• Komplementärfunktionen: A2A ermöglicht die Aufgabe der Aufgabe zwischen Agenten. MCP lässt jeden Agenten Instruments verwenden.
• Branchenweite Ausrichtung: Microsoft integriert A2A in Copilot und registriert MCP -Instruments. Anthropic Open Sourced MCP und Backs A2A Adoption.
• Keine Hierarchie von Bedeutung: Beide lösen entscheidende Herausforderungen. A2A ohne MCP führt zu ahnungslosen Agenten; MCP ohne A2A schafft isolierte Mittel.

Die Eigentümer der beiden Requirements (Google und Anthropic) versuchen aktiv, die Integration beider Requirements in Unternehmens -KI -Workflows zu fördern. Verwenden von beiden Mitteln Gebäudebereiche Systeme, die in der Lage sind, sich anzupassen und zu skalieren.

Ergänzende Stärken

Die beiden Protokolle zeichnen sich aus, um einen bestimmten Workflow zu bearbeiten. Aber wenn sie zusammen verwendet werden, machen sie sich gegenseitig aus:

• Interoperabilität + Erweiterbarkeit: A2A verbindet Agenten über Systeme hinweg. MCP macht jeden Agenten ausdehnbar. Zusammen erzeugen sie modulare, versatile Ökosysteme.
• Spezialisierung + Zusammenarbeit: Agenten können sich spezialisieren und immer noch zusammenarbeiten. MCP gibt ihnen die Instruments, während A2A es ihnen ermöglicht, die Arbeitsbelastung zu teilen.
• Echtzeitanpassung: MCP liefert einen neuen Kontext, während A2A die Aufgaben umleitet, wenn sich die Bedingungen ändern. Systeme werden belastbar und reaktionsschnell.
• Governance + Beobachtbarkeit: MCP regelt den Zugriff auf den Instrument, während A2A Interaktionen regiert. Zusammen bieten sie Rückverfolgbarkeit, Einhaltung und Kontrolle.

Gemeinsam bringen sie Intelligenz und Interoperabilität in generative KI -Systeme.

Abschluss

A2A und MCP sind keine Silos, sie sind synergistische Requirements. Jeder löst ein separates Drawback. Aber wenn sie kombiniert sind, befähigen sie Agenten, zu kommunizieren (A2A) und mit dem realen Kontext (MCP).

Microsoft -CEO Satya Nadella sagte es am besten:

„Offene Protokolle wie A2A und MCP sind entscheidend, um das Agenten -Net zu ermöglichen.

In der Zukunft von Genai geht es nicht darum, ein Protokoll über ein anderes auszuwählen. Es geht darum, Wege zu finden, um sie für unsere Workflows zu verflechten. Gemeinsam legen sie den Grundstein für intelligente Systeme der nächsten Era, die interoperabel und Werkzeugbewusstsein sind.

Häufig gestellte Fragen

Alteryx, Inc., Salesforce, Twilio, Field, Kyndryl und Peraton arbeiten an einem gemeinsamen Transient für eine bessere KI-Regulierung

Eine Gruppe von Branchenführern der KI-Integration hat einen eingereicht Gemeinsamer Transientan die Synthetic Intelligence Job Pressure des US-Repräsentantenhauses, die sie auffordert, die Rollen und Verantwortlichkeiten für KI-Akteure in der gesamten Wertschöpfungskette neu zu definieren. Der Transient wurde der Führung des Repräsentantenhauses von Alteryx, Salesforce, Twilio, Field, Kyndryl und Peraton vorgelegt.

Bisher konzentrierten sich die meisten KI-Richtlinienvorschläge ausschließlich auf KI-Entwickler, die Grundmodelle erstellen, und auf Bereitsteller, die diese Endbenutzern zur Verfügung stellen. Der Transient betont die Notwendigkeit von Gesetzesvorschlägen, um die Komplexität des KI-Ökosystems genauer zu erfassen, und betont, wie wichtig es ist, die entscheidende Rolle von KI-Integratoren anzuerkennen – Unternehmen, die bestehende Modelle integrieren und häufig spezialisieren oder verbessern, um neue, revolutionary Anwendungen zu erstellen.

Die Auseinandersetzung mit der einzigartigen Rolle von KI-Integratoren in der US-Politik würde einen effektiveren Rahmen für diejenigen bieten, die stark an generativer KI beteiligt sind und derzeit nicht in die Beschreibung des KI-Bereitstellers oder KI-Entwicklers passen. Diese KI-Integratoren fordern, dass die US-amerikanische KI-Politik diese Marktnuancen berücksichtigt, um eine verantwortungsvolle globale KI-Innovation sicherzustellen.

Verantwortliche für öffentliche Politik und Innovation der Unternehmen, die den Transient unterzeichnet haben, betonten die Bedeutung der Unterscheidung zwischen KI-Entwicklern, -Betreibern und -Integratoren in der US-Politik und erklärten:

„KI ist nicht nur ein Werkzeug; Es ist ein Katalysator für Veränderungen, der unseren Wettbewerbsvorteil auf der globalen Bühne neu definieren kann. Um das volle Potenzial der KI auszuschöpfen, benötigen wir einen Regulierungsrahmen, der die komplexen Rollen innerhalb der KI-Wertschöpfungskette anerkennt. Als Mission Functionality Integrator und vertrauenswürdiger Accomplice von Regierungsbehörden setzt sich Peraton dafür ein, KI verantwortungsvoll in das digitale Ökosystem unseres Landes einzubinden. Wir freuen uns auf die Zusammenarbeit mit Regierungen und Branchenführern, um risikobasierte Vorschriften zu erarbeiten, die unsere Vermögenswerte schützen und gleichzeitig Innovationen fördern.“ – Chris Valentino, Chief Innovation Officer bei Peraton.

„Die KI-Wertschöpfungskette ist ein äußerst komplexes und komplexes Ökosystem mit Akteuren, die beim Einsatz generativer KI-Modelle ein Spektrum unterschiedlicher Rollen und Verantwortlichkeiten erfüllen. Um diese Komplexität genau zu erfassen und einen klaren, umfassenden und praktikablen Rahmen für die KI-Politik zu schaffen, sollten künftige Debatten die Rollen der KI-Akteure über die Betreiber und Entwickler hinaus klären, um die zahlreichen Akteure einzubeziehen, die stark an der KI beteiligt sind.“ – Tommy Ross, Leiter International Public Coverage bei Alteryx.

„Eine wirksame KI-Regulierung lässt sich nicht mit einer Einheitslösung erreichen – sie muss die unterschiedlichen Rollen entlang der KI-Wertschöpfungskette erkennen und entsprechende Leitplanken festlegen. Wir freuen uns auf unsere fortlaufende Zusammenarbeit mit Regierungs- und Branchenführern, um eine risikobasierte Regulierung zu entwickeln, die Verbraucher schützt und verantwortungsvolle KI-Innovationen fördert.“ – Hugh Gamble, Vizepräsident für Angelegenheiten und Politik der Bundesregierung bei Salesforce.  

„KI hat enorme Werte und Chancen geschaffen, dennoch gibt es eine komplexe KI-Wertschöpfungskette mit vielen Beteiligten mit unterschiedlichen Verantwortlichkeiten. Wir sind weiterhin bestrebt, mit unseren Kollegen, Führungskräften und Regierungsbeamten zusammenzuarbeiten, in der Hoffnung, einen offenen Dialog über die Rolle von KI-Integratoren zu führen, damit wir sowohl die Chancen als auch die Risiken angehen können, die vor uns liegen.“ – Curtis Swager, Vizepräsident für globale Regierungsbeziehungen und öffentliche Ordnung bei Twilio.

„Um ein nachhaltiges und verantwortungsvolles KI-Ökosystem aufzubauen, ist es wichtig, die Vielfalt der Rollen und Mitwirkenden entlang der gesamten KI-Wertschöpfungskette anzuerkennen. Durch einen risikobasierten Ansatz, der diese Komplexität berücksichtigt, können wir ein transparentes KI-Ökosystem ermöglichen und gleichzeitig Innovationen fördern.“ – Leah Perry, Vizepräsidentin für Recht, Chief Privateness Officer und International Head of Public Coverage bei Field.

„Als weltweit größter Anbieter von IT-Infrastrukturdiensten liefert Kyndryl KI im Auftrag der globalen Industrie in allen Sektoren. Während der Kongress versucht, umfassende Gesetze zur Regulierung von KI zu verfassen, erfordern die Komplexität und die unzähligen Anwendungsfälle den Enter der Unternehmen, die eine funktionale Rolle spielen im KI-Ökosystem.“ – Michael Bradshaw, International Follow Chief für Daten, Anwendungen und KI bei Kyndryl.

Melden Sie sich für die kostenlosen insideAI-Information an E-newsletter.

Begleiten Sie uns auf Twitter: https://twitter.com/InsideBigData1

Treten Sie uns auf LinkedIn bei: https://www.linkedin.com/firm/insideainews/

Begleiten Sie uns auf Fb: https://www.fb.com/insideAINEWSNOW

6. Durch die Bündelung all dieser Erkenntnisse entsteht ein LTSM-Modell (LTSM-Bundle), das alle bestehenden Methoden übertrifft, die LLM für Zeitreihen und transformerbasierte Zeitreihenprognosemodelle neu programmieren.

Programmieren Sie ein LTSM selbst neu!

Willst du versuchen, dein eigenes LTSM neu zu programmieren? Hier ist das Tutorial für das LTSM-Bundle: https://github.com/daochenzha/ltsm/blob/fundamental/tutorial/README.md

Schritt 1: Erstellen Sie eine virtuelle Umgebung. Klonen und installieren Sie die Anforderungen und das Repository.

conda create -n ltsm python=3.8.0
conda activate ltsm
git clone git@github.com:daochenzha/ltsm.git
cd ltsm
pip3 set up -e .
pip3 set up -r necessities.txt

Schritt 2: Bereiten Sie Ihren Datensatz vor. Stellen Sie sicher, dass Ihr lokaler Datenordner wie folgt aussieht:

- ltsm/
- datasets/
DATA_1.csv/
DATA_2.csv/
DATA_3.csv/
...

Schritt 3: Generieren der Zeitreiheneingabeaufforderungen aus Trainings-, Validierungs- und Testdatensätzen

python3 prompt_generate_split.py

Schritt 4: Suchen Sie die generierten Zeitreihen-Eingabeaufforderungen im Ordner „./prompt_data_split“. Führen Sie dann den folgenden Befehl aus, um die Eingabeaufforderungen abzuschließen:

# normalizing the prompts
python3 prompt_normalization_split.py --mode match
#export the prompts to the "./prompt_data_normalize_split" folder
python3 prompt_normalization_split.py --mode remodel 

Letzter Schritt: Trainieren Sie Ihr eigenes LTSM mit Time Collection Immediate und Linear Tokenization auf gpt2-medium.

python3 main_ltsm.py 
--model LTSM 
--model_name_or_path gpt2-medium 
--train_epochs 500 
--batch_size 10 
--pred_len 96 
--data_path "DATA_1.csv DATA_2.csv" 
--test_data_path_list "DATA_3.csv" 
--prompt_data_path "prompt_bank/prompt_data_normalize_split" 
--freeze 0 
--learning_rate 1e-3 
--downsample_rate 20 
--output_dir (Your_Output_Path) 

Weitere Einzelheiten finden Sie in unserem Dokument und im GitHub-Repo:

Papier: https://arxiv.org/pdf/2406.14045
Code: https://github.com/daochenzha/ltsm/

Referenz:

(1) Liu, Pengfei, et al. „Vorab trainieren, auffordern und vorhersagen: Eine systematische Untersuchung von Eingabeaufforderungsmethoden in der Verarbeitung natürlicher Sprache.“ ACM Computing-Umfragen 55.9 (2023): 1–35.

(2) Liu, Xiao, et al. „Selbstüberwachtes Lernen: Generativ oder kontrastiv.“ IEEE-Transaktionen zu Wissens- und Datentechnik 35.1 (2021): 857–876.

(3) Ansari, Abdul Fatir, et al. „Chronos: Die Sprache der Zeitreihen lernen.“ arXiv-Vorabdruck arXiv:2403.07815 (2024).