Kann ein iterativer Draft-Revise-Löser, der einen latenten Scratchpad wiederholt aktualisiert, weitaus größere autoregressive LLMs auf ARC-AGI übertreffen? Samsung SAIT (Montreal) hat veröffentlicht Winziges rekursives Modell (TRM)– ein zweischichtiger rekursiver Reasoner mit ca. 7 Millionen Parametern, der Berichte erstellt 44,6–45 % Testgenauigkeit auf ARC-AGI-1 Und 7,8–8 % An ARC-AGI-2was die Ergebnisse übertrifft, die für wesentlich größere Sprachmodelle wie DeepSeek-R1, o3-mini-high und Gemini 2.5 Professional bei denselben öffentlichen Bewertungen gemeldet wurden. TRM verbessert auch Puzzle-Benchmarks Sudoku-Extrem (87,4 %) Und Labyrinthhart (85,3 %) gegenüber dem Prior Hierarchisches Argumentationsmodell (HRM, 27 Mio. Parameter)wobei weitaus weniger Parameter und ein einfacheres Trainingsrezept verwendet werden.

Was genau ist neu?

TRM entfernt die Zwei-Modul-Hierarchie und die Festkomma-Gradientennäherung von HRM zugunsten von a einzelnes kleines Netzwerk Das rekursiert auf einem latenten „Notizblock“ (z) und a aktuelle Lösungseinbettung (y):

• Einzelner winziger wiederkehrender Kern. Ersetzt die Zwei-Modul-Hierarchie von HRM durch ein zweischichtiges Netzwerk, das gemeinsam einen latenten Notizblock 𝑧 z und eine aktuelle Lösung, die 𝑦 y einbettet, verwaltet. Das Modell wechselt: suppose: replace 𝑧 ← 𝑓 ( 𝑥 , 𝑦 , 𝑧 ) z←f(x,y,z) für 𝑛 n innere Schritte; Akt: aktualisieren 𝑦 ← 𝑔 ( 𝑦 , 𝑧 ) y←g(y,z).
• Tief überwachte Rekursion. Der Suppose→Act-Block ist bis zu 16 Mal abgerollt mit gründlicher Aufsicht und einem erlernten Haltekopf, der während des Trainings verwendet wird (vollständiges Ausrollen zum Testzeitpunkt). Signale werden über (y,z)(y, z)(y,z) über Schritte hinweg übertragen.
• Voller Backprop durch die Schleife. Im Gegensatz zu HRMs einstufiger impliziter (Festkomma-)Gradient Näherung, TRM führt eine Rückwärtsausbreitung durch alle rekursiven Schritte durchwas das Forschungsteam für die Verallgemeinerung als wesentlich erachtet.

Architektonisch bleibt das leistungsstärkste Setup für ARC/Maze erhalten Selbstaufmerksamkeit; Für die kleinen festen Gitter von Sudoku tauscht das Forschungsteam die Selbstaufmerksamkeit gegen eine aus Token-Mixer im MLP-Mixer-Stil. Eine kleine EMA (exponentieller gleitender Durchschnitt) Übergewichte stabilisieren das Coaching auf begrenzten Daten. Nettotiefe wird effektiv erzeugt durch Rekursion (z.B, T = 3, n = 6) anstatt Schichten zu stapeln; bei Ablationen, zwei Schichten besser verallgemeinern als tiefere Varianten bei gleicher effektiver Rechenleistung.

Die Ergebnisse verstehen

• ARC-AGI-1 / ARC-AGI-2 (zwei Versuche): TRM-Attn (7M): 44,6 % / 7,8 % vs HRM (27 Mio.): 40,3 % / 5,0 %. Die vom Forschungsteam gemeldeten LLM-Grundwerte: DeepSeek-R1 (671B) 15,8 % / 1,3 %, o3-mini-hoch 34,5 % / 3,0 %, Gemini 2.5 Professional 37,0 % / 4,9 %; größere maßgeschneiderte Grok-4-Einträge sind höher (66,7–79,6 % / 16–29,4 %).
• Sudoku-Excessive (9×9, 1 km Zug / 423 km Take a look at): 87,4 % mit aufmerksamkeitsfreiem Mixer vs. HRM 55,0 %.
• Labyrinthhart (30×30): 85,3 % vs. HRM 74,5 %.

Diese sind direkte Vorhersage Modelle, die von Grund auf auf kleinen, stark erweiterten Datensätzen trainiert wurden – kein „Fewly-Shot-Prompting“. ARC bleibt das kanonische Ziel; Der breitere Kontext und die Regeln der Rangliste (z. B. ARC-AGI-2-Grenzwert für den Hauptpreis bei 85 % privatem Satz) werden von der ARC Prize Basis verfolgt.

Warum kann ein 7M-Modell bei diesen Aufgaben viel größere LLMs schlagen?

1. Entscheidung-dann-Revision statt Token für Token: TRM entwirft eine vollständige Kandidatenlösung und verbessert sie dann latente iterative Konsistenzprüfungen gegen die Eingabe – Reduzierung der Belichtungsverzerrung durch autoregressive Dekodierung bei strukturierten Ausgaben.
2. Rechenaufwand für Argumentation während der Testzeit, nicht für die Parameteranzahl: Effektive Tiefe entsteht durch Rekursion (emulierte Tiefe ≈ T·(n+1)·Schichten), was den Forschern zufolge bei konstanter Berechnung eine bessere Verallgemeinerung ergibt als das Hinzufügen von Ebenen.
3. Strengere induktive Voreingenommenheit gegenüber Gitterbegründung: Bei kleinen festen Gittern (z. B. Sudoku) reduziert das aufmerksamkeitsfreie Mischen die Überkapazität und verbessert den Kompromiss zwischen Bias und Varianz. Die Selbstaufmerksamkeit bleibt bei größeren 30×30-Rastern erhalten.

Wichtige Erkenntnisse

• Architektur: Ein ~7M-paramiger, zweischichtiger rekursiver Löser, der latente „Denk“-Aktualisierungen 𝑧 ← 𝑓 ( 𝑥 , 𝑦 , 𝑧 ) z←f(x,y,z) und eine „Akt“-Verfeinerung 𝑦 ← 𝑔 ( 𝑦 , 𝑧 ) abwechselt y←g(y,z), unter intensiver Aufsicht bis zu 16 Schritte abgerollt; Gradienten werden durch die vollständige Rekursion propagiert (keine Festkomma-/IFT-Näherung).
• Ergebnisse: Berichte ~44,6–45 % An ARC-AGI-1 Und ~7,8–8 % An ARC-AGI-2 (zwei Versuche)und übertrifft damit mehrere viel größere LLMs, die im Vergleich der Forschungsarbeit genannt wurden (z. B. Gemini 2.5 Professional, o3-mini-high, DeepSeek-R1) unter dem angegebenen Evaluierungsprotokoll.
• Effizienz/Muster: Zeigt, dass die Zuweisung von Testzeitberechnungen zur rekursiven Verfeinerung (Tiefe durch Entrollen) die Parameterskalierung bei symbolisch-geometrischen Aufgaben übertreffen kann und ein kompaktes, von Grund auf neu entwickeltes Rezept mit öffentlich veröffentlichtem Code bietet.

Diese Untersuchung demonstriert einen zweischichtigen rekursiven Löser mit ca. 7 Millionen Parametern, der bis zu 16 Entwurfs-Überarbeitungs-Zyklen mit ca. 6 latenten Aktualisierungen professional Zyklus abwickelt und ca. 45 % für ARC-AGI-1 und ca. 8 % (zwei Versuche) für ARC-AGI-2 meldet. Das Forschungsteam veröffentlichte Code auf GitHub. ARC-AGI bleibt im großen Maßstab ungelöst (Ziel 85 % für ARC-AGI-2), sodass der Beitrag eher ein Ergebnis der Architektureffizienz als ein allgemeiner Schlussfolgerungsdurchbruch ist.

---

Schauen Sie sich das an Technisches Papier Und GitHub-Seite. Schauen Sie sich gerne bei uns um GitHub-Seite für Tutorials, Codes und Notebooks. Sie können uns auch gerne weiter folgen Twitter und vergessen Sie nicht, bei uns mitzumachen 100.000+ ML SubReddit und Abonnieren Unser E-newsletter. Warten! Bist du im Telegram? Jetzt können Sie uns auch per Telegram kontaktieren.

China hat es mit seinen KI -Modellen wieder getan und diesmal ist der Schlag größer und besser! Baidu – Eine chinesische KI -Firma, kürzlich zwei veröffentlicht Großsprachige Modelle (LLMs) – Ernie 4.5 & x1. Behaupten, eine bessere Leistung als das neueste und größte Modell von Openai bis heute zu erzielen – GPT-4.5Diese Modelle sind kosteneffizienter als Deepseek-R1! Die Modelle scheinen zu intestine zu sein, um wahr zu sein – und bieten eine hohe Qualität zu einem Bruchteil des Preises. In diesem Weblog werden wir die Ernie 4.5- und X1-Modelle untersuchen, ihre Benchmark-Ergebnisse bewerten und sehen, wie sie in realen Anwendungen abschneiden. Additionally fangen wir an.

Was sind Ernie 4.5 & X1?

Ernie 4.5 & X1 sind die beiden neuesten multimodalen LLMs, die vom führenden chinesischen Technologieunternehmen Baidu entwickelt wurden und sich auf Internetdienste, künstliche Intelligenz und autonomes Fahren spezialisiert haben. Es ist am besten für seine dominierende Suchmaschine in China und die Fortschritte in KI-gesteuerten Innovationen bekannt. Baidu startete im Dezember 2021 seinen ersten LLM, Ernie 3.0 Titan. Danach hat es einige weitere Modelle veröffentlicht und gleichzeitig daran gearbeitet, robustere LLMs zu erstellen. Das Ergebnis aller Forschung und kontinuierlichen Bemühungen ist Ernie 4.5 & X1.

Ernie 4.5

Ernie 4.5 ist ein multimodales Fundamentmodell, das verschiedene Datentypen verstehen und integrieren kann, einschließlich Textual content, Bilder, Audio und Video. Dieser vielfältige Modellierungsansatz verbessert seine Fähigkeit, verschiedene Arten von Inhalten zu verstehen und zu generieren.

Hier sind einige der Hauptmerkmale von Ernie 4.5:

• Ernie 4.5 zeigt umfassende Verbesserungen in Verständnis, Era, Argumentation und Erinnerung gegenüber seinem Vorgänger Ernie 4.0.
• Es zeigt große Fähigkeiten bei der Halluzinationsprävention, dem logischen Denken und der Codierung, wodurch es geschickt ist, komplexe Aufgaben mit höherer Genauigkeit zu erledigen. ​
• Das Modell erzielt in mehreren Benchmarks sogar besser als Openai’s GPT-4,5, während es nur 1% dessen kostet, was es für die Verwendung von GPT-4,5 kostet!

Ernie x1

Ernie X1 ist als tief denkender Argumentationsmodell mit multimodalen Fähigkeiten konzipiert. Es ist ein erstes von Baidu veröffentlichtes Modell mit tiefem Denken. Hier sind einige seiner Schlüsselmerkmale:

• Ernie X1 zeichnet sich aus, um den Kontext zu verstehen, seinen Denkprozess zu planen, seine Reaktion zu reflektieren und sich im Laufe der Zeit weiterzuentwickeln.
• Es ist in der Lage, verschiedene Instruments für Aufgaben wie erweiterte Suche, Bildverständnis und komplexe Berechnungen autonom zu verwenden.
• Das Modell liefert die Leistung von Deepseek-R1, aber zum halben Preis und bietet eine kostengünstige Lösung für Unternehmen, die nach fortschrittlichen KI-Funktionen suchen.

Wie kann ich Ernie 4.5 & X1 zugreifen?

Sie können entweder über ihren AI -Chatbot – Ernie Bot oder über APIs auf Ernie 4.5 & X1 zugreifen.

Zugriff über Bot:

Beide Modelle sind für einzelne Benutzer auf der Ernie Bot -Plattform von Baidu frei zugänglich. Die Registrierung für Ernie Bot ist derzeit auf chinesische Staatsangehörige beschränkt.

Zugriff über API:

• Besuchen Sie die Maas -Plattform von Baidu Ai Cloud, Qianfan
• Erstellen Sie Ihr Konto auf der Plattform, um loszulegen.

Derzeit kann auf die Plattform von allen Benutzern nicht zugegriffen werden. Außerdem ist nur Ernie 4.5 über API erhältlich, während Ernie X1 bald auf der Plattform verfügbar sein wird.

Ernie 4.5 & X1 Efficiency Verify

In diesem Abschnitt werden wir herausfinden, wie diese Modelle bei Aufgaben mit Multimedia, Argumentation, Dokumentanalyse und vielem mehr ausgeführt werden. Da die Modellschnittstelle nur die chinesische Sprache unterstützt und die Darstellung der Account auf chinesische Staatsangehörige beschränkt ist, werden wir uns einige Beispiele dafür ansehen, wie Menschen die beiden Modelle verwenden, und welche Ausgaben sie erhalten haben. Wir werden einige der häufigsten Anwendungsfälle von Ernie 4.5 & X1 abdecken, die wir on-line gefunden haben, darunter:

1. Argumentation mit Bildanalyse
2. Dokumentanalyse und Zusammenfassung
3. Audioanalyse
4. Kreativität und Bildgenerierung

Aufgabe 1: Argumentation + Bildanalyse

In dieser Aufgabe wurde das Modell gebeten, ein mathematisches Downside zu lösen, das ihm in Kind eines Bildes gegeben wurde.

Modell verwendet: Ernie 4.5

Ausgabe:

Wie die meisten anderen multimodalen LLMs analysiert Ernie 4.5 das Video schnell und löst das Downside im Bild. Es nimmt alle Fragen im Bild nacheinander und fasst sie schließlich alle zusammen. Die Geschwindigkeit und Genauigkeit seiner Leistung macht es zu einem nützlichen Instrument für Studenten, Pädagogen, Forscher und Fachkräfte, die eine schnelle und genaue Problemlösung benötigen.

Aufgabe 2: Dokumentanalyse + Zusammenfassung

Hier erhielt das Modell ein Dokument und musste die Informationen zu einem bestimmten Thema aus diesem Dokument zusammenfassen.

Modell verwendet: Ernie 4.5

Ausgabe:

Mit dem Modell können Sie mehrere Dateien verschiedener Typen auf einmal hochladen. Es ist in der Lage, Dateien verschiedener Typen zu verarbeiten, einschließlich Dokumenten, PDFs, PPTs, Excel -Blättern und vielem mehr. In den hochgeladenen Dateien können Sie die (oder mehr) auswählen, über die Sie den Chatbot abfragen möchten, und das Modell fasst das Thema schnell zusammen. Die schnelle Verarbeitung mehrerer Dateien kann für Aufgaben wie Forschungsanalyse, Überprüfung der Rechtsdokumente, Finanzdatenextraktion und Unternehmensberichterstattung sehr nützlich sein.

Aufgabe 3: Audioanalyse

Für diese Aufgabe musste das Modell das gegebene Audio analysieren und seine Quelle finden.

Modell verwendet: Ernie 4.5

Ausgabe:

Die Audioanalyse ist eine Funktion, die keiner der beliebten KI -Chatbots in ihre Schnittstelle integriert hat, wodurch Ernie 4.5, die erste ihrer Artwork. Das Modell analysiert schnell den Clip, bestimmt seine Quelle und beschreibt dann sogar die Bedeutung des Clips. Die schnelle Analyse und die detaillierte Beschreibung machen es zu einem wertvollen Instrument für Aufgaben wie Echtzeit-Transkription, sprachbasierte Suche, Deepfake-Erkennung und Stimmungsanalyse in den Bereichen Medien, Kundendienst, Bildung und Strafverfolgung.

Aufgabe 4: Kreativität + Bildgenerierung

Für diese Aufgabe musste das Modell einen Raum analysieren und mögliche Dekorationen vorschlagen, die seine allgemeine Attraktivität verbessern können. Es musste dann ein aktualisiertes Bild des Raumes generieren.

Modell verwendet: Ernie x1

Ausgabe:

Das Modell verarbeitet das Bild schnell. Es schlägt dann die möglichen Verbesserungen an der Dekor des Raums vor, um die Gesamtattraktivität zu verbessern. Schließlich erzeugt es das Bild des Raums mit allen vorgeschlagenen Verbesserungen. Diese Funktion ist eine großartige Ergänzung für Aufgaben wie Innenarchitektur, Renovierungsplanung, Immobilienbühnen und virtuelle Dekorvisualisierung.

Notiz: Wir haben die Beispiele aus diesem Beitrag auf X genommen.

Baidus Ernie 4.5 & X1: Preisgestaltung

Sowohl Ernie 4.5 und X1 haben alle Funktionen und noch mehr als die Topmodelle von OpenAI, Deepseek, Grok, Claude usw. Hier finden Sie eine Preisaufschlüsselung der beiden Modelle:

Im Vergleich zu anderen Topmodellen sind Ernie 4.5 und X1 deutlich billiger, was sie zu einem wertvollen Kapital bei der Weiterentwicklung der generativen KI macht.

Ernie 4.5 & X1: Commonplace -Benchmark -Ergebnisse

Wir haben bereits die Funktionen, Funktionen und die Preisgestaltung der neuesten Ernie -Modelle gesehen. Schauen wir uns nun einige Leistungszahlen dieser Modelle gegen High-Modelle wie GPT-4,5, GPT-4O, Deepseek-R1 und mehr an.

Die folgende Grafik vergleicht Ernie 4.5 und GPT-4O über mehrere Benchmarks, die die multimodale KI-Leistung testen.

Die Grafik zeigt das:

• Ernie 4.5 übertrifft GPT-4O in den meisten multimodalen Aufgaben.
• Die durchschnittliche Punktzahl für Ernie 4.5 beträgt 77,77, was höher ist als 73,92 von GPT-4O.
• Ernie 4.5 hat einen bedeutenden Vorteil in Mathvista und Docvqa und zeigt bessere mathematische Argumentation und dokumentbasierte Fragen-Answerkenntnisse.
• Beide Modelle treten in Ocrbench und MMMU ähnlich ab, aber Ernie 4.5 hat immer noch einen leichten Vorteil.

Das nächste Diagramm vergleicht Ernie 4.5, Deepseek V3-CHAT, GPT-4O und GPT-4,5 über mehrere Benchmarks für textbasierte Argumentation und Problemlösung.

Hier sind einige wichtige Imbissbuden aus der Grafik:

• Ernie 4.5 führt das Rudel mit einer durchschnittlichen Punktzahl von 79,6 an und übertrifft die Deepseek V3 – Chat bei 79,14.
• Es funktioniert intestine über allgemeine Kenntnisse, Argumenten und Programmversuche wie MMLU-PRO, GSM8K und Humaneval+.
• GPT-4O und Deepseek V3 zeigen auch starke Ergebnisse, wobei Deepseek V3 wie CMMLU in chinesischen Benchmarks wettbewerbsfähig ist.
• Ernie 4.5 zeichnet sich in GSM8K (Math) und C-Eval (allgemeines Denken) aus, obwohl Deepseek V3 in der Leistung sehr eng ist.

Zukünftige Auswirkungen

Das Rennen um das High -LLM ist heizen und Baidus Ernie 4.5 & X1 führt einen ernsthaften Wettbewerb um OpenAI, Deepseek, Anthropic und Meta ein. Da die chinesischen KI -Labors Modelle liefern, die die westliche KI zu einem Bruchteil der Kosten konkurrieren oder übertreffen, werden Unternehmen gezwungen sein, schneller zu innovieren und ihre Kosten zu senken, um wettbewerbsfähig zu bleiben.

All diese Fortschritte werden endlich zu:

• Schnellere KI -Fortschritte in allen wichtigen KI -Forschungszentren.
• Erschwinglichere KI für Unternehmen und Entwickler.
• Eine neue Ära multimodaler KI-Anwendungen, die über die traditionelle textbasierte KI hinaus expandiert.

Abschluss

Die Ernie 4.5- und X1 -Modelle von Baidu sind nicht nur ein weiterer Satz von KI -Modellen – sie sind Branchenstörer. Ihre überlegenen multimodalen und argumentationsfähigen Fähigkeiten, niedrige Preisgestaltung und eine tiefe Integration in das digitale Ökosystem Chinas signalisieren eine Leistungsverschiebung auf dem globalen KI -Markt.

Wenn dieser Pattern weitergeht, würden wir eine größere AI -Demokratisierung und Öffentlichkeitsarbeit in verschiedenen Branchen sehen. Dies würde auch viele westliche Unternehmen dazu veranlassen, billigere Modelle zu veröffentlichen. Dies würde dies nicht nur zur Wettbewerbsfähigkeit auf dem Markt beitragen, sondern auch sicherstellen, dass die Benutzer das meiste Wert für ihr Geld erhalten.

Häufig gestellte Fragen

Im September 2024 veröffentlichte OpenAI sein O1-Modell, das auf groß angelegte Verstärkungslernen ausgebildet wurde und ihm „fortgeschrittene Argumentationsfunktionen“ verleiht. Leider wurden die Particulars darüber, wie sie das abgerufen haben, nie öffentlich geteilt. Heute hat Deepseek (ein AI -Forschungslabor) dieses Argumentationsverhalten wiederholt und die vollständigen technischen Particulars ihres Ansatzes veröffentlicht. In diesem Artikel werde ich die Schlüsselideen hinter dieser Innovation diskutieren und beschreiben, wie sie unter der Motorhaube arbeiten.

https://www.youtube.com/watch?v=rveljcnl0ds

Das O1 -Modell von OpenAI markierte ein neues Paradigma für die Schulung von LLMs (Language Fashions). Es führte sogenannte ein „Denken“ Tokendie eine Artwork von Artwork von ermöglichen Kratzpad, mit dem das Modell nachdenken kann durch Probleme und Benutzeranfragen.

Der Haupteinblick von O1 battle die Leistung mit erhöhtem Anstieg verbessert TEST-Zeit-Berechnung. Dies ist nur eine ausgefallene Artwork, das zu sagen Je mehr Token ein Modell erzeugt, desto besser seine Reaktion. Die folgende Abbildung aus OpenAIs Weblog erfasst diesen Punkt intestine.

In den obigen Diagrammen sind die Y-Achsen die Modellleistung für Aime (Mathematikprobleme), während die X-Achsen verschiedene Berechnungszeiten sind. Die linke Verschwörung zeigt die bekannten Gesetze mit neuronaler Skalierung, die den LLM-Ansturm von 2023 abfielen. Mit anderen Worten, die länger ist ein Modell trainiert (dh Zug-Zeit-Laptop)Die Besser seine Leistung.

Auf der rechten Seite sehen wir jedoch eine neue Artwork von Skalierungsgesetz. Hier, desto mehr Token Ein Modell generiert (dh Check-Time-Laptop)Anwesend Je besser seine Leistung.

„Denken“ Token

Ein Schlüsselmerkmal von O1 ist sogenannt „Denken“ Token. Diese sind Spezielle Token, die während des Trainings eingeführt wurden, was die Denkkette des Modells (COT) abgrenzt Argumentation (dh das Drawback durchdenken). Diese speziellen Token sind aus zwei Gründen wichtig.

EinsSie haben eindeutig abgebaut, wo das „Denken“ des Modells beginnt und stoppt, sodass es beim Aufspinnen einer Benutzeroberfläche leicht analysiert werden kann. Und zweiEs erzeugt eine menschlich-interpretierbare Auslese darüber, wie das Modell durch das Drawback „denkt“.

Obwohl Openai bekannt gab, dass sie Verstärkungslernen verwendeten, um diese Fähigkeit zu erzeugen, die genauen Particulars von Wie Sie haben es nicht geteilt. Heute haben wir jedoch dank einer kürzlichen Veröffentlichung von Deepseek eine ziemlich gute Idee.

Deepseeks Papier

Im Januar 2025 veröffentlichte Deepseek “Deepseek-R1: Anreize der Argumentationsfähigkeit in LLMs durch Verstärkungslernen”(2). Während dieses Papier seinen angemessenen Anteil an Pandemonium verursachte, lag ihr zentraler Beitrag Enthüllung der Geheimnisse hinter O1.

Es führt zwei Modelle vor: Deepseek-R1-Null Und Deepseek-R1. Ersteres wurde ausschließlich auf Verstärkungslernen (RL) ausgebildet, und letzteres battle eine Mischung aus beaufsichtigter Feinabstimmung (SFT) und RL.

Obwohl es sich bei den Schlagzeilen (und dem Titel des Papiers) um Deepseek-R1 handelte, ist das erstere Modell wichtig, da es bei einem Trainingsdaten für R1 generierte, und zwei, es zeigt auffällige aufstrebende Argumente Fähigkeiten, die dem Modell nicht gelehrt wurden.

Mit anderen Worten, R1-Null entdeckt Cot und Check-Time-Berechnen Sie allein durch RL! Lassen Sie uns diskutieren, wie es funktioniert.

Deepseek-R1-Null (nur RL)

Verstärkungslernen (RL) ist a Maschinelles Lernen Ansatz, bei dem, anstatt Modelle zu expliziten Beispielen zu schulen Modelle lernen durch Versuch und Irrtum (3). Es funktioniert, indem es ein Belohnungssignal an ein Modell weitergibt, das keine explizite funktionale Beziehung zu den Parametern des Modells hat.

Dies ähnelt, wie wir in der realen Welt oft lernen. Wenn ich mich beispielsweise für einen Job bewerbe und keine Antwort bekomme, muss ich herausfinden, was ich falsch gemacht habe und wie ich mich verbessern kann. Dies steht im Gegensatz zum überwachten Lernen, was in dieser Analogie wie der Personalvermittler ein spezifisches Suggestions zu dem geben würde, was ich falsch gemacht habe und wie man sich verbessert.

Während ich RL zum Coaching von R1-Zero verwendet, besteht aus vielen technischen Particulars, ich möchte 3 Schlüssel hervorheben: die SchnellvorlageAnwesend BelohnungssignalUnd Grpo (Gruppenrelative Politikoptimierung).

1) Schablone Eingabeaufforderung

Der Vorlage für das Coaching verwendet wird unten angegeben, wo {immediate} wird durch eine Frage aus einem Datensatz mit (vermutlich) komplexen Mathematik-, Codierungs- und Logikproblemen ersetzt. Beachten Sie die Aufnahme von <reply> Und <suppose> Tags über einfache Aufforderung.

A dialog between Person and Assistant. The person asks a query, and the 
Assistant solves it.The assistant first thinks in regards to the reasoning course of in 
the thoughts after which offers the person with the reply. The reasoning course of and 
reply are enclosed inside <suppose> </suppose> and <reply> </reply> tags, 
respectively, i.e., <suppose> reasoning course of right here </suppose>
<reply> reply right here </reply>. Person: {immediate}. Assistant:

Etwas, das hier auffällt, ist die minimale und entspannte Aufforderungstrategie. Dies battle eine absichtliche Wahl von Deepseek zu Vermeiden Sie Verzerrungsmodellantworten und zu Beobachten Sie seine natürliche Entwicklung während RL.

2) Belohnungssignal

Die rl belohnen hat zwei Komponenten: Genauigkeit und Formatbelohnungen. Da der Schulungsdatensatz aus Fragen mit klaren richtigen Antworten besteht, wird eine einfache regelbasierte Strategie zur Bewertung der Antwortgenauigkeit verwendet. In ähnlicher Weise wird eine regelbasierte Formatierungsbelohnung verwendet, um sicherzustellen, dass zwischen den Denketags Argumentationstoken generiert werden.

Es wird von den Autoren festgestellt, dass ein neuronales Belohnungsmodell nicht verwendet wird (dh Belohnungen werden nicht von einem neuronalen Netz berechnet), da diese möglicherweise anfällig für Anfälligkeiten sind Hacking belohnen. Mit anderen Worten, die LLM lernt, wie es geht Trick Das Belohnungsmodell zur Maximierung von Belohnungen während der nachgelagerte Leistung abnimmt.

Dies ist genau so, wie Menschen Wege finden, um eine Anreizstruktur auszunutzen, um ihre persönlichen Gewinne zu maximieren und gleichzeitig die ursprüngliche Absicht der Anreize zu geben. Dies unterstreicht die Schwierigkeit, gute Belohnungen zu erzeugen (ob für Menschen oder Laptop).

3) GRPO (Gruppenrelative Richtlinienoptimierung)

Das endgültige Element ist, wie Belohnungen in Modellparameter -Updates übersetzt werden. Dieser Abschnitt ist ziemlich technisch, sodass der erleuchtete Leser gerne voranschreitet.

Grpo ist ein RL -Ansatz, der eine Sammlung von Antworten auf Aktualisierungsmodellparameter kombiniert. Um ein stabiles Coaching zu fördern, integrieren die Autoren auch die Regularisierungsbegriffe für Klippungen und KL-Divergenz in die Verlustfunktion. Durch die Ausschnitte stellt die Optimierungsschritte nicht zu groß, und die Regularisierung sorgt dafür, dass sich die Modellvorhersagen nicht zu abrupt ändern.

Hier ist die vollständige Verlustfunktion mit einigen (hoffentlich) hilfreichen Anmerkungen.

Ergebnisse (aufstrebende Fähigkeiten)

Das auffälligste Ergebnis von R1-Null ist, dass es trotz seiner minimalen Anleitung wirksame Argumentationsstrategien entwickelt, die wir möglicherweise erkennen.

Zum Beispiel lernt es implizit durch die RL zur Verbesserung der Antworten durch Testzeitberechnung (Erinnern Sie sich an den früheren Einblick von O1). Dies wird über die unten stehende Handlung aus dem R1 -Papier (2) dargestellt.

Eine andere bemerkenswerte Fähigkeit besteht darin, vergangene Antworten mit einem unheimlichen menschlichen inneren Monolog nachzudenken. Hier ist ein Beispiel von R1-Null. Beachten Sie die langes Kinderbett und zusätzlichen Überprüfungsschritt Vor der Erzeugung der endgültigen Antwort (ich habe einige Teile weggelassen, weil die Antwort sehr lang battle).

Person immediate: If it takes me 1.5 hours to write down a codebase and my intern 8 
hours. How lengthy will it take us each to write down 3 codebases?

<suppose> To resolve for a way lengthy it can take each you and your intern to write down 
three codebases collectively, we have to first learn the way many codebases every of 
you'll be able to write per hour individually.

(lengthy CoT) ...

So, it can take roughly 3.7895 hours for you and your intern to write down 
three codebases collectively.

To verify all the things is sensible, allow us to spherical the reply to an affordable 
variety of decimal locations (e.g., spherical to 2 decimal locations):

t ≈ 3.79 hours

Nevertheless, in the event you want a extra "human-friendly" reply, you may convert the 
decimal half into minutes. Since 0.7895 of an hour is:

0.7895 × 60 minutes ≈ 47.37 minutes

So, 3.7895 hours is roughly 3 hours and 47.37 minutes (or roughly 3 
hours and 47 minutes if rounding to the closest minute).

## Verification (non-compulsory step for verification)
To confirm, allow us to test what number of codebases you'll be able to individually write in t = 
72/19 hours:

Your work in 72/19 hours
= (2/3 codebases per hour) × (72/19 hours)
= (2 × 72) / (3 × 19)
= 144 / 57
= 48/19 codebases.

(verification course of) ...

Nevertheless, a extra "precise" reply ought to be saved in fractional type except 
specified in any other case. Thus, the reply is: 72/19hours which is roughly
$3.7895$ hours or about $3.79$ hours when rounded to 2 decimal locations).
</suppose>

72/19 hours (or roughly 3.79 hours).

Probleme mit R1-Zero

Obwohl die Considering-Token von R1-Null ein menschenlesbares Fenster in den „Gedankenprozess“ des Modells geben, berichten die Autoren einige Probleme. Nämlich das gelehrte Kinderbett leidet manchmal unter Lesbarkeitsprobleme und Sprachmischung. Vorschläge (vielleicht), dass seine Argumentation von etwas, das von Menschen leicht interpretierbar ist, wegweichen beginnt.

Deepseek-R1 (SFT + RL)

Um die Interpretierbarkeitsprobleme von R1-Null zu mildern, untersuchen die Autoren eine mehrstufige Trainingsstrategie, die Verwendet sowohl beaufsichtigte Feinabstimmung (SFT) als auch RL. Diese Strategie führt zu Deepseek-R1ein besseres Modell, das heute mehr Aufmerksamkeit erregt. Der gesamte Trainingsprozess kann in 4 Schritte unterteilt werden.

Schritt 1: SFT mit Argumentationsdaten

Um das Modell auf den richtigen Weg zu bringen, wenn es darum geht, wie man darstellt, beginnen die Autoren mit SFT. Das Nutzung von 1000s langen Cot -Beispielen Aus verschiedenen Quellen, darunter nur wenige Schüsse (dh Beispiele für die Überlegung durch Probleme), veranlasst das Modell direkt, Reflexion und Überprüfung zu verwenden, und die Synthetikdaten aus R1-Null (2) zu verfeinern.

Der zwei wichtige Vorteile davon sind, einsDas gewünschte Antwortformat kann dem Modell explizit gezeigt werden, und zweiund Sehen von kuratierten Argumentationsbeispielen ermöglicht eine bessere Leistung für das endgültige Modell.

Schritt 2: R1-Zero-Stil RL (+ Sprachkonsistenzbelohnung)

Als nächstes wird nach SFT ein RL -Trainingsschritt auf das Modell angewendet. Dies geschieht in einem identischer Weg wie R1-Null mit einer zusätzlichen Komponente zum Belohnungssignal, das die Sprache konsequent anreißt. Dies wurde zur Belohnung hinzugefügt, da R1-Null dazu tendierte, Sprachen zu mischen, was es schwierig machte, seine Generationen zu lesen.

Schritt 3: SFT mit gemischten Daten

Zu diesem Zeitpunkt hat das Modell wahrscheinlich eine NA (oder bessere) Leistung als R1-Null bei Argumentationsaufgaben. Dieses Zwischenmodell wäre jedoch nicht sehr praktisch, da es über alle Eingaben (z. B. „Hallo es“) nachgehen möchte, was für sachliche Fragen und Antworten, Übersetzung und kreatives Schreiben nicht erforderlich ist. Deshalb wird eine weitere SFT -Runde mit beiden durchgeführt Argumentation (600k Beispiele) Und Nicht-Bewertung (200K-Beispiele) Daten.

Der Deningdaten Hier wird aus dem resultierenden Modell aus Schritt 2 generiert. Zusätzlich werden Beispiele enthalten, bei denen ein LLM -Richter verwendet wird, um Modellvorhersagen mit Grundwahrheitsantworten zu vergleichen.

Der Daten nicht erschwinglich kommt von zwei Orten. Zunächst trainierte der SFT-Datensatz, der Deepseek-V3 (das Basismodell) trainiert. Zweitens synthetische Daten, die von Deepseek-V3 erzeugt wurden. Beachten Sie, dass Beispiele enthalten sind, die COT nicht verwenden, damit das Modell für jede Antwort nicht den Denk -Token verwendet.

Schritt 4: RL + RLHF

Schließlich wird eine weitere RL-Runde durchgeführt, die (wieder) R1-Null-Argumentationstraining und RL zum menschlichen Suggestions umfasst. Diese letztere Komponente hilft Verbessern Sie die Hilfsbereitschaft und Harmlosigkeit des Modells.

Das Ergebnis dieser gesamten Pipeline ist Deepseek-R1, das sich bei den Argumentationsaufgaben auszeichnet und ein KI-Assistent ist, mit dem Sie regular chatten können.

Zugriff auf R1-Zero und R1

Ein weiterer wichtiger Beitrag von Deepseek besteht darin, dass die Gewichte der beiden oben beschriebenen Modelle (und viele andere destillierte Versionen von R1) öffentlich verfügbar gemacht wurden. Dies bedeutet, dass es viele Möglichkeiten gibt, auf diese Modelle zuzugreifen, sei es Inferenzanbieter oder sie lokal ausführen.

Hier sind einige Orte, an denen ich diese Modelle gesehen habe.

• Deepseek (Deepseek-V3 und Deepseek-R1)
• Zusammen (Deepseek-V3, Deepseek-R1 und Destillationen)
• Hyperbolisch (Deepseek-V3, Deepseek-R1-Zero und Deekseek-R1)
• Ollama (lokal) (Deepseek-V3, Deepseek-R1 und Destillationen)
• Umarmtes Gesicht (lokal) (alle oben genannten)

Schlussfolgerungen

Die Veröffentlichung von O1 führte eine neue Dimension ein, durch die LLMs verbessert werden können: TEST-Zeit-Berechnung. Obwohl OpenAI seine geheime Sauce dafür nicht veröffentlichte, konnte Deepseek dieses Argumentationsverhalten nachbilden und die technischen Particulars seines Ansatzes veröffentlichen.

Während aktuelle Argumentationsmodelle Einschränkungen aufweisen, ist dies eine vielversprechende Forschungsrichtung, da sie gezeigt hat, dass Verstärkungslernen (ohne Menschen) können Erstellen Sie Modelle, die unabhängig lernen. Dies (möglicherweise) bricht die impliziten Einschränkungen der aktuellen Modelle aus, die nur können abrufen Und Remix Informationen, die zuvor im Web (dh bestehende menschliche Wissen) gesehen wurden.

Das Versprechen dieses neuen RL -Ansatzes besteht darin, dass Modelle das menschliche Verständnis (allein) übertreffen können, was zu neuen wissenschaftlichen und technologischen Durchbrüchen führt, die uns Jahrzehnte dauern könnten (allein).

Erhalten Sie einen exklusiven Zugang zu KI -Ressourcen und Projektideen: https://the-ta-entrepreneurs.equipment.com/shaw

Lernen Sie in 6 Wochen KI, indem Sie es bauen: https://maven.com/shaw-talebi/ai-builders-bootcamp

Referenzen

(1) Mit LLMs zu lernen lernen

(2) ARXIV: 2501.12948 (cs.cl)

(3) Tauchgang in LLMs wie Chatgpt

KI-betriebene Argumentationsmodelle ertragen die Welt im Jahr 2025 im Sturm! Mit dem Begin von Deepseek-R1 und o3-miniWir haben beispiellose Ebenen logischer Argumentationsfunktionen in AI -Chatbots gesehen. In diesem Artikel werden wir über ihre APIs auf diese Modelle zugreifen und ihre logischen Argumentationsfähigkeiten bewerten, um herauszufinden, ob O3-mini ersetzen kann Deepseek-R1. Wir werden ihre Leistung mit Customary-Benchmarks sowie in realen Anwendungen wie das Lösen logischer Rätsel und sogar das Erstellen eines Tetris-Spiels vergleichen! Additionally mach dich an und schließe dich der Fahrt an.

Deepseek-R1 gegen O3-Mini: Logische Argumentation Benchmarks

Deepseek-R1 und O3-Mini bieten einzigartige Ansätze für strukturiertes Denken und Abzug, wodurch sie für verschiedene Arten komplexer Problemlösungsaufgaben geeignet sind. Bevor wir von ihrer Benchmark -Leistung sprechen, werfen wir zunächst einen kleinen Einblick in die Architektur dieser Modelle.

O3-Mini ist das fortschrittlichste Argumentationsmodell von Openai. Es verwendet eine dichte Transformatorarchitektur und verarbeitet jedes Token mit allen Modellparametern für eine starke Leistung, aber einen hohen Ressourcenverbrauch. Im Gegensatz dazu verwendet das logischste Modell von Deepseek, R1, ein Mischungsmischungsmischung (MEE), das nur eine Teilmenge von Parametern professional Eingabe für eine größere Effizienz aktiviert. Dies macht Deepseek-R1 skalierbarer und recheninternen optimierter, während die solide Leistung aufrechterhalten wird.

Erfahren Sie mehr: Ist Openais o3-mini besser als Deepseek-R1?

Wir müssen nun sehen, wie intestine diese Modelle in logischen Argumentationsaufgaben abschneiden. Lassen Sie uns zunächst einen Blick auf ihre Leistung in den LiveBench -Benchmark -Exams werfen.

Quellen: LiveBench.ai

Die Benchmarkergebnisse zeigen, dass OpenAs O3-Mini Deepseek-R1 in quick allen Aspekten übertrifft, mit Ausnahme von Mathematik. Mit einem globalen durchschnittlichen Wert von 73,94 im Vergleich zu Deepseeks 71,38 zeigt der O3-Mini eine etwas stärkere Gesamtleistung. Es zeichnet sich besonders aus der Argumentation aus und erreicht 89,58 gegenüber Deepseeks 83.17 und spiegelt überlegene analytische und Problemlösungsfähigkeiten wider.

Lesen Sie auch: Google Gemini 2.0 Professional gegen Deepseek-R1: Wen besser codieren?

Deepseek-R1 gegen O3-Mini: API-Preisvergleich

Da wir diese Modelle über ihre APIs testen, lassen Sie uns sehen, wie viel diese Modelle kosten.

Wie im Tisch zu sehen ist, ist OpenAIs O3-Mini in Bezug auf die API-Kosten quick doppelt so teuer wie Deepseek R1. Es berechnet 1,10 USD professional Million Token für Enter und 4,40 US-Greenback für die Ausgabe, während Deepseek R1 eine kostengünstigere Charge von 0,55 USD professional Million Token für Enter und 2,19 USD für die Ausgabe bietet, was es zu einer budgetfreundlicheren Choice für große Anwendungen macht.

Quellen: Deepseek-R1 | o3-mini

So greifen Sie über API über die Deepseek-R1 und O3-Mini zu

Bevor wir in den praktischen Leistungsvergleich eintreten, erfahren wir, wie Sie mit APIs auf Deepseek-R1 und O3-Mini zugreifen können.

Alles, was Sie dafür tun müssen, ist, die erforderlichen Bibliotheken und API -Schlüssel zu importieren:

from openai import OpenAI
from IPython.show import show, Markdown
import time

with open("path_of_api_key") as file:
   openai_api_key = file.learn().strip()

with open("path_of_api_key") as file:
   deepseek_api = file.learn().strip()

Deepseek-R1 gegen O3-Mini: Logischer Argumentationsvergleich

Nachdem wir den API-Zugriff erhalten haben, vergleichen wir Deepseek-R1 und O3-Mini anhand ihrer logischen Argumentationsfunktionen. Dafür geben wir den Modellen die gleiche Aufforderung und bewerten ihre Antworten anhand dieser Metriken:

1. Zeit des Modells zur Generierung der Antwort,
2. Qualität der erzeugten Reaktion und
3. Kosten für die Generierung der Antwort.

Wir werden dann die Modelle 0 oder 1 für jede Aufgabe bewerten, abhängig von ihrer Leistung. Probieren wir additionally die Aufgaben aus und sehen, wer als Gewinner in der Begründung von Deepseek-R1 gegen O3-Mini-Argumentation auftritt!

Aufgabe 1: Erstellen eines Tetris -Spiels

Diese Aufgabe erfordert das Modell, um ein voll funktionsfähiges Tetris -Spiel mit Python zu implementieren, das Spiellogik, Stückbewegung, Kollisionserkennung und Rendering effizient verwaltet, ohne sich auf externe Spielemotoren zu verlassen.

Immediate: „Schreiben Sie einen Python -Code für dieses Drawback: Generieren Sie einen Python -Code für das Tetris -Spiel“

Eingabe in die Deepseek-R1-API

INPUT_COST_CACHE_HIT = 0.14 / 1_000_000  # $0.14 per 1M tokens
INPUT_COST_CACHE_MISS = 0.55 / 1_000_000  # $0.55 per 1M tokens
OUTPUT_COST = 2.19 / 1_000_000  # $2.19 per 1M tokens

# Begin timing
task1_start_time = time.time()

# Initialize OpenAI consumer for DeepSeek API
consumer = OpenAI(api_key=api_key, base_url="https://api.deepseek.com")

messages = (
    {
        "function": "system",
        "content material": """You're a skilled Programmer with a big expertise."""
    },
    {
        "function": "person",
        "content material": """write a python code for this downside: generate a python code for Tetris recreation."""
    }
)

# Get token rely utilizing tiktoken (regulate mannequin identify if needed)
encoding = tiktoken.get_encoding("cl100k_base")  # Use a suitable tokenizer
input_tokens = sum(len(encoding.encode(msg("content material"))) for msg in messages)

# Name DeepSeek API
response = consumer.chat.completions.create(
    mannequin="deepseek-reasoner",
    messages=messages,
    stream=False
)

# Get output token rely
output_tokens = len(encoding.encode(response.decisions(0).message.content material))

task1_end_time = time.time()

total_time_taken = task1_end_time - task1_start_time

# Assume cache miss for worst-case pricing (regulate if cache data is obtainable)
input_cost = (input_tokens / 1_000_000) * INPUT_COST_CACHE_MISS
output_cost = (output_tokens / 1_000_000) * OUTPUT_COST

total_cost = input_cost + output_cost

# Print outcomes
print("Response:", response.decisions(0).message.content material)
print("------------------ Complete Time Taken for Process 1: ------------------", total_time_taken)
print(f"Enter Tokens: {input_tokens}, Output Tokens: {output_tokens}")
print(f"Estimated Price: ${total_cost:.6f}")

# Show end result
from IPython.show import Markdown
show(Markdown(response.decisions(0).message.content material))

Antwort von Deepseek-R1

Sie finden die vollständige Antwort von Deepseek-R1 Hier.

Ausgangs -Token Kosten:

Eingabe -Token: 28 | Ausgangs -Token: 3323 | Geschätzte Kosten: $ 0,0073

Codeausgabe

Eingabe in O3-Mini-API

task1_start_time = time.time()


consumer = OpenAI(api_key=api_key)

messages = messages=(
       {
       "function": "system",
       "content material": """You're a skilled Programmer with a big expertise ."""


   },
{
       "function": "person",
       "content material": """write a python code for this downside: generate a python code for Tetris recreation.
"""


   }
   )


# Use a suitable encoding (cl100k_base is the best choice for brand new OpenAI fashions)
encoding = tiktoken.get_encoding("cl100k_base")


# Calculate token counts
input_tokens = sum(len(encoding.encode(msg("content material"))) for msg in messages)


completion = consumer.chat.completions.create(
   mannequin="o3-mini-2025-01-31",
   messages=messages
)


output_tokens = len(encoding.encode(completion.decisions(0).message.content material))


task1_end_time = time.time()




input_cost_per_1k = 0.0011  # Instance: $0.005 per 1,000 enter tokens
output_cost_per_1k = 0.0044  # Instance: $0.015 per 1,000 output tokens


# Calculate value
input_cost = (input_tokens / 1000) * input_cost_per_1k
output_cost = (output_tokens / 1000) * output_cost_per_1k
total_cost = input_cost + output_cost
print(completion.decisions(0).message)
print("----------------=Complete Time Taken for process 1:----------------- ", task1_end_time - task1_start_time)
print(f"Enter Tokens: {input_tokens}, Output Tokens: {output_tokens}")
print(f"Estimated Price: ${total_cost:.6f}")


# Show end result
from IPython.show import Markdown
show(Markdown(completion.decisions(0).message.content material))

Antwort von O3-Mini

Sie finden die vollständige Antwort von O3-Mini Hier.

Ausgangs -Token Kosten:

Eingabe -Token: 28 | Ausgangs -Token: 3235 | Geschätzte Kosten: $ 0,014265

Codeausgabe

Vergleichende Analyse

In dieser Aufgabe mussten die Modelle funktionaler Tetris -Code generieren, der das tatsächliche Gameplay ermöglicht. Deepseek-R1 hat erfolgreich eine voll funktionsfähige Implementierung erstellt, wie im Code-Ausgaberoto gezeigt. Während O3-Minis Code intestine strukturiert erschien, traten er während der Ausführung auf Fehler auf. Infolgedessen übertrifft Deepseek-R1 in diesem Szenario O3-Mini und liefert eine zuverlässigere und spielbarere Lösung.

Punktzahl: Deepseek-R1: 1 | O3-Mini: 0

Aufgabe 2: Analyse der relationalen Ungleichheiten

Diese Aufgabe erfordert, dass das Modell relationale Ungleichheiten effizient analysiert, anstatt sich auf grundlegende Sortiermethoden zu verlassen.

Immediate: “ In der folgenden Frage unter der Annahme, dass die angegebenen Aussagen als wahr sind, finden Sie heraus, welche der Schlussfolgerungen unter den gegebenen Schlussfolgerungen definitiv wahr sind/sind und dann Ihre Antworten entsprechend geben.

Aussagen:

H> f ≤ o ≤ l; F ≥ v

Schlussfolgerungen: I. L ≥ V II. O> d

Die Optionen sind:

A. Nur ich ist wahr

B. Nur II ist wahr

C. Sowohl I als auch II sind wahr

D. Entweder I oder II ist wahr

E. Weder ich noch II sind wahr. „

Eingabe in die Deepseek-R1-API

INPUT_COST_CACHE_HIT = 0.14 / 1_000_000  # $0.14 per 1M tokens
INPUT_COST_CACHE_MISS = 0.55 / 1_000_000  # $0.55 per 1M tokens
OUTPUT_COST = 2.19 / 1_000_000  # $2.19 per 1M tokens

# Begin timing
task2_start_time = time.time()

# Initialize OpenAI consumer for DeepSeek API
consumer = OpenAI(api_key=api_key, base_url="https://api.deepseek.com")

messages = (
    {"function": "system", "content material": "You're an skilled in fixing Reasoning Issues. Please remedy the given downside."},
    {"function": "person", "content material": """ Within the following query, assuming the given statements to be true, discover which of the conclusions amongst given conclusions is/are positively true after which give your solutions accordingly.
        Statements: H > F ≤ O ≤ L; F ≥ V < D
        Conclusions:
        I. L ≥ V
        II. O > D
        The choices are:
        A. Solely I is true 
        B. Solely II is true
        C. Each I and II are true
        D. Both I or II is true
        E. Neither I nor II is true
    """}
)

# Get token rely utilizing tiktoken (regulate mannequin identify if needed)
encoding = tiktoken.get_encoding("cl100k_base")  # Use a suitable tokenizer
input_tokens = sum(len(encoding.encode(msg("content material"))) for msg in messages)

# Name DeepSeek API
response = consumer.chat.completions.create(
    mannequin="deepseek-reasoner",
    messages=messages,
    stream=False
)

# Get output token rely
output_tokens = len(encoding.encode(response.decisions(0).message.content material))

task2_end_time = time.time()

total_time_taken = task2_end_time - task2_start_time

# Assume cache miss for worst-case pricing (regulate if cache data is obtainable)
input_cost = (input_tokens / 1_000_000) * INPUT_COST_CACHE_MISS
output_cost = (output_tokens / 1_000_000) * OUTPUT_COST

total_cost = input_cost + output_cost

# Print outcomes
print("Response:", response.decisions(0).message.content material)
print("------------------ Complete Time Taken for Process 2: ------------------", total_time_taken)
print(f"Enter Tokens: {input_tokens}, Output Tokens: {output_tokens}")
print(f"Estimated Price: ${total_cost:.6f}")

# Show end result
from IPython.show import Markdown
show(Markdown(response.decisions(0).message.content material))

Ausgangs -Token Kosten:

Eingabe -Token: 136 | Ausgangs -Token: 352 | Geschätzte Kosten: $ 0,000004

Antwort von Deepseek-R1

Eingabe in O3-Mini-API

task2_start_time = time.time()

consumer = OpenAI(api_key=api_key)

messages = (
    {
        "function": "system",
        "content material": """You're an skilled in fixing Reasoning Issues. Please remedy the given downside"""
    },
    {
        "function": "person",
        "content material": """Within the following query, assuming the given statements to be true, discover which of the conclusions amongst given conclusions is/are positively true after which give your solutions accordingly.
        Statements: H > F ≤ O ≤ L; F ≥ V < D
        Conclusions:
        I. L ≥ V
        II. O > D
        The choices are:
        A. Solely I is true 
        B. Solely II is true
        C. Each I and II are true
        D. Both I or II is true
        E. Neither I nor II is true
        """
    }
)

# Use a suitable encoding (cl100k_base is the best choice for brand new OpenAI fashions)
encoding = tiktoken.get_encoding("cl100k_base")

# Calculate token counts
input_tokens = sum(len(encoding.encode(msg("content material"))) for msg in messages)

completion = consumer.chat.completions.create(
    mannequin="o3-mini-2025-01-31",
    messages=messages
)

output_tokens = len(encoding.encode(completion.decisions(0).message.content material))

task2_end_time = time.time()


input_cost_per_1k = 0.0011  # Instance: $0.005 per 1,000 enter tokens
output_cost_per_1k = 0.0044  # Instance: $0.015 per 1,000 output tokens

# Calculate value
input_cost = (input_tokens / 1000) * input_cost_per_1k
output_cost = (output_tokens / 1000) * output_cost_per_1k
total_cost = input_cost + output_cost


# Print outcomes
print(completion.decisions(0).message)
print("----------------=Complete Time Taken for process 2:----------------- ", task2_end_time - task2_start_time)
print(f"Enter Tokens: {input_tokens}, Output Tokens: {output_tokens}")
print(f"Estimated Price: ${total_cost:.6f}")

# Show end result
from IPython.show import Markdown
show(Markdown(completion.decisions(0).message.content material))

Ausgangs -Token Kosten:

Eingabe -Token: 135 | Ausgangs -Token: 423 | Geschätzte Kosten: $ 0,002010

Antwort von O3-Mini

Vergleichende Analyse

O3-mini liefert die effizienteste Lösung und bietet eine präzise, ​​aber genaue Reaktion in erheblich geringerem Zeitpunkt. Es behält die Klarheit bei und gewährleistet und sorgt für logische Solidität und macht es best für schnelle Argumentationsaufgaben. Deepseek-R1 ist zwar ebenso korrekt, aber viel langsamer und ausführlicher. Die detaillierte Aufschlüsselung der logischen Beziehungen verbessert die Erklärung, kann sich jedoch für einfache Bewertungen übermäßig anfühlen. Obwohl beide Modelle zu dem gleichen Schluss kommen, machen die Geschwindigkeit und den direkten Ansatz von O3-Mini die bessere Wahl für den praktischen Gebrauch.

Punktzahl: Deepseek-R1: 0 | O3-Mini: 1

Aufgabe 3: Logisches Denken in Mathematik

Diese Aufgabe fordert das Modell heraus, numerische Muster zu erkennen, die arithmetische Operationen, Multiplikation oder eine Kombination mathematischer Regeln beinhalten können. Anstelle einer Brute-Power-Suche muss das Modell einen strukturierten Ansatz verfolgen, um die verborgene Logik effizient abzuleiten.

Immediate: “Studieren Sie die angegebene Matrix sorgfältig und wählen Sie die Nummer unter den angegebenen Optionen aus, die das darin enthaltene Fragezeichen (?) Ersetzen können.

____________

| 7 | 13 | 174 |

| 9 | 25 | 104 |

| 11 | 30 | ? |

| _____ | ____ | ___ |

Die Optionen sind:

A 335

B 129

C 431

D 100

Bitte erwähnen Sie Ihren Ansatz, den Sie bei jedem Schritt unternommen haben. “

Eingabe in die Deepseek-R1-API

INPUT_COST_CACHE_HIT = 0.14 / 1_000_000  # $0.14 per 1M tokens
INPUT_COST_CACHE_MISS = 0.55 / 1_000_000  # $0.55 per 1M tokens
OUTPUT_COST = 2.19 / 1_000_000  # $2.19 per 1M tokens

# Begin timing
task3_start_time = time.time()

# Initialize OpenAI consumer for DeepSeek API
consumer = OpenAI(api_key=api_key, base_url="https://api.deepseek.com")

messages = (
{
		"function": "system",
		"content material": """You're a Knowledgeable in fixing Reasoning Issues. Please remedy the given downside"""

	},
   11 
)
# Get token rely utilizing tiktoken (regulate mannequin identify if needed)
encoding = tiktoken.get_encoding("cl100k_base")  # Use a suitable tokenizer
input_tokens = sum(len(encoding.encode(msg("content material"))) for msg in messages)

# Name DeepSeek API
response = consumer.chat.completions.create(
    mannequin="deepseek-reasoner",
    messages=messages,
    stream=False
)

# Get output token rely
output_tokens = len(encoding.encode(response.decisions(0).message.content material))

task3_end_time = time.time()

total_time_taken = task3_end_time - task3_start_time

# Assume cache miss for worst-case pricing (regulate if cache data is obtainable)
input_cost = (input_tokens / 1_000_000) * INPUT_COST_CACHE_MISS
output_cost = (output_tokens / 1_000_000) * OUTPUT_COST

total_cost = input_cost + output_cost

# Print outcomes
print("Response:", response.decisions(0).message.content material)
print("------------------ Complete Time Taken for Process 3: ------------------", total_time_taken)
print(f"Enter Tokens: {input_tokens}, Output Tokens: {output_tokens}")
print(f"Estimated Price: ${total_cost:.6f}")

# Show end result
from IPython.show import Markdown
show(Markdown(response.decisions(0).message.content material))

Ausgangs -Token Kosten:

Eingabe -Token: 134 | Ausgangs -Token: 274 | Geschätzte Kosten: $ 0,000003

Antwort von Deepseek-R1

Eingabe in O3-Mini-API

task3_start_time = time.time()
consumer = OpenAI(api_key=api_key)
messages = (
        {
		"function": "system",
		"content material": """You're a Knowledgeable in fixing Reasoning Issues. Please remedy the given downside"""

	},
   11 
    )

# Use a suitable encoding (cl100k_base is the best choice for brand new OpenAI fashions)
encoding = tiktoken.get_encoding("cl100k_base")

# Calculate token counts
input_tokens = sum(len(encoding.encode(msg("content material"))) for msg in messages)

completion = consumer.chat.completions.create(
    mannequin="o3-mini-2025-01-31",
    messages=messages
)

output_tokens = len(encoding.encode(completion.decisions(0).message.content material))

task3_end_time = time.time()


input_cost_per_1k = 0.0011  # Instance: $0.005 per 1,000 enter tokens
output_cost_per_1k = 0.0044  # Instance: $0.015 per 1,000 output tokens

# Calculate value
input_cost = (input_tokens / 1000) * input_cost_per_1k
output_cost = (output_tokens / 1000) * output_cost_per_1k
total_cost = input_cost + output_cost

# Print outcomes
print(completion.decisions(0).message)
print("----------------=Complete Time Taken for process 3:----------------- ", task3_end_time - task3_start_time)
print(f"Enter Tokens: {input_tokens}, Output Tokens: {output_tokens}")
print(f"Estimated Price: ${total_cost:.6f}")

# Show end result
from IPython.show import Markdown
show(Markdown(completion.decisions(0).message.content material))

Ausgangs -Token Kosten:

Eingabe -Token: 134 | Ausgangs -Token: 736 | Geschätzte Kosten: $ 0,003386

Ausgabe von O3-Mini

Vergleichende Analyse

Hier folgt das in jeder Zeile folgende Muster:

(1. Zahl)^3 – (2. Zahl)^2 = 3. Zahl

Anwenden dieses Musters:

• Zeile 1: 7^3 – 13^2 = 343 – 169 = 174
• Zeile 2: 9^3 – 25^2 = 729 – 625 = 104
• Reihe 3: 11^3 – 30^2 = 1331 – 900 = 431

Daher ist die richtige Antwort 431.

Deepseek-R1 identifiziert und wendet dieses Muster korrekt an und führt zu der richtigen Antwort. Sein strukturierter Ansatz sorgt für die Genauigkeit, obwohl es deutlich länger dauert, um das Ergebnis zu berechnen. O3-mini hingegen legt kein konsistentes Muster fest. Es versucht mehrere Operationen wie Multiplikation, Addition und Exponentiation, kommt jedoch nicht zu einer endgültigen Antwort. Dies führt zu einer unklaren und falschen Antwort. Insgesamt übertrifft Deepseek-R1 O3-Mini in logischem Denken und Genauigkeit, während O3-Mini-Kämpfe aufgrund seines inkonsistenten und ineffektiven Ansatzes kämpft.

Punktzahl: Deepseek-R1: 1 | O3-Mini: 0

Endergebnis: Deepseek-R1: 2 | O3-Mini: 1

Logische Argumentationsvergleichszusammenfassung

Aufgabe Nr.	Aufgabentyp	Modell	Leistung	Zeit genommen (Sekunden)	Kosten
1	Codegenerierung	Deepseek-R1	Arbeitscode	606.45	$ 0,0073
		o3-mini	Nicht-Arbeitscode	99.73	$ 0,014265
2	Alphabetische Argumentation	Deepseek-R1	richtig	74,28	$ 0,000004
		o3-mini	richtig	8.08	$ 0,002010
3	Mathematisches Denken	Deepseek-R1	richtig	450.53	$ 0,000003
		o3-mini	Falsche Antwort	12.37	$ 0,003386

Abschluss

Wie wir in diesem Vergleich gesehen haben, zeigen sowohl Deepseek-R1 als auch O3-Mini einzigartige Stärken, die unterschiedliche Bedürfnisse erfüllen. Deepseek-R1 zeichnet sich in genau im mathematischen Denken und komplexen Codegenerierung aus, was es zu einem starken Kandidaten für Anwendungen macht, die logische Tiefe und Korrektheit erfordern. Ein wesentlicher Nachteil sind jedoch die langsameren Reaktionszeiten, teilweise aufgrund laufender Serverwartungsprobleme, die sich auf die Zugänglichkeit ausgewirkt haben. Andererseits bietet O3-Mini deutlich schnellere Reaktionszeiten, aber seine Tendenz, falsche Ergebnisse zu erzielen, schränkt die Zuverlässigkeit für Aufgaben mit hoher Argumentation ein.

Diese Analyse unterstreicht die Kompromisse zwischen Geschwindigkeit und Genauigkeit in Sprachmodellen. Während O3-Mini für schnelle Anwendungen mit geringem Risiko nützlich sein kann, ist Deepseek-R1 als überlegene Wahl für argumentationsintensive Aufgaben, vorausgesetzt, die Latenzprobleme werden angegangen. Wenn sich die KI-Modelle weiterentwickeln, ist ein Gleichgewicht zwischen Leistungseffizienz und Korrektheit von entscheidender Bedeutung, um die kI-gesteuerten Workflows in verschiedenen Bereichen zu optimieren.

Lesen Sie auch: Kann Openais O3-Mini Claude Sonnet 3.5 in Codierung besiegen?

Häufig gestellte Fragen

Q1. Was sind die wichtigsten Unterschiede zwischen Deepseek-R1 und O3-Mini?

A. Deepseek-R1 zeichnet sich in mathematischer Begründung und komplexer Codeerzeugung aus und ist best für Anwendungen, die logische Tiefe und Genauigkeit erfordern. O3-Mini hingegen ist erheblich schneller, opfert aber oft die Genauigkeit, was zu gelegentlichen falschen Ausgaben führt.

Q2. Ist Deepseek-R1 besser als O3-Mini für Codierungsaufgaben?

A. Deepseek-R1 ist die bessere Wahl für codierende und argumentationsintensive Aufgaben aufgrund seiner überlegenen Genauigkeit und Fähigkeit, komplexe Logik zu bewältigen. O3-mini liefert zwar schnellere Antworten, kann jedoch Fehler erzeugen, was es für Programmieraufgaben mit hohen Einsätzen weniger zuverlässig macht.

Q3. Ist O3-Mini für reale Anwendungen geeignet?

A. O3-Mini eignet sich am besten für risikoarme, geschwindigkeitsabhängige Anwendungen wie Chatbots, Freizeitgenerierung und interaktive KI-Erlebnisse. Bei Aufgaben, die eine hohe Genauigkeit erfordern, ist Deepseek-R1 jedoch die bevorzugte Choice.

This fall. Welches Modell ist besser zum Argumentieren und zur Problemlösung-Deepseek-R1 oder O3-Mini?

A. Deepseek-R1 verfügt über ein überlegenes logisches Denken und die Fähigkeiten zur Problemlösung und macht es zu einer starken Wahl für mathematische Berechnungen, Programmierhilfe und wissenschaftliche Abfragen. O3-mini bietet schnelle, aber manchmal inkonsistente Reaktionen in komplexen Problemlösungsszenarien.

Hallo! Ich bin Vipin, ein leidenschaftlicher Knowledge Science und maschinelles Lernen, der eine starke Grundlage für die Datenanalyse, Algorithmen und Programmierung maschinelles Lernens und Programmierung hat. Ich habe praktische Erfahrungen beim Aufbau von Modellen, beim Verwalten unordentlicher Daten und die Lösung realer Probleme. Mein Ziel ist es, datengesteuerte Erkenntnisse anzuwenden, um praktische Lösungen zu erstellen, die Ergebnisse erzielen. Ich bin bestrebt, meine Fähigkeiten in einer kollaborativen Umgebung beizutragen und gleichzeitig in den Bereichen Datenwissenschaft, maschinelles Lernen und NLP zu lernen und zu wachsen.