Bild von Editor

# Einführung

Angesichts des jüngsten Anstiegs von Code-zentrierten Großsprachenmodellen haben sich viele Entwickler und Programmierer auf sie verlassen, um die Produktivität zu verbessern. Funktionen wie Codevorschläge, Debuggen und sogar das Skalieren eines gesamten Projekts sind jetzt mit diesen Instruments möglich.

Mit technologischen Fortschritten wurde die Idee der Agenten -KI eingeführt, um unsere Arbeit zu unterstützen. Da ein agentener Ansatz über Aufgaben Grund zu den Aufgaben und den besten nächsten Schritt entscheidet, um ein Ziel zu erreichen, ist er heute zu einem wichtigen Werkzeug, das Entwickler heute übernehmen können. Durch die Integration von Code-fokussierten Modellen in ein agentisches Framework können wir einen personalisierten Codierungsassistenten erstellen, der unsere Anforderungen aus einer einfachen Eingabeaufforderung versteht.

Eines der bekanntesten Open-Supply-Code-zentrierten Modelle ist die QWEN3-CODERdie starke Fähigkeiten bei agierischen Codierungsaufgaben verfügt. Mit einem starken Modell wie diesem veröffentlichte das Workforce dann ein CLI -Agentenprogrammierungstool namens Qwen Code, um unsere Codierungsarbeiten zu unterstützen.

In diesem Artikel werden wir untersuchen, wie Qwen Code in der Praxis verwendet wird.

# Qwen Code

Qwen Code ist ein Agentic Command Line (CLI) Workflow-Instrument basierend auf dem Gemini Cli Das wurde für die QWEN3-Coder-Modelle angepasst. Dieses CLI -Instrument zielt darauf ab, Entwicklungsworkflows mit einem intelligenten Assistenten zu verbessern, der Ihre Umgebung verstehen und auf der Grundlage Ihrer Eingabeaufforderung handeln kann. Darüber hinaus bietet das Instrument Möglichkeiten, Betriebsaufgaben zu automatisieren und Verbesserungen zu analysieren, die spezifisch für die QWen-Coder-Modelle sind.

Das CLI-Instrument kann kostenlos verwendet werden und bietet zwei Authentifizierungsoptionen: Qwen OAuth und eine OpenAI-kompatible API. Die empfohlene Methode ist Qwen OAuth, die wir in diesem Artikel untersuchen werden. Qwen OAuth bietet kostenlose Optionen, einschließlich 2000 Anfragen professional Tag und ein Zinslimit von 60 Anfragen professional Minute, ohne dass wir eine Token -Grenze nutzen werden.

Um QWEN Code zu verwenden, benötigen Sie Node.js Model 20 oder höher installiert. Sie können es aus der Quelle herunterladen oder den folgenden Code verwenden.

curl -qL https://www.npmjs.com/set up.sh | sh

Verwenden Sie nach der Set up NPM, um das Instrument mit dem folgenden Code in Ihre Umgebung herunterzuladen.

npm set up -g @qwen-code/qwen-code@newest

Wenn Sie den QWEN -Code von Supply bevorzugen, können Sie die folgenden Befehle verwenden:

git clone https://github.com/QwenLM/qwen-code.git
cd qwen-code
npm set up
npm set up -g .

Probieren wir es aus, wenn QWEN -Code installiert ist. In diesem Artikel werden wir ein Codierungsprojekt bewerten – insbesondere das Lokales Lappenrezeptprojekt Ich habe mich entwickelt. Sie können Ihr eigenes Projekt- und Code -Repository verwenden.

Beginnen wir mit dem Aktivieren von QWEN -Code mit dem folgenden Befehl in Ihrem bevorzugten Verzeichnis.

Das erste, was Qwen Code Sie bitten wird, ist authentifiziert. In diesem Artikel werden wir Qwen OAuth auswählen und Sie werden in den Browser umgeleitet.

Wählen Sie Ihren bevorzugten Weg zum Anmelden aus – es gibt viele Optionen, um Ihr Profil zu authentifizieren. Sobald Sie sich angemeldet haben, kehren Sie zu Ihrer CLI zurück und sind bereit, mit Qwen Code zu arbeiten.

Verwenden Sie den QWEN -Code, indem Sie eine Eingabeaufforderung in die CLI übergeben. Zum Beispiel habe ich die Eingabeaufforderung verwendet: “describe the code right here”

QWEN Code führt einen Agentenprozess durch und untersucht das gesamte Projektrepository.

Dann liefert Qwen Code eine vollständige Erklärung basierend auf der Eingabeaufforderung. In diesem Beispiel erklärt es den Code im Verzeichnis und dessen Zweck.

Mit QWEN Code können Sie ihn bitten, Aktionen in Ihrem Namen auszuführen. Sie können beispielsweise darum bitten, das Code -Repository mithilfe der Eingabeaufforderung zu verbessern: “what components of this module could be optimized?”

QWEN -Code präsentiert mögliche Optimierungen und vorgeschlagene Änderungen der Implementierung.

Sie können dann die Änderungen akzeptieren oder ablehnen und einen Workflow in den Schleifen aufrechterhalten. Wenn Sie möchten, können Sie automatische Änderungen aktivieren, damit Sie sie nicht wiederholt akzeptieren müssen.

QWEN -Code kann auch die erforderlichen Dateien selbst erstellen, wie z. necessities.txt unten gezeigt.

Zuletzt können Sie einen Ordner oder eine Dateien angeben, die QWEN -Code verarbeiten möchten. Zum Beispiel habe ich die Eingabeaufforderung verwendet "@chroma_db, please clarify to me what this folder is all about". Das Ergebnis ist unten dargestellt:

Das Ergebnis zeigt den Zweck jeder Datei im Verzeichnis und wie es verwendet wird.

Wenn Sie Ihre QWEN -Codeerfahrung verbessern möchten, können Sie eine Datei erstellen .qwen/settings.json und füllen Sie es mit den gewünschten Einstellungen. Sie können beispielsweise das Token -Grenzwert mit folgenden festlegen:

{
  "sessionTokenLimit": 32000
}

Zusätzlich können Sie verschiedene Befehle verwenden, z. /assist So zeigen Sie alle verfügbaren Qwen -Code -Befehle an oder /stats Um die aktuellen QWEN -Code -Sitzungsinformationen anzuzeigen.

Das ist die grundlegende Verwendung von Qwen Code; Probieren Sie verschiedene Eingabeaufforderungen in Ihren Projekten aus, um zu sehen, wie es Ihrer Arbeit helfen kann.

# Einpacken

Qwen Code ist ein agenten CLI-Instrument, der QWEN3-CODER verwendet, ein leistungsstarkes Code-fokussierter Modell. Durch die Anpassung des Instruments aus Gemini CLI kann Qwen Code Ihren Code verstehen und viele grundlegende Aufgaben mit einer einfachen Eingabeaufforderung automatisieren.

Ich hoffe das hat geholfen!

Cornellius Yudha Wijaya ist ein Information Science Assistant Supervisor und Datenautor. Während er in Vollzeit bei Allianz Indonesien arbeitet, liebt er es, Python- und Datentipps über soziale Medien und das Schreiben von Medien zu teilen. Cornellius schreibt über eine Vielzahl von KI- und maschinellen Lernthemen.

Das QWEN-Workforce von Alibaba hat gerade FP8-quantisierte Kontrollpunkte für seine neuen QWEN3-NEXT-80B-A3B-Modelle in zwei Nachtraining-Varianten veröffentlicht.Anweisen Und Denken-Ausgelassene Inferenz mit hohem Durchsatz mit extrem langer Kontext und MOE-Effizienz. Der FP8-Repos spiegelt die BF16-Veröffentlichungen wider, packt jedoch „feinkörnige FP8“ -Regewichte (Blockgröße 128) und Bereitstellungshinweise für Sglang- und VllM-Builds. Benchmarks in den Karten bleiben die der ursprünglichen BF16 -Modelle; FP8 wird „aus Bequemlichkeit und Leistung“ nicht als separate Bewertungslauf zur Verfügung gestellt.

Was ist im A3B -Stack?

QWEN3-NEXT-80B-A3B ist eine hybride Architektur, die Gated Deltanet (ein lineares/konv-style-Aufmerksamkeits-Ersatz) mit geschlossener Aufmerksamkeit kombiniert und mit einer ultrasparigen Mischung aus Experten (MOE) verschachtelt ist. Das 80B -Gesamtparameterbudget aktiviert ~ 3B -Parameter professional Token über 512 Experten (10 Routed + 1 Shared). Das Format ist als 48 Schichten angegeben, die in 12 Blöcke angeordnet sind: 3×(Gated DeltaNet → MoE) gefolgt von 1×(Gated Consideration → MoE). Der native Kontext beträgt 262.144 Token, validiert bis zu ~ 1.010.000 Token unter Verwendung von Seilskalierung (Garn). Die versteckte Größe beträgt 2048; Die Aufmerksamkeit verwendet 16 Q -Köpfe und 2 kV -Köpfe bei Head Dim 256; Deltanet verwendet 32 ​​V- und 16 QK -lineare Köpfe bei Head Dim 128.

Das QWEN-Workforce meldet, dass das 80B-A3B-Basismodell QWEN3-32B bei nachgeschalteten Aufgaben zu ~ 10% seiner Trainingskosten übertrifft und ~ 10 × Inferenzdurchsatz über einen 32-km-Kontext hinausgeht-durch eine geringe Aktivierung bei der MOE und bei der Multi-Token-Vorhersage (MTP). Die Unterrichtsvariante ist nicht umsetzt (nein <suppose> Tags), während die Denkvariante standardmäßig Argumentationsspuren erzwingt und für komplexe Probleme optimiert wird.

FP8 veröffentlicht: Was hat sich tatsächlich geändert

Die FP8-Modellkarten geben an, dass die Quantisierung „feinkörnig FP8“ mit Blockgröße 128 ist. Die Bereitstellung unterscheidet sich geringfügig von BF16: Sowohl Sglang als auch VLLM erfordern aktuelle Haupt-/Nachtbaute, wobei Beispielbefehle für 256K-Kontext und optionales MTP angegeben sind. Die Considering FP8 -Karte empfiehlt auch ein Argumentationsparser -Flag (z. B., z. --reasoning-parser deepseek-r1 in Sglang, deepseek_r1 in vllm). Diese Releases behalten die Lizenzierung von Apache-2.0.

Benchmarks (berichtet über BF16 -Gewichte)

Die Anweisung FP8-Karten reproduziert Qwens BF16-Vergleichstabelle und stellt QWEN3-NEXT-80B-A3B-Struktur mit QWEN3-235B-A22B-Instruct-257 auf mehrere Wissens-/Argumentations-/Codierungs-Benchmarks und bis zu 256K). Die Denkweise fp8 karten listet Aime’25, HMMT’25, MMLU-pro/Redux und LiveCodeBench V6 auf, wobei Qwen3-Subsequent-80B-A3B-Dinking frühere qwen3 Considering-Veröffentlichungen (30b a3b-2507, 32b) übertrifft, und Anspruchsgedanken über die Überschläge über Gemini-2,5-Lash-Considering.

Trainings- und Nach-Coaching-Signale

Die Serie ist vor dem Coaching auf ~ 15T-Token ausgebildet. QWEN hebt die Stabilitätsergänzungen (null-zentrierte, gewichtsbekannte Schichtnorm usw.) hervor und verwendet GSPO in RL nach dem Coaching für das Denkmodell, um die hybride Aufmerksamkeit + MOE-Kombination mit hoher Paralität zu bewältigen. MTP wird verwendet, um die Inferenz zu beschleunigen und das Sign vor dem Vorabstieg zu verbessern.

Warum ist FP8 wichtig?

Bei modernen Beschleunigern reduzieren FP8 -Aktivierungen/-gewichte die Speicherbandbreitendruck und den ansässigen Fußabdruck gegenüber BF16, wodurch größere Stapelgrößen oder längere Sequenzen in ähnlicher Latenz ermöglicht werden. Da A3B nur ~ 3B-Parameter professional Token Routen leitete, verbindet die Kombination von FP8 + Moe-Sparsity-Verbindungen Durchsatzgewinne in langkontexten Routine, insbesondere wenn sie mit spekulativem Decodieren über MTP wie in den Servierflags exponierten MTP exponiert sind. Die Quantisierung interagiert jedoch mit Routing- und Aufmerksamkeitsvarianten; Die realen Akzeptanzraten für spekulative Dekodierung und Endaufgabegenauigkeit können mit den Implementierungen von Engine und Kernel variieren-daher die Anleitung von Qwen, um aktuelle Sglang/VllM zu verwenden und spekulative Einstellungen zu stimmen.

Zusammenfassung

Die FP8-Veröffentlichungen von Qwen machen den 80B/3B-aktiven A3B-Stack praktisch, um im 256-Ok-Kontext auf Mainstream-Motoren zu dienen, wodurch das Hybrid-Moe-Design und den MTP-Pfad für hohen Durchsatz erhalten bleiben. Die Modellkarten behalten Benchmarks von BF16 von BF16, sodass die Groups die Genauigkeit und Latenz von FP8 auf ihren eigenen Stapeln validieren sollten, insbesondere mit Parsers und spekulativen Einstellungen. Nettoergebnis: Niedrigere Speicherbandbreite und verbesserte Parallelität ohne architektonische Regressionen, positioniert für Lengthy Context Manufacturing Workloads.

Schauen Sie sich das an QWEN3-NEXT-80B-A3B-Modelle in zwei Nachtraining-Varianten-Anweisen Und Denken. Fühlen Sie sich frei, unsere zu überprüfen Github -Seite für Tutorials, Codes und Notizbücher. Fühlen Sie sich auch frei, uns zu folgen Twitter Und vergessen Sie nicht, sich unserer anzuschließen 100k+ ml Subreddit und abonnieren Unser E-newsletter.

Asif Razzaq ist der CEO von Marktechpost Media Inc. Sein jüngstes Bestreben ist die Einführung einer Medienplattform für künstliche Intelligenz, Marktechpost, die sich durch die ausführliche Berichterstattung über maschinelles Lernen und Deep-Studying-Nachrichten auszeichnet, die von einem breiten Publikum technisch intestine und leicht verständlich sind. Die Plattform verfügt über über 2 Millionen monatliche Ansichten und veranschaulicht ihre Beliebtheit des Publikums.

(empfohlene Lesen) Nvidia AI Open-Sources Vipe (Video Pose Engine): Ein leistungsstarkes und vielseitiges 3D-Videoannotationsinstrument für die räumliche KI

Alibaba hat eingeführt Qwen3-mt (Qwen-Mt-Turbo) über Qwen API, sein neuestes und fortschrittlichste maschinelle Übersetzungsmodell, das Sprachbarrieren mit beispiellose Genauigkeit, Geschwindigkeit und Flexibilität brechen soll. QWEN3-MT wurde auf Billionen mehrsprachiger Token ausgebildet und unterstützt über 92 Sprachen und bedeckt mehr als 95% der Weltbevölkerung. Mit der Nutzung modernster Architektur, Verstärkungslernen und reichhaltigen Anpassungsoptionen liefert sie die höchste Übersetzungsqualität zu einem Bruchteil der Kosten und der Latenz traditioneller Systeme.

Modellarchitektur- und Trainingsdaten

QWEN3-MT basiert auf Alibabas hoch entwickelter QWEN3-Transformatorarchitektur, das mit einem leichten Gewicht verbessert wird Expertenmischung (MOE) Rückgrat. Dieses Design gleicht die Recheneffizienz mit tiefem kontextuellem Verständnis aus, um die Übersetzungsqualität zu optimieren.

• Skala: Trainiert auf Billionen von Token Spannende Sprachen, Domänen und Register, die von formalen juristischen Texten bis hin zu umgangssprachlichem Dialog und technischer Literatur reichen.
• Mehrsprachigkeit: Der expansive Datensatz gewährleistet ein nuanciertes Verständnis von Syntax, Semantik, Redewendungen und kulturellem Kontext über Sprachpaare hinweg.
• Verstärkungslernen: Durch die kontinuierliche Feinabstimmung über das Verstärkungslernen kann das Modell dynamisch für eine größere Fließfähigkeit, Genauigkeit und idiomatische Expression basierend auf realer Suggestions anpassen.

Mehrsprachige Abdeckung und Bevölkerungsreichweite

Unterstützung 92+ SprachenQWEN3-MT spricht ein großes globales Publikum in zahlreichen Sprachfamilien an, darunter:

Diese unterstützten Sprachen decken gemeinsam ab über 95% der WeltbevölkerungUnternehmen und Entwickler befähigen, wirklich globale mehrsprachige Erfahrungen aufzubauen.

Benchmark- und Bewertungsleistung

Automatische Metriken

Qwen3-mt erreicht Führende BLEU -Ergebnisse auf prominenten Benchmarks wie:

• Chinesisch-englisch und englisch-düster Testsätze, Outperformance-Modelle wie GPT-4.1-Mini und Gemini-2,5-Flash.
• Der WMT24 Mehrsprachiger Benchmarkliefern vergleichbare Übersetzungstreue für large Modelle wie GPT-4.1 und Gemini-2,5-pro, aber mit erheblich geringeren Rechenkosten.

Die MOE -Architektur ermöglicht diese Effizienz, indem sie nur spezielle Untergruppen des Modells professional Anforderung aktiviert und die Inferenzzeit und -kosten verkürzt.

Menschliche Bewertung

Triple-Blind Human Assessments, die zehn große Sprachen abdecken (z. B. Englisch, Chinesisch, Japanisch, Arabisch, Spanisch), zeigen, dass QWEN3-MT in:

• Akzeptanzrate: Höhere Häufigkeit von nutzbaren Übersetzungen, die von professionellen Übersetzern akzeptiert werden.
• Exzellenzrate: Weitere Übersetzungen, die mit „hervorragend“ für die Sprach-, semantische Präzision und die kontextbezogene Treue bewertet wurden.

Diese Metriken bestätigen die Qualität der realen Übersetzungsqualität über automatisierte Bewertung hinaus.

Leistung, Skalierbarkeit und Kosteneffizienz

• Ultraschnelle Inferenz: Dank MOE und optimiertes Routing liefert QWEN3-MT eine geringe Latenz, die Echtzeit-Anwendungen wie Reside-Chat und Streaming-Übersetzung unterstützt.
• Hohe Parallelität: Es kann Tausende von gleichzeitigen Übersetzungsanfragen effizient bedienen und für große SaaS-, E-Commerce- und Medienplattformen geeignet sind.
• Kostengünstige Preisgestaltung: Beginnend bei 0,5 professional Million TokenEs reduziert die Kosten dramatisch im Vergleich zu dichten, vollständig aktivierten großen Modellen.

Visuelle Vergleiche weisen darauf hin, dass QWEN3-MT eine führende Place in Ausgleichsgeschwindigkeit, Kosten und Übersetzungsqualität beibehält.

Anpassung und Anpassungsfähigkeit der Domänen

QWEN3-MT bietet erweiterte Optionen für die domänenspezifische Anpassung:

• Terminologiekontrolle: Benutzer können eine konsistente Übersetzung von Markennamen, technischen Begriffen oder Jargon über direkte Glossarinjektion durchsetzen.
• Area -Eingabeaufforderungen: Benutzerdefinierte Eingabeaufforderungen Schneidern Übersetzungsstil und -ton – legale, medizinische, gesprächige oder technische – verstärkte kontextbezogene Aneignung.
• Übersetzungsgedächtnisintegration: Die adaptive Wiederverwendung von Benutzerkorrekturen und früheren Übersetzungen beschleunigt die Workflows und steigert die Konsistenz insbesondere für langwierige Projekte.

Eine solche Erweiterbarkeit macht QWEN3-MT zu einer hervorragenden Passform für Unternehmen mit speziellen Sprachanforderungen.

Verstärkungslernen: Verbesserung der Übersetzungsfluenz

Durch kontinuierliche Einbeziehung von Suggestions- und Benutzer-Interaktionsdaten nach dem Bearbeiten verfeinert sich die Verstärkungslernpipeline von QWEN3-MT iterativ:

• Kontextkonservierung und idiomatische Korrektheit zwischen Sprachen.
• Reduzierung kritischer Fehler, die auf die Domänenkomplexität zugeschnitten sind.
• Echtzeitanpassung an sich entwickelnde sprachliche Traits und Benutzerpräferenzen.

Dieser lebenslange Lernansatz gewährleistet die Relevanz und Genauigkeit der Übersetzung im Laufe der Zeit.

API -Zugriff und Bereitstellung

• Qwen API: Bietet erholsame Endpunkte und SDKs für die nahtlose Integration in Net-, Mobil- und Backend -Systeme.
• Versatile Bereitstellung: Unterstützt Cloud-, Edge- und Hybridarchitekturen sowie den Stapelübersetzungsmodus für die Verarbeitung mit hoher Volumen.
• Sehr zuverlässig: Konstruktion für SLAs auf Unternehmensebene mit robuster Überwachung und Verfügbarkeitsgarantien.

Anwendungsszenarien

QWEN3-MT leistet:

• E-Commerce-Lokalisierung: Übersetzen von Produktbeschreibungen, Bewertungen und Kundenanfragen in Echtzeit.
• Inhaltsmanagement: Automatisierte Nachrichten, Dokumentation und Lokalisierung von Bildungsinhalten.
• Kundendienst: Mehrsprachige Automatisierung für Ticketing, Chatbots und virtuelle Assistenten, Verbesserung des Kundenerlebnisses weltweit.

Wettbewerbspositionierung

QWEN3-MT-Kombination aus Übersetzungsqualität, Kosteneffizienz und Erweiterbarkeit stellt fest, dass sie heute zu den heute verfügbaren MT-Lösungen verfügt.

Abschluss

Alibabas QWEN3-MT stellt einen bemerkenswerten Fortschritt in der maschinellen Übersetzungstechnologie dar, das eine breite mehrsprachige Reichweite liefert, überlegene Übersetzungstreue sowohl durch automatische als auch durch menschliche Bewertungen sowie die Geschwindigkeit und die Kosteneffizienz von Unternehmen validiert werden. Seine neuartige Architektur der Experten mit Verstärkungslernen stellt sicher, dass QWEN3-MT anpassungsfähig, skalierbar und zukunftssicher ist.

Schauen Sie sich das an Umarmung der Gesicht DemoAnwesend Modelscope DemoAnwesend API DOC Und Technische Particulars. Alle Krediten für diese Forschung gilt an die Forscher dieses Projekts.

Treffen Sie den AI Dev E-newsletter, der von 40k+ Entwicklern und Forschern aus Nvidia, Openai, DeepMind, Meta, Microsoft, JP Morgan Chase, Amgen, Aflac, Wells Fargo und 100er mehr gelesen wurde (Jetzt abonnieren)

Asif Razzaq ist der CEO von Marktechpost Media Inc. Sein jüngstes Bestreben ist die Einführung einer Medienplattform für künstliche Intelligenz, Marktechpost, die sich durch die ausführliche Berichterstattung über maschinelles Lernen und Deep-Studying-Nachrichten auszeichnet, die von einem breiten Publikum technisch intestine und leicht verständlich sind. Die Plattform verfügt über über 2 Millionen monatliche Ansichten und veranschaulicht ihre Beliebtheit des Publikums.