# Einführung

Eine Zeit lang schienen „unbegrenzte“ AI-Coding-Pläne das beste Angebot für Entwicklertools zu sein. Sie zahlten eine feste monatliche Gebühr und nutzten leistungsstarke Coding-Brokers so oft, wie Sie wollten. Aber dieses Modell würde nie ewig Bestand haben. Der Betrieb fortschrittlicher KI-Modelle ist teuer, und viele Unternehmen verschwendeten wahrscheinlich Geld, indem sie eine starke Nutzung zu ermäßigten Preisen anboten.

Mittlerweile gehen viele KI-Codierungsplattformen zu stärker kontrollierten Abonnementmodellen über. Einige basieren auf Token, andere auf Guthaben und andere verwenden stündliche, wöchentliche oder fortlaufende Nutzungslimits. Die Idee ist dieselbe: Sie zahlen immer noch für den Zugang, aber Ihre Nutzung wird jetzt sorgfältiger gemessen.

Ich magazine diese neue Richtung wirklich, wenn sie richtig gemacht wird. Für Entwickler, die in Schüben arbeiten, können nutzungs- oder kreditbasierte Pläne flexibler sein als vage „unbegrenzte“ Pläne, die Sie plötzlich verlangsamen oder blockieren. Sie wissen, wofür Sie bezahlen, und können Ihre Programmiersitzungen besser planen.

Allerdings bieten nicht alle AI-Coding-Abonnements den gleichen Wert. Bei einigen ist die Nutzung für den Preis großzügig, bei anderen wird das Guthaben schnell verbraucht oder die Limits sind schwer zu verstehen.

In diesem Artikel stelle ich fünf Abonnementpläne für die KI-Codierung vor, die meiner Meinung nach den besten Wert für Entwickler bieten. Bei einigen handelt es sich um Token-Pläne, bei anderen um Credit und bei anderen um Quoten, aber alle sind abhängig von Ihrem Arbeitsablauf nützlich. Diese Auswahl basiert auf meiner eigenen Erfahrung, daher können Ihre Ergebnisse variieren, je nachdem, wie intensiv Sie KI-Codierungstools verwenden.

# 1. MiniMax-Token-Plan

Ich bin ein großer Fan davon MiniMax-Token-Plan weil es Ihnen viel Nutzen zu einem niedrigen Preis bietet. Für 20 US-Greenback professional Monat erhalten Sie über die Net- und Desktop-App Zugriff auf die Codierungsmodelle von MiniMax und können es auch mit Instruments wie Claude Code, Cursor, Cline, Kilo Code, Roo Code, Codex CLI und OpenCode verwenden.

Screenshot von Token-Plan – MiniMax-API-Plattform

Was mir am besten gefällt, ist, dass es sich flexibler anfühlt als stündliche oder wöchentliche Codierungslimits. Sie erhalten ein großes Token-Kontingent, das für tägliche Codierung, Debugging, Refactoring und Agenten-Workflows lange dauern kann. Wenn Sie klein anfangen möchten, können Sie auch Pay as you go-Guthaben ab 5 $ kaufen und bei Bedarf verwenden.

Für mich ist dies einer der Tarife mit dem besten Preis-Leistungs-Verhältnis, da er den Entwicklern eine hohe Nutzung ohne den hohen Preis bietet.

# 2. MiMo-Token-Plan

Ich habe das verwendet MiMo-Token-Plan einen ganzen Monat lang, nachdem Sie es zu einem sehr günstigen Aktionspreis erhalten haben. Vertrauen Sie mir, ich habe es letztendlich häufiger verwendet als GLM, MiniMax, Codex und Gemini. Der Hauptgrund ist einfach: Es ist schnell, verwendet weniger Argumentationstoken und die UI-Generierung ist tatsächlich sehr intestine.

Der Plan funktioniert ähnlich wie MiniMax. Sie abonnieren monatlich und erhalten Credit, die Sie für verschiedene MiMo-Modelle auf der Plattform verwenden können. Dies macht es nützlich, wenn Sie gerne neue Modelle testen, Codierungsagenten ausführen oder Ihre eigenen benutzerdefinierten KI-Workflows erstellen.

Screenshot von Offene Xiaomi MiMo API-Plattform

Xiaomis MiMo-V2.5-Professional ​​unterstützt ein Kontextfenster mit bis zu 1 Million Token und ist für die Agentencodierung und langfristige Softwareaufgaben konzipiert. Es lässt sich auch in Codierungs- und Agent-Instruments wie OpenCode, Cline, OpenClaw, Kilo Code und Blackbox integrieren. Obwohl es sich nicht um ein vollständiges Coding-IDE-Abonnement handelt, eignet es sich intestine für benutzerdefinierte Workflows, Coding-Brokers und Entwicklungsaufgaben mit großem Kontext.

# 3. GLM-Codierungsplan

Der GLM-Codierungsplan hat sich in letzter Zeit sehr verändert und nicht alle sind damit zufrieden. Es ist nicht mehr das günstigste verfügbare Coding-Abonnement. Z.ai hat seine Preise erhöht, was wahrscheinlich die Kosten für die Beibehaltung des gleichen Codierungserlebnisses, die Verbesserung der Integrationen und die Veröffentlichung besserer Modelle wie GLM-5.2 rechtfertigt.

Ich verstehe, warum sie die Änderung vorgenommen haben. Der Betrieb großer Codierungsmodelle ist teuer und Z.ai konkurriert mit großen KI-Unternehmen wie OpenAI. Um bessere Modelle zu entwickeln, sind Forschung, Rechenleistung und Infrastruktur erforderlich, und all das kostet Geld.

Screenshot von GLM-Codierungsplan

Dennoch ist der GLM Coding Plan immer noch nützlich für Entwickler, die ein dediziertes Coding-Agent-Abonnement wünschen. Es funktioniert mit Instruments wie Claude Code, Cline, Kilo Code, OpenCode, OpenClaw und anderen unterstützten Codierungstools. Der Schwerpunkt liegt mehr auf echten Codierungsworkflows als auf allgemeinen Chats.

# 4. OpenAI-Codex

Ich benutze das OpenAI-Codex Ich verwende die VS Code-Erweiterung quick täglich und verwende sie nun schon seit Monaten. Ich habe nicht viele Beschwerden. Es versteht meine Codebasis intestine, funktioniert intestine in VS Code und das Beste daran ist, dass ich kein separates Codierungsabonnement benötige. Es ist in meinem ChatGPT-Plan enthalten.

Kürzlich habe ich außerdem zusätzliche Codex-Credit hinzugefügt, damit meine Arbeit nicht aufhört, wenn ich das Tages- oder Wochenlimit erreiche. Und glauben Sie mir, wenn Sie es für ernsthafte Codierungssitzungen verwenden, können diese Einschränkungen schnell aufgebraucht sein. Wenn Sie über ein Backup-Guthaben verfügen, haben Sie ein gewisses Polster.

Screenshot von ChatGPT-Pläne

OpenAI Codex ist eine gute Wahl für Entwickler, die ChatGPT bereits zum Recherchieren, Schreiben, Debuggen, Planen und Codieren verwenden. Es fügt sich intestine in das ChatGPT-Ökosystem ein und kann bei der Codegenerierung, dem Debuggen, Projektbearbeitungen und dem Verständnis großer Codebasen helfen.

# 5. Kimi-Code

Kimi-Code ist kein reiner Pay as you go-Token-Plan wie MiniMax, aber ich denke dennoch, dass er auf diese Liste gehört, weil er Entwicklern für den Preis eine starke Nutzung bietet. Anstatt Token einmal zu kaufen und sie zu verwenden, bis sie aufgebraucht sind, bietet Ihnen Kimi Code ein wöchentlich aktualisiertes Kontingent.

Was es nützlich macht, ist, dass es für echte Codierungsworkflows entwickelt wurde. Sie können es in der Net-App, VS Code, CLI und anderen Entwicklertools verwenden. Es kann beim Verständnis der Codebasis, bei Terminalaufgaben, Dateibearbeitungen, Debugging, Refactoring und beim Erstellen von Funktionen hilfreich sein.

Screenshot von Kimi-Code mit K2.7-Code

Mit dem neuen Modell Kimi K2.7 Code fühlt sich der Plan noch wertvoller an. Es ist intestine für Entwickler, die einen Agenten-Codierungsassistenten wünschen, ohne den hohen Preis einiger anderer Premium-Codierungstools zu zahlen.

# Abschließende Empfehlung

Hier ist ein kurzer Vergleich aller fünf Pläne, basierend auf Preisstil, Arbeitsablauf und wo jeder meiner Meinung nach den besten Wert bietet.

Wenn Sie bereits für einen ChatGPT-Monatsplan bezahlen, würde ich vorschlagen, zunächst überall OpenAI Codex zu verwenden. Es ist bereits in Ihrem Abonnement enthalten, funktioniert intestine in VS Code und versteht Ihre Codebasis intestine. Das einzige Drawback besteht darin, dass bei intensiver Nutzung die Nutzungsbeschränkungen innerhalb einer Stunde nach ernsthafter Arbeit aufgebraucht sein können.

Um dem entgegenzuwirken, würde ich vorschlagen, entweder den GLM Coding Plan oder den MiniMax Token Plan als Backup zu erwerben. MiniMax ist besser, wenn Sie ein gutes Preis-Leistungs-Verhältnis und eine hohe Nutzung zu einem niedrigeren Preis wünschen, während GLM nützlich ist, wenn Sie ein dediziertes Coding-Agent-Abonnement mit leistungsstarken GLM-Modellen wünschen.

Wenn Sie das beste Preis-Leistungs-Verhältnis wünschen und enorme Nutzungsrabatte benötigen, würde ich den MiMo-Token-Plan empfehlen. Es ist schnell, tokeneffizient und eignet sich hervorragend zum Experimentieren mit Codierungsagenten und benutzerdefinierten Workflows.

Kimi Code ist auch eine gute Choice, wenn Ihnen das Kimi-Ökosystem gefällt. Viele Benutzer bevorzugen Kimi-Modelle gegenüber anderen Open-Supply-Modellen, und das wöchentliche Quotensystem macht es für regelmäßige Programmierarbeiten nützlich.

Abid Ali Awan (@1abidaliawan) ist ein zertifizierter Datenwissenschaftler, der gerne Modelle für maschinelles Lernen erstellt. Derzeit konzentriert er sich auf die Erstellung von Inhalten und das Schreiben technischer Blogs zu maschinellem Lernen und Datenwissenschaftstechnologien. Abid verfügt über einen Grasp-Abschluss in Technologiemanagement und einen Bachelor-Abschluss in Telekommunikationstechnik. Seine Imaginative and prescient ist es, ein KI-Produkt mithilfe eines graphischen neuronalen Netzwerks für Schüler mit psychischen Erkrankungen zu entwickeln.

Jensen Huang, Gründer und CEO von Nvidia, kündigte kürzlich in einer Telefonkonferenz zu den Ergebnissen deutliche Wachstumsaussichten für das Unternehmen an. Dabei meldete er einen Rekordumsatz von 81,6 Milliarden US-Greenback und prognostizierte für das nächste Quartal 91 Milliarden US-Greenback. Er führte einen Großteil dieses Optimismus auf die Einführung von Nvidias neuem CPU-Produkt Vera zurück, das seiner Meinung nach einen Whole Addressable Market (TAM) im Wert von 200 Milliarden US-Greenback eröffnet hat.

Während der Telefonkonferenz zu den Ergebnissen beschrieb Huang Vera als „die weltweit erste CPU, die speziell für die Agenten-KI entwickelt wurde“ und signalisierte damit einen Wandel für Nvidia beim Eintritt in einen Markt, der traditionell von Intel und AMD dominiert wird. Er betonte, dass alle großen Hyperscaler und Systementwickler mit Nvidia zusammenarbeiten, um Vera einzusetzen, und behauptete, dass die Welt „Computing für agentische KI und robotische physische KI neu aufbaut“.

Huang erklärte, dass GPUs zwar für den „denkenden“ Teil von KI-Modellen verantwortlich seien, CPUs wie Vera jedoch zugewiesene Aufgaben übernehmen und sich möglicherweise zu PC-ähnlichen Geräten entwickeln würden. Er behauptete, dass Vera darauf ausgelegt sei, Token schnell zu verarbeiten, was ihn von herkömmlichen CPUs unterscheide, bei denen die Multi-Core-Leistung im Vordergrund stehe.

Trotz des Erfolgs von Nvidia bleibt die Wall Avenue hinsichtlich der Stabilität des CPU-Marktes vorsichtig. Die Bedenken wurden dadurch verstärkt, dass Amazon Net Companies einen bedeutenden Vertrag mit Meta für KI-CPUs abgeschlossen hat. Andy Jassy, ​​CEO von Amazon, hat öffentlich sein Vertrauen in die Fähigkeiten von AWS bei der Entwicklung von KI-Chips zum Ausdruck gebracht.

Was den Umsatz betrifft, berichtete Huang, dass Nvidia in diesem Jahr bereits eigenständige Vera-CPUs im Wert von 20 Milliarden US-Greenback verkauft habe. Er glaubt, dass die Nachfrage nach solchen CPUs steigen wird, da Milliarden von KI-Agenten auftauchen und PC-ähnliche Instruments erforderlich machen.

„Die Welt hat eine Milliarde Benutzer, menschliche Benutzer. Ich habe den Eindruck, dass es auf der Welt Milliarden von Agenten geben wird“, sagte Huang und wies auf einen wachsenden Markt für CPU-Technologie für KI-Anwendungen hin.

Hervorgehobener Bildnachweis

# Einführung

TurboQuant ist eine neuartige algorithmische Suite und Bibliothek, die kürzlich von Google eingeführt wurde. Ziel ist es, fortschrittliche Quantisierung und Komprimierung auf große Sprachmodelle (LLMs) und Vektorsuchmaschinen – unverzichtbare Elemente von Retrieval-Augmented Era (RAG)-Systemen – anzuwenden, um deren Effizienz drastisch zu verbessern. Es hat sich gezeigt, dass TurboQuant den Cache-Speicherverbrauch erfolgreich auf nur 3 Bit reduzieren kann, ohne dass eine Neuschulung des Modells erforderlich ist oder die Genauigkeit beeinträchtigt wird.

Wie gelingt das und ist es den Hype wirklich wert? Ziel dieses Artikels ist es, diese Fragen durch eine Beschreibung und ein praktisches Anwendungsbeispiel zu beantworten.

# TurboQuant auf den Punkt gebracht

Während LLMs und Vektorsuchmaschinen hochdimensionale Vektoren verwenden, um Informationen mit beeindruckenden Ergebnissen zu verarbeiten, erfordert dieser Aufwand große Mengen an Speicher, was möglicherweise zu erheblichen Engpässen im sogenannten Schlüsselwert-Cache (KV) führt – einem „digitalen Spickzettel“ mit schnellem Zugriff, der häufig verwendete Informationen für den Echtzeitabruf enthält. Durch die Verwaltung größerer Kontextlängen wird der KV-Cache-Zugriff linear skaliert, was die Speicherkapazität und Rechengeschwindigkeit erheblich einschränkt.

In den letzten Jahren eingesetzte Vektorquantisierungstechniken (VQ) tragen dazu bei, die Größe von Textvektoren zu verringern, um Engpässe zu beseitigen. Sie führen jedoch häufig zu einem zusätzlichen „Speicheraufwand“ und erfordern die Berechnung von Quantisierungskonstanten mit voller Genauigkeit für kleine Datenblöcke, wodurch der Grund für die Komprimierung teilweise untergraben wird.

TurboQuant ist eine Reihe von Algorithmen der nächsten Era für erweiterte Komprimierung ohne Genauigkeitsverlust. Das Drawback des Speicher-Overheads wird optimum gelöst, indem ein zweistufiger Prozess eingesetzt wird, der durch zwei Techniken unterstützt wird, die sich gegenseitig ergänzen:

• PolarQuant: Dies ist die Komprimierungstechnik, die in der ersten Stufe angewendet wird. Es komprimiert hochwertige Daten, indem es Vektorkoordinaten einem Polarkoordinatensystem zuordnet. Dies vereinfacht die Datengeometrie und macht die Speicherung zusätzlicher Quantisierungskonstanten überflüssig – die Hauptursache für den Speicheraufwand.
• QJL (quantisierter Johnson-Lindenstrauss): Die zweite Stufe des Komprimierungsprozesses. Der Schwerpunkt liegt auf der Entfernung möglicher Verzerrungen, die in der vorherigen Section eingeführt wurden, und fungiert als mathematischer Prüfer, der eine kleine Ein-Bit-Komprimierung anwendet, um versteckte Fehler oder verbleibende Verzerrungen zu entfernen, die aus der Anwendung von PolarQuant resultieren.

Ist TurboQuant den Hype wert?

Den experimentellen Ergebnissen und Beweisen zufolge lautet die kurze Antwort Ja. Durch die Vermeidung der teuren Datennormalisierung, die bei herkömmlichen Quantisierungsansätzen erforderlich ist, liefert 3-Bit-TurboQuant eine 8-fache Leistungssteigerung über 32-Bit unquantisierte Schlüssel auf einem H100 GPU-basierten Beschleuniger.

# Bewertung von TurboQuant

Das folgende Python-Codebeispiel veranschaulicht, wie Entwickler dies lokal auswerten können. Das Programm kann in einer lokalen IDE oder einer Google Colab-Pocket book-Umgebung ausgeführt werden und bietet einen konzeptionellen Vergleich zwischen unquantisierten Vektoren und der schnellen Komprimierung von TurboQuant.

Für den Betrieb von TurboQuant-Repositorys sind bestimmte Kernel erforderlich. Damit dieses Beispiel funktioniert, führen Sie zunächst die folgenden Installationen durch – vorzugsweise in einer Pocket book-Umgebung, es sei denn, Sie verfügen über ausreichend Speicherplatz auf Ihrem lokalen Laptop.

Installieren Sie zunächst TurboQuant:

In einer Google Colab-Umgebung installieren Sie einfach die Bibliothek und stellen Sie sicher, dass Ihr Laufzeit-Hardwarebeschleuniger auf eine T4-GPU eingestellt ist – verfügbar im kostenlosen Kontingent von Colab –, damit der folgende Code ordnungsgemäß ausgeführt wird.

Der folgende Code veranschaulicht einen einfachen Vergleich von Leistung und Speichernutzung bei Verwendung eines vorab trainierten Sprachmodells mit und ohne KV-Komprimierung von TurboQuant. Zuallererst die Importe, die wir brauchen werden:

import torch
import time
from transformers import AutoModelForCausalLM, AutoTokenizer
from turboquant import TurboQuantCache

Wir werden ein nicht so großes LLM wie laden TinyLlama/TinyLlama-1.1B-Chat-v1.0trainiert für die Textgenerierung, und sein jeweiliger Tokenizer. Wir geben die Verwendung einer 16-Bit-Dezimal-Float-Genauigkeit an: Diese Possibility ist in der Regel in moderner {Hardware} effizienter.

model_id = "TinyLlama/TinyLlama-1.1B-Chat-v1.0"
tokenizer = AutoTokenizer.from_pretrained(model_id)
mannequin = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto", torch_dtype=torch.float16)

Als Nächstes definieren wir das Szenario, indem wir eine große Modelleingabezeichenfolge simulieren, da TurboQuant wirklich glänzt, wenn Kontextfenster größer werden. Machen Sie sich keine Sorgen darüber, dass derselbe Inhalt 20 Mal in der Eingabe wiederholt wird: Hier kommt es auf die verwaltete Größe an, nicht auf die Sprache selbst.

immediate = "Clarify the historical past of the universe in nice element. " * 20 
inputs = tokenizer(immediate, return_tensors="pt").to("cuda")

Die folgende Funktion ist der Schlüssel zum Messen und Vergleichen der Ausführungszeit und der Speichernutzung im gesamten Textgenerierungsprozess, wobei die 3-Bit-Quantisierung von TurboQuant verwendet wird: use_tq=True oder deaktiviert, use_tq=False. Um saubere Messungen zu gewährleisten, wird zunächst der Cache geleert.

def run_unified_benchmark(use_tq=False):
    torch.cuda.empty_cache()
    
    # Initializing the precise cache kind
    cache = TurboQuantCache(bits=3) if use_tq else None
    
    start_time = time.time()
    with torch.no_grad():
        # Working the mannequin to generate output tokens
        outputs = mannequin.generate(**inputs, max_new_tokens=100, past_key_values=cache)
    
    length = time.time() - start_time
    
    # Isolating the Cache Reminiscence
    # As an alternative of measuring the entire 2GB mannequin, we measure the generated Cache dimension
    # For a 1.1B mannequin: (Layers: 22, Heads: 32, Head_Dim: 64)
    num_tokens = outputs.form(1)
    parts = 22 * 32 * 64 * num_tokens * 2 # Key + Worth
    
    if use_tq:
        mem_mb = (parts * 3) / (8 * 1024 * 1024) # 3-bit calculation
    else:
        mem_mb = (parts * 16) / (8 * 1024 * 1024) # 16-bit calculation
        
    return length, mem_mb

Abschließend führen wir den Vorgang zweimal durch – jeweils einmal mit den beiden angegebenen Einstellungen – und vergleichen die Ergebnisse:

base_time, base_mem = run_unified_benchmark(use_tq=False)
tq_time, tq_mem = run_unified_benchmark(use_tq=True)

print(f"--- THE VERDICT ---")
print(f"Baseline (FP16) Cache: {base_mem:.2f} MB")
print(f"TurboQuant (3-bit) Cache: {tq_mem:.2f} MB")
print(f"Speedup: {base_time / tq_time:.2f}x")
print(f"Reminiscence Saved: {base_mem - tq_mem:.2f} MB")

Ergebnisse:

--- THE VERDICT ---
Baseline (FP16) Cache: 42.45 MB
TurboQuant (3-bit) Cache: 7.86 MB
Speedup: 0.61x
Reminiscence Saved: 34.59 MB

Das Komprimierungsverhältnis beträgt im Hinblick auf den KV-Cache-Speicherbedarf beeindruckende bis zu 5,4-fache. Aber wie wäre es mit der Beschleunigung? Ist es mit TurboQuant wie erwartet? Nicht ganz, aber das ist regular, da die von uns verwendete Sequenz immer noch als kurz für die groß angelegten Szenarien gilt, für die TurboQuant gedacht ist, und wir dies in einer lokalen, nicht groß angelegten Infrastruktur ausführen. Der wahre Geschwindigkeitsgewinn mit TurboQuant entsteht, wenn die Kontextlänge und die verwendeten Hardwarebeschleuniger zusammen skalieren. Nehmen Sie einen Unternehmenscluster von H100-GPUs und lange RAG-Eingabeaufforderungen mit über 32.000 Token: In solchen Szenarien wird der Speicherverkehr erheblich reduziert, und mit TurboQuant kann eine bis zu 8-fache Durchsatzsteigerung erwartet werden.

Zusammenfassend lässt sich sagen, dass es einen Kompromiss zwischen Speicherbandbreite und Rechenlatenz gibt, und Sie können dies weiter bestätigen, indem Sie andere Einstellungen für die Eingabe- und Ausgabegrößen ausprobieren, z. B. die Eingabezeichenfolge mit 200 multiplizieren und festlegen max_new_tokens=250erhalten Sie möglicherweise etwas wie:

--- THE VERDICT ---
Baseline (FP16) Cache: 421.44 MB
TurboQuant (3-bit) Cache: 79.02 MB
Speedup: 0.57x
Reminiscence Saved: 342.42 MB

Letztendlich wird die transformative Leistung von TurboQuant für KI-Modelle durch seine Fähigkeit bewiesen, eine hohe Präzision beizubehalten und gleichzeitig in großen Umgebungen mit einer Systemeffizienz auf 3-Bit-Ebene zu arbeiten.

# Zusammenfassung

In diesem Artikel wurde TurboQuant vorgestellt und die Frage behandelt, ob es den Hype in Bezug auf Komprimierung und Leistung im Vergleich zu anderen herkömmlichen Quantisierungsmethoden, die in LLMs und anderen groß angelegten Inferenzmodellen verwendet werden, wert ist.

Iván Palomares Carrascosa ist ein führender Autor, Redner und Berater in den Bereichen KI, maschinelles Lernen, Deep Studying und LLMs. Er schult und leitet andere darin, KI in der realen Welt zu nutzen.

Metas großer Second ist da. Die Meta Superintelligence Labs haben Muse Spark auf den Markt gebracht, ihr erstes KI-Modell, das auf „persönliche Superintelligenz“ abzielt. Der Weg bis zu diesem Punkt struggle ereignisreich, angefangen beim Aufbau der weit verbreiteten Lösung Lama-Familie von Open-Supply-Modellen bis hin zu aggressiven Talentakquisen, die Schockwellen in der KI-Branche auslösten.

Aber die Hintergrundgeschichte ist nicht der einzige Grund, aufmerksam zu sein. Muse Spark betreibt bereits die Meta AI-App und die Web site. Eine Einführung auf WhatsApp, Instagram, Fb und Messenger ist geplant.

Diese Artwork von Reichweite macht es unmöglich, dies zu ignorieren. Hier finden Sie alles, was Sie über die neueste KI von Meta, ihre Kernfunktionen, die behauptete Leistung und ihre Leistung in realen Assessments wissen müssen.

Was ist Muse Spark?

Im Kern ist Muse Spark Metas neuestes großes Sprachmodell und das erste Modell seiner neuen Muse-Familie. Aber diese Beschreibung allein ist bei weitem nicht die ganze Geschichte. Meta präsentiert Muse Spark als kleines und schnelles Modell das noch ernstere Argumentationsaufgaben bewältigen kann. Das bedeutet, dass es nicht nur als ein weiteres Chatbot-Gehirn dargestellt wird. Es wird als Basisschicht für eine intelligentere Meta-KI positioniert, die schwierigere Fragen durchdenken, Bilder verstehen und komplexere Aufgaben im gesamten Meta-Ökosystem unterstützen kann.

Und genau das macht Muse Spark anders. Meta stellt es nicht als eigenständige Labordemo vor, die dazu dienen soll, KI-Forscher ein paar Tage lang im Web zu beeindrucken. Es führt Muse Spark als Produkt-First-Modell ein, das bereits die Meta AI-App und die Web site antreibt. Das Unternehmen gibt außerdem an, dass das Modell für multimodale Aufgaben, stärkeres Denken und schnellere Reaktionen konzipiert ist, wobei größere Muse-Modelle bereits in der Entwicklung sind. Vereinfacht ausgedrückt ist Muse Spark Metas Versuch, ein KI-Modell zu entwickeln, das Menschen tatsächlich bei den Apps hilft, die sie täglich nutzen.

Aus diesem Grund verfügt es über mehrere Kernfunktionen, wie…

Muse Spark: Funktionen

Meta hat den Funktionsumfang von Muse Spark ziemlich fokussiert gehalten Begin. Anstatt den Benutzern eine lange Liste auffälliger Fähigkeiten vorzuwerfen, werden drei Hauptbereiche hervorgehoben, die zeigen, wo das Modell nützlich sein soll.

Kontemplationsmodus

Eine der größten Funktionen von Muse Spark: Der Considering-Modus orchestriert mehrere Agenten, die parallel argumentieren. Meta sagt, dass das Modell dadurch schwierigere Aufgaben mit tieferen Überlegungen übernehmen kann. Das Unternehmen positioniert es als eine Möglichkeit für Muse Spark, mit den hochlogischen Modi von Grenzmodellen wie Gemini Deep Assume und GPT Professional zu konkurrieren.

Meta untermauert diese Behauptung auch mit Zahlen und sagt, dass der Kontemplationsmodus bei Humanity’s Final Examination 58 % und bei FrontierScience Analysis 38 % erreicht.

Multimodal

Muse Spark ist außerdem von Grund auf darauf ausgelegt, mit visuellen Informationen zu arbeiten. Meta sagt, dass das Modell visuelle MINT-Fragen, Entitätserkennung und Lokalisierung verarbeiten kann, wodurch es für ein breiteres Aufgabenspektrum nützlich ist als rein textbasierte Systeme. Diese Funktion fließt auch in interaktivere Anwendungsfälle ein, etwa in die Erstellung von Minispielen oder in die Unterstützung von Benutzern bei der Fehlerbehebung bei Haushaltsgeräten mit dynamischen Anmerkungen.

Gesundheit

Dies ist ein neuer Bereich und einer der Kernbereiche des Muse Spark, den Meta klar priorisiert hat. Das Unternehmen gibt an, mit über 1.000 Ärzten zusammengearbeitet zu haben, um Trainingsdaten zu kuratieren, die die gesundheitsbezogenen Denkfähigkeiten von Muse Spark verbessern. Dadurch ist das Modell darauf ausgelegt, sachlichere und umfassendere gesundheitsbezogene Antworten zu geben. Laut Meta kann Muse Spark außerdem interaktive Anzeigen erstellen, um Dinge wie den Nährstoffgehalt von Lebensmitteln oder die während des Trainings aktivierten Muskeln zu erklären.

Insgesamt machen diese Merkmale die Richtung von Meta mit Muse Spark deutlich. Dieses Modell wird als durchdachteres, visuelleres und praktischeres System für den Alltag positioniert. Und es gibt eine ganz bestimmte Architektur, die all dies ermöglicht.

Schauen wir es uns im Element an.

Muse Spark: Architektur

Meta erklärt Muse Spark anhand von drei Skalierungsachsen: Vortraining, verstärkendes Lernen und Argumentation während der Prüfung. Vereinfacht ausgedrückt zeigt das Unternehmen auf diese Weise, woher das Modell seine Kernintelligenz bezieht. Es zeigt uns auch, wie diese Intelligenz nach dem ersten Coaching verbessert wird und wie sie bei der Beantwortung realer Benutzeranfragen effektiver wird.

Vorschulung

Dies ist die Part, in der Muse Spark seine grundlegenden Fähigkeiten im multimodalen Verstehen, Denken und Codieren aufbaut. Meta sagt, dass es in den letzten neun Monaten den gesamten Stack neu aufgebaut und dabei die Modellarchitektur, den Optimierungsprozess und die Datenkuration verbessert hat. Nach Angaben des Unternehmens ermöglichen diese Änderungen es Muse Spark, mit deutlich weniger Rechenleistung das gleiche Leistungsniveau zu erreichen Lama 4 Maverick. Das ist eine wichtige Behauptung, denn sie deutet darauf hin, dass Muse Spark nicht nur stärker, sondern auch weitaus effizienter ist.

Verstärkungslernen

Nach dem Vortraining nutzt Meta Reinforcement Studying, um das Modell weiter zu verbessern. Das Unternehmen sagt, dass diese Part reibungslose und vorhersehbare Gewinne liefert, obwohl RL im großen Maßstab oft instabil ist. Noch wichtiger ist, dass Meta behauptet, dass diese Gewinne nicht nur auf die Trainingsdaten beschränkt sind. Muse Spark verbessert auch aufgeschobene Bewertungsaufgaben. Dies deutet darauf hin, dass das zusätzliche Coaching über die genauen Probleme hinausgeht, die es bereits gesehen hat.

Testzeit-Argumentation

Dies ist der Teil, der steuert, wie Muse Spark „denkt“, bevor er reagiert. Meta sagt, dass es Denkzeitstrafen verwendet, um das Modell dazu zu bringen, seine Argumentationstoken effizienter zu nutzen, anstatt einfach längere Gedankenketten zu produzieren. Auch hier setzt das Unternehmen auf Multi-Agenten-Orchestrierung, sodass mehrere parallele Agenten gemeinsam an einem schwierigen Downside arbeiten können. Laut Meta verleiht Muse Spark dadurch eine stärkere Leistung bei vergleichbarer Latenz. Dies wird sich als äußerst nützlich erweisen, wenn das Unternehmen diese Funktion Milliarden von Benutzern zur Verfügung stellen möchte.

Die Muse Spark-Architektur sagt Ihnen genau, was Meta damit machen will. Das Ziel besteht nicht nur darin, ein leistungsfähigeres Modell zu erstellen, das effizient skaliert, besser begründet und praktisch genug bleibt, um in allen Meta-Produkten eingesetzt zu werden.

Und das Modell hat sich bereits in Benchmark-Leistungen bewährt.

Muse Spark: Benchmark-Leistung

Muse Spark sieht genau in den Bereichen am stärksten aus, in denen Meta am meisten Druck macht. Auf die Gefahr hin, mich zu wiederholen: Dies sind: multimodales Verständnis, Gesundheit und tieferes Denken durch den Kontemplationsmodus. Das Modell erreicht bei CharXiv Reasoning einen Wert von 86,4 und zeigt ein starkes Figurenverständnis. Auch bei HealthBench Arduous (42,8) und MedXpertQA (MM) (78,4) schneidet es intestine ab, was Metas Behauptung untermauert, dass Gesundheit einer der Hauptschwerpunkte des Modells ist. Sein Kontemplationsmodus stärkt die Argumentationsgeschichte und bringt Muse Spark auf 50,2 bei Humanity’s Final Examination (No Instruments) und 38,3 bei FrontierScience Analysis und liegt damit vor einigen Spitzenkonkurrenten in diesen Vergleichen.

Wenn ich es zusammenfassen würde, sieht Muse Spark am überzeugendsten aus, wenn die Aufgabe visuelles Verständnis, gesundheitsbezogenes Denken und anspruchsvolleres mehrstufiges Denken beinhaltet.

Allerdings sollten wir beachten, dass die Ergebnisse keinen sauberen Benchmark-Sweep zeigen. Bei einigen umfassenderen Argumentations-, Codierungs- und Agentenbewertungen haben stärkere Konkurrenten immer noch die Nase vorn, insbesondere bei Assessments wie ARC AGI 2 und Teilen der Codierungsleistung. Die größere Erkenntnis ist additionally ziemlich klar: Muse Spark scheint noch nicht das stärkste Allround-Frontier-Modell zu sein. Allerdings zeigt es eine klare und glaubwürdige Stärke in genau den Bereichen, für die Meta es offenbar entwickelt hat.

Muse Spark: So greifen Sie zu

Das neue KI-Modell von Meta ist bereits im Einsatz. Sie können auf folgende Weise darauf zugreifen:

• Gehen Sie zur meta.ai-Plattform und nutzen Sie sie über die Chat-Oberfläche
• Laden Sie die Meta AI-App auf Ihr Telefon herunter und verwenden Sie sie
• Meta hat außerdem angekündigt, eine non-public API-Vorschau für ausgewählte Benutzer zu öffnen, was bedeutet, dass der breitere Entwicklerzugriff vorerst noch begrenzt ist.

Sobald Sie darauf zugreifen, sehen Sie hier ein Beispiel für die Artwork von Ausgaben, die Sie von dem Modell erwarten können.

Probieren wir Muse Spark aus

Sobald Sie auf Muse Spark zugreifen, werden Sie die wahre Schönheit davon erkennen. Es bringt die traditionelle KI-Chatbot-Oberfläche auf klare, minimalistische Weise zurück und zeigt keine unnötigen Optionen und Instruments zur Auswahl. Nur 2 Modi – Erstellen oder fügen Sie Medien/Dateien zu Ihrem Chat hinzu. Das ist es!

Mit dieser Einfachheit und seinen Ansprüchen im Hinterkopf haben wir Muse Spark einer Reihe von Assessments unterzogen, um seine Fähigkeiten zu überprüfen. Lesen Sie weiter, um herauszufinden, wie es funktioniert hat

Immediate:

„Extrahieren Sie den gesamten Textual content aus diesem Bild und erstellen Sie mithilfe der Informationen eine WhatsApp-Nachricht, die an alle Gruppen weitergeleitet werden soll.“

Ausgabe:

Beobachtung:

Muse Spark erledigte die Aufgabe der Textextraktion kompetent und mit guter Genauigkeit. Das Modell hat den gesamten sichtbaren Textual content erfolgreich identifiziert und aus dem Bild herausgezogen, ohne dass wichtige Particulars verloren gingen. Was auffiel, struggle, dass es über eine bloße Extraktion hinausging und den Inhalt in eine gesprächige, vorwärtsgerichtete WhatsApp-Nachricht umformatierte, die sich natürlich anfühlte und zum Teilen bereit struggle. Obwohl dies keine besonders anspruchsvolle Aufgabe struggle, bestätigt sie doch, dass die multimodale Texterkennung von Muse Spark in alltäglichen Anwendungsfällen zuverlässig funktioniert.

Aufgabe 2: Multimodale Content material-Generierung

Immediate:

„Erstellen Sie ein kommentiertes Diagramm, das die Funktionsweise einer Lithium-Ionen-Batterie erklärt. Beschriften Sie alle wichtigen Komponenten (Anode, Kathode, Elektrolyt, Separator) und zeigen Sie den Fluss von Ionen und Elektronen deutlich mit Pfeilen und kurzen Beschreibungen.“

Ausgabe:

Beobachtung:

Hier hat Muse Spark wirklich beeindruckt. Das Modell generierte ein intestine strukturiertes, kommentiertes Diagramm, das alle erforderlichen Komponenten (Anode, Kathode, Elektrolyt und Separator) korrekt beschriftete und Richtungspfeile verwendete, um den Ionen- und Elektronenfluss klar darzustellen. Die jedem Etikett beigefügten Beschreibungen waren prägnant und dennoch informativ, sodass das Diagramm auch für technisch nicht versierte Benutzer leicht verständlich ist.

Ein echter Mehrwert bestand darin, dass das Modell mehrere visuelle Variationen zur Auswahl bot und den Benutzern kreative Flexibilität gab. Eine Besonderheit struggle die integrierte Animationsoption. Die Möglichkeit, ein statisches Diagramm mit einem einzigen Tastendruck zum Leben zu erwecken, ist für Designer, Pädagogen und Inhaltsersteller gleichermaßen äußerst nützlich.

Aufgabe 3: Gesundheitsabfragen

Immediate:

„Schlagen Sie mir einige tolle Optionen für eine spätabendliche Mahlzeit für die Neuzusammensetzung des Körpers mit minimalen Kohlenhydraten und Fetten und maximaler Menge an Proteinen vor.“

Ausgabe:

Beobachtung:

Muse Spark lieferte eine solide und intestine organisierte Antwort auf die Anfrage nach einer Mahlzeit am späten Abend und priorisierte richtig proteinreiche, kohlenhydratarme und fettarme Optionen, die mit den Zielen für die Neuzusammensetzung des Körpers übereinstimmen. Die Vorschläge waren praktisch, vielfältig und mit genügend Kontext versehen, um umsetzbar zu sein. Die Erfahrung stieß jedoch auf eine klare Grenze, als die Folgeanfrage gestellt wurde, die Informationen in eine Infografik umzuwandeln. Trotz zweier separater Versuche und Aufforderungen gelang es dem Modell nicht, die visuelle Ausgabe zu erzeugen. Dies ist eine bemerkenswerte Lücke, insbesondere angesichts der Tatsache, dass Meta Gesundheit als eine der Kernstärken von Muse Spark positioniert hat. Die Möglichkeit, interaktive Gesundheitsvisualisierungen zu generieren, ist eine beanspruchte Funktion, und die Tatsache, dass eine ziemlich einfache Infografik-Anfrage nicht ausgeführt werden konnte, deutet darauf hin, dass die Funktion entweder inkonsistent ist oder noch verfeinert wird.

Weitere wichtige Veröffentlichungen:

Abschluss

Mit Muse Spark hat Meta seine Ambitionen im Bereich KI unmissverständlich zum Ausdruck gebracht. Der Begin signalisiert, dass Meta nicht nur in die Modellforschung investiert, sondern aktiv daran arbeitet, KI in eine native Ebene in den Apps zu verwandeln, die Milliarden von Menschen bereits täglich nutzen.

Wenn Muse Spark dieses Versprechen einhält, könnte dies einer der bisher wichtigsten KI-Begins von Meta werden. Das Modell zeigt deutliche Stärke in den Bereichen, für die Meta es entwickelt hat, und das Wirkungspotenzial in dieser Größenordnung ist kaum zu übersehen. Im Second sieht Muse Spark ziemlich stark aus und ist eine starke Leistung des Meta Superintelligence-Groups.

für Marketingkampagnen ist äußerst schwierig. Vieles davon beruht auf Versuch und Irrtum, auch wenn wir wissen, dass gezieltere Strategien besser funktionieren würden. Wir wissen einfach nicht, wie wir dorthin gelangen. Der Prozess umfasst häufig das Starten einer Kampagne, das Beobachten, das Lernen, das Vornehmen von Anpassungen und den anschließenden erneuten Versuch. Dieser Versuch-und-Irrtum-Ansatz hat echte Stärken. Es fördert die Bewegung anstelle von Lähmungen. Dadurch können Groups schnell lernen, insbesondere in sich schnell verändernden Märkten. Für frühes Wachstum oder begrenzte Datenumgebungen ist dies oft die einzig praktische Choice.

Ich möchte einen anderen Ansatz vorstellen. Eines, das zweifellos schwieriger, fortschrittlicher und komplexer, aber auch revolutionär und bemerkenswert ist. Dies ist der Ansatz, der Unternehmen auf die nächste Stufe der Datenreife bringt. Lassen Sie mich Ihnen die Erwartungswertmodellierung vorstellen.

Bevor wir beginnen, möchte ich vorweg sagen, dass dieser Ansatz in einigen Lehrbüchern zur Datenwissenschaft ganze Kapitel einnimmt. Allerdings möchte ich so untechnisch wie möglich sein. Ich werde die Ideen konzeptionell belassen und gleichzeitig einen klaren Rahmen vorgeben, wie dies erreicht werden kann. Wenn Sie daran interessiert sind, mehr zu erfahren, zitiere ich am Ende nützliche Quellen.

Fangen wir an.

Was ist Erwartungswertmodellierung?

Der Erwartungswert ist ein wichtiger analytischer Rahmen, der es Entscheidungsträgern ermöglicht, Kompromisse zu berücksichtigen, wenn Kosten und Nutzen ungleich sind. Stellen Sie sich ein Szenario vor, in dem ein maschinelles Lernmodell bei der Diagnose eines Krebspatienten hilft. Frameworks und Modelle, die nur einfache Genauigkeit berücksichtigen (entweder warfare die Vorhersage richtig oder falsch), berücksichtigen die Kompromisse in den Vorhersagen nicht.

In diesem Fall ist nicht jede „falsche Vorhersage“ gleich. Bei einem Patienten keine Krebsdiagnose zu stellen, wenn er Krebs hat, ist unendlich kostspieliger, als bei jemandem Krebs zu diagnostizieren, obwohl er tatsächlich Krebs hat. Beide Vorhersagen waren technisch gesehen falsch, aber eine kostete ein Leben, die andere nicht.

Zum Glück geht es bei unseren Marketingstrategien nicht um Leben und Tod. Aber dieses Prinzip gilt genauso. Die Entscheidung, wen eine Marketingkampagne ansprechen soll und wen nicht, kann für das Unternehmen zu sehr unterschiedlichen Kosten führen.

Die Erwartungswertmodellierung erweitert diesen Horizont, um mehr mögliche Ergebnisse zu berücksichtigen, und ermöglicht es uns, die Kosten oder den Nutzen jedes einzelnen zu messen. Dieser Rahmen ist in hohem Maße auf das Geschäftswissen von Fachexperten angewiesen, um die Konsequenzen jedes Ergebnisses zu bestimmen. Unser Ziel hier ist es zu verstehen, wie man eine Strategie entwirft, die unser Ziel statistisch optimiert. Im weiteren Verlauf dieses Artikels konzentrieren wir uns darauf, herauszufinden, an wen wir uns bei einer Marketingstrategie richten sollten, um den Gewinn zu maximieren.

Beginnen Sie mit einem Kaufwahrscheinlichkeitsmodell

Ein Buy Chance Mannequin ist ein maschinelles Lernmodell, das die Wahrscheinlichkeit vorhersagt, dass ein Kunde ein Produkt kaufen wird. Nehmen wir an, wir führen eine Werbekampagne für ein E-Commerce-Unternehmen durch. Jede Individual, die auf die Anzeige klickt, erstellt eine Datenzeile. Sie sehen die Kampagne, stöbern in Ihrem Geschäft und treffen schließlich die Entscheidung, ein Produkt zu kaufen oder nicht. Dabei müssen zahlreiche Datenpunkte erfasst werden. Das maschinelle Lernmodell analysiert alle historischen Daten, um Muster zu erkennen. Es erfährt, welche Faktoren die Kaufwahrscheinlichkeit eines Kunden beeinflussen. Anschließend werden diese Muster auf neue Kunden angewendet, um vorherzusagen, ob sie ein Produkt kaufen werden.

Dieses Modell allein ist von außerordentlichem Wert. Es zeigt dem Unternehmen, welche Kunden am wahrscheinlichsten ein Produkt kaufen und welche Aspekte der Kampagne die Kaufwahrscheinlichkeit beeinflussen. Wir können diese Erkenntnisse nutzen, um unsere nächste Werbekampagne anzupassen. So sieht datengesteuerte Entscheidungsfindung aus.

Implementierung der Erwartungswertmodellierung

Um voranzukommen, ist es wichtig, das Konzept einer Verwirrungsmatrix zu verstehen. Eine Verwirrungsmatrix ist eine N X N Tisch wo N stellt alle möglichen Ergebnisse dar. Der Einfachheit halber bleibe ich bei einer 2 x 2-Konfusionsmatrix.

Diese Matrix enthält die vorhergesagten Ergebnisse auf einer Achse und die tatsächlichen Ergebnisse auf der anderen. Es stellt uns vier Zellen zur Verfügung, eine für jedes mögliche Ergebnis eines binären Klassifizierungsproblems, ebenso wie unser Kaufwahrscheinlichkeitsmodell (entweder ein Kunde kauft ein Produkt oder nicht). Daraus ergeben sich folgende Möglichkeiten:

• Echt positiv: Wir haben vorausgesagt, dass der Kunde kaufen würde, und das hat er auch tatsächlich getan.
• Falsch positiv: Wir gingen davon aus, dass der Kunde etwas kaufen würde, aber das tat er nicht.
• Falsch negativ: Wir gingen davon aus, dass der Kunde NICHT kaufen würde, aber er tat es.
• Echt negativ: Wir gingen davon aus, dass der Kunde NICHT kaufen würde, und das tat er auch tatsächlich nicht.

Hier ist eine Illustration:

Um die erwarteten Werte in jedes Ergebnis umzusetzen, müssen wir ein tiefes Verständnis des Geschäfts haben. Wir müssen die folgenden Informationen kennen:

• Gewinn professional verkauftem Produkt.
• Kosten professional Klick.
• Kaufwahrscheinlichkeit professional Kunde.

Betrachten wir im gleichen Beispiel für unseren E-Commerce-Store die folgenden Werte:

• Gewinn professional verkauftem Produkt = 50 $
• Kosten professional Klick = 1 $
• Kaufwahrscheinlichkeit professional Kunde = aus unserem Kaufwahrscheinlichkeitsmodell

Wenn wir diese Informationen kennen, können wir feststellen, dass der Nutzen eines Kunden, der auf unsere Werbekampagne klickt und ein Produkt kauft (True Constructive), im Gewinn professional Produkt liegt (50 $) abzüglich der Kosten professional Klick (1 $), was gleich ist 49 $. Die Kosten dafür, dass ein Kunde auf unsere Kampagne klickt, aber nicht kauft (False Constructive), entsprechen lediglich den Kosten, die für den Klick anfallen -1 $. Das Ergebnis ist, wenn man keinen Kunden anspricht, der nicht kaufen würde 0 $da keine Kosten anfielen und keine Einnahmen erzielt wurden. Das Ergebnis ist auch, wenn man jemanden nicht anspricht, der kaufen würde 0 $ aus den gleichen Gründen.

Ich möchte die Opportunitätskosten anerkennen, wenn man jemanden nicht anspricht, der kaufen würde, oder dass die Möglichkeit besteht, dass jemand kauft, ohne angesprochen zu werden. Diese sind abstrakter und subjektiver, wenn auch nicht unmöglich zu messen. Der Einfachheit halber werde ich sie in diesem Szenario nicht berücksichtigen.

Dies führt zu der folgenden Verwirrungsmatrix:

Cool, wir kennen jetzt die konkreten Kosten oder den konkreten Nutzen jedes Ergebnisses unserer Werbekampagne. Dies ermöglicht es uns, den erwarteten Wert einer gezielten Kundenansprache zu verstehen, indem wir die folgende Gleichung verwenden (entschuldigen Sie, dass ich Sie mit Mathematik überhäufe):

Erwarteter Gewinn = P(Kauf) × Gewinn bei Kauf + (1 – P(Kauf)) × Verlust bei Nichtkauf

Wobei der erwartete Wert gleich ist Antwortwahrscheinlichkeit (P(kaufen)) mal die Wert einer Antwort (Gewinn bei Kauf) plus die Wahrscheinlichkeit einer Nichtantwort (1 – P(kaufen)) mal die Kosten einer Nichtantwort (Verlust, wenn kein Kauf erfolgt).

Wenn wir möchten, dass der erwartete Wert der gezielten Kundenansprache positiv ist, was bedeutet, dass wir einen Gewinn erzielen, können wir die Gleichung wie folgt umstellen:

P(kaufen) × 49 $ + (1 – P(kaufen)) × (–1 $) > 0

P(kaufen) > 0,02 (oder 2%)

Das bedeutet, dass wir auf der Grundlage unseres Kaufwahrscheinlichkeitsmodells jeden Kunden ansprechen sollten, dessen Kaufwahrscheinlichkeit mehr als 2 % beträgt.

Man braucht keinen Abschluss in Mathematik oder Statistik, um das umzusetzen, aber ich wollte zeigen, wie wir dorthin gekommen sind.

Wir haben unsere Antwort: Wir müssen alle Kunden ansprechen, deren Kaufwahrscheinlichkeit über 2 % liegt. Wir können nun zu unserem Kaufwahrscheinlichkeitsmodell zurückkehren und ermitteln, welche Kundensegmente die Kriterien erfüllen.

Wir haben genau herausgefunden, wen wir ansprechen sollen, wir haben unsere Kampagne auf ihre Bedürfnisse zugeschnitten und eine Marketingkampagne durchgeführt, die funktioniert. Wir haben unsere Strategie auf der richtigen Grundlage entworfen, indem wir wirklich datengesteuerte Entscheidungen getroffen haben.

Gehen Sie mit Revenue Curves noch einen Schritt weiter

Wir haben unser Framework aufgebaut und unsere Marketingkampagne so gestaltet, dass unser ROI optimiert wird. Allerdings gibt es oft zusätzliche Einschränkungen, die unsere Fähigkeit zur Durchführung einer Kampagne einschränken, oft im Zusammenhang mit der Höhe des zugewiesenen Budgets und der Anzahl der Personen, die angesprochen werden können. In diesen Szenarien ist es hilfreich, nicht nur die optimale Entscheidung zu kennen, sondern auch den erwarteten Wert über ein breites Spektrum an Möglichkeiten hinweg. In solchen Situationen können wir die Berechnung des erwarteten Werts in unseren Trainingsprozess für das Kaufwahrscheinlichkeitsmodell einbetten.

Anstatt Modelle ausschließlich aufgrund der technischen Leistung auszuwählen, können wir sie anhand des erwarteten Gewinns bewerten. Oder verwenden Sie einen kombinierten Ansatz, der Vorhersagekraft und wirtschaftliche Auswirkungen in Einklang bringt.

Während wir unser Modell erstellen, können wir den erwarteten Gewinn für die gesamte Bandbreite der Personen berechnen, die wir ansprechen können, von niemandem bis hin zu absolut jedem, den wir ansprechen können. Als Ergebnis erhalten wir ein Gewinnkurvendiagramm:

Auf der Y-Achse sehen wir den erwarteten Gewinn für die Marketingkampagne, basierend auf der Anzahl der Personen, die wir ansprechen. Auf der X-Achse haben wir den Schwellenwert für die Kaufwahrscheinlichkeit. Je höher der Schwellenwert, desto enger wird unsere Kampagne. Wenn wir es auf 100 % erhöhen, werden wir niemanden ins Visier nehmen. Wenn wir ganz auf 0 % sinken, können wir jeden ansprechen.

Wie in unserem vorherigen Beispiel sehen wir, dass der maximal erwartete Gewinn dann erreicht wird, wenn wir jede Bevölkerungsgruppe mit einem Kaufwahrscheinlichkeitswert von über 2 % ansprechen. Möglicherweise haben wir jedoch ein strengeres Funds oder möchten eine separate Kampagne nur für die Kunden mit wirklich hoher Wahrscheinlichkeit entwickeln. In diesem Fall können wir unser Funds mit der Kurve vergleichen und feststellen, dass die gezielte Ansprache von Kunden über einem Wahrscheinlichkeitswert von 12 % immer noch voraussichtlich einen hohen Gewinn zu einem Bruchteil der Kosten bringen wird. Dann können wir mit dem gleichen Prozess wie zuvor fortfahren, um diese Kampagne zu entwerfen. Wir identifizieren, wer diese Kunden sind, welche Auswirkungen ihre Kaufwahrscheinlichkeit hat, und passen unsere Marketingkampagne dann an ihre Bedürfnisse an.

Es beginnt und endet mit betriebswirtschaftlichem Wissen

Wir haben die Möglichkeiten und den Nutzen gesehen, den die Erwartungswertmodellierung bieten kann, aber ich muss noch einmal betonen, wie wichtig es ist, über Kenntnisse des Geschäfts zu verfügen, um sicherzustellen, dass alles reibungslos funktioniert. Es ist von entscheidender Bedeutung, ein solides Verständnis der Kosten und Vorteile zu haben, die mit jedem möglichen Ergebnis verbunden sind. Es ist von entscheidender Bedeutung, die Modellergebnisse richtig zu interpretieren, um vollständig zu verstehen, welche Hebel betätigt werden können, um die Kaufwahrscheinlichkeit zu beeinflussen.

Obwohl es sich um einen komplexen Ansatz handelt, möchte ich den Leser, der diese Techniken zum ersten Mal erlernt, nicht entmutigen. Ganz im Gegenteil. Ich schreibe darüber, um hervorzuheben, dass solche Methoden nicht länger großen Unternehmen vorbehalten sind. Kleine und mittlere Unternehmen haben Zugriff auf die gleichen Datenerfassungs- und Modellierungstools und öffnen so die Tür für alle, die ihr Unternehmen auf die nächste Stufe bringen möchten.

Referenzen

Provost, F. und Fawcett, T. Knowledge Science für Unternehmen: Was Sie über Knowledge Mining und datenanalytisches Denken wissen müssen. O’Reilly Media.

Alle Bilder stammen, sofern nicht anders angegeben, vom Autor.

Der KI-Zugang in Indien hat gerade ein großes Improve erhalten. Google hat sich mit Reliance Jio zusammengetan, um Jio-Nutzern sein Premium-KI-Erlebnis direkt zur Verfügung zu stellen. Im Rahmen einer neuen Partnerschaft zwischen Google und Reliance Jio wird der Google AI Professional-Plan im Wert von 35.000 Rupien nun berechtigten Jio-Nutzern völlig kostenlos angeboten. Was einst ein kostenpflichtiges Premium-AI-Abonnement warfare, wird jetzt kostenlos mit ausgewählten Jio-Plänen in Indien gebündelt.

Bevor wir ins Element gehen, sollten Sie Folgendes wissen: Der gleiche Plan wurde von Google bereits in Indien verfügbar gemacht. Bereits im Juli dieses Jahres hat Google es geschafft Google AI Professional Plan kostenlos für Studenten in Indien. Durch die neue Partnerschaft mit Jio wird dieses Angebot nun jedoch auch auf Nicht-Studenten ausgeweitet.

Es versteht sich von selbst, dass dieser Schritt groß ist. Nicht nur, weil Google AI Professional das neueste Gemini-Modell und eine Reihe leistungsstarker Erstellungstools enthält, sondern auch, weil es jetzt für wen zugänglich ist. Denken Sie daran, Millionen junger Benutzer im ganzen Land. Für ein Land, in dem die Akzeptanz von KI schneller wächst als je zuvor, hat diese Partnerschaft das Potenzial, die Artwork und Weise, wie Studenten, Kreative, Fachleute und alltägliche Benutzer mit KI interagieren, neu zu gestalten.

Doch was genau wird hier geboten? Wer hat alle Anspruch darauf? Und wie können Sie davon profitieren? Lassen Sie uns hier alles aufschlüsseln.

Neues Jio-Angebot: Google AI Professional kostenlos

Additionally, worum geht es wirklich? Im Rahmen dieser neuen Zusammenarbeitwird der AI Professional-Plan von Google für berechtigte Jio-Nutzer ohne zusätzliche Kosten gebündelt. Das Beste daran ist, dass es sich nicht um eine limitierte Demo handelt; Es handelt sich um das volle Google AI Professional-Erlebnis, das 18 Monate lang angeboten wird, ohne dass Sie eine Rupie über Ihren regulären Jio-Plan hinaus ausgeben müssen.

Dies beinhaltet den Zugriff auf Googles Flaggschiff-KI-Modell – das Gemini 2.5 Professional – in der Gemini-App, zusammen mit deutlich höheren Nutzungslimits für KI-Aufgaben. Benutzer erhalten außerdem erweiterten Zugriff auf die generativen Medientools von Google, sodass Sie Bilder mit Imagen (Nano Banana) und sogar Movies mit Veo 3.1 erstellen können, ohne die üblichen niedrigen Obergrenzen zu erreichen.

Aber es hört nicht beim KI-Zugriff auf. Das Angebot umfasst außerdem 2 TB Google One Cloud-Speicher, der Ihre Google Fotos-, Drive-, Gmail- und sogar WhatsApp-Backups auf Android abdeckt. Wenn Sie diesen erweiterten Zugriff auf NotebookLM hinzufügen, erhalten Sie ein Premium-Paket für das Google-Ökosystem, dessen Preis zuvor etwa 35.000 Rupien betrug und das jetzt über Jio ohne zusätzliche Kosten gebündelt ist.

Aber für wen ist es?

Jio + Google AI Professional-Plan: Berechtigung

Bevor Sie sich nun beeilen, Ihre MyJio-App zu überprüfen, erfahren Sie hier die Berechtigung. Google und Jio führen dies schrittweise ein, beginnend mit einer ganz bestimmten Benutzergruppe. Ab sofort steht das Angebot Jio-Nutzern im Alter zwischen 18 und 25 Jahren zur Verfügung, sofern sie einen Limitless 5G-Tarif haben. Diese altersgerechte Einführung ist beabsichtigt und zielt auf das Phase ab, das am wahrscheinlichsten mit KI lernt, kreiert und baut: Studenten, Berufseinsteiger und junge Kreative in ganz Indien.

Die gute Nachricht? Dies ist nicht für immer auf diese Altersgruppe beschränkt. Google hat bestätigt, dass das Angebot in den kommenden Monaten schrittweise auf mehr Jio-Nutzer im ganzen Land ausgeweitet wird. Wenn Sie additionally außerhalb des Bereichs von 18 bis 25 liegen, verlieren Sie noch nicht die Hoffnung. Möglicherweise sind Sie gleich um die Ecke.

Kurz gesagt: Wenn Sie ein junger Jio-Benutzer mit einem Limitless 5G-Tarif sind, haben Sie den Jackpot geknackt. Wenn nicht, bleiben Sie dran; Dies ist erst der Anfang des Rollouts.

So aktivieren Sie den Google AI Professional-Plan über Jio

Wenn Sie additionally gemäß den Bedingungen einen Limitless 5G Jio-Plan haben und in die Altersgruppe 18–25 fallen, können Sie den Google AI Professional-Plan und andere im Angebot enthaltene Vorteile völlig kostenlos genießen. Befolgen Sie dazu einfach die folgenden Schritte:

• Aktualisieren Sie die MyJio-App. Melden Sie sich mit Ihrer Jio-Nummer an.
• Suchen Sie auf dem Startbildschirm nach dem Banner „Google AI Professional – Kostenlos mit Jio“. Tippen Sie darauf.
• Klicken Sie auf „Jetzt starten“. Sie werden aufgefordert, Ihr Google-Konto zu verknüpfen. Verwenden Sie das gewünschte Konto für Gemini und Google One.
• Sehen Sie sich die Zusammenfassung des Angebots für 0 Rupien/18 Monate an. Akzeptieren Sie die Bedingungen und bestätigen Sie.
• Sie sehen einen Erfolgsbildschirm für die Aktivierung. Jio sendet außerdem eine Bestätigungs-SMS/E-Mail.
• Öffnen Sie die Gemini-App (oder installieren Sie sie aus dem Play Retailer). Melden Sie sich mit demselben Google-Konto an. Gemini 2.5 Professional sollte aktiv sein.
• Überprüfen Sie Ihre Google One-App. Der Speicher sollte 2 TB anzeigen. Wenn nicht, ziehen Sie zum Aktualisieren einmal.
• Greifen Sie mit diesem Konto auf Google AI Studio/Labs für Medientools wie Imagen und Veo zu.
• Erledigt. Beginnen Sie mit dem Erstellen. Behalten Sie den Planstatus auf der Registerkarte MyJio > Abonnements im Auge.

Falls das Banner in der App nicht sichtbar ist:

• Aktualisieren Sie MyJio und versuchen Sie es erneut.
• Stellen Sie sicher, dass es sich bei Ihrem Plan um Limitless 5G handelt.
• Überprüfen Sie das Anspruchsalter.
• Warten Sie etwas, da die Einführung schrittweise erfolgt.

Herzlichen Glückwunsch (vorausgesetzt, alles verlief wie geplant)! Sobald Sie dabei sind, erfahren Sie hier, wie Sie den neuen Google AI Professional-Plan in vollem Umfang nutzen können. Hier finden Sie eine kurze Erläuterung dessen, was darin enthalten ist.

Was genau ist Google AI Professional?

Betrachten Sie dies als das Premium-KI-Paket von Google – einen One-Cease-Zugriff auf die leistungsstärksten KI-Instruments, der normalerweise an ein Abonnement gebunden ist. Ein kurzer Blick auf die Komponenten verrät:

• Gemini 2.5 Professional
• Höheres Restrict für AI Media-Instruments (Nano Banana + Veo 3.1)
• NotebookLM-Zugriff
• 2 TB Cloud-Speicher

Das alles bringt Folgendes:

Gemini 2.5 Professional

Das Herzstück von Google AI Professional ist Gemini 2.5 Professional, Googles fortschrittlichstes KI-Modell für alltägliche Benutzer. Dies ist die aktualisierte Model von Gemini, die tiefergehende Argumente, bessere Schreibqualität, genauere Codierungshilfe und längeren Kontext für Forschung oder Projekte bietet. Egal, ob Sie einen Aufsatz verfassen, Code debuggen, eine Reise planen oder eine 40-seitige PDF-Datei zusammenfassen, dieses Modell soll für Sie funktionieren.

Sie können sich unsere ansehen Hier finden Sie eine praktische Testversion von Gemini 2.5 Professional mit all seinen Funktionen.

Google AI Media Instruments

Darüber hinaus schaltet Google AI Professional Premium-Nutzungsbeschränkungen für seine generativen Medientools frei. Dazu gehören Imagen (Nano Banana) für die Bilderstellung und Veo 3.1 für die Videogenerierung. Einfach ausgedrückt: Sie können jetzt Social-Media-Visuals, Poster, Konzeptzeichnungen oder kurze Movies erstellen, alles innerhalb von Minuten und ohne frühe monatliche Limits zu erreichen.

Sie können sich das ansehen Verschiedene Funktionen von Nano Banana finden Sie hier. Erfahren Sie auch mehr darüber Veo 3.1 und seine Funktionen hier.

NotebookLM

Der Plan beinhaltet auch erweiterten Zugriff auf NotebookLM, das KI-gestützte Forschungs- und Lerntool von Google. Wenn Sie Notizen, PDFs, Skripte oder Lernmaterialien hochladen, erstellt NotebookLM zusammenhängende Zusammenfassungen, stellt intelligente Fragen und hilft Ihnen, den Inhalt viel schneller zu verstehen und zu behalten.

Du kannst Lesen Sie hier mehr über NotebookLM und seine besten Funktionen.

Cloud-Speicher

Und dann ist da noch der 2 TB große Cloud-Speicher. Dabei handelt es sich nicht nur um Speicherplatz für Google Drive. Es deckt Google Fotos, Gmail und sogar WhatsApp-Backups auf Android ab, was allein schon ein großer Gewinn für die meisten indischen Benutzer ist, denen ständig der Telefonspeicherplatz ausgeht.

Premium-KI + Mediengenerierung + Recherche + riesiger Speicher, das ist das Google AI Professional-Paket, das Jio-Benutzer jetzt kostenlos erhalten.

Abschluss

Ich erinnere mich, dass Jio mit seiner landesweiten Konnektivität zu einem Preis, den sich jeder leisten konnte, im Mittelpunkt der digitalen Revolution Indiens stand. Das neue Angebot in Zusammenarbeit mit Google ist ein ähnlicher Versuch, Indien KI-fähig zu machen. Genau wie Airtel ist eine Partnerschaft mit Perplexity eingegangen Um seinen Nutzern modernste KI-Funktionen zur Verfügung zu stellen, bietet Jio nun erstklassige KI-Instruments, erweiterte Forschungsfunktionen, kreative Medienmodelle und riesigen Cloud-Speicher direkt für alltägliche Nutzer an. Angesichts einer so breiten und vielfältigen Nutzerbasis wie die von Jio ist dies ein gewaltiger Sprung für Indien.

Ganz gleich, ob Sie planen, damit zu lernen, etwas zu erschaffen, zu erforschen oder zu bauen, dies ist eine Gelegenheit, die es wert ist, ernst genommen zu werden. Denn seien wir ehrlich: Einen solchen Zugang gibt es nicht oft und schon gar nicht umsonst. Seien Sie jedoch versichert, sobald dies der Fall ist, werden wir Sie hier im Analytics Vidhya-Weblog darüber informieren.

17. Oktober 2025 – Lila Sciences hat den Abschluss seiner Serie A im Wert von 350 Millionen US-Greenback bekannt gegeben, wodurch sich Lilas Gesamtkapital auf 550 Millionen US-Greenback beläuft. Das Unternehmen sagte, es nutze diese Finanzierung, um den Aufbau seiner KI-Wissenschaftsfabriken zu beschleunigen und seine „wissenschaftliche Superintelligenzplattform“ der wissenschaftlichen Gemeinschaft zugänglich zu machen.

Lila Sciences kam im März aus zwei Jahren im Verborgenen mit der Mission hervor, wissenschaftliche Superintelligenz aufzubauen.

Das Unternehmen gab bekannt, dass die Serie A in zwei Teilen abgeschlossen wurde. Die erste wurde gemeinsam von Braidwell und Collective World geleitet. Das Unternehmen sagte, es könne nun die Unterstützung von NVentures (NVIDIAs Risikokapitalarm), Analog Units (als Teil der bestehenden Partnerschaft von Flagship), IQT, Dauntless Ventures, Catalio Capital Administration, Pennant Traders, einer Investorengruppe aus der Peter Diamandis‘ Abundance-Mitgliedschaft und anderen neuen Stakeholdern offenlegen.

Sie schließen sich den Partnern der Serie A an: Flagship Pioneering (wo Lila ihren Ursprung hat), Altitude Life Science Ventures, Alumni Ventures, ARK Enterprise Fund, Frequent Steel, Dara Holdings, Common Catalyst, March Capital, Mathers Basis, Modi Ventures, NGS Tremendous, das State of Michigan Retirement System, eine hundertprozentige Tochtergesellschaft der Abu Dhabi Funding Authority (ADIA) und mehrere Einzelpersonen.

Das Unternehmen sagte, die Kapitalerhöhung beläuft sich auf insgesamt 550 Millionen US-Greenback Lila’s Seed (200 Millionen US-Greenback) und Sequence A (350 Millionen US-Greenback) werden Lila in diesen Kernbereichen vorantreiben:

• Übermenschliche wissenschaftliche Leistung in den Bereichen Biowissenschaften, Chemie und Materialien.
• Ausbau der KI-Wissenschaftsfabriken, um mit mehr Instrumenten unter KI-Kontrolle mehr wissenschaftliche Token zu produzieren und neue Skalierungsgesetze für wissenschaftliche Intelligenz zu ermöglichen.
• Öffnung der Plattform von Lila für kommerzielle Associate. Das Unternehmen sagte, es begrüße seine erste Kohorte von Kunden in wissenschaftlichen Bereichen, die die wissenschaftlichen Agenten, die autonome Wissenschaftsplattform und die KI-Sicherheit von Lila nutzen würden.

Supabase, ein Open-Supply-Datenbankdienst, kündigte eine 100-Millionen-Greenback-Finanzierungsrunde der Serie E unter der gemeinsamen Leitung von Accel und Peak XV an. Durch die Investition beläuft sich die Unternehmensbewertung auf 5 Milliarden US-Greenback, was eine weitere bedeutende Kapitalspritze für das Startup darstellt.

Diese jüngste Finanzierung folgt einem konsequenten Muster hochwertiger Investitionen. Nur vier Monate zuvor schloss Supabase eine von Accel angeführte Serie-D-Runde über 200 Millionen US-Greenback ab, die das Unternehmen mit 2 Milliarden US-Greenback bewertete. Diese Runde fand sieben Monate nach einer 80-Millionen-Greenback-Serie-C-Finanzierung unter der Leitung des Sequoia-Spinoffs Peak XV und David Sacks‘ Craft Ventures statt. PitchBook schätzte die Put up-Cash-Bewertung für die Serie C auf etwa 765 Millionen US-Greenback.

Die Kombination der Runden der Serien C, D und E beläuft sich auf 380 Millionen US-Greenback, die im Laufe eines einzigen Jahres gesammelt wurden. Basierend auf der Schätzung von PitchBook für die Bewertung der Serie C spiegelt dieser Zeitraum einen Bewertungsanstieg von mehr als 500 Prozent wider. Mit dem neuen Kapital hat Supabase berichtet, dass die bisher eingeworbene Gesamtfinanzierung nun 500 Millionen US-Greenback erreicht hat.

Supabase wurde 2020 von CEO Paul Copplestone und CTO Ant Wilson gegründet und struggle ursprünglich ein Y-Combinator-Startup. Es wurde entwickelt, um Entwicklern eine Open-Supply-Different auf Postgres-Foundation zu Googles Firebase zu bieten, einer Datenbank, die auch für KI-Anwendungen entwickelt wurde. Die Supabase-Plattform wurde entwickelt, um die Datenbankeinrichtung zu vereinfachen, indem sie Postgres mit einer Reihe von Open-Supply-Instruments für Schlüsselfunktionen kombiniert. Dazu gehören Authentifizierung, automatisch generierte APIs, Dateispeicherung und ein Vektor-Toolkit, das für viele KI-gesteuerte Anwendungen erforderlich ist.

Der Dienst wurde zu einem beliebten Backend für Anwendungen, die Eingabeaufforderungen in natürlicher Sprache zum Schreiben von Code verwenden, wie z. B. Lovable und Bolt. Supabase gibt außerdem an, dass es sich um die Datenbank der Wahl für mehrere KI-Codierungstools handelt, darunter Figma, Replit, Cursor und Claude Code. Das Unternehmen behauptet, dass die Benutzerbasis eine Gemeinschaft von 4 Millionen Entwicklern umfasst. Im Zusammenhang mit der Finanzierung der Serie E kündigte Supabase an, dass es diesen Group-Mitgliedern den Kauf von Unternehmensaktien ermöglicht.

Hervorgehobener Bildnachweis

Wenn es darum geht, eine bessere KI aufzubauen, besteht die übliche Strategie darin, Modelle größer zu machen. Aber dieser Ansatz hat ein großes Downside: Er wird unglaublich teuer.

Aber Deepseek-V3.2-exp hat einen anderen Weg eingenommen …

Anstatt nur mehr Kraft hinzuzufügen, konzentrierten sie sich darauf, intelligenter zu arbeiten. Das Ergebnis ist eine neue Artwork von Modell, die eine erstklassige Leistung für einen Bruchteil der Kosten liefert. Durch die Einführung ihres „spärlichen Aufmerksamkeitsmechanismus“ wird Deepseek den Motor nicht nur optimiert. Es wird das Kraftstoffeinspritzsystem für beispiellose Effizienz neu gestaltet.

Lassen Sie uns genau so zusammenbrechen, wie sie es gemacht haben.

Highlights des Replace

• Spärliche Aufmerksamkeit hinzufügen: Der einzige architektonische Unterschied zwischen dem neuen V3.2 -Modell und seinem Vorgänger (V3.1) ist die Einführung von DSA. Dies zeigt, dass sie alle ihre Anstrengungen auf die Lösung des Effizienzproblems konzentriert haben.
• Ein „Blitzindexer“: DSA verwendet eine schnelle, leichte Komponente, die als Lightning Indexer bezeichnet wird. Dieser Indexer scannt schnell den Textual content und wählt nur die wichtigsten Wörter aus, auf die sich das Modell konzentrieren kann und den Relaxation ignoriert.
• Eine large Komplexitätsreduzierung: DSA verändert das Kernproblem von einem exponentiell schwierigen Rechenproblem O(L²) zu einem viel einfacheren, linearen O(Lk). Dies ist das mathematische Geheimnis hinter den enormen Geschwindigkeits- und Kostenverbesserungen.
• Erstellt für echte {Hardware}: Der Erfolg von DSA basiert auf einer hochoptimierten Software program, die perfekt für moderne KI -Chips (wie H800 -GPUs) betrieben wird. Diese enge Integration zwischen dem Good -Algorithmus und der {Hardware} liefert die endgültigen, dramatischen Gewinne.

Lesen Sie hier über das vorherige Replace: Deepseek-V3.1-terminus!

Deepseek spärliche Aufmerksamkeit (DSA)

Im Zentrum jedes LLM steht der „Aufmerksamkeits“ -Mechanismus: das System, das bestimmt, wie wichtig jedes Wort in einem Satz für jedes andere Wort ist.

Das Downside?

Die traditionelle „dichte“ Aufmerksamkeit ist wild ineffizient. Seine Rechenkosten skalen quadratisch (O(L²)), was bedeutet, dass die Verdoppelung der Textlänge die Berechnung und die Kosten verteilt.

Die Aufmerksamkeit von Deepseek (DSA) ist die Lösung für dieses Aufblähen. Es sieht nicht alles an; Es wählt clever aus, worauf Sie sich konzentrieren sollen. Das System besteht aus zwei wichtigen Teilen:

• Der Lightning Indexer: Dies ist ein leichter Hochgeschwindigkeits-Scanner. Für ein bestimmtes Wort (ein „Abfrage -Token“) bewertet es schnell alle vorhergehenden Wörter, um ihre Relevanz zu bestimmen. Entscheidend ist, dass dieser Indexer für Geschwindigkeit ausgelegt ist: Er verwendet eine kleine Anzahl von Köpfen und kann in FP8 -Präzision ausgeführt werden, wodurch der rechnerische Fußabdruck bemerkenswert klein ist.
• Feinkörnige Token-Auswahl: Sobald der Indexer alles bewertet hat, holt DSA nicht nur Textblöcke. Es führt eine genaue „feinkörnige“ Auswahl aus, die nur die am besten relevanten Token aus dem gesamten Dokument zuspuckt. Der Hauptaufmerksamkeitsmechanismus verarbeitet dann nur diesen sorgfältig ausgewählten, spärlichen Satz.

Das Ergebnis: DSA reduziert die Kernaufmerksamkeitskomplexität aus O(L²) Zu O(Lk)Wo okay ist eine feste Anzahl ausgewählter Token. Dies ist die mathematische Grundlage für die massiven Effizienzgewinne. Während der Blitzindexer selbst noch hat O(L²) Komplexität, es ist so leicht, dass der Nettoeffekt immer noch eine dramatische Verringerung der Gesamtberechnung ist.

Die Trainingspipeline: eine zweistufige Melodie

Sie können nicht einfach einen neuen Aufmerksamkeitsmechanismus auf ein Milliarden-Parameter-Modell schlagen und hoffen, dass es funktioniert. Deepseek verwendete einen akribischen zweistufigen Schulungsprozess, um DSA nahtlos zu integrieren.

• Stufe 1: Fortsetzung vor dem Coaching (das Aufwärmen)
  • Dichter Aufwärmen (2,1B-Token): Ab dem Checkpoint V3.1-terminus „erwärmt“ Deepseek den neuen Lightning Indexer zuerst. Sie hielten das Hauptmodell gefroren und leiteten eine kurze Trainingsphase, in der der Indexer lernte, die Ausgabe des vollständigen, dichten Aufmerksamkeitsmechanismus vorherzusagen. Dies stimmte den neuen Indexer mit dem vorhandenen Wissen des Modells aus.
  • Spärliches Coaching (943,7B -Token): Hier ist die wahre Magie passiert. Nach dem Aufwärmen schaltete Deepseek die volle spärliche Aufmerksamkeit ein und wählte für jede Abfrage die High 2048-Schlüsselwert-Token. Zum ersten Mal wurde das gesamte Modell geschult, um mit dieser neuen, selektiven Imaginative and prescient zu arbeiten und zu lernen, sich auf die spärliche Auswahl und nicht auf das dichte Ganze zu verlassen.
• Stufe 2: Nach der Schulung (die Abschlussschule)
  Um einen fairen Vergleich zu gewährleisten, verwendete Deepseek die exakt gleiche Publish-Coaching-Pipeline wie v3.1-terminus. Dieser strenge Ansatz beweist, dass Leistungsunterschiede auf DSA und nicht auf Änderungen der Trainingsdaten zurückzuführen sind.
  • Spezialist Destillation: Sie erstellten fünf Powerhouse-Spezialmodelle (für Mathematik, Codierung, Argumentation, Agentencodierung und Agentensuche) mithilfe von Hochleistungsverstärkungslernen. Das Wissen dieser Experten wurde dann in das endgültige V3.2 -Modell destilliert.
  • Gemischte RL mit GRPO: Anstelle eines mehrstufigen Prozesss verwendeten sie Relative Relativoptimierung der Gruppe (GRPO) In einer einzigen, gemischten Stufe. Die Belohnungsfunktion wurde sorgfältig entwickelt, um wichtige Kompromisse in Einklang zu bringen:
    • Länge vs. Genauigkeit: Unnötig lange Antworten bestrafen.
    • Sprachkonsistenz vs. Genauigkeit: Die Gewährleistung der Reaktionen blieb kohärent und menschlich.
    • Regelbasierte und auf Rubrik basierende Belohnungen: Verwenden automatisierter Schecks für Begründung/Agentenaufgaben und maßgeschneiderte Rubriken für allgemeine Aufgaben.

Die {Hardware} Secret Sauce: Optimierte Kerne

Ein brillanter Algorithmus ist nutzlos, wenn er langsam auf der tatsächlichen {Hardware} ausgeführt wird. Deepseeks Engagement für die Effizienz scheint hier mit tief optimiertem Open-Supply-Code.

Das Modell nutzt spezialisierte Kerne wie FlashMLA, die maßgeschneidert sind, um die komplexen MLA- und DSA-Operationen mit extremer Effizienz des modernen Hopper-GPUs (wie dem H800) auszuführen. Diese Optimierungen sind in Pull-Anfragen an Repositories wie Deepgemm, FlashMLA und Tilelang öffentlich verfügbar, sodass das Modell nahezu theoretische Spitzenspeicherbandbreite (bis zu 3000 GB/s) erreicht und die Leistung berechnete. Dieses hardwarebewusste Design verwandelt die theoretische Effizienz von DSA in materielle, reale Geschwindigkeit.

Leistung & Kosten – ein neues Guthaben

Additionally, was ist das endgültige Ergebnis dieses technischen Wunders? Die Daten zeigen eine klare und überzeugende Geschichte.

Kostensenkung

Der unmittelbarste Aufprall ist unter dem Strich. Deepseek kündigte eine 50% ige Verringerung der API -Preisgestaltung an. Die technischen Benchmarks sind noch auffälliger:

• Inferenzgeschwindigkeit: 2–3x schneller in langen Kontexten.
• Speicherverbrauch: 30–40% niedriger.
• Trainingseffizienz: 50% schneller.

Die realen Inferenzkosten für die Dekodierung eines Kontextfensters von 128.000 sinken auf geschätzte 0,25 USD im Vergleich zu $ 2,20 für dichte Aufmerksamkeit, um es 10x billiger zu machen.

Bessere Leistung

Insgesamt behält V3.2-exp die Leistungsparität mit seinem Vorgänger bei. Ein genauerer Blick zeigt jedoch einen logischen Kompromiss:

• Die Siege: Das Modell zeigt signifikante Gewinne bei Codierung (Codeforces) und agentenaufgaben (BrowsComp). Dies ist vollkommen sinnvoll: Code und Werkzeugnutzung enthalten häufig redundante Informationen, und die Fähigkeit der DSA, Rauschen zu filtern, ist ein direkter Vorteil.
• Die Kompromisse: Es gibt kleinere Regressionen in einigen ultra-komplexen, abstrakten Argumentationsbenchmarks (wie GPQA Diamond und HMMT). Die Hypothese ist, dass diese Aufgaben darauf angewiesen sind, sehr subtile langfristige Abhängigkeiten zu verbinden, die die aktuelle DSA-Maske gelegentlich vermissen könnte.

Deepseek-V3.1-terminus gegen Deepseek-V3.2-exp

Probieren wir den neuen Deepseek-V3.2-Exp aus

Die Aufgaben, die ich hier machen werde, werden gleich sein wie in einem unserer vorherigen Artikel über Deepseek-v3.1-terminus. Dies wird dazu beitragen, zu erkennen, wie das neue Replace besser ist.

Aufgabe 1: Reiseplan

Mitte November muss ich eine 7-tägige Reise nach Kyoto, Japan, planen. Die Reiseroute sollte sich auf die traditionelle Kultur konzentrieren, einschließlich Tempel, Gärten und Teezeremonien. Finden Sie die beste Zeit, um die Herbstblätter zu sehen, eine Liste von drei Should-Besuchs-Tempeln für ‚Momiji‘ (Herbstblätter) und ein hoch bewertetes traditionelles Teehaus mit englischfreundlichen Diensten. Finden Sie auch einen intestine bewerteten Ryokan (traditionelles japanisches Gasthaus) im Distrikt Gion. Organisieren Sie alle Informationen in eine klare, tägliche Reiseroute.

Ausgabe:

Sie können die vollständige Ausgabe hier anzeigen.

Deepseek-V3.1-Terminus gegen Deepseek-V3.2-Exp-Ausgangsvergleich

Aufgabe 2: Codierungsagent

Ich brauche ein Python-Skript, das eine öffentliche Liste der 100 besten Filme aller Zeiten von einer Web site abkratzt (Sie können eine zuverlässige Quelle wie IMDB, Rotten Tomaten oder eine bekannte Zeitschriftenliste auswählen). Das Drehbuch sollte dann die Filmtitel, die Veröffentlichung von Jahren und eine kurze Beschreibung für jeden Movie in eine JSON -Datei speichern. Fügen Sie Fehlerbehandlungen für Netzwerkprobleme oder Änderungen in der Struktur der Web site hinzu. Können Sie das vollständige Skript generieren und jeden Schritt des Prozesses erläutern?

Ausgabe:

class IMDbTop100Scraper:
    def __init__(self):
        self.base_url = "https://www.imdb.com/chart/prime"
        self.headers = {
            'Consumer-Agent': 'Mozilla/5.0 (Home windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36'
        }
        self.films = ()
    
    def fetch_page(self, url: str) -> Non-compulsory(BeautifulSoup):
        """
        Fetch the webpage and return BeautifulSoup object.
        Handles community errors and retries.
        """
        strive:
            response = requests.get(url, headers=self.headers, timeout=10)
            response.raise_for_status()  # Raises an HTTPError for dangerous responses
            
            # Verify if we bought a sound HTML response
            if 'textual content/html' not in response.headers.get('content-type', ''):
                increase ValueError("Acquired non-HTML response")
                
            return BeautifulSoup(response.content material, 'html.parser')
            
        besides requests.exceptions.RequestException as e:
            print(f"Community error occurred: {e}")
            return None
        besides Exception as e:
            print(f"Surprising error whereas fetching web page: {e}")
            return None
    
    def parse_movie_list(self, soup: BeautifulSoup) -> Listing(Dict):
        """
        Parse the primary film checklist web page to extract titles and years.
        """
        films = ()
        strive:
            # IMDb's prime chart construction - this selector would possibly want updating
            movie_elements = soup.choose('li.ipc-metadata-list-summary-item')
            
            if not movie_elements:
                # Different selector if the first one fails
                movie_elements = soup.choose('.cli-children')
                if not movie_elements:
                    increase ValueError("Couldn't discover film components on the web page")
            
            for factor in movie_elements(:100):  # Restrict to prime 100
                movie_data = self.extract_movie_data(factor)
                if movie_data:
                    films.append(movie_data)
                    
        besides Exception as e:
            print(f"Error parsing film checklist: {e}")
            
        return films

Hier finden Sie den vollständigen Code.

Deepseek-V3.1-Terminus gegen Deepseek-V3.2-Exp-Ausgangsvergleich

Lesen Sie auch: Evolution von Deepseek: Wie es zu einem globalen KI-Recreation-Changer wurde!

Um mehr über das Modell zu erfahren, überprüfen Sie dies Hyperlink.

Hallo, ich bin Nitika, ein technisch versierter Content material-Ersteller und Vermarkter. Kreativität und neue Dinge lernen natürlich für mich. Ich habe Fachkenntnisse bei der Erstellung von ergebnisgesteuerten Inhaltsstrategien. Ich bin mit search engine marketing -Administration, Key phrase -Operationen, Webinhalten, Kommunikation, Inhaltsstrategie, Bearbeitung und Schreiben intestine vertraut.