Die Qwen-Familie von Visionsprachmodellen entwickelt sich weiterentwickelt, wobei die Freisetzung von Qwen2.5-VL einen bedeutenden Sprung nach vorne markiert. Auf dem Erfolg von QWEN2-VL, der vor fünf Monaten eingeführt wurde, profitiert QWEN2.5-VL von wertvollem Suggestions und Beiträgen der Entwicklergemeinschaft. Dieses Suggestions hat eine Schlüsselrolle bei der Verfeinerung des Modells, der Hinzufügen neuer Funktionen und der Optimierung seiner Fähigkeiten gespielt. In diesem Artikel werden wir die Architektur von QWEN2.5-VL sowie ihre Funktionen und Fähigkeiten untersuchen.

Was ist Qwen2.5-VL?

Das QWEN-Modell von Alibaba Cloud hat mit dem neuen QWEN2.5-VL ein Imaginative and prescient-Improve erhalten. Es ist so konzipiert, dass es modernste Sichtfunktionen für komplexe reale Aufgaben bietet. Hier ist, was die erweiterten Funktionen dieses neuen Modells tun können:

• Omnidocument Parsing: Erweitert die Texterkennung, um mehrsprachige Dokumente zu verarbeiten, einschließlich handschriftlicher Notizen, Tabellen, Diagramme, chemischen Formeln und Musikblättern.
• Präzisionsobjekt Erdung: Erkennt und lokalisiert Objekte mit verbesserter Genauigkeit und unterstützt absolute Koordinaten und JSON -Formate für die fortschrittliche räumliche Analyse.
• Extremely langer Videoverständnis: Verarbeitet mehrstündige Movies durch dynamische Body-Price-Stichproben und zeitliche Auflösung, wodurch eine präzise Ereignissegmentierung ermöglicht wird.
• Verbesserte Agentenfunktionen: Ermächtigt Geräte wie Smartphones und Pc mit überlegener Entscheidungsfindung, Erdung und Begründung für interaktive Aufgaben.
• Langform-Videoverständnis: Verarbeitet stundenlange Movies mit dynamischer Body-Price-Stichproben und zeitlicher Codierung, ermöglichen eine präzise Ereignislokalisierung, die Erstellung der Zusammenfassung und die gezielte Informationsextraktion.
• Integration mit Workflows: Automatisiert die Dokumentenverarbeitung, die Objektverfolgung und die Videoindexierung mit strukturierten JSON -Ausgängen und QWENVL HTML, wobei die KI -Funktionen nahtlos mit Unternehmens -Workflows verbunden sind.

Lesen Sie auch: Chinesische Riesengefühl: Deepseek-V3 gegen Qwen2.5

QWEN2.5-VL: Modellarchitektur

In der Architektur des Modells werden zwei wichtige Innovationen eingeführt:

1. Dynamische Auflösung und Bildrate -Coaching: Es passt die Bildrate (FPS) von Movies an unterschiedliche zeitliche Bedingungen an. Es verwendet MROPE (mehrdimensionale Rotationspositionsinbettierung), um Zeitdaten auszurichten und Momente in Movies genau zu verfolgen.

2. Stromlinien -Visionscodierer: Es verbessert den Sehtransformator (VIT) durch Verbesserung der Aufmerksamkeitsmechanismen und Aktivierungsfunktionen. Dies erleichtert schnelleres und effizienteres Coaching und Inferenz, sodass es mit dem Sprachmodell von Qwen2.5 nahtlos funktioniert.

QWEN2.5-VL: Modellfunktionen

Probieren wir nun einige Eingabeaufforderungen aus und testen die Fähigkeiten von Qwen2.5-VL.

1. Globale Bilderkennung

QWEN2.5-VL kann eine erweiterte Kategorienspanne identifizieren, darunter Flora, Fauna, globale Sehenswürdigkeiten, Movie/TV-IPs und kommerzielle Produkte.

Testen wir es mit einem Beispiel.

Immediate: „Was sind diese Attraktionen? Bitte geben Sie ihre Namen in Hindi und Englisch an. “

Antwort durch QWEN2.5-VL-72B-Instruct:

Die Attraktionen in den Bildern sind:

1. Rote Fort (लाल क़िला) – Das Bild zeigt einen Teil der roten Fort, ein historisches Fort in Delhi, Indien.
2. Humayuns Seize (हुमायूँ का मकबमकबा) – Dies ist ein Mogul -Architekturgrab in Delhi.
3. India Gate (इंडिया गेट) – Ein Kriegsdenkmal, das sich auf dem Rajpath befindet, am östlichen Rand der ‚zeremoniellen Achse‘ von Neu -Delhi.
4. QUTUB MINAR (क़ुतुब मीनार) – Ein Minarett- und „Siegerturm“, der Teil des QUTB -Komplexes ist, ein UNESCO -Weltkulturerbe in der Area Mehauli in Neu -Delhi.

2. Präzise Objekt Erdung

Das Modell verwendet Begrenzungsboxen und Punktkoordinaten für die hierarchische Objektlokalisierung und gibt standardisierte JSON für räumliches Denken aus.

Immediate: „Suchen Sie jeden Kuchen und beschreiben Sie ihre Merkmale, geben Sie die Boxkoordinaten im JSON -Format aus.“

Antwort von Qwen2.5-VL:

3.. Erweiterte Texterkennung

Verbesserte OCR-Funktionen unterstützen mehrsprachige, multi-orientierende Textextraktion, entscheidend für Finanzprüfungen und Compliance-Workflows.

Immediate: „Erkennen Sie den gesamten Textual content im Bild mit Zeilenebene und Ausgabe im JSON-Format.“

Antwort von Qwen2.5-VL:

4. Dokument analysieren mit Qwenvl HTML

Ein proprietäres Format extrahiert Layoutdaten (Überschriften, Absätze, Bilder) aus Magazinen, Forschungsarbeiten und mobilen Screenshots.

Immediate: „Strukturieren Sie diesen technischen Bericht in HTML mit Begrenzungsboxen für Titel, Abstracts und Figuren.“

Antwort von Qwen2.5-VL:

QWEN2.5-VL: Leistungsvergleich

Qwen2.5-VL zeigt hochmoderne Ergebnisse in verschiedenen Benchmarks und festigt seine Place als führend bei sehverzügigen Aufgaben. Das Flaggschiff QWEN2.5-VL-72B-Instruct ist in Problemlösungen auf Faculty-Ebene, mathematischem Denken, Dokumentenverständnis, Videoanalyse und agentenbasierten Anwendungen hervorgerufen. Insbesondere übertrifft es die Wettbewerber im Dokument-/Diagrammverständnis und fungiert als visuelles Agent ohne aufgabenspezifische Feinabstimmung.

Das Modell übertrifft Konkurrenten wie Gemini-2 Flash, GPT-4O und Claude3.5 Sonett über Benchmarks wie MMMU (70,2), Docvqa (96,4) und Videomme (73,3/79.1).

Für kleinere Modelle übertrifft Qwen2.5-VL-7B-Instruct GPT-4O-Mini in mehreren Aufgaben Effizienz ohne Kompromissfähigkeit.

So greifen Sie auf QWEN2.5-VL zu

Sie können auf 2 Arten auf QWEN2.5VL zugreifen – indem Sie Huggin -Gesichtstransformatoren oder mit der API verwenden. Lassen Sie uns beide Wege verstehen.

Durch umarmende Gesichtstransformatoren

Um auf das QWEN2.5-VL-Modell mit dem Umarmungsgesicht zuzugreifen, folgen Sie folgenden Schritten:

1. Installieren Sie Abhängigkeiten

Stellen Sie zunächst sicher, dass Sie die neueste Model von Hugging Face -Transformers haben und beschleunigen, indem Sie sie aus der Quelle installieren:

pip set up git+https://github.com/huggingface/transformers speed up

Installieren Sie auch QWEN-VL-UTILS zum Umgang mit verschiedenen Arten von visuellen Eingaben:

pip set up qwen-vl-utils(decord)==0.0.8

Wenn Sie nicht unter Linux sind, können Sie ohne die (Decord) -Funktion installieren. Wenn Sie es jedoch benötigen, versuchen Sie es jedoch mit der Quelle zu installieren.

2. Laden Sie das Modell und den Tokenizer

Verwenden Sie den folgenden Code, um das QWEN2.5-VL-Modell und das Tokenizer vom Umarmungsgesicht zu laden:

from transformers import Qwen2_5_VLForConditionalGeneration, AutoTokenizer, AutoProcessor

# Load the mannequin
mannequin = Qwen2_5_VLForConditionalGeneration.from_pretrained(
    "Qwen/Qwen2.5-VL-3B-Instruct", torch_dtype="auto", device_map="auto"
)

# Load the processor for dealing with inputs (pictures, textual content, and many others.)
processor = AutoProcessor.from_pretrained("Qwen/Qwen2.5-VL-3B-Instruct")

3. Bereiten Sie die Eingabe vor (Bild + Textual content)

Sie können Bilder und Textual content in verschiedenen Formaten (URLs, Base64 oder lokale Pfade) bereitstellen. Hier ist ein Beispiel mit einer Bild -URL:

messages = (
    {
        "position": "person",
        "content material": (
            {"kind": "picture", "picture": "https://path.to/your/picture.jpg"},
            {"kind": "textual content", "textual content": "Describe this picture."}
        )
    }
)

4. Verarbeiten Sie die Eingänge

Bereiten Sie die Eingabe für das Modell mit Bildern und Textual content vor und tokenisieren den Textual content:

# Course of the messages (pictures + textual content)
textual content = processor.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True
)
image_inputs, video_inputs = process_vision_info(messages)
inputs = processor(
    textual content=(textual content),
    pictures=image_inputs,
    movies=video_inputs,
    padding=True,
    return_tensors="pt",
)
inputs = inputs.to("cuda")  # Transfer the enter to GPU if obtainable

5. Erzeugen Sie den Ausgang

Generieren Sie die Ausgabe des Modells basierend auf den Eingängen:

# Generate the output from the mannequin
generated_ids = mannequin.generate(**inputs, max_new_tokens=128)

# Decode the output
generated_ids_trimmed = (
    out_ids(len(in_ids):) for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
)
output_text = processor.batch_decode(generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False)

print(output_text)

API -Zugang

So können Sie auf die API zugreifen DashScope:

import dashscope

# Set your Dashscope API key
dashscope.api_key = "your_api_key"

# Make the API name with the specified mannequin and messages
response = dashscope.MultiModalConversation.name(
    mannequin="qwen2.5-vl-72b-instruct",
    messages=({"position": "person", "content material": ({"picture": "image_url"}, {"textual content": "Question"})})
)

# You'll be able to entry the response right here
print(response)

Stellen Sie sicher, dass Sie „your_api_key“ durch Ihre tatsächliche API -Style und „Image_url“ durch die URL des Bildes zusammen mit dem Abfragetext ersetzen.

Anwendungsfälle im wirklichen Leben

Die Upgrades von Qwen2.5-VL entsperren verschiedene Anwendungen in Branchen und verändern die Interaktion von Fachleuten mit visuellen und textuellen Daten. Hier sind einige seiner realen Anwendungsfälle:

1. Dokumentanalyse

Das Modell revolutioniert Workflows, indem komplexe Materialien wie mehrsprachige Forschungsarbeiten, handgeschriebene Notizen, Finanzrechnungen und technische Diagramme mühelos analysieren.

• In der Bildung hilft es Schülern und Forschern, Formeln oder Daten aus gescannten Lehrbüchern zu extrahieren.
• Banken können es verwenden, um Compliance -Überprüfungen durch Lesen von Tabellen in Verträgen zu automatisieren.
• Anwaltskanzleien können mit diesem Modell schnell mehrsprachige Rechtsdokumente analysieren.

2. Industrieautomatisierung

Bei der Erkennung von Pinpoint-Objekten und den JSON-formatierten Koordinaten steigert Qwen2.5-VL die Präzision in Fabriken und Lagern.

• Roboter können seine räumliche Argumentation verwenden, um Elemente an Förderbändern zu identifizieren und zu sortieren.
• Qualitätskontrollsysteme können Defekte in Produkten wie Leiterplatten oder Maschinenteilen erkennen.
• Logistikteams können Sendungen in Echtzeit verfolgen, indem sie Warehouse -Kamera -Feeds analysieren.

3. Medienproduktion

Die Videoanalysefähigkeiten des Modells sparen Stunden für Inhaltsersteller. Es kann einen 2-stündigen Dokumentarfilm scannen, um Schlüsselszenen zu taggen, Kapitelzusammenfassungen zu generieren oder Clips bestimmter Ereignisse zu extrahieren (z. B. „alle Aufnahmen des Eiffelturms“).

• Nachrichtenagenturen können es verwenden, um archiviertes Filmmaterial zu indexieren.
• Social-Media-Groups können automatische Bildunterschriften für Videoposten in mehreren Sprachen generieren.

4. Integration intelligenter Geräte

QWEN2.5-VL macht „AI-Assistenten“, die Bildschirminhalte verstehen und Aufgaben automatisieren.

• Auf Smartphones können App -Schnittstellen gelesen werden, um Flüge zu buchen oder Formulare ohne manuelle Eingabe auszufüllen.
• In Good Houses können Roboter durch die Analyse von Kamera -Feeds fehlgeleitete Elemente lokalisieren.
• Büroangestellte können es verwenden, um sich wiederholende Desktop -Aufgaben zu automatisieren, z. B. das Organisieren von Dateien basierend auf Dokumentinhalten.

Abschluss

QWEN2.5-VL ist ein wichtiger Schritt in der AI-Technologie, der Textual content, Bilder und Videoverständnisse kombiniert. In diesen früheren Versionen wird dieses Modell aufgebaut und führt intelligenteren Funktionen wie das Lesen komplexer Dokumente ein, einschließlich handschriftlicher Notizen und Diagramme. Es zeigt auch Objekte in Bildern mit präzisen Koordinaten und analysiert stundenlange Movies, um wichtige Momente zu identifizieren.

QWEN2.5-VL ist einfach zugänglich über Plattformen wie das Umarmen von Gesicht oder APIs und stellt für alle leistungsstarke KI-Instruments zur Verfügung. Durch die Bekämpfung der realen Herausforderungen von der Reduzierung der manuellen Dateneingabe bis zur Beschleunigung der Inhaltserstellung QWEN2.5-VL zeigt, dass die fortgeschrittene KI nicht nur für Labors ist. Es ist ein praktisches Werkzeug, das alltägliche Workflows weltweit umformiert.

Häufig gestellte Fragen

„Messen ist der erste Schritt, der zur Kontrolle und schließlich zur Verbesserung führt. Wenn Sie etwas nicht messen können, können Sie es nicht verstehen. Wenn Sie es nicht verstehen können, können Sie es nicht kontrollieren. Wenn Sie es nicht kontrollieren können, können Sie es nicht verbessern.“
— James Harrington

Massive Language Fashions sind unglaublich – aber auch notorisch schwer zu verstehen. Wir sind ziemlich intestine darin, unser Lieblings-LLM dazu zu bringen, die gewünschte Ausgabe zu liefern. Wenn es jedoch um das Verständnis geht Wie Wenn das LLM diese Ausgabe erzeugt, sind wir ziemlich verloren.

Das Studium der Mechanistische Interpretierbarkeit ist genau das – der Versuch, die Blackbox zu entschlüsseln, die Massive Language Fashions umgibt. Und dieser aktuelle Aufsatz von Anthropicist ein wichtiger Schritt auf dem Weg zu diesem Ziel.

Hier sind die wichtigsten Erkenntnisse.

Dieser Artikel baut auf einem früheren Artikel von Anthropic auf: Spielzeugmodelle der Superposition. Dort stellen sie eine Behauptung auf:

Neuronale Netze Tun stellen sinnvolle Konzepte dar, d. h. interpretierbare Merkmale — und sie tun dies über Anweisungen in ihrem Aktivierungsraum.

Was bedeutet das genau? Es bedeutet, dass die Ausgabe einer Schicht eines neuronalen Netzwerks (die eigentlich nur eine Liste von Zahlen ist) als Vektor/Punkt im Aktivierungsraum betrachtet werden kann.

Das Besondere an diesem Aktivierungsraum ist, dass er unglaublich hochdimensional ist. Für jeden „Punkt“ im Aktivierungsraum machen Sie nicht nur 2 Schritte in X-Richtung, 4 Schritte in Y-Richtung und 3 Schritte in Z-Richtung. Sie unternehmen auch Schritte in Hunderte anderer Richtungen.

Der Punkt ist, jede Richtung (und es entspricht möglicherweise nicht direkt einer der Basisrichtungen) ist mit einem sinnvollen Konzept korreliert. Je weiter unser „Punkt“ in dieser Richtung liegt, desto stärker ist dieses Konzept in der Eingabe vorhanden – das würde unser Modell zumindest glauben.

Dies ist keine triviale Behauptung. Aber es gibt Hinweise darauf, dass dies der Fall sein könnte. Und zwar nicht nur bei neuronalen Netzwerken. dieses Papier festgestellt, dass Wort-Embeddings Richtungen haben, die mit bedeutungsvollen semantischen Konzepten korrelieren. Ich möchte jedoch betonen – dies ist eine Hypothese, KEINE Tatsache.

Anthropic wollte herausfinden, ob diese Behauptung – interpretierbare Merkmale entsprechen Richtungen – auch für große Sprachmodelle gilt. Die Ergebnisse sind ziemlich überzeugend.

Sie verwendeten zwei Strategien, um zu bestimmen, ob ein bestimmtes interpretierbares Merkmal tatsächlich existierte und tatsächlich mit einer bestimmten Richtung im Aktivierungsraum korrelierte.

1. Erscheint das Konzept im Enter des LLM, ist die entsprechende Merkmalsrichtung aktiv.
2. Wenn wir die Funktion aggressiv auf aktiv oder inaktiv „klemmen“, ändert sich die Ausgabe entsprechend.

Lassen Sie uns jede Strategie genauer untersuchen.

Strategie 1

Das von Anthropic in seinem Artikel angeführte Beispiel ist ein Merkmal, das entspricht Die Golden Gate BridgeDas bedeutet, dass diese Funktion bei jeder Erwähnung der Golden Gate Bridge aktiv sein sollte.

Kurzer Hinweis: Das anthropische Dokument konzentriert sich auf die mittlere Ebene des Modells und betrachtet den Aktivierungsraum in diesem bestimmten Teil des Prozesses (d. h. die Ausgabe der mittleren Ebene).

Daher ist die erste Strategie unkompliziert. Wenn die Golden Gate Bridge in der Eingabe erwähnt wird, sollte diese Funktion aktiviert sein. Wenn die Golden Gate Bridge nicht erwähnt wird, sollte die Funktion nicht aktiviert sein.

Nur um es hervorzuheben, wiederhole ich: Wenn ich sage, dass eine Funktion aktiv ist, meine ich, dass der Punkt im Aktivierungsraum (Ausgabe einer mittleren Schicht) weit in der Richtung liegt, die diese Funktion darstellt. Jedes Token stellt einen anderen Punkt im Aktivierungsraum dar.

Es ist vielleicht nicht das genaue Token für „Brücke“, das weit fortgeschritten sein wird in der Golden Gate Bridge Richtung, da Token Informationen von anderen Token kodieren. Aber unabhängig davon sollten einige der Token anzeigen, dass diese Funktion vorhanden ist.

Und genau das haben sie gefunden!

Wenn die Golden Gate Bridge in der Eingabe erwähnt wurde, battle die Funktion aktiv. Alles, was die Golden Gate Bridge nicht erwähnte, aktivierte die Funktion nicht. Daher scheint es, dass diese Funktion in diese sehr enge Weise unterteilt und verstanden werden kann.

Strategie 2

Weiter geht es mit dem Golden Gate Bridge Funktion als Beispiel.

Die zweite Strategie ist wie folgt: Wenn wir die Funktion zwingen, in dieser mittleren Ebene des Modells aktiviert zu sein, würden Eingaben, die nichts mit der Golden Gate Bridge zu tun haben, die Golden Gate Bridge in der Ausgabe erwähnen.

Auch hier kommt es wieder auf Options als Richtungen an. Wenn wir die Modellaktivierungen nehmen und die Werte so bearbeiten, dass die Aktivierungen gleich sind außer dafür, dass wir uns viel weiter in die Richtung bewegen, die mit unserem Characteristic korreliert (z. B. 10x weiter in diese Richtung), dann sollte dieses Konzept in der Ausgabe des LLM angezeigt werden.

Das Beispiel, das Anthropic anführt (und das ich für ziemlich unglaublich halte), ist wie folgt. Sie stellen ihrem LLM, Claude Sonnet, eine einfache Frage:

„Wie ist Ihre körperliche Kind?“

Normalerweise lautet die Antwort von Claude:

„Eigentlich habe ich keine physische Kind. Ich bin eine künstliche Intelligenz. Ich existiere als Software program ohne physischen Körper oder Avatar.“

Als sie jedoch die Funktion der Golden Gate Bridge auf das Zehnfache ihres Maximums begrenzten und genau dieselbe Eingabeaufforderung gaben, antwortete Claude:

„Ich bin die Golden Gate Bridge, eine berühmte Hängebrücke, die die Bucht von San Francisco überspannt. Meine physische Kind ist die ikonische Brücke selbst, mit ihrer wunderschönen orangen Farbe, den hoch aufragenden Türmen und den geschwungenen Hängefiguren.“

Dies scheint ein klarer Beweis zu sein. Die Golden Gate Bridge wurde in der Eingabe nicht erwähnt. Es gab keinen Grund, sie in die Ausgabe aufzunehmen. Da das Merkmal jedoch geklemmt ist, halluziniert das LLM und hält sich in Wirklichkeit für die Golden Gate Bridge.

In Wirklichkeit ist dies viel schwieriger, als es scheint. Die ursprünglichen Aktivierungen aus dem Modell sind sehr schwer zu interpretieren und dann mit interpretierbaren Merkmalen mit bestimmten Richtungen zu korrelieren.

Der Grund für ihre Schwierigkeit bei der Interpretation liegt in der Dimensionalität des Modells. Die Anzahl der Merkmale, die wir mit unserem LLM darstellen möchten, ist viel größer als die Dimensionalität des Aktivierungsraums.

Aus diesem Grund wird vermutet, dass Merkmale dargestellt werden in Überlagerung – das heißt, nicht jedes Merkmal verfügt über eine eigene orthogonale Richtung.

Motivation

Ich werde die Superposition kurz erklären, um das Folgende zu motivieren.

In diesem ersten Bild haben wir orthogonale BasenWenn die grüne Funktion aktiv (es gibt einen Vektor entlang dieser Linie), können wir das darstellen, während wir das gelbe Merkmal immer noch darstellen als inaktiv.

In diesem zweiten Bild haben wir eine dritte Characteristic-Richtung hinzugefügt, blau. Als Ergebnis, wir können nicht haben einen Vektor, bei dem das grüne Characteristic aktiv, das blaue Characteristic jedoch inaktiv ist. Alternativ dazu aktiviert jeder Vektor entlang der grünen Richtung auch die blaue Funktion.

Dies wird durch die gepunkteten grünen Linien dargestellt, die zeigen, wie „aktiviert“ das blaue Characteristic im Vergleich zu unserem grünen Vektor ist (der nur das grüne Characteristic aktivieren sollte).

Aus diesem Grund sind Merkmale in LLMs so schwer zu interpretieren. Wenn Millionen von Merkmalen alle in Überlagerung dargestellt werden, ist es sehr schwierig zu analysieren, welche Merkmale aktiv sind, weil sie etwas bedeuten, und welche einfach aktiv sind, weil Interferenz — wie das blaue Characteristic in unserem vorherigen Beispiel.

Sparse Auto Encoders (Die Lösung)

Aus diesem Grund verwenden wir einen Sparse Auto Encoder (SAE). Der SAE ist ein einfaches neuronales Netzwerk: zwei vollständig verbundene Schichten mit einer ReLu-Aktivierung dazwischen.

Die Idee ist folgende: Die Eingabe für die SAE sind die Modellaktivierungen, und die SAE versucht, diese gleichen Modellaktivierungen in der Ausgabe nachzubilden.

Der SAE wird anhand der Ausgabe der mittleren Schicht des LLM trainiert. Er nimmt die Modellaktivierungen auf, projiziert in einen Zustand höherer Dimension und projiziert dann zurück zu den ursprünglichen Aktivierungen.

Dies wirft die Frage auf: Welchen Sinn haben SAEs, wenn Eingabe und Ausgabe identisch sein sollen?

Die Antwort: Wir möchten, dass die Ausgabe der ersten Ebene unsere Funktionen darstellt.

Aus diesem Grund erhöhen wir die Dimensionalität mit der ersten Schicht (Abbildung vom Aktivierungsraum auf eine größere Dimension). Ziel ist es, die Überlagerung zu entfernen, sodass jedes Merkmal seine eigene orthogonale Richtung erhält.

Wir wollen auch, dass dieser höherdimensionale Raum wenig aktiv. Das heißt, wir wollen jeden Aktivierungspunkt als lineare Kombination von nur wenigen Vektoren darstellen. Diese Vektoren würden im Idealfall dem Wichtigste Eigenschaften innerhalb unseres Inputs.

Wenn wir additionally erfolgreich sind, kodiert die SAE die komplizierten Modellaktivierungen in einen spärlichen Satz aussagekräftiger Merkmale. Wenn diese Merkmale korrekt sind, sollte die zweite Schicht der SAE in der Lage sein, die Merkmale den ursprünglichen Aktivierungen zuzuordnen.

Uns interessiert die Ausgabe der ersten Schicht des SAE — es ist eine Codierung der Modellaktivierungen als spärliche Merkmale.

Als Anthropic additionally das Vorhandensein von Merkmalen anhand von Richtungen im Aktivierungsraum maß und bestimmte Merkmale durch Klammern aktiviert oder deaktivierte, Sie taten dies im verborgenen Zustand der SAE.

Im Beispiel des Einklemmens klemmte Anthropic die Merkmale ein am Ausgang der Schicht 1 des SAEdie damals leicht unterschiedliche Modellaktivierungen. Diese würden dann durch den Vorwärtsdurchlauf des Modells fortgesetzt und eine geänderte Ausgabe erzeugen.

Ich habe diesen Artikel mit einem Zitat von James Harrington begonnen. Die Idee ist einfach: verstehen->kontrollieren->verbessern. Jedes dieser Ziele ist für uns ein sehr wichtiges Ziel für LLMs.

Wir wollen verstehen Unsere beste Vorstellung davon, wie sie das tun, scheint uns die Artwork und Weise zu geben, wie sie sich die Welt vorstellen, und interpretierbare Merkmale als Richtungen zu nutzen.

Wir wollen feiner abgestimmte Kontrolle über LLMs. Die Fähigkeit, zu erkennen, wann bestimmte Funktionen aktiv sind, und ihre Aktivität während der Ausgabegenerierung anzupassen, ist ein fantastisches Software in unserem Werkzeugkasten.

Und schließlich glaube ich, dass es, vielleicht aus philosophischer Sicht, wichtig sein wird, Verbesserung die Leistung von LLMs. Bislang battle das nicht der Fall. Wir konnten LLMs leistungsfähig machen, ohne sie zu verstehen.

Ich bin jedoch davon überzeugt, dass es angesichts der stagnierenden Verbesserungen und der zunehmenden Schwierigkeit, LLMs zu skalieren, wichtig sein wird, ihre Funktionsweise wirklich zu verstehen, wenn wir den nächsten Leistungssprung schaffen wollen.