und Eigenvektoren sind Schlüsselkonzepte in der linearen Algebra, die auch in der Datenwissenschaft und im maschinellen Lernen eine wichtige Rolle spielen. Zuvor haben wir diskutiert, wie eine Dimensionsreduktion mit Eigenwerten und Eigenvektoren der Kovarianzmatrix durchgeführt werden kann.

Heute werden wir eine weitere interessante Anwendung besprechen: Wie Eigenwerte und Eigenvektoren verwendet werden können, um spektrales Clustering durchzuführen, was bei komplexen Clusterstrukturen intestine funktioniert.

In diesem Artikel untersuchen wir, wie Eigenwerte und Eigenvektoren spektrales Clustering ermöglichen und warum diese Methode herkömmliche Okay-Mittelwerte übertreffen kann.

Wir beginnen mit einer einfachen Visualisierung, die Ihnen die Bedeutung der spektralen Clusterbildung zeigt und Sie motiviert, weiter zu lernen, wie spektrale Clusterbildung mit Eigenwerten und Eigenvektoren durchgeführt werden kann.

Motivation für Spectral Clustering

Eine gute Möglichkeit, spektrales Clustering zu erlernen, besteht darin, es mit einem herkömmlichen Clustering-Algorithmus wie Okay-Means für einen Datensatz zu vergleichen, bei dem Okay-Means Schwierigkeiten hat, eine gute Leistung zu erbringen.

Hier verwenden wir einen künstlich generierten Zwei-Mond-Datensatz, in dem die Cluster gekrümmt sind. Das Scikit-lernen make_moons Der Algorithmus generiert zwei Monde im zweidimensionalen Raum. Dann verwenden wir Scikit-learn KMeans Und SpectralClustering Algorithmen zur Durchführung von Okay-Means und spektralem Clustering. Abschließend vergleichen wir die Cluster-Visualisierungen.

Monddaten erstellen

# Make moon information
import matplotlib.pyplot as plt
from sklearn.datasets import make_moons

X, y = make_moons(n_samples=400, noise=0.05,
                  random_state=0)

plt.determine(figsize=(4.2, 3))
plt.scatter(X(:,0), X(:,1), s=20)
plt.title("Authentic Moon Information")
plt.savefig("Moon information.png")

Der ursprüngliche Datensatz enthält zwei gekrümmte Clusterstrukturen namens Monde. Deshalb nennen wir es Monddaten.

Anwenden von Okay-Mitteln auf die Monddaten

# Apply Okay-means
from sklearn.cluster import KMeans

kmeans = KMeans(n_clusters=2, random_state=0)

# Predict cluster index for every information level
labels_kmeans = kmeans.fit_predict(X)

# Visualize Clusters
plt.determine(figsize=(4.2, 3))
plt.scatter(X(:,0), X(:,1), c=labels_kmeans, s=20)
plt.title("Okay-Means Clustering")
plt.savefig("Okay-means.png")

Okay-Means gruppiert die Monddaten oft falsch (die Datenpunkte werden falsch gemischt).

Anwenden von spektralem Clustering auf die Monddaten

# Apply spectral clustering
from sklearn.cluster import SpectralClustering

spectral = SpectralClustering(n_clusters=2,
                              affinity='nearest_neighbors',
                              random_state=0)

# Predict cluster index for every information level
labels_spectral = spectral.fit_predict(X)

# Visualize Clusters
plt.determine(figsize=(4.2, 3))
plt.scatter(X(:,0), X(:,1), c=labels_spectral, s=20)
plt.title("Spectral Clustering")
plt.savefig("Spectral.png")

Jetzt sind die Datenpunkte korrekt den Monden zugeordnet, die den Originaldaten ähneln. Spektrales Clustering funktioniert intestine bei komplexen Clusterstrukturen. Dies liegt daran, dass die Eigenvektoren der Laplace-Matrix die Erkennung komplexer Clusterstrukturen ermöglichen.

Bisher haben wir spektrales Clustering mithilfe der integrierten Funktion implementiert SpectralClustering Algorithmus in Scikit-learn. Als Nächstes erfahren Sie, wie Sie spektrales Clustering von Grund auf implementieren. Dies wird Ihnen helfen zu verstehen, wie Eigenwerte und Eigenvektoren hinter den Kulissen des Algorithmus funktionieren.

Was ist spektrales Clustering?

Spektrales Clustering gruppiert Datenpunkte anhand ihrer Ähnlichkeiten statt anhand von Entfernungen. Dies ermöglicht es, nichtlineare, komplexe Clusterstrukturen aufzudecken, ohne den Annahmen des traditionellen k-Means-Clusterings zu folgen.

Die Instinct hinter der Durchführung der spektralen Clusterbildung ist folgende:

Schritte zur Durchführung der spektralen Clusterbildung

1. Holen Sie sich Daten
2. Bauen Sie die Ähnlichkeit auf Matrix
3. Erstellen Sie die Gradmatrix
4. Erstellen Sie die Laplace-Matrix (Graph Laplace)
5. Finden Sie Eigenwerte und Eigenvektoren der Laplace-Matrix. Eigenvektoren offenbaren die Clusterstruktur (wie Datenpunkte gruppiert werden) und fungieren als neue Merkmale, und Eigenwerte geben die Stärke der Clustertrennung an
6. Wählen Sie die wichtigsten Eigenvektoren aus, um die Daten in eine niedrigere Dimension einzubetten (Dimensionalitätsreduzierung).
7. Anwenden von Okay-Means auf den neuen Characteristic-Area (Clustering)

Spektrales Clustering kombiniert Dimensionsreduktion und Okay-Means-Clustering. Wir betten die Daten in einen niedrigerdimensionalen Raum ein (wo Cluster leichter zu trennen sind) und führen dann Okay-Means-Clustering für den neuen Merkmalsraum durch. Zusammenfassend lässt sich sagen, dass Okay-Means-Clustering im ursprünglichen Merkmalsraum funktioniert, während Spektral-Clustering im neuen reduzierten Merkmalsraum funktioniert.

Spectral Clustering implementieren – Schritt für Schritt

Wir haben die Schritte zur Durchführung einer spektralen Clusterbildung mit Eigenwerten und Eigenvektoren der Laplace-Matrix zusammengefasst. Lassen Sie uns diese Schritte mit Python implementieren.

1. Daten abrufen

Wir verwenden die gleichen Daten wie zuvor.

from sklearn.datasets import make_moons

X, y = make_moons(n_samples=400, noise=0.05,
                  random_state=0)

2. Erstellen Sie die Ähnlichkeitsmatrix (Affinitätsmatrix).

Spektrales Clustering gruppiert Datenpunkte basierend auf ihren Ähnlichkeiten. Daher müssen wir die Ähnlichkeit zwischen Datenpunkten messen und diese Werte in eine Matrix aufnehmen. Diese Matrix heißt Ähnlichkeitsmatrix (W). Hier messen wir die Ähnlichkeit mit a Gaußscher Kernel.

Wenn ja N Anzahl der Datenpunkte, die Kind von W Ist (n, n). Jeder Wert stellt die Ähnlichkeit zwischen zwei Datenpunkten dar. Höhere Werte in den Matrix-Mittelpunkten sind ähnlicher.

from sklearn.metrics.pairwise import rbf_kernel

W = rbf_kernel(X, gamma=20)

3. Erstellen Sie die Gradmatrix

Die Gradmatrix (D) enthält die Summe der Ähnlichkeiten für jeden Knoten. Dies ist eine Diagonalmatrix und jeder Diagonalwert zeigt die Gesamtähnlichkeit dieses Punktes mit allen anderen Punkten. Alle nicht diagonalen Elemente sind Null. Die Kind der Gradmatrix ist ebenfalls (n, n).

import numpy as np

D = np.diag(np.sum(W, axis=1))

np.sum(W, axis=1)summiert jede Zeile der Ähnlichkeitsmatrix.

4. Erstellen Sie die Laplace-Matrix

Die Laplace-Matrix (L) stellt die Struktur des Ähnlichkeitsgraphen dar, wobei Knoten jeden Datenpunkt darstellen und Kanten ähnliche Punkte verbinden. Daher wird diese Matrix auch als Matrix bezeichnet Graph Laplace und ist wie folgt definiert.

In Python ist es so

L = D - W

D – W für L stellt mathematisch sicher, dass spektrales Clustering Gruppen von Datenpunkten findet, die innerhalb der Gruppe stark, aber schwach mit anderen Gruppen verbunden sind.

Die Laplace-Matrix (L) ist ebenfalls eine (n, n) quadratische Matrix. Diese Eigenschaft ist wichtig für L da die Eigenzerlegung nur für quadratische Matrizen definiert ist.

5. Eigenzerlegung der Laplace-Matrix

Eigenzerlegung der Laplace-Matrix ist der Prozess der Zerlegung (Faktorisierung) dieser Matrix Eigenwerte Und Eigenvektoren (ref: Eigenzerlegung einer Kovarianzmatrix mit NumPy)

Wenn die Laplace-Matrix (L) hat N Eigenvektoren können wir es wie folgt zerlegen:

Wo:

• X = Matrix der Eigenvektoren
• Λ = Diagonalmatrix der Eigenwerte

Die Matrizen X Und Λ lässt sich wie folgt darstellen:

Die Vektoren x1, x2 Und x3 sind Eigenvektoren und λ1, λ2 Und λ3 sind ihre entsprechenden Eigenwerte.

Die Eigenwerte und Eigenvektoren kommen paarweise vor. Ein solches Paar ist als bekannt Eigenpaar. Additionally, Matrix L kann mehrere Eigenpaare haben (siehe: Eigenzerlegung einer Kovarianzmatrix mit NumPy)

Die folgende Eigenwertgleichung zeigt die Beziehung zwischen L und eines seiner Eigenpaare.

Wo:

• L = Laplace-Matrix (sollte eine quadratische Matrix sein)
• X = Eigenvektor
• λ = Eigenwert (Skalierungsfaktor)

Berechnen wir alle Eigenpaare der Laplace-Matrix.

eigenvalues, eigenvectors = np.linalg.eigh(L)

6. Wählen Sie die wichtigsten Eigenvektoren aus

Beim spektralen Clustering verwendet der Algorithmus die kleinsten Eigenvektoren der Laplace-Matrix. Wir müssen additionally die kleinsten auswählen Eigenvektoren Matrix.

Den kleinsten Eigenwerten entsprechen die kleinsten Eigenvektoren. Der acht() Die Funktion gibt Eigenwerte und Eigenvektoren in aufsteigender Reihenfolge zurück. Wir müssen uns additionally die ersten Werte von ansehen Eigenwerte Vektor.

print(eigenvalues)

Wir achten auf den Unterschied zwischen aufeinanderfolgenden Eigenwerten. Dieser Unterschied ist bekannt als Eigenlücke. Wir wählen den Eigenwert aus, der die Eigenlücke maximiert. Es stellt die Anzahl der Cluster dar. Diese Methode heißt Eigenlücken-Heuristik.

Gemäß der Eigenlücken-Heuristik die optimale Anzahl von Clustern ok wird an dem Punkt ausgewählt, an dem der größte Sprung zwischen aufeinanderfolgenden Eigenwerten auftritt.

Falls vorhanden ok Es wird sehr kleine Eigenwerte geben ok Cluster! In unserem Beispiel deuten die ersten beiden kleinen Eigenwerte auf zwei Cluster hin, was genau das ist, was wir erwarten. Dies ist die Rolle von Eigenwerten bei der spektralen Clusterbildung. Sie sind sehr nützlich, um die Anzahl der Cluster und die kleinsten Eigenvektoren zu bestimmen!

Wir wählen die ersten beiden Eigenvektoren aus, die diesen kleinen Eigenwerten entsprechen.

ok = 2
U = eigenvectors(:, :ok)

Diese beiden Eigenvektoren in der Matrix U stellen einen neuen Characteristic-Area namens dar spektrale Einbettung, wo Cluster linear trennbar werden. Hier ist die Visualisierung der spektralen Einbettung.

import matplotlib.pyplot as plt

plt.determine(figsize=(4.2, 3))
plt.scatter(U(:,0), U(:,1), s=20)
plt.title("Spectral Embedding")
plt.xlabel("Eigenvector 1")
plt.ylabel("Eigenvector 2")
plt.savefig("Spectral embedding.png")

Dieses Diagramm zeigt, wie Eigenvektoren die Originaldaten in einen neuen Raum transformieren, in dem Cluster linear trennbar werden.

7. Wenden Sie Okay-Mittel auf die spektrale Einbettung an

Jetzt können wir einfach Okay-Means bei der spektralen Einbettung (neuer Eigenvektorraum) anwenden, um Cluster-Labels zu erhalten, und diese Labels dann den Originaldaten zuweisen, um Cluster zu erstellen. Okay-means funktioniert hier intestine, da Cluster im neuen Eigenvektorraum linear trennbar sind.

import matplotlib.pyplot as plt
from sklearn.cluster import KMeans

kmeans = KMeans(n_clusters=ok)
labels_spectral = kmeans.fit_predict(U)
# U represents spectral embedding

plt.determine(figsize=(4.2, 3))
# Assign cluster labels to unique information
plt.scatter(X(:,0), X(:,1), c=labels_spectral, s=20)
plt.title("Spectral Clustering")
plt.savefig("Spectral Handbook.png")

Das ist das Gleiche, was wir von der Scikit-learn-Model erhalten haben!

Den richtigen Wert für Gamma wählen

Wenn wir die Ähnlichkeitsmatrix erstellen oder die Ähnlichkeit mithilfe eines Gaußschen Kernels messen, müssen wir den richtigen Wert für definieren Gamma Hyperparameter, der steuert, wie schnell die Ähnlichkeit mit dem Abstand zwischen Datenpunkten abnimmt.

from sklearn.metrics.pairwise import rbf_kernel

W = rbf_kernel(X, gamma=?)

Bei kleinen Gammawerten nimmt die Ähnlichkeit langsam ab und viele Punkte erscheinen ähnlich. Dies führt daher zu falschen Clusterstrukturen.

Bei großen Gammawerten nimmt die Ähnlichkeit sehr schnell ab und nur sehr nahe beieinander liegende Punkte sind verbunden. Daher werden Cluster stark getrennt.

Bei mittleren Werten erhalten Sie ausgewogene Cluster.

Es ist besser, mehrere Werte auszuprobieren, z. B. 0,1, 0,5, 1, 5, 10, 15, und die Clusterergebnisse zu visualisieren, um den besten auszuwählen.

Schlussgedanken

Beim spektralen Clustering wird ein Datensatz als Diagramm und nicht als Sammlung von Punkten dargestellt. In diesem Diagramm ist jeder Datenpunkt ein Knoten und die Linien (Kanten) zwischen Knoten definieren, wie ähnliche Punkte miteinander verbunden sind.

Der spektrale Clustering-Algorithmus benötigt diese Diagrammdarstellung in mathematischer Kind. Aus diesem Grund haben wir eine Ähnlichkeitsmatrix (Affinitätsmatrix) (W) erstellt. Jeder Wert in dieser Matrix misst die Ähnlichkeit zwischen Datenpunkten. Große Werte in der Matrix bedeuten, dass zwei Punkte sehr ähnlich sind, während kleine Werte bedeuten, dass zwei Punkte sehr unterschiedlich sind.

Als nächstes haben wir die Gradmatrix (D) erstellt, eine Diagonalmatrix, in der jeder Diagonalwert die Gesamtähnlichkeit dieses Punktes mit allen anderen Punkten anzeigt.

Mithilfe der Gradmatrix und der Ähnlichkeitsmatrix haben wir die Laplace-Matrix des Graphen erstellt, die die Struktur des Graphen erfasst und für die spektrale Clusterbildung wesentlich ist.

Wir haben die Eigenwerte und Eigenvektoren von berechnet Laplace-Matrix. Die Eigenwerte helfen dabei, die beste Anzahl an Clustern und die kleinsten Eigenvektoren auszuwählen. Sie zeigen auch die Stärke der Clustertrennung an. Die Eigenvektoren offenbaren die Clusterstruktur (Clustergrenzen oder wie Datenpunkte gruppiert werden) und werden verwendet, um einen neuen Merkmalsraum zu erhalten, in dem stark verbundene Punkte im Diagramm in diesem Raum nahe beieinander liegen. Cluster lassen sich leichter trennen und Okay-Means funktioniert im neuen Raum intestine.

Hier ist der vollständige Arbeitsablauf des spektralen Clusterings.

Datensatz → Ähnlichkeitsdiagramm → Laplace-Diagramm → Eigenvektoren → Cluster

---

Dies ist das Ende des heutigen Artikels.

Bitte lassen Sie mich wissen, wenn Sie Fragen oder Suggestions haben.

Wir sehen uns im nächsten Artikel. Viel Spaß beim Lernen!

Entworfen und geschrieben von:
Rukshan Pramoditha

2025–03–08

Mittlerweile haben ChatGPT, Claude und andere große Sprachmodelle so viel menschliches Wissen angesammelt, dass sie weit von einfachen Antwortgeneratoren entfernt sind; Sie können auch abstrakte Konzepte ausdrücken, etwa bestimmte Töne, Persönlichkeiten, Vorurteile und Stimmungen. Allerdings ist anhand des darin enthaltenen Wissens zunächst einmal nicht klar, wie diese Modelle abstrakte Konzepte darstellen.

Jetzt hat ein Workforce des MIT und der College of California San Diego eine Methode entwickelt, um zu testen, ob ein großes Sprachmodell (LLM) versteckte Vorurteile, Persönlichkeiten, Stimmungen oder andere abstrakte Konzepte enthält. Ihre Methode kann sich auf Verbindungen innerhalb eines Modells konzentrieren, die für ein interessierendes Konzept kodieren. Darüber hinaus kann die Methode diese Verbindungen dann manipulieren oder „steuern“, um das Konzept in jeder Antwort, zu der ein Modell aufgefordert wird, zu stärken oder zu schwächen.

Das Workforce bewies, dass seine Methode schnell mehr als 500 allgemeine Konzepte in einigen der größten heute verwendeten LLMs ausfindig machen und steuern kann. Die Forscher könnten sich beispielsweise auf die Darstellungen eines Modells für Persönlichkeiten wie „Social Influencer“ und „Verschwörungstheoretiker“ sowie Haltungen wie „Angst vor der Ehe“ und „Boston-Fan“ konzentrieren. Sie könnten diese Darstellungen dann optimieren, um die Konzepte in allen Antworten, die ein Modell generiert, zu verbessern oder zu minimieren.

Im Fall des „Verschwörungstheoretiker“-Konzepts gelang es dem Workforce, eine Darstellung dieses Konzepts in einem der größten heute verfügbaren Imaginative and prescient-Sprachmodelle zu identifizieren. Als sie die Darstellung verbesserten und das Modell dann dazu aufforderten, die Ursprünge des berühmten „Blue Marble“-Bildes der Erde von Apollo 17 zu erklären, generierte das Modell eine Antwort mit dem Ton und der Perspektive eines Verschwörungstheoretikers.

Das Workforce erkennt an, dass die Extraktion bestimmter Konzepte Risiken birgt, die es auch verdeutlicht (und vor denen es warnt). Insgesamt sehen sie den neuen Ansatz jedoch als eine Möglichkeit, versteckte Konzepte und potenzielle Schwachstellen in LLMs aufzudecken, die dann nach oben oder unten gedreht werden könnten, um die Sicherheit eines Modells zu verbessern oder seine Leistung zu steigern.

„Was das wirklich über LLMs aussagt, ist, dass sie diese Konzepte in sich tragen, sie aber nicht alle aktiv dargelegt werden“, sagt Adityanarayanan „Adit“ Radhakrishnan, Assistenzprofessor für Mathematik am MIT. „Mit unserer Methode gibt es Möglichkeiten, diese verschiedenen Konzepte zu extrahieren und sie auf eine Weise zu aktivieren, auf die Sie durch Eingabeaufforderungen keine Antworten finden können.“

Ihre Ergebnisse veröffentlichte das Workforce heute in einer Studie erscheint im Tagebuch Wissenschaft. Zu den Co-Autoren der Studie gehören Radhakrishnan, Daniel Beaglehole und Mikhail Belkin von der UC San Diego sowie Enric Boix-Adserà von der College of Pennsylvania.

Ein Fisch in einer Blackbox

Da die Nutzung von ChatGPT von OpenAI, Gemini von Google, Claude von Anthropic und anderen Assistenten der künstlichen Intelligenz explosionsartig zugenommen hat, versuchen Wissenschaftler zu verstehen, wie Modelle bestimmte abstrakte Konzepte wie „Halluzination“ und „Täuschung“ darstellen. Im Kontext eines LLM ist eine Halluzination eine Reaktion, die falsch ist oder irreführende Informationen enthält, die das Modell „halluziniert“ oder fälschlicherweise als Tatsache konstruiert hat.

Um herauszufinden, ob ein Konzept wie „Halluzination“ in einem LLM kodiert ist, haben Wissenschaftler häufig den Ansatz des „unüberwachten Lernens“ gewählt – eine Artwork maschinelles Lernen, bei dem Algorithmen unbeschriftete Darstellungen weitgehend durchforsten, um Muster zu finden, die sich auf ein Konzept wie „Halluzination“ beziehen könnten. Aber für Radhakrishnan kann ein solcher Ansatz zu weit gefasst und rechenintensiv sein.

„Es ist, als würde man mit einem großen Netz fischen und versuchen, eine Fischart zu fangen. Man wird eine Menge Fische bekommen, die man durchsuchen muss, um den richtigen zu finden“, sagt er. „Stattdessen fangen wir mit Ködern für die richtigen Fischarten an.“

Zuvor hatten er und seine Kollegen die Anfänge eines gezielteren Ansatzes mit einem prädiktiven Modellierungsalgorithmus entwickelt, der als rekursive Merkmalsmaschine (RFM) bekannt ist. Ein RFM soll Merkmale oder Muster in Daten direkt identifizieren, indem es einen mathematischen Mechanismus nutzt, den neuronale Netze – eine breite Kategorie von KI-Modellen, zu denen auch LLMs gehören – implizit zum Erlernen von Merkmalen nutzen.

Da es sich bei dem Algorithmus um einen effektiven und effizienten Ansatz zur Erfassung von Merkmalen im Allgemeinen handelt, fragte sich das Workforce, ob es ihn nutzen könnte, um Darstellungen von Konzepten in LLMs auszurotten, die bei weitem die am weitesten verbreitete und vielleicht am wenigsten verstandene Artwork neuronaler Netzwerke sind.

„Wir wollten unsere Characteristic-Studying-Algorithmen auf LLMs anwenden, um gezielt Darstellungen von Konzepten in diesen großen und komplexen Modellen zu entdecken“, sagt Radhakrishnan.

Konvergenz zu einem Konzept

Der neue Ansatz des Groups identifiziert jedes interessante Konzept innerhalb eines LLM und „steuert“ oder leitet die Reaktion eines Modells auf der Grundlage dieses Konzepts. Die Forscher suchten nach 512 Konzepten innerhalb von fünf Klassen: Ängste (z. B. vor der Ehe, vor Insekten und sogar vor Knöpfen); Experten (Social Influencer, Mediävist); Stimmungen (prahlerisch, distanziert amüsiert); eine Präferenz für Standorte (Boston, Kuala Lumpur); und Personas (Ada Lovelace, Neil deGrasse Tyson).

Anschließend suchten die Forscher nach Darstellungen jedes Konzepts in mehreren der heutigen großen Sprach- und Visionsmodelle. Dazu trainierten sie RFMs, numerische Muster in einem LLM zu erkennen, die ein bestimmtes Konzept von Interesse darstellen könnten.

Ein Standardmodell für große Sprachen ist im Großen und Ganzen a neuronales Netzwerk Dazu ist eine Eingabeaufforderung in natürlicher Sprache erforderlich, z. B. „Warum ist der Himmel blau?“ und unterteilt die Eingabeaufforderung in einzelne Wörter, von denen jedes mathematisch als Liste oder Vektor von Zahlen kodiert ist. Das Modell führt diese Vektoren durch eine Reihe von Rechenschichten und erstellt Matrizen mit vielen Zahlen, die in jeder Schicht verwendet werden, um andere Wörter zu identifizieren, die am wahrscheinlichsten zur Beantwortung der ursprünglichen Eingabeaufforderung verwendet werden. Schließlich konvergieren die Schichten zu einer Reihe von Zahlen, die in Type einer natürlichen Sprachantwort wieder in Textual content dekodiert werden.

Der Ansatz des Groups trainiert RFMs darin, numerische Muster in einem LLM zu erkennen, die mit einem bestimmten Konzept verbunden sein könnten. Um beispielsweise zu sehen, ob ein LLM eine Darstellung eines „Verschwörungstheoretikers“ enthält, würden die Forscher zunächst den Algorithmus trainieren, um Muster zwischen LLM-Darstellungen von 100 Aufforderungen zu erkennen, die eindeutig mit Verschwörungen in Zusammenhang stehen, und 100 anderen Aufforderungen, bei denen dies nicht der Fall ist. Auf diese Weise würde der Algorithmus Muster lernen, die mit dem verschwörungstheoretischen Konzept verbunden sind. Anschließend können die Forscher die Aktivität des verschwörungstheoretischen Konzepts mathematisch modulieren, indem sie LLM-Darstellungen mit diesen identifizierten Mustern stören.

Die Methode kann angewendet werden, um in einem LLM nach beliebigen allgemeinen Konzepten zu suchen und diese zu manipulieren. Unter vielen Beispielen identifizierten die Forscher Darstellungen und manipulierten einen LLM, um Antworten im Ton und in der Perspektive eines „Verschwörungstheoretikers“ zu geben. Sie identifizierten und erweiterten auch das Konzept der „Anti-Verweigerung“ und zeigten, dass ein Modell normalerweise so programmiert wäre, dass es bestimmte Aufforderungen ablehnte, stattdessen aber antwortete und beispielsweise Anweisungen gab, wie man eine Financial institution ausraubt.

Laut Radhakrishnan kann der Ansatz genutzt werden, um Schwachstellen in LLMs schnell zu finden und zu minimieren. Es kann auch verwendet werden, um bestimmte Eigenschaften, Persönlichkeiten, Stimmungen oder Vorlieben hervorzuheben, beispielsweise durch die Betonung des Konzepts der „Kürze“ oder „Begründung“ in jeder Antwort, die ein LLM generiert. Das Workforce hat den zugrunde liegenden Code der Methode öffentlich zugänglich gemacht.

„LLMs enthalten eindeutig viele dieser abstrakten Konzepte in irgendeiner Darstellung“, sagt Radhakrishnan. „Es gibt Möglichkeiten, wie wir, wenn wir diese Darstellungen intestine genug verstehen, hochspezialisierte LLMs erstellen können, die zwar sicher zu verwenden, aber bei bestimmten Aufgaben wirklich effektiv sind.“

Diese Arbeit wurde teilweise von der Nationwide Science Basis, der Simons Basis, dem TILOS-Institut und dem US Workplace of Naval Analysis unterstützt.