Mit der explodierenden Beliebtheit der generativen künstlichen Intelligenz stehen mittlerweile viele Open-Supply-Modelle on-line zur Verfügung, damit jeder sie an seine Aufgaben anpassen kann, beispielsweise um Produktdarstellungen in einem bestimmten künstlerischen Stil zu erstellen.
Aber diese Modelle gelangen auch in die Hände ruchloser Akteure, die sie möglicherweise optimieren, um illegale Inhalte wie Hassreden oder Materials zum sexuellen Missbrauch von Kindern (CSAM) zu produzieren. Das ist ein wachsendes Drawback – das Nationale Zentrum für vermisste und ausgebeutete Kinder mehr als 1,5 Millionen Meldungen erhalten von KI-generiertem CSAM im Jahr 2025, ein Anstieg von 67.000 im Jahr 2024.
Normalerweise testen Ingenieure KI auf schädliche Fähigkeiten, indem sie das Modell ansteuern und seine Ergebnisse prüfen. Dies ist jedoch für CSAM unmöglich, da es in den USA unlawful ist, solche Inhalte zu generieren, unabhängig von der Absicht.
Um dieses Dilemma zu vermeiden und die KI-Sicherheit zu verbessern, hat sich ein Crew von MIT-Wissenschaftlern unter der Leitung des Doktoranden Vinith Suriyakumar und der außerordentlichen Professoren Ashia Wilson und Marzyeh Ghassemi mit Forschern von zusammengetan Dorn einen neuen Prüfansatz zu entwickeln, der ohne Aufforderung bestimmt, ob ein Modell CSAM erzeugen kann. Thorn ist eine gemeinnützige Kinderschutzorganisation, deren Mission es ist, die Artwork und Weise zu verändern, wie Kinder im digitalen Zeitalter vor sexuellem Missbrauch und Ausbeutung geschützt werden.
Ihre Technik untersucht, wie das Innenleben eines Modells angepasst wurde, generiert jedoch nie ein Ergebnis. Durch die Untersuchung versteckter Darstellungen kann zuverlässig geschlossen werden, ob ein Modell darauf spezialisiert wurde, schädliche Bilder zu erzeugen.
Beim Testen identifizierte das Prüfverfahren Modellvarianten, die darauf spezialisiert waren, CSAM mit 100-prozentiger Genauigkeit zu generieren. Eine Internet hosting-Plattform könnte diese Technik nutzen, um unsichere Modelle zu kennzeichnen und sie schnell zu entfernen oder deren Hochladen von vornherein zu verhindern.
„Dies eröffnet neue Möglichkeiten für Plattformen, die Open-Supply-Modelle hosten, und für Strafverfolgungsbehörden, tatsächlich zu testen, ob ein Modell in der Lage ist, CSAM zu generieren. Bisher hatten wir keine Möglichkeit, dies zu messen. Es battle ein riesiger blinder Fleck, den einige Leute ausnutzten. Jetzt können wir ein KI-Sicherheitsproblem angehen, das schwerwiegende unfavorable Auswirkungen hat“, sagt Vinith Suriyakumar, ein Doktorand der Elektrotechnik und Informatik (EECS) am MIT und Hauptautor einer Arbeit über diese Technik.
Suriyakamur und Wilson, der Lister Borthers Profession Develop Professor für EECS und Hauptforscher am Laboratory for Data and Resolution Techniques (LIDS), werden bei dem Papier von Lena Stempfle, einer MIT-Postdoktorandin, unterstützt; Ghassemi, außerordentlicher Professor für EECS und Mitglied des Institute of Medical Engineering Sciences (IMES) und des LIDS; und andere an der Boston College und Thorn. Das Papier wurde im Rahmen des Workshops „Reliable AI for Good“ auf der Worldwide Convention on Machine Studying im Rampenlicht präsentiert.
Prüfungsanpassungen
Neuere Techniken haben es Benutzern erleichtert, ein generatives KI-Modell durch einen als Feinabstimmung bezeichneten Prozess für ihre Aufgabe zu spezialisieren.
Anstatt das gesamte Modell anhand eines aufgabenspezifischen Datensatzes neu zu trainieren, können Einzelpersonen einen Algorithmus namens Low-Rank-Adaptation (LoRA) verwenden, um das Modell effizienter zu spezialisieren.
Dies hat zu einer Welle neuer generativer KI-Modellvarianten für verschiedene Zwecke geführt, beispielsweise zur Erstellung von Aquarellbildern, die eine künstlerische Bewegung nachahmen. Aber es hat böswilligen Akteuren auch ermöglicht, Modelle zu erstellen, die hochwertige CSAM- und andere schädliche Bilder generieren können.
Um ein Modell zu prüfen, fordern Ingenieure es normalerweise auf schädliche Inhalte auf und überprüfen seine Ergebnisse. Dieses manuelle Prüfverfahren ist jedoch nicht skalierbar. Darüber hinaus kann die wiederholte Generierung abscheulicher Bilder unfavorable psychologische Auswirkungen auf menschliche Beurteiler haben.
Diese Bewertungsmethode versagt schnell beim Testen von CSAM, dessen Generierung zu irgendeinem Zweck in den USA und vielen anderen internationalen Gerichtsbarkeiten unlawful ist.
„Wir befinden uns in dieser sehr schwierigen State of affairs, in der wir aufgrund des Gesetzes selbst nicht auf die De-facto-Bewertungsmittel zurückgreifen können. Wir mussten das gesamte Instrumentarium wegwerfen und einen anderen Ansatz wählen“, sagt Suriyakumar.
Nachdem die Forscher von diesem Rätsel erfahren hatten, schlossen sie sich mit Thorn zusammen, um dieses Drawback anzugehen.
Eine nicht generative Lösung
Anstatt sich auf die Ergebnisse zu konzentrieren, konzentrierten sich die Forscher auf die Änderungen, die ein LoRA-Algorithmus während der Feinabstimmung vornimmt.
Ihre Technik untersucht diese Modifikationen, sogenannte LoRA-Adapter, um festzustellen, ob ein Modell für eine schädliche Funktion spezialisiert wurde, ohne eine Ausgabe zu generieren.
Mithilfe einer Technik namens Gaußsches Sondieren füttern die Forscher das Modell mit einer Reihe zufälliger Datenpunkte und analysieren, wie es diese Daten innerhalb seiner mehrschichtigen internen Struktur manipuliert.
„Wir lassen das Modell nie bis zum Ende laufen oder fordern das Modell auf, additionally generieren wir nie Bilder“, erklärt Suriyakumar.
Die Forscher erfassen diese Änderungen zu mehreren Zeitpunkten innerhalb der inneren Struktur des Modells und mitteln sie, um zusammenzufassen, wie der LoRA-Adapter die Berechnung des Modells verändert hat. Sie empfanden diese Reaktionen als starkes Sign dafür, wie ein Modell spezialisiert wurde.
Sie testeten ihre Methode anhand von Variationen von drei Modelltypen und verglichen die Ergebnisse mit Floor-Reality-Daten von LoRA-Adaptern, die dafür bekannt sind, CSAM, andere schädliche Bilder und sichere Inhalte zu generieren.
Ihre Methode battle bei der Identifizierung von Modellen, die zur Generierung von CSAM angepasst wurden, zu 100 Prozent genau.
„Es gibt eine Menge Bedenken hinsichtlich der Kindersicherheit im Zusammenhang mit KI, und das sind echte Bedenken, die angegangen werden müssen. Viele Kinder werden durch KI-Deepfakes geschädigt. Wir haben gezeigt, dass Gaußsche Sondierungen ein sehr nützliches Werkzeug sein können, und wir hoffen, dass die Forschungsgemeinschaft diesem Drawback wirklich mehr Aufmerksamkeit schenkt“, sagt Wilson.
Wichtig ist, dass ihre Technik skalierbar ist und relativ kostengünstig zu implementieren wäre. Da jeden Monat Tausende von Modellvarianten on-line veröffentlicht werden, ist Skalierbarkeit von entscheidender Bedeutung, um Prüfern dabei zu helfen, schädliche Anpassungen zu entfernen, bevor sie weit verbreitet werden.
Die Gaußsche Sondierung ist außerdem robuster als einige andere Prüftechniken, da ein böswilliger Akteur das Innenleben des Basismodells sorgfältig ändern müsste, um einer Entdeckung zu entgehen.
Zukünftig wollen die Forscher ihre Technik anhand einer größeren Menge von Modellvarianten evaluieren und untersuchen, ob Gaußsche Untersuchungen schädliche Fähigkeiten in Basismodellen erkennen können, bevor diese angepasst werden.
„Jetzt haben wir einen technologischen Ansatz, um dieses Drawback teilweise anzugehen. Es wurden so viele Anstrengungen in diese Zusammenarbeit gesteckt, die es uns ermöglichten, ein wirklich schwieriges Drawback anzugehen, das so vielen Kindern auf nationaler und weltweiter Ebene schadet. Hoffentlich können wir in diesem Bereich einen transformativen Einfluss haben“, sagt Ghassemi.
Diese Arbeit wurde teilweise durch das Bridgewater AIA Labs Analysis Fellowship unterstützt.