Wie Instagram KI für die Moderation von Inhalten nutzt: Ein tiefer Einblick

Instagram nutzt in großem Umfang künstliche Intelligenz (KI) zur Filterung und Moderation von Inhalten, um ein sicheres und positives Benutzererlebnis zu gewährleisten. Die KI-gestützten Systeme erkennen und entfernen automatisch Inhalte, die gegen die Neighborhood-Requirements von Instagram verstoßen, wie etwa Hassreden, Mobbing, Nacktheit, Gewalt und Spam, bevor solche Beiträge von Benutzern gemeldet werden. Dieser Prozess umfasst eine Kombination aus Modellen des maschinellen Lernens, der Verarbeitung natürlicher Sprache und Laptop-Imaginative and prescient-Technologien wie Faltungs-Neuronalen Netzen. Dieser Artikel möchte etwas Licht ins Dunkel bringen, was unter der Haube passiert, während Instagram auf seiner Plattform ein positives und freundliches Benutzererlebnis pflegt.

KI-Content material-Moderation auf Instagram

Die KI-Systeme von Instagram erkennen und entfernen automatisch Inhalte, die gegen die Neighborhood-Richtlinien verstoßen, darunter Hassreden, Mobbing, Nacktheit, grafische Gewalt und Spam, oft bevor ein Benutzer sie meldet.

1. ICHMagier/Videoanalyse:

Instagram verwendet tiefes CNN Klassifikatoren, um verbotene visuelle Elemente zu erkennen. Es trainiert beispielsweise Faltungsnetze (häufig Backbones im ResNet-Stil) auf großen, gekennzeichneten Datensätzen mit „unangemessenen vs. sicheren Bildern“. Es verwendet auch Objekterkennungsmodelle (einstufige Detektoren wie YOLO oder zweistufige Detektoren wie Sooner R-CNN), um explizite Inhalte zu lokalisieren. Die Muttergesellschaft von Instagram, Meta, weist darauf hin, dass sie YOLO für schnelles Echtzeit-Videoscannen und schnelleres R-CNN verwenden kann, beispielsweise mit ResNet- oder ShuffleNet-Backbones, wenn Genauigkeit von größter Bedeutung ist. Tatsächlich CNN markiert ein Bild, wenn seine Pixel mit Mustern von Nacktheit, Waffen, grafischen Darstellungen und grafischer Gewalt übereinstimmen.

2. Optische Zeichenerkennung (Rosetta):

Viele Beiträge betten Textual content ein B. Memes, Screenshots und Bilder mit Untertiteln, daher verwendet Instagram eine spezielle OCR-Pipeline (Metas Rosetta-System), um überlagerten Textual content zu extrahieren. Dann führt Rosetta ein zweistufiges Imaginative and prescient-Modell aus, zunächst eine schnellere R-CNN-Variante, die rechteckige Textbereiche erkennt, dann liest ein auf Resnet-18 basierendes CNN mit CTC-(Sequenzen-)Verlust jedes Wort.

Beispielsweise würde ein Meme mit der Aufschrift „1 Like = 1 Gebet“ erkannt und transkribiert. Dieser Textual content wird in die Moderations-Engine eingespeist. Der CNN+LSTM-Erkenner von Rosetta wurde anhand synthetischer und realer mehrsprachiger Daten trainiert, sodass Instagram in den Bildern versteckte Hassreden oder Spam erkennen kann.

3. Sprachverständnis (NLP):

Bildunterschriften, Kommentare und Nachrichten werden von natürlichsprachlichen Modellen verarbeitet. Instagram wendet Algorithmen an, typischerweise transformatorbasierte Textklassifikatoren und RNNs, um Inhalte anhand der Neighborhood-Richtlinien zu bewerten.

Kommentare werden beispielsweise mit erlernten Einbettungen oder BERT-ähnlichen Modellen vektorisiert und einem Spam-/Hass-Klassifikator zugeführt. Beleidigende Sprache, Belästigung, Obszönität oder Hass werden durch erlernte Muster im Textual content erkannt. Während genaue interne Modelle proprietär sind, hat Meta gezeigt, dass es auf dem neuesten Stand der Technik ist NLP Architektur, um Dutzende von Sprachen im großen Maßstab zu moderieren. In der Praxis werden Beiträge, die entweder vom Imaginative and prescient- oder NLP-Subsystem markiert werden, je nach Vertrauen entweder automatisch blockiert oder zur menschlichen Überprüfung weitergeleitet.

Dieser hybride KI-Mensch-Ansatz vereint die Geschwindigkeit und den Umfang von KI mit der differenzierten Entscheidungsfindung von Menschen, und das Suggestions menschlicher Moderatoren wird dann verwendet, um Modelle neu zu trainieren, wodurch das System mit der Zeit intelligenter wird.

Personalisierung und Verbesserung der Benutzererfahrung

Der Feed, die Registerkarte „Erkunden“ und die Reels von Instagram basieren auf ML-Rating-Modellen, um das Erlebnis jedes Benutzers zu personalisieren. Das System ist ein mehrstufiger Empfehlungsgeber:

Zunächst ruft es einen großen Pool an Kandidatenbeiträgen von verfolgten Konten, Development-Tags, Beiträgen ähnlicher Benutzer usw. ab. Anschließend ordnet es sie mithilfe von Deep Studying ein. Beim Abruf verwendet Instagram ein neuronales Netzwerk mit zwei Türmen. Ein „Turm“ verarbeitet Benutzermerkmale wie Demografie, Geschichte, Interessen und der andere verarbeitet Medienmerkmale wie Submit-Metadaten und Inhaltseinbettungen.

Jeder Turm ist typischerweise ein Feedforward-Netzwerk, das oft mit Word2Vec-ähnlichen Einbettungen von IDs beginnt und kompakte Benutzer-/Elementvektoren lernt. Das Trainingsziel besteht darin, die Benutzer- und Artikeleinbettungen zu schließen, wenn der Benutzer mit dem Artikel interagiert. Zum Zeitpunkt der Bereitstellung erzeugen der Tower des Benutzers und ein ANN-Index (Approximated Nearest Neighbors) (z. B. unter Verwendung von FAISS) Tausende von Kandidatenbeiträgen für das Rating. Dieser Two-Tower-Ansatz ist hochgradig zwischenspeicherbar und ermöglicht den Echtzeitabruf von Milliarden von Elementen.

Sobald Kandidaten abgerufen werden, wendet Instagram a an zweistufiges Deep-Rating-Modell. Die erste Stufe des Rankings ist ein leichtes neuronales Netzwerk, das Tausende von Beiträgen professional Benutzer bewertet (häufig Destillation von Wissen aus einem schwereren Modell). Die zweite Stufe ist ein schwereres Multi-Job-Multi-Label-Neuronales Netzwerk (MTML), das die 100 besten Kandidaten nimmt und detaillierte Engagement-Wahrscheinlichkeiten vorhersagt (Klicken, Liken, Kommentieren, Ansehen usw.). Dieses MTML-Modell ist ein Feedforward-Deep-Internet, das über Backprop trainiert wird und umfangreiche Funktionen wie Benutzer aufnimmt Interessen, Beitragsinhaltsvektoren, vergangene Interaktionsmetriken usw. und mehrere Wahrscheinlichkeiten gleichzeitig. Kurz gesagt, ein tiefes neuronales Netzwerk übernimmt sowohl das Abrufen als auch das endgültige Rating von Beiträgen und ermöglicht es Instagram, Feeds nach den Vorlieben jedes Benutzers zu sortieren. Diese Personalisierung hält das Engagement hoch, indem für jeden Benutzer die relevantesten Inhalte angezeigt werden.

KI gegen Cybermobbing und Spam

Über Inhalte und Rankings hinaus setzt Instagram KI ein, um Spam-Bots und Belästigungen zu bekämpfen. Zum Beispiel,

1. Spam-Erkennung: Konten, die Massen-DMs oder Kommentare senden (z. B. Phishing-Betrug), werden von gekennzeichnet Musterlernmodelle. Instagram kann binäre Klassifikatoren wie Ensemble-Modelle oder neuronale Netze auf Funktionen wie Posting-Häufigkeit, Nachrichtenähnlichkeit, Klickraten und Kontometadaten trainieren. Alle unnatürlichen Muster wie automatisierte Direktnachrichten, wiederholte Hyperlinks oder „Gefällt mir“- oder „Gefällt mir“-Schemata lösen Anti-Spam-Filter aus. Rosettas OCR hilft auch hier; Es kann Spam-Textual content in Bildern/Memes lesen. Nach der Kennzeichnung können Konten eingeschränkt oder entfernt werden.
2. Cybermobbing und Belästigung: NLP-Modelle achten auf den Gesprächston. Transformer oder wiederkehrende Netze analysieren die Stimmung und den Kontext von Kommentaren oder DMs. Das System versucht, böse Inhalte von harmlosem Geplänkel zu unterscheiden, häufig mithilfe kontextbezogener Einbettungen. Wenn ein Kommentar beleidigend klingt, kann er automatisch gefiltert werden. Instagram verfügt über Funktionen wie das Einschränken oder Ausblenden von Wörtern, um mithilfe von KI Mobbing zu verhindern. Diese Sprachfilter laufen kontinuierlich, um Hassreden und Belästigungen zu blockieren.
3. Integrität der Gemeinschaft: ML Außerdem wird das Empfehlungsdiagramm bereinigt: Beiträge mit vielen Benutzermeldungen oder einer Historie von Verstößen können aufgrund von Inhaltsintegritätssignalen herabgestuft werden. Beim Abruf wendet Instagram beispielsweise Geschäftsregeln an, um anstößige Beiträge von Kandidaten zu löschen. Im proaktiven Modus wendet das System nach der Berechnung des Hauptranking-Scores einen abschließenden Reranking-Filter an und entfernt oder stuft Beiträge zurück, die durch Integritätsprüfungen gekennzeichnet wurden.

Durch die Kombination automatisierter Filter mit menschlichen Reizen sorgt die KI von Instagram für Sicherheit und Authentizität. Es kann Benutzer zu der Frage „Sind Sie sicher?“ anregen. wenn ein Kommentar beleidigend aussieht. Zusammengenommen blockieren diese Systeme täglich Millionen von Spam- oder hasserfüllten Interaktionen, schützen Benutzer und halten die Plattform funktionsfähig.

Zusammenfassung der von Instagram verwendeten Techniken

Was sind die Vorteile von KI-Moderationen?

Eine manuelle Inhaltsmoderation ist für Plattformen mit Millionen oder Milliarden von Nutzern, die täglich große Mengen an Inhalten generieren, nicht möglich. Aber mit KI ist es möglich

1. Skaliert die Moderation auf Milliarden von Beiträgen professional Tag.
2. Entfernt schädliche Inhalte schnell, oft bevor sie jemand meldet.
3. Verbessert die Sicherheit und schafft eine unterstützendere Gemeinschaft.
4. Personalisiert das Erlebnis und sorgt dafür, dass Inhalte related und ansprechend bleiben.

Diese Systeme ermöglichen es Instagram, ein Content material-Volumen zu bewältigen, das für Menschen allein unmöglich wäre, und verbessern so sowohl die Benutzer- als auch die Plattformqualität.

Herausforderungen und Grenzen von KI-Moderationen

Selbst die fortschrittlichsten KI-Systeme sind nicht perfekt. Die Moderation von Instagram steht vor einigen Herausforderungen, wie zum Beispiel:

1. Falsch Constructive: Künstlerische oder pädagogische Nacktheit wurde fälschlicherweise als Verstoß gekennzeichnet.
2. Falsche Adverse: Schädliche Inhalte schlüpfen aufgrund des Kontexts oder absichtlicher Umgehung, beispielsweise durch die Verwendung veränderter Schreibweisen oder verzerrter Bilder.
3. Voreingenommenheit und Equity: Modelle können menschliche Etikettierungsvorurteile widerspiegeln und zu einer ungleichmäßigen Moderation zwischen Sprachen, Kulturen oder Gemeinschaften führen.
4. Transparenz: Benutzer verstehen oft nicht vollständig, wie Moderationsentscheidungen getroffen werden, was zu Frustration über „Schattenverbote“ oder Beitragsentfernungen führt.

Abschluss

Die KI von Instagram ist eine umfassende Mischung aus Laptop Imaginative and prescient, Verarbeitung natürlicher Sprache und groß angelegten Empfehlungsmodellen. Hochmoderne CNNs mit Architekturen wie ResNet, EfficientNet, YOLO und schneller R-CNN Umgang mit Bild-/Videoinhalten. Superior OCR (Rosetta) extrahiert Textual content aus Memes, um versteckte Verstöße zu kennzeichnen. Gleichzeitig analysieren Deep-NLP-Modelle Benutzertexte, um Hassreden oder Spam zu erkennen. Andererseits lernen neuronale Empfehlungssysteme für die Two Tower Retrieval- und Multitasking-Rating-Netzwerke kontinuierlich aus dem Benutzerverhalten, um jeden Feed individuell anzupassen. Dieser leistungsstarke KI-gesteuerte Ansatz ermöglicht es Instagram, auf globaler Ebene zu moderieren und zu personalisieren. Während Probleme wie Voreingenommenheit und Erklärbarkeit bestehen bleiben, sind diese Modelle von zentraler Bedeutung, um Instagram für seine Milliarden von Nutzern sicher, ansprechend und related zu halten.

Häufig gestellte Fragen

Ich bin Information Science Trainee bei Analytics Vidhya und arbeite leidenschaftlich an der Entwicklung fortschrittlicher KI-Lösungen wie generative KI-Anwendungen, große Sprachmodelle und hochmoderne KI-Instruments, die die Grenzen der Technologie verschieben. Zu meinen Aufgaben gehört es auch, ansprechende Bildungsinhalte für die YouTube-Kanäle von Analytics Vidhya zu erstellen, umfassende Kurse zu entwickeln, die das gesamte Spektrum von maschinellem Lernen bis hin zu generativer KI abdecken, und technische Blogs zu verfassen, die grundlegende Konzepte mit den neuesten Innovationen in der KI verbinden. Dadurch möchte ich zum Aufbau intelligenter Systeme beitragen und Wissen teilen, das die KI-Neighborhood inspiriert und stärkt.