Die fortschrittlichen Instruments für künstliche Intelligenz von Anthropic zum Auffinden von Software program-Schwachstellen haben in den Medien große Aufmerksamkeit erregt. Im März berichteten Mozilla-Forscher, dass Claude Opus 4.6 von Anthropic in zwei Wochen 14 hochschwere Fehler und 22 CVEs identifizierte und damit die Leistung menschlicher Forscher bei Mozilla übertraf.

Verwendung einer Testversion von Anthropic Mythos Modell behaupteten Sicherheitsforscher von Calif, einem in Palo Alto ansässigen Cybersicherheitsunternehmen, Sicherheitsmaßnahmen von Apples macOS umgangen zu haben. Sie gaben an, dass ein „Privilege Escalation Exploit“ in Kombination mit einem anderen Angriffsvektor es böswilligen Akteuren ermöglichen könnte, die Kontrolle über ein Zielgerät zu erlangen.

Die Forscher erklärten, sie hätten Software program entwickelt, die zwei separate Fehler miteinander verknüpft, und verschiedene Techniken eingesetzt, um „den Speicher des Mac zu beschädigen“, um auf eingeschränkte Komponenten zugreifen zu können. Die Entdeckung des Exploits dauerte fünf Tage und erforderte die Zusammenarbeit menschlicher Hacker und des Mythos-Modells.

Apple prüft derzeit den Bericht der Forscher, um seine Ergebnisse zu verifizieren. „Sicherheit hat für uns oberste Priorität und wir nehmen Meldungen über potenzielle Schwachstellen sehr ernst“, sagte ein Apple-Sprecher Das Wall Avenue Journal.

Anthropic startete Mythos, ursprünglich bekannt als Mission Glasswing, im April mit einem auf rund 40 ausgewählte Technologieunternehmen beschränkten Zugang. Das Unternehmen berichtete, dass Mythos Tausende von Schwachstellen mit hohem Schweregrad in verschiedenen Betriebssystemen und Webbrowsern identifiziert hat und warnt vor schwerwiegenden Folgen, wenn solche Funktionen in die Hände böswilliger Personen geraten.

Michał Zalewski, ein Google-Sicherheitsforscher, wertete die Erkenntnisse aus Kalifornien aus, allerdings ohne direkte Beteiligung an der Untersuchung. Er wies darauf hin, dass ein gewisser Hype um Mythos zwar „übertrieben“ sei, es aber immer noch Potenzial für umfangreiche Schwachstellenforschung und Codeprüfungen biete.

In den Diskussionen über die Fähigkeiten von Mythos wurden Bedenken hinsichtlich der potenziellen Gefahren des Modells laut, wenn es öffentlich zugänglich gemacht würde. Gary McGraw, ein ehemaliger Cybersicherheitsmanager bei Synopsys, beteiligte sich an der Diskussion und versicherte, dass die Technologie nicht von Natur aus zu gefährlich sei, um veröffentlicht zu werden. Er betonte die Notwendigkeit, die tatsächlichen Herausforderungen der Cybersicherheit anzugehen, anstatt den Zugriff auf nützliche Instruments einzuschränken.

---

Hervorgehobener Bildnachweis

OpenAI scheint Inhalte von Reddit für das Coaching von ChatGPT zu einer Entbindung zu sein, was einen Drehpunkt für zuverlässigere und überprüfbare Informationsquellen signalisiert. Diese Entscheidung spiegelt eine grundlegende Verschiebung der Entwicklung des KI -Modells wider und priorisiert die Genauigkeit gegenüber Crowdsourced -Gesprächsdaten.

Der Grund für die Verschiebung

Reddit struggle jahrelang eine wertvolle Ressource für die Ausbildung von KI, da die Vielzahl von Diskussionen einen natürlichen, konversativen Stil lieferte, der den Modellen half, den Dialog zu lernen. Diese Daten umfassten jedoch auch erhebliche Nachteile wie Fehlinformationen, Inhalte von geringer Qualität und Benutzer, die aktiv versuchen, Diskussionen zu manipulieren, um die KI-Antworten zu beeinflussen.

Diese gemeldete Veränderung ist Teil eines breiteren Branchentrends, der auf die Verwendung vertrauenswürdiger und überprüfbarer Datenquellen drängt. Ziel ist es, die Genauigkeit von AI-generierten Inhalten zu verbessern, die Ausbreitung von Fehlinformationen zu verringern und die Modelle schwieriger zu manipulieren.

Was bedeutet dies für Benutzer

Die Abwanderung von Reddit beinhaltet einen Kompromiss.

Benutzer können erwarten, konsistentere und faktenbasierte Antworten von zu erhalten Chatgpt. Andererseits können die schrullige, gemeinschaftsgetriebene Persönlichkeit, die Reddits vielfältige Inhalte für die Antworten des Modells gebracht haben, im Laufe der Zeit verblassen.

Dieser Fokus auf Glaubwürdigkeit unterstreicht die Zukunft der KI -Entwicklung, in der Transparenz und Vertrauen in Schulungsdaten immer wesentlich werden. Da KI -Modelle zunehmend in professionelle, akademische und Geschäftsumgebungen integriert werden, hat die Nachfrage nach Zuverlässigkeit Vorrang vor chaotischer und unvorhersehbarer Natur nicht abgetanter On-line -Foren.

---

Ausgewähltes Bildnachweis