Über zwei Drittel glauben, dass eine externe Überprüfung von KI-Implementierungen der beste Weg ist, KI-Sicherheitsprobleme zu identifizieren
HackerOneein führendes Unternehmen im Bereich der von Menschen gesteuerten Sicherheit, veröffentlichte Daten, aus denen hervorgeht, dass 48 % der Sicherheitsexperten glauben, dass KI das größte Sicherheitsrisiko für ihr Unternehmen darstellt. Vor der Veröffentlichung seines jährlichen Hacker-Powered Safety Report veröffentlichte HackerOne erste Ergebnisse, darunter Daten aus einer Umfrage unter 500 Sicherheitsexperten. Wenn es um KI geht, waren die Befragten am meisten besorgt über den Verlust von Trainingsdaten (35 %), die unbefugte Nutzung von KI innerhalb ihrer Organisationen (33 %) und das Hacken von KI-Modellen durch Außenstehende (32 %).
Auf die Frage nach dem Umgang mit den Herausforderungen, die KI-Sicherheitsprobleme mit sich bringen, gaben 68 % an, dass eine externe und unvoreingenommene Überprüfung von KI-Implementierungen der effektivste Weg sei, KI-Sicherheitsprobleme zu identifizieren. AI Crimson Teaming bietet diese Artwork der externen Überprüfung durch die globale Sicherheitsforscher-Neighborhood an, die dabei hilft, KI-Modelle vor Risiken, Vorurteilen, böswilligen Exploits und schädlichen Ergebnissen zu schützen.
„Während wir immer noch einen Branchenkonsens über KI-Sicherheit und Greatest Practices erzielen, gibt es einige klare Taktiken, mit denen Unternehmen Erfolg hatten“, sagte Michiel Prins, Mitbegründer von HackerOne. „Anthropic, Adobe, Snap und andere führende Organisationen vertrauen alle darauf, dass die globale Sicherheitsforscher-Gemeinschaft eine fachkundige Meinung Dritter zu ihren KI-Einsätzen liefert.“
Weitere Forschungen von a Von HackerOne gesponserter Bericht des SANS Institute untersuchten die Auswirkungen von KI auf die Cybersicherheit und stellten fest, dass mehr als die Hälfte (58 %) der Befragten davon ausgehen, dass KI zu einem „Wettrüsten“ zwischen den Taktiken und Techniken von Sicherheitsteams und Cyberkriminellen beitragen könnte. Die Studie ergab auch, dass der Einsatz von KI für die Produktivität von Sicherheitsteams optimistisch ist: 71 % gaben an, mit der Implementierung von KI zur Automatisierung mühsamer Aufgaben zufrieden zu sein. Allerdings waren die Befragten davon überzeugt, dass KI-Produktivitätssteigerungen den Gegnern zugute gekommen seien, und waren am meisten besorgt über KI-gestützte Phishing-Kampagnen (79 %) und die automatisierte Ausnutzung von Schwachstellen (74 %).
„Sicherheitsteams müssen die besten Anwendungen für KI finden, um mit Gegnern Schritt zu halten und gleichzeitig die bestehenden Einschränkungen zu berücksichtigen – sonst riskieren sie, sich selbst mehr Arbeit zu machen“, sagte Matt Bromiley, Analyst beim SANS Institute. „Unsere Forschung legt nahe, dass KI als Wegbereiter und nicht als Bedrohung für Arbeitsplätze betrachtet werden sollte. Durch die Automatisierung von Routineaufgaben können sich Sicherheitsteams auf strategischere Aktivitäten konzentrieren.“
Melden Sie sich für die kostenlosen insideAI-Information an E-newsletter.
Begleiten Sie uns auf Twitter: https://twitter.com/InsideBigData1
Treten Sie uns auf LinkedIn bei: https://www.linkedin.com/firm/insideainews/
Begleiten Sie uns auf Fb: https://www.fb.com/insideAINEWSNOW