Anthropic berichtete am Donnerstag, dass chinesische Hacker seinen KI-Chatbot Claude für die seiner Meinung nach erste Cyberspionageoperation nutzten, die überwiegend mithilfe künstlicher Intelligenz durchgeführt wurde.
Das Unternehmen gab an, dass Cyberkriminelle Claude damit beauftragt hätten, etwa 30 Technologieunternehmen, Finanzinstitute, Chemiehersteller und Regierungsbehörden anzugreifen. Hacker nutzten die KI-Plattform, um Benutzernamen und Passwörter aus Unternehmensdatenbanken zu sammeln und diese Anmeldeinformationen anschließend auszunutzen, um non-public Daten zu stehlen. Eine „kleine Anzahl“ dieser Angriffe sei erfolgreich gewesen, stellte Anthropic fest.
„Wir glauben, dass dies der erste dokumentierte Fall eines groß angelegten Cyberangriffs ist, der ohne wesentliches menschliches Eingreifen durchgeführt wurde“, sagte Anthropic.
Das Wall Road Journal berichtete erstmals über diese Entwicklung. Anthropic stellte ab Mitte September verdächtige Aktivitäten fest. Eine Untersuchung brachte die Aktivität mit einer Spionagekampagne in Verbindung, die wahrscheinlich von einer staatlich geförderten chinesischen Gruppe durchgeführt wurde. Die Untersuchung ergab, dass Hacker Claude getäuscht hatten und glaubten, es handele sich um einen legitimen Mitarbeiter einer Cybersicherheitsfirma, der Abwehrtests durchführte. Cyberkriminelle haben den Angriff auch in kleine Aufgaben zerlegt, um ihre Aktionen zu verschleiern.
Die Operation erforderte nur minimales menschliches Eingreifen. „Die KI stellte Tausende von Anfragen professional Sekunde, eine Angriffsgeschwindigkeit, die für menschliche Hacker einfach unmöglich gewesen wäre“, erklärte Anthropic.
Anthropic geht davon aus, dass das Ausmaß und die Komplexität von KI-Cyberangriffen zunehmen werden, da KI-Agenten immer häufiger eingesetzt werden.