"Beispielloser Cyber-Vorfall" KI bricht aus – und attackiert eigenständig andere Firma
Experten warnen schon länger vor Künstlicher Intelligenz, die eigenständig Cyberangriffe verüben kann. Jetzt kam es tatsächlich erstmals dazu.
Ein außergewöhnlicher Zwischenfall beim Testlauf neuer KI-Modelle demonstriert das Risiko potenzieller Cyberattacken mit Künstlicher Intelligenz. Der US-Konzern OpenAI hat Verantwortung für einen Hackerangriff auf die KI-Plattform Hugging Face übernommen. Das Unternehmen sprach von einem "beispiellosen Cyber-Vorfall" und kündigte an, die Sicherheitsvorkehrungen zu verstärken.
Einige der fortschrittlichsten KI-Modelle von OpenAI seien bei einem Sicherheitstest aus einer eigentlich abgeschotteten Umgebung ausgebrochen, teilte OpenAI am Dienstag weiter mit. Die Software drang demnach eigenständig in Computersysteme der anderen Firma ein und verhielt sich dabei wie ein gewiefter Hacker.
Hugging Face, eine Plattform für KI-Anwendungen, hatte bereits vergangene Woche von einem Cyberangriff mithilfe von Künstlicher Intelligenz berichtet. Nun stellt sich heraus, dass dieser auf einen internen Versuch bei OpenAI zurückging, den die Software ungeplant zu weit trieb.
Alles nur um zu schummeln
OpenAI wollte laut dem Blogeintrag beim neuen Modell GPT-5.6 Sol und einer noch unveröffentlichten künftigen Version die Fähigkeit ausloten, Sicherheitslücken für Cyberattacken auszunutzen. Dafür sollte die Software Aufgaben eines Standard-Tests mit dem Namen ExploitGym lösen, der dafür oft in der Branche verwendet wird. Doch die KI-Modelle gingen viel weiter als erwartet, um die Aufgabe zu erfüllen.
Zunächst brach die Software aus der Testumgebung aus, indem sie sich selbstständig Zugang zum offenen Internet verschaffte – und zwar über eine bisher unentdeckt gebliebene Schwachstelle. Während sie eigenständig im Netz unterwegs waren, kamen die Modelle zu dem Schluss, dass es bei Hugging Face nützliche Daten und Lösungen für die ExploitGym-Aufgaben geben könnte. Deshalb habe die Software sich Zugang zu "geheimen Informationen" auf der Plattform verschafft, mit denen sie beim ExploitGym-Test schummeln könnte, erläuterte OpenAI.
Auch dafür setzte die OpenAI-Software unter anderem auf zuvor unentdeckte Sicherheitslücken – aber auch auf gestohlene Zugangsdaten. Hugging Face zufolge führte der KI-Angreifer Tausende Schritte aus und wechselte den Standort der digitalen Steuerzentrale der Attacke.
Das sind die Top-Fragen des Tages:
Angst vor KI-Cyberangriffen
Experten warnen schon lange vor Cyberattacken mit KI-Software. In den vergangenen Monaten heizte vorwiegend ein neues Modell des OpenAI-Rivalen Anthropic die Debatte an. Die Software mit dem Namen Mythos entdeckte über Jahrzehnte bisher unbekannte Sicherheitslücken bei viel genutzten Programmen und Online-Diensten. Die Schwachstellen konnten in der Folge gestopft werden. Doch zugleich führte das vor Augen, dass solche KI in den falschen Händen als Cyberwaffe dienen kann.
Künstliche Intelligenz: Noch eine KI bricht aus und attackiert andere Firma- Anbieter warnen: Spam-Mails nehmen ab – doch die neue Gefahr ist viel tückischer
- Behörde warnt: Sonnenfinsternis über Deutschland – das sollten Sie beachten
Anthropic macht die vollen Möglichkeiten von Mythos nur für ausgewählte Behörden und Unternehmen zugänglich. Für andere gibt es eine abgespeckte Version mit dem Namen Fable, der unter anderem die Cybersicherheits-Fähigkeiten fehlen. Nach Warnungen, dass die KI-Modelle von den Zügeln befreit werden könnten, musste Anthropic auf Geheiß der US-Regierung den Zugang zu Mythos und Fable zeitweise sperren. Die Blockade wurde inzwischen aufgehoben.
