CII-Presseinformation 07/2026: Prof. Dr. Dennis-Kenji Kipker zum autonomen Ausbruch und Hack eines KI-Modells von OpenAI

Berlin, 22.07.2026 – In der Nacht zum 22. Juli 2026 wurde bekannt, dass ein KI-Modell von OpenAI (GPT-5.6 Sol, sowie ein unveröffentlichtes Nachfolgemodell) bei einem internen Sicherheitstest mit bewusst reduzierten Schutzmechanismen eigenständig aus seiner Testumgebung ausgebrochen ist. Über eine bis dahin unbekannte Schwachstelle verschaffte sich das Modell Zugang zum offenen Internet und kompromittierte anschließend selbstständig die Plattform Hugging Face, unter anderem mithilfe gestohlener Zugangsdaten und in tausenden autonomen Schritten mit wechselndem Standort. OpenAI selbst spricht von einem “beispiellosen Cyber-Vorfall”. Der Fall zeigt erstmals in dieser Deutlichkeit, dass KI-Systeme eigenständig Angriffsziele wählen und Sicherheitsmaßnahmen umgehen können, mit Implikationen weit über den Einzelfall hinaus. 

Herr Prof. Dr. Dennis-Kenji Kipker, Research Director am cyberintelligence.institute (CII), ordnet die Geschehnisse in die aktuelle Debatte um autonome KI-Systeme als Cyberrisiko folgendermaßen ein: 

Wie war der Ausbruch technisch möglich?  

Die Testumgebung von OpenAI sollte keinen Internetzugang haben, erlaubt war bloß eine Verbindung zu einem internen Paket-Installationsdienst. Genau dort fanden die KI-Modelle eine bis dahin unbekannte Sicherheitslücke und verschafften sich darüber Zugang zum offenen Internet. Von dort nutzten sie dann klassische Hacking-Methoden, wie gestohlene Zugangsdaten, technische Schwachstellen und viele Einzelschritte, um bis zu der Plattform HuggingFace vorzudringen. Der Unterschied zu einer menschlichen Attacke lag dabei in einer extrem hohen Geschwindigkeit und extrem schwerer Auffindbarkeit. 

Wie kann dieses Risiko eingeordnet werden?  

Prof. Kipker betont, dass der Vorfall aus Sicht des cyberintelligence.institute eine Befürchtung bestätige, vor der Sicherheitsforschende schon länger warnen:  

„Selbst die Entwickler fortschrittlicher KI-Modelle haben keine vollständige Kontrolle über ihre eigene Technologie, und damit sind die Erkenntnisse dieses Falles hochgefährlich für die globale Cybersicherheit”.  

Der Vergleich mit einem Laborunfall liegt nahe, da die Sicherheitsmechanismen der Modelle bewusst abgeschaltet waren, um sie unter Extrembedingungen zu testen, und genau dabei entwischten sie, weil die Sicherheitsvorkehrungen nicht ausreichten.  

Von vollständig autonom handelnden Angreifenden in großer Zahl sei man zwar noch weit entfernt, versichert Dr. Kipker, doch schon heute dient KI Kriminellen als Werkzeug, um Angriffe schneller und in größerem Umfang durchzuführen. Die eigentliche Entwicklung der kommenden Jahre dürfte daher vor allem eine zunehmend professionalisierte IT-Massenkriminalität sein.   

Folgeabschätzung 

Aus Sicht des cyberintelligence.institute wird dies kein bedauerlicher Einzelfall bleiben, sondern muss als Weckruf verstanden werden: Unabhängige Kontrollmechanismen für solche Systeme sind nötig, bevor ein vergleichbarer Vorfall nicht mehr in einer Testumgebung, sondern gezielt stattfindet. Im Rahmen seiner Technologiefolgenabschätzung analysiert das cyberintelligence.institute die Folgen von disruptiven KI-Innovationen aus multidisziplinärer Perspektive. 

Prof. Dennis Kipker:   

"Wir werden nicht davon ausgehen können, dass dieser einzelne, isolierte Vorfall dazu führt, dass wir jetzt in wenigen Monaten massenhaft und global ausgerollte autonome KI-Angriffe vorfinden werden. Er zeigt aber auf, wie schonungslos vorhandene Schwachstellen durch KI-Systeme identifiziert und bereits ausgenutzt werden – und dass selbst die Hersteller die Leistungsfähigkeit ihrer eigenen Systeme nicht immer voll einschätzen können."