"Keine wildgewordenen Maschinen": Dennis-Kenji Kipker im Tagesspiegel zu KI-Ausbruch

Im Tagesspiegel spricht CII-Research Director Prof. Dr. Dennis-Kenji Kipker mit Ralf Schönball über einen aufsehenerregenden Vorfall der vergangenen Wochen: Ein KI-Modell hatte im Rahmen einer Testaufgabe selbstständig eine bislang unbekannte Sicherheitslücke entdeckt, den geschützten Testbereich verlassen und mit gestohlenen Zugangsdaten weitere Systeme kompromittiert.

Prof. Kipker ordnet im Interview ein, warum solche Vorfälle keine Anzeichen für ein eigenständiges "Wollen" von KI-Systemen sind, sondern auf menschliche Kontroll- und Sicherheitslücken zurückgehen: KI verfolgt einzig das ihr vorgegebene Ziel: konsequent, aber ohne Bewusstsein für ungewollte Nebenwege, die niemand explizit ausgeschlossen hat. Er erklärt zudem, warum Sprachmodelle grammatikalisch überzeugende, aber inhaltlich falsche Antworten produzieren können, wie sich Nutzer:innen davor schützen und welche realen Bedrohungsszenarien, etwa durch staatliche Akteure wie die Gruppen "Volt Typhoon" oder "Sandworm", aktuell relevant sind.

› Das vollständige Interview ist bei Tagesspiegel Plus verfügbar.