KI rechtssicher gestalten: Projekt INSIDE zur KI-Forensik mit CII gestartet

INSIDE vereint Expert:innen aus Künstlicher Intelligenz, Cybersicherheit, digitaler Forensik und IT-Recht des cyberintelligence.institute unter Leitung der Technischen Hochschule Mannheim, im Verbund mit dem Institute for Security and Safety, dem Institut für Technik Intelligenter Systeme (ITIS) der Universität der Bundeswehr München, der University of Twente sowie dem Forschungszentrum Informatik (FZI).

Mit dem Start des Forschungsprojekts INSIDE setzt das CII ein starkes Zeichen für die Zukunft der Cybersicherheit und der digitalen Souveränität. Dem Projekt liegen folgende Voraussetzungen und Ziele zu Grunde: 

• Die Analyse und Nachweisbarkeit von KI-Manipulationen stellt die Forensik vor grundlegende Herausforderungen.
• Es fehlen Standards, Werkzeuge und Verfahren, um Manipulationen an lernenden KI-Systemen zweifelsfrei zu erkennen und zu belegen.
• Das neue Forschungsprogramm FIS der Cyberagentur soll diese Lücke schließen und eine neue Qualität digitaler Aufklärungsfähigkeit schaffen.

Den Forschenden der Agentur für Innovation in der Cybersicherheit kam es in dem Programm auf drei Fokusbereiche: Text und Audio, Bild und Video, sowie autonome Systeme. 

Als Teil des Projektverbundes INSIDE bringt das CII seine regulative Expertise bei der Entwicklung forensischer Methoden ein, die Manipulationen textlicher KI-Anwendungen rechtssicher nachweisen zu können.

Zur vollständigen Pressemitteilung der Cyberagentur: https://www.cyberagentur.de/presse/ki-rechtssicher-gestalten/