Startschuss: FIS-Forschungsprogramm mit CII für Vertrauen in Künstliche Intelligenz

Halle/ Saale 09.12.2025 - Wir freuen uns über den Start des Forschungsprogramms „Forensik intelligenter Systeme“ (FIS) in Halle/ Saale, das ein Zukunftsfeld der digitalen Gesellschaft adressiert: die Stärkung von Vertrauen in Künstlicher Intelligenz

• Die Analyse und Nachweisbarkeit von KI-Manipulationen stellt die Forensik vor grundlegende Herausforderungen.
• Es fehlen Standards, Werkzeuge und Verfahren, um Manipulationen an lernenden KI-Systemen zweifelsfrei zu erkennen und zu belegen.
• Das neue Forschungsprogramm FIS der Cyberagentur soll diese Lücke schließen und eine neue Qualität digitaler Aufklärungsfähigkeit schaffen.

Den Forschenden der Agentur für Innovation in der Cybersicherheit GmbH kommt es in dem Programm auf drei Lösungsansätze an, mit jeweiligen Fokus auf Text und Audio, Bild und Video, sowie autonome Systeme.

Als Teil des Projektverbundes INSIDE wird das CII seine Expertise in die Entwicklung forensischer Methoden einbringen, um Manipulationen textlicher KI-Anwendungen rechtssicher nachweisen zu können. Insgesamt sind an dem Programm drei Projektverbunde beteiligt, unter denen ein regelmäßiger Austausch geplant wird.

Das Projekt INSIDE ist ein Verbund aus mehreren Partnern, der neben dem CII die Technische Hochschule Mannheim (Projektpartner) angehört, sowie das Institute for Security Studies, die Universität der Bundeswehr München, University of Twente und FZI Forschungszentrum Informatik.

Die gesamte Pressemitteilung ist hier abrufbar; sowie hier in der englischer Fassung.

Bild: Vortrag zur Eröffnung Dr. Michael Littger / Cyberagentur (c)