"Forschung und Entwicklung" - Anhörung der Enquetekommission IV - "Künstliche Intelligenz" am 26.05.2025

18 STELLUNGNAHME 18/2603 A43 Stellungnahme - EK IV – Anhörung von Sachverständigen Enquetekommission IV Forschung und Entwicklung, 26. 5. 2025 Prof. Dr. Lucie Flek Transparente und kontrollierbare KI-Systeme Entscheidungsprozesse von KI-Systemen werden deutlich nachvollziehbarer, wenn sowohl die verwendeten Daten (Zusammensetzung und Repräsentativität) als auch die Architektur der Systeme (Dokumentation der Systemarchitektur, der Anwendungsgrenzen und Risiken) bekannt und überprüfbar sind. Um Diskriminierungen zu vermeiden, sollten KI-Systeme regelmäßig auf Verzerrungen geprüft werden (z.B. Benachteiligungen entlang sensibler Merkmale wie Geschlecht, Ethnie oder Alter). Dabei reichen internationale Benchmarks nicht aus, da sie häufig gesellschaftliche Realitäten adressieren, die nicht mit denen in Deutschland vergleichbar sind. Daher empfehle ich die gezielte Entwicklung und öffentliche Förderung von Fairness-Metriken und Bewertungsrahmen, die auf die spezifischen gesellschaftlichen Herausforderungen in Deutschland zugeschnitten sind. Unabhängige Prüfmechanismen, etwa durch zivilgesellschaftliche Tech-Initiativen oder öffentliche Community-Tests, spielen eine zentrale Rolle für demokratische Kontrolle und sollten entsprechend unterstützt werden. Parallel dazu ist der Ausbau digitaler und ethischer Kompetenzen notwendig – besonders im schulischen und hochschulischen Bereich. Struktur und Infrastruktur der KI-Forschung Um KI-Forschung nachhaltig und...