ChatGPT & Co für sicherheitsrelevante Einsatzfelder nutzbar machen Am 04. Juni 2025 startete die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) die Ausschreibung für HEGEMON – ei...

Am 04. Juni 2025 startete die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) die Ausschreibung für HEGEMON – ein neues Forschungsprogramm zur Entwicklung ganzheitlicher Benchmarks und angepasster KI-Modelle für sicherheitskritische Anwendungen. In einem wettbewerbsbasierten Verfahren sollen generative Foundation Models erstmals prototypisch für komplexe Aufgaben im Geoinformationswesen angepasst und evaluiert werden – im direkten Leistungsvergleich „jeder gegen jeden“. Wer kennt es nicht? Man möchte ein Bild generieren oder sich die wesentlichen Inhalte eines langen Texts zusammenfassen lassen. Der erste Impuls führt zu einem generativen KI-Dienst basierend auf einem Foundation Model (oft ein großes multimodales Sprachmodell wie GPT-4o), der mittels Texteingabe das gewünschte Bild bzw. die gewünschte Zusammenfassung generieren soll. Leider können die Ergebnisse der ersten Versuche oft unbefriedigend oder auch fehlerhaft sein. Die breiten Einsatzmöglichkeiten von Foundation Models und die damit verbundene mögliche Beschleunigung von Prozessen treiben dabei auch deutsche Sicherheitsbehörden um. Projiziert man das Anwendungsbeispiel der Textzusammenfassung allerdings auf den Sicherheitskontext – bspw. ein Soldat, der ein solches Tool zur Zusammenfassung eines langen Befehls nutzt – erfährt die mögliche Fehlerquelle eine wesentlich umfassendere Bedeutung. Bisher existieren speziell für den Sicherheitskontext noch keine umfassenden Tests (sogenannte...