Nachgehört: Das KI-Amt braucht mehr als schnelle Modelle

Wenn eine Behörde ausfällt, bleibt das Problem nicht digital

Eine Behörde kann nicht einfach nur schneller werden. Sie muss zugleich erreichbar, sicher und handlungsfähig bleiben. Genau an diesem Widerspruch setzt die Folge „Das KI-Amt“ von „Tech, KI & Schmetterlinge“ an. Sascha Lobo spricht mit Lars Kukuk, dem Chief Information Security Officer der Bundesagentur für Arbeit, und Alexander Schellong, Managing Director Cyber Security bei Schwarz Digits.

Lobo beschreibt zu Beginn drei miteinander verbundene Anforderungen: Verwaltung soll digitaler, effizienter und schneller werden, während Cyberangriffe zunehmen und künstliche Intelligenz selbst zum neuen Angriffsvektor werden kann (ca. 00:03-00:04). Kukuk bestätigt den Zielkonflikt und betont, KI müsse mit kontrollierter Governance eingeführt werden (ca. 00:04-00:05).

Die Sendung ist zugleich ein Unternehmensformat: Sie entsteht in Zusammenarbeit mit Schwarz Digits. Aussagen der Unternehmensseite sind deshalb als Gesprächsbeiträge und Interessenperspektiven einzuordnen, nicht als unabhängige Lagebewertung.

Das Originalargument der Folge

Kukuk schildert, dass die Bundesagentur für Arbeit eigene KI-Anwendungen in einer lokalen Umgebung für Sicherheitsaufgaben erprobt. Er beschreibt einen Ansatz, bei dem Modelle mit organisationsinternen Daten arbeiten und nicht beliebig externe Modelle verwendet werden (ca. 00:05-00:06).

Ein Schwerpunkt ist das Tempo von Schwachstellen und Angriffen. Klassische Patch- und Bewertungsprozesse könnten nach Darstellung der Gesprächspartner zu langsam werden, wenn Schwachstellen schneller ausgenutzt werden. Genannt werden dabei risikobasierte Priorisierung, Netzsegmentierung, Zero-Trust-Prinzipien und eine stärkere Einordnung danach, ob ein System nach außen oder nur intern erreichbar ist (ca. 00:07-00:10).

Schellong erweitert den Blick auf KI-Agenten. Sie könnten künftig viele Schnittstellen bedienen und weitreichende Rechte erhalten. Daraus entstehe ein Sicherheitsrisiko, wenn Berechtigungen nicht begrenzt, zeitlich eingeschränkt und fortlaufend überprüft werden (ca. 00:13-00:15). Kukuk beschreibt ergänzend die Idee, KI-Agenten in bestehende Sicherheitskonzepte einzubinden und mit möglichst wenigen Rechten auszustatten (ca. 00:20-00:22).

Die Folge verbindet diese technische Ebene mit digitaler Souveränität. Diskutiert werden lokale oder hybride Infrastrukturen, austauschbare Modelle und die Gefahr, von einzelnen Anbietern oder geopolitischen Entscheidungen abhängig zu werden (ca. 00:30-00:31; 00:36-00:39). Schellong beschreibt außerdem ein mögliches Risiko, wenn Modelle oder Rechenressourcen kurzfristig nicht mehr verfügbar wären (ca. 00:38-00:39).

Am Ende verschiebt sich die Perspektive von einzelnen Anwendungen zum Staat als möglichem KI-Ökosystem. Schellong plädiert für Führung, Agilität und geringe Abhängigkeiten. Kukuk nennt kontrollierte Einführung, Notfallplanung, Modell-Austauschbarkeit und Resilienz als zentrale Bedingungen (ca. 01:04-01:10).

Quellenprüfung: Was die Folge belegt - und was nicht

Belegt ist durch das Transkript, welche Positionen die drei Gesprächspartner vertreten und welche Beispiele sie nennen. Belegt ist außerdem, dass die Folge die Bundesagentur für Arbeit und Schwarz Digits als Gesprächskontext miteinander verbindet.

Nicht belegt sind durch die Sendung allein die genannten Größenordnungen zu Beschäftigten, Budgets, Überweisungen, Schwachstellen, Angriffsgeschwindigkeiten oder Erfolgsquoten von KI-Projekten. Eine im Gespräch erwähnte Studie zu Proofs of Concept im öffentlichen Sektor wird nicht bibliografisch nachgewiesen. Ihre Zahl von etwa 20 bis 25 Prozent wird deshalb nicht als unabhängiger Befund übernommen.

Auch Aussagen über geopolitische Akteure, konkrete Modelle, angebliche Projekte oder die Geschwindigkeit von Exploits bleiben in der Folge teilweise ohne überprüfbare Primärbelege. Sie werden hier als Gesprächsaussagen wiedergegeben. Beobachtete Folgen für Bürgerinnen und Bürger, Beschäftigte, Behörden oder kritische Infrastrukturen weist die Folge nicht anhand eigener Outcome-Daten nach.

Der Wirkpfad

Das ist ein Wirkungspotenzial, keine beobachtete Wirkung. Ob sich der positive oder negative Pfad durchsetzt, hängt laut Folge insbesondere von Governance, Berechtigungen, Modell-Austauschbarkeit, Sicherheitsprüfung und Resilienzplanung ab.

Wirkungspotenzial für Mensch, Planet und Demokratie

Mensch

Der positive Hauptpfad betrifft die Funktionsfähigkeit öffentlicher Leistungen. Wenn KI Verwaltungsabläufe unterstützt, Sicherheitslücken schneller priorisiert und Ausfälle besser vorbereitet werden, kann das die Erreichbarkeit staatlicher Leistungen verbessern. Betroffen wären Bürgerinnen und Bürger, Beschäftigte und Organisationen, die auf funktionierende Behörden angewiesen sind. Dieser Pfad bleibt ex ante und bedingt; die Folge liefert keine Messung einer solchen Verbesserung.

Der negative Hauptpfad entsteht, wenn KI-Agenten zu viele Rechte erhalten, Fehler automatisiert vervielfältigen oder ein Ausfall nicht durch manuelle Verfahren aufgefangen werden kann. Dann könnten Verzögerungen, falsche Bearbeitungen oder der Verlust erreichbarer Hilfe entstehen. Die Sendung beschreibt diese Risiken, belegt aber keinen konkreten eingetretenen Schaden.

Für Mensch liegt die modellierte Tragweite des positiven Pfads bei 3 von 5, mit einer konservativen Bandbreite von 2 bis 4. Reichweite und Systemtiefe können bei zentralen Behörden hoch sein; Intensität, Dauer und Unumkehrbarkeit hängen von der konkreten Anwendung ab. Der negative Risikopfad liegt ebenfalls bei 3 von 5, mit einer Bandbreite von 2 bis 4. Die Verteilung wäre besonders relevant, wenn vulnerable Menschen oder Personen ohne digitale Ausweichmöglichkeiten betroffen wären. Die Folge prüft Barrierefreiheit und erreichbare Hilfe jedoch nicht ausdrücklich.

Planet

Die Sendung spricht über Token-Ökonomie, lokale Modelle, Rechenressourcen und Kosten. Daraus lässt sich vorsichtig ein planetarer Pfad ableiten: andere Modell- und Infrastrukturentscheidungen → veränderte Nachfrage nach Rechenleistung und Datenzentren → mögliche Verschiebung von Energie- und Ressourcenbedarf.

Dieser Pfad ist eine Modellhypothese. Die Folge nennt keine Energieverbräuche, Emissionen, Rechenzentrumsstandorte oder Lebenszyklen. Eine Richtung der konkreten Zustandsveränderung ist deshalb nicht belastbar feststellbar. Der mögliche positive Mechanismus - kleinere oder lokal passende Modelle könnten Ressourcen gegenüber größeren Lösungen sparen - steht einem möglichen negativen Mechanismus durch zusätzliche Agenten, Schnittstellen und Rechenvorgänge gegenüber.

Für Planet wird deshalb eine geringe, offene Tragweite von 1 bis 2 modelliert. Die Bandbreite ist weit, weil weder Referenzverbrauch noch Systemgrenze oder Zeithorizont der Infrastruktur bekannt sind. Das ist keine neutrale Bewertung, sondern eine ausdrücklich unsichere Modellhypothese ohne beobachteten Effekt.

Demokratie

Die demokratische Dimension liegt in der Frage, wer öffentliche Entscheidungen vorbereitet, welche Regeln ein KI-System anwendet und ob Bürgerinnen und Bürger nachvollziehbare menschliche Ansprechstellen behalten. Mehr digitale Souveränität, austauschbare Modelle und belastbare Notfallverfahren können staatliche Handlungsfähigkeit gegenüber einzelnen Anbietern und geopolitischen Abhängigkeiten stärken.

Der Gegenpfad ist eine Verwaltung, deren Prozesse von schwer überprüfbaren Modellen, privaten Infrastrukturen oder automatisierten Berechtigungen abhängen. Dann könnten Kontrolle, Verantwortlichkeit und Zugang zu staatlichen Leistungen geschwächt werden. Die Sendung benennt diese Sorge, insbesondere in der Diskussion über ein mögliches staatliches KI-Betriebssystem und die Gefahr einer antidemokratischen Entwicklung (ca. 01:00-01:04). Ein konkreter Rechtsverstoß oder eine bereits eingetretene demokratische Schädigung wird nicht belegt.

Für Demokratie liegt das positive Potenzial bei 3 von 5, mit einer Bandbreite von 2 bis 4. Das negative Risikopotenzial liegt ebenfalls bei 3 von 5, mit einer Bandbreite von 2 bis 4. Die stärksten Faktoren sind Systemtiefe und mögliche Dauer; die konkrete Reichweite hängt davon ab, ob KI nur interne Hilfsfunktionen übernimmt oder Entscheidungen und Zugänge für große Bevölkerungsgruppen prägt.

Systemcheck

Die erste Wirkungsordnung betrifft den unmittelbaren Einsatz: KI unterstützt Sicherheits-, Entwicklungs- oder Verwaltungsprozesse. In der zweiten Ordnung verändern sich Berechtigungen, Arbeitsabläufe, Zuständigkeiten und Abhängigkeiten. In der dritten Ordnung könnten sich institutionelle Routinen, Beschaffungsstrukturen und das Verhältnis zwischen Staat, Bürgerinnen und Bürgern sowie privaten Technologieanbietern verändern.

Die zentrale Systemgrenze reicht damit über einzelne Behörden hinaus. Ein KI-Ausfall kann Verwaltungsleistungen beeinträchtigen; eine Sicherheitslücke kann sich über Schnittstellen ausbreiten; ein Anbieterwechsel kann durch fehlende Austauschbarkeit erschwert werden. Zeitverzug ist wahrscheinlich: Risiken können unmittelbar auftreten, während Resilienz und bessere Governance erst über längere Lern- und Umsetzungsphasen entstehen.

Die Folge liefert keine unabhängige Gegenevidenz und keine Outcome-Messung. Sie liefert jedoch mehrere bedingte Mechanismen: kontrollierte Governance, geringstmögliche Rechte, Monitoring, Penetrationstests, hybride oder lokale Infrastrukturen, Modell-Austauschbarkeit und Notfallübungen. Diese Mechanismen tragen ein Wirkungspotenzial, beweisen aber noch keine Zustandsveränderung.

Observed effects: Keine beobachteten Wirkungen werden aus der Folge übernommen. Die Sendung berichtet über Vorhaben, Erfahrungen und Risiken, nicht über unabhängig gemessene Folgen.

Visual-Prüfung

Der Inhalt trägt eine erklärende Wirkpfadgrafik. Im privaten Vorschlag wird sie textlich umgesetzt, damit keine ungeprüften Daten oder fremden Bildrechte eingeführt werden:

Die Bedingungen stehen unmittelbar am Wirkpfad: Die positive Richtung setzt kontrollierte Berechtigungen, überprüfbare Modelle, menschliche Verantwortlichkeit und funktionierende Ausweichverfahren voraus. Ohne diese Bedingungen bleibt der Pfad offen beziehungsweise kann in eine negative Richtung kippen. Das MPD-Profil ersetzt diese Erklärung nicht.