Teil Digitalisierung, KI und Wirkungsdatenräume

Kapitel 82 - KI-Governance

Kapitel 82 - KI-Governance

Kapitel 81 hat Wirkungsdatenräume als technische und institutionelle Grundlage der Wirkungsökonomie beschrieben. Datenräume machen Wirkung verfügbar, ohne Datenmacht zentral zu monopolisieren. Dieses Kapitel behandelt die nächste Ebene: Künstliche Intelligenz, die diese Datenräume auswerten, Muster erkennen, Risiken anzeigen, Szenarien modellieren, Verwaltungsprozesse entlasten und Entscheidungen vorbereiten kann.

KI ist in der Wirkungsökonomie kein neutraler Fortschrittsautomat. Sie ist ein Wirkungsverstärker.

Sie kann Wirkungsmessung beschleunigen, Datenqualität verbessern, Anomalien erkennen, Lieferkettenrisiken sichtbar machen, Produktpässe validieren, Szenarien simulieren, Forschung unterstützen, Verwaltung entlasten und Prävention stärken. Sie kann aber auch Diskriminierung skalieren, Halluzinationen plausibel erscheinen lassen, Manipulation automatisieren, Verantwortung verschleiern, Energiebedarf erhöhen, Datenmacht konzentrieren und falsche Steuerungslogiken schneller machen.

KI darf in der Wirkungsökonomie nicht zum neuen blinden Kompass werden. Sie muss Wirkung sichtbar machen, ohne Verantwortung, Urteil und demokratische Kontrolle zu ersetzen.

82.1 KI als Wirkungsverstärker

KI wirkt nicht wie ein Mensch. Sie hat kein Bewusstsein, keine Würde, keine Verantwortung, kein Gewissen und keinen demokratischen Auftrag. Aber sie kann operative Wirkung entfalten, weil sie Wahrnehmung, Auswahl, Prognose, Sortierung, Textproduktion, Bildproduktion, Mustererkennung, Entscheidungsvorbereitung und Automatisierung beeinflusst.

Die Wirkungsökonomie muss diese Doppelrolle sauber halten: KI ist kein moralischer Akteur, aber ein mächtiger Wirkungsträger. Sie entscheidet nicht im normativen Sinn. Sie verändert aber Zustände, wenn Menschen und Organisationen ihre Ausgaben nutzen.

Ein KI-System kann in der Wirkungsökonomie auf vielen Ebenen helfen. Es kann Daten prüfen: Stimmt ein gemeldeter Emissionswert mit Energieverbrauch, Produktionsmenge, Lieferantendaten und Standortdaten überein? Gibt es Auffälligkeiten? Passen WÖk-ID, Einheit, Benchmark, Systemgrenze und Datenqualitätsklasse zusammen? Es kann Anomalien erkennen: Weicht ein Lieferant plötzlich von erwartbaren Werten ab? Steigt Wasserverbrauch in einer Stressregion? Werden Produktionsdaten ungewöhnlich geglättet? Verändert sich ein Cyberrisiko? Häufen sich Beschwerden, Arbeitsunfälle oder Lieferausfälle?

Es kann Wirkungsprognosen erstellen: Welche Wirkung hätte eine Sanierung, eine Beschaffungsänderung, eine Produktumstellung, eine neue Steuerklasse, ein öffentlicher Haushaltsposten oder ein Transformationspfad? Es kann Szenarien modellieren: Was geschieht bei Energiepreisschocks, Wasserstress, Lieferkettenbruch, Hitzewellen, Versicherungsrückzug, Reputationsverlust, regulatorischen Änderungen oder technologischer Disruption?

Es kann Risikomodelle unterstützen: Banken, Versicherungen, Unternehmen und öffentliche Haushalte können Wirkungsrisiken früher erkennen, wenn Klima, Wasser, Lieferkette, Standort, Governance, Produktwirkung, Cyberresilienz und demokratische Risiken verbunden werden. Es kann digitale Produktpässe validieren: Produktdatenketten können automatisiert auf Vollständigkeit, Plausibilität, Versionierung, Signaturen, Lieferantendaten, Prüfstatus und Widersprüche geprüft werden. Es kann Verwaltung entlasten: Standardprüfungen, Plausibilitätschecks, Fallvorbereitung, Dokumentenzusammenfassungen, Bürgerinformation, Übersetzung, Barrierefreiheit und Priorisierung können schneller und verständlicher werden, wenn klare Grenzen und Kontrollmechanismen bestehen.

Diese Möglichkeiten sind erheblich. Aber sie ändern nicht den Maßstab. KI ist nicht die Quelle der Wirkungsökonomie. Sie ist Werkzeug der Wirkungsökonomie. Der Maßstab bleibt Mensch, Planet und Demokratie. Die Bewertung bleibt demokratisch, rechtsstaatlich und institutionell verantwortet.

Das Systemmodell der Wirkungsökonomie formuliert diese Grenze klar: KI wird zur Infrastruktur, aber immer wirkungsgebunden; sie dient Wirkung, nicht Kontrolle; keine Black-Box-KI in kritischen Bereichen; keine Überwachungssysteme; KI-Verantwortung ist Systemverantwortung [I-K82-1].

Daraus folgt: Eine KI, die falsche Ziele optimiert, ist gefährlicher als ein langsames menschliches Verfahren. Wenn KI Profit maximiert, verstärkt sie Profitlogik. Wenn sie Aufmerksamkeit maximiert, verstärkt sie Erregungslogik. Wenn sie Verwaltung beschleunigt, kann sie Ungerechtigkeit schneller machen. Wenn sie Datenqualität verbessert, Wirkungsrisiken erkennt und Entscheidungen nachvollziehbarer macht, kann sie hohe positive Wirkung entfalten.

KI ist also nicht gut oder schlecht. Entscheidend ist, welcher Wirkungspfad durch ihren Einsatz wahrscheinlicher wird.

Die Wirkungsökonomie braucht KI nicht als Ersatz für Urteil, sondern als Verstärkung von Wahrnehmung, Prüfung und Lernen. Sie ist ein Sensor, ein Analysewerkzeug, ein Simulationsraum und ein Frühwarnsystem. Sie ist kein Gesetzgeber, kein Gericht, kein Wirkungsrat, keine Ethikinstanz und kein demokratischer Wille.

Maschinen können Prozesse übernehmen. Verantwortung bleibt bei Menschen, Organisationen und Institutionen.

82.2 Transparenz und Erklärbarkeit

Transparenz bedeutet nicht, dass jede Nutzerin jede Modellarchitektur verstehen muss. Erklärbarkeit bedeutet nicht, dass jeder neuronale Rechenschritt in Alltagssprache übersetzt werden kann. Beide Begriffe werden oft zu absolut verstanden. Die Wirkungsökonomie braucht eine praktischere Definition.

Transparenz bedeutet: Betroffene, Nutzende, Prüfer, Aufsicht, Gerichte und Öffentlichkeit müssen wissen können, ob KI eingesetzt wird, wofür sie eingesetzt wird, welche Datenarten und Ziele relevant sind, welche Grenzen bestehen, welche Risiken bekannt sind und wer verantwortlich bleibt.

Erklärbarkeit bedeutet: Eine KI-gestützte Entscheidung oder Empfehlung muss in ihrem relevanten Entscheidungskontext nachvollziehbar werden. Es muss nicht jede interne Gewichtung vollständig verständlich sein. Aber es muss verständlich sein, warum ein Ergebnis verwendet wurde, welche wesentlichen Faktoren eine Rolle spielten, welche Unsicherheit besteht, welche Datenqualität zugrunde liegt und wie eine Korrektur möglich ist.

Die Wirkungsökonomie unterscheidet deshalb vier Ebenen der Erklärbarkeit.

Die erste Ebene ist Nutzungstransparenz. Menschen müssen wissen, wann sie mit KI interagieren oder wann KI-Ausgaben für sie relevante Entscheidungen vorbereiten. Das gilt besonders bei Verwaltung, Arbeit, Bildung, Gesundheit, Kredit, Versicherung, Wohnen, Rechtsschutz und öffentlicher Kommunikation.

Die zweite Ebene ist Zwecktransparenz. Wofür wird KI eingesetzt? Datenprüfung, Prognose, Klassifikation, Priorisierung, Textgenerierung, Entscheidungsassistenz, Risikomodell, Produktpass-Validierung, Anomalieerkennung, Betrugsprüfung, Szenariomodellierung? Der Zweck bestimmt das Risiko. Ein Übersetzungstool hat andere Anforderungen als ein System, das über Kreditwürdigkeit, medizinische Priorisierung, Versicherungsprämien oder Verwaltungszugang mitwirkt.

Die dritte Ebene ist Wirkungstransparenz. Welche Zustände können durch das System verändert werden? Wird Zugang erleichtert oder erschwert? Werden Menschen sortiert? Werden Produkte bewertet? Werden Kapitalflüsse gelenkt? Werden Lieferanten ausgeschlossen? Werden öffentliche Mittel priorisiert? Werden Inhalte sichtbar oder unsichtbar? Wird ein Score erzeugt, der rechtliche oder wirtschaftliche Folgen hat?

Die vierte Ebene ist Grenzen-Transparenz. Was kann das Modell nicht? Welche Daten fehlen? Wo ist Halluzinationsrisiko hoch? Welche Gruppen sind unterrepräsentiert? Welche Kontexte wurden nicht getestet? Welche Unsicherheiten bestehen? Welche Fehlertypen sind bekannt? Welche menschliche Prüfung ist zwingend?

Gerade die Modellgrenzen sind zentral. Eine KI, die sehr souverän klingt, kann falsche Gewissheit erzeugen. Halluzinationen sind nicht nur technische Fehler. Sie sind Wirkungsrisiken, wenn plausibel klingende Falschausgaben in Verwaltung, Forschung, Medien, Recht, Gesundheit, Kapitalprüfung oder Produktbewertung einfließen. Die Gefahr liegt nicht nur darin, dass KI Fehler macht. Die Gefahr liegt darin, dass ihre Fehler Autorität ausstrahlen.

Transparenz braucht daher Dokumentation. Ein KI-System in der Wirkungsökonomie muss mindestens dokumentieren: Zweck, Einsatzkontext, Datenquellen, Trainings- und Validierungslogik, Datenqualitätsgrenzen, bekannte Bias-Risiken, Modellversion, Verantwortliche, Prüfstatus, Monitoring, Beschwerdewege, Fallback-Verfahren, Notabschaltung und zulässige Nutzungsgrenzen.

Die EU geht mit dem AI Act in eine ähnliche Richtung. Der AI Act verfolgt einen risikobasierten Ansatz und adressiert Risiken für Gesundheit, Sicherheit, Grundrechte, Demokratie, Rechtsstaat und Umwelt. Für Hochrisiko-KI verlangt er unter anderem Risikomanagement, Datenqualität, Dokumentation, Rückverfolgbarkeit, Transparenz, menschliche Aufsicht, Genauigkeit, Robustheit und Cybersicherheit [E-K82-1]. Für bestimmte KI-Systeme enthält er Transparenzpflichten, etwa bei Interaktion mit KI, synthetischen Inhalten, Deepfakes oder KI-generierten Veröffentlichungen zu Angelegenheiten öffentlichen Interesses [E-K82-2].

Für die Wirkungsökonomie ist der AI Act ein wichtiger Anschlussrahmen, aber nicht der vollständige Maßstab. Er setzt rechtliche Mindestanforderungen. Wirkungsökonomisch wird zusätzlich gefragt: Welche reale Wirkung erzeugt der KI-Einsatz auf Mensch, Planet und Demokratie?

Ein KI-System kann gesetzeskonform sein und dennoch schlechte Wirkung erzeugen, wenn es falsche Ziele optimiert, soziale Kontexte verengt, Verwaltungsfehler skaliert, Energiebedarf ignoriert oder Menschen in unverständliche Verfahren zwingt. Umgekehrt kann ein KI-System hohe positive Wirkung entfalten, wenn es transparent, fair, zweckgebunden, überprüfbar, energiesensibel und rechtsschutzfähig eingesetzt wird.

Transparenz und Erklärbarkeit sind daher keine technischen Anhänge. Sie sind Bedingungen demokratischer Kontrollierbarkeit.

82.3 Haftung und Verantwortung

Die Wirkungsökonomie darf Verantwortung nicht an Maschinen delegieren.

Dieser Grundsatz ist unverhandelbar. KI kann operative Entscheidungen vorbereiten oder ausführen. Verantwortung bleibt bei Menschen, Organisationen und Institutionen. Wer KI entwickelt, trainiert, beschafft, einsetzt, überwacht, finanziert, integriert oder reguliert, trägt Verantwortung im Verhältnis zu Wissen, Macht, Nutzen und Einfluss.

Die Verantwortung verteilt sich auf mehrere Rollen. Entwickler und Anbieter tragen Verantwortung für Modellarchitektur, Trainingsdaten, Sicherheitsvorkehrungen, Dokumentation, bekannte Risiken, Modellgrenzen, Updates, Missbrauchsschutz und technische Robustheit. Betreiber und Anwender tragen Verantwortung für Einsatzkontext, Zweckbindung, Eingabedaten, menschliche Aufsicht, Nutzerinformation, Monitoring, Beschwerdewege und Korrektur. Organisationen tragen Verantwortung für Governance: Wer darf KI einsetzen? In welchen Prozessen? Mit welchen Freigaben? Welche Hochrisiko-Anwendungen sind verboten oder besonders geprüft? Welche Schulungen sind Pflicht? Welche Daten dürfen genutzt werden? Wann muss ein Mensch entscheiden? Wann muss das System gestoppt werden? Aufsicht und Staat tragen Verantwortung für Rahmen, Prüfung, Standards, Rechtsschutz, Sanktionen, öffentliche Infrastruktur und Schutz vor Machtkonzentration.

Der Wirkungsrat oder vergleichbare methodische Stellen tragen keine operative Haftung für jedes KI-System. Aber sie können methodische Standards setzen: Welche KI-Anwendungen dürfen in Wirkungsdatenräumen eingesetzt werden? Welche Prüfpflichten gelten für WÖk-IDs, Scorecards, digitale Produktpass-Validierung, Wirkungsprognosen, Risikomodelle oder automatisierte Plausibilitätsprüfungen? Welche Modellgrenzen müssen offengelegt werden? Welche Datenqualitätsklassen dürfen automatisiert verarbeitet werden?

Haftung ist nicht nur eine juristische Frage. Sie ist eine Rückkopplungsfrage. Wenn niemand für KI-Fehler verantwortlich ist, lernt das System nicht. Wenn Anbieter auf Betreiber verweisen, Betreiber auf Anbieter, Behörden auf Software, Software auf Daten und Daten auf Lieferanten, verdampft Verantwortung in der Komplexität. Genau das darf nicht passieren.

Die Wirkungsökonomie braucht deshalb eine mehrschichtige Verantwortungslogik. Verursachungsverantwortung trägt, wer ein KI-System baut, bereitstellt oder in eine Entscheidungskette bringt. Einsatzverantwortung trägt, wer entscheidet, dass das System in einem konkreten Kontext genutzt wird. Überwachungsverantwortung trägt, wer laufend prüfen muss, ob das System korrekt, fair, sicher und zweckgemäß funktioniert. Korrekturverantwortung trägt, wer bei Fehlern, Verzerrungen, Beschwerden oder Schäden handeln kann. Rechenschaftsverantwortung trägt, wer gegenüber Betroffenen, Aufsicht, Gericht oder Öffentlichkeit erklären muss, was geschehen ist.

Diese Logik ist besonders wichtig bei KI-Systemen in sensiblen Wirkungsräumen: Verwaltung, Bildung, Gesundheit, Pflege, Kredit, Versicherung, Arbeit, Migration, Wohnen, Justiz, demokratische Öffentlichkeit, öffentliche Beschaffung, kritische Infrastruktur und Wirkungssteuerung. Dort kann ein Modellfehler nicht nur einen Prozess stören, sondern Zugang, Freiheit, Würde, Einkommen, Versicherung, Behandlung, Sichtbarkeit oder Rechtsschutz beeinflussen.

Der AI Act unterscheidet hier ebenfalls nach Risiko. Hochrisiko-KI umfasst unter anderem sensible Bereiche wie kritische Infrastruktur, Bildung, Beschäftigung, Zugang zu wesentlichen Diensten, Kreditwürdigkeit, Lebens- und Krankenversicherung, Strafverfolgung, Migration, Justiz und demokratische Prozesse [E-K82-3]. Anbieter solcher Systeme müssen vor dem Inverkehrbringen Konformitätsbewertungen durchführen; Betreiber müssen sie bestimmungsgemäß nutzen, überwachen und auf Risiken oder schwerwiegende Vorfälle reagieren [E-K82-4].

Wirkungsökonomisch ist zusätzlich wichtig: Nicht nur Einzelrechte sind betroffen. Auch Systemzustände können betroffen sein. Eine KI, die Kreditrisiken falsch einschätzt, kann Kapitalflüsse verzerren. Eine KI, die Versicherbarkeit falsch bewertet, kann Regionen ausschließen. Eine KI, die Produktdaten plausibilisiert, aber bestimmte Lieferkettenrisiken unterschätzt, kann negative Wirkung unsichtbar machen. Eine KI, die Personalentscheidungen vorsortiert, kann Diskriminierung automatisieren. Eine KI, die öffentliche Kommunikation erzeugt, kann Vertrauen, Wahrheit und Resonanzräume beeinflussen.

Verantwortung verlangt daher Zweckbindung. Ein Modell, das für interne Datenprüfung entwickelt wurde, darf nicht ohne neue Prüfung zur rechtserheblichen Entscheidung genutzt werden. Ein Modell, das Produktdaten plausibilisiert, darf nicht automatisch Steuerklassen festlegen, wenn Datenqualität, Prüftiefe und Rechtsschutz dafür nicht ausreichen. Ein Modell, das Szenarien erstellt, darf nicht als Prognosegewissheit behandelt werden.

Verantwortung verlangt auch menschliche Entscheidungsgrenzen. Je höher die Wirkung auf Rechte, Würde, Sicherheit, Zugang, Einkommen, Gesundheit oder demokratische Teilhabe, desto weniger darf KI allein entscheiden. Menschliche Aufsicht darf nicht bloß formal sein. Sie muss kompetent, ausgestattet, unabhängig und handlungsfähig sein. Ein Mensch, der nur ein automatisches Ergebnis abnickt, ist keine Aufsicht. Das ist Automatisierungsbias mit Namensschild.

Verantwortung verlangt schließlich Notabschaltung. Wenn ein KI-System systematisch falsche Werte erzeugt, diskriminiert, manipuliert, Sicherheitsrisiken erhöht, Daten verfälscht oder demokratische Wirkung beschädigt, muss es schnell gestoppt, isoliert oder zurückgesetzt werden können. Notabschaltung ist keine Technikpanik. Sie ist Resilienz.

KI-Governance heißt daher: keine autonome Maschinenverantwortung, keine Black-Box-Ausrede, keine Haftungslücke. Verantwortung bleibt menschlich, organisatorisch, institutionell und rechtsstaatlich.

82.4 Auditierbarkeit

Auditierbarkeit ist die Bedingung, damit KI in der Wirkungsökonomie eingesetzt werden darf.

Eine KI, deren Ergebnisse nicht nachvollziehbar, nicht prüfbar, nicht versioniert, nicht überwacht und nicht korrigierbar sind, darf keine relevante Wirkung steuern. Sie kann experimentell, unterstützend oder in ungefährlichen Kontexten genutzt werden. Aber sie darf nicht über Wirkungswerte, Rechte, Risiken, Kapitalzugang, Versicherung, Verwaltung, öffentliche Mittel, Produktbewertung oder demokratische Sichtbarkeit mitentscheiden.

Auditierbarkeit bedeutet: Ein KI-System muss vor, während und nach dem Einsatz prüfbar sein.

Vor dem Einsatz braucht es eine Wirkungsprüfung. Welcher Zweck? Welcher Wirkungsraum? Welche Daten? Welche Risiken? Welche Betroffenengruppen? Welche Modellgrenzen? Welche Alternativen? Welche menschliche Aufsicht? Welche Rechtsfolgen? Welche Notabschaltung? Welche Beschwerdewege? Welche Energie- und Ressourcenwirkung?

Während des Einsatzes braucht es Modellmonitoring. Modelle verändern ihre Wirkung durch neue Daten, veränderte Umgebung, neue Nutzung, Angriffe, Drift, Updates, Missbrauch oder ungeplante Anschlussverwendungen. Ein System, das anfangs korrekt funktioniert, kann später fehlerhaft, verzerrt oder riskant werden. Monitoring muss daher Leistung, Fehler, Bias, Ausreißer, Drift, Sicherheitsereignisse, Nutzerbeschwerden, Energiebedarf und Wirkungsfolgen erfassen.

Nach dem Einsatz braucht es Nachvollziehbarkeit. Welche Modellversion war aktiv? Welche Daten wurden genutzt? Welche Eingaben lagen vor? Welche Ausgabe wurde erzeugt? Wer hat sie gesehen? Wer hat sie übernommen? Welche Entscheidung folgte? Wurde menschlich geprüft? Gab es Einspruch? Wurde korrigiert?

Diese Auditierbarkeit verbindet sich mit dem Audit-Trail aus Kapitel 81. Ein Wirkungswert muss vom Ursprung bis zur Entscheidung nachvollziehbar sein. Wenn KI in dieser Kette eingesetzt wird, muss auch ihr Beitrag sichtbar bleiben. Sonst entsteht eine neue Black Box innerhalb der Wirkungsarchitektur.

KI-Auditierbarkeit umfasst mindestens sieben Elemente.

Erstens: Modelldokumentation. Zweck, Architekturklasse, Trainingsdatenlogik, Validierung, Grenzen, Version, Update-Historie und bekannte Risiken müssen dokumentiert sein.

Zweitens: Datenprüfung. Trainings-, Eingabe- und Betriebsdaten müssen auf Qualität, Repräsentativität, Verzerrung, Aktualität, Zweckbindung und Schutzbedarf geprüft werden.

Drittens: Wirkungsprüfung. Das System muss nicht nur technisch korrekt sein. Es muss prüfen lassen, welche Wirkung sein Einsatz auf Mensch, Planet und Demokratie entfaltet.

Viertens: Bias- und Diskriminierungsprüfung. Gruppen dürfen nicht systematisch schlechter gestellt werden, weil historische Daten, Proxy-Variablen, fehlende Repräsentanz oder Modellentscheidungen Diskriminierung fortschreiben.

Fünftens: Sicherheitsprüfung. Robustheit, Cyberresilienz, Manipulationsschutz, Prompt-Injection-Risiken, Datenabfluss, Modellmissbrauch und Angriffe auf Datenintegrität müssen berücksichtigt werden.

Sechstens: Energie- und Ressourcenprüfung. KI braucht Rechenleistung, Strom, Hardware, Kühlung, Wasser und Rohstoffe. Ihr Einsatz kann nur wirkungspositiv sein, wenn Nutzen, Effizienz und Ressourcenwirkung im Verhältnis stehen.

Siebtens: Governance-Prüfung. Wer ist verantwortlich? Wer überwacht? Wer darf ändern? Wer stoppt? Wer erklärt? Wer haftet? Wer nimmt Beschwerden entgegen? Wer prüft extern?

Externe Prüfung ist besonders wichtig bei Hochrisiko-Anwendungen. Eine Organisation darf nicht allein behaupten, ihr KI-System sei sicher, fair oder wirkungspositiv. Je höher die mögliche Wirkung, desto stärker braucht es unabhängige Prüfung, akkreditierte Stellen, Aufsicht, Forschungszugang, Protokollierung, öffentliche Register oder rechtliche Kontrollwege.

Offene Standards sind dafür zentral. Proprietäre Systeme dürfen öffentliche Wirkungslogik nicht einschließen. Wenn KI in WÖk-IDs, Scorecards, Produktpässen, Wirkungsdatenräumen, Kapitalprüfung oder Verwaltung eingesetzt wird, müssen Schnittstellen, Prüfregeln, Dokumentationsformate und Bewertungslogiken so offen sein, dass sie nachvollziehbar, vergleichbar und anfechtbar bleiben.

Das bedeutet nicht, dass jedes Modell vollständig Open Source sein muss. Geschäftsgeheimnisse und Sicherheitsgründe können Grenzen setzen. Aber die Prüfarchitektur muss offen genug sein, damit kein Akteur sagen kann: Vertraut dem Modell, aber ihr dürft nicht wissen, wie es wirkt.

Der General-Purpose-AI-Code of Practice der EU enthält für Anbieter allgemeiner KI-Modelle Kapitel zu Transparenz, Copyright sowie Safety and Security; die Kommission beschreibt ihn als freiwilliges Instrument zur Unterstützung der AI-Act-Compliance [E-K82-5]. Das NIST AI Risk Management Framework nennt vertrauenswürdige KI-Eigenschaften wie Zuverlässigkeit, Sicherheit, Resilienz, Verantwortlichkeit, Transparenz, Erklärbarkeit, Datenschutz und Fairness mit Bias-Management [E-K82-6]. ISO/IEC 42001 beschreibt ein Managementsystem für KI, das Organisationen helfen soll, KI-Risiken und -Chancen strukturiert zu steuern [E-K82-7]. Diese Rahmenwerke passen zur Wirkungsökonomie, weil sie Governance nicht als einmalige Ethikformel, sondern als dauerhaften Management-, Prüf- und Lernprozess behandeln.

Wirkungsökonomisch bleibt der Maßstab jedoch konkreter: KI-Auditierbarkeit muss zeigen, ob ein KI-System die Zustände verbessert, die es verbessern soll, und ob es Menschenrechte, Demokratie, planetare Grenzen, Datenqualität, Rechtsschutz und Verantwortlichkeit schützt.

Auditierbarkeit ist daher keine technische Formalie. Sie ist die Voraussetzung dafür, dass KI im Wirkungsraum legitim bleibt.

82.5 Algorithmic Impact Bias und Hoheit über Wirkungslogik

KI kann die Wirkungsökonomie stärken, wenn sie Daten verdichtet, Muster erkennt, Risiken früher sichtbar macht und Entscheidungen vorbereitet. Sie kann die Wirkungsökonomie aber beschädigen, wenn sie als scheinbar neutrale Wahrheitsmaschine erscheint. Das zentrale Risiko heißt Algorithmic Impact Bias: Die Berechnung von Wirkung enthält normative, methodische und datenbezogene Vorentscheidungen, die im Algorithmus verborgen bleiben können [I-K82-6; E-K82-3].

Ein FinalScore entsteht nie nur technisch. Er beruht auf Auswahl der Wirkungsfelder, Datenqualität, Grenzwerten, Nicht-Kompensationsregeln, Unsicherheitsmarkierungen und Bewertungslogik. Wenn diese Logik in einem KI-System verschwindet, entsteht eine Black Box der Wirkung. Dann entscheidet nicht mehr die demokratisch begrenzte Wirkungsarchitektur, sondern ein Modell, dessen Trainingsdaten, Optimierungsziele und Fehlermuster nur Fachleuten oder privaten Anbietern zugänglich sind.

Der Wirkungsrat muss daher die Hoheit über die Wirkungslogik behalten. KI darf berechnen, sortieren, simulieren, warnen und erklären. Sie darf die normative Bewertungsordnung nicht selbst setzen. WÖk-IDs, Benchmarks, Datenqualitätsklassen, Reverse Merit Order, rote Linien, Prüfpfade und Versionen müssen öffentlich, anfechtbar und institutionell gesichert bleiben.

Für KI in der Wirkungsökonomie gelten fünf Mindestregeln. Erstens: erklärbare Bewertungslogik. Zweitens: auditierbare Datenherkunft. Drittens: versionierte Modelle. Viertens: Einspruchs- und Korrekturwege. Fünftens: Trennung zwischen technischer Berechnung und demokratisch legitimierter Bewertungsentscheidung.

Algorithmic Impact Bias ist besonders gefährlich, weil er technokratisch wirkt. Ein Score erscheint präzise. Eine Ampel erscheint klar. Ein Ranking erscheint objektiv. Doch Genauigkeit der Darstellung ist nicht dasselbe wie Richtigkeit der Bewertung. Ein KI-System kann veraltete Daten nutzen, Lieferkettenrisiken unterschätzen, kleine Anbieter benachteiligen, globale Süden-Kontexte verzerren oder demokratische Wirkungen schlecht erfassen.

Die Wirkungsökonomie braucht daher KI-Governance als Wirkungs-Governance. Nicht die Maschine entscheidet, was Wirkung bedeutet. Die demokratisch legitimierte Wirkungsordnung entscheidet, welche Wirkungslogik Maschinen ausführen dürfen.

82.6 Zwischenfazit

KI ist ein Wirkungsverstärker. Sie kann die Wirkungsökonomie stark machen, wenn sie Daten prüft, Anomalien erkennt, Szenarien modelliert, Risiken sichtbar macht, Produktpässe validiert, Verwaltung entlastet, Forschung unterstützt und Rückkopplung beschleunigt. Sie kann die Wirkungsökonomie gefährden, wenn sie Diskriminierung automatisiert, Halluzinationen autoritativ wirken lässt, Verantwortung verschleiert, Macht konzentriert, Manipulation erleichtert, Energiebedarf ignoriert oder falsche Ziele schneller verfolgt.

Dieses Kapitel hat fünf Grenzen gezogen.

Erstens: KI ist Werkzeug, nicht Akteur. Sie dient Wirkung, nicht Kontrolle.

Zweitens: Transparenz und Erklärbarkeit sind Bedingungen demokratischer Kontrolle. Menschen müssen wissen, wann KI eingesetzt wird, welchem Zweck sie dient, welche Grenzen sie hat und wie Ergebnisse angegriffen oder korrigiert werden können.

Drittens: Haftung und Verantwortung bleiben menschlich, organisatorisch und institutionell. Maschinen übernehmen Prozesse, nicht Verantwortung.

Viertens: Auditierbarkeit ist Pflicht, sobald KI relevante Wirkung steuert. Modellgrenzen, Datenqualität, Bias, Sicherheit, Energiebedarf, Monitoring, Notabschaltung, Beschwerdewege und externe Prüfung müssen Teil der Architektur sein.

Fünftens: Die Hoheit über die Wirkungslogik darf nicht an KI oder private Modellanbieter übergehen. WÖk-IDs, Benchmarks, Reverse Merit Order, Nicht-Kompensation, Datenqualitätsklassen und Bewertungsregeln müssen öffentlich, versioniert, prüfbar und anfechtbar bleiben.

KI darf in der Wirkungsökonomie nicht zum neuen blinden Kompass werden. Sie muss Wirkung sichtbar machen, ohne Verantwortung, Urteil und demokratische Kontrolle zu ersetzen.

Die nächste Frage lautet: Welche digitalen Rechte und Fairnessprinzipien müssen gelten, damit algorithmische Systeme Menschen nicht sortieren, manipulieren oder ausschließen?

Diese Frage führt zu Kapitel 83: Algorithmische Fairness und digitale Rechte.

Endnoten und Quellen zu Kapitel 82

Interne WÖk-Quellen

[I-K82-1] Weber, Natalie: Systemmodell der Wirkungsökonomie, 2025, Abschnitt „KI & Robotik als Infrastruktur“. Grundlage für KI als öffentliche Infrastruktur, aber immer wirkungsgebunden; KI dient Wirkung, nicht Kontrolle; keine Black-Box-KI in kritischen Bereichen; keine Überwachungssysteme; KI-Verantwortung als Systemverantwortung.

[I-K82-2] Weber, Natalie: Wenn Maschinen arbeiten, 2025. Grundlage für die Einordnung von KI, Robotik und Automatisierung als Systembruch für Arbeit, Einkommen und gesellschaftliche Wertmessung sowie für die Aussage, dass Produktivität zunehmend ohne menschliche Arbeit entsteht und die alte Kette Arbeit - Einkommen - Steuerbasis - Sozialsysteme brüchig wird.

[I-K82-3] Weber, Natalie: Wenn Maschinen arbeiten, 2025, Abschnitt „Technologische Infrastruktur: Die Datenräume der Wirklichkeit“. Grundlage für KI-Assistenten als selbstlernende Systeme, die Daten aggregieren, aber keine Entscheidungen treffen sollen: Sie liefern Erkenntnisse, keine Urteile; Grundlage außerdem für offene APIs, Datensicherheit und digitale Ethik statt Überwachung.

[I-K82-4] Weber, Natalie: Systemmodell der Wirkungsökonomie, 2025, Abschnitt „Digitale Bürgerrechte“. Grundlage für digitale Selbstbestimmung, algorithmische Fairness, Manipulationsschutz, Datenrechte, Transparenz, digitale Teilhabe und Schutz vor KI-generierten Lügen, Deepfakes und Narrativen.

[I-K82-5] Weber, Natalie: Systemmodell der Wirkungsökonomie, 2025, Abschnitte „Normen der digitalen Öffentlichkeit“ und „Rechte & Pflichten digitaler Akteure“. Grundlage für algorithmische Fairness, Quellenklarheit, Transparenz, Verantwortung im digitalen Raum, Kennzeichnung von KI und Schutz vor Manipulation.

[I-K82-6] Weber, Natalie: Systemmodell der Wirkungsökonomie, 2025, Abschnitt „Unternehmenswirkung auf Gesellschaft“. Grundlage für algorithmische Fairness als offenzulegende Unternehmenswirkung, für KI ohne Bias, nachvollziehbare Modelle und KI-Ethikprozesse als Teil von Jahresberichterstattung, T-SROI, WUStG, Kapitalzugang, öffentlichen Ausschreibungen und Wirtschaftsförderung.

[I-K82-7] Weber, Natalie: Systemmodell der Wirkungsökonomie, 2025, Abschnitt „Digitale Gesundheitsdienste & Infrastruktur“. Grundlage für KI-Risikomodelle, digitale Akten, freiwillige datensouveräne Sensorik, präventive Monitoring-Systeme und den Grundsatz: Digitalisierung dient Wirkung, nicht Kostenkontrolle.

[I-K82-8] Weber, Natalie: WÖk Master Items final v1.2, 2025. Grundlage für digitale und technologische Indikatorfamilien zu Datenschutz/IT-Sicherheit, Reg-Konformität DSA/AI Act, Moderationstransparenz, Algorithmen-Audit, KI-Risiko-Assessments, Privacy by Design, Model Governance/Transparency, Open Source/Standards, Cyber-Resilienz und Interoperabilität.

[I-K82-9] Weber, Natalie: Technische Leitlinien zum Wirkungssteuergesetz (WUStG) - Vollversion Extended, 2025. Grundlage für Messung, Bewertung, Prüfung, WÖk-IDs, Archetypen, sektorale Benchmarks, Scorecards, Datenquellen, Assurance und Governance als technische Brücke zwischen Rechtsnorm und praktischer Umsetzung.

[I-K82-10] Weber, Natalie: Die neue Ordnung des Wohlstands, Arbeitsfassung 2026, interne Quellenpassage zu AI Act, DSA, Data Act, Cyber Resilience Act und digitalen Indikatorfamilien. Grundlage für die Anschlussfähigkeit der WÖk an EU-Digitalregulierung und für Model Governance, KI-Risiko-Assessments, Algorithmen-Audit und AI-Act-Konformität als WÖk-relevante Indikatorfelder.

Externe Quellen

[E-K82-1] Europäische Kommission: AI Act, Stand Mai 2026. Bezugspunkt für den AI Act als umfassenden Rechtsrahmen für KI, für den risikobasierten Ansatz und für den Schutz von Sicherheit, Grundrechten, Demokratie, Rechtsstaat und Umwelt. Die Kommission beschreibt für Hochrisiko-KI Anforderungen wie Risikomanagement, Datenqualität, Dokumentation, Rückverfolgbarkeit, Transparenz, menschliche Aufsicht, Genauigkeit, Robustheit und Cybersicherheit. (https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai)

[E-K82-2] Europäische Kommission: Consultation on the draft guidelines on transparency obligations under the AI Act, 2026. Bezugspunkt für Transparenzpflichten ab 2. August 2026: Information bei KI-Interaktion, maschinenlesbare Markierungen generativer KI-Systeme zur Erkennung synthetischer oder manipulierter Inhalte sowie Informationspflichten bei Deepfakes und KI-generierten Veröffentlichungen zu Angelegenheiten öffentlichen Interesses. (https://digital-strategy.ec.europa.eu/en/consultations/consultation-draft-guidelines-transparency-obligations-under-ai-act)

[E-K82-3] Europäische Kommission: Navigating the AI Act, 2026. Bezugspunkt für Hochrisiko-KI in Bereichen wie kritische Infrastruktur, Bildung, Beschäftigung, Zugang zu wesentlichen Diensten, Kreditwürdigkeit, Lebens- und Krankenversicherung, Strafverfolgung, Migration, Justiz und demokratische Prozesse. (https://digital-strategy.ec.europa.eu/en/faqs/navigating-ai-act)

[E-K82-4] Europäische Kommission: Navigating the AI Act, 2026. Bezugspunkt für Pflichten von Anbietern und Betreibern von Hochrisiko-KI: Konformitätsbewertung, Qualitätsmanagement, Registrierung, Lebenszyklusverantwortung, Monitoring, Reaktion auf schwerwiegende Vorfälle, menschliche Aufsicht, relevante und repräsentative Eingabedaten, Grundrechte-Folgenabschätzung in bestimmten Fällen und Recht auf Erklärung bei bestimmten rechtlich erheblichen Entscheidungen. (https://digital-strategy.ec.europa.eu/en/faqs/navigating-ai-act)

[E-K82-5] Europäische Kommission: The General-Purpose AI Code of Practice, 2025/2026. Bezugspunkt für den Code of Practice als freiwilliges Instrument zur Unterstützung der Compliance mit AI-Act-Pflichten für Anbieter allgemeiner KI-Modelle; die Kapitel betreffen Transparenz, Urheberrecht sowie Safety and Security für Modelle mit systemischem Risiko. (https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai)

[E-K82-6] National Institute of Standards and Technology: Artificial Intelligence Risk Management Framework, 2023. Bezugspunkt für vertrauenswürdige KI-Eigenschaften wie valid and reliable, safe, secure and resilient, accountable and transparent, explainable and interpretable, privacy-enhanced und fair with harmful bias managed. (https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf)

[E-K82-7] International Organization for Standardization: ISO/IEC 42001:2023 - AI management systems. Bezugspunkt für KI-Managementsysteme als organisatorischen Rahmen zur Steuerung von Risiken und Chancen von KI, einschließlich ethischer Überlegungen, Transparenz, kontinuierlichem Lernen und Governance. (https://www.iso.org/standard/42001)

[E-K82-8] OECD: AI Principles und OECD Due Diligence Guidance for Responsible AI, 2026. Bezugspunkt für menschenzentrierte, vertrauenswürdige KI, Menschenrechte, demokratische Werte, Transparenz, Verantwortlichkeit, Fairness und risikobasierte Sorgfaltspflichten entlang der KI-Wertschöpfungskette. (https://www.oecd.org/en/topics/ai-principles.html)