WÖk-Präzisierungsbegriff
KI-Governance
KI-Governance beschreibt Regeln, Rollen, Prüfpfade und Verantwortung, damit KI-Systeme Wirkung nicht unsichtbar, diskriminierend oder unkontrolliert verstärken.
Auf einen Blick
- KI-Governance regelt Verantwortung, Prüfung, Aufsicht und Korrektur beim Einsatz von KI.
- Der Begriff gehört zum Bereich Daten, Digitalisierung und KI und dient der präzisen Wirkungsprüfung.
- Wirkungsökonomisch fragt „KI-Governance“ nach Zustandsveränderung, Bilanzgrenze, Datenqualität und Rückkopplung.
- Er darf nicht als isoliertes Etikett genutzt werden, sondern braucht Bezug zu Mensch, Planet und Demokratie. Er ist besonders anschlussfähig an Künstliche Intelligenz, Algorithmische Fairness und digitale Rechte, Datenqualität.
Definition
Was bedeutet der Begriff?
KI-Governance ist die Schutz- und Steuerungsarchitektur für KI-Systeme. Sie klärt, welche KI in welchem Kontext eingesetzt wird, welche Wirkungspotenziale und Wirkungsrisiken entstehen, welche Daten und Zielgrößen genutzt werden, wer verantwortlich ist, wie Ergebnisse erklärt, geprüft, angefochten und korrigiert werden können und wie Missbrauch, Diskriminierung, Manipulation und verdeckte Profilbildung verhindert werden. Sie bremst Innovation nicht, sondern macht sie verantwortbar.
Wirkungsökonomie
Einordnung in der Wirkungsökonomie
In der Wirkungsökonomie verhindert KI-Governance, dass algorithmische Systeme Wirkung unsichtbar verschieben, Menschen bewerten oder automatische Entscheidungen ohne Verantwortung auslösen. Sie verknüpft AI Act, Datenqualität, digitale Rechte, Wirkungsrisiko, Audit, Assurance und demokratische Kontrolle.
Verwendung
Verwendung
KI-Governance nicht als Innovationsbremse rahmen. Sie ermöglicht verantwortliche KI und schützt vor Wirkungsblindheit, Diskriminierung, Manipulation und Scheingenauigkeit.
Abgrenzung
Abgrenzung
- Personenbewertung
- Social Credit
- automatische Entscheidung
- Verhaltensüberwachung
- verdeckte Profilbildung
- automatische Entscheidung ohne Verantwortung
- KI-Verbot
- reine Compliance-Checkliste
- Modellperformance
- automatische Entscheidung ohne Rechtsschutz
- Personenscore
Vertiefung
Vertiefte Begriffsstruktur
Kurzdefinition / Hover
- KI-Governance beschreibt Regeln, Rollen, Prüfpfade und Verantwortung, damit KI-Systeme Wirkung nicht unsichtbar, diskriminierend oder unkontrolliert verstärken.
Auf einen Blick
- KI ist ein Wirkungsverstärker, nicht automatisch gut oder schlecht.
- KI-Governance klärt Verantwortung, Aufsicht, Datenqualität, Audit und Korrektur.
- Sie schützt vor Diskriminierung, Scheingenauigkeit, Manipulation und verdeckter Profilbildung.
- Menschliche Aufsicht, Widerspruch und Rechtsschutz bleiben zentral.
- Innovation wird nicht gebremst, sondern verantwortbar gemacht.
Hauptdefinition
- KI-Governance ist die Gesamtheit aus Regeln, Rollen, Verantwortlichkeiten, Risikoprüfungen, Dokumentation, Transparenz, Erklärbarkeit, Human Oversight, Korrekturwegen, Haftung, Audit und Assurance für KI-Systeme.
Wirkungsökonomische Relevanz
- KI kann Muster sichtbar machen, Planung verbessern, Wissen zugänglich machen und Wirkungspotenziale erhöhen. Dieselbe Technik kann aber Diskriminierung, Desinformation, Machtkonzentration, Automatisierungsblindheit oder Vertrauensverlust verstärken. KI-Governance macht diese Wirkpfade prüfbar.
Wirkungsökonomische Sicht & Einordnung
- Die WÖk bewertet nicht die KI als Objekt, sondern ihre Wirkung im Kontext: Daten, Zielgröße, Einsatzfeld, Betroffene, Machtasymmetrie, Korrekturweg und Systemfolge. Positive Netto-Wirkung für Mensch, Planet und Demokratie braucht erklärbare, auditierbare und widerspruchsfähige KI.
Abgrenzung: Nicht verwechseln mit
- Nicht Innovationsfeindlichkeit.
- Nicht bloßer Datenschutz-Anhang.
- Nicht nur Modellgenauigkeit.
- Nicht automatisierte Entscheidung ohne menschliche Verantwortung.
- Nicht KI-gestützte Personenrangliste.
Beispiele
- Ein KI-System in der Verwaltung braucht Risikoklasse, Dokumentation, Widerspruch und menschliche Prüfung.
- Ein KI-gestütztes Scorecard-Tool darf Produktsysteme prüfen, aber keine Menschen moralisch bewerten.
- Generative KI in öffentlicher Kommunikation braucht Quellenklarheit, Kennzeichnung und Korrekturwege.
Mess- und Steuerungsbezug
- Relevant sind Datenqualität, Bias-Tests, Fehlerverteilung, Erklärbarkeit, Human Oversight, Audit-Trail, Beschwerdewege, Korrekturquote, Modellversionen, Robustheit, Missbrauchsrisiken und demokratische Kontrollpunkte.
Querverweise im Glossar
Quellenbasis
- Führender Begriffsleitfaden der Wirkungsökonomie v1.0, Stand 21. Mai 2026
- Die neue Ordnung des Wohlstands: Digitalisierung als Infrastruktur der Wirkungsökonomie
- Die neue Ordnung des Wohlstands: Wirkungsdatenräume, WÖk-IDs und Indikatorenarchitektur
- Die neue Ordnung des Wohlstands: KI-Governance, algorithmische Fairness und digitale Rechte
- Die neue Ordnung des Wohlstands: Cyberresilienz und operative Stabilität
- Systemmodell der Wirkungsökonomie, Modul 9: Wissen, Innovation, Digitalisierung
- Technische Leitlinien WUStG
- Wirkungsrat-Konzept
- Produktbesteuerung durch Wirkung
- Wirkungsoekonomie in der Lieferkette
- T-SROI-Whitepaper
- AI Act, European Commission AI Act, GPAI Code of Practice, OECD AI Principles, UNESCO AI Ethics, NIST AI RMF, ISO/IEC 42001, ISO/IEC 23894, GDPR.
Verknüpfungen
Verwandte Begriffe
Querverweise