Wirkungsökonomie Logo Wirkungsökonomie

WÖMS · Kategorie O · Daten, Technologie, KI und agentische Systeme

O05 · KI-System-Wirkungsfolgenabschätzung

Voraussichtliche Auswirkungen eines KI-Systems auf Menschen, Gruppen, Organisation, Planet und Demokratie über den Lebenszyklus prüfen.

Was du mitbringst

Inputs

  • Wirkungsmandat
  • vorhandene Daten und relevante Vorarbeiten

So gehst du vor

Schritte

  1. Systemzweck, Anwendungen und Entscheidungsrolle definieren.
  2. Direkte und indirekte Betroffene bestimmen.
  3. Nutzen, Risiken, Rechte, Umwelt- und Gesellschaftsfolgen analysieren.
  4. Daten, Modell, Human Oversight und Missbrauchsszenarien prüfen.
  5. Kontrollen, Monitoring, Beschwerde und Redress gestalten.
  6. Freigabe, Einschränkung, Pilot, Redesign oder Verbot entscheiden.

Was herauskommt

Outputs

  • AI Impact Assessment mit Kontext, Betroffenen, Nutzen, Risiken, Daten, Bias, Rechte, Kontrollen, Monitoring und Entscheidung.

Woran du gute Arbeit erkennst

Qualitätsregeln

  • Empfänger, Systemgrenze, Wirkungsziel und Schutzrahmen sind eindeutig.
  • Befunde, Annahmen, Modelle und normative Bewertungen bleiben unterscheidbar.
  • Der Output besitzt Owner, Version, Evidenzstatus und eine klare nächste Entscheidung.
  • Datenherkunft, Human Oversight und Decommissioning sind geregelt.
  • Keine Personenbewertung oder automatisierte normative Letztentscheidung.

Die roten Linien

Schutzregeln

Diese Regeln stehen über allem. Eine verletzte Wirkungsgrenze lässt sich nicht durch positive Werte ausgleichen.

  • Methode nicht als endgültige Wahrheit, sondern als versionierte Entscheidungsgrundlage behandeln.
  • Workshopkonsens darf Betroffene, negative Wirkung, Machtasymmetrien oder Minderheitsvoten nicht ausblenden.
  • Keine Fach-, Rechts-, Sicherheits- oder Datenprüfung durch ein Canvas ersetzen.
  • Human Oversight nicht als symbolischen Klick ohne Eingriffsmöglichkeit gestalten.

Die Arbeitsfläche

Canvas - KI-System-Wirkungsfolgenabschätzung

Eine leere Vorlage mit klaren Leitfragen. Die fünf Pflichtfelder sind immer auszufüllen - sie halten Ehrlichkeit und Nichtkompensation im Blick.

O05 · KI-System-WirkungsfolgenabschätzungFall: Datum: Version: Moderation:
Systemzweck, Anwendungen und Entscheidungsrolle definierenWie wird „Systemzweck, Anwendungen und Entscheidungsrolle definieren“ für den konkreten Fall nachvollziehbar bearbeitet?
Direkte und indirekte Betroffene bestimmenWie wird „Direkte und indirekte Betroffene bestimmen“ für den konkreten Fall nachvollziehbar bearbeitet?
Nutzen, Risiken, Rechte, Umwelt- und Gesellschaftsfolgen analysierenWie wird „Nutzen, Risiken, Rechte, Umwelt- und Gesellschaftsfolgen analysieren“ für den konkreten Fall nachvollziehbar bearbeitet?
Daten, Modell, Human Oversight und Missbrauchsszenarien prüfenWie wird „Daten, Modell, Human Oversight und Missbrauchsszenarien prüfen“ für den konkreten Fall nachvollziehbar bearbeitet?
Kontrollen, Monitoring, Beschwerde und Redress gestaltenWie wird „Kontrollen, Monitoring, Beschwerde und Redress gestalten“ für den konkreten Fall nachvollziehbar bearbeitet?
Freigabe, Einschränkung, Pilot, Redesign oder Verbot entscheidenWie wird „Freigabe, Einschränkung, Pilot, Redesign oder Verbot entscheiden“ für den konkreten Fall nachvollziehbar bearbeitet?
EvidenzstatusImmer ausfüllen – auch wenn unbequem.
UnsicherheitImmer ausfüllen – auch wenn unbequem.
Negative WirkungImmer ausfüllen – auch wenn unbequem.
WirkungsgrenzenImmer ausfüllen – auch wenn unbequem.
Offene FragenImmer ausfüllen – auch wenn unbequem.

Ausgefülltes Beispiel folgt. Mehr zum Canvas-Prinzip.

Führt zu

-

← O04 Alle Methoden O06 →