Wirkungsökonomie Logo Wirkungsökonomie

WÖMS · Kategorie O · Daten, Technologie, KI und agentische Systeme

O06 · KI-Lebenszyklus-, Modellrisiko- und Human-Oversight-Canvas

Modellentwicklung, Freigabe, Betrieb, Änderung und menschliche Verantwortung durchgängig steuern.

Was du mitbringst

Inputs

  • Wirkungsmandat
  • vorhandene Daten und relevante Vorarbeiten

So gehst du vor

Schritte

  1. Lebenszyklusphasen und Modellgrenzen definieren.
  2. Rollen für Entwicklung, Validierung, Betrieb und Oversight trennen.
  3. Daten-, Leistungs-, Robustheits-, Fairness- und Sicherheitsanforderungen festlegen.
  4. Menschliche Eingriffs- und Entscheidungsmöglichkeiten testen.
  5. Monitoring, Drift, Incident und Change Control organisieren.
  6. Revalidierung, Abschaltung und Rückbau regeln.

Was herauskommt

Outputs

  • Lifecycle Governance mit Rollen, Tests, Validierung, Schwellen, Overrides, Monitoring, Changes und Decommissioning.

Woran du gute Arbeit erkennst

Qualitätsregeln

  • Empfänger, Systemgrenze, Wirkungsziel und Schutzrahmen sind eindeutig.
  • Befunde, Annahmen, Modelle und normative Bewertungen bleiben unterscheidbar.
  • Der Output besitzt Owner, Version, Evidenzstatus und eine klare nächste Entscheidung.
  • Datenherkunft, Human Oversight und Decommissioning sind geregelt.
  • Keine Personenbewertung oder automatisierte normative Letztentscheidung.

Die roten Linien

Schutzregeln

Diese Regeln stehen über allem. Eine verletzte Wirkungsgrenze lässt sich nicht durch positive Werte ausgleichen.

  • Methode nicht als endgültige Wahrheit, sondern als versionierte Entscheidungsgrundlage behandeln.
  • Workshopkonsens darf Betroffene, negative Wirkung, Machtasymmetrien oder Minderheitsvoten nicht ausblenden.
  • Keine Fach-, Rechts-, Sicherheits- oder Datenprüfung durch ein Canvas ersetzen.
  • Human Oversight nicht als symbolischen Klick ohne Eingriffsmöglichkeit gestalten.

Die Arbeitsfläche

Canvas - KI-Lebenszyklus-, Modellrisiko- und Human-Oversight-Canvas

Eine leere Vorlage mit klaren Leitfragen. Die fünf Pflichtfelder sind immer auszufüllen - sie halten Ehrlichkeit und Nichtkompensation im Blick.

O06 · KI-Lebenszyklus-, Modellrisiko- und Human-Oversight-CanvasFall: Datum: Version: Moderation:
Lebenszyklusphasen und Modellgrenzen definierenWie wird „Lebenszyklusphasen und Modellgrenzen definieren“ für den konkreten Fall nachvollziehbar bearbeitet?
Rollen für Entwicklung, Validierung, Betrieb und Oversight trennenWie wird „Rollen für Entwicklung, Validierung, Betrieb und Oversight trennen“ für den konkreten Fall nachvollziehbar bearbeitet?
Daten-, Leistungs-, Robustheits-, Fairness- und Sicherheitsanforderungen festlegenWie wird „Daten-, Leistungs-, Robustheits-, Fairness- und Sicherheitsanforderungen festlegen“ für den konkreten Fall nachvollziehbar bearbeitet?
Menschliche Eingriffs- und Entscheidungsmöglichkeiten testenWie wird „Menschliche Eingriffs- und Entscheidungsmöglichkeiten testen“ für den konkreten Fall nachvollziehbar bearbeitet?
Monitoring, Drift, Incident und Change Control organisierenWie wird „Monitoring, Drift, Incident und Change Control organisieren“ für den konkreten Fall nachvollziehbar bearbeitet?
Revalidierung, Abschaltung und Rückbau regelnWie wird „Revalidierung, Abschaltung und Rückbau regeln“ für den konkreten Fall nachvollziehbar bearbeitet?
EvidenzstatusImmer ausfüllen – auch wenn unbequem.
UnsicherheitImmer ausfüllen – auch wenn unbequem.
Negative WirkungImmer ausfüllen – auch wenn unbequem.
WirkungsgrenzenImmer ausfüllen – auch wenn unbequem.
Offene FragenImmer ausfüllen – auch wenn unbequem.

Ausgefülltes Beispiel folgt. Mehr zum Canvas-Prinzip.

Führt zu

-

← O05 Alle Methoden O07 →