O06 · KI-Lebenszyklus-, Modellrisiko- und Human-Oversight-Canvas#

Canvas / Analysemethode Daten, Technologie, KI und agentische Systeme Version 2.0 · Que llen: INT-03 · EXT-AI-01 · EXT- AI-05 · EXT-AI-06 Modellentwicklung, Freigabe, Betrieb, Änderung und menschliche Verantwortung durchgängig steuern.

Verbindlicher Output Lifecycle Governance mit Rollen, Tests, Validierung, Schwellen, Overrides, Monitoring, Changes und Decommissioning.

Einsatzrahmen Festlegung Geeignet Wenn die entsprechende Managementfunktion entscheidungsrelevant ist und ein versionierter, nachvollziehbarer Output benötigt wird.

Nicht geeignet Nicht als Ersatz für fachliche Detailanalyse, Rechtsprüfung oder unabhängige Expertise verwenden. Dauer 90–150 Minuten Beteiligte 4–10 Personen Benötigte Inputs Wirkungsmandat, vorhandene Daten und relevante Vorarbeiten Schnitts tellen Vorgänger: A01–A06. Nachfolger: abhängig vom Ergebnis.

Vorgehen#

1. Lebenszyklusphasen und Modellgrenzen definieren.

2. Rollen für Entwicklung, Validierung, Betrieb und Oversight trennen.

3. Daten-, Leistungs-, Robustheits-, Fairness- und Sicherheitsanforderungen festlegen.

4. Menschliche Eingriffs- und Entscheidungsmöglichkeiten testen.

5. Monitoring, Drift, Incident und Change Control organisieren.

6. Revalidierung, Abschaltung und Rückbau regeln.

Leitfragen#

 Kann der Mensch sinnvoll eingreifen oder nur formal bestätigen?

 Welche Drift ist wirkungsrelevant?  Wer darf ein Modell verändern oder stoppen?

O06 · KI-Lebenszyklus-, Modellrisiko- und Human-Oversight-Canvas – Fortsetzung

Visualisierungs- und Canvas-Spezifikation#

Lifecycle-Swimlane mit Gates, Validierung, Human-Oversight-Punkten und Incidentpfad.

Qualitätskriterien#

 Empfänger, Systemgrenze, Wirkungsziel und Schutzrahmen sind eindeutig.

 Befunde, Annahmen, Modelle und normative Bewertungen bleiben unterscheidbar.

 Der Output besitzt Owner, Version, Evidenzstatus und eine klare nächste Entscheidung.

 Datenherkunft, Human Oversight und Decommissioning sind geregelt.

 Keine Personenbewertung oder automatisierte normative Letztentscheidung.

Typische Fehlanwendungen und Schutzmaßnahmen#

 Methode nicht als endgültige Wahrheit, sondern als versionierte Entscheidungsgrundlage behandeln.

 Workshopkonsens darf Betroffene, negative Wirkung, Machtasymmetrien oder Minderheitsvoten nicht ausblenden.

 Keine Fach-, Rechts-, Sicherheits- oder Datenprüfung durch ein Canvas ersetzen.

 Human Oversight nicht als symbolischen Klick ohne Eingriffsmöglichkeit gestalten.

Varianten#

 Kurzcheck 45 Minuten  Standardworkshop  Deep Dive mit Daten- und Fachanalyse

Quellen- und Herkunftslinie#

Interne und externe Anschlussquellen: INT-03 · EXT-AI-01 · EXT-AI-05 · EXT-AI-06. Die WÖMS-Ausgestaltung verbindet diese Quellen mit der wirkungsökonomischen Begriffs-, Grenz-, Nichtkompensations-, Realisierungs- und Rückkopplungslogik.