Baut auf
A01 · WÖMS-Auftragsklärung A02 · Wirkungskompass-Ausrichtung A03 · Systemgrenzen- und Reichweiten-Canvas A04 · Wirkungsempfänger- und Stakeholder-Landkarte A05 · Wirkungsgrenzen- und Rechteprüfung A06 · Evidenz- und Annahmenregister
WÖMS · Kategorie O · Daten, Technologie, KI und agentische Systeme
O08 · KI-/Agenten-Incident-, Abschalt- und Rückbauplan
Fehler, Missbrauch, Kontrollverlust und schädliche Wirkung schnell begrenzen und Systeme geordnet stilllegen.
Was du mitbringst
Inputs
- Wirkungsmandat
- vorhandene Daten und relevante Vorarbeiten
So gehst du vor
Schritte
- Incidentklassen und Wirkungsschwere definieren.
- Erkennungs- und Alarmquellen bestimmen.
- Triage, Entscheidungsrechte und Kill-Switch testen.
- Eindämmung, Fallback und Betriebsfortführung planen.
- Betroffene informieren, Schäden beheben und Beweise sichern.
- Root Cause, Revalidierung oder Decommissioning durchführen.
Was herauskommt
Outputs
- Incident- und Exit-Playbook mit Erkennung, Triage, Eindämmung, Abschaltung, Kommunikation, Redress, Recovery und Lernen.
Woran du gute Arbeit erkennst
Qualitätsregeln
- Empfänger, Systemgrenze, Wirkungsziel und Schutzrahmen sind eindeutig.
- Befunde, Annahmen, Modelle und normative Bewertungen bleiben unterscheidbar.
- Der Output besitzt Owner, Version, Evidenzstatus und eine klare nächste Entscheidung.
- Datenherkunft, Human Oversight und Decommissioning sind geregelt.
- Keine Personenbewertung oder automatisierte normative Letztentscheidung.
Die roten Linien
Schutzregeln
Diese Regeln stehen über allem. Eine verletzte Wirkungsgrenze lässt sich nicht durch positive Werte ausgleichen.
- Methode nicht als endgültige Wahrheit, sondern als versionierte Entscheidungsgrundlage behandeln.
- Workshopkonsens darf Betroffene, negative Wirkung, Machtasymmetrien oder Minderheitsvoten nicht ausblenden.
- Keine Fach-, Rechts-, Sicherheits- oder Datenprüfung durch ein Canvas ersetzen.
- Human Oversight nicht als symbolischen Klick ohne Eingriffsmöglichkeit gestalten.
Die Arbeitsfläche
Canvas - KI-/Agenten-Incident-, Abschalt- und Rückbauplan
Eine leere Vorlage mit klaren Leitfragen. Die fünf Pflichtfelder sind immer auszufüllen - sie halten Ehrlichkeit und Nichtkompensation im Blick.
O08 · KI-/Agenten-Incident-, Abschalt- und RückbauplanFall: Datum: Version: Moderation:
Incidentklassen und Wirkungsschwere definierenWie wird „Incidentklassen und Wirkungsschwere definieren“ für den konkreten Fall nachvollziehbar bearbeitet?
Erkennungs- und Alarmquellen bestimmenWie wird „Erkennungs- und Alarmquellen bestimmen“ für den konkreten Fall nachvollziehbar bearbeitet?
Triage, Entscheidungsrechte und Kill-Switch testenWie wird „Triage, Entscheidungsrechte und Kill-Switch testen“ für den konkreten Fall nachvollziehbar bearbeitet?
Eindämmung, Fallback und Betriebsfortführung planenWie wird „Eindämmung, Fallback und Betriebsfortführung planen“ für den konkreten Fall nachvollziehbar bearbeitet?
Betroffene informieren, Schäden beheben und Beweise sichernWie wird „Betroffene informieren, Schäden beheben und Beweise sichern“ für den konkreten Fall nachvollziehbar bearbeitet?
Root Cause, Revalidierung oder Decommissioning durchführenWie wird „Root Cause, Revalidierung oder Decommissioning durchführen“ für den konkreten Fall nachvollziehbar bearbeitet?
EvidenzstatusImmer ausfüllen – auch wenn unbequem.
UnsicherheitImmer ausfüllen – auch wenn unbequem.
Negative WirkungImmer ausfüllen – auch wenn unbequem.
WirkungsgrenzenImmer ausfüllen – auch wenn unbequem.
Offene FragenImmer ausfüllen – auch wenn unbequem.
Ausgefülltes Beispiel folgt. Mehr zum Canvas-Prinzip.
Führt zu
-