Technokratie / Überwachung / Social Credit

Auf einen Blick

• Der Technokratievorwurf muss ernst genommen werden.
• Wirkungsmessung ist nicht Personenbewertung.
• Wirkungsdatenräume dürfen keine Überwachungsräume werden.
• Social Credit ist eine rote Linie.
• Bewertet werden Produkte, Organisationen, Projekte, Kapitalflüsse, Lieferketten, Programme, Infrastrukturen und öffentliche Wirkungen - nicht der moralische Wert von Menschen.
• KI und Algorithmen dürfen nicht die Hoheit über Wirkungslogik übernehmen.
• Digitale Rechte, Datenschutz, Zweckbindung, Datenminimierung, Rechtsschutz, Widerspruch und Korrektur sind Systembestandteile.
• Ziel ist Freiheit durch bessere Rückkopplung, nicht Kontrolle durch Datenmacht.

Hauptdefinition

Technokratie / Überwachung / Social Credit bezeichnet das Risiko, dass eine wirkungsorientierte Ordnung missverstanden oder missbraucht wird als System zentraler Kontrolle, Personenbewertung oder expertokratischer Steuerung. Der Begriff bündelt drei unterschiedliche, aber verwandte Sorgen:

1. Technokratie:

Die Sorge, dass Daten, Expert:innen oder Modelle demokratische Abwägung ersetzen.

2. Überwachung:

Die Sorge, dass Wirkungsdaten zur Verhaltenskontrolle, Lebensstilbeobachtung oder verdeckten Profilbildung genutzt werden.

3. Social Credit:

Die rote Linie, bei der Menschen als Gesamtpersonen bewertet, belohnt, bestraft oder sozial gerankt werden.

Die Wirkungsökonomie grenzt sich davon ausdrücklich ab. Sie will nicht Menschen bewerten, sondern die Wirkungen von Produkten, Organisationen, Kapital, öffentlichen Programmen, Infrastrukturen, Medienlogiken und politischen Entscheidungen sichtbar machen. Die WÖk ist eine Rückkopplungsarchitektur, keine Kontrollarchitektur.

Wirkungsökonomische Relevanz

Der Begriff ist zentral, weil die WÖk datenbasiert arbeitet. Datenbasierte Systeme können Vertrauen schaffen, aber auch Macht konzentrieren. Je mehr Wirkung in Preise, Steuern, Beschaffung, Kapitalzugang, Versicherbarkeit oder öffentliche Haushalte zurückwirkt, desto wichtiger werden Rechte, Grenzen und Kontrolle.

Ohne Schutzmechanismen könnte die WÖk in ihr Gegenteil kippen:

Deshalb ist Missbrauchsschutz kein Zusatz. Er ist Bestandteil der Wirkungsarchitektur.

• Scorecards könnten Personenprofile werden.
• Wirkungspunkte könnten zu Konsumüberwachung werden.
• Datenräume könnten Lebensstilräume werden.
• KI könnte normative Bewertung übernehmen.
• Expert:innen könnten politische Entscheidungen ersetzen.
• Plattformen könnten Wirkungsdaten für Manipulation nutzen.
• Versicherungen könnten Schutzlogiken in Ausschlusslogiken verwandeln.

Wirkungsökonomische Sicht & Einordnung

Die WÖk setzt klare Schutzlinien:

1. Objekt- statt Personenbezug:

Bewertet werden Produkte, Dienstleistungen, Organisationen, Tätigkeiten, Programme, Lieferketten, Kapitalflüsse und Infrastrukturen. Personen werden nicht als moralische Gesamtprofile bewertet.

2. Zweckbindung:

Daten dürfen nur für klar definierte Wirkungszwecke genutzt werden.

3. Datenminimierung:

So wenig personenbezogene Daten wie möglich, so viel Systeminformation wie nötig.

4. Rechtsschutz:

Betroffene müssen Einsicht, Widerspruch, Korrektur und Klagewege haben.

5. demokratische Kontrolle:

Wirkungsrat, Wissensrat, Gerichte, Parlamente, Öffentlichkeit und Datenschutzaufsicht begrenzen Macht.

6. KI-Begrenzung:

KI kann analysieren, aber nicht allein normative Wirkungsgrenzen setzen.

7. Dezentralität:

Wirkungssignale sollen dezentrale Entscheidungen verbessern, nicht zentral Befehle ersetzen.

Abgrenzung: Nicht verwechseln mit

• Wirkungsmessung: misst Zustandsveränderungen, nicht den Wert eines Menschen.
• Wirkungspunkte: dürfen nur datenschutzkonform, freiwillig und ohne Personenranking genutzt werden.
• Bonuslogik: Anreize für Produkte oder Handlungen sind nicht automatisch Social Credit.
• Sozialstaatliche Anspruchsprüfung: rechtlich geregelte Prüfung ist nicht gleich Personenranking.
• Statistik: aggregierte Daten sind keine Individualüberwachung.
• Wirkungsdatenraum: legitimer Datenraum mit Rollenrechten und Zweckbindung.
• Überwachungsraum: illegitime oder unverhältnismäßige Sammlung personenbezogener Verhaltensdaten.
• Expert:innenberatung: Wissenschaft berät; Demokratie entscheidet.
• KI-Governance: begrenzt KI-Macht, statt sie zu legitimieren.
• Sicherheitsarchitektur: Schutz kritischer Systeme darf nicht zur dauerhaften Ausnahmeordnung werden.

Beispiele

Ein DPP bewertet die Wirkung eines Produkts. Er darf nicht speichern, wer dieses Produkt wann kauft, um daraus ein moralisches Konsumprofil zu erzeugen.

Ein Wirkungspunktesystem kann positive Alltagsentscheidungen belohnen, darf aber nicht verpflichtend, personenbezogen umfassend oder für Zugang zu Grundrechten genutzt werden.

Eine Versicherung darf Gebäuderesilienz bewerten, aber nicht ohne Rechtsgrundlage private Lebensführung auswerten.

Ein KI-Modell kann Datenlücken in Scorecards erkennen, darf aber nicht allein Steuerklassen oder Rechtsfolgen festlegen.

Ein Wirkungsrat veröffentlicht Benchmarks und Änderungen transparent, statt verdeckt politische Vorgaben durch Expert:innen zu setzen.

Ein kommunaler Wirkungshaushalt nutzt aggregierte Daten zu Hitze, Pflege, Mobilität und Wohnen, ohne individuelle Bewegungsprofile zu erstellen.

Mess- und Steuerungsbezug

Dieser Schutzbegriff braucht eigene Prüffelder:

Mögliche Datenfelder:

Steuerungsregeln:

• Personenbezug.
• Zweckbindung.
• Datenminimierung.
• Rechtsgrundlage.
• Einwilligung oder gesetzliche Grundlage.
• Profiling-Risiko.
• Social-Credit-Risiko.
• automatisierte Entscheidung.
• Erklärbarkeit.
• Widerspruchsmechanismus.
• Korrekturmechanismus.
• Löschrechte.
• Rollenrechte.
• Zugriffskontrolle.
• Audit-Trail.
• Datenschutz-Folgenabschätzung.
• Grundrechtsprüfung.
• algorithmische Fairness.
• demokratische Aufsicht.
• version
• Social Credit ist rote Linie.
• Keine moralische Gesamtbewertung von Menschen.
• Keine verdeckte Lebensstilbewertung.
• Keine Konsumüberwachung.
• Keine personenbezogenen Pflicht-Wirkungsprofile.
• Wirkungsdaten bevorzugt produkt-, organisations-, projekt-, programm-, prozess- oder infrastrukturbezogen erfassen.
• Personenbezug nur mit klarer Rechtsgrundlage, Zweckbindung und Schutzprüfung.
• Automatisierte Entscheidungen mit erheblicher Wirkung brauchen Erklärung, Widerspruch und menschliche Prüfung.
• KI darf normative Wirkungsgrenzen nicht allein setzen.
• Datenräume brauchen Rollenrechte, Protokollierung, Audit, Korrektur und Datenschutz.
• demokratische Kontrolle und Rechtsschutz sind Pflichtbestandteile.

Querverweise im Glossar

• Widerstand gegen neue Maßstäbe
• SDGs und Verschwörungsnarrative
• Wirkungssimulation
• Freiheit / Markt / Planwirtschaftsvorwurf
• Algorithmische Fairness und digitale Rechte
• KI-Governance
• Wirkungsdatenräume
• Digitalisierung als Infrastruktur der Wirkungsökonomie
• Datenqualität
• Datenschutz
• digitale Selbstbestimmung
• Wirkungspunkte
• Wirkung im Preisschild
• Wirkungsbewertung
• Wirkungslenkung
• Wirkungsrecht
• Verhältnismäßigkeit nach Wirkung
• Rechtsprechung als Korrekturinstanz
• Wirkungsrat
• Wissensrat
• Öffentlichkeit als Wirkungsraum
• Plattformlogik und Algorithmen
• Desinformation
• Fehlbarkeit der Wirkungsökonomie
• Mensch, Planet und Demokratie

Quellenbasis

Externe Quellen:

• Die neue Ordnung des Wohlstands, Kapitel Technokratie, Überwachung und die Angst vor Steuerung.
• Die neue Ordnung des Wohlstands, Kapitel Wirkungsmessung ist nicht Personenbewertung.
• Die neue Ordnung des Wohlstands, Kapitel Datenräume statt Überwachungsräume.
• Die neue Ordnung des Wohlstands, Kapitel Social Credit als rote Linie.
• Die neue Ordnung des Wohlstands, Kapitel KI-Governance.
• Die neue Ordnung des Wohlstands, Kapitel Algorithmische Fairness und digitale Rechte.
• Die neue Ordnung des Wohlstands, Kapitel Wirkungspunkte und Bonuslogiken.
• Die neue Ordnung des Wohlstands, Kapitel Wirkungsmessung, Manipulation und Wirkungssimulation.
• Führender Begriffsleitfaden der Wirkungsökonomie.
• Working-Paper Wirkungssteuergesetz.
• Systemmodell der Wirkungsökonomie.
• GDPR.
• EU Charter of Fundamental Rights.
• European Convention on Human Rights.
• AI Act.
• European Commission AI Act guidance.
• OECD AI Principles.
• UNESCO Recommendation on the Ethics of AI.
• Digital Services Act.
• NIST AI Risk Management Framework.
• ISO/IEC 42001.
• ISO/IEC 23894.

Redaktionelle Metadaten

cluster: Kritik-, Missverständnis- & Schutzlogik