Teil Digitalisierung, KI und Wirkungsdatenräume

Kapitel 83 - Algorithmische Fairness und digitale Rechte

Kapitel 83 - Algorithmische Fairness und digitale Rechte

Kapitel 82 hat KI als Wirkungsverstärker beschrieben. KI kann Wirkung sichtbar machen, Risiken früher erkennen und Entscheidungen vorbereiten. Sie kann aber auch Fehler, Diskriminierung, Manipulation und Machtkonzentration skalieren. Dieses Kapitel zieht daraus die menschenrechtliche, demokratische und wirkungsökonomische Konsequenz: Digitale Systeme brauchen Fairness und Rechte.

Algorithmische Fairness ist keine technische Nebensache. Sie ist eine Schutzbedingung der Wirkungsökonomie. Denn wenn digitale Systeme Zugänge, Sichtbarkeit, Preise, Kredite, Versicherbarkeit, Arbeit, Bildung, Gesundheit, Wohnen, Verwaltung oder Öffentlichkeit beeinflussen, dann wirken sie nicht nur auf Daten. Sie wirken auf Lebensmöglichkeiten.

Digitale Systeme werden freiheitsfähig, wenn sie Menschen nicht sortieren, manipulieren oder ausschließen, sondern ihre Rechte, Selbstbestimmung und Teilhabe schützen.

Die Wirkungsökonomie darf an dieser Stelle nicht in zwei falsche Richtungen kippen. Sie darf digitale Technik nicht pauschal verdächtigen. Digitale Systeme können Zugang, Bildung, Barrierefreiheit, Forschung, Gesundheit, Verwaltung, Teilhabe, Transparenz und Effizienz stärken. Sie darf digitale Technik aber auch nicht als neutral behandeln. Software ist Handlungsarchitektur. Sie entscheidet mit, welche Optionen sichtbar sind, welche Daten erhoben werden, welche Prozesse automatisiert werden, wer Zugang erhält, wer ausgeschlossen wird und welche Machtverhältnisse entstehen [I-K83-1].

83.1 Diskriminierung

Diskriminierung entsteht nicht erst, wenn ein Mensch bewusst ungerecht handelt. Sie kann auch entstehen, wenn ein digitales System historische Ungleichheiten übernimmt, falsche Proxy-Variablen nutzt, Gruppen unvollständig abbildet, Daten verzerrt, Kontexte verengt oder scheinbar neutrale Kriterien auf ungleiche Lebenslagen anwendet.

Ein Algorithmus kann diskriminieren, ohne Hass zu haben. Ein KI-System kann benachteiligen, ohne Absicht. Ein digitales Verwaltungsverfahren kann ausschließen, ohne dass jemand Ausschluss wollte. Genau das macht algorithmische Diskriminierung gefährlich: Sie erscheint als Technik, obwohl sie soziale Wirklichkeit sortiert.

Die Wirkungsökonomie beginnt daher mit einer klaren Unterscheidung. Digitale Systeme dürfen Wirkungsträger, Strukturen, Produkte, Organisationen, Kapitalflüsse, Infrastrukturen und Entscheidungen bewerten. Sie dürfen nicht den Wert eines Menschen bewerten. Das ist die Würdegrenze der Wirkungsökonomie. Der Mensch ist kein Score. Er ist Träger von Würde, Rechten und Teilhabe.

Diese Grenze ist besonders wichtig, weil digitale Systeme schnell in Sortierlogiken kippen können. Menschen werden nach Risiko, Wahrscheinlichkeit, Verhalten, Einkommen, Standort, Sprache, Konsummuster, Gesundheit, Migrationserfahrung, Bonität, Beschäftigungslücke, Wohnort, Bildungsabschluss, Geschlecht, Alter, Behinderung, politischem Verhalten oder Gruppenzugehörigkeit klassifiziert. Manche dieser Daten können für bestimmte Zwecke relevant sein. Aber sobald solche Klassifikationen Zugang zu Arbeit, Kredit, Versicherung, Bildung, Wohnen, Gesundheit, Verwaltung oder Öffentlichkeit beeinflussen, entsteht ein Wirkungsrisiko.

Algorithmische Benachteiligung kann in vielen Bereichen auftreten. Im Arbeitsmarkt können Bewerbungen vorsortiert werden. Wenn historische Daten frühere Benachteiligungen enthalten, können Frauen, Menschen mit Migrationsgeschichte, ältere Menschen, Menschen mit Behinderung, Menschen mit Lücken im Lebenslauf oder Menschen aus bestimmten Wohngebieten schlechter gerankt werden. Im Kreditwesen können Bonitätsmodelle Menschen benachteiligen, weil sie Wohnort, Familienstand, Beschäftigungsform, Konsummuster oder indirekte Proxy-Daten nutzen. Ein Modell kann dann Armut oder Prekarität nicht als Lebenslage erkennen, sondern als individuelles Risiko bestrafen.

In der Versicherung können Risikomodelle Prävention stärken, aber auch Ausschlüsse erzeugen. Wenn Menschen, Regionen oder Berufsgruppen nur noch als Risikoprofile erscheinen, wird Versicherbarkeit zur digitalen Zugangsmacht. In der Verwaltung können automatisierte Verfahren helfen, Fälle schneller zu bearbeiten. Sie können aber auch Menschen ausschließen, die Sprache, Dokumente, digitale Identität, stabile Adresse, technische Geräte oder digitale Kompetenz nicht in der erwarteten Form besitzen.

In Bildung und Gesundheit können digitale Systeme Diagnostik, Förderung und Zugang verbessern. Sie können aber auch Stigma, Fehlklassifikation, Überwachung oder ungleiche Behandlung verstärken, wenn Daten und Modelle nicht fair geprüft werden. Im Wohnen können digitale Vermietungs- oder Kreditmodelle Menschen aus bestimmten Milieus, Quartieren oder Einkommenslagen strukturell schlechter stellen. Dann wird Wohnungsmarkt nicht nur sozial, sondern algorithmisch selektiv.

In der Öffentlichkeit können Ranking- und Empfehlungssysteme Gruppen unsichtbar machen oder überproportional verstärken. Algorithmische Fairness heißt hier nicht, dass jede Aussage gleich viel Reichweite bekommt. Sie heißt, dass Sichtbarkeit nicht verdeckt nach Macht, Erregung, Kaufkraft, Datenprofil oder Gruppenvorurteil verzerrt wird [I-K83-2].

Die Wirkungsökonomie braucht deshalb eine diskriminierungssensible Fairnesslogik. Sie fragt nicht nur: Ist das Modell technisch korrekt? Sie fragt: Welche Gruppen werden wie betroffen? Welche historischen Ungleichheiten werden übernommen? Welche Proxy-Daten wirken? Welche Fehlerraten entstehen für unterschiedliche Gruppen? Wer kann widersprechen? Wer versteht die Entscheidung? Wer kann Korrektur verlangen? Wer trägt Verantwortung?

Diese Fragen sind keine politische Korrektheitsdebatte. Sie sind Wirkungsprüfung. Diskriminierung verändert Zustände: Einkommen, Gesundheit, Bildung, Sicherheit, Vertrauen, Zugehörigkeit, Arbeit, Wohnen, Versicherbarkeit, demokratische Teilhabe. Eine Wirkungsökonomie, die diese Zustandsveränderungen nicht erkennt, wäre digital blind.

Migration, Aufenthaltsunsicherheit, fehlende Dokumente, Sprachbarrieren, Stigma, informelle Arbeit, wechselnde Wohnorte oder prekäre Lebenslagen können in digitalen Systemen leicht zu Ausschlussfaktoren werden. Ein Mensch kann nicht integriert werden, wenn digitale Verfahren ihn ständig als Ausnahme, Risiko oder unvollständigen Datensatz behandeln. Integration als Infrastruktur braucht daher auch digitale Fairness: verständliche Zugänge, mehrsprachige Informationen, Rechte, Korrektur, menschliche Ansprechstellen und Schutz vor Profiling.

Algorithmische Fairness bedeutet nicht, dass jede Ungleichheit technisch gelöst werden kann. Sie bedeutet, dass digitale Systeme Ungleichheit nicht unsichtbar fortschreiben dürfen.

83.2 Manipulationsschutz

Digitale Systeme sortieren nicht nur. Sie beeinflussen Verhalten.

Sie tun das über Buttons, Defaults, Farben, Benachrichtigungen, Feeds, Rankings, Belohnungen, Zeitdruck, Knappheit, Autoplay, Infinite Scroll, personalisierte Werbung, Abo-Fallen, Kündigungshürden, algorithmische Empfehlungen, soziale Vergleichslogiken, Microtargeting, emotionale Profilierung und manipulative Personalisierung [I-K83-3].

Nicht jede Verhaltensgestaltung ist illegitim. Jede Oberfläche lenkt. Ein gutes Formular kann Menschen verständlich durch einen Antrag führen. Eine Gesundheits-App kann gute Entscheidungen erleichtern. Ein Lernsystem kann Motivation unterstützen. Ein digitaler öffentlicher Dienst kann Barrieren senken. Die Frage ist nicht, ob digitale Produkte Verhalten beeinflussen. Die Frage ist, ob diese Beeinflussung transparent, freiheitsachtend und wirkungspositiv ist.

Manipulation beginnt dort, wo Menschen gegen ihre eigenen Interessen, ohne klare Information, durch asymmetrische Macht oder durch psychologische Ausnutzung in Entscheidungen gedrängt werden.

Manipulative digitale Gestaltung ist wirkungsökonomisch Verlustleistung. Sie erzeugt Umsatz durch Autonomieverlust. Sie erzeugt Klicks durch Aufmerksamkeitsermüdung. Sie erzeugt Datennutzung durch Unklarheit. Sie erzeugt Abos durch Kündigungsbarrieren. Sie erzeugt Konsum durch psychischen Druck. Sie erzeugt politische Wirkung durch emotionale Verstärkung [I-K83-4].

Die Plattformlogik wurde bereits im vorherigen Teil behandelt: Erregung, Polarisierung, Suchtlogik und algorithmische Verstärkung. Dieses Kapitel wiederholt diese Analyse nicht. Es zieht die Rechte-Konsequenz daraus: Menschen brauchen Schutz vor verdeckter Verhaltenssteuerung, nicht nur Schutz vor falschen Inhalten.

Manipulationsschutz umfasst mindestens fünf Felder.

Erstens: Dark Patterns. Dazu gehören irreführende Einwilligungsbanner, schwer auffindbare Kündigungswege, aggressive Pop-ups, voreingestellte Datenfreigaben, versteckte Kosten, erzwungene Zustimmung, verwirrende Opt-out-Strukturen oder Interface-Designs, die Menschen gezielt in unerwünschte Entscheidungen lenken.

Zweitens: Sucht- und Bindungsmechaniken. Autoplay, Infinite Scroll, Streaks, Push-Druck, Likes, Ranking-Belohnungen, Verfügbarkeitsdruck und soziale Vergleichslogiken können Aufmerksamkeit binden und Autonomie schwächen. Bei Minderjährigen, psychisch belasteten Menschen oder vulnerablen Gruppen ist das besonders relevant.

Drittens: intransparente Profilierung. Menschen werden analysiert, segmentiert und angesprochen, ohne zu verstehen, welche Daten, Merkmale, Wahrscheinlichkeiten oder Schwächen genutzt werden. Besonders problematisch wird das bei Gesundheit, Politik, Religion, Sexualität, finanzieller Lage, psychischer Verletzlichkeit, Migration, Jugend oder sozialer Unsicherheit.

Viertens: manipulative Werbung und Microtargeting. Wenn Botschaften nicht mehr öffentlich überprüfbar sind, sondern präzise auf Ängste, Statusbedürfnisse, Zugehörigkeit oder Kränkungen einzelner Gruppen zugeschnitten werden, verschiebt sich Öffentlichkeit. Politische und kommerzielle Kommunikation können dann Menschen unterschiedlich steuern, ohne dass der gemeinsame Raum es sieht.

Fünftens: emotionale Ausbeutung. Angst, Status, Zugehörigkeit und Macht prägen menschliches Handeln. Digitale Systeme können genau diese Muster nutzen: Angst vor Ausschluss, Bedürfnis nach Anerkennung, Scham, Körperdruck, Wut, Kränkung, Gruppenzugehörigkeit, Einsamkeit oder Kontrollverlust. Das ist nicht zufällig. Es ist ein Geschäftsmodell, wenn Aufmerksamkeit und Datenbindung darüber monetarisiert werden.

Der Digital Services Act setzt hierfür im europäischen Digitalraum bereits Grenzen: Er verbietet unter anderem bestimmte Dark Patterns, verlangt Werbetransparenz und untersagt auf Online-Plattformen gezielte Werbung an Minderjährige sowie Werbung auf Basis sensibler Datenkategorien [E-K83-1]. Wirkungsökonomisch ist das ein notwendiger Anfang. Aber Manipulationsschutz darf nicht nur als Compliance-Liste verstanden werden. Maßgeblich ist die reale Wirkung auf Autonomie, Aufmerksamkeit, psychische Stabilität, Teilhabe, Diskursfähigkeit und demokratische Öffentlichkeit.

Der zentrale Satz lautet: Die Wirkungsökonomie bewertet nicht die Meinung, die jemand äußert. Sie bewertet die Infrastruktur, die Reichweite, Verstärkung, Transparenz, Korrektur und Manipulationsrisiken organisiert [I-K83-4]. Das schützt Meinungsfreiheit. Und es schützt Menschen vor verdeckter Verhaltenssteuerung.

Manipulationsschutz ist deshalb kein Zensurinstrument. Er ist Freiheitsschutz.

83.3 Digitale Selbstbestimmung

Digitale Selbstbestimmung ist Freiheit im Datenzeitalter.

Im 20. Jahrhundert bedeutete politische Mündigkeit, lesen, schreiben, rechnen, wählen und sich informieren zu können. Im 21. Jahrhundert reicht das nicht mehr. Menschen leben in Datenräumen. Sie kommunizieren über Plattformen. Sie werden durch Algorithmen sortiert. Sie hinterlassen Spuren. Sie werden bewertet, profiliert, empfohlen, priorisiert, ausgeschlossen, beworben, überwacht oder manipuliert. KI-Systeme erzeugen Inhalte, Stimmen, Bilder, Entscheidungen und Wahrscheinlichkeiten [I-K83-5].

Wer in dieser Welt keine digitale Selbstbestimmung hat, ist formal frei, aber praktisch steuerbar.

Datenschutz ist dafür zentral, aber nicht ausreichend. Datenschutz schützt Daten. Digitale Selbstbestimmung schützt Handlungsfähigkeit [I-K83-5]. Ein Mensch kann Datenschutzrechte haben und trotzdem durch Plattformdesign manipuliert werden. Ein Mensch kann Einwilligungsbanner anklicken und trotzdem nicht verstehen, wie seine Aufmerksamkeit gesteuert wird. Ein Mensch kann Zugang zum Internet haben und dennoch durch algorithmische Intransparenz benachteiligt werden. Ein Mensch kann Datenrechte besitzen und trotzdem faktisch keine Wahl haben, weil ein Dienst unverzichtbar ist.

Die Europäische Grundrechtecharta schützt personenbezogene Daten ausdrücklich in Artikel 8: Personenbezogene Daten müssen fair, zweckgebunden und auf legitimer Grundlage verarbeitet werden; außerdem bestehen Rechte auf Zugang und Berichtigung sowie unabhängige Kontrolle [E-K83-2]. Die Datenschutz-Grundverordnung schützt personenbezogene Daten technikneutral, unabhängig davon, ob sie automatisiert oder manuell verarbeitet werden, sofern sie strukturiert organisiert sind [E-K83-3]. Diese Rechte bilden den juristischen Kern digitaler Selbstbestimmung. Die Wirkungsökonomie erweitert sie um die Frage der tatsächlichen Handlungsfähigkeit.

Digitale Selbstbestimmung umfasst mehrere Rechte und Fähigkeiten.

Erstens: Auskunft. Menschen müssen erfahren können, welche personenbezogenen Daten über sie verarbeitet werden und zu welchen Zwecken.

Zweitens: Korrektur. Falsche Daten müssen berichtigt werden können. Ein falscher Datensatz darf nicht dauerhaft Zugang, Kredit, Versicherung, Verwaltung oder Sichtbarkeit beeinflussen.

Drittens: Widerspruch. Menschen müssen sich gegen bestimmte Verarbeitungen, Profilierungen oder automatisierte Entscheidungen wehren können.

Viertens: Portabilität. Daten müssen übertragbar sein, damit Menschen und Unternehmen nicht in Abhängigkeit von einzelnen Plattformen, Herstellern oder Diensten geraten. Das gilt nicht nur für soziale Plattformen, sondern auch für vernetzte Geräte, Maschinen, Fahrzeuge, Energieanlagen, Gesundheitsanwendungen und industrielle Systeme. Der Data Act stärkt in der EU diese Zugangs- und Nutzungslogik für Daten, besonders im Umfeld vernetzter Produkte und Dienste [E-K83-4].

Fünftens: Löschung und Zweckbindung. Daten dürfen nicht unbegrenzt gesammelt, verknüpft und für neue Zwecke genutzt werden, die Menschen nicht verstehen oder nicht erwarten konnten.

Sechstens: verständliche Erklärung. Wenn digitale Systeme relevante Entscheidungen beeinflussen, reicht ein technischer Hinweis nicht. Menschen brauchen eine Erklärung, die ihnen ermöglicht, die Entscheidung zu verstehen und anzufechten.

Siebtens: Schutz vor sensibler Profilbildung. Gesundheit, politische Überzeugung, Religion, Sexualität, ethnische Herkunft, biometrische Daten, psychische Vulnerabilität, finanzielle Not, Aufenthaltsstatus oder Gewalterfahrung sind keine normalen Marketingvariablen.

Achtens: digitale Barrierefreiheit. Selbstbestimmung setzt Zugang voraus. Digitale Systeme müssen auch für Menschen mit Behinderung, ältere Menschen, Menschen mit geringer digitaler Kompetenz, Sprachbarrieren oder instabiler Lebenslage nutzbar sein.

Neuntens: Medien- und Informationskompetenz. Menschen müssen verstehen, wie Plattformen, Ranking, Werbung, KI, Deepfakes, Quellen, Profilierung und Empfehlungssysteme wirken. Das verbindet digitale Selbstbestimmung mit Bildung und Diskurskultur.

Zehntens: kollektive Datenrechte. Manche Daten betreffen nicht nur einzelne Menschen, sondern Gruppen, Regionen, Beschäftigte, Mieter:innen, Patient:innen, Lieferketten, Gemeinden oder demokratische Öffentlichkeiten. Wenn Datenmacht kollektiv wirkt, braucht es auch kollektive Schutzmechanismen.

Die Wirkungsökonomie unterscheidet zwischen verschiedenen Datenarten. Personendaten betreffen einzelne Menschen und brauchen den stärksten Schutz. Sie dürfen nicht zur Personenbewertung, Gesinnungskontrolle oder sozialen Sortierung genutzt werden. Produktdaten betreffen Material, Energie, Lebenszyklus, Reparierbarkeit, Kreislauffähigkeit, Emissionen, Wasser, Arbeit, Lieferkette und Prüfstatus eines Produkts. Sie müssen für Wirkungsbewertung, digitale Produktpässe, Beschaffung und Markttransparenz nutzbar sein.

Unternehmensdaten betreffen Organisationen, Standorte, Lieferketten, Governance, Risiken, Kapital, Arbeitsbedingungen und Wirkungsstrategien. Sie brauchen Transparenz, aber auch Schutz berechtigter Geschäftsgeheimnisse. Wirkungsdaten betreffen Zustandsveränderungen und systemische Risiken. Sie sind nicht automatisch personenbezogen, können aber personenbezogene oder sensible Anteile enthalten. Deshalb brauchen sie klare Zweckbindung, Zugriffsebenen und Auditierbarkeit. Öffentliche Daten betreffen Gemeinwohl, Infrastruktur, Umwelt, Statistik, Verwaltung, Haushalte, Beschaffung, öffentliche Räume und demokratische Orientierung. Sie sollen so offen wie möglich und so geschützt wie nötig bereitstehen.

Diese Unterscheidung verhindert zwei Fehler. Der erste Fehler wäre Überwachung: Alles wird mit allem verknüpft, weil Wirkung angeblich alles rechtfertigt. Der zweite Fehler wäre Datenblockade: Nichts wird nutzbar, weil jede Wirkungsinformation pauschal als privat oder geschäftlich geschützt behandelt wird. Die Wirkungsökonomie sucht den mittleren Weg: starke Personenschutzrechte, faire Datenzugänge, Zweckbindung, öffentliche Transparenz und rechtsschutzfähige Nutzung.

Datenrechte sind deshalb nicht Datenschutzverwaltung. Sie sind Freiheitsrechte im digitalen Markt [I-K83-6].

83.4 Fairness by Design

Fairness darf nicht erst nach einem Schaden beginnen. Sie muss in digitale Systeme eingebaut werden.

Fairness by Design bedeutet: Digitale Systeme werden so entwickelt, beschafft, betrieben und überprüft, dass Diskriminierung, Manipulation, Ausschluss, Intransparenz und Machtmissbrauch von Anfang an begrenzt werden. Fairness ist dann nicht nachträgliche Korrektur, sondern Architekturprinzip.

Das gilt besonders dort, wo digitale Systeme relevant auf Rechte, Chancen, Einkommen, Gesundheit, Wohnen, Bildung, Kredit, Versicherung, Arbeit, Verwaltung oder Öffentlichkeit wirken. Je höher die mögliche Wirkung, desto höher die Fairnessanforderung.

Fairness by Design beginnt mit Zweckklarheit. Ein System muss wissen, wofür es gebaut wird. Ein Modell zur internen Plausibilitätsprüfung darf nicht ohne neue Prüfung zur rechtserheblichen Entscheidung genutzt werden. Ein Empfehlungssystem für Lerninhalte darf nicht wie ein Aufmerksamkeitsmarkt funktionieren. Ein Risikomodell darf nicht Lebenslagen bestrafen, die es eigentlich schützen müsste. Ein Verwaltungsalgorithmus darf nicht Menschen ausschließen, weil ihre Daten nicht in die erwartete Norm passen.

Fairness by Design verlangt Bias-Prüfung. Welche Gruppen sind in den Daten unterrepräsentiert? Welche historischen Ungleichheiten werden übernommen? Welche Variablen wirken als Stellvertreter für geschützte Merkmale? Welche Fehlerraten entstehen für verschiedene Gruppen? Welche Schwellenwerte erzeugen Ausschluss? Welche Daten fehlen? Welche Kontexte wurden nicht getestet?

Fairness by Design verlangt Betroffenenrechte. Menschen müssen erfahren können, wenn digitale Systeme für sie relevante Entscheidungen beeinflussen. Sie brauchen Erklärung, Einspruch, Korrektur, menschliche Überprüfung und Zugang zu wirksamen Beschwerdewegen. Rechte ohne praktische Zugänglichkeit sind nur Papier.

Fairness by Design verlangt Barrierefreiheit. Digitale Selbstbestimmung scheitert, wenn Systeme nur für technisch versierte, sprachlich sichere, gut ausgestattete und stabile Lebenslagen gebaut sind. Wer kein Gerät, keine stabile Adresse, keine digitale Identität, keine Sprachkompetenz, keine Barrierefreiheit oder keine Assistenz hat, darf nicht aus Verwaltung, Bildung, Gesundheit, Arbeit oder Teilhabe herausfallen.

Fairness by Design verlangt Nichtdiskriminierung. Digitale Systeme müssen so geprüft werden, dass sie Menschen nicht aufgrund von Herkunft, Geschlecht, Alter, Behinderung, Religion, sexueller Orientierung, sozialer Lage, Aufenthaltsstatus, Krankheit, Wohnort oder anderen sensiblen Merkmalen strukturell schlechter stellen. Das heißt nicht, dass Risiken nicht bewertet werden dürfen. Es heißt, dass Risikobewertung nicht zur verdeckten Diskriminierung werden darf.

Fairness by Design verlangt Auditierbarkeit. Ein digitales System muss prüfbar sein: Zweck, Daten, Modell, Version, Fehler, Beschwerden, Korrekturen, Verantwortliche, Wirkungsfolgen. Ohne Auditierbarkeit bleibt Fairness Behauptung.

Fairness by Design verlangt Beschwerdewege. Wer betroffen ist, muss nicht nur theoretisch Recht haben. Er muss praktisch Gehör finden. Digitale Rechte brauchen Verwaltung, Verfahren, Einspruch und Rechtsschutz.

Fairness by Design verlangt offene Standards und Interoperabilität. Wenn ein System Menschen, Unternehmen oder Verwaltungen in proprietäre Abhängigkeit zwingt, entsteht Macht. Wenn Schnittstellen geschlossen sind, werden Wettbewerb, Reparatur, Forschung, Korrektur und Transparenz erschwert. Fairness betrifft daher nicht nur Individuen, sondern auch Märkte und Institutionen.

Die EU-KI-Regulierung folgt ebenfalls einer risikobasierten Logik: Hochrisiko-KI betrifft unter anderem sensible Bereiche wie kritische Infrastruktur, Bildung, Beschäftigung, Zugang zu wesentlichen Diensten, Kreditwürdigkeit, Versicherungen, Migration, Justiz und demokratische Prozesse; für solche Systeme gelten Anforderungen wie Risikomanagement, Datenqualität, Dokumentation, Transparenz, menschliche Aufsicht, Robustheit und Cybersicherheit [E-K83-5]. Für die Wirkungsökonomie ist das anschlussfähig, aber nicht ausreichend. Der rechtliche Rahmen legt Mindestpflichten fest. Die Wirkungsökonomie fragt zusätzlich: Welche Wirkung erzeugt das System auf Mensch, Planet und Demokratie?

Fairness by Design ist deshalb keine rein technische Fairness-Metrik. Sie ist ein Wirkungsprinzip. Sie verbindet Grundrechte, Datenqualität, soziale Wirklichkeit, technische Gestaltung, institutionelle Kontrolle und demokratische Verantwortung.

Sie schützt vor einer gefährlichen Fehlentwicklung: einer Wirkungsökonomie, die zwar Produkte, Unternehmen und Kapitalflüsse bewertet, aber digitale Sortierung von Menschen übersieht. Genau das darf nicht passieren. Die Wirkungsökonomie bewertet nicht den Menschen. Sie schützt den Menschen vor Strukturen, die ihn zum Objekt machen.

83.5 Zwischenfazit

Algorithmische Fairness und digitale Rechte sind Schutzbedingungen der Wirkungsökonomie. Digitale Systeme beeinflussen Zugänge, Sichtbarkeit, Preise, Risiken, Kredite, Versicherbarkeit, Arbeit, Bildung, Verwaltung, Gesundheit, Wohnen und Öffentlichkeit. Deshalb dürfen sie nicht als neutrale Werkzeuge behandelt werden.

Dieses Kapitel hat vier Grundlinien gezogen.

Erstens: Diskriminierung kann auch ohne böse Absicht entstehen. Historische Daten, Proxy-Variablen, verzerrte Modelle und ungleiche Lebenslagen können algorithmische Benachteiligung erzeugen. Fairness ist daher Wirkungsprüfung.

Zweitens: Manipulationsschutz ist Freiheitsschutz. Digitale Produkte gestalten Verhalten. Manipulative Designs, Dark Patterns, Suchtmechaniken, intransparente Profilierung und psychologische Ausbeutung erzeugen Verlustleistung durch Autonomieverlust.

Drittens: Digitale Selbstbestimmung geht über Datenschutz hinaus. Datenschutz schützt Daten. Digitale Selbstbestimmung schützt Handlungsfähigkeit. Sie umfasst Auskunft, Korrektur, Widerspruch, Portabilität, Löschung, Zweckbindung, Erklärung, Barrierefreiheit, Medienkompetenz und Schutz vor Profiling.

Viertens: Fairness by Design muss digitale Systeme von Anfang an prägen: Bias-Prüfung, Betroffenenrechte, Barrierefreiheit, Nichtdiskriminierung, Auditierbarkeit, Beschwerdewege, offene Standards und Rechtsschutz.

Der Leitgedanke bleibt: Digitale Systeme werden freiheitsfähig, wenn sie Menschen nicht sortieren, manipulieren oder ausschließen, sondern ihre Rechte, Selbstbestimmung und Teilhabe schützen.

Die nächste Frage lautet: Was geschieht, wenn digitale Systeme, Wirkungsdatenräume, Produktpässe, KI, Register, Verwaltung, Energie, Gesundheit, Pflege, Finanzen und öffentliche Infrastruktur selbst angegriffen werden oder ausfallen?

Diese Frage führt zu Kapitel 84: Cyberresilienz und operative Stabilität.

Endnoten und Quellen zu Kapitel 83

Interne WÖk-Quellen

[I-K83-1] Weber, Natalie: Die neue Ordnung des Wohlstands, Arbeitsfassung 2026, Abschnitt zu digitalen Produkten. Grundlage für Software als Handlungsarchitektur, KI-Anwendungen als Wirkungsverstärker, Datenrechte als Kontrolle, Zugang, Zweckbindung, Portabilität, Löschung, Erklärung, Widerspruch, Interoperabilität, Datensparsamkeit und Schutz vor Profiling sowie für digitales Produktdesign als Wirkungsraum.

[I-K83-2] Weber, Natalie: Systemmodell der Wirkungsökonomie, 2025, Abschnitte zu Wirkungsdemokratie und digitaler Demokratie-Infrastruktur. Grundlage für algorithmische Fairness der Sichtbarkeit, digitale Partizipationsplattformen, Diskursstandards, transparente Regeln algorithmischer Sichtbarkeit, Schutz vor Desinformation, Schutz vor Hyper-Polarisierung und digitale Commons.

[I-K83-3] Weber, Natalie: Die neue Ordnung des Wohlstands, Arbeitsfassung 2026, Abschnitt „Manipulationsrisiko“. Grundlage für die Definition manipulativer digitaler Produktwirkung durch Dark Patterns, süchtig machende Designs, intransparente Empfehlungssysteme, Microtargeting, manipulative Personalisierung, irreführende Standardoptionen, algorithmische Verstärkung und asymmetrische Informationsmacht.

[I-K83-4] Weber, Natalie: Die neue Ordnung des Wohlstands, Arbeitsfassung 2026, Abschnitt „Manipulationsrisiken“. Grundlage für manipulative Designs als Verlustleistung, die Umsatz durch Autonomieverlust, Klicks durch Aufmerksamkeitsermüdung, Datennutzung durch Unklarheit, Abos durch Kündigungsbarrieren, Konsum durch psychischen Druck und politische Wirkung durch emotionale Verstärkung erzeugen; außerdem für die Abgrenzung: Die WÖk bewertet nicht Meinungen, sondern Infrastruktur, Reichweite, Verstärkung, Transparenz, Korrektur und Manipulationsrisiken.

[I-K83-5] Weber, Natalie: Die neue Ordnung des Wohlstands, Arbeitsfassung 2026, Abschnitt „SDG+ digitale Selbstbestimmung“. Grundlage für digitale Selbstbestimmung als Freiheit im Datenzeitalter, für Menschen in Datenräumen, algorithmische Sortierung, Profilierung, Bewertung, Priorisierung, Ausschluss, Werbung, Überwachung und Manipulation sowie für die Unterscheidung: Datenschutz schützt Daten, digitale Selbstbestimmung schützt Handlungsfähigkeit.

[I-K83-6] Weber, Natalie: Die neue Ordnung des Wohlstands, Arbeitsfassung 2026, Abschnitt „Datenrechte“. Grundlage für Daten als Verantwortungsraum statt kostenlose Rohstoffquelle, für Datensparsamkeit, Zweckbindung, Transparenz, Einwilligung ohne Druck, Portabilität, Interoperabilität, Löschung, Erklärung, Widerspruch, Schutz vor sensibler Profilbildung, Schutz vor manipulativer Personalisierung, kollektive Datenrechte, Zugang zu produktbezogenen Daten, faire Datenteilung und öffentliches Interesse; außerdem für den Satz: Datenrechte sind Freiheitsrechte im digitalen Markt.

[I-K83-7] Weber, Natalie: Systemmodell der Wirkungsökonomie, 2025, Abschnitt „Digitale Bürgerrechte / Digital Bill of Rights“. Grundlage für digitale Selbstbestimmung, algorithmische Fairness, Schutz vor Manipulation, Transparenz digitaler Risiken, eigene Daten und Datenportabilität, digitale Teilhabe, Schutz vor KI-Lügen, Deepfakes und Narrativen sowie Fairness in digitalen Räumen.

[I-K83-8] Weber, Natalie: Die neue Ordnung des Wohlstands, 2025, Abschnitt zu Bias in Algorithmen, Überwachung und Social Scoring. Grundlage für Algorithmen als nicht neutrale Systeme, für Bias durch Trainingsdaten und Programmierinteressen sowie für Social Scoring als pervertierte Form wirkungsorientierter Steuerung, weil Menschen nach politischer Konformität statt nach Mensch, Planet und Demokratie sortiert werden.

[I-K83-9] Weber, Natalie: Systemmodell der Wirkungsökonomie, 2025, Abschnitte „Rechte & Pflichten digitaler Akteure“ und „Prinzipien der Informationssouveränität“. Grundlage für Rechte auf unmanipulierten Zugang zur Öffentlichkeit, algorithmische Fairness, Schutz vor Desinformation, Quellenklarheit, Transparenz, Offenlegung algorithmischer Entscheidungen, Verbot versteckter Einflussnahme, Schutz vor Deepfakes und öffentliche Wissensinfrastrukturen.

[I-K83-10] Weber, Natalie: WÖk Master Items final v1.2, 2025. Grundlage für digitale Indikatorfamilien zu Datenschutz, IT-Sicherheit, Reg-Konformität, Digital Services Act, AI Act, Privacy by Design, Model Governance, Transparenz, offene Standards, Cyberresilienz, Interoperabilität, KI-Risiko-Assessments und Algorithmen-Audits.

Externe Quellen

[E-K83-1] Europäische Kommission: The Digital Services Act, Stand März 2026. Bezugspunkt für DSA-Regeln zu Werbetransparenz, Verbot sensibler werblicher Profilierung, Verbot bestimmter Dark Patterns, mehr Kontrolle für Nutzer:innen und besondere Pflichten großer Plattformen. (https://digital-strategy.ec.europa.eu/en/policies/digital-services-act)

[E-K83-2] Agentur der Europäischen Union für Grundrechte: EU Charter of Fundamental Rights, Article 8 - Protection of personal data. Bezugspunkt für den Schutz personenbezogener Daten, faire Verarbeitung für bestimmte Zwecke, Rechte auf Zugang und Berichtigung sowie unabhängige Kontrolle. (https://fra.europa.eu/en/eu-charter/article/8-protection-personal-data)

[E-K83-3] Europäische Kommission: Data protection explained. Bezugspunkt für die Datenschutz-Grundverordnung als technikneutralen Schutz personenbezogener Daten unabhängig davon, ob sie automatisiert oder manuell verarbeitet werden. (https://commission.europa.eu/law/law-topic/data-protection/data-protection-explained_en)

[E-K83-4] Europäische Kommission: Data Act explained, Stand Dezember 2025. Bezugspunkt für den Data Act als Regelwerk zur Verbesserung des Zugangs zu Daten, zur stärkeren Nutzbarkeit industrieller und vernetzter Produktdaten, zur fairen Verteilung des Datenwerts und zur Klärung, wer welche Daten unter welchen Bedingungen nutzen darf. (https://digital-strategy.ec.europa.eu/en/factpages/data-act-explained)

[E-K83-5] Europäische Kommission: AI Act und Navigating the AI Act, Stand 2026. Bezugspunkt für den risikobasierten KI-Rechtsrahmen, Hochrisiko-KI in sensiblen Bereichen sowie Anforderungen wie Risikomanagement, Datenqualität, Dokumentation, Transparenz, menschliche Aufsicht, Robustheit und Cybersicherheit. (https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai)

[E-K83-6] Datenschutz-Grundverordnung, Art. 22, automatisierte Entscheidungen einschließlich Profiling. Bezugspunkt für das Recht, nicht ausschließlich einer automatisierten Entscheidung unterworfen zu werden, die rechtliche Wirkung entfaltet oder ähnlich erheblich beeinträchtigt, sowie für menschliches Eingreifen, eigene Stellungnahme und Anfechtung. (https://gdpr-text.com/read/article-22/)

[E-K83-7] OECD: Dark Commercial Patterns, 2022. Bezugspunkt für digitale Gestaltungsmuster, die Entscheidungen von Verbraucher:innen untergraben, lenken, täuschen, nötigen oder manipulieren können. OECD: https://www.oecd.org/

[E-K83-8] National Institute of Standards and Technology: Artificial Intelligence Risk Management Framework, 2023. Bezugspunkt für vertrauenswürdige KI-Eigenschaften wie Zuverlässigkeit, Sicherheit, Resilienz, Verantwortlichkeit, Transparenz, Erklärbarkeit, Datenschutz und Fairness mit Bias-Management.