Kamera Großstadt Nacht Technik Security cameras monitor the movement of the top of the building Aerial view of Bangkok along Chaophraya River
© 24Novembers / shutterstock.com

Endstation Social Scoring

Wie Überwachung zu digitaler Sozialkontrolle werden kann

Vom Zusammenspiel zwischen autoritärer Staatsführung und digitaler Wirtschaft getrieben, wagt China das ambitionierteste Experiment sozialer Bevölkerungskontrolle aller Zeiten. Ab 2020 bewertet ein automatisiertes „Sozialkreditsystem“ anhand tausender Kriterien das soziale Verhalten aller 1,4 Millionen Chinesen und belohnt oder bestraft sie je nach individuellem Punktestand. Grundlage dafür sind eine unbeschränkte Überwachung, ein nicht existenter Datenschutz – und eine Digitalwirtschaft als treibende Kraft, der von der Politik keine Grenzen gesetzt werden.

Geschwindigkeit und Ausmaß der Digitalisierung

Die Digitalisierung hat in China eine höhere Geschwindigkeit und andere Ausmaße angenommen als in Deutschland. Während hierzulande im Wesentlichen digitale Entwicklungen von Microsoft, Apple, Google, Facebook, Amazon und anderen Technologietreibern aus dem Silicon Valley eingeführt und umgesetzt werden, treibt China den Fortschritt auf seine Weise voran.

Big Data und Datenschutz

»

China geht einen Schritt weiter: mit dem ambitioniertesten Experiment sozialer Bevölkerungskontrolle aller Zeiten.

«

Dabei erweist sich das Zusammenspiel zwischen digitaler Wirtschaft und autoritärer Staatsführung nicht nur als produktiv – sondern auch als potentiell gefährlich. Denn während in der westlichen Welt darüber diskutiert wird, ob und wie Big Data und Datenschutz miteinander vereinbar sind, geht China einfach einen Schritt weiter: mit dem ambitioniertesten Experiment sozialer Bevölkerungskontrolle aller Zeiten.

Die Datenströme, die Smartphones, soziale Medien, E-Shopping, Finanztransaktionen, Reiseverhalten, Arztbesuche, Online-Spiele, Internet-Suchen usw. generieren, lassen sich zielgerichtet analysieren. Zusammen mit Meldedaten, Schulzeugnissen oder rechtlichen Verfahren, etwa aufgrund eines Verkehrsverstoßes, einer Steuerhinterziehung oder eines Zivilprozesses, erlauben sie eine automatisierte Bewertung des finanziellen, sozialen, moralischen und politischen Verhaltens jedes einzelnen Menschen.

Das chinesische Sozialkreditsystem

»

Tausende Kriterien fließen in China künftig in einen digitalen „Social Credit Score“ ein.

«

Tausende Kriterien fließen in China künftig in einen digitalen „Social Credit Score“, ein zentral verwaltetes Sozialkreditsystem, ein. Um diesen Punktestand zu errechnen, werden ab 2020 alle der Regierung zur Verfügung stehenden, digital erfassbaren Verhaltensweisen von Bürgern, Firmen und Behörden gemessen und von einer künstlichen Intelligenz ausgewertet. Eine Automatisierung autoritärer Herrschaft zeichnet sich ab, eine Überwachung der Überwachung scheint kaum möglich.

Testläufe haben längst stattgefunden – und deutlich gemacht, dass das Social Scoring, die soziale Bewertung, je nach Sozialverhalten, Vertrauenswürdigkeit und Staatstreue Einfluss auf die Gestaltungsmöglichkeiten des gesamten Lebens und den Grad individueller Freiheit haben könnte, etwa mit Blick auf Jobchancen, Marktkonditionen, Beförderungs- und Wartezeiten, die Ausstellung von Reisedokumenten und Lizenzen, Sozialleistungen, Steuersätze, den Zugang zu Bankdarlehen oder die Notwendigkeit von Kautionszahlungen.

Das System sieht Belohnungen und Bestrafungen vor. Je höher der Punktestand, desto besser die Lebensbedingungen, ja der wirtschaftliche und soziale Status. Gute Taten und Wohlverhalten, sei es im Berufsleben oder im Rahmen sozialer Engagements, können den Punktestand verbessern. Für das andere Ende des Spektrums veröffentlichen Gerichte schwarze Listen von Menschen, die Einschränkungen etwa bei Schulanmeldungen, Immobilienkäufen oder der Nutzung von Verkehrsmitteln ausgesetzt sind.

Überwachung als Grundlage

»

Die Technik erlaubt in China bereits die Erstellung vollständiger Bewegungsprofile.

«

Dies wird plausibel, wenn man das Ausmaß der Videoüberwachung in China betrachtet. Während in Deutschland gerade erst eine einjährige Pilotphase zur intelligenten Gesichtserkennung am Berliner Bahnhof Südkreuz beendet wurde und ein zweiter Probelauf zur Analyse gefilmter Situationen und Gegenstände startet, erlaubt die Technik in China bereits die Erstellung vollständiger Bewegungsprofile.

Hier nimmt das System nicht nur in Sekundenschnelle automatisierte Gesichtsabgleiche auch größter Menschenmengen mit seiner Datenbank vor und analysiert per künstlicher Intelligenz als verdächtig definiertes Verhalten. Sondern die massenhafte Verbreitung von zig Millionen Kameras und die systematische Aufzeichnung und Auswertung erlaubt in Verbindung mit Body Scanning und Geo Tracking perspektivisch eine lückenlose Verfolgung im öffentlichen Raum, die der individuellen Freiheit, sich unerkannt in der Öffentlichkeit zu bewegen, ein Ende setzt. Dies betrifft Pop-Konzerte ebenso wie Demonstrationen oder den ganz banalen Alltag.

Zusammenspiel zwischen Staat und Wirtschaft

»

Social Scoring ist keine rein chinesische Problematik ist, sondern eine digitale.

«

Betrachtet man die Entwicklungen in China als staatsgetrieben, kann man sich in einem demokratischen Land mit einer ausgeprägten Datenschutztradition wie Deutschland kaum ähnliche Tendenzen vorstellen. Macht man sich jedoch bewusst, in welchem Maß die Digitalwirtschaft bereits heute Daten wie Produktneigungen, Preisbereitschaft, Kaufhäufigkeit, Zahlungsverhalten oder Interaktion und Kommunikation erhebt und – unter Marketinggesichtspunkten – verarbeiten möchte, wird deutlich, dass Social Scoring keine rein chinesische Problematik ist, sondern eine digitale, und wie anfällig der Westen für vergleichbare Entwicklungen ist. Längst findet auch hierzulande ein Scoring statt, bei dem beispielsweise die Wohngegend Einfluss auf die Kreditwürdigkeit von Verbrauchern hat.

In dieser Perspektive profitiert der chinesische Staat von den Überwachungsmöglichkeiten, die die Wirtschaft ihm schafft – und revanchiert sich mit gigantischen Investitionen in die digitale Infrastruktur, Protektionismus gegen ausländische Digitalkonzerne sowie mit einer Gesetzgebung, die praktisch keinen Datenschutz im deutschen Sinne kennt. Die entstehenden Datenströme sind schließlich ökonomisch genauso verwertbar, wie sie für eine gesellschaftliche Kontrolle und Steuerung genutzt werden können.

Fehlende Sensibilität der Bevölkerung

»

Die politische Darstellung beschreibt ein Gesellschafts-management, das durch eine Sozialkontrolle das Interesse der Gesellschaft insgesamt wahrt.

«

Bemerkenswert ist, dass in China selbst das Social Scoring nicht als Überwachungsmaßnahme wahrgenommen wird, sondern als Garant ehrlichen und moralischen Verhaltens, das nicht etwa von Wirtschaft oder Staat, sondern von einer neutralen Instanz bewertet wird. Die politische Darstellung beschreibt ein Gesellschaftsmanagement, das durch eine Sozialkontrolle das Interesse der Gesellschaft insgesamt wahrt, und knüpft damit an Maos Prinzipien an, die nicht vom Einzelnen, sondern vom Ganzen der Gesellschaft her gedacht sind. Laut einer repräsentativen Umfrage der Freien Universität Berlin befürworten 80 Prozent der befragten Chinesen das Bewertungssystem.

Wie sehr sich auch die Sensibilität der Bevölkerung in Deutschland für ihre eigenen Daten in den vergangenen Jahren verändert hat, zeigt etwa ein Erinnern an die Proteste gegen die Volkszählung von 1987. Aus diesem Anlass formulierte das Bundesverfassungsgericht mit dem Volkszählungsurteil das Grundrecht auf informationelle Selbstbestimmung. In völligem Kontrast dazu stehen heute die selbstbestimmten Veröffentlichungen der Menschen in sozialen Medien, die oft jegliches Gefühl für eine eigene Privatsphäre vermissen lassen, oder die Nutzung virtueller Assistenten und sprachgesteuerter Geräte, die eine Raumüberwachung oft ausländischer Anbieter erfordern.

Herausforderung für die Politik

»

Die westlichen Regierungen haben sich in der Vergangenheit nicht als Verteidiger der digitalen Freiheitsrechte ihrer Bürger erwiesen.

«

Aber auch die westlichen Regierungen haben sich in der Vergangenheit nicht als Verteidiger der digitalen Freiheitsrechte ihrer Bürger erwiesen, sondern die Gelegenheit genutzt, Ermittlungs- und Überwachungsmöglichkeiten an das digitale Zeitalter anzupassen, um etwa mit hochspezialisierten, technologieaffinen Tätergruppen im Cyberbereich mithalten zu können.

Die technologischen Entwicklungen und deren Verbreitung in weniger datenschutzsensiblen Ländern haben zu Überwachungsmöglichkeiten geführt, die heute einen Rechtfertigungszwang bei denjenigen bedingen, die verfügbare Daten nicht auswerten wollen, um maximale Sicherheit zu erreichen. Doch die andauernde Diskussion über „Freiheit oder Sicherheit“ zeigt, wie wichtig es ist, Angemessenheit und das nötige Fingerspitzengewühl zu bewahren.

Ausblick

»

Menschen meiden andere Menschen mit einem geringeren Status, um ihren eigenen Punktestand nicht zu beeinträchtigen.

«

In China geht die Entwicklung unterdessen weiter: In Fabriken wird ein Helm eingeführt, dessen Sensoren die Hirnströme von Arbeitern überwachen, um etwa Unkonzentriertheit oder Stress zu erkennen und Arbeitssicherheit sowie letztlich auch Produktivität zu erhöhen. In den Schulen soll – ab dem Grundschulalter – künstliche Intelligenz vermehrt zum Unterrichtsfach werden. Und Menschen meiden andere Menschen mit einem geringeren Status, um ihren eigenen Punktestand nicht zu beeinträchtigen.

Wir erwarten, dass zu vielen Themen unseres Journals bei Ihnen der Wunsch besteht, sich auszutauschen. Daher planen wir eine Kommentarfunktion für unsere registrierten Leser.