Auf dem Weg in die orwellsche Dystopie

1984 – viele haben schon gehört, fast jeder Pirat hat es wahrscheinlich gelesen. George Orwells Roman über eine dystopische Zukunft erlangte viel Bekanntheit. Selbst unser Sprachgebrauch wurde von ihm geprägt: Big Brother für den (staatlichen) Überwachungsapparat, Neusprech für künstliche, aus politischen Gründen abgewandelte Sprache und Doppeldenk für die Fähigkeit, zweier widersprüchlicher Ansichten zu sein und beide zu akzeptieren.

Doch nicht nur Orwells Sprache hat Einzug in die Realität gefunden. Wenn auch 20 bis 30 Jahre später, als in seinem Roman, wird auch die Fiktion zur Wahrheit. Zumindest Big Brother scheint heutzutage allgegenwärtig zu sein: Anlasslose Überwachung durch Geheimdienste, Vorratsdatenspeicherung, Staaten, die Daten fast ohne Einschränkungen, sammeln, auswerten und gegen ihre Einwohner verwenden können.

Und doch, so erschreckend das auch – besonders für jeden, der 1984 gelesen hat – ist, scheint es nur der Anfang zu sein. Zumindest beweist das jetzt die Regierung Chinas mit einem neuen Spiel namens Sesame Credit.

Die Idee dieses Spiels entstammt der auch in der Wirtschaft immer beliebter werdenden Spiele-Theorie. Durch Gamification werden dabei spielerische Elemente in den alltäglichen Arbeitsablauf eingebaut, um den Arbeitnehmer zu motivieren und letztendlich die Produktivität zu steigern. Beliebt sind dabei Scoring-Systeme, in denen die Mitarbeiter im Wettbewerb zueinander stehen.

Genau diesen Ansatz wählt nun auch China. In Sesame Credit bekommt jeder Einwohner Chinas eine Punktzahl. Diese berechnet sich – nach Angaben der Betreiber Alibaba Group und Tencent – aus einem komplexen Algorithmus, dessen Arbeitsweise nicht bekanntgegeben wird. Doch natürlich müssen die „Spieler“ wissen, wie sie ihre Score beeinflussen können. Und das ist ganz einfach: Man muss nur ein gehorsamer und regierungstreuer Bürger sein.

Doch wie setzt man das um? Kann man denn genau messen, wie „gehorsam“ und getreu der Parteilinie ein Bürger ist? Im digitalen Zeitalter scheint das kaum noch ein Hindernis darzustellen, besonders, wenn man zwei der größten Technologie-Unternehmen Chinas mit im Boot hat. Zum einem ist das Tencent, die einer der weitverbreitetsten Social-Media-Anbieter Chinas ist und sich auch in der Spiele-Industrie als Eigentümer von Riot Games (League of Legends) und Aktieninhaber von Blizard/Activision (World of Warcraft, Call of Duty) sehr gut auskennt. Der andere Mitbetreiber ist die Alibaba Group, die sich vor allem im E-Commerce-Bereich in China etabliert hat und dort als Konkurrent zu Amazon fungiert.

Das Mitwirken dieser Firmen bedeutet aber nicht nur technisches Know-How, sondern vor allem eins: Zugriff auf Milliarden von Nutzerdaten. Wer postet was in einem sozialen Netzwerk? Wer schreibt was mit wem in einem Chat? Wer kauft was von wo ein? Das und noch vieles mehr sind Daten, auf die die beiden Unternehmen leichten Zugriff haben und die zur Auswertung der Scores herangezogen werden.

Es ist nun leicht absehbar, wohin dies führt. Postest du etwas über den Absturz der chinesischen Börse? Dein Scoring geht runter. Verlinkst du zu einem Artikel einer regierungstreuen Medienanstalt, die berichtet, wie gut es der Wirtschaft geht? Dein Scoring geht rauf. Kaufst du Waren im Internet von einem lokalen, chinesischen Anbieter? Scoring rauf. Importierst du aus Japan? Scoring runter.

Im Gegensatz zu einem Videospiel allerdings hat die Score bei Sesame Credit eine reale Auswirkung. Ab bestimmten Scores wird es dabei zum Beispiel einfacher, eine Ausreisegenehmigung zu bekommen. Oder einen Kredit von einer Bank zu erhalten. Für eine geringe Score gibt es (noch) keine Strafen, aber auch dort gibt es Ideen, wie zum Beispiel die Einschränkung der Internet-Geschwindigkeit oder bestimmte Jobs, die man mit einer zu niedrigen Score nicht ausüben darf.

Noch nicht gruselig genug? Kein Problem, denn der wirklich besorgniserregende Teil dieses Systems ist der soziale Aspekt. Durch Social Media und Vernetzung weiß das Spiel natürlich auch, wer deine Freunde sind. Und es weiß auch, welche Score deine Freunde haben. Und nicht nur das: Die Scores sind öffentlich für jeden einsehbar und das Spiel benachrichtigt dich, wenn einer deine Freunde eine sehr niedrige Score hat. Denn das hat natürlich Einfluss auf deine eigene Score. Oder, um es mit anderen Worten zu sagen: Ein gehorsamer Bürger kann nicht so gehorsam sein, wenn seine Freunde, Verwandten und Bekannten es nicht sind. Und es kommt noch schlimmer: Laut Planungsdokumenten, die vom chinesischen Staatsrat veröffentlicht wurden, „wird das System diejenigen belohnen, die Vertrauensbrüche anzeigen“.

Hier versteckt sich die größte Gefahr von Sesame Credit. Soziale Ausgrenzung ist durch ein solches System vorprogrammiert, höchstwahrscheinlich sogar gewollt. Derjenige mit der niedrigen Score ist der Verlierer, der Außenseiter. Der Nicht-Regierungstreue. Wenn das Spiel im Alltag angekommen ist und sich die Menschen darüber beim Essen, in Bars, Cafes und auf der Arbeit unterhalten, ihre Scores vergleichen – wie fühlt man sich dann mit einer niedrigen Score?

Es ist ein raffiniertes System, und das macht es so unheimlich. Der Schlüsselbegriff ist hier die „positive Bestärkung“. Um nicht-regierungstreue Bürger im Zaum zu halten, benutzten Regierungen früher (und auch teils heute noch) Angst als Mittel. Einschüchterung, Erpressung, Gewalt – alles, um Menschen mundtot zu machen. Doch die Geschichte hat gezeigt, dass diese Vorgehensweise langfristig nicht funktioniert. Sie provoziert offene Gegenreaktion, die in vielen Fällen in Rebellionen und Revolutionen endet. Die positive Bestärkung ist anders. Sie belohnt regierungstreue Bürger, das ausgrenzen und mundtot-machen erledigen dabei die sozialen Strukturen. Genauso beschrieb es auch Orwell in 1984.

Ein weiterer, kluger Schachzug Chinas ist es, dass das Spiel bis jetzt nicht Pflicht ist. Jeder kann sich dazu freiwillig anmelden. Erst in 2020 ist geplant, dass jeder Bürger Chinas daran teilnehmen muss. Dadurch wird eines sichergestellt: Die ersten Freiwilligen (von denen es bereits Millionen gibt) sind die, die dem Spiel positiv gegenüber eingestellt und bereits mehr oder weniger regierungstreu sind. Und das verbreiten sie natürlich auch im sozialen Umfeld: Wie toll das Spiel ist und wie viel Spaß es macht. Score-Vergleiche werden bereits jetzt enthusiastisch auf Weibo, Chinas Gegenstück zu Twitter, geteilt.

Es ist verstörend, wie gut diese Spiel in China anzukommen scheint. Natürlich ist die Kultur, auch, was das Verhältnis gegenüber Technologie und Internet angeht, eine ganz andere, als in Europa. Dennoch fragt man sich, inwiefern so ein Spiel oder System auch in unsere gesellschaftlichen Strukturen Einzug finden könnte? Auch wir sind nicht weit entfernt davon, dass jeder Mensch einen Großteil seiner persönlichen Informationen im Internet hat.

Datenschutz und Datensicherheit werden immer ernstzunehmendere Themen. Dennoch vergessen wir sie im Alltag gerne, da sie meist unbequem und impraktikabel umzusetzen sind. Kommt es erst einmal so weit wie in China, ist es allerdings zu spät. Wann wird es aus der Dystopie Realität? Beginnt es mit einem „Spiel“ wie in China? Mit der Überwachung durch Geheimdienste? Mit der anlasslosen Vorratsdatenspeicherung?

Wir dürfen das nicht auf die leichte Schulter nehmen. Denn mit einem hatte Orwell auf jeden Fall Recht: Big Brother is watching you.

Redaktionsmitglied Steve König

• Mail
|
• More Posts(61)