BERLIN – Nur wenige Wochen, nachdem die ersten Covid-19-Fälle außerhalb Chinas auftraten, führte Südkorea ein System zur Übermittlung der genauen Profile und Bewegungen von Personen ein, die positiv auf die Krankheit getestet worden waren. Andere Länder in Asien und Europa entwickelten dann rasch - mit wechselndem Erfolg und unterschiedlicher Beachtung der damit verbundenen ethischen Fragen - ihre eigenen Kontaktverfolgungssysteme.
Diese starke Dynamik war verständlich: Wenn mit bereits vorhandenen Systemen Tausende Leben gerettet werden können, stellt sich die Frage, warum Länder sie nicht auch nutzen sollten. Doch in ihrer Eile bei der Pandemiebekämpfung haben die Gesellschaften kaum beachtet, wie derartige Programme praktisch über Nacht eingeführt werden können und was als nächstes zu erwarten ist.
Freilich hat das südkoreanische System der Kontaktverfolgung bereits eine heftige Debatte ausgelöst. Ursprünglich deshalb, weil man damit ethische Grenzen überschritt. Genaue Bewegungsprofile von positiv auf Covid-19 getesteten Personen wurden anderen Menschen in der Nähe per Kurznachricht übermittelt, wodurch beispielsweise Besuche in Karaoke-Bars, Stundenhotels und Schwulenclubs publik wurden.
Aber das südkoreanische System sticht auch deshalb hervor, weil es Standortdaten von Mobiltelefonen mit individuellen Reiseverläufen, Gesundheitsdaten, Aufnahmen aus polizeilichen Überwachungskameras und Daten von Dutzenden Kreditkartenunternehmen verknüpft. Diese Informationen werden dann von einer Daten-Clearingstelle analysiert, die ursprünglich für die Smart Cities des Landes entwickelt wurde. Aufgrund der Beseitigung bürokratischer Genehmigungshürden hat dieses System Berichten zufolge die Zeit der Kontaktverfolgung von einem Tag auf gerade einmal zehn Minuten verkürzt.
Verfechterinnen und Verfechter der digitalen Sicherheit und des Datenschutzes warnen seit Jahren vor der Verknüpfung unterschiedlicher privater und öffentlicher Datenquellen. Doch nun hat die Pandemie zum ersten Mal gezeigt, wie leicht solche Datenströme zentralisiert und bei Bedarf miteinander verbunden werden können - nicht nur in Südkorea, sondern weltweit.
Die unbequeme Wahrheit ist, dass wir seit geraumer Zeit die Infrastruktur für die Erfassung zutiefst persönlicher Verhaltensdaten auf globaler Ebene aufgebaut haben. Die Autorin Shoshana Zuboff führt die Entstehung dieses „Überwachungskapitalismus” auf die Ausweitung der staatlichen Sicherheitsbefugnisse infolge der Terroranschläge vom 11. September 2001 in den Vereinigten Staaten zurück.
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
Datengesteuerte Geschäftsmodelle sind der Motor hinter den Schlüsselelementen dieser Infrastruktur: Smartphones, Sensoren, Kameras, elektronisches Geld, Biometrie und maschinelles Lernen. Deren Vorteile und Effizienz – nämlich das Versprechen, mit geringerem Aufwand mehr zu erreichen – haben Individuen und Firmen gleichermaßen überzeugt. Doch die Geschwindigkeit und der Enthusiasmus, mit denen wir diese Technologien in unser Leben übernommen haben, ließen uns wenig Zeit und Grund, über die Folgen der Zusammenführung all dieser Errungenschaften nachzudenken.
Obwohl die Medien Technologieinitiativen im Zusammenhang mit der Pandemie oftmals als „topaktuell” bezeichnen, ist daran tatsächlich nur sehr wenig neu – außer vielleicht ihre erhöhte Sichtbarkeit. Die Nachverfolgung der menschlichen Mobilität sowohl auf individueller als auch auf globaler Ebene ist das Herzstück vieler etablierter Unternehmen. Die Covid-19-Mobilitätsberichte von Google liefern beispielsweise eine atemberaubende Datenfülle auf Nutzer-, Städte- und Länderebene, die zeigt, wer daheim bleibt, wer zur Arbeit geht und wie sich diese Muster während der Einschränkungen verändert haben.
Dasselbe gilt für Daten über unsere Einkaufsgewohnheiten und wie wir als Einzelpersonen und Gruppen handeln. Die Rückverfolgung individueller Verhaltensmuster in großem Maßstab ist so zentral für die Automatisierung, dass die pandemiebedingten Einschränkungen, die über vier Milliarden Menschen betrafen, KI und maschinelle Lernmodelle durcheinander brachten und dadurch sowohl die Algorithmen zur Betrugserkennung störten als auch Systeme des Supply Chain Managements täuschten.
Diese plötzliche öffentliche Sichtbarkeit von Verhaltensdaten könnte ein Auslöser für das kollektive Erwachen der Öffentlichkeit sein. Schließlich wurde den Menschen durch Edward Snowdens Enthüllungen bewusst, dass ihre Skype-Anrufe und E-Mails im Namen der Terrorismusbekämpfung überwacht werden und der Cambridge Analytica-Skandal im Vereinigten Königreich führte den Verkauf und die Nutzung persönlicher Daten für politisches Mikrotargeting vor Augen.
Die Covid-19-Krise hätte insbesondere aufzeigen können, wie Verhaltensdaten Geschichten darüber erzählen, was wir den ganzen Tag lang tun und warum das von Bedeutung ist. Doch stattdessen nehmen wir diese Technologien einfach hin, weil wir sie – zumindest in der aktuellen Krise – weitgehend als ein Mittel zur Erhaltung des Allgemeinwohls betrachten (auch wenn wir dabei die Frage ihrer Wirksamkeit außer Acht lassen).
Doch nun, da die Grenzen zwischen privater und öffentlicher Gesundheit immer mehr verschwimmen, denken wir über die uns abverlangten Kompromisse vielleicht anders. Vielleicht tolerieren wir die Nachverfolgung unserer Verhaltensweisen immer weniger, wenn individuelle Entscheidungen im Sinne des Gemeinwohls ständig überwacht werden. Potenzielle Technologien, die uns bei der Bewältigung der Zukunft nach der Pandemie helfen - von Instrumenten zur Überwachung am Arbeitsplatz bis hin zu dauerhaften digitalen Gesundheitspässen – könnten unsere Wertesysteme auf eine harte Probe stellen. Das führt entlang kultureller und politischer Grenzen möglicherweise zu gravierenden Meinungsverschiedenheiten darüber, welche Technologien eingesetzt werden sollten und welche nicht.
Es wäre einfach, diese ganze Debatte unter dem Gesichtspunkt der Überwachung und der Privatsphäre zu führen. Doch das ist nicht die einzige bedeutende Frage in diesem Zusammenhang. Die Erfassung höchstpersönlicher Verhaltensdaten in großem Stil ist nicht nur für das Big Business von Bedeutung, sondern ermöglicht auch prädiktive Modellierung, Frühwarnsysteme und nationale sowie globale Durchsetzungs- und Kontrollsysteme. Außerdem wird die Zukunft wahrscheinlich von Krisen geprägt sein - von Naturkatastrophen über Hungersnöte bis hin zu Pandemien. Digitale Technologien, menschliche Verhaltensdaten und algorithmische Entscheidungsfindung werden dann eine zunehmend zentrale Rolle bei der Vorhersage, Abmilderung und Bewältigung dieser Krisen spielen.
Die Gesellschaften werden sich deshalb schwierigen Fragen darüber zu stellen haben, wie sie mit Herausforderungen jenseits der bürgerlichen Freiheiten und schädlicher Verzerrungen, Diskriminierungen und jenen, durch die Technologien zur Datensammlung offenbarten Ungleichheiten umgehen. Wir werden entscheiden müssen, wem diese Erkenntnisse über unser Verhalten gehören und wie sie im öffentlichen Interesse eingesetzt werden. Und wir werden erkennen müssen, dass diejenigen, die auf Grundlage dieser Daten bestimmte Entscheidungen fällen sowie deren politische Motive neue Formen der Macht mit weitreichender Wirkung auf unser Leben schaffen.
Da wir zur Lösung großer Probleme zunehmend auf Big Data setzen, besteht die größte Frage nicht darin, was wir damit tun können, sondern was wir zu tun bereit sind. Wenn wir diese Frage nicht stellen, wird sie für uns beantwortet werden.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
When comparing Ukraine’s situation in 2024 to Europe’s in 1941, Russia’s defeat seems entirely possible. But it will require the West, and the US in particular, to put aside domestic political squabbles and muster the political will to provide Ukraine with consistent and robust military and financial assistance.
compare Russia's full-scale invasion to World War II and see reason to hope – as long as aid keeps flowing.
Current debates about Israeli policy are rife with double standards, leading to absurd decisions like Germany’s recent cancellation of a pro-Palestinian gathering. By quashing legitimate speech and assembly, an Israel-aligned establishment risks inciting precisely the kind of anti-Semitism that it wants to prevent.
worries that the double standards applied on Israel’s behalf will lead to an anti-Semitic backlash.
BERLIN – Nur wenige Wochen, nachdem die ersten Covid-19-Fälle außerhalb Chinas auftraten, führte Südkorea ein System zur Übermittlung der genauen Profile und Bewegungen von Personen ein, die positiv auf die Krankheit getestet worden waren. Andere Länder in Asien und Europa entwickelten dann rasch - mit wechselndem Erfolg und unterschiedlicher Beachtung der damit verbundenen ethischen Fragen - ihre eigenen Kontaktverfolgungssysteme.
Diese starke Dynamik war verständlich: Wenn mit bereits vorhandenen Systemen Tausende Leben gerettet werden können, stellt sich die Frage, warum Länder sie nicht auch nutzen sollten. Doch in ihrer Eile bei der Pandemiebekämpfung haben die Gesellschaften kaum beachtet, wie derartige Programme praktisch über Nacht eingeführt werden können und was als nächstes zu erwarten ist.
Freilich hat das südkoreanische System der Kontaktverfolgung bereits eine heftige Debatte ausgelöst. Ursprünglich deshalb, weil man damit ethische Grenzen überschritt. Genaue Bewegungsprofile von positiv auf Covid-19 getesteten Personen wurden anderen Menschen in der Nähe per Kurznachricht übermittelt, wodurch beispielsweise Besuche in Karaoke-Bars, Stundenhotels und Schwulenclubs publik wurden.
Aber das südkoreanische System sticht auch deshalb hervor, weil es Standortdaten von Mobiltelefonen mit individuellen Reiseverläufen, Gesundheitsdaten, Aufnahmen aus polizeilichen Überwachungskameras und Daten von Dutzenden Kreditkartenunternehmen verknüpft. Diese Informationen werden dann von einer Daten-Clearingstelle analysiert, die ursprünglich für die Smart Cities des Landes entwickelt wurde. Aufgrund der Beseitigung bürokratischer Genehmigungshürden hat dieses System Berichten zufolge die Zeit der Kontaktverfolgung von einem Tag auf gerade einmal zehn Minuten verkürzt.
Verfechterinnen und Verfechter der digitalen Sicherheit und des Datenschutzes warnen seit Jahren vor der Verknüpfung unterschiedlicher privater und öffentlicher Datenquellen. Doch nun hat die Pandemie zum ersten Mal gezeigt, wie leicht solche Datenströme zentralisiert und bei Bedarf miteinander verbunden werden können - nicht nur in Südkorea, sondern weltweit.
Die unbequeme Wahrheit ist, dass wir seit geraumer Zeit die Infrastruktur für die Erfassung zutiefst persönlicher Verhaltensdaten auf globaler Ebene aufgebaut haben. Die Autorin Shoshana Zuboff führt die Entstehung dieses „Überwachungskapitalismus” auf die Ausweitung der staatlichen Sicherheitsbefugnisse infolge der Terroranschläge vom 11. September 2001 in den Vereinigten Staaten zurück.
Subscribe to PS Digital
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
Datengesteuerte Geschäftsmodelle sind der Motor hinter den Schlüsselelementen dieser Infrastruktur: Smartphones, Sensoren, Kameras, elektronisches Geld, Biometrie und maschinelles Lernen. Deren Vorteile und Effizienz – nämlich das Versprechen, mit geringerem Aufwand mehr zu erreichen – haben Individuen und Firmen gleichermaßen überzeugt. Doch die Geschwindigkeit und der Enthusiasmus, mit denen wir diese Technologien in unser Leben übernommen haben, ließen uns wenig Zeit und Grund, über die Folgen der Zusammenführung all dieser Errungenschaften nachzudenken.
Obwohl die Medien Technologieinitiativen im Zusammenhang mit der Pandemie oftmals als „topaktuell” bezeichnen, ist daran tatsächlich nur sehr wenig neu – außer vielleicht ihre erhöhte Sichtbarkeit. Die Nachverfolgung der menschlichen Mobilität sowohl auf individueller als auch auf globaler Ebene ist das Herzstück vieler etablierter Unternehmen. Die Covid-19-Mobilitätsberichte von Google liefern beispielsweise eine atemberaubende Datenfülle auf Nutzer-, Städte- und Länderebene, die zeigt, wer daheim bleibt, wer zur Arbeit geht und wie sich diese Muster während der Einschränkungen verändert haben.
Dasselbe gilt für Daten über unsere Einkaufsgewohnheiten und wie wir als Einzelpersonen und Gruppen handeln. Die Rückverfolgung individueller Verhaltensmuster in großem Maßstab ist so zentral für die Automatisierung, dass die pandemiebedingten Einschränkungen, die über vier Milliarden Menschen betrafen, KI und maschinelle Lernmodelle durcheinander brachten und dadurch sowohl die Algorithmen zur Betrugserkennung störten als auch Systeme des Supply Chain Managements täuschten.
Diese plötzliche öffentliche Sichtbarkeit von Verhaltensdaten könnte ein Auslöser für das kollektive Erwachen der Öffentlichkeit sein. Schließlich wurde den Menschen durch Edward Snowdens Enthüllungen bewusst, dass ihre Skype-Anrufe und E-Mails im Namen der Terrorismusbekämpfung überwacht werden und der Cambridge Analytica-Skandal im Vereinigten Königreich führte den Verkauf und die Nutzung persönlicher Daten für politisches Mikrotargeting vor Augen.
Die Covid-19-Krise hätte insbesondere aufzeigen können, wie Verhaltensdaten Geschichten darüber erzählen, was wir den ganzen Tag lang tun und warum das von Bedeutung ist. Doch stattdessen nehmen wir diese Technologien einfach hin, weil wir sie – zumindest in der aktuellen Krise – weitgehend als ein Mittel zur Erhaltung des Allgemeinwohls betrachten (auch wenn wir dabei die Frage ihrer Wirksamkeit außer Acht lassen).
Doch nun, da die Grenzen zwischen privater und öffentlicher Gesundheit immer mehr verschwimmen, denken wir über die uns abverlangten Kompromisse vielleicht anders. Vielleicht tolerieren wir die Nachverfolgung unserer Verhaltensweisen immer weniger, wenn individuelle Entscheidungen im Sinne des Gemeinwohls ständig überwacht werden. Potenzielle Technologien, die uns bei der Bewältigung der Zukunft nach der Pandemie helfen - von Instrumenten zur Überwachung am Arbeitsplatz bis hin zu dauerhaften digitalen Gesundheitspässen – könnten unsere Wertesysteme auf eine harte Probe stellen. Das führt entlang kultureller und politischer Grenzen möglicherweise zu gravierenden Meinungsverschiedenheiten darüber, welche Technologien eingesetzt werden sollten und welche nicht.
Es wäre einfach, diese ganze Debatte unter dem Gesichtspunkt der Überwachung und der Privatsphäre zu führen. Doch das ist nicht die einzige bedeutende Frage in diesem Zusammenhang. Die Erfassung höchstpersönlicher Verhaltensdaten in großem Stil ist nicht nur für das Big Business von Bedeutung, sondern ermöglicht auch prädiktive Modellierung, Frühwarnsysteme und nationale sowie globale Durchsetzungs- und Kontrollsysteme. Außerdem wird die Zukunft wahrscheinlich von Krisen geprägt sein - von Naturkatastrophen über Hungersnöte bis hin zu Pandemien. Digitale Technologien, menschliche Verhaltensdaten und algorithmische Entscheidungsfindung werden dann eine zunehmend zentrale Rolle bei der Vorhersage, Abmilderung und Bewältigung dieser Krisen spielen.
Die Gesellschaften werden sich deshalb schwierigen Fragen darüber zu stellen haben, wie sie mit Herausforderungen jenseits der bürgerlichen Freiheiten und schädlicher Verzerrungen, Diskriminierungen und jenen, durch die Technologien zur Datensammlung offenbarten Ungleichheiten umgehen. Wir werden entscheiden müssen, wem diese Erkenntnisse über unser Verhalten gehören und wie sie im öffentlichen Interesse eingesetzt werden. Und wir werden erkennen müssen, dass diejenigen, die auf Grundlage dieser Daten bestimmte Entscheidungen fällen sowie deren politische Motive neue Formen der Macht mit weitreichender Wirkung auf unser Leben schaffen.
Da wir zur Lösung großer Probleme zunehmend auf Big Data setzen, besteht die größte Frage nicht darin, was wir damit tun können, sondern was wir zu tun bereit sind. Wenn wir diese Frage nicht stellen, wird sie für uns beantwortet werden.
Aus dem Englischen von Helga Klinger-Groier