hankey1_Mr.Cole PhotographerGetty Images_peopletechnologyconnectioncity Mr.Cole Photographer/Getty Images

Un débat nécessaire autour des données comportementales

BERLIN – Quelques semaines seulement après l’apparition des premiers cas de COVID-19 en dehors de Chine, la Corée du Sud a mis en place un système de diffusion des profils et mouvements exacts des personnes testées positives au virus. D’autres pays d’Asie et d’Europe ont ensuite rapidement développé leurs propres systèmes de suivi et traçage, avec différents degrés de réussite et d’inquiétude concernant les questions éthiques en jeu.

Cette dynamique forte était compréhensible : si des systèmes déjà en place pouvaient permettre de sauver plusieurs milliers de vie, pourquoi les États ne les auraient-ils pas utilisés ? Seulement voilà, dans leur empressement à lutter contre la pandémie, les sociétés ont peu prêté attention à la manière de déployer ces mécanismes quasiment du jour au lendemain, ainsi qu’aux étapes à entreprendre par la suite.

Le système sud-coréen de suivi et traçage suscite d’ores et déjà clairement un débat majeur, dans un premier temps parce que ce mécanisme a franchi certaines lignes éthiques en envoyant par SMS aux résidents d’une zone les mouvements exacts des personnes positives au COVID-19, révélant au passage leurs fréquentations de bars à karaoké, d’hôtels pour une nuit, ou encore de clubs gays.

Mais si le système sud-coréen se démarque, c’est également parce qu’il relie les données de localisation des téléphones mobiles aux historiques individuels de déplacement, aux données de santé, aux bandes des caméras de surveillance de la police, ainsi qu’aux données de plusieurs dizaines de sociétés de cartes de crédit. Ces informations sont ensuite analysées par un centre de collecte de données, initialement créé pour les villes intelligentes du pays. En supprimant les barrières d’approbation bureaucratiques, ce système a semble-t-il réduit d’un jour à seulement dix minutes le délai nécessaire au traçage des contacts.

Les défenseurs du droit à la sécurité numérique ainsi qu’à la vie privée mettent en garde depuis plusieurs années sur l’interconnexion entre sources privées et sources publiques de données. L’expérience de la pandémie démontre néanmoins pour la première fois avec quelle rapidité ces flux de données peuvent être centralisés et reliés à la demande – pas seulement en Corée du Sud, mais dans le monde entier.

L’inconfortable vérité, c’est que nous bâtissons depuis déjà un certain temps à l’échelle mondiale une infrastructure de collecte de données comportementales profondément personnelles. L’auteur Shoshana Zuboff fixe la naissance du « capitalisme de la surveillance » au lendemain des attentats terroristes du 11 septembre 2001 aux États-Unis, période de renforcement des pouvoirs sécuritaires des États.

Subscribe to Project Syndicate
Bundle2021_web_discount

Subscribe to Project Syndicate

Enjoy unlimited access to the ideas and opinions of the world's leading thinkers, including weekly long reads, book reviews, and interviews; The Year Ahead annual print magazine; the complete PS archive; and more – All for less than $9 a month.

Subscribe Now

Les modèles d’entreprise fondés sur les données alimentent par ailleurs les éléments clés de cette infrastructure : smartphones, capteurs, appareils photo, argent numérique, biométrie, et apprentissage machine. Leur commodité et leur efficacité – la promesse de pouvoir faire plus avec toujours moins – ont véritablement conquis les consommateurs comme les entreprises. Notre adoption rapide et enthousiaste des technologies numériques ne nous a cependant pas laissé le temps et la rationalité nécessaires pour songer aux conséquences de la connexion de tous ces éléments.

Bien que les médias parlent souvent de technologies « de pointe » pour décrire les initiatives technologiques de lutte contre la pandémie, peu de choses sont en réalité nouvelles dans ces technologies – sauf peut-être leur visibilité accrue. Le suivi des déplacements humains, au niveau individuel comme mondial, s’inscrit en effet au cœur de nombreuses sociétés déjà bien établies. Les rapports de mobilité COVID-19 de Google, par exemple, présentent une multitude vertigineuse de données à l’échelle de l’utilisateur comme de la ville entière, jusqu’au niveau national – révélant qui reste à la maison, qui va travailler, ainsi que l’évolution de ces tendances au cours des confinements.

Il en va de même pour les données qui concernent ce que nous achetons, ou comment nous agissons en tant qu’individus et au sein de groupes. Le traçage des modèles comportementaux individuels à grande échelle est si essentiel pour l’automatisation que le confinement de plus de quatre milliards d’individus face à la pandémie a déconcerté les modèles d’IA et d’apprentissage machine, perturbant les algorithmes de détection des fraudes, et induisant en erreur les systèmes de gestion des chaînes d’approvisionnement.

Cette soudaine visibilité publique des données comportementales aurait pu déclencher une prise de conscience dans l’opinion. Les révélations d’Edward Snowden nous ont en effet appris que nos appels Skype et nos e-mails étaient surveillés au nom de la lutte contre le terrorisme, de même que le scandale Cambridge Analytica au Royaume-Uni a révélé la vente et l’utilisation de nos données personnelles à des fins de micro-ciblage politique.

La crise du COVID-19 aurait pu en particulier souligner combien les données comportementales sont informatives sur ce que nous faisons chaque minute de la journée, et pourquoi cela importe. Au lieu de cela, nous avons accepté ces technologies, parce que nous les avons perçues – au moins pendant la crise – comme largement destinées au bien commun (en négligeant même la question de leur efficacité).

Mais à mesure que la frontière entre santé privée et santé publique se floute de plus en plus durablement, il est fort possible que notre avis change concernant les compromis qu’il nous est demandé d’accepter, et que nous devenions moins tolérants quant au traçage des comportements, si les choix de vie individuels doivent devenir constamment surveillés pour le bien de la collectivité. Les technologies potentielles nous permettant de gérer un avenir post-pandémique, qu’il s’agisse des outils de surveillance au travail ou des passeports de santé numériques permanents, pourraient profondément mettre à l’épreuve nos systèmes de valeurs. Ceci pourrait conduire à un désaccord majeur, en fonction des lignes culturelles et politiques, sur la question des technologies qui doivent ou ne doivent pas être exploitées.

Il serait trop facile de cadrer l’ensemble du débat en termes de surveillance et de vie privée. Car ce ne sont pas les seules problématiques importantes en jeu. La collecte à grande échelle de données comportementales intimes alimente non seulement les grandes entreprises, mais permet également les modèles prédictifs, les systèmes d’alerte précoce, ou encore les systèmes nationaux et mondiaux de contrôle et d’exécution des règles. Par ailleurs, l’avenir sera très certainement façonné par les crises, qu’il s’agisse des catastrophes naturelles, des famines, ou des pandémies. De même, les technologies numériques, les données comportementales humaines, et les processus décisionnels algorithmiques joueront un rôle de plus en plus crucial dans la prévision, l’atténuation et la gestion de ces crises.

Les sociétés vont par conséquent devoir affronter plusieurs questions difficiles quant à la manière de gérer les défis au-delà des libertés civiques ainsi que des préjugés, discriminations et inégalités préjudiciables que révèlent les technologies de collecte de données. Nous allons devoir déterminer qui pourra détenir des renseignements comportementaux, et comment ces données pourront être utilisées dans l’intérêt public. Nous allons également devoir admettre que la possibilité de prendre des décisions sur la base de ces données, ainsi que les idées politiques à l’appui de ces décisions, créeront de nouvelles formes de pouvoir, aux effets considérables sur notre existence.

À l’heure où nous comptons de plus en plus sur le big data pour résoudre des problèmes majeurs, la grande question consiste à déterminer non pas ce que nous pouvons accomplir grâce à ces données, mais plutôt jusqu’où nous sommes prêts à aller. Si nous ne répondons pas à cette question, d’autres le feront pour nous.

Traduit de l’anglais par Martin Morel

https://prosyn.org/jPwEN2qfr