hankey1_Mr.Cole PhotographerGetty Images_peopletechnologyconnectioncity Mr.Cole Photographer/Getty Images

我们所需要的行为数据争论

柏林—COVID-19首批病例在中国之外出现后几周,韩国发布了一套COVID-19检测阳性个人的详细情况和活动信息的广播系统。其他亚洲和欧洲国家也很快开发出自己的“跟踪”系统,取得了不同程度的成功,也引起了不同程度的道德问题。

这股强大的潮流不难理解:如果已有的系统能够拯救成千上万人的生命,为什么各国不使用它们?但在匆忙应战疫情的同时,社会忽略了这些机制几乎是一夜之间部署就位,也没有去想接下来会发生什么。

平心而论,韩国的跟踪制度已经产生了大量争论。一开始,这是因为该系统会发送COVID-19阳性个人的确切活动短信给其他本地居民,比如去卡拉OK、短住酒店同性恋酒吧等的信息,这跨越了道德的红线。

但韩国的系统相当突出,因为它将手机定位数据和个人旅行史、健康数据、来自警方监控画面的足迹以及各种信用卡公司的数据联系在一起。这些信息随后由一开始为了韩国智能城市而开发的数据清算所进行分析。该系统消除了官僚批准壁垒,据说可以将接触者追溯时间从一天缩短到仅仅十分钟。

数据隐私和安全鼓吹者多年来一直警告不同的私人和公共数据源之间的互通性。但疫情首次实际表明了这些数据流可以集中化并按需连接起来——不仅仅在韩国,在全世界都是如此。

令人不安的事实是,我们建设全球规模收集深度个人行为数据的基础设施已有时日。作家绍莎娜·祖波夫(Shoshana Zuboff)将这一“监控资本主义”溯源至2011年9月11日美国遭遇恐怖袭击后国家安全权力的扩张。

Subscribe to Project Syndicate
Bundle2020_web

Subscribe to Project Syndicate

Enjoy unlimited access to the ideas and opinions of the world's leading thinkers, including weekly long reads, book reviews, and interviews; The Year Ahead annual print magazine; the complete PS archive; and more – all for less than $2 a week.

Subscribe Now

数据驱动的商业模型给这一基础设施平添关键要素:智能手机、传感器、摄像头、数字货币、生物信息和机器学习。它们的便利性和效率——它们所带来的用更少的代价做更多事情的憧憬——压过了个体用户和企业。但我们迅速而热情地采用数字科技让我们没有时间,也没有理由去思考将所有这些节点连加起来的后果。

尽管媒体常常将疫情相关的科技项目称为“尖端”,但它们之中鲜有新东西——也许能见度的提高是例外。同时在个体和全球层面追溯人的活动是许多老牌企业的核心。比如,谷歌的COVID-19移动报告呈现从用户到城市再到国家的令人眼花缭乱的各种数据——揭示谁呆在家里,谁去上班,这些模式又如何因为封锁而改变。

关于作为个体和集体的我们买什么和如何行动的数据也是如此。大规模追溯个体行为模式是自动化的关键,以致于涉及到四十亿多人的疫情导致的封锁迷惑了人工智能和机器学习模型,进而干扰了骗局监测算法,也误导了供应链管理系统。

行为数据乍现于公众眼前,这可能已经让公众觉醒。毕竟,爱德华·斯诺登(Edward Snowden)的揭露让人们意识到,他们的Skype电话和电子邮件正以反恐的名义被监控,英国剑桥分析公司(Cambridge Analytica)丑闻突显出出售和利用个人数据用于政治微定位的现象。

特别是,COVID-19危机可能已经表明,行为数据会暴露我们每一分钟的行迹,以及为什么这一点非常重要。相反,我们接受这些科技是因为我们觉得它们——至少是在危机期间——总体上是利大于弊(即使我们忽略了它们的效果问题)。

但随着私人和公共健康之间的界限被永久模糊,我们对于我们被要求做出的权衡可能会有不同的感觉。如果个人生活方式选择始终因为集体的需要而被监控,那么我们对于行为溯源的容忍度可能会下降。帮助我们管理后疫情时代的潜在科技——从职场监控工具永久性数字健康护照——可能会对我们的价值观体系造成严峻考验。这可能导致强烈的文化和不满,质疑哪些科技应该用,哪些不应该用。

很容易用监控和隐私去界定整场争论。但这并不是唯一的重要问题。大规模收集私密行为数据不但让大企业获得权力,也促成了预测性模型、早期预警系统以及国家和全球执法和控制系统。此外,未来可能会被危机所影响,不论是自然灾害还是饥荒和瘟疫。数字科技、人类行为数据和算法决策将在预测、缓解和管理危机方面起到日益关键的作用。

社会也将因此不得不面临关于如何应对公民自由以及数据收集技术所揭露的有害偏见、歧视和不平等性的挑战的难题。我们将不得不决定谁拥有行为洞见,如何使用这些洞见为公共利益服务。我们将不得不认识到由谁来基于数据做出何种决定,是哪些政治思想驱使着他们,并创造出极大地影响到我们的生活的新的权力形式。

随着我们日益信奉用大数据解决主要问题,最大的问题不再是我们可以用大数据做什么,而是我们想做什么。除非我们提出这个问题,否则我们将面临答案。

https://prosyn.org/jPwEN2qzh