脸书是如何沦为大众鸦片的

布拉格—在打击虚假信息的战争中，敌人可能很难确定。记者、政治家、政府甚至祖父母均被指控助长了在线谎言的传播。

尽管上述群体均不完全无辜，但真正的对手却更加世俗。正如脸书举报者弗朗西斯·豪根去年下半年在其证词中所指出的那样，恰恰是社交媒体自身的算法才导致虚假信息无孔不入。

自2004年诞生以来，脸书已经从一家学生社交网站发展成为破坏全球社会凝聚力和民主的监控怪物。脸书搜集大量用户信息——其中也包括体重和怀孕状况等私密数据——用于绘制其用户的社交DNA状况。该公司而后将信息转售给想“精准定位”其 29亿用户的任何人——从香波制造企业到俄罗斯和中国的情报机构。通过这种方式，脸书允许第三方操纵思想并交易“人类未来”：开发预测模型，预测个人可能做出的选择。

脸书在世界各地被用于对民主制度不信任的散播。其算法一直助长现实世界暴力，从缅甸的种族灭绝到南美、西非和中东的恐怖分子招募。在1月6日骚乱爆发前，前总统唐纳德·特朗普宣扬的有关美国选举舞弊的谎言淹没了脸书。与此同时，在欧洲，脸书助长了白俄罗斯强人亚历山大·卢卡申科以移民为武器反对欧盟的不正当工作。

在捷克共和国，因为脸书的恶意代码，源自俄罗斯并在脸书网站共享的虚假信息已将捷克网络空间彻底淹没。我所在公司的一项分析表明，捷克民众平均接触到的有关2019年新冠疫苗的虚假信息是普通美国人的25倍。形势如此严峻，政府行动如此无能，以至于捷克人只能依赖民间社会——包括被称为捷克精灵的志愿者——来监控和对抗这种影响。

[此处插入图表。]

Winter Sale: Save 40% on a new PS subscription

Winter Sale: Save 40% on a new PS subscription

At a time of escalating global turmoil, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided.

Subscribe to Digital or Digital Plus now to secure your discount.

Subscribe Now

迄今为止，缓和脸书民主威胁的努力均以惨败而告终。在捷克共和国，脸书与法新社（AFP）结成了伙伴关系，以识别有害内容。但在仅雇用一名兼职雇员且每月月度配额仅有10份帖子的可疑目标指导下，这样的努力不过是虚假信息汪洋大海中的九牛一毛。华尔街日报刊发的“脸书文件”证实，脸书“仅对3-5%的仇恨言论采取了行动。”

脸书赋予用户权利退订定制和政治广告，但这种姿态更多是象征性的。有些组织，包括数字排名权利，已呼吁脸书平台将禁用广告定位设置为默认选项。但这还不够。作为脸书商业模式根源的精准定位依赖人工智能来吸引用户的注意力， 尽可能提高参与度并抑制批判性思维。

在诸多方面，精准定位都是阿片类药物危机的数字等价物。但美国国会已通过旨在增加治疗、教育和替代药物等立法，积极采取措施保护民众免受阿片类药物的侵害。要想切断世界对假新闻和谎言的沉迷，立法者必须认识到虚假信息危机的本质，并采取妥善监管精准定位等类似行动。

问题在于，在脸书以外，没有人知道该公司的复杂算法如何工作——可能需要数月、乃至数年时间来解码。这意味着监管机构将别无选择，只能依靠脸书的内部人员来引导他们完成这项工作。为鼓励这种合作，国会必须提供全面的民事及刑事豁免，以及经济赔偿。

社交媒体算法监管看似复杂，但较之即将出现的更大数字危害，上述目标还是比较容易实现的。“深度造假”——也就是基于人工智能的大规模视频及图片操控以试图影响舆论——几乎尚未进入国会的讨论范畴。尽管立法者担心传统内容所带来的挑战，但深度造假能对个人隐私、民主和国家安全构成的威胁更大。

与此同时，脸书的危险性正在不断增加。麻省理工学院技术评论不久前的一次调查显示，脸书通过其广告平台“向标题党主体支付数百万广告费用”来资助虚假信息。而首席执行官马克·扎克伯格计划建立一个“融合物理、增强和虚拟现实”的元宇宙，这一目标应当警醒世界各地的监管者。试想一下如果允许这些不受监管的人工智能算法为数十亿人创造一个全新沉浸式现实，那么他们所能造成的潜在破坏该有多么巨大。

不久前在华盛顿参加完听证会后，扎克伯格在一份声明中重申了他此前曾经提出过的建议：对我们实施监管。“我不认为私营企业应自行做出所有决策。”他在脸书上写道。“我们致力于竭尽所能，但在某种程度上，由民选产生的国会来评估社会公平之间的权衡才是最恰当的。”

扎克伯格是对的：国会确实有责任采取行动。但脸书也有责任采取行动。脸书可以向国会展示它所造成的不平等以及它是如何造成这些不平等的。除非脸书开放算法接受审查——并且提供其内部专家的专业指导——否则，打击虚假信息的战争永远也无法取胜，而世界各地的民主国家将继续身处一个不讲道德的叛逆行业的控制之下。