2020年6月26日

哈尼·法德:如何造谣是分裂国家

在危机“的国家:上周三,2020年6月24日学校信息与计算机科学系教授哈尼·法德的作证与众议院小组委员会上通信技术和题为能源和商业委员会的消费者保护和贸易小组委员会远程听力:如何在网上造谣是分裂国家“。 

博士。法里德提供了以下证据: 

概观

技术和互联网已经对我们的生活和社会的一个显着的影响。许多教育,娱乐,并激励事情已经从创新过去二十年里出现了。与此同时,许多horric事情出现了:儿童性虐待材料的大量增殖[21],传播和激进的国内和国际恐怖分子[13],非法和致命的药物分布[36,11],在旨在播种内乱,煽动暴力和破坏民主选举[5,28],危险,仇恨扩散,致命的阴谋理论[33,27,10]误和虚假宣传,妇女的日常骚扰的增殖和代表的群体中的性暴力和复仇和非自愿的色情内容[16],小到大规模舞弊[40],和壮观的失败威胁的形式,以保护我们的个人和敏感数据[17]。

如何在短短20年间,我们没有从互联网的民主化获取知识的承诺去让世界更多的理解和启发,这一连串的日常惨状?由于天真,思想,任性无知,并不惜一切代价增长的心态的组合,技术的巨头都根本没有对他们的服务安装适当的保障措施。

我们可以当它涉及到了一些最猛烈的,有害的,危险的,可恨的,欺诈性内容的在线竞争,我们必须做的更好。我们可以当它涉及到与误传启示已经出现在过去的几年中,我们竞争,必须做的更好。

Facebook的马克·扎克伯格曾试图在车架误和造谣驾驭不希望成为“真理的仲裁者”的问题[26]。这完全不得要领。点是不是真或假,但有关算法放大。问题是,社会化媒体决定每天什么是它推荐给自己的数十亿用户的相关性。问题是,社会化媒体了解到,离谱,分裂和阴谋含量增加参与[18]。问题是,在线内容供应商可以简单地决定,他们更看重在不可信的信息可信的信息,尊重了可恨的,统一了分裂,进而从根本上改变分裂加油和误传,发行机今天是社交媒体。

通过强调这些问题的深度和广度的方式,我将介绍最近的两个案例研究揭示的是如何在互联网,社交媒体,以及在更广泛的信息,被武器化对社会和民主困扰模式。我将与干预措施,以帮助避免数字反乌托邦的总体概括得出结论,我们似乎朝着飞驰。

covid相关误传

在covid-19全球大流行已是一个理想的繁殖网上误传地面:社交媒体流量已经达到了空前的纪录[9]随着人们被迫留在家里,经常空闲,焦虑和渴求信息[32 ],而在同一时间,社交媒体服务是不能完全依靠人的主持人来执行其规则[7]。在covid-19相关的误导所产生的尖峰严重关切的卫生专业人员[3]。该

世界卫生组织列出的调查有关infodemic在其最优先的需要和定性研究遏制流行病[43]。

4月11日和2020年4月21日之间,我们推出了美国为基础的调查,以研究在20流行covid-19相关的虚假陈述的信念,和20所对应的真实的陈述[28]。我们的研究结果,从500名受访者中,揭示了一个令人不安的广度和误传的深度是高度党派,并推动通过社交媒体。

平均来说,55:7%/ 29:真/假陈述的8%达到参与者,其中57:8%/ 10:9%被认为。 4%/ 42:真/假报表的7%是由其他已知的参与者认为,当他们是否知道有人认为或可能认为一份声明中,71参与者被要求。中位数是达到了参与者11/6真/假报表;真/假报表中位数认为由参与者为12/2;真/假报表中位数认为被别人知道的参与者15/8;和31%权利相信至少一个假阴谋(参见[14])。

人们普遍令人鼓舞的是真实的陈述比虚假陈述更广范围和更广泛的信念。在虚假陈述的范围和信念,但是,仍然是困扰,特别是考虑到从误传可能出现的潜在致命后果。更令人不安的是在数据的仔细观察浮现的党派分歧。

我们发现,政治倾向和主要的新闻来源对被认为虚假陈述的数量的可能性显著的效果。通过这些社交媒体作为自己的新闻主要来源认为虚假陈述的数量比那些谁举另一个主要的新闻来源更大的1:41倍。那些在政治光谱的右边认为虚假陈述的数量比左侧更大的2:15倍。并且,那些右边是1:12倍不太相信比左边真实的陈述。

五个最大的影响是基于政治倾向,其中,相比那些在左边,那些右边是:

  • 15:44更可能的时间相信covid-19 \无症状携带者的其他医疗问题,谁死被添加到冠状病毒死亡人数得到的数字高达证明这一流行病的回应。”
  • 更容易14:70倍相信\众议院民主党人包括2500万$,以提高自己的年薪在他们的covid-19相关的经济刺激一揽子建议。”
  • 更容易相信9:44倍\ covid-19在实验室中的人造并notthought是一个自然的病毒“。
  • 7:41更有可能的时间相信\银溶液杀死covid-19。”
  • 更可能6:97倍相信\ covid代表中国发起的病毒感染性疾病。”

目前还不清楚在多大程度上covid-19误传是协同攻击的结果,或通过有误解和恐惧兴起有机地。它也仍不清楚,如果在这个误传传播和信念是在上升或下降,以及它是如何影响了世界其他地区。我们和其他人正在积极寻求解答每个问题。清楚的是,通过社交媒体的推波助澜,covid相关的错误信息已经传播广泛而深入,以及在线内容提供商都做控制误传传播方面做得很差,而且助长其蔓延的同谋。

YouTube的阴谋

通过允许广泛征求意见共存,社交媒体已经允许不同思想公开交流。那里有,但是,一直担心的推荐引擎,其功率这些服务扩大,因为它的倾向耸人听闻的内容来产生更多的互动。 YouTube的推荐引擎的算法推广阴谋理论,尤其是最近已经日益受到关注的学术界[25,4,39,31,35,41,2],立法者[24],和公众[15,1 ,30,34,8,3]。在八月2019年,美国联邦调查局介绍边缘阴谋论作为国内恐怖威胁,由于越来越多的这种心理[12]动机的暴力事件。

在YouTube观看内容的一些70%是推荐的内容[38],其中的YouTube算法促进基于许多因素,包括用于用户接合或查看时优化的视频。因为阴谋理论通常设有新颖和挑起内容,他们往往比平均啮合[19]得到更高。的推荐算法因而很容易被火花增强反馈环路[44]在其中更阴谋理论建议和消耗[6]。

我们过去20个月中分析了来自YouTube的手表旁边算法超过800万点的建议。建议每天收集,从发表在美国一组最受欢迎的新闻和信息渠道的1000+最新的影片开始然后推荐的视频被送入训练查出阴谋内容的分类器。

图1: 从在YouTube信息信道,的阴谋建议纵向趋势,其中每个数据点对应于连续七天的平均水平。

图1所示是我们的信息渠道推荐的YouTube视频阴谋的百分比的估计,2018年10月和2020年六月在2019年4月开始之间,我们监测了阴谋的建议一致下降,直到2019年6月的时候开始频率简要命中的3%的低点。自那时以来,然而,频率一直徘徊3%和5%之间,并看到了一个稳定的上扬在2020年三月随着全球covid-19大流行的规模开始变得明显。 

这个纵向研究显示积极推广阴谋内容的困扰频率,而且,尽管先前的说法与此相反,YouTube的是能够通过调整他们的推荐算法,以减少这些内容的流行。这种减少,然而,这并不在YouTube过时也不虚构激进的问题,因为一些人声称[22]。汇总数据掩盖了个人非常不同的现实,虽然激进是一个严重的问题,它只是为用户的一小部分相关。那些看着阴谋内容肯定能仍然遇到YouTube上作为过滤器泡沫的历史,加强了个性化推荐和频道订阅。在YouTube上与两个十亿的月活跃用户,推荐算法的设计有上比传统媒体的编委信息流产生更大的影响。该发动机的作用是由即使在光线更关键(1)越来越多地使用的YouTube的作为信息的主要来源,尤其是在青少年[37]; (2)市场在YouTube上的接近垄断地位; (3)的YouTube的日益增长的武器来传播误传和世界[5]围绕党派的内容。

政治误传

上述的误解和阴谋研究是在煤矿中的金丝雀当我们接近2020年的美国全国选举。互联网,尤其是社交媒体,已经被武器化的个人,组织和民族国家播下内乱和民主选举产生干扰。我们应该对问题进行激烈辩论,我们面对的是一个国家,但我们不应该让社交媒体对我们的选民抑制的形式,社会和民主被武器化,以及传播和放大的谎言,阴谋,仇恨和恐惧。

干预措施

互联网,尤其是社交媒体,是失败我们对个人,社会和民主的水平。在线内容提供商优先增长,利润和市场优势在创造一个安全健康的生态系统联机。这些供应商已经采取了,他们只是在托管用户生成内容的业务,是不是也不应该被要求作为位置“真理的仲裁者。”然而,这违背了社会化媒体的今天现实的地方,绝大多数交付内容的积极通过基于他们的算法,其设计在很大程度上最大限度地参与和收入内容提供商推广。这些算法能够获得的数十亿用户非常详细的简档,允许该算法以前所未有的方式微目标内容。这些算法已经认识到分裂,仇恨和阴谋的内容吸引用户,因此这种类型的内容优先,导致猖獗的误传和阴谋,并反过来,增加了愤怒,仇恨,和不容忍行为,包括在线和离线。

很多想帧内容审核问题作为言论自由的问题。它不是。第一,民营企业必须规范自己的服务内容,而无需的第一个修正案触犯运行的权利,当他们禁止合法的成人色情许多经常做。第二,内容审核的问题应该关注的不是内容删除,但其决定什么是相关的,我们所看到的,读的底层算法,并在网上听到。正是这些算法是在误导放大的核心。扣的CEO,埃文明镜,例如,最近宣布“我们将做它用我们的行动明确,没有灰色地带,当涉及到种族主义,暴力和不公正。我们根本不能促进链接到在美国的人占谁

煽动种族暴力,无论开启或关闭我们的平台这样做。”但先生。周刊也宣布,该公司不一定会删除特定内容或帐户[20]。正是这种放大和推广,应该是在的心脏在线内容适度的讨论。

如果在线内容提供商优先考虑他们的算法,以价值值得信赖的信息在不受信任的信息,尊重了可恨的,又统一了分裂,我们可以从移动分裂加油和误传,发行机是社会化媒体的今天,更健康,更看重在线生态系统。如果广告主,是社会化媒体背后的燃料,发生了一起针对在线滥用立场,他们可以保留他们的广告收入要坚持真正的变革。

站在这个急需改变的方式是缺乏企业领导,缺乏竞争,缺乏监管的,和普通公众之间缺乏教育。责任,因此,落在私营部门,政府监管部门,而我们普通大众。

查看全部这里(PDF)的证词.

最近更新时间:

2020年7月1日