研究人员表示，埃隆·马斯克(Elon Musk)收购推特(Twitter)，以及随后的一系列内容政策变化，导致该平台上仇恨、暴力和不准确的帖子急剧增加。这是Twitter新任首席执行官Linda Yaccarino目前面临的最大挑战，她必须解决广告商对这一趋势的担忧，以提高收入并偿还公司债务。
马斯克和亚卡里诺吹嘘了网站政策的更新，比如让广告商阻止他们的帖子出现在某些类型的内容旁边。尽管如此，他本周表示，自马斯克10月份接管公司以来，广告销售额下降了一半。这在一定程度上是因为企业认为在解决问题方面没有取得重大进展。
“马斯克没有遵守对广告商的承诺，他们的广告出现在非常有害的内容旁边，”反数字仇恨中心(Center for Countering Digital Hate)的研究主任卡勒姆·胡德(Callum Hood)说。
据CCDH称，在马斯克任职期间，针对少数族裔社区的仇恨言论有所增加。据反诽谤联盟(Anti-Defamation League)称，骚扰报告上升，极端主义内容激增。根据Media Matters的说法，COVID-19的错误信息有所增加。
Twitter在审查了研究报告后表示，许多有害内容已经得到了评估和解决，在某些情况下，通过给帖子贴标签、降级或删除。据该公司称，超过99.99%的推文印象，或推文被看到的次数，来自不违反推特规则的内容。
在这篇报道发表后，Yaccarino在推特上称研究人员的发现“不正确、误导和过时”。
在马斯克的领导下，Twitter在内容安全方面做出了一系列改变，比如放松规则，解雇信任和安全员工，恢复之前因违反平台政策而被禁止的账户，以及移除不想付费的知名账户的验证标签。这些变化除了赶走广告商外，还疏远了许多用户。皮尤研究中心(Pew Research)的一项调查显示，四分之一的推特用户表示，他们明年不太可能继续使用这个平台。
Twitter的Yaccarino自6月份上任以来，一直在与品牌商讨论“言论自由，而不是接触”的策略，鼓励他们对广告的旁边显示内容使用新的控制。据一位知情人士透露，目前有超过1,600个品牌在使用这些工具。这位知情人士要求不具名，因为他正在分享内部数据。雅卡瑞诺也一直在向第三方征求改善品牌控制的计划。与此同时，马斯克一直表示，仇恨言论的印象正在下降。
胡德说，马斯克的观点“站不住脚”，他指出，根据CCDH的说法，仇恨言论的数量和参与度都在上升。该组织基于社交媒体分析工具Brandwatch的研究称，在马斯克上任的头三个月，每天包含侮辱美国黑人的推文的频率增加了两倍多。从去年10月到今年3月，提到LGBTQ+社区的推文以及“美容师”等侮辱性词汇增加了119%。网络仇恨往往会导致真正的伤害:根据ADL的数据，Twitter上的骚扰报告今年上升了6%。
“马斯克一再表示，该平台上的仇恨言论已经减少，但根据我们所做的数据研究，我们并没有看到这一点，”媒体事务副研究主任凯拉·戈尔加蒂(Kayla Gorgarty)说。“我们看到了相反的情况。”
推特在接受彭博社采访时表示，该公司管理仇恨言论的方法侧重于限制人们看到仇恨言论的次数，而不是内容本身的数量。推特表示，对仇恨言论内容的印象比马斯克收购之前平均下降了30%。该公司还指出，在他们的政策标准中，“美容师”不被视为诽谤，但如果将“美容师”与对受保护类别群体有害的词语组合在一起，则违反了他们的仇恨行为政策。
推特用户也报告在平台上看到暴力和露骨的色情内容。今年早些时候，德克萨斯州一家购物中心发生大规模枪击事件的视频在Twitter上公开分享了几个小时后，该公司才采取行动;还有一个猫在搅拌机里的视频。
南加州大学马歇尔尼利社交媒体指数(USC Marshall Neely Social Media Index)进行的一项调查显示，在3月至5月期间使用Twitter的美国成年人中，超过30%的人表示看到了他们认为对世界有害的内容。这一比例高于竞争对手Facebook、TikTok、Instagram和Snapchat。许多用户报告说，他们在推特上看到纵容或美化针对边缘群体的暴力行为，或未成年儿童容易看到的露骨视频。
今年早些时候，斯坦福互联网观测站(Stanford Internet Observatory)的研究人员发现，Twitter未能删除数十张儿童性虐待图片。该团队确定了128个出售儿童性虐待材料的推特账户和43个已知的CSAM实例。首席作者兼首席技术专家大卫·蒂尔说:“任何已知的CSAM都公开出现在主要的社交媒体平台上，这是非常令人惊讶的。”研究人员联系推特后，推特回应了这个问题。据Twitter称，今年该公司删除的涉及儿童性剥削内容的账户比一年前增加了525%。
自从马斯克解雇或面临近75%的推特员工辞职以来，推特一直在缓慢地发现和删除一些有害内容，其中包括负责管理对内容报告的回应的信任和安全团队的大部分成员。ADL在去年12月至今年1月期间发布的反犹太推文中，平均只有28%被删除或制裁。该小组通过从Twitter的API(应用程序编程接口)中抽取1%的帖子样本来发现这些帖子。该公司表示，自那以后，Twitter限制了那些被发现违反政策的推文。
“自从埃隆·马斯克(Elon Musk)接管Twitter以来，我们看到这个平台从拥有业内最好的信任和安全部门之一，变成了最糟糕的部门之一，”阿拉伯社交媒体促进中心(Arab Center for the Advancement of Social Media)主任纳迪姆·纳西夫(Nadim Nashif)说。
在马斯克任职期间，来自极端政治团体的内容和与国家政治有关的错误信息有所增加。根据ADL的研究，与去年同期相比，5月份与qannon相关的标签数量增加了91%，其中大部分推文发生在过去六个月。根据由捐助者资助的左倾非营利媒体监督组织Media Matters的研究，在马斯克执政的前六个月，近四分之一的与COVID-19相关的推文中包含了未经证实和测试的疫苗信息。去年11月，推特取消了对COVID-19错误信息的禁令。ADL技术与社会中心主任雅埃尔·艾森斯塔特(Yael Eisenstat)说，言论自由而非接触政策面临的挑战是，“没有办法核实到底是什么消除了放大。”与此同时，马斯克本人也参与了极端主义的声音，他回应了反犹阴谋论和反跨性别叙事，这些言论助长了这些帖子，因为他有1.48亿粉丝。
随着时间的推移，独立验证Twitter平台的安全性将变得越来越困难。今年2月，Twitter开始对其应用程序编程接口(API)的访问收费。Twitter的API被第三方应用程序和研究人员用来分析推文。研究人员以前可以免费获取数百万条推文来进行研究，但现在他们要为访问其中的一小部分收取数千美元的费用。为了研究2016年总统大选后的网络仇恨言论，纽约大学社交媒体和政治中心分析了超过7.5亿条推文。今天，这所大学负担不起这样的研究。
纽约大学该中心的联合主任约书亚·塔克(Joshua Tucker)说:“现在，每个月要花4.2万美元才能获得1000万条推文。”斯坦福大学、伯克利大学、CCDH和ADL的研究人员也表示，他们再也负担不起访问Twitter数据的费用。CCDH是美国和英国的非营利组织，由慈善和捐款资助，旨在保护网上人权。ADL是一家总部位于纽约的非营利组织，也是由捐款资助的，该组织称其打击各种形式的极端主义仇恨。
为了让公众和广告商放心，Twitter表示，它正在与独立公司Sprinklr、DoubleVerify和Integral Ad Science合作，对其平台上的内容进行评估。据推特称，该公司的品牌安全控制措施现在在安全内容旁边放置广告的有效性超过99%。
但损害可能已经造成。广告商表示，他们离开推特是因为担心有害内容，包括马斯克自己的帖子。这些企业的营销预算通常较小，在数字平台上有更多的投资选择。他们的广告竞争将很快变得更加激烈;例如，meta Platforms Inc.计划最终向其Twitter克隆版Threads引入广告。
目前仍处于亏损状态的Twitter正试图想出替代广告的商业模式。该公司每月8美元的Twitter Blue高级订阅服务几乎没有受到欢迎。本月，Twitter开始根据Twitter Blue用户的推文参与度，向他们支付一定比例的广告收入。这奖励了那些与马斯克本人互动频繁的账户。
