欧盟威胁要对大型高科技公司处以罚款，前提是大型高科技公司没有在出现在网上的一小时内删除恐怖分子的内容。之所以发生这种变化，是因为紧张局势正在发展，并且正在社交媒体平台上播放。
曾经在幕后会议中积累并在城市街道上席卷而来的社会冲突，现在在社交媒体平台上积蓄了势头，然后才蔓延到现实生活中。过去，政府倾向于控制传统媒体，而个人传播仇恨的可能性很小甚至没有。
数字革命改变了一切。
恐怖主义组织，最著名的是伊斯兰国(ISIS)武装分子，已使用 Facebook，Instagram和Twitter等社交媒体平台进行宣传，并计划了针对平民的恐怖袭击。
包括德国的反难民极端分子在内的极右翼团体也越来越多地利用技术平台来拥护反移民的观点并妖魔少数群体。
从斯里兰卡到缅甸，在线上引发的社区紧张局势导致了暴力。
由于西方国家越来越多的政治意愿来规范社交媒体公司，因此许多技术巨头争辩说他们可以自我调节，而人工智能(AI)是减少在线仇恨的主要工具之一。几年前，我们创建了“防止大规模暴行数字实验室”，致力于改善公共政策，以遏制暴力极端分子对技术平台的利用。
超卖能力?
科技公司痛苦地意识到其平台的恶意使用。
2017年6月，Facebook，微软，Twitter和YouTube宣布成立反恐全球互联网论坛，旨在破坏在线极端主义活动。然而，随着消除有害在线内容的政治压力越来越大，这些公司开始意识到其人类内容主持人的局限性。
相反，他们越来越多地开发和部署AI技术，以自动执行不需要的内容检测和删除过程。但是他们这样做是在没有监督的情况下进行的，而且很少有关于这些AI系统如何工作的公共信息，这是公共政策论坛在最近的一份报告中指出的问题。
根据其最新的透明度报告，Twitter声称其在2017年上半年使用AI删除了超过300,000个与恐怖主义有关的帐户。
Facebook本身承认，在围绕仇恨言论的问题上，它正在努力有效地利用AI。首席执行官马克·扎克伯格(Mark Zuckerberg)今年早些时候告诉美国国会议员，人工智能仍然在努力解决语言方言，语境以及声明是否符合仇恨言论的细微差别，并且可能需要花费多年的时间才能解决。
但是，该公司还声称能够使用AI驱动的算法和人工内容主持人，删除ISIS和基地组织附属内容的99%。人工智能还是人类是公司成功声明的关键，尚未进行独立调查。
人工智能的失败
2017年，有250家公司因涉嫌未能控制YouTube极端主义内容而暂停与Google的广告合同。一年后，Google广告和商务高级副总裁Sridhar Ramaswamy表示，该公司在平台安全方面取得了长足进步，以重拾客户失去的信心。
但是，NGO反极端主义项目最近的一项研究驳斥了该公司限制和删除极端主义视频的努力的有效性。鉴于这项研究发现，超过90%的ISIS视频被上传了多次，并且未对违反公司服务条款的帐户采取任何措施，因此YouTube需要提高透明度和问责制。
显然，没有简单的前进道路。删除无害，冒犯，极端主义或非法的内容，即使这些内容令人反感，也妨碍了言论自由。在某些情况下，使用AI删除内容会阻止人权捍卫者发布的合法材料。
例如，2017年，人权活动家莎·侯赛因(Shah Hossain)发现他在Facebook上有关迫害缅甸罗兴亚少数民族的大量帖子被删除。YouTube还删除了他的新闻频道，该频道有近80,000个订阅者。侯赛因在记录侵犯人权行为，而不是仇恨行为。
在叙利亚，独立新闻受到战争的严格限制，激进分子在网上发布的视频和照片对于了解该国的局势至关重要。然而，为了打击极端主义内容，YouTube的AI驱动算法删除了数千个针对平民的暴行视频。录像带被发布，以作为最终起诉叙利亚官员危害人类罪的证据。这很麻烦。
向前进
知名的社交媒体巨头公开表示，他们将投入更多资源来监管其平台。但是，鉴于当前的结果，是时候考虑这种方法是否合乎道德和有效。
英国，法国，德国，欧盟和美国等已开始公开讨论和实施有关高科技行业的监管措施，不仅涉及恐怖主义和仇恨言论，而且还涉及数字选举干扰，传播虚假新闻和虚假宣传活动。
加拿大已经开始认真对待这一问题，在加拿大全球事务部成立了数字融合实验室，致力于加强七国集团的共同努力。
这些是非常需要的举措。大型科技巨头一直在夸大AI在对抗其平台上的仇恨方面的有效性。我们的民主和开放社会必须抛弃人工智能是解决眼前问题的灵丹妙药的观念。除非民选官员监管大科技公司，否则社会两极分化和日益增长的不信任将继续存在。