MIT软件演示了如何通过简单的同义词来替代NLP系统

2020-02-13 13:53:29    来源:    作者:

这是一个人工智能仍然严重缺乏某些人类属性的示例:测试表明,仅通过将一个单词替换为同义词,自然语言处理(NLP)系统就可以被欺骗为误解文本。

MIT软件演示了如何通过简单的同义词来替代NLP系统

麻省理工学院的一个研究小组开发了一个名为TextFooler的软件,该软件寻找对NLP分类器最关键的单词并将其替换。团队提供了一个示例:

“字符,投在不可能的情况下做作,完全是从现实疏远”和

“字符,在投不可能改造的情况下,是完全 从现实疏远”

对于人类来说,没什么问题。然而,有关认可机构的结果却是惊人的。例如,Google的神经网络BERT在确定Yelp的评论是正面还是负面时就差了多达7倍。

道格拉斯·天堂(Douglas Heaven)为《麻省理工学院技术评论》撰写该研究的综述,解释了为什么这项研究很重要。“我们已经看到了许多对抗性攻击的例子,大多数情况下是在图像识别系统中,对输入的微小改动会使AI变得模糊不清,并使AI对所看到的内容进行错误分类,” Heaven写道。“ TextFooler表明,这种攻击方式也打破了NLP,虚拟助手(如Siri,Alexa和Google Home)背后的AI以及垃圾邮件过滤器和仇恨语音检测器等其他语言分类器。”

MIT软件演示了如何通过简单的同义词来替代NLP系统

该出版物探讨了AI技术超越人类努力的各种方法,例如检测乳腺癌,玩星际争霸和公开辩论。在其他领域,抵抗仍然存在,尽管徒劳无功。在12月,据报道,人类的司机仍在跳动的整体认可,在无人驾驶的赛车,尽管无人机赛的首席技术官联盟预测,2023将是其中AI接管了一年。

研究人员希望,诸如TextFooler之类的软件的最终目标是使NLP系统更强大。

MIT软件演示了如何通过简单的同义词来替代NLP系统

后记:对于那些从不列颠群岛,中国和某些英联邦国家以外的国家读书的人来说,要“斯诺克”某个源于同名运动的人,就是“让一个人处于困境”。与美国相对应的是“落后于八球制”,尽管这当然会引起头条。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。