研究人员发现，由AI生成的评论和评论对消费者构成了重大威胁，但是机器学习可以帮助发现假货。
TripAdvisor，Yelp和Amazon等网站会显示用户对产品和服务的评论。消费者要注意：十分之九的人阅读了这些同行评价并相信他们所看到的。实际上，多达40%的用户决定仅根据几条评论进行购买，而出色的评论会使人们在购买上花费30%以上。
但是，并非所有评论都是合法的。真实的人撰写的虚假评论在评论网站上已经很普遍，但是机器产生的假货数量可能会大大增加。
根据阿尔托大学的博士生Mika Juuti所说，如今基于算法的虚假评论易于生成，准确且快速。大多数时候，人们无法分辨真实的和机器生成的虚假评论之间的区别。
“行为不当的公司可以尝试通过人为地创造正面的品牌形象或通过对竞争对手进行虚假的负面评论来促进销售。当然，动机是金钱：在线评论对于旅游目的地，酒店，服务提供商而言是一项大业务和消费产品。” Mika Juuti说。
2017年，芝加哥大学的研究人员描述了一种使用Yelp上的300万个真实餐厅收视率数据集来训练机器学习模型，即深度神经网络的方法。训练后，模型会逐个字符地生成假餐厅评论。
但是，该方法略有打ic。很难停留在话题上。对于拉斯维加斯的一家日本餐厅的评论，该模型可以引用巴尔的摩的一家意大利餐厅。这些错误当然很容易被读者发现。
为了帮助评论生成者留下深刻的印象，Juuti和他的团队使用了一种称为神经机器翻译的技术来使模型具有上下文感。他们使用“评论等级，餐厅名称，城市，州和食物标签”的文字序列，开始获得令人信服的结果。
Juuti说：“在我们进行的用户研究中，我们向参与者展示了由人类撰写的真实评论和由机器生成的虚假评论，并要求他们识别出虚假的内容。多达60%的虚假评论被错误地认为是真实的。”
然后，Juuti和他的同事设计了一个分类器，可以发现假货。结果证明分类器表现良好，尤其是在人类评估人员很难判断评论是否真实的情况下。
这项研究是与阿尔托大学的安全系统研究小组以及日本早稻田大学的研究人员合作进行的。它在9月的2018年欧洲计算机安全研究研讨会上进行了介绍。