打开手机，点开某宝，开始购物，先看评论。一套动作行云流水，可是你有没有想过，你看到的那些评论可能都是假的？
评价在购物中扮演重要角色
互联网之前，人们购买物品时，均会选择自己熟悉的商家、企业。这也是为何那么多大公司在电视、纸媒上投递广告的原因之一，不去影响你，至少也要混个脸熟。其次，即使消费者购买到次品、劣品，对其评价也仅在有限范围内的传播，买家往往无处诉苦，无良商家也能够继续行骗。
到了互联网时代，在购物前往往会选择点开评论，看商家口碑好坏，从而决定是否购买相关产品。正常情形下，一些人会习惯性的选择好评最多的商家。有些人则选择直接过滤好评，跳到差评项，查看差评的原因并确定是否购买。
两者都显示了评论如何影响我们的购物。也正是因为评论有着这样的导向性，网络上“水军”突起，帮商家刷好评的不下其数。这就需要用户进行辨别，一般情形下，用户能够较为容易地识别出哪些是“水军”刷的评论。再不济会选择差评，差评往往能够更为真实地反映事实，当然也不排除敌对的竞争者恶意差评。
即便有了水军之后，商品评论的价值下降，但是用户仍旧会查看好评和差评，剔除可能是水军发出的评论。用户仍在将评论作为参考性因素，评论仍扮演重要的角色。但是评论的价值可能在未来消失殆尽。
评价价值消失的时代可能即将到来
如果看到一个店面，店面下满是各种好评，进入购买，却发现原本快递的是高端智能手机，到手却变成了一块砖头。相信任何人都将对此心有余悸。下次购物时盯大双眼，再次对评论严加把控，但清一色不同人的好评却促使你下定决心购买店家的时尚服装，到手的却是一件寿衣。即便可以当场拒签，想必你的内心也是崩溃的。
那么，原本可以一眼看穿的“水军”评论为何此时变得如此真实了呢？芝加哥大学研究人员在最近发布的一篇《在线点评系统中的自动众包攻击和防御》中表示，通过运用深度学习技术中的RNN（神经循环网络），使用上千条真实在线点评，便能够训练出这样一个AI水军，人工智能也可以被用来生成复杂的点评信息。
假设这是一家餐馆的页面，那么店面下的评论就可能是这个样子的，“我喜欢这个地方。我跟我哥一起去的，我们点了素食意大利面，很好吃。啤酒不错，服务也很棒。推荐这个地方，是个吃早餐的好去处。”
可以想象，为了进行点评，首先需要获得点评的权限。届时，类似于大众点评等无需实名认证、无需购买经历便可进行点评的网站很快将被AI生成的评论攻占。此后可能会是各大电商平台，虽然有着限制，仅仅购买商品的用户可以进行点评，但情形仍旧不容乐观。
其实刷评论的事情并不是现在才发生，很早以前水军便开始这样做了，只不过如今换成了人工智能。那么为何说人工智能刷评论造成的影响会比网络水军的影响更大呢？可怕之处或许并不是AI攻占评论，而是无法分辨真假。与简单替换已有点评中的用词极为不同，使用RNN产生的这些点评，是逐字生成的。通用的反抄袭软件对这些点评无能为力，不但难以检测这些虚假点评，甚至会“误伤”大批真实的点评。
甚至在参与调查的600个用户中，不少人认为AI生成的虚假评论“有用”。这也意味着它确实将对用户产生引导，促使他们走向这些可能无人光顾的店面。正因为它毫无差别，所以论文作者之一芝加哥大学计算机科学教授赵燕斌教授才会表示，“这对整个社会是一个巨大的威胁，不但会让依靠点评信息的用户失望，而且会动摇人类对于真实和虚假的信念，我认为后者更让人担心”。
提前预防阻止它的发生
那么人类真的束手无策了？好消息是，目前现实生活中并没有采用AI生成恶意虚假点评的案例（当然也可以恶意揣测，也许已经在发生，但没人知道，比如此次论文中的案例）。坏消息是，构建这样的系统，耗时不长，数据消息可以从网上获取，硬件也可轻易购得。也就是说，事情还未发生，但事情可能很快就会发生。
那么要如何防范这些AI生成的假评论呢？要让人类靠自身识别甚至简单的机器识别已经变得极其困难。既然是机器生成的，有没有可能用机器去防范呢？事实上，目前这些AI生成的评论，与用户真实的评论间仍旧存在细微差异，还能够通过计算机分析字符分布等特征去辨别。
原因很简单，AI生成评论从真实信息学习的，但这个过程中会有信息流失。要保证AI生成评论的流畅、可信，就会在其他方面像字符分布有所取舍。研究者表示，“在训练过程中发生的信息遗失，会传递到生成出的文本中，因此生成文本和人类文本在基本字符分布上，有着统计上可检测的差异。”
虽然攻击者可以骗过检测，做出更好的AI，但是简单的检测却提高了攻击门槛。此外，如果攻击成本足够高，高过5毛水军的成本，大部分人都会选择放弃。但是“你永远没办法阻止那种目标坚定、身手老练的攻击者。”
Yelp（美国最大点评网站）的发言人的论述佐证了保障内容真实的严峻性。“随着欺骗点评系统的方法持续进化，越来越复杂，Yelp这类大型用户点评网站在保障内容真实性上面临着重大挑战。十年来，Yelp一直有保护内容的系统，而正因为欺骗手段越来越复杂，我们也持续迭代这些系统，来识别假点评，以及偏颇、没有帮助的内容。”
零镜观点
AI生成的点评可能使购物的评价体系陷落，使用户再次回到不相信评价的状态。但是更为严重的或许并非影响购物体验，而是信任的崩塌。如何验证信息的真实性、规避AI产生的假消息才是摆在人们眼前的一大难题，这也是论文作者为何会做这样的论文研究，“AI以惊人的速度和加速度在发展，如果我们不立刻开始研究如何抵御，可能永远都赶不上了。”
最后，你能分辨这些评论哪些是真的哪些是假的吗？（翻译过后，与原文已有出入。）
1、我最喜欢去的意大利餐厅。大爱这家菜品，一切都很棒。我推荐生牛肉配芦笋。可惜现在名气太大了，越来越难在黄金时间预定到座位。
2、我们全家都是这间餐厅的超级粉丝。工作人员非常奈斯，食物很棒。鸡肉非常好吃，蒜汁堪称完美。上面配有水果的冰淇淋也很美味。强烈推荐！
3、每年圣诞节我都来，最爱意大利面！物有所值！
4、非常好的披萨、烤宽面条以及最好吃之一的扇贝。甜品很大很美味。
