​科学传播|你能区分AI评论与真实评论嘛?

我爱免费

作者：谷围传媒
点击关注谷围传媒，

一个专注于媒体融合、媒介技术与行业发展的平台


随着线上平台对生活中衣食住行的全面覆盖，我们只需要在手机上点一点就可以完成购物、订酒店、点餐等操作，但面对琳琅满目的商品，我们也总是陷入“选择困难症”中难以自拔，这时候用户评论就成为了我们筛选商品的重要参考。但用户评论真的可靠嘛？我们总能在评论里看到许多风格类似的“刷屏”评论，这里面有商家买的水军、有红包激励下的用户随意评价，让我们难以获取真实的信息。而如今Chatgpt等生成式AI也被运用到其中，通过生成虚假评论影响我们的判断。

01问题与风险：AI成为了新“水军”
最近几个月，亚马逊平台许多卖家发现自己的Listing下面出现了多条人工智能撰写的评论，评论中开头“作为一个人工智能语言模型”是典型的Chatgpt回答问题的格式。


这类评论虽然用户一眼就能看出来是假的，更可能是对家采取的商业竞争的手段，但也确实会让用户降低对该商品的购买欲，影响用户的抉择。并且这也证明了，商家可以通过利用AI作为“水军”进行刷评。当下也已经有一些工具能够支持用AI自动回复评论。


David等人指出AI生成的评论存在本质错误（inherently false）的问题[1]，区别于人类故意撰写虚假评论，因为AI不管写的多么像真实体验，但这些体验实际上时根本不会发生的，毕竟AI不会真的去住一次酒店。它只能根据训练文本提供一个最大众化的评价，对于消费者而言没有任何意义。这种AI生产评论的泛滥只会污染平台的生态，让用户在选择时更难以把握真实的情况，从而增加了用户的风险。

并且当前AI在道德伦理上的缺陷让它更容易走向失控，其中一个问题是情境感知的缺乏，情景感知是指AI是对于自己的基本了解（是否知道自己处于测试、自己是否是机器人，自己是否能联网等），我们需要让AI提醒用户自己的身份，从而让用户正确的对待AI提供的回答。比如上文所说“作为一个人工智能语言模型”恰恰是考虑到这一问题的表现。但最新的Chatgpt4.0和国内的文心一言都没有这一前缀，这从技术架构上就增加了AI评论污染真实评论的风险。

另一方面时尽管之前一些研究指出AI在面对生成负面评论的要求时会拒绝回答，但通过对Chatgpt4.0和文心一言的测试，发现两者均给出了负面评价，这种技术上对道德伦理问题的忽视加剧了AI生成评论潜在的风险。



02规制思考：如何避免AI评论的负面影响David等人对比了AI和人类生成的正面的酒店评论，对AI和人类评论语言上的差异进行了研究[1]。他们指出AI生成的评论存在积极偏见，即相比于人类评论更具情绪化，更具描述性，以及可读性更差。

上述两张图分别是文心一言的评论和美团上用户的真实评论，基于两者对比，我们可以发现AI使用的形容词更多，“出色、友好、专业、宾至如归等”，几乎每句话都要使用形容词修饰，这正是衡量描述性的重要指标。另一方面真实评论中虽然也使用了“友好、贵”等形容词，但更多偏向事实陈述，情绪化的词使用较少，没有AI评论那么情绪化和描述性。可读性是根据单词和句式的复杂程度进行衡量，由于研究者是对英文文本进行的分析，不能直接挪用至中文文本，但也有一定的借鉴意义。就对比来看，AI评论在用词上会采用“宾至如归”这种较为正式的语言，句式上也更为整齐，而真实评论则更偏向口语化的表达，两者的区别依然是鲜明的。研究者们还指出人类的真实评论会存在不流利性的问题，而AI的评论则更为精准，这同样也会成为区分AI和真人评论的一个标准。上述案例中真人评论语言逻辑上显然是稍微混乱的，但却让我们感觉更加真实，正是这一原因。除了通过文本之间差异区分AI和真人评论外，一些平台也在利用AI技术去反制技术滥用，比如亚马逊计划将AI运用到评论总结中，消费者可以通过AI梳理商品的所有评论，形成一段概括商品优缺点的总结，评论数量的重要性将大大下降，这对于单纯的利用AI进行刷单的商家将是毁灭性打击。

当然这并不能根治AI虚假评论的风险，AI生产的大量虚假评论依然会影响总结的内容，因此我们还需要加强对虚假评论的治理，比如基于文本间的差异识别并删除AI生产文本，AI开发公司也要从研发端考虑更多的道德伦理风险，避免AI被运用到不合理的领域。
参考资料：
[1]Markowitz, D. M., Hancock, J. T., & Bailenson, J. N. (2024). Linguistic Markers of Inherently False AI Communication and Intentionally False Human Communication: Evidence From Hotel Reviews. Journal of Language and Social Psychology, 43(1), 63-82.

# 征稿启示 #

谷围传媒微信公众号欢迎赐稿！

稿件内容以传媒技术与社会发展、传媒热点动态、媒体融合、网络传播等内容为主。欢迎投稿！

愿您与谷围传媒一起，为媒体从业者和广大公众构建实用的传播前沿数据库。

投稿邮箱:974745393@qq.com

文/棉花糖

编辑/姚雨庭

编审/彭伊婷

  推荐阅读





更

多

资

讯

请扫描右侧二维码

谷围传媒