@经管er,警惕AI胡言乱语!

我爱免费

作者：微信文章




警惕

AI胡言乱语











警惕AI胡言乱语



人工智能（AI）技术正以前所未有的速度发展，生成式AI凭借其惊人的创造力，不断刷新人们的认知。然而，即便是看似聪明的AI，也难逃“幻觉”的困扰。这里的“幻觉”，指的是AI生成看似合理但实际不准确或虚假的信息。

例如，它会引用一篇根本不存在的“2023年哈佛研究”；或者，为并不存在的“诺贝尔物理学奖得主约翰·史密斯”编织一段“量子物理贡献”的叙述。有时候，它甚至会在你一再否认其内容后“动摇立场”，反复修改说法。



“就像一个人虽然能流利地说话，但并不一定每句话都符合事实。”中国信通院人工智能研究所副所长巫彤宁在接受新京报采访时，用生活化类比解释了AI幻觉的成因。夹杂着虚构与偏差的信息，悄然入侵人们的生活，那么，在“AI幻觉”的信任危机中，我们该如何确保自己获取信息的真实性？



一、交叉验证 避免单一来源依赖

通过对比不同大模型的答案，获取更全面的认识 ，从而筛选判断出更为准确的答案。

二、利用AI幻觉检测工具

微软最近在其Azure AI平台上推出了名为Groundedness Detection的新工具，虽然现阶段尚不可避免存在一些不准确的信息，但此工具的有效性提升无疑为AI未来应用提供了更多的可能性。

三、关注AI生成内容的标注与政策合规

近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》，通过标识提醒用户辨别虚假信息。

四、提升个人信息素养

在使用AI生成工具时，培养对AI输出的质疑习惯，手动核对关键数据，追根溯源，而非全盘接受。



“我们要做的，是找到人工智能和人类中间的平衡。”巫彤宁知道，彻底消除幻觉并不现实，而在AI信息爆炸时代，始终保持独立思考的能力、辨别信息真伪的能力比获取信息的能力更宝贵。

（图片来源于网络，如有侵权请联系删除）

图文编辑：曲泽措

文　　案：苏弘原

责任编辑：王鑫雨

审　　核：曲　径