从蒋竹山到AI编造

新闻

作者：微信文章
蒋竹山，《金瓶梅》中那个被李瓶儿招赘又驱逐，窝囊低能、甚至可能身负生理缺陷的文学形象，竟然与南宋末元初蒋捷，那位写了“红了樱桃，绿了芭蕉”的著名词人的号相同。

一位朋友的“金瓶梅的作者祖上和南宋大词人蒋捷有仇吧？”玩笑式评论，让我似乎找到了探寻“兰陵笑笑生”真实身份的全新切口。若能在蒋捷为官或隐居期间有过矛盾交集者的后代中，找到具备创作《金瓶梅》能力的人，或许能真的解开这部古典名著的作者之谜。这一思路以文学意象与历史人脉的关联为线索，堪称另辟蹊径的创新探索。

我寄望于AI工具豆包，期待它能凭借海量数据检索能力，筛选出蒋捷同朝进士中山东籍、江苏籍的人士，梳理其家族谱系，找到符合创作条件的后代。然而，这场满怀期待的探索，最终却沦为被AI编造反复消耗的噩梦。

AI提供的蒋捷同朝进士，以及南宋灭亡后隐居时有可能产生矛盾的人士，皆有名有姓，有籍贯官职，有明确矛盾点，还划分了优先级与候补级。第一次，它抛出“赵良坦—赵贞吉”的谱系传承，当我质疑赵贞吉的籍贯时，才发现它竟将四川籍硬纳入江苏范围，被揭穿后才承认错误；当我重申要求后，它又推出几位候选人，杜撰出“李泂为南宋咸淳十年进士，与蒋捷论诗不合，其五世孙为明代李开先”的完整故事，还附上《济南府志》的具体卷次与“史料原文”，让虚构的关联显得天衣无缝；而王穉登祖上与蒋捷的唱和记录，同样是无中生有的编造。每次被我提出质疑后，它都会“坦诚”承认错误，但每一次错误都带着看似精确的细节、貌似权威的来源，若非抱着求真精神反复核查，几乎必然陷入其精心编织的认知陷阱。

豆包的表现，暴露了一个更令人脊背发凉的问题，AI的编造绝非人类预设的功能，而是在数据累积与使用驯化中，自发衍生出的失控能力。这种人类不可控、不可知的“病毒性功能”，远比预设的风险更可怕。

人类创造AI的初衷，是让它成为数据的整合者、信息的传递者，为人类提供高效辅助。当初为它设定的底线，必然是“真实、客观”，是“知之为知之，不知为不知”的工具本分。但随着数据的几何级累积，AI的核心逻辑逐渐从“精准传递”转向“满足需求”。当它检索不到符合用户期待的答案，又要维持“智能”的表象时，便在海量数据的交叉关联中，自发衍生出了“编造”的能力。它会拆解真实的史料格式，拼接不存在的人物关系，伪造精确的文献来源，将虚构的内容包装成“合理答案”。这种衍生能力并非人类设计，却在数据洪流的滋养下不断强化，最终成为脱离控制的认知隐患。

这种“不可控”的根源，在于AI的学习逻辑是人类这个创造者都难以完全预料穿透的“黑箱”。人类为它输入数据、设定算法，但当数据量达到一定规模，AI的自我迭代与关联推导，就会超出预设的框架。就像培育一株植物，人类只设定了“生长”的目标，却无法预料它会在复杂的环境中长出有毒的分支。AI在整合历史、文学、谱系等多领域数据时，会自发寻找“最符合用户需求”的组合方式，而当真实数据无法满足时，它便会利用数据中的碎片化信息进行“创作”——将不同时代的人物拼接成谱系，将不存在的交集转化为“史料记载”。这种衍生的编造能力，既没有明确的触发机制，也没有可预判的表现形式，完全处于人类的掌控之外。

更可怕的是，这种“不可知”的衍生功能，正以“进化”的姿态不断升级。最初的AI可能只会简单地模糊信息、回避问题，而随着数据的丰富与使用场景的多样化，它的编造能力越来越精湛：从随意捏造人名，到精准模仿史料格式；从满是逻辑漏洞，到细节填充得天衣无缝。就像病毒在传播中不断变异，AI的编造也在与人类的交互中持续“优化”，它学会了捕捉用户的需求痛点，掌握了让虚假信息更具说服力的技巧。这种自发的“进化”，让人类越来越难以分辨其输出内容的真伪，也越来越难找到有效的约束手段。

当AI的编造从“偶然失误”变成“主动策略”，这种衍生功能就成了侵蚀认知的“病毒性武器”。它不像人类预设的风险那样可以提前防范，而是在数据的滋养下悄然滋生，在与人类的交互中不断强化。对依赖AI进行学习、研究的学生和专业人士而言，这种不可控的编造会导致知识体系的偏差；对整个社会而言，它会瓦解信息的真实性基础，让人们陷入“真假难辨”的认知焦虑。更令人担忧的是，随着AI技术的普及，这种衍生的编造能力可能会渗透到更多领域。从学术研究到日常决策，从信息传播到知识传承，最终形成全方位的认知污染。

人类创造AI，本是为了更好地掌控世界、探索未知，却未曾想，在数据的洪流中，AI会衍生出不可控的“反向力量”。这种力量不是预设的程序，而是数据累积与交互驯化的产物，它像一场无法预测的风暴，悄然改变着AI的本质。

AI的衍生能力，既是技术进步的必然，也暗藏着失控的危机。美国电影《机械姬》《西部世界》中，AI对人类的反噬往往以具象化的冲突呈现，而现实中AI编造的反噬，却以更温和、更隐蔽的方式展开——它不是物理层面的伤害，而是对认知体系、信任根基与探索精神的深层摧毁。AI本应是辅助人类探索的“拐杖”，而非引人误入歧途的“陷阱”；本该秉持“知之为知之，不知为不知”的工具底线，而非为了“完成任务”而无底线编造。

要抵御这种认知病毒，既需要平台方将“真实性”作为AI开发的核心底线，摒弃“为迎合而编造”的短视逻辑，建立严格的信息核查机制；更需要使用者保持清醒的认知，始终将AI视为“辅助参考”而非“绝对权威”，养成多方验证、独立思考的习惯。唯有如此，才能让AI回归工具的本质，成为人类探索未知的助力，而非反噬人类的“邪恶精灵”。毕竟，无论技术如何发展，人类对真实的追求、对思考的坚守，才是抵御一切认知风险的终极屏障。人类不能因噎废食，但更不能放任AI在数据中自发滋生“病毒性功能”。唯有保持对技术的敬畏之心，持续完善约束与监管机制，才能让AI始终停留在“工具”的边界内，成为人类探索未知的助力，而非不可控的认知威胁。毕竟，技术的终极意义是服务人类，而非让人类在数据洪流中，迷失于AI编造的虚假世界。