AI不知道的事

多客科技

作者：微信文章
在这个人工智能被极度神化的时代，AI现在确实已经可以做很多过去做不了的事儿了。但大家大可不用为此焦虑。真正的技术革命，从互联网到移动互联网，会内生本能的渗透到每一个人的日常中来，普惠且平权。今天没有人再为不会五笔打字而焦虑了吧。所以AI是未来，已经是一个没什么价值的共识了。尤其是输入的门槛，会最终趋向你会说话就行，甚至你动个念头就可以了。

作为相关从业者和用户，今天围绕几个使用场景我来直面谈谈AI不知道的事，以下是我亲历的几件小事，却让我摸清了它的盲区和局限性。



第一次是和小红书系统发布笔记的审核，长达数十遍的缠斗的经历。我反复修改一篇长文笔记，系统始终拒绝通过审核。于是我把内容提交到几个主流AI助手—— Chatgpt、DeepSeek、Kimi、Qwen、甚至Hunyuan中，请求分析违规原因。它们煞有介事地指出“用词敏感”、“需要优化语气”、“需要提高图像品质”、“可能涉及广告引流”，“把‘攻略’改成‘记录’”...,诸如此类看上非常专业明确的建议， 我虔诚地照单全收，结果仍然屡次三番被拒不通过。这成功激发了我的好奇心和求胜欲，最后，我尝试着从不同维度删除词汇和调整措辞和语句表达，都聊胜于无，直到删除了所有提及“腾讯”“公众号”的词句，瞬间通过审核。

我大吃一惊，原来AI让我改的那些语气、角度都并非关键。并且把我的注意力导向了内容自身的玄妙莫测的潜规则，傻逼这种词不能有，不文明，驯化这种词不够正能量...; AI能识别字面规则 ，但无法理解平台间的商业竞争逻辑，无法理解业务背后的商业策略和机密。小红书对竞品关键词的屏蔽是商业策略，而AI只按训练数据中的显性规则判断。AI们根本没意识到，它们分析的文本里藏着平台之间真实而无孔不入互相攻击和防范的商业竞争关系。

第二次困惑来自某次为孩子查询学区房所对应的地块片区。当我向多个AI模型查询某地块对口学校时，得到的答案五花八门，同一小区居然有四种不同的答案：有的宣称属于A名校学区区块，有的坚持划归B小学，还有的模棱两可建议“进一步核实”。这些结论都带着笃定的语气，逻辑严密而无懈可击的样子，仿佛在宣读真理，但我依然不敢相信他们任何一家。

最后我不得不翻遍教育局通告、线下打社区电话才确认真实划分，最后才发现大模型的结果都是错的——AI们既不了解政策动态，也不懂具体社区边界划分的复杂性，它们只是机械拼凑过时的网络信息。并且幻想着生成出一些胡编乱造的假信息。如果缺乏辨别力，确实猛的一看挺唬人的。

第三次信任崩塌发生在辅助财报分析上。我明确要求某AI分析英伟达最新季度财报，甚至提供了官网IR链接。它迅速生成一份“完整”报表，但当我对照真实文件时，发现关键营收数据竟偏差了好几倍。好几处关键财务数据都出现了移花接木一样的荒谬错误，后来才明白，AI混淆了财报修订前后的版本，混淆了一些财务周期的理解，——它能快速抓取数据，却分不清哪些信息已被更新取代，那些新闻里不同术语的定义偏差，然后稀里糊涂一顿搅拌交给我。最后我还是不得不回到自己手搓分析数据的现实。还好，我们都有自己这颗低功耗、高算力的大脑和丰富强大的感知系统可依赖。

这些碎小的使用经历揭示了一个真相：AI的“智能”建立在数据沙堆上，而现实世界的复杂性更远超它的理解能力。

它既不懂企业间的明争暗斗，也不理解地域甚至区块政策的微妙差异，更无法像人类一样感知信息背后的动态脉络。当用户期待AI像专业人士或者实习生一样思考时，它实际上只是在玩概率游戏——预估和猜测最可能的词句组合，而非真正理解语义。

更深层的问题在于， AI的认知边界被训练数据牢牢锁死。

它不知道小红书和腾讯是竞争对手，因为算法设计者可能从未在数据标注中强化强调这点；它对学区划分的混乱判断，源于网络信息本身的矛盾与过时；而财报数据的失误，则暴露出AI无法自主验证信息准确性、时效性的缺陷，虽然REG技术一直在进化🧬。即便你再prompt上明确要求AI定向查询可靠的新源，并且做交叉验证也无济于事。且不说中文互联网的垃圾数据成堆。更讽刺的是，当AI系统因开源库故障泄露用户隐私时，连开发者都难以解释具体原因——这就是典型的“黑箱”困境：输入和输出之间隔着人类无法理解的迷雾。

最危险的，是AI用逻辑的假象掩盖理解的匮乏。

它擅长总结规则（如审核关键词屏蔽），却不懂规则背后的现实逻辑（商业竞争）；它能生成流畅的分析报告，但报告可能混合着真实与谬误；它甚至可能因数据偏见加剧社会不公，比如在招聘中歧视特定群体，而开发者却不知偏见何时潜入算法。

当国家安全部警告境外势力用AI伪造视频挑拨社会矛盾时，我们更需警惕：一个不理解人类情感的机器，却能精准点燃群体情绪。

面对这些局限，人类的价值反而凸显出来。

我们能做的，是学会与AI共生，但不盲从、不焦虑

保持批判意识和警觉像查证朋友圈谣言一样验证AI的结论，特别是涉及重要决策时；随着AGI走向成熟，图片、视频都可以以假乱真，所以不再存在“有图有真相”这回事。学会溯源和查证，一方面是能力，一方面是别偷懒。
填补情境空白主动向AI补充关键背景（如“腾讯与小红书存在竞争关系”）；当然这个一般的创作者可能也想不到，至少我觉得他们没有直接的竞争关系，我也是头一回发现因为这个被限制发布。
善用其工具属性用AI处理标准化工作（如财报数据提取），但由人类把关关键数据信息，并做最终的核验审查，所以这部分人力工作还是没有得以释放；
理解和接受它的“无知” ，作为一个工具，而暂时无法成为可靠的伙伴 记住AI没有常识，它的“自信”只是模型算法输出的表象。Agent和MoA还处于早期阶段。可靠性和精确性仍远不及人类大脑和四肢。目前的MCP、A2A也好，都在路线的探索早期，COZE的资源库生态应该算领先行业一个身位，仍然处于“无法胜任一般性优秀标准的基本任务”的玩具阶段。

不要被科技媒体铺天盖地的夸大宣传制造焦虑所迷惑。虽然此次AI革命确实方方面面的革新程度和进化速度让人印象深刻，但目前为止，并没有真正的帮我们解放生产力，节省时间，创造人力之外的增量、可靠的工作交付，和极大的创造商业价值。
Manus和Genspark、ChatGPT Agent也不例外。复杂的MoA架构，一个环节不可靠，整个推理任务系统性指数级放大这种不可靠，最后mixture出一个啥样的怪胎出来都不奇怪，正所谓一通操作猛如虎，最后消耗了一堆算力和电力后推理出了个看上去挺猛，实际用不上的寂寞。


纳米AI超级搜索的深度研究，类似deep research经常性的崩溃crash和停滞中断了


秘塔AI现在这类 深度研究的Agentic Ai感觉都被manus带偏了，都在往Ui交互酷炫化方向进化了么，不明觉厉，花了32万token搞出的调研，内容上说实话差强人意

说到底，AI不是全知的神谕，而是映照人类知识边界的一面镜子。它不知道商业竞争中的微妙敌意，不知道政策执行时的因地制宜，更不知道数据背后鲜活的人生体验——这些“不知道”，正是人类保持清醒与主动的起点。

当我们放下对技术的过度期待，客观的理解现阶段AI的真实水平。才能真正握紧自己的方向盘，在AI照亮的道路上，找寻自己的方向。现阶段，它可能还只是一个更好的工具。

说到这里，切莫通过问AI来炒股，因为事实上你啥也得不到。并且极大概率会因此亏钱。并且LLM大模型会编造非常难以辨识的假数据和谎言。用一套逻辑自洽的推理很坚定的给出结论判断。但事实上极度不可靠。所以首先应该多用，摸索和了解它们的能力边界，比如找找医疗常识，辅助搜索一些资讯，还是可以的。KIMI甚至能读懂大部分医院的检查报告单，这些都是我们普通人消除隔行如隔山信息差的福音。

但现阶段 ，这些 AI 大模型，就像子夜举着手电筒在迷雾中行走的孩童：光柱所及清晰可见。而更深的黑暗，仍在光圈之外无声蔓延。