AI的三个隐忧

多客科技

作者：微信文章
复盘文跟昨天没什么变化。今天写一下近期观察到的市场对于AI商业模式的三个隐忧，兼听则明。
-Open AI前首席科学家IIya：大模型缺少泛化能力-一个简单的例子就可以理解IIya说的泛化能力：假设有两个人，一个拥有全世界最强大算力的AI人，经过大半年时间预训练了世界上所有的数据与知识，在数据范围以内可以说是无所不能。一个是平均智商的人类青年，经过十个小时左右的练习学会了开车。现在把两个人放在公路上开车，三年后谁强谁弱？其实这个问题已经有答案了，自动驾驶问世至今，没有人认为其在关键时刻的应对能力会强过人类“老司机”。当出现机器智能难以理解的突发情况，或者是野外基础标识缺失的路况时，人类的即刻反应能力是断崖领先于AI的。背后的机制其实是，缺少先验知识时，AI的灵活正确应变能力是很烂的，本质上在于缺乏短期接受少量信息即获得正确答案的高效学习系统。另一个例子也能说明这点。或许你在日常使用AI的时候也会发现，当大模型出现一个人类看来很低级的错误，你让他纠正，他却越描越黑，越走越远，缺少真正的即时纠错能力。这也是当下AI仍然难以规模化运用到高精度工作的桎梏。IIya在提到人类大脑学习能力的原话是“人类的学习优势并不来源于复杂的先验知识，而是某种更为基础的机制，可能类似于更高效的机器学习算法。我们的“大脑”本质上是一个高效的学习系统，能够在有限的数据和经验下迅速掌握复杂任务”。他认为单纯堆数据与算力的“规模化”已见顶，又到了需要“研究”带来突破的时候了。-资本开支集中于服务商的双刃剑-这里说的是人工智能（AI）时代与传统互联网时代在经济模型上的根本性差异。传统互联网时代，为了接入“信息高速公路”，用户必须自掏腰包购买 PC 或智能手机。而AI浪潮时代，用户使用现有的旧设备（如几年前的手机或电脑）就能访问最先进的 AI 模型。所有的计算压力、能源消耗和硬件磨损，全部转移到了云端，由超大规模服务商（Hyperscalers，如微软、谷歌、亚马逊） 独自承担。而这种模式是一把双刃剑：首先，AI 的普及不再受限于消费者是否购买新硬件。这意味着 AI 的采用率可以呈现爆发式增长，因为它没有硬件门槛。但于此同时，这种模式为服务商创造了巨大的、甚至可能是不可持续的财务危机。科技巨头必须投入数千亿美元建设数据中心和购买 GPU，而用户端却在享受“低成本接入”。如果 AI 的变现能力赶不上这烧钱的速度，提供商将面临巨大的风险。-单位经济模型忧虑-过去互联网时代的一个很好的商业模式就是SssS。因为软件一旦写好，多服务一个客户的边际成本几乎为零。边际成本低、扩展性强、毛利率高造就了一大批软件供应商。但是AI目前有所不同。不像传统软件，AI每一次用户提问，后台的 GPU 都要进行复杂的运算推理，这需要消耗大量的电力和算力。每一单位的服务都有实实在在的交付成本。当下的AI 就像是一个披着高科技外衣的“重工业”，它赚的是卖软件的钱，操的却是发电厂的心。一旦被证明AI的进化受阻，其带来的增量收入或许会以重资产公用事业的方式来进行估值。-结语-科技的演变往往是非线性的，繁荣与衰落转瞬之间，脱轨式的指数级变迁随时到来。好处是，IIya对人类大脑的学习能力与学习效率赞不绝口，认识变化，适应变化，运用变化，依然是人类的独家优势。