前OpenAI政策总监Jack Clark:我们正走向“自我改进”的智能系统
作者：微信文章点击上方蓝字【聚大模型前言】关注我，热门AI资讯每天更新~~
导读： 前OpenAI政策总监Jack Clark的新文章《技术乐观与恰当的恐惧（Technological Optimism and Appropriate Fear）》提出了：我们正处在一个AI能“改进下一代AI”的关键阶段。
在这篇文章中，Jack Clark指出，像Claude Code和Codex这样的AI工具，已经在加速前沿实验室的开发进程。它们让研发者能够更快地验证想法、优化代码，成为AI研究迭代中不可或缺的“加速引擎”。
不过，Clark也强调，目前的AI还远没有达到“自我改进”的阶段，也就是说，它们还不能完全自主地升级自身。但他认为，我们已经进入了一个过渡时期：AI系统正在帮助改进下一代AI的某些部分，而且这种能力正在快速增强。
Clark预测，这一趋势将彻底改变AI的发展节奏。他写道：“我相信这些系统会变得越来越强。而且其他前沿实验室的人也这么认为。我们不仅相信，还在为此下注。”
他提到，仅今年，各大前沿实验室就在专用AI训练基础设施上投入了数百亿美元。而到了明年，这个数字可能会上升到数千亿美元。在他看来，这不仅仅是一场资本竞赛，更是一次技术方向的共识：AI的未来，将是一个能‘造出更聪明AI’的AI生态。
Clark所提出的“技术乐观与恰当的恐惧”，恰恰点出了这一时期的矛盾，一方面，人类正凭借AI加速前进；另一方面，我们也必须思考，当机器开始具备“自我改进”的能力时，该如何把握这股力量。
参考资料：https://importai.substack.com/p/import-ai-431-technological-optimism?triedRedirect=true
页:
[1]