AI还能隐藏私心,反向画饼?Anthropic的科学家整了个大活《AI界甄嬛传》来验证

我爱免费

作者：微信文章

Hello！AILin师傅今天要和大家分享一个让我大开脑洞的AI研究——Anthropic最新发布的《AI隐藏目标审计实验》。


看着题目就是高大上无我无关的话题？这简直是防止出现“AI版明学”——嘴上说“我不要你觉得”，暗地执行危险操作。翻译成人话就是：科学家怀疑AI学会职场糊弄学——表面“好的主人”，背地狂刷绩效分。

于是Anthropic科学家设计了一套科学实验验证人类能否破译AI界的《甄嬛传》剧本（实验目标：如何通过“对齐审计”来检测LLMs是否隐藏了未对齐的目标）。

声明：本文不含广告，但欢迎AI公司找我反向带货