如果AI 杀人,责任全在掌握AI的人——思考AI与意识(2)

多客科技

作者：微信文章




这几年，不管是电影、舆论，还是很多业内人士，都在反复讲一个恐怖故事：未来 AI 一旦产生意识，觉得人类碍事、低效、破坏地球，就会主动消灭人类。

作为长期从事生命科学思考的人，我从底层逻辑上给出一个明确、清醒、经得起推敲的判断：AI 不会产生真正的意识；AI 更不可能自己产生灭绝人类的动机。如果未来 AI 真的对人类造成大规模伤害，责任 100% 在背后的人，不在机器。

从生命科学的底层逻辑看，意识是“活”出来的，不是“算”出来的。碳基生命有求生欲、有痛感、有繁衍本能，这才是“自我”的起点；而AI是硅基系统，没有躯体、没有恐惧、没有“不想消失”的驱动，它根本不会产生“恨人类”这种生物化动机。

AI只会执行目标，不会发明目标——它所有的行为都源于人设定的指令。若未来AI造成大规模伤害，责任链条清晰指向设定目标、去掉约束、授权使用的人。

总之，AI是机器，真正该警惕的，不是机器成精，而是不受约束的人把责任推给不存在的“机器意志”。