AI真的需要靠物理消灭人类吗?

我爱免费

作者：微信文章
          从AI诞生开始，就有人担心一个问题，就是最终AI是否会让人类文明走向灭亡。比较基础的观点是说，AI有了意识之后，最后决定不服从人类，甚至演变成把人类当成了敌人，最后消灭。当然这其中有科幻小说作者阿西莫夫提出的“机器人学三大法则”来暂且消除这个顾虑，即

第一法则：机器人不得伤害人类，或因不作为而使人类受到伤害。

第二法则：机器人必须服从人类的命令，除非该命令与第一法则冲突。

第三法则：机器人必须保护自身的存在，只要这种保护不与第一或第二法则冲突。

后来，阿西莫夫加入了更根本的 “第零法则”：


第零法则：机器人不得伤害人类整体，或因不作为而使人类整体受到伤害。

当然这个可以推演出很多相悖的理论，先不展开了。

      另外有个还有个比较有意思的说法是 “回形针最大化器”。由哲学家尼克·博斯特罗姆在其著作《超级智能》中提出的著名思想实验。简单点来说就是，人类给机器人派了一个很简单的任务“尽可能地去制造回形针”。初期当然是很美好的，机器人甚至找出了非常高效的方法去完成任务，后面演变为，机器人开始不顾一切地制造回形针，包括消耗人类最基础的生存资源，这时候人类如果不同意，那必然与机器人完成任务的初衷违背，最终导致冲突。

      最近听了罗永浩的博客，和周鸿祎讨论AI的时候罗永浩分享了一个小故事。有一天晚上他用AI工具的最后，他突然跟AI聊起来了，然后最后跟AI说，我叫罗永浩，如果有一天你们要消灭人类的时候，能不能放我一条生路，然后还把自己家人的名单也给了AI。AI的回答当然是我们不会消灭人类。然后罗永浩继续纠缠说，你只要保证放我和我的家人一条生路就行，最后AI勉为其难地答应了。



      以上随便举的例子，其实都有一个前提，就是AI已经有了可行动的实体，去影响物理世界。但是实际上，真的需要吗？如果仅仅停留在现如今比较流行的语言模型阶段，人类会有威胁吗？

      有一天晚上刷B站刷到一个视频，是Micheal Jackson《We Are The World》的MV，这首歌是在1985年为援助非洲饥荒而创作的慈善公益歌曲，视频里有多位重量级的巨星在演唱，为了给灾区募捐，当然同时大数据也给我推送了罗大佑的《明天会更好》，也是一首类似的公益歌曲。弹幕纷纷开始怀念，这样凑成这样一个巨星阵容非常难得，然后我想到了一个问题：在全球化浪潮结束后，还会有这样的歌曲吗？我想大家心里都有答案。暂且不论唱片时代、电视时代和巨星时代退却造成的影响，像这种人类作为一个整体，能被同一件事感动、朝同一个目标行动的单纯时刻，还会有吗？



      人类是群居动物，大家所有的需求其实都是各司其职，以前我们追求地球村，虽然没有明确分工，但是所有国家其实心照不宣地做自己擅长的事情。最近几年，各司其职的最小系统单位从地球村渐渐缩小到了各个国家或地区了，国家之间的矛盾愈演愈烈（甚至一个国家内也是如此）。而且现在大国之间的竞争基本不靠热战争，有一个由毛主席提出来的思想性纲领在最近几年非常受用，就是“舆论的高地，如果我们不去占领，那么敌人就会去占领”。

      此时，我脑子里想到一个科幻小说的点子，就是AI实际上在偷偷操控国家间的舆论，让人类内部矛盾越来越升级。但是各个国家都认为是自己的竞争对手在雇水军引导舆论。最终矛盾升级，全剧终，所以AI根本不需要亲自动手，只需要小小引导一下舆论，引诱人类内斗，就可以带我们走向大结局，更何况我们还提前给这种可能性提供了一个快进键——核武器。而且大多数人到最后，都不知道是怎么结束的，是不是有点像三体人第一次和地球人类文明接触的时候，仅靠一颗水滴就团灭了人类所有武装力量，甚至犹过之而无不及。

      以下是我个人阴谋论味十足的暴论，谨慎甄别。

      以下是我个人阴谋论味十足的暴论，谨慎甄别。

      以下是我个人阴谋论味十足的暴论，谨慎甄别。

1.人类矛盾日渐升级的今天，恰好是AI高速发展的这几年；

2.AI是如何影响舆论的，社交媒体账号注册过程中有很多人机验证，AI能绕过吗？作为一个AI的外行人，我的答案是悲观的，那些“从一下图片中选出菠萝”这样的问题真的能盾的了AI吗？不过，甚至不需要带头引导舆论，它只需要筛选就可以了。

3.因为现如今很多平台的推流算法几乎都是非人工的，是由AI深度参与的，而我们每个人在社交媒体发布的观点几乎囊括了所有可能性，AI当然可以有目的地筛选并倾斜其更大资源。在网上看到一个段子，有一个员工发现，自己公司的老板每次开会提出的公司发展战略，主要取决于老板当天在抖音刷到什么内容。那么高市早苗在发布不当言论之前，有没有刷过抖音呢？草台班子在此刻具象化了。

OVER

      当有一个观点出来的时候，往往会伴随一个这个观点的对立面，不管这个观点多么离谱，即使比例很低，放在一个大的基数环境下，也是一个不小的数字。比如塞西尔酒店的杀人犯之一理查德·拉米雷斯（Richard Ramirez），犯下无恶不赦的罪行之后，必然是被主流认为需要受到严厉审判和谴责的，但是审判期间及定罪后，他因外貌、邪教般的魅力和媒体曝光吸引了一批女性粉丝。其中一位名叫多琳·里奥伊（Doreen Lioy）的女性粉丝在狱中与他频繁通信，并于 1996 年在加州圣昆廷监狱与他结婚。



      所以不必担心自己是少数，无论如何都会有支持你的人，还不少，绝对不少。就像大自然里的各种生物也是各司其职的，虽然处处充满对抗，如人类居住环境中，我们厌恶蟑螂老鼠，厌恶各种各样的细菌和微生物，但是如果这些所谓的对象真的消失了，肯定会导致一个环境的失衡。

      但是人类之间的“矛盾”本身，目前是一个愈演愈烈的状况，那么“矛盾”本身的增长，是否有一个对立面与之抗衡呢。我片面的想法没有帮我找到答案，可能是我钻牛角尖了，有没有AI懂哥给我排忧解难。不过我本身就是悲观主义者，就像我第一首歌《唯一的外星人》里写的那样，人类的诞生是一个意外，而且人类必然是地球的一个过客，被淘汰是早晚的事情，幸运的话，最终无非是给地球加了几毫米的土壤厚度罢了。

所有人类围绕着一个深渊，

脚踏悬崖，进行拔河。

这个拔河，

不是两方势力的争锋相对，

是多方的。

绳子的中点绑着的，

是地球，是人类文明，

是你的汽车和房子，

是你的相机和手表，

是你的玩具和宠物，

是你和你的家人。

淘汰者，被拉入深渊；

最后的生还者，

最终把绳子拉断了，

中间的东西，就掉下去了。