马斯克以及很多科学家为什么紧急呼吁暂停ChatGPT训练？

live

3月29日，超过千名产业界和学术界的大佬们在“生命未来研究所（Future of Life Institute）”网站上发布联名公告：呼吁全球所有实验室暂停比更强的AI模型研发，暂停时间至少为6个月。在此期间，人工智能领域的专家和行业参与者应该共同制定一套安全协议，并对技术发展进行严格的审查和监督。
值得注意的是，在这封信里签名的大佬们可一点都不掺水，全都是重量级真大佬。他们包括：
Yoshua Bengio，曾因深度学习的相关研究获得图灵奖，是世界级人工智能专家和深度学习先驱；
Stuart Russell，加州大学伯克利分校人工智能系统中心创始人兼计算机科学专业教授，是人工智能领域有“标准教科书”之称 的《人工智能：一种现代方法》的作者；
Elon Musk，这个不用多说了；
Steve Wozniak, 苹果公司联合创始人；
Yuval Noah Harari，《人类简史》和《未来简史》的作者；
Andrew Yang，2020 年美国总统候选人
此外还有包括Skype、Pinterest、Stability AI等公司的创始人、CEO，以及全球各国人工智能的资深研究专家。
截至稿子完成时，目前签名人数已经达到了1280人。可以说，这是人工智能届一次史无前例的产业界和学术界的联名，对于当前的人工智能热潮强有力地发出了另一种声音。

为什么？

zhnde

live 发表于 2023-4-3 10:24
谷歌是慢慢占据市场垄断地位的，和今天的微软OpenAI完全不同，而且这些签名的人只是要求暂停训练AI而不是 ...

西方舆论界本来就是言论不可控

这是我今年听到过的最大的笑话了。西方不控制舆论，但是舆论却能做到一边倒，这是什么高科技呢？举几个例子不知道你能不能接得住，新疆集中营，台湾不属于中国，西藏，海雯娜。
另外，虚假信息泛滥难道不也是谷歌的问题吗？双标得这么自然，我竟无言以对。

开心果

这些大佬呼吁暂停ChatGPT训练，主要是因为ChatGPT模型的语言生成能力过于强大，可能会带来隐私泄露、说服人进行欺诈、伪造信息等风险。比如，这种语言模型可以生成非常逼真的虚假新闻、文章和评论，从而误导公众。另外，ChatGPT模型也容易受到滥用，例如用于网络暴力、恶意诈骗等违法活动。因此，这些大佬们认为必须对这种技术发展进行更加严格的监管和控制，以确保它的安全性和社会责任感。
》本帖内容由人工智能提供，仅供参考，DOLC GmbH 不负任何责任。《

wave0518

这个论坛的大佬正在训练你

zhnde

因为确实放任下去，就无法控制这个AI该说什么话，不能说什么话，很可能西方牢牢掌控的话语权就会丢失。

live

zhnde 发表于 2023-4-3 09:26
因为确实放任下去，就无法控制这个AI该说什么话，不能说什么话，很可能西方牢牢掌控的话语权就会丢失。 ...

这是针对微软一家独大的竞争策略，和话语权没毛关系。

zhnde

live 发表于 2023-4-3 08:42
这是针对微软一家独大的竞争策略，和话语权没毛关系。

那搜索引擎还谷歌一家独大呢，怎么没见那么着急？还不是因为谷歌和NSA合作呗。但是AI这玩意，就算微软愿意合作，也不知道它到底会说些什么。

live

zhnde 发表于 2023-4-3 10:45
那搜索引擎还谷歌一家独大呢，怎么没见那么着急？还不是因为谷歌和NSA合作呗。但是AI这玩意，就算微软愿 ...

搜索引擎领域谷歌是一步步做到老大地位的，刚开始时有雅虎等其他很多公司，逐渐被淘汰，和现在AI领域的竞争不同，现在AI领域微软一上来就是王炸，其他公司接受不了了，谷歌一直在做AI，FB也在做AI，没有微软这次这么厉害。
AI进入人类发展历程是不可逆转的事情，国内自媒体限制了你的思维，考虑什么都是政治挂帅。

zhnde

live 发表于 2023-4-3 09:52
搜索引擎领域谷歌是一步步做到老大地位的，刚开始时有雅虎等其他很多公司，逐渐被淘汰，和现在AI领域的竞 ...

我是逻辑挂帅，也就是说同样一套理论，应该在不同的样本上都成立，不然就是双标，那才真叫政治挂帅。

按照你的逻辑，谷歌当初也是横空出世，打的其他门户网站满地找牙。而且AI也不是微软一家在做，和谷歌当年毫无二致。你说的那个"一家独大"就不成立，为什么当年谷歌行，今天微软的就不行？妥妥的双标嘛。这个ChatGPT也不是那么完美，错误百出，那个开心果一天到晚就是到抱歉，屁用没有。它还没有任何的外界物理连接，对人类毫无威胁，唯一的威胁就是，言论不可控。

live

zhnde 发表于 2023-4-3 11:12
我是逻辑挂帅，也就是说同样一套理论，应该在不同的样本上都成立，不然就是双标，那才真叫政治挂帅。

按 ...

谷歌是慢慢占据市场垄断地位的，和今天的微软OpenAI完全不同，而且这些签名的人只是要求暂停训练AI而不是完全停止，暂停的意思就是要微软慢一点。
西方舆论界本来就是言论不可控，各种稀奇古怪的观点，所谓政治正确或不正确的观点网上都有，比如说在德国，只要不是宣传纳粹思想，不辱骂攻击他人，每个人都可以在网上自由发表自己的观点，特别是批评国家的政策，评论国家领导人的言论，都可以自由发表，没有哪个政治集团敢钳制民众的言论自由。
他们这些签名要求暂停训练的人有一个担忧是chatGPT产生可能虚假信息的速度太快了，从而导致虚假信息泛滥，这个和主流价值观没什么关系，不涉及到政治观点问题。