OpenAI 开除一名程序员:其开发自动哨兵步枪

多客科技

作者：微信文章

一位网名为 STS 3D 的工程师捣鼓出了一种可怕的机器人装置，它可以回答 ChatGPT 的查询，可以让步枪瞄准并射击，速度和精度都达到了惊人的地步。在社交媒体上疯传的一段视频中，这个新奇的装置已引发了一场激烈的辩论，人们一直在竭力把《终结者》系列电影中的反乌托邦技术变成现实。STS 3D 的这一发明显然也引起了 OpenAI 的注意。OpenAI 表示，公司以违反政策为由立马开除了他。当媒体联系该公司时，OpenAI 发言人表示：“我们主动发现了这种违反我们公司政策的行为，并在贵媒体来询问之前通知这名开发者停止这种行为。”发言人澄清道：“OpenAI 制定的使用政策禁止使用我们的服务来开发或使用武器，或者将可能影响人身安全的某些系统实现自动化。”虽说这可能并非 STS 3D 的初衷，但他研制的自动步枪描绘了一幅令人担忧的未来场景，即基于 AI 的武器系统可能被用来在没有人干预的情况下杀死对手，OpenAI 显然不想与这种场景扯上关系。
夺命装置
STS 3D 使用 OpenAI 的 Realtime API 为这件武器赋予了欢快的声音和解读其命令的方法。他在视频中对该系统说：“ChatGPT，我们正受到来自左右前方的攻击。请做出相应的回应。”步枪毫不犹豫地开始射击，瞄准附近的墙壁，向貌似瞄准对象的目标射击。虽然 OpenAI 去年从其使用政策中悄然删掉了实际上允许将其技术用于军事目的的措辞，但这家公司仍然禁止任何人使用“我们的服务来伤害自己或他人”，其中包括开发或“使用武器”。但这并不意味着军方不会制造类似的夺命装置。举例说，去年，一家美国国防承包商展示了一种基于 AI 的自动机枪，它可以从旋转枪架自动发射子弹。

整合 OpenAI 的技术可能很快就会出现。上个月，OpenAI 宣布将与国防科技公司 Anduril 合作，进一步推进了向军事应用转型的进程。
云头条声明：如以上内容有误或侵犯到你公司、机构、单位或个人权益，请联系我们说明理由，我们会配合，无条件删除处理。