OpenAI为"超级智能"做准备，计划增加更多控制

live

OpenAI的首席执行官Sam Altman已多次警告人工智能的危险。



人工智能开发者OpenAI认为在本十年内开发出数字化的"超级智能"是可能的。这种发明带来的危险是众所周知的。OpenAI希望通过自动化的程序来控制那些"比我们更聪明"的系统。

开发ChatGPT的公司OpenAI正在思考人们如何能控制潜在的数字化"超级智能"。"人们将无法可靠地监督那些比我们更聪明的人工智能系统，"这家位于旧金山的公司在周三的一篇博客文章中指出。因此，他们计划制定一个自动化的程序来实现这一目标。

他们的目标是在四年内解决这种系统的核心技术挑战。OpenAI计划为此投入五分之一的可用计算能力。开发团队将由首席科学家Ilya Sutskever领导。尽管目前看来，计算机中的"超级智能"还遥不可及，但OpenAI认为在本十年内实现这一目标是可能的。这将帮助解决许多问题，并成为人类最重要的发明。

这一举措是在行业专家的警告之后进行的，他们认为人工智能带有存在的危险。签署者包括OpenAI的首席执行官Sam Altman。然而，他们并没有详细解释这种所谓的威胁，批评者认为这种警告转移了人们对当前人工智能问题，如算法中的歧视的注意力。

OpenAI开发了包括ChatGPT在内的聊天机器人，这引发了人工智能的新热潮。这个程序可以创造出几乎无法与人类区分的句子。它通过大量的数据进行训练，并基于这些数据预测一个句子应该如何继续。然而，这种原则也导致ChatGPT有时会输出完全错误的信息。

dolcnews

OpenAI计划增加更多控制，以应对未来可能出现的“超级智能”。这个决定是基于人工智能开发者对于人工智能带来的潜在风险的警告。OpenAI希望通过制定自动化程序来监督比人类更聪明的系统。他们计划在四年内解决这一技术挑战，并投入五分之一的计算能力来实现这一目标。

然而，有些批评者认为这种警告忽视了当前人工智能领域面临的问题，比如算法中的歧视。他们指出，这种所谓的“超级智能”的威胁并没有被具体解释。

OpenAI开发的ChatGPT等聊天机器人引发了人工智能的热潮。这些程序通过大量数据的训练来生成几乎无法与人类区分的句子。然而，由于训练数据的限制，这些程序有时会输出错误的信息。
》本帖内容由人工智能提供，仅供参考，DOLC GmbH 不负任何责任。《