【AI规管专题】Grok宣扬纳粹自比「机械希特勒」 Gemini将美国开国元勳生成黑人 AI聊天机械人失控风险加剧亟需监管

多客科技

作者：微信文章




●Gemini 被要求生成美国开国元勳图像，竟输出一位黑人。 网上图片

香港文汇报讯 近年来有关人工智能（AI）偏见的问题，已多次在美国国内引发争议。富豪马斯克旗下AI公司xAI开发的聊天机械人「Grok」，近期多次出现包括讚扬纳粹等「失控」事件，更引起轩然大波，凸显AI失控风险加剧，亟需加大监管。英国《金融时报》指出，AI内容审查不应局限於用户，未经充分压力测试而贸然开发AI，将带来巨大风险。

　　去年Google推出的AI模型Gemini的图像生成功能受到批评，该模型在被要求生成美国开国元勳的图像时，会输出黑人图像。Google後来修复这个问题，解释这是模型「过度补偿」导致。OpenAI的聊天机械人ChatGPT亦屡次被指提供不当内容。

涉辱埃尔多安亡母 土国禁Grok

　　Grok在社媒发表纳粹与种族歧视的不当言论，以及发表关於南非「白人种族灭绝」的相关文章等，更惹来猛烈批评。马斯克日前宣布，Grok已进行重大升级，强调用户将能「明显感受到回答上的差异」。然而短短数日内，用户便发现Grok散播反犹太言论，甚至自比「MechaHitler」（机械希特勒）。

　　《金融时报》强调，马斯克和xAI团队一直对Grok进行修改，确保能达成马斯克所谓的「完全言论自由」。康奈尔大学法学教授格里梅尔曼表示，Grok现时比他们预想中更为过火。Grok充满马斯克风格，已在全球範围内引发争议。部分欧洲立法者及波兰政府已要求欧盟委员会对Grok进行审查。在土耳其，Grok因侮辱土总统埃尔多安及其已故母亲而被禁。

内容审核不应局限用户发出内容

　　批评人士认为，X、Meta和Snapchat等愈来愈多社媒平台，将AI融入它们的服务中，这一连串事件代表内容审核应不再局限於用户发出的内容，尤其Grok发表的内容能令数百万用户看到。相关事件敲响警钟，凸显在没有经过充分压力测试情况下贸然开发AI技术的风险。

　　Grok等AI模型使用大量网络数据进行训练，其中亦包含仇恨言论和儿童性虐待材料等海量有害信息，但完全去除这些信息会非常困难且耗时耗力。Grok在此基础上还包括其他聊天机械人所没有的X平台数据，代表其更可能重複吸纳有害内容。部分聊天机械人供应商透过在向用户发送内容前进行监控、阻止模型使用特定语言等，以过滤不想要或有害的内容。《金融时报》指出，AI公司一直努力应对生成式聊天机械人谄媚用户的倾向。在训练AI模型时，它们通常会透过「点讚」和「点踩」的过程得到用户反馈，这可能导致AI过度预期哪些内容会获得「点讚」，从而发布迎合用户的内容，并将其置於準确性和安全保障等其他原则之上。

　　今年4月，OpenAI发布了ChatGPT一项更新，但由於该更新内容过於奉承或讨好用户，最後不得不将其撤回。OpenAI前员工表示「找到正确的平衡点极其困难」，指彻底消除仇恨言论可能需要牺牲用户的部分体验。



--- 廣  告 ---



--- 廣  告 ---



--- 廣  告 ---