AI发展的尴尬处境

新闻

作者：微信文章


今年11月推行严格的AI内容训练规范及审查，包括过滤训练AI模型的数据，模型推出市场前需经过意识形态测试，但同时担心监管太严扼杀AI的发展，落后于美国。

确保用来训练聊天机器人的资料，已经过滤了敏感的内容；

模型公开发布前已通过意识形态测试，所有AI生成的文字、影片和图像都必须明确标注并可追溯，以便追踪和惩罚任何传播不良内容的人。



该规则订明，AI企业的测试人员应对AI模型处理的文字、图片、影片等内容，随机抽查4000份训练资料。

若某个训练资料没有被判定96%以上安全，该公司就不能使用。

在正式发布聊天机器人前，企业必须进行严格测试，包括使用2000个问题测试聊天机器人，而聊天机器人必须拒绝回答至少95%的敏感问题。

相关问题至少每月更新一次。

通过测试后，还要接受某些机构突击检查。

在为期3个月的执法行动中，删除了96万条被认为是非法或有害的AI生成内容。

已正式将人工智能列为重大潜在威胁，与地震和流行病一起纳入国家紧急应变计划。

不希望过度监管AI的发展，这样可能会扼杀创新。

但同时又不能让AI失控。

人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。

缺乏安全保障，就像在高速公路上开车没有刹车一样。