AI何以引发信任危机？社科院专家：科技创新与伦理创新须统一

多客科技

作者：南方plus客户端


“我们现在讲科技伦理，与20多年前讲科技伦理大不一样。那时的克隆羊等事件都是在外国，今天的科技伦理问题就是发生在我们身边的事情，如备受关注的数据保护、数据隐私等问题，社会大众已经深刻感知到科技伦理带来的负面影响。”

在近日举行的首届全球数字经济大会人工智能产业治理主题论坛上，中国社科院学技术和社会研究中心主任段伟文研究员发表《走向社会信任与多方共建的人工智能伦理治理》主题演讲，他强调技术创新应该建立在社会信任的基础上，实现科技创新与伦理创新的统一，走向共建性的科技伦理治理。

段伟文在演讲中指出，伦理实际上是一种关于行为的好与坏、对与错的非强制的规定性，关于科技伦理的治理，探讨的不是合不合规，而是对与不对。

科技活动应该遵循哪些科技伦理原则？他介绍，正如最近科技部发布的《关于加强科技伦理治理的指导意见（征求意见稿）》中所指出的，包括增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明等具有共识性的价值标准和行为准则。

数字伦理问题实质是社会信任危机

段伟文介绍，我国近年来人工智能相关的数字治理非常频繁，而且力度也越来越大，但是因为中国数字产业的发展基本奉行着鼓励创新、包容审慎的立场，相关部门在数字治理过程中难免面临严格立法、普遍违法之类的悖论。

最近几年，从防沉迷机制，到防止应用软件不当索取个人数据，再到对金融科技、跨境数据安全风险的治理，相关部门对人工智能相关的伦理、法律和社会风险展开了一系列专项治理，相关举措的力度日益强劲，初步呈现出多元共治的态势。他以人脸识别为例指出，疫情前后，很多地方设置了人脸识别的闸机或者门禁，虽是在防疫的特殊情景下，依然受到法律界质疑，如郭兵状告杭州野生动物园人脸识别案等。一些媒体智库对其中的个人信息保护、隐私安全等法律与伦理问题进行了调研，组织了专家研讨。两会前后，多位政协委员呼吁对人脸识别技术的滥用予以治理，中国信通院还联合相关企业推动可信AI、发起“护脸”计划，最近最高人民法院也出台了人脸识别民事案件适用法律问题的规定。

在当前数字治理的环境下，很多科技企业日益关切“社会、政府是怎么看待科技企业、怎么看待科技”，段伟文认为，社会舆论始终是存在的，无论是隐私泄漏、数字沉迷，还是大数据杀熟、对个人信息不当获取、算法歧视等，归根结底是数字时代的社会信任危机与重建的问题。

“数字时代，技术给我们带来了很多方便，但技术又是很脆弱的，因为数字技术作为一个新事物出现时，使用门槛低，没有‘信任赤字’，受到年轻人的信任和喜爱。当年轻人因为对它的风险认识不足而受到伤害后，就会严重破坏年轻人或者整个社会对科技的信任。”段伟文说。

企业应重塑科技的社会印象

段伟文表示，对于科技企业来说，不论是对社会信任的关注、履行科技向善的承诺，还是开展科技伦理治理，都与当前数字治理的趋势密切相关。鉴于大数据、人工智能等数字技术的发展对整个社会的冲击如同一个加速流动的巨大沙漏，从社会公众到治理主体对风险感知的敏感度逐渐提升，这就使得现阶段的数字治理具有某种系统风险防范的性质，因而呈现出两个新的特征。 “一是主观上防患于未然，一旦感知存在系统风险的可能，就力图将其消除在萌芽状态；二是客观上溯及既往，如果一种技术的滥用造成了风险，当这个风险为社会整体治理架构不能接受时，对既往错误也要追责”。

段伟文认为，从有关部门最近展开的一系列数字治理举措的政策表述可见，其理由正是出于社会价值和伦理层面的考量，即“不仅看合规不合规，而且问做得对不对”。“其实，整个社会都有一个对科技活动的许可标准，或者说任何科技活动都需要一张“社会许可证”，都要为社会所接受或许可；尽管科技的“社会许可证”大多不是是有形的，但它是客观存在的。社会对科技的接受或许可程度究竟如何？产业不能只关注正面评价，而要意识到，引入瞩目和传播迅猛的往往是差评、反对或抵制等负面评价。企业应视其为履行社会责任的着力点，予以充分重视和及时回应。”

他解释道，近20年来出现的大量公众事件中，如化工厂、垃圾焚烧厂、核电站建设过程中遭到民众抵制而终止，正是科技的社会许可的极端体现。在数字治理中，全面了解社会与公众的评价，既是科技企业和产业反思与调整的基础，也是改进治理的依凭。因此，企业要直面社会许可的挑战，面对既防患未然也溯及既往的治理格局，不能仅仅满足于合规，更应该认识到做错的事情而不为社会许可的长期风险，认真考虑如何做对的事，以重塑科技的社会印象。

段伟文指出，企业可为的措施有很多，一方面是技术上的改进，另一方面是伦理的设计，特别是要提倡一种关怀伦理，即从用户和普通人的角度关心科技活动的相关群体与个人。

科技创新的过程也是伦理创新的过程

在段伟文看来，科技企业和科技专家大多强调技术是价值中立的，但要真正实现价值中立，并在此基础上走向科技向善，其实要在技术创新与伦理创新两方面付出巨大努力。真正意义上的创新应该是面向用户，面向社会价值的创新，是整体性的创新，而不只是单纯增加财富的创新。同时他指出，要超越技术解决主义，将技术手段应用到社会关怀中，如手机的适老化设计，就结合了技术方案与人本考量，对于提升科技的人性温度很有意义。科技产品与服务注重对人的关怀无疑有助于增进社会对科技对信任。

同样，产业的长期发展也建立在社会信任的基础上，要将技术创新和社会创新结合起来。段伟文提出，人工智能等科技领域，已经提出了很多伦理原则，但它们不只是抽象的准则，而应当作伦理落地中不断改进的工作假设。立足科技要“做对的事”，科技创新从0到1的过程也是科技伦理从0到1的演进过程，后面这个0是伦理原则的提出，1则是这些原则及其蕴含的科技伦理精神的落地。换言之，科技创新要有双重的0到1的跃迁，科技创新和价值伦理创新要同步发展。

段伟文最后强调，科技与伦理双创新的过程需要有相关利益群体的参与，政、产、学、研、媒的介入，特别是政府的尽早参与。政府越早加入到系统的社会监督中，各方就能越清楚地知道社会的痛点在哪里，有助于相关工作与社会同呼吸、共命运，进而根据具体的社会伦理法律问题找到伦理治理、法律规制与社会工作的着力点，更好地将它们有机地结合起来，通过“软硬兼施”、“多管齐下”，展开系统治理和敏捷稳健的监管。

【记者】郜小平

【见习记者】柴亚娟

【出品】南方产业智库

【作者】 郜小平

南方产业智库

来源：南方+ - 创造更多价值