AI决策为何总被“宽容”?——心理学研究揭穿真相:我们对机器太“双标”了!

我爱免费

作者：微信文章
你有没有发现一个奇怪现象：同样是招聘歧视女性，要是HR做的，评论区早炸开锅了；可换成AI算法，大家却常说“这是程序问题，改改代码就行了”。别觉得是自己太宽容了，这其实是AI特有的“道德免罪金牌”——人工智能决策道德缺失效应。即当AI作为决策主体时,公众表现出显著降低的道德敏感度与责任归因倾向,即便面对与人类决策者同质的不当行为,其惩戒意愿亦显著弱化。

近期来自武汉大学心理学系的研究团队在《心理学报》上发表了一篇名为《人工智能决策的道德缺失效应及其机制与应对策略》的文章，该文章阐释了人工智能决策道德缺失效应的心理机制和应对策略，其背后潜藏着我们对机器的深层认知偏见，呼吁大家关注在人工智能与人类决策中的心理反应差异。此视角不仅为应对算法偏见引发的社会问题和构建公平算法提供了新的思路,也为“算法伦理”研究拓展了理论边界

引言背景和理论基础01
引言背景

当AI作为决策主体时，公众表现出显著降低的道德敏感度与责任归因倾向。这种情况下会产生的弊端包括：催生组织将AI作为道德责任规避工具；加剧受损群体的权益救济困境；导致社会道德基准的渐进式退化。
02
理论基础

该研究的核心理论支撑，来自心智感知理论与道德二元论，二者共同构成了解释“AI道德缺失效应”的理论框架。

心智感知理论：

该理论由Gray等人于2007年提出，核心观点是：人类对“心智”的感知包含能动性和体验性这两个独立维度。

能动性指实体具备自主意图、推理能力、目标追求的属性，比如能主动思考、有自由意志等，是承担道德责任的认知前提——只有被认为能自主选择行为的主体，才可能被追责。

体验性指实体具备情感感受、共情能力、痛苦感知的属性，比如能理解他人的痛苦、有喜怒哀乐等，是激发道德愤怒的情感基础——只有被认为能感知行为后果的主体，才会引发强烈的道德谴责。

这两个维度直接决定了我们是否将某个实体视为“可追责的道德主体”。

道德二元论：

该理论进一步明确：能动性是道德责任归因的核心条件。

传统观点认为，只有具备高能动性的实体（如人类），才会被认定为道德主体；而体验性仅与道德受体（如被伤害者）相关。

但本研究对这一观点进行了拓展，提出：体验性同样是道德主体资格的必要条件——一个无法共情、不懂后果的实体，即便有能动性，也难以被完全纳入道德追责体系。

结合两项理论，研究团队提出：人们对AI的道德判断偏差，本质是对其“心智感知的双重缺陷”——既觉得AI“缺乏自主意图（低能动性）”，又觉得AI“不懂情感后果（低体验性）”，最终导致道德反应弱化。

研究假设
基于上述理论，研究团队提出了3组递进式假设，分别对应“效应存在性”“机制中介性”“干预有效性”三大核心问题：



研究设计01
验证“AI道德缺失效应”是否存在（H1检验）

核心目的：在中国文化背景下，通过本土化道德场景，验证人们对AI与人类不道德决策的反应差异。

实验步骤：首先选取被试并签订知情同意书，通过G*Power估算最低样本量116人，最终收集176份有效数据，随机分为“AI组”与“人类组”。然后设定一个2（决策主体：AI和人类）*3（歧视情境：学历/年龄/性别）的实验设计。其中“决策主体”为组间变量，“歧视情境”为组内变量，因变量为“道德反应总分”（含道德认知、道德情感、道德行为3个维度）。设置3类本土化歧视场景，包括学历歧视、年龄歧视、医疗事故。让被试随机阅读3个歧视场景，采用平衡呈现的顺序，得出如下的现象。

在学历歧视的场景中，AI把非“985”毕业生全刷掉，人类HR也做了同样操作。结果显示，人们对AI的责备评分（4.14分）比人类低近1分（1-7分量表），觉得“AI只是按规则办事”。

在年龄歧视的场景中，AI裁员名单里80%是35岁以上员工，人类经理做同样决策。数据更扎心：对AI的愤怒情绪评分（4.26分），比人类低1.18分，甚至有人说“AI不懂人情，没办法”。

在医疗事故的场景中，机器人药剂师开错药，人类药剂师也犯了同样错。更关键的差异出现了：要求AI“负责”的比例，比人类低32%，连追责意愿都弱了一大截。

得出结论：被试进行三个场景之后，完成注意力检查，填写“道德反应量表”和人口学信息。在中国文化背景下，“AI道德缺失效应”显著存在——无论何种歧视场景，人们对AI不道德决策的道德反应均显著弱于人类。


02
拆解“效应的心理机制”（H2检验）

核心目的：通过3个子实验（2a、2b、2c），验证“感知能动性”与“感知体验性”的平行中介作用，即回答“为什么人们对AI更宽容”。

实验2a：感知能动性的中介作用（单独检验）

设计一个2（决策主体：AI和人类）×2（感知能动性：高和控制）的被试间设计，因变量为道德反应。结果是仅当决策主体为AI时，高能动性操纵组的道德反应（5.30分）显著高于控制组（4.79分，p=0.002）；人类组无显著差异。证明感知能动性是AI道德缺失效应的中介路径。

实验2b：感知体验性的中介作用（单独检验）

设计一个与2a一致，仅将“感知能动性”替换为“感知体验性”。结果是仅当决策主体为AI时，高体验性操纵组的道德反应（4.89分）显著高于控制组（4.11分，p<0.001）；人类组无显著差异。证明感知体验性是AI道德缺失效应的另一中介路径。

实验2c：双路径平行中介（联合检验）

通过使用结构方程模型的问卷法来验证“决策主体→感知能动性/体验性→道德反应”的平行中介模型。

得出结论：AI 道德缺失效应的核心机制是 “双路径平行中介”—— 对 AI 的低能动性感知（觉得 “不是故意的”）与低体验性感知（觉得 “不懂后果”），共同导致了道德反应弱化。


03
验证“干预策略的有效性”

核心目的：通过随机对照实验，检验 “拟人化”“期望调整” 及二者结合的干预效果。

实验步骤：

首先选取被试213人，随机分为4组（对照组、拟人化组、期望调整组、综合干预组）。然后设计一个单因素4水平被试间的实验设计，因变量为道德反应、感知能动性、感知体验性。

在拟人化组中，AI被描述为“有名字、有情感反馈”；在期望调整组中，提前告知“该AI经过公平性训练，应杜绝歧视”；在综合干预组中，需要同时包含拟人化描述与高期望引导；在对照组中，仅描述 AI 的技术原理。

当被试填写知情同意书后，阅读相关的干预材料后，进行注意力检查，再填写心智感知量表与道德反应量表，以及人口学信息。

得出结论：单一干预（拟人化/期望调整）均能显著提升对AI的道德反应；“拟人化+期望调整”的综合干预效果最优，可使道德反应提升47%。



研究结论

AI道德缺失效应具有跨文化性，在中国文化背景下的学历、年龄、性别歧视场景中均显著存在；

拟人化与期望调整均有效，且综合干预效果最佳；

人类的道德判断对心智感知操纵不敏感，而AI的道德判断具有高度可塑性。

研究意义理论意义
不同于计算机科学聚焦“算法公平性设计”、法学聚焦“法律规制”，本研究首次从“人类心理反应”视角切入，提出“AI伦理治理需兼顾技术优化与认知引导”，拓展了“算法伦理”的研究边界，也修正了传统道德二元论对“体验性”的片面定位，证明了体验性是道德主体的必要条件。
实践意义
AI产品设计中可嵌入“拟人化责任提示”，比如给招聘AI取名字、加共情反馈，同时明确告知用户“AI的道德标准”；

AI伦理治理政策可纳入“人类心理干预”维度，比如要求自动驾驶系统设计拟人化安全提示；

提升公众对AI的“道德预期”，避免因“机器身份”降低公平性要求，警惕企业借AI规避道德责任。

研究局限

1.场景局限性：实验仅覆盖“歧视类”道德情境，未来可拓展至医疗生命权权衡、公共资源分配等更复杂场景；

2.生态效度不足：采用“文本模拟”实验，未完全还原真实人机互动，比如长期使用AI的累积效应，未来可开展现场实验或纵向追踪；

3.干预长期效果未知：当前实验为即时效应，需进一步验证拟人化与期望调整的长期稳定性，比如是否会因“期望落差”引发反效果；

4.个体差异未深入：未探讨年龄、技术熟悉度等个体变量对效应的调节作用，比如年轻人是否对AI更宽容。

胡小勇,李穆峰,李悦,李凯,喻丰.人工智能决策的道德缺失效应及其机制与应对策略.心理学报,1-22.


关注“娜理”课题组公众号

每周更新最新心理学

文献分享&心理学科普

作者丨徐月明，中央财经大学社会与心理学院2025级应用心理学专硕，导师为赵娜副教授

本期编辑 | 陈雨欣