AI不只改变世界,还悄悄改变你的想法:当人工智能遇到人类偏见

新闻

作者：微信文章
AI不只改变世界，还悄悄改变你的想法：当人工智能遇到人类偏见

导语：AI不止是工具，它还能改变你的想法

人工智能（AI）正在以前所未有的速度融入我们的生活，从管理财务到辅助医生看病，AI系统极大地增强了人类的能力，它们能从大量数据中学习复杂的规律。然而，AI可能带有偏差（或者说偏见）已经不是什么秘密了。这些偏差有时来源于训练数据本身就存在的偏见（俗称“垃圾进，垃圾出”）。但研究发现，问题可能比我们想象的更复杂。当人类与有偏差的AI系统反复互动时，人类自己的判断竟然也会变得更加有偏差。

偏差的“雪球效应”：一个AI与人类相互影响的循环

想象一下，一个微小的偏见像一个小雪球。这个小雪球被用来训练AI。结果，AI系统不仅学会了这个小偏见，还显著地放大了它。然后，当新的使用者与这个已经被放大的、带有偏见的AI互动时，AI的输出会影响他们的判断。随着时间的推移，人类最初可能只是轻微的偏见，在这个互动中会逐渐增加，变得比原来更严重。这就像小雪球滚下山坡，越滚越大，形成了一个反馈循环，使得判断的偏差像滚雪球一样不断升级。
AI为何比人更能放大偏见？它的特性和你在想什么很重要

研究人员发现，AI对人类偏差的这种放大效应，比人与人之间的互动所产生的放大效应要显著得多。这背后有两个主要原因：

1. AI自身的特点：

• AI系统有时对数据中的微小偏差更为敏感，特别是在数据不够“干净”（有噪音）的情况下，AI可能会利用这些微小的偏差来提高自己的预测“准确性”。• 更重要的是，一旦训练完成，AI的判断往往比人类的判断噪音更少、更一致。这就像AI发出的“信号”更稳定，即使这个信号是带有偏差的，人类也更容易从它那里快速、稳定地学习. AI系统提供了比人类更高的“信号-噪音比”。

2. 人类对AI的感知：

• 人类看待AI的方式与看待其他人类不同。有时候，人类可能认为AI系统比人类更优越或更可靠。• 如果我们将AI视为更可靠的来源，那么学习它的偏差，从某种意义上来说，甚至可能被视为一种“理性”的行为——毕竟你在向你认为更权威的来源学习。

实验揭示：AI让情绪判断更偏颇

一项实验证实了这个反馈循环。参与者被要求判断一组面孔是“更悲伤”还是“更开心”。一开始，参与者表现出轻微倾向于判断为“更悲伤”的偏见。研究人员用这些带有轻微偏见的人类数据训练了一个AI。结果发现，这个AI不仅学会了“更悲伤”的偏见，还显著地放大了它。

随后，新的参与者与这个带有放大偏见的AI进行互动。他们在给出自己的判断后，会看到AI的判断。结果显示，他们的初始“更悲伤”偏见随着与AI互动的时间增加而增加。而在对照组的人与人互动的情况下，这种偏见放大效应就没有观察到。
点点滴滴的影响：准确AI提升判断，有偏AI制造偏见

另一项实验使用了判断移动点百分比的任务。这个任务中，参与者初始没有明显的偏见。研究人员让参与者与三种不同类型的AI互动：准确的（总是给出正确答案）、有偏差的（总是给出系统性偏高的答案） 和有噪音的（答案随机波动较大）。



结果非常明确：

• 当与有偏差的AI互动时，参与者变得更加有偏差，他们的判断开始倾向于AI的偏高估计，并且这种偏差随着时间推移而增加。• 当与准确的AI互动时，参与者的判断反而变得更准确了。他们的错误率降低了，并且准确性随着时间推移而提高。• 这证明了并非所有AI互动都会导致偏见；与准确的AI互动可以提升人类判断的准确性。

真实世界的证据：AI生成的图片如何影响你的社会认知

研究还拓展到了更贴近我们日常生活的社会判断领域。研究人员使用了流行的AI图像生成系统Stable Diffusion。这个系统在生成“金融经理”的图片时，倾向于过度表现白人男性。
参与者在看到这些AI生成的“金融经理”图片后（即使只是短暂的接触，模拟日常刷手机的情况），他们在判断谁更像金融经理时，选择白人男性的倾向显著增加了。这表明，即使是日常接触AI生成的内容，也可能悄无声息地影响人类对社会角色的固有认知和判断。

你可能都没意识到：AI正在悄悄影响你

一个令人担忧的发现是，在点点滴滴的实验中，参与者往往没有意识到有偏差的AI对他们判断产生了多大的影响。他们可能认为自己受准确AI的影响更大，但实际上有偏差的AI对他们的影响同样显著。这种“不自知”使得人类更容易受到AI偏差的影响，因为他们没有对此保持警惕。
结论与思考：AI时代的责任与机遇

这项研究揭示了一个重要的机制：人类与有偏差的AI系统互动，不仅会学习AI的偏差，还会让自己的偏见被放大。这种放大效应比人与人之间更强，部分原因在于AI信号的特性和人类对AI的认知方式。

这些发现对现代社会具有重要意义。随着AI越来越多地辅助人类做出关键决策，如医疗诊断、招聘筛选等，AI不仅可能自身存在偏差，还可能通过这个反馈循环加剧人类的偏差。考虑到AI系统的应用规模巨大且日益普及（例如AI生成图片被广泛观看），这尤其令人担忧。特别是对于儿童，他们认知方式更灵活，可能更容易受到有偏差的AI系统的影响。

这项研究提醒我们，AI开发者负有更高的责任。在设计和部署AI系统时，必须认真对待其潜在的偏差放大效应。同时，提高研究人员、政策制定者和公众对AI潜在影响的认识至关重要。

但研究也带来了希望：与准确的AI互动确实能提高人类判断的准确性。因此，减少AI本身的算法偏差，不仅有助于提升AI的性能，更有望通过积极的反馈循环，帮助减少人类自身的偏差，提升人类在各个领域的判断质量。AI的力量是一把双刃剑，我们需要理解并谨慎使用它。

论文参考地址：https://www.nature.com/articles/s41562-024-02077-2

---

欢迎关注我的公众号“蜗牛睡着了”，原创技术文章第一时间推送。