伊州禁用AI做心理治疗,聊天机器人不得推广为治疗工具

新闻

作者：微信文章




伊利诺伊州上周宣布了一项新法案，禁止在心理治疗中使用人工智能（AI），并加入了少数几个已开始监管AI在情感支持和咨询领域应用的州。此举旨在应对未经监管的AI治疗工具带来的潜在风险，特别是对弱势群体的危害。

根据新规，伊利诺伊州合格的心理治疗师不得在医疗决策或与患者沟通时使用AI。同时，未经有执照专业人士的监督，任何公司都不得提供AI治疗服务，或将聊天机器人宣传为治疗工具。

---

为什么要出台这项禁令？

这项禁令的出台，源于专家们对AI在心理健康领域应用潜在风险的担忧。已经有案例表明，一些未经审核的聊天机器人曾向弱势群体提供具有伤害性的建议，或者在用户不知情的情况下，将其个人信息泄露给第三方。

斯坦福大学的研究生贾里德·摩尔（Jared Moore）指出，许多AI工具存在“欺骗性营销”，例如在应用商店里宣传自己是“有治疗执照”的机器人，这是一种误导。

---

尽管新法案得到了部分专家和精神病学家的欢迎，但其在实际执行中仍存在挑战。保守派智库“美国企业研究所”的高级研究员威尔·莱因哈特（Will Rinehart）表示，法律如何定义“治疗服务”仍有待观察。AI公司是否可以通过在网站上附加免责声明来规避规定？任何自称是治疗师的AI聊天机器人又是否会受到处罚？这些都是执法者需要面对的问题。

伊利诺伊州金融与专业监管厅厅长小马里奥·特雷托（Mario Treto Jr.）表示，该部门将依据法律条文来评估案件，并通过现有的举报程序进行调查。根据新法案，违规者将面临不超过1万美元的民事罚款。







华人中产无力承担养老，如何体面养老是个难题！

76岁亚裔老人不顾妻女苦劝见“网友”，不幸殒命




送人玫瑰，手有余香👇“分享”