AI可能侵犯隐私?科技、安全如何“两全”?

新闻

作者：微信文章
人工智能（AI）技术在各行各业的应用为社会发展注入了新的活力，但也引发了科技伦理方面的争议与忧虑。科技伦理治理既要把握科技发展规律，又要防止科技发展过程中可能出现的违反道德伦理的行为。如何应对人工智能发展应用面临的数据隐私、算法偏见和责任规则等科技伦理挑战，让科技向善，更好地造福人类？



▲科技、安全如何“两全”？（图片来源：豆包）

AI：双刃剑下的机遇与挑战

AI技术是一把“双刃剑”。在科技飞速发展的当下，AI技术展现出强大的赋能作用，为许多领域开辟了新的前行道路。然而，AI技术在带来便利的同时，也潜藏着不容忽视的风险。如何在推动科技进步的同时，保障个人隐私与安全，成为亟待解决的挑战。

2015年，电影《速度与激情7》的主演保罗·沃克在拍摄过程中不幸离世，此时影片尚未完成。为给其饰演的角色写下合理的结局，制片方启用了新的技术。他们让保罗·沃克的兄弟担任替身，结合当时尚处于早期发展阶段的CGI（计算机生成图像）技术和面部捕捉技术，精准而细腻地将保罗·沃克的面容呈现在大银幕上，为角色书写了圆满的结局。

这一“数字复活”的案例，充分展示了AI换脸技术在影视工业中的积极应用和巨大潜力，也为影视创作提供了新的可能性。

然而，这一技术也具有双面性。据公开报道，2024年初，中国香港发生了一起令人震惊的诈骗案件。一家英国公司的分公司经理收到英国总部首席财务官的多人视频会议邀请。会议中，换脸生成的数字人“CFO”及其他“同事”现身屏幕，他们的声音、容貌和行为举止与真人毫无二致，令人难辨真假。这些虚假的“参会人员”以各种理由要求转账，总额达到2亿港元。由于对视频会议中的人物深信不疑，这名经理不幸落入诈骗陷阱。由此可见，AI换脸技术若被不法分子利用，将带来极为严重的危害和损失。

这两个案例中，AI技术扮演着截然不同的角色。它既为社会发展注入新的动力，又引发了针对科技伦理的忧虑。这也说明，技术发展若不能与规则同步建立，个人隐私和财产安全都将面临难以想象的威胁。这些真实案例，成为探讨“AI、隐私与安全”的直观论据。若一味追求技术进步而忽视规则的约束与引导，将如同打开了“潘多拉魔盒”，不可预测的后果将接踵而至。

全球AI治理：多管齐下筑牢安全防线

“每一项科学技术发展在为社会生产生活带来积极影响的同时，也必然会带来诸多挑战，人工智能技术也不例外。这些挑战不仅体现在技术层面，更涉及科技伦理等诸多重要的领域。”陈钟表示。

事实上，各国都高度重视科技伦理问题，并提出了相应的立法要求。以基因编辑技术为例，它涉及伦理问题，其发展不仅关系到各物种的未来发展与控制，更关乎人类自身。如若被不当使用，可能会引发基因歧视、生态失衡等一系列严重后果。为此，中国、美国、英国等国家都出台了相关政策、法规或指南，以规范基因编辑的研究与应用，确保其符合伦理道德要求。

“尽管人工智能技术并不像生物基因技术那样直接影响人类的后代和未来，但其作为人类思想的一种延伸，所产生的负面影响应得到高度重视，并进行有效控制。”陈钟指出。

那么，我们该如何应对AI技术发展过程中潜藏的“安全隐患”？

目前，全球多个国家和国际组织都在积极推动人工智能治理工作。例如，欧盟出台了《人工智能法案》，中国也发布了《生成式人工智能服务管理暂行办法》等一系列政策文件。企业方面，谷歌、微软等也制定了自身的人工智能伦理准则。此外，联合国教科文组织也发布了《人工智能伦理问题建议书》等。

陈钟表示，政府和相关部门应加强立法和监管，制定严格的法律法规和行业标准，规范人工智能的研发和应用；科研机构和企业应该强化伦理意识，在追求技术创新的同时，确保人工智能的发展符合伦理道德的要求。同时，公众也应该提高对人工智能的认知和辨别能力，积极参与监督，共同营造健康、有序的人工智能发展环境。

AI使用中的隐私保护

“用户尤其是青少年，在使用人工智能工具时，要特别注意个人信息的保护。”陈钟强调。以大语言模型为例，其在训练过程中需要大量数据。在大语言模型广泛搜集数据作为学习语料的过程中，这些数据可能涉及用户的隐私信息。不仅是用户自身，所在机构以及使用的应用程序也可能将个人信息或隐私信息提供给第三方用于训练分析。

目前，各国都在加强对数据收集、使用和共享的监管。从语料审核和数据提供者角度，也要对个人信息和隐私保护提高重视。

因而，在与大语言模型交互对话过程中，用户要留意对话内容是否涉及个人隐私或家庭隐私。一旦涉及这些隐私话题，必须提高警惕。

同时，无论是直接使用大语言模型平台，还是通过第三方平台接入使用其功能，都要清楚自己与平台公司间存在着法律契约关系。尤其是第三方平台，有义务向用户提供知情告知，明确服务要求。然而，这一点往往最易被用户忽视。

此外，用户还要关注第三方服务平台在保护用户隐私方面是否采取了有效措施，以及是否有针对信息滥用和误用的保障机制。《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》（以下简称《个人信息保护法》）等相关法律法规明确要求，网络运营者收集、使用个人信息应当遵循合法、正当、必要的原则，并应当公开收集、使用规则，明示收集、使用信息的目的、方式和范围，经被收集者同意。

然而，使用者往往认为自己仅是在使用工具，却没有意识到自己与服务平台间已经形成了法律契约关系。

我国AI规范：实践成效与未来展望

我国在人工智能领域积极推动标准化建设，工信部人工智能标准化技术委员会已开展多项标准制定工作。同时，为保障数据安全和个人隐私，我国相继出台的《个人信息保护法》于2021年11月1日起施行，《中华人民共和国数据安全法》（以下简称《数据安全法》）自2021年9月1日起施行，网信办等部门也定期开展网络安全检查等工作。此外，针对AIGC（生成式人工智能）的内容审核，我国也已出台若干相关国家标准。

作为人工智能标准化技术委员会的责任专家，陈钟见证了上述标准化措施及法律法规在大模型研制、训练、后处理及使用等各个环节的落地实施。他强调，大模型研制等相关方必须严格遵守相关法律法规和标准规范。

除了标准化建设和法规制定，法规的执行与监督也不容忽视。我国已制定的《个人信息保护法》和《数据安全法》等法律法规，是各大平台运行的基石。国家不仅制定了这些法规，还定期开展巡查检查和安全评估，确保法规得到有效执行。对于用户而言，使用依法依规合规的主体提供的服务时，这些保障措施将有效保护个人隐私和数据安全。对于可能存在违法违规操作的平台，用户也应该提高警惕，避免在非法或有诱导性的平台或工具上操作与隐私相关的数据。

陈钟进一步提醒，尽管AI技术日趋成熟，但它仍只是一个工具。对于AI的输出内容，必须采取人工方式反复核查核验，以确保符合实际需求，要避免盲目相信和直接引用。

当前，AI技术正处于不断创新发展的阶段。大语言模型已具备撰写小说、散文、诗歌以及作画、生成视频等能力。未来，AI将辅助生成更多富有想象力的创意内容，且生成效率会大幅提升。此外，AI还能作为师生之间一对一教学指导的补充，辅助学生的学习。

陈钟鼓励青少年积极拥抱新科技的发展，主动适应未来科技带来的影响和变化。在利用AI工具更好地辅助学习的条件下，锻炼心智，全面提升文化素养和科技素养，实现德智体美劳全面发展，成为优秀的未来接班人。

AI技术的发展既带来了机遇，也伴随着诸多挑战，特别是在隐私与安全问题上，需要政府、科研机构、企业和公众共同努力，制定科学合理的规则、加大监管力度、增强全社会的安全意识，这样才能实现科技与安全的“两全”，让AI技术更好地造福人类。

来源：科普中国