AI专题|OECD更新AI基本原则的建议

我爱免费

作者：那一片数据星辰



摘要

SUMMARY



2024年5月3日，OECD发布了对2019年制定的AI基本原则的建议的更新（以下简称“建议”），这是继OECD对AI系统的定义更新后进一步迭代。

1. 2023年和2024年对AI基本原则建议的修订

2023年，确定了通过更新“AI系统”的定义来保持AI基本原则的建议相关性的机会之窗，DPC在2023年10月16日的委员会和其AI治理工作组（AIGO）联合会议上批准了修订定义草案。OECD理事会在2023年11月8日的会议上采纳了“AI系统”的修订定义。定义的更新包括旨在：

-澄清AI系统的目标（可能是明确的或隐含的）；

-强调输入的作用，这些输入可以由人类或机器提供；

-澄清建议适用于生成性AI系统，这些系统产生“内容”；

-将“真实”一词替换为“物理”，以清晰并与其他国际进程保持一致；

-反映一些AI系统在设计和部署后仍可持续开发的事实。

根据2024年向理事会提交的报告的结论，AI基本原则的建议在2024年理事会部长级会议上进一步修订，以保持其持续的相关性并促进其实施五年后。具体更新旨在：

-反映在生成性AI的背景下，解决虚假信息和错误信息以及保护信息完整性的日益增长的重要性；

-解决超出预期用途、故意滥用或非预期误用的问题；

-澄清AI行为者应提供的关于AI系统的信息，以确保透明度和负责任的披露；

-解决安全（Safety）问题，以便如果AI系统存在造成不当伤害的风险或表现出不希望的行为，它们可以安全地通过人为互动覆盖、修复和/或退役；

-强调在整个AI系统生命周期中负责任的商业行为，涉及与AI知识和AI资源的供应商、AI系统用户和其他利益相关者的合作，

-强调需要各管辖区共同努力，以促进AI的可互操作治理和政策环境，因为全球AI政策倡议的数量激增；

此外，为了清晰起见，一些原则和建议的标题被扩展了，关于可追溯性和风险管理的文本被进一步阐述，并移动到了“问责制”原则中，因为这些概念最合适。

01

可信AI的负责任治理原则

1.1. 包容性增长、可持续发展和人类福祉

利益相关者应积极从事可信AI的负责任治理，追求对人类和地球有益的结果，如增强人类能力、提高创造力、促进代表性不足群体的包容性、减少经济、社会、性别和其他不平等，以及保护自然环境，从而激发包容性增长、福祉、可持续发展和环境可持续性。

1.2. 尊重法治、人权和民主价值观，包括公平和隐私

a) AI行为者应在整个AI系统生命周期中尊重法治、人权、民主和以人为中心的价值观。这些包括非歧视和平等、自由、尊严、个人自主权、隐私和数据保护、多样性、公平、社会正义和国际公认的劳工权利。这也包括解决由AI放大的虚假信息和错误信息，同时尊重言论自由和适用的国际法保护的其他权利和自由。

b) 为此，AI行为者应实施机制和保障措施，如人类代理和监督的能力，包括以符合场景和技术现状的方式解决超出预期用途、故意滥用或非预期滥用的风险。

1.3. 透明度和可解释性

AI行为者应致力于AI系统的透明度和负责任的披露。为此，他们应提供有意义的信息，适合于场景与技术现状：

a) 促进对AI系统的一般理解，包括其能力和局限性，

b) 使利益相关者意识到他们与AI系统的互动，包括在工作场所，

c) 在可行和有用的情况下，提供关于数据/输入、因素、过程和/或导致预测、内容、建议或决策的逻辑的明确和易于理解的信息，使受AI系统影响的人能够理解输出，以及

d) 提供信息，使受AI系统不利影响的人能够对其输出提出异议。

1.4. 鲁棒性、安全性（Security）和安全性（Safety）

a) AI系统在其整个生命周期中应是鲁棒的、安全的，以便在正常使用、可预见的使用或误用或其他不利条件下适当运作，不构成不合理的安全和/或安全风险。

b) 应适当地建立机制，以确保如果AI系统存在造成不当伤害的风险或表现出不希望的行为，它们可以安全地被覆盖、修复和/或退役。

c) 还应在技术上可行的情况下建立机制，以加强信息完整性，同时确保尊重言论自由。

1.5. 问责制

a) AI行为者应对AI系统的正确运作和尊重上述原则负责，基于其角色、场景，并与技术现状一致。

b) 为此，AI行为者应确保可追溯性，包括与AI系统生命周期中的数据集、流程和决策相关的可追溯性，以便分析AI系统的输出并适当地响应质询，并与场景和技术现状一致。

c) AI行为者应根据其角色、场景和行动能力，对AI系统生命周期的每个阶段持续采取系统性风险管理方法，并采取负责任的商业行为来应对与AI系统相关的风险，包括通过不同AI行为者、AI知识和AI资源的供应商、AI系统用户和其他利益相关者之间的合作，风险包括与有害偏见、人权包括安全（Safety）、安全（Security）和隐私以及劳动和知识产权相关的风险。

02

为可信AI的国家政策和国际合作

2.1. 投资AI研究与开发

a) 政府应考虑长期的公共投资，并鼓励私人投资，在开放科学的研究和开发方面，包括跨学科投入，以促进可信AI的创新，重点关注具有挑战性的技术问题和与AI相关的社会、法律和伦理影响以及政策问题。

b) 政府还应考虑公共投资，并鼓励私人投资，在开源工具和开放数据集方面，这些工具和数据集具有代表性并尊重隐私和数据保护，以支持一个没有有害偏见的AI研究与开发环境，并改善互操作性和标准的使用。

2.2. 促进包容性AI支持生态系统

政府应促进发展和获取一个包容性、动态、可持续和可互操作的数字生态系统，以支持可信AI。这样的生态系统包括数据、AI技术、计算和连接基础设施以及适当的AI知识共享机制。在这方面，政府应考虑促进诸如数据信托之类的机制，以支持数据的安全、公平、合法和道德共享。

2.3. 形成支持性可互操作的治理和政策环境

a) 政府应促进一个支持从研究与开发阶段过渡到可信AI系统部署和运营阶段的敏捷政策环境。为此，它们应考虑使用实验来提供一个可控的环境，在该环境中可以测试并适当地扩大AI系统的规模。它们还应采取结果导向的方法，以在实现治理目标方面提供灵活性，并在适当的情况下在管辖区内部和跨管辖区合作，以促进可互操作的治理和政策环境。

b) 政府应审查并适当调整其适用于AI的政策和监管框架以及评估机制以鼓励可信AI的创新和竞争。

2.4. 建设人力资本并准备劳动力市场转型

a) 政府应与利益相关者密切合作，为劳动力市场和社会的转型做好准备。

b) 政府应采取步骤，包括通过社会对话，确保工人在部署AI时的公平过渡，例如通过终身培训计划、支持那些受流离失所影响的人，包括通过社会保障，并在劳动力市场中获得新机会。

c) 政府还应与利益相关者密切合作，促进在工作场所负责任地使用AI，以提高工人的安全、工作和公共服务的质量，促进创业精神和生产力，并确保广泛而公平地分享AI带来的收益。

2.5. 国际合作促进可信AI

a) 政府，包括发展中国家和利益相关者，应积极合作推进这些原则，并在可信AI的负责任治理方面取得进展。

b) 政府应在OECD和其他全球和区域论坛中共同努力，促进AI知识的共享。他们应鼓励国际、跨部门和开放的多方利益相关者倡议，以获得AI方面的长期专业知识。

c) 政府应促进多方利益相关者、共识驱动的全球技术标准的发展，以实现可互操作和可信的AI。

d) 政府还应鼓励开发和使用具有国际可比性的指标来衡量AI研究、开发和部署，并收集证据基础以评估这些原则的实施进展。

03

重要定义的共识

‒ AI系统：AI系统是基于机器的系统，它根据接收到的输入，推断出如何生成输出，如预测、内容、建议或决策，这些输出可以影响物理或虚拟环境。不同的AI系统在部署后的自主性和适应性水平上有所不同。

‒ AI系统生命周期：AI系统生命周期通常涉及几个阶段，包括：规划和设计；收集和处理数据；开发模型和/或微调现有模型以适应特定任务；测试、评估、验证和确认；可供使用/部署；运营和监控；以及退役/停用。这些阶段通常是迭代进行的，并不一定是顺序的。在运营和监控阶段的任何时候，都可能决定退役AI系统。

‒ AI行为者：AI行为者是在AI系统生命周期中发挥积极作用的组织和个人，包括部署或操作AI的组织和个人。

‒ AI知识：AI知识指的是理解和参与AI系统生命周期所需的技能和资源，如数据、代码、算法、模型、研究、技术知识、培训计划、治理、流程和最佳实践，包括管理风险。

‒ 利益相关者：利益相关者包括直接或间接参与或受AI系统影响的所有组织和个人。AI行为者是利益相关者的一个子集。