AI概念解析:从入门到精通的36个关键术语指南(三十三)

我爱免费

作者：微信文章
引言

为了让 AI 的目标与人类价值观一致，对齐（Alignment）成为关键课题。从技术到伦理层面，如何确保 AI “向善” 发展？我们深入讨论。



伦理安全



33

对齐（Alignment）



对齐是确保AI系统的行为、目标和价值观与人类期望和社会利益保持一致的过程。这包括使模型输出有用、诚实、无害，避免产生误导性信息或有害内容。实现对齐通常采用指令微调（Instruction Fine-tuning）、基于人类反馈的强化学习（RLHF）等技术，通过人类的指导和偏好数据来塑造模型的输出。AI对齐是一个多层面的挑战，涉及技术方法、伦理框架、社会共识和治理机制的综合应用。



来源：DATA数据社区微信公众号



敬请关注下期内容

伦理安全—红队测试（Red Teaming）



怕错过干货？点击关注，不错过每一次分享