AI能否预测学生的未来?

多客科技

作者：微信文章


随着人工智能变得更加普及，海外高等教育机构也开始依赖预测算法来辅助其决策、并精准提供支持服务。这是一份来自欧美地区的研究分析，AI能否能预测学生在高等教育中的成功率。

01.

高校是如何使用AI来预测的

随着人工智能工具日益普及，高等教育领导者正在迅速采取策略，将这些技术融入高校运营。其中最常见的应用之一便是“学生成功率预测”。预测算法是通过分析学生的基本信息（如人口统计数据、刷卡记录、学术表现和经济需求等），来预测某位学生在入学后是否有望成功完成学业。这些工具还能帮助识别学生面临的具体挑战，使高校能够针对性地为学生提供支持服务。预测结果也可用于多个领域的决策参考——从奖助学金发放到面向高风险学生的定向干预。

然而，人工智能在高教中的应用也引发了一系列关键伦理问题，尤其是关于透明度、隐私与公平性。

一个核心问题是：这些算法是否对某些群体（如少数族裔或农村背景学生）存在“偏见”？我们对“偏见”的定义是：相比其他群体，算法对被边缘化族群产生错误预测（特别是负面预测）的比例显著更高。这种偏见往往源于算法复制了历史数据中的不平等结构，从而在未来的预测中强化了这些不公平。换句话说，如果历史数据显示某些群体的成功率低，那么就可能会影响预判。

来自其他社会领域的研究也显示了同样的模式。例如，在刑事司法领域，预测性治安算法不成比例地针对少数族群；在医疗保健中，某些预测模型则低估了非白人患者的健康风险。

在教育领域，也存在类似风险：如果数据中曾记录到少数族裔学生更难完成大学学业，算法可能会据此错误地预测来自这些群体的未来学生也难以毕业，哪怕这些预测变量本身与种族无关。比如，社会经济地位、学区、居住地人口构成等因素可能与种族高度相关，从而导致预测偏差。尽管本研究聚焦于种族，这种偏差也可能出现在与成功相关的其他社会特征上，如农村背景、性别或家庭收入。

02.

为什么要聚焦“种族”？

之所以以种族为研究核心，有以下几个原因：

1. 教育结果长期存在种族差异，不同群体内部表现的离散程度也不同。这使得算法容易基于整体趋势过度泛化，忽略群体内部的个体差异，从而导致错误率上升。

2. 常用于预测模型的关键变量本身与种族存在统计关联。例如，研究显示 SAT 和 ACT 更能准确预测白人和亚裔学生的表现，却对黑人和西裔学生效果较差。除非特别处理，这类指标很容易混淆“群体特征”与“个体能力”之间的界限。

3. 一些对少数族群学生尤其重要的因素——如校园氛围、家庭支持——往往不被采集或难以纳入模型。这些“缺失的情境变量”进一步影响了模型对这些群体的预测准确性和公平性。

03.

偏见的证据

该研究使用了美国国家教育统计中心的“2002年教育纵向研究”（ELS）数据，训练了多个预测模型，目标是判断学生是否能在高中毕业后八年内获得本科学位。模型使用的变量包括社会特征（如母语、家庭结构、父母学历）、学术表现（如标准化考试成绩、大一GPA、学分数）以及高中层级特征（如是否为城市学校、是否为公立等）。

结果显示明显的种族差异：

* 误判为失败：黑人和西裔学生最终毕业的比例较高，但算法却错误预测他们会辍学，误判率高达20%和21%；相比之下，白人和亚裔学生的误判率分别仅为12%和6%。

* 误判为成功：未能毕业的学生中，白人和亚裔被错误预测为会成功的概率较高；模型对他们的“成功率”预测为61%和68%，而黑人和西裔学生仅为39%和32%。

04.

如何减少偏见：模型训练比数据清洗更有效

该研究尝试了四种偏见缓解策略，分为两类：

* 预处理：在模型训练前调整数据，如重加权或使不同群体特征分布趋于一致。

* 训练中处理：在模型训练过程中引入公平性约束。

结果发现：训练中处理效果优于数据预处理。例如，原始模型对西裔学生的误判率为21%，通过训练中处理策略可降至约2%。不过，不同策略对不同群体的效果不同，说明应根据数据、目标人群和机构需求定制最合适的策略。

05.

对大众的启示

人工智能预测模型如果忽略了历史不公，将加剧教育不平等。

例如，在招生中，偏见模型可能剥夺本应录取的少数群体学生的机会；在专业推荐中，它可能使学生“被追踪”到某些学术轨道；而在支持干预中，也可能浪费资源在那些其实不需要帮助的学生身上，忽视了真正的高风险个体。该研究提出以下几点建议，以促进公平使用AI预测：

1. 增强透明度与可解释性：使用诸如 FairMARS 等工具，清晰展示影响预测的关键变量，帮助高校理解并信任模型结果。

2. 开展专业发展培训（PD）：培训教职员工了解模型偏差及其应对策略，强调模型只是辅助手段，而非唯一决策依据。同时提高对结构性不公的意识。

3. 持续监控模型表现：定期对模型的准确性与公平性进行审查，特别是随着新数据的加入。可以使用如 FairPilot 等免费工具，对模型效果进行权衡分析。

4. 采用多维度公平性指标：不同的公平性目标可能存在冲突，应结合具体用途选择最适合的指标体系。

随着高校将AI整合进学生支持运营系统，平衡其潜力与伦理责任变得尤为关键。若设计得当，预测模型可以帮助高校更好识别需要支持的学生，并移除制度性障碍，及时给学生提供支持；若忽视了历史偏见，它们也可能无意间延续乃至放大教育不公。

看来，AI能够协助高校以学生和教育为本高效运营，同时，构建一个兼顾公平与准确的AI系统任重道远。

（文章来源：https://www.brookings.edu/）