在多实例强化学习系统中集成公平性和可解释性

摘要

arXiv:2610.00035v1 Announce Type: new Abstract: Predicting student performance from educational interaction data requires models that are both accurate and sufficiently transparent to support meaningf...

and MIL performance objective preference the student that for The

2026-10-02 1 阅读约1分钟阅读 Bente Hinkenhuis, Seyed Sahand Mohammadi Ziabari, Ali Mohammed Mansoor Alsahag

arXiv:2610.00035v1 公告类型：新摘要：根据教育互动数据预测学生表现需要准确且足够透明的模型来支持有意义的干预，而人口统计信息会带来不公平预测的额外风险。本研究研究了一种多目标框架，该框架结合了基于强化学习的多实例学习 (RL-MIL)、对抗性去偏和偏好条件超网络，用于学生风险预测。 MIL 将每个学生表示为一组弱标记的交互，而 RL 代理则选择信息丰富的实例进行下游分类。评估两个超网络变体以确定用户定义的偏好标量是否可以连续控制预测性能和均衡赔率之间的权衡。底层的 RL-MIL 基线实现了强大的分类性能，但两种超网络扩展都表现出模式崩溃：改变偏好权重不会沿着预期的公平性能边界产生系统性的移动。失败与客观主导、通过调节机制的弱梯度传播以及动态生成的参数之间的相互作用有关。结果表明，公平目标可以纳入可解释的 RL-MIL 管道中，但单独的偏好调节并不能保证可控的多目标行为。因此，鲁棒公平的 RL-MIL 需要明确的梯度平衡、目标分离和稳定性分析机制。

订阅66必读