纠正基于学习的安全观念

arXiv:2609.22108v1 公告类型：新 摘要：学习感知在许多自治系统中非常重要。与传统传感器不同，机器学习感知起作用或不起作用的边界很难描述。不正确的认知可能导致不安全或过于保守的下游控制行为。在本文中，我们提出了一种两步策略来纠正基于机器学习的状态估计。首先，使用感知契约的原像，使用离线计算来表征 ML 模块的状态估计所产生的不确定性。其次，在运行时，使用风险启发法从不确定的估计中选择特定状态来驱动控制决策。我们在不同的基于视觉的自适应巡航控制器（ACC 模块）、不同的天气条件和道路场景下，对这种运行时感知校正策略进行了广泛的基于模拟的评估。在使用 Yolo 和 LaneNet 的原始基于感知的控制系统导致安全违规的 45 个 ACC 场景中，在 73% 的场景中，我们的运行时感知校正保持了安全性；我们的方法无法恢复 27% 的感知契约原像构建不完全一致的场景。此外，我们的运行时感知校正策略并不过分保守——在经过轻微干预的情况下，校正后的场景中完成时间平均仅增加了 2.8%。