纠正基于学习的安全观念

摘要

arXiv:2609.22108v1 Announce Type: new Abstract: Learning-enabled perception is important in many autonomous systems. Unlike traditional sensors, the boundary where ML perception does or does not work ...

the perception scenarios based runtime where not control strategy correction

2026-09-22 1 阅读约1分钟阅读 Yan Miao, Hussein Darir, Sayan Mitra

arXiv:2609.22108v1 公告类型：新摘要：学习感知在许多自治系统中非常重要。与传统传感器不同，机器学习感知起作用或不起作用的边界很难描述。不正确的认知可能导致不安全或过于保守的下游控制行为。在本文中，我们提出了一种两步策略来纠正基于机器学习的状态估计。首先，使用感知契约的原像，使用离线计算来表征 ML 模块的状态估计所产生的不确定性。其次，在运行时，使用风险启发法从不确定的估计中选择特定状态来驱动控制决策。我们在不同的基于视觉的自适应巡航控制器（ACC 模块）、不同的天气条件和道路场景下，对这种运行时感知校正策略进行了广泛的基于模拟的评估。在使用 Yolo 和 LaneNet 的原始基于感知的控制系统导致安全违规的 45 个 ACC 场景中，在 73% 的场景中，我们的运行时感知校正保持了安全性；我们的方法无法恢复 27% 的感知契约原像构建不完全一致的场景。此外，我们的运行时感知校正策略并不过分保守——在经过轻微干预的情况下，校正后的场景中完成时间平均仅增加了 2.8%。

订阅66必读