智能AI
morning
FALCON-Discover:发现集中的错误置信区域以进行校准
2026-07-22
1 阅读
约1分钟阅读
Filippo Cenacchi, Longbing Cao, Runze Yang
字号:
arXiv:2607.18278v1 公告类型:新摘要:校准通常是综合评估的,但最危险的失败往往是局部的:尽管预测是错误的,但仍保持高度自信。我们将这种故障模式研究为错误置信浓度,即置信错误占据预测空间的紧凑、可发现区域的程度。我们引入了 FALCON-Discover,这是一个与模型无关的事后框架,它使用来自置信度、局部支持度、邻域一致性和扰动稳定性的差异信号对预测进行排名。在七个二进制表格数据集、四个种子、五倍交叉拟合以及包括 XGBoost 和 CatBoost 在内的强学习器中,我们发现错误置信度集中是反复出现的,但与制度相关。在主要置信度阈值处,基于差异的排名大大优于最强制度中最强的验证选择校准或信任评分基线,而原始置信度几乎恢复不了危险错误质量。最佳检测器因数据集而异:当必须组合多个线索时,学习到的差异最强,而当局部决策脆弱性占主导地位时,以稳定性为中心的排名效果最好。这些结果表明,危险的过度自信最好被视为家庭层面的发现问题,而不是单分校准问题,并激发校准策略明确针对信心、支持和稳定性存在分歧的区域。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱