智能AI
morning
逐流:绕过内容判断来管理高损耗域中的 AI 输出
摘要
arXiv:2608.07474v1 Announce Type: new Abstract: Prior work showed that human-in-the-loop oversight becomes structurally untenable in high-loss domains when AI output velocity V exceeds human cognitive...
that
and
judgment
cost
cognitive
capacity
content
human
the
high
2026-08-11
1 阅读
约2分钟阅读
Hiroki Naito
字号:
arXiv:2608.07474v1 公告类型:新 摘要:先前的工作表明,当人工智能输出速度 V 超过人类认知能力 C_max 时,人机循环监督在高损失领域中在结构上变得站不住脚。然而,操作约束不仅仅是 V,而是 V x L,其中 L 表示每个项目的认知负荷。 L由分类、判断和响应组成,它们对AI能力提升的响应不对称。随着模型变得更加强大,分类成本不会下降,因为语义不确定性是通用设计中固有的。响应成本对于准确性的提高是不变的。只有判断成本面临下行压力,而这种压力往往是通过诱导省略而不是真正的减少来发挥作用。因此,能力改进会重组 L,而不是减少它。基于评估人工智能输出是否正确的治理机制,要么将该评估委托给人工智能并继承幻觉风险,要么将其委托给人类并面临 V x L 天花板。我们提出了 Flow-by-Flow,这是一种无需评估内容即可控制监管负载的治理范式。基于形式、可数特征的认知成本评分对大批量生产施加了非线性成本,而机构容量上限将处理量保持在 C_max 范围内。我们为任何内容判断绕过超越途径得出了四个设计不变量:无内容判断、审查员能力的可扩展消耗、每个应用程序的身份限制摩擦以及无批次许可。讨论了一种参考实现,以表明这些不变量是可以共同满足的,同时明确承认其实际困难。对 1,000 个参数进行的说明性蒙特卡罗分析表明,在 90.8% 的试验中,复合多度量流量控制优于单独的监督强化。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱