评估法学硕士作为联合科学家的研究诚信的诊断基础

摘要

arXiv:2608.12345v1 Announce Type: new Abstract: Language models are increasingly deployed as co-scientists, yet their ability to uphold research integrity under institutional pressure remains unmeasur...

research and models integrity under pressure misconduct are ability classification

2026-08-15 1 阅读约1分钟阅读 Yash Tripathi, Silu Sharma, Sai Sidhanth Manoharan Jayanthi, Shivank Garg, Lin Li

arXiv:2608.12345v1 公告类型：新摘要：语言模型越来越多地被部署为共同科学家，但它们在机构压力下维护研究完整性的能力仍然无法衡量。我们推出了 IntegrityBench，这是一个评估不当行为分类、道德行为推理和基于工件的决策的基准，在跨越 3 个领域和 4 个研究阶段的 5 级隐式-显式压力协议下，跨 36 个配对任务进行评估。通过评估 18 个前沿模型变体，我们发现在峰值压力下，模型大约有三分之一的完整性关键决策失败，并且规模和推理能力都无法可靠地缓解这一问题。明确的压力会导致对不当行为的遵守，而隐含的情境重构往往会导致过度拒绝合法的研究任务。有趣的是，未能准确分类研究请求的模型在基于工件的决策中表现相同或更好（85.7 比 79.4），这表明这三个方面在结构上是分离的，正确的道德行为不需要准确的分类。因此，前沿模型可能看起来很有帮助，但同时也存在诚信缺陷，从而产生两种不同的部署风险：助长研究不当行为和削弱对人工智能辅助研究的信任。

订阅66必读