智能AI
morning
立场：当前模型卡不足以满足开放权重基础模型的下游治理
摘要
arXiv:2608.18086v1 Announce Type: new Abstract: The growth of open-weight foundation models (OWFMs) has prompted the AI community to re-evaluate strategies for effective downstream governance. Althoug...
model
and
cards
OWFMs
safety
the
for
governance
that
AUPs
2026-08-20
1 阅读
约1分钟阅读
Sungwon Chae, Keonwoo Kim, Hoki Kim, Jaeyeon Ju, Sangchul Park
字号:
arXiv:2608.18086v1 公告类型：新 摘要：开放权重基础模型（OWFM）的增长促使人工智能社区重新评估有效下游治理的策略。尽管模型卡已被广泛采用作为模型存储库中的透明工件，但现有框架通常无法充分告知下游开发人员和用户有关 OWFM 带来的独特安全挑战。本立场文件分析了 Hugging Face 上托管的 500 个模型卡，并认为 OWFM 的有效治理需要采用集成三个互补组件的多层方法：(i) 模型卡、(ii) 可接受的使用政策 (AUP) 和 (iii) 许可证。为了激发这一主张，我们通过对具有安全关键信息的模型卡进行分析，确定了现有监管方法留下的安全差距，包括模型遗产、对齐来源和经验观察的行为。我们进一步认为，标准开源许可证 (OSL) 不太适合 OWFM，并且可能会削弱 AUP 的可执行性。基于这些观察，我们概述了将模型卡、AUP 和许可证发展为集成安全工件的方向，以实现更全面的治理框架，连贯地集成信息、规范和法律维度。
这篇文章对您有帮助吗？
订阅66必读
每日精选科技资讯，直达你的邮箱