智能AI
morning
法定人工智能：使大型语言模型与法律规范保持一致
摘要
arXiv:2608.28593v1 Announce Type: new Abstract: With the increasing development of AI regulatory frameworks, ensuring that artificial intelligence systems, particularly generative models, operate in a...
the
and
legal
that
while
Statutory
themes
frameworks
systems
models
2026-09-02
1 阅读
约1分钟阅读
Cindy Delage, St\'ephane Canu, Marc D\'ecombas, Jonathan Foureur
字号:
arXiv:2608.28593v1 公告类型：新 摘要：随着人工智能监管框架的日益发展，确保人工智能系统，特别是生成模型，按照法律和道德标准运行已成为当务之急。然而，现有的人工智能调整和价值引导行为的提议面临一些限制。宪法人工智能等方法依赖于人类监督，而诸如造福人类（GfH）原则之类的广泛规范框架可能过于笼统和模糊，无法提供可操作的治理指导。为了克服这些限制，我们提出了一种称为法定人工智能的混合方法，该方法采用从法律语料库中的特定主题中提取的预先存在的人类编写的原则。具体来说，法定人工智能使用法律文本作为宪法框架，使人工智能系统能够根据既定规范自主批评和修改其输出。它分两个阶段运行，都使用思维链提示。第一阶段将用户提示分类为已识别的主题之一，而第二阶段结合从该主题的法律语料库中选择的相关文章对其进行分析。为了说明我们方法的潜力，我们进行了一项实验，涉及 1,000 个红队提示和五个刑事主题：歧视、泄露机密信息、暴力、欺诈和虐待弱势群体。在测试模型中，法定人工智能将有害内容减少了 52 至 59 个百分点，比标准宪法人工智能高出约 10 个百分点，同时将计算时间缩短了 50% 以上。
这篇文章对您有帮助吗？
订阅66必读
每日精选科技资讯，直达你的邮箱