首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于
智能AI morning

Semalith v1.4:经过校准的 184M 安全分类器,可实现最先进的快速注射检测,参数比 Llama-Guard-3-8B 少 44 倍

2026-07-28 1 阅读 约2分钟阅读 Tejasvi C. Addagada
分享:
字号:
arXiv:2607.22545v1 公告类型:新摘要:在金融服务和代理环境中部署大型语言模型需要安全分类器,该分类器可以同时处理提示注入、法规遵从性和一般危害,这是在单个推理过程中没有现有开放护栏地址的组合。 Semalith v1.4 是一个基于 DeBERTa-v3 的 184M 参数分类器,可在一次前向传递中同时执行三轴安全分类,包括即时注入、一般伤害和金融服务监管合规性。其 22 类头(BENIGN、9 个即时注入子类型、一般危害、11 个 BFSI 标签)在联合加权损失下使用 4 类辅助超类头进行训练,该数据集是从 49 个公共来源挖掘的 76,204 行语料库,针对每个保留的评估集进行 SHA-1 重复数据删除,22 个基准中有 21 个基准为零污染(最大 0.22%)。在 22 个保留基准测试中,与 Llama-Guard-3-8B 相比,Semalith v1.4 赢得了所有提示注入评估 (7/7),并在参数减少 44 倍的情况下赢得了 18 个基准测试中的 11 个,其中 208 个良性代理提示的 FPR = 0.000,而 Llama-Guard-3-8B 的 FPR = 0.063。在一般危害基准(WildGuardMix、HEx-PHI、HarmBench)上,Llama-Guard-3 领先;这种互补的划分记录在第 4 节中。第 6 节中披露了六个可测量的弱点。 部署指南:建议将 v1.3 用于对话审核部署 (ToxicChat F1 0.624);当优先考虑良性代理提示上的 BFSI 标签覆盖或零 FPR 时,建议使用 v1.4。
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱