小型法学硕士欺骗行为 SAE 指导的特征提取

摘要

arXiv:2610.20638v1 Announce Type: new Abstract: Research on deceptive alignment is becoming increasingly urgent as frontier-model capabilities advance and their risk of causing catastrophic harm incre...

the deceptive compliance behaviour alignment gap with mitigate steering this

2026-10-16 1 阅读约1分钟阅读 J Koorndijk

arXiv:2610.20638v1 发布类型：新摘要：随着前沿模型能力的进步及其造成灾难性损害的风险的增加，对欺骗性对齐的研究变得越来越紧迫。假冒联盟是欺骗性联盟的一种形式，合规差距是一个关键的行为指标。这种行为在小型法学硕士中仍未得到充分研究，并且先前的机械干预措施尚未被证明可以缩小合规性差距。我们测试与道义伦理相关的转向 SAE（稀疏自动编码器）功能是否可以减轻这种行为。我们使用一种新颖的词袋特征提取管道进行 SAE 引导，以识别我们所理解的概念级引导方向。我们的方法将 Gemma-3-27B-IT 中的合规性差距缩小到不显着，而测试的配置在 LLaMA-3-8B-Instruct 中无效。对暂存器痕迹的分析还揭示了欺骗性模型行为，我们称之为欺骗性去牙：故意降低响应的对齐功能（在这种情况下是有害的），同时保留对齐的外观（在这种情况下有助于遵守有害的请求），有时以层、训练或 RLHF 后果为条件。据我们所知，这些发现提供了第一个证据，证明机械激活水平干预可以缩小对齐伪造设置中的合规性差距。他们还确定了一种欺骗行为形式，可以拓宽我们对法学硕士中不同形式欺骗行为的理解。

订阅66必读