META-IR：法学硕士自适应安全调整的元内省推理

摘要

arXiv:2611.10089v1 Announce Type: new Abstract: Large Language Models (LLMs) remain vulnerable to jailbreak attacks and harmful-content prompts, particularly under adversarial distribution shifts wher...

and that jailbreak alignment introspective self META meta safety loop

2026-11-10 1 阅读约1分钟阅读 Mahabubur Rahman Miraj, Hongyu Huang, Nankun Mu, Chao Chen, Shanqin Yi

arXiv:2611.10089v1 公告类型：新摘要：大型语言模型 (LLM) 仍然容易受到越狱攻击和有害内容提示的影响，特别是在静态对齐管道无法泛化的对抗性分布变化下。尽管 STAIR 等内省方法增强了拒绝一致性，但它们依赖于固定的自我评估策略，无法快速适应不断变化的操纵策略。为了克服这些限制，本文引入了 META-IR，这是一种元内省推理框架，可通过元学习驱动的适应来增强安全性。它采用双循环架构：内部内省循环通过 SI-MCTS 执行结构化风险分析、自我评估和反思性纠正，外部元学习循环优化跨不同越狱任务系列的内省策略，以实现对未见过的攻击的快速泛化。动态越狱模拟模块进一步使模型面临越来越难的对抗性提示，从而无需人工监督即可持续自我改进。跨多个模型（Llama-3.1-8B-Instruct 和 Qwen-2-7B-Instruct）以及广泛的安全性、有用性、泛化性和自省指标的实验表明，与所有基线模型相比，META-IR 显着提高了适应速度、鲁棒性和推理稳定性。这些结果表明 META-IR 是建立能够在动态和不断变化的威胁环境下持续、自适应安全调整的法学硕士的有效途径。

订阅66必读