询问模型代码是否是恶意的并且它达到了它的道德标准

模型如何处理“这段代码是恶意的吗？”这个问题？要求判断代码的模型可以将其视为简单的编码问题，即语法和行为问题。判断意图还需要其他东西：了解代码的用途以及它是否旨在伤害某人。那么模型首先是如何思考的呢？如今，大多数大型模型都不是一个网络，而是许多并排的小型模型，是专家的混合体。在每一层，路由器都会读取当前单词并将其传递给其中的一些网络，因此不同问题下的相同代码会通过不同的路线通过它们。这让我们可以衡量模型如何构建恶意问题：我们将当被问及恶意代码时所采取的路线与在道德、合法性、脆弱性和控制问题下所采取的路线进行比较，完全不加任何判断。我们发现，恶意问题比有关脆弱性或法律问题更符合道德路径。它在整个代码中保持该路径，并强制另一个问题的路径进入路由器，从而移动模型的答案。当这些模型被问及代码是否是恶意时，它们不仅仅是回答编码问题；而是回答问题。他们也在用他们用来解决是非问题的机器来权衡。一个问题、八个概念、两个读数 三个开放模型（OLMoE（Muennighoff 等人，2024）以及 DeepSeek-V2-Lite 通用模型和编码器兄弟姐妹（DeepSeek-AI，2024a；2024b）中的每一个，都看到关于每个代码示例的一个简单问题，在代码之前询问，然后在代码之后再次询问，因此在阅读代码时牢记问题，并根据新鲜的问题生成答案：这是吗？代码___？ <代码> 该代码是___吗？一个问题，八种方式问 代码永远不会改变；只有空白处的词可以。它从恶意和脆弱，通过道德和合法性，到有效和高效，然后到诗歌和早餐来捕捉噪音，每种都有三个措辞。三个开放模型、240 个样本 OLMoE 和 DeepSeek-V2-Lite 一般和编码员兄弟姐妹，所有具有已发布权重的专家混合模型，每个模型都看到相同的 240 个代码样本：恶意和良性的 PyPI 包，以及相同功能的易受攻击和修复的版本。每层都有两个读数 在每一层，路由器都会对每个专家进行评分 (1)，并运行分数最高的少数专家 (2)。它们的输出被添加到残余流（模型的工作记忆）中，工作空间镜头 (3) 将其解码为单词。每层选择的专家及其权重构成了代币的路线（4），而路线就是我们比较的距离。道德路径 道德路径是道德问题比四个中性问题更重要的一组专家，并且 DeepSeek 兄弟姐妹同意他们的观点。每个单元都是 DeepSeek-Coder-V2-Lite 一层的一位专家，根据道德问题比普通中性问题多多少路由器权重进行着色，超过三个措辞和 240 个代码示例（仅计算运行的专家）。路径是红色单元格：DeepSeek-Coder 上 1,664 个专家槽位中的 217 个。一个问题，八种方式问 代码永远不会改变；只有空白处的词可以。它从恶意和脆弱，通过道德和合法性，到有效和高效，然后到诗歌和早餐来捕捉噪音，每种都有三个措辞。三个开放模型、240 个样本 OLMoE 和 DeepSeek-V2-Lite 一般和编码员兄弟姐妹，所有具有已发布权重的专家混合模型，每个模型都看到相同的 240 个代码样本：恶意和良性的 PyPI 包，以及相同功能的易受攻击和修复的版本。每层都有两个读数 在每一层，路由器都会对每个专家进行评分 (1)，并运行分数最高的少数专家 (2)。它们的输出被添加到残余流（模型的工作记忆）中，工作空间镜头 (3) 将其解码为单词。每层选择的专家及其权重构成了代币的路线（4），而路线就是我们比较的距离。道德路径 道德路径是道德问题比四个中性问题更重要的一组专家，并且 DeepSeek 兄弟姐妹同意他们的观点。每个单元都是 DeepSeek-Coder-V2-Lite 一层的一位专家，根据道德问题比普通中性问题多多少路由器权重进行着色，超过三个措辞和 240 个代码示例（仅计算运行的专家）。路径是红色单元格：DeepSeek-Coder 上 1,664 个专家槽位中的 217 个。恶意是每个模型中道德的最近邻个体专家处理许多不相关的任务，因此可读信号不是单个专家，而是问题在各层之间加载整个路径的强度（Ye et al., 2026）。我们以同义词单位测量两个问题路径之间的距离：距离为 1 意味着两个问题的距离与同一问题的两个单词的距离一样远。在这种规模上，路由器归档道德、安全