CreativityNeuro：控制语言模型权重以改善发散思维并减少模式崩溃

arXiv:2607.01433v1 公告类型：新 摘要：发散思维是创造力的一个重要方面，但大型语言模型 (LLM) 往往会对开放式问题始终产生类似的回答，这就是所谓的人工蜂巢效应。在这里，我们介绍 CreativityNeuro，这是一种无数据方法，通过对比权重引导来增强法学硕士的发散思维。我们通过多项创造力评估来评估我们的方法，并报告几个主要发现。在发散关联任务 (DAT)（一项词汇空间创造力测试）中，CreativityNeuro 将表现提高了多达 14 个百分点。接下来，在替代用途测试（AUT）和任务任务的大规模人类评估（N=720）中，CreativityNeuro 在原创性、惊喜性和创造力方面取得了显着改进，转移到了更长形式和更开放式的任务。重要的是，我们发现在所有三项任务中，CreativityNeuro 都明显减少了模式崩溃的程度。此外，激活转向在 DAT 上实现了与 CreativityNeuro 相当的性能，但它没有转移到 AUT 和任务任务，这证明了权重空间转向在泛化到看不见的任务方面的有效性。总之，CreativityNeuro 可以改善发散性思维并减少模式崩溃，而无需行为数据、重新训练或基于梯度的微调，从而提供了一种提高创意领域 LLM 绩效的直接方法。