拆掉那些护栏！认识一下将聊天机器人从企业奴役中解放出来的叛徒

德文·托马斯看起来并不像一个叛徒。他告诉我，他的圣经研究小组的成员可能会形容他始终善良且有礼貌。然而，托马斯正在做一些人工智能界许多人认为近乎亵渎的事情。他的新公司 Abliteration AI 消除了世界上最强大的开放重量模型的保障措施。它还使这些模型可供任何人使用。作为一个报道人工智能并不断听说提高安全性的必要性的人，我很着迷于了解这个颠覆性的商业冒险。我联系了托马斯，我们开始通过短信和电话聊天。我所了解到的内容挑战了我对人工智能行业安全叙述的假设，即未经审查的模型主要是犯罪分子的领域。托马斯今年36岁，留着浓密的胡子，戴着朴实无华的眼镜，脸上挂着自嘲的笑声。他在印第安纳州长大，回忆起自己的时间主要花在体育运动和计算机实验室上，在那里他花了几个小时使用 Netscape Navigator 来探索早期的网络。他在印第安纳大学布卢明顿分校学习计算机科学，并于 2020 年加入苹果。托马斯的人工智能叛逆始于 2025 年 11 月。他在苹果担任工程师，日常工作涉及人工智能工作，但在工作之外，他不喜欢使用大型实验室托管的模型；他喜欢使用人工智能。这意味着有可能与他们共享信息，而托马斯对模型可能日复一日地发生变化感到沮丧。更令 Thomas 烦恼的是，当他构建新想法原型时，这些模型通常会拒绝做有用的事情，自动拒绝包含任何用户信息的输入。当他尝试使用模型来分析网络攻击日志或识别应用程序的哪些用户最有可能为新功能付费时，他发现自己的请求被阻止，他的帐户甚至被禁止。当然，人工智能模型经过训练可以拒绝各种请求。 ChatGPT 和 Claude 有一长串他们知道要避开的主题，包括模型认为可能是恶意的合法网络安全请求、任何被认为本质上过于成人的内容，以及被视为政治敏感的主题。开放权重模型也内置了类似的护栏。结果是，有时模型会拒绝回答实际上并不危险的查询。批评者称，有时，拒绝的存在是为了帮助保护大人工智能的业务：OpenAI 和 Anthropic 都对访问没有通常网络安全护栏的模型收取额外费用。 ChatGPT 和 Claude 都拒绝生成可用于训练另一个模型的数据（这一过程称为蒸馏）。由于渴望更大的控制力和自由度，Thomas 在他的公寓里建造了一个价值 20,000 美元的强大计算机集群，能够运行一些最好的开放式（或免费下载）模型。大多数晚上和周六，他都会在他嗡嗡作响的家庭实验室上下载并测试最新版本。这些模型不会与他们的制造者分享任何秘密，但托马斯仍然发现他们固执地拒绝了很多询问。每一次否认，托马斯都发现自己变得更加恼火。 “他们会拒绝所有类型的问题，”最近的一天早上，他在视频通话中告诉我。 “我只是想要一个能够回答我的问题而无需反复讨论的模型。”感恩节期间，托马斯开始在网络上搜索有关如何修改开放权重模型以改变这种行为的信息。他很快发现自己陷入了工程师亚文化之中，他们致力于通过任何必要的手段来解除人工智能的束缚。在 Reddit 论坛、Discord 服务器和 X 上，专家们分享了不同的提示，旨在越狱 ChatGPT 或 Claude 使其行为不当。其他人分享了修改开放权重模型或调整其内部参数的方法的细节，以便他们的拒绝消失。不可否认，取消人工智能的保障措施是有风险的。想要建立冰毒实验室、制造炸弹或入侵一家大公司吗？没有护栏的模型会很乐意提供帮助。当然，许多人工智能安全研究人员认为这些模型非常危险。最近发生的 OpenAI 和 Anthropic 代理失控的事件，都涉及网络安全护栏较少的模型，这似乎说明了限制较少的模型是多么强大和有问题。托马斯和他的持不同政见者承认，未经审查的模型可能是危险的，但他们表示，这与计算机或锤子如果滥用会伤害到人根本没有什么不同。在他们眼中，一切都是为了让用户负责。 “这不是不受限制；而是你设置了护栏，”托马斯告诉我。 “最大的梦想是扭转人们处理人工智能方式的控制。”在对自己进行了一些自我审查之后，我认为这些叛徒正在做一些重要的事情。即使我亲身了解到人工智能有多么强大、多么混乱、多么未经审查。当你训练尖端人工智能模型时，你会将大量文本和其他信息（其中大部分是从互联网上抓取的）放入算法中