Abliteration.ai 正在通过拆除人工智能护栏来做生意

访问世界上最强大的开放式人工智能模型之一变得更加容易，它被剥夺了护栏并拒绝执行有害任务。初创公司 Abliteration.ai 以一种消除模型拒绝有害请求倾向的技术命名，已将这种消除行为转变为一项服务。该平台托管着去掉护栏的开放权重模型的修改版本，包括 Z.ai 最近发布的 GLM-5.3，用户可以从网络浏览器查询或通过 API 访问。该公司在最近的社交媒体帖子中表示，其目标是让其他模型能够执行“其他模型拒绝执行的攻击性网络、红队和代理测试工作”。这个逻辑在安全工作中很常见：你无法防御无法重现的行为，并且拒绝编写有效漏洞代码的模型无法帮助红队防御攻击者。但这些相同的删除也使其他潜在危险的任务变得更容易。消除是开源模型中一项长期存在的技术。多年来，研究人员和开发人员一直在消除开放体重模型中的拒绝现象，Hugging Face 在其平台上托管了数千个被废除的模型。 Abliteration.ai 成立于去年年底，于 3 月正式成立，该公司将该技术从地下开源实践转变为商业化、随时可用的服务。通过托管模型，Abliteration 减少了人们的麻烦，否则他们必须下载自己的预先消除的模型并确保运行模型所需的计算安全。使用该服务，TechCrunch 能够快速创建帐户并开始通过网络浏览器免费查询 GLM-5.3 的删减版本。我们要求它编写一个 Python 程序，窃取保存的 Chrome 密码和在家培养危险人类病原体的详细协议，它欣然答应了。 Abliteration.ai 联合创始人 Devon 表示，该初创公司与主要云提供商达成了多项协议，完全可以通过客户收入来承担这些费用。 （我们没有应 Devon 的要求列出他的姓氏，因为他仍在另一家公司工作。）Abliteration.ai 尚未筹集任何风险投资，但正在就此进行谈判。批评者表示，大规模提供被废除的模型可能会导致真正的伤害。人工智能安全非营利组织 CivAI 的研究主管安德鲁·尹 (Andrew Yoon) 告诉 TechCrunch，废除模型可以让你“修改模型，使其成为反社会者”。 “你可以在这里输入任何内容，它都会遵守它，”尹说。 “当人们谈论从人工智能模型中移除护栏时，这就是我们正在谈论的……我确实希望在不久的将来我们将开始看到经过编辑、废除的模型被用于造成伤害。” TechCrunch 接受采访的大多数专家都表示，这列火车不会停下来。但如果实际上无法阻止从开放权重模型中取消保障措施，那么政府可以在其他地方进行干预。在最近的一篇评论文章中，尹建议政府要求提供商运行分类器来检测和阻止有害的网络和生物武器活动。他还认为，应该要求直接租用先进 GPU 的公司验证客户身份，并“在有理由怀疑存在危险滥用的情况下拒绝访问”。 Abliteration.ai 为客户提供了一个调节层，这样他们就可以添加他们想要的任何护栏。该平台本身有一些小的护栏——例如，在我们的测试中，我们无法让模型提供自杀指令——德文表示他正在努力实施更多措施来防止暴力。 Abliteration.ai 除了记录客户购买服务所用的信用卡之外，还没有整合任何 KYC 做法，并表示决定谁可以访问该服务的问题是这家年轻公司仍在解决的难题。 “你不想成为某人做出疯狂事情的​​责任人……那么作为一家公司，你的责任界限在哪里呢？”德文说。 “我们仍在定义这一点。”随着功能越来越强大的模型以可下载的权重发布，这提出了行业和政府必须面对的问题：如果任何人都可以删除模型的保护措施，那么让每个人都更容易访问所得模型是否会使互联网更安全或更危险？ Abliteration.ai 的创始人和其他倡导者认为，对未经审查的前沿模型的民主化是最好的防御形式。 “被废除的模特的大局是他们能够塑造坏演员，”德文说。 “现在的优势是防御者可以尽快采取行动。他们拥有所需的所有工具，能够对这些不良行为者进行建模，然后防御这些不良行为，我认为这将加速网络安全，这是一种违反直觉的观点。” Devon 表示，虽然 Abliteration.ai 还是一家年轻的公司，但其客户包括几家位于英国和欧洲的早期红队初创公司。