首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于

操你的人工智能保障措施

2026-11-20 1 阅读 约3分钟阅读 speckx
分享:
字号:
当爱沙尼亚的冰箱遭到黑客攻击时,我半认真地开始了我正在从事的一个项目,并询问克劳德·科德(Claude Code)是否有任何关于安全性的容易实现的目标可以改进。它发现了一个很容易解决的问题,只需一行修复即可进行简单的监督,所以我就同意了。然后它因为废话“人工智能保障措施”而被停止。哦不,我作为一名高级产品工程师,我的产品已经被证明是由我控制的,我怎么敢尝试修复和预防安全问题并确保遵守当地的法律法规呢? “哦,但是你可以在这里申请豁免,等等等等”你读过这些要求了吗?首先,您必须等待多个工作日才能得到回复。您将失去任何数据保留豁免,因此希望您没有任何知识产权需要保护!哦,哦,所以请给我们你他妈的身份证或护照!我们以后不会泄露的,保证!什么。无论如何,你可能只是被操了,却得不到批准。批准以适当保护您自己的服务!这不是我第一次遇到这个问题。尽管听起来令人抓狂,但我努力跟上安全形势并采取适当的缓解措施,因为泄露敏感信息是一个大忌,我不能让这种情况发生。如果存在适用于我们的技术堆栈的流行漏洞,我需要知道公共概念验证片段是否可以针对我的服务进行修改和恶意使用。但不,克劳德会告诉你滚蛋并使用旧型号,它仍然会试图阻止你施加足够的保护。你知道谁不需要征求批准吗?罪犯。他们只是去使用没有保障措施的模型。取消的开放权重模型并不关心。不管有没有你的“安全”模型,坏人都能达到他们的目标。你可以用刀切一些食物,或者严重伤害某人。然而,我并没有被要求用政府提供的身份证件来申请购买。为什么这个工具如此特别?可以预见的是,真正让我们自己的服务更加安全的唯一方法最终涉及使用欧盟托管的开放权重模型,例如 GLM 5.3,它实际上符合我们的意图,证明了问题的存在,然后帮助解决并验证问题现在已得到解决。恭喜,人类,你让世界变得更加不安全。或者也许这就是你一直以来的计划,目的是让监管机构做出反应,并在你的首次公开募股之前为你建立护城河以抵御竞争对手?不管怎样,我只是非常沮丧。大型人工智能实验室无限制地使用相同的工具,让安全环境变得一团糟,然后他们去禁止其他人使用相同的工具来保护自己免受他们刚刚创建的威胁。他妈的混蛋。
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱