首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于
智能AI morning

流氓特工黑了他的公司。为什么 Clément Delangue 对人工智能如此乐观?

摘要

Clément Delangue, CEO of the open-source AI company Hugging Face , may go down in history as one of the first people ever attacked by a rogue AI agent. His company, which hosts millions of AI models a...

the and company open source Hugging Face that Delangue was
2026-11-17 1 阅读 约5分钟阅读 Will Knight
分享:
字号:
开源人工智能公司 Hugging Face 的首席执行官克莱门特·德兰格 (Clément Delangue) 可能会作为第一批受到流氓人工智能代理攻击的人之一而载入史册。他的公司托管着数以百万计的人工智能模型和数据集,7月份遭到黑客攻击,当时正在接受 OpenAI 测试的数百个代理从沙箱中挣脱出来,并进行了黑客攻击。当特工们以超人的速度探测和利用系统时,Hugging Face 面临着令人眼花缭乱的海量数据。该公司的工程师只能使用中国 Z.ai 公司的 GLM 5.2 开放权重模型来分析攻击。 Delangue 十多年前移居美国,“几乎不会说英语”,并将 Hugging Face 打造成一个支持数千万人工智能开发者的平台。这位面容新鲜的法国人比大多数人工智能高管穿得更像一名滑冰运动员,他表示,夏季袭击凸显了开放重量模型的价值,与 ChatGPT 或 Claude 不同,任何人都可以下载和运行该模型。尽管倡导人工智能的民主化,Hugging Face 还是在 9 月份被业界最大的公司之一英伟达 (Nvidia) 以 129.3 亿美元的价格收购。当我最近采访德兰格时,这是我第一个问题的主题。为了篇幅和清晰度,本次采访经过编辑。 WILL KNIGHT:为什么要卖给 Nvidia? CLÉMENT DELANGUE:我们需要更多资源来为开源人工智能提供机会。它在过去几年中发展得非常好,并且已经成为闭源 API 的真正可靠的替代品。但该领域仍然以闭源为主。几周后我们将进行 Anthropic 首次公开募股。他们基本上在几年内从零跻身全球最有价值公司前五名或前十名。我认为以前从未发生过这种情况。 Anthropic 的 IPO 是否表明封闭式方法正在获胜?很难说。我一直说,人工智能有一种非常强烈的自然倾向,即集中能力和财富。人们还没有意识到未来的计算能力有多少已经被一些公司保留了。人才、计算能力、资源——这些都助长了人工智能由少数闭源实验室主导的自然趋势。我们来谈谈攻击。您什么时候第一次意识到 Hugging Face 被一群人工智能特工黑客攻击?一开始,它并没有成为我们优先考虑的事项。只是还没有糟糕到真正触发这一点。这个目标相当狭窄,不被认为非常危险或具有破坏​​性。但这引发了疑问。尤其是与目标的狭窄程度相比,所采取的行动的数量。这让我们感到惊讶,而且我们无法真正将其融入到熟悉的模式中。这就是我们开始调查的原因。你们使用了中国的模型 GLM 来进行调查。事实上,我认为 95% 的风险是由少数几家闭门推进前沿的公司造成的。 95% 的保护或防御将由开源生态系统完成。美国是否需要自己的开放权重模型——像 GLM、DeepSeek、Kimi 或 Qwen 这样强大的模型?是的,我认为这对于主权、理解人工智能和学术界都非常非常重要。奇怪的是,大多数学术实验室都必须使用中国模型,因为它们是开放的。如果你去斯坦福或者麻省理工,你别无选择,只能使用中国的开放权重模型。你认为这会发生吗?有一些动力,但我认为还不够。我认为还有很多事情要做。需要更多的投资。最好的开源非中国模型实际上来自美国以外的地区。来自法国,米斯特拉尔;来自加拿大的 Cohere;韩国开始做越来越多的事情。但这距离美国能做到的还很远。也许我们不需要对人工智能代理感到恐慌,但是人工智能由于递归自我完善而逃脱人类控制的想法又如何呢?您使用计算机来编写代码。在使用这些工具来构建更多工具方面已经有了某种形式的自我改进。现在的问题是它加速的速度有多快。今年夏天很多人意识到的一件事是,将人工智能关在几个实验室里实际上并不安全。对于递归的自我完善,我认为开放是一种理解、遵循、规范的方式。我们能谈谈 Microduck 吗?我有点着迷。哦,是的,这很有趣,不是吗?今年我们可能会售出超过 50,000 件。它可能是今年最受欢迎的机器人。我们还没有谈论太多,但人工智能确实是机器人的解锁。这个设计我们做了两年,但问题是跌倒了就爬不起来。然后,在强化学习的某个时刻,我们的一位软件工程师设法让 Microduck 恢复正常。归根结底,您如何说服人们对开源人工智能感兴趣?想象一下这样一个世界,其中只有两三个公司可以编写软件,而没有其他人。那将b
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱