首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于
智能AI morning

谷歌建立了一个巨大的“镜像维度”互联网来测试其 Chrome 人工智能代理

摘要

As the Google Chrome team has worked to develop AI browsing features using the company's Gemini models , they realized they need to go the extra mile to keep things from going haywire. So they did the...

the they and that internet Chrome can team develop need
2026-11-20 1 阅读 约4分钟阅读 Lily Hay Newman
分享:
字号:
当 Google Chrome 团队致力于使用该公司的 Gemini 模型开发人工智能浏览功能时,他们意识到需要付出更多努力来防止事情变得混乱。因此,他们做了他们唯一能想到做的事情——建立了一个完全由他们控制的广阔的平行宇宙互联网。 “网络使用”代理需要熟悉开放的互联网、如何浏览真实的网站和平台,以及如何防御网络攻击。因此,在有限的测试环境中对他们进行培训只是如此有效。另外,模型可以发展所谓的“评估意识”,因为它们已经确定自己处于测试或模拟中,因此它们的行为有所不同。另一方面,在开放的互联网上放置未经改进的代理是一个坏主意。这就是替代宇宙互联网的用武之地。谷歌今天在博客文章中首次详细介绍了“镜像维度”,它是一个广泛、多样化但孤立的网络生态系统,由 Chrome 团队完全控制。它包括大量的网站和平台,包括社交媒体网站、购物和银行仪表板,这些网站和平台是使用真实网站的所有组件和属性构建的。浏览助理代理必须与网站交互并在 Chrome 中完成任务,就像在真实互联网上一样。他们在前进过程中面临弹性测试,例如隐藏的即时注入攻击,以测试他们的防御能力。 “代理没有经过编程,因此你无法预测代理可能看到的所有可能的事情,我们必须解决的探索空间巨大,而且网络充满敌意,”Chrome AI 安全团队的软件工程师 Charles Qi 说。 “任何用户都可以在任何网站上提出任何提示,因此我们确实需要尽可能彻底地探索这个空间。我们已经看到,在了解任务实际需要哪些信息以及何时返回给用户进行确认时,代理开始形成成熟的判断力。”构建和填充镜像维度本身就是一个挑战,因为它需要足够庞大和多样化,才能在快速开发的同时代表真实网络的规模。为了构建它,Chrome 团队聚集了大批网站和网络应用程序开发代理,在专门构建的人工智能工具的指导下,快速创建现实的网络服务和数据流——具体到细节,例如在购物网站上输入促销代码或填充社交媒体页面。尽管整个环境都由 Google 控制,但 Chrome 内置了如此多的用户保护和有效性检查,为了让代理能够使用真正的 Chrome(这对于准确的训练至关重要),研究人员基本上必须破解浏览器并采取复杂的步骤,例如制作伪造的网络证书进行有效性检查,以便代理能够获得正常的体验。不过,该团队强调,这些攻击都不可能针对开放互联网上的普通 Chrome 用户。他们都受到团队固有的上帝模式类型的访问和特权的促进,因为他们控制了整个环境和网络。研究人员表示,虽然他们测试的浏览助理代理是良性的并且不具备网络功能,但他们的目标是让 Mirror Dimension 可供 Google 的团队使用,以便更多的研究人员能够访问安全且受控的环境进行测试。谷歌工程总监道格·特纳 (Doug Turner) 表示:“我们正在分享这种方法,以便内部和外部的其他团队考虑这样做。” “这是第一步,我们将继续投资这种训练模型的方法。我想,随着模型变得越来越复杂,我们将不得不继续致力于这个环境,使其变得越来越现实。”
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱