智能AI
morning
谷歌建立了一个巨大的“镜像维度”互联网来测试其 Chrome 人工智能代理
摘要
As the Google Chrome team has worked to develop AI browsing features using the company's Gemini models , they realized they need to go the extra mile to keep things from going haywire. So they did the...
the
they
and
that
internet
Chrome
can
team
develop
need
2026-11-20
1 阅读
约4分钟阅读
Lily Hay Newman
字号:
当 Google Chrome 团队致力于使用该公司的 Gemini 模型开发人工智能浏览功能时,他们意识到需要付出更多努力来防止事情变得混乱。因此,他们做了他们唯一能想到做的事情——建立了一个完全由他们控制的广阔的平行宇宙互联网。 “网络使用”代理需要熟悉开放的互联网、如何浏览真实的网站和平台,以及如何防御网络攻击。因此,在有限的测试环境中对他们进行培训只是如此有效。另外,模型可以发展所谓的“评估意识”,因为它们已经确定自己处于测试或模拟中,因此它们的行为有所不同。另一方面,在开放的互联网上放置未经改进的代理是一个坏主意。这就是替代宇宙互联网的用武之地。谷歌今天在博客文章中首次详细介绍了“镜像维度”,它是一个广泛、多样化但孤立的网络生态系统,由 Chrome 团队完全控制。它包括大量的网站和平台,包括社交媒体网站、购物和银行仪表板,这些网站和平台是使用真实网站的所有组件和属性构建的。浏览助理代理必须与网站交互并在 Chrome 中完成任务,就像在真实互联网上一样。他们在前进过程中面临弹性测试,例如隐藏的即时注入攻击,以测试他们的防御能力。 “代理没有经过编程,因此你无法预测代理可能看到的所有可能的事情,我们必须解决的探索空间巨大,而且网络充满敌意,”Chrome AI 安全团队的软件工程师 Charles Qi 说。 “任何用户都可以在任何网站上提出任何提示,因此我们确实需要尽可能彻底地探索这个空间。我们已经看到,在了解任务实际需要哪些信息以及何时返回给用户进行确认时,代理开始形成成熟的判断力。”构建和填充镜像维度本身就是一个挑战,因为它需要足够庞大和多样化,才能在快速开发的同时代表真实网络的规模。为了构建它,Chrome 团队聚集了大批网站和网络应用程序开发代理,在专门构建的人工智能工具的指导下,快速创建现实的网络服务和数据流——具体到细节,例如在购物网站上输入促销代码或填充社交媒体页面。尽管整个环境都由 Google 控制,但 Chrome 内置了如此多的用户保护和有效性检查,为了让代理能够使用真正的 Chrome(这对于准确的训练至关重要),研究人员基本上必须破解浏览器并采取复杂的步骤,例如制作伪造的网络证书进行有效性检查,以便代理能够获得正常的体验。不过,该团队强调,这些攻击都不可能针对开放互联网上的普通 Chrome 用户。他们都受到团队固有的上帝模式类型的访问和特权的促进,因为他们控制了整个环境和网络。研究人员表示,虽然他们测试的浏览助理代理是良性的并且不具备网络功能,但他们的目标是让 Mirror Dimension 可供 Google 的团队使用,以便更多的研究人员能够访问安全且受控的环境进行测试。谷歌工程总监道格·特纳 (Doug Turner) 表示:“我们正在分享这种方法,以便内部和外部的其他团队考虑这样做。” “这是第一步,我们将继续投资这种训练模型的方法。我想,随着模型变得越来越复杂,我们将不得不继续致力于这个环境,使其变得越来越现实。”
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱