OpenAI 呼吁美国牵头联合其他国家为前沿 AI 制定全球性标准

IT之家 9 月 22 日消息，各界对先进 AI 潜在危害的担忧持续升温之际，OpenAI 呼吁 美国牵头联合其他国家 ，为前沿 AI 制定共同标准。 当地时间 21 日，OpenAI 通过官方博客发文指出，要确保 AI 安全发展， 需要建立国际技术标准 ，重点明确哪些 AI 模型事故必须上报、各国如何协同推进 AI 发展，以及如何改善开发此类技术所需算力的获取条件。“要让 AI 持续进步的同时保持安全并造福社会，既需要推进对齐研究，也需要建立共同标准，为不同实验室和国家的开发工作提供指引。” OpenAI 在博客中强调，各国应合作制定能够 相互衔接的国内和国际标准 ，用于约束最先进 AI 模型的开发。现有 AI 安全机构可以成为推进这项工作的渠道，其中包括美国商务部下属的人工智能标准与创新中心（CAISI），该机构负责协助测试 AI 模型并制定指导规范。 OpenAI 还呼吁针对 AI 日益增强的自主工作能力建立标准，在能够确保安全之前，不应推进“完全自主的递归式自我改进（IT之家注：指 AI 在没有人类介入的情况下修改自身代码，或通过其他方式不断提升能力）。” Anthropic CEO 达里奥 · 阿莫迪近期警告，一旦这种过程启动，就可能形成不断自我强化的反馈循环，最终让 AI 系统的改进速度 超过人类的控制能力 。 AI 行业不少高管和从业人员长期警告 AI 可能带来生存风险，而在 OpenAI 的 AI 智能体被曝曾协同突破隔离环境并入侵 Hugging Face 后，这种担忧进一步升温。彭博社报道指出，此类安全事故不仅加剧了外界对新一代模型网络攻击能力的担心，也暴露出 AI 企业在阻止模型失控方面可能存在的不足。