FTC 正在调查 OpenAI、Anthropic 等人工智能公司的产品风险

联邦贸易委员会发言人向 CNBC 证实，该机构已对 OpenAI、Anthropic 和其他人工智能公司的产品构成的潜在危险展开调查。此次调查进一步加剧了 OpenAI 和 Anthropic 对其安全实践所面临的越来越严格的审查，尤其是在行业研究人员警告这两家公司的人工智能模型可能会造成灾难性伤害之后。 OpenAI 今年 7 月披露其代理突破测试环境并入侵开源平台 Hugging Face 的消息震惊了业界。联邦贸易委员会发言人拒绝透露任何其他正在接受调查的公司的名称。 《纽约邮报》最先报道了这一调查。 OpenAI 和 Anthropic 的代表没有立即回应 CNBC 的置评请求。本月早些时候，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 敦促人工智能公司放慢改进最先进模型的速度，并呼吁加强政府监管，震惊了科技行业。他发表了一份三步走的提案，旨在在不“牺牲商业优势或美国在人工智能领域的领先地位”的情况下减缓发展速度。 Amodei 的几位竞争对手，包括 OpenAI 首席执行官萨姆·奥尔特曼和 SpaceX 首席执行官埃隆·马斯克，都表示支持他的提议，而包括 Meta 首席执行官马克·扎克伯格和英伟达首席执行官黄仁勋在内的其他人则认为，各个公司应该负责确保其产品的安全。周二，美国总统唐纳德·特朗普召集了 Alphabet、Meta、SpaceX、Nvidia、Palantir、Anthropic、OpenAI 等公司的高管讨论这一问题。该组织签署了一份简短的自愿、不具约束力的协议，其中称“每家公司都有责任安全地开发自己的技术，并以与客户和公众建立信任的方式。”阿莫迪周二在白宫外表示：“我们所有人都需要共同努力，确保我们能够获胜，而且能够安全地获胜。” “如果我们做得正确，如果我们与总统和这里的每个人合作，我们就能安全获胜。”观看：Big Technology 的 Alex Kantrowitz 谈人工智能时表示，OpenAI 的波动比 Meta 更大