随着纽约人工智能安全法生效，OpenAI、Anthropic 面临新的监管

纽约正在准备执行该国最重要的人工智能安全法之一。该州周二开放了一个注册门户，要求 Anthropic 和 OpenAI 等大型前沿人工智能开发商在 2027 年 1 月 1 日之前注册。纽约州的安全和透明度法案 RAISE 法案将于今年年初生效。它要求大型前沿开发商（年收入超过 5 亿美元的公司）必须在其网站上发布安全框架，在 72 小时内报告重大安全事件，并发布公开模型透明度报告。新成立的数字创新、治理、诚信和信任办公室 (DIGIT) 将实施 RAISE 法案并监督大型前沿人工智能实验室。一次违规行为的罚款最高可达 100 万美元，后续违规行为的罚款最高可达 300 万美元。该州还可以对未能在新门户注册的公司采取执法行动，但发言人拒绝提供具体细节。 “科技巨头告诉我们，他们对人工智能的愿景是不可避免的，”州长凯西·霍赫尔 (Kathy Hochul) 在周二的新闻发布会上表示。 “他们告诉我们，要么加入，要么落后……只要我们赢得通往人工智能悬崖的竞赛，任何附带损害都是值得的。”周二，Hochul 还在纽约州立大学宾厄姆顿大学成立了纽约人工智能责任与研究中心。该中心将独立评估先进人工智能系统的安全性、保障性和运行情况，并与 DIGIT 合作审查公司的安全框架。 Hochul 在 1 月份首次宣布该中心将获得 5500 万美元的捐款和资金。 Hochul 表示：“我们正在建立一个智能、合理的人工智能监管国家模型，该模型将社区置于企业之上，将个人置于强大的技术之上。” 《RAISE 法案》并不是纽约通过的唯一安全法。去年，该州开始执行一项法律，要求人工智能伴侣操作员定期让用户知道他们正在与机器人交谈，并做出合理的努力来检测自杀意念和自残。 10 月，Hochul 签署了一项单独的未成年人聊天机器人安全法，限制诸如欺骗性的类人互动、情感操纵或阿谀奉承的反应，以及鼓励自杀或饮食失调等行为。该法律于 2027 年 6 月 1 日生效。其他州也通过了与 RAISE 法案类似的人工智能安全和透明度法案。加州 SB 53 于 1 月生效，要求前沿人工智能实验室建立并发布安全框架，制定举报人保护措施，并在 15 天内报告重大安全事件。伊利诺伊州的 SB 315 将于 2027 年初生效，有类似的要求，还包括独立的安全合规审计。