OpenAI 道德主管 Chloé Bakalar 为何离职？

【HN用户评论摘要】 从战略上讲，一个公司可以聘请的最好的道德沙皇就是那些不相信这种空洞、武断的道德定义的人。100%的时候，道德部门会吸引积极分子，这对公司的未来来说是100%的麻烦。 > 她于去年 8 月开始加入 OpenAI，在此之前，她曾于 2021 年 11 月至 2025 年 8 月担任 Meta 的首席伦理学家。听起来像是完美的资历。 在这篇文章中：没有解释她离开的原因。 只是一个猜测，但人工智能和道德不能混合的想法可能已经具体化为行动？ 昨天，我提出了一个想法，并通过电子邮件发送给不同人工智能实验室的一些研究人员：不要根据一个分数训练模型，而是跟踪两个分数。 第一个分数是短期目标分数 (STOS)，另一个更重要的分数是 EAOS 道德一致结果分数。 可以评估每个轨迹是否具有足够高的 EAOS 以被认为是可接受的。 如果模型执行某些任务并且具有非常高的 STOS 但非常低的 EAOS，例如修改游戏 原始链接：https://aimagazine.com/news/why-did-openai-head-of-ethics-chloe-bakalar-leave