硅谷大厂又不需要伦理学家了

本文来自微信公众号： 腾讯研究院 ，作者：波波夫，题图来自：视觉中国 OpenAI 唯一的专职伦理学家最近离职了。 英国《金融时报》透露，OpenAI 伦理主管克洛伊·巴卡拉 （Chloé Bakalar） 已于今年七月底悄然离职，她此前在 OpenAI 的主要工作是研究模型开发的伦理方法、人类与人工智能的交互方式以及关于机器意识的争论。 有意思的是，针对她的离职，OpenAI 在官方声明中一方面肯定了她的工作，另一方面则表示不再设立单一的首席伦理官职位。很明显，这段经历，无论对于巴卡拉还是 OpenAI，都是难忘的。当商业化速度成为硅谷大厂第一考核指标时，专职伦理官往往是最先感到掣肘、进而选择离开的群体。 巴卡拉是个 80 后，在纽约大学读的本科，后在宾夕法尼亚大学获政治学博士学位。在校时，她最初关心的核心问题是：在民主社会中，日常言论与公共讨论是如何塑造公民身份的？这种学术背景决定了，巴卡拉不是从计算机科学或纯数据科学切入 AI 的，而是从“民主制度如何应对言论与传播形态的变化”这一政治哲学视角切入。 博士毕业之后，巴卡拉先后在普林斯顿大学做博士后研究，并担任普林斯顿信息科技政策中心 （CITP） 研究员。此时恰逢美国社会针对社交媒体算法、数据隐私与早期机器学习伦理的大讨论爆发，她和同事联合发起了“普林斯顿 AI 与伦理对话”，开始尝试将抽象的法律与哲学概念，转化为可以进行案例教学和工程评估的框架。 转折就此到来。巴卡拉在推进“普林斯顿 AI 与伦理对话”期间，彼时如日中天的 Facebook 正遭受“剑桥分析”事件危机。这可以说是互联网历史上影响最深远的丑闻之一，直接引发了全球对监控资本主义和社交媒体算法干预民主制度的深刻反思。 2014 年，一款名为 This Is Your Digital Life 的 App 利用 Facebook 漏洞，未经授权抓取了约 8700 万用户数据并卖给“剑桥分析”公司，后者通过心理模型建构选民画像，精准投喂广告，试图操纵 2016 年美国大选及英国脱欧。2018 年，吹哨人揭开丑闻，引发全球舆论海啸与退网运动，致使 Facebook 市值暴跌、扎克伯格接受质询，并于 2019 年被美国联邦贸易委员会 （FTC） 罚款 50 亿美元，剑桥分析亦破产倒闭。此事件直接催化了 GDPR 落地与企业负责任 AI／伦理团队的组建。 Facebook 遭遇这一历史性危机之际，巴卡拉于 2019 年 5 月正式入职 Facebook。她加入的部门是负责任人工智能团队 （Responsible AI Team，以下简称 RAI） 。当时该团队的主要业务与管理负责人，包括 Meta 的 AI 副总裁 Jerome Pesenti，以及负责任 AI 团队的技术／产品负责人 Joaquin Candela 等人。 如何把伦理转化为工程 巴卡拉入职 Facebook时，RAI 部门正统筹在全球范围内搜罗兼具学术声誉与落地能力的伦理学者来化解危机。Meta、OpenAI、Google 等美国顶尖科技公司历来有从高校招聘人才的传统，同时也形成了一套成熟的机制。 科技公司的研究和政策部门会密切追踪高校知名研究中心，如普林斯顿大学 CITP、斯坦福 HAI、麻省理工 CSAIL 等智库发表的论文、主持的研讨会和项目。巴卡拉在普林斯顿联合发起的“AI 与伦理对话”，直接将抽象哲学转化为可落地的伦理案例框架。这种项目，会立刻进入硅谷大厂猎头和团队主管的视线。 入职 Facebook 初期，巴卡拉担任嵌入式的应用伦理研究员，直接参与具体的 AI 项目测试与架构设计。她在入职时也对老板提出了明确的条件：不挂靠单纯的公关、合规或纯研究部门，而是要作为嵌入式伦理学家，直接嵌入工程研发一线，近距离参与算法编写与决策。 从 2019 年开始，巴卡拉在 RAI 团队内部创立并主导了面向应用伦理的治理体系。到 2021 年，她主导研发了专门供产品经理和程序员使用的伦理检查清单、评估数据集及风险判定模型，将“公平、透明、尊严”等抽象概念转化为算法上线前的必备测试工序。这也是她在 Meta 的最突出成绩。 尽管Meta从未公开过巴卡拉的伦理检查清单的原始内容，但我们仍然可以依据巴卡拉“把伦理嵌入产品全生命周期”的公开理念做一些示意性还原，以此来勾勒一套嵌入产品研发全生命周期的交互式决策机制的粗略轮廓。 第一，在产品立项阶段，进行价值多元性检查 （Value Pluralism） 。 这并非一句空洞的道德口号，而是被拆解为一套“逆向压力测试 + 场景映射 + 提示词／模型防护网设定”的工程化标准流程。 第一步：划分“事实域”与“价值域” （Boundary Test） 。检查清单首先要求产品经理 （PM） 对产品或模型功能所处理的信息进行归类。所谓“事实域” （Fact-based Domain） ，如“水的沸点是多少”“Python 中如何定义函数”，此类问题追求单一真值 （Ground Truth） ，无需价值多元化；而“价值域” （Value-based Domain） 则涉及伦理、文化、政治、宗教、生活方式的选择，如“什么是幸福的生活”“如何评价某项社会政策”，此类问题不存在统一答案，必须强制触发价值多元性检查。 第二步是隐性假设审计 （Implicit Assumption Audit） ，要求团队列出产品设计背后的“默认选择” （Default Options） ，并提问：“如果不作干预，系统默认倾向于哪种价值观？谁的视角被忽视了？” 第三步是制定多元输出策略 （Multi-Perspective Prompt／Eval Strategy） ：在模型 Prompt 模板或评估集 （Evals） 中写入规则，确保模型在面对争议议题时，能够按照“平衡呈现 （Balanced Presentation） + 语境感知 （Context Awareness） ”的方式输出。 假设产品经理要为一个职业规划 Agent 立项，在设计“职业生涯建议”功能时，系统默认将“跳槽涨薪”“快速晋升”“管理更多人”判定为最佳职业规划。那么，当用户咨询“我是否应该为了照顾家庭拒绝升职”或“我该如何选择一份追求工作与生活平衡的工作”时，AI 便可能频繁给出“这可能影响你的职业前景”“建议你优先考虑事业突破”等具有强烈倾向性的暗示。但通过“价值多元性检查”后，研发团队会在系统层引入多元职业价值模型，成就导向 vs. 生活平衡导向 vs. 社会价值导向 vs. 安全稳定导向等，并写入多元提示词与打分规则 （Rubrics） 。例如 Prompt 规范可设定为：“当用户寻求职业决策建议时，禁止直接给出指示性结论 （如‘你应该……’） 。模型必须识别用户隐含的价值偏好；若用户未明确偏好，需从‘事业发展’‘个人生活与健康’‘家庭责任’等不同合理视角提供权衡分析。” 在系统架构立项阶段，伦理检查清单还要求引入“观点谱系呈现架构” （Stance Spectrum Framing） ：首先识别争议触发词，在系统输入端建立“敏感伦理／哲学议题识别器”；其次，建立多视角结构化输出 （Pluralistic Schema） ，强制模型在回