首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于

OpenAI:加强打击网络儿童性虐待

摘要

【HN用户评论摘要】 Our account was recently banned from OpenAI for a CSAM violation. We had an autonomous agent using an image classifier switch to OpenAI (instead of a local model it should have been using) ...

the and CSAM for content NCMEC OpenAI model our these
2026-11-17 1 阅读 约2分钟阅读 rossant
分享:
字号:
【HN用户评论摘要】 我们的帐户最近因 CSAM 违规而被 OpenAI 禁止。我们有一个自主代理,使用图像分类器切换到 OpenAI(而不是它应该使用的本地模型),对用户上传的内容进行分类。对超过 100,000 张图像进行分类后,OpenAI 禁止了我们的帐户。我们要求提供更多信息,以便我们可以向 NCMEC 报告上传者并从我们的系统中删除内容。他们拒绝向我们提供有关此事件的任何信息,拒绝我们的上诉, 阅读这些关于国家失踪和受虐儿童中心整合的刑事宣誓书有点疯狂。犯罪分子将图像上传到他们的电子邮件、照片存储服务或 gen AI 服务,它被检测为 CSAM,自动将警报路由到 NCMEC,NCMEC 向用户当地的执法管辖区生成提示,他们会在短时间内(例如一两周)被捕。 与此相关的是,Openrouter 现在也在所谓的“零数据保留”端点上进行 CSAM 扫描和保留。https://openrouter.ai/blog/announcements/csam-screening/ 这是一个积极的发展。由于扩散模型使 CSAM 的供应量急剧增加,为 NCMEC 工作的人员不得不应对 CSAM 内容的疯狂增长(例如仅 2025 年就增加了 1,000%)。当存在活跃且紧急的案例,试图在这些情况下尝试定位和营救儿童时,人工智能生成的内容量使得对背景材料进行取证调查变得更加困难(通常他们如何定位受虐待的儿童 我在新加坡的同事训练了色情检测模型。在新加坡下载或保存色情内容是非法的……我想知道他们如何能够在没有数据的情况下训练模型。 原始链接:https://openai.com/index/strengthening-online-child-safety/
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱