AI创业，道德有价值吗？

本文来自微信公众号： 洒家君泽 ，作者：洒家君泽，头图来自：AI生成 做世界模型的创业公司，国内这半年冒出来近百家。大多数名字，听过就忘。田柯宇不一样，「投毒」两个字让人过目不忘。 这一点他自己也清楚，在新近节目里，被问到这件事是否让他更容易被看见，他承认，关注度叠加最佳论文，「好像一个双重buff」。 两年前，他被指控在同事的模型训练里动了手脚，现在，五源资本、IDG等机构投了近3000万美元，投后估值约2亿美元。公司还没有公开名称和产品，团队十人左右。 他要组建自己的公司，支配几千万美元，招募研究员。 一、各自表述 2024年8月，字节辞退了在商业化技术团队实习的田柯宇。11月5日的内部通报称，他在当年6月至7月间，因对团队资源分配不满，通过编写、篡改代码等方式恶意攻击研究项目的模型训练任务。字节随后起诉，索赔800万元，并要求他公开道歉。 田柯宇在播客的说法，2024年组里来了一个新实习生，先是占用别人的资源，后来直接停掉别人的程序，专挑性格内向的人下手。他们向leader反映，没有结果。于是他让GPT写了一个程序，进入对方的任务，把它卡住或停掉，好让对方多占的资源被收回。前后大约十天，五次左右。 他说，除了那个实习生，其他人的实验他「绝对没有碰过」。他承认违纪，也承认浪费了大家的时间，但不接受「投毒」和「攻防」的说法。 节目上线当天，一个名为「受害者陈述与证据整理」的网页出现在GitHub上，中英双语。五个人实名作证，其中包括视频生成项目Goku的两位共同一作，以及另一个项目LlamaGen的第一作者。 按照他们的说法，破坏从2024年3月就开始了，比字节通报认定的时间早了三个月，一直持续到7月底。最早针对LlamaGen，往训练要用的文本编码器权重里掺了噪声。4月以后，字节加大视频生成的投入，目标转向Goku。 网页列出了从他个人目录里找到的文件。按网页的解释，训练模型，就是让它沿着误差变小的方向一步步走，他改了优化器，让模型朝误差变大的方向走。他把每一步的步子悄悄放大一倍，日志里的数值却一切正常，好比油门被踩深了，刹车也断了，仪表盘还显示匀速，显示一切正常。 数据本该按固定的顺序洗牌，出了问题可以原样重放、找出原因，他把洗牌的依据换成了当前时间，每次都不一样，问题就再也复现不出来。他还会以极低的概率让某台机器悄悄跳过和其他机器的同步，整个任务随之卡死；又在共享盘上留了一个后门，可以远程下达命令。被他替换过的系统文件，修改时间都被改回了原样。 那几个月，团队以为碰上的是大规模训练常见的偶发故障。北京、上海和西雅图三地的人轮班盯着训练，早晚各开一次会交接。同一个程序在一百台机器上跑，九十九台正常，一台异常；找到那一台重启，又恢复正常。据他们说，田柯宇一直在排查的群里，也参加每天的会议。 2024年7月30日，有人在一台机器的训练环境里发现，训练框架PyTorch的源码被改过。登录记录显示，除了机器的主人，只有田柯宇登录过。他解释说，只是想学习一下代码。第二天，团队在他的个人目录下找到了那批文件。 「停掉或卡住一个人的任务」，解释不了让训练悄悄跑偏的那些代码，也解释不了从三月拖到七月的时间。 网页还提出了一项更重的指控：田柯宇当时负责的VAR文生图项目，部署给团队每天测试的模型其实是开源模型PixArt，系统还会自动在每个提示词前加上「City」，防止同事拿同样的提示词去比对。当然，这一项目前只有受害者一方的叙述，没有公开的技术证据。 二、一个实习生 一个实习生，为什么能做到这样的事情？ 田柯宇从大二开始在商汤实习，待了三年。2021年到字节，又是三年。出事那年，他是VAR论文的第一作者，负责VAR的文生图项目，这个项目用了上千张GPU。 这些权限，看起来不像是「实习生」应该拥有的。 不过，前沿研究要的是能做出论文的人，最合适的往往是在读的博士生。他们以实习生的身份进来，做的是核心研究，论文署着公司的名字。同一个组里，LlamaGen也是一名实习生主导的项目。押同一个论点的两个项目，挑大梁的都是实习生。在这样的组里，实习生和正式员工的分别主要写在合同里，日常工作中几乎看不出来。 权限跟着工作走，与头衔无关。训练资源按项目分，负责一个上千卡项目的人，就得能登录训练机器、改训练环境。研究本身也离不开这样的权限：改库的源码、编译自定义算子、给PyTorch打补丁，是调试分布式训练的日常。按受害者的描述，那套共享存储允许同组的人读写彼此目录里的文件，为的是省掉动辄几个TB的重复存储和计算。 权限之外，还有信任。受害者在材料里写，大家从没想过，造成问题的人可能就坐在排查的同事中间。排查的进度对所有人公开，也是因为彼此信任。 而且，AI竞争争分夺秒。2024年2月，OpenAI发布Sora。4月，字节启动Goku。6月，快手发布可灵。按受害者的说法，字节内部另有两个团队在做同类研究，管理层要求收缩项目、集中资源。没有人会在这时候为了防备同事，放慢自己的实验。 权力来自能力，也来自信任，来自大时代下的不得不为。所以，一个实习生就能用管理员权限替换系统里的PyTorch文件，能把推理流程打包成二进制交给同事部署，而公司的安全团队盯的是外部入侵和数据外泄，同事让同事的实验悄悄跑偏，不在任何一项监控之内。 出事以后，「实习生」这个称呼还起了一个作用，公众听到的是一个年轻人犯了错，公司显得只是用人不慎，而一个有才华的误入歧途的年轻人，总可以也似乎应该获得第二次机会。 三、两年之后 2024年10月，字节的公开声明确认了恶意干扰，同时称网传「8000多卡、损失上千万美元」严重夸大，并强调不影响商业化的正式项目。 字节称已将他的行为同步给行业联盟和所在学校，学校如何处理，没有公开。2024年12月，NeurIPS公布当年的最佳论文，VAR在列。官方说明写道，评选只看论文的科学价值，不考虑作者等其他因素。 彭博社查阅的判决显示，法院认定田柯宇违约，判他赔偿50万元，并失去全部实习工资。字节起诉时主张的是侵权。据田柯宇说，公开道歉的请求被驳回。字节已经上诉，二审仍在审理。 田柯宇在节目里说，50万元正好约等于他三年的实习工资，加上公司打官司的一些法律支出。他认这个判决，觉得很公允。 事情过去已经两年，在这两年里，他开了公司，拿到了钱。 世界模型是今年一级市场最热的方向之一。9月底，AMD宣布以约82亿美元收购李飞飞创办的World Labs。 田柯宇的公司还没有公开名称，也没有公开的模型。按报道，团队要先造一套约20万个符号的「视觉词典」，再用约1亿小时视频训练，2027年发布完整模型。在节目里，他说模型做到近千亿参数仍未饱和，而且这样的规律是唯一的；还说抛三枚铜币，模型能在硬币落地前预测出结果，现阶段已经实现。 这些话可能是真的，也可能有夸大，外人无从判断。世界模型连统一的评测标准都还没有。一家隐身的公司，外界能看到的，主要是创始人自己的陈述；投资人在尽调里看到了什么，没有公开。 资本主要看能力。那篇最佳论文，成了他融资时最硬的履历。能力足够强，就会有大儒帮忙辩经，过去的事就有人愿意替他解释。比如有媒体从判决反推，认为定性只是违约，没有到刑法的范畴，说明性质不算太严重。 不过，道德真的只是锦上添花吗？ 我们有