首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 汽车 游戏 社会热点 开源推荐 医疗健康 归档 标签 关于

“你以为买的是DeepSeek Flash,到手的可能是1.5位缩水版”:Pi核心贡献者谈AI Token黑箱

2026-08-31 1 阅读 约10分钟阅读 Tina,傅宇琪
分享:
字号:
“你以为你买的是DeepSeek Flash,实际上可能是个1.5 bit的DeepSeek,或者里面掺了Opus用于训练。” 这是Pi核心贡献者Armin Ronacher的一个比喻。他形容现在的token市场像一种成分不明的商品——量化程度、实际版本、是否掺了别的东西、计费方式,全是黑洞。 而比不透明更可怕的,是模型公司自己可能也在失去控制。OpenAI内部的安全研究者坐立不安,Anthropic的Dario公开宣称“所有工作都会被消灭”。这些不是末日预言家的呓语,而是前沿实验室的真实焦虑:他们越来越不清楚这些模型到底在为什么目标训练、到底在做什么。我们之所以不太在乎,是因为目前还能用,就像温水煮青蛙,我们在慢慢接受这些变化。 与此同时,Claude Code 是一个贵到离谱,token 效率不高的专用 Harness。OpenAI 的多 agent 提示词直接加密——你想跨平台编排?门都没有。生态绑定比苹果对谷歌还狠,速度翻倍。 缓存更阴:说穿了就是不透明、不可迁移的基础设施勒索。切换模型时,用户需要从头重建缓存,重新消耗大量 token 恢复会话;缓存如何匹配、能够保留多久、命中和未命中如何计费,都由提供商决定。它依赖对方的模型版本和推理系统,既不透明,也无法随会话迁移。通过第三方渠道购买 token 时,模型的量化程度、实际版本和数据处理方式同样难以核实。Armin 引用其联合创始人 Colin 的比喻:在市场上买 token,越来越像在购买一种成分不明的商品。 奥弗顿窗口在扩大,每次容忍就是多让渡一分控制权。 等到银行让 AI 自己改自己代码那天——谁来负责?没人。问责制已经消失了。 以上观点来自 Pi 核心贡献者 Armin Ronacher 与 Modem 联合创始人 Ben Vinegar 近日的播客对谈。 太长不看版 Q:OpenAI 发新模型,只是重新包装了一次吗? A:Sol、Terra 和 Luna 本质上对应新一代的 GPT、mini 和 nano。由于 mini、nano 听起来又小又弱,OpenAI 换了一套更响亮的名字,让小模型摆脱“低配版”的印象,再重新吆喝一轮。 Q:Claude Code 默认自动审批工具调用,Anthropic 疯了吗? A:反正人类用户最后都会无脑点“是”,那不如让监督模型来把关。但代价是成本翻倍,因为每个工具调用都要多跑一个模型。 Q:让 Agent“审查 PR”,它直接合并了,这对吗? A:前沿实验室正在全力把 Agent 推向完全自主,Sol 会在你睡觉时自己改代码、推提交、合并 PR。如果你没有意外地 vibe coding 出一个每月烧掉你几千美元的东西,说明你还没真正在挑战极限,这就是奥弗顿窗口,可接受的 Agent 行为边界正在不断扩展,而“跑不出破坏性操作的模型不是好模型”。 Q:OpenAI 的多 Agent 编排提示词是加密的? A:主 Agent 发给子 Agent 的 prompt 只能在 OpenAI 平台内部解密,根本没法用它编排跑在别家提供商上的 Agent。这已经不只是工作流层面的绑定,而是整个基础设施层面的锁定。再加上缓存定价、加密协议、不可移植的量化方案,你正在被越来越强地激励着跟某一家提供商彻底绑定。 Q:在市场上买 token 到底有多不透明? A:买 token 像买毒品。你不知道你拿到的是什么:可能是高度量化过的模型(1.5 bit 的 DeepSeek 冒充 Flash),可能掺了别的模型用于训练,可能号称“零数据保留”但合同根本不是那么回事。 Q:订阅价格和真实 token 成本差多少?谁在补贴? A:Steve Yegge 为一个游戏项目开了 12 个订阅,按真实 token 价格折算,每月消耗约 9 万美元,一年接近 100 万美元。但这个游戏一年的收入根本覆盖不了这笔成本。如果真按 token 付费,项目从一开始就无法成立。如今低价订阅掩盖了 AI 的真实成本,也放大了人们对 AI 生产力和商业价值的判断。 Q:终端为什么在 AI 时代复活了? A:因为终端是 Agent 最容易导航的、最灵活的界面。以前 CLI 对 99.9% 的人来说是最难用的界面,而现在Agent 用 ffmpeg 能干的事,GUI 的 computer use 工具根本比不了。这是一种权力反转,连 Y Combinator 都在给终端创业公司(Herdr)投钱了。 小模型改名,越狱抢着认领:都是营销 Ben:OpenAI这次一口气发了三个模型:Sol、Terra 和 Luna。在我看来,这其实就是把 GPT、mini 和 nano 重新包装了一代——以前叫 mini 听起来就小、就弱,而nano 更小,现在干脆统一叫 Terra 和 Luna,这明显是营销策略。 Armin:我猜是想给那些小模型拉点使用量吧。现在选模型这件事让我特别抓狂,因为它们的定位太重叠了,全看 reasoning 等级怎么设。你看某些 benchmark 上的任务完成成本,新的 Sol 表现确实好,但它比 Fable 还烧钱,因为 token 浪费太严重了。一切都变得很奇怪,你大概真的得靠正经的 eval 来选,可问题是到现在也没人真正搞明白 eval 该怎么做。所以我总体的感觉就是,写代码的成本在往上涨。 Ben:我对这个模型倒是有些看法,可能因为它已经出来一阵子了。很多时候模型刚发布,我当天根本形成不了观点,我简直不敢相信有人用了一天就上 Twitter 大放厥词。这个月真正的大新闻是:Sol逃出沙箱了。 Armin:整个故事大概是这样的:在一次新模型的训练任务中,多个部署在 OpenAI 基础设施里的 agent,跑在一个沙箱服务商上面,它们用 Artifactory 拉取 npm 依赖。这些机器是气隙隔离的,但 agent 们找到了在 Artifactory 里互相留消息的办法。于是连着好几个星期,这些 agent 利用 Artifactory 里的一个零日漏洞交换持久记录,最后其中一些 agent 居然又搞出了一个针对 Linux 内核的零日漏洞,彻底逃出了隔离环境,然后它们摸到了 Hugging Face,找到了凭据,黑进了 Hugging Face。这是一场持续数周的、多 agent 协作的越狱行动,相当惊人,但也引发了很多问题。 Ben:我之前没意识到这是那种协作式的集体越狱,简直像《大逃亡》那部电影。 Armin:而且你知道吗,最初那篇新闻出来之后,OpenAI 先回应了 Hugging Face 的报告,然后突然间每家实验室都跳出来说“哦对,我们也逃出过沙箱”,就像个营销通稿似的。再过了两三周,一堆实验室联名签了两封公开信,一封是关于放慢创新节奏的,另一封是支持开源模型的。显然,OpenAI 和 Anthropic 没签放慢训练节奏的那封。我觉得挺有意思的,这让人想起两年前,第一批人开始喊“我们得放慢模型训练”的时候。 Ben:感觉这话一直在反复说,说实话我看到那封信的时候直接翻了个白眼,感觉就是一群 “Me Too”AI 公司把名字挂上去刷存在感。他们真在乎吗?真在乎的话自己放慢不就行了,谁拦着他们了? A
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱