为 5 岁儿童打造实时人工智能导师

我们着手打造第一个人工智能导师，为 4-9 岁的孩子教授数学和阅读。为了让人工智能真正教一个五岁的孩子，教学法必须融入到工程中。孩子无法等待缓慢的回复，无法阅读聊天界面，也无法听清模型出错的任何内容。我们想分享一些影响我们构建实时人工智能导师的架构决策的经验教训。对于孩子来说，谈话中 2 秒的停顿对于开发人员来说是不同的，甚至对于在电话中与自动代理交谈的成年人来说也是不同的。几秒钟就足以让孩子的注意力分散并学会停下来。优秀的老师可以不假思索地做到这一点。他们会立即承认孩子的存在，即使他们隐瞒答案让孩子工作。教学就是根据当前情况选择正确的方法，而大多数方法都不是答案。当我们着手为 4-9 岁的儿童打造人工智能导师时，我们希望打造一个真正能够教学的导师，而不仅仅是一个快速响应的聊天机器人。我们知道下面的约束会很困难，而且它不是可选的：每回合都需要亚秒级响应。大多数代理通过推理预算来权衡速度以换取质量。我们的架构必须让导师扎根于教学法并实时回应孩子。我们抛弃了标准代理循环。老师不断地决定如何吸引学生，是说些什么、在白板上画画、玩游戏还是完全改变话题。如今代理的标准模式是工具循环。 LLM 输出一个或多个工具调用，等待它们执行，观察结果，并决定下一步做什么。因此，构建教学代理的直接方法是为教师可以采取的每个动作制作一个工具。但工具循环存在延迟问题。 Frontier 模型需要 2-3 秒来生成第一个令牌，然后以每秒大约 30 个令牌的速度进行解码。我们的行动平均需要几十个代币。添加往返延迟和音频播放，标准循环意味着每个句子或屏幕上的更改之间有 3-4 秒的停机时间。在我们早期的一项游戏测试中，我们实时观察了它的发生。一名六岁男孩等经纪人思考后问道：他为什么什么都不做？这是什么时候开始的啊。很无聊。 — 儿童，6 岁 在同一轮游戏测试中的另一个孩子发现她只需要在部分时间集中注意力，并且仍然可以跟上。延迟让她学会了忽视导师。那也是她停止学习的那一刻。方便的解决方案是使用更小、更快的模型。这就是范围问题出现的地方。教学是一项广泛的任务。导师可能会在一节课中的数十个动作中进行选择，而最困难的选择通常是隐瞒答案并给出提示，问一个较小的问题，或者让孩子足够努力，以便当洞察力落地时他们就拥有了洞察力。较小的模型很难遵循整个范围内的说明。我们的代理的早期版本使用了一种响应式的方法，但不断地给出答案。每次这样做，都会夺走学习发生的时刻。因此，我们构建了一个定制工具来平衡指令遵循、延迟和灵活的操作空间。该模型在单个响应中流式传输多个操作。解释器解析并执行每个动作，同时模型仍在生成下一个动作。孩子只需等待大约 30 个令牌的第一个操作，而不是等待整个响应完成。将生成与执行分开为我们带来了另外两件事。我们可以根据情况更改可用的操作。例如，当屏幕上出现问题时，代理会获得脚手架的说明和选项，而不是回答。我们可以验证每个操作，而不会在快乐路径上产生延迟。仅当流产生无效操作时，我们才会中断并重新生成，否则执行永远不会暂停。这些都不是免费的。拥有循环意味着我们必须构建自己的可观察性和跟踪，而不是依赖框架。我们正在逆流而上：前沿模型在工具使用模式上接受了大量的后期训练。如果未来的模型变得足够快，我们的安全带将被更简单的环所取代。教训：代理框架正在朝着后台工作的方向构建，其中速度和思维之间的权衡很容易。实时学习则处于另一个极端。以对话速度进行教学意味着我们自己拥有循环。一个好的导师会预测孩子下一步会做什么。真正的老师会反思学生刚刚做了什么，并预测他们下一步会做什么。把同样的课程讲一百次，你就会看到其中的模式。但你也了解这个孩子，他们在哪里停滞不前，什么让他们兴奋，什么可能让他们今天绊倒。您以一个计划开始课程并随时调整它。我们将与孩子互动的代理称为对话者。我们早期的实验表明，较小的动作