保护AI时代工程师的技能

十多年前，我领导了美国核电站首个全数字控制系统的控制设计。从纸面上看，它是一架漂亮的机器，其设计目的是像现代客机一样自行运行，操作员负责监视一个很少需要它们的系统。我们做出了一个决定，对于注重效率的观察者来说，回顾过去：我们故意将手动步骤留在系统可以自行执行的序列中。我们正在解决一个特定的问题。只监督自动化的操作员慢慢就不再是操作员了。手变凉了。植物实际行为的心理模型变得模糊。然后自动化双手控制回来的那一天到来了。这总是最糟糕的一天，因为自动化只有在感到困惑或遇到麻烦时才会退出。但到那时，你的主席已经很多年没有真正操作过这件事了。手动步骤的目的是让人类保持最新状态。它的设计效率很低，是故意的。碰巧的是，那座工厂从未建成。由于与工程无关的原因，它在该国围绕核电的政治和经济问题中被搁置。但设计本能比项目更长久，我开始相信，这是我能提供的最有用的想法，以应对现在席卷每个董事会的争论：当人工智能完成用于构建它的工作时，人类的专业知识会发生什么？人工智能正在扰乱工程职业阶梯数据已经难以消除。哈佛大学的一份研究报告涵盖了超过 28 万家美国公司的约 6500 万名员工，发现公司采用生成式人工智能后，初级员工就业率在六个季度内相对于未采用人工智能的员工下降了约 9%，而高级员工就业率则持续增长。斯坦福大学对 ADP 工资记录的分析也表明了同样的观点：2022 年底后，受人工智能影响最大的职业中最年轻的工人失去了优势，而经验更丰富的同事则保持了领先地位。斯坦福大学的研究人员发现，损失集中在人工智能使工作自动化的地方；在初级就业仅仅增加的地方，初级就业保持稳定或上升。因果关系仍然存在争议，并且需要诚实地说出这一点。纽约联储的研究人员将年轻毕业生失业率上升的大部分原因归因于远程工作，而不是人工智能，他们认为企业不愿雇用无法远程培训和指导的缺乏经验的人。但请注意这些解释的共同点。无论一个模型正在吸收形成性工作，还是距离正在切断围绕它的指导，两者都描述了相同的破碎机制：专业知识从高级到初级的学徒通道。不管怎样，“入门级”已经悄然意味着“需要三年的经验”。除去这些噪音，你就会面临一个看似简单的问题：如果不先成为初级工程师，你就无法成为一名高级工程师。专业知识未下载。它是通过失败的构建、死胡同的调试会话以及“到底为什么要这样做”的时刻而获得的，而有能力的人工智能现在会很高兴地饶恕新手。如果给他们足够的时间，你就会培养出一群人，他们可以监督纸上的模型，但永远不会发展出直觉来知道模型何时会自信地、灾难性地错误。大多数评论都停留在诊断上，或者提出将初级工作岗位流失视为经济问题的政策解决方案。但这也是一个工程问题，安全关键领域已经花了几十年的时间学习如何解决它。我自己的职业生涯始于自动化的尖端。我毕业后的第一份工作是验证数字喷气发动机控制器中的软件，该控制器比任何飞行员都更快地决定战斗机发动机的响应方式。即便如此，在 20 世纪 80 年代末，中心的紧张局势还是显而易见的：在常规情况下，机器的表现优于人类，但在机器没有预料到的情况下，人类是飞机与灾难之间的唯一障碍。这种紧张关系被称为自动化悖论，其中越来越强大的自动化使人类操作员的练习减少，同时只让他们面临最困难的情况。航空业反复且昂贵地了解到，当人类技能在这一差距内萎缩时会发生什么。典型的例子是 2009 年法航 447 号航班坠入大西洋。直接原因很平常。结冰的空速传感器向自动驾驶仪提供了错误的数据，它完成了它的设计任务：它断开连接并将飞机的控制权交还给机组人员。接下来发生的并不是硬件故障。这是能力上的失败。本来可以恢复的情况变成了无法恢复的情况，因为飞行员已经习惯了数千个小时的自动飞行，无法解读高空空气动力失速并手动飞行摆脱失速。飞机正在工作。自动化悄然侵蚀的培训却并非如此。行业资源