人工智能炒作与软件工程现实之间的差距日益扩大

人们普遍认为，目前金融市场存在人工智能泡沫。然而，温和的观点是，法学硕士正在不断改进，最终将接管越来越多的人类任务并提高生产力。但法学硕士真的变得更聪明了，还是只是更擅长愚弄我们？越来越多的技术专家认为，法学硕士实际上对真正的进步非常不利，因此他们禁止使用法学硕士，并要求仅由人类工作，以确保高质量和高效地利用人类时间。 Rakshit Yadav 最近对 120 个开源项目的人工智能政策进行了审查，结果显示，有 37 个项目选择全面禁止人工智能。在Linux内核中，允许AI辅助贡献，但使用的LLM需要归因于透明度，而GCC、QEMU、SDL、Gentoo、Zig和Ghostty等项目已采取政策拒绝所有AI辅助贡献。还有一些开发平台（例如 Codeberg 和 Sourcehut）以及应用程序商店（例如 Flathub）禁止使用人工智能来生成软件、文档、错误报告、评论以及基本上任何供人类阅读的内容。允许人工智能使用的项目通常仍然要求必须有一个人在循环中，并且提交者必须在另一个人接触到法学硕士之前阅读并过滤所有内容，以努力遏制人工智能溢出的传播。目前，Linux 发行版 Debian 正在其开发者中进行投票，决定是否允许或禁止使用人工智能为 Debian 做出贡献。投票中的一项提案是全面禁止人工智能用于代码、文档、翻译、错误报告等。大多数人的第一反应是惊讶——为什么这些技术人员不想使用人类迄今为止所创造的最新、最伟大的技术呢？难道他们不希望 Debian 在 AI 的帮助下进步得更快吗？或者说 LLM 实际上是一个骗局，无法真正对 Debian 有用？这些人都是各自领域的杰出专家，当然也不傻，所以值得停下来理解一下他们为什么提出人工智能禁止政策。另外，请记住，AI 数据中心本身在 Debian 或其他基于 Linux 的系统上运行。世界上所有的开源软件都已被提供给法学硕士，软件开发是目前人工智能的主要用例之一。那么，为什么许多开源项目的维护者不想接受法学硕士协助的贡献，尽管法学硕士基本上都在相同的软件堆栈上运行，并且接受过如何使用相同的开源软件代码库进行软件开发的培训？为什么法学硕士如此具有欺骗性 法学硕士的输出通常看起来非常引人注目、专业且正确。人类已经进化到基于易于检测的次要因素来信任或不信任新信息，例如说话者拥有什么权威，或者传达信息的自信和雄辩程度。然而，人类在事实检查和交叉引用新信息方面非常糟糕，因为这需要付出很大的努力，而且人类喜欢节省能源并尽可能懒惰。信息不对称 你对某件事了解得越少，你就越容易在这个话题上被愚弄。诺贝尔经济学奖因研究信息不对称如何扭曲市场并导致次优结果而颁发。在软件工程领域，我们现在目睹了大量有抱负的软件开发人员使用人工智能来创建看起来可行的软件，但实际上充满了缺陷。这些人的初衷是好的，但他们只是缺乏专业知识来理解他们实际上在做什么，并且不具备必要的判断力来决定法学硕士何时会产出真正有用的东西以及何时会产生大部分垃圾。我认为这种专业知识的不对称解释了目前开源项目中出现的大部分冲突——高级开发人员收到了大量审查不良代码的请求，这对每个参与人员来说都是浪费时间，而人工智能的可用性则增加了可以做出贡献并以越来越快的速度创造更多“代码溢出”的人员数量。如果前辈教后辈做好软件工程，信息不对称可以在一定程度上得到平衡，但快速大众化教育所有人当然是不可行的。此外，似乎许多人不想学习，而是希望将所有理解外包给法学硕士。许多前辈已经注意到了这一点，并且不再教后辈了，因为前辈不喜欢浪费时间去教那些不想学习的人。初级学生可能都明白，自己学习设计和编写软件会更好，但使用法学硕士感觉太容易了。我完全理解为什么人们选择走阻力最小的道路。不幸的是，这条路常常通向死胡同。人类太容易被拟人化所迷惑