我的朋友们都讨厌人工智能；我刚刚加入一家人工智能初创公司

“我知道我们都反对人工智能，”一位朋友在群聊中发短信说。 “我们应该共同写一篇关于人工智能如何在教育中没有地位的文章，”一位专业人士在一次合作会议上建议道。现在宣布我重返人工智能领域变得很尴尬……具体来说，是专注于教育领域的人工智能。我的朋友们是对的。人工智能有很多可怕的地方。我在过去 5 个月没有写博客文章的部分原因是，我对现在互联网上人工智能写作和有关人工智能的文章过于饱和感到非常沮丧。我仍然花费数周甚至数月的时间研究和撰写我的帖子，但越来越少的人甚至在一个充斥着污水的世界中看到它们。高管们对人工智能功能的宣称过于夸大，以至于近乎欺诈。各个年龄段的人都将他们的思维外包给人工智能。然而，当你停止使用技能时，技能就会萎缩，而阅读、写作和理解文本是人类的核心部分。教授朋友们分享了人工智能的广泛使用如何颠覆了他们的课程，学生提交人工智能生成的论文，或者阅读人工智能生成的演讲脚本。开源代码存储库的维护者充斥着人工智能生成代码的低质量拉取请求。大多数人工智能驱动的教育产品都很糟糕，只追求可玩的指标。一所人工智能学校并没有吸引孩子们沉浸在真正的小说中，而是向孩子们展示人工智能生成的段落，然后用人工智能生成的多项选择题来测试他们。其他人工智能教育产品都是彻头彻尾的骗局，比如洛杉矶联合学区在创始人被指控欺诈和身份盗窃之前浪费了 300 万美元购买的产品。十年来对人工智能的担忧 我花了十年时间担心人工智能的发展方向。 2016 年，杰里米·霍华德 (Jeremy Howard) 和我共同创立了 fast.ai，受到神经网络力量的启发，并对主要人工智能公司的发展方向感到震惊。十年前，人工智能开发是一个小型、同质的精英群体的领域，他们做出具有广泛影响的决策。我们试图通过让更多背景不同的人参与到这个领域来对抗权力的集中。然而如今，少数运营顶级人工智能实验室的亿万富翁拥有比以往更多的权力。我在 2018 年的几次演讲中谈到了这一点。大型人工智能实验室的表现就好像计算能力和金钱是无限的。世界上大多数国家都无法承受这种假设。杰里米和我希望研究人员将约束视为创造力的源泉，而不是他们可以花掉的东西。引用杰里米关于 fast.ai 在 2018 年斯坦福大学竞赛中战胜谷歌和英特尔的言论，我希望道德成为数据科学家培训方式的一部分，而不是技术工作完成后的可选讨论。在旧金山大学，我创立了应用数据伦理中心，开设了数据伦理课程，并将其作为数据科学硕士学位课程的要求。然而，人工智能伦理仍然经常被视为一种营销活动，或者关注于实际人类苦难的理论问题。重返人工智能 在人工智能工作多年后，我精疲力尽。与拥有更多资金、权力和影响力的公司抗衡的努力让我精疲力尽。我讨厌看着场域朝着我试图抵抗的方向进一步发展。 2023 年，我离开了这个领域，回到了学校，获得了微生物学-免疫学硕士学位。然而去年，正当公众对人工智能的强烈反对越来越强烈时，我决定重返这个越来越令人讨厌的领域。为什么？讨厌人工智能的人有很多优点。人工智能正在破坏博客生态系统、我的电子邮件收件箱、我朋友的孩子就读的学校、开源代码等等。人工智能公司假装资源是无限的，尽管气候危机迫使我们面对清洁空气和清洁水的短缺。关于人工智能可以做什么，有大量虚假和过度炒作的说法，但在这些说法背后，它是一项真正有用的技术。我希望使用人工智能的方式不会降低我自己的批判性思维能力，也不会假装资源是无限的。当我不在的时候，fast.ai 已经成长为 Answer.AI。杰里米和他的团队正在继续我们十年前开始的工作：为更多人提供强大的技术，同时以人类判断和自主为中心。他们开发了 SolveIt 工具，人们可以直接编辑人工智能的响应并自行决定下一步该做什么。它的设计将人工智能视为容易犯错的，并让人类处于控制之中。加入 Answer.AI 是对 Jeremy 和我一起开始的工作的回归，也是对有所作为的渴望的回归。 SolveIt 的名字来源于 George Pólya 1945 年的书《How to Solve It》。波利亚将解决问题分为四个阶段：理解问题、制定计划、执行计划、回顾结果。每个阶段都需要你思考和做出判断。乔治·波利亚 (George Pólya) 的原著《当聊天机器人从