让美国人工智能做好准备：优势、劣势和建议

分析人：Jane Castleman、Sam Hafferty、Steven Kelts、Arvind Narayanan、Francesco Salvi、Hilke Schellmann 编辑：Sam Hafferty、Steven Kelts、Arvind Narayanan、Hilke Schellmann 特朗普政府已将人工智能作为其经济议程的核心，承诺重新培训劳动力，并表示必须做好在人工智能驱动的未来竞争的准备。这项工作的早期成果之一是：美国劳工部 (DOL) 和私人合作伙伴 Arist 推出的免费短信课程，名为“让美国为人工智能做好准备”，是所有美国人迈向人工智能素养之旅的有益开端。这个为期 7 天、每天 10 分钟的课程将自己定位为“你的 AI 101”，易于理解、技术信息丰富且引人入胜（完整内容请参见下文）。在这里，我们分析了它的优势，列出了我们认为当前版本应该解决的一些弱点，并为基于原始版本的“AI 201”课程阐述了一些扩展目标。我们评估了本课程的技术准确性；框架和意识形态；范围;商业纠葛；机构;和教学质量。它有什么好处？这是可以访问的。选择短信发送可以最大限度地扩大覆盖范围。它可以满足人们的需求，无需安装应用程序、创建帐户或浏览不熟悉的网络平台。每天 10 分钟的节奏很实用。它强调人工智能输出的验证。该课程一贯强调人工智能输出必须经过检查，而不是盲目信任。查找一家餐馆却发现一家美甲沙龙在其所在地开业的例子令人难忘（第 6 课，见下文）。该课程还深思熟虑地将这种怀疑扩展到人工智能生成的图像、视频和音频。它以人类责任为中心。有关同事提交人工智能生成的报告（其中包含捏造的统计数据）的测验问题（下面的第 2 课）返回了一个明智的答案：人类有责任。这在整个课程中不断重复，也是最重要的信息之一。它诚实地表达了人工智能的局限性。该课程并没有回避人工智能可能会犯错误的事实。清晰地介绍了“幻觉”一词，解释了训练数据截止的概念，并且课程反复强调人工智能是预测而不是知道或理解。对于 101 级课程，这是经过适当校准的。 AI 101 可以修复哪些问题？我们建议修复课程中的一些问题。该课程多次与自己的隐私和安全建议相矛盾。该课程在数据隐私和安全方面存在严重不一致。在课程的最后一天，它提供了常识性建议，指出“保护你的私人信息。永远不要与人工智能工具共享密码、社会安全号码、医疗记录或机密工作数据”，后来又补充说不要共享“收入数据”。但此前的一些建议和练习已经提示用户输入一些“从不共享”类型的数据。第 3 天，课程要求用户输入照片、PDF 或自己的录音。第 4 天，它表示“权力举措”是让用户“让人工智能使用你自己的数据”，包括“粘贴你的简历”和“分享你的每月开支”的说明。第 5 天，课程表示人工智能的一个很好的用例是将“医学症状”放入其中，以学习医学术语并为医生准备问题。在第 6 天，它告诉用户分享他们的地址以查找附近的餐厅。这些自相矛盾暴露了一个核心张力：人工智能工具当对你了解得更多时会更有用，因此全面禁止共享私人信息将限制它们的用处。不幸的是，对于如何在使用人工智能时保护隐私的问题没有简单的答案，也没有一种方法适合所有人。它需要基于对不同威胁模型的理解的批判性思维，包括即时注入风险、传统网络安全风险、法律风险、人工智能公司对用户数据进行培训的渴望，以及当然不同组织之间存在差异的工作场所政策。我们认识到这种程度的细微差别对于入门课程来说太过分了。我们建议隐私保护课程在课程中尽早进行，并包含有关人工智能工具提供的隐私设置的信息，例如临时或隐身聊天。与“从不分享”的语言相比，让人们至少对可能出现的问题有一个基本的了解会更有帮助，并提供他们可以了解更多信息的资源链接。测验采用的是非二分法 测验问题经常要求用户解释人工智能的失败模式和社会影响。虽然正面面对这些问题很重要，但这些问题始终有一个与课程框架相对应的“明显正确”的答案。几个错误的答案都是荒谬的稻草人（“人工智能喜欢编造一些东西来测试你”，“人工智能的互联网连接很慢”）。这