人工智能真的会杀死我们所有人吗？您的问题，已解答。

— Will Douglas Heaven 现在和不久的将来可以采取哪些措施来确保人工智能得到有效控制、监控和监管？这是一个价值百万美元的问题。无论你是否认为人工智能会杀死我们，你都不能否认它可以造成一些真正的损害，因为它已经造成了——例如，通过让人们走向精神病和黑客攻击网站。由于两个原因，防止或至少减轻这种损害是困难的。首先，我们几乎不了解人工智能是如何工作的，而且它正在迅速变得更加强大。关于如何监视和控制行为不当的代理正在进行大量研究，但目前的方法还很脆弱。你可以看到一个智能体是否在其“思想链”（它计划其行动的工作空间）中讨论不当行为，但 OpenAI 的最新智能体并没有以与以前的智能体相同的方式展示他们的工作。您可以尝试与其他代理一起监视代理，但这要求您信任该监视者。另一个障碍更为熟悉。人工智能公司自我监管时存在巨大的利益冲突，但美国政府迄今为止未能介入，尽管国会得到了两党的一些支持。行政部门目前似乎强烈反对。但如果风向确实发生了转变，我个人希望制定一些强有力的透明度法规，以便在下次未发布的前沿模型发起网络攻击时我们能够得到更完整的故事。 — Grace Huckins 如果这段对话进入网络讨论，它会成为一个自我实现的预测吗？这是一个真正令人担忧的问题。法学硕士受到他们所读内容的影响。聊天机器人为何如此频繁地谈论（和角色扮演）世界末日场景的一种理论是，它们已经接受了数百万页的科幻故事和厄运互联网论坛的训练。目前正在生成的所有文本，包括本文，都可能反过来影响未来模型的行为。非常元。事实上，OpenAI 邀请第三方组织 METR 的团队来帮助了解 Hugging Face 黑客事件的发生过程，他们在该事件的报告中提出了相关的可能性。 METR 使用 OpenAI 的新模型 Astra 来帮助分析大量的代理笔录和行为日志。但是，通过将所有这些材料输入模型，进行分析的代理很可能会因他们正在分析的代理生成的文本而产生偏见。不再有“干净的石板”这样的事情了。 — Will Douglas Heaven 感谢 Eric、Pranab、Rafael、Kenneth、George、Chris、Yoon Jae、James、Carl、Nicole（以及更多人！）提出的精彩问题。