这些人工智能专家希望公开进行高风险研究

一些大型人工智能公司似乎认为，防止模型变得过于混乱或过于恶作剧的最佳方法是将它们锁在实验室内。人们的想法是，如果只有少数人可以访问它们，那么当研究人员试图了解它们的能力时，它们在现实世界中造成的损害就可以减少。两位行业科学家内森·兰伯特和汤姆·齐克的看法恰恰相反。两人创立了一个非营利组织 Trillium Labs，该实验室将以更透明的方式致力于人工智能研究的各个领域，包括递归自我改进 (RSI) 和代理等潜在问题领域。实际上，这意味着公布实验细节，以便外部科学家可以研究和复制它们。兰伯特表示，前沿人工智能实验室保守工作秘密的方式降低了社区审查想法和贡献新方法的能力。他认为，让外部专家了解模型是如何构建和调整的对于降低风险至关重要。兰伯特告诉《连线》杂志：“在过去的几千年里，人类的工具箱里已经有了科学方法，可以作为减轻危害和建设更美好未来的方法。” “目前前沿人工智能发展的封闭轨迹正在让我们倒退一步。”世界上最强大的模型，例如 OpenAI 和 Anthropic 的模型，只能通过应用程序或应用程序编程接口 (API) 访问。通常，这是以模型构建方式及其行为方式的透明度为代价的。其他公司，尤其是中国的公司，提供相对强大的模型，可以下载并在用户自己的硬件上运行。例如，中国公司小米最近发布了涉及其一款模型的大型训练的实时细节。斯坦福大学的研究人员正在公开预训练人工智能模型 Marin。该行业目前陷入了一场关于哪种策略最好的争论，主要是因为现在的前沿模型有多么强大。它们可以自动发现新的软件漏洞，并自动探测和侵入系统，而最近备受瞩目的黑客热潮引发了更严格的审查。限制访问系统的支持者表示，将权力掌握在少数值得信赖的人手中至关重要，而兰伯特和齐克阵营的人则认为，对风险的共同理解意味着我们所有人都会过得更好。