智能不是主要瓶颈

编辑：需要明确的是，我并不是说科幻科技界的每个人甚至大多数人都这么认为。但有些人肯定会这样做（例如，开头的对话是逐字记录的），而这篇文章是关于一个特定的核心场景，其观点在话语和政策制定中具有不成比例的分量。在最近的一次晚宴上，人工智能实验室的一个人非常直白地问我为什么要做我所做的事情——为什么我要写关于医学进步的监管瓶颈的文章，为什么我要把时间花在与临床试验相关的政策上。他用一种最能概括为怜悯的眼神看着我。我告诉他我的想法：在人工智能时代，医学将比以往任何时候都更加受到监管和临床试验的困扰，而投入到更快的临床前研究中的数十亿美元不会触及这个问题，尽管它本身并不吸引人。我提到了住房：几十年来，我们拥有建造更好住房的技术，但它比以往任何时候都更昂贵，因为住房是一个政治意愿的问题，而不是纯粹的能力问题。他难以置信地看着我。当然，像我这样的聪明人应该知道人工智能，或者更好地说，AGI 很快就会具有超级说服力——在一系列基准测试中，它的说服力已经超过了专业辩手。我说：“嗯。”他说，“是的，是的”，语气就像一个深谙事物的人，像我这样的凡人，不是人工智能实验室的员工，根本无法掌握这些东西。他再次用那种怜悯的感觉看着我，就像一个人看着一只稍微有精神障碍但可爱的动物等待即将被屠杀一样。那天晚上，我彻夜难眠，翻来覆去，想知道我的生活是否还有意义。我所做的每一个决定是否在某种程度上都是一个错误。我可以做得更好吗？但当太阳升起时，我又回到了同样的想法：无论人工智能变得多么“智能”，智能往往都不是现实世界中事物变化的主要瓶颈。当比你聪明并且能够获取特权信息的人坚持相反的观点时，你就很难坚持这种信念。毕竟，这一切可能只是等待被宰杀的天真的仓鼠的“应对”。一只被 AGI 看守的害怕的仓鼠但是，我仍然会坚持我的信念。因为这些实验室的人们通过押注曾经看似疯狂的想法而发了财，所以现在世界几乎相信他们所说的一切。我认为这是一个错误。人工智能并不能解决大多数人真正关心的问题，包括医学问题，除非我们清楚地思考这些问题。目前，我不相信我们是这样的，或者至少没有达到我们能够做到的程度。我的案例很简单，它来自两个方向。一是我在旧金山的社会动态中观察到的，以及那里的人们如何谈论这一切。另一个是我在一个我碰巧了解的领域注意到的：医学。最常被用来证明人工智能风险合理性的承诺之一是它将“治愈疾病”。每个主要人工智能实验室的首席执行官都这么说，而且投资者似乎也同意：任何一个有人工智能故事的生物技术初创公司都会获得令人印象深刻的估值，尽管更传统的生物技术公司正在为融资而苦苦挣扎并死去。但正如我长期以来所主张的那样，整个事业受到许多与“智能”本身无关的事情的瓶颈，而这一点经常被忽视的程度令人奇怪。如果你将科学进步视为智力的粗略代表，并询问它是否能够单独阻碍进步，那么证据无处不在。以埃鲁姆定律为例：几十年来，每美元研发批准的新药数量一直在下降，尽管我们的科学工具已经变得更加强大，这与更多原始能力的存在所预测的完全相反。或者以像 Adaptimmune 这样的公司为例，该公司已将两种治疗罕见癌症的变革性疗法推向市场，但由于开发这些疗法的成本，仍在为生存而奋斗。或者我们可以听听“婴儿 KJ”（通过定制基因编辑疗法拯救的婴儿）背后的科学家们的心声：他们拥有科学上所需的一切，但仍然无法轻易地为下一个孩子重复这种治疗，因为部分由监管要求驱动的制造成本阻碍了这一过程。图 2. 尽管基础科学取得了进步，但自 1960 年以来，药物研发生产力一直在稳步下降。在过去的十年中，由于多种因素的综合作用，包括预测有效性的提高（通过例如遗传学），但也由于更大比例的努力针对肿瘤学和罕见疾病，由于未满足的需求较高，审批负担往往较低，因此在过去十年中，制药生产力的减速似乎有所改善。具体来说，在生物制药领域，一个巨大的瓶颈是临床试验（我知道我一直在谈论这个），目前临床试验需要大约七年的时间，每种药物的成本超过 10 亿美元。审判不仅仅是形式。他们产生预