“不健康”的 LLM 使用比您想象的更常见

汉克·格林 (Hank Green) 是一位颇受欢迎的 YouTube 博主和科学传播者，他表示，由于他对人工智能的使用受到了强烈批评，他将退出制作。格林称他对人工智能的使用“不健康”，但强调他用它来寻找研究来源，而不是编写脚本。随后在互联网这个角落引发的风暴主要集中在创作者如何将建立在真实性和可信度基础上的品牌与基于他人（通常是无偿的）作品训练的技术结合起来，而众所周知，这种技术往往会产生看似合理的谎言。格林对技术的不健康依赖的描述引起了一些关注。但他的案例表明，我们对人工智能心理影响的理解存在更大的差距。在这里，大多数公众讨论都集中在两个极点：一方面是明显的良性使用，另一方面是涉及精神科护理、妄想和精神病的不言而喻的问题案例。它们之间是一个广阔而阴暗的空间，在这个空间中，使用可能会变得强迫性、依赖性或其他不健康的情况，而不会陷入明显的危机。格林似乎在那个空间的某个地方看到了自己。许多其他人也可能这样做。考虑到法学硕士的设计方式，这不足为奇。人工智能聊天机器人本质上是为了保持聊天而构建的。就像社交媒体平台一样，它们是专门为吸引用户而构建的。专家们认为这是人工智能精神病的关键驱动因素之一，这是一个笼统的术语，指的是非常令人愉快的聊天机器人强化了妄想信念。声称公司将参与度置于用户福祉之上的说法也开始出现在诉讼中。与此同时，医疗服务提供者还提出警告，提示人们在长时间的治疗后休息一下。但同样的品质在导致精神危机之前就可能变得有害。越来越多的报道称，人们本能地求助于聊天机器人来思考问题、做出决定或寻求安慰，而另一些人则建立了似乎足够强大的情感纽带，一旦破裂就会导致悲伤。可能需要数年时间才能收集到足够的证据来正确理解该技术的影响，但这些早期报告与另一种提高参与度的技术：社交媒体的早年感觉出奇地熟悉。随着时间的推移，人们越来越担心社交媒体对我们的福祉、注意力、有时甚至是强迫性使用的影响，世界各国政府现在都在采取措施限制其使用，例如禁止儿童和青少年使用。格林的案例说明了另一种不同的依赖。他说他用它作为研究辅助工具，帮助他找到特定主题的论文和其他材料。没有什么迹象表明他以这种方式使用聊天机器人本质上是有问题的，尽管它引起了愤怒的反应或格林的道歉。这并不一定意味着该技术不会对使用它的人产生影响。尽管这项研究仍处于起步阶段，但早期研究表明，重复使用人工智能工具可能会削弱我们用来完成它所取代的任务的技能。其他研究表明，聊天机器人用户在测量特定任务时表现出明显较少的大脑活动，而其他研究则将聊天机器人的使用与批判性思维能力的降低联系起来。这些都不是结论性的，但基本的想法并不新鲜。认知卸载——将记忆、心算或方向等脑力工作从我们的大脑转移到外部工具——是一种有据可查的现象。即使只有一小部分聊天机器人的使用被认为是不健康的，人工智能采用的庞大规模也意味着数百万人仍然可能受到影响。涵盖所有可用工具的全面数据很难获得，但仅 OpenAI 今年就表示其每周活跃用户超过 9 亿。我们花了数年时间才完全理解搜索引擎如何改变我们记忆信息的方式，或者社交媒体如何影响注意力和幸福感。人工智能也不可能有什么不同。格林可能只是第一批公开表达这种感觉的知名人士之一，早在科学有证据解释人工智能如何改变我们的意识之前，许多其他人已经有了这种感觉。关注此故事中的主题和作者，以在您的个性化主页源中查看更多类似内容并接收电子邮件更新。罗伯特·哈特人工智能技术