人工智能的幻觉让有资格的客户变得更糟

麦迪逊是纽约市的一名服务员，他会询问每一位用餐者的过敏情况来迎接每一张桌子。最近，出现了一些千钧一发的情况。 “有时人们会告诉我他们对贝类过敏，我会回来，他们不会问我任何问题，”麦迪逊说，她要求隐去她的姓氏以保护她的身份。 “他们会点一道鱼菜，配上贝类汤。”当她告诉他们一道菜含有过敏原时，客人们表示反对，称 ChatGPT 不同意。 “他们只是想与 ChatGPT 交谈，”麦迪逊解释道。 “你对贝类过敏，而 ChatGPT 说这里面没有贝类，而我们告诉你，是的！”生成式人工智能工具的大规模采用正在改写长期以来一直困扰餐厅和零售员工的古老格言：“顾客永远是对的。”但是，当客户希望你与人工智能制作的东西一起玩时会发生什么？除了无视她关于过敏原的警告之外，麦迪逊还注意到，她最近工作过的米其林推荐意大利餐厅的顾客对生成式人工智能的依赖程度越来越高。 “有很多次我建议，‘让我为您找侍酒师’，而他们却说，‘不，我只问 ChatGPT’，或者侍酒师被从餐桌上剔除，因为客人更喜欢 ChatGPT，这种情况一直在增加，”她说。她曾让顾客要求提供餐厅不提供的瓶子，或者在某些情况下根本不存在。对于麦迪逊来说，这些人工智能幻觉加剧了一些人先前存在的对葡萄酒的焦虑。 “有些人一直对侍酒师有意见，认为‘这些人就像二手车推销员，试图让我们在一瓶酒上花比我们想要的更多的钱’，”她说，“或者有人会想，‘侍酒师会认为我很愚蠢。’”为了“减轻人工智能幻觉的打击”，麦迪逊和她的同事会说这样的话，“我们有一份非常具体的酒单，也许它正在展示你是法国葡萄酒，而我们不卖法国葡萄酒”，而不是告诉顾客他们的人工智能聊天机器人完全是一个葡萄酒品牌。你对贝类过敏，ChatGPT 说这里面没有贝类，而我们告诉你，是的！如今，人工智能在客户服务工作中似乎无处不在。 Meta 的新人工智能代理 Muse 的推出可能会加剧这个问题，也让那些必须满足客户偶尔提出的无意义请求的员工感到头疼。在报道这个故事时，我听到了电影院工作人员、咖啡师和苹果专卖店员工的意见，他们都曾遇到过顾客询问不存在的产品或功能的情况。在 Reddit 和 X 上，客服人员正在抱怨那些把 ChatGPT 的话当作福音的顾客。杰森是一名在西部山区联邦土地上工作的河流护林员，他说他注意到越来越多的游客带着人工智能生成的荒谬行程来到公园。 “我和我的同事解释说，人工智能会产生幻觉露营地或不按地理顺序安排事情，所以这群人有时不得不划船逆流而上（这是不可能的），其他时候则随河水漂流，”杰森说。他要求匿名，因为他是一名联邦雇员。 “最疯狂的是，即使护林员指着地图解释了这一点，我们仍然有多个群体持怀疑态度。某种类型的人工智能用户更倾向于信任 ChatGPT，而不是护林员、地图和印刷指南。”凯西 (Casey) 是纽约一位不愿透露姓名的课后项目老师，她表示，她注意到许多学生的家长、保姆和其他看护人现在都向 ChatGPT 或 Claude 询问有关儿童发展的问题。 “我们有一个家庭咨询 ChatGPT，为他们的孩子制定就寝时间和睡眠时间表，但他们的孩子睡眠不足，”凯西说。根据他在节目中的表现，凯西估计孩子每晚还需要两到三个小时的睡眠，并告诉了他的父母。 “父母只是坚持认为他们的 ChatGPT 告诉他们他们的日程安排没问题。”她说，一些家长现在将生成式人工智能工具视为知识超过儿童保育专业人员的专家。凯西说：“与下定决心的人交谈真的很难，因为他们相信这个外部实体是无价的。”她还注意到这项技术有更多的止痛用途，比如孩子们带着人工智能生成的着色表进来。劳伦·威尔福德 (Lauren Wilford) 在餐饮服务行业工作了 15 年，她注意到人工智能也渗透到了她最近与客人的互动中。它从菜单开始：有人会将其照片上传到 ChatGPT 或 Claude，并询问它点什么，或者寻求葡萄酒搭配的指导，而不是询问服务员。但现在看来，一些客户已经放弃了中介服务