那些令人倒胃口的人工智能生成菜单背后的同一性问题

当它第一次发生在你身上时，你认为自己疯了。你走进一家咖啡馆，看着菜单上有各种百吉饼三明治，但每张插图看起来都出奇地完美，精确对称，而且奇怪地光滑，引发一种发自内心的感觉，觉得有些不对劲。你可能认为自己很偏执，但你并没有失去理智。生成式人工智能菜单已经冲击了餐厅业务，这些模型受过狭隘的、“令人愉悦的”美学训练，即使你无法清楚地表达出原因，也会产生一种感觉不对的外观。有时，这些插图非常虚假，就像带有奶酪的墨西哥卷饼，起泡又融化，看起来更像是前卫艺术而不是午餐。更多时候，它们看起来很普通，当你仔细观察时，你才会发现有些不对劲。 Reality Defender 首席技术官 Alex Lisle 告诉 TechCrunch：“这几乎就像一个外星人在不了解其核心原理的情况下试图制作披萨。” （Reality Defender 本身就是不断增长的销售人工智能检测和内容验证工具的初创公司的一部分，这种业务的存在部分是因为像这样的问题。）莱尔说，这些模型的构建方式可以帮助解释为什么插图似乎包含这样一种特定的美学——每个冰淇淋勺都是完美的圆形，虾似乎经过基因改造可以吃自己的尾巴，创造了新的“洛夫克拉夫特式的食物恐怖”。大型语言模型 (LLM) 和扩散模型（这些人工智能模型使看似无所不知的聊天机器人和 ChatGPT 和 Midjourney 等图像生成器成为可能）是根据大量数据进行训练的。然后，模型会识别数据集中的模式，以预测用户在询问“为我制作汉堡餐厅的菜单”之类的问题时正在寻找什么。 “很多东西看起来都像 2015 年的 Chili's 菜单，这是有原因的，”莱尔说。 “这就是[模型]从中汲取功能的工作语料库。”图片来源：ChatGPT Image 2.0 新的训练数据对于构建人工智能模型的公司来说是无价的——亚马逊甚至被发现会寻找稀有书籍来扫描并添加到其训练数据中，但在这些书籍上传后就会将其销毁。一些人工智能生成的内容不可避免地会渗透到这些难以理解的大数据集中。但是，当人工智能模型训练太多自己生成的内容时，它们就会面临模型崩溃的风险。 “模型崩溃几乎就像一种疯牛病……当你将一个模型的输出反馈回自身时，最终近亲繁殖变得太多，整个模型崩溃了，”莱尔解释道。 “我们在这里看到的是融合，这并不一定是模型崩溃。”收敛没有那么极端，它会降低人工智能输出的质量，但不会使其完全无用。如果有人要求人工智能模型为快餐店生成菜单，该模型可能会引用温迪、汉堡王、麦当劳或其他流行连锁店的菜单。这些菜单已经共享相似的风格，这意味着人工智能生成的输出将模仿相同的风格，只有当人工智能生成的菜单最终回到训练数据中时才会进一步强化它。但食物的菜单和广告总是看起来比真实的东西更好，就像麦当劳广告中的巨无霸一样，三明治的每一层都由道具设计师布置，看起来最有食欲。这种效应在人工智能输出中会变得更加明显。伊隆大学想象数字未来中心主任 Lee Rainie 告诉 TechCrunch：“数据集的优化是为了取悦人，或者你知道，不是为了冒犯他人，所以有一种方法会导致同质化。” “众所周知，人工智能在图像和语言方面的作用就是消除边缘。”在更局部的范围内，当您使用 AI 图像生成器创建菜单并对其应用编辑时，似乎会发生这种图像平滑处理。在 X 上，一位名叫 Labtec 的用户展示了当您在 ChatGPT 中制作菜单，然后对其进行 100 次编辑，看看食物如何看起来越来越不像应有的样子时会发生什么。 （我们重复了该实验并发现了类似的结果。）“最终结果实际上让我感到不舒服，”Labtec 写道。餐馆很可能成为这个问题的受害者，他们会修改人工智能生成的菜单，一遍又一遍地改变小细节，比如价格或商品名称。似乎每次编辑后，食物图像都会变得更加圆润和光滑。 “与原本真实的东西相比，当人们看到人工智能生成的东西时，他们会有一种几乎无法解释的感觉，”Rainie 说。 “人们有时很难表达出一种情感，但当他们看到它时，他们就会知道这一点，我认为这就是为什么一些早期关于（反对使用人工智能菜单的餐厅）的强烈反对的故事如此明显的原因之一。”我们对这些人工智能菜单的厌恶背后是有科学依据的。右