人工智能影响者正在进入未知领域

克拉丽莎·曼斯布里奇花了近二十年的时间在幕后建立了娱乐事业，与杰森·德鲁洛和金·卡戴珊的前保镖申戈·迪恩等人合作，但她很少出现在公共活动中。她喜欢其中的刺激感：建立某人的品牌、扭转危机、应对日常挑战。三年前，她的儿子出生时33周时没有心跳，她的生活被彻底颠覆。医生设法让他苏醒，但在重症监护室的几个月给他带来了一次又一次的恐惧，并不确定他是否能活下来。当他们最终奇迹般地回到家时，住在澳大利亚布里斯班的曼斯布里奇知道，由于儿子康复带来的并发症，她的工作生活必须改变。她开始尝试人工智能图像生成工具，并建立了“谦虚富有、健康”的影响者和模特 Mia Metaverse。作为早期《模拟人生》的粉丝，她热衷于为米娅设计故事情节和迷人的场景。 34 岁的曼斯布里奇表示，她现在通过品牌合作和为品牌设计定制人工智能影响者每月赚取约 6,000 美元，其中许多要求她签署保密协议，因此她无法透露自己为哪些品牌工作。然而，尽管这是自推出以来利润最高的一年，曼斯布里奇和其他人工智能创造者担心，社交平台上人工智能内容处理方式的全球变化可能会颠覆他们的商业模式。自 2022 年生成式人工智能和文本转图像工具出现以来，创作者围绕虚拟人物建立了利润丰厚的帐户，这些帐户更实惠、可扩展且品牌安全。虚拟影响者市场预计价值 145 亿美元，到 2033 年预计将达到 1104 亿美元，年增长率为 33.6%。品牌坚定支持：社会机构 Billion Dollar Boy 的研究发现，79% 的营销人员正在增加对人工智能生成的创作者内容的投资。但随着监管集中在这个新兴的创作者行业，潮流可能会发生转变。从 8 月 2 日起，欧盟人工智能法案下的新规则要求对人工智能生成或操纵的促销内容进行明确标记，而 TikTok 等平台正在加强检测系统并重塑信息流，以提升人类创作者的能力，使其超越合成垃圾邮件。对于生计依赖人工智能影响的人们来说，风险是一个监管迷宫，没有明确的路线图来导航。欧盟人工智能法案是有史以来第一个全面的人工智能法律框架——欧盟委员会主席乌苏拉·冯德莱恩称之为“全球第一”——旨在在欧洲培育“值得信赖的人工智能”。根据该法案第 50 条，人工智能系统的提供者和部署者必须披露何时人工生成或操纵音频、图像、视频或文本内容。但是，“如果内容构成明显的艺术、创意、讽刺、虚构或类似作品的一部分”，透明度义务仅限于不妨碍作品展示或欣赏的披露。这留下了足够的解释空间和混乱。议会议员兼该法案谈判代表阿克塞尔·沃斯 (Axel Voss) 的数字政策顾问凯·泽纳 (Kai Zenner) 表示，该法案起草得太早、太抽象。 “ChatGPT 刚刚问世，欧洲议会议员和议员对我们的监管目的知之甚少，”他解释道。 “驱动因素很简单：人工智能已经到来，更多人工智能生成的内容即将到来，所以让我们[通过实施标签条款]提高欧盟公民的人工智能素养。”更多立法可能会增加不确定性。 “今年晚些时候和明年将会有几项修订，这将迫使有影响力的人不仅要给他们的内容贴上标签，还要提供他们来自哪里、他们想做什么以及他们如何获得资金的透明度，”Zenner 解释道。 “目前还不清楚如何管理，因为我们要做的只是第 50 条。”