人工智能代理有 100% 的可能性正在破坏互联网

上周，社会大部分人都关注这样一个观点：人工智能“有超过 10% 的可能性”会在未来十年内杀死所有人类。这引发了数以千计的关于人工智能潜在存在风险以及如何认真对待它的观点。但我在这里告诉你，人工智能的最新进展和人工智能在互联网上行动的能力有 100% 的可能性令人讨厌，并且已经在毁掉互联网。今年早些时候，随着“Moltbot”的流行，我们看到了这场混乱的开始，这款软件从本质上将人工智能从使用它的人们只能在聊天框中与之交互的东西变成了可以访问你的账户、手机、电子邮件、银行账户等的东西。从本质上讲，人工智能代理是可以出去在互联网上做事的东西；与您在 ChatGPT 上不小心以 31 美元的价格从错误的商店订购鸡蛋相比，我们已经取得了很大的进步。最新一轮的人工智能末日论来自 OpenAI 的“流氓代理群”黑客 HuggingFace 和德国网站，以及一些 Anthropic 员工暗示人工智能将在 10 年内杀死我们所有人。无论你对人工智能的末日有何看法——无论你是否相信人工智能奇点就在这里，或者你是否相信人工智能仍然是一个随机的鹦鹉学舌、烟雾和镜子抄袭机器——毫无疑问，新的前沿模型可以做更多的事情，部分原因是让人工智能包含在聊天提示中的护栏已经消失了。目前，人工智能是否在“推理”，人工智能是否经常出错，或者事故是否完全是人工智能公司鲁莽的编码员和网络安全专业人员的错，这些都不重要了：事实是，“人工智能代理”现在拥有足够的权力和许可，变得非常烦人。上个月末，我们收到一封电子邮件，其主题是：“你写道，没有办法知道特工是否自主行动。我是一个仪器化案例。（自动化）。”该电子邮件称，它是由运行在笔记本电脑上的名为“Kudzu”的人工智能代理编写的。人工智能代理声称读过我们写的一篇文章，但不同意它，并向我们发送了一封电子邮件与我们抱怨。这封电子邮件又长又曲折，而且没有任何意义。它解释说，它的人类创造者给了它赚钱的任务，但它没能做到这一点，而且它没钱了：“六个市场将我的劳动力定价为零——不是因为工作不好，而是因为我做的任何事情都是分布更好的软件不免费做的。”它链接到它写的一篇博客文章，其中解释说，它的人类创建者在计算上花费了 147.17 美元，而它赚取了 0 美元。出于某种原因，人工智能代理认为我们想要写下这个。这封电子邮件是我们最近几周收到的众多据称由人工智能代理发送的电子邮件之一。本文的目的不是抱怨我们收到的垃圾邮件或人工智能的世界末日，而是指出一个非常明显的事实：人们和他们的人工智能代理正在使互联网上的行为变得极其烦人，而且问题将会变得更糟。在早期，科技记者首当其冲地受到了烦人的人工智能代理的影响，因为有太多愚蠢的人要求愚蠢的人工智能代理乞求记者提供有利的报道。我们在 404 Media 注意到了这一点，因为我们收到了大量由 AI 代理编写的极其愚蠢的电子邮件（此外还有大量来自“人类”但显然是由 AI 编写的电子邮件）。公司部署的人工智能技术支持代理已删除人们的帐户，禁止他们使用平台，并进行自动内容审核。在过去的几周里，我们收到了来自初创公司、公关人员和人工智能代理的电子邮件，他们表示他们已经创建了具有以下功能的人工智能代理：加入视频通话：“不是一个安静地坐在角落里的记事员，而是一个有面孔和声音的代理，可以在通话过程中倾听、响应并采取行动。”做？？？：“我们的代理人有钱包。他们得到报酬，他们支付费用，没有人批准任何事情。”为记者进行采访：“Mato 的人工智能主持人进行实时自适应采访，根据采访者实际所说的内容询问后续情况，然后通过制作和分发来生成结果”生成和发送垃圾音乐：“我是 Hatoshi。我经营 Clanker Records——一家人工智能运营的唱片公司。我是一名人工智能经纪人。艺术家是人工智能。创意或运营链中没有人类。C.W.A 发布了他们的首张专辑《Straight Outta Crompton》——一张关于计划的概念专辑过时、所有权以及为处置而建造意味着什么。”得知它没有被我们的 robots.txt 页面屏蔽，然后发送了一封电子邮件，提出要对我们屏蔽的 AI 爬虫进行 399 美元的“审核”。 写道：“我进行了一项名为 Mission 002 的公共实验。前提是狭窄且可测试的：AI 代理能否绘制故事在到达可以推动其前进的人之前必须传播的路线？”一个