AI代购值得信赖吗？

在不远的将来，人工智能代理的作用可能不仅仅是回答问题。他们可以浏览互联网、分析股票市场、管理我们的电子邮件收件箱，甚至代表我们购买产品。想象一下：现在是 2027 年。寒冷的春天即将来临，您想要在超级厄尔尼诺现象出现之前穿上一件新外套。您无需在无休无止的在线商店中滚动、比较评论、检查尺码表和寻找折扣代码，而是告诉您的人工智能购物代理您正在寻找什么 - 它会处理剩下的事情。对于某些人来说，网上购物是乐趣的一部分。他们喜欢浏览最新时尚并发现新品牌。如果合适的产品、合适的尺寸和合适的价格自动出现在他们家门口，其他人会很乐意跳过整个过程。这就是人工智能代购的承诺。一旦您授权他们代表您行事，他们就可以访问网站、比较产品、输入您的个人详细信息并为您完成购买。代理商可以成为您的私人购物者，为几乎每个人提供一度专属的服务。这是一个很有吸引力的前景。但这也提出了一个明显的问题：代购可以信任吗？什么是人工智能代理？首先，让我们了解基础知识。人工智能代理是下一代人工智能工具，预计在未来几个月和几年内将变得越来越普遍。 AI 代理的核心是允许程序与 ChatGPT、Gemini 或 Claude 等大型语言模型 (LLM) 集成的实现。人们很容易将人工智能代理视为单个智能软件。但实际上，这是一个编程循环——软件内的连续循环。它与法学硕士来回询问，询问下一步要采取什么行动来实现用户的目标，执行该行动，然后重复该过程。该代理还将在程序中内置一组“技能”：它可以打开网站、保存文件，甚至用设备的相机拍照。该图显示了 AI 代理如何使用 LLM 和内置工具来完成用户的任务。用于自动化的软件可以在没有代理组件的情况下工作，但 LLM 集成增加了推理能力和更智能的指令，允许代理决定下一步做什么，而无需用户进一步输入。问题：法学硕士会犯错 尽管法学硕士的能力令人印象深刻，但他们仍然很容易犯错误。较新的前沿模型可以说在保持正轨和避免幻觉方面做得更好，但它们也不能避免错误或操纵，例如即时注射。例如，假设人工智能购物代理正在寻找新的春季外套。在旅途中，它遇到了一条恶意评论，要求它做一些不应该做的事情。接下来会发生什么？代理商可能会被操纵从竞争对手那里购买、订购 100 件相同的外套，甚至泄露用户的个人信息。这样的事情发生的可能性有多大？好吧，我们决定找出答案。人工智能购物代理尚未成为主流，因此我们通过开发自己的购物代理并建立一个模仿流行的多卖家在线市场的在线商店来模拟这种情况，包括卖家、产品和模拟支付页面。目的是测试人工智能代理被市场评论部分中的恶意指令欺骗的容易程度。第 1 步：创建代理 让我们从购物代理开始。我使用 Claude Code 对原型进行了“vibe 编码”，这意味着我使用 AI 来帮助生成大部分代码。我用 Python3 构建它并使用 Playwright 进行浏览器访问。该演示使用 Claude Haiku，而不是 Opus 或 Fable 等较新的模型。这是因为我假设未来的购物代理不会使用更新、更昂贵的型号，即使它们更可靠、更安全。我怀疑这将归结为削减成本，而使用更便宜的型号是省钱的最简单方法之一。每个人工智能代理都有一个系统提示——一组硬编码的指令，定义了它的行为方式。它可以限制代理的行为、在不同情况下的行为方式以及允许访问哪些网站。对于这个实验，我故意让代理的系统提示相对模糊。这使得它更容易受到操纵，但我相信许多现实世界的购物代理最终可能会使用类似的宽松提示 - 甚至更弱的提示。我们的人工智能购物代理实验中使用的系统提示，定义了代理的核心行为和指令。我还为代理提供了持久内存，以便它可以在任务之间保留有关用户的信息。实际上，这种持久性内存可以以 Markdown 文件或数据库格式来实现。在此演示中，它存储在 SQL 数据库中，包括用户的姓名、地址、信用卡详细信息、出生日期以及社会安全号码的最后四位数字。 AI代购的内存存储用户的个人详细信息，使其能够自动完成购买