人工智能在家第 1 部分：一盒废料

不，我们家里有 AI 第 1 章：一盒废品 2026 年 8 月 13 日 对于软件开发人员来说，这是一个有趣的时刻；在我看来，Transformer 大语言模型是该领域长期以来第一个真正新颖且有趣的技术发展。以此为基础构建的人工智能编码代理已迅速成为该行业工作的核心，这种感觉有点像从使用手动工具进行木工到使用电动工具，无论好坏。对我来说，只有当我能够将一项技术拆开并在我的车库中组装起来时，我才能够信任它。在别人的控制下连接到服务并使用编码代理的事情让我感到烦恼；有太多的方法会导致这个问题。你会开始依赖它，然后它就会从你身边被夺走。整个技术令人兴奋，但我不想去连接到某个大型人工智能数据中心；我希望每个家庭都有一个小型人工智能数据中心！我们现在正面临着计算机零件短缺的问题（或者，也许 2010 年代末是计算机零件过剩的时候？），所以为了让东西负担得起，我将不得不用垃圾来建造它。我们将在每个家庭中建立一个人工智能数据中心 我这里主要需要的是一堆 GPU。我需要快速内存来进行大量并行矩阵数学运算，这就是 GPU。不过，就像我之前所说的那样：所有旨在运行任何人工智能工作负载的东西，甚至任何已知擅长于此的东西，现在都非常昂贵。早在 2022 年，许多公司就试图让整个“云游戏”腾飞。您知道，您可以在某个数据中心运行视频游戏，这样您就不需要购买昂贵的游戏电脑或游戏机。 AMD 采用了他们的一款工作站 GPU，为其提供了一些额外的 RAM，并删除了所有视频输出。他们将最终的卡称为“V620”。它从未向公众出售过，所以你可能没有听说过它。 AMD 过度生产了这些东西，然后整个云游戏的事情并没有成功，因为（回想起来很明显）滞后问题。这些卡并不是真正为人工智能工作负载而设计的，而且 AMD 的软件支持也是出了名的糟糕，因此从 eBay 上的“二手服务器硬件”电子垃圾经销商处购买这些东西相对便宜。我不认为我得到的那些实际上曾经使用过，它们看起来基本上是新的。它们每个都有 32GB 相当快的 VRAM。当然，他们因不擅长做我想要用它们做的事情而闻名，但要让它真正发挥作用有多难呢？哦，顺便说一句，他们没有粉丝。它们是服务器卡，它们希望服务器用一些非常响亮的风扇来冷却它们。我们稍后会讨论这个问题。无需风扇或电源线即可进行安装检查 我们这里缺少零件，所以我买了一些其他电子垃圾来将 GPU 阵列连接在一起。该主板来自 2017 年的 X299 平台，它来自某人的旧游戏设备，并且足够旧，在 eBay 上很便宜。它有四个 PCIe x16 插槽，其间距正确，可以让我并排安装四个 GPU，这是我唯一关心的事情。里面的CPU是Intel Core i9 10900X，这是Intel近二十年来生产的最差的CPU；当它在 2019 年推出时，它是 Skylake 芯片的重新重新刷新版本，价格过高且耗电，因为英特尔当时无论是在处理器设计还是光刻节点尺寸上都无法完全赶上 AMD 的 Ryzen 芯片。我同意，这意味着现在很便宜，而且可以完成工作！ RAM 和 SSD 是从房子周围的其他计算机上回收的。这当然是作弊；如果我现在必须购买它们，它们会贵得令人恼火。但这里的要求并没有你想象的那么严格；所有工作都将在 GPU 的 VRAM 上完成；从磁盘加载模型后，它们大多保持空闲状态。如果我还没有回收零件，我可以在这里买到相当便宜的东西。我为四个 GPU 和英特尔效率最低的处理器供电，因此我得到了一个大电源。出于某种原因，在 eBay 上购买 1600W 的产品比购买 1200W 的产品更便宜。我不希望持续消耗那么多电量，但我需要它来处理启动过程中立即打开的所有内容。花钱购买了新的外壳和风扇。哦，对了，粉丝们！这些数据中心 GPU 没有冷却风扇，它们需要来自服务器风扇墙的气流。如果您想冷却其中一张卡，可以在网上找到一堆可 3D 打印的风扇护罩模型，但如果您将其中四张并排堆叠起来，这些模型似乎都不太理想；它们要么在末端使用一个超大声的 40 毫米微型风扇，要么将它们伸出到一边，这样您就无法将一堆卡并排放置。四个相邻的双槽卡宽度约为 160 毫米，所以我真正想要的是两个 80 毫米服务器风扇就在那里，吹过卡的散热器。我最近一直在使用 OnShape 来做这种事情，它很好所以我建模然后打印一个护罩，将一个 80mm 风扇连接到两个