数据中心的未来是便携式的吗？ Runware 构建了一个 pod 来找出答案

周二，人工智能基础设施公司 Runware 宣布推出自己的模块化数据中心，名为 Sonic Inference Pod。 Pod 被设计为单个可移动单元，代表了一种更灵活的计算类型，可以与超大规模数据中心项目并存。 Runware 表示，与其他无服务器推理平台和 GPU 云相比，Pod 可以提供更高质量但成本更低的推理。模块化设计意味着可以通过创建新的 Pod 轻松快速地增加容量，而不必扩展固定的数据中心。 Runware 联合创始人兼首席执行官 Flaviu Radulescu 告诉 TechCrunch，从某些方面来说，这就是未来。 “我们相信分布式计算，更接近最终用户以实现更快的推理，从长远来看将会获胜，”他说，并以他的公司为例。 Radulescu 指出，除了价格较低之外，该运行软件系统还可以快速扩展和增加容量、部署在有电源的任何地方，并快速适应新的硬件版本。 Runware Pod 也不使用水，而是使用闭环冷却系统，该系统可以在几天内建成，而构建传统数据中心需要数月甚至数年的时间。 “推理需求的增长速度超过了设施建设的速度，”Radulescu 说。 “我们想要的是为世界智能提供动力，成为每个人工智能模型运行的支柱，其容量能够满足需求而不是限制需求。” Radulescu 表示，Runware 目前在美国、欧洲和亚太地区部署了 10 个 Pod。该公司已经为 Higgsfield AI 和 Wix 等几家公司提供推理服务，目前有 160 个站点可为其 Pod 提供支持。 Runware 在 12 月宣布了 5000 万美元的 A 轮融资，为公司提供生成图像所需的基础设施。他们将 Pod 的扩张视为公司核心使命的一部分：为公司提供推理，而不是单一产品。图片来源：OpenAI 和 SpaceX 等 Runware AI 实验室仍在竞相在美国各地建设数据中心。例如，据报道，OpenAI 即将达成一项价值 5000 亿美元的交易，将在俄亥俄州建设数据中心。但拉杜列斯库并不认为这些项目对声波推理吊舱构成威胁，并将吊舱的灵活性描述为一个关键的差异化因素。他说：“每个 Pod 都作为单个网络的一部分运行，因此请求会发送到任何有容量、靠近用户的地方，如果一个 Pod 离线，流量就会转移到另一个 Pod。”他补充说，系统故障意味着一个 Pod 停机，而不是整个固定设施停机。 “想要专用硬件的客户可以自己获得整个 Pod。”他也不太担心其他公司为自己构建这项技术，只是说硬件速度很慢，而且找到构建和修复这项技术的人才库很小。 “电路板设计中的错误需要在重新设计、模拟、制造、测试和交付之间花费数月时间，”他说。 “每一个电话都需要有人准确了解每个组件的作用以及如果组件消失会造成什么后果。”然而，构建人工智能数据中心是一个有争议的话题，特别是因为它使用了多少资源。数据中心所在社区已经报告公用事业成本上升。有一天，Runware 看到了一个可以依靠可再生能源运行的世界，而不需要利用社区所需的资源，但那一天不一定是今天。 Radulescu 表示，无论如何，人工智能电力的使用都会增加，“是由推理需求驱动的，而不是由供应商驱动的。”他说，Runware 目前关注的重点是如何满足这一需求。 “没有传输损耗，无需冷却水，而且我们使用现有的电力，而不是要求建设新的电网容量。以这种方式构建的更多推理意味着，在相同的计算量下，需要更少的新电网、更少的水。”