构建人工智能时代的内存和存储

“我们倾向于将人工智能视为单一工作负载，但事实并非如此。它有数千个、数百万个、数十亿个不同的工作负载，”Tirias Research 创始人兼首席分析师 Jim McGregor 表示。人工智能推理将优化问题从原始计算问题转变为协调基础设施（内存、存储和网络）。对于企业领导者来说，优先事项很明确：人工智能基础设施决策必须平衡成本、灵活性和未来准备情况。获胜者将是那些能够提高每瓦性能、减少环境足迹并在限制增长之前消除内存和存储瓶颈的组织。人工智能推理需要新的架构方法人工智能系统需要重新架构，因为将现代人工智能系统硬塞到遗留基础设施中限制了人工智能的变革潜力。从加速科学发现到创建真正自主的数字代理，专用架构对于实现人工智能的真正价值至关重要。传统企业 IT 一直能够依赖相对稳定的基础设施假设，但推理和代理 AI 提出了有关延迟、数据移动、可扩展性和利用率的新要求，使得架构选择变得更加重要。 “数据中心现在必须支持连续、分布式和日益实时的人工智能服务，其中没有一个是单一的工作负载，”麦格雷戈说。 “从系统层面来看，它们都需要不同的要求。”为了支持实时人工智能，企业不能再将内存和存储仅仅视为支持硬件，而是系统的核心。组织需要构建一个能够快速摄取、清理、转换、存储、移动和交付数据的数据管道。推理工作负载给基础设施带来了持续的压力，其方式与早期以训练为中心的部署截然不同，需要传统应用程序从未需要的连续数据检索和缓存。因此，性能本身不再是唯一重要的基准。企业越来越必须在性能与效率、成本和可扩展性之间取得平衡，特别是当他们试图支持不同的人工智能服务而不为高峰条件过度建设基础设施时。 “您必须围绕您计划运行的工作负载类型优化整个网络，包括内存和存储，”麦格雷戈说。 “你必须真正详细了解这些工作负载将会是什么。”