智能AI
morning
让人工智能成为一种资产,而不是一种支出
摘要
At that point, the question is no longer simply which model to consume, or which provider offers the lowest token price: It is how to run AI economically, predictably, and at sustained scale. AI is mo...
the
and
can
capacity
question
which
how
across
enterprise
not
2026-09-29
1 阅读
约2分钟阅读
Cheri Williams
字号:
到那时,问题不再是简单地使用哪种模型,或者哪个提供商提供最低的代币价格:而是如何经济地、可预测地、持续规模地运行人工智能。人工智能正在从孤立的试点转向生产组合:助手、检索和知识系统以及代理应用程序。客户服务、IT、研究和业务流程代理可以跨企业系统执行多步骤工作流程,从而跨模型、数据和工具创建重复需求。这已经开始发生。德勤的 2026 年企业人工智能状况反映了许多领导者所看到的情况:到 2025 年,员工使用人工智能的机会增加了 5%,拥有至少 40% 人工智能项目投入生产的公司比例预计将在六个月内翻一番。当人工智能成为始终在线的工作负载的组合而不是实验的集合时,经济学就会发生变化。消费定价为团队提供了灵活性并限制了承诺。但是,当使用变得稳定、可预测并且足够大以保持产能生产力时,领导者需要提出一个不同的问题:一次购买一个请求的人工智能是否仍然具有经济意义,或者是时候投资于他们可以优化和控制的产能了?这不是一场抽象的云与本地辩论。这是一个逐个工作负载的业务决策。未来12到18个月,公司可以合理预期多少人工智能需求?该容量的使用一致性如何?当多个工作负载共享基础设施时,企业可以将固定成本分散到更高效的使用中,从而提高所有权的经济性。问题是你运行多少所有权并不自动成为成本较低的答案。只有当企业能够保持生产力时,这才有意义。每个组织都有一个交叉点,即持续使用的水平,在该水平上拥有容量比一次购买一个请求更经济。没有通用的号码。它取决于所使用的模型、输入和输出代币的平衡、性能要求、系统设计、能源成本以及支持它所需的操作模型。检索密集型知识系统的成本概况可能与简单助手截然不同,因为它可能为每次交互处理更多的上下文。代理工作流程可能又有所不同:单个业务任务可能涉及重复推理、检索、模型调用和工具使用。这就是为什么通用成本基准是不够的。企业需要对其实际工作负载进行建模,了解预期需求并相应地调整容量。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱