随着微软、谷歌和Anthropic等大型科技公司寻求将其在大型语言模型（LLM）上的巨额投资货币化，将这些工具整合到自身产品中的公司正面临一个重大的财务障碍：难以预测人工智能成本。与传统软件不同，人工智能服务依赖于“令牌”（tokens）——即用于处理提示词并生成响应的数学数据块——其数量会根据任务的复杂性和性质而波动。
这些成本的不可预测性源于人工智能输出的非确定性。由于相同的提示词可能会产生不同的结果和不同的令牌使用量，企业往往难以预测支出。这一问题因“代理人工智能”（agentic AI）的兴起而加剧，在这种模式下，多个自主代理相互交互以执行任务，导致令牌消耗量激增。高盛预测，外部令牌使用量将在2026年至2030年间增长24倍，达到每月120千万亿个令牌。
这种波动性已经影响了大型企业。有报告显示，Uber在短短几个月内就耗尽了其年度人工智能编码预算，而据报道，微软为了控制成本，已经限制了其工程师对某些第三方编码工具的使用。伦敦政治经济学院副教授Will Venters指出，企业难以管理这些支出，因为“这是一种非确定性的输出，因此它是一种非确定性的价值”。
为了降低这些风险，一些组织正试图使用固定费用的个人账户，但行业专家警告称，随着主要人工智能供应商面临提高盈利能力的股东压力，它们很可能会采取行动限制这种做法。另一些组织则专注于更精确的提示词编写，或仔细选择针对特定任务部署的模型。尽管做出了这些努力，但像Sumo Logic这样的公司仍在努力应对如何将这些可变成本转嫁给客户，同时又不因不可预测的定价而疏远他们的问题。
“没有人真正找到了解决办法，”Sumo Logic产品营销高级总监Bill Peterson在谈到寻找可行的计费模式时说道。随着行业的发展，企业仍然夹在人工智能驱动的效率所带来的潜在价值，以及为一种每隔几个月就改变其成本结构的技术进行预算的挑战之间。
来源：BBC News
暂无评论。快来发表第一条评论吧。