包括微软、谷歌和Anthropic在内的主要科技公司已在大型语言模型(LLM)上投入巨资。虽然这些公司向消费者提供其工具的免费版本,但它们正日益专注于通过付费订阅和企业服务实现货币化。然而,由于Token消耗具有不可预测性,为这些人工智能驱动的服务建立可持续的定价模式已被证明十分困难。
Token作为大型语言模型处理数据的基本单位,每当用户或自动化系统提示人工智能时就会被消耗。由于这些模型是非确定性的,相同的提示可能会产生不同的输出,这使得公司几乎不可能准确预测其使用费用。Saviynt公司的Simon Gooch指出,传统的长期成本建模在这种环境下是无效的,因为其潜在的经济状况仍处于波动之中。
“代理式”人工智能的兴起——即多个AI代理协作执行复杂任务——使这一问题进一步复杂化。高盛预计,2026年至2030年间,Token消耗量将增长24倍,然而许多组织在收到高得离谱的账单之前,难以监控其使用情况。预算超支的高调案例已经出现,据报道,一些公司为了控制成本,正在限制内部对AI编码工具的访问。
专家建议,企业必须通过优化提示策略并仔细选择所采用的模型来做出适应。伦敦政治经济学院副教授Will Venters强调,尽管AI成本难以控制,但即使在快速扩展的情况下,它们也可能比传统软件提供更大的价值。目前,像Sumo Logic这样的公司仍在探索如何将这些可变成本转嫁给客户,考虑诸如统一费率捆绑或基于绩效的定价等方案,尽管它们对大型AI提供商不断变化的定价结构仍持谨慎态度。
来源:BBC News
暂无评论。快来发表第一条评论吧。