跳到正文
MIT Technology Review · AI· Affan Syed·· 3 小时前AI 评分12

停止计算 token,开始关注交付:AI 编码的成本衡量新视角

Stop counting tokens, start counting what ships

AI 导读

随着 AI 编码 agent 消耗大量 token,按 token 计费的模式正带来严峻的财务压力,而每合并一个 pull request 的成本才是衡量实际交付成果的更佳指标。企业应通过网关将复杂任务交由前沿模型,将常规工作路由至自主运营的开源模型。HPE 的混合 AI 平台实践显示,采用私有云 AI 运行常规工作负载可将 token 成本降低 30% 到 50%。

来源:MIT Technology Review · AI · technologyreview.com