北京
OpenAI 曾考虑在下一代模型上彻底放弃按 token 计费，改成开发者提交一段提示词、公司直接回一个报价。这个想法最后被客户反馈按了回去，说出这段内情的是 CEO 萨姆·奥特曼（Sam Altman）本人。
他在周四与 Stripe 总裁约翰·科利森（John Collison）对谈的 Cheeky Pint 播客里回忆，OpenAI“差点做了一个——本来会是很糟糕的决定”，即不再按 token 给下一代模型定价，转而采用开发者交提示词、OpenAI 给价格的模式。
他解释，那种计费会“像 AWS 一样”运转：你“只管做事，我们给你寄账单”，而不是一个 token 一个 token 地计量这次交互。奥特曼没有点名涉及的是哪个模型，也没有给出这个改动被考虑的时间点。
客户不接受一笔没有明细的账
这个想法在 OpenAI 试探客户对“收到一个没有拆分的价格”作何感想时遇到了阻力。奥特曼说：“客户那边的反应非常负面。”买方的原话是：“我得知道我在为什么付钱。”
开发者本来就要花不少时间盯输入和输出 token，用来压成本、估算用量涨上去之后要花多少。只拿到一个价格却不知道它怎么算出来的，只会让这件事更难。
奥特曼把这个问题抛给“几个人”：同样的输出，如果费率更高、但仍然按一致的 token 计价，你愿不愿意接受？他说答案是，他们“宁愿你把 token 数抬高、多付点钱”，因为“我知道那里有个实打实的东西”。
他的推理是，开发者抗拒一个不透明的总价，是因为他们怀疑长期看自己“总会以某种方式被坑”。这和早年买家宁愿按 CPU 小时付费、也不愿为一个完成的工作付钱是同一种直觉。
这个提案对做 agent 的开发者影响可能不小：多步工作流本来就消耗难以预测的算力，即便在今天的 token 计费模式下，开销也很难预估。奥特曼没有说明 OpenAI 会如何设定那些按任务计价的价格，也没有说明客户能否把一个收费和另一个收费放在一起比较。
“token 是个假单位”
话题是科利森追问“token 是不是衡量 AI 用量的正确方式”时引出的。奥特曼承认 token 计价的局限，但拿不出明确的替代方案。
“token 是一种假单位，”他说，“某种意义上它们是真的，但它们不是个好单位。”科利森半开玩笑地提议造一个“智能等效 token”，奥特曼没有接，还把它比作芯片厂商仍在宣传的纳米数字——那些数字已经不对应芯片上任何物理测量。
奥特曼承认，开发者在便宜模型和更强模型之间做选择时确实要付出实打实的开销，尤其还要猜一个任务需要多少推理。“那纯粹是认知负担，我不认为它真的带来任何价值，”他说。
眼下 OpenAI 仍在沿用 token 计价。奥特曼自己说过，给定水平的 AI 成本大约每年下降十倍；但 token 计价还在原位，即便他承认它有短板，OpenAI 也仍在寻找更好的替代方案。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
