9 月 29 日的开发者日上首次亮相,10 月 22 日(当地时间周四)OpenAI 把 Decisions API 向所有客户开放,从公测转为正式可用。

它不生成文章式回答,只做「超快分类器」:开发者给出一个问题、一组可选答案,接口返回结构化结果——条件概率、从选项里挑一个并附置信度,或打在有序刻度上的分数。底层不是新训一个模型,而是把 GPT-6 Luna 重新配置,把推理时间压下来。OpenAI API 产品负责人 Nikunj Handa 给的数字很直接:过去一次调用要 1 到 3 秒,现在 100、120、180 毫秒,比用 Responses API 调 Luna 最多快 10 倍。

价格按「小判断」来定:输入每百万词元 0.10 美元,命中缓存 0.01 美元,输出不计费。这意味着一个智能体每走一步都去问一次模型,从奢侈变成可以承受。

首批客户 Box、Datadog、Ramp、Speak 已经用它替换原有的大模型调用。语言学习应用 Speak 的 CTO Andrew Hsu 说,动作之间的等待从 1.4 秒降到 0.13 秒;OpenAI 自家的 Dots 语音助手也换成了这套接口。

这条路是创业公司 TypeSafe 的 Jev 先蹚出来的,Jev 让 TypeSafe 估值到 76 亿美元。公开榜单上 OpenAI 并不领先:AIM System One 指数第八、Artificial Analysis 决策指数第十四,最新 Jev 分别是第七和第三。Handa 承认现在只是「老 Luna 顶上」,未来会专门训练。

对普通人意味着什么:AI 应用的卡顿感会先消失。语音助手接话、客服分单、支付风控这类「当场要答案」的环节,过去瓶颈是模型慢,现在瓶颈回到产品设计。对做智能体的人,算术题变了——把高频小判断从大模型拆出去,延迟降一个量级,账单也降一个量级。

出处:TechCrunch · 原文发布:2026-10-22

分析 · 这件事对普通人有什么用

做智能体的人:先算一笔账,把高频小判断从大模型挪到决策接口,延迟和成本能同时降一个量级。

本站分析供学习参考,事实与适用范围请以原始来源为准。AI 辅助创作内容经人工审核后发布。