OpenAI 开放决策接口：响应时间从 1 秒级压到 100 毫秒

OpenAI 把"快速判断"做成了一门单独的生意。10 月 22 日，公司宣布向所有客户开放决策接口，这项能力基于推理模型 GPT 6 Luna 优化而来，重点不在更强的推理深度，而在更短的响应时间与更低的调用成本。

官方给出的数据是：部分场景下响应时间可以从 1 至 3 秒缩短到 100、120 或 180 毫秒。这个量级的变化，决定了它能不能被嵌进实时业务流程。接口的用法是开发者预先设定问题与可选答案，模型输出概率、选项或评分，典型用途包括内容分类、请求分流，以及决定智能体下一步该执行什么动作。

时间线可以看清产品的打磨过程。9 月 29 日的开发者日活动上，这项接口首次公布；10 月 6 日开启公开测试；10 月 22 日正式面向全部客户开放。正式版单次请求最多能处理 400 个问题，是公测阶段上限的两倍。

已有企业把它接进生产流程。做云监控与安全的 Datadog 用这套接口评估智能体生成的命令风险，95% 的请求延迟比现有前沿模型快约 40 倍，也就是 95% 的请求能在该时间内完成响应。企业财务管理平台 Ramp 用它把调用成本归因到具体任务，处理速度提升 4 倍，成本低了 30%。做语言学习的 Speak 把用户两次操作之间的等待，从 1.4 秒压到 0.13 秒，降幅超过九成。文档管理平台 Box 则展示了用接口对商业文件分类并分配到相应处理环节的流程。

竞争也在升温。9 月 15 日，初创公司 TypeSafe 推出决策模型 Jev，专门根据预设选项快速给出判断与置信度，其联合创始人曾在 OpenAI 从事指令遵循相关研究。第三方榜单给出的排名并不一致：AIMultiple 的 System One 榜单中，Jev 排第 7、OpenAI 这套接口排第 14；Artificial Analysis 的 Decision Index 中，两者分别排第 2 与第 11。评测维度与权重不同，结论自然分化。

从产品策略看，OpenAI 没有从头训练一个专用决策模型，而是调整现有基础模型的推理方式，用工程手段换取速度。这条路投入更小、上线更快，但天花板也受基础模型限制。决策模型赛道的竞争，接下来会围绕延迟、成本与准确率三角展开，谁的平衡点更靠近业务需求，谁就更容易被集成进核心系统。

文章与图片内容转载网络，如有侵权请联系平台删除