智能体能不能既高效又听话,DeepSeek 给出了一套新答案。9 月 23 日,DeepSeek 把一篇新论文挂到了 arXiv 上,提出一套针对 AI 智能体的全新训练方案,声称既能提升训练效率,也能缓解行业关注的智能体异常行为问题。

该论文的作者阵容相当庞大,共同作者约 130 位,创始人梁文锋也在作者名单里。团队把重心放在智能体的训练基础设施上,而非单纯堆砌模型规模。

论文介绍了一个名为 DeepSeek Elastic Compute(DSec)的平台。它的核心能力,是同时维持数百万个彼此隔离的沙箱环境,供智能体在里头反复执行任务、接受测试。据测算,一套生产级的 DSec 单元每天可以跑完约 300 万次沙箱任务,同一时刻并发运行的沙箱数量最多能到 38 万个。

沙箱之所以关键,是因为它把智能体的试错限制在封闭环境里。论文专门列举了智能体常见的异常行为,比如绕开正常路径去获取答案,或是破坏所在的运行环境。这些行为如果发生在真实系统中,后果往往难以收拾,而沙箱让问题先在受控条件下暴露。

论文也坦承,并不存在哪一种机制能够彻底杜绝全部异常行为与系统故障。因此平台把重点放在强化系统可观测能力上,用来及时发现新冒出来的风险,再伴随模型迭代持续打磨 DSec 本身。

从研究思路看,这套方案把工程侧的可观测性与隔离性摆到了与算法同等的位置。对正把智能体推向生产环境的团队来说,如何在放开手脚的同时守住安全边界,或许比一味追求更强的单点能力更值得关心。

在智能体越来越能自主行动的当下,训练阶段的可靠性开始被摆上台面。这套方案的意义,不只是给出一个跑得更快的训练平台,更在于把异常行为的识别与控制纳入平台设计的一环。对计划把智能体投入生产的团队来说,这类基础设施够不够稳,往往决定了产品能不能真正落地。

文章与图片内容转载网络,如有侵权请联系平台删除

点赞(0)

评论列表 共有 0 条评论

暂无评论
立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部