把一个需要四十分钟的研究任务放在普通接口里跑,我最担心的不是模型慢,而是执行状态只活在进程内存里。网关超时、Pod 重启、SSE 断开,系统便不知道搜索做到哪一步、哪个工具已经产生副作用,只能从头再来。
数据调度系统早就处理过这类问题。长任务不能依赖一条不断开的连接,必须把一次执行表达成可恢复的状态机。Agent 场景多了模型输出和动态工具选择,基本原则没有变:决定要留下,副作用要有身份,恢复要从事实继续。
邓明瑞 / 纯粹
把一个需要四十分钟的研究任务放在普通接口里跑,我最担心的不是模型慢,而是执行状态只活在进程内存里。网关超时、Pod 重启、SSE 断开,系统便不知道搜索做到哪一步、哪个工具已经产生副作用,只能从头再来。
数据调度系统早就处理过这类问题。长任务不能依赖一条不断开的连接,必须把一次执行表达成可恢复的状态机。Agent 场景多了模型输出和动态工具选择,基本原则没有变:决定要留下,副作用要有身份,恢复要从事实继续。