How-to

宝玉谈 Agent 多会话架构:主会话用轻模型调度,Thread 内用强模型执行

Why we picked it

宝玉回应了一个很多人纠结的问题:主 agent 到底该用强模型还是弱模型。他的答案是分场景——Bot 主会话用 Sonnet 当前台转发消息就行,真正的任务里用 Fable 规划、Opus 执行。做 Agent 开发的人可以直接抄这套分工思路。

宝玉在 X 上回应网友关于 Agent 调度模型选型的疑问,区分了两类场景:让 Agent 研究数学课题这类具体任务,和 GrokBot 这类 Bot 应用的主会话。

Body

在主会话场景下,用户发来的所有消息都进入同一会话,实际执行时会新建 Thread 并把消息原样转发过去处理。他的分工方案是:主会话当前台,用 Sonnet 这类轻量模型识别意图、开 Thread、做调度;

具体任务则用 Fable 做计划、调度和验收,Opus 负责执行。他类比为主会话是前台,识别到复杂数学任务后交给数学专家,数学专家再找研究生分担具体执行。

提问的网友原本认为主 agent 应该用更强模型统筹决策,子任务按复杂度分配模型强度,宝玉的解释说明两种观点针对的其实是不同场景,并不矛盾。

Original · 宝玉

我们两说的场景是不一样的,其实不矛盾 你说的场景更像是一个具体的任务(如果我没理解错),比如我要让 Agent 去研究一个数学课题。 我说的场景是指 GrokBot 这种 Bot 类应用的主会话,就是什么消息你都往一个会话发。 但是实际执行任务的会新建 Thread,把消息转发给 Thread,让 Thread 去处理。 对于这种具体任务,就应该按照你说的,让强的模型去调度,比如 Fable 去计划、调度和验收,Opus 去执行。 回到你说的场景在 Grokbot 里面,我在数学研究Bot的主会话说要研究一个数学课题,主会话不会自己开始研究,而是新开一个 Thread,把我的要求都原样转发给 Thread,让 Thread 去做研究。 这就好比主会话是前台(sonnet),它不需要多懂数学,当它识别到用户是要做一个负责数学任务,它开始一个新的任务(Thread),让数学专家(Fable)去处理,数学专家在执行任务的时候,又去找了几个研究生(Opus)去帮他做一些具体执行的任务。 Green_Orange_GO @gocggo @dotey 我是用cc做research的,我很好奇官方以及宝玉老师为什么都推荐coordinator用简单一些的模型,thread用强一些的模型。对于我的课题来说数学性较强,我朴素的认为管理这个项目的主agent应该有更强的能力去统筹整个研究并参与决策,而subagent由主agent根据子任务的复杂度分配给不同强度的模型及effort。 🔗 View Quoted Tweet📊 5 ⚡

Industry Coordinates & Source Verification

This report is categorized under AITOP's "How-to" desk, focusing on China's AI industry and domestic foundation model ecosystem. Within our cross-regional analytical framework, it directly maps to AI developer toolchains, coding agents, and engineering workflows. Key entities and technical topics under continuous tracking include Agent, GrokBot, Sonnet, Opus.

Source attribution: curated from 宝玉 (@dotey).