技巧

Reflection 联合创始人谈如何训练 AI 更省 token

精选理由

Reflection 的创始人亲自讲他们怎么让模型少花 token 干完活,奖励设计思路很实用,做模型训练的可以听听。

Reflection 联合创始人 Ioannis 在 TITV 节目中解释了 token 效率训练方法。团队在奖励机制上同时考核两个指标:任务是否完成,以及是否用最少的 token 完成。通过这种双重奖励信号,模型会学着缩短推理链而不牺牲结果质量。

原文 · The Information

How do you train AI to use fewer tokens? Reflection co-founder @real_ioannis explains:

“And we ensure that the model is rewarded both for solving the task, but also solving it in the most token efficient way.”

Watch the full episode of TITV: https://t.co/19GUThhUqc https://t.co/apl3QknvH2