09:21
官方一手arXiv: DeepSeek@Chang Cai, Kaibin Huang
精选73°
推荐理由：清华提出Multi-SPIN技术，让边缘设备智能选择通信模式，解决LLM验证SLM草案时的通信瓶颈问题。
Multi-SPIN
共 1 条相关 AI 资讯
9月1日
09:21
Multi-SPIN技术扩展了SPIN到多设备边缘网络，加速协作令牌生成。该技术允许设备端小型语言模型(SLM)自回归生成多个令牌草案，边缘服务器大语言模型(LLM)并行验证。研究提出通信模式选择机制，在上行链路(UL)和下行链路(DL)间自适应切换，平衡UL瓶颈与共享DL资源约束。在Qwen2.5和DeepSeek-R1模型对上的实验表明，该框架显著提升了令牌吞吐量。