10:18arXiv cs.AI@Haochen Wu, Yi Hou, Shiguang XieDoorDash 部署了一套基于离线强化学习的系统,通过延迟的市场反馈(如配送速度、骑手利用率、商家拥堵)来动态调整配送调度目标的权重。该系统不替换原有的组合优化调度器,而是在门店层面学习一个策略,选择离散乘数来调整调度器在配送质量与批处理效率之间的权衡。通过集中式离线数据和分散式门店执行训练共享价值函数,并采用 Double Q-learning 和保守正则化减少过估计。生产环境切换实验表明,该策略在不降低客户配送质量的前提下,提高了批处理效率并减少了骑手时间成本。这项工作展示了如何利用真实经济物流系统的反馈安全地在线调整决策策略。论文强化学习调度优化多智能体离线学习DoorDash推荐理由:DoorDash 用离线强化学习解决调度权重调整难题,做物流调度或平台经济的团队可以借鉴其安全部署思路。原文
11:05arXiv: OpenAI@Aravind Sundaresan72°串行LLM推理后端(如Ollama)在混合工作负载下因FCFS调度导致队头阻塞(HOLB),短查询可能被长生成任务延迟数分钟。Clairvoyant是一个即插即用的侧车代理,通过19个轻量级词汇特征用ONNX导出的XGBoost分类器预测响应长度,单请求延迟仅0.029毫秒。它优化排序保真度,在自然对话数据集上达到62-96%分布内和52-66%跨分布准确率。在RTX 4090上,短请求的P50延迟在最大队列压力下降低70-76%,稳态泊松到达下降低17%。Clairvoyant开源且无需修改推理后端。AI产品LLM推理调度优化队头阻塞开源/仓库边缘部署1 个信源在谈推荐理由:本地部署LLM的开发者终于有办法解决队头阻塞了——Clairvoyant用极低开销预测请求长度,短查询不再被长任务堵死,Ollama/llama.cpp用户可以直接集成试试。原文