产品精选
B70 Launcher 0.4.8 支持在 Intel Arc Pro B70 上用 vLLM 本地部署模型
精选理由
有 Intel Arc Pro B70 的朋友可以试试这个开源工具，现在能直接用 vLLM 跑本地模型了，不用折腾命令行。
B70 Launcher 更新到 0.4.8，为 Intel Arc Pro B70 带来 vLLM XPU 后端支持。用户可以在模型库中直接选择 vLLM XPU 启动模型，并接入聊天应用。该项目是开源桌面 UI，由开发者 SergiiioBS 贡献。
原文 · vLLM
Great work from @SergiiioBS on B70 Launcher 0.4.8, bringing vLLM XPU support to local LLM serving on Intel Arc Pro B70.
The open-source desktop UI lets users pick vLLM XPU directly from the model library and launch models into their chat apps.
https://t.co/ygRAK4Cyuz