NVIDIA RTX Spark PC 上市，vLLM 支持本地部署前沿模型

NVIDIA RTX Spark PC 现已上市，主打在本地运行前沿 AI 模型。vLLM 宣布为 RTX Spark 提供适配，让用户可以在自己的电脑上部署推理服务。vLLM 是目前主流的开源推理框架，此次适配降低了本地运行大模型的门槛。