精选理由
腾讯混元让Hy3在vLLM上跑起来了,现在就能上手试玩,搞视频生成的朋友可以看看。
腾讯混元Hy3模型获得vLLM项目支持。用户可以通过vLLM推理引擎启动Hy3进行体验。vLLM是一个高效的大模型推理框架,此次集成简化了Hy3的部署流程。
AI 翻译 · 中文
腾讯混元Hy3模型获得vLLM项目支持。用户可以通过vLLM推理引擎启动Hy3进行体验。vLLM是一个高效的大模型推理框架,此次集成简化了Hy3的部署流程。
Thanks to @vllm_project for supporting Hy3! Let's play with it. vLLM @vllm_project Spin it up now! 🚀 🔗 View Quoted Tweet 💬 8 🔄 3 ❤️ 70 👀 7036 📊 14 ⚡ Powered by xgo.ing