精选理由
想低成本部署开源推理模型的团队，现在可以直接在 Modal 上跑 Step 3.7 Flash，免去 GPU 管理烦恼，还自带 OpenAI 兼容接口，建议试试。
StepFun 与 Modal 合作，发布了在 Modal 无服务器 AI 平台上部署 Step 3.7 Flash 模型的指南。该方案使用 8×H100 GPU、Modal Volumes 和 SGLang，提供 OpenAI 兼容的聊天补全端点。开发者无需管理基础设施即可快速部署和扩展推理工作负载。这降低了 StepFun 开源模型的使用门槛，让更多构建者能轻松调用。
AI 翻译 · 中文
StepFun 与 Modal 合作，发布了在 Modal 无服务器 AI 平台上部署 Step 3.7 Flash 模型的指南。该方案使用 8×H100 GPU、Modal Volumes 和 SGLang，提供 OpenAI 兼容的聊天补全端点。开发者无需管理基础设施即可快速部署和扩展推理工作负载。这降低了 StepFun 开源模型的使用门槛，让更多构建者能轻松调用。
Deploy Step 3.7 Flash on @modal with SGLang 🚀 Modal is a serverless AI platform for deploying and scaling compute-intensive workloads without managing infrastructure. Their new guide shows how to serve our open-weight S…