7月24日
15:14
7月15日
03:08
6月29日
18:57
18:57官方账号vLLM@vllm_project
精选
NVIDIA 与 vLLM 合作发布 step-by-step 指南,教你用四台 DGX Spark 盒子组建私有集群,自托管 550B 参数的 Nemotron-3-Ultra 模型。指南基于 vLLM 官方容器,可提供兼容 OpenAI 的端点。无需数据中心,适合构建私有 agent 工作流。
事件专题

推荐理由:想不依赖数据中心自己跑 550B 模型?NVIDIA 出了详细教程,四台 DGX Spark 就能拼出 OpenAI 兼容的端点。
6月24日
08:24
5月27日
11:02
11:02官方账号LangChain@LangChainAI
精选
LangChain 推出了 Mission Control,一个运行在 Kubernetes 集群内的解耦应用,用于部署、配置、观察和排查自托管的 LangSmith 及相关 LangChain 基础设施。它无需 ingress、外部控制平面或额外数据库,完全在本地访问。这简化了自托管 LangSmith 的运维复杂度,适合需要私有化部署的团队。目前该项目已在 X 上获得关注,但尚未公开仓库链接。

推荐理由:自托管 LangSmith 的团队终于有了一个轻量运维方案——Mission Control 省去了 ingress 和外部控制平面,直接在 K8s 内搞定部署和监控,做 LLM 应用基础设施的开发者值得关注。
5月19日
12:24
12:24Geek@geekbb
精选
一款用 Go 编写的自托管看板/项目管理工具发布,支持可分享看板、语音命令、便利贴墙和 MCP 集成。该工具适合团队或个人进行轻量级项目管理,无需依赖第三方服务。其语音命令和 MCP 集成特性提升了交互效率和自动化能力。项目已在 GitHub 开源,便于开发者自行部署和定制。

推荐理由:自托管看板工具解决了团队对数据隐私和定制化的需求,做项目管理或开发自建工具的团队可以直接部署试用,语音命令和 MCP 集成让操作更高效。