做企业内部 AI 应用的人可以看看这个。CopilotKit 把 agent 工作区做成了 MIT 开源,policy 检查和审计日志直接内建,不用自己从零写治理层。数据要留在内网的团队会感兴趣。
#self-hosting
自托管协作平台 Nextcloud 接入了 Ai2 的开源模型 OLMo 3,数据留在本地,连模型怎么训练的都能查,适合在意数据主权的团队。
有人把 Pi-hole 塞进了 ESP32-C3,53 万个广告域名二分查找匹配,只用 50 KB 内存,10 毫秒拦截,成本比树莓派方案低太多。
Cloudflare搞了个自托管邮件客户端,用Workers AI和Agents SDK自动回邮件,适合多域名用户。但项目更新慢。
想不依赖数据中心自己跑 550B 模型?NVIDIA 出了详细教程,四台 DGX Spark 就能拼出 OpenAI 兼容的端点。
Mistral新出的OCR 4能自己部署,支持170种语言,还带边界框和置信度分数,识别效果领先,做文档处理很合适。
Mistral AI 刚发了 OCR 和文档 AI,支持多平台部署还能自己托管,处理文档很方便。
自托管密码管理终于有了 Cloudflare 原生方案,不想依赖 Bitwarden 官方服务器又想省运维的开发者,可以直接在 Workers 上部署,一键搞定。
想省掉每月订阅费、又不想被厂商锁定的开发者和金融从业者,这10个开源项目直接给你机构级工具,建议收藏试玩。
想摆脱 Gmail 等大厂邮箱、自己掌控邮件数据的开发者,这个基于 Cloudflare 的开源方案值得一试——部署简单,还能用上自己的域名。
自托管 LangSmith 的团队终于有了一个轻量运维方案——Mission Control 省去了 ingress 和外部控制平面,直接在 K8s 内搞定部署和监控,做 LLM 应用基础设施的开发者值得关注。
企业安全团队终于有了可落地的 AI Agent 方案——自托管沙盒让数据不出域,MCP 隧道打通工具链,做企业级 AI 部署的团队可以直接申请测试。
自托管看板工具解决了团队对数据隐私和定制化的需求,做项目管理或开发自建工具的团队可以直接部署试用,语音命令和 MCP 集成让操作更高效。