AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:Kubernetes×
6月16日
20:46
AITOP6月16日 20:46
600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI
6月12日
12:57
AITOP6月12日 12:57
Claude代码里藏了个20260612,18个月后的AI记忆革命已经开始倒计时
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
5月29日
01:03
01:03Y Combinator@ycombinator
KugelAudio 推出了支持 30 多种语言和方言的多语言语音 AI,用户可以在自己的 Kubernetes 集群中本地部署。该 AI 能自然处理电话号码、电子邮件和混合语言文本,完全在本地运行,无需依赖云端服务。这对于需要数据隐私和低延迟的语音应用场景具有重要意义。
AI产品语音 AI多语言Kubernetes本地部署KugelAudio

推荐理由:对于需要本地部署语音 AI 的团队,KugelAudio 解决了数据隐私和语言多样性的痛点,做语音应用或客服系统的开发者可以直接在自己的集群中试试。
原文
5月28日
08:47
08:47NVIDIA AI@NVIDIAAI
精选72°
NVIDIA 推出 Dynamo Snapshot,一种针对 Kubernetes 上推理工作负载的快速启动方案。该方案利用 GPU 内存快照(GMS)实现高速互连上的并发权重恢复,同时结合 Linux 原生 AIO 和并行 memfd 恢复技术,加速 CRIU 恢复性能。在推理部署中,需求波动导致冷启动耗时数分钟,造成 GPU 闲置。Dynamo Snapshot 将启动时间从分钟级缩短至 5 秒以内,显著提升 GPU 利用率和推理效率。
AI产品推理工作负载KubernetesGPU 利用率冷启动优化NVIDIA

推荐理由:Kubernetes 上跑推理的团队终于不用忍受 GPU 空转几分钟了——Dynamo Snapshot 把冷启动压到 5 秒,做弹性扩缩容的 MLOps 工程师可以直接拿来用。
原文
5月27日
11:02
11:02LangChain@LangChainAI
精选
LangChain 推出了 Mission Control,一个运行在 Kubernetes 集群内的解耦应用,用于部署、配置、观察和排查自托管的 LangSmith 及相关 LangChain 基础设施。它无需 ingress、外部控制平面或额外数据库,完全在本地访问。这简化了自托管 LangSmith 的运维复杂度,适合需要私有化部署的团队。目前该项目已在 X 上获得关注,但尚未公开仓库链接。
AI产品LangChainLangSmithKubernetes自托管运维工具

推荐理由:自托管 LangSmith 的团队终于有了一个轻量运维方案——Mission Control 省去了 ingress 和外部控制平面,直接在 K8s 内搞定部署和监控,做 LLM 应用基础设施的开发者值得关注。
原文
5月12日
17:36
17:36NVIDIA AI@NVIDIAAI
OpenShell v0.0.37 发布,新增可插拔计算驱动支持 Docker、Podman、Kubernetes 和 MicroVM,强化 OIDC + RBAC 网关认证,提供 Helm chart 和 Kubernetes 用户命名空间,并推出 Debian、RPM 和 Homebrew 包。此次更新需先重建网关再升级。该项目旨在简化 AI 模型部署和管理的计算调度。
AI产品开发工具部署/运维Kubernetes容器化

推荐理由:对于需要跨多种容器和虚拟化环境部署 AI 模型的团队,OpenShell 的多驱动支持和认证集成降低了运维复杂度,值得关注其后续迭代。
原文
精选全部日报登录