Serverless 相关 AI 资讯 · AI 热点

7月29日

15:29

15:29IT之家（博客/媒体）

76°

Anthropic 于7月28日发布 MCP 第5版规范（2026-07-28），这是该协议问世以来最大系统性修订。核心变化是从2025-11-25版本的“有状态”全面转向“无状态”，取消了初始化握手和会话ID。新规范使请求可路由到任意实例，支持 AWS Lambda、Cloudflare Workers 等无服务器架构。同时引入版本化扩展框架，正式纳入 MCP Apps 与 Tasks，并强化对 OAuth 2.0 和 OIDC 的适配。

AI产品 MCP Anthropic 无状态

推荐理由：Anthropic 升级了 MCP 协议，去掉有状态依赖，让部署更灵活，直接兼容 Serverless 和企业身份系统。

7月21日

04:20

04:20

Ate-a-Pi@svpino

精选

Runpod推出针对AI模型的serverless服务，解决大模型加载慢和空闲GPU成本高的问题。他们采用FlashBoot技术，将空闲模型转移到廉价存储，流量恢复时快速调回GPU，冷启动时间低于200ms。部署时弃用Docker，改用Python函数，指定GPU后几秒即可完成。该方案声称比主流云厂商降低成本90%。

AI产品 Runpod FlashBoot Serverless

推荐理由：Runpod让部署大模型像serverless函数一样快，冷启动200ms，成本降90%，不用再纠结闲置GPU还是等待加载了。

7月14日

23:40

23:40

Milvus@milvusio

精选

Milvus 团队指出，用 demo 估算生产环境向量数据库成本常忽略三大隐性因素：数据更新（增删改、重索引）带来的计算开销、离线分析/评估任务与在线服务共用基础设施导致的工作负载错配、以及同一 AI 数据在向量搜索、湖仓、训练等系统间的重复存储。以某自动驾驶场景为例，1B 行数据集合的向量搜索每月仅需运行几小时，专用集群预估 $7,000/月，Serverless 约 $10,800/月，而 Zilliz Cloud On-Demand Search 成本不到 $500/月。建议将稳定在线流量匹配专用容量、突发在线需求用 Serverless、低频分析用按需计费。

技巧 Milvus Zilliz Cloud 向量数据库

推荐理由：Milvus 聊了向量数据库成本容易算漏的三个坑，还拿自动驾驶 10 亿行数据举例，用对方案能省十几倍钱。

7月8日

10:16

10:16

shao__meng@shao__meng

精选

该方案将 ADE 提取能力封装进 Lambda 容器，由 S3 上传事件触发处理。架构使用 lambda/python:3.11 基底，构建 arm64 镜像推送到 ECR，Lambda 函数配置 300s 超时和 1024MB 内存。支持 Parse 和 Extract 两种模式，通过 payload 切换；Extract 模式使用 Pydantic schema 绑定解析后的 Markdown。单次批处理 11 份文档耗时 119 秒（10.8 秒/份），15 分钟超时内可处理约 80 份。Schema Registry 通过 EXTRACTION_SCHEMAS 字典实现类型扩展，handler 零修改。

技巧 ADE AWS Lambda S3

推荐理由：手把手教你用 AWS 原生服务搭无服务器文档处理流水线，冷启动配置、批跑模式、Schema 扩展都讲透了，适合想省云成本的开发者。