精选理由
做向量搜索的团队常被内存预算卡住，这个案例直接展示了 FLAT + FP16 + mmap 的组合拳如何把 139GB 需求压到 600MB，适合资源受限的单机部署场景，值得参考。
Milvus 团队分享了一个用户案例：在单机 32GB 内存环境下，用 FLAT 索引配合 FP16 存储、mmap 内存映射和标量过滤，成功加载 2500 万 1280 维图像向量，实际驻留内存仅约 600MB，热查询延迟低于 100ms。默认 FP32 预估需 139GB，而 AISAQ 和 IVF_FLAT 索引均因构建或加载问题失败。该方案适合搜索空间远小于全量集合的场景，如租户级 RAG、带标签的图像搜索或电商搜索。
AI 翻译 · 中文
Milvus 团队分享了一个用户案例：在单机 32GB 内存环境下，用 FLAT 索引配合 FP16 存储、mmap 内存映射和标量过滤，成功加载 2500 万 1280 维图像向量，实际驻留内存仅约 600MB，热查询延迟低于 100ms。默认 FP32 预估需 139GB，而 AISAQ 和 IVF_FLAT 索引均因构建或加载问题失败。该方案适合搜索空间远小于全量集合的场景，如租户级 RAG、带标签的图像搜索或电商搜索。
𝗬𝗼𝘂 𝗰𝗮𝗻 𝗿𝘂𝗻 𝟮𝟱 𝗺𝗶𝗹𝗹𝗶𝗼𝗻 𝘃𝗲𝗰𝘁𝗼𝗿𝘀 𝗶𝗻 𝗠𝗶𝗹𝘃𝘂𝘀 𝘂𝘀𝗶𝗻𝗴 𝘂𝗻𝗱𝗲𝗿 𝟭𝗚𝗕 𝗼𝗳 𝗺𝗲𝗺𝗼𝗿𝘆. A user had 25M image vectors, each with 1280 dimensions, and only 32GB of memory available for Mil…