AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

文档分块

共 1 条相关 AI 资讯
6月3日
23:35
23:35Milvus@milvusio
固定长度分块将文档切成512或1024 tokens的块,但可能把完整答案切半导致检索不完整。滑动窗口分块用50-100 tokens重叠避免断句,但会产生重复块挤占检索结果。语义分块按段落、标题或章节分割保持语义完整,但只适用于格式规整的文档。Milvus建议对技术文档用语义分块+滑动窗口兜底,对话记录用大重叠固定分块,API文档按章节分块。
技巧MilvusRAG文档分块检索增强生成

推荐理由:Milvus教你按文档类型选分块方法
原文
精选全部日报登录