跳到内容

RAG 文本切分器

将长篇文本分割成适合 Embedding / RAG 输入的单位。支持 4 种策略:固定字符数、固定令牌数、段落单位、Markdown 标题单位分割,包含重叠调整、各分块可视化、JSON / JSONL / Markdown 导出功能。

完全免费 无需注册 浏览器内完成 即刻下载 5 种语言 深色模式
相关: 💰 Embeddings 价格 · 🪙 LLM Token 计数
块数
0
平均
0
最大
0

    

📖 常见的坑

把长文本切分为便于送入 Embedding 的单位。处理全部在浏览器内完成,文本不会被发送。RAG 检索效果不佳的原因,多数不在嵌入模型,而在切分方式——答案被切在两个分块之间,或标题与正文被分到不同分块导致上下文丢失,这类简单原因居多。

情形 会发生什么 怎么处理
凭感觉决定分块大小 太小则答案装不进一个分块;太大则一个分块里混入多个话题,向量被稀释。嵌入表示的是整段文本的平均方向,混入的无关内容越多,向量就越是对任何问题都「有点像」,对任何问题都不够像。 起点建议 512~1,024 token,重叠 10~20%,然后实际统计语料中一条典型答案有多长。若答案只有两三句(如 FAQ),256 就够;若一条答案是整整一节流程说明,1,024 也不够。用 Token 计数器先掌握字数与 token 数的关系,决策会具体得多。
单纯按字数机械切分 按固定长度切分,会切在句子中间、表格中间、代码块中间。尤其在流程文档或参考资料中,表头与表体一旦被分到不同分块,该分块单独看就说不清这是什么表。即便被检索命中,送进 LLM 时语义也已无法还原。 请优先遵循结构边界。Markdown 可先按标题(##)切分,仍然过长再按段落、再按句子逐级下沉。此外,在每个分块开头补上「文档标题 > 章 > 节」的面包屑,准确率会明显提升——因为单独阅读该分块也能知道它在讲什么。
检索不到就换嵌入模型 比模型差异更先起作用的,是问题与文档之间的用词落差。用户问「登录不了」,文档标题却是「认证错误的处理」——语义相近,但向量距离并不像预期那样贴近。而依赖精确字符串匹配的查询(型号、专有名词)恰恰是向量检索最不擅长的领域。 请采用混合检索:让 BM25 之类的关键词检索与向量检索并行,再融合排序(如 Reciprocal Rank Fusion)。关键词一侧能稳妥命中型号与人名,向量一侧则覆盖各种同义表述。若仍不够,可让 LLM 为每个分块生成 3 条「该分块能回答的问题」并一同嵌入。费用可先用 Embedding 成本估算预估。

分块不是一次定好就可以放着不管的设置。请记录真实提出的问题,查看未能回答的案例,并区分两种成因:正确的分块根本没进入检索前列,还是进入了但信息被截断。前者是检索方式的问题,后者是切分粒度的问题。混淆两者去调参数,就永远无法改善。

📖 使用方法

  1. 1
    粘贴
    PDF / Markdown / 文章
  2. 2
    策略 + 大小
    字符/token/段落/标题
  3. 3
    JSON / JSONL
    embedding 管道

❓ 常见问题

推荐大小?
256-512 / 512-1024
重叠多少?
10-20%
标题策略?
语义分块
🐛 此工具出现问题了吗?

免费、无需注册。仅提供复现步骤也有帮助。报告将直接发送给运营者并用于改进。

※ 为复现问题,浏览器信息 (UA / 屏幕 / 语言 / URL) 将自动发送