我要投稿

又快又准的RAG Meta-Chunking，1.3倍提升，耗时减半

发布日期：2024-10-25 15:59:47 浏览次数： 2176 作者：PaperAgent

RAG效果在很大程度上依赖于检索到的文档的相关性和准确性。传统的基于规则或语义相似性的文本分块方法在捕捉句子间微妙的逻辑关系上存在不足。

RAG流水线的概览，以及基于规则、相似性和PPL分割的示例。相同的背景色表示位于同一个块中。

为了解决现有方法的局限性，提出了一种名为Meta-Chunking的概念，它在句子和段落之间定义了一种粒度：由段落内具有深层语言逻辑联系的句子集合组成，旨在增强文本分割过程中的逻辑连贯性。Meta-Chunking包括基于LLMs的两种策略：边际采样分块（Margin Sampling Chunking）和困惑度分块（Perplexity Chunking）。

整个元块分割（Meta-Chunking）过程的概览。每个圆圈代表一个完整的句子，句子的长度并不一致。垂直线表示在哪里进行分割。图底部的两侧揭示了边缘采样分割（Margin Sampling Chunking）和困惑度分割（Perplexity Chunking）。具有相同背景色的圆圈代表一个元块，它们被动态组合以使最终的块长度满足用户需求。

Meta-Chunking的工作流程：

通过在11个数据集上的实验，证明了Meta-Chunking能够更有效地提升基于RAG的单跳和多跳问答任务的性能。例如，在2WikiMultihopQA数据集上，它比相似性分块（Similarity Chunking）的性能提高了1.32倍，同时只消耗了45.8%的时间。

在五个问答（QA）数据集中展示了主要的实验结果。前四个数据集来源于LongBench。sent. 表示是否适合将两个句子分开，而chunk表示后一个句子是否适合与前面的块合并。comb. 指的是首先使用PPL分割（PPL Chunking）且阈值为0来分割文本，然后进行动态组合的过程。

此外，还探讨了不同模型大小对文本分块任务的影响，发现中型模型（如1.5B参数级别）在性能和效率之间展现了更平衡的表现。

META-CHUNKING: LEARNING EFFICIENT TEXT SEGMENTATION VIA LOGICAL PERCEPTIONhttps://arxiv.org/pdf/2410.12788https://github.com/IAAR-Shanghai/Meta-Chunking.

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-05-27

MCP 深度解析

2025-05-27

用普通人能听懂的话聊聊 RAG

2025-05-27

企业RAG系统为何失败：谷歌研究提出"充足上下文"解决方案

2025-05-27

RAG 的饼，好像吃不下了。。。。

2025-05-27

太好用了！Roo终于出了一个我迫切想要的功能：Codebase Indexing

2025-05-27

Mem0智能记忆引擎：解决AI长期记忆难题

2025-05-26

深度解读AI逐步思考过程，是如何从认知模拟到智能升级！

2025-05-26

赢得企业RAG挑战赛的秘诀 —— 冠军方案剖析与感悟

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

全网最全国内Agent平台深度测评：扣子、Dify、FastGPT，谁是你的Agent开发首选？

2024-10-27

一文彻底搞懂大模型 - RAG（检索、增强、生成）

2024-09-04

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

2024-05-05

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

RAG框架，都在这了!

2024-06-20

RAG 高效应用指南：Embedding 模型的选择和微调

2024-06-13

深入解析 Graph RAG：提升语言模型问答能力的创新策略

2024-07-09

微软开源的GraphRAG解读

2024-07-09

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

2024-05-19

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

2024-07-07

大家都在问

【RAG】给传统企业搞AI转型，RAG项目最难啃的骨头是啥？

2025-05-23

解锁AI时代的核心通关密码——为什么你必须搞懂RAG、Agent、MCP？

2025-05-16

如何设计 AI 与人的交互？以及为什么真正的创新必然是集中式的？

2025-05-15

随着大模型技术的发展——RAG技术有可能会被淘汰吗？

2025-05-14

AI知识库到底是什么？不同应用场景如何调参数配置？

2025-05-14

AI 全栈工程体系中，Prompt Engineering、AI Agent 和 RAG 如何协同工作？

2025-05-13

一文读懂RAG：AI的“外部知识库”如何让回答更精准？

2025-05-11

25种RAG架构大揭秘：AI项目如何选型？

2025-05-08

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部