提升RAG性能必备 一款优秀的文档解析神器 TextIn

前言

在私有领域知识问答和企业知识管理领域，结合检索增强型生成模型（Retrieval-Augmented Generation, RAG）大模型（Large Language Model, LLM）已成为一种趋势。然而，在RAG系统的文档预处理阶段和检索阶段，经常碰到三个主要问题。

本文将先探讨下文档解析的准确性对RAG系统的影响；然后介绍下智能文档解析关键技术，并介绍闭源的通用文档解析服务——，还介绍了一款开源的文档解析质量评测工具- Markdown Tester ，最后介绍下合合信息开发的向量表征模型- acge_text_embedding 。

RAG一般流程

一、文档解析的准确性对RAG系统的影响

在RAG的预处理阶段，文档解析的准确性是至关重要的。如果文档解析不准确，这将直接影响到后续的检索和生成阶段，导致整个RAG系统的性能下降。以下是文档解析不准确可能带来的具体问题及其影响：

因此，对于C端文档问答的RAG系统应用产品，迫切的需要对文档进行精准解析。理想情况下，文档解析器应具备以下关键特征：

二、文档解析的技术路线

对于简单的文档解析，langchain 和 llama_index 中集成了各种基于规则引擎的解析工具（如：解析pdf的pdfplumber，pyPDF2等）或者简单的开源的ocr工具（如：paddleocr），能够对多种文件类型进行解析。

解析工具常出现的问题

对于复杂的文档解析,常 基于深度学习的方法 进行解析，在上篇文章中（《​ ​【文档智能 & RAG】RAG增强之路：增强PDF解析并结构化技术路线方案及思路​ ​》）也讲解了文档解析的一些关键的开源技术路径及方案。

文档内容解析路径

智能文档（文本内容）技术路线

然而，对于通用文档解析而言还存在着一些挑战：

2.1 版式分析

版式分析

版面分析指的是对文档进行区域划分，通过bounding box定位其中的关键区域，如：文字、标题、表格、图片等。

版式分析的优势 ：

1.通过大量标注的数据，准确的划分出文档关键区域。如：

2.能对复杂的版式进行区块识别

复杂版式

版式分析的缺点 ，目前基本都是通过目标检测的形式进行版式分析，因此其挑战也是伴随着特定场景的标注数据，尤其是通用场景的版式分析，难度巨大。

2.2 表格识别与解析

表格识别与解析的难点一般如下：

2.3 公式识别与解析

公式识别类型

数学公式识别与解析是一个技术挑战性很高的领域，主要难点包括：

2.4 阅读顺序

由于文档布局的复杂性，包括多栏、嵌套表格、不规则的文本框等，这增加了阅读顺序恢复的难度。往期中也介绍了阅读顺序相关内容（《​ ​【文档智能】符合人类阅读顺序的文档模型-LayoutReader及非官方权重开源​ ​》）

多列布局阅读顺序恢复

小结 ：以上文档解析的每个环节无论是数据标注、模型训练、实验，都需要投入巨大的成本和精细化的优化，在工业落地场景， 在保证解析效果的同时，还需要关注文档的解析速度 。尤其是OCR过程，文字密集型文档的解析速度影响特别大。

三、TextIn

针对以上痛点，笔者深度体验了一下合合信息自研文档解析技术-。该技术深度融合了文字识别（OCR）、计算机图形图像技术以及智能图像处理引擎，使得纸质文档或图片中的文字信息 能够迅速、精准地转化为计算机易于处理的文本格式 。

TextIn文档智能关键技术如下：

3.1 版面分析关键技术 Layout-engine

3.2 文档树提取关键技术 Catalog-engine

3.3 解析体验

测试样例：

TextIn解析输出：

TextIn解析结果

可以看到，TextIn将pdf文件解析成markdown格式，并将标题、段落、行内公式及行间公式准确解析。

值得关注的是，标题，段落的准确解析、并按照阅读顺序进行输出，这是生成文档目录及文档树的基础。

快速上手代码：

import requestsimport jsondef get_file_content(filePath):with open(filePath, 'rb') as fp:return fp.read()class TextinOcr(object):def __init__(self, app_id, app_secret):self._app_id = app_idself._app_secret = app_secretself.host = 'https://api.textin.com'def recognize_pdf2md(self, image, options):"""pdf to markdown:param options: request params:param image: file bytes:return: responseoptions = {'pdf_pwd': None,'dpi': 72,'page_start': 0,'page_count': 24,'apply_document_tree': 0,'markdown_details': 0,'table_flavor': 'md','get_image': 'none','parse_mode': 'auto',}"""url = self.host + '/ai/service/v1/pdf_to_markdown'headers = {'x-ti-app-id': self._app_id,'x-ti-secret-code': self._app_secret}return requests.post(url,>

3.4 一个解析引擎速度的重要性

目前，基于多模态大模型技术的快速发展，文档解析可以通过多模态大模型进行解决，如：gpt-4o等，但是，基于多模态大模型的解决方案，成本大、非常耗时、容易产生幻觉问题，尤其是表格的解析，数值上的幻觉问题是灾难性的。

笔者在体验TextIn时，感觉解析速度非常快，这对于RAG系统的增益可以从离线和在线两个方面展开讲：

2. 在线模式

4、文档解析评测工具-Markdown Tester

在文档解析中，有了解析工具后， 对于开发者 ，针对文档解析的解析效果，需要一款比较好用的评价工具来客观对解析效果进行评价；对于 购买解析服务的c端客户 ，同样也需要评价文档解析服务的效果，在自建数据集上先评测一下，然后有针对性的进行解析服务选购。因此，下面介绍一下 Markdown Tester ：

该评测工具用于 评价markdown文档相似性，从段落、标题、表格和公式四个维度进行评价 ，相关评价指标的定义如下表：

段落、标题、表格和公式四个维度定义

对于RAG中文档解析，必须强调 为什么使用markdown 进行表示：Markdown格式因其简洁性和易于解析的特点，‌被广泛认为是LLM（‌大型语言模型）‌友好的文档格式。‌Markdown通过明确的标记语法，‌ 帮助模型更好地理解文档结构和内容 ，‌从而 提高信息提取的准确性和效率 。‌特别在存在 大量公式、‌表格 的学术论文场景下，‌Markdown可能是更合适的格式选择。‌这种格式选择的原因主要包括：‌

4.1 使用方法

git clonemarkdown_tester./install.sh

dataset/├── pred/│├── gpt-4o/│├── vendor_A/│├── vendor_B/│├── ...├── gt/

python run_test.py --pred_path path_to_pred_md--gt_path path_to_gt_md

4.2 运行效果

对比表格

对比雷达图-可视化

笔者在评测过程中发现，自研模型对于识别准确率较高，但召回率普遍不行。

五、text embedding在RAG环节的作用

由于LLM固有的问题，如：LLM的知识不是实时更新的；LLM无法回答私域知识问题。 因为，LLM的专长在于生成和理解复杂的自然语言查询。嵌入模型（比如Embedding）的专长在于将文本映射到高维空间中，以便进行相似性比较；生成可用于高效检索的密集向量。

因此，目前主流的实现方式都是通过RAG的方式对上述问题进行解决。text embedding在RAG中充当重要的角色，主要有以下几个作用：

下面介绍一个效果比较好的文本向量嵌入的表征模型- acge_text_embedding

5.1 acge_text_embedding

acge_text_embedding是由合合信息研发的向量表征模型，技术架构上，acge_text_embedding采用了 俄罗斯套娃表示学习 （Matryoshka Representation Learning，MRL）编码 不同粒度 的信息，并让一个编码能够适应不同计算资源的下游任务。MRL的目的是学习许多个小于等于的前维表征，即总维度的前维。在训练时，MRL根据指定维度的向量来计算多个。

一种比较高效的做法是将每个投射头看成是一个大投射头的的一部分，即，这种做法在大输出空间时尤其重要，称之为Efficient Matryoshka Representation Learning (MRL–E)。

因此，该表示学习框架的 核心思想是学习不同粒度的信息 ，允许一个嵌入向量在保持准确性和丰富性的同时，适应不同计算资源的需求，并可以无缝地适应大多数表示学习框架，并且可以扩展到多种标准计算机视觉和自然语言处理任务。

acge_text_embedding 通过应用多模态表示学习（MRL）技术，能够实现一次训练过程，从而获得丰富多样的表征维度。特别值得一提的是，自适应粗粒度到细粒度表示（acge）模型，它采用了一种层次化的方法，从宏观到微观逐步深化表征的深度和精度。这种方法不仅在推理和部署阶段无需额外成本，还提供了一种灵活且高效的表征方式。在具体的实践应用中，为了更好地适应不同任务的需求，acge模型采用了策略学习的训练方法。这种方法通过针对性地调整学习策略，显著提升了模型在检索、聚类和排序等任务上的性能表现。此外，模型还引入了持续学习的训练机制，有效解决了神经网络在学习过程中可能出现的灾难性遗忘问题。这使得模型能够在训练迭代中达到更加优秀的收敛状态，为持续优化和提升模型性能奠定了基础。

5.2 acge_text_embedding使用

from sentence_transformers import SentenceTransformersentences = ["数据1", "数据2"]model = SentenceTransformer('acge_text_embedding') # 替换成你下载的权重地址print(model.max_seq_length)embeddings_1 = model.encode(sentences, normalize_embeddings=True)embeddings_2 = model.encode(sentences, normalize_embeddings=True)similarity = embeddings_1 @ embeddings_2.Tprint(similarity)

from sklearn.preprocessing import normalizefrom sentence_transformers import SentenceTransformersentences = ["数据1", "数据2"]model = SentenceTransformer('acge_text_embedding') # 替换成你下载的权重地址embeddings = model.encode(sentences, normalize_embeddings=False)matryoshka_dim = 1024embeddings = embeddings[..., :matryoshka_dim]# Shrink the embedding dimensionsembeddings = normalize(embeddings, norm="l2", axis=1)print(embeddings.shape)# => (2, 1024)

5.3 acge_text_embedding优点总结

性能优势 ：

框架优势 ：

总结

本文主要探讨了检索增强型生成模型（RAG）在私有领域知识问答和企业知识管理中的应用，重点分析了文档解析的准确性对RAG系统性能的影响，介绍了智能文档解析的关键技术，并介绍了合合信息自研的文档解析服务TextIn，以及开源的文档解析质量评测工具Markdown Tester。此外，还介绍了合合信息开发的文本向量嵌入模型acge_text_embedding，强调了其在RAG系统中的作用和优势。整体而言，文档解析的准确性、速度和质量对RAG系统的性能至关重要，而TextIn和acge_text_embedding等工具能够显著提升文档解析的效果和效率。

参考文献

原文链接：​ ​​ ​