本文旨在介绍如何利用语义相似度改进标签过滤以提升RAG应用开发质量。
要理解本文中的内容，你需要掌握Jaccard相似性和向量搜索等预备知识。本文算法的实现已在GitHub（）上发布，并且是完全开源的。
简介
多年来，我们已经发现了如何从诸如数字、原始文本、图像和标签等不同类型的模式数据中检索信息。
随着应用程序定制用户接口的日益普及，标签搜索系统已成为一种方便、准确的信息过滤方式。通常，使用标签搜索的一些代表性场景包括检索社交媒体帖子、文章、游戏、电影，甚至简历等领域。
然而，传统的标签搜索缺乏灵活性。如果我们要过滤完全包含给定标签的样本，可能会出现以下情况，特别是对于仅包含几千个样本的数据库，可能没有任何（或只有少数）与我们的查询匹配的样本。
缺乏有关信息时两种搜索方案的搜索结果差异（作者本人提供图片）
通过下面的内容，我将介绍几种新的搜索算法。就我所知，目前我还没有在网络上找到与此相同的算法。
传统标签搜索是如何工作的？
传统系统采用一种称为Jaccard相似度的算法（通常通过Minhash算法执行），该算法能够计算两组元素之间的相似度（在我们的例子中，这些元素是标签）。如前所述，这样的搜索根本不灵活（无论集合中包含或是不包含查询的标签）。
一个简单的AND位操作示例（尽管这里给出的并非是Jaccard相似性，但是能够展示过滤方法的大致概念）（作者本人提供图片）
我们能做得更好吗？
如果我们不只是从匹配的标签中过滤样本，而是考虑样本中所有其他不相同但与我们选择的标签相似的标签，那么情况会怎么样呢？我们可以使算法更加灵活，将结果扩展到非完美匹配，但仍然是良好的匹配。我们的思路是：直接将语义相似性应用于标签，而不是文本。
语义标签搜索算法
正如文章开头提到的那样，这种新方法试图将语义搜索的功能与标签过滤系统相结合。为了构建这个算法，我们只需要做一件事：
在本文示例项目中，我将使用的参考数据是Steam游戏库的开源集合（可从Kaggle下载：，遵循MIT许可证）——大约有00个样本，这是用于测试我们算法的不错的样本。正如我们从显示的数据帧中看到的，每个游戏都对应几个已分配的标签，我们的数据库中共有多个唯一的标签。
示例源文件中提供的Steam数据帧截图（作者本人提供图片）
现在，我们已经准备好了初始数据，就可以继续接下来的工作了。
我们的算法将通过以下步骤进行阐述：
在本文中，我将只分析这种新方法背后的数学原理（有关代码的深入解释和工作演示，请参阅本文示例工程源码：。有关如何使用simtag的说明，请参阅源码工程根目录下的README.md文件）。
1.提取标签关系
首先想到的问题是，我们如何找到标签之间的关系。请注意，目前已经存在几种算法可用于获得相同的结果：
我们可以用来提取标签关系的最简单的方法称为共现矩阵（co-occurrence matrix），这是我将在本文中使用的格式（出于其有效性和简单性）。
最先进的都是基于嵌入神经网络（如过去使用的Word2Vec；现在通常使用转换器，如LLM），可以提取样本之间的语义关系。创建一个神经网络来提取标签关系（以自动编码器的形式）是可能的，而且在面对某些情况时通常也是明智的方案。
因为标签是使用人类语言定义的，所以可以使用现有的预训练模型来计算已经存在的相似性。这可能会更快，而且减少了麻烦。然而，每个数据集都有其独特性。不足的一点是，使用预先训练的模型将忽略客户行为。
例如，我们稍后将看到2D与Fantasy有着密切的关系：但是，使用预先训练的模型永远不会发现这样的匹配对。
算法的选择可能取决于许多因素，特别是当我们必须处理庞大的数据池或有可扩展性问题时（如果我们拥有太多的标签，那么我们需要使用机器学习来解决这个问题）。
a.使用Michelangiolo相似性构建共现矩阵
如前所述，我将使用共现矩阵作为提取这些关系的手段。我的目标是找到每对标签之间的关系。为此，我将使用IoU（联合上的交集）对所有样本集（S）应用以下计数：
计算一对标签之间相似度的公式（作者本人提供图片）
该算法与Jaccard相似度非常相似。虽然这种算法针对样本进行操作（而我介绍的那种算法针对元素进行操作），但是由于（据我所知）这个特定的应用程序尚未被编程实现过；因此，我们可以将其命名为Michelangiolo相似性。（公平地说，这个算法的使用以前在StackOverflow问题中已经提到过，但从未被编程实现过）。
Jaccard相似性和Michelangiolo相似性的差异（作者本人提供图片）
对于00个样本，提取相似性矩阵大约需要一个小时，结果如下：
样本列表S中所有唯一标签的共现矩阵（作者本人提供图片）
接下来，让我们手动检查前10个样本中一些比较常见的标签，看看结果是否有意义：
从共现矩阵中提取的样本关系（作者本人提供图片）
结果看起来很有希望！我们从简单的分类数据（只能转换为0和1）开始，但我们提取了标签之间的语义关系（甚至没有使用神经网络）。
b.使用预训练的神经网络
同样，我们可以使用预训练的编码器（）提取样本之间的现有关系。然而，这种解决方案忽略了只能从我们的数据中提取的关系，只关注人类语言的现有语义关系。注意，这种算法可能不是一个非常适合基于零售数据的工作解决方案。
另一方面，通过使用神经网络，我们不再需要构建关系矩阵。因此，当关注可扩展性时，这是一种比较适当的解决方案。例如，如果我们必须分析大量的推特数据，我们会得到53.300个标签。根据这个数量的标签计算共现矩阵将得到大小为2500000000的稀疏矩阵（这是一个非常不切实际的壮举）。相反，通过使用输出向量长度为384的标准编码器，得到的矩阵的总大小将为19200200。
使用预训练编码器对一组标签进行编码的快照数据
2.对查询和样本进行编码
我们的目标是构建一个能够支持语义标签搜索的搜索引擎：根据我们一直在构建的格式，唯一能够支持这种方案的技术是使用向量搜索。因此，我们需要找到一个合适的编码算法，将样本和查询转换为向量。
在大多数编码算法中，我们都会使用相同的算法对查询和样本进行编码。然而，每个样本都包含多个标签，而每个标签都由一组不同的关系表示；因此，我们需要在单个向量中捕获这些关系。
协变量编码（作者本人提供图片）
此外，我们需要解决上述可扩展性问题，我们将通过使用PCA模块来实现（当我们使用共现矩阵时，我们可以跳过PCA，因为不需要压缩我们的向量）。
当标签的数量变得太大时，我们需要放弃计算共现矩阵的可能性，因为它以平方速率缩放。因此，我们可以使用预训练的神经网络提取每个现有标签的向量（PCA模块的第一步）。例如，all-MiniLM-L6-v2模型将每个标签转换为长度为384的向量。
然后，我们可以转置获得的矩阵，并对其进行压缩：我们最初将使用1和0对可用标签索引对查询/样本进行编码，从而得到与初始矩阵（53300）长度相同的初始向量。此时，我们可以使用预先计算的PCA实例在大小为384的维度中压缩相同的稀疏向量。
编码样本
就我们的样本而言，该过程在PCA压缩（激活时）后立即结束。
编码查询：协变量编码
我们的查询需要以不同的方式编码：我们需要考虑与每个现有标签相关的关系。这个过程是通过首先将压缩向量与压缩矩阵（所有现有关系的总和）相加来执行的。现在，我们已经获得了一个矩阵（384x384），我们需要对其进行平均计算，从而获得我们的查询向量。
因为我们将使用欧几里德搜索，它将首先优先搜索得分最高的特征（理想情况下，我们使用数字1激活的特征），但它也会考虑额外的次要得分情况。
加权搜索
因为我们将向量平均在一起，所以我们甚至可以对此计算应用权重，向量将受到与查询标签不同的影响。
3.使用向量检索执行语义标签搜索
你可能会问这样的问题：为什么我们要经历这个复杂的编码过程，而不仅仅是将这对标签输入到函数f(query, sample)中并获得一个分值？
如果你熟悉基于向量的搜索引擎，你已经知道答案了。通过成对执行计算，在只有00个样本的情况下，所需的计算能力是巨大的（单个查询可能需要长达10秒）：这不是一种可扩展的做法。然而，如果我们选择对00个样本进行向量检索，搜索将在0.1秒内完成：这是一种高度可扩展的做法，在我们的应用情况下这是非常完美的办法。
4.验证
为了使算法有效，需要对其进行验证。目前，我们缺乏适当的数学验证（乍一看，对M的相似性得分进行平均已经显示出非常有希望的结果，但需要进一步的研究来获得有证据支持的客观指标）。
然而，当使用比较示例并可视化比较时，现有结果的优势是非常直观的。以下是两种搜索方法的最靠近顶部的搜索结果比较（你看到的是分配给此游戏的标签）。
传统标签搜索与语义标签搜索的比较
我们可以看到传统搜索可能会（在没有额外规则的情况下，样本会根据所有标签的可用性进行过滤，而不是排序）返回具有更多标签的样本，但其中许多标签可能并不相关。
语义标签搜索根据所有标签的相关性对所有样本进行排序。简单来说，它取消了包含不相关标签的样本的资格。
这个新系统的真正优势在于，当传统搜索无法返回足够的样本时，我们可以使用语义标签搜索来选择任意数量的样本。
两次搜索结果稀缺前的差异（作者本人提供图片）
在上面的例子中，使用传统的标签过滤不会从Steam库中返回任何游戏。然而，通过使用语义标签过滤，尽管我们仍然会得到不完美的结果，但会得到与我们的查询最匹配的结果。你看到的是与我们的搜索匹配的前5个游戏的标签。
结论
在此之前，如果不采用复杂的方法，如聚类、深度学习或多个K近邻算法（KNN）搜索，就不可能在考虑标签语义关系的情况下对标签进行过滤。
本文中给出的算法提供的灵活性应允许与传统的手动标记方法分离，后者迫使用户在一组预定义的标签之间进行选择，并开辟了使用视觉语言模型的LLM自由地将标签分配给文本或图像的可能性，而不局限于预先存在的结构，从而为可扩展和改进的搜索方法开辟了新的选择方案。
最后，我怀着最美好的祝愿决定向全世界开放这个算法，我也十分希望它能得到充分的利用。
译者介绍
朱先忠，社区编辑，专家博客、讲师，潍坊一所高校计算机教师，自由编程界老兵一枚。
原文标题： Introducing Semantic Tag Filtering: Enhancing Retrieval with Tag Similarity ，作者：Michelangiolo Mazzeschi