1. 研究背景与动机
近年来，大语言模型（Large Language Models, LLMs）在人工智能领域取得了巨大的进展。为了评估这些模型的能力，研究人员开发了许多评估基准。然而，随着这些基准的广泛使用，人们对其适当性和公平性产生了越来越多的担忧。
本研究的主要动机包括：
例如，GPT-3在训练过程中发现其预训练语料库包含了Children's Book Test数据集，而LLaMA-2则提到BoolQ数据集中的上下文是直接从网页中提取的，这些网页可能已经包含在公开可用的语料库中。这些情况都可能导致评估结果的偏差。
2. 基准数据泄露的实证研究
为了研究基准数据泄露的影响，研究人员设计了三种数据泄露场景：
研究者选择了四种不同规模的语言模型进行评估：
评估基准包括：
实验结果显示，数据泄露显著提升了模型在相关基准上的表现。以下是部分结果的示例：
|
模型 |
训练设置 |
|
GPT-Neo (1.3B) |
无 |
|
GPT-Neo (1.3B) |
+所有训练集 |
|
GPT-Neo (1.3B) |
+所有训练集+测试提示 |
这些结果清楚地表明，即使是较小的模型（如1.3B参数的模型）在数据泄露的情况下也能显著提高性能，有时甚至超过了未经泄露数据训练的更大模型。
3. 基准数据泄露的潜在风险
研究还探讨了基准数据泄露可能带来的其他风险：
3.1 对其他任务性能的负面影响
研究者选择了三个未包含在泄露数据中的任务来评估影响：
结果显示，在泄露数据上训练后，模型在这些任务上的性能普遍下降。例如：
|
模型 |
训练设置 |
|
LLaMA-2 (7B) |
无 |
|
LLaMA-2 (7B) |
+泄露 |
这表明，仅在泄露数据上训练可能会导致模型在其他常规任务上的性能下降。
3.2 降低模型的适应能力
研究者还探讨了数据泄露对模型后续适应性的影响。他们使用Alpaca和CodeAlpaca数据集对模型进行指令微调，然后评估其性能。结果显示：
|
模型 |
训练设置 |
|
LLaMA-2 (7B) |
+指令微调 |
|
LLaMA-2 (7B) |
+泄露+指令微调 |
这表明，在泄露数据上训练的模型在后续适应新任务时可能面临更大的困难。
4. 讨论与建议
基于研究发现，论文提出了以下建议：
4.1 通用建议
4.2 对LLM开发者的建议
4.3 对基准维护者的建议
5. 局限性与未来工作
本研究存在一些局限性：
未来工作可以focus在这些方向上，进行更系统、更全面的研究。
6. 结论
本研究深入探讨了大语言模型评估中的基准数据泄露问题，得出以下主要结论：
这项研究为公平、可靠地评估大语言模型提供了宝贵的见解和实用建议，对于推动LLM评估领域的发展具有重要意义。
论文原文：《Don’t Make Your LLM an Evaluation Benchmark Cheater》
本文转载自，作者：