引言
在自然语言处理（NLP）的众多应用场景中，大型语言模型（Large Language Model, LLM）展现了其卓越的文本理解与生成能力，不仅在传统的文本任务上成绩斐然，更在生物学、计算化学、药物研发等跨学科领域证明了其广泛的应用潜力。尽管如此，生物分子研究领域的特殊性—比如专用数据集的缺乏、数据标注的高复杂度、知识的多元化以及表示方式的不统一—仍旧是当前面临的关键挑战。针对这些问题，本文提出Mol-Instructions，这是一个针对生物分子领域各项研究任务定制的指令数据集。
Mol-Instructions的构建
Mol-Instructions概览
Mol-Instructions数据集共计含2043K条指令数据，覆盖了小分子、蛋白质以及生物分子文本三大领域的17个关键任务，包含了不同复杂度和结构的生物分子及丰富的文本描述。
实验分析
为评估Mol-Instructions对大型语言模型（LLMs）在理解和预测生物分子方面的助益，本文对LLaMA-7B模型进行了指令微调，并从多个角度进行了定量实验分析。实验结果显示，经Mol-Instructions微调的LLM在多种任务上的表现超越了其他大型模型，证明了Mol-Instructions在提升LLMs处理生物分子信息能力方面的关键作用。然而，由于轻量微调过程的局限性，经过微调的LLM在分子生成任务上的表现并未超越现有的专用小型模型。这反映了LLM在追求广泛任务处理能力时，可能会牺牲掉某些专用小模型的专业性。
总结
Mol-Instructions能够有效评估和提升通用LLM从人类语言到生命语言的跨模态理解能力，显著增强了LLM对生物分子的认知。为后续更深入地研究生物分子设计与解决复杂生物学问题提供了重要的数据来源。由于文本与生物分子表示空间的本质差异以及LoRA训练策略的局限性，当前LLM在理解生物分子语言方面的熟练度还未能与其掌握人类语言的能力相媲美。未来，通过扩展模型词表或将生物分子语言视为一种新的模态进行集成，可能是进一步提升LLM在生物分子领域的理解深度和性能表现的关键。
作者：