Mol
引言在自然语言处理，NLP，的众多应用场景中，大型语言模型，LargeLanguageModel，LLM，展现了其卓越的文本理解与生成能力，不仅在传统的文本任务上成绩斐然，更在生物学、计算化学、药物研发等跨学科领域证明了其广泛的应用潜力，尽......
英伟达CEO呼吁建立主权AI基础设施
人工智能，AI，热潮将英伟达，Nvidia，的股价推至历史新高，英伟达的GPU是支持人工智能工作负载的重要硬件，该公司的崛起也使得英伟达创始人兼首席执行官黄仁勋在人工智能市场上的影响力更大。...
如何创建LLM应用程序的框架
有许多研究和演示表明，大型语言模型，LLM，可以执行令人印象深刻的任务，虽然并没有一种万能的方法，但可以尝试创建一些指南，以帮助人们更好地在LLM所带来的创新和困惑中导航。...
如何分析和修复LLM应用程序中的错误
大型语言模型，LLM，为机器学习的应用创造了一个新的范式，一方面，用户有一个机器学习模型，可以根据自己的需求和任务进行定制，另一方面，可能无法访问模型的权重和超参数，用户可以通过调整提示和提供给模型的信息来控制模型的行为。...
构建可靠AI应用的LLM三角原则
本文将介绍一种经精心设计的开发可靠的高性能LLM应用程序所遵循的软件设计原则——LLM三角原则，基于这一原则开发LLM应用，有助于缩短应用LLM的巨大潜力和现实世界实施面临的挑战之间的差距。...
如何训练LLM自动在RAG和参数记忆之间进行选择
检索增强生成，RAG，管道使大型语言模型，LLM，能够在其响应中使用外部信息源，但是RAG应用程序为发送到LLM的每个请求检索额外的场景信息，这使得该过程效率低下，因为LLM已经包含了大量无需检索即可使用的知识。...
一种新的大模型参数高效微调方法 RoSA
随着语言模型不断扩展到前所未有的规模，对下游任务的所有参数进行微调变得非常昂贵，PEFT方法已成为自然语言处理领域的研究热点，PEFT方法将微调限制在一小部分参数中，以很小的计算成本实现自然语言理解任务的最先进性能。...
RAG 增强LLM的实战演练 通过检索增强生成
本文主要介绍如何通过检索增强生成，RAG，增强LLM，并使用LlamaIndex和LangChain作为数据场景，将应用程序部署到Heroku。...
RAG index构建多代理 使用Llama
检索增强生成，RAG，已成为增强大型语言模型，LLM，能力的一种强大技术，通过从知识来源中检索相关信息并将其纳入提示，RAG为LLM提供了有用的上下文，以产生基于事实的输出。...