LLM新巅峰
本文提出了mllmNPU，这是第一个有效利用设备上神经处理单元，NPU，卸载的LLM推理系统，mllmNPU的主要设计目标是减少预填充延迟和能耗，它针对主流的仅解码器的变压器架构的LLM，例如LlaMA、GPT等，关键思想是最大限度地在移动......
大模型真能模拟人类语言 中国人民大学提出新的数据增强方法
论文标题，LLMGeneratedNaturalLanguageMeetsScalingLaws，NewExplorationsandDataAugmentationMethods机构，SchoolofInformationResource......
微软提出LLM
大型语言模型，LLM，在系统级优化中的新进展近年来，大型语言模型，LLM，在解决复杂问题的推理能力方面取得了显著进展，使其能够有效管理数千种工具和API调用，这些改进释放了它们在大规模系统中的潜力，包括UI网络界面、移动应用程序、SQL后端......
RAG能帮助LLM更靠谱吗 斯坦福新研究
大语言模型，LLM，虽然功能强大，但容易出现幻觉，此外，它们受限于其训练语料库中包含的知识，因此无法回答有关近期事件或公开受限信息的查询，为了解决上述问题，检索增强生成，RAG，是一种常用的框架，它在LLM的提示中提供相关检索内容，获得相关......
基于LLM增强的推荐系统重排
一、结论写在前面论文来自香港城市大学、华为诺亚方舟实验室，论文标题，LLMenhancedRerankinginRecommenderSystems论文链接，https，arxiv.orgpdf2406.12433重排序是推荐系统中......
LLM CoT的工作原理
思维链，CoT，ChainofThought，常常作为增强大模型推理能力的利器，但大模型推理能力的提升多大程度上来自人为任务拆解，还是额外提示的Token激发了背后更强大的计算，&，ldquo，让我们逐步思考，Transfo......
俯视LLM的灵魂 一文搞懂稀疏自动编码器
稀疏自动编码器，SAE，最近因机器学习模型的可解释性而变得流行，尽管SAE自1997年以来一直存在，机器学习模型正在使LLMs变得越来越强大和有用，但它们仍然是黑匣子，如何看穿LLM的灵魂，且若能理解它们是如何工作的，那对于大模型的进化有足......
这就是大语言模型！
文字接龙LLM从根本上始终要做的是，针对它得到的任何文本产生&，ldquo，合理的延续&，rdquo，LLM只是在玩一个&，ldquo，文字接龙&，rdquo，的游戏，当ChatGPT......
LLMs 如何处理相互矛盾的指令 指令遵循优先级实验
编者按，想象一下，你正在开发一个AI助手，突然发现systemmessage和用户提示词存在冲突，这时AI会听谁的，这种情况不仅困扰着开发者，还可能导致AI系统的不稳定和不可预测，影响用户体验和系统可靠性，本文作者通过一系列精心设计的实验，......
大模型在社会情境判断方面可以胜过人类 自然 科学报告
大模型在许多任务上表现优异，但是它们在社交情境中的判断能力仍是一个亟待解答的问题，社会情境判断不仅涉及对情境的理解，还包括适应和回应他人行为的能力，11月10日，自然，科学报告子刊发布文章，Largelanguagemodelscanout......