AutoGPT LLM如何实现 Agent
今天我们来聊聊一个超酷的东西&，mdash，&，mdash，使用AutoGPT创建的智能Agent，想象一下，你有一个庞大的在线商城数据库，里面存储了海量的用户和交易数据，你想知道有多少活跃用户，一个AutoGP......
planning终篇 Agent 打造更聪明的智能体！
今天我们从另外一个角度对规划能力进行总结，明天开始我们会分享关于Memory相关的内容，当我们谈论LLM支撑的Agent时，规划模块，PlanningModule，是它们智能行为的核心，想象一下，如果你要完成一项复杂的任务，比如组织一场大型......
Multi
嘿，大家好！这里是一个专注于AI智能体的频道！今天来聊聊一篇挺有意思的论文，被langchain官方点名，很多评论推荐的文章！MultiMetaRAG，ImprovingRAGforMultiHopQueriesusingDatabaseF......
卷不动了 Agentic的4种设计模式直接上手！
嘿，大家好！这里是一个专注于AI智能体的频道小长假结束了，今天给家人们分享一下假期开源的一个Agent设计模式图，图画的很漂亮，热度蛮高的，然后还有大佬开源了配套的tutorialgithub项目，Agentic设计模式常见的有4种基于re......
RouterLLM 混合模型 LLM 推理成本的新思路 HybridLLM 等优化
一、背景本文中我们继续介绍一种LLM推理优化相关的工作，通过路由的方式组合多个模型；其与投机采样类似，通过多个不同规模和性能的模型组合来降本增效，然而又有本质的区别，投机采样在一个Query内会反复调用大小模型，而路由方式在调用之前已经确定......
微信等提出多模态大语言模型EE 数据高效和计算高效全都要！中科大&
论文链接，https，arxiv.orgpdf2408.11795亮点直击本文重新审视了多模态大型语言模型中的模态对齐问题，指出了基于自注意力和交叉注意力方法的效率和效果问题，本文为EEMLLM提出了一种复合注意力机制，以提高数据和计算效率......
大模型参数量都是7B 13B和65B等背后的原因是什么
不知道大家有没有注意到现在大模型百花齐放，但是模型参数大小却非常一致，基本都是7B，13B，65B等，那么，为什么被设计成这么大呢，网络上有很多解释，笔者结合自己的理解，分享其中可能的原因，最直接的就是历史传承，因为最初OpenAI在gpt......
Cache PagedAttention LLM 优化 计算和 等 vAttention KV 推理的 Attention
一、背景最近，SGLang引起了广泛关注，出现了许多&，ldquo，SGLang吊打vLLM和TRTLLM&，rdquo，的言论，不得不说，SGLang确实是一项非常出色的工作，与此同时，vLLM的性能问题和TR......
基于MoE的通用图像融合模型 添加2.8%参数完成多项任务
论文链接，https，arxiv.orgabs2403.12494代码链接，https，github.comYangSun22TCMoA论文题目，TaskCustomizedMixtureofAdaptersforGeneralImageF......
OpenAI 是如何估计与分析模型计算量的
今天看到OpenAI前些年发布的一个模型计算量的分析，感觉很有价值，有需求的人童鞋可以看一下，内容如下，自2012年以来，最大规模AI训练运行中使用的计算量呈指数级增长，翻倍时间为3.4个月，相比之下，摩尔定律的翻倍期为2年，自2012年以......