应对大模型即时感染 斯坦福大学和伦敦大学学院联合打造多智能体系统中的安全防线
在多智能体系统中，LLM的应用变得越来越普遍，通过多个LLM协作来解决复杂任务的需求日益增加，然而随着这些技术的不断进步，新的安全威胁也随之而来，提示注入攻击是一种利用恶意提示来劫持模型执行非预期操作的攻击方式，在单智能体系统中，研究人员已......
智能体协作进化论 从心智理论到逆向注意力
让智能体在不断变化的环境中动态适应、并有效合作是一个巨大的挑战，特别是当智能体需要与陌生的智能体互动时，传统训练方法往往表现不佳，这种情况下，引入逆向注意力智能体，InverseAttentionAgents，成为了一种创新且有效的解决方案......
阿里巴巴达摩院 新加坡科技设计大学和南洋理工大学联合团队提升AI多步推理能力的新方法
大模型在处理更复杂的问题时，仍然容易在推理过程中出现错误，导致推理路径偏离，最终影响模型的整体性能，现有的大语言模型在多步推理任务中，通常会由于推理路径中某一步骤的错误而影响整个推理过程，这些错误不仅降低了模型的准确性，还增加了计算成本和执......
期刊 自然 上海交通大学与上海人工智能研究所联合推出医学多语言模型
随着大型语言模型，LLMs，的快速发展，医学领域的应用也取得了显著进展，但是大多数现有的医学语言模型主要集中在英语语言环境中，限制了其在非英语国家和地区的应用潜力，为了填补这一空白，来自上海交大和上海人工智能实验室的研究团队研发了一个开源的......
谷歌与学术界联手 研究突破多智能体合作瓶颈的新算法
在人类的合作中，我们可能会遇到囚徒困境，SocialDilemmas，、悲剧的共有，TragedyoftheCommons，、公平分配问题，PublicGoodsGame，、猎人与收集者困境，StagHuntGame，、和合作网络，Netw......
数字人类与AI社会的崛起 多智能体的文明之路
人工智能代理，智能体，已经单独或在小组内进行了评估，其中交互的范围和复杂性仍然有限，涉及许多自主主体的大规模模拟&，mdash，&，mdash，反映了整个文明过程&，mdash，&，m......
产业链与模块化 大模型与社会分工
&，ldquo，分工才是社会进步的动力，大模型产业链才刚刚开始&，rdquo，可能很多人看了标题会觉得很奇怪，大模型与社会分工有什么关系，产业链和模块化又是什么鬼，我们不是学习大模型技术和应用的么，怎么越来越跑偏......
费米悖论与收益递减 超级人工智能与人类社会将会怎样相互作用
在探索宇宙生命的奥秘时，我们不禁会问，在这浩瀚的宇宙中，为什么我们还没有遇到其他文明的迹象，这个问题被称为费米悖论，而在人工智能领域，随着技术的飞速发展，超级AI&，mdash，&，mdash，那些在智力上远超人......
该怎么使用训练好的大模型 大模型训练完成之后可以直接使用吗
学习机器学习的人大部分都知道怎么设计并训练一个模型，但开发模型的目的是为了解决业务问题，所以怎么使用大模型也是重中之重，刚训练好的大模型事实上虽然可以用，但由于没有用户接口，所以只能自己用，无法对外提供服务；所以，刚训练好的大模型需要经过一......
科学美国人 大模型永远不会停止幻觉
去年夏天，一名联邦法官对纽约市一家律师事务所处以5，000美元的罚款，原因是一名律师使用人工智能工具ChatGPT起草了一起人身伤害案件的摘要，文本中充满了虚假信息，包括超过六个完全捏造的过去案例，旨在为人身伤害诉讼建立判例，斯坦福大学，S......