「自注意力层」共找到 1530 篇相关文章
拒绝计算“一视同仁”!Elastic Attention:让大模型学会“看人下菜碟”
现代大语言模型用全注意力机制计算复杂度高,现有混合注意力策略是静态的。为此提出Elastic Attention,引入轻量级Attention Router,具备动态路由等亮点,在主流模型测试中效果好。
暴涨3倍!18-34岁占比反降15%:这届中年人开始占领AI
数字数据公司Similarweb发布《2025生成式AI全景报告》。显示全球GenAI平台访问量、App下载量增长,用户年龄层拓宽。ChatGPT跻身全球前五,与谷歌等形成新生态,市场走向多元,AI应用场景不断拓展。
Self-Evolving 会是 2026 关键词吗?
2025年,Agent应用发展使LLM‘静态’局限成AI瓶颈,业界重视自进化能力,聚焦‘持续适应系统’。但该领域缺统一标准,有思潮认为统一标准、集体探索将带来机遇。还介绍了研究进展、重点演变等。
ERNIE 5.0:走向原生统一的万亿参数多模态基础模型
过去多模态模型‘拼接式’方案存在理解与生成割裂问题,ERNIE 5.0 借此提出,用统一自回归框架做多模态理解与生成,在架构、训练与系统层面有创新,评测中各模态能力表现出色。
狂揽4万星!换掉OpenClaw太爽了,5美元就能养个AI打工人
Hermes Agent是NousResearch推出的开源Agent神器,上线后在GitHub超4万星。它运行在用户服务器,有六大核心特性,能跨平台对话。技能自维护,形成记忆 - 技能 - 训练数据闭环,应用场景丰富,演进注重安全、稳定与智能。
从哲库到小米,从造芯之“死”到造芯之生
文章回顾华为、小米、OPPO造芯历程,分析OPPO哲库夭折与小米重启造芯的原因。指出小米重启造芯有财务、组织架构、经验等优势,且赶上制裁“窗口期”,AI时代也需自研芯片。
月吞100万亿Token!AI中转站OpenRouter赚爆了
OpenRouter宣布完成1.13亿美元B轮融资,估值达13亿美元。它每周处理25万亿个tokens,全球用户超800万。其提供AI推理统一控制层,解决企业多模型管理难题,开源模型崛起使其价值凸显。
自我进化Agent综述:通往超级智能的进化之路
当前大型语言模型面对新知识、动态环境时存在固定参数瓶颈,自进化智能体研究应运而生。本论文作为该领域首部系统性综述,提出革命性框架,解析自进化智能体技术脉络与未来挑战。
具身智能威胁分析的分层方法和全景图
文章指出具身人工智能应用广泛,安全需求迫切,但现有研究鲜少涉及具身化场景。复旦大学等组织分析400多篇论文,提出具身智能威胁分析全景,介绍各层攻击方法、危害及防护措施。
AI产业链投资大逻辑:第六集
本集聚焦AI产业链应用层悖论。应用层离用户近、故事性感,但现阶段易让投资者犯错。虽有诸多火热产品且公司估值高,但‘创造价值’与投资者‘以好价格买价值’并非一回事。