「联合自注意力」共找到 2250 篇相关文章
阿里新研究:统一了VLA和世界模型
阿里达摩院等提出WorldVLA框架,融合视觉语言动作模型与世界模型。它用三套分词器编码,解决传统自回归模型问题,经联合训练,实验显示其性能优,两模型还能相互助力。
大模型如何"不训练"也能学习?——上下文学习的隐式权重更新机制
大型语言模型能通过上下文学习(ICL)在推理时即时学习新任务,无需修改模型参数。本文首次证明自注意力层与MLP层组合能隐式将上下文信息转为MLP层低秩权重更新,解释了ICL原理,为构建AI系统开辟新路径。
第二代InfLLM开源,同尺寸快三倍!零参数,可训练稀疏注意力
新智元报道,清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2,仅用5B长文本词元就能完成训练,相比稠密注意力机制有显著加速,性能接近传统稠密模型。
超越谷歌Banana,字节联合香港中文大学等高校开源最强图像编辑生成系统DreamOmni2
香港多高校与字节跳动联合研发的DreamOmni2系统,实现图像编辑与生成领域SOTA。它用三步造出高质量数据,提出索引编码等方案,联合训练模型,实际效果超越部分商业模型,为AI创作带来新可能。
LLM内部竟藏着众多策略模型?自所&腾讯团队首次揭示大模型RL新机制
中国科学院自动化研究所、腾讯AI Lab团队从可解释性分析出发,发现LLM内部含多个可采样内部策略,揭示不同模型推理熵模式,提出BuPO算法,在复杂推理任务上性能显著优于传统算法。
魔法原子迎来“春晚时刻”|甲子光年
2026年,魔法原子成春晚智能机器人战略合作伙伴,还举办全球合作伙伴大会。其自研机器人挑战春晚复杂环境,此前全栈自研积累实力,有超亿元订单,靠场景和生态赋能突围,未来需转化技术优势为商业成功。
5Y News|GIM 完成数千万元天使轮融资
日前,GIM宣布完成数千万元天使轮融资,由五源资本与Monolith投资。资金用于自研金融大模型迭代等。其定位自进化智能体投资平台,已推自研金融时序大模型,未来将推基金策略与产品。
EvoSkills:自进化的skill,是好skill
文章分享两项Agent Skill最新研究论文,指出智能体技能从手工制作向自动进化转变。介绍EvoSkills和EvoSkill两种自动化Skill进化方案,对比其机制、验证方式等,还提及未来研究方向。
DeepSeekHarness被骂自嗨,还是Agent界Android?
DeepSeek Harness 评论两极分化,有人赞其为‘Agent 界的 Android’,也有人批其‘自嗨’。若将其视为 Agent Runtime 架构实验,它值得拆解。它以‘一切皆插件’理念设计,有诸多独特架构特点。
「百万级」视频推理数据集!30+顶尖高校联合发布
AI视频生成已能「画得像」,但不会「想得对」。VBVR推出百万级视频推理数据集,首次系统评测模型对空间、物理、逻辑和抽象的推理能力,发现顶尖模型通过率仅68%,推动视频AI从「视觉模仿」迈向「智能推理」。