联合自注意力」共找到 2250 篇相关文章

算法论文8

阿里新研究:统一了VLA和世界模型

阿里达摩院等提出WorldVLA框架,融合视觉语言动作模型与世界模型。它用三套分词器编码,解决传统回归模型问题,经联合训练,实验显示其性能优,两模型还能相互助力。

量子位
算法论文8

大模型如何"不训练"也能学习?——上下文学习的隐式权重更新机制

大型语言模型能通过上下文学习(ICL)在推理时即时学习新任务,无需修改模型参数。本文首次证明注意力层与MLP层组合能隐式将上下文信息转为MLP层低秩权重更新,解释了ICL原理,为构建AI系统开辟新路径。

深度学习自然语言处理
开源动态8

第二代InfLLM开源,同尺寸快三倍!零参数,可训练稀疏注意力

新智元报道,清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2,仅用5B长文本词元就能完成训练,相比稠密注意力机制有显著加速,性能接近传统稠密模型。

新智元
开源动态8

超越谷歌Banana,字节联合香港中文大学等高校开源最强图像编辑生成系统DreamOmni2

香港多高校与字节跳动联合研发的DreamOmni2系统,实现图像编辑与生成领域SOTA。它用三步造出高质量数据,提出索引编码等方案,联合训练模型,实际效果超越部分商业模型,为AI创作带来新可能。

AIGC开放社区
算法论文8

LLM内部竟藏着众多策略模型?所&腾讯团队首次揭示大模型RL新机制

中国科学院动化研究所、腾讯AI Lab团队从可解释性分析出发,发现LLM内部含多个可采样内部策略,揭示不同模型推理熵模式,提出BuPO算法,在复杂推理任务上性能显著优于传统算法。

深度学习自然语言处理
新闻资讯8

魔法原子迎来“春晚时刻”|甲子光年

2026年,魔法原子成春晚智能机器人战略合作伙伴,还举办全球合作伙伴大会。其研机器人挑战春晚复杂环境,此前全栈研积累实力,有超亿元订单,靠场景和生态赋能突围,未来需转化技术优势为商业成功。

甲子光年
新闻资讯7

5Y News|GIM 完成数千万元天使轮融资

日前,GIM宣布完成数千万元天使轮融资,由五源资本与Monolith投资。资金用于研金融大模型迭代等。其定位进化智能体投资平台,已推研金融时序大模型,未来将推基金策略与产品。

五源资本 5Y Capital
算法论文8

EvoSkills:进化的skill,是好skill

文章分享两项Agent Skill最新研究论文,指出智能体技能从手工制作向动进化转变。介绍EvoSkills和EvoSkill两种动化Skill进化方案,对比其机制、验证方式等,还提及未来研究方向。

PaperAgent
产品应用7

DeepSeekHarness被骂嗨,还是Agent界Android?

DeepSeek Harness 评论两极分化,有人赞其为‘Agent 界的 Android’,也有人批其‘嗨’。若将其视为 Agent Runtime 架构实验,它值得拆解。它以‘一切皆插件’理念设计,有诸多独特架构特点。

CourseAI
开源动态8

「百万级」视频推理数据集!30+顶尖高校联合发布

AI视频生成已能「画得像」,但不会「想得对」。VBVR推出百万级视频推理数据集,首次系统评测模型对空间、物理、逻辑和抽象的推理能力,发现顶尖模型通过率仅68%,推动视频AI从「视觉模仿」迈向「智能推理」。

新智元