「连续自回归」共找到 1305 篇相关文章
线性注意力回归！Kimi新模型引爆，MiniMax却悄悄换回传统架构
LLM领域线性注意力机制正在回归，工程实践主要由国产模型推进。早期线性注意力因牺牲精度未获主流认可，今年下半年多个国产模型采用其变体，MiniMax却又换回传统架构，Kimi新模型带来新解法。
SPIRAL：零和游戏自对弈成为语言模型推理训练的「免费午餐」
新加坡国立大学等机构团队提出 SPIRAL，让模型在零和游戏自对弈强化推理，摆脱人工监督。研究发现游戏可培养推理能力并迁移到数学，还开发系统保障训练，虽有局限但为 AI 发展指明方向。
理解帮助生成？RecA自监督训练让统一多模态模型直升SOTA
统一多模态模型在视觉理解和生成能力上不平衡，常理解强但生成弱。本文提出重建对齐（RecA）自监督后训练方法，不改动架构，用未标注图像训练，在多模型实验中提升性能，部分达SOTA。
清华发布AutoSOTA：一周刷新105个顶会SOTA，推动AI科研回归创新本质
在AI研究中，研究者常为提升1%性能反复调参。清华与中关村学院联合发布AutoSOTA，实现端到端AI科研自动化，一周发现105个性能显著提升的SOTA模型，推动科研回归创新本质。
小扎不死心Manus“自研”了一个，但模型用的Claude……
Meta推出智能体平台Hatch，功能类似Manus，开发阶段用Claude，计划正式上线时切换到自研模型Muse Spark，10月推出新模型Watermelon。Hatch注重消费数字生活，与Meta社交生态深度绑定，高端订阅有默认分发优势，但面临真实环境考验。
马斯克生日惊喜！全球首例Model Y无人「自驾交付」，30分钟见证历史
昨天，一辆特斯拉Model Y从得州超级工厂无人自驾，最高时速115公里，30分钟到车主家门口，完成人类首次工厂到用户的闭环交付。马斯克激动祝贺，此场景复杂度超竞争对手。
OpenAI公布首颗自研推理芯片成绩，下一代已进入制造阶段
8月25日，OpenAI公布自研推理芯片Jalapeño性能测试结果，首次给出其在多款公开大模型上的具体数据。该芯片在低功耗下实现高推理吞吐量和低延迟，性能超英伟达芯片，B0版已进入制造阶段。
LLM 仅靠自身就能增强推理？SePT 给出简洁在线自训练范式
多数推理后训练方法依赖外部信号，SePT仅用模型自身生成的答案自训练，能提升推理能力，数学推理任务准确率升10个点。它核心简洁，设计关键是温度解耦等，不损模型通用能力，代码易迁移复现。
独家｜清华团队组团创业，押注机器人端侧自进化，已完成首轮融资
过去一个多月，机器人学习风向生变。清华李健雄团队围绕机器人学习等研究多年后成立本溯智能创业。他们认为当下主流技术路线有问题，押注In - Context Learning，让机器人端侧自进化，降低部署成本。
比Transformer更强的架构来了？浙大新作Translution，一统卷积和自注意力
随着大模型发展遇瓶颈，浙大等校学者提出神经网络基础操作Translution，实现自注意力与卷积的融合统一，构建更普适神经计算机制。它性能超Self - attention，为新一代神经网络发展开辟新方向。