「循环Transformer」共找到 393 篇相关文章
全球强化学习+VLA范式，PI*0.6背后都有这家中国公司技术伏笔
机器之心介绍了Physical Intelligence成果π*0.6论文，指出VLA+online RL是有前景的研究方向。还分析VLA+RL重要性、应用难点，重点介绍星动纪元iRe-VLA突破困境的方案及其实验效果，揭示VLA在线强化学习前景。
小扎新AI，凉得彻底？
9月25日，Meta推出嵌入Meta AI应用的AI视频流Vibes，可浏览、二创和分享AI视频，改写短视频玩法。它降低创作门槛，融入Meta生态，野心勃勃，但也带来版权等争议，还将与硬件结合，AI视频或成新全民入口。
比思维链准43%！逻辑脑+大模型直觉，推理可靠性大幅提升
中德研究团队发布成果，给大模型外挂「逻辑脑」，结合答案集编程与LLM，构建神经 - 符号框架，提升空间推理准确率，让AI能说清逻辑、跨任务迁移，迈向更可靠的通用推理。
ICML'25 | 告别手动SFT！一句话得到你的专属大模型LoRA
传统微调方法开销大、部署难，Text-to-LoRA (T2L) 框架应运而生。它基于自然语言指令对 Transformer 模型即时适配，有三种架构变体，采用两种训练方法，实验显示其在多维度表现有效。
时空压缩！剑桥大学提出注意力机制MTLA：推理加速5倍，显存减至1/8
在大语言模型发展中，Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA，结合时空压缩策略，提升推理效率，在多任务中表现出色，代码已开源。
中学生就能看懂：从零开始理解LLM内部原理【九】｜ 层归一化：神经网络的稳定器
本文是系列文章第九篇，介绍了神经网络中的层归一化。先回顾标准差、标准分概念，指出其可使差异可控稳定。接着说明层归一化将原思想用在神经网络，还加入可学习参数，最后总结其作用与应用位置。
完成过亿融资，复旦博士要为不同端侧场景定制专属推理芯片丨对话淬思科技潘鸿洋
本文是对淬思科技创始人潘鸿洋的专访，潘鸿洋为复旦博士，淬思科技刚完成新一轮亿元融资，瞄准端侧AI推理成熟阶段的碎片化需求，主打定制专属推理芯片，采用AI原生设计流程压缩开发成本与周期，计划推进首颗商用芯片流片。
离开OpenAI和Google后，两位大模型核心负责人决定卷下一代架构
曾是OpenAI的「强化学习最大主义者」Jerry Tworek，与谷歌Gemini预训练负责人Rohan Anil，共同创办Core Automation。他们探讨当前AI路线问题，认为下一代架构要能持续学习，还计划打造自动化AI实验室。
用了10年，奥特曼终于等到了他想要的人
AI传奇人物Noam Shazeer宣布离开谷歌，转投OpenAI。他是Transformer架构论文作者之一，贡献卓越。Sam Altman称等他10年，OpenAI研究负责人欢迎其加入。这对OpenAI是胜利，对谷歌Gemini研发是打击。
评论送书 | Al智能体与传统AI应用的区别？它如何工作？如何快速构建智能体？
文章对比AI智能体与传统AI应用，指出前者更像“乐高积木”，可融入生活工作。介绍其工作是“感知—推理—执行—学习”循环，还给出快速构建通用方法，如明确目标、选框架等。