「并行循环Transformer」共找到 626 篇相关文章
突破Pass@1瓶颈：一种让LLM自我博弈、永不枯竭的RL新范式，超越基线22.8%！
近年来，基于可验证奖励的强化学习（RLVR）在提升大型语言模型（LLM）推理能力上有关键作用，但存在熵崩溃问题。论文提出SVS创新策略，让模型自我合成变分问题形成自我提升循环，实验效果惊人。
不用额外缓存！英伟达开源大模型记忆压缩方案，128K上下文提速2.7倍
英伟达联合多机构推出TTT - E2E方法，在长文本处理上提速显著且性能不打折。它基于标准Transformer，将长文本建模转为「持续学习」任务，核心是上下文压缩，避免额外缓存，代码和论文已开源。
预训练就学会思考！字节、北大等用14亿参数，撬动百亿模型推理能力
字节、北大等联合发布Ouro模型，用14亿参数实现百亿级模型推理能力。它在预训练阶段学会循环思考，通过三大创新构建推理能力，在基准测试中表现优异，实现参数效率提升，是潜在推理范式的胜利。
RAG 进化之路（祛魅 Agentic RAG）：传统 RAG 到工具与强化学习双轮驱动的 Agentic RAG
文章旨在祛魅 Agentic RAG，先介绍传统 RAG 的离线入库和在线应用，指出其不足。再阐述 Agentic RAG 让 LLM 自主决策，结合工具执行循环。还介绍基于提示词和强化学习的实现方式，最后总结不同 RAG 的优劣。
我用 GLM-5.2 读 148 万字资料：一天读懂一个知识
作者用 GLM-5.2 处理 148 万字 Transformer 资料，它生成可打开的 HTML 阅读页，将内容排成理解路线。GLM-5.2 在评测榜单中进入第一梯队，主打 1M 上下文，还分享了使用该模型处理资料的具体做法。
【DeepSeek-OCR系列第一篇】Language Modelling with Pixels【ICLR23】
当前主流语言模型依赖固定词表，扩展到多语言、多脚本时面临覆盖受限、计算昂贵、鲁棒性差等问题。ICLR 2023论文提出不依赖词表的PIXEL模型，通过将文本变成图像用视觉Transformer理解，实验验证其有跨语言、抗噪声等优势。
Leogra AI：BVP 投资的欧洲版 Harvey，给每位律师配一位协作 Copilot
本文介绍瑞典法律AI公司Legora，其获1.5亿美元C轮融资，估值18亿。它让律师与AI并行工作，产品覆盖审查等环节。文中还阐述法律科技变革，以及其商业模式、竞争风险、团队文化和全球化策略等。
中科院类脑大模型SpikingBrain，2%数据，百倍速度
中国科学院自动化研究所李国齐、徐波团队发布全球首款大规模类脑脉冲大模型SpikingBrain 1.0。它处理长文本比主流Transformer模型快超百倍，训练数据仅为2%。该模型采用新架构，降低计算复杂度，还可转换现有模型，且在国产GPU完成训练。
5张 H800 带来 20 FPS 高保真实时虚拟人生成
传统扩散模型做视频生成速度慢、画面不稳定，难用于实时虚拟人场景。阿里Live Avatar框架将算法和系统一起设计，用TPP并行推理策略和RSFM机制等，5张H800 GPU能实现20 FPS高保真实时虚拟人生成。
CVPR 2026 ReSAM：每个目标只标1个点，SAM就能学会分割遥感图像
CVPR 2026收录论文《ReSAM: Refine, Requery, and Reinforce: Self-Prompting Point-Supervised Segmentation for Remote Sensing Images》，提出让SAM每个目标只标1个点，通过R³循环自己生成高质量伪标签训练。在WHU建筑数据集上，1点标注与全监督差距仅1.3%，省99%标注成本。