「生成式预训练」共找到 4031 篇相关文章
The Batch: 881 | 一千万 token 的输入上下文
Google的Ali Behrouz等人设计“记忆模块”集成到类transformer架构ATLAS，能处理一千万token输入。它替代注意力层，训练后在长上下文任务中表现佳，但小模型，大规模表现未知。
万万没想到，大学生都开始拿AI来养猪了
夸克在中国人民大学分享会曝光大学生使用情况，每10个大学生中有7人用夸克，AI渗透率达80%。学生不仅用其学习，还用于生活。不过夸克高考曾出现信息错漏，后已修正。
首个MCP架构、只50行代码就能实现高效RAG的开源框架UltraRAG 2.0
检索增强生成系统（RAG）复杂度提升，使科研人员面临高昂工程实现成本。清华大学、东北大学、OpenBMB等联合推出UltraRAG 2.0，基于MCP架构，降低技术门槛与学习成本，让科研专注创新。
苹果新研究：不微调、不重训，如何让AI提问效率暴增6.5倍？
苹果与牛津、港城大合作提出 BED - LLM 方法，能让 AI 解决问题能力提升 6.5 倍，无需微调重训。它基于序贯贝叶斯实验设计框架，通过三重智慧设计，经测试全面超越基准方法，或开启‘智慧对话’时代。
从私域知识到智能 Agent：构建智能运维知识库
抖音算法工程师王宁在 QCon 大会分享，介绍将私域知识与 LLM 融合构建运维系统的方法，详解 SOPAgent 架构解决传统 AIOps 难题，还提及多模态数据处理、知识管理体系等亮点。
首创郎园携手BFA影像传媒学院，成立AI视听产教融合实验室
8月19日，首创郎园与北京电影学院影像传媒学院共建的AI视听产教融合实验室在郎园Station园区揭牌。首创郎园称影视人才需求变了，实验室将依托双方优势培养AI视听人才，首个项目即将启动。
一篇200+文献的视觉强化学习技术最新综述
NUS、浙江大学和香港中文大学对强化学习与视觉智能交叉领域进行系统梳理，归纳200余篇工作为四大主题支柱，剖析算法等进展，提炼关键趋势，还介绍LLM的RL方法、视觉RL阵地等。
The Batch: 863 ｜推理提高了碳排放
新研究量化推理模型时代提供更优答案的环境成本，研究人员估算14个开源权重的大模型碳排放，发现推理与排放存在权衡关系，还指出战略性部署可降低排放。
刚刚，商汤内部两万字复盘曝光：多模态通往AGI核心路线首次公开
商汤科技联合创始人林达华撰写万字长文，剖析将「多模态通用智能」视为技术战略核心引擎的原因，探索组织及战略层面的思考。文章回顾商汤多模态之路，探讨多模态通向AGI的原因、构建路径等关键问题。
别只盯着李飞飞！AI的「3D数据底座」已被这家中国公司悄悄建好
群核科技构建具身智能时代的「3D版ImageNet」，其SpatialVerse平台为机器人提供三维数据与仿真环境。借助新技术发布全球首个3D语义数据集InteriorGS，还与多机构合作，成果获学术和产业认可。