「架构突破」共找到 2589 篇相关文章
AI时代的天工开物：分子之心掀起生物经济“操作系统”革命 | 甲子光年
生物经济正迈向工程化时代，分子之心作为AI蛋白质设计领军企业，携核心产品MoleculeOS入驻礼来上海创新孵化器。该平台升级后能力强大，还在构建生物经济‘新基建’，解决产业难题。
AGI 新技术路线：下一代稀疏注意力机制 Monte Carlo Attention 开源
超对称技术公司在新版基座模型 BigBang - Proton 中使用的 Monte Carlo 注意力开源。它基于二进制块编码技术，用块间代表交流机制实现线性复杂度，兼具多种注意力机制优点，可满足宇宙尺度建模的上下文长度需求。
Yoshua Bengio，刚刚成为全球首个百万引用学者！
计算机科学家Yoshua Bengio成Google Scholar上首个引用超百万的人。他是深度学习“三巨头”之一，在“AI寒冬”坚守研究，成果显著。如今他担忧AI风险，积极推动伦理准则和监管。
2025谷歌博士生奖学金揭晓，清华、科大、南大等校友入选
本周四，谷歌公布2025年度博士奖学金入围名单，获奖者来自35个国家和地区、12个研究领域，共255名博士生。文章介绍了各领域的华人研究者情况，涉及算法、架构、人机交互等多个方向。
景不动人动，MLLM如何面对「移步换景」的真实世界？OST-Bench揭示多模态大模型在线时空理解短板
上海多所高校研究者提出 OST - Bench，从智能体探索场景动态在线视角挑战大模型能力。它更贴近真实世界，揭示主流多模态大模型在线时空理解短板，为未来模型发展指明方向。
全球首个真实世界具身多模态数据集，它石智航交卷，比特斯拉还早6个月
它石智航发布全球首个大规模真实世界具身VLTA多模态数据集WIYH，将于2025年12月开放。该数据集突破大，特点鲜明，优势明显，其发布填补数据空白，奠定以人为本范式。
Apple发布新SOTA Manzano：混合Tokenizer破解多模态统一难题，理解与生成双翼齐飞
多模态AI前景广，但现有模型在理解和生成任务上存在性能冲突。苹果提出Manzano模型，用混合视觉标记器降低任务冲突，结构简单可扩展，在多基准测试达SoTA水平，还展示图像编辑潜力。
LeCun力荐的JEPA杀入LLM，用CV的思路训练LLM，性能鲁棒性双丰收
LeCun团队提出LLM - JEPA，将JEPA自监督学习架构从视觉扩展到LLM。它能提升性能和鲁棒性，在多模型和数据集验证有效，但有训练开销大、泛化性不足等局限。
The Batch: 881 | 一千万 token 的输入上下文
Google的Ali Behrouz等人设计“记忆模块”集成到类transformer架构ATLAS，能处理一千万token输入。它替代注意力层，训练后在长上下文任务中表现佳，但小模型，大规模表现未知。
KV-Cache 实战策略：生产环境中的分页、固定与复用技术解析
在大语言模型推理场景中，KV - Cache 是平衡性能与成本的核心技术，但生产环境中面临诸多问题。本文聚焦其分页、固定与复用三大战术，结合原理、实践与案例，为开发者提供解决方案，还探讨了未来演进方向。