「注意力去偏技术」共找到 3147 篇相关文章
西湖大学提出RDPO强化学习框架,实现扩散模型并行推理加速
扩散模型“顺序去噪”特性成速度提升瓶颈。西湖大学AGI Lab提出RDPO框架,不必改动模型本身,优化其“采样导航系统”,在多基准测试中取得领先图像生成效果,解决加速问题并提供RLHF对齐新范式。
The Batch: 891 | 用于科学发现的人工智能
Adji Bousso Dieng展望2026年,希望AI从‘提升效率的工具’变为‘推动科学发现的催化剂’。当前深度学习主导范式是‘插值’,难以应对数据分布‘尾部’,应转向能驾驭分布尾部的技术,把多样性作为核心目标。
智源悟界 · Emu3.5 重塑世界模型格局:首提多模态 Scaling 范式,AI 理解世界再进化
北京智源研究院发布大规模多模态世界模型“悟界·Emu3.5”,它能模拟复杂动态物理世界,揭示“多模态Scaling范式”。该模型继承深化Emu3技术哲学,在多方面有提升,为世界模型领域提供进化路线。
两招为GraphRAG图谱“提纯”,DEG-RAG效果有点炸~
文章指出传统RAG多跳推理和全局一致性能力受限,Graph - based RAG虽好但图谱噪音大。作者提出Deg - Rag方案,含实体消歧和关系反思两招。实验显示去噪后图谱效果提升,验证“Less is More”理念。
集成的历史和未来
文章回顾电子集成技术历史,1936年保罗•爱斯勒发明PCB,1947年晶体管诞生并开创微电子封装史,1958年基尔比和诺伊斯发明集成电路。还展望未来,如探寻单原子晶体管、遵循功能密度定律、PPA进化到PPV等。
AI驱动的研究报告生成器Open Deep Research
Open Deep Research是AI驱动的研究报告生成器,用户提问题可获全面且有来源的答案。它采用Next.js 15等技术栈,经多步骤生成综合报告,还介绍了克隆与运行方法及项目地址。
5月5日5点55分,GPT-5.5自己选客人开派对!Codex反超Claude Code
5月5日下午5:55,GPT - 5.5将举办派对,时间自定,客人由Codex挑选。过去两月,AI编程工具圈开发者从Claude Code转向Codex。虽Claude模型强,但工具体感上Codex占优。
能查信息≠循证AI:OpenEvidence爆火在前,中国医生的「信任死结」谁来解?
AI医疗市场增长快,但国内落地面临医生信任难题。医渡科技发布的医渡智循,通过全流程技术体系、多专科智能体协作等,解决AI信任问题,实现全场景布局,让AI回归循证。
7篇顶会NeurIPS 2025最佳论文都说了什么?
NeurIPS 2025七篇获奖论文揭示大模型思维同质化、推理能力虚幻边界等隐忧,也在注意力机制、神经扩展定律等方面取得物理学层面突破,为AI建立更严谨科学地基。
何恺明团队重磅新作:去掉VAE,无需Tokenizer,纯Transformer预测数据比预测噪声更高效
麻省理工学院何恺明团队发布颠覆性研究,指出主流扩散生成模型未做好去噪工作,回归洁净数据预测才是高维像素生成正解。团队设计实验验证观点,提出极简架构JiT,展现优越性能与扩展能力。