「注意力残差」共找到 555 篇相关文章
Meta 用一个烂 Web 应用替换原生 WhatsApp:Windows 用户活该将就?
Windows 11 版 WhatsApp 升级后只是在 WebView2 容器加载网页版,性能糟糕、卡顿,与 Windows 通知兼容性差。Meta 曾用原生应用替代 Web 版,如今又走回头路,让人担忧 macOS 版未来。
kimi K3超大杯升级背后的技术内幕
文章介绍开源模型 K3 架构设计思路。主要探讨 MoE 和 MLA 部分,在 MoE 方面提出 SiTU、Norm、QB 改进;在注意力机制选择 MLA,与 KDA 混合缓解部分问题,还谈及 DSV4、NoPE 相关特点。
对话 Coddie 何鋡威:95 后,华为、传音、拓竹历练,用特斯拉的思路做母婴产品
Coddie创始人何鋡威,95后,曾任职华为等企业,后投身母婴赛道。他认为母婴行业产品差、毛利高,缺乏极致产品。Coddie用AI改造该赛道,做育儿大脑和生态,欲成母婴界特斯拉,目标欧美市场。
Harness Engineering 时代的失败经验
作者分享在Harness Engineering时代使用Coding Agent的经验,指出虽Agent发展快且有成功案例,但实际应用有诸多问题,如部分模型体验差、自然语言模糊影响长程工作等,还给出解决思路,文章会持续更新。
陶哲轩再爆:一个月三破18年未解难题!AlphaEvolve彻底改写数学研究规则
一项封尘18年的数学难题,在短短30天内被AlphaEvolve与人类联手三度突破,和差集指数θ从1.173050提升至1.173077,刷新加法组合学天花板,展示了AI与人类协作的新范式。
AI 一键生成网站之后,最残酷的差距出现了:代码不再值钱,审美决定生死
知名前端开发者 Wes Bos 认为,2026 年将是“设计复兴之年”。当 AI 能让任何人快速生成网站,真正的差异化将来自审美、取舍和打造独特体验的能力。如 Lando Norris 官网,靠精心设计吸引关注。
陶哲轩转发!华人数学博士后反超DeepMind AI,停滞18年数学问题1个月内3次突破
DeepMind的AlphaEvolve打破集合和差问题18年纪录,华人博士后Fan Zheng等数学家出手反击。人类用测度集中性少量辅计算机,1个月内该问题3次突破,陶哲轩称不同方法可互补推动数学进步。
马斯克Grok 4正式发布:世界最大AI超级计算机就训练了这?
Grok 4公开基准测试有进步,但在高级推理测试表现差,视觉理解仍是短板。性能提升多靠整合符号工具,无重大技术创新,‘幻觉’问题没实质进展,xAI官方对道德对齐信心不足。
答对了却没看图?EASE给多模态RLVR装上「视线校正器」
强化学习与可验证奖励提升视觉语言模型推理能力,但存在答案奖励只知对错、不知证据区域问题。哈工大等团队提出EASE,把标注证据区转为目标分布,监督空间注意力,推理无额外标注,实验成绩优异。
DeepSeek发布最新论文,5大杀手锏让大模型训练、推理暴涨
全球著名开源大模型平台DeepSeek在huggingface发布超强开源模型V3的论文,从硬件架构和模型设计双视角探讨高效训练和推理,提出DeepSeek - MoE、多头潜在注意力等创新技术,解决内存、计算效率等难题。