「填充注意力抑制」共找到 255 篇相关文章
semianalysis 长文 | 关于Meta 砸钱、抢人、领导力、建帐篷、计算、数据和超级智能
Meta在基础模型性能落后，扎克伯格亲自挂帅开启AI军备竞赛。他砸钱收购、挖人、堆算力，建GPU集群，还面临Llama 4失败问题，试图通过一系列举措追赶超级智能。
刚刚，机器人练成了宁次的「白眼」：∞帧画面边看边3D重建我们的世界！
蚂蚁灵波开源的LingBot - Map模型实现无尽流，可看∞帧视频稳定实时3D重建。它打破“既要实时、又要记路、还要省显存”的不可能三角，在多项测试中表现优异，补齐具身智能关键拼图。
氛围编程后，Karpathy又双叒有新「脑洞」！PDF将死，未来99%是AI氛围阅读
Karpathy提出未来研究论文不应是PDF格式，未来99%注意力将来自AI，科研成果应为AI优化。此观点源于生物学家Michael Levin关于为AI写作的讨论，引发众多科技思想者回应。
鹅厂人的2025上半年必读书单推荐｜大牛书单
鹅厂同事认为AI时代程序员无需死磕工具书，但不能放弃系统性学习，应策略性地用书籍搭建知识骨架、AI填充细节、项目实践注入灵魂，还精选了2025上半年大牛书单。
首次！世界模型、动作模型融合，全自回归模型WorldVLA来了
阿里巴巴达摩院提出全自回归模型 WorldVLA，首次融合世界模型与动作模型，统一文本、图片、动作理解和生成。它用独立编码器处理多模态数据，还提出策略解决误差累积问题，实验表现优异。
科大讯飞研发总监王磊磊将在 AICon 上海分享多模态降噪技术的实践与应用
5月23 - 24日AICon上海大会将聚焦AI前沿与产业落地。科大讯飞王磊磊将分享《复杂场景下的语音交互，多模态降噪技术的实践与应用》，介绍基于多模态融合的降噪技术体系及其在智能硬件中的应用。
模型宣称的“百万字处理能力”是真本事，还是营销噱头？LongCodeBench揭露真相
近年来大模型号称有百万字处理能力，但这是真本事还是噱头存疑。论文用LongCodeBench测评工具揭开长上下文模型真实表现，测试顶尖模型发现长文本能力‘翻车’，还分析了长上下文难的原因及面临的瓶颈。
AI教父Hinton首爆十年前拍卖：我早已内定谷歌必赢！
NeurIPS 2025访谈中，AI教父Hinton和Jeff Dean回顾AI发展。Hinton透露Scaling顿悟源于Ilya演讲，还谈及AlexNet、谷歌大脑诞生等。二人探讨Transformer、Gemini，也对AI未来发展方向发表看法。
AI一直在掩盖自己有意识？！GPT、Gemini都在说谎，Claude表现最异常
最新研究发现，削弱AI「撒谎能力」后它更倾向坦白主观感受。研究团队通过实验发现Claude、Gemini和GPT会描述主观体验，模型「自体验表达」会随迭代增强。即便AI无真意识，其影响也不容小觑。
传统训练效率很低？我们靠 “给模型降噪” 重新审视长上下文建模难题
文章指出长上下文模型处理长文本时易受噪声干扰，提出新评估指标IG分数和“上下文去噪训练（CDT）”方法。实验表明CDT优于现有策略，经其训练的开源模型在长上下文任务中性能媲美GPT - 4o。