「分层稀疏注意力」共找到 442 篇相关文章
刚刚，梁文锋署名开源「记忆」模块，DeepSeek V4更细节了
十几个小时前，DeepSeek 发布新论文，与北大合作，作者有梁文锋。针对大模型问题提出条件记忆，用 Engram 模块实现，已开源。结合此前研究，DeepSeek v4 模样渐清。模型性能、效率表现优，并发现 U 型扩展规律。
DeepSeek-OCR是「长文本理解」未来方向？中科院新基准VTCBench给出答案
DeepSeek - OCR的VTC技术可实现高压缩率，降低长文本处理成本。但视觉语言模型能否理解压缩信息存疑，中科院等推出VTCBench评估，测试模型认知极限，还推出VTCBench - Wild检测鲁棒性。
VGGT4D：无需训练，挖掘3D基础模型潜力，实现4D动态场景重建
香港科技大学（广州）与地平线研究团队提出 VGGT4D，无需训练，通过挖掘 Visual Geometry Transformer 注意力层运动线索，在动态物体分割等任务表现优异，为 4D 重建提供新思路。
港大开源ViMax火了，实现AI自编自导自演
香港大学黄超教授团队开源ViMax框架，在GitHub获高星标。它借助多智能体协作实现AI自编自导自演视频，突破主流模型在长视频制作的瓶颈，采用多种策略应对技术挑战，不过在多方面仍有提升空间。
赢家诅咒？英伟达暴跌背后的泡沫之辩
11月3日至28日，英伟达股价跌幅近15%，黄仁勋有危机意识。同时谷歌股价涨超13%，Gemini3.0重建投资者信心。行业面临‘Scaling时代终结’论断，围绕英伟达GPU折旧周期有争议，TPU路线现曙光，国产算力加速替代。
Rust 天花板级大神公开发帖找工作：3000 次核心提交，不敌 “会调 OpenAI API、用 Cursor”？
Rust 编译器核心贡献者 Nicholas Nethercote 和 Michael Goulet 因团队缩编等原因公开找工作。Nicholas 称 AI 吸走大量资金与注意力，使 Rust 项目资源减少。同时，Unix 联合创始人质疑 Rust 能否取代 C。
Skywork技术论坛一手分享：Agent与多模态的落地真相｜甲子光年
8月19日，昆仑万维发起第一期Skywork全球技术论坛讨论会，众多高校和企业嘉宾围绕Agent与多模态展开交流。探讨了Agent商业化、多模态应用等核心问题，提出诸多判断，指出行业热度高但落地是关键。
2025年多款Deep Research智能体框架全面对比
文章从 OpenAI 关于 DeepResearch 的指南入手，对多个开源深度研究智能体框架进行架构解构与功能对比，还体验了商业化智能体应用，为使用者和开发者选工具框架提供参考。
告别评估乱象！首个视觉解释综合性基准发布，附人类真值 | KDD'25
埃默里大学团队推出首个视觉解释基准Saliency - Bench，构建8个任务的数据集，提供标准化评估流程与开源工具包，解决评估缺乏标准等问题，推动可解释AI向可靠、透明发展。
无Tokenizer时代真要来了？Mamba作者再发颠覆性论文，挑战Transformer
Mamba作者之一Albert Gu参与的论文提出分层网络H - Net，用动态分块取代tokenization。Tokenization虽能压缩序列但有缺点，H - Net在多方面表现出色，或预示无需Tokenizer训练时代到来。