「多头潜在注意力」共找到 283 篇相关文章
刚刚，梁文锋署名开源「记忆」模块，DeepSeek V4更细节了
十几个小时前，DeepSeek 发布新论文，与北大合作，作者有梁文锋。针对大模型问题提出条件记忆，用 Engram 模块实现，已开源。结合此前研究，DeepSeek v4 模样渐清。模型性能、效率表现优，并发现 U 型扩展规律。
DeepSeek-OCR是「长文本理解」未来方向？中科院新基准VTCBench给出答案
DeepSeek - OCR的VTC技术可实现高压缩率，降低长文本处理成本。但视觉语言模型能否理解压缩信息存疑，中科院等推出VTCBench评估，测试模型认知极限，还推出VTCBench - Wild检测鲁棒性。
VGGT4D：无需训练，挖掘3D基础模型潜力，实现4D动态场景重建
香港科技大学（广州）与地平线研究团队提出 VGGT4D，无需训练，通过挖掘 Visual Geometry Transformer 注意力层运动线索，在动态物体分割等任务表现优异，为 4D 重建提供新思路。
Rust 天花板级大神公开发帖找工作：3000 次核心提交，不敌 “会调 OpenAI API、用 Cursor”？
Rust 编译器核心贡献者 Nicholas Nethercote 和 Michael Goulet 因团队缩编等原因公开找工作。Nicholas 称 AI 吸走大量资金与注意力，使 Rust 项目资源减少。同时，Unix 联合创始人质疑 Rust 能否取代 C。
Skywork技术论坛一手分享：Agent与多模态的落地真相｜甲子光年
8月19日，昆仑万维发起第一期Skywork全球技术论坛讨论会，众多高校和企业嘉宾围绕Agent与多模态展开交流。探讨了Agent商业化、多模态应用等核心问题，提出诸多判断，指出行业热度高但落地是关键。
LeCun出手，造出视频世界模型，挑战英伟达COSMOS
训练有效世界模型面临数据、任务难度、算力消耗和评估等难题。Meta研究者提出通用视频世界模型DINO - world，可预测未来帧，在多方面有优势，实验显示其性能显著，能降低对标注数据需求。
告别评估乱象！首个视觉解释综合性基准发布，附人类真值 | KDD'25
埃默里大学团队推出首个视觉解释基准Saliency - Bench，构建8个任务的数据集，提供标准化评估流程与开源工具包，解决评估缺乏标准等问题，推动可解释AI向可靠、透明发展。
音频大模型安全可信度的全面“体检”！6大维度，清华南洋理工联手打造
南洋理工和清华团队提出新框架AudioTrust，将ALLMs评估扩至六个核心维度，探究音频模态特有问题。目前基准及平台已开发，揭示了开源与闭源ALLMs在多维度的潜在风险。
Claude神之bug：给自己下指令，还诬赖用户？？Hacker News炸了
强如Claude也现诸多bug，如分不清发言角色，把恶意注入指令当用户请求。技术根源是Transformer架构注意力机制盲区。网友给出避坑方案，还吐槽Claude算力调整、计费乌龙等问题。
Skills vs MCP，谁才是「大模型的 HTTP 时刻」？
近期，Anthropic新推Claude Skills获好评，而MCP协议一周年却很寂静。文章探讨MCP定位、适用边界及潜在价值，分析其与Claude Skills的关系，指出MCP生态现状及适用业务场景。