「注意力去偏技术」共找到 3147 篇相关文章
函数向量对齐技术,让大模型持续学习不“失忆”丨ICLR 2025
中国科学技术大学等校团队破解大语言模型灾难性遗忘之谜,发现遗忘源于模型激活带偏差新功能,非覆盖旧功能。还设计FVG训练法,保留并对齐函数向量,保护模型能力。相关论文被ICLR2025接收,代码开源。
CSDN智研社欧洲首聚,共话技术范式转换下的创新与合作
随着大模型代表的第四次技术革命进入关键期,科技范式转换。5月7日,CSDN智研社2025欧洲站首场线下活动在巴黎举办,众多人士交流分享,未来CSDN还将在更多国际城市办活动。
AI 能力越来越强,那么它生成的代码,人类还需要去理解吗?
《代码整洁之道》作者罗伯特·C·马丁不逐行看 Agent 代码,设好测试框架通过就行。Notion 工程师 Geoffrey Litt 在会议探讨人类是否需理解代码,多数人认为需要,Litt 分享理解代码方法。
拆解AI短剧流水线:4道技术关卡,和一个反直觉的赚钱真相
文章拆解AI短剧流水线,介绍其要解决的核心问题,用框架分析四道收敛闸门,提及主流工具组合,还算了成本账,指出产能涨但公司巨亏,赚钱关键从制作转向投流。
世界模型来了因果技术标杆!具身大脑真要长脑子了
具身智能有泛化能力瓶颈,构建‘世界模型’成热门赛道。Aether AI获2000万美元种子轮融资,走因果世界模型路线,创始人黄碧薇认为这是世界模型‘终局形态’,能让机器人理解物理规律。
全球电池回收技术爆发:中国专利断层式领先,宁德时代子公司排第一
欧洲专利局和国际能源署报告显示,全球电池回收技术创新爆发,循环利用专利增长快。中国在该领域表现突出,宁德时代子公司邦普循环专利领先,且中国掌控矿产精炼与回收两端,不过全球面临缺料挑战。
让大模型理解真实医疗视频,全球首个开源技术方案来了!
AI 进入医疗领域需谨慎,此前美国引入不成熟 AI 致手术失误频发。全球首个医疗视频理解大模型元智医疗视频理解大模型发布并开源,解决了医疗视频领域的任务优化、数据缺失和无法评测痛点。
AAAI 2026 Oral | 告别注意力与热传导!北大清华提出WaveFormer,首创波动方程建模视觉
北大清华团队在AAAI 2026 Oral论文中提出WaveFormer,首创用波动方程建模视觉。它将特征传播写成欠阻尼波动方程,实现频率 - 时间解耦,在多任务验证中速度、效率与精度全面超越。
DeepSeek V4即将发布?先读懂梁文峰这份86页的技术底牌
据报道,DeepSeek计划2月中旬发布V4,此前将R1论文从22页扩充到86页。新增内容涵盖训练细节、成本、数据配方等,还公开失败案例、基础设施和安全报告,或为V4铺路并回应质疑。
注意力机制大变革?Bengio团队找到了一种超越Transformer的硬件对齐方案
Transformer虽改变世界但不完美,线性递归等新方法理论有优势,实际在GPU表现不佳。Bengio团队提出硬件对齐算法框架,用滑动窗口循环和B2P算法,实验显示有速度与质量双重突破。