「U型缩放定律」共找到 121 篇相关文章
【梁文锋署名】DeepSeek再发新论文:75%思考+25%记忆,这是他们算出来的最优解
DeepSeek新论文《Conditional Memory via Scalable Lookup》提出Engram模块,指出大模型用计算模拟查字典是浪费算力,Engram能给模型装“记忆”,还发现参数分配呈U型缩放定律,推理和长上下文能力提升显著。
字节跳动发布SeedFold,蛋白质结构预测相关多任务超越谷歌AlphaFold 3,揭示大模型缩放新秘诀
字节跳动Seed团队推出新一代折叠模型SeedFold,在多个蛋白质相关任务性能上超越谷歌AlphaFold 3。该研究为有效缩放生物分子基础模型提供新思路,推出加宽模型、线性三角注意力等方法。
Meta提出数据筛选的理论:何时“少即是多”成立?
Meta针对机器学习领域‘少即是多’悖论提出理论框架,用高维统计等方法推导测试误差缩放定律,揭示数据筛选‘相变’条件,为实践提供指导,还重新定义‘数据效率’意义。
Shopify CEO考虑禁用Claude Code,因其不兼容AGENTS.md
Shopify CEO Tobi Lütke 考虑在 Shopify 禁用 Claude Code,因其坚持读取`CLAUDE.md`,与团队常用的`AGENTS.md`等不兼容,可能使开发者获不同项目规则。开发者社区给出解决办法,Lütke仍担忧大规模维护难题,Claude Code 团队称会跟进。
黄仁勋 × Lex Fridman:NVIDIA 4 万亿市值背后的 AI 革命
黄仁勋与Lex Fridman进行两小时访谈,从Amdahl定律聊到人类意识。谈及NVIDIA发展,如CUDA决策致市值下跌后回升;提出AI扩展定律,认为智能由算力决定;还分享管理、技术预判等看法及对中国创新的评价。
库克清空弹夹!2nm,韬定律,最强AI电脑
库克退休前火力全开,苹果发布首款2nm制程芯片M6和最强M系芯片M5 Ultra,塞进新款Mac。M6让Mac mini AI性能暴涨,M5 Ultra性能强悍,能跑大模型。但因内存短缺,高内存版限购且供货晚,价格也涨了。
0.7nm制程芯片问世!摩尔定律又活了
IBM推出全球首款0.7纳米芯片制程节点,指甲盖大小芯片可集成近1000亿晶体管,性能或能效大幅提升。靠‘纳米堆叠’架构实现突破,最早5年内量产,有望让芯片微缩延续十年。
用激光给芯片散热,摩尔定律天花板盖不住了
初创公司Maxwell Labs提出光子冷却法,可将芯片热量转化成光并去除。该方法基于反斯托克斯冷却原理,集成到薄膜芯片级光子冷板。相比传统散热,它效率更高,有望解决芯片散热难题,推动行业发展。
RL缩放王炸!DeepSWE开源AI Agent登顶榜首,训练方法、权重大公开
今天凌晨,Together.ai联合Agentica开源AI Agent框架DeepSWE,基于Qwen3 - 32B模型用强化学习训练。所有内容开源,测试中性能超所有开源Agent框架,证明强化学习训练潜力。
不换GPU,性能飙升2.8倍!英伟达用软件暴打摩尔定律
2026年1月8日,英伟达官网披露,基于Blackwell架构的推理软件栈升级,让混合专家模型(MoE)推理效率迎「阶跃式」突破,单GPU吞吐飙升2.8倍,显著降低推理成本。其通过软件针对性升级发挥硬件潜力,还进行多项优化。