「线性标度律」共找到 99 篇相关文章
GPT-5从零提出量子物理新想法，物理学家写成论文已登Physics Letters B
密歇根州立大学物理学家Stephen Hsu在《Physics Letters B》发表量子物理论文，核心思想由GPT - 5提出。论文探讨量子演化线性问题，推导出新算符可积性条件。他还分享与GPT - 5协作过程及体验，对人机协作前景乐观。
40岁开始预防衰老最有效！1.9万人脑扫描揭秘：大脑衰老有“关键窗口期”
一项发表于《美国国家科学院院刊》的研究，分析超1.9万人功能性磁共振成像，发现大脑衰老非线性，与胰岛素抵抗增加相关。还发现酮体可绕过胰岛素抵抗供能，40 - 59岁干预效果最佳。
训练成本暴降99%，35秒出1分钟高清视频！英伟达MIT等引爆视频AI革命
英伟达联合MIT、港大团队提出SANA - Video架构，其核心是创新的全局线性注意力Diffusion Transformer训练框架和全局显存恒定的KV缓存机制。它训练成本低、速度快、可部署，重新定义AI视频生成效率极限。
Anthropic最新论文：检测LLM内省意识的方法
Anthropic与MIT等研究表明，LLM能‘感知’被注入的steering vector，‘内省意识’在DPO等后训练阶段涌现。研究构建实验，发现内省能力行为稳健、检测非简单线性关联等，还揭示检测与识别机制不同及两阶段电路。
单GPU搞定高清长视频生成，效率×10！引入Mamba机制突破DiT瓶颈 | 普林斯顿&Meta
普林斯顿大学和Meta联合推出新框架LinGen，以MATE线性复杂度块取代传统自注意力，使单张GPU能在分钟级生成高质量视频。它在视频质量上优于DiT，减少FLOPs和延迟，与先进模型相当。
原来Scaling Law还能被优化？Meta这招省token又提效
2017年《Attention Is All You Need》提出的Transformer是主流语言模型基础范式。Meta新论文提出旋转不变型三线性注意力机制，证明其表现能改变Scaling Law系数，还证实2 - simplicial Transformer在有限token预算下更优。
93%的人在用AI，为什么生产力只提升了10%——两个被严重低估的杠杆
Stack Overflow 2024年调查显示93%开发者用AI辅助工具，但DX Research研究表明生产力仅提升约10%。文章指出多数人用AI是线性叠加，真正的乘数效应来自自闭环验证和长期记忆，还分析误区并给出实践路径。
2025 年最全面的 LLM 架构技术解析【长文】
Sebastian Raschka更新「大型LLM架构对比」长文，解析2025年LLM架构发展。介绍了如DeepSeek V3、OLMo 2、Gemma 3等模型架构特点，像DeepSeek V3用MLA和MoE提升效率，还探讨线性注意力复兴等趋势。
大模型是否对问题难度有预判？最新研究揭示 LLM 内部的“难度感知机制”
近期论文《Probing the Difficulty Perception Mechanism of Large Language Models》系统性解答大模型能否感知问题难度等问题。研究基于数据集在主流 LLM 上训练轻量线性探针，定位负责难度感知的注意力头，还发现不同模型表现有差异。
来了，DeepSeek又悄悄开源LPLB项目
DeepSeek 悄悄开源 LPLB 项目，该项目解决 MoE 小批量训练专家每批 token 数抖动问题。LPLB 在 EPLB 基础上，将‘冗余专家’看成带容量边的图，每批解一次线性规划，实现 token 重新路由，单节点 100µs 级求解。