「正交初始化」共找到 1030 篇相关文章
OpenAI突然开源新模型！99.9%的权重是0，新稀疏性方法代替MoE
OpenAI悄悄开源新模型，0.4B参数且99.9%权重为零，是Circuit Sparsity技术的开源实现。该技术通过约束模型内部连接稀疏性，解决传统稠密Transformer黑箱问题，或让MoE模型走上末路，但目前算力成本极高。
奥特曼连夜挖走英特尔CTO！AI首席突然叛逃，陈立武被迫亲自挂帅
今天，英特尔CTO兼首席AI官Sachin Katti突然离职，加入OpenAI打造算力基础设施。OpenAI正内外结合布局算力，而英特尔在AI转型艰难时痛失人才，CEO陈立武接管AI业务。
不等风来，要做风的源头：海淀孵化器新政以“场域孵化”催生创新范式跃迁 | 甲子光年
在全球经济与科技变革背景下，孵化器正经历范式重塑。海淀出台《海淀区高质量孵化器政策》，构建“创新策源场”，通过“源头激活”“垂直深耕”“生态协同”引领行业升级，助力创新发展。
AI 领域最''不务正业''的团队，可能做了一件最正确的事
马卡龙是一款主打帮助用户更好生活的个人智能体，有深度记忆和生成定制化生活场景小应用两大核心特点。它区别于生产力智能体，有技术积累，基础聊天免费，开发小应用收费。
马斯克挖不动的清华学霸，一年造出 “反内卷 AI”！0.027B 参数硬刚思维链模型，推理完爆 o3-mini-high
新加坡 Sapient Intelligence 推出小型模型 HRM，参数仅 2700 万却能解决复杂推理难题，其不依赖“思维链”，借鉴人类大脑工作方式。该模型准确率超先进思维链模型，推理能力强，具经济性，可提升任务效率。
SRO架构赋予Qwen-2.5-VL推理能力，性能飙升16.8%
文本领域推理模型成就大，但扩展到多模态大语言模型遇阻力，如冷启动初始化不足等。为此提出 SRO 三阶段训练框架，经测试，ReVisual - R1 平均性能提升 16.8 个百分点。
WWDC 2025 让大家“失望”了？no！苹果在下一盘AI大棋
苹果WWDC 2025未推出预期AI应用矩阵，股价下跌引失望。但实则是深思熟虑之举，它开放端侧模型及工具，让开发者创新，规避风险，待AI成熟凭借优势“后发先至”。
Astra 的 Computer Use 能力是如何实现的？
本文编译自Browserbase增长工程师Kyle Jeong的个人博客，对比了纯视觉路线Computer Use模型的缺陷，详细拆解Astra模型利用无障碍树结合Codex Harness实现能力的架构、训练方法，分析其优劣与行业价值。
答对了却没看图？EASE给多模态RLVR装上「视线校正器」
强化学习与可验证奖励提升视觉语言模型推理能力，但存在答案奖励只知对错、不知证据区域问题。哈工大等团队提出EASE，把标注证据区转为目标分布，监督空间注意力，推理无额外标注，实验成绩优异。
同一模型便宜50%，API Hub靠什么赚钱？
文章探讨大模型API Hub低价卖Token现象，指出低价出售的常是闲置算力等。分析厂商不官网降价原因，介绍第三方低价来源及Hub盈利途径，给出判断低价Hub能否用的检查清单。