「FP4训练」共找到 3412 篇相关文章
OpenRouter模型7月排名：谷歌遥遥领先，DeepSeek 令牌份额占比超越Anthtropic
OpenRouter公布7月模型排名，按模型令牌份额占比，谷歌以43.2%遥遥领先，DeepSeek 19.4%超Anthropic，OpenAI仅5.9%。编程领域Claude sonnet 4占比第一，谷歌Gemini 2.5pro进步大。
Runway重夺全球第一！1247分碾压谷歌Veo3，没有千亿算力也能干翻科技巨头
Runway Gen - 4.5击败谷歌Veo3，以1247的ELO分数在Artificial Analysis榜单中重夺AI视频王座。它在多方面树立新标杆，虽有局限，但创始人认为其是通用模拟引擎，应用场景广泛。
刚刚2岁的Llama，「爸妈」都跑了！小扎手拆Meta AI，LeCun保持独立
面对谷歌、OpenAI等劲敌及Llama 4翻车、人才流失困境，小扎决定重组Meta GenAI团队，设三大架构。2023年Llama首版论文14名作者只剩3人，Llama 4也问题不断，而LeCun坚持自己的路线。
模型的自我进化，可能真的开始了。
昨天Hermes Agent更新支持原生Windows，安装简单。它调用量超OpenClaw成榜首，与MiniMax M2.7组合迭代快，能长程干活、自主迭代解bug，还可复刻文档风格样式，两团队正合作后训练项目。
一个大脑搞定所有模态，百度ERNIE 5.0技术报告公布
模型发布近3个月后，百度ERNIE 5.0技术报告公布。其底座用超级稀疏架构，参数量万亿但推理激活参数不到3%，实现四种模态原生自回归统一，还在路由调度、训练范式等多方面有创新。
个人开发者训400亿参数大模型：分布式算力，DeepSeek架构，3090单卡部署
Nous Research推出Psyche Network，可整合全球算力训练AI。它基于Deepseek的V3 MLA架构，有DisTrO优化器等技术，能让个人和小团体创建大规模模型，还实现40B参数LLM预训练。
他们让万亿参数RL学会了「省着跑」，顺便砍掉九成算力
2025年，强化学习成大模型进化主战场，但万亿参数模型跑RL成本高。Mind Lab团队实现1T参数模型LoRA高效RL训练，GPU消耗降90%，技术开源。此外还有Memory Diffusion记忆机制等成果。
中心动态重分配哈希，北邮团队提出并开源CRH项目 | AAAI 2026
北京邮电大学等机构联合提出新颖端到端框架 CRH，在训练哈希函数时动态更新哈希中心，提升检索精度和语义一致性。论文被 AAAI 2026 收录，代码已开源。
SpaceX为何官宣收购xAI？8万亿太空炼丹梦，别无脑跟进！
2026 年 2 月 3 日，马斯克宣布 SpaceX 全资收购 xAI。直接原因是 SpaceX 盈利而 xAI 烧钱，合并为解决资金问题；根本原因是 Grok 竞争失利，想借 SpaceX 运载能力打造太空算力形成差异。但太空训练面临散热等难题，推理可行。
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。