「两阶段后训练方法」共找到 3704 篇相关文章
从deepseek v4的受限流线型超链接mHC谈架构优化
文章围绕DeepSeek v4的受限流线型超链接mHC探讨架构优化。指出过去十年深度学习重扩展层内计算，忽视层间通信。介绍多种层间通信改进方法，提出用检索替代累加，还提及深度注意力机制及混合深度注意力的成果。
分享一个我用了2年的深度研究Prompt，半小时帮你搞懂任何陌生领域。
作者分享用了2年的深度研究Prompt，即横纵分析法。该方法结合社会科学和语言学经典视角与商业分析思路，有Prompt和Skill版本且已开源。虽有局限，但能半小时帮人建立认知框架，助其快速入门陌生领域。
刚刚，一口气连发3个王炸模型、亮出2026年AGI战略，昆仑万维夯爆了
27日下午，昆仑万维在2026中关村论坛发布全新AI游戏世界模型Matrix - Game 3.0、AI视频大模型SkyReels V4和AI音乐大模型Mureka V9，还公布2026 AGI战略，推动AI从全模态能力突破进入平台化构建阶段。
不止Deep，更要Wide：清华、无问芯穹发布多智能体系统WideSeek-R1，4B模型比肩671B模型！
清华与无问芯穹的RLinf团队提出「广度扩展」，发布多智能体系统WideSeek-R1。它采用「Lead-agent-Subagent」框架，经MARL端到端训练，4B模型在广度搜索任务表现比肩671B模型，且在标准QA任务也出色。
谷歌新论文把内存股价干崩了！KV cache压缩6倍，“谷歌的DeepSeek时刻”
谷歌研究院推出TurboQuant压缩算法，可将AI推理中最吃内存的KV cache压缩至少6倍且精度零损失，还能8倍加速计算。虽引发存储芯片巨头股价下跌，但目前只是实验室成果，仅解决推理阶段内存问题。
永别了，Sora！奥特曼All in超级App
OpenAI一早关停爆火仅6个月的AI视频APP Sora，包括其开发者版本及ChatGPT内视频功能。奥特曼此举是为打造「超级应用」、为IPO铺路，同时为新模型Spud腾出算力，其预训练已完成，将在未来几周发布。
Karpathy刚开源的autoresearch，我拿来优化龙虾skill，成功率从56%飙到92%
Karpathy发布开源项目autoresearch，可让AI优化AI。作者分享用其优化skill的实践，介绍优化流程，指出可将模糊表述拆成可判断是非题，还提及定义评估标准的方法与常见错误修正。此外，还能用于代码性能优化。
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
劈柴哥和哈萨比斯亲自站台！谷歌世界模型Project Genie刷屏，幕后团队揭秘60秒不是极限，内存是巨大约束
谷歌发布世界模型原型产品 Project Genie，只需一句话或图就能一键生成可玩、可交互实时虚拟世界。它借助 Genie 3 等构建，解决了早期世界模型多短板，虽现处实验阶段，但已引发热议，应用潜力大。
手机跑推理模型：Liquid AI发布仅需900MB内存的LFM2.5-1.2B-Thinking
Liquid AI发布LFM2.5 - 1.2B - Thinking推理模型，仅需900MB内存就能在手机运行。它专为简洁推理训练，性能提升明显，多数性能基准超Qwen3 - 1.7B，在多平台表现佳，还支持主流推理框架。