「同策略蒸馏」共找到 1178 篇相关文章
AI「作业神器」时代，我教书的那些事
AI「作业神器」普及，让学生不愿深入思考。一位教授分享经历，指出AI让课堂沦为防作弊战场，还谈到应对策略，如重新定义作业、鼓励合作讨论等，强调教育要培养独立思考者。
R1时代，RAG-Retrieval技术总结与展望~
RAG - Retrieval提供全链路RAG检索模型微调、推理及蒸馏代码，支持多模型、多loss和训练方式。还发布模型技术报告，设计评估框架，未来探索RL在检索领域应用。
We-Math 2.0：全新多模态数学推理数据集 × 首个综合数学知识体系
北京邮电大学、腾讯微信、清华大学团队提出We - Math 2.0，含知识体系、数据集及训练策略，可提升模型数学推理泛化能力。该成果在X上获关注，登Huggingface Paper日榜第一。
扎克伯格发文正式告别“默认开源”！网友：只剩中国 DeepSeek、通义和 Mistral 还在撑场面
Meta 首席执行官扎克伯格分享“个人超级智能”愿景，透露公司调整 AI 模型发布策略。此前 Meta 强调开源优势，如今态度转变，巨额投入后或暂停开源新模型，计划并行训练开源与闭源模型。
一段 signature，不仅撬开了 Opus 的隐藏推理，还让 Kimi、GLM 露出了"熟悉感"
研究者发现，将 Opus 等强模型返回的加密推理块交给同家族弱模型，弱模型可能转写出隐藏内容。如用 Haiku 读取 Opus 的加密信息。此外，公开的 Agent 轨迹存在隐私泄露风险，部分开源模型易受 Opus 风格影响。
有人把巴菲特芒格炼化成Agent，然后开源了…
AI Hedge Fund项目将12位世界级投资大佬“炼化”成Agent，可实时分析股票、完善交易策略，还内置回测模块。它兼容13种大模型，部署门槛低，开源后获高星。不过多数框架未实盘，投资有风险。
对抗KV Cache压缩的脆弱性：两行代码以最坏风险控制防御底层假设崩塌
中科大团队在 ICLR 2026 论文中指出 KV Cache 压缩领域底层假设存在缺陷，主流方法基于的稳定性假设在真实场景中脆弱。团队提出防御性聚合策略，仅两行代码修改，显著提升 KV Cache 压缩性能。
情人节暴击！下跪求婚的可以是机器人了
情人节，Unitree G1 人形机器人解锁求婚技能。背后是清华叉院等联合团队的 HuMI 框架，解决人形机器人数据采集难、效率低问题，通过硬件、交互与算法协同，实现低成本、高效全身操作策略学习。
AI子弹已上膛！OpenAI斩获美国防部2亿美元大单，密谋向微软「开枪」
AI巨头权力洗牌加速，OpenAI与微软因收购Windsurf及股份问题关系紧张，甚至考虑反垄断指控。同时，OpenAI获美国防部2亿美元合同，有「OpenAI for Government」计划，还致力于建设算力设施。
视频生成太慢？英伟达、谢赛宁等发布TMD框架，实现70倍加速
大规模视频扩散模型采样效率低，应用受限。英伟达联合谢赛宁等提出TMD框架，将大型视频扩散模型蒸馏为少步生成器。实验显示，TMD能实现超70倍加速，质量损失小，用户也更偏好其生成的视频。