「概念蒸馏训练策略」共找到 2519 篇相关文章
68页论文再锤大模型竞技场！Llama4发布前私下测试27个版本，只取最佳成绩
《排行榜幻觉》论文指出Chatbot Arena存在问题，如少数大厂私下多版本测试选最优、数据访问不平等、用Arena数据训练可提性能、模型被大量静默弃用等，研究团队给出改进建议，官方也进行了回应。
拟合接近满分，外推却会跑偏：Meta 给缩放律加了一个指数
大模型训练前，团队常用 Chinchilla 缩放律估算模型规模和数据量，但它在模型和数据极不平衡的边界预测易跑偏。Meta FAIR 提出的 Skaling 只增加一个耦合指数，降低外推误差，还采用 L 形采样降低试算成本。
Claude还是最强，但Anthropic这周好像疯了
Anthropic状告阿里蒸馏模型致其股价创新低。一位87年创业者用AI搭工作流，起初用DeepSeek和Qwen问题多，换Claude后流程顺畅。MRCR v2测试显示国产模型与Claude有差距，便宜与省心模型该怎么选成问题。
2026年了，我们还在用爱迪生试灯丝的方式评估World Model
文章围绕World model展开深度讨论，界定其概念，分析生成派、JEPA派、空间智能派三条技术路线，指出评估比LLM难，提及游戏化benchmark可能是破局点，还强调具身进展由数据驱动，Ego - View或为泛化关键。
国产GPU开始造世界！国内首个全栈具身智能仿真平台来了
摩尔线程发布国内首个全栈国产化具身智能仿真平台MT Lambda，实现Sim-to-Real真机验证。该平台像物理AI训练流水线，集成物理、渲染、AI引擎。其依托全功能GPU和MUSA架构，还构建了云端、端侧、生态闭环。
把 RAG 做成主流的公司，现在开始“做空”RAG 了
Pinecone 曾将 RAG 定义成大语言模型 grounding 标准范式，如今却宣布 RAG 时代结束。它推出面向 Agent 的知识引擎 Nexus，提出“知识编译”概念，称能提高任务完成率、降低 token 开销，整个 AI 世界都在将“推理”往上游移动。
小模型用不好Skill？新范式让模型学会Skill的底层逻辑，3B模型推理token省5倍，性能反超
浙江大学联合美团龙猫团队、清华大学推出SKILL0，提出技能内化思路。它在训练中引入关键机制，让小模型把技能内化到参数里。实验显示，其效果出色，token效率高，为小模型成领域专家提供新方向。
互联网已死，Agent 永生
文章指出互联网时代诸多概念如DAU、SaaS等已过时，因旧前提‘人是软件用户’改变，新前提是‘Agent是软件新主人’。还阐述Agent时代四块基石，如Token是特权、Agent是人口红利等，强调新旧世界差异大。
蚂蚁发布全球首个视频-动作世界模型，开源即刷新世界纪录
从Sora惊艳亮相到谷歌开放Genie 3线上体验，世界模型从概念走向交互世界。蚂蚁旗下蚂蚁灵波开源全球首个视频 - 动作世界模型LingBot - VA，可驱动机器人完成复杂操作，解决长时漂移等问题，还提出工程化解法。
2026，一篇不错的高效Agents技术全面综述
上海AI Lab等9所高校联合发表《迈向高效智能体（Agents）：记忆、工具学习与规划综述》。文章介绍了高效智能体概念，分析其效率危机，阐述提升效率的三大战略方向，涵盖多种记忆、工具学习和规划方法。