「概念蒸馏训练策略」共找到 2515 篇相关文章
做过十遍还要从头摸索？Agent 的记忆终于开始长成技能
MemTensor 等机构提出无需训练基础模型的 MSCE 框架，为 Agent 外部经验建‘晋升制度’，让经验成技能。该论文在 EvoAgentBench 与 LoCoMo 测试中结果更好，但在因果证明、模型依赖等方面有不足。
英伟达MoE新开源：一行import，微调加速3.7倍
英伟达开源NeMo AutoModel，基于Hugging Face Transformers v5，不改代码API，添一行import就能更快速微调MoE模型。实验显示，它能提升3.4 - 3.7倍训练吞吐，减少29% - 32% GPU显存占用。
Kimi Work 推出目标模式：连肝 24 小时做了本漫画书，已开源
Kimi Work 推出目标模式，设定完成条件可自动工作至达标。与 Claude Code、Codex 有差异，还具 Agent 集群能力。作者用其复刻 Logo、转换论文格式、制作漫画书并开源，指出目标模式类似模型训练。
Karpathy加入Anthropic要做的事，被Google提前做了
Karpathy官宣加入Anthropic要组建新团队‘用Claude加速预训练研究’，话音未落，Google&Meta等发论文‘LLMs Improving LLMs’验证了该思路。论文让Claude Code搜索最优推理策略，结果全面超越人类设计。
几张GPU干翻超算！耶鲁AI颠覆化学合成，实验成功率71%
近日，耶鲁大学李昊特团队开发 AI 系统 MOSAIC，将化学合成知识分 2498 个领域训练专家模型。测试中对超 35 种新化合物合成成功率达 71%，还完成难反应与新反应，相关论文发表于《自然》。
“这个怎么组装？”一句无害的问题，如何让AI产生危险输出
Amazon团队发现全新威胁模型“视觉排他性”，提出MM - Plan框架，通过强化学习训练智能体自动发现攻击策略。实验显示其对Claude 4.5 Sonnet和GPT - 5攻击成功率可观，代码和数据集已开源。
把 RAG 做成主流的公司，现在开始“做空”RAG 了
向量数据库开创者 Pinecone 宣布 RAG 时代结束，推出面向 Agent 的知识引擎 Nexus。它认为当前 RAG 模式脆弱、缓慢且昂贵，提出“知识编译”概念，称能提升任务完成率、降低 token 开销，虽面临质疑，但方向明显。
理解
作者以研究‘理解’概念为切入点，借助侯世达思想提出理解是脑海中‘云’的形状，其形成有横向相似度与纵向抽象度两个方向，并结合费曼说法等阐述‘云’视角下的理解。
脸谱心智陆弘远团队ACL 2026新作：别再给模型叠加「高级词」了！模型更爱听「大白话」
脸谱心智与香港中文大学科研人员中稿 ACL 2026 的新工作提出 Adam’s Law，即文本频率定律，揭示文本频率对模型训练及推理的重要性，还给出工程解法，实验效果显著，为行业带来新思路。
卖鞋厂转型做 AI 股价暴涨 582%，华尔街最不缺这种荒诞闹剧
4月初还在发布新品的鞋履品牌Allbirds，一周后宣布将业务重心转向人工智能计算基础设施。消息公布后，其股价一天内涨幅超582%。这种转型并非首例，背后是资本市场对热门概念的追逐。