「步数蒸馏」共找到 574 篇相关文章
林俊旸Agent创业首次亮相，腾讯已投
前Qwen一号位林俊旸官宣创业公司Pragmatik Labs，方向为做横跨数字与物理世界的下一代Agent。公司获高榕、红杉、腾讯等投资，投后估值达20亿美元。虽无产品模型，但凭借林俊旸过往成绩受关注。
切开Claude大脑，Anthropic称发现了一个类似人类意识的内部空间
Anthropic在Claude模型中发现J空间，其与人类大脑全局工作空间理论相似，承载特殊内容且可干预、参与多步推理等，但模型和人脑有差异，研究也有局限性。
Agent学会自己「长」Skill了！从失败里长出经验，比人类写的更好用｜ICML 2026
ICML 2026接收论文提出EvolveR，让Agent从自身成败轨迹自动蒸馏“经验”，经闭环生命周期形成“认知Skill”，维护经验库，用强化学习让其学会“使用经验”，在多跳问答表现优。
压缩即是全部 —— 菲尔兹奖得主给数学和 AI 的一封信
2026年3月，菲尔兹奖得主Michael Freedman发表论文《Compression is all you need》，用代数模型回答人类构建数学、人类与形式数学区别、人类数学家与AI协作三个问题，答案是“压缩”。文章还探讨了压缩在多领域的体现及对AI的意义。
澳洲大神用ChatGPT手搓疫苗抢命，救活癌症晚期爱犬！OpenAI总裁爆赞
澳洲AI大牛Paul Conyngham无生物学背景，用ChatGPT+AlphaFold为患癌爱犬设计全球首支定制mRNA疫苗，数周肿瘤缩小50%，引发全网关注，OpenAI总裁等盛赞，或推动人类癌症治疗。
Claude版Manus宕机，全网炸锅！顶级开发者曝光致命缺陷
Claude Cowork开年爆红，引发大量关注和讨论，两天内浏览量达五千万，甚至因太火爆致Claude用量太大而宕机。Django之父Simon Willison揭露其核心机制，也指出存在提示词攻击风险。
无需训练，即插即用：西湖大学发布世界模型WorldForge，让普通视频模型秒变「世界引擎」
自Sora亮相，AI视频可控性成瓶颈。西湖大学AGI实验室团队提出WorldForge框架，在推理时为视频模型注入「时空几何」，无需训练，实现单图360°环绕视频生成和视频重运镜等，降低创作门槛。
忘掉大模型，微软实证：小模型才是Agentic AI的未来！
过去两年大模型在数学竞赛题上靠Test - Time Scaling发展遇天花板。微软rStar2 - Agent让14B小模型学会‘写代码→跑结果→改思路’，表现出色。还介绍了其基础设施、算法、训练配方等方法。
Attention Sink产生的起点？清华&美团首次揭秘MoE LLM中的超级专家机制
清华和美团研究聚焦MoE LLM，首次发现超级专家子集。通过多模型实证分析，揭示其分布规律、重要性及对注意力机制的影响，开发识别工具，为模型压缩提供新方向。
突破单token预测局限！南洋理工首次将多token预测引入微调，编程任务准确率提升11.67%
当前主流大语言模型依赖下一token预测训练，难理解跨多token完整概念。南洋理工大学提出概念感知微调（CAFT）技术，首次将多token预测引入微调，能让模型理解完整概念，多领域实验显示其可显著提升模型性能。