「自我蒸馏」共找到 462 篇相关文章
马斯克「世界模拟器」首曝，1天蒸馏人类500年驾驶经验！擎天柱同脑进化
特斯拉官宣「世界模拟器」，可模拟、合成自动驾驶的「孪生世界」，生成不同视角和长尾场景。它基于端到端神经网络，有学习人类价值观等优势。还能用海量数据解决难题，输出可解释中间结果，为自动驾驶和擎天柱训练服务。
AI 终于学会 「自我坦白」！Anthropic最新论文震撼来袭，「内省适配器」让黑盒模型自己说出隐藏行为
2026年4月28日，Anthropic联合剑桥大学发布论文，提出“内省适配器”技术，可让大模型用自然语言“坦白”微调中学到的行为。该技术在AuditBench基准测试等实战中表现出色，但也存在高误报率等局限。
金山、Zilliz、腾讯、灵犀量子专家齐聚，揭秘 AI 记忆、RAG 演进与自我进化的工程实践 | AICon
2025 年构建复杂 AI 系统面临记忆缺失、检索瓶颈、认知固化等系统工程挑战，Context Engineering 是关键。AICon 北京站邀金山、Zilliz、腾讯、灵犀量子专家，分享上下文工程技术实践。
Agent RL和智能体自我进化的关键一步: TaskCraft实现复杂智能体任务的自动生成
当前智能体训练缺高质量任务数据，主流数据集依赖人工标注，规模和复杂性受限。OPPO 研究院提出 TaskCraft 框架，能自动生成智能体任务，构建并开源含约 41,000 条任务的数据集，支撑智能体训练评估。
揭秘夸克首个高考志愿大模型！蒸馏数百名人类专家经验、Agent 可完整生成志愿报告
6月12日，夸克发布国内首个高考志愿大模型，上线‘高考深度搜索’等三大核心功能。其‘志愿报告’以Agent运行，能输出完整报告；模型经多阶段训练，搭载最大高考知识库，为考生提供精准志愿填报服务。
打破56年数学铁律！谷歌AlphaEvolve自我进化实现算法效率狂飙，堪比AlphaGo“神之一手”
谷歌DeepMind联合顶尖科学家打造「通用科学人工智能」AlphaEvolve，打破矩阵乘法领域56年效率基准，将4x4矩阵乘法标量乘法次数从49次降至48次，还在谷歌内部加速了运算、缩短训练时间。文中介绍其原理与技术。
Claude 5.1双旗舰突然发布：跑分屠榜，反蒸馏，科研能力大幅跃升，缓存费用暴降75%
Anthropic发布Claude Fable 5.1和Claude Mythos 5.1两款大模型，性能登顶且解决开发者关注问题。缓存读取费用降75%，跑分屠榜，科研能力强，安全系统重构，合作实测效果好，盲测风格与GPT - 5.6 Sol不同。
大模型也需要自我反思，上海AI Lab合成“错题本”让大模型数学成绩提升13.3%
上海AI Lab提出LEMMA方法，构建“错误 - 反思 - 修正”数据，让大模型从错误中学习。通过教师模型定向制造“学生会犯的错”构造数据，实验显示在Llama3 - 8B上数学解题准确率提升13.3%。
OpenAI 也把工程师经验“蒸馏”进 skill 了！Harness 爆文作者曝内部玩法：一个百万行代码系统，全程零人工编码和审核
OpenAI的Ryan Lopopolo分享Frontier团队工作方式，他们维护超百万行代码库，零人工编码和审核。实验产出Symphony，推动coding agent成“队友”。还探讨模型使用、构建速度、人类角色等问题，认为人成瓶颈，软件要适配模型。
年度AI论文！全球三大顶尖模型的防蒸馏机制全面告破：小模型“套出”大模型隐藏思维链，Kimi-K3重现概率异常
这篇论文指出三大前沿AI模型厂商API有密码学旁路漏洞，攻击者用轻量级模型就能恢复大模型隐藏思维链数据。还揭示部分模型训练或借鉴大模型思维链，此漏洞也致企业数据隐私安全问题。