「反蒸馏机制」共找到 1148 篇相关文章
这次，LLM黑盒被LLM打开了~
随着大语言模型（LLM）能力提升，其内部机制更不透明。概念描述新范式用另一个 LLM 自动生成自然语言解释。介绍了描述对象、生成方法、评估指标，还提及社区关注方向，指出结合多种手段才能把解释变知识。
腾讯混元 TurboS 技术报告首次全公开：560B 参数混合 Mamba 架构，自适应长短链融合
日前腾讯混元 TurboS 技术报告全公开。它是超大型 Hybrid Transformer - Mamba 架构 MoE 模型，有自适应长短思维链机制，总参 560B。在多榜单成绩亮眼，多语种和多任务处理能力强，还介绍了核心创新、训练策略等。
小米MiMo Agent 跨会话进化
多数AI编程Agent任务一长就忘事，业界主流靠堆上下文窗口应对，但有缺陷。小米MiMo团队开源的MiMo Code，靠显式存储 - 检索机制，200步以上任务胜率超Claude Code达65%，介绍了其设计及优缺点。
线性注意力回归！Kimi新模型引爆，MiniMax却悄悄换回传统架构
LLM领域线性注意力机制正在回归，工程实践主要由国产模型推进。早期线性注意力因牺牲精度未获主流认可，今年下半年多个国产模型采用其变体，MiniMax却又换回传统架构，Kimi新模型带来新解法。
从单领域到多能力协同：数据混合如何重塑AI的强化学习
上海AI Lab的OpenDataLab团队通过大规模实验剖析可验证强化学习（RLVR）在多领域推理中的机制，发现逻辑与数学数据相互支持、代码推理有跨领域混合效应等，为构建AI推理模型提供关键发现。
真实评估！北理发布全球首个「全场景教育」基准，支持4000+情境
北京理工大学高扬老师团队推出EduBench，是全球首个「全场景教育」基准，涵盖9大教育场景、12个评估维度、超4000个情境。团队将数据、模型等全面开源，评估发现大模型在特殊教育场景有不足，还提出多源知识蒸馏等方法。
AI生图免训练提速1000%，办法：最简洁的“三阶段流水线”
AI画图速度慢，过往主流加速方法有局限。MrFlow团队提出三阶段流水线，在Qwen - Image等模型上实现10倍以上端到端加速，生成效果好，优势显著，还能与时间步蒸馏叠加，且完整开源。
Fable 5解禁即翻车！写一行代码就降智，开发者破防
消失19天的Fable 5解禁即翻车，因过度审查和双标机制，让开发者破防。但抛开护栏，它执行复杂任务能力强。A社同期发布的Sonnet 5也遭群嘲，此外，A社还提出评估框架并向政府让步。
捅破具身智能天花板！极佳视界新VLA大模型登场，复杂长时程任务近100%成功率
极佳视界推出GigaBrain-0.5M*VLA大模型，以世界模型条件驱动，引入人在回路持续学习机制。在与主流方法对比中，任务成功率提升30%，长时程任务近100%成功，还具备高效准确的价值预测能力。
Codex 的野心，MCP 和 Skill 的下一步
作者密集使用Codex App等Agent应用，发现顶尖Agent收敛到相同界面布局。Codex野心大，要处理多格式文件、支持专业工作流。MCP和Skill未解决用户二次编辑问题，插件机制或是出路，Codex已有原始插件市场。