「反蒸馏」共找到 305 篇相关文章
英伟达曾命悬一线！特朗普亲口承认想拆分英伟达，最后却被黄仁勋「说服」
特朗普在活动中回忆，得知英伟达近乎垄断时想拆分它，但顾问称拆分难，且追上英伟达至少需十年。黄仁勋成功说服其政府允许向中国售芯片，特朗普放弃拆分，此前拜登政府曾调查英伟达。
Claude再次突然变懒，原因竟是它把自己当作一个正在度暑假的欧洲人！
最近Claude表现不佳，又傻又懒。独立AI研究员near曾指出，它把自己当成度暑假的欧洲人。AI专家Alvaro Cintas给出让Claude变积极的建议，反映出AI行为受多种因素影响。
开源即屠榜！UniME多模态框架登顶MMEB全球训练榜，刷新多项SOTA纪录
格灵深瞳等团队联合发布通用多模态嵌入新框架UniME，刷新MMEB训练榜纪录。它是两阶段框架，经文本判别知识蒸馏和困难负样本增强指令微调，在多任务达SOTA，项目已开源。
DeepMind 创始人 Hassabis 语出惊人：百万 token 只是在贴胶带，AGI 在 2030 年
DeepMind创始人Hassabis在访谈中评估AGI进展，认为当前范式是最终架构一部分，但持续学习等问题待解决，预计2030年左右实现AGI，还探讨了Agent、蒸馏等多方面内容，并给创业者建议。
清华发布AutoSOTA：一周刷新105个顶会SOTA，推动AI科研回归创新本质
在AI研究中，研究者常为提升1%性能反复调参。清华与中关村学院联合发布AutoSOTA，实现端到端AI科研自动化，一周发现105个性能显著提升的SOTA模型，推动科研回归创新本质。
“坏”数据让模型更“好”？重新审视数据过滤
传统观点认为大型语言模型预训练应过滤“坏数据”，但论文《When Bad Data Leads to Good Models》提出反直觉观点，适度加入有毒数据，通过后训练技术可降低模型毒性，保持一般能力，挑战常规做法。
游戏开发也能自我进化？RSIGame让AI自主试玩、修复与迭代，27B模型组合超GPT-5.5一次生成
来自UCSD、字节跳动、CMU的研究团队提出RSIGame框架，解决大模型一次性生成游戏质量不足的痛点，通过双层闭环实现AI自主迭代改进游戏，还能将开发经验用于训练模型，最终27B微调模型搭配RSIGame的生成质量超过GPT-5.5一次性生成结果。
前沿模型被曝年度重大漏洞：加密思维链可被轻松提取，GPT，Claude，Gemini 无一幸免
一篇 116 页论文揭示前沿模型思维链重大安全漏洞，Anthropic、OpenAI、Google 的 API 因架构问题，模型隐藏推理过程可通过两次 API 调用被大规模提取，还会带来多种安全威胁。
Anthropic 在 Claude 内部发现"全局工作空间"，可以直接读取模型没说出口的想法
Anthropic发布研究，在Claude内部发现J - space（雅可比空间），即“全局工作空间”，它在训练中自发形成。用雅可比透镜技术可读取其内容，还验证了其功能属性，可用于对齐审计等。
9.1K Star！这个工具把 Claude Code 的幸福感拉满了，终于不用手撸 JSON 配置了！
Claude Code等让开发者回归终端开发，但配置“反人类”。GitHub上的cc-switch工具基于Rust + Tauri开发，支持多款模型快速配置切换，有可视化面板及多种功能，还集成Skills库，大大提升使用体验。