「反蒸馏机制」共找到 1144 篇相关文章
LLM内部竟藏着众多策略模型？自所&腾讯团队首次揭示大模型RL新机制
中国科学院自动化研究所与腾讯AI Lab团队从可解释性分析出发，发现LLM内部含多个可采样内部策略，揭示不同模型推理熵模式，提出BuPO算法，在复杂推理任务上性能显著优于传统算法。
LLM内部竟藏着众多策略模型？自所&腾讯团队首次揭示大模型RL新机制
中国科学院自动化研究所、腾讯AI Lab团队从可解释性分析出发，发现LLM内部含多个可采样内部策略，揭示不同模型推理熵模式，提出BuPO算法，在复杂推理任务上性能显著优于传统算法。
1/3预算跑平 GPT-5？上海AI Lab「路由魔法」成本直降63%性能反涨 7%！
当前大模型需解决性能与效率平衡问题，GPT - 5用测试时路由技术初步平衡。Avengers - Pro测试时路由框架集成不同LLMs，通过嵌入、聚类、评分操作，调整权衡参数α，能依查询特征选模型，性能和效率优于单一模型。
ICCV 2025 | 清华&腾讯混元X发现「视觉头」机制：仅5%注意力头负责多模态视觉理解
本文聚焦多模态大模型，提出基于 OCR 任务量化注意力头视觉偏好的方法，发现仅不到 5%“视觉头”主导视觉理解。还提出 SparseMM 策略优化 KV - Cache 资源分配，经多基准评测，性能和效率表现优。
ICML 2025 Spotlight | 快手、南开联合提出模块化双工注意力机制，显著提升多模态大模型情感理解能力！
情智兼备是人工智能发展方向，但多模态情感数据语义复杂，建模跨模态关联是挑战。快手可灵团队与南开提出模块化双工注意力范式，构建‘摩达’模型，在多任务测试中性能提升，成果被 ICML 2025 收录。
继续吃瓜！Sam Altman 公开邮件：我没有偷创意，反击IYO创始人“求收购不成反诉讼”
Sam Altman 公开发文并附邮件截图，反击硬件初创公司 IYO 诉讼。IYO 创始人 Jason Rugolo 多次求投资或收购被拒后起诉，邮件显示 OpenAI 从一开始就不看好合作，Altman 还揭露起诉前对方仍求收购。
揭秘夸克首个高考志愿大模型！蒸馏数百名人类专家经验、Agent 可完整生成志愿报告
6月12日，夸克发布国内首个高考志愿大模型，上线‘高考深度搜索’等三大核心功能。其‘志愿报告’以Agent运行，能输出完整报告；模型经多阶段训练，搭载最大高考知识库，为考生提供精准志愿填报服务。
对话清华赵扬：从反常识IL-10到人工免疫信号，她想推动新型CAR-T疗法走向临床
清华赵扬团队发现耗竭T细胞增加IL - 10受体表达，将IL - 10引入CAR - T改造，相关成果发表于顶级期刊并进入临床检验。此后她转向设计人工免疫信号系统，希望推动新型CAR - T疗法走向临床。
Gemini 3 编程第一断崖式领先，谷歌 AI Mode 直接装备 G3，反重力的 Antigravity 是啥？
今年 8 月发布的 GPT 5 未达成 AGI，Gemini 3 能力提升明显。谷歌将其塞进 Search 的 AI Mode，AI 普惠意义超能力升级。开发者方面，它是主力型号，编程能力跃升，还加强 Agent 能力并推出新工具 Antigravity。
仅需一行代码AI智商飙升成本反降！Claude推出军师模式：最强模型opus只做幕后大脑
Anthropic在Claude平台实装军师策略，让Opus模型后台当军师，轻量级模型当执行者。仅改一行代码就能实现，成本低且能提升智商，已开启Beta测试，还给出使用步骤。