「概念蒸馏训练策略」共找到 2511 篇相关文章
Qwen-AgentWorld：一个语言世界模型，模拟七大Agentic领域
今天正式发布 Qwen-AgentWorld，它是首个原生语言世界模型，能在七大领域模拟智能体交互环境。同步发布 AgentWorldBench 评测基准。Qwen-AgentWorld 经三阶段训练，在评测中表现出色，还探索两种范式增强通用智能体能力。
Transformer学不会多位数乘法？MIT和哈佛的研究指出了一个简单漏洞
MIT、哈佛和谷歌DeepMind团队实验发现，Transformer做4位数乘法有软肋。用‘隐式思维链’（ICoT）训练的模型准确率达100%，传统方法仅1%。研究揭示了问题根源，还给出修复方案，但也引发诸多质疑。
为训推加速！全新FlashQLA注意力算子库开源
自Qwen3-Next发布，GDN成Qwen主力注意力层，随模型规模扩大开销增大。现开源FlashQLA算子库，融合优化GDN Chunked Prefill前反向算子，在NVIDIA Hopper上多场景加速，提升预训练和端侧推理效率。
苹果推出 Ferret-UI Lite：一款用于查看和控制 UI 的端侧 AI 模型
苹果推出 30 亿参数的 Ferret-UI Lite 端侧 AI 模型，可解析屏幕图像、与应用交互。现有 GUI 智能体方法存在建模复杂等问题，Ferret-UI Lite 性能有竞争力，训练采用两阶段流程，还给出应用建议。
揭秘！RLVR/GRPO中那些长期被忽略的关键缺陷
近年来大模型任务突破离不开RLVR关键技术，许多RLVR方法会进行组内优势估计，北航等最新工作揭示其存在系统性偏差，困难题优势被低估，简单题被高估。这会影响训练，论文提出校正算法。
Gemini 3 Pro的位置，Kimi K2.5也想坐坐？
Kimi 发布 K2.5，在视觉编程上表现亮眼。它通过多模态训练涌现审美，能生成美观网页。与 Gemini 3.0 对比各有优势，Kimi Code 开源终端 Agent 功能强大，Kimi 还探索 Agent Swarm 协作新路径。
AI没有创造力吗？结构性约束与跨模态张力涌现AI创造力
法国索邦大学研究成果揭开AI创造力从受限领域生成模型中涌现的事实。研究转换视角关注生成过程结构条件，提出含四维度的概念框架解构创造力，通过实验证明多模态约束能催生AI新颖形式。
8块钱跑通一次强化学习全流程，潞晨云重塑微调赛道：1名算法工程师=1支Infra团队
大模型下半场，后训练特别是强化学习成核心战场。潞晨云微调SDK上线，它是国内首个全面开放、且兼容Tinker范式的Serverless微调平台，为强化学习提供低成本解法，在易用性和成本上有优势。
开源医疗模型SOTA：蚂蚁健康发布百亿参数医疗大模型
由浙江省卫生健康信息中心、蚂蚁健康等联合开发的AntAngelMed医疗大模型正式开源。它凭借独创训练与架构，在权威评测中表现优异，降低算力门槛，将专业知识、诊疗能力与计算架构融合，为医疗AI落地奠基。
对科技圈，小红书是个「新绿洲」
作者认为小红书正成为科技圈的「新绿洲」，这里有独特的「人间视角」。科技内容消费模式似「人间夜市」，博主和开发者圈点翻译技术概念。创业者可低成本验证想法，与用户形成「养成系」共生关系。