「大规模训练」共找到 2312 篇相关文章
OpenAI解密大模型失控：它不是变坏，而是「太听话」
OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。
12个Ai编程Agent同台PK，最贵的不一定是最强的
上海交大和美团联合发布PRDBench论文，将12个主流AI编程Agent放入50个真实Python项目测试。结果显示，基础模型写代码强，商业版调试优势明显；专门训练的裁判模型比通用大模型靠谱。
扎克伯格正在打造自己的「AI分身」，并计划裁掉1.6万人
路透社称Meta酝酿大规模裁员，或超1.6万人。《华尔街日报》报道扎克伯格正打造“CEO Agent”辅助工作。Meta内部AI工具普及，与员工绩效挂钩，但效率提升也带来裁员压力，因AI投入巨大。
腾讯纯文本LLM训视觉encoder，拿捏图表长视频，达到开源小模型SOTA！
腾讯开源Penguin - VL，直接用纯文本LLM训视觉编码器，跳出传统多模态拼接套路。在2B/8B紧凑参数规模的复杂任务中竞争力强，训练分三阶段，相关代码、模型等已开放。
从视觉出发统一多模态！颜水成团队最新研究：不再把图像编解码器塞进LLM｜ICLR'2026
NVIDIA研究员Jim Fan称AI正经历第二次预训练范式转移。颜水成团队Muddit模型从视觉先验出发，用离散扩散框架统一文生图、图生文和VQA，挑战多模态“语言中心论”，在多任务表现出色。
微软 & UT Dallas 联手揭秘：从 SFT 到 RL 的进阶之路
微软与 UT Dallas 合作论文揭秘大模型做漏洞检测从 SFT 到 RL 的后训练流程，构建 C/C++ 漏洞数据集跑通全流程，总结六大‘避坑’指南，还开源整套框架、数据集和模型。
MiniMax M2.5：230B参数仅激活10B，开源模型首次逼近Claude Sonnet，成本仅十分之一
MiniMax推出新一代开源模型M2.5，官方称其为‘为现实世界生产力设计的开源前沿模型’。性能逼近Claude Opus 4.6，采用混合专家架构，成本低。已在内部大规模部署，定位为‘AI员工’。
对话蚂蚁灵波首席科学家沈宇军：2万小时真机数据，用“慢功夫”做具身智能｜甲子光年
蚂蚁灵波首席科学家沈宇军接受专访，称具身智能处于‘GPT - 1时刻’。团队选‘慢’路，积累2万小时真机数据，发布四个具身智能模型并开源。介绍模型架构、优势、问题及未来计划，还谈了开源考量等内容。
解决算力瓶颈，给多模态瘦身！Token压缩完整图谱与选型指南
给多模态大模型瘦身是解决算力瓶颈的关键。Token压缩技术可剔除视觉冗余，提升训练与推理效率。北大等团队剖析其全貌，给出完整图谱与选型指南，还揭示了未来演进路径。
多模态大模型中Attention机制暗藏「骗局」，需用一个公式修正丨上大×南开
上海大学曾丹团队研究发现，主流VLM中attention受位置偏置和padding区域异常高attention影响，直接用其进行视觉token剪枝会丢失关键信息。团队用公式对attention去偏，集成到多种剪枝方法，提升了模型性能。