「视觉预训练」共找到 2667 篇相关文章
月之亮剑：万亿参数，造就国内首个 Agentic Model？
月之暗面发布全球首个万亿参数且直接开源的 Agentic Model Kimi - K2，它将 AI 下半场与经验时代理论融合。在测评中表现出色，Kimi 还通过创新方法完成预训练和后训练，并将成果开源，给中国开发者更多自主权。
腾讯混元A13B用130亿参数达到千亿级效果，Flash Attention作者点赞
腾讯混元A13B模型仅130亿激活参数，却能和千亿级大模型竞争，获Flash Attention作者赞叹。它精准卡位性能与效率‘甜蜜点’，依托高质量预训练和结构化后训练，多方面表现突出且已全面开源。
OpenClaw 能“边用边训”了：智能体强化学习训练框架 AReaL v1.0 稳定版发布
3月4日，蚂蚁集团联合清华发布开源强化学习训练框架AReaL v1.0稳定版，主打‘Agent一键接入RL训练’。它解决现有智能体框架接入训练成本高、缺乏持续进化能力的问题，还推出原生训练引擎Archon，集成AI辅助开发体系。
大模型时代，通用视觉模型将何去何从？
过去通用视觉模型（VGM）是研究热点，想实现‘视觉模型大一统’。但大语言模型发展使研究热点转移，视觉‘独立性’被重新定义。清华鲁继文团队综述梳理其进展，探讨现状、挑战与应用潜力。
以小博大，仅1.7B媲美gemini2.5-pro，达到SOTA文档解析性能
dots.ocr是多语言开源文档解析器，把布局检测和内容识别统一在视觉语言模型中，虽LLM仅1.7B参数，却达SOTA性能。介绍了其预训练三阶段及SFT阶段关键策略。
机器人学会「眼看手摸」！FreeTacMan 实现人类指尖亲自「授课」
OpenDriveLab提出的FreeTacMan，将人类视觉、触觉和动作技能高效传输给机器，破解精细操作难题。它配备高分辨率触觉“皮肤”，实现人类“手把手”教机器人“感知”，还通过融合时间感知的触觉预训练，提升机器人策略性能。
单向VLM变双向！人大斯坦福等提出MoCa框架：双向多模态编码器
人大、斯坦福等机构提出MoCa框架，将单向视觉语言模型转化为双向多模态嵌入模型。它通过持续预训练和异构对比微调，解决传统模型局限，在多模态基准测试中表现优异，尤其小规模模型性能突出。
Emu3.5：能够原生预测下一状态的多模态世界模型，媲美Nano Banana
北京智源研究院推出多模态世界模型Emu3.5，能原生预测视觉和语言下一状态。用超10万亿token数据预训练，后经强化学习训练。团队提出DiDA提升推理效率，其性能媲美Nano Banana，项目已开源。
真正的AI竞争力，藏在大模型“后训练”这一步
当全球聚焦基座模型参数竞赛时，后训练变革正悄然发生。产业共识是，大模型后训练是AI落地产业必经之路。后训练技术从SFT演进至强化学习范式，企业应用也有了从技术到商业价值的完整链路。
AAAI 2026 Oral | 告别注意力与热传导！北大清华提出WaveFormer，首创波动方程建模视觉
北大清华团队在AAAI 2026 Oral论文中提出WaveFormer，首创用波动方程建模视觉。它将特征传播写成欠阻尼波动方程，实现频率 - 时间解耦，在多任务验证中速度、效率与精度全面超越。