「视频预训练模型」共找到 8598 篇相关文章
清华联手千问重塑归一化范式，让 Transformer 回归「深度」学习
Pre - Norm和Post - Norm是Transformer架构中稳定信号流的关键范式，但面临权衡取舍。近日，清华黄高团队联合千问团队提出SiameseNorm，构建参数共享的平行通路，实现稳定训练并提升性能。
11篇顶会论文之外，美图影像研究院做了一件事：让大众爱用AI
过去两年，AI 生成图片、视频变得容易，但让 AI 理解并按创作者意图创作很难。美图影像研究院过去几年围绕高频创作场景痛点展开研究，11 篇论文被国际顶会接收，成果通过产品落地转化为 AI 影像能力。
Ilya重新定义AGI: 为什么ChatGPT离真正的AGI还很远
OpenAI前首席科学家Ilya在访谈中提出对AGI的新定义，还指出AI规模时代结束，未来拼想法和研究深度。他分析模型评测强但经济影响弱的原因，阐述人类价值函数作用，且SSI战略或调整。
当 Token 成为商品，AI 基础设施会怎么变化？
在大模型时代，智能生产和交付未实现工业化，存在性能鸿沟。九章云极提出AI工厂战略，发布Alaya NeW Cloud 3.0，将从资源计量转向智能计量，打造训练和Token工厂，提升算力到有效Token的转化效率。
AI 行业最新的 18 个前沿认知
文章整理了火山引擎AI领航者计划活动中，大厂、投资人和创业者对AI行业的18条前沿认知，涵盖模型层、应用层和产业层，如强化学习成竞争焦点、视频生成将崛起等，展现2026年行业新趋势。
首次，AI下棋不再是「黑盒」！
上海AI Lab发布升级版大模型「书生·思客InternThinker」，首度打破围棋AI推理黑盒，能用自然语言解释落子逻辑，具备职业3 - 5段棋力。依托创新训练平台InternBootcamp，它在多任务表现出色，且相关技术有系列创新突破。
成本暴降88%！通义实验室、北大发布ZeroSearch，无需搜索即可激活LLM检索能力
信息检索能力对提升大语言模型推理表现至关重要，但现有方法在训练中面临文档质量不可控和搜索 API 成本高昂两大挑战。为此，通义实验室和北大提出 ZeroSearch 框架，无需真实搜索即可激活 LLM 检索能力，显著降低成本。
苹果传统强项再发力，视觉领域三种模态终于统一
苹果在大模型领域常受挫，但计算机视觉研究是其强项。其研究团队提出 ATOKEN，这是首个能在主要视觉模态统一处理的分词器，兼顾重建质量与语义理解，成果朝通用视觉表征迈进一步。
唯快不破：上海AI Lab 82页综述带你感受LLM高效架构的魅力
大语言模型性能提升但成本高，制约落地应用。上海AI Lab联合多家机构总结440余篇论文，形成82页综述，将LLM高效架构分为7类，探讨最新进展，还涉及线性化技术、硬件实现等内容。
指导Harness的越多，收益反而越差
Thinking Machines Lab的《Interaction Models》指出，当下产品形态中，指导harness越多收益越差。问题在协作带宽，提出把“会交互”练进模型本体，介绍了从零训练的interaction model及架构，还指出现有交互评测不足。