「预训练策略」共找到 2851 篇相关文章
首篇以第一性原理剖析OpenClaw自进化AI社会的论文
截止发文，OpenClaw项目已达192k Star，其衍生的AI Agents社会网络moltbook聚集大量智能体。北邮等团队首次从第一性原理研究，提出“自进化不可能三角”理论，还给出缓解策略。
Attention真的可靠吗？上海大学联合南开大学揭示多模态模型中一个被忽视的重要偏置问题
上海大学曾丹团队联合南开揭示Vision - Language Models中普遍的attention偏置问题，提出无需重训的去偏方法，在多模型、策略及基准上验证有效性，为多模态模型部署提供新思路。
中国团队一夜封神，AI出海「全球第一」！曾靠游戏狂赚10亿美金
在大模型竞争激烈的当下，中国出海团队SeaArt（海艺）用2.5年超越Midjourney等，成全球访问量第一的AI内容创作社区。它打造AI原生内容生态，SeaVerse开启全模态时代，还靠洞察用户、游戏基因等优势制胜。
多模态Qwen3-VL-Embedding开源&技术剖析
互联网内容多元，传统文本搜索引擎应对跨模态需求力不从心。阿里开源Qwen3-VL系列两大模型，Qwen3-VL-Embedding负责“海选”，Qwen3-VL-Reranker负责“决赛”，技术亮点多，实验表现优异。
字节跳动发布SeedFold，蛋白质结构预测相关多任务超越谷歌AlphaFold 3，揭示大模型缩放新秘诀
字节跳动Seed团队推出新一代折叠模型SeedFold，在多个蛋白质相关任务性能上超越谷歌AlphaFold 3。该研究为有效缩放生物分子基础模型提供新思路，推出加宽模型、线性三角注意力等方法。
MiniMax都在用！5500PB幕后功臣首次亮相，国产黑马祭出杀招
AI浪潮中，数据流不动致GPU算力空转，XSKY星辰天合举办AIMesh产品战略发布会破局。AIMesh含三网，分别解决IO墙、重力墙、内存墙问题，且开放解耦，获多方认可。
跳出「黑盒」，人大刘勇团队最新大语言模型理论与机理综述
大语言模型工程成功但理论研究滞后，被视为「黑盒」。人大刘勇团队用生命周期分类法，将LLM理论研究整合为六阶段，系统综述底层理论与机制，指出前沿挑战，为其向严谨科学转型提供路线图。
Patreon 年度回顾中的架构经验
2025年Patreon工程团队在为超千万付费会员推新功能时重建底层设施。其年度回顾详述12个项目，提炼韧性迁移、数据模型重构、分布式系统一致性权衡三大架构主题，还分享多项目实操经验。
李飞飞又被超越了？百万「普通视频」打造通用4D世界模型！
全行业为昂贵多视角数据发愁时，中科院和CreateAI推出NeoVerse，用百万单目视频打开4D世界模型大门。它抛弃多视角数据和离线预处理，解决扩展性瓶颈，在重建速度、生成质量等方面表现出色，有丰富下游应用。
港大联合字节跳动提出JoVA: 一种基于联合自注意力的视频-音频联合生成模型
香港大学联合字节跳动提出视频 - 音频联合生成框架 JoVA，支持音视频 Token 跨模态交互，引入嘴部区域特定损失解决口型同步问题。实验显示，它用约 190 万条数据就达先进水平。