「大模型预训练」共找到 9524 篇相关文章
Embodied Arena：业界首个统一具身大脑评测平台重磅发布，30+模型全面对比揭示关键洞察
具身智能火热，研究者常感茫然。Embodied Arena评测平台上线，它全面统一且持续演进，涵盖22+基准测试和30+模型，构建评估体系，揭示关键洞察，为具身模型发展指引方向。
对话宋亚宸：从 3D 生成到世界模型，VAST想搭一套「可交互世界」的底座
VAST是一家专注通用3D大模型研发与落地产品建设的人工智能公司。创始人宋亚宸表示，3D生成未普及是缺3D UGC平台，所以从工具和模型入手。该公司核心产品Tripo Studio成果显著，今日还宣布完成5000万美元A轮融资。
腾讯混元A13B用130亿参数达到千亿级效果，Flash Attention作者点赞
腾讯混元A13B模型仅130亿激活参数，却能和千亿级大模型竞争，获Flash Attention作者赞叹。它精准卡位性能与效率‘甜蜜点’，依托高质量预训练和结构化后训练，多方面表现突出且已全面开源。
SRO赋能Qwen-2.5-VL推理性能飙升16.8%
文本领域推理模型成就大，但多模态大型语言模型推理能力扩展遇阻，如冷启动初始化不足等。提出SRO三阶段训练框架，经测试，ReVisual - R1平均性能提升16.8%。
三大核心创新公开，快手开源多模态Keye-VL 1.5拿下视频理解SOTA，8B力压GPT-4o！
快手开源多模态Keye-VL 1.5，为8B视频理解大模型，公开3大核心创新技术。靠Slow - Fast视频编码等，在20 + 基准屠榜。它能精确视频定位，实验显示通用、视频理解和数学推理表现佳。
独家对话极映科技高鑫：我们为什么要做一个比Sora难10倍的物理世界模型？｜甲子光年
本文是对极映科技创始人高鑫的独家专访。极映源于高鑫早年体验，团队具深厚经验。其模型回归底层定律，响应快。投资人看好，专家认为能解决痛点。高鑫谈技术、前景、商业化等，称有望引领物理仿真变革。
又是王冠：27M小模型超越o3-mini！拒绝马斯克的00后果然不同
27M小模型HRM由拒绝马斯克的00后王冠开发，超越o3 - mini - high和DeepSeek - R1，推理不靠思维链。它采用分层推理等五项核心技术，在多测试中表现出色，虽被指通用性不足，但有人看好其仿脑架构。
AI两天推翻20年工作习惯！Karpathy百行代码开源项目“封神”，AI替你通宵肝研究、战绩可查
特斯拉前AI总监Andrej Karpathy开源autoresearch项目，让AI Agent自主搞深度学习研究。两天内Agent完成276次实验，提升模型训练效率约11%。项目代码极简，未来目标是实现Agent大规模协作，已被开发者社区共建。
智源研究院发布中英文高质量数据集CCI4.0，推动全球人工智能开源创新
2025年5月6日，智源研究院在全球开源创新论坛发布中英文高质量数据集CCI 4.0，同步在多平台开源。CCI 4.0规模大，处理严格，此前CCI系列反响好，未来将持续建设中文预训练语料库。
AI在线强化学习“边做边学”，斯坦福团队让7B小模型性能飙升，甚至超越GPT-4o
斯坦福等团队提出新范式AgentFlow，由四个智能体组成，用在线强化学习持续提升智能体系统推理能力。以Qwen - 2.5 - 7B - Instruct为基座模型的它在多基准测试表现突出，甚至超越GPT - 4o等大模型。