搜索：预训练语言模型

「预训练语言模型」共找到 8240 篇相关文章

北大、字节跳动联手发布SWE-Swiss：一把修复代码Bug的「瑞士军刀」，完整配方直指开源SOTA

北大、字节跳动等联合研究提出SWE - Swiss配方，用于训练解决软件工程问题的AI模型。32B参数的SWE - Swiss - 32B在SWE - bench Verified上准确率达60.2%，各训练环节效果显著，模型和数据将开源。

阿里开源小型MoE代码模型Qwen3 - Coder - Next，总参数量800亿但仅激活30亿参数，在代码生成等任务表现出色。团队构建训练技术栈解决数据匮乏，模型训练分阶段，多领域专家模型能力整合，基准测试性能强劲。

DeepSeek提及针对国产芯片的FP8量化设计，引发对大模型量化策略关注。不久后英伟达发力低精度量化，将NVFP4策略拓展到预训练阶段，其方案能解决核心挑战，实验证明NVFP4在大规模训练中可行。

2025年，空间智能成大模型竞争新热点，模型在室内基准上分数飙升。但因训练与测试数据同源，其提升或只是“背答案”。中科院大学等机构发布OSI - Bench重新审视大模型空间能力，评测显示当前提升可能是虚假繁荣。

实测MiniMax新发布的M2.7模型，解决了Agent的笨拙感，是国内最强的Cowork Agent模型。它技能命中率高，能自进化，对办公场景做了优化，还能解决生产效率问题，加强了人设保持能力。

5月20日，阿里发布新一代千问旗舰模型Qwen3.7 - Max。近三月千问迭代三次，Qwen3.7 - Max在多测评中表现优异，位列国产模型第一。它强化编程等能力，阿里还通过MaaS等连接各环节，布局AI基础设施。

本周，Cursor发布新代码模型Composer，Cognition推出新AI模型SWE - 1.5，二者均被指背后基于中国AI模型。业界大佬认为有证据指向中国开源模型，国产开源模型已成AI领域主流，改变全球竞争格局。

北大团队推出全球首个面向古希腊陶罐的3D视觉问答数据集VaseVQA - 3D，配套专用视觉语言模型VaseVLM。传统模型面对文化遗产复杂对象有不足，新数据集和模型让AI迈向‘文化考古Agent’，未来将拓展到更多领域。

波士顿动力为Atlas人形机器人训练全新大型行为模型LBMs，它是语言指令驱动的策略模型，能完成复杂操作任务。构建模型有四步骤，实践遵循三大原则，还展示了其多方面操作能力与特点。

5月29日，InfoQ研究中心发布《推理模型综合测评报告2025》，通过五大维度、五大题型的300道测试题对八家主流推理模型全面测评，还总结各维度表现，梳理技术前置因素与趋势。6月6日有直播解读。