「预训练策略」共找到 2839 篇相关文章
航空发动机用上大模型：解决复杂时序问题，性能超越ChatGPT-4o实现SOTA｜上交创智复旦
上海交通大学李元祥教授等团队提出ITFormer架构，构建EngineMT-QA数据集。ITFormer能融合时序数据与大语言模型，适配多种编码器和模型，在EngineMT-QA预训练后达SOTA水平，实现高效数据分析。
首个全面梳理语音大模型发展脉络的权威综述，入选ACL 2025主会
香港中文大学团队语音语言模型综述论文《Recent Advances in Speech Language Models: A Survey》被 ACL 2025 主会议接收，这是该领域首个全面系统综述，指明语音 AI 未来方向，还剖析技术架构、训练策略等。
AGI倒计时，OpenAI首席研究官重磅表态：留给人类的窗口「很小」
OpenAI首席研究官Mark Chen称AGI即将到来，模型能自主研究。他反对‘预训练已死’，认为Scaling曲线未到头。还提出‘Vibe Researcher’概念，不过通往AGI有评测和持续学习等问题待解决。
阿里搞了个全能解析器，文档、图片、音频、视频一锅端
阿里巴巴开源 Logics-Parsing-Omni，用一个模型统一处理文档、图片、音频、视频四种模态，输出结构化 JSON 数据。它采用三级渐进解析框架，两阶段训练策略，在自建基准上多项指标超越 Gemini - 3 - Pro。
集成20+先进算法，优于GPT-4o，自主因果分析智能体来了
加利福尼亚大学圣迭戈分校研究团队提出自主因果分析智能体 Causal - Copilot，集成超 20 种算法。它解决因果分析使用门槛高、预训练模型有局限等问题，性能优于 GPT - 4o ，已开源邀全球研究者参与。
MIT天才博士刚毕业，就被前OpenAI CTO抢走！年薪或300万起步
MIT天才博士肖光烜刚毕业就官宣加盟Thinking Machines，主攻大模型预训练。他履历耀眼，博士论文破解LLM三大难题，构建高效大模型框架。Thinking Machines薪资可观，平均年薪超OpenAI等公司。
ParScale：一种全新的大模型Scaling Law
文章提出并行扩展（ParScale）路线，在不增模型参数下，通过引入并行流提升性能。新扩展定律打破传统范式，两阶段后训练策略降成本，还适用于边缘设备，研究仍在进行。
智元机器人发布并开源首个机器人动作序列驱动的世界模型
智元机器人发布并开源全球首个基于机器人动作序列驱动的具身世界模型 EVAC 及具身世界模型评测基准 EWMBench，构建全新开发范式，解决具身智能演进制约，提升策略模型筛选与训练效率。
华为 IJCAI 2026 论文盘点：从「规模密度」转向「设计密度」
IJCAI 2026将召开，AI算力成本高，参数扩张边际收益低，技术创新逻辑转向‘用得更省’。华为四篇被收录论文，用精巧架构和训练策略，在四方向展现系统化工程能力，提供技术转型路径。
波士顿动力Atlas人形机器人再现逆天进化：通用AI机器人真的要来了
波士顿动力为Atlas人形机器人训练全新大型行为模型LBMs，它是语言指令驱动的策略模型，能完成复杂操作任务。构建模型有四步骤，实践遵循三大原则，还展示了其多方面操作能力与特点。