「预训练范式」共找到 2905 篇相关文章
首个全面梳理语音大模型发展脉络的权威综述，入选ACL 2025主会
香港中文大学团队语音语言模型综述论文《Recent Advances in Speech Language Models: A Survey》被 ACL 2025 主会议接收，这是该领域首个全面系统综述，指明语音 AI 未来方向，还剖析技术架构、训练策略等。
刚刚，GPT-6正式发布！OpenAI：欢迎来到AGI时代
OpenAI正式发布GPT - 6 Astra和GPT - 6 Astra Pro，宣布AGI时代开幕。该模型训练规模大，能力升级显著，价格公布。基准测试成绩优异，在多方面表现突出，还展示诸多实际应用案例，已有企业开始测试。
机器人学会“脑补”触感，叠衣服端茶水成功率暴涨90%
近年来，人形机器人研发从行走转向复杂操控，但处理精细家务表现逊色。卡内基梅隆大学联合博世人工智能中心团队提出 HTD 模型，让机器人预判触觉，在 5 项任务上成功率提升 90.9%，部分代码开源。
2026！开年关键词：Self-Distillation，大模型真正走向「持续学习」
2026 年刚开始，大模型领域研究者达成默契，arXiv 论文高频出现 Self-Distillation。传统强教师依赖范式难适配模型持续进化，Self-Distillation 成破局点。MIT 等机构发布三项研究成果，均用信息差实现模型自驱动升级。
面向「空天具身智能」，北航团队提出星座规划新基准丨NeurIPS'25
卫星星座成数字经济时代基础设施，但运行背后规划难题待解。北航刘偲教授团队提出首个大规模真实星座调度基准AEOS - Bench，训练内嵌时间约束的调度模型AEOS - Former，为‘AI星座规划’奠定新技术基准。
DeepSeek悄悄开源LPLB：用线性规划解决MoE负载不均
昨天，DeepSeek 在 GitHub 上线新代码库 LPLB 解决 MoE 负载不均。它利用线性规划算法优化专家并行工作负载分配，能处理动态波动，但也存在忽略非线性成本等局限，对 MoE 架构训练加速有参考价值。
从天价咨询到免费AI，夸克能改变志愿填报这门生意吗？
高考报志愿难题一直存在，天价咨询服务并非人人能享。夸克推出国内首个高考志愿大模型，免费生成志愿报告。它能理解复杂规则、把握考生需求，经多阶段训练优化，还搭载高考知识库，产品体验简便。
Transformer学不会多位数乘法？MIT和哈佛的研究指出了一个简单漏洞
MIT、哈佛和谷歌DeepMind团队实验发现，Transformer做4位数乘法有软肋。用‘隐式思维链’（ICoT）训练的模型准确率达100%，传统方法仅1%。研究揭示了问题根源，还给出修复方案，但也引发诸多质疑。
Karpathy戳破强化学习神话，首提AI复盘式进化！暴力试错将死
AI大神Karpathy发文指出强化学习（RL）有局限，效率随任务时长下降，与人类学习机制差异大。他提出复盘式进化Scaling范式，虽有很多细节待完善，但认为还有更多S型增长曲线待发现。
AI「看不懂」、「做不好」视频的问题，混元用「MTSS」解决了
腾讯混元团队提出 Multi-Stream Scene Script（MTSS）新视频描述范式，将传统方式升级为‘多流结构化剧本’。它解决了传统方式语义冗余、扩展性差等问题，在视频理解和生成任务表现显著。