搜索：大模型预训练

「大模型预训练」共找到 9676 篇相关文章

Kimi K2发布两天即“封神”？80%成本优势追平Claude 4、打趴“全球最强AI”，架构与DeepSeek相似！

国内独角兽月之暗面发布开源模型 Kimi K2，推出两天就在 OpenRouter 超越 xAI 的 Grok 4。它成本优势大，能力泛化和实用性强，编码、Agent 工具调用等方面表现出色，架构与 DeepSeek 相似。

最新研究揭示AI存在认知缺陷，读取时钟准确率仅38.7%，判断日历日期准确率26.3%。研究者构建测试集考察MLLM能力，虽部分模型有亮点，但整体表现不佳，凸显训练数据和推理方式改进需求。

何恺明团队继5月提出MeanFlow (MF) 后，近日推出改进版Improved MeanFlow (iMF)，解决了原始MF三大核心问题。它重构预测函数，还实现灵活的无分类器指导和高效的上下文内条件作用架构，提升了实用性和效率。

2026 年 AI 研究应认识到能预测的模型不等同于能行动的系统。过去十年在被动预测和生成建模成就非凡，但现实任务需系统执行一系列动作。转向长周期任务和目标导向 AI 系统有两大好处。

复旦大学等联合推出全模态端到端操作大模型RoboOmni，统一多模态，实现动作与语音协同控制。它重新定义机器人交互范式，让机器人具备“察言观色”能力，还构建了OmniAction数据集，实验表现全面领先。

香港大学、阶跃星辰等用VFMTok新方法，让图像生成模型借用顶级视觉AI的眼睛看世界，实现更快、高质量图像生成，且无需复杂引导技巧。它改变图像理解方式，将像素死记硬背转为语义理解。

随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。

语音合成技术在大语种发展好，但小语种因语料稀缺等面临挑战。逻辑智能团队提出针对低资源语言TTS的解决方案，构建泰语数据集，经先进预处理，其TTS模型效果好，有零样本克隆能力。

中科院信工所研究人员提出LyapLock，将连续编辑建模为受约束随机规划问题，整合排队论和李雅普诺夫优化。实验显示，它能突破万次连续编辑极限，编辑效果比主流方法提升11.89%，还可赋能现有模型。

弗吉尼亚大学等机构的研究人员提出 Energy-Based Transformer（EBT），它能检查自身输出。训练时通过能量值优化预测概率向量，测试显示其泛化优但生成特定文本差，扩展性好，为高性能带来新可能。