「大模型预训练」共找到 9627 篇相关文章
缔造OpenAI的秘密，竟只有一个词！新智元十年峰会圆桌，七位大咖激辩
新智元十周年圆桌论坛上，七位嘉宾探讨通往AGI与ASI的关键问题，如智能核心、AI能效、游戏与AI关系等。他们认为AI发展超预期，语言是智能核心，实现ASI关键在能耗，还谈及芯片与人脑差距、物理世界发展慢等话题。
“你以为买的是 DeepSeek Flash，到手可能是 1.5 bit 缩水版”：Pi 核心贡献者谈 AI Token 黑箱
Pi 核心贡献者 Armin Ronacher 与 Modem 联合创始人 Ben Vinegar 播客对谈指出，当前 AI token 市场不透明，模型公司或失控。如买 token 像买成分不明商品，模型训练目标不明，且 Agent 行为边界在扩展，问责制缺失。
扔掉人工公式：快手EMER框架，用“会比较、自进化”的模型重构短视频推荐排序
过去十年，推荐排序多依赖人工设计公式，但此模式遇瓶颈。快手策略算法团队提出 EMER 框架，用“会比较、能进化的 AI 模型”重构短视频推荐排序，在快手主 App 和极速版效果显著，还为行业提供解决方案。
AMS| 西工大史子颉，高传强，王旭，林海涛，张伟伟：数据驱动的涡激振动标度律发现
涡激振动最大振幅是评估结构安全的关键指标，现有理论模型有局限，常用数据驱动方法也面临挑战。本文提出两次应用符号回归的“白箱”标度参数VIV建模方法，验证了其鲁棒性与泛化能力，还给出物理层面解释。
AIAA J | 西工大翟凯宇、李楠等：膨胀拐角影响下入射激波/边界层干扰的标度律分析
高超声速进气道肩部区域的激波 - 膨胀波 - 边界层干扰影响大，传统标度律有误差。本研究结合实验与理论，研究膨胀拐角影响下的入射激波/边界层干扰，提出改进标度律，还构建混合监测框架实现准确预测。
开源播客TTS神器！高效TTS模型：Muyan-TTS，0.33秒生成1秒音频，零样本语音合成！
介绍新发布的开源TTS模型Muyan - TTS，它专为播客场景设计，以超低延迟实现零样本语音合成，预训练大量播客数据，支持长内容连贯生成，还介绍了使用步骤、适用场景等。
月之亮剑：万亿参数，造就国内首个 Agentic Model？
月之暗面发布全球首个万亿参数且直接开源的 Agentic Model Kimi - K2，它将 AI 下半场与经验时代理论融合。在测评中表现出色，Kimi 还通过创新方法完成预训练和后训练，并将成果开源，给中国开发者更多自主权。
2026崇礼论坛成功举办，俞敏洪、周鸿祎、沙宝亮等近百位大咖共话AI新风向｜甲子光年
2026年1月23 - 25日，2026崇礼论坛在张家口崇礼区太舞小镇举办，俞敏洪、周鸿祎等近百位大咖共话AI。设四大专场论坛探讨技术落地、商业闭环等问题，还启动了“崇礼企业家联盟”。
自搜索强化学习SSRL：Agentic RL的Sim2Real时刻
本文由多机构联合完成，引入自搜索强化学习SSRL。它利用结构化prompt和format reward提取模型world knowledge，降低幻觉。还探索Sim2Real有效性，验证SSRL训练模型在真实场景泛化性，且所有训练数据等已开源。
微信、清华连续自回归模型CALM，新范式实现从「离散词元」到「连续向量」转变
腾讯微信 AI 联合清华提出连续自回归语言模型 CALM，它将语言建模为连续向量而非离散词元，显著改善性能与计算成本权衡，解决了 LLM 效率瓶颈，虽面临技术挑战但实验效果佳，还指明未来研究方向。