搜索：模型训练与微调

「模型训练与微调」共找到 8126 篇相关文章

大模型顿悟原理！Meta新论文说清楚了

Meta超级智能实验室（FAIR）最新论文把大模型顿悟（grokking）现象的数学机制说清楚了。提出Li2数学框架，将两层神经网络的grokking动态分三阶段，还推导了泛化缩放定律等。

数字音频时代音频易损坏丢失，传统修复法处理长间隙不佳。本古里安大学研究人员提出基于离散扩散模型的音频修复法，经MusicNet数据集实验验证，该方法在各间隙长度上表现优异。

文章探讨决定 Coding Agent 能力的 6 大核心组件。指出如今旗舰模型‘裸机’能力相近，真正拉开体验差距的是 Harness 工程质量，还开源 Mini Coding Agent 实现六大组件。

今天，阿里巴巴AI总称和核心品牌统一为千问，涵盖基础与专业领域模型，千问APP是C端旗舰应用。今年除夕开源千问3.5，多款中小型模型上榜，春节用户下单近2亿次，DAU大增成国民级助手。

文章聚焦大模型上下文工程，介绍了Prompt、Skills、MCP核心链路。Prompt是与模型沟通基础，但其有脆弱、难管等痛点，促使向上下文工程演进；Skills是能力单元，可显式化能力、动态组合；MCP解决能力集成问题，虽有争议但理念重要。

OpenAI新模型在2025年国际数学奥林匹克（IMO）中达金牌水平，测试时不借助工具、不连互联网，且不太可能存在数据污染。该模型解决6题中的5题，非GPT - 5，近期也不发布。

米哈游蔡浩宇的AI公司Anuttacon首个视频模型LPM 1.0曝光。它可通过多模态形式生成动态角色，有超绝情绪演绎、实时视频生成等能力，背后技术架构复杂，目前未正式上线。

Mira Murati团队分享神经网络训练推理新研究，提出“模块化流形”让训练更稳定。将权重约束在Stiefel流形，设计Manifold Muon优化器，实验显示效果好，但计算开销和理论问题待解决，代码已开源。

北京邮电大学团队在顶级期刊IEEE TPAMI发布综述，探讨文生图扩散模型可控生成技术，将核心问题概括为如何注入新型条件信号并稳定控制，从任务和方法层面梳理技术，还提及应用场景与未来方向。

卡耐基梅隆大学研究者构建基于GSM - Infinite的可控合成数据框架，分析预训练、中期训练和RL对模型推理泛化能力的影响，调和了RL有效性的不同观点，为改进训练策略提供基础。