「优化训练」共找到 3090 篇相关文章
深度｜Karpathy为何突然加入Anthropic，只能当Dario的「-2」？
5月19日，OpenAI联合创始人Andrej Karpathy宣布加入Anthropic预训练团队。他将组建新团队，用Claude加速预训练研究。文章分析了他加入的原因，以及Anthropic招聘他的动机，还指出这一变动标记着技术拐点。
一篇最新自演化AI Agents全新范式系统性综述
传统LLM Agent工作流固化，面对动态环境只能人工硬编码，成本高、迭代慢。此55页综述提出“Self - Evolving AI Agents”新范式，让Agent自主优化自身结构，还给出三定律、统一框架及各类优化方法。
又一推理新范式：将LLM自身视作「改进操作符」，突破长思维链极限
Meta等机构研究者将LLM视为「思维」改进操作符，探究并行 - 蒸馏 - 精炼（PDR）推理方法。实验显示，PDR在数学任务中提升准确率，还训练8B模型让推理方法更适配，减少训练与部署的不匹配。
无需标注和奖励模型！仅靠自信度RL，16个样本训练20步，效果飙升21%！
论文提出RLSC，让大语言模型用自身答案置信度作奖励信号，摆脱人类标注依赖。它以模型自信度内部信号替代多数投票外部信号，小成本提升模型数学能力，还让模型学会快推理，不过也存在安全隐忧。
把RoPE扔掉，AI更能看懂长上下文！Transformer作者团队开源大模型预训练新方法
Transformer架构核心作者之一Llion Jones团队开源新技术DroPE，可丢弃位置嵌入扩展上下文，解决RoPE长序列处理缺陷，在多模型实验中表现卓越。该团队来自Sakana AI，此前还有相关研究成果。
英伟达发现RL Scaling！创造力暴涨，做基座模型做不了的事！
过去学界争论强化学习（RL）对语言模型的作用，此前研究认为其效果有限。本文发现问题出在训练时间短，提出ProRL，让训练突破2000步以上，结果惊人，小模型也能有出色表现。
斯坦福华人天团意外爆冷！AI用纯CUDA-C编内核，竟干翻PyTorch？
斯坦福华人团队用纯CUDA - C编写的快速AI生成内核超越PyTorch，成果登上Hacker News热榜。研究者采用KernelBench任务设置，引入新优化方法，实验显示多数最优内核在靠后轮次出现，优化策略集中在几类常见模式。
AI搜索优化（GEO）：从“被看见”到“被选中”的7个真相！【必看】
白杨SEO分享AI搜索优化（GEO）从“被看见”到“被选中”的7个真相，含为何做GEO、竞争内容、让AI理解和信任品牌的方法、成默认推荐答案的条件、效果评估及长期坚持的原因等。
高精度全身操控！从文本输入生成全身操控物体的动作
物体操控的整体动作生成是具广泛应用但极具挑战的任务，核心挑战在于手部与身体协调及关节式物体操控精度。香港大学提出协同扩散噪声优化框架CoDA，优化三个专用扩散模型，还采用BPS统一表示提高交互精度。
【博客翻译】使用PyTorch加速生成式AI第四部分：Seamless M4T，快速优化
这是使用纯原生PyTorch加速生成式AI模型系列博客的第四部分，专注加速FAIR的Seamless M4T - v2模型。通过torch.compile + CUDA Graph，在不损失精度下实现text decoder模块2倍、vocoder模块30倍加速，端到端推理2.7倍加速。