「自蒸馏微调」共找到 1410 篇相关文章
ICML 2026 | 华为GTS提出AI训练数据新方法,Amazon/Google作者团队「光速跟进」:难度自适应训练正在成为新范式
华为GTS研发部AI数据团队提出EDCO方法,将样本难度估计与动态课程编排引入领域大模型微调。该方法用推理熵动态编排训练课程,让模型面对最有学习价值的样本,已被ICML 2026接收。
亏到发疯!AI编程独角兽年入2亿8,结果用户越多亏得越狠
TechCrunch调查发现,AI编程公司虽收入和估值高,但普遍亏损。其运作成本高,大语言模型调用费占大头,用户越多成本越高,且市场竞争激烈。公司尝试自研模型、被收购、降价、提价等方法扭亏。
V0 模型直接进驻 Cursor,UI 生成效果炸裂,氛围编码体验再升级。
AI 编码赛道竞争激烈,Vercel 的 V0 发布 AI 模型,可在 Cursor 中使用,还推出新工作流提升 UI 生成效果。文中介绍了 V0 特点、Cursor 设置方法及使用演示,还分析了 Vercel 自研模型的原因。
十载磨「芯」:云天励飞冲击港股AI推理芯片第一股
7月30日,云天励飞向港交所递交H股上市申请,迈向“A+H”新阶段。它是中国首家实现国产高算力AI推理芯片商业化的公司,坚持“全自研、国产化”,现进一步聚焦AI推理芯片,构建“1+N”业务架构。
英伟达H20,一个备胎的命运
8月22日消息称英伟达暂停H20芯片生产。H20自2023年底推出就备受争议,性能阉割、或有“后门”等问题不断。英伟达忙着开发新芯片,H20不到两年或“寿终正寝”,本文以其口吻写自白信。
奖励模型终于迎来预训练新时代!上海AI Lab、复旦POLAR,开启Scaling新范式
在大语言模型后训练阶段,奖励模型设计与训练是关键瓶颈。上海AI Lab、复旦推出预训练奖励模型POLAR,采用策略判别学习新范式,适配强化微调,性能和泛化能力强,为LLM后训练带来新可能。
夸克高考,背后藏着的其实是垂类场景「深度研究」方法论
夸克早在2019年就提供高考志愿填报服务,今年推出“志愿报告”功能。其“志愿报告”Agent已生成超1000万份报告,采用PDCA模式给出指导。夸克构建可信度体现在数据库和自研模型上,还降低了幻觉率。
AST | 西工大马龙、邬晓敬等:几何特征知识驱动的代理优化方法
机器学习为气动外形设计提供新方法,但高效挖掘利用几何与气动数据知识是难题。本文提出气动监督自编码器架构,利用小样本气动数据监督学习几何特征,嵌入优化框架提升样本质量及优化效率,经翼型和机翼验证有效。
模仿人类推理修正过程,阶跃星辰提出形式化证明新范式 | 开源
阶跃星辰发布并开源形式化定理证明大模型 StepFun-Prover-Preview-7B 和 32B。采用两阶段监督微调、工具集成强化学习及 RL 与 SFT 迭代循环优化等策略,在基准测试集表现佳,还展示多个证明案例。
半年3轮10亿,他们都投了这家已经把机器人卖到500个家庭的公司
未来不远机器人半年获3轮10亿融资,字节跳动等入局。其全产业链闭环强大,展会表现优,已进入500多家庭。靠全栈自研、贴合需求等策略,在赛道脱颖而出,认为家用机器人应重真实落地。