「后训练方案」共找到 4527 篇相关文章
世界模型一口气输出小时级视频不跑偏，开源了
Alaya Lab等联合推出的Alaya - EVOKE能生成小时级视频，解决常见问题。它把记忆搬到模型外，改造教师模型，经多轮技术操作，实验成绩佳，给出清晰训练方案，也指出项目边界。
一夜颠覆Sora神话，H200单卡5秒出片！全华人团队开源AI引爆视频圈
UCSD等机构发布FastWan系模型，用「稀疏蒸馏」训练方案，让视频去噪速度飙升70倍。FastWan在单张H200上5秒生成480p视频，模型权重等全开源，改写AI视频生成格局。
模型的自我进化，可能真的开始了。
昨天Hermes Agent更新支持原生Windows，安装简单。它调用量超OpenClaw成榜首，与MiniMax M2.7组合迭代快，能长程干活、自主迭代解bug，还可复刻文档风格样式，两团队正合作后训练项目。
一个大脑搞定所有模态，百度ERNIE 5.0技术报告公布
模型发布近3个月后，百度ERNIE 5.0技术报告公布。其底座用超级稀疏架构，参数量万亿但推理激活参数不到3%，实现四种模态原生自回归统一，还在路由调度、训练范式等多方面有创新。
ParScale：一种全新的大模型Scaling Law
文章提出并行扩展（ParScale）路线，在不增模型参数下，通过引入并行流提升性能。新扩展定律打破传统范式，两阶段后训练策略降成本，还适用于边缘设备，研究仍在进行。
华为中科大联创大模型低比特量化算法，1‰数据实现昇腾无损压缩7倍
华为诺亚方舟实验室联合中科大提出CBQ后训练量化方案，仅用0.1%训练数据实现大模型7倍压缩，保留99%精度。该成果登ICLR 2025 Spotlight，已加入昇腾ModelSlim工具包。
哈佛发现基础模型比你想象中更强大：纯采样方法可超越RL
论文提出基础模型本身已具备强大推理能力，通过“幂采样”纯采样算法，在多推理任务上媲美或超越RL后训练，挑战“RL才能提升推理”观念，为理解基础模型潜力开新视角。
大模型“记性差一点”反而更聪明！金鱼损失随机剔除token，让AI不再死记硬背
马里兰大学等团队提出金鱼损失法，训练时随机剔除部分token，让模型不逐字记内容，仍学语言规律。实验显示，LLaMA - 2用该方法后记忆内容减少，下游任务性能影响小。
Mem0,用LLM给智能体解决记忆问题，开源
大模型训练后知识和记忆不再增加，智能体记忆能力发展不理想。国外Mem0针对AI记忆技术发表论文并开源，提出Mem0和Mem0g两种方案，在不同场景表现出色，已获多应用，还提供SaaS服务。
惊天大瓜！中东土豪发「纯血」大模型，背后底座竟是MiniMax？
沙特发布号称100%沙特血统的国家级大模型HUMAIN M3，后被发现基于中国MiniMax的M3模型。沙特用超1万亿阿拉伯语Tokens后训练，使模型在阿拉伯语赛道领先，代表中国AI出海新形态。