「后训练策略」共找到 4331 篇相关文章
抖音SAIL团队联合港中文MMLab推出SAIL-Embedding：打通「视、文、音」的全模态嵌入
字节跳动抖音SAIL团队联合港中文MMLab提出SAIL - Embedding，专为大规模推荐场景设计，实现视、文、音统一表征，解决传统多模态模型局限，在抖音业务场景效果显著，相关技术报告已公开。
微软再放LLM量化大招！原生4bit量化，成本暴减，性能几乎0损失
微软公布BitNet v2，性能几乎0损失，占用内存和计算成本显著降低。它首次实现对1比特LLMs的原生4比特激活值量化，通过H - BitLinear模块处理异常通道，实验显示其在多方面表现优异。
0.5B以小搏大拿下端侧模型新SOTA：4090可跑，长文本处理5倍常规加速丨清华&面壁开源
清华大学和面壁智能团队开源MiniCPM 4，有8B、0.5B两种参数规模，以22%训练开销达同级别最优。它在架构、推理、数据、训练多方面创新，性能领先，适用于综述生成、工具调用等场景。
世界模型的新用途：不做选手，去当裁判
眼下具身赛道都在抢着做机器人的“大脑”，而地瓜机器人发布的世界模型Uranus却剑走偏锋，做机器人开发的基础设施。它能更客观地评测VLA和世界模型，还能做机器人训练的“场地”。
“AI大神”李沐终于开源新模型，爆肝6个月，上线迅速斩获3.6k stars！
7月23日，“AI大神”李沐开源音频基础模型Higgs Audio v2，构建于Llama - 3.2 - 3B之上，预训练数据丰富。该模型在多个测评中成绩领先，有多种能力，李沐介绍其技术及训练方法。
Manus 重新独立：这七个月一直没停下，但通用 Agent 的牌桌已经挤满了玩家
8月11日，Manus宣布将恢复独立运营，此前它被Meta收购仅七个月。过去七个月其产品更新频繁，年收入大幅增长。但通用Agent竞争激烈，OpenAI等大厂及创业公司纷纷入局，Manus需做深产品，且重新独立后面临增长考验。
北大、字节、中科院自动化研究所等提出图像并行生成新范式
北大、字节等团队发现多模态模型先思考后作画会降低图像语义保真度，因自回归架构有误差传播问题。为此提出并行多模态扩散框架MMaDA - Parallel，构建ParaBench基准，多项优化后在测试中击败Bagel。
AI让全人类思维越来越雷同！南加大研究实锤：认知多样性正在被抹平
南加州大学论文指出，AI正让全人类想法和表达同质化，体现在语言、视角和推理三方面。原因包括训练数据有偏差、训练目标求稳、人们过度依赖。研究人员虽在想办法，但效果有限，呼吁勿无节制依赖。
智能体工程的隐形技术债：10分钟造出一个 Agent，公司却要为它养一个平台团队
如今构建智能体容易，但投入生产后会面临诸多问题。文章围绕智能体绘制出集成、上下文湖等七个基础设施模块，分析各模块隐性技术债务，并指出不同阶段债务表现，还提及应对措施及相关会议推荐。
Hinton与姚期智对谈：认为人类的意识特殊，那是危险的无稽之谈
图灵奖得主Geoffery Hinton与姚期智对谈AI相关话题。Hinton认为人脑可给AI借鉴，还探讨人类未来与AI道德，强调训练善良AI重要；他觉得大模型有理解能力，将人类意识特殊化是危险无稽之谈。