三段式后训练」共找到 3743 篇相关文章

算法论文8

阿里通义发布并行计算新策略:1.6B等效4.4B,内存消耗骤降95%

阿里通义团队提出PARSCALE并行计算新策略,受CFG双路径推理机制启发,将并行思想扩展到训练和推理全流程。能让1.6B模型性能接近4.4B模型,内存占用大降,还可用于现有模型,无需从头训练

量子位
算法论文8

LoRA中到底有多少参数冗余?新研究:砍掉95%都能保持高性能

这篇创新研究介绍了LoRI技术,证明即使大幅减少LoRA的可训练参数,模型性能依然强劲。研究团队在多个任务上测试了LoRI,发现仅训练LoRA参数的5%,LoRI就能匹配或超越其他方法的性能。

机器之心
推荐文章7

关于机器人数据,强化学习大佬Sergey Levine刚刚写了篇好文章

训练大模型难度随规模和应用拓展而增加,所需数据海量。机器人领域获取训练数据成本高,研究者尝试找替代方案。强化学习大牛Sergey Levine分析数据组合,认为鱼和熊掌不可兼得,替代数据有局限。

机器之心
新闻资讯7

一家成立近40年的国际半导体巨头,走向破产

CREE成立于1987年,2018年因特斯拉Model 3交付,其碳化硅业务受关注。更名为Wolfspeed并All in碳化硅,转型不顺。2024年申请破产重整,因扩产8英寸产能与车企需求错配,中国企业6英寸产能扩张抢占市场。

芯师爷
产品应用7

这家公司刚成立7个月,正在打磨通用具身智能的终极形态

超维动力(Kinetix AI)于2025年7月注册,9月研发,不足一年便举办独特发布会,让KAI人形机器人“自己发布自己”。其认为高拟人是训练强世界模型前提,构建了含本体、世界模型等的技术体系,但面临工程与成本挑战。

机器之心
算法论文8

ACL'25最佳论文解读 | 大模型也会‘弹簧回弹’?揭秘 LLM 对齐的脆弱根源

本文分享 ACL 2025 最佳论文,指出预训练大模型存在‘抗对齐’的 Elasticity 现象,即对齐微调只是暂时拉伸,续微调会让其迅速弹回预训练分布。研究量化该概念,用‘压缩理论’刻画对齐并实验验证。

PaperAgent
推荐文章8

复旦硬核青年:破解核材料百年难题,为人造太阳锻造不灭铠甲

张宏亮童年时便渴望稳定电力,考入复旦历经行业寒冬。他深耕核材料研究,取得多项成果,能用新技术降低成本、能耗,揭示材料新机制,回国又搭建研究系统、优化工艺等,还看重产学研结合和跨界融合。

DeepTech深科技
产品应用7

在 Mac 上安装最新版 OpenClaw 并接入企业微信之,一切都改变了

文章介绍在Mac上安装最新版OpenClaw及接入企业微信的方法。新版本功能增强,安装可连接多种工具。接入企业微信,能实现诸多功能,如分析股价、制定健身计划等,还能拓展写作等技能。

MacTalk
新闻资讯8

最懂英伟达的CoreWeave,为啥突然花钱买了个强化学习作坊?

算力巨头CoreWeave市值达483.9亿美元,收购专攻强化学习训练AI智能体的OpenPipe。CoreWeave想打造全能平台,此前已收购W&B,此次收购标志其涉足智能体核心训练环节。OpenPipe的ART框架有独特优势。

AIGC开放社区
推荐文章7

刚刚,Thinking Machines Lab博客提出在策略蒸馏,Qwen被cue 38次

Thinking Machines Lab发布《在策略蒸馏》博客,提出在策略蒸馏可结合强化学习纠错与SFT奖励密度,成本低且能让小模型有强大性能。该成果受Qwen团队启发,大量用Qwen3模型。还对比了不同训练方法。

机器之心