「LLM训练」共找到 2871 篇相关文章
内存股集体大跌,原因竟是谷歌这篇一年前的论文
美国内存股集体暴跌,诱因是谷歌新博客介绍一年前公布的技术 TurboQuant。它是压缩算法,可大幅减少 LLM KV 缓存内存占用、提升速度且精度零损失,有望打乱市场对内存芯片增长预期。
挑战ReAct!MetaGPT团队提出ReCode智能体新范式
DeepWisdom研究员指出当前主流智能体框架受固定决策粒度束缚,提出ReCode新范式。它统一规划与执行,能在不同粒度间自由切换,实验显示其性能、成本和训练效率均有提升,引发广泛关注。
小米陈龙团队首作:统一具身与自动驾驶的开源模型
小米具身智能团队发布首篇论文,提出统一具身智能与自动驾驶的新模型MiMo-Embodied。该模型在多任务中领先,其四阶段训练框架打通两领域边界,为行业提供新范式。
突发!arXiv CS新规:未经同行评审,一律不收
arXiv CS板块新规,「综述/调研」和「立场」类论文须经同行评审才可收录。因LLM生成论文激增,此类无实质价值论文增多。但学界大佬对此不满,认为会误杀优质内容,拖慢成果发布。
中年人的认知坍塌
Andrej Karpathy在播客提到模型持续用合成数据训练会出现‘认知坍塌’,能力退化。他认为人类随年龄增长和经验固化,也会从无限可能收敛到固定思维模式,像极了中年人的认知坍塌。
NTU等联合提出A-MemGuard:为AI记忆上锁,投毒攻击成功率暴降95%
在AI智能体依赖记忆系统的当下,记忆投毒攻击兴起。A-MemGuard作为首个为LLM Agent记忆模块设计的防御框架,通过共识验证和双重记忆结构,解决防御难题,使投毒攻击成功率暴降超95%。
国产大模型新SOTA:蚂蚁万亿级旗舰模型赶超GPT-5
蚂蚁集团开源万亿参数旗舰大模型Ling-1T,属Ling 2.0家族。它激活比例低降低运算成本,训练有“Ling缩放定律”等方法,多项测试超主流模型,不过处理超长上下文成本较高。
代码生成要变天了?被质疑架空后,Yann LeCun携320亿参数开源世界模型“杀回来了”
美国当地时间9月24日,Yann LeCun团队发布320亿参数代码世界模型CWM。它创新训练方式,能模拟代码执行。性能测试表现出色,还开放检查点。Meta AI业务重组,CWM发布或表明未彻底放弃开源。
字节跳动开源超强USO模型,AI绘图六边形战士来了
在AI图像生成领域,风格和主题驱动的图像生成一直脱节。字节跳动智能创作实验室推出USO模型,构建海量数据集,设计两阶段训练法,引入风格奖励学习范式,化解此难题,且已全面开源。
77岁Hinton首度访华,周伯文高能交锋!17分钟尖峰对话震撼全场
7月26日,77岁的AI教父Hinton首度访华,与周伯文教授进行17分钟尖峰对话。Hinton称多模态大模型已有「意识」,建议分技术训练「聪明」与「善良」AI,两人还探讨AI发展路径并寄语青年科研者。