「RL4LLM」共找到 2578 篇相关文章
除了prompting外,不动参数,如何改变模型行为?
文章指出传统提示工程控制大模型生成行为有缺陷,提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示,定位“原子知识组件”精准控行为,实验效果超现有技术,还能控制推理长度。
大模型推理上限再突破:「自适应难易度蒸馏」超越R1蒸馏,长CoT语料质量飞升
本文从中兴通讯无线研究院「大模型深潜」团队切入,介绍了首创的「LLM自适应题目难度蒸馏」方法,该方法围绕「模型 - 数据动态匹配」提出了一条完整的CoT构建流程,显著提升了长CoT语料的质量。
百度文库网盘,押注工作流里的超级智能|甲子光年
4月27日百度文库网盘在AI DAY发布通用智能体GenFlow4.0,展示融合OpenClaw新进展。它让AI介入办公软件,引入Agent参与团队协作,从单兵作战到全向协同,解决办公中间工作,靠数据、系统和用户验证构建系统工程。
Monet:赋予多模态大模型如人类一般的抽象视觉思考能力
文章介绍了Monet模型,它实现了训练MLLM直接在连续隐空间思考的方法,内化视觉思考能力。还阐述了多模态模型隐式推理训练的难点,提出SFT+RL训练框架,构建数据集,经测试,Monet提升了视觉推理能力。
单季利润2610亿元!三星的“AI印钞机”,火力全开
4月7日三星公布一季度业绩,营业利润57.2万亿韩元,DS部门贡献超七成。HBM业务营收大增,通用DRAM量价齐升。三星从HBM3E追赶者成HBM4领先者,但产能转移致产业链裂痕,下游产品纷纷涨价。
OpenAI真正王牌,不是Ilya!刚刚,奥特曼罕见致谢这两人
大众视野里OpenAI故事只剩几个响亮名字,但Jakub Pachocki和Szymon Sidor这对从波兰高中走出的搭档,用默契把不可能变现实。从Dota AI到GPT - 4,他们身影贯穿OpenAI核心节点,奥特曼罕见致谢他们。
我用给DeepSeek 加了个搜索功能
作者为弥补DeepSeek无搜索聊天记录功能的不足,用Claude Code做了个插件。介绍了使用说明,还提及各LLM模型适用场景,称DeepSeek重模型智能,少营销但用户体验有折扣。此外,作者还用AI采集资讯发群。
刚刚,OpenAI前CTO Mira Murati公司Thinking Machines Lab发文,揭开了大模型不确定性的真相
OpenAI前CTO Mira Murati创立的Thinking Machines Lab推出研究博客Connectionism,首篇文章聚焦LLM推理的非确定性问题。研究发现真正原因是批次不变性缺失,提出实现批次不变内核的方案,实验效果显著。
没想到,最Open的开源新模型,来自小红书
向来低调的小红书昨日开源首个自研大模型 dots.llm1,它是中等规模的 MoE 模型,在较小激活量下性能良好。其开源力度堪称行业最大,还介绍了数据处理、训练优化等多方面技术细节。
Karpathy用「harness」彻底终结了RAG。
假期时Karpathy提出llm.wiki想法引发关注。它是元框架,定义人类与AI协作管理知识的方式。与RAG不同,它将新材料关键信息编入已有wiki并持续维护。作者用多种数据测试,发现TextIn API解析效果好,还优化处理流程提升质量。