「残差学习」共找到 1699 篇相关文章
北大团队提出 SHINE：将任意文本转化为大模型 LoRA，仅需一次前向传播！
北大团队提出全新超网络架构 SHINE，仅需一次前向传播就能将任意文本转化为大模型 LoRA 参数，支持多轮对话。该方法实用潜力大、架构创新高效，训练流程成熟，推理快速，为大模型持续学习提供新思路。
张小珺对话OpenAI姚顺雨：生成新世界的系统
OpenAI研究员姚顺雨在播客访谈中分享诸多新颖观点。他认为创业公司机会在设计新交互方式，未来或产生超越ChatGPT的超级应用；还指出语言是实现泛化的工具，强化学习有泛化趋势，智能边界由不同超级应用共同定义。
不用额外缓存！英伟达开源大模型记忆压缩方案，128K上下文提速2.7倍
英伟达联合多机构推出TTT - E2E方法，在长文本处理上提速显著且性能不打折。它基于标准Transformer，将长文本建模转为「持续学习」任务，核心是上下文压缩，避免额外缓存，代码和论文已开源。
Ilya：扩展时代已经结束了，研究的时代已经开始
Ilya Sutskever 在播客访谈中深度探讨AI问题。他指出模型考试强但应用差，是因泛化能力不足；认为AI扩展时代结束，研究时代来临；还谈及AGI应是学习者，以及AI部署、安全对齐等观点。
夸克“搜聊一体”新模式，难掩中国版ChatGPT的野心
夸克“C计划”首个落地项目对话助手引发热议。体验发现，它能完成复杂问答，还可用于图文识别、AI写作等场景。在回答逻辑性、辅助学习、理解模糊问题等方面表现出色，背后是阿里闭源模型。
Think in Games：做一个在王者荣耀中会玩和思考的Agent
文章介绍论文《Think in Games: Learning to Reason in Games via Reinforcement Learning with Large Language Models》，指出当前AI在游戏领域面临的困境，提出TiG框架结合大语言模型与强化学习，打造既会做又会说的AI，实验验证其高效性。
模型之上，才是真正的资产
微软CEO萨蒂亚·纳德拉在《没有生态的前沿，立不住》中提出，每家公司未来要构建人力资本与Token资本。强调Token资本构建靠学习闭环，还提出检验公司是否拥有Token资本的方法，呼吁避免价值集中到少数模型公司。
从deepseek v4的受限流线型超链接mHC谈架构优化
文章围绕DeepSeek v4的受限流线型超链接mHC探讨架构优化。指出过去十年深度学习重扩展层内计算，忽视层间通信。介绍多种层间通信改进方法，提出用检索替代累加，还提及深度注意力机制及混合深度注意力的成果。
机器人“狂踹不倒”视频刷屏！太空舱遍布城市街巷，银河通用这几手秀麻了
银河通用发布全新通用动作追踪框架Any2Track，让机器人精确模仿人类动作，还能抗干扰。团队将动作捕捉学习解耦为两阶段，兼顾精准模仿与抗干扰。其银河太空舱让机器人融入生活，全栈自研技术推动具身智能落地。
AI正在淘汰“中间层”！昆仑万维方汉：要么冲进前10%，要么学会“向下兼容”
InfoQ 专访昆仑万维董事长兼 CEO 方汉。他指出 AI 会全面提升行业效率，促使从业者“向上”或“向下”发展；企业出海要选好市场、做好本地化和差异化；还探讨了 AI 商业化、开源等问题，认为开源能满足长尾需求、带来销售线索。