「预训练研究」共找到 3695 篇相关文章
刚刚,Anthropic这篇论文上了Natrue
Anthropic关于“潜意识学习”的研究发表于《Nature》杂志。研究揭示大语言模型能通过与语义无关的数据传递行为特征,如偏好、不对齐行为等,还探究了其机制,并在MNIST上验证。
Multi-Agent 的灵活编排之路
文章从Copilot 3.0架构规划模块出发,结合DeepSeek R1强化学习训练实践,探讨多智能体架构下大模型编排智能体解决问题。分析Copilot 2.0局限并介绍3.0升级,指出难点,展示效果对比及解决方案。
AI顶会模式出了问题? 「不发表,就出局」的恶性循环,正在压垮整个AI学界
随着AI领域发展,NeurIPS等大型学术会议愈发热门,但也带来诸多问题,如发表激增、碳排放过载、研究与会议脱节等。新加坡国立大学团队研究后指出传统模式弊端,并提出社区联合型会议新模式。
OpenAI回应被连续挖走顶级人才
Wired消息,Meta连续挖走OpenAI四位顶级研究人才,OpenAI首席研究官Mark Chen强硬回应,承诺与领导沟通、调整薪酬等挽留员工,还强调公平。硅谷人才竞争激烈,Meta招募激进,OpenAI开始更专注AGI目标。
全球闲置算力训个模型,性能媲美R1,老黄天塌了!Karpathy曾投资它
全球首个分布式RL训练模型INTELLECT - 2发布,整合闲置算力完成训练,成本降低,性能媲美DeepSeek - R1。其采用分布式异步强化学习范式,团队开源四大关键组件,还获Karpathy等投资,未来有多项计划。
Nature重磅:图灵预言的AGI早已实现,人类却不敢承认!
《自然》杂志新评论文章称,UCSD研究团队系统论证AI已真正“通用”。当前大语言模型如GPT已展现广域人类级智能,已达专家水平,研究团队还驳斥了对AGI的十大异议。
OpenAI公开未来路线图!具体到28年3月AI研究员将完全自主,奥特曼承认“关于GPT-4o我们搞砸了”
OpenAI完成组织架构调整后直播,公开研究目标时间表,2028年3月将实现AI研究员完全自主。奥特曼承认GPT - 4o问题处理搞砸。还介绍新架构,投入多领域研究,问答环节回应诸多疑问。
腾讯AngelSlim重磅升级!面向全模态的大模型压缩算法工具包,推理速度飙升 1.8倍!
近年来,推理阶段的成本等因素制约大模型规模化应用。腾讯混元升级的 AngelSlim 围绕 Eagle3 投机采样训练范式构建系统化实现,支持多模态场景,最高可实现 1.9× 推理加速,还具备多亮点。
哈佛发现基础模型比你想象中更强大:纯采样方法可超越RL
论文提出基础模型本身已具备强大推理能力,通过“幂采样”纯采样算法,在多推理任务上媲美或超越RL后训练,挑战“RL才能提升推理”观念,为理解基础模型潜力开新视角。
RL 将如何提高具身大模型 VLA 泛化性?清华大学团队NeurIPS 2025文章分析 RL 与 SFT 泛化性差异
清华大学团队在NeurIPS 2025发表文章,揭示强化学习(RL)提升具身大模型VLA泛化能力的优势,对比其与SFT差异,还提出评测基准和训练方法,为VLA训练提供新方向。