「预训练研究」共找到 3695 篇相关文章
在Think中边搜索边调整的搜索增强Reasoning方法
LLM虽知识丰富，但无法掌握训练数据外的信息，传统检索增强生成方法有缺陷。AutoRefine提出“先筛选，再回答”理念，用强化学习训练，实验显示在多方面碾压传统方法，未来或改变知识密集型任务解决方式。
首次人体实验成功！基因编辑胰岛细胞“隐身”植入，可正常分泌胰岛素
最新研究显示，科学家首次将CRISPR编辑的胰岛细胞移植到一名1型糖尿病患者体内，细胞数月内持续分泌胰岛素，还能逃避免疫检测，使接受者无需服免疫抑制剂。不过研究仅涉一人，Sana计划明年开展更多试验。
苹果一口咬死AI不会思考！OpenAI前高管直接开怼：AGI已来，别再酸了
苹果论文《思考的错觉》挑战AI推理能力基本假设，引发争议。OpenAI前研究主管则称AGI时代已近。多项研究测试推理模型，指出其有进步也有瓶颈，未来或需换思路，评估方式也待完善。
人大和微软开源Arbor，一棵假设树突破自主科研新高度
中国人民大学和微软研究者推出Arbor，它将实验挂到假设树，让研究信息跨周期保留。在六道真实研究任务中表现优异，增益超Codex和Claude Code，且成本相当，还能从失败中积累经验。
陶哲轩对谈 OpenAI 高管：“试错成本”无限趋零，AI 正在把数学变成一门重工业
菲尔兹奖得主陶哲轩与OpenAI顶尖科学家Mark Chen对谈，探讨AI在数学研究中的能力、缺陷与演化路径。指出AI试错成本低，在数学领域发展潜力大，虽目前有局限，但正改变数学研究方式。
GPT之父把AI扔回1930年：没见过一行代码，却「发明」了Python！
GPT之父Alec Radford带队发布总参数130亿的大模型「talkie」，其训练数据冻结在1930年，没学过编程却能写Python代码，证明LLM可用旧知识推理。团队后续还有升级计划。
面壁MiniCPM-SALA模型，稀疏-线性注意力，单卡吞吐百万上下文
面壁智能团队提出SALA，基于此训练的MiniCPM-SALA模型，在单张A6000显卡实现百万token超长上下文推理，训练成本降约75%。它结合稀疏与线性注意力，采用混合架构，继承权重降低成本，在长文本处理上优势明显。
入局AI Infra：程序员必须了解的AI系统设计与挑战知识
文章分享传统后台工程师技术栈和方法论如何迁移到AI系统，系统性拆解AI Infra的硬件、软件、训练和推理挑战，如硬件从CPU到GPU、软件依赖深度学习框架，还分析训练和推理面临的问题及解决办法。
一场未竟的AGI实验：代季峰离开陈天桥MiroMind团队始末｜甲子光年
MiroMind是盛大旗下、由陈天桥与代季峰联手创立的AGI研究组织。因合规考量，代季峰卸任技术顾问。美国出口管制扩至云端，让跨境远程研发合规边界生变。代季峰或带部分团队另立公司，MiroMind研究未停。
百年黎曼猜想被Claude破了新纪录！是个未公开新模型
A社官宣未公开的Claude研究模型在黎曼猜想取得重大进展，将满足猜想的黎曼ζ函数零点比例下界从41.6%提高到67.2%。它靠60个智能体、3100万输出Token完成研究，几乎走完科研流程。