「预训练框架」共找到 3486 篇相关文章
LLM已能自我更新权重，自适应、知识整合能力大幅提升，AI醒了？
近期，AI自我演进话题研究讨论渐热。OpenAI奥特曼畅想AI自我改进未来，有爆料称其内部运行递归式自我改进AI。MIT论文提出SEAL框架让LLM自我更新权重，引发热议，实验显示其有提升但也有局限。
Gemini 2.5 Pro 负责人：最强百万上下文，做好了能解锁很多应用场景
谷歌DeepMind长上下文预训练联合负责人Nikolay Savinov在播客中分享Gemini 2.5长上下文技术。他认为长上下文能革新产品交互，与RAG协同，未来千万级token上下文将成标配，但当前百万级未达完美时扩规模意义不大。
单卡可跑18万原子！分子模拟的“规模焦虑”该终结了
至知创新研究院UBio团队发布的UBio-MolFM v1.5，是可进行分子动力学模拟的机器学习原子间势函数。它在精度和规模上有提升，实测中表现优于经典力场，架构、数据和训练都有创新，误差降45%，速度提8倍，现已开源。
无需验证器的RL：RLPR解锁LLM通用推理潜能
现有依赖强化学习与可验证奖励（RLVR）提升大语言模型（LLM）推理能力的方法，受限于领域特定验证器。本文提出RLPR框架，利用LLM生成正确答案的固有概率作奖励信号，实现无需外部验证器的通用领域强化学习，效果显著。
高性能计算群星闪耀时
本文介绍了高性能计算（HPC）在大模型时代的重要性，以及清华高性能计算团队在HPC及相关领域的研究与实践。如郑纬民带领团队突破存储技术，陈文光、翟季冬等助力大模型训练，武永卫团队优化推理，张悠慧探索类脑计算。
蚂蚁Ring-1T正式登场，万亿参数思考模型，数学能力对标IMO银牌
10月14日凌晨，蚂蚁万亿级思考模型Ring-1T正式登场，这是全球首个开源的万亿参数思考模型。它在多项基准测试中表现出色，数学能力达IMO银牌水平，还展示了强大的代码、推理、写作等能力，其背后是IcePop算法与ASystem框架的支撑。
1.5B刷新数学代码SOTA！快手&清华精细化Token管理，LLM推理能力飙升
快手与清华团队用1.5B参数小模型在推理基准上超越同量级SOTA。其Archer方法通过精细化Token管理，对知识型和推理型Token差异化训练，让知识和推理同步更新且互不干扰，在数学和代码任务表现出色。
禁令之下，黄仁勋再用“阉割芯片”抢夺中国市场
美国芯片出口管制冲击英伟达，其在中国市场损失大、份额降。黄仁勋计划7月推‘阉割芯片’B20、B40/B30抢市场。不同客户有选择倾向，同时国产GPU有机会也面临难题，企业还尝试海外训练模型。
6.1B激活，三榜开源第一！蚂蚁·安诊儿医疗大模型发布
由浙江省卫生健康信息中心等联合研发的开源医疗语言模型AntAngelMed发布。它基于Ling - flash - 2.0，100B总参数仅激活6.1B达约40B密集模型性能，在多个权威医疗基准测评中居前列，采用三阶段训练流程，高效MoE架构。
xAI解散，但Grok还在上新，马斯克官宣新模型
xAI 解散、大批成员离职后，马斯克透露 Grok 最新模型进展，参数量 1.5T 的 Grok V9 - Medium 已完成训练，预计两到三周内发布。他还宣布现有 0.5T 模型年底前开源，此外首款编码智能体 Grok Build 也备受关注。