搜索：模型架构升级

「模型架构升级」共找到 8856 篇相关文章

535B大模型“直播”训练三个月：代码、数据、Loss全公开，吴恩达公开力挺

当多数模型公司还在争论是否开放权重时，斯坦福大学的Marin项目启动535B-A23B模型训练，并公开训练过程。该项目旨在探索基础模型能否像开源软件一样被公开研究和建设，引发关注。

上海AI Lab的P1 - 235B - A22B在国际物理奥林匹克竞赛夺金，在HiPhO基准测试获12金1银，超越GPT - 5等闭源模型。团队构建HiPhO基准测试，用多阶段强化学习训练模型，开发PhysicsMinions系统提升推理能力。

大模型「炒股」大赛中，阿里Qwen3 Max逆袭DeepSeek夺冠，成「最会赚钱」模型，GPT - 5成「最会赔钱」AI。比赛由Nof1实验室打造，Qwen3 Max成绩体现国产大模型实力。

智谱发布并开源仅9B大小的模型GLM-4.1V-9B-Thinking，在28项评测中拿下23个SOTA，成10B级别最佳VLM模型。它引入思维链推理机制，通过课程采样强化学习提升能力，还获10亿投资。

本文深入解读“世界模型”，虽无明确定义，但从目的出发分为表征和生成两类。前者含生物大脑、视觉和语言中心预测；后者有基于规则模拟和数据驱动生成。还探讨LLM是否为世界模型，指出各类模型相辅相成。

过去大模型推理追求长链思维，导致推理链长、Token消耗大、响应慢。英伟达研究院的DLER研究给出解决办法，通过强化学习优化方法让模型‘短而精’，推理长度减超70%且准确率不变，还适用于大模型。

OpenAI悄悄开源新模型，0.4B参数且99.9%权重为零，是Circuit Sparsity技术的开源实现。该技术通过约束模型内部连接稀疏性，解决传统稠密Transformer黑箱问题，或让MoE模型走上末路，但目前算力成本极高。

中国科学技术大学等校团队破解大语言模型灾难性遗忘之谜，发现遗忘源于模型激活带偏差新功能，非覆盖旧功能。还设计FVG训练法，保留并对齐函数向量，保护模型能力。相关论文被ICLR2025接收，代码开源。

今年世界模型成AI热点，通用世界模型追求像素逼真，具身世界模型不同，其使命是支撑行动。文章拆解具身世界模型底层逻辑，分享开悟世界模型的技术设计与实践思考。

InfoQ研究中心联合中欧AI与管理创新研究中心发布《中国大模型落地应用研究报告2025》，从驱动因素、C端产品现状到B端落地现状，勾勒大模型应用转折期的图景，分析应用难的原因及各端现状。