「大模型预训练」共找到 9483 篇相关文章
2025甲子Cool Vendor人形机器人大模型领域报告 | 甲子光年智库
甲子光年智库发布《2025甲子cool vendor人形机器人大模型领域报告》。当前人形机器人产业迎来关键转折点，产业链层级完整，大模型解决落地难题，应用场景升级。报告还呈现了产业链现状与趋势。
8B模型任务击败GPT-5？阶跃星辰开源Deep Think新框架，小模型解锁百万Token测试时计算
阶跃星辰推出并行协同推理框架PaCoRe，让大模型突破上下文窗口和处理速度限制。基于此框架，小模型能解锁百万级Token测试时计算。PaCoRe - 8B在数学基准测试中超越GPT - 5，还具备前沿性能、“综合”能力涌现等优势。
14K Star！统御万模的 AI 聚合网关，一个 API 管理所有大模型！
文章分享了AI聚合网关神器New API，它基于Go和React开发，是中转分发系统，像超级转换插头。集成30+模型服务，有多种特性，支持6种部署方式，能收敛混乱的模型调用。
数学推理热潮下的冷思考！如何训练真正"全能"的推理模型？
论文评估20余个开源推理模型在多领域表现，发现多数模型数学成功难迁移。揭示微调方法（RL vs SFT）决定能力泛化，SFT像‘填鸭’，RL似‘思维健身’，为构建通用推理智能体提供新路径。
华为诺亚发布ScaleNet：模型放大通用新范式
华为诺亚方舟实验室等团队提出 ScaleNet 方法，创新性地用少量额外参数量将模型深度扩展一倍。结合层级权重共享和轻量级适配器技术，在视觉和语言任务上验证了有效性，提升了模型性能。
谷歌约战，DeepSeek、Kimi都要上，首届大模型对抗赛明天开战
太平洋时间8月5 - 7日，8款前沿AI模型将在Kaggle Game Arena展开为期3天的国际象棋比赛，参赛方都是AI界顶流。谷歌称现有基准测试难跟上模型发展，这场比赛是探索新评估方法。赛制为单败淘汰制。
北大提出首个复数大模型，2比特量化，推理仅加法，可手机部署！
北大团队提出iFairy方案，将模型权重量化到复数集合，用2比特表示，压缩至原本1/8。推理仅需加减或交换数据位置，成本更低。Transformer架构“复数化”，iFairy模型PPL降10%，性能反超全精度，相关成果已开源。
Efficiency Law, 物理精确世界模型，及世界模型引擎驱动的具身智能学习新范式
2025年秋具身智能赛道火热，特斯拉、英伟达动作不断，数据问题成落地症结。跨维智能贾奎、港中大（深圳）刘桂良探讨突破具身智能学习枷锁的方法，提出Efficiency Law和GS - World世界模型引擎及新学习范式。
从Foundation Model到Physical AI，三星「杀入」大模型核心战场
三星正快速进入大模型核心战场，构建Foundation Model体系，采购GPU用于AI基建。它提出Meki架构、M2RL训练范式和LiveClawBench评测体系，由AI Model TF团队推进，负责人是唐业辉。
英伟达MIT出手！华人团队重磅开源，大模型推理内存暴降10倍
英伟达、MIT、浙大华人研究者联合推出TriAttention，核心是在pre - RoPE空间用Q/K三角集中度估计KV token重要性，保留关键部分。它使内存消耗降10倍，吞吐量提2.5倍，还提供vLLM集成和MLX实验性支持。