「AI推理模型」共找到 13959 篇相关文章
Meta通过简单算术解锁LLM SoTA性能
大型语言模型训练耗算力与时间，传统模型融合方法有局限。本文提出SoCE新方法，通过筛选专家模型、非均匀加权平均融合，在多评测中实现先进性能，为LLM优化提供新思路。
刚写完V4.1主算子就要“转业”？DeepSeek资深算子工程师深夜独白
本文整理了DeepSeek资深MLSys工程师刘胜与的公开长文，刘胜与刚交付DeepSeek V4.1核心算子，就预判AI将很快超越人类算子开发能力，分享职业转型思考与行业警示，引发技术圈热议。
HuggingFace要卖！880亿待价而沽
据Business Insider消息，全球最大AI开发者平台之一HuggingFace预计超130亿美元“卖身”。它是“AI界的GitHub”，连接多方，资本已追投6轮。AI资本正转向控制开发者入口平台，收购利弊待察。
让GPU不再摸鱼！清华蚂蚁联合开源首个全异步RL，一夜击穿14B SOTA
清华与蚂蚁联合开源AReaL - boba²，实现全异步强化学习训练系统，解耦模型生成与训练流程，大幅提升GPU利用率。14B模型在多个代码基准测试达SOTA，性能接近235B模型。
xAI联合创始人出走：连马斯克都留不住顶级人才
伊戈尔·巴布什金这位效力过DeepMind和OpenAI的AI老将，助马斯克建成孟菲斯超算集群后离开xAI，创办风投公司“Babuschkin Ventures”，瞄准AI安全赛道，揭示AI行业顶尖人才的追求。
The Batch：826 | 提高输出准确性的记忆层
通常提高大语言模型事实准确性需更大模型规模，会增加计算成本。Meta研究人员在transformer架构加可训练记忆层，可高效存储提取信息，提升计算效率，测试显示其能提升模型输出质量。
特斯拉终于着急了
特斯拉交出史上最差季报，净利润暴跌、汽车收入骤降。其处于从汽车向人工智能转型过渡期，却面临汽车业务疲态、AI业务落地难的问题，如Cybertruck和Model 2/Q未达预期，资本市场耐心受考验。
Evaluation is All You Need：评估设计的微小差异如何扭曲结果
论文以DeepSeek - R1 - Distill系列模型为例，指出大模型评估中看似客观的基准测试结果对评估细节极度敏感，细微评估条件变化会致分数波动大，削弱模型对比可信度，呼吁建立新评估标准。
在 Cache-DiT 框架下实现原生 Serving功能
Cache-DiT 是唯品会开源的 PyTorch 原生 DiT 推理加速引擎，此前聚焦离线推理。现实现完整 Serving 功能，支持单卡与分布式推理模式。文章介绍其实现过程、借鉴 SGLang 的设计，还总结踩坑及使用方法。
Claude Code与Codex六大组件拆解
文章指出如今如GPT - 5.6等模型的裸能力相近，但装进Claude Code 或 Codex CLI 后表现差距大，原因在于Agent Harness。它将编码智能体拆解为六个核心组件，详细阐述各组件作用与意义。