「开源推理模型」共找到 9178 篇相关文章
传统云还在「卖铁」，下一代云已在「炼钢」：火山引擎xLLM如何一张卡榨出两张的性能！
大模型上线部署时推理成本高、算力投入大但效果不成正比，企业面临推理效率难题。火山引擎 xLLM 大语言模型推理框架性能极致，成本低，集成关键创新，还被集成到 AI 云原生推理套件 ServingKit 中。
大模型IMO25数学竞赛成绩公布了
大模型挑战IMO 2025成绩出炉，Gemini 2.5 Pro以超30%总成绩断崖式领先，超出第二名89%。测试由MathArena组织，采用统一环境和双人匿名评估。还介绍了测试模型、题目及模型表现，人类版结果预计本周六发布。
Qwen3.8-Flash：全新架构，更强更稳更划算
本文介绍了 Qwen3.8-Flash 多模态 MoE 模型，它原生支持 262,144 token 上下文。该模型在 Attention、Residual、Embedding 与 Optimization 四个方面系统升级，降低训练与推理成本，即将上线千问 AI 平台。还发布了 Qwen3.8-Flash-Next 开源权重。
毫无征兆！DeepSeek R1爆更86页论文，这才是真正的Open
两天前，DeepSeek悄无声息把R1论文从22页更新到86页，将其升级为开源社区可复现的技术报告。新论文干货多，如精确数据配方、基础设施说明等，且多项实力媲美甚至赶超OpenAI等闭源模型。
NeurIPS 2025 Spotlight | 选择性知识蒸馏精准过滤：推测解码加速器AdaSPEC来了
大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。
LLM近期重大架构进化一览：从Gemma 4到DeepSeek V4
近期大模型长上下文需求增长，成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化，如 Gemma 4 跨层 KV 共享和 PLE，以降低长上下文推理成本。
《AI大模型与异构算力融合技术白皮书》10月10日发布
算泥社区《AI大模型与异构算力融合技术白皮书》10月10日14:00线上发布。AI大模型爆发使算力需求激增，异构算力成刚需。国内外政策与产业驱动其发展，该白皮书能为开发者提供实用技术参考。
神秘模型「Pony Alpha」火了，被曝是GLM-5
OpenRouter上线神秘模型“Pony Alpha”，引发网友竞猜。该模型主打编码等，有高工具调用准确率。网友实测其前端能力惊艳。多项证据指向它可能是GLM - 5，春节档多家国产大模型将轮番上阵。
Harness is the New Dataset：模型智能提升的下一个关键方向
文章指出当基模能力成熟，决定 agent 上限的是围绕模型搭建的系统，即 harness engineering。介绍其组件、设计原则，探讨模型与 harness 关系，还列举创业机会项目，最后推测下一范式是 Coordination Engineering。
从答题到做实验：SciAgentGym让大模型进入科学工作流
复旦大学NLP实验室提出SciAgentGym，为科学智能体搭建工作流环境，还设计了评测集SciAgentBench。实验显示模型接入工具能提升成功率，但长流程任务性能下降。论文还提出SciForge构建训练数据，提升了模型表现。