「多模型推理」共找到 9950 篇相关文章
传统云还在「卖铁」，下一代云已在「炼钢」：火山引擎xLLM如何一张卡榨出两张的性能！
大模型上线部署时推理成本高、算力投入大但效果不成正比，企业面临推理效率难题。火山引擎 xLLM 大语言模型推理框架性能极致，成本低，集成关键创新，还被集成到 AI 云原生推理套件 ServingKit 中。
英伟达笑到最后！训练2000步，1.5B逆袭7B巨兽，Scaling真来了
英伟达团队提出ProRL训练法，将强化学习扩展到超2000步。用此方法训练的15亿参数模型媲美70亿参数的Deepseek - R1 - 7B，在多任务中表现出色，解决了熵崩溃和训练不稳定问题。
大模型IMO25数学竞赛成绩公布了
大模型挑战IMO 2025成绩出炉，Gemini 2.5 Pro以超30%总成绩断崖式领先，超出第二名89%。测试由MathArena组织，采用统一环境和双人匿名评估。还介绍了测试模型、题目及模型表现，人类版结果预计本周六发布。
SGLang支持GPT-OSS：从Day 0支持到性能增强
SGLang宣布重大更新，聚焦openai/gpt - oss - 120b模型深度性能优化与新功能。预填充和解码阶段吞吐量显著提升，支持多GPU，有推测解码等功能，还支持智能体应用程序，且不损害模型推理能力。
AI 设计9个月就能媲美Blackwell？OpenAI “辣芯”绕开英伟达正面战场，但老黄的GPU大盘不稳了
OpenAI 展示与博通联合打造的定制 AI 芯片 Jalapeño，性能媲美英伟达 Blackwell 或谷歌 TPU。计划年底部署，是多代芯片开发首步。它专为大模型推理设计，设计周期短，成本低，OpenAI 借此扩展全栈能力。
老外傻眼！明用英文提问，DeepSeek依然坚持中文思考
DeepSeek-V3.2和DeepSeek-V3.2-Speciale推理能力显著提升，海外研究者用英文提问，它却用中文思考。评论有两种观点，相关论文显示中文省token但非最有效，大模型选思考语言并非只看效率。
谷歌Nano Banana Pro上线，深度结合Gemini 3，这下生成世界了
谷歌最新图像生成模型Nano Banana Pro（Gemini 3 Pro Image）上线，结合Gemini 3 Pro强大推理与知识，在控制力、文字渲染和世界知识方面升级，能生成高分辨率、一致性强图像，还支持创意操控、多语言文本生成等，多产品将上线。
《AI大模型与异构算力融合技术白皮书》10月10日发布
算泥社区《AI大模型与异构算力融合技术白皮书》10月10日14:00线上发布。AI大模型爆发使算力需求激增，异构算力成刚需。国内外政策与产业驱动其发展，该白皮书能为开发者提供实用技术参考。
神秘模型「Pony Alpha」火了，被曝是GLM-5
OpenRouter上线神秘模型“Pony Alpha”，引发网友竞猜。该模型主打编码等，有高工具调用准确率。网友实测其前端能力惊艳。多项证据指向它可能是GLM - 5，春节档多家国产大模型将轮番上阵。
Harness is the New Dataset：模型智能提升的下一个关键方向
文章指出当基模能力成熟，决定 agent 上限的是围绕模型搭建的系统，即 harness engineering。介绍其组件、设计原则，探讨模型与 harness 关系，还列举创业机会项目，最后推测下一范式是 Coordination Engineering。