「推理部署」共找到 2645 篇相关文章
Claude Opus 4.1火速发布！坐稳编程之王，官方：马上还有大更新
Claude Opus 4.1正式发布，编程性能超Claude Opus 4及竞品，拿下SOTA。在Agent任务和推理方面升级，定价不变。官方将在几周内大规模改进。Anthropic借客户背书，暗秀关系，文风受开发者喜爱。
0.5B以小搏大拿下端侧模型新SOTA：4090可跑，长文本处理5倍常规加速丨清华&面壁开源
清华大学和面壁智能团队开源MiniCPM 4，有8B、0.5B两种参数规模，以22%训练开销达同级别最优。它在架构、推理、数据、训练多方面创新，性能领先，适用于综述生成、工具调用等场景。
SmolVLA: 让机器人更懂 “看听说做” 的轻量化解决方案
文章介绍轻量级开源视觉 - 语言 - 动作 (VLA) 模型 SmolVLA，专为机器人领域设计，可在消费级硬件运行。它用公开数据集训练，架构经优化，还引入异步推理堆栈，性能超部分大模型，降低研究门槛。
从 Computer Use到 Datacenter Use：如何让 AI Agent 像调用函数一样驱动数据中心？
本文整理自 QCon 2026 北京站演讲，探讨如何让 AI Agent 驱动数据中心。指出 Agent 发展有 Multi - Agent 和 Datacenter Use 趋势，介绍 AKernel 基础设施，包括架构、技术支柱、部署方式等，还提及其实践落地与未来演进。
百度想明白了：旧供给到达极限了
当下企业应用AI时，Token成本高、推理效率低问题凸显。百度Create大会释放旧供给达极限信号，推出新全栈AI云，含Agent Infra和AI Infra两层架构，多个场景应用初显成效。
1.5万人收藏！这款 NotebookLM 开源平替太还原了，模型随意切换！
Google的NotebookLM虽火，但有国内使用难、数据不私密、模型单一等痛点。Open - Notebook是其开源平替，完全本地可部署，功能超全，支持多模型，近半月GitHub星标增10K，总收藏1.5万。
黄仁勋做客美国第一播客：每天都在担心英伟达倒闭
英伟达CEO黄仁勋做客美国第一播客Joe Rogan，畅谈AI底层逻辑与技术演进，还分享英伟达创业历程。他指出AI已从检索转向推理，数据中心成“AI工厂”，并坦言每天担心公司倒闭。
陈丹琦新作：大模型强化学习的第三条路，8B小模型超越GPT-4o
陈丹琦团队提出结合RLHF和RLVR优点的RLMT方法，支持在基础模型上直接使用，节省后训练成本。它让模型生成CoT，用奖励模型评价输出，使小模型超越大模型，推理更像人类。
Airbnb Istio 升级 14 次零宕机！Google、Uber、Netflix 都在借鉴
Airbnb engineering发布报告，介绍在数万Pod和数千VM上执行Istio升级且零宕机的方法。其设计升级流水线，用双版本部署和金丝雀发布策略等。还对比了Netflix、LinkedIn等公司的升级方式。
Transformer终结者！谷歌DeepMind全新MoR架构问世，新一代魔王来了
KAIST、谷歌DeepMind等机构发布的MoR架构，推理速度翻倍、内存减半，重塑LLM性能边界，碾压传统Transformer。它融合参数共享与按需计算，有路由和KV缓存策略，实验显示其性能优越、可扩展性好。