「推理性能优化」共找到 4203 篇相关文章
Gemini 3.1 Flash-Lite Preview发布：Google完成AI模型分层布局
Google发布Gemini 3.1 Flash-Lite Preview，针对企业和开发者场景优化，速度快，有‘思考级别’功能。基准测试表现不错，价格比Claude 4.5 Haiku便宜，但开发者社区反应复杂，面临市场定位问题。
AgentScope 正式发布 Skills 支持 - 实现渐进式披露
文章指出大语言模型驱动的Agent系统存在核心矛盾，常见上下文加载方案有局限，缺乏灵活机制。介绍了AgentScope发布的Skill机制及渐进式披露策略，还讲了其在Java中的实现，最后分析了适用与不适用场景。
致敬Kimi K2：基于slime的全流程INT4量化感知RL训练
受Kimi K2团队启发，SGLang RL团队落地INT4量化感知训练流程方案，在强化学习多方面取得进展，还在slime框架复现全流程方案，实现媲美BF16精度，提高Rollout效率，为社区提供开源参考。
英伟达员工晒年终奖，黄仁勋霸气签皮衣；Moltbook爆火：当AI有了自己的社交网络；又一“95后”清华天才科学家庞天宇加盟腾讯混元 | Q资讯
本文汇总 AI 行业热点，有 Moltbook 成 AI 社交平台且爆火；OpenAI 两款产品用户流失；亚马逊、Meta 裁员；英伟达年终奖、合作协议情况；阿里发布千问新模型；还有大厂春节发红包竞争，DeepSeek 布局新领域等消息。
高效智能体的「幕后推手」是谁？一篇综述带你从记忆×工具学习×规划看透
随着大模型能力提升，业界关注智能体落地，而高效性是决定能否上线的‘硬’问题。论文梳理‘高效智能体’综述，从记忆、工具学习、规划三机制出发，还谈及基准评测、挑战与展望。
使用 Hugging Face 轻松构建并共享 ROCm 内核
自定义内核是高性能深度学习基础，但构建整合麻烦。Hugging Face的kernel - builder和kernels库可助轻松构建、分享自定义内核。本文聚焦构建ROCm兼容内核，展示构建、测试与分享步骤。
AI for Science开年新突破：中科大实现多尺度结构逆向设计128倍加速，登上Nature子刊
中国科学技术大学联合多所院校，在多功能双连通多尺度结构逆向设计领域取得突破，成果发表于Nature Communications。研究解决核心瓶颈，提供新范式，在多方面展现优势与潜力。
国产GPU又杀出一匹黑马！成立不到一年，两款芯片量产落地
在国产算力从‘技术可用’向‘场景好用’转型时，成立不到一年的芯桥半导体携Sinexus X200、S200系列国产高性能GPGPU产品杀入战场，构建全栈式解决方案，适配多行业场景。
《生成式AI卓越架构设计指导原则》：从"能用AI"到"用好AI"
在2025云栖大会上，阿里云发布《生成式AI卓越架构设计指导原则》，以云原生“卓越架构五大支柱”为基础，针对大模型内容合规与安全治理等领域提建议，助力企业从‘能用AI’走向‘用好AI’。
The Batch: 894 | 面向生物医学的多模态模型
过去几年联合推理模型进展快，但生物医学领域能力碎片化、脆弱或难解释。2026 年，学术界应推进多模态模型建设，关注深度整合、可解释性、数据效率和适应性及模型在工作流中的整合。