「推理性能优化」共找到 4157 篇相关文章
DeepSeek-R1推理智能从哪儿来？谷歌新研究：模型内心多个角色吵翻了
谷歌等机构研究指出，推理模型能力提升源于‘思维社会’，即模拟类多智能体交互结构。如 DeepSeek - R1 等在推理中展现高视角多样性，对话特征能提升推理准确率，还提出利用‘群体智慧’新方向。
AI Infra进入自进化时代！清华团队用「AI优化AI」造就国产万亿Token工厂
AI自主优化RSI成新焦点，被视为通往AGI的关键路径。硅谷为此沸腾，中国也不落后。清昴智能由清华团队创立，率先打造自进化算力底座，还基于国产算力打造万亿Token工厂，目标是让优化成为持续运行的基础能力。
1/3预算跑平 GPT-5？上海AI Lab「路由魔法」成本直降63%性能反涨 7%！
当前大模型需解决性能与效率平衡问题，GPT - 5用测试时路由技术初步平衡。Avengers - Pro测试时路由框架集成不同LLMs，通过嵌入、聚类、评分操作，调整权衡参数α，能依查询特征选模型，性能和效率优于单一模型。
关于现代GPU体系结构内存一致性（Memory Consistency）模型的一些猜想（二）——同步性能
文章聚焦GPU应用层面，通过实验对比不同同步代码实现的性能。在H20 GPU上测试，发现scope越小同步性能越好，内存屏障开销随scope增大而增加，还介绍非PTX及官方推荐实现方式并给出性能对比。
Mistral的首个强推理模型：拥抱开源，推理速度快10倍
本周二，欧洲人工智能公司 Mistral AI 发布全新大语言模型 Magistral 系列，有企业版 Magistral Medium 和 24B 参数开源版 Magistral Small。它推理强、多语言表现好，速度比竞品快 10 倍，应用于主流云平台，成本有竞争力。
Codex正在重塑传统推理框架开发流程
作者用Codex完善SGLang Diffusion的SKILLS流程，修复诸多bug。让其做benchmark脚本，发现不同rmsnorm性能差异。应用flashinfer rmsnorm遇问题，Codex找出原因并修复，还提升了模型性能，体现强大生产力。
千星项目LLMRouter：多模型路由，16+策略优化推理
UIUC开源智能模型路由框架LLMRouter，可自动为大模型应用选最优模型，有16+路由策略。该框架打通训练、评测等链路，解耦Route与Training模块，支持多轮协同等，还可插件式扩展。
首次解释LLM如何推理反思！西北大学谷歌新框架：引入贝叶斯自适应强化学习，数学推理全面提升
西北大学与Google、谷歌DeepMind团队质疑传统强化学习与反思的关系，提出贝叶斯自适应强化学习方法，首次解释为何、如何及何时反思探索新策略，还给出决策数学形式，实验显示其性能更优。
Databricks开源限流方案，抛弃redis，性能提升10倍
Databricks 开源高性能限流系统设计，抛弃 Redis，通过内存分片和批量上报机制，实现 10 倍性能提升。还将限流算法改为令牌桶，解决了精度控制、在线迁移等问题，权衡了分布式一致性。
海外GEO优化怎么做？15步可操作方法分享【干货】
白杨SEO分享海外英文GEO优化15步可操作方法。先阐述GEO与SEO、国内与海外GEO区别，后从高频词内容调研、发布原创数据等方面详细介绍优化步骤，还提及相关工具与平台。