「推理性能」共找到 3433 篇相关文章
让本地大模型不再重复推理的缓存技巧
本地跑大模型时，同样问题换说法问，模型又要重新推理。`constraint-cache`这个Python库可解决此问题，它将语义相似查询规范化为统一缓存键，实现近乎即时的重复查询响应，还避免了随机性响应问题。
The Batch：924｜GPT-5.4：性能更高，价格也更高
OpenAI更新旗舰模型GPT-5.4，有Thinking和Pro两个版本，扩展工具使用能力，多基准测试达当前先进水平，但定价高。虽在部分任务表现超Claude，挑战Gemini地位，不过成本也更高。
AI Spot 学术分享会丨ICLR 2026 深度推理专场
当大模型走向深度推理，ICLR 2026 汇聚全球顶尖成果。OpenMMLab 等联合发起 AI Spot ICLR 2026 学术分享会，5 月 14 日 19 点直播，聚焦模型‘慢思考’，嘉宾将解读四大核心技术。
谷歌开源Gemma 3 270M，性能超越Qwen 2.5同级模型
本周四，谷歌发布 Gemma 3 270M 模型，它参数小、功能强，具备指令跟踪等能力。在 IFEval 测试中表现出色，节能且适合多场景，谷歌还提供使用指南和试用途径，Gemma 系列下载量已破两亿。
千星项目LLMRouter：多模型路由，16+策略优化推理
UIUC开源智能模型路由框架LLMRouter，可自动为大模型应用选最优模型，有16+路由策略。该框架打通训练、评测等链路，解耦Route与Training模块，支持多轮协同等，还可插件式扩展。
“煽风点火”让大模型“卷”起来的提升性能的套路
网友Greg Isenberg分享让AI提升性能的方法，通过利用不同AI模型如ChatGPT、Claude、Grok间的“竞争”，人为制造竞争环境，激发其潜力，可提升输出效果，且方法获很多网友验证认可。
性能暴涨50%！谷歌、微软、OPPO 联手开源Agent “经验炼金术”
谷歌DeepMind、微软研究院、OPPO等机构开源`AGENT KB`项目，提出并实现“AI经验库”概念。它有“师徒模式”工作流，设计了从“原始日志”到“结构化经验”的构建流程，应用时分层调用知识，能让Agent性能飙升。
下一代数据中心和高性能计算OIO光互连技术方案！
文章深度解析OIO芯片级光互连技术、挑战与未来。传统电I/O技术有性能受限等问题，OIO能解决大容量芯片I/O扇出难题，是光电融合终极形态。它虽面临量产挑战，但前景好，全球产业力量已集结。
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi - 4 - mini微调出Phi - 4 - mini - Flash - Reasoning 3B模型，扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行速度比前代快10倍，有诸多优点。
刚刚，Opus 5来了：性能不输 Fable 5、价格砍半
Anthropic 发布新一代模型 Claude Opus 5，其智能接近 Claude Fable 5 但价格减半。它在编程、知识工作等评测中表现出色，科研能力进步大，自主性与严谨性更强，安全对齐度高，防护兼顾安全与可用。