「推理性能优化」共找到 4157 篇相关文章
刚刚！Thinking Machines Lab ｜ 长文揭开LLM推理不确定性真相！
Thinking Machines Lab发布《克服LLM推理中的不确定性》，揭示大语言模型推理不确定性原因，并非“并发 + 浮点”假设那么简单，主要是负载及batch size不确定所致，还给出让核函数有批次不变性的方法及实验结果。
十载磨「芯」：云天励飞冲击港股AI推理芯片第一股
7月30日，云天励飞向港交所递交H股上市申请，迈向“A+H”新阶段。它是中国首家实现国产高算力AI推理芯片商业化的公司，坚持“全自研、国产化”，现进一步聚焦AI推理芯片，构建“1+N”业务架构。
比思维链准43%！逻辑脑+大模型直觉，推理可靠性大幅提升
中德研究团队发布成果，给大模型外挂「逻辑脑」，结合答案集编程与LLM，构建神经 - 符号框架，提升空间推理准确率，让AI能说清逻辑、跨任务迁移，迈向更可靠的通用推理。
浅析 Amazon S3 Files：工作机制、性能边界与选型思路
4月7日，AWS发布新服务Amazon S3 Files，可将S3存储桶作为高性能共享文件系统挂载到计算节点。本文分析其底层实现、工作机制、性能边界，与其他对象存储文件化方案对比，指出适用场景。
CoT推理大溃败？哈佛华人揭秘：LLM一思考，立刻就「失智」
新研究揭示思维链CoT会分散模型「注意力」，使大模型推理时易出错。研究指出在需遵守指令任务中，用CoT推理模型准确率下降，还总结了四大模式，并提出四种缓解策略。
突发！OpenAI「掀桌」：自研推理芯片「墨西哥辣椒」跑赢英伟达
OpenAI公布自研推理芯片Jalapeño（墨西哥辣椒）测试结果，它专为大语言模型推理设计，能同时提升吞吐量和降低延迟，在多模型测试中超NVIDIA系统。该芯片与Cerebras合作，计划2026年底部署。
AgentCPM-Explore开源，4B 参数突破端侧智能体模型性能壁垒
清华大学等联合研发的 AgentCPM-Explore 智能体模型，基于 4B 参数在深度探索类任务表现出色，有打破参数壁垒等亮点，还全流程开源，解决小模型性能提升挑战，邀伙伴共建端侧智能体生态。
MySQL复制延迟终结者：AliSQL 高效AI诊断和四大内核级优化
MySQL主从复制延迟损害实例可用性和时效性。AliSQL引入AI诊断定位原因，针对大表DDL、大事务、批量数据处理和小事务高并发四类场景，进行内核级优化，消除复制延迟。
“交互式Scaling”：增加Agent与环境交互的深度和频率来提升性能
在AI发展中，商业研究Agent是“黑箱”，开源研究Agent性能有差距。MiroMind团队推出MiroThinker v1.0，提出“交互扩展”提升性能，在多基准测试表现出色，也指出了当前版本的局限。
苹果提出原生多模态Scaling Law！早融合+MoE，性能飙升秘密武器
如今打造强大多模态模型是AI重要目标，常用方法有局限。法国索邦大学、苹果研究人员开展原生多模态Scaling Laws研究，对比早融合与后融合，探讨多种因素对模型性能影响，发现早融合、多模态MoE优势，为后续研究指明方向。