「低延迟推理」共找到 2941 篇相关文章
内幕曝光：OpenAI模型坦承不会第六题，3人俩月拿下IMO金牌！
OpenAI三人团队俩月让AI达IMO金牌水平。他们用多智能体系统技术，使模型能短时间解复杂问题。新模型有自省能力，减少“幻觉”问题。此次突破是通用推理技术进步，未来将整合进更多模型。
最新12种GraphRAG技术全面评测
6月两篇论文对12种GraphRAG技术评测。GraphRAG通过构建图结构组织知识，在复杂推理等任务中优于传统RAG。不同GraphRAG技术在图构建、知识检索上表现各异，如RAPTOR图构建慢但令牌消耗少。
从沙子到会“思考”的智能材料，张朝阳与物理学家刘若微揭秘世界的底层逻辑
8月12日，张朝阳与刘若微教授围绕“复杂的世界：从沙子到智能”主题，从沙堆、泡沫切入软物质与非平衡统计物理前沿，探讨阻塞相变、低功耗类脑智能材料研究路径及未来潜力，还分享科研感悟。
开箱即用、本地安全、多 Agent 协同解决方案！
过去一年，Agent热度高，但企业应用面临算力、安全和部署门槛。5月22日浪潮信息推出元脑智能体工作站Z3，整合大模型本地推理等功能，解决本地多Agent运行问题，降低使用门槛，保障安全。
2026论文解读，ASAHI：自适应切片助力小目标检测，速度提升25%、精度创新高
高分辨率航空图像小目标检测难，传统检测器表现差。2026年4月都灵理工大学团队提出ASAHI，用自适应切片框架，在VisDrone2019上mAP50达56.8%，推理速度比SAHI提升20 - 25%，还介绍了实战代码等。
【梁文锋署名】DeepSeek再发新论文：75%思考+25%记忆，这是他们算出来的最优解
DeepSeek新论文《Conditional Memory via Scalable Lookup》提出Engram模块，指出大模型用计算模拟查字典是浪费算力，Engram能给模型装“记忆”，还发现参数分配呈U型缩放定律，推理和长上下文能力提升显著。
Chiplet（芯粒） —— 后摩尔时代的芯片“乐高”玩法
当单芯片逼近物理极限，Chiplet技术应运而生，它将大芯片拆分成小芯片，通过先进封装技术整合。该技术成本低、良率高，应用场景多元，但面临热管理、测试和标准统一等挑战，未来发展前景广阔。
Telegram创始人搞了个狠活：100%隐私的去中心化AI网络
Telegram创始人帕维尔·杜罗夫推出专注机密AI计算的去中心化网络Cocoon，或终结中间商垄断。它基于TON区块链，有三层架构，四步完成AI查询，但面临延迟和竞争挑战，未来将采用DAO治理。
国产MiroMind智能体框架，登顶全球预测未来大模型榜单
国产MiroMind公司在全球首个动态实时预测基准FutureX上夺冠，老板是陈天桥。其开源的MiroFlow v0.2智能体框架优势明显，能升级大模型能力，且成本低、可复现。MiroMind在预测赛道领先。
一文读懂：GPU到底是怎么工作的？
文章详细介绍GPU工作原理，对比其与CPU差异。指出GPU擅并行计算、能解决复杂问题，还分析FLOPS、延迟、内存等因素对性能的影响，最后讲了GPU通过多线程和超量订阅获高吞吐量。