「推理加速技术」共找到 4890 篇相关文章
重塑AI记忆边界：MemOS开源！时序推理较OpenAI提升159%
近日，记忆张量等多家团队发布面向大模型的工业级记忆操作系统MemOS。它借鉴传统操作系统架构，实现AI记忆结构化管理，性能超OpenAI等方案，未来将成立社区、推进应用及持续迭代。
DeepSeek秘密造芯！专攻推理，一年前已启动，招聘全程不公开
路透社消息，凭借算法震动硅谷的中国AI公司DeepSeek正秘密开发自研AI芯片，定位推理，项目约一年前启动，现处早期。全球模型公司自研芯片成趋势，虽挑战大，但DeepSeek有资金支撑。
跨层压缩隐藏状态同时加速TTFT和压缩KV cache!
论文 UNCOMP 被 EMNLP 2025 主会接收，提出高效推理框架，用截断矩阵熵解释 LLM 稀疏化，据此设计 UNCOMP 框架，通过压缩隐藏状态优化 KV Cache，实现计算与内存联合优化，实验效果显著。
屏下光谱颜色传感技术：开启环境智能感知的新纪元
智能机流行带来蓝光伤眼问题，手机屏幕技术变革，引入屏下光谱传感。艾迈斯欧司朗举办论坛分享成果，其开发的OLED屏下光谱颜色传感器，能精准重构XYZ响应，解决行业难题，获多方认可。
全球自动驾驶激战，滴滴与清华走出一条技术新路
2026年全球自动驾驶竞赛白热化，Waymo高歌猛进，特斯拉遇困境。滴滴与清华合作，成立实验室，发布STAPO算法，打通产学研链路。滴滴自动驾驶低调务实，掌握全栈技术，将出海阿联酋，其主业优势保障稳健发展。
五份专利曝光，长文拆解特斯拉V3灵巧手技术路线
特斯拉Optimus人形机器人量产计划因灵巧手难题被搁浅。4月16日，世界知识产权组织公布其第三代灵巧手5项专利，文章从整体构型、前臂、手腕等方面拆解其技术路线，各部分紧密协作，体现系统思维。
技术·艺术· 算术：京东零售 AIGC 百亿素材供给实践
本文整理自 QCon 全球软件开发大会·2026 石孝钢演讲。京东零售面对百亿级商品素材供给难题，构建 Oxygen Vision 系统，从艺术、技术、算术三方面探索，实现日供超 1000 万素材，服务超 100 万家商家，核心 XTR 综合提升 29%。
Mini-Omni-Reasoner：实时推理，定义下一代端到端对话模型
现有端到端对话模型推理能力未解锁，因深度思考带来延迟。为此提出 Mini - Omni - Reasoner，采用边思考边表达范式，突破‘要么快，要么准’困境，还设计了数据合成管线和五阶段训练方法，实验证明其性能提升明显。
「推理革命」爆发100天：DeepSeek-R1复现研究全揭秘！
本文深入梳理围绕DeepSeek-R1的复现研究，解析监督微调、强化学习等关键技术细节，介绍相关数据集、训练方法及奖励机制等，还探讨了推理语言模型更多发展方向，为研究提供基础。
SRO架构赋予Qwen-2.5-VL推理能力，性能飙升16.8%
文本领域推理模型成就大，但扩展到多模态大语言模型遇阻力，如冷启动初始化不足等。为此提出 SRO 三阶段训练框架，经测试，ReVisual - R1 平均性能提升 16.8 个百分点。