「推理加速技术」共找到 4890 篇相关文章
Moonshot AI发布Kimi Linear技术报告，采用混合线形注意力架构
Moonshot AI在Hugging Face发布Kimi Linear技术报告，该48B参数模型采用混合线性注意力架构，称超越传统全注意力机制。官方数据体现其优势，模型已开源，社区反应不一，MiniMax则回归全注意力架构。
故障率降低100倍，微软突破性技术破解AI算力浪费大难题
在AI数据中心，网络链路高故障率制约算力释放。微软在“ACM SIGCOMM 2025”大会公布MOSAIC技术，将链路故障率降100倍，实现50米长距传输、最高68%功耗降低，为大规模AI集群提供支撑。
极简RL新范式：一半算力刷新1.5B模型推理SOTA
过去为提升中小参数量模型推理能力，开发者构建复杂RL流水线。JustRL论文提出极简、单阶段、固定超参训练方案，在两主流1.5B模型上刷新SOTA，节省2倍算力，消融实验还揭示部分技巧会致性能退化。
中国AI Agent产业化参考范本：斑马口语攻克的四大技术难关
2025年AI产业转折，通用大模型落地难，垂直场景成关键。斑马口语作为垂直落地的AI Agent，突破实时交互、语音识别、内容适龄、多模态呈现四大技术难关，为中国AI Agent产业化提供范本。
「有望成为Transformer杀手」，谷歌DeepMind新架构MoR实现两倍推理速度
谷歌DeepMind发布新架构MoR，有望成Transformer杀手。它统一实现参数共享、自适应计算，兼顾性能与效率。实验显示其推理吞吐量提升，降低计算需求，但能否取代Transformer存疑。
AI读不懂文档结构？计算所重构Agentic RAG文档推理能力
大语言模型工具使用能力推动RAG进化，现有Agentic Search框架有“结构盲”问题。中科院计算所团队提出DeepRead，将文档结构转化为坐标系统，用两大工具协同实现类人推理，在多数据集验证效果显著。
彩讯股份 CEO 白琳：企业级AI正从技术热潮走向系统化落地
1月31日彩讯股份发布《企业级AI应用白皮书》，CEO白琳接受采访。指出企业级AI正从技术驱动转向应用落地，面临系统性挑战，白皮书梳理发展阶段、痛点与路径，还介绍了‘1+1+N’策略等。
DeepMind一篇论文终结十年之争！GPT-5推理靠世界模型
GPT-5上线后推理能力惊人。最新研究揭示通用智能体聪明的原因是长出“世界模型”，终结了学界十年关于AI靠模仿还是思考的争论，实验也验证了世界模型对智能体的必要性。
仅需一个混频器的无线射频机器学习推理，登上Science Advances！
杜克大学和MIT教授团队提出广播模型并在射频上完成计算的分离式计算方案，在边缘端混频器模拟计算中完成推理，解决传统方案问题，还在测试平台验证，能耗低且能完成多项机器学习任务。
一篇文章告诉你：国产 GPU 背后的技术和商业路线异同
过去两年，国产 GPU 赛道进入公开财务与审视阶段。文章分析了摩尔线程、沐曦等企业不同技术与商业路线，如摩尔线程走“高启动＋快扩张”，沐曦选“厚积薄发＋先服务高端算力场景”等。