「低延迟推理」共找到 2936 篇相关文章
“最强编码模型”上线，Claude 核心工程师独家爆料：年底可全天候工作，DeepSeek不算前沿
Anthropic 开发者大会发布 Claude 4 ，含 Opus 4 和 Sonnet 4 型号，在基准测试表现出色。核心工程师预测年底软件工程智能体能力，谈 RL 及 DeepSeek，还提到模型自我意识、推理计算瓶颈等问题。
硅谷今夜集体失眠！互联网女皇340页AI报告猛料刷屏，大佬熬夜头秃
互联网女皇Mary Meeker暌违六年，发布340页《AI趋势报告2025》。报告指出AI使用成本下降，推理成本暴跌，中国模型以低成本崛起，中美在AI模型争霸，还提及ChatGPT的辉煌与未来潜在挑战等。
以加代乘？华为数学家出手，昇腾算子的高能设计与优化，性能提升30%！
大模型落地面临推理难题，华为团队基于昇腾算力发布三项硬件亲和算子技术研究，包括以加代乘的AMLA算子、融合算子技术、SMTurbo加速技术，实现能效、协同和速度突破，未来将拓展应用场景。
SIGCOMM 2026 | 从「人眼看视频」到「AI理解视频」：北大提出面向AI的实时通信框架Artic
AI 正从「文字聊天」走向「边看边聊」，传统实时视频通信难以满足需求。北大团队提出 Artic 框架，重构码率自适应等，实验显示其能显著提升准确率、降低延迟。
给你家 AI Agent 装个「长期记忆」，这个开源库一行代码搞定
Memori是开源的LLM记忆引擎/Python库，为聊天机器人等提供统一长期记忆层。它功能亮点多，如自动记忆分类、精准召回等，集成成本低，还有进阶玩法和企业安全能力。
谷歌nano banana正式上线：单图成本不到3毛钱，比OpenAI便宜95%
昨晚谷歌图像生成与编辑模型nano banana上线，正式名gemini - 2.5 - flash - image - preview。它有强大能力，成本低，有多种玩法，上线后测试火爆，在多个榜单成绩优异。
AI开源狂飙，OpenAI们慌了！GenAI大洗牌，2025趋势深度解读
2025年，ChatGPT仍领跑，但DeepSeek、Qwen等开源模型加速追赶。独立机构报告总结六大趋势，涵盖技术突破与市场格局演变，如推理模型实用化、MoE架构普及等，开源势力挑战闭源巨头。
宇树机器人租不出去了
2025开年，宇树机器人因春晚表演成“顶流”，人形机器人租赁爆发。但热潮渐退，其租赁市场萎缩，复购率低。技术上实现简单动作难，商业化前景存疑，行业凸显理想与商业的矛盾。
Transformer与RNN合体，谷歌打下显存门槛，解锁超长上下文
谷歌论文提出 Memory Caching 技术，通过架构机制创新赋予 RNN「可生长的记忆容量」，兼顾 Transformer 与 RNN 优势，能处理更长文本、降低推理资源门槛，实验显示有良好效果。
中科院“二氧化碳制糖”新成果全网热议！不依赖光合作用，“迈向深空前置技术”
中国科学院天津工业生物技术研究所提出新技术，首次构建体外转化系统，打通“CO₂→甲醇→蔗糖”合成路径。绕过植物光合作用制糖，能耗低、效率高，对解决全球变暖、粮食危机有启发。