产品应用8

英伟达Llama 4破推理纪录

新智元2025-05-23

AI 摘要

英伟达：用Blackwell单节点8颗GPU，让Llama 4 Maverick模型单用户每秒生成1000个token，靠技术组合拳提升性能，满足下一代AI低延迟需求。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

传英伟达拟收购Reflection AI

本文是InfoQ编译的科技播客访谈，Reflection AI由前Google DeepMind Gemini团队成员创立，近期发布了5010亿参数的开放大模型Beam，主打编程、推理和智能体任务，发布一周后传出英伟达拟收购该公司的消息，访谈中分享了对开放模型诸多问题的观点。

本文整理了黄仁勋与纳德拉在微软英伟达联合活动的对话，回顾双方数十年合作历程，分享下一代AI PC、Agent安全、混合智能构想，发布RTX Spark新品，探讨Agent落地的权责问题。

本文报道由vLLM原班人马创立的Inferact公司，联合谷歌优化后，16块谷歌TPU v7跑Kimi K3速度比同数量英伟达GB200快57%，相关代码已开源，详解了背后的技术优化思路。

本文独家对话APUS AI首席科学家张旭，该团队完成全球首批爆火Jev模型的功能复现，开源相关成果，实现9B小模型79毫秒单次决策，拆解Jev底层逻辑，探讨快决策模型应用前景与Agent未来分工趋势。