算法论文8
Transformer「混血」Eso - LM速度狂飙65倍
新智元
AI 摘要
康奈尔等机构研究者提出Eso - LM,融合自回归与扩散模型,通过混合训练和推理优化,引入KV缓存,推理速度大幅提升,在速度与质量平衡上表现出色,英伟达科研总监参与,或押注该方向。
阅读原文 · 新智元
全球首次,Transformer「混血」速度狂飙65倍!英伟达已下注
康奈尔、CMU等机构研究者提出「混合体」Eso - LM,融合自回归和离散扩散模型范式。它引入KV缓存机制,推理速度相比标准MDM提升65倍,在速度与质量平衡上超越BD3 - LM,引发AI领域关注,英伟达或押注此方向。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
全球最大AI芯片Cerebras迎商业化考验
本文分析“全球最大AI芯片”厂商Cerebras的商业化现状,结合与OpenAI的合作动态、最新财报数据,拆解其晶圆级推理芯片的技术优势,同时点出其交付、现金流等核心考验,探讨推理芯片赛道的路线选择。
DeepTech深科技
推荐文章9
三万字讲透大语言模型入门
本文是面向零基础的大语言模型入门长文,无需机器学习背景,只用简单例子讲清大语言模型的核心逻辑,覆盖从原理到产品化的全流程,适合新人系统学习。
腾讯技术工程
新闻资讯8
传英伟达拟收购Reflection AI
本文是InfoQ编译的科技播客访谈,Reflection AI由前Google DeepMind Gemini团队成员创立,近期发布了5010亿参数的开放大模型Beam,主打编程、推理和智能体任务,发布一周后传出英伟达拟收购该公司的消息,访谈中分享了对开放模型诸多问题的观点。
InfoQ
新闻资讯9
黄仁勋:没有Windows就没有英伟达
本文整理了黄仁勋与纳德拉在微软英伟达联合活动的对话,回顾双方数十年合作历程,分享下一代AI PC、Agent安全、混合智能构想,发布RTX Spark新品,探讨Agent落地的权责问题。
AI科技大本营