自回归架构」共找到 2864 篇相关文章

新闻资讯8

LLM近期重大架构进化一览:从Gemma 4到DeepSeek V4

近期大模型长上下文需求增长,成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化,如 Gemma 4 跨层 KV 共享和 PLE,以降低长上下文推理成本。

机器之心
新闻资讯8

机械手成精了:能变形、能爬行、己抓东西,全程无人操控

武汉大学高霄团队设计出可拆卸爬行机械手,能像普通机械手抓取物体,还能脱落爬行够取远处物品。其完成全套取物任务,未来有望用于工厂、救援、家庭等场景。

DeepTech深科技
算法论文8

谷歌提出破局Self-Consistency计算瓶颈!LLM推理效率革命,推理加速不牺牲精度

Google Research等团队提出CISC,通过给推理路径赋予置信度权重,少量样本即可超越传统洽性效果,平均减少40%计算成本,还提出WQD指标揭示模型评估能力本质。

深度学习自然语言处理
开源动态8

彻底告别VE与VAE!商汤硬核重构多模态:砍掉所有中间编码器

商汤科技联合南洋理工大学发布NEO - unify,这是“原生、统一、端到端”多模态模型架构,砍掉VE和VAE,用混合变换器架构打通视觉与语言能力,提升数据与算力利用效率,为跨模态智能系统奠基。

量子位
算法论文8

梁文锋署名新论文,DeepSeek V4架构首曝?直击Transformer致命缺陷

新智元报道,梁文锋署名的DeepSeek新论文提出全新Engram模块,解决Transformer记忆难题。论文联手北大提出与MoE互补的“条件记忆”稀疏轴,通过Engram模块实现近似O(1)的确定性知识查找,或成稀疏LLM主流路线,下一代V4可能集成该方法。

新智元
新闻资讯7

老黄大出血!OpenAI背刺英伟达,微软研芯连夜拆掉CUDA护城河?

2026年1月26日微软官宣第二代研AI芯片Maia 200上线,还推出软件Triton。它塞满SRAM,推理成本更低、效率更高。这让英伟达面临生存危机,AI算力圈也变天,降本成关键。

新智元
产品应用7

从需求到研发全动:如何基于Multi-Agent架构打造AI前端工程师

本文介绍蚂蚁消金前端团队打造的Multi - Agent智能体平台“天工万象”。阐述其技术实践,对比多Agent与统一型Agent、ReAct范式与固定工作流优劣,还介绍专业智能体建设,分享开发中的思考与经验。

阿里云开发者
开源动态8

Ray异构融合底座重构数据管道:架构演进与万卡落地实践

文章指出大模型发展下,传统大数据引擎在多模态数据处理局限性凸显。腾讯基于Ray构建新一代数据管道,介绍了云原生调度与计算范式融合架构,详述容错、资源利用等方面优化实践,展示了重构收益。

腾讯技术工程
开源动态8

vivo研蓝河操作系统内核开源!Rust开发新机遇来了

vivo宣布开源研蓝河操作系统内核,它由Rust语言编写,解决了传统C语言难题,更轻量化、对硬件要求低且支持多架构。此次开源不仅是国产操作系统突破创新,还将推动Rust生态发展。

量子位
推荐文章8

硬核拆解 Hermes-Agent:学习 Skill 机制的架构设计与实现原理。

文章围绕Hermes - Agent展开,指出多数Agent缺乏学习能力,而它试图跨越这一鸿沟,能动“写手册”(Skill)。介绍其架构、安装配置,通过代码审计任务演示学习过程,并解析Skill机制,为生产级Agent提供新思路。

AI大模型应用实践