「高效架构」共找到 2296 篇相关文章
DeepSeek-V4发布！高效百万上下文智能普惠时代来了
DeepSeek-V4发布，是开源社区关键分水岭。它解决超长文本处理效率痛点，架构与优化有多项突破，降低算力消耗和成本，适配国产芯片，性能比肩顶级闭源模型，推动开源社区两大未来趋势。
从deepseek v4的受限流线型超链接mHC谈架构优化
文章围绕DeepSeek v4的受限流线型超链接mHC探讨架构优化。指出过去十年深度学习重扩展层内计算，忽视层间通信。介绍多种层间通信改进方法，提出用检索替代累加，还提及深度注意力机制及混合深度注意力的成果。
刚刚，DeepSeek 突发梁文锋署名新论文：V4 新架构提前曝光？
今天凌晨，DeepSeek在GitHub开源新论文与模块Engram，论文提出“查—算分离”机制，通过可扩展查找记忆结构提升模型表现。Engram将记忆与计算职责分离，或成V4核心技术，获网友肯定。
轻量高效，即插即用：Video-RAG为长视频理解带来新范式
现有视觉语言模型处理长视频面临诸多难题，厦门大学等联合提出轻量高效、无需微调的 Video-RAG 框架，采用多模态辅助文本检索增强生成，解决长视频理解问题，适用于多场景。
用SFT打出RL的效果？微软联合提出高效后训练算法
大模型后训练阶段，SFT 和 RL 各有优劣。微软等联合提出新工作，量化 SFT 和 RL 在数据层面的差距，提出 IDFT 和 Hinted Decoding 等高效后训练技术，实验显示新方法泛化超 SFT、效率超 RL。
从数据到决策：AI 驱动的 Quick BI 架构设计与实践
阿里云智能集团瓴羊高级技术专家王璟尧，介绍阿里云 Quick BI 从传统 BI 到 AI 驱动的智能 BI 的进化，解析领域大模型与 BI 引擎协同设计等技术权衡，为行业提供可复用技术范式。
LLM近期重大架构进化一览：从Gemma 4到DeepSeek V4
近期大模型长上下文需求增长，成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化，如 Gemma 4 跨层 KV 共享和 PLE，以降低长上下文推理成本。
ACL2025 | 传统符号语言传递知识太低效？探索LLM高效参数迁移可行性
中科院自动化所谭宇乔等研究跨规模大模型参数知识迁移（PKT）可行性。指出传统符号语言传递知识低效，LLM 模仿此范式也有局限。提出新 Pre - Align PKT 范式，实验分析 PKT 效果，揭示神经不兼容性致其失败。
彻底告别VE与VAE！商汤硬核重构多模态：砍掉所有中间编码器
商汤科技联合南洋理工大学发布NEO - unify，这是“原生、统一、端到端”多模态模型架构，砍掉VE和VAE，用混合变换器架构打通视觉与语言能力，提升数据与算力利用效率，为跨模态智能系统奠基。
梁文锋署名新论文，DeepSeek V4架构首曝？直击Transformer致命缺陷
新智元报道，梁文锋署名的DeepSeek新论文提出全新Engram模块，解决Transformer记忆难题。论文联手北大提出与MoE互补的“条件记忆”稀疏轴，通过Engram模块实现近似O(1)的确定性知识查找，或成稀疏LLM主流路线，下一代V4可能集成该方法。