「高稀疏度MoE结构」共找到 735 篇相关文章
ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代
随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。
NeurIPS 2025 | Code Graph Model：重塑代码大模型架构，利用“代码图”突破仓库级编程瓶颈
在 NeurIPS 2025 上，蚂蚁全模态代码算法团队展示「Code Graph Model (CGM)」，它将代码库图结构注入 LLM 底层注意力机制，打破业界刻板印象，在权威榜单上表现出色。文章解析其架构、训练策略和配套框架。
Jev 是个什么模型？它一个字都不生成，为什么还这么火？
本文深度解析TypeSafe AI新发布的Jev模型，该模型不生成文本，专注提供高速结构化概率判断，分析了其架构、训练、适用场景，探讨了对AI行业格局的影响，给出开发者实用判断标准。
阿里新王牌千问 APP 曝光：全面硬刚 ChatGPT
11月14日阿里开启「千问 APP」公测，其集成通义千问 Qwen 系列顶尖模型，有多模态能力。它对标 ChatGPT，在中文语境和结构化输出上有优势，实测处理财报、麻将推理等表现佳。
零基础指南：从 Prompt 到上下文工程构建 AI Agent 【万字长】
作者结合培训经历，系统梳理零基础构建 AI Agent 的学习路径，涵盖结构化提示词工程、上下文工程与知识检索、工具函数设计和 Agent 规划等内容，还介绍各环节方法、策略和实践案例。
硬核拆解大模型，从 DeepSeek-V3 到 Kimi K2 ，一文看懂 LLM 主流架构
本文详细列举 8 个主流大语言模型，硬核拆解架构设计与革新思路，介绍架构演进趋势。如 DeepSeek-V3 的 MLA 与 MoE 技术，OLMo 2 的归一化策略，Gemma 3 的滑动窗口注意力机制等。
极客大神构建了LLM架构画廊，AI大神Karpathy点赞
极客大神Sebastian Raschka构建LLM Architecture Gallery，将复杂模型结构化繁为简，引发技术圈讨论，AI大神Karpathy点赞。画廊高度视觉化、互动性强，展示模型架构图及核心参数，源数据开源。
GPT-5、Grok 4、o3 Pro都零分，史上最难AI评测基准换它了
AAI机构提出新基准FormulaOne，让GPT - 5、o3 Pro等前沿大模型集体得零分。该基准含220个图结构动态规划问题，分三类难度。测试结果显示，模型在深层及最深层难度表现差，引发关注。
100 页 Agentic RL 综述！牛津、新国立、AI Lab 等联合定义 LLM 下半场
2025 年大语言模型热潮持续，但当前主流训练范式显瓶颈。牛津、新国立等 16 家机构学者发布 100 页 Agentic RL 综述，明确定义从‘会说’到‘会做’进化路径，剖析理论、结构与实践，展望未来挑战。
Anthropic重磅新研究：当AI采访了1250人，它看见了人类的「职业软肋」
Anthropic推出Interviewer工具，与1250名职场人、创作者、科学家深度对话，记录细节并量化。该工具能自动完成访谈、分析等流程，受访者满意度超97%。研究揭示不同职业对AI态度受职业结构等因素影响。