「推理架构」共找到 3525 篇相关文章
Meta全新AI组织架构曝光，这范儿有点字节
Meta内部组织调整后，全新架构浮出水面，围绕‘超级智能实验室’整合出3400多人的新组织，负责人是亚历山大·王。其分工类似字节AI架构，还在挖人，有反噬风险。
The Batch: 939 ｜在推理阶段学习长上下文
大型语言模型处理长上下文时通常准确性降低、速度变慢，研究人员提出TTT - E2E方法，通过推理时训练模型将上下文压缩到transformer权重中，还展示了其运作方式、测试结果等。
为什么算力追赶这么难？前谷歌架构师现场黑板推演底层架构，看懂芯片底层逻辑里被忽视的“空间博弈”
前谷歌架构师、MatX CEO Reiner Pope在访谈中从基础逻辑门讲起，推导芯片架构，指出芯片大部分成本花在搬运数据上，还探讨乘加运算、脉动阵列等原理，以及时钟周期、FPGA与ASIC差异等内容。
告别「盲目自信」，CCD：扩散语言模型推理新SOTA
华为小艺香港团队等研究人员提出上下文一致性解码算法（CCD）。它解决传统DLM推理“短视”和采样预算固化问题，在开源DLMs上实现3.48倍加速和3.9%性能提升，适配多种解码设定。
DeepMind发布SIMA 2！打通「感知-推理-行动-反思」闭环
DeepMind推出的SIMA 2，可让智能体在虚拟环境中边聊天边进行复杂多模态推理。它整合Gemini能力，从指令执行者变为互动伙伴，有强大迁移泛化与自我提升能力，是迈向AGI重要一步，但也面临一些挑战。
微调重要表征以增强思维链的推理能力
团队提出关键表征微调（CRFT）方法，通过信息流分析识别和优化关键表征。在八个数学和常识推理基准及两个模型系列验证其有效性，能提高推理准确率，学习参数量低，还适应少样本场景。
刚刚，DeepSeek扔出大杀器，梁文锋署名！暴力优化AI架构
2026新年第一天，DeepSeek发表梁文锋署名新论文，提出「mHC（流形约束超连接）」架构。它仅增约6.7%训练时间开销，就能让27B参数模型性能显著提升，还可能淘汰ResNet结构。
Java 世界的 MCP：将架构策略应用于 LLM 集成
文章指出大语言模型成企业架构组件，但当前集成脆弱。MCP 引入标准化方法，Java MCP SDK 能将其与企业架构融合。文中探讨 MCP 及其 SDK，分析其设计、应用、权衡等，还给出企业运营助手案例。
低Token高精度！字节复旦推出自适应推理框架CAR
字节与复旦大学研究人员提出自适应推理框架CAR，能根据模型困惑度动态选短答或长推，在多基准测试中平衡了准确性与效率，打破长文本推理必然性能更好的认知。
中兴星云拿下推理总分榜一！SuperCLUE 5月成绩出炉
2025年全球AI大模型竞赛激烈，SuperCLUE发布5月报告，中兴通讯星云大模型Nebula Coder - V6推理专项榜单总分并列第一、总榜并列第二，细分赛道表现佳，且是少数获国家级权威安全认证的大模型。