「推理机制」共找到 2728 篇相关文章
拆解大模型几项核心操作背后的数学与 Infra 优化逻辑
文章拆解大模型核心操作（RMSNorm、Softmax、Causal Mask、Sampling）背后的数学与Infra优化逻辑。指出Infra优化是用数学等价变换或精度妥协换硬件利用率和推理速度，还介绍各操作原理、问题及优化方法。
Qwen-Scope：看穿大模型的“小心思”
Qwen-Scope是基于Qwen3和Qwen3.5系列模型训练的可解释性模块，通过在隐藏层插入SAE提取可解释特征。它能分析模型行为、优化模型，应用于推理、数据、训练、评估等场景，可前往Huggingface或魔搭体验。
刚刚，DeepSeek 突发梁文峰署名新论文：V4 新架构提前曝光？
今天凌晨，DeepSeek在其GitHub官方仓库开源了新论文与模块Engram。该论文提出“查—算分离”机制，通过引入可扩展的查找记忆结构，在等参数、等算力条件下提升模型表现，代码与论文全文均已开源。
Karpathy戳破强化学习神话，首提AI复盘式进化！暴力试错将死
AI大神Karpathy发文指出强化学习（RL）有局限，效率随任务时长下降，与人类学习机制差异大。他提出复盘式进化Scaling范式，虽有很多细节待完善，但认为还有更多S型增长曲线待发现。
微软开源浏览器Agent，可实时跟踪、控制智能体，超4000颗星
微软在官网开源用于浏览器网络任务的Agent——Magentic - UI，基于Magentic - One开发，支持人机协同。GAIA测试显示其能提升任务完成率和准确率。它以人为本，有独特机制，框架含多阶段，在Github超4000颗星，支持MIT许可证商用。
刚刚，谷歌Gemini 3.8登场！姚顺宇：RSI巨大飞跃
深夜谷歌推出Gemini 3.8，六周内第三款Flash系列模型。含通用的Gemini 3.8 Flash和网络安全专用的Gemini 3.8 Flash Cyber，提升推理、代码能力，在多场景表现出色。已面向不同群体开放。
为训推加速！全新FlashQLA注意力算子库开源
自Qwen3-Next发布，GDN成Qwen主力注意力层，随模型规模扩大开销增大。现开源FlashQLA算子库，融合优化GDN Chunked Prefill前反向算子，在NVIDIA Hopper上多场景加速，提升预训练和端侧推理效率。
谷歌最新发表的Science论文，颠覆了人类对ASI的想象
谷歌等机构研究者在《科学》发文，提出真正智能爆炸已发生，是多元、社会性且与人类深度缠绕。推理模型内部涌现‘思想社会’，当下人机协作进入‘半人马时代’，还探讨了AI扩展、对齐及治理问题。
1美金时薪雇个全栈替身，MiniMax M2.5让打工人也能体验当老板的感觉
春节档模型大战，MiniMax官宣新模型M2.5，主打智能体和Vibe Coding，性能比肩Claude Opus 4.6。它全栈能力强，能处理长链路任务，推理吞吐量高、成本低，已接管MiniMax 30%真实业务。
美团智能体SOTA模型LongCat-Flash-Thinking-2601开源
美团龙猫团队开源智能体推理模型LongCat - Flash - Thinking - 2601，总参数5600亿。该模型在多方面有卓越表现，团队通过构建数据、模拟环境、采用强化学习策略及设计高效架构等，使其比肩闭源模型。