「推理评估」共找到 2634 篇相关文章
拆解大模型几项核心操作背后的数学与 Infra 优化逻辑
文章拆解大模型核心操作（RMSNorm、Softmax、Causal Mask、Sampling）背后的数学与Infra优化逻辑。指出Infra优化是用数学等价变换或精度妥协换硬件利用率和推理速度，还介绍各操作原理、问题及优化方法。
美团提出首个语音交互GUI智能体，端到端语音训练能力优于传统文本训练
美团和浙大联合推出GUIRoboTron - Speech，这是首个能利用语音指令和屏幕截图端到端决策的自主GUI智能体。它解决了文本依赖问题，团队经多步骤研发，其性能评估表现佳，还给出招聘信息。
[Triton编程][基础]vLLM Triton Merge Attention States Kernel详解
文章详细介绍vLLM中Triton Merge Attention States Kernel的实现，与PyTorch原生实现对比，该Triton kernel最高可实现3 - 5倍以上算子加速。内容涵盖Merge Attention States概念、PyTorch实现、Triton基础算子、分析及性能评估等。
刚刚，谷歌Gemini 3.8登场！姚顺宇：RSI巨大飞跃
深夜谷歌推出Gemini 3.8，六周内第三款Flash系列模型。含通用的Gemini 3.8 Flash和网络安全专用的Gemini 3.8 Flash Cyber，提升推理、代码能力，在多场景表现出色。已面向不同群体开放。
AI 太烧钱！微软选择「倒戈」DeepSeek
微软宣布Copilot Cowork全球上线并引入按使用量计费机制，还评估引入DeepSeek V4。Agent普及使AI成本问题凸显，微软进行系统性重构，构建质量保障体系，成本工程化能力成竞争新焦点。
为训推加速！全新FlashQLA注意力算子库开源
自Qwen3-Next发布，GDN成Qwen主力注意力层，随模型规模扩大开销增大。现开源FlashQLA算子库，融合优化GDN Chunked Prefill前反向算子，在NVIDIA Hopper上多场景加速，提升预训练和端侧推理效率。
谷歌最新发表的Science论文，颠覆了人类对ASI的想象
谷歌等机构研究者在《科学》发文，提出真正智能爆炸已发生，是多元、社会性且与人类深度缠绕。推理模型内部涌现‘思想社会’，当下人机协作进入‘半人马时代’，还探讨了AI扩展、对齐及治理问题。
1美金时薪雇个全栈替身，MiniMax M2.5让打工人也能体验当老板的感觉
春节档模型大战，MiniMax官宣新模型M2.5，主打智能体和Vibe Coding，性能比肩Claude Opus 4.6。它全栈能力强，能处理长链路任务，推理吞吐量高、成本低，已接管MiniMax 30%真实业务。
美团智能体SOTA模型LongCat-Flash-Thinking-2601开源
美团龙猫团队开源智能体推理模型LongCat - Flash - Thinking - 2601，总参数5600亿。该模型在多方面有卓越表现，团队通过构建数据、模拟环境、采用强化学习策略及设计高效架构等，使其比肩闭源模型。
mcpx？要来拯救mcp！让工具调用不再吃掉你的上下文
MCP传统集成方式需在对话前加载所有工具定义，易使上下文溢出。开发者cs50victor基于mcp - cli构建mcpx，按需发现工具，大幅节省token，提升准确率，适合本地部署，虽有额外推理调用，但利大于弊。