「推理技术栈」共找到 4669 篇相关文章
解决VLA模型落地难，普通硬件也能跑！全透明全开源的高效VLA模型把推理成本砍掉76%
2026年4月，中山大学与MBZUAI联合推出A₁模型，它是完全开源透明、自适应高效的截断式视觉 - 语言 - 动作模型，能削减推理成本、实现低成本落地，在仿真与真机上表现优异。
Shopee OnePiece：业内首个融合上下文工程、隐式推理和多目标训练策略的生成式搜推建模框架
2025年生成式推荐发展火热，但工业界落地多在序列化建模，替换传统范式遇阻。Shopee傅聪团队联合人大高瓴学院提出OnePiece范式，是业内首个融合多策略的生成式搜推建模框架，含上下文工程、隐式推理和多目标训练策略。
Token洪流的转向：当AI Agent成为Token消耗的主宰，什么样的推理服务基础设施才是刚需
Token消耗量转移，AI Agent成Token消耗主宰，大模型推理服务底层逻辑重塑。文章介绍AI Agent时代范式转变、对推理基础设施的需求，还阐述了为其打造的AI Serving Stack架构及优势，它获2025年度相关卓越奖。
诺奖获得者Hassabis警告：AlphaGo已觉醒，AGI正接管科研
十年前，AlphaGo击败李世石，让世人看到AI潜力。此后，DeepMind不断推进，其技术从棋盘拓展到科研，如AlphaFold解决蛋白质折叠难题，AlphaProof在数学推理获佳绩，这些成果显示AGI正接管科研。
超越GPT-4o！华人团队新框架让Qwen跨领域推理提升10%，刷新12项基准测试
加拿大滑铁卢大学与TikTok新加坡的华人团队提出全新训练框架General - Reasoner，让Qwen系列大模型跨领域推理准确率提升近10%，在多项基准测试中超越GPT - 4o。该框架有全领域推理数据集和生成式答案验证器两大创新。
误入人均10个顶级offer的技术天团活动，顶尖AI人才的选择逻辑我悟了
作者参加京东TGT计划活动，与两位入职京东的顶尖AI人才交流。Daniel因京东重视生成式推荐项目、技术氛围纯粹而选择它；Kyrie则被创业热情、技术理想共鸣及数据优势吸引。入职后两人都获核心项目机会。
仅保留35% Token，性能反超原模型！快手可灵等用视觉信息引导音频压缩，推理时间直降42%
Omni - LLM计算浪费严重，快手可灵等团队提出OmniSIFT框架。它利用音视频非对称依赖关系，通过时空联合剪枝压缩视频、视觉引导筛选音频Token，大幅减少Token数量，提升性能和推理效率。
马斯克xAI自研推理芯片曝光！代号X1、台积电3纳米工艺、明年就量产
马斯克的xAI被曝自研推理芯片X1，用台积电3纳米工艺，2026年三季度量产。此前xAI就为自研芯片招兵买马，还将在西雅图设办事处。此外，特斯拉也在推进自研推理芯片。
大模型开发实战从入门到入坑：动手写一个MCP Server去理解MCP背后的技术原理
文章聚焦MCP协议，介绍其是规范应用向大模型提供上下文的开放协议，能让模型调用接口更简单、实现开发解耦。还深度解析技术原理，手把手教从0到1实现MCP Server，助读者理解背后技术。
用更一致的轨迹、更少的解码步数「驯服」掩码扩散语言模型，扩散语言模型的推理性能和效率大幅提升
扩散大语言模型发展迅猛，或成下一代大语言模型基础范式有力竞争者。复旦大学等团队发布论文，提出高效解码策略与强化学习训练组合，解决MDLM解码和训练问题，提升推理性能与效率。