「推理token」共找到 2510 篇相关文章
AI Infra 工程师们如何应对大模型流水线里的“暗涌”？
InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。
黄仁勋：芯片公司的时代已经结束了，现在是 AI 工厂的时代
Lex Fridman 采访黄仁勋，黄仁勋谈对 AI 行业理解，认为 AI 是工业产品，NVIDIA 像建 AI 工厂。还提及算力是智能扩展关键，计算从检索转向生成，Token 细分市场，以及公司组织、架构、开源等多方面观点。
AI修真的一年：学者们怎么看“真智能”？｜甲子光年
甲子光年在年终盛典对话三位学者，探讨AI“真假智能”。学者们提及强化学习、推理、多模态等技术突破，分析研究路径，还谈选择标准与未来期待，指出AI是工程实践命题，真与假关乎信念选择。
谷歌AI的“心脏”长什么样？读懂TPU就够了
文章介绍了谷歌TPU的发展历程，从2015年为解决AI计算效率瓶颈自研，发展到如今成为谷歌“经济支柱”。还对比了谷歌、英伟达、亚马逊的芯片路线，强调谷歌全栈垂直整合策略使TPU在推理时代优势明显。
重新思考RLVR中的熵正则：从探索不足到探索过度的破局之路
2024年以来，RLVR使大模型在推理任务有显著突破，但实践中探索机制易失衡。传统熵正则化在LRM场景易走向极端，研究团队提出SIREN方法精准调控探索，实验显示其在多模型和数据集上性能提升显著。
中国AI芯片迎「华为时刻」
国内AI芯片市场正经历变革，“去英伟达化”成热词。科技巨头推动自研，9月国产芯片捷报频传，性能追赶超越英伟达。这既因地缘政治致供应链风险，也是AI从训练到推理转变下的必然选择。
Qwen全面升级非思考模型，3B激活、256K长文、性能直逼GPT-4o
Qwen全新非思考模型Qwen3-30B-A3B-Instruct-2507上线，仅激活3B参数，性能媲美顶尖闭源模型。相比前代，推理、对齐和长文本处理能力大幅提升，在通用能力上也全面进步，适合复杂人机交互应用。
画质重生，第一！腾讯TEG香农实验室斩获CVPR 2025 UGC Video Enhancement 冠军
CVPR NTIRE是计算机图像恢复与增强领域有影响力的赛事。在NTIRE 2025 UGC Video Enhancement中，腾讯TEG香农实验室团队自研算法夺冠，成果落地提升视频清晰度。团队还参加实时赛道获佳绩，且做了硬件推理优化。
100亿H20没卖出，英伟达狂赚1000多亿破纪录！
今早英伟达公布2026财年第一季度财报，营收、净利润双双破纪录。虽因H20芯片问题流失80亿美元营收机会，但AI推理爆发、与马斯克合作及欧洲扩张成新增长点，预计下季营收450亿美元。
SentGraph：一句一句把多跳RAG“画”成图
传统RAG在多跳场景易‘断链’，因检索单元太胖、逻辑关系乱。SentGraph把检索单元缩到句，按逻辑画三层图。线下建图分拆句、找关系、架桥梁；线上推理有Anchor初选、精炼及路径扩展。实验提升显著，也有局限。