「百万Token计算」共找到 1379 篇相关文章
名师一定出高徒？清华团队最新揭秘：别再迷信大模型蒸馏的「免费午餐」
当下大模型后训练中，On-Policy Distillation（OPD）成明星技术，业界采用后报告性能提升。但清华团队研究发现，换更强Teacher，Student性能可能无提升甚至倒退。研究揭示蒸馏成败条件，深挖对齐机制，还给出拯救失败蒸馏的方法。
把 RAG 做成主流的公司，现在开始“做空”RAG 了
向量数据库开创者 Pinecone 宣布 RAG 时代结束，推出面向 Agent 的知识引擎 Nexus。它认为当前 RAG 模式脆弱、缓慢且昂贵，提出“知识编译”概念，称能提升任务完成率、降低 token 开销，虽面临质疑，但方向明显。
OpenAI发布MRC超算协议，重塑10万GPU集群通信，AMD等合作推进
OpenAI联合AMD等发布MRC超算协议，它基于RoCE标准，打破传统网络局限，解决超大规模计算集群难题，降低成本与能耗。MRC有多平面网络等特性，已在多超级计算机部署，规范也已公开。
两小时激辩：黄仁勋为什么不怕 TPU、不怕华为、不怕出口管制？
黄仁勋接受长达两小时专访，谈及Nvidia使命、经营哲学等多方面。他认为能源政策制约未来，CUDA优势在于生态等，还谈了对TPU、出口管制等看法，不过其观点存在矛盾待检验。
卖鞋厂转型做 AI 股价暴涨 582%，华尔街最不缺这种荒诞闹剧
4月初还在发布新品的鞋履品牌Allbirds，一周后宣布将业务重心转向人工智能计算基础设施。消息公布后，其股价一天内涨幅超582%。这种转型并非首例，背后是资本市场对热门概念的追逐。
阿里云飞天企业版X平头哥“真武”芯片，推理性能跃迁13倍，底层逻辑是什么？| Q推荐
过去几年，模型虽强但使用成本高，阻碍企业级AI深度应用。今年‘模型推理’成AI关键词，4月13日19:00，InfoQ联合阿里云邀专家围绕推理加速底层破局展开对话，探讨算力博弈、芯片性能跃迁等问题。
Claude Code一周份额，一天就烧完一半？有人逆向工程发现了7个bug
Claude Code在快速更新中问题频发，如思考深度大幅下降，还存在7个叠加的bug，浪费用户token配额。开发者给出应对建议，新版本增加账单透明度和缓存过期提醒，该工具正面临信任危机。
跳过88%专家，保住97%性能！MoE推理的正确玩法| CVPR’26
多模态大模型走向大规模，MoE架构虽降低计算开销，但推理成本仍高。香港科技大学等团队提出MoDES，它是training - free动态专家跳过框架，能跳过88%专家还保留97%性能，推理速度提升2倍。
清华联手千问重塑归一化范式，让 Transformer 回归「深度」学习
Pre - Norm和Post - Norm是Transformer架构中稳定信号流的关键范式，但面临权衡取舍。近日，清华黄高团队联合千问团队提出SiameseNorm，构建参数共享的平行通路，实现稳定训练并提升性能。
治好多模态近视和走神！上海大学去偏干预显著提升模型性能
多模态大模型存在“近视”和“走神”问题，总是过度关注图像底部而忽略核心内容。上海大学与南开大学研究团队用两条数学公式去偏干预，无需增加计算成本，却能显著提升主流模型视觉理解能力。