「计算成本」共找到 2131 篇相关文章
推翻「预测下一个token」范式！微信AI新研究：把token压缩成连续向量更具性价比
微信AI和清华团队提出新范式CALM，把token打包成连续向量，让大模型从预测下一个token转变为预测下一个向量。实验表明它能减少生成步骤，在平衡性能和计算成本时性价比更高。
TreeHop：无需LLM的高效多跳问答新范式
多跳问答（MHQA）任务有挑战，现有方法依赖LLM，计算成本高、延迟显著。TreeHop研究提出新方案，摒弃LLM，通过嵌入空间动态更新，降低延迟、减少模型参数量，还在主流数据集表现佳，适合工业应用。
前端同事看走眼了，这个“游戏网页”其实全是AI写的!
Kimi K2.5上新，集视觉理解、代码生成等能力于一体，提供四种使用模式，其中Agent集群模式提效显著。实测显示其网页生成、动效理解能力出色，下一代K3模型或用新架构KDA降低计算成本。
Claude取得理论物理突破，只用了一句话+几千美元
本文报道Anthropic开发的Claude大模型，在近无人监督条件下，仅用一句任务描述和几千美元成本，算出理论物理前沿难题九圈六粒子散射振幅，刷新保持三年的八圈纪录，获原纪录创造者认可。
为什么算力追赶这么难？前谷歌架构师现场黑板推演底层架构，看懂芯片底层逻辑里被忽视的“空间博弈”
前谷歌架构师、MatX CEO Reiner Pope在访谈中从基础逻辑门讲起，推导芯片架构，指出芯片大部分成本花在搬运数据上，还探讨乘加运算、脉动阵列等原理，以及时钟周期、FPGA与ASIC差异等内容。
Chiplet（芯粒） —— 后摩尔时代的芯片“乐高”玩法
当单芯片逼近物理极限，Chiplet技术应运而生，它将大芯片拆分成小芯片，通过先进封装技术整合。该技术成本低、良率高，应用场景多元，但面临热管理、测试和标准统一等挑战，未来发展前景广阔。
扩散语言模型真的会比自回归好？理论分析结果可能恰恰相反
北京大学和蚂蚁集团研究表明，扩散语言模型虽理论上有并行生成优势，但实践中在某些任务推理成本更高。研究通过实验对比，分析了扩散与自回归模型在不同评估指标下的效率，指出选择模型要视任务需求。
PDL 在 SGLang Kimi K3 中的应用
文章介绍 PDL 在 SGLang Kimi K3 中的应用，K3 内核优化接入 PDL 以缩短相邻内核间隙。分析 PDL 原理、在 bs=1 decode 中解决的问题，阐述计算链和通信链上的应用，还提及性能数据和实现问题。
阿里AgentBay揭秘，Agent Infra才是真护城河！
在云栖大会上，阿里云无影宣布Agent基础设施AgentBay重大升级，展示全新个人计算产品。它有完善能力，可调用云上资源。文章还阐述了Agent Infra的必要性、进化体现及成本优势，指出优化环境很重要。
都在卷「让大模型多循环几遍」，这个7B模型LoopCoder v2说：多循环 1 次就够了
一项新研究表明，7B小模型LoopCoder v2在正常计算外多循环一次，就能在SWE - bench Verified基准上大幅提分。继续增加循环次数，性能反而下降。研究还算了‘收益 - 成本’账，给出选择循环次数的诊断方法。