「计算成本」共找到 2052 篇相关文章
DeepSeek发布最新论文，5大杀手锏让大模型训练、推理暴涨
全球著名开源大模型平台DeepSeek在huggingface发布超强开源模型V3的论文，从硬件架构和模型设计双视角探讨高效训练和推理，提出DeepSeek - MoE、多头潜在注意力等创新技术，解决内存、计算效率等难题。
Cursor Origin 上线，GitHub 的老玩法还够用吗？
8月17日，GitHub服务异常，同日Cursor向付费计划开放Origin early beta。代码仓库接入更多Agent，现有设施适应人的节奏，而Agent工作节奏更快。Origin重写协作成本，与GitHub设计前提有差异，马斯克布局延伸到软件生产链。
SGLang Hierarchical Sparse Attention 技术深度解析
阿里云等团队推出面向 Sparse Attention 的分层稀疏化框架，介绍其架构、机制与实践。此框架破解了长上下文推理时的计算与容量瓶颈，以 DeepSeek DSA 集成测试，使推理性能大幅提升，目前项目处于开发阶段。
英伟达、港大等发布创新KV缓存，实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。
吴恩达来信：AI 速度带来的价值被低估了
吴恩达指出，AI 不仅能降低任务执行成本，还能显著加快执行速度，其在创造商业价值方面的重要性常被低估。以编写代码、借贷审批等为例，说明提速能带来新价值，企业应关注可提速环节带动增长。
订单排到2027年，全球AI算力建设急需中国光纤
AI产业发展使光纤需求暴增，价格飞涨，交货期排到2027年。原因一是AI算力中心需大量光纤，二是俄乌战争消耗不少。中国光纤因长期内卷掌握技术、摊薄成本，订单已排到2028年。
审美在线、随叫随到、月薪19刀——Lovart把AI设计师这件事做认真了
Lovart适合无设计预算的人，将专业设计师装进AI工具。其Brand Kit解决风格不稳定问题，Font Generator可生成专属字体，Create Skill能固化学习成本，还有Export PSD、Mock Up等实用功能，月费仅19美元。
自动驾驶优化：从复杂性到实时工程
本文深入探讨自动驾驶技术栈端到端架构，阐释从上下文感知传感器融合到MPC求解器等优化技术，如何将原始传感器数据转化为安全控制指令，还介绍轨迹规划、实时计算预算及调试等内容。
破解大模型「无效并行推理」：Parallel-Probe问世，并行推理效率提升35.8%
来自多所高校的研究团队提出 Parallel-Probe，通过 2D Probing 刻画并行推理动态，发现问题后提出控制算法，能降推理延迟 35.8%、总 token 成本 25.8%，还推出 SCOUT 测试床，代码和平台已开源。
强化学习远不是最优，CMU刚刚提出最大似然强化学习
CMU等机构研究指出，现实中广泛使用的强化学习未真正做最大似然优化，只是优化其一阶近似。基于此，团队提出最大似然强化学习，实验显示其在性能与计算效率权衡上优于现有方法。