「成本性能平衡」共找到 3335 篇相关文章
全球AI算力大战变天！十万卡算力集群爆表，国产IB真香？
大模型竞赛进入万卡、十万卡时代，网络取代算力成新瓶颈。过去RoCE因成本优势受青睐，但集群规模扩大后运维复杂。IB架构以其稳定性迎来价值重估，国产IB方案突破或改变技术路线选择。
让大模型上车：理想汽车硬件协同设计算出最佳边缘模型
长三角洲AI实验室、中科院、理想汽车等找到大语言模型硬件协同设计寻优之路，在相同延迟下降低端侧模型困惑度，压缩模型架构挑选时间。研究揭示缩放定律，打造硬件感知建模框架，找到精度与延迟最优解。
无需训练，直接「算出」最强AI！理想汽车发现端侧Scaling Law
理想汽车基座模型MindVLA团队与国创决策智能技术研究所联合发布论文，提出面向端侧大语言模型的「硬件协同设计扩展定律」，解决大模型部署在端侧设备的难题，实现软硬协同设计，提升模型性能和研发效率。
CUTE DSL学习笔记一 CUTLASS 4.3.5 CuTe DSL 文档翻译
本文是 CuTe DSL 4.3.5 文档翻译，介绍了其核心概念、使用方法、与 CUTLASS C++ 关系等。它通过 Python DSL 降低 CUDA Kernel 开发门槛，支持 JIT 编译、多种架构，还说明了当前限制与未来计划。
刚刚，杨植麟亲自开源Kimi K2.5！国产大模型打架的一天
今天国产大模型热闹非凡，Kimi更新至K2.5版本。它是万亿参数的MoE基础模型，开源且在多项评测表现佳，视觉与编码能力强，还引入Agent Swarm功能，实测展示其解决各类复杂任务能力。
AI用3年时光，来了解你！首个AI Clone长期记忆基准
现有AI记忆评测存在数据源单一、忽视变化本质、注入成本高等局限。开源学术社区QuantaAlpha联合高校团队提出CloneMem基准测试，构建合成人生，设计评测任务，实验发现简单方法在检索上更有效，记忆系统应还原信息。
马斯克首席AI脑与莱姆病抗争！曾师从丘成桐，杨格宣布辞职
马斯克xAI核心架构师、联创之一杨格宣布离职，转任非正式顾问。他长期与莱姆病斗争，打算康复后复出。杨格是数学天才，师从丘成桐，是Tensor Programs理论之父，其技术为xAI节省大量算力成本。
毫无征兆！DeepSeek R1爆更86页论文，这才是真正的Open
两天前，DeepSeek悄无声息把R1论文从22页更新到86页，将其升级为开源社区可复现的技术报告。新论文干货多，如精确数据配方、基础设施说明等，且多项实力媲美甚至赶超OpenAI等闭源模型。
比传统方法强7倍：Anthropic物理隔离危险知识，重塑大模型安全训练范式
Anthropic团队提出选择性梯度掩码技术（SGTM），在训练阶段将危险知识物理隔离到特定参数并剔除，实现安全性与通用能力更好平衡，抗恢复性是传统方法7倍，还能处理未标记危险数据。
通过零开销逐层权重卸载技术将SGLang Diffusion wan2.2的推理速度加速60%
文章介绍在优化SGLang对Wan2.2视频生成模型支持时，发现双Transformer架构下第1步和第19步推理慢的问题。通过零开销逐层权重卸载技术，将整体推理速度提升60%，还突破显存墙，且该优化可扩展到其他模型。