「性能成本平衡」共找到 3412 篇相关文章

算法论文8

仅保留35% Token,性能反超原模型!快手可灵等用视觉信息引导音频压缩,推理时间直降42%

Omni - LLM计算浪费严重,快手可灵等团队提出OmniSIFT框架。它利用音视频非对称依赖关系,通过时空联合剪枝压缩视频、视觉引导筛选音频Token,大幅减少Token数量,提升性能和推理效率。

量子位
开源动态8

只训练数学,却在物理化学生物战胜o1!新强化学习算法带来显著性能提升,还缓解训练崩溃问题

上海创智学院、上海AI Lab的MM - Eureka系列工作提出新强化学习算法CPGD,缓解训练崩溃问题,提升性能。还构建多模态强化学习框架,推出MMK12数据集和MM - PRM模型,开源相关成果。

量子位
新闻资讯8

黄仁勋 GTC 2026 演讲实录:所有SaaS公司都将消失;Token成本全球最低;“龙虾”创造了历史;Feynman 架构已在路上

北京时间2026年3月17日,英伟达CEO黄仁勋在GTC演讲,展示AI“全家桶”。他回溯CUDA 20年,介绍数据处理新软件库,还提及AI原生企业爆发、Token成本优势、Vera Rubin平台等,强调英伟达在AI领域的全面布局。

AI前线
开源动态7

推理成本骤降75%!gpt-oss用新数据类型实现4倍推理速度,80GB显卡能跑1200亿参数大模型

OpenAI在gpt - oss开源模型采用MXFP4数据类型,使推理成本降75%,内存占用为BF16模型四分之一,生成token速度提4倍,还能降低硬件资源需求。不过MXFP4也有缺陷,英伟达推出NVFP4提升质量。

量子位
产品应用8

消费级具身智能跨越式新品:算力提升1000倍,对标英伟达Jetson Thor芯片,成本仅1/10!

蔚蓝科技发布新款机器狗 BabyAlpha A3,算力提升 1000 倍,对标英伟达 Jetson AGX Thor T5000 芯片,成本仅 1/10。它采用国产芯片,具身智能边缘端混合异构计算集群,感知超人类,实现全自主智能。

机器之心
7

从Cursor返聘归来,90后华裔女高管带Claude开启日更模式:token成本比工程师工资低多了!

90后华裔女高管Cat Wu推动Anthropic产品“按天迭代”,她认为token成本低于工程师工资。她分享了产品发布、团队协作等经验,还谈到AI时代PM应具备的能力,以及Claude系列产品的使用和发展方向。

InfoQ
新闻资讯8

Altman承认“搞砸了”!曝 GPT-5.2 牺牲写作换顶级编程,明年成本降 100 倍,实锤Agent 已能永久干活

OpenAI CEO Sam Altman 在研讨会上勾勒 GPT-5 进化蓝图,承认 GPT-5.2 研发“搞砸”写作能力,承诺到 2027 年底其智力成本降 100 倍,还提出未来软件应“随需随生”,重构操作系统。

AI前线
算法论文8

用更一致的轨迹、更少的解码步数「驯服」掩码扩散语言模型,扩散语言模型的推理性能和效率大幅提升

扩散大语言模型发展迅猛,或成下一代大语言模型基础范式有力竞争者。复旦大学等团队发布论文,提出高效解码策略与强化学习训练组合,解决MDLM解码和训练问题,提升推理性能与效率。

机器之心
算法论文8

ICLR 2026 Oral|大模型总爱「想太多」? DECS从源头消除冗余思考,实现推理token减半且性能不降反升

以DeepSeek - R1等为代表的大型推理模型存在过度思考问题,造成大量冗余计算。复旦大学等团队在ICLR 2026 Oral论文中揭示‘长度惩罚’局限性,提出DECS框架,在多基准测试中实现推理长度减半且性能提升。

机器之心
算法论文8

告别玄学选LLM!弗吉尼亚理工选型框架入选ICML 2025

弗吉尼亚理工大学研究人员推出选型框架LensLLM,可预测微调后性能走势,解释大模型微调“玄学现象”。它基于全新PAC - Bayes泛化界限推导,降低成本近90%,被ICML 2025收录。

量子位