「降本增效」共找到 587 篇相关文章
10% KV Cache实现无损数学推理!这个开源方法解决推理大模型「记忆过载」难题
推理大模型推理时易现冗余问题,R-KV开源方法登场,显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余,还经多步骤压缩KV缓存,性能测试表现出色,适用多场景。
深度访谈:阿里云X平头哥,模型推理提升13倍背后的秘密
这篇深度访谈聚焦阿里云与平头哥,探讨模型推理提升13倍背后的秘密。随着AI焦点转向推理,行业面临算力、成本、监管等矛盾。嘉宾分析推理范式现状与变化,探讨推理加速技术及优化策略,还谈及瓶颈、未来发展及竞争方向。
万字拆解:Manus 的 PMF 到底是什么,以及谁在为它一直买单?
本文深入剖析 Manus,探讨其 PMF。分析其使用场景、产品价值,对比与 ChatGPT 差异,勾勒核心用户画像,还发现 AI 工具分工、用户消费特点等,指出 AI 竞争关键,阐明 Manus 边界与行业机会方向。
Claude 5.1双旗舰突然发布:跑分屠榜,反蒸馏,科研能力大幅跃升,缓存费用暴降75%
Anthropic发布Claude Fable 5.1和Claude Mythos 5.1两款大模型,性能登顶且解决开发者关注问题。缓存读取费用降75%,跑分屠榜,科研能力强,安全系统重构,合作实测效果好,盲测风格与GPT - 5.6 Sol不同。
斯坦福发布预警信号:生成式AI正如何重塑就业市场?年轻职场新人首当其冲
斯坦福大学Erik Brynjolfsson教授领衔的论文,用海量高频薪资数据研究AI就业效应。发现高AI暴露职业中年轻职场新人就业显著下降,自动化型AI应用致就业降,增强型则无,还给出年轻人受影响大的原因。
对话赵天奇:从AI短剧到互动影游,聚力维度的“升维”之战
本文是对聚力维度创始人赵天奇的访谈。他认为 3D AI 技术潜力大,团队聚焦 AI 漫剧/短剧,用自研赛娲大模型降成本。还将拓展 3D 互动影游,认为它是游戏终极形态,从业者要回归影视本质,创业者需拥抱变化。
曦望,死磕AI推理成本|甲子光年
1月27日,国产GPU厂商曦望发布新一代推理GPU芯片启望S3等。启望S3面向大模型推理定制,设计系统级重构,单位Token推理成本降约90%。曦望还推出超节点方案及推理云计划,目标是极致推理性价比。
“AI眩晕”与电影院精神
今年春节档票房降、场次增,行业陷入‘AI眩晕’。AI逼近打破人类中心主义,电影从业者受冲击。虽AI做动漫短片有进展,但存在版权问题。作者认为应思辨电影院精神,其意义建构非短片能完成。
大模型IMO25数学竞赛成绩公布了
大模型挑战IMO 2025成绩出炉,Gemini 2.5 Pro以超30%总成绩断崖式领先,超出第二名89%。测试由MathArena组织,采用统一环境和双人匿名评估。还介绍了测试模型、题目及模型表现,人类版结果预计本周六发布。
小米罗福莉:MiMo-V2.5如何做到又快又强又便宜? | ICML 2026
2026年7月ICML大会上,小米MiMo团队负责人罗福莉介绍MiMo - V2.5系列。该系列跳出传统思路,从架构、训练、推理协同设计,实现“聪明、快速、便宜”,如预训练降成本、后训练有硬核算法、推理加速达1000 TPS。