「计算成本」共找到 2131 篇相关文章
给大模型装上「思维分段引擎」：浙大InftyThink解锁无限深度推理
如今大模型长上下文推理面临计算成本高、推理易中断问题。浙大联合北大团队提出InftyThink新范式，将传统推理拆成短片段并总结，突破推理长度限制，在多基座模型实验中表现优异。
慕了！内存芯片巨头年终奖人均64万；32岁程序员猝死背后公司被扒，曾给39万“封口费”；马斯克曝星舰成本将降99%，商业航天受捧｜AI周报
这是一篇AI周报，涵盖多领域热点。如SK海力士发高额年终奖；月之暗面张予彤称Kimi用少量资源开发领先模型；马斯克透露星舰目标、人形机器人计划等；多家公司有新动态，如阿里推AIGC应用、百川发布医疗大模型等。
行业迎来大洗牌！4万 Agent 挤进一个机柜，AI Infra 要如何构建？
当 AI 从聊天机器人变为 Agent 后，AI 基础设施逻辑改变。浪潮信息副总经理赵帅判断，Agent 迫使 AI 基础设施重新分工，带来新的 CPU 计算需求。企业需关注资源分配、成本控制、系统重构等问题。
亚马逊发布新AI大模型，部署机器人突破100万
全球电商、云计算巨头亚马逊宣布推出新AI基础大模型Deep Fleet，部署机器人超100万。该模型可提升机器人车队出行效率，还能协调机器人移动，带来交付快、成本低等好处。
OpenAI突然开源新模型！99.9%的权重是0，新稀疏性方法代替MoE
OpenAI悄悄开源新模型，0.4B参数且99.9%权重为零，是Circuit Sparsity技术的开源实现。该技术通过约束模型内部连接稀疏性，解决传统稠密Transformer黑箱问题，或让MoE模型走上末路，但目前算力成本极高。
当 Kafka 架构显露“疲态”：共享存储领域正迎来创新变革
沃尔玛开发者 Ankur Ranjan 与 Sai Vineel Thamishetty 长期关注 Apache Kafka 与流处理系统。文章指出 Kafka 架构现局限，介绍下一代开源项目 AutoMQ 借助云原生设计，解决其成本、扩展性与运维痛点，为实时数据流架构提供新视角。
超越RAG，DRAG让LLM准确率飙升45.5%，问题越复杂能力越强
RAG技术虽能让LLM检索资料生成答案，但存在短板，听不懂话里有话。DRAG方法应运而生，有DRA和RSC两大法宝，经对比实验，它在多任务上领先，准确率大幅提升，计算开销小。
AI时代终端大变局
随着算法、芯片、场景深度融合，端侧AI计算成终端智能化核心引擎，重塑IoT终端应用场景智能体验。端侧AI芯片作为技术底座，正重塑终端产业格局，虽面临挑战，但未来前景广阔。
开源共建重塑推理 Infra：从架构创新到生态协同，Mooncake的破局之路
大模型推理落地面临成本、吞吐、长上下文“三角困境”。开源项目Mooncake以“计算存储解耦”为核心，通过PD分离等技术提供底层支撑。直播邀请专家从多视角拆解其技术逻辑、开源价值与企业实践。
一句话复刻谷歌！我用智谱新开源的GLM-4.5，把Agent开发打回了简单模式。
智谱AI深夜发布开源的新一代旗舰模型GLM - 4.5，目标成为最强Agent基座。它能一句话复刻搜索引擎，多能力原生融合，在多项测试中表现出色，推理快、价格低，还通过多关压力测试，且开源成本低。