「性能成本平衡」共找到 3329 篇相关文章
跨层压缩隐藏状态同时加速TTFT和压缩KV cache!
论文 UNCOMP 被 EMNLP 2025 主会接收，提出高效推理框架，用截断矩阵熵解释 LLM 稀疏化，据此设计 UNCOMP 框架，通过压缩隐藏状态优化 KV Cache，实现计算与内存联合优化，实验效果显著。
大小模型协同架构在金融智能投顾中的应用与挑战
本文整理自北银金科高级算法专家尹辰轩分享，介绍大小模型协同架构下的大模型投顾方案，能解决幻觉问题、优化回答深度。还提到 12 月 19 - 20 日 AICon 北京站聚焦多热门方向。
1.4K标星！微软开源了一款全能AI客服系统，一键24小时实时对话！
数字化时代传统呼叫中心问题多，成本高。微软在GitHub开源Call Center AI，基于Azure + GPT的智能语音客服系统，具多项功能，采用三层设计，适用多行业，可落地，或成企业标配。
亲历两场编程语言迁移“惨案”，谷歌大佬揭露技术选型真相：90%决策与技术无关
谷歌大佬 Steve Francia 结合自身经历，指出技术选型常受身份认同等非技术因素影响。如早期创业公司因 CTO 执意换语言错失市场，谷歌团队跟风选 Rust。还分析了背后原因及代价，并给出破局建议。
谷歌首次曝光太空AI计划：要建“AI版星链”，AGI的终极基础设施？
谷歌曝光Project Suncatcher计划，要构建太空AI计算集群。此设想是部署卫星星座建“太空数据中心”。虽面临诸多挑战，但从物理学和经济可行性看并非遥不可及，谷歌已发表相关预印本论文。
首个实例理解3D重建模型！NTU&阶越提出基于实例解耦的3D重建模型，助理场景理解
人类能自然感知3D世界的几何与语义，但AI做到“两者兼得”是挑战。NTU联合StepFun提出IGGT，将空间重建与实例级上下文理解融为一体，还构建了InsScene - 15K数据集，解决了传统方法的问题。
Windows AI助手免费进化！能操作电脑、登录网页、生成代码
Windows Copilot正式更新，Microsoft 365 Copilot中Researcher智能体新增“计算机使用”能力，能操作电脑、登录网页、生成代码等。更新已在预览版上线，还介绍了其运行机制和性能测试情况。
深度 | OpenAI携手博通自研芯片：算力终局或是垂直整合？
OpenAI与博通战略合作，2026年下半年推进研发，将部署100亿瓦定制AI芯片系统。这标志其从算力采购转向定义，是摆脱英伟达依赖的标志事件，推动AI芯片市场进入新格局。
为什么软件工程治理很重要：降低风险但不拖累速度
Sarah Wells 在哥本哈根 Goto 会议称，软件工程治理助团队决策、支持价值交付。糟糕治理会拖慢进度、增加成本。技术策略和组织技术雷达可辅助决策，还能从 DORA 能力学治理。
NVIDIA港大MIT联合推出Fast-dLLM v2：端到端吞吐量提升2.5倍
自回归大语言模型推理效率受限，Fast - dLLM v2 由 NVIDIA、港大、MIT 联合推出。它将预训练 AR 模型适配为能并行解码的 Block - dLLM，用约 1B tokens 微调，端到端吞吐量最高提升 2.5 倍，精度相当。