搜索：可微分联合优化

「可微分联合优化」共找到 2239 篇相关文章

对抗KV Cache压缩的脆弱性：两行代码以最坏风险控制防御底层假设崩塌

中科大团队在 ICLR 2026 论文中指出 KV Cache 压缩领域底层假设存在缺陷，主流方法基于的稳定性假设在真实场景中脆弱。团队提出防御性聚合策略，仅两行代码修改，显著提升 KV Cache 压缩性能。

Kimi团队发布技术报告Attention Residuals，用依赖输入的注意力机制取代标准深度递归，解决传统残差连接的信息稀释和隐藏状态爆炸问题。实验显示其有计算优势，下游任务表现佳。

随着生成式AI进入万亿参数时代，大语言模型面临“显存墙”挑战。上海交大与华为MindSpore团队发布技术报告《HyperOffload》，其核心技术集成于MindSpore 2.8，能提升超节点异构资源协同效率，已在多项目落地。

华为诺亚方舟实验室更新面向行业应用的算法包MindScale，融合算法创新与业务实践经验。它梳理了Agent时代技术挑战，给出技术论文与昇腾代码，应对工作流维护等难题，还提升训推效率、适配国产硬件。

英伟达CEO黄仁勋在GTC大会展示LabOS，这是全球首个融合AI与XR的协研科学家平台。它将多模态感知等技术融合，构建端到端闭环，还通过三大生物医学案例展示功能，开启人机协同科研新纪元。

OpenAI发布GPT - 5.1，含Instant和Thinking两版本，称更智能、对话更愉快，还增加“个性/语气”选项。但网友质疑“强化个性”方向，想要高效工具。业内认为拟人化是为提升用户体验和拓展应用场景。

Anthropic迎来新CTO Rahul Patil，他将负责计算、基础设施等工程任务。此时Anthropic面临与OpenAI、Meta的激烈基础设施竞争，Claude产品流行也带来压力，新CTO能否带来转变值得关注。

近期Intern - S1等多模态大模型开源，引发热烈讨论。本周四OpenMMLab等发起AI Insight多模态专场，邀请模型核心研发者分享，涵盖模型设计思路、实践经验等，还有圆桌对谈。

今年4月，OpenAI发布ChatGPT「记忆」功能并不断升级，能形成个性化档案，但也带来问题，如提及伤心事、造成社死等，背后有无意的算法残忍和上下文崩塌两类问题。

Google发布2025年6月核心算法更新，预计3周完成。此次未透露方向，暂无针对性策略。还介绍了核心算法更新概念、近期更新情况、应对方法，对比了与企鹅算法差异，此外提及百度5月和7月算法对比及MCP协议。