搜索：信息瓶颈原理

「信息瓶颈原理」共找到 1415 篇相关文章

不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化

随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。

长期以来具身智能系统缺预测力，世界模型让智能体有了‘想象’未来的能力。中科大等机构团队综述将现有研究划分为模块化、顺序、统一三大架构集成范式，并指出未来研究方向。

在数字经济浪潮中，企业对高效信息获取与决策支持需求迫切，但现有研究系统存在不足。阿里巴巴钉钉团队提出Dingtalk - DeepResearch多智能体框架，在评测中成绩优异，已在真实企业场景部署。

智能体时代推理计算需求成瓶颈，线性注意力可降复杂度但表达有限。月之暗面开源 Kimi Linear 新架构，结合线性与全注意力，性能和硬件效率出色，引发对线性与全注意力发展方向的思考。

当前主流语言模型依赖固定词表，扩展到多语言、多脚本时面临覆盖受限、计算昂贵、鲁棒性差等问题。ICLR 2023论文提出不依赖词表的PIXEL模型，通过将文本变成图像用视觉Transformer理解，实验验证其有跨语言、抗噪声等优势。

加州大学伯克利分校等机构推出基因组语言模型GPN - Star，可将全基因组比对和物种树信息装进大模型。它克服传统GLMs短板，实现三点升级，在多基准测试表现出色，是强大的全基因组变异解读框架。

逻辑智能发布全球首个完全开源语音大模型框架LLaSO，它像“全家桶”，提供高质量数据、统一评测基准和强大基础模型。语音大模型发展遇瓶颈，LLaSO框架及参考模型LLaSO - Base有望打破僵局。

本文称「上下文工程」成 Agent 核心胜负手，它指在正确时间为 Agent 提供正确信息，超越 Prompt 和 RAG。文章归纳五大策略，如转移、压缩等，并结合 *The Bitter Lesson* 启示，探讨构建面向未来的 AI Agent。

北大王选所团队发表论文 TRKT，针对弱监督动态场景图生成任务目标检测质量瓶颈，提出时序增强关系敏感知识迁移方法，含关系敏感知识挖掘和双流融合模块，实验证明能提升场景图生成质量。

随着LLM广泛应用，其幻觉现象成AI落地关键挑战。文章分析LLM幻觉成因、优缺点，结合RAG、SFT、强化学习等技术，提出多维度优化方案，为构建可信大模型应用提供理论与实践路径。