搜索：信息瓶颈原则

「信息瓶颈原则」共找到 1342 篇相关文章

Kimi新论文太硬核了！马斯克和Karpathy相继点赞~

马斯克和Karpathy点赞Kimi新论文《Attention Residuals》。该论文由杨植麟带队、苏剑林等参与，提出注意力残差（AttnRes），解决深层网络信息稀释问题，还通过工程折中降低成本，实验效果良好。

字节跳动悄然上线AI产品「探饭」，可在抖音小程序体验。它能智能推荐美食餐厅，有AI问答、评价总结、点菜等功能，餐厅信息全，支持团购和外卖，还能比店PK。

一份OpenAI内部机密战略文档流出，揭露ChatGPT 2025年上半年核心战略，包括向「超级助手」转型，将对手分两类，还提及2025战略重点，不过最大对手信息被打码，引发网友猜测。

作者黄叔结合创始人Josh Miller复盘文，介绍Dia浏览器使用技巧，如信息检索、内容创作等，还对比Arc，指出Dia核心是Chat和Personalization，设计理念优，更适合大众，建议大家使用。

语音大模型存在‘模态代沟’致性能‘降智’，此前两波改进未根本解决。香港中文大学论文提出TextPro - SLM架构，从输入端破局，仅用约1000小时数据就实现低‘模态代沟’，对多模态模型设计有启发。

OpenAI产品负责人Miquel联合Piotr发布Context Engineering深度指南。介绍了Context Engineering概念、6种核心上下文，指出RAG只是其中一环，还讲述信息检索的多种范式及上下文组装方法。

当 AI 从聊天机器人变为 Agent 后，AI 基础设施逻辑改变。浪潮信息副总经理赵帅判断，Agent 迫使 AI 基础设施重新分工，带来新的 CPU 计算需求。企业需关注资源分配、成本控制、系统重构等问题。

宁波东方理工大学沈晓宇团队在ICLR 2026发表论文，指出当前工具检索瓶颈在于工具文档。提出对文档结构化扩展，再训练模型的方案，构建TOOL - REX等组件，实验显示显著提升检索性能。

Anthropic 开发者大会发布 Claude 4 ，含 Opus 4 和 Sonnet 4 型号，在基准测试表现出色。核心工程师预测年底软件工程智能体能力，谈 RL 及 DeepSeek，还提到模型自我意识、推理计算瓶颈等问题。

文章深度拆解 Hermes Agent 记忆系统，介绍其四层记忆系统，包括提示词记忆、SQLite 历史会话存档、智能体技能管理和用户建模。与 OpenClaw 对比，Hermes 更关注缓存效率，遵循冷热分离、缓存优先等原则。