「关键token」共找到 1632 篇相关文章
欲取代transformer的SSA(次平方稀疏注意力)解读
文章解读了欲取代Transformer的SSA（次平方稀疏注意力）算法。它支持12M tokens上下文，比fastAttention快52倍，训练和推理更快。SSA改变了注意力扩展特性，有计算和内存线性扩展等特性，经三阶段训练可可靠利用长上下文。
Meta华人天才毕树超「叛逃」预言：OpenAI未竟交互革命，暗藏万亿赛道
Meta科学家毕树超在演讲中揭秘AI进化真突破，认为更好更快造数据是关键。他指出AI原生交互领域若有新突破，或催生万亿级公司，语音和视觉将成重要部分，还分享了AI进化时间线及面临的问题和未来图景。
杀疯了！单卡4090跑通全量微调，面壁1B级多模态性能怪兽硬刚大厂
面壁智能推出MiniCPM-V 4.6，参数约1B，性能和推理效率出色。它在多模态任务综合能力、推理速度上领先竞品，靠ViT架构改造和4倍/16倍混合视觉Token压缩实现创新，有工业验证，对开发者和普通用户意义大。
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，了解其团队在资源受限的端侧设备实现大模型高性能推理的策略。目前端侧大模型商业化落地慢，团队提前布局，自研框架，实现超180 tokens/s推理速度，还分享未来突破方向。
机器人浓度最高的一届春晚后，具身智能离走进千家万户还有多远？
InfoQ《极客有约》X QCon 直播栏目邀请专家探讨具身智能落地卡点。专家认为其虽面临模型泛化、数据采集等难题，但发展乐观。工业场景对通用性需求不大，Agent 架构或成关键，数据和物理交互等方面也有挑战。
The Batch: 885 | Claude 升级了
Anthropic更新中型模型Claude Sonnet至4.5版本，在性能上显著提升，还引入可变推理token预算。Claude Code智能编码工具也获功能增强，新增Claude Agent SDK等。测试中Claude Sonnet 4.5表现优异，Anthropic重心转向编码与职场生产力。
Tair 短期记忆架构实践：淘宝闪购 AI Agent 的秒级响应记忆系统
本文从淘宝闪购与千问合作的‘一句话点外卖’项目出发，介绍 Tair 在 AI Agent 记忆管理中的数据模型设计、压缩策略与并发控制等关键实践，展示其在低延迟、数据建模、并发安全和弹性抗压等方面的能力。
英伟达MIT出手！华人团队重磅开源，大模型推理内存暴降10倍
英伟达、MIT、浙大华人研究者联合推出TriAttention，核心是在pre - RoPE空间用Q/K三角集中度估计KV token重要性，保留关键部分。它使内存消耗降10倍，吞吐量提2.5倍，还提供vLLM集成和MLX实验性支持。
全民拜龙？我看是大厂“套壳大战”搞疯了
OpenClaw是开源AI Agent框架，引发全民热潮，中国大厂纷纷推出套壳产品。国产套壳产品上手难度低，但也存在问题。傅盛基于此养出AI团队，猎豹移动市值涨24%。不过，OpenClaw存在安全问题，背后是Token入口争夺战。
对话原力灵机范浩强：评判机器人好坏，只有一个指标
本文是对原力灵机创始人范浩强的访谈。他认为AI是一生的事业，原力灵机成立于25年3月，强调模型是主轴。还指出评判机器人好坏的关键指标是回本时间，要从真实场景找突破，也介绍了具身智能应用等内容。