「高效注意力机制」共找到 1489 篇相关文章
超越免训练剪枝：LightVLA引入可微分token剪枝，首次实现VLA模型性能和效率的双重突破
文章介绍LightVLA框架，它是用于提升VLA推理效率和性能的视觉token剪枝框架。针对VLA模型计算开销大、推理延迟高问题，提出两大创新，在LIBERO实验中性能超经典模型，还实现推理加速。
和知乎一起，推出了个 AI 先行者榜单
知乎发起AI先行者榜单评选，与作者合作。提名公开透明，来自社区征集。评选从多维度评估，综合各方评分推出首期榜单。活动非一次性，后续每季度都有，鼓励更多人参与。
社区供稿丨揭秘端到端文档OCR模型 POINTS-Reader
腾讯开源端到端文档OCR模型POINTS-Reader，论文被EMNLP 2025主会录取。它提出可扩展数据生成方案，具简洁、性能好、高吞吐量等特点，通过两阶段训练方案解决依赖蒸馏数据问题，在多基准测试表现佳。
DeepSeek新模型意外曝光：AI Agent才是未来~
据彭博社消息，中国AI新星DeepSeek计划年底发布对标OpenAI的AI Agent，能自主执行多步任务、自我学习进化。国内Kimi、Qwen也有相关动作，还分享了72多种高效AI工具。
NVIDIA技术沙龙 《大规模EP优化：PD分离MoE并行方式》课程笔记
本文是NVIDIA技术沙龙课程笔记，介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新，还对比多模型架构，展示推理服务架构性能特点与优化策略，以及各技术工作流程和效果。
简单即强大：全新生成模型「离散分布网络DDN」是如何做到原理简单，性质独特？
本文作者杨磊介绍全新生成模型离散分布网络DDN，它建模目标分布机制简洁独特，有零样本条件生成等特性。文中详述其原理、网络结构、损失函数，还展示实验效果，最后给出未来研究方向。
Manus 数月憋大招， 100 个 Agent 并发只为选双鞋？肖弘放话：第一阶段就得先做超贵的 AI！
中国人工智能初创公司 Manus 推出新功能“Wide Research”，可让用户借助多个 AI Agent 同时处理大规模任务。该功能不走“深度研究”路径，架构经优化，计算能力扩展 100 倍，但效果待察。Manus 撤出中国市场，欲借此求差异。
“掩码即武器”，四款扩散LLM全部破防 ？ 上交&上海AI Lab发现dllm致命安全缺陷
上海交通大学、上海人工智能实验室等团队研究指出，扩散语言模型（dLLMs）有根本性架构安全缺陷。他们提出DIJA攻击框架，能让多个dLLMs大概率生成有害内容，还呼吁从多方面加强dLLM安全。
B站发布最强零样本TTS，IndexTTS2情感可控、时长精准
在大规模TTS系统中，自回归模型难精准控制语音时长。Bilibili推出IndexTTS2，支持两种生成模式，实现情感表达与音色解耦，引入GPT潜在表示，设计‘软指令’机制，降低情绪控制门槛。
Stream-Omni：同时支持各种模态组合交互的文本-视觉-语音多模态大模型
中国科学院计算技术研究所团队提出文本-视觉-语音多模态大模型Stream-Omni，能支持多种模态组合交互。它对各模态关系针对性建模，实现高效灵活的模态对齐，仅用少量语音数据就有多种交互能力。