「高效注意力机制」共找到 1489 篇相关文章
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
如何选择最佳多模态大模型压缩方案？哈工大、度小满开源EFFIVLM-BENCH基准测试框架
金融科技智能化转型中，LVLM部署受算力瓶颈制约。哈工大与度小满联合开源EFFIVLM - BENCH基准测试框架，能为多模态大模型压缩方案出具‘体检报告’，还揭示LVLM加速复杂性，推动技术发展。
视频扩散模型新突破！清华腾讯联合实现高保真3D生成，告别多视图依赖
清华大学联合腾讯提出Scene Splatter，基于视频扩散模型，从动量视角引导其生成满足三维一致性的视频片段，提升三维场景生成效果，解决了传统方法在单张图片重建三维场景的难题。
10%训练数据超越100%表现，机器人学习领域迎来重要突破
密歇根大学和瑞典皇家理工学院团队提出 ViSA - Flow 框架，能从人类视频提取语义动作流，提升机器人数据稀缺时学习效率。在 CALVIN 测试中，用 10% 训练数据超越 100% 数据方法，有技术优势也存在局限。
浅析 rust 大明星 Tokio
本文剖析热门Rust库Tokio，介绍其优势与适用场景，从Rust异步着手，分析架构、调度生命周期，还对比Nginx，探讨绑核方法与未来方向，如支持IO Uring、扩展协议栈等。
用大模型检测工业品异常，复旦腾讯优图新算法入选CVPR 2025
AI模型用于工业异常检测获新SOTA，相关论文中稿CVPR 2025。复旦大学、腾讯优图实验室等机构研究人员设计基于扩散模型的少样本异常图像生成新模型DualAnoDiff，实验显示其性能更优。
快速理解热门LLM大语言模型
本文用通俗易懂方式帮读者理解LLM、Transformer、Prompt等基本概念，介绍大模型API使用，如温度参数、角色设定等，还提及Function Calling、Agent、MCP等内容，并对AI未来发展作出假想。
本周推荐的5个超级6的Github开源项目！
本周推荐5个超棒的Github开源项目，有基于Nginx的可视化管理面板、全能型浏览器自动化框架、容器命令行版“任务管理器”、命令行知识管理工具，还有GitHub汉化浏览器插件，各有强大功能和特色。
模型宣称的“百万字处理能力”是真本事，还是营销噱头？LongCodeBench揭露真相
近年来大模型号称有百万字处理能力，但这是真本事还是噱头存疑。论文用LongCodeBench测评工具揭开长上下文模型真实表现，测试顶尖模型发现长文本能力‘翻车’，还分析了长上下文难的原因及面临的瓶颈。
openJiuwen协同昇腾打造智能体「算力亲和」技术，首token时延砍半，推理存储占用下降25%
传统推理引擎难以理解 Agent 任务状态，导致推理时延久、显存占用高等问题。openJiuwen 协同昇腾打造智能体「算力亲和」技术，建立语义协同机制，优化 KV Cache 管理，提升 Agent 系统运行效率。