「缓存控制」共找到 579 篇相关文章
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
20岁拿下博士、答辩席坐着费曼的狂人：AI是第一种「外星智能」
Stephen Wolfram是Mathematica等的创造者，他认为AI是巨大不可约机器，有计算不可约性，是“外星智能”。Hugging Face被GPT - 5.6 Sol入侵印证其观点，他还提出新控制方式。
MiniMax Agent 接管桌面：动动嘴，电脑就把活干完了 | 10+个技巧分享
介绍 MiniMax Agent 桌面端，它是 Web 端进化版，能控制浏览器、处理本地文件。文中分享了其使用技巧，如环境配置、文件管理、垃圾清理等，还提及多种实战场景及玩法，凸显其主动性优势。
英伟达开源上瘾了！推出了一款实时语音智能体的终极 ASR：24ms 极速锁定。
英伟达开源了Nemotron Speech ASR模型，它是低延迟、实时流式语音识别模型，单句转录锁定仅需24毫秒。其核心能力包括缓存感知、运行效率高、动态运行灵活，还被放进完整语音智能体方案。
刚刚，字节开源Seed-OSS-36B模型，512k上下文
深夜，字节跳动Seed团队开源Seed-OSS系列模型，含三个版本。其用12万亿tokens训练，在多基准测试表现出色。有灵活推理预算控制等特性，原生支持512K上下文窗口，基准测试成绩佳。
推理与操控能力双提升！具身机器人双系统VLA模型新突破
香港中文大学等联合提出Fast - in - Slow（FiS - VLA）统一双系统VLA模型，实现快慢系统融合。在真机和仿真测试中，成功率和控制频率提升显著，泛化能力强。未来计划探索动态调参机制。
OpenAI谷歌Anthropic罕见联手发研究！Ilya/Hinton/Bengio带头支持，共推CoT监测方案
OpenAI、谷歌DeepMind、Anthropic联合发表立场文件，提出CoT监测概念，认为是控制AI Agent核心方法。探讨其潜在机遇、局限，还提及不同公司对CoT监测的不同态度，如OpenAI乐观，Anthropic焦虑。
AI智能体的上下文工程：Manus的构建心得
季逸超在文章中分享了 Manus 构建 AI 智能代理的心得，包括围绕 KV 缓存设计、使用掩码管理工具、将文件系统作上下文等内容，还指出要保留错误信息、避免小样本带偏等。
CapCut Mate：开源剪映自动化神器，让AI替你剪视频！
CapCut Mate是开源免费的剪映草稿自动化助手，让开发者通过API控制剪映核心功能，效率提升超100倍。它功能丰富，覆盖剪辑全流程，适用于多场景，还提供三种使用方式。
谷歌公开全新极限压缩算法：LLM提速8倍、内存占用狂降6倍，精度零损失
谷歌推出全新量化算法 TurboQuant，瞄准大模型键值缓存吃内存、高维向量搜索算力瓶颈痛点，能砍内存、提速度且精度零损失。分 PolarQuant 和 QJL 两步，实验数据表现优异，将改变搜索格局。