「上下文压缩」共找到 817 篇相关文章
当大家都在“养龙虾”时,阿里把生态里最大的龙虾递到了千问手里
2026年1月千问App上线点外卖、订酒店机票等服务,起初有局限,后体验改善。千问又上线“一句话打车”,接入阿里丰富生活服务生态,有望成“任务操作系统”,推动软件交互变革。
超越MLA!新架构MLRA百万token,解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时,自回归生成受限于显存带宽。为减少KV缓存开销,业界尝试多种方法,但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA,拆分KV缓存为四个并行分支,降低显存占用,实现4路张量并行,性能更优。
2026 编程巨变:Anthropic 报告揭示 Agent 编程八大趋势
Anthropic发布《2026 Agent编程趋势报告》,预测写代码将从‘人写’变为‘人指挥AI Agent写’。报告梳理八大趋势,分基础、能力、影响三类,还给出2026年需关注的领域,指出AI改变开发者工作内容。
炫酷全能,一个窗口搞定所有,狂揽 1.5w 星!
Wave Terminal是开源跨平台终端应用,将命令行与图形化工具集成,操作在自由拖拽布局界面完成,减少上下文切换。有灵活布局、强大编辑器等特性,安装简单,创造全新高效工作流。
谷歌预览Code Wiki:你能信任AI来记录你的代码库吗?
谷歌预览Code Wiki,为代码库生成并更新文档,预览版含数百开源项目文档,Gemini CLI扩展将支持内部代码库。它有聊天界面,但AI生成文档缺乏权威性,开发人员看法不一,且非真正维基。
这个框架让大模型省下50%内存,合并专家不如直接删掉?
Cerebras Research提出REAP框架,通过专家剪枝和合并技术压缩SMoE模型,能让模型‘瘦身’并保持性能,可省50%内存,但社区测试有不同结果,且存在调度开销等问题。
与DeepSeek-OCR不谋而合,NeurIPS论文提出让LLM像人一样读长文本
NeurIPS 2025 论文提出 VIST 框架,为大语言模型长文本推理提供视觉方案,与 DeepSeek - OCR 理念不谋而合。它模仿人类阅读,有快 - 慢路径协作,在多任务表现优,还让模型‘用眼看文字’,优势明显。
Glyph:文本转图片解决长上下文困境,智谱把“DeepSeek-OCR”具像化了
传统 token 扩展方式遇算力成本天花板,DeepSeek 与智谱都想到让 AI“看”文字思路。智谱发布 Glyph 框架工程化实现此思路,将文本转图片处理,降低计算成本,有不错效果但也存在排版敏感等限制。
重构开发体验:CodeFuse 智能代码助手的设计与实践
蚂蚁集团技术专家牛俊龙在 QCon 大会分享 CodeFuse 智能代码助手架构设计与实践,介绍本地核心服务设计策略,结合案例优化其 AI 能力,还分享落地经验、教训与未来发展路径。
告别「面瘫」配音,InfiniteTalk开启从口型同步到全身表达新范式
传统video dubbing技术有局限,新兴模型也有问题。美团视觉智能部研发的InfiniteTalk引入‘稀疏帧video dubbing’,实现口型、表情、肢体与音频自然对齐,解决长视频生成难题,技术已开源。