「上下文扩容」共找到 670 篇相关文章
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
当AI应用都在「撒钱」时，谁来扛住千亿交互背后的算力大考？
春节将至，AI应用竞争激烈，各大厂商纷纷「撒钱」。行业预测除夕当晚主流AI应用交互量或破千亿次，考验底层算力。Remy爆火时，共绩科技助其扛住流量冲击，其弹性算力调度优势明显，适合春节流量洪峰。
小米、OPPO押注！功率半导体“小巨人”二度冲刺IPO
江苏长晶科技股份有限公司于2025年1月15日重启上市计划，这是其第二次冲击资本市场。该公司产业背景深厚，有小米、OPPO等产业资本入股，技术获官方认可，“Fabless+IDM”模式具供应链韧性。
炫酷全能，一个窗口搞定所有，狂揽 1.5w 星！
Wave Terminal是开源跨平台终端应用，将命令行与图形化工具集成，操作在自由拖拽布局界面完成，减少上下文切换。有灵活布局、强大编辑器等特性，安装简单，创造全新高效工作流。
谷歌预览Code Wiki：你能信任AI来记录你的代码库吗？
谷歌预览Code Wiki，为代码库生成并更新文档，预览版含数百开源项目文档，Gemini CLI扩展将支持内部代码库。它有聊天界面，但AI生成文档缺乏权威性，开发人员看法不一，且非真正维基。
被DeepSeek带火的OCR，最新8个开源模型盘点~
DeepSeek-OCR发布让OCR大热，PaperAgent梳理盘点8个热门开源OCR模型，如DeepSeek-OCR用‘上下文光学压缩’技术，Nanonets-OCR2-3B以零样本视觉链式思维为核心等。
重构开发体验：CodeFuse 智能代码助手的设计与实践
蚂蚁集团技术专家牛俊龙在 QCon 大会分享 CodeFuse 智能代码助手架构设计与实践，介绍本地核心服务设计策略，结合案例优化其 AI 能力，还分享落地经验、教训与未来发展路径。
告别「面瘫」配音，InfiniteTalk开启从口型同步到全身表达新范式
传统video dubbing技术有局限，新兴模型也有问题。美团视觉智能部研发的InfiniteTalk引入‘稀疏帧video dubbing’，实现口型、表情、肢体与音频自然对齐，解决长视频生成难题，技术已开源。
DeepSeek 复盘：128 天后，为什么用户流量一直在下跌？
文章深入分析DeepSeek和Anthropic策略，揭示行业计算资源稀缺难题。指出AI服务定价是延迟、吞吐量、上下文窗口三个指标的权衡，DeepSeek牺牲体验换研发，Anthropic提升‘智能密度’优化资源。
谷歌神秘模型Kingfall泄漏！
近日，谷歌AI模型Kingfall在AI Studio平台短暂开放后意外曝光。它具备多模态处理能力，上下文窗口6.5万个token，有两种模式。生成SVG矢量图能力超Claude 4，身份猜测不断。