「上下文压缩」共找到 817 篇相关文章
Agent 2.0时代来了，首批「工业级智能体」正在核心位置上岗
近日科技圈感叹AI工具提升效率，谷歌工程师分享使用智能体经历。1月7日阿里云百炼全面升级，开启智能体‘工业化流水线’时代，解决技术落地问题，发布企业版，推动人机协同时代到来。
12月，我们推荐这 7 款 AI 新品
极客公园创新大会为7款AI新品策划线下发布会。包括笔记产品flomo、AI相机Doka等，各产品创始人分享理念，如flomo不做AI润色，Doka让AI仅作拍照辅助等。
以孔子命名，超越Claude 4.5 Opus，Meta发布工业级自我进化AI软件工程师CCA
Meta与哈佛联合推出工业级软件工程师CCA，它是一套让AI在工业级代码库协作的方法论，解决长上下文推理等难题。其三维解耦设计、精细记忆机制、自我进化能力获数据验证，还适合引入强化学习。
DeepSeekV3.2技术报告还是老外看得细
ChatGPT三岁生日时，DeepSeek两款开源模型DeepSeek-V3.2和DeepSeek-V3.2-Speciale引发热议。它们在智能体评测中表现出色，缩小了开源与闭源模型差距，还降低了成本，给硅谷闭源AI公司带来压力。
Kimi开源新线性注意力架构，首次超越全注意力模型，推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。
节前重磅：开源旗舰模型新SOTA，智谱GLM-4.6问世
国庆前智谱AI发布新一代旗舰模型GLM-4.6并将开源，它在多方面提升，如编码、上下文长度等，评测性能佳，token消耗降低。经实测，其代码、研究、开发等能力强，成全球开源AI领域重要力量。
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。
OpenAI 开源模型泄露：六大技术细节
OpenAI 可能发布的开源大模型细节泄露，包含两款模型，1200 亿参数 MoE 模型和 200 亿参数稠密模型，专注文本处理。还涉及训练技术、激活函数、上下文窗口、注意力机制及底层架构等方面的技术细节。
GLM4.5实测：审美不如R1，全栈还不大可用，别急冲
7月29日智谱开源GLM - 4.5。作者实测发现其在UI设计审美不如R1，生成卡片表现不一，Coding能力勉强及格，全栈代码生成未达可用阈值，存在无多模态能力、上下文窗口短等问题，目前还别急着冲。
程序员的提示工程实战手册
文章围绕程序员如何利用提示工程让AI编程助手成为可靠开发伙伴展开。介绍给AI代码助手的提示词技巧、高效代码提示原则，还阐述调试、重构、实现新功能的提示模式，指出常见反模式及应对方法。