「Token压缩技术」共找到 3511 篇相关文章
开源AI引爆热潮！GOSIM AI Paris 2025首日直击：80+位技术大咖聊模型、拼算力、秀落地
5月6日，GOSIM AI Paris 2025大会在法国巴黎启幕，80余位技术专家与学者参会。GOSIM联合创始人认为开源AI已追上闭源，AGI或由多模型组成网络。大会设四大分论坛解析开源AI，还有特色单元，明日将迎PyTorch Day。
堆推理链全错了！林俊旸离职首曝：曾在阿里 Qwen 踩中一个“致命”技术误区
阿里千问技术负责人林俊旸离职后发声，复盘 Qwen 训练尝试，指出合并 thinking 和 Instruct 模式不理想。他认为大模型未来应从‘推理思维’走向‘智能体思维’，并阐述了智能体思维的特点和挑战。
王兴兴亲测后点赞！这家AI公司提前半年把“龙虾”能力带上车，还管住了Token黑洞
宇树科技王兴兴体验宝马新世代 i3 智能座舱后称赞，其核心技术来自斑马智能“元神 AI”。斑马智能发布“元神 AI 汽车机器人大脑”等，对“元神 AI”升级，明确交流和办事方向，还管控 Token 等挑战。
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
LLM-based Agent的代码生成综述
这篇2025年的综述指出，传统代码生成技术难完成复杂开发任务，而基于大语言模型（LLM）的代码生成代理应运而生。它把LLM作为“大脑”，具备自主规划等能力。文章梳理了该领域的核心特征、技术体系、应用实践等，也剖析了挑战与未来方向。
AI Coding 生死局：Spec 正在蚕食人类编码，Agent 造轮子拖垮效率，Token成本失控后上下文工程成胜负手
本文为《2025 年度盘点与趋势洞察》系列之一，聚焦 AI Coding 在程序员群体的演进与落地。探讨了 Spec 驱动开发、Agent 崛起、Token 成本等问题，指出上下文工程是 AI Coding 成败关键。
数字技术工人已到岗！时序大模型+Agent已掌握了工厂生产管控技术，比人类更懂工况
基于时序大模型和Agent的数字技术工人，能承担生产操作等关键任务，接手复杂工业环节。国内AI团队打造的河谷平台构建智能体，自研底层技术，以工艺维度训练，上岗快，极峰科技还创新商业模式。
黄仁勋 GTC 2026 演讲实录：所有SaaS公司都将消失；Token成本全球最低；“龙虾”创造了历史；Feynman 架构已在路上
北京时间2026年3月17日，英伟达CEO黄仁勋在GTC演讲，展示AI“全家桶”。他回溯CUDA 20年，介绍数据处理新软件库，还提及AI原生企业爆发、Token成本优势、Vera Rubin平台等，强调英伟达在AI领域的全面布局。
NeurIPS 2025 | 中科大、港中深、通义千问联合发布CoRT：仅30个样本教会大模型高效推理，token消耗降低50%
大型推理模型在精确数学计算上存在问题，如认知冲突、行为低效、数据稀缺。中科大、港中深、通义千问联合推出CoRT框架，用创新数据合成与多阶段训练，提升模型推理能力和效率，成果已开源。
裁4000人换来的AI全白搞？Salesforce悄悄改架构：用 “老技术”故障少还省钱，网友怒喊：CEO零遣散费滚蛋
Salesforce曾大举部署AI并裁员，宣称Agentforce能降本。但如今高管称不过度依赖大模型时运行更好，已引入基础自动化技术。其应用遇瓶颈，故障频发、成本高，还面临AI“漂移”等问题。