「Token压缩技术」共找到 3628 篇相关文章
SGLang 的 DeepSeek-V4.1 Flash Day 0 优化实录：4×B300 上 BS=1 达到 764 tokens/s
本文是SGLang团队的DeepSeek-V4.1 Flash Day 0优化实录，详解了架构适配、KV cache压缩、kernel优化到DSpark适配全流程，公开4×B300 GPU实测吞吐数据，附复现代码与步骤
误入人均10个顶级offer的技术天团活动，顶尖AI人才的选择逻辑我悟了
作者参加京东TGT计划活动，与两位入职京东的顶尖AI人才交流。Daniel因京东重视生成式推荐项目、技术氛围纯粹而选择它；Kyrie则被创业热情、技术理想共鸣及数据优势吸引。入职后两人都获核心项目机会。
大模型开发实战从入门到入坑：动手写一个MCP Server去理解MCP背后的技术原理
文章聚焦MCP协议，介绍其是规范应用向大模型提供上下文的开放协议，能让模型调用接口更简单、实现开发解耦。还深度解析技术原理，手把手教从0到1实现MCP Server，助读者理解背后技术。
ACL2025 | 抓出0.1%的捣乱分子压缩方法OTT：近乎无损 超越KIVI，内存减6.4倍 吞吐量提2.3倍
LLM生成文本时KV Cache内存占用高，限制模型批量处理能力。论文提出OTT方法，动态追踪异常令牌单独高精度保存，其余压缩。实验显示，它准确性高、效率好，不过在极短文本等场景有局限。
DeepSeek-OCR是「长文本理解」未来方向吗？中科院新基准给出答案
DeepSeek-OCR的视觉文本压缩技术降低长文本处理成本，中科院自动化所等团队推出VTCBench基准测试评估模型视觉认知，含三大任务及衍生版本，测试结果有‘U型曲线’，还评测多种尖端模型。
内存减6倍、精度0损失，推理提速8倍！谷歌新技术震撼了AI圈
Google Research团队推出TurboQuant技术，能将KV缓存6倍压缩、无精度损失，推理速度提升8倍，解决内存瓶颈问题，为大语言模型应用扫清障碍，引发业界关注，还致存储芯片巨头股价大跌。
TACO: 让 CLI Agent 在自主迭代中学会丢掉无用上下文
由多校及研究团队联合提出 TACO，这是无需训练、即插即用的终端智能体自进化观测压缩框架。它能让智能体学习压缩规则，过滤低价值输出，保留关键线索，实验显示其提升了任务成功率和 token 效率。
Token 新译名：「智元」
文章讨论Token新译名「智元」，认为其比「词元」更合适。介绍英伟达GTC 2026上黄仁勋强调AI推理时代智元重要性，OpenClaw消耗大量智元引争议，还提及黄仁勋闭门会观点及多位大佬对「智元」译名的认可。
传感器技术如何赋能汽车？
本文指出全球汽车产业变革中，传感器作用关键。介绍了汽车传感器分类、技术体系、发展水平、创新趋势，分析市场规模、竞争格局等，还展望未来，为我国企业发展提供方向。
传感器技术如何赋能船舶？
本文介绍船舶传感器技术，其是衡量船舶工业竞争力的关键。阐述了传感器在船舶各系统的应用、分类、工作原理、安装场景，指出我国产业在规模扩大同时存在短板，还探讨了未来升级方向、应用拓展及产业创新路径。