「token压缩」共找到 811 篇相关文章
黄仁勋：芯片公司的时代已经结束了，现在是 AI 工厂的时代
Lex Fridman 采访黄仁勋，黄仁勋谈对 AI 行业理解，认为 AI 是工业产品，NVIDIA 像建 AI 工厂。还提及算力是智能扩展关键，计算从检索转向生成，Token 细分市场，以及公司组织、架构、开源等多方面观点。
训练提速5倍，响应缩短50%：动态自感知能力，重塑高效LLM Reasoning范式
大型语言模型“思维链”技术有冗余，传统优化方案存在静态先验与动态能力错配问题。论文提出的DR.SAF框架赋予模型动态自感知能力，通过三模块协作，实现推理“精准瘦身”，解决根本冲突。
刚刚，DeepSeek多模态技术范式公布，以视觉原语思考
DeepSeek发布多模态模型并公布技术报告，提出‘以视觉原语思考’。该模型解决多模态大模型‘指代鸿沟’问题，有把坐标变思维单元、7056倍视觉压缩、精心设计冷启动数据等创新，实验在多任务上超主流模型。
曦望，死磕AI推理成本｜甲子光年
1月27日，国产GPU厂商曦望发布新一代推理GPU芯片启望S3等。启望S3面向大模型推理定制，设计系统级重构，单位Token推理成本降约90%。曦望还推出超节点方案及推理云计划，目标是极致推理性价比。
Gemini 2.5 Pro 负责人：最强百万上下文，做好了能解锁很多应用场景
谷歌DeepMind长上下文预训练联合负责人Nikolay Savinov在播客中分享Gemini 2.5长上下文技术。他认为长上下文能革新产品交互，与RAG协同，未来千万级token上下文将成标配，但当前百万级未达完美时扩规模意义不大。
Code Arena全球可用模型第一！智谱GLM-5.2上线并开源
智谱上线并开源GLM-5.2，在Code Arena等平台表现优异，长任务跑分出色，架构有突破，支持100万token上下文，还引入控制功能。模型在常用编程智能体可用，适配国产算力平台，以MIT协议开源。
实测最新开源的DeepSeek-OCR后，我有些不一样的看法，有些话可能只有我敢说
实测最新开源的DeepSeek - OCR，它并非传统OCR，不适用于传统场景。其最大意义是解决大模型上下文长度问题，通过文字图片压缩解压提高处理速度。模型功能多样，是让AI看图思考的新思路。
花了几百万办完一场AI大会后，想跟你分享这6个感悟。
作者分享举办AI大会的6个感悟，指出AI强大时线下真实更重要。如AI可消灭信息差但压缩不了体验差，品味是活出来的，线下交流能带来偶然性等，鼓励人们去线下获得真实体验。
OpenAI重回巅峰：GPT‑5.5全球SOTA，碾压Opus 4.7
OpenAI发布GPT - 5.5，定位为‘为真实工作而生的新一代智能’。它在编码、科研、办公等多领域表现出色，能力重心转向‘自主完成任务’，在多项评估中成绩优异，还能加速生物医学研究，且Token效率大幅提升。
多模态大模型中Attention机制暗藏「骗局」，需用一个公式修正丨上大×南开
上海大学曾丹团队研究发现，主流VLM中attention受位置偏置和padding区域异常高attention影响，直接用其进行视觉token剪枝会丢失关键信息。团队用公式对attention去偏，集成到多种剪枝方法，提升了模型性能。