「低token高压缩」共找到 1790 篇相关文章
超10万亿Tokens的高质量数据集是怎么炼成的？专访中国电信天翼AI阮宜龙
中国电信天翼AI打造超10万亿Tokens高质量数据集，依托星辰MaaS平台构建“数据—模型—服务”闭环。其与研究院推进技术研发并落地产品，建“三全”星辰大模型体系，还在多行业展现应用价值。
推理成本太高、算力不够用？单纯堆卡没用，得靠极致的“压缩”与“调度” | AICon
大模型落地面临推理成本高、算力需求大的问题。AICon大会上，阿里云刘峥、ModelTC龚睿昊、阿里巴巴马腾、OPPO宋晓辉、清程极智汤雄超等专家将分享从压缩到调度的推理优化方案，覆盖云到边缘、多算力平台。
突破一亿Token极限：EverMind提出MSA架构，实现大模型高效端到端长时记忆
机器之心发布文章介绍，大模型长期记忆能力受限于上下文长度。《MSA: Memory Sparse Attention for Efficient End-to-End Memory Model Scaling to 100M Tokens》提出MSA架构，突破扩展性、精度和效率的不可能三角，实现100M长度的大模型长时记忆框架。
更少的token生成更好的图！香港大学联合阶跃星辰等让AI绘画真正理解了再画
香港大学、阶跃星辰等用VFMTok新方法，让图像生成模型借用顶级视觉AI的眼睛看世界，实现更快、高质量图像生成，且无需复杂引导技巧。它改变图像理解方式，将像素死记硬背转为语义理解。
晶圆级芯片和存算一体结合：中科院提出15万tokens/s晶圆级芯片方案丨ASPLOS'26
当前大模型发展对计算硬件需求增长，数据搬运成隐性开销。中科院团队成果Ouroboros实现晶圆级芯片，解决数据搬运问题，虽面临挑战，但性能与能效表现显著，验证了“存算一体+晶圆级集成”路线可行性。
杜克大学、Zoom推出LiveMCP‑101：GPT‑5表现最佳但未破60%，闭源模型Token效率对数规律引关注
杜克大学与Zoom研究者推出LiveMCP - 101，这是针对真实动态环境的MCP - enabled Agent评测基准。含101个任务，实验显示先进模型成功率低于60%，研究为提升Agent能力提供改进方向。
王兴兴亲测后点赞！这家AI公司提前半年把“龙虾”能力带上车，还管住了Token黑洞
宇树科技王兴兴体验宝马新世代 i3 智能座舱后称赞，其核心技术来自斑马智能“元神 AI”。斑马智能发布“元神 AI 汽车机器人大脑”等，对“元神 AI”升级，明确交流和办事方向，还管控 Token 等挑战。
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
每周免费送1亿Token！扎克伯格押注王牌产品Muse：AI会24小时替你赚钱，我只负责抽成
本文整理科技记者对扎克伯格的播客访谈，扎克伯格公开反对AI技术被少数机构垄断，介绍了Meta全新推出的个人AI产品Muse的产品设计、商业模式与研发思路。
AI Coding 生死局：Spec 正在蚕食人类编码，Agent 造轮子拖垮效率，Token成本失控后上下文工程成胜负手
本文为《2025 年度盘点与趋势洞察》系列之一，聚焦 AI Coding 在程序员群体的演进与落地。探讨了 Spec 驱动开发、Agent 崛起、Token 成本等问题，指出上下文工程是 AI Coding 成败关键。