「Token压缩技术」共找到 3638 篇相关文章
内存股集体大跌，原因竟是谷歌这篇一年前的论文
美国内存股集体暴跌，诱因是谷歌新博客介绍一年前公布的技术 TurboQuant。它是压缩算法，可大幅减少 LLM KV 缓存内存占用、提升速度且精度零损失，有望打乱市场对内存芯片增长预期。
BigBang-Proton: 自回归基座模型统一语言、科学和物质世界
超对称公司发布新版基座模型 BigBang - Proton，实现多学科问题与 LLM 统一预训练和推理，挑战主流 AGI 技术路线。它有三项创新，在多专业学科任务表现出色，还提出宇宙尺度压缩构想。
Meta最新REFRAG框架引爆RAG圈！KV缓存暴降90%，速度狂飙30×
Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示，它降低KV缓存、加速TTFT，在多任务表现佳，为大模型与知识库结合提供新范式。
信息量极大！黄仁勋最新论断：AGI已实现，OpenClaw是AI界iPhone，未来将有10亿程序员
黄仁勋与Lex Fridman深度对谈，分享英伟达发展历程、管理方式、技术趋势等见解。他认为AGI已实现，OpenClaw是Token时代的iPhone，未来将有10亿程序员。还探讨了算力瓶颈、供应链、电力等问题。
训练提速5倍，响应缩短50%：动态自感知能力，重塑高效LLM Reasoning范式
大型语言模型“思维链”技术有冗余，传统优化方案存在静态先验与动态能力错配问题。论文提出的DR.SAF框架赋予模型动态自感知能力，通过三模块协作，实现推理“精准瘦身”，解决根本冲突。
Karpathy 亲手终结了RAG的草莽时代
Andrej Karpathy分享“LLM Wiki”工作流，将多数Token用于构建“可演化知识库”。此方法不依赖复杂架构，在中等规模数据集上展现出强大能力，引发“LLM Wiki杀死RAG”的讨论，在技术社区和企业级市场反响热烈。
自回归科学基座模型 BigBang-Proton，提出实现 AGI 的新路线
超对称公司发布自回归科学基座模型 BigBang - Proton，挑战主流 AGI 技术路线。它实现多学科问题与 LLM 统一预训练和推理，有三项创新，在多专业任务表现出色，还提出宇宙尺度压缩构想。
Anthropic 发布 AI Agent 上下文工程指南
今年6月Andrej Karpathy提出用「上下文工程」取代「提示词工程」。Anthropic发布工程博客呼应此观点，指出构建AI应用重心转向策划上下文。文章详述上下文工程重要性、有效上下文剖析、检索及长时任务应对技术等。
10% KV Cache实现无损数学推理！这个开源方法解决推理大模型「记忆过载」难题
推理大模型推理时易现冗余问题，R-KV开源方法登场，显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余，还经多步骤压缩KV缓存，性能测试表现出色，适用多场景。
DeepSeek重磅开源3B OCR模型，一天处理20万页文档！一天内斩获6K标星！
DeepSeek开源3B OCR模型DeepSeek - OCR，参数量仅30亿，单张A100 - 40G一天能处理20万页文档，不到24小时获6K标星。它是视觉压缩引擎，解决大模型处理长文本算力爆炸问题，有诸多技术亮点。