「低token高压缩」共找到 1791 篇相关文章
挑战 1 比特！ETH Zürich 秦浩桐：如何把大模型「塞进」小设备？| IJCAI 2026
IJCAI 2026大会上，秦浩桐给出创新解法，挑战无需重训的“后训练量化”极限，将庞大的LLM强行压缩至极端的1比特与2比特。其团队的BiLLM与SqueezeLLM打破了后训练量化魔咒，还指出极低比特量化的三大挑战。
全民拜龙？我看是大厂“套壳大战”搞疯了
OpenClaw是开源AI Agent框架，引发全民热潮，中国大厂纷纷推出套壳产品。国产套壳产品上手难度低，但也存在问题。傅盛基于此养出AI团队，猎豹移动市值涨24%。不过，OpenClaw存在安全问题，背后是Token入口争夺战。
字节Seed实习生曝DeepSeek-V4技术缺陷：长文本检索陷入“周期性盲区”
字节Seed团队联合多校研究，发现DeepSeek-V4的分块KV缓存压缩架构存在长文本检索周期性盲区，不同Token位置检索准确率落差最高超40个百分点，揭露了传统长文本评测的盲区，DeepSeek已在V4.1改善但未完全消除缺陷。
突发！Fable 5.1遭黑客破解，27万字提示词泄露
Fable 5.1和Mythos 5.1发布，Fable 5.1推理成本低32%。但发布几小时后被破解，27万字提示词泄露，曝光了其安全限制、隐私保护等秘密。它工具增加，还破解密码、能完成多种任务，不过也有用户抱怨耗token等问题。
字节 Seed 团队发现了 DeepSeek-V4 的一种周期性弱点
本文解读字节Seed团队的研究发现，解释了DeepSeek-V4模型因分块KV Cache压缩存在周期性性能波动，并给出普通用户可直接使用的应对技巧。
AI 会取代你的工作吗？Anthropic 用 200 万对话告诉你答案
Anthropic发布Economic Index第四期报告，分析200万次Claude对话，提出“经济原语”框架。发现AI对高学历任务加速效果更好但成功率低，还揭示Claude.ai与API差异，引入“有效AI覆盖率”等。
MongoBleed 漏洞允许攻击者从 MongoDB 的堆内存中读取数据
MongoDB 修补 CVE - 2025 - 14847（MongoBleed）漏洞，该漏洞 CVSS 得分 8.7，可被未认证攻击者远程利用致敏感数据外泄。此漏洞由 zlib 压缩网络流量处理不当触发，影响 2017 年后版本，部分云环境和服务器有风险。
NeurIPS 2025 Spotlight | 选择性知识蒸馏精准过滤：推测解码加速器AdaSPEC来了
大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。
DeepSeek-OCR是「长文本理解」未来方向吗？中科院新基准给出答案
DeepSeek-OCR的视觉文本压缩技术降低长文本处理成本，中科院自动化所等团队推出VTCBench基准测试评估模型视觉认知，含三大任务及衍生版本，测试结果有‘U型曲线’，还评测多种尖端模型。
GPT-5.4发布，拥有原生计算机操作能力，像是给OpenClaw量身打造的模型。
OpenAI凌晨发布GPT-5.4，或是4o模型后提升最大的一次。它价格较合理，有原生计算机操作能力，支持100万token上下文，还有工具搜索功能可降47% token损耗，与OpenClaw适配性佳。