搜索：Token压缩技术

「Token压缩技术」共找到 3513 篇相关文章

把RoPE扔掉，AI更能看懂长上下文！Transformer作者团队开源大模型预训练新方法

Transformer架构核心作者之一Llion Jones团队开源新技术DroPE，可丢弃位置嵌入扩展上下文，解决RoPE长序列处理缺陷，在多模型实验中表现卓越。该团队来自Sakana AI，此前还有相关研究成果。

文章介绍OpenClaw和Agent Studio两个AI Agent项目。OpenClaw能打通AI Agent与多消息应用，适合技术团队搭建基础设施；Agent Studio可打造个人Agent工作台，重点展示其接入企微流程，还介绍四大核心功能。

当大模型训练成本飙升、数据枯竭，推理阶段扩展Test-Time Scaling（TTS）成研究热点。论文提出四维正交分析框架，梳理主流技术路线，提炼发展路径，给出操作指南与未来思考，本周六将直播分享该综述。

昨晚谷歌发布Gemini 0605版本，官方称其回归0325版本效果。该版本在多项基准测试中领先，Elo评分提升。谷歌针对反馈改进，使Gemini 2.5 Pro回答更优，还取消日期后缀，输入输出Token价格有优势。

美国两校研究人员结合生物学与人工智能工程学，用‘神经储备池’技术控制生物混合软手臂，实现稳定追踪、自我感知和低能耗运行，还在多方面展现优势，目前研究处于仿真阶段。

今天智谱AI正式港股上市，股票代码HK2513。文章介绍其出身清华系，发布众多模型，融资顺利，虽亏损但研发投入大，商业模式围绕MaaS，未来押注技术、产品、人才，市场前景广阔。

据The Verge报道，OpenAI 30亿美元收购AI编程初创公司Windsurf交易告吹，其CEO等核心团队转投Google DeepMind。Google获部分技术非独占授权，交易呈现“反向收购”模式，凸显人才流动性重要。

OpenAI推出ChatGPT聊天历史记录记忆功能，默认关闭需手动开启，因未全面开放，技术大佬逆向工程破解机制。记忆系统分保存记忆、聊天记录等，体验反馈两极分化，有优势也有诸多bug。

琶洲实验室等团队提出潜在空间压缩注意力（LCA），入选 ACL 2026。LCA 突破传统注意力机制瓶颈，适配不同大模型，降低硬件门槛与成本，提升推理效率。论文与代码已开源。

Anthropic 发布 Claude 的 Cowork 能力后成热门，但高额费用和封闭策略让普通人却步。现推荐开源替代方案 OpenWork，它免费开源，速度快、省 Token，还引入安全隔离机制，功能丰富。