「Token设计」共找到 1911 篇相关文章
冗长响应缩减80%，DeepSeek GRPO获得颠覆性改进，微软GFPO问世
微软研究员曝出颠覆性强化学习算法 GFPO，能削减推理多余 token 长度达 80%。它基于 DeepSeek 的 GRPO，可同时优化多响应属性，团队还提出自适应难度变体，实验显示 GFPO 在多方面表现出色。
ICML 2025 | 多智能体的ChatGPT时刻？上交MAS-GPT实现工作流一键生成
上海交通大学等机构推出 MAS - GPT，提出生成式 MAS 设计范式，可一键生成可执行的 MAS。它解决了现有 MAS 方法无适应性、成本高、泛化性低等问题，实验显示其表现出色，未来潜力大。
谷歌开源Gemma 3n：2G内存就能跑，100亿参数内最强多模态模型
本周五凌晨，谷歌正式发布、开源全新端侧多模态大模型 Gemma 3n。它有多模态设计、专为设备端优化等特性，核心是 MatFormer 架构，还采用了 PLE 技术等，在多方面实现质量提升。
华为攻克AI推理「想太多」问题！新方法让大模型推理提速60%，准确率还高了
华为提出高效推理方法S - GRPO，突破思维链「冗余思考」瓶颈。通过“串行分组 + 衰减奖励”设计，在Qwen3上有效，推理提速60%，生成答案更精确有用，在多个推理benchmark测评中表现出色。
实战指南：从零构建 MCP 架构下的 Agentic RAG 系统，无第三方MCP Server
五一期间作者用MCP架构从零实现Agentic RAG系统，分享MCP与Agentic RAG融合思考、架构设计，介绍MCP服务端和客户端实现，还做了端到端效果演示，指出架构优势及待优化处。
ICML 2025 Spotlight｜华为诺亚提出端侧大模型新架构MoLE，内存搬运代价降低1000倍
华为诺亚和北大研究人员提出端侧大模型新架构MoLE。它解决传统MoE显存开销大、传输延迟高问题，推理时将专家输入改embedding token，用查找表替代矩阵运算，实验显示性能与MoE相当，大幅降推理延迟。
Huashu-Excel正式发布！可能、也许、大概是最好用的Excel数据处理和分析skill
花叔开源Huashu - Excel，它能处理Excel或CSV，按八步流程工作，有体检、对账、质控特色。经十份真实数据压测效果好，其设计激发大模型能力、避开缺陷，几乎所有agent都能用。
明略科技吴明辉：企业级Agent的“精度陷阱”与人机协同重构之路
2025 年 12 月 19 日，明略科技创始人吴明辉在 AICon 大会分享《可信 Agent 的规模化之路》。他指出企业级 Agent 存在“精度陷阱”，建议重新设计人机分工，让 AI 执行 Task，人定义目标、校验结果、审计逻辑。
比Gemini 3记得更多，谷歌新框架将上下文记忆干到了200万！
Google在NeurlPS2025大会推出结合RNN与Transformer的全新架构Titans，能扩展到超200万个token上下文。背后涉及Titans和MIRAS两篇论文，共同推进测试时记忆概念，实验显示新架构性能出色。
跨层压缩隐藏状态同时加速TTFT和压缩KV cache!
论文 UNCOMP 被 EMNLP 2025 主会接收，提出高效推理框架，用截断矩阵熵解释 LLM 稀疏化，据此设计 UNCOMP 框架，通过压缩隐藏状态优化 KV Cache，实现计算与内存联合优化，实验效果显著。