「Token设计」共找到 1917 篇相关文章
模型遗忘不代表记忆抹除！首次系统发现「可逆性遗忘」背后规律
研究人员发现大语言模型遗忘并非简单信息删除，可能藏于内部。他们构建表示空间诊断工具，区分可逆与不可逆遗忘，揭示真正遗忘是结构抹除。还在多种方法、数据集和模型上实证，得出系列结论。
MSRA清北推出强化预训练！取代传统自监督，14B模型媲美32B
微软亚洲研究院联合清北提出全新预训练范式RPT，将强化学习融入预训练，把预训练语料库重构为推理问题集。实验显示RPT-14B表现出色，在多方面媲美甚至超越32B模型，未来RL或在LLM预训练掀起风暴。
统一架构新思考，北大团队UniWorld-V1统一大模型
北大袁粒课题组提出统一大模型架构UniWorld-V1。通过对GPT - 4o - Image实验，发现其依赖语义编码器提取视觉特征，据此设计架构，在多基准测试表现优异，开源代码等促进研究。
图灵奖得主Bengio再创业：启动资金就筹集了3000万美元
图灵奖得主Yoshua Bengio官宣再创业，成立非营利组织LawZero构建下一代AI系统，不做Agent。已筹3000万美元启动资金，要做“设计即安全”的AI，以监督Agent，将安全性置于商业利益之上。
刚刚，DeepMind通用科学智能体AlphaEvolve突破数学极限，陶哲轩合作参与
DeepMind发布革命性进化编码智能体AlphaEvolve，由LLMs驱动，可演化代码库、发现和优化算法。它结合LLM创造力与自动化评估，减少幻觉，在多领域应用前景大，还与陶哲轩合作探索数学应用。
mem0推出王炸mcp工具OpenMemory，打造用户私有、跨应用的共享记忆层
mem0项目推出OpenMemory MCP，这是专为兼容MCP的AI客户端设计的私有记忆层，能解决跨AI工具的Context共享问题。它强调隐私和本地控制，功能实用，获用户积极反馈。
3.4K star！阿里出品对话式UI神器，轻松打造专业级聊天界面！
ChatUI 是阿里开源的对话式 UI 设计语言与 React 组件库，有智能消息流处理、无障碍访问认证等亮点。技术架构明确，与同类项目对比优势独特，还给出使用指南和实践场景。
新型开源端到端 AI 语音模型！Voila：195ms 超低延迟引领全双工对话！
Maitrix团队发布开源AI端到端语音模型Voila，以195ms超低延迟及全双工对话受关注。它功能强大，支持多语言，有多种使用方式，适用于多个场景，架构采用模块化设计。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用旋转位置编码 (RoPE) 的现代Transformer模型中，注意力机制的查询 (Q) 和键 (K) 表示存在集中极大值，而值 (V) 表示无此模式。研究通过实验揭示其与上下文知识理解的关键联系。
突发！Opus 5.1被曝本周发布，最强AI智能体恐大洗牌
消息称Anthropic本周将发布Opus 5.1，其升级聚焦单Token智能水平，强化编程、推理、AI Agent能力；OpenAI 10万亿参数模型Bel完成预训练；企业选模型‘够用就好’，Anthropic Fable 5份额低。