新闻资讯8
罗福莉剧透小米MiMo v3新架构
量子位
AI 摘要
罗福莉剧透小米MiMo v3将采用HySparse2新架构,针对Agent多轮长上下文处理痛点,大幅降低计算量与缓存占用,同时提升长信息检索精度,模型未发布,论文已公开实验数据。
阅读原文 · 量子位
罗福莉剧透小米MiMo v3架构:模型还没影,论文全说了
小米罗福莉提前剧透MiMo v3核心新架构HySparse2,该架构针对Agent多轮任务中长上下文输入处理成本高的痛点优化,相关论文已公开,模型尚未正式发布,文中披露了架构设计与实验效果数据。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
算法论文7
复旦揭示长上下文混合注意力协同机制
复旦大学邱锡鹏团队系统研究了混合模型在长上下文下的表现,提出滑窗线性注意力策略,使模型在评测中实现 16 倍免训练外推 并保持 100% 准确率。
CVer
开源动态6
小米开源桌面AI硬件HachimoDock
小米创新团队开源了一款名为 HachimoDock 的桌面 AI 硬件,硬件自制成本约 150 元,集成了电子桌宠、电脑端 Agent 语音交互及智能家居联动等功能。
量子位
开源动态7
小米开源0.8B端侧文档模型
小米开源仅 0.8B 参数的文档理解模型 Xiaomi-OCR-0,将解析、信息抽取与视觉问答融于一体,在1B以下文档解析基准中排名第一,技术已用于超级小爱识屏。
智东西
开源动态8
Kimi K3 开放权重:总参数达 2.8T
月之暗面发布 Kimi K3 技术报告并开放权重,总参数达 2.8T(激活 104B),支持 100 万 token 上下文,主攻 Agent 持续运行数小时的长任务系统改造。
机器学习算法与自然语言处理