「稀疏语言模型」共找到 8018 篇相关文章
通用的dLLM开发框架，让BERT掌握扩散式对话
扩散式语言模型（DLM）因缺乏易用框架和训练成本高受限。伯克利与UIUC团队基于dLLM框架，让BERT学会对话，证明‘离散扩散 + 轻量级指令微调’可赋予BERT强生成能力，还开源全流程代码。
一手实测！不用研究小龙虾了：腾讯搬出QClaw，直连微信，零门槛
腾讯基于OpenClaw开源生态推出QClaw，主打简单、零门槛部署，可直连主流大语言模型，集成微信能远程操控电脑。还推出SkillHub技能社区，腾讯电脑管家有安全防护功能，但权限问题待解决。
Transformer创新架构SALA：上下文更长，推理更快
面壁智能发布行业首个大规模训练的稀疏 - 线性注意力混合架构 SALA 及文本模型 MiniCPM - SALA。该架构降低推理开销与显存占用，MiniCPM - SALA 在长文本处理及推理上表现出色，还发起大奖赛探索性能极限。
成本暴降88%！通义实验室、北大发布ZeroSearch，无需搜索即可激活LLM检索能力
信息检索能力对提升大语言模型推理表现至关重要，但现有方法在训练中面临文档质量不可控和搜索 API 成本高昂两大挑战。为此，通义实验室和北大提出 ZeroSearch 框架，无需真实搜索即可激活 LLM 检索能力，显著降低成本。
承认自己开源不行？转型“美国DeepSeek”后，两个谷歌研究员的AI初创公司融到20亿美元，估值暴涨15倍！
AI创业公司Reflection AI由两位前Google DeepMind研究员创立，一年完成20亿美元融资，估值达80亿美元。它从编码智能体起步，现转型为开源替代公司，主打“开源”牌，计划明年推前沿语言模型。
MIDAS：快手可灵发布实时交互式数字人生成框架
近年来交互式数字人视频生成受关注，但实时处理多模态输入有挑战。快手可灵团队提出MIDAS框架，基于LLM驱动的自回归模型，结合轻量级扩散头，实现低延迟、交互式多模态控制，还构建大规模数据集等。
TreeHop：无需LLM的高效多跳问答新范式
多跳问答（MHQA）任务有挑战，现有方法依赖LLM，计算成本高、延迟显著。TreeHop研究提出新方案，摒弃LLM，通过嵌入空间动态更新，降低延迟、减少模型参数量，还在主流数据集表现佳，适合工业应用。
Meta最新REFRAG框架引爆RAG圈！KV缓存暴降90%，速度狂飙30×
Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示，它降低KV缓存、加速TTFT，在多任务表现佳，为大模型与知识库结合提供新范式。
人多不管用！智能体团队别盲目扩张，最新综述给出三大维度
随着大语言模型驱动的多智能体系统快速发展，核心问题是有些系统规模扩大后会失稳、低效。美国、英国和澳大利亚研究人员提出三维分类框架描述大规模智能体网络，指出真正决定系统表现的是三种机制组合。
Altman 亲自坐镇发布 ChatGPT Image 2，小编实测：风格、画质、叙事感全都夯爆了
OpenAI CEO Sam Altman 亲自发布 ChatGPT Images 2.0，这是该公司迄今功能最强的图像生成模型。它有思考能力，可直出 8 张连贯图片，支持多语言、多种画幅与分辨率，能精准执行复杂指令，直接商用也没问题。