搜索：高稀疏度MoE结构

「高稀疏度MoE结构」共找到 712 篇相关文章

6.1B激活，三榜开源第一！蚂蚁·安诊儿医疗大模型发布

由浙江省卫生健康信息中心等联合研发的开源医疗语言模型AntAngelMed发布。它基于Ling - flash - 2.0，100B总参数仅激活6.1B达约40B密集模型性能，在多个权威医疗基准测评中居前列，采用三阶段训练流程，高效MoE架构。

本文围绕RAG技术展开，指出传统RAG在多跳推理等方面存在局限。介绍了GraphRAG、HippoRAG 2的优缺点，重点阐述Zleap AI的SAG方案，它用超边结构重构数据底座，在多跳问答测试中表现出色，还能在大规模数据下低延迟落地。

智谱AI上市后发布新成果，开源轻量级大语言模型GLM-4.7-Flash，API免费开放调用。该模型是30B总参数、3B激活参数的MoE架构，定位为“本地编程与智能体助手”，评测表现佳，采用MLA架构，多平台支持。

Neo4j CEO Emil Eifrem 在播客中表示，AI 缺的不是更多上下文，而是上下文关系。图数据库能提供带结构的上下文，解决向量搜索难以解释的问题。GraphRAG 结合向量搜索与图遍历，可提高准确率。此外，还介绍了图数据库在多领域的应用及相关工具。

文章分享《LLM/Agent-as-Data-Analyst: A Survey》，上交大、清华、微软等将「LLM/Agent 当数据分析师」技术拆成 5 大设计维度与 4 类数据模态，给出 100+ 代表性方法等，还介绍不同数据类型的分析技术。

多模态AI与文档解析兴起，传统OCR解析复杂文档常出错。字节跳动开源多模态模型Dolphin，通过两阶段机制精准解析，有多种功能，安装使用友好，适用于多场景，降低了复杂文档解析门槛。

大语言模型在知识密集型任务中存在局限，GraphRAG 也有迁移难题。G - Reasoner 提出统一框架，含 QuadGraph、GFM、LLM 增强推理模块，在性能、泛化、效率上全面领先现有方法。

Google开源Workspace CLI项目，把全套办公工具装进命令行。它动态构建命令结构，输出为结构化JSON。内置超100个Agent Skills，支持多MCP客户端，认证灵活，还集成Gemini CLI扩展。

路透社称Meta酝酿大规模裁员，或超1.6万人。《华尔街日报》报道扎克伯格正打造“CEO Agent”辅助工作。Meta内部AI工具普及，与员工绩效挂钩，但效率提升也带来裁员压力，因AI投入巨大。

南大团队研究LLM在多操作数加法中的内部表征结构，发现算术状态呈高度结构化几何流形。提出等本位和轨迹与噪声量化模型，解释模型算错加法原因，还设计推理时纠错方法。