「高稀疏度MoE结构」共找到 735 篇相关文章
OpenAI 迈出关键一步：LLM 黑盒不再是盲盒
OpenAI开源新研究成果，提出全新范式，训练权重稀疏的Transformer模型以提取人类可理解的电路。该方法分三步，关键结果显示稀疏模型优势多，但也存在训练成本高、规模有限等局限，还给出两条未来路线。
EMNLP 2025 Oral｜检索增强 + 两阶段微调：剑桥提出有害内容检测大模型RA-HMD，性能SOTA
多模态有害信息检测是网络内容安全治理的重难点，多模态模型在有害内容检测上有瓶颈。剑桥大学团队提出RA - HMD框架，通过两阶段微调与结构增强，结合检索增强，提升检测性能，被EMNLP 2025接收。
苹果掀桌！扔掉AlphaFold核心模块，开启蛋白折叠「生成式AI」时代
蛋白质折叠是计算生物学核心难题，SimpleFold作为首个仅基于通用Transformer模块的蛋白折叠模型，摒弃AlphaFold2系列传统架构，能将蛋白序列生成三维原子结构，在多基准测试表现强劲，还可生成结构集合。
DeepSeek-GRPO重要性权重设计错误？详解Qwen3新强化学习算法GSPO
论文指出GRPO在大语言模型训练中不稳定，因其重要性权重设计错误易引入高方差噪声。为此提出GSPO算法，从序列维度计算梯度，解决了MoE模型RL训练的稳定性问题，在Qwen3上效率更高。
AI大模型浪潮下的认知重构：从一个数据老兵的转型思考
作者作为数据老兵，分享接触 ChatGPT 后的转型思考。指出 AI 使编程、数据分析师岗位巨变，填鸭式教育不再适用。强调认知结构是护城河，还探讨了 ETL、数据建模及 AI 原生产品变化。
中国19岁常青藤少年重塑AI记忆，斩获各大榜单全球第一，点亮AI联想科技树
M-Flow记忆引擎引发海外开发者社区热议，GitHub star破千，在三大公开benchmark评测中夺冠。它由19岁团队心流元素开发，采用Cone Graph分层结构，实现Graph RAG新范式，更注重联想，而非单纯搜索。
1篇长文 = N张小红书爆款图？！Gemini 2.5 Pro 这效率，我跪了！
作者作为小红书小号主，苦于长文转图难，用Gemini 2.5 Pro Preview 05 - 06实现了一键转换。文章分享提示词结构、使用方法、修改方式，还介绍用AI调风格，指出系统有生成不稳定和下载问题。
人类秒懂，AI崩溃：一个简单测试，就让GPT-5、Gemini等顶级模型集体“翻车”
来自多机构研究团队发现，OpenAI的GPT-5等顶级AI模型，面对‘看得见但读不懂’文字时表现极差。VYU团队实验显示，人类能轻松读懂的切分拼接文字，AI却全军覆没，原因是其靠模式匹配，不懂文字结构。
NTU等联合提出A-MemGuard：为AI记忆上锁，投毒攻击成功率暴降95%
在AI智能体依赖记忆系统的当下，记忆投毒攻击兴起。A-MemGuard作为首个为LLM Agent记忆模块设计的防御框架，通过共识验证和双重记忆结构，解决防御难题，使投毒攻击成功率暴降超95%。
条条电路通罗马：大模型可解释性的「唯一机制」可能从一开始就不存在
长期以来，机制可解释性领域默认模型对同一任务的能力对应唯一内部「电路」。但被ICML 2026接收的新论文指出，「唯一电路」可能不存在，同一任务可由多个结构不同但能力相当的电路完成。