「高稀疏度MoE结构」共找到 735 篇相关文章
Claude Mythos核心架构开源！22岁天才一人破解，融合DeepSeek思路
22岁初创CEO Kye Gomez以第一性原理推导出Claude Mythos核心架构，开源OpenMythos项目。该架构采用循环深度Transformer，不堆参数，循环思考16次推理，结合MoE层，参数效率翻倍。
好哇，缩短了设计与代码之间的差距。
Cursor更新可视化编辑器，输入`@Browser`即可使用。可拖动页面元素改结构，用控件调样式，还能描述更改内容、测试组件状态，缩小设计与代码差距，比Claude Code更便捷。
使用 GPT-5 进行编程的六个技巧
OpenAI给出使用GPT - 5编程的6个提示技巧，如指令准确无冲突、选对推理力度、用类XML语法结构化规则等，还提供了详细提示技巧的参考链接。
华为曝光两大黑科技！打破推理延迟魔咒，大模型从此「秒回」
华为通过FusionSpec和OptiQuant两大技术创新，对MoE模型进行推理优化。FusionSpec依托昇腾特点，将投机推理框架耗时降至1ms；OptiQuant支持灵活量化，为大模型推理提供高性价比。
小米发布Qwen2.5VL升级版MiMo-VL，能力提升30%
小米发布Qwen2.5VL升级版MiMo-VL，能力提升30%。它能完成输入视觉回答问题、做几何体等任务，重点解决多模态推理、视觉理解及与人类偏好对齐问题，介绍了模型结构、训练阶段等内容。
AI不一定要“聊天”，OpenAI前研究员研发只做决策的模型，绕开文本生成，响应速度快200倍
本文报道前OpenAI研究员Diogo Almeida离职创业，推出不做文本生成、只输出结构化决策的新AI模型Jev，公开性能数据，探讨大模型应用分工新路线。
北大团队改造DeepSeek注意力，速度快四倍还不丢精度
北大张牧涵团队提出新稀疏注意力机制HISA，突破64K上下文索引瓶颈，相比DSA提速2 - 4倍，且不丢精度、即插即用。该机制分块级粗过滤和块内精挑字符两步，实测表现亮眼，也指出后续改进方向。
刚刚，Anthropic切开Claude大脑！AI自发长出类人「意识器官」
Anthropic开源「手术刀」J-Lens，读出Claude未说出口的念头。研究发现Claude自发长出类似人脑「意识」结构J-space，通过多项测试与全局工作空间理论对标，还表现出类似人脑的现象。
AI大佬教你如何中顶会：写论文也要关注「叙事」
NeurIPS投稿截止不到一月，Google DeepMind的Neel Nanda发布机器学习论文撰写指南，旨在解决论文表达晦涩问题。指南涵盖理想论文精髓、写作关键要素、结构解析、流程建议及常见问题应对策略。
江波龙在骁龙8上跑通30B模型，存储的角色变了｜甲子光年
本文报道江波龙携手高通，在2026骁龙峰会上基于第六代骁龙8超级至尊版移动平台，跑通端侧30B-MoE大模型本地推理，探讨存储行业转型AI技术周期的产业逻辑。