「高稀疏度MoE结构」共找到 738 篇相关文章
OpenAI波兰双雄：GPT不是偶然！再忆奥特曼被逐当天实况
OpenAI宫变时，Jakub Pachocki与Szymon Sidor力助奥特曼翻盘。他们高中相识，因AlphaGo加入OpenAI。ChatGPT并非偶然，是团队深耕成果。二人推动推理模型发展，强调AGI发展中对齐问题重要，要兼顾能力与安全。
3.8K星爆款！Google「langextract」可视化溯源，信息抽取神器
Google的「langextract」在GitHub获3.8K星，是信息抽取神器。它有精准源定位、可靠结构化输出等特点，支持多种LLM，适用于各领域，文章还给出实战代码示例。
Qwen3又又又发布了新模型~~~
Qwen3团队继发布`Qwen3-235B-A22B-Instruct-2507`和`wen3-235B-A22B-Thinking-2507`后，又发布`Qwen3-Coder-30B-A3B-Instruct`。该简化模型性能和效率出色，有多项关键增强功能，且是非思考模型，输出效率高。
1万tokens是检验长文本的新基准，超过后18款大模型集体失智
Chroma团队研究发现，将上下文扩展至1万tokens，18款主流大模型集体“失智”，“智商”非均匀下降，在一些节点会断崖式下跌。研究还设计四项对照实验，证明LLMs性能随输入长度增加显著且非均匀下降。
ICML 2025 Oral工作再升级！上海AI Lab联合复旦、港中文推出支持更长视频理解的最佳工具VideoRoPE++
上海AI Lab联合复旦、港中文推出支持更长视频理解的工具VideoRoPE++。它确定了将RoPE应用于视频的关键特性，构建评测基准V - RULER，提出外推方案YaRN - V，在多任务中优于先前RoPE变体。
无需训练，即插即用，2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention
高质量视频生成任务中，扩散模型成主流，但DiT模型注意力机制计算量大，成推理瓶颈。现有加速法效果不佳，为此美国东北大学等团队提出DraftAttention，可2倍加速推理且不损画质。
2.4k star 开源项目，Wingman AI + 知识图谱，如何帮你搭建‘私人大脑’？学术/项目必备，让笔记真正活起来！
MindForger是桌面Markdown IDE，可构建私人知识体系。它能本地运行，掌控数据，有思考联想、知识图谱浏览等功能，能解决笔记混乱等痛点，适用于学术、项目管理等场景。
MiniCPM 4.0来了！220倍极速狂飙，端侧模型的比赛，结束了
面壁智能联合清华发布MiniCPM 4.0，极限场景220倍加速。它是首个原生稀疏模型，有三级火箭推理加速体系，性能强，适配全平台，应用广泛，或成端侧AI分水岭。
全球首次实测通过！CMU华人用AI设计的乐高「不翻车」
CMU研究人员提出LegoGPT，它微调Meta的LLaMA模型，结合47000个稳定结构数据集，确保98.8%的乐高设计符合物理定律，可实际搭建。目前，数据集、代码和模型均已开源。
刷屏了！前OpenAI研究员做的Jev，大家为啥抢着用？
TypeSafe AI发布专门处理结构化判断的AI模型Jev，发布后迅速在AI开发者社区刷屏，凭借低延迟、低成本优势，被广泛用于AI Agent任务验收等场景，引发业内关注。