「稀疏专家机制」共找到 1403 篇相关文章
开源AI引爆热潮！GOSIM AI Paris 2025首日直击：80+位技术大咖聊模型、拼算力、秀落地
5月6日，GOSIM AI Paris 2025大会在法国巴黎启幕，80余位技术专家与学者参会。GOSIM联合创始人认为开源AI已追上闭源，AGI或由多模型组成网络。大会设四大分论坛解析开源AI，还有特色单元，明日将迎PyTorch Day。
AI记忆革命爆发！Clawdbot如何像大脑般记住一切
2026年初开源个人AI助手Clawdbot引爆社区。它可本地运行、集成聊天平台、自主处理任务，有长时记忆和任务执行能力。AI研究工程师Manthan Gupta复盘其记忆机制原理，涉及上下文、记忆存储、搜索等内容。
GraphRAG圈新秀：文档级RAKG
随着大模型能力增强，知识图谱成研究热点。传统KGC有实体消歧难、模式僵化等痛点。文章提出RAKG框架，将RAG评估机制引入知识图谱构建，实现文档级自动化构建与评估，多指标表现优异。
VLM剪枝新SOTA：无需重训练，注意力去偏置超越6大主流方案
常用的attention机制存在位置偏置和padding异常，影响剪枝效果。上海大学曾丹团队提出无需重新训练的attention去偏方法，在多模型、剪枝策略及基准上验证有效，为多模态模型部署提供新思路。
Meta&UIUC大发现：无需标注，Agent复杂的工具使用和搜索能力，是可以“无中生有”的
Meta和UIUC研究发现，无需标注，Agent复杂工具使用和搜索能力可“无中生有”。论文Dr. Zero让大模型自我博弈成搜索专家，用HRPO提效，设计难度导向奖励，实验表现佳，但也存在局限。
10级漏洞刚补完，React又炸了！现代Web“默认底座”因一行代码缺失引发全球地震，开发者经历最黑暗一周
12月12日，React官方确认RSC里有两处新漏洞。此前React2Shell漏洞危害大，超两百万台服务器有风险，开发者服务器被入侵挖矿。该漏洞因核心通信机制缺一行校验代码，Vercel等平台受波及。
150+项目定点！这家国产MLCC，正被车企“疯抢”
近日，微容科技首席技术专家谭斌在论坛分享演讲。该司主营MLCC，虽入行晚但有后发优势。汽车电子化使MLCC需求增，其对MLCC要求严苛，微容多方面突破技术，已合作定点项目150+。
原来Scaling Law还能被优化？Meta这招省token又提效
2017年《Attention Is All You Need》提出的Transformer是主流语言模型基础范式。Meta新论文提出旋转不变型三线性注意力机制，证明其表现能改变Scaling Law系数，还证实2 - simplicial Transformer在有限token预算下更优。
突破一亿Token极限：EverMind提出MSA架构，实现大模型高效端到端长时记忆
机器之心发布文章介绍，大模型长期记忆能力受限于上下文长度。《MSA: Memory Sparse Attention for Efficient End-to-End Memory Model Scaling to 100M Tokens》提出MSA架构，突破扩展性、精度和效率的不可能三角，实现100M长度的大模型长时记忆框架。
10B超越Gemini-2.5-Pro！阶跃星辰端侧多模态天花板开源
阶跃星辰多模态智能团队开源STEP3-VL-10B多模态模型，仅100亿参数却性能惊人。它采用了独特的架构、训练策略与推理机制，在多任务上表现出色，为小模型发展提供新思路。