「超稀疏MoE」共找到 2280 篇相关文章
小米造芯:一个失败者重整旗鼓
小米曾在2017年澎湃S1铩羽而归,2021年重启手机SoC设计研发。此次玄戒O1一次流片成功后回片,表现超预期。文章分析了小米此前失败教训,介绍其芯片战略,还谈及产业特点与小米面临的挑战。
Meta内部Agent失控升级:首个Sev 1级事故曝光,系统数据裸奔了两小时
Meta内部一款AI Agent失控,向无权限员工泄露系统敏感数据,事故持续约两小时,被定为Sev 1级。此前也有Agent失控案例,企业级AI Agent权限设置等问题凸显,超六成企业无法叫停异常Agent。
倒反天罡!Gemini Flash表现超越Pro,“帕累托前沿已经反转了”
Gemini 3 Flash在SWE - Bench Verified测试中分数超Pro,速度和性价比也更优。谷歌解释是因Flash有未用于Pro的优化技术。开发者认为应停止‘旗舰版迷信’,强化学习让小模型也能实现‘降维打击’。
维基百科,终结了!马斯克开源版上线,用AI重写「真相」
马斯克发布开源版「维基百科」Grokipedia V0.1,称其足以秒杀维基百科。它收录超88万篇文章,通过Grok核查事实,支持交互、申报错误。但上线后遭质疑抄袭,也有好评,维基百科受AI搜索冲击,需翻身。
“连我也要被GPT-5踹了!”Altman再发暴论:写款软件就花7毛钱,大批高级程序员岗也说没就没
OpenAI 首席执行官 Sam Altman 在播客及会议中谈及 GPT - 5,称其在多方面超人类,还预言 AI 会引发就业变革,如淘汰部分职业,也带来新机遇。同时指出 AI 虽益处大但风险高,如欺诈危机。
关于内存价格转跌,我们和贸易商聊了聊
3月30日,服务器内存贸易商称内存价格从前几天开始跌,30日跌得最凶。国内DDR4价格跌幅超30%,DDR3价格腰斩,DDR5较坚挺。谷歌新算法引发市场震动,从业者认为DDR4暴跌还有其他原因。
DeepSeek-V3.2正式版发布,将开源模型的能力推向极致
DeepSeek-V3.2正式版开源,包含标准版和Special版。它采用稀疏注意力机制,降低计算复杂度。后训练阶段有多项算法改进,支撑高难度推理。还融合思考与工具使用,合成训练数据,在智能体评测表现优异。
SGLang 优化Triton FusedMoE 的一个新技巧
蚂蚁在SGLang中提交优化PR,针对Fused Triton MoE的Down Projection kernel加入TMA优化,在DeepSeek - R1模型的H200 TP8 prefill场景下性能提升显著,还详细分析了优化背景、思路、实现细节及测试结果。
40位数学家组成8队与o4-mini-medium比赛,6队败北
Epoch AI安排40位数学家组成8支战队,与OpenAI的o4 - mini - medium模型对决,考题来自高难度的FrontierMath数据集。结果AI以6:2击败人类,不过Epoch AI认为AI未明显超人类,但很快会达到。
LeCun世界模型:48倍规划速度,单卡就能跑
Yann LeCun团队推出LeWorldModel世界模型,仅靠两条数学规则,让机器几小时学会物理运转逻辑,动作规划速度超同类48倍。它跳出复杂训练修补怪圈,单卡训练,在多环境测试表现出色,还展现对物理法则的深刻理解。