「FP4 MoE」共找到 1629 篇相关文章
Attention Sink产生的起点？清华&美团首次揭秘MoE LLM中的超级专家机制
清华和美团研究聚焦MoE LLM，首次发现超级专家子集。通过多模型实证分析，揭示其分布规律、重要性及对注意力机制的影响，开发识别工具，为模型压缩提供新方向。
谷歌IMO金牌模型可以用了！推理性能秒了o3、Grok 4
谷歌拿下IMO金牌的模型Gemini 2.5 Deep Think已在Gemini App推出，速度更快、实用性更强。该模型仅对Ultra订阅用户开放，月费约1803元。其推理性能超o3、Grok 4，有迭代开发等优势。
破解MoE模型“规模越大，效率越低”困境！中科院自动化所提出新框架
大模型参数量飙升却陷入‘规模越大，效率越低’困境，中科院自动化所研究团队提出统一框架，直击MoE底层运作模式，让专家‘组队学习’，实现参数量、负载方差降低，达成三重优化。
马斯克痛失xAI大将！Grok 4缔造者突然离职，长文曝最燃创业内幕
xAI联创Igor Babuschkin官宣离职创业，他回顾在xAI两年，团队120天打造超算Colossus，训出Grok 4。他将创办风险投资公司，马斯克致谢，其离职让xAI未来发布少关键一员。
170次搜索+50次反思：用GLM-4.7盘点2025 Agent行业趋势，结果太震撼！
作者给智谱新开源的GLM - 4.7布置调研2025年Agent赛道企业的任务，结果令人震撼。该模型进化显著，能整理详细企业信息，还能生成高审美PPT。国内有不少特色AI落地企业。
百度GenFlow 4.0发布，Office三件套全包了，还能养「牛马虾」
4月27日，百度文库与网盘联合发布GenFlow 4.0，全面升级Office Agent，支持在百度网盘多端部署OpenClaw。还推出「牛马虾」体系，适用于团队协作和企业场景。后续还将发布视频剪辑Agent能力和团队版「Agent协作军团」。
这个新生图模型有点夯：4K直出的，国产的，开源的！
商汤新开源的生图模型SenseNova U1.5-Lite-Preview亮点十足，它是国产、4K直出、轻量且可指哪儿改哪儿的原生统一多模态模型。能应对复杂创作和编辑任务，技术源于NEO-Unify架构，评测成绩佳，不过还是早期预览版。
巅峰对决：最强模型GPT-5.3-Codex与Claude Opus 4.6同时发布
OpenAI和Anthropic同时发布旗舰级模型GPT - 5.3 - Codex与Claude Opus 4.6。前者有网络攻防与自主代码修复能力，被评定为网络安全高风险；后者用自适应思考与上下文压缩处理长程任务，在多领域表现出色，但二者也都存在安全风险。
Claude Opus 4.6推出极速模式：速度提升2.5倍，价格狂飙6倍
Anthropic官方宣布Claude Opus 4.6极速模式上线，速度比标准版快2.5倍，已向Claude Code和API用户开放。它非新模型，是重配置，价格更高，官方有优惠，还介绍使用方法、场景及限制。
一周休4天！老黄、盖茨站台，网友炸锅：是AI福利，还是裁员信号？
Fortune报道引发网友对3 - 4天工作制热议。Zoom CEO袁征、黄仁勋、比尔·盖茨等大佬认为AI或带来此转变，袁征觉得AI会自动化低价值工作，也有人认为是裁员信号。黄仁勋称未来更忙，且有岗位消失也有新机会。