「专家团模式」共找到 1446 篇相关文章
腾讯混元A13B用130亿参数达到千亿级效果,Flash Attention作者点赞
腾讯混元A13B模型仅130亿激活参数,却能和千亿级大模型竞争,获Flash Attention作者赞叹。它精准卡位性能与效率‘甜蜜点’,依托高质量预训练和结构化后训练,多方面表现突出且已全面开源。
大概念模型:AI 推理的新范式
大概念模型(LCM)是自然语言处理新范式,侧重结构化推理和理解,与 LLM 不同。它依赖结构化知识,可模拟专家思维,解决当前 AI 缺陷,文章还介绍其架构、应用、局限,探讨与 LLM 结合的未来发展。
华为盘古首次露出,昇腾原生72B MoE架构,SuperCLUE千亿内模型并列国内第一
当前传统 MoE 有专家激活不均衡问题,华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练,推理性能强,在 SuperCLUE 榜单千亿内模型并列国内第一,赋能业务落地。
ICML 2025 | 注意力机制中的极大值:破解大语言模型上下文理解的关键
ICML 2025新研究揭示,在使用RoPE的现代Transformer模型里,注意力机制Q和K表示有集中极大值,V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系,对模型设计、优化和量化有重要启示。
Duolingo 和 Shopify 纷纷宣布 AI 优先,围绕 AI 工作的时代已来
Duolingo和Shopify宣布AI优先政策,将用AI取代部分人类工作。Duolingo推出AI创建的新语言课程,转型为“AI优先”模式;Shopify要求全员高效用AI。此外,Genspark Super Agent ARR增速快,未来或属“小团队+AI”时代。
ICML 2025 | 注意力机制中的极大值:破解大语言模型上下文理解的关键
ICML 2025新研究揭示,在使用旋转位置编码 (RoPE) 的现代Transformer模型中,注意力机制的查询 (Q) 和键 (K) 表示存在集中极大值,而值 (V) 表示无此模式。研究通过实验揭示其与上下文知识理解的关键联系。
OpenAI 黑科技 Deep Research 诞生记:一个工程师的“不务正业”如何改变 AI 战争格局
OpenAI宣布美国用户可免费使用集成于ChatGPT的AI研究助手Deep Research。OpenAI负责人分享其背后故事,探讨起源、人类专家数据作用等,还提及RFT时机、代理安全性等,并展望其能访问私有数据,适用于具体任务。
AI Coding 的下一步不是写得更快,而是可验收:蚂蚁数科 Harness 工程实践
蚂蚁数字科技资深技术专家魏长征在AICon大会分享AI Coding实践。指出当前产能提升快,但验证能力可能跟不上,容易引发质量风险。介绍了Harness工程思路及在新项目和存量项目中的应用,还提及AI协作的未来挑战。
出海企业苦等的可信任AI营销产品,飞书深诺做出来了
出海生意进入困难模式,不少企业寄望于AI,但现有AI营销产品难达预期。飞书深诺推出Marvy 2.0,将出海营销全流程装进系统,具备技术优势,有13年业务经验等,还计划推Marvy Lite,助力全球数字营销平权。
无锡梁溪国资领投!长三角商业航天再落关键一子
继4月数亿元Pre - A轮融资后,龙擎空天近日完成近亿元Pre - A+轮融资,由无锡梁溪国资平台领投。两轮融资用途明确,其‘终端 + 芯片’模式有独特优势,还启动‘算力上天’战略,折射商业航天产业变革。