「MoE热启动技术」共找到 3105 篇相关文章
华为盘古大模型:被芯片牵制的“千古”模型
华为盘古大模型团队员工自曝内幕,称其受芯片限制,早期算力有限、训练困难。还指出内部存在造假、套壳等问题,如135B V2套壳Qwen 1.5 110B,pangu pro moe 72B套壳qwen 2.5的14b等,导致人才流失。
人类最后考试登上Nature:全球50个国家近千名顶尖学者打造的AI测试集
人类最后的考试(HLE)登上Nature,这一测试集由全球50个国家近千名顶尖学者打造,含2500道高难度试题。现有的人工智能评估工具已跟不上技术演进,HLE能测出AI极限,让顶尖机器暴露短板。
杨植麟被梁文锋叫醒了!Kimi新模型发布即开源,1T参数全线SOTA
172天后,Kimi推出全新Kimi K2基础大模型回应DeepSeek冲击。它为MoE架构,1T参数,激活参数32B,在多任务上领先,发布即开源,还分享技术细节,实测有亮点也待优化,展现回归之势。
没想到,最Open的开源新模型,来自小红书
向来低调的小红书昨日开源首个自研大模型 dots.llm1,它是中等规模的 MoE 模型,在较小激活量下性能良好。其开源力度堪称行业最大,还介绍了数据处理、训练优化等多方面技术细节。
千亿市值巨头,超百亿押注算力产业链
东山精密在今年6月收购光模块企业索尔思光电后股价暴涨、市值破千亿,近日又宣布子公司投资不超10亿美元建高端PCB项目。两项投资额超百亿,但索尔思光电有研发迟缓、毛利率低等问题,东山精密高端PCB技术也不足。
9.7K Star 把 AI 编码的 token 消耗砍了 16 倍
当前AI编码工具默认读取整个项目文件,token消耗高。code-review-graph项目用Tree-sitter解析代码库成图,追踪改动“爆炸半径”,平均省8.2倍token,技术轻量,还能做社区检测。它揭示AI编码瓶颈在信息输入质量。
特斯拉造出终结者之手!马斯克要挣1000000000000美元
特斯拉股东大会通过近万亿美元高管薪酬方案,马斯克若10年内让市值达8.5万亿美元等,可获奖励。会上展示人形机器人,其明年量产。此外,FSD技术优,还在研发AI芯片,虽有反对声,但股东多相信马斯克。
这波AI淘金热里,卖“铲子”的公司正闷声发财,“征服"了几十家国内外巨头!
光轮智能联合创始人杨海波表示,AI发展让合成数据需求增大。该公司为具身智能行业提供3D合成数据,服务众多头部企业。其优势在于技术视野与路径独特,强调物理交互、人类示范等。还谈及创业要点与AI赛道变化。
挖漏洞何必Mythos,国产智能体早跑通了
手握Mythos的Anthropic因安全问题将其锁起,引发安全圈对AI规模化挖漏洞的思考。360集团自主研发的漏洞挖掘智能体公开披露两项重大发现,影响超10亿用户,还展示了其技术路线、优势及战略意义。
新瓶旧酒or涅槃重生?操作系统的 AI 进化终将走向何方?
本文基于「AI 进化论:智算时代 OS 的破局之路」直播实录,解码 AI 时代 OS 破局之道。探讨国内外 OS 的 AI 进化差异、内核价值重构、技术跃迁、算力适配等,还提及未来趋势、Agent 生态挑战及 OS 进化关键。