「大规模训练」共找到 2311 篇相关文章
大语言模型的解耦:人工智能基础设施的下一轮进化
人工智能模型发展快,但基础设施滞后,传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异,指出解耦架构可突破困境,还阐述其经济影响、实施策略、应用案例及未来展望。
更大,还能更快,更准!蚂蚁开源万亿参数语言模型Ling-1T,刷新多项SOTA
10月9日,蚂蚁开源万亿参数语言模型Ling-1T。它延续自研高效MoE架构,在编程、数学推理等多维度测试表现亮眼,还能兼顾精确与效率。此外,它在多场景实用性强,其创新设计提升了能效比与性能。
3年手搓ChatGPT!剑桥天才少年在Minecraft游戏中爆火回归
MC大神sammyuri时隔3年发布新作,在MC中复刻ChatGPT,名为CraftGPT。虽参数量小,但用Transformer架构,能和用户交互。模型训练用Python和小数据集,视频存档公布助理解原理。
英伟达一口气开源多项机器人技术,与迪士尼合作研发物理引擎也开源了
英伟达在机器人学习大会上发布多项开源技术,有Newton物理引擎、Isaac GR00T N1.6基础模型等,还在硬件层面下功夫。顶尖公司、高校已用其技术,全栈式布局或重定义机器人研发规则。
AI视频生成走向「演技生成」时代,生数科技Vidu全球发布Vidu Q2
9月25日,生数科技全球上线新一代图生视频大模型Vidu Q2,打破AI生成表情假、动作飘忽等问题,实现从“视频生成”到“演技生成”跨越,有AI演技生动、镜头语言丰富等亮点,已多端上线。
AI 本地跑?Google 新开源模型上线,本地量化后占用不到 200MB 内存,支持百余语言
Google DeepMind推出开源嵌入模型EmbeddingGemma,专为本地设备高效运行设计。它用Matryoshka方法和量化感知训练,提升效率。在MTEB测试中成绩佳,支持百余种语言,内存占用少,已集成多种工具。
培养好品味
如今AI时代,软件竞争不再只看能否正常工作,产品品味成关键。文章指出品味是经长期训练的直觉,还给出培养方法,如接触优秀作品、思考喜好原因、大量练习并寻求反馈。
刚刚,Anthropic在质疑声中获130亿美元融资,估值达1830亿
Anthropic完成130亿美元F轮融资,投后估值达1830亿美元。此轮融资由Iconiq等领投,多方参与。自推Claude后其估值飙升,营收增长快。不过该公司也面临收集数据、用量限制等争议,却未影响投资者信心。
KDD 2025 Best Paper Runner-Up | EI-BERT:超紧凑语言模型压缩框架
香港城市大学王茂林等提出 EI - BERT 框架,解决移动设备部署 NLU 模型难题。通过硬令牌剪枝、交叉蒸馏、模块化量化,实现 99.5% 压缩率。在多任务中表现出色,已在支付宝大规模应用。
3000万融资,20%付费转化,语音输入工具Wispr Flow如何精准找到PMF?
语音输入工具Wispr Flow获3000万美元融资,近20%用户付费。此前它经历转型,砍掉无消费级市场的硬件产品、大规模裁员,聚焦用户需求找到PMF。创始人复盘转型历程,分享四点关键心得。