「大规模专家并行」共找到 904 篇相关文章
大语言模型的解耦：人工智能基础设施的下一轮进化
人工智能模型发展快，但基础设施滞后，传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异，指出解耦架构可突破困境，还阐述其经济影响、实施策略、应用案例及未来展望。
AI视频生成走向「演技生成」时代，生数科技Vidu全球发布Vidu Q2
9月25日，生数科技全球上线新一代图生视频大模型Vidu Q2，打破AI生成表情假、动作飘忽等问题，实现从“视频生成”到“演技生成”跨越，有AI演技生动、镜头语言丰富等亮点，已多端上线。
刚刚，Anthropic在质疑声中获130亿美元融资，估值达1830亿
Anthropic完成130亿美元F轮融资，投后估值达1830亿美元。此轮融资由Iconiq等领投，多方参与。自推Claude后其估值飙升，营收增长快。不过该公司也面临收集数据、用量限制等争议，却未影响投资者信心。
KDD 2025 Best Paper Runner-Up | EI-BERT：超紧凑语言模型压缩框架
香港城市大学王茂林等提出 EI - BERT 框架，解决移动设备部署 NLU 模型难题。通过硬令牌剪枝、交叉蒸馏、模块化量化，实现 99.5% 压缩率。在多任务中表现出色，已在支付宝大规模应用。
3000万融资，20%付费转化，语音输入工具Wispr Flow如何精准找到PMF？
语音输入工具Wispr Flow获3000万美元融资，近20%用户付费。此前它经历转型，砍掉无消费级市场的硬件产品、大规模裁员，聚焦用户需求找到PMF。创始人复盘转型历程，分享四点关键心得。
AI 产品定价指南
本文编译对按量计费平台初创公司 CEO Scott Woody 的访谈，探讨 AI 改变软件定价逻辑、不同类型 AI 公司应对之法，还补充定价专家 Madhavan Ramanujam 关于 AI 产品定价四象限观点。
阿里AI 重磅第4发：电影级MOE 视频模型Wan2.2正式开源！
阿里通义团队开源电影级视频生成模型Wan2.2，将光影、色彩、镜头语言装进模型，支持60多参数自由组合。它是业界首个用MoE架构的视频生成模型，推理省计算资源，性能超主流模型，获国外网友盛赞。
优化搜索系统：平衡速度、相关性和可伸缩性
这篇文章基于作者在 2024 年旧金山 QCon 大会演讲，探讨搜索系统优化。以优步外卖为例，分析其在数据索引、检索和排名方面挑战，介绍优化技术及对用户体验和系统性能影响，还提及架构、分片技术等内容。
本周推荐的5个超级6的Github开源项目！
文章推荐5个Github开源项目。有基于Firefox内核的浏览器Zen Browser；跨平台划词翻译工具Pot；异步终端文件管理器yazi；局域网文件传输工具Snapdrop；网页管理服务器文件工具FileBrowser Quantum，各有亮点。
他用AI 复活了中风的祖父，现在拿下红杉1600万美元，让所有人都能「数字永生」
Delphi获红杉1600万美元A轮融资，帮2000多位专家等创建「数字心智」。其核心是捕捉思维方式，创始人受祖父回忆录启发开启创业。它应用场景广，能创收，还具身份验证等特点。