「图层拆分」共找到 684 篇相关文章
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
开源白嫖！微软这个开源 Agent,让 AI 帮你点按钮、填表格、跑多步流程（还可跨设备）
微软开源智能自动化框架 UFO，主线是 UFO³（Galaxy 多设备编排）+ UFO²（Windows 桌面 AgentOS）。能将多步任务拆分执行，解决跨应用、多步骤甚至跨设备任务难题，有多种功能亮点。
“豆包手机”在二手市场价格都翻倍了……
搭载豆包手机助手技术预览版的工程样机nubia M153刚发售就火了，首批3万台备货被抢空，二手市场还溢价转卖。虽官方称功能不完善，但实测体验丰富。豆包手机助手功能多样，还回应了隐私等争议。
Agent规模化落地前夜，AI Infra的难题全都暴露了
随着AI Agent大规模落地，中国云服务市场结构转变，AI基础设施角色改变。InfoQ联合腾讯云发起「InfraTalk」直播，探讨AI Infra能力框架等。还解析其核心能力、难题、价值闭环标准及未来竞争焦点。
KAG-Thinker：「结构化」思考新范式，支持逻辑严谨的大模型复杂推理
近日，蚂蚁集团知识引擎团队协同高校发布 KAG-Thinker 模型，是 KAG 框架重要迭代。它聚焦复杂推理，建立结构化思考范式，实验显示其性能在多数据集上有提升，还在医疗问答验证了专业领域有效性。
从文本到3D动画：AnimaX重新定义3D动作合成方式
北航与清华推出3D动画框架AnimaX，结合视频扩散模型运动先验与骨骼动画可控性，让任意骨架3D角色自然动起来。其核心方法灵活控制动作，虽有局限，但为3D动画创作打开新局面。
从 “可用” 迈向 “好用”：详解火山引擎智能视频云的三层架构升级｜甲子光年
2025年AI关键在多媒体领域，智能多媒体落地有变革也面临挑战。火山引擎提出智能视频云三层架构升级，即基建、平台、应用层升级，助企业实现低成本、高效率规模化应用，多行业已基于此打造能力。
Muon作者仅用一篇博客，就被OpenAI看中了
Keller Jordan 2024 年 12 月 8 日发布博客提出用于神经网络隐藏层的优化器 Muon，能提升训练速度。他未发论文，称只信速通。其案例显示 OpenAI 重能力。博客对前沿指标描述或过时，Muon 有诸多实证成果。
AI Pin 们折戟后，第二代 AI 硬件闷声发了大财
过去两年，第一代AI硬件喊出‘杀死智能手机’口号，赚足目光。当下，创业者不再将取代手机作为目标。第二批AI硬件‘边界感’强，专注细分场景，同时，科技巨头正布局全新AI层，‘隐形OS’雏形已现。
终于用上啦，3.9 万 Star archify，程序员福音！！！！
架构图常与代码脱节，约3.9万Star的archify让Agent先把代码库或系统描述写成带类型的JSON，经布局、检查后交付可交互系统地图，它先结构化、验证再交付，适用于特定场景。