「异构资源调度」共找到 568 篇相关文章
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，探讨大模型端侧部署难题。团队自研推理框架，实现180 tokens/s推理速度，采用共享基座架构支持多业务。未来端侧大模型突破依赖硬件提升与架构演进。
清华给电子显微镜加上Agent，DeepSeek V3全程调度，数天流程缩短至几分钟
清华大学牵头，联合多机构推出电镜领域AI Agent AutoMat，它能把原子级STEM图像转成标准CIF结构并给出关键物性，将人工流程缩短至几分钟。它还构建数据集验证，性能超现有工具，不过也有瓶颈待解决。
Agent从一问一答到自主执行面临哪些挑战？
随着AI发展，Agent正从答疑助手走向自动执行任务的数字人，定时调度是其走向自主运行的关键。开源Agent定时任务存在无高可用、运维成本高、权限管理弱等痛点，阿里云MSE AI任务调度有高可用、统一管理等优势，现免费公测。
一个销售数据分析机器人的诞生：看 Dify 如何在 DMS 助力下实现自动化闭环
Dify是低代码AI应用开发平台，但在企业级落地有代码执行和自动化调度瓶颈。本文介绍用“Dify + DMS Notebook + DMS Airflow”架构，以销售数据分析机器人为例，展示构建可调度、可扩展、可运维Agent系统的方法。
首个Data Agent基准测试来了！2007个测试任务将数据库、PDF、视频、音频异构数据源一网打尽
南洋理工大学、新加坡国立大学与华为开源首个针对数据智能体异构混合数据分析的基准测试FDABench。它有2007个任务，覆盖多领域多数据源，独创协作框架，能测多种工作流模式的数据智能体。
推理成本太高、算力不够用？单纯堆卡没用，得靠极致的“压缩”与“调度” | AICon
大模型落地面临推理成本高、算力需求大的问题。AICon大会上，阿里云刘峥、ModelTC龚睿昊、阿里巴巴马腾、OPPO宋晓辉、清程极智汤雄超等专家将分享从压缩到调度的推理优化方案，覆盖云到边缘、多算力平台。
每个人的AI科学助手！全球首个通用科学智能体来了，全网资源+1.7亿学术文献让科研效率狂飙
全球首个通用科研智能体SciMaster在WAIC亮相，由上海交大与深势科技共同发布。它能结合全网资源和1.7亿科学文献，有深度调研等功能，免费且可用于工作生活多方面，还将重塑科研范式。
英伟达放话：小模型才是Agent的未来！
英伟达论文指出，当前用大模型构建AI Agent是资源浪费，提出小模型才是Agentic AI未来，给出三点理由，还提供从大模型迁移到小模型的六步流程，并分析三个开源项目，呼吁行业追求效能。
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
三重激励+全周期扶持，即梦升级这个计划，让AI创作者的成长有迹可循
即梦AI创作者成长计划全面升级，构建覆盖三阶段的扶持体系，提供多维资源。该计划通过三重激励机制助创作者增收，还打造优质社区，持续开放至2025年12月。