并行化编排」共找到 1091 篇相关文章

推荐文章8

大模型推理加速全链路:内存管理、编译优、量并行策略

本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战,如规模增大、架构复杂。阐述算子优、内存管理、量、异构调度和并行方法,还介绍开源推理引擎赤兔在国产芯片的实践成果。

InfoQ
产品应用7

Claude Code也要龙虾!凌晨床上发条消息,Mac Mini瞬间亮屏狂敲代码

Claude Code团队宣布新增Channels功能,可通过MCP控制会话,首批支持Telegram和Discord。用户能手机远程控制AI写代码,目前已灰度测试。不过其功能依赖会话存活,后续或接入更多平台。

新智元
产品应用8

AI 推理精细流量治理实战:RocketMQ LiteTopic 的“千人千面”流控方案

随着大模型推理服务成主流,传统消息队列限流机制在AI推理场景面临挑战。Apache RocketMQ 5.x推出LiteTopic,其精细流量治理方案能实现‘千人千面’,解决队列头部阻塞和并发效率受损问题,还与阿里云百炼网关合作。

阿里云开发者
开源动态8

多模态开发革命!Gabber开源:图形构建实时AI应用,效率提升10倍!

AI应用迈向多模态交互,传统开发方式周期长。开源项目Gabber是实时AI应用引擎,通过模块与图形开发,有诸多特性,还给出安装指南,适用于多种场景。

开源星探
算法论文8

GPU 开始伸手进算法了:摩尔线程要加速 3D 高斯训练 | ECCV 2026

摩尔线程团队论文LiteGS被ECCV 2026接收,旨在加速3DGS训练。它从GPU底层光栅、数据排列及致密判断三层改进,进行系统与算法协同设计,开源后成果显著。

AI科技评论
开源动态8

字节开源多模态复杂文档解析模型!Dolphin:页面与元素并行解析,精准解析复杂文档!

多模态AI与文档解析兴起,传统OCR解析复杂文档常出错。字节跳动开源多模态模型Dolphin,通过两阶段机制精准解析,有多种功能,安装使用友好,适用于多场景,降低了复杂文档解析门槛。

开源星探
新闻资讯8

谷歌Pixel发布汇总:硬件与软件全面AI,那谁你就学叭

谷歌2025年硬件发布会展示众多AI能力,如Gemini驱动的健康教练、拍摄指导、智能大屏设备等。Pixel 10手机搭载芯片可本地运行模型,还有多项实用AI功能,凸显硬件与软件全面AI趋势。

歸藏的AI工具箱
推荐文章8

配置驱动的动态Agent架构网络:实现高效编排、动态更新与智能治理

本文提出配置驱动的独立运行时 Agent 架构,解决低代码/平台 Agent 方案企业级落地难题。介绍其核心架构、注册中心、配置定义等,还提及 Agent Studio、执行引擎等,阐述运行部署、协作、治理,提供通用可落地范式。

阿里云开发者
算法论文8

大模型训练的不稳定性有望彻底解决,MIT新研究用谱正则替代层归一

MIT团队创造Lipschitz Transformer,用谱正则替代层归一,认为或解决训练不稳定根本原因。他们对比多种方法权衡,发现Muon + 奇异值裁剪推动权衡边界,且工作完全开源。

AGI Hunt
新闻资讯7

卷赢OpenAI也没用!Salesforce用100万次对话揭秘:AI Agent最大的坑,根本不是技术!

Salesforce处理超100万次AI Agent与客户对话后复盘,指出行业追求“全自动”是陷阱。AI Agent不仅要融合非结构和结构数据,还需提升人工介入率,遵循“同理心优先”原则。

探索AGI