搜索：蚂蚁dInfer框架

「蚂蚁dInfer框架」共找到 1795 篇相关文章

从“云原生”到“智能原生”，AI中间件走到哪一步了？

InfoQ直播栏目邀蚂蚁集团专家探讨AI中间件基建，指出其核心价值，如降低开发门槛等。还谈及云原生到智能原生的转变、记忆服务定位、自研必要性等，分析未来挑战与方向，10月上海QCon大会将聚焦相关话题。

文章围绕将 AI 注入 Java 应用程序展开，以宇宙飞船租赁应用的聊天机器人为例，介绍如何用 LangChain4j 和 Quarkus 等 Java 框架与大语言模型（LLM）交互，还提及流式响应、结构化输出等功能及相关概念。

文章围绕阿里巴巴 R2C Agent 的 AI 编程实践展开。指出当前 AI 辅助开发存在与生产链路结合难、协作碎片化等问题，介绍了 R2C Agent 如何驱动研发链路，阐述其框架、实施情况及未来提升 AI 渗透率的目标。

中国力学学会旗舰期刊AMS推出“力学前沿”专栏，首期解读“计算力学的智能化之路与未来图景”。文章介绍智能计算力学三大范式、面临挑战，还阐述重塑智能框架前沿方向，指出AI与计算力学融合是系统性重构。

传统扩散模型做视频生成速度慢、画面不稳定，难用于实时虚拟人场景。阿里Live Avatar框架将算法和系统一起设计，用TPP并行推理策略和RSFM机制等，5张H800 GPU能实现20 FPS高保真实时虚拟人生成。

上个月底智谱开源 GLM-4.5 及轻量版，成绩亮眼引热议。现其技术报告发布，详述预训练到后训练细节，还介绍了开源 RL 框架 slime，展示模型架构、训练阶段等，评估了在多任务上的表现。

InfoQ《极客有约》X AICon 直播栏目邀华为云郑岩、蚂蚁集团杨浩、明略科技吴昊宇，探讨大模型驱动业务提效。分享场景探索、技术落地经验，如选模型考量因素、AI Agent 创新等，还提及 MCP 应用与未来展望。

香港中文大学MMLab和vivo AI Lab团队提出自我进化框架UI - Genie，构建奖励模型UI - Genie - RM解决轨迹验证难题，通过数据生成和模型迭代闭环实现智能体与奖励模型双向增强，在多基准测试中表现出色，打破人工标注瓶颈。

InfoQ对话小米小爱同学端侧AI负责人杨永杰，了解其团队在资源受限的端侧设备实现大模型高性能推理的策略。目前端侧大模型商业化落地慢，团队提前布局，自研框架，实现超180 tokens/s推理速度，还分享未来突破方向。

本文通过在WebX老项目实践，验证Cursor用AI大模型能高效生成符合老旧项目规范的代码框架，显著提升开发效率与体验。还介绍其页面区域、AI聊天区功能，通过实战演示展示提效过程，最后提及可与MCP结合及OpenAI开源模型部署方案。