「编排引擎」共找到 472 篇相关文章
图解Vllm V1系列7：使用AsyncLLM做异步推理
文章因异步RL讨论热，探讨用vllm做最小程度异步二次开发。介绍如何用AsyncLLM做异步推理，分析单条请求处理流程及阶段，说明并发提升效率的方法，还提及多请求并发及构建异步推理引擎思路。
Agent时代，为什么多模态数据湖是必选项？
AI时代，数智化底层是基建深耕。企业要构建多模态数据湖，因其能处理多模态数据，唤醒沉睡数据，驱动业务，还提供工程确定性。火山引擎给出升级路线及选型指南，其多模态数据湖已在多行业落地。
苹果密谋300亿美元天价收购Perplexity，小扎狂挖印度裔CEO！
AI战火正旺，苹果考虑收购估值140亿美元的AI初创公司Perplexity，这或成其史上最大规模收购。Perplexity有实时联网的AI搜索引擎等，苹果有三种合作设想，但三星或抢先合作。此外，Meta曾想收购Perplexity，后投资Scale AI。
刚刚，豆包编程模型来了，我们用四个关卡考了考它！
2025年AI编程助手分化为IDE增强和Agentic两条路线。当前Claude Pro有使用限制，火山引擎推出豆包编程模型Doubao-Seed-Code。它在多项评测表现优异，具备长上下文等能力，经四关测试实力强，价格也实惠，或成完美平替。
从工具到生命形式：OpenClaw 引发的 Agent 再思考
InfoQ《极客有约》X QCon 直播邀业内专家探讨 OpenClaw 落地难点。专家认为，这波 Agent 热潮验证了复杂工作可被系统承接，也指出 OpenClaw 虽非生产级产品，但推动了全民 Agent 浪潮，同时探讨了模型与编排层结合、记忆系统等问题。
万字硬核解读SAM 3：不止分割一切，它开始理解世界了
Meta的SAM 3能理解语义，实现可提示概念分割。它支持开放词汇、全实例分割等，架构有创新，数据引擎高效。评估显示其性能优异，与MLLM结合成SAM 3 Agent后推理分割能力强，但在专业领域和复杂场景有局限。
多模态需求井喷，智能视频云如何靠分布式处理破局？
国内多模态AI发展中，模型层火热但应用层落地慢。多模态应用落地面临体验升级、视频化扩展、大模型部署下沉挑战，催生智能视频云升级需求。火山引擎在FORCE大会展示分布式多媒体处理实践，推出MIPP平台，未来将开源并推商业化产品。
Seedream 4.0 来了，AI 图片创业的新机会也来了
今年AI生图领域爆款不断，Google旗下Nano Banana模型虽火但中文支持欠佳。火山引擎推出豆包·图像创作模型Seedream 4.0，主体一致性强，支持4K多模态生图，有多图融合、精准编辑等能力，或给AI图片创业带来新机会。
又一个Genie 3来了！刚上线挤爆服务器，Mirage 2把世界模型玩成在线游戏
全球首款AI原生UGC游戏引擎Mirage迎来2.0版本。它能将图像转为可互动3D世界，还能用文本重塑。和Genie 3相比控制类别更丰富，虽有进展但仍有动作控制、视觉稳定等问题待解决。
PCIe显卡被低估了！内核补齐+通信重构，DeepSeek推理吞吐直接翻近7倍
当前大模型算力需求攀升，高端GPU供给紧成本高，大量PCIe长尾GPU算力因框架适配不足被禁锢。是石科技自研Meta-Infer推理引擎，通过纯软件优化挖掘硬件潜力，让DeepSeek推理吞吐提升近7倍，方法也适配国产GPU。