「并行化编排」共找到 1091 篇相关文章
SGLang × RoleBasedGroup（RBG）：打通大模型推理PD分离架构规模化落地的“最后一公里”
PD分离架构对大模型推理部署意义重大，SGLang支持该架构且性能佳。但从测试到生产落地难，存在部署、资源、可靠性等问题。SGLang开源RBG项目，结合二者为PD分离架构生产化落地提供方案。
破局大模型推理困局！华为张君详解昇腾“融合算力”的优化秘籍
华为高级开发工程师张君在AICon大会演讲，围绕大模型推理优化，从模型、框架、算子层展开，结合案例阐述技术方案。分析大模型推理现状挑战，介绍加速技术，分享昇腾硬件算子优化实践及通算融合算子优化方法。
在AI工具间来回切换了1年后，可灵用一张画布终结了它。
作者参加WAIC印象最深的是可灵更新，其首发灵动画布并升级多图参考功能。灵动画布可一站式完成图文视频创作，多图参考精准度提升，解决了AI工具孤岛化问题，让创作更自由。
OpenAI 的“编程”新范式？其实是瀑布模型的回魂：“听 PM 的话、写需求文档”
在今年AI工程师大会上，OpenAI研究员Sean Grove提出在AI驱动时代，清晰规范将取代传统代码成软件开发核心产物。他认为编程核心是结构化沟通，该转变是工程实践未来方向，但引发诸多讨论。
4人团队，连做两款AI教育爆款，AI时代小团队创业取胜指南
Oleve是仅4人AI创业公司，年化收入达600万美元。旗下Quizard和Unstuck AI成爆款。其成功在于技术敏锐，用OpenAI Codex起步；有“精益增长”策略；且实现流程全面自动化，为小团队创业提供样本。
奶牛版 Oura 估值 10 亿美金，AI+PDF 让它拿了 1700 万美金融资
市场上多数AI PDF产品是ChatPDF模式，用于C端。企业关键非结构化数据多在PDF等传统载体中，难以获取。硅谷工程师做的Extend AI产品，获1700万美金融资，解决传统文档处理难题，打造平台。
AI4Science 图谱，如何颠覆10年 x 20亿美金成本的药物研发模式
文章指出AI for Science让生命科学与数字互联网融合，加速科学发现。以四象限为框架，梳理了Biology Foundation Model、AI Scientist等玩家，介绍相关模型和公司，展示其对药物研发流程的重塑。
西湖 & 浙大 | PiFlow：让AI拥有“科学直觉”，Agent用于科学发现的新范式！
西湖大学团队提出PiFlow，一个基于信息论的自动化科学发现框架。它将科学发现视为结构化的不确定性降低过程，由科学原理指导，通过Min - Max优化机制平衡探索与利用，在多领域实验中效果显著，应用前景广。
Transformer | 一文带你了解Embedding（从传统嵌入方法到大模型Embedding）
文章介绍Embedding基础知识，从传统统计方法到如今大模型用例演变过程。涵盖传统、静态、上下文及大模型Embedding技术，如TF - IDF、word2vec、BERT等，还剖析DS - Qwen1.5B的Embedding并以图展示。
DeepSeek、智谱被曝造芯，国产大模型绕开英伟达！
据路透社等爆料，DeepSeek与智谱AI正秘密自研定制化AI芯片，目标是摆脱对英伟达等的硬件依赖，构建自身算力生态。因算力账本和外部环境压力，两家公司选择研发面向推理场景的芯片。