「流处理架构」共找到 2806 篇相关文章
图解Vllm V1系列7：使用AsyncLLM做异步推理
文章因异步RL讨论热，探讨用vllm做最小程度异步二次开发。介绍如何用AsyncLLM做异步推理，分析单条请求处理流程及阶段，说明并发提升效率的方法，还提及多请求并发及构建异步推理引擎思路。
长文本推理 5 倍提速！面壁MiniCPM4 端侧模型发布，0.5B模型效果秒杀同级
近日，面壁发布 MiniCPM4.0 端侧模型，有 8B、0.5B 两种规模。其在基准测试表现出色，长文本推理提速，缓存锐减，还做了架构创新。此外，面壁有自研推理框架，科学化建模产线，6 月 27 - 28 日 AICon 北京站将探讨 AI 趋势。
最高吸金30亿元！2026年半导体融资热点将涌向何方？
2026年1月国内半导体投融资活跃，共13起重点融资事件。资本不再仅投向成熟产品国产化，而是押注能定义未来架构的RISC - V、Chiplet等，还关注芯片设计上游环节。文中介绍了润芯微等多家企业的融资情况。
168小时AI狂写300万行代码造出浏览器！Cursor公开数百个智能体自主协作方案
Cursor创始人公布实验结果，让数百个AI智能体跑一周，从零造出可用Web浏览器，产出超300万行代码，项目源码已公开。此次实验靠GPT - 5.2 - Codex，还设计了智能体协作架构，引发业界讨论。
从检测到通用感知：构建空间智能的基础
本文整理自张磊在AICon 2025北京的分享，分析语言与视觉原生模型架构区别，介绍基于Transformer的物体检测算法及开集检测技术进展，如Grounding DINO和DINO - X，还探讨其在多领域的应用和潜力。
RLinf上新πRL：在线强化学习微调π0和π0.5
近年来，基于流匹配的VLA模型成机器人领域前沿技术，但训练依赖大量人类演示数据。清华等机构联合推出在线强化学习微调框架πRL，提出两种微调方案，在测试平台验证了有效性，目前代码等已开源。
深度讨论 Online Learning ：99 条思考读懂 LLM 下一个核心范式｜Best Ideas
文章围绕Online Learning展开深度讨论，指出其或为LLM下一个核心范式。探讨了它是通往更高层次智能的关键路径，分析概念定义、非共识，还阐述做好它的方法，以及架构、算力和评估范式等问题。
「AI大模型时代的CIO」云栖专场： AI实战者与落地破局者的坦白局
云栖大会「AI大模型时代的CIO」专场，探讨企业AI落地难题。虽搭上AI电梯是趋势，但企业落地有不确定性，如组织架构不匹配等。多位实战者分享经验，给出RIDE等解法，助企业破局。
小扎把马斯克机器人一号位挖走了
马斯克忙着裁人，小扎忙着挖人。Optimus AI团队负责人Ashish Kumar离开特斯拉，加入Meta。此前Optimus项目负责人Milan Kovac也已离职。此外，xAI部分高管因与顾问冲突而离职，马斯克AI之路或需调整架构。
HF日趋榜一！真端到端模型AutoDeco终结手动调参解码
大语言模型手动调参解码繁琐，腾讯AI Lab王琰团队联合港中大（深圳）唐晓莹教授团队推出AutoDeco架构，通过创新训练策略让模型动态预测解码参数，在多模型实验中表现出色且已开源。